Оценивание параметров нелинейных стохастических динамических систем с дискретным временем тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат физико-математических наук Маляренко, Анна Александровна

• Маляренко, Анна Александровна
• кандидат физико-математических наук
• 2010

Оглавление диссертации кандидат физико-математических наук Маляренко, Анна Александровна

Список обозначений

Введение

Глава 1. Асимптотическое оценивание параметров нелинейных стохастических систем с дискретным временем

1.1 Введение

1.2 Оценивание параметров модели AR/ARCH.

1.2.1 Оценивание авторегрессионных параметров процесса AR(p)/ARCH(p)

1.2.2 Оценивание параметров процесса ARCH(l) в модели AR(1)/ARCH(1)

1.2.3 Равномерная асимптотическая нормальность оценок авторегрессионных параметров процесса AR(p)/ARCH(p)

1.3 Асимптотическое оценивание параметров процесса авторегрессии с дрейфом по наблюдениям с линейными помехами

1.3.1 Корреляционные оценки средних значений дрейфа параметров многомерной авторегрессии при наличии мультипликативных и аддитивных помех в наблюдении

1.3.2 Корреляционные оценки дисперсий аддитивных шумов модели

1.4 Выводы

Глава 2. Последовательное оценивание параметров нелинейных стохастических систем с дискретным временем

2.1 Введение

2.2 Одноэтапное последовательное оценивание параметров нелинейных стохастических систем с дискретным временем

2.2.1 Одноэтапное последовательное оценивание параметров двумерного процесса авторегрессии с дрейфующими параметрами

2.2.2 Одноэтапное последовательное оценивание параметров двумерного процесса типа AR/ARCH

2.2.3 Одноэтапное последовательное оценивание авторегрессионного параметра модели AR(1)/ARCH(l)

2.3 Двухэтапное последовательное оценивание параметров нелинейных стохастических систем с дискретным временем

2.3.1 Двухэтапное последовательное оценивание параметров процесса авторегрессии с дрейфом по наблюдениям с линейными помехами

2.3.2 Двухэтапное последовательное оценивание авторегрессионных параметров модели AR(p)/ARCH(p)

2.4 Выводы

Глава 3. Численное моделирование

3.1 Имитационное моделирование оценок параметров модели AR/ARCH

3.2 Имитационное моделирование оценок авторегрессионного параметра модели авторегрессии с дрейфом по наблюдениям с мультипликативными и аддитивными помехами

3.3 Имитационное моделирование последовательной оценки авторегрессионного параметра модели AR(1)/ARCH(1)

Введение диссертации (часть автореферата) на тему «Оценивание параметров нелинейных стохастических динамических систем с дискретным временем»

Статистические выводы о случайных процессах - активно развивающееся направление исследований в математической статистике. Это вызвано, в частности, недавними приложениями к задачам финансовой математики и анализу рисков, где активно используются нелинейные модели дискретных временных процессов. Такие модели позволяют более адекватно описывать многие явления. Традиционные модели временных рядов, такие как модели авторегрессии (AR) и авторегрессии-скользящего среднего (ARMA), не могут адекватно учесть все характеристики, которыми обладают финансовые временные ряды, и требуют расширения. Одна из характерных черт финансовых рынков - это то, что присущая рынку неопределенность изменяется во времени. Как следствие, наблюдается эффект "кластеризации волатильности". Под этим имеется в виду то, что могут чередоваться периоды, когда финансовый показатель ведет себя непостоянно, и относительно спокойные периоды. Формальной мерой волатильности служат дисперсия или среднеквадратическое отклонение. Эффект кластеризации волатильности отмечен для таких рядов как изменение цен акций, валютных курсов, доходов спекулятивных активов.

Большой интерес представляют модели временных рядов со смешанной структурой, т.е. модели, одновременно обладающие линейной и нелинейной составными частями. Оценка параметров для подобных моделей сопряжена с определенными трудностями. Затруднения различного характера возникают при применении большинства классических методов нахождения оценок, ориентированных на линейные модели. Эти сложности можно обходить, применяя различные техники и алгоритмы.

Остановимся на известных результатах, связанных с проблемой оценивания параметров линейных стохастических динамических систем.

В классе линейных систем большое внимание уделяется статистическому анализу процессов типа авторегрессии, скользящего среднего и смешанным процессам авторегрессии - скользящего среднего.

Например, в работе [71] были предложены оценки неизвестных параметров стационарного процесса авторегрессии и показано, что эта задача может быть решена методами классического регрессионного анализа. Именно, в случае гауссовских шумов были найдены оценки по методу максимального правдоподобия. Также был рассмотрен негауссовский случай - в предположении существования всех моментов шумов доказана состоятельность и асимптотическая нормальность оценок.

Позднее эти результаты были перенесены на модели более общего вида, такие, как процессы авторегрессии - скользящего среднего, которые во многих случаях не менее хорошо описывают поведение изучаемого объекта, чем процесс авторегрессии, но содержат меньшее число неизвестных параметров, и многомерные временные ряды [2], [88], [89] и др. Эта проблема получила дальнейшее развитие в работах [6], [7], [37],

Позже традиционные условия на шумы были ослаблены и для скалярного процесса авторегрессии были получены сильно состоятельные оценки по методу наименьших квадратов (МНК) в случае, когда шумы представляют собой стационарный процесс мартингал-разность.

При решении задач из описанного класса широко используется модель частично наблюдаемых стохастических процессов с дискретным временем

38], [54], [57], [62], [76] и многих др.

71;

1)

Уп — НпХп Т^

2) где и т]п образуют последовательности центрированных случайных величин, хп— ненаблюдаемый линейный процесс и уп- наблюдаемая компонента системы.

В случае, если Ап = А и Нп = Н, задача идентификации модели (1), (2) состоит в оценивании по наблюдениям процесса уп параметров системы - неизвестных элементов матриц А и Я и дисперсий шумов В — И = Ег]пг]'п, а также оценивании состояний объекта хп. Если матрицы Ап являются случайными, то процесс хп называют также билинейным (см., например, [58], [64], [65]), и задача идентификации состоит в оценивании средних значений Ап. При случайных матрицах Нп возможно отсутствие компонент полезного сигнала в измерении.

Оцениванию параметров системы (1), (2) посвящено большое число работ, в том числе по управлению и фильтрации [4], [5], [43], [50], [59], [64], [76] и др.

При этом существуют различные подходы к решению задачи: линейный МНК [3], [4], [44], [55], [61] метод максимального правдоподобия [3], [43], [45], корреляционные методы [3] - [7], [32], [37], [38], [43] и др. Кроме того, для оценивания используются алгоритмы линейной и нелинейной фильтрации [43], [46], [61], а также методы, разработанные для оценивания параметров процессов типа авторегрессии - скользящего среднего [1], [3], поскольку в ряде случаев таковым является процесс уп.

Метод максимального правдоподобия, основанный на точном знании распределений шумов, позволяется получать оптимальные, или близкие к ним, оценки неизвестных параметров [77]. Но, применительно к модели (1), (2) (случай Ап = А, Нп — Н), эти оценки не являются рекуррентными и трудно реализуемы. Кроме того, в реальных системах приходится иметь дело с более низким уровнем априорной информации относительно распределений, которая может ограничиваться, например, знанием о существовании некоторых моментов шумов, либо оценок для них.

В такой ситуации оказываются работоспособными корреляционные методы и методы стохастической аппроксимации, которые позволяют получить сильно состоятельные, асимптотически нормальные и рекуррентные оценки.

В случае полного наблюдения объекта (1) (Нп = I. т]п = 0) эффективные оценки можно получить любым из рассматриваемых методов. Однако в модели (1), (2) МНК приводит уже к смещенным оценкам даже при асимптотических предположениях [4], [5]. В работе [43] при условии существования вторых моментов шумов предложены сильно состоятельные оценки матриц А, В и Б модели (1), (2), полученные с помощью корреляционного метода Юла-Уокера. При дополнительных предположениях относительно шумов, таких, например, как существование их четвертых моментов, более эффективные оценки рассматривались в [83]. В предположении гауссовости шумов £п и г]п в [80] решалась задача оценивания параметров модели (1), (2), рассматривая уп как процесс авторегрессии - скользящего среднего.

Большое внимание уделяется ситуации, когда коэффициенты передачи Нп в модели (1), (2) зависят от времени и являются мультипликативным шумом [32], [49], [50], [65], [76], [77], [78], [79], [91]. К таким системам относятся, например, системы, на выходе которых с некоторой вероятностью может наблюдаться либо сигнал в совокупности с аддитивной помехой, либо только помеха. При этом в качестве Нп можно брать, например, диагональные матрицы с диагональными элементами в виде последовательности независимых бернуллиевских случайных величин с положительными вероятностями успеха, либо марковских цепей с нулевым состоянием. Наличие мультипликативной помехи такого типа можно интерпретировать либо пропусками в наблюдениях уп полезной части сигнала хп, либо как свидетельство того, что в случайные моменты времени мощность помехи во много раз превосходит мощность сигнала. Проблемы фильтрации, управления, сглаживания и предсказания в таких системах обсуждались в работах [53], [73], [85], [86].

Задача оценивания параметров системы (1), (2) с мультипликативным и аддитивным шумом в наблюдениях существенно усложняется. Простое игнорирование наличия мультипликативной помехи может приводить к несостоятельным оценкам [86]. Для решения этой задачи используют, в основном, следующие методы: корреляционный метод Юла-Уокера [32], [74], метод максимального правдоподобия [49], [56] и др. Метод корреляций является наименее эффективным, но он не требует знания распределения помех. Указанные методы позволяют находить сильно состоятельные оценки неизвестных параметров системы (1), (2).

Другие особенности, связанные с проблемой идентификации модели (1), (2), возникают в случае, когда параметры динамики объекта (1) случайным образом дрейфуют во времени. Пусть, например, матрицы Ап образуют последовательность независимых случайных матриц с постоянным средним ЕАп = А. В работах [32], [41], [58], [64], [65], [78], [79] задача оценивания средних значений дрейфа А и ковариаций шумов модели решалась при Нп = Н преимущественно методами, использующими корреляционную технику. При этом найдены условия стационарности и эргодичности процесса хп (например, [78], [79]). Позже [52] были найдены условия геометрической эргодичности и устойчивости многомерных моделей с дрейфом.

Рассмотренные методы оценивания параметров линейных динамических систем являются асимптотическими в том смысле, что свойства оценок могут быть изучены только при неограниченном увеличении объема выборки. Однако на практике время наблюдения системы всегда конечно, что не позволяет вносить суждения о качестве таких оценок. Одну из возможностей нахождения оценок с гарантированным качеством дает подход с позиции последовательного анализа, который предполагает специальный выбор момента прекращения наблюдений с помощью некоторого функционала от наблюдаемого процесса. Принцип последовательного анализа был впервые предложен Вальдом для схемы независимых наблюдений [9], [10] и нашел применение в во многих областях математической статистики [18], [19], [20] и др.

С позиции последовательного анализа достаточно хорошо изучена проблема оценивания параметров стохастических динамических систем как с дискретным [8], [16], [23], так и с непрерывным [24], [33], [68] временем в случае полностью наблюдаемых процессов. Так, например, для стационарных процессов авторегрессии диффузионного типа построены и исследованы последовательные планы оценивания неизвестных параметров, обладающие рядом свойств, присущих оценкам, полученным с помощью рассмотренных выше асимптотических методов, такими как сильная состоятельность, асимптотическая нормальность [8], [16], [23], [24]. Кроме того в ряде случаев оценки обладают дополнительным свойством несмещенности [8], [16], [33], принципиально недостижимым для других оценок. Однако основное преимущество последовательных оценок параметров динамических систем, отличающее их от любых других оценок, состоит в возможности производить оценивание с заданным качеством в том или ином смысле, по конечной реализации процесса [8],

33], [36].

В последние годы большое внимание уделялось изучению использования методов последовательного анализа для схем зависимых наблюдений, в частности, динамических систем.

Впервые этот метод был применен в работах [33], [68] к моделям с непрерывным временем. Позже в [8] была предложена последовательная процедура оценивания параметра процесса авторегрессии первого порядка и многомерной специального вида. Пусть процесс (хп) описывается уравнением

Хп 7 1 £n-i ть = 1,2,., где а-неизвестный параметр. В качестве оценки параметра а было предложено использовать модифицированную оценку МНК т—1

T^Xi-iXi + a(h)xT-ixT = -> (3) xi-1 + a{h)x2T 1 i=i вычисленную в момент г, определяемый по формуле n

Т = T(h) = {N> 1 : >h}, h> О, г=1 где a(h)— весовой коэффициент, определяемый из уравнения т—1

Y,xti + a{h)x2T = h. i=1

Последовательная оценка, по сравнению с обычной оценкой МНК, является несмещенной оценкой параметра а, среднеквадратическое уклонение удовлетворяет неравенству

Е(а* — а)2 < с = const, V из которого вытекает, что при соответствующем выборе параметра h среднеквадратическое уклонение оценки может быть сделано сколь угодно малым.

В работе [66] было доказано свойство равномерной асимптотической нормальности последовательной оценки типа (3), при условии |а| < 1. Используя обобщенный метод наименьших квадратов, в работе [25] удалось получить гарантированную равномерно асимптотически нормальную оценку для всей области возможных значений параметра.

Проблема оценивания параметра процесса авторегрессии решалась и в ряде других работ [17], [63], [82] и др.

Задача гарантированного оценивания параметров процесса авторегрессии по неполным наблюдениям изучалась в [11], [12], [13], [27], [38], [40], [43] и др.

В последнее время широкое распространение получило использование нелинейных моделей, что связано с необходимостью найти объяснение ряда феноменов финансовой статистики и экономики вообще, которое нельзя объяснить в рамках линейных моделей. Одной из них является авторегрессионная модель условной неоднородности (ARCH), использование которой дает объяснение таких явлений в поведении финансовых индексов, как "тяжелые хвосты", "кластеризация" и др. Успех такой модели породил большое количество обобщений, преследующих цель объяснить и другие эффекты, обнаруживаемые методами статистического анализа. В работе [39] сделан большой обзор моделей такого типа. В [48], [67] изучались условия устойчивости моделей типа AR/ARCH.

Кроме того, часто приходится иметь дело со смешанными структурами, состоящими из линейных и нелинейных моделей одновременно. В работах [39], [81] было доказано, что в случае, если шумы имеют гауссов-ское распределение, то модель AR/GARCH эквивалентна модели авторегрессии с дрейфующими параметрами того же порядка. Для такой модели в [35] построена последовательная оценка МНК авторегрессионного параметра и исследованы свойства оценки, такие как асимптотическая минимаксность и другие. В [70] получены сильно состоятельные оценки авторегрессионных параметров таких моделей.

Цель работы состоит в разработке методов асимптотического и последовательного оценивания параметров нелинейных стохастических динамических систем с дискретным временем типа АЫ/АЯСН, а также многомерных билинейных процессов авторегрессии, наблюдаемых с линейными помехами. При асимптотическом подходе изучаются свойства оценок параметров при неограниченном увеличении объема наблюдений, в то время, как последовательные методы оценивания дают возможность нахождения оценок с заданными статистическими качествами по конечным выборкам.

Остановимся на основных постановках задач и полученных результатах.

В первой главе исследуются асимптотические свойства корреляционных оценок параметров авторегрессионной модели АЫ/АЛСН и параметров модели авторегрессии с дрейфом по наблюдениям с мультипликативными и аддитивными помехами.

Установлены свойства сильной состоятельности и равномерной асимптотической нормальности оценок авторегрессионных параметров процесса А11(р)/А11СН(р).

Найдено общее условие устойчивости для произвольных степеней наблюдаемого процесса.

Во второй главе решается задача последовательного оценивания параметров моделей, рассмотренных в первой главе.

В третьей главе представлены результаты численного моделирова

Методы исследования. В работе использованы методы теории вероятностей, теории случайных процессов, теории статистического последовательного анализа, линейной алгебры и имитационного моделирования.

Научная новизна.

Доказаны свойства сильной состоятельности и асимптотической нормальности корреляционных оценок авторегрессионных параметров процесса AR(p)/ARCH(p). Найдено общее условие устойчивости для произвольных степеней наблюдаемого процесса.

Доказана сильная состоятельность корреляционных оценок параметров многомерного процесса авторегрессии с дрейфом и дисперсий аддитивных шумов модели по наблюдениям с мультипликативными и аддитивными помехами.

Построена последовательная одноэтапная процедура гарантированного оценивания параметров обобщенной модели авторегрессии. Построенная процедура применена к двумерным моделям типа AR/ARCH и билинейного авторегрессионного процесса.

Предложена двухэтапная последовательная процедура, позволяющая получать оценки параметров многомерной авторегрессии с дрейфом с любой заданной среднеквадратической точностью по наблюдениям с линейными помехами, а также оценки авторегрессионных параметров модели AR(p)/ARCH(p).

Достоверность полученных результатов. Все полученные в диссертации результаты имеют строгое математическое доказательство. Качество построенных оценок подтверждено проведенным имитационным моделированием.

Практическая ценность. Результаты работы могут быть использованы в различных отраслях науки и техники: финансовой математике, климатологии, радиофизике, медицине и в других прикладных задачах, связанных с идентификацией систем, прогнозированием, управлением, статистической обработкой временных рядов. Кроме того, полученные теоретические результаты могут быть использованы в соответствующих курсах лекций на математических факультетах университетов.

Разработанные процедуры оценивания используются для уточнения ошибок прогноза изменений климатических характеристик Западной Сибири при моделировании регионального климата, проводимого в Институте мониторинга климатических и экологических систем СО РАН.

Рассмотренные в диссертации модели и методы оценивания их параметров являются частью раздела "Построение нелинейных моделей динамических систем" курса "Идентификация", читаемого на 4 курсе факультета прикладной математики и кибернетики Томского государственного университета.

Апробация работы. Работа выполнялась в рамках научно-исследовательской работы при финансовой поддержке Российского фонда фундаментальных исследований, грант РФФИ № 09-01-00172. Основные результаты диссертации обсуждались на семинарах кафедры высшей математики и математического моделирования ФПМК ТГУ, а также на следующих конференциях:

1. 2nd International Conference on Innovative Computing Information and Control, Kumamoto, Japan, 2007.

2. 3rd International Conference on Innovative Computing Information and Control, Dalian, China, 2008.

3. XVI Всероссийская школа-коллоквиум по стохастическим методам и X Всероссийский симпозиум по прикладной и промышленной математике (весенняя сессия) Всероссийский Макросимпозиум "Инновационная экономика: проектные решения и управление рисками", Санкт-Петербург, 19 - 24 мая 2009.

4. VIII Всероссийская научно-практическая конференция с международным участием "Информационные технологии и математическое моделирование" (ИТММ-2009), Анжеро-Судженск, 13-14 ноября 2009.

По теме диссертации опубликовано 6 печатных работ:

1. Маляренко A.A. Оценивание параметров модели AR(p)/ ARCH(p) при неизвестных распределениях шумов // Автоматика и телемеханика. — 2010. — № 2. — С. 128-140.

2. Маляренко A.A. Одноэтапное последовательное оценивание параметров нелинейных стохастических систем с дискретным временем // Известия ТПУ. - 2009. - Т. 315, № 5. - С. 13-17.

3. Маляренко A.A. Одноэтапная последовательная идентификация модели нелинейной регрессии с дрейфующими параметрами // Информационные технологии и математическое моделирование (ИТММ-2009): сборник статей VIII Всероссийской научно-практической конференции с международным участием (13-14 ноября 2009). Томск: Изд-во Томского университета. - Ч. 1. - С. 61-65.

4. Маляренко A.A. Оценивание авторегрессионных параметров процесса AR(p)/ ARCH(p) // Обозрение прикладной и промышленной математики. - 2009. - Т. 16, вып. 5. - С. 890-891. i

5. Malyarenko A.A., Vasiliev V.A. On Sequential Parameter Estimation Problem of Nonlinear Discrete-Time Stochastic Systems // 3rd International Conference on Innovative Computing Information and Control. - Dalian, China, - 2008.

- PP. 552-555.

- URL: http://doi.ieeecomputersociety.org/10.1109/ICICIC.2008.399

6. Malyarenko A.A., Vasiliev V.A. On Guaranteed Parameter Estimation of Discrete-time Stochastic Systems // 2nd International Conference on Innovative Computing Information and Control. - Kumamoto, Japan, - 2007. - PP. 140143.

- URL: http: //doi.ieeecomputersociety.org/10.1109/ICICIC.2007.417

Структура диссертации. Работа состоит из введения, 3 глав, заключения, приложения и списка литературы. Общий объем диссертации составляет 115 страниц. Библиография содержит 91 наименование.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Маляренко, Анна Александровна

Заключение

В данной работе представлены некоторые результаты теории асимптотического и последовательного оценивания для моделей нелинейных стохастических систем с дискретным временем. Рассмотрены задачи асимптотического оценивания параметров процесса AR/ARCH и процесса многомерной авторегрессии с дрейфом, наблюдаемой с мультипликативными и аддитивными помехами, а также гарантированного оценивания с заданной среднеквадратической точностью в таких моделях.

В Главе 1 рассмотрены корреляционные оценки авторегрессионных параметров модели AR(p)/ARCH(p) и всех параметров модели AR(1)/ ARCH(l). Получено общее условие устойчивости, обеспечивающее равномерную ограниченность моментов произвольного порядка процесса AR(p) / ARCH(p). Для всех рассмотренных оценок доказано свойство сильной состоятельности, а для оценок авторегрессионных параметров модели AR(p)/ARCH(p) свойство равномерной асимптотической нормальности.

Построены асимптотические оценки корреляционного типа средних значений дрейфа параметров многомерной авторегрессии, наблюдаемой с мультипликативными и аддитивными помехами и дисперсий аддитивных шумов этой модели. Доказана сильная состоятельность построенных оценок.

В Главе 2 рассмотрена задача гарантированного оценивания параметров нелинейных стохастических систем с дискретным временем.

Для нелинейной модели общей регрессии специального вида построена одноэтапная процедура последовательного оценивания параметров модели. Рассмотрены примеры применения одноэтапной процедуры к двумерным моделям процесса авторегрессии с дрейфующими параметрами и AR/ARCH. Исследовано среднее время оценивания. Полученные оценки обладают свойствами несмещенности и гарантированности. Показано, что в рассмотренных примерах свойства процедуры оценивания не требуют априорной информации об оцениваемых параметрах.

Для моделей нелинейных стохастических систем, рассмотренных в Главе 1, построены двухэтапные последовательные процедуры оценивания их авторегрессионных параметров.

Структура двухэтапной процедуры гарантированного оценивания существенно сложнее одноэтапной. В то же время она применима для более широкого класса нелинейных моделей с дискретным временем.

Все рассмотренные в главе процедуры последовательного оценивания позволяют получать оценки с любой заданной среднеквадратической точностью за конечное время.

В Главе 3 приведены результаты численного моделирования некоторых асимптотических оценок, рассмотренных в пунктах 1.2, 1.3 Главы 1. Во всех рассмотренных примерах наблюдается улучшение качества оценок с ростом числа наблюдений, а также работоспособность процедуры оценивания при относительно небольших объемах выборок (А^=100 - 200).

Кроме того, приведены результаты численного моделирования одно-этапных последовательных оценок из раздела 2.2. Видно, что полученная эмпирическая среднеквадратическая точность оценивания согласуется с теоретической. Проведенное сравнение с асимптотическими корреляционными оценками показывает, что качество последовательных оценок лучше асимптотических для всех рассмотренных значений параметров модели. При этом среднее время наблюдения при последовательном оценивании относительно невелико (от 30 до 170 наблюдений, в зависимости от значения параметров модели).

Полученные результаты могут быть применены при моделировании стохастических систем с дискретным временем и решении других статистических задач, таких как прогнозирование, управление и фильтрация.

Список литературы диссертационного исследования кандидат физико-математических наук Маляренко, Анна Александровна, 2010 год

1. Альтшулер C.B. Методы оценки параметров процесса авторегрессии- скользящего среднего (обзор). Автоматика и телемеханика, 1982, №8, стр. 5-18.

2. Андерсон Т. Введение в многомерный статистический анализ. М.: Физматгиз, 1963. 500 стр.

3. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976.

4. Балтрунас И.И., Капустинкас А.И. Оценивание методом Юла-Уокера параметров процесса авторегрессии с шумом в наблюдениях- кн.: Труды АН Лит. ССР, 1975, сер.Б, №5, стр. 135-142.

5. Балтрунас И.И., Капустинкас А.И. Оценки наименьших квадратов параметров процесса авторегрессии с шумом в наблюдениях. В кн.: Труды АН Лит. ССР, 1975, сер.В, №6, стр. 133-139.

6. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. М.: Мир, 1974, вып. 1, 406 стр.

7. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. М.: Мир, 1974, вып. 2, 197 стр.

8. Борисов В.З., Конев В.В. О последовательном оценивании параметров дискретных процессов. Автоматика и телемеханика, 1977, №10, стр. 58-64.

9. Вальд А. Последовательный анализ. М.: Физматгиз, 1960, 328 стр.

10. Вальд А. Статистические решающие функции. В кн.: Позиционные игры. М.: Наука, 1967, 301-522 стр.

11. Васильев В.А., Конев В.В. Последовательное оценивание параметров динамических систем при неполном наблюдении. Изв. АН СССР, Техническая кибернетика, 1982, № 6, стр. 145-154.

12. Васильев В.А., Конев В.В. Последовательное оценивание параметров динамических систем при наличии мультипликативной и аддитивной помех в наблюдениях. Автоматика и телемеханика, 1985, № 6, стр. 33-43.

13. Васильев В.А., Конев В.В. Об оценивании дисперсий шумов в линейных стохастических системах. Статистический анализ экспериментальных данных, 1987, НЭТИ, межвузовский сборник научных трудов, стр. 109-118.

14. Васильев В.А., Добровидов A.B., Кошкин Г.М. Непараметрическое оценивание функционалов от распределений стационарных последовательностей. М.: Наука, 2004.

15. Воробейчиков С.Э., Конев В.В. Последовательное оценивание параметров динамических систем при неполном наблюдении. Изв. АН СССР, Техническая кибернетика, 1982, №6, стр. 145-154.

16. Воробейчиков С.Э., Конев В.В. О построении последовательных оценок параметров процессов рекуррентного типа. Математическая статистика и ее приложения, Томск: Изд-во Томск, ун-та, вып. 6, стр. 72-81.

17. Гринвуд П.Е., Ширяев А.Н. О равномерной слабой сходимости се-мимартингалов с применениями к оцениванию параметра в авторегрессионной модели первого порядка. Статистика и управление случайными процессами, М.: Наука, 1989, стр. 40-48.

18. Зайдман P.A., Линник Ю.В., Романовский И.В. Планы последовательного оценивания и марковские моменты остановки. ДАН СССР, т. 185, № 6, стр. 1222-1225.

19. Закс Ш. Теория статистических выводов. М.: Мир, 1975, 776 стр.

20. Ибрагимов И.А., Хасьминский Р.З. Асимптотическая теория оценивания. Теория вероятн. и ее примен, 1974, т. 19, вып. 2, стр. 2455256.

21. Кашковский Д.В., Конев В.В. О последовательных оценках: параметров авторегрессии со случайными коэффициентами. Автометрия, 2008, Т. 44, стр. 70-81.

22. Конев В.В., Пергаменщиков С.М. Последовательные планы идентификации динамических систем. Автоматика и телемеханика, 1981, № 7, стр. 84-92.

23. Конев В.В., Пергаменщиков С.М. Об оценивании числа наблюдений при последовательной идентификации параметров динамических систем. Автоматика и телемеханика, 1984, № 12, стр. 56-62.

24. Конев В.В., Пергаменщиков С.М. О последовательном оценивании параметров случайных процессов диффузионного типа. Проблема передачи информации, 1985, т. 21, вып. 1, стр. 48-62.

25. Конев В.В., Пергаменщиков С.М. Гарантированное оценивание параметров авторегрессии на основе обобщенного метода наименьших квадратов. Теория вероятн. и ее примен, 1996, т. 41, вып. 4, стр. 765-784.

26. Лоэв М. Теория вероятностей. М.: Изд-во иностр. лит-ры, 1962.

27. Льюнг JI. Идентификация систем. Теория для пользователя. М.: Наука, 1991.

28. Маляренко А. Оценивание авторегрессионных параметров процесса AR(p)/ARCH(p). Обозрение прикладной и промышленной математики, 2009, т. 16, вып. 5, стр. 890-891.

29. Маляренко А. Одноэтапное последовательное оценивание параметров нелинейных стохастических систем с дискретным временем. -Известия ТПУ, 2009, т. 315, № 5, стр. 13-17.

30. Маляренко А. Оценивание параметров модели AR(p)/ARCH(p) при неизвестных распределениях шумов. Автоматика и Телемеханика, 2010, № 2, стр. 128-140.

31. Морозов В.А. Метод идентификации авторегрессионных уравнений, использующий априорную информацию. Автоматика и телемеханика, 1982, №4, стр. 64-71.

32. Новиков A.A. Последовательное оценивание параметров диффузионных процессов. Теория вероятн. и ее примен., 1971, т. 16, вып. 2, стр. 394-396.

33. Пергаменщиков С.М. Асимптотические свойства последовательного плана оценивании параметра авторегрессии первого порядка. Теор. вероятностей и ее применения, 1991, т. 36., №1, стр. 42-53.

34. Пергаменщиков С.М., Ширяев А.Н. О последовательном оценивании параметра стохастического разностного уравнения со случайными коэффициентами. Теор. вероятностей и ее применения, 1992, т. 37, вып. 3, стр. 482-501.

35. Тихов М.С. Об оптимальных планах последовательного оценивания при неквадратичных потерях. Теор. вероятностей и ее применения, 1978, т. 18., вып. 1, стр. 137-143.

36. Хеннан Э. Анализ временных рядов. М.: Наука, 1964, вып. 1. 215 стр.

37. Хеннан Э. Многомерные временные ряды. М.: Наука, 1974, вып. 1. 575 стр.

38. Ширяев А.Н. Основы стохастической финансовой математики. М.: ФАЗИС, 2004.

39. Эйкхофф П. Основы идентификации систем управления. М.: Наука, 1975, 683 стр.

40. Andel J. Autoregressive series with random parameters. Math. Operationsforsch. Statist., 1976, pp. 735-774.

41. Anderson T. W. Estimation for autoregressive moving average models in the time frequence domains. The Annals of Statistics, 1977, v.5, pp. 842-865.

42. Anderson T.W., Kleindoefer G.V., Kleindoefer P.R. and WoodroofM.B. Consistent estimates of of the parameters of a linear system, Ann. Math. Statist., 1969, v.40, pp. 2064-2075.

43. Anderson T. W., Taylor J.B. Strong consistency of least squares estimates in dynamic models. Annals of Statistics., 1979, v.7, pp. 484-489.

44. Ansley G.F. An algorithm for the exact likelihood of a mixed autoregressive moving average process. Biometrika, 1979, v.66, pp. 5965.

45. Arato M. On parameter estimation in the presence of noise. Prob. Theory and its Application, 1984, v.29, 3, pp. 599-604.

46. Brockwell P.J., Davis RA. Time Series: Theory and Methods. SpringerVerlag, New York, Inc., 1991.

47. Daren B.H. Cline, Huay-min H. Pu Stability and the Lyapounov exponent of threshold AR-ARCH models. The Ann. of Applied Probability, 2004, v. 14, № 14, pp. 1920-1949.

48. Dunsmuir W., Robinson P.M. Estimation of time series models in the presence of missing data. Journal Americ. Statist. Association, 1981, v.76, 375, pp. 560-568.

49. Dunsmuir W., Robinson P.M. Parametric estimators for stationary time series with missing observations. Advances of Applied Probability, 1981, v.13, pp. 129-146.

50. Engle R.F. Autoregressive conditional heteroskedasticity with estimates of variance of United Kingdom inflation. Econometrica, 1982, v.50, № 4, pp. 987-1008.

51. Feigin P.D., Tweedie R.L. Random coefficient autoregressive processes: a Markov chain analysis of stationarity and fmiteness of moments. -Journal of Time Series Analysis, 1985, 6 (1), pp. 1-14.

52. Fujita S., Fukao T. Optimal stochastic control for discrete-time linear systems with interrupted observations. Automatica, 8 (1), 1972, pp. 425-432.

53. Gersch W. Estimation of the autoregressive parameters of a mixed autoregressive moving-average time-series. IEEE Trans. Automat. Control, 1970, v.15, 5, pp. 583-588.

54. Grosspietsch J., Graupe D. Convergence of least squares identifiers of time series with martingale difference and binary white Markov generating processes. Int. Journal of Systems Science, 1981, v.12, 1, pp. 119-125.

55. Hannan E.J. The asymptotic theory of linear time series models. -Journal of Applied Prob., 1973, v.10, pp. 130-145.

56. Hannan E.J. Recursive estimation based on ARMA models. The Annals of Statistics, 1980, v.8, 4, pp. 762-777.

57. Imagaki M. On-line parameter identification of bilinear systems. IEEE Trans. Automat. Control, 1982, v.27, 4, pp. 984-986.

58. Jaffer A., Gupta S.C. On estimation of discrete processes under multiplicative and additive noise conditions. Information Sciences, 1971, v. 3, pp. 267-276.

59. Kalman R.E. Design of a self-optimizing control system. Trans. ASME, Ser D, Journal Basic Eng., 1958, v.80, pp. 468-478.

60. Kalman R.E. A new approach to linear filtering and prediction problems.- Trans. ASME Journal Basic Eng., 1960, v.82, pp. 44-45.

61. Kendall M.G. The estimation of parameters in linear autoregressive time-series. Econometrica, 1949, v. 17, pp. 44-57.

62. Konev V.V., Le Breton A. Guaranteed parameter estimation in a firstorder autoregressive process with finite variance. Sequential Anal., 1995, v.14, pp. 179-192.

63. Kubrusly C.S. Identification of discrete-time stochastic bilinear systems.- International Journal of Control, 1981, v.33, 2, pp. 291-309.

64. Kubrusly C.S., Pedreipa C.E. Identification of multiplicative parameters in stochastic bilinear systems. IEEE Trans. Syst. Man. and Cbern., 1984, v.14, 2, pp. 315-318.

65. Lai T.L., Siegmund D. Fixed accuracy estimation of autoregressive parameter. The Annals of Statistics, 1983, v.ll, 2, pp. 478-485.

66. Lee O. Stationarity and /^-mixing property of a mixture AR-ARCH models. Bull. Korean Math. Soc., 2006, v.43, № 4, pp. 813-820.

67. Liptzer R.S., Shiryaev A.N. Theory of martingales, Kluwer, Dordrecht, 1989.

68. Malyarenko A., Vasiliev V. On guaranteed parameter estimation problem discrete-time stochastic systems. Second Int. Conf. on Innovative Comp., Inf. and Control, ICICIC-2007, Kumamoto, Japan,7-9 September, 2007, CD.

69. Malyarenko A., Vasiliev V. On sequential parameter estimation problem of nonlinear discrete-time stochastic systems. 3rd Int. Conf. Innovative

70. Comp., Inf. and Control, ICICIC-2008, Dalian, China, 2008, pp. 544547.

71. Mann H.B., Wald A. On the statistical treatment of linear stochastic difference equation. Econometrica, 1943,v.ll, 3-4, pp. 173-220.

72. Meyn S., Tweedie R. Markov Chains and Stochastic Stability, Springer Verlag, 1993, 562 pp.

73. Middleton D., Eposito R. Simultaneous optimum detection and estimation of signal in noise. IEEE Trans. Inform. Theory, 1968, v. 14, pp. 434-444.

74. Murthy D.N.P., McGrifEn P.C. Parameter estimation for autoregressive models with uncertain observation, Joint. Autom. Constr. Conf.San Francisco, California, 1, 1980, pp. 139-143.

75. Nelson D.B. Conditional heteroskedasticity in asset returns: a new approach. Econometrica, 1992, v. 59, pp. 347-370.

76. Nicholls D.F. The efficient estimation of vector linear time series model. Biometrica, 1976, 63, pp. 381-390.

77. Nicholls D.F. A comparison of estimation methods for vector linear time series model. Biometrika, 1977, 64, pp. 423-426.

78. Nicholls D.F., Quinn B.G. The estimation of autoregressive models with random coefficients. I.J.Time Ser. Anal., 1980, 10, pp. 37-46.

79. Nicholls D.F., Quinn B.G. The estimation of multivariate random coefficient autoregressive models. J. Mult.Anal, 1981, v. 11, № 4, pp. 544-555.

80. Pagano D.F. Estimation of models of autoregressive signal plus white noise. Ann. Statist., 1974, 2, pp. 99-108.

81. Pergamenchtchikov S., Kliippelberg C. The tail of stationary distribution of a random coefficient AR(q) model. The Ann.Appl. Probab, 2004, v. 14, № 3, pp. 971-1005.

82. Shiryaev A.N., Spokoiny V.G. On a sequential estimation of an autoregressive parameter. Stochastics, 1997, v.60, pp. 219-24057.

83. Schneeweis H. Consistent estimation of a regression with errors in the variables. Metrika, Physica-Verlag, Wien, 1976, Band 12, pp. 101-115.

84. Tong H. Nonlinear Time Series. Oxford: Oxford Univ. Press, 1990.

85. Tugnait J.K. Asymptotic stability of the MMSE linear filter for systems with uncertain observations. IEEE Trans. Inf. Theory, v. 27, 1981, pp. 247-250.

86. Tugnait J.K. Parameter estimation and linear system identification with randomly interrupted observations - Trans. Inf. Theory, v. 29, 1983, pp. 164-168.

87. Vasiliev V.A.and Konev V. V. On identification of linear dynamic systems in the presence of multiplicative and additive noises in observations. -Stochastic Contr.: Proc. 2-nd IFAC Symp.,Vilnius, May 19-23, 1986, Oxford e.a., (1987), pp. 87-91.

88. Walker A. Large-sample estimation of parameters for moving-average models. Biometrika, 1961, v. 48, pp. 343-357.

89. Walker A. Large-sample estimation of parameters for autoregressive process with moving-average reduals. Biometrika, 1962, v. 49, pp. 117131.

90. Yule G.U. On the method of investigating periodicities in disturbed series, with special reference to Wolfer's sun spot numbers. Phil. Trans, 1927, v. 226, pp. 226-267.

91. Zhang Yong-Guang Identification of a class of stochastic bilinear systems. Int. J. Contr, 1983, v. 38, pp. 991-1002.