Кусочно-линейная аппроксимация нелинейных моделей фильтрации сигналов в дискретном и непрерывном времени, основанная на рандомизированном разбиении временного интервала тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат наук Мисюра, Илья Владимирович

• Мисюра, Илья Владимирович
• кандидат наук
• 2015

Оглавление диссертации кандидат наук Мисюра, Илья Владимирович

ОГЛАВЛЕНИЕ

ВВЕДЕНИЕ

ГЛАВА 1. ЗАДАЧИ ФИЛЬТРАЦИИ, ИНТЕРПОЛЯЦИИ И ЭКСТРАПОЛЯЦИИ СИГНАЛА ДЛЯ МОДЕЛИ СТОХАСТИЧЕСКОЙ ВОЛАТИЛЬНОСТИ. НЕПРЕРЫВНОЕ ВРЕМЯ

1.1. Уравнение Закаи и Кушнера-Стратоновича

1.2. Диффузионная модель

1.3. Линеаризация диффузионной модели

1.4. Линейные модели под управлением марковской цепи

1.5. Линейные модели с переключением в марковские моменты

1.6. Основные примеры

1.7. Метод Монте-Карло. Потраекторная реализация

1.8. Одновременное оценивание сигнала и волатильности

1.9. Итерационный метод оценки сигнала и волатильности

1.10. Задача интерполяции. Вариационная модель

1.11. Задача интерполяции. Стохастическая модель

1.12. Задача экстраполяции

Анализ результатов первой главы

ГЛАВА 2. ЗАДАЧИ ФИЛЬТРАЦИИ, ИНТЕРПОЛЯЦИИ И ЭКСТРАПОЛЯЦИИ СИГНАЛА ДЛЯ МОДЕЛИ СТОХАСТИЧЕСКОЙ ВОЛАТИЛЬНОСТИ. ДИСКРЕТНОЕ ВРЕМЯ

2.1. Дискретные модели сигнала

2.2. Дискретная модель со случайной диагональной матрицей

2.3. Вычисление условного математического ожидания методом Монте-Карло

2.4. Дискретная модель сигнала со скачками

2.5. Нейро-сетевой предсказатель

Анализ результатов главы 2

ГЛАВА 3. ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ ФИЛЬТРАЦИИ, ИНТЕРПОЛЯЦИИ И ЭКСТРАПОЛЯЦИИ СИГНАЛА ДЛЯ МОДЕЛЕЙ

СТОХАСТИЧЕСКОЙ ВОЛАТИЛЬНОСТИ

3.1. Разработка требований к программному комплексу

3.2. Разработка информационной схемы программного комплекса

3.2.1. Инструментальные средства разработки

3.2.2. Объектно-ориентированная модель системы

3.3. Программная реализация моделей фильтрации сигнала

3.3.1. Модель стохастической волатильности

3.3.2. Дискретные модели фильтрации сигналов

Анализ результатов главы 3

Заключение диссертационного исследования

СПИСОК ЛИТЕРАТУРЫ

ПРИЛОЖЕНИЕ 1

Введение диссертации (часть автореферата) на тему «Кусочно-линейная аппроксимация нелинейных моделей фильтрации сигналов в дискретном и непрерывном времени, основанная на рандомизированном разбиении временного интервала»

ВВЕДЕНИЕ

Актуальность тематики исследования. Основное содержание работы посвящено разработке математических моделей временных рядов и численных методов их анализа. Основой исследования является модель стохастической волатильности. Изменчивость волатильности используется для описания возможности резкого изменения свойств траектории сигнала. Задачи, которым посвящено исследование, в основном являются классические задачами фильтрации, интерполяции и экстраполяции сигнала. В настоящее время процессы стохастической волатильности используются при моделировании различных естественных явлений, таких как диффузия потоков в пористых средах и плазме, лазерное охлаждение, молекулярные столкновения, долговременные изменения климата, движение молекул в разреженном газе, помехи в каналах связи, модели телетрафика, флуктуации доходности финансовых активов и многих других. На траекториях процессов стохастической волатильности можно обнаружить спокойные периоды, с относительно малой дисперсией и периоды турбулентности с высокой изменчивостью.

Модель стохастической волатильности впервые появилась в работах Н. Johnson and D. Shanno [1], J. Hull and A. White [2], L. Scott [3], J. Wiggins [4]. Исследования были продолжены в работах Е. Stein and J. Stein [5], S. Heston [6], R. Schobel and J. Zhu [7], L. Rogers and L. Veraart [8].

Модель стохастической волатильности относится к нелинейным моделям сигналов. Задачам фильтрации, интерполяции и экстраполяции для нелинейных моделей сигналов посвящены как монографии, так и многочисленные статьи [916]. В основном это работы, в которых используются различные варианты диффузионных моделей. Основная проблема заключается в том, что уравнения нелинейной фильтрации, интерполяции и экстраполяции нельзя получить в замкнутом виде, за исключением условного гауссовского распределения и смеси условно-гауссовских распределений. В остальных случаях применяются сложные

и не всегда обоснованные вычислительные методы. Рассматриваемые в диссертации модели приводят к потраекторной смеси условных гауссовских распределений. Это позволяет исследовать широкий класс моделируемых сигналов и предложить эффективные вычислительные методы анализа. В связи с этим, тема диссертации находится в тренде исследований по математическому моделированию и является актуальной.

Цель и задачи диссертационной работы. Как уже отмечалось, диссертационное исследование посвящено математическим моделям временных рядов, полученных на базе процессов стохастической волатильности. Цель исследования состоит в разработке эффективных методов вычисления специальных функционалов на траекториях временных рядов, использующих численные методы решения обыкновенных дифференциальных уравнений в сочетании с методами Монте-Карло [17, 18, 19] и вычислительные процессы с теплицевыми матрицами [20, 21]. Разработке программного обеспечения для удаления помех, прогнозирования нелинейных стохастических моделей временных рядов с помощью нейро-сети.

Для достижения поставленной цели были решены следующие задачи:

• для модели стохастической волатильности предложены численные методы решения эволюционного уравнения Кушнера - Стратоновича, использующие аналитические и численные методы решения дифференциальных уравнений в сочетании с методом Монте-Карло;

• исследована задача обработки сигнала в вариационной постановке и предложен итерационный алгоритм ее решения;

• предложены численные методы решения задач фильтрации интерполяции и экстраполяции для дискретных аналогов модели стохастической волатильности;

• предложена нейро-сетевая имитационная модель временного ряда для модели стохастической волатильности типа САЯСН;

• разработано программное обеспечение, с помощью которого решены прикладные задачи очищения сигнала от помех и экстраполяции сигнала с помощью нейросети.

Методы исследования.

Для решения поставленных задач применялись методы исследования, относящиеся к численным методам и математическому моделированию в области статистики временных рядов со случайной волатильностью и условной неоднородностью.

Программная реализация исследуемых моделей и методов выполнена на языке высокого уровня С++ с использованием кроссплатформенного фреймворка Qt в среде разработки Qt Creator. Для численного решения задач применялись средства распараллеливания вычислений.

Научная новизна.

• В области моделирования. Исследован класс моделей сигнала с кусочно-постоянной случайной волатильностью. Этот класс моделей существенно расширяет свойства линейных моделей (фильтр Калмана-Бьюси) и позволяет предложить более эффективные методы вычислений по сравнению с диффузионными моделями общего вида. Помимо этого, исследованный класс моделей можно использовать для аппроксимации диффузионных моделей общего вида. Эта аппроксимация связана со стохастическим разбиением временной оси моментами остановки и обладает существенным преимуществом по сравнению с детерминированным разбиением. Для нелинейных моделей сигнала сложной структуры предложена нейро-сетевая модель с использованием вейвлет-базиса. Модель предоставляет возможность настройки параметров и предназначена для прогноза временного ряда сложной структуры. Предложена и детально изучена модель конечномерного сигнала, в которой применяются стохастические разностные уравнения со случайной диагональной матрицей. Модель предназначена для описания сигналов со скачками. В некотором смысле модель

можно рассматривать как результат дискретизации моделей под управлением процессов Леви, а также и как самостоятельный класс конечномерных моделей.

• Основными результатами в численных методах являются методы фильтрации, интерполяции и экстраполяции сигнала, сочетающие вычислительные методы решения дифференциальных уравнений с имитационным моделированием. Новым результатом является метод решения задачи динамического программирования, которая возникает в задаче анализа сигнала при апостериорной постановке, базирующийся на обобщенном координатном спуске. На каждой итерации этого метода решаются более простые по сравнению с исходной задачей задачи динамического программирования. В этом методе анализа сигнала одновременно оценивается сигнал и волатильность. Предложен также дискретный аналог этого метода для вычисления максимально-правдоподобной оценки сигнала и волатильности в конечномерном случае. Для конечномерной модели разработаны вычислительные методы, связанные со свойствами теплицевых матриц. Предлагаемые вычислительные методы по сравнению с наиболее распространенными и близкими методами малого параметра и линеаризации в большей степени учитывают специфику исследуемых моделей и позволяют получать более точные результаты, поскольку методы малого параметра применимы при условии малого уровня шума, а в методах линеаризации необходимо изменение структуры измерений, что не всегда возможно. К новым численным методам относится алгоритм обучения нейронной сети. Метод относится к градиентным методам обучения. Научная новизна заключается в вычислении градиента генетическим алгоритмом.

• В области программного обеспечения разработан программный комплекс для моделирования и анализа сигналов на основе теоретических результатов первой главы.

Достоверность.

Достоверность полученных результатов обеспечена математически обоснованным анализом моделей и вычислительных методов, положительными вычислительными экспериментами, как с модельными, так и с реальными

данными, совпадением в частных случаях с известными результатами других авторов.

Полученные в диссертации результаты нашли применение в научно-исследовательских разработках в рамках выполнения гранта РФФИ (№ 14-0100579 а, рук. Белявский Г.И.).

Практическая значимость. Результаты диссертации воплощены в программном комплексе и могут быть использованы при удалении помех и прогнозировании временных рядов.

На защиту выносятся следующие основные результаты и положения.

В области математического моделирования:

• нейро-сетевая модель сигнала на базе модели условной неоднородности с вейвлет ядром;

• непрерывная модель сигнала с кусочно постоянной случайной волатильностью;

• разностная модель конечномерного сигнала со случайной диагональной матрицей.

В области численных методов:

• вычислительные методы решения задач фильтрации, интерполяции и экстраполяции для модели стохастической волатильности, использующие численные методы решения дифференциальных уравнений в сочетании с имитационным моделированием;

• алгоритм обучения нейро-сетевой модели с применением генетического программирования для вычисления градиента функции ошибки;

• итерационный метод решения задачи оптимального управления, связанной с фильтрацией, интерполяцией и экстраполяцией в рамках модели стохастической волатильности;

• вычислительный метод решения задач фильтрации, интерполяции и экстраполяции для конечномерного случая, основанный на спектральном разложении теплицевых матриц.

В области программного обеспечения:

• программное обеспечение, которое может быть использовано для моделирования случайных процессов сложной структуры, удаления помех из сигнала и прогнозирования временных рядов с условной неоднородностью.

Апробация работы. Результаты диссертации докладывались на семинарах кафедры высшей математики и исследования операций института математики, механики и компьютерных наук Южного Федерального Университета, XI Всероссийском симпозиуме по прикладной и промышленной математике (осенняя открытая сессия) (Сочи - Дагомыс, 16-23 октября 2010 г.); XII Всероссийском симпозиуме по прикладной и промышленной математике (осенняя открытая сессия) (Сочи - Адлер, 1 - 8 октября 2011 г.); XX Всероссийской Школе-коллоквиуме по стохастическим методам и XIV Всероссийском симпозиуме по прикладной и промышленной математике

о

(весенняя сессия) (Йошкар-Ола, 12-18 мая 2013 г.); XV Всероссийском Симпозиуме по прикладной и промышленной математике ( весенняя сессия ) (Кисловодск, 1-8 мая 2014 г.).

Публикации. По теме диссертации опубликовано 10 печатных работ. Из них 5 статей опубликовано в рецензируемых изданиях из списка ВАК РФ для публикации результатов диссертационных исследований. Одна публикация входит в базу данных Scopus.

Структура и объем диссертации. Диссертация содержит введение, три главы, заключение и список литературы из 114 наименований. Общий объем диссертации 114 страниц, включая 26 рисунков и 1 таблицу.

ГЛАВА 1. ЗАДАЧИ ФИЛЬТРАЦИИ, ИНТЕРПОЛЯЦИИ И ЭКСТРАПОЛЯЦИИ СИГНАЛА ДЛЯ МОДЕЛИ СТОХАСТИЧЕСКОЙ ВОЛАТИЛЬНОСТИ. НЕПРЕРЫВНОЕ ВРЕМЯ

В главе рассматриваются задачи фильтрации, интерполяции и экстраполяции сигнала для модели с изменчивой волатильностыо. Далее мы будем термин употреблять аппроксимация, понимая под этим общим термином фильтрацию интерполяцию и экстраполяцию. Вопросам нелинейной аппроксимации уделяется значительное внимание в литературе, начиная с работы Р. Липцера и А. Ширяева [9], в которой получены уравнения для оптимальной в среднеквадратическом смысле оценки сигнала для условно-гауссовских апостериорных распределений сигнала. Среди основных монографий, посвященных нелинейной фильтрации сигналов следует упомянуть работы Bain A., Crisan D. [10] и Schuss Z. [11], работы в которых используется современный стохастический анализ [22, 23, 24, 25, 26] для вывода уравнений нелинейной фильтрации. В связи с нелинейной фильтрацией следует также обратить внимание на основополагающие работы Zakai М.[27], Wonham M. [28], Stratonovich R. [25], Lototsky S. [30,31] и Zeitouni 0.,Bobrovsky В [32].

Задача фильтрации сигнала заключается в следующем. Для двухкомпонентного адаптированного процесса Zt=(Xt,Yt) на полном

стохастическом базисе F,P^j с фильтрацией, удовлетворяющей

стандартным условиям, требуется для заданной функции / вычислить условное

математическое ожидание: Ml(f) = E^f[Xt)/F,}). Фильтрация а - подалгебр Ft]

определяется стандартным образом: Fty=o-(cr(Ys \0<s<t)vN^, где N - семейство событий нулевой вероятности на полном вероятностном пространстве (Q,F,P).

Предполагается, что X - сас!1а§ процесс, поэтому = . Аналогично определяется фильтрации и 1<]х.

Задача интерполяции - это задача вычисления условного математического ожидания: 1п1(/) = Е^/(Х,)/<Т. Здесь Т является горизонтом и в принципе:

Т = 00 .

Задача экстраполяции состоит в вычислении условного математического ожидания: Ои( (/) = £(/{хт) / Г?), / < Т .

1.1. Уравнение Закаи и Кушнера-Стратоновича

Рассмотрим стационарное стохастическое дифференциальное уравнение, связывающее процесс У с процессом X :

еПГ, =А(Х,)Ж + (Ш?( , У0 =0. (1Л)

В уравнении (1.1) функция А(х) такова, что выполняется условие Новикова [2226]:

Еехр

Г,т ) (1.2)

-¡А(Хя)2еЬ <00. V о )

IV - винеровский процесс относительно меры Р и фильтрации (^),>0,

независящий от процесса X. Если выполняется условие Новикова (1.2), то процесс:

Zt = exp

f , t t ^ V zo o )

является равномерно интегрируемым мартингалом и Е2Т = 1. Процесс У по теореме Гирсанова, см. [22-26], является винеровским процессом относительно новой меры: с1Рг=гтс1Рт. Поскольку г(>0, то меры Р и Р эквивалентны и

dPT =ZjXdPT, где Z~'=exр

t ^

-^\A{Xs)¿ds + \A{Xs)dYs

\ о о

. Применив формулу Байеса,

получим уравнение Калянпура-Штребеля (Kallianpur-Striebel) [33] для условного математического ожидания M,(f):

Mt (f)É{z;4F?) = E{tff(Xt)IF?). (1.4)

Рассмотрим ненормализованный процесс pt(f) = É[z¡~lf(X,)/Fty^, поскольку случайная величина Z^xf(Xt) Ft - измерима и Y - винеровский процесс по мере Р,

( Л

то pt(f) = ÉÍZtlf(xt)/fy I, где FY =cr (Jf,1 . Далее для вычисления процесса р

U>o J

используется генератор процесса X.

Определение 1.1. Генератором процесса X называется оператор

t

G:D(G)-> В, для которого процесс f(xt) = f(X0)-¡Gf(Xs)ds является

о

мартингалом. Множество В является банаховым пространством ограниченных функций, подмножество D(G) банахова пространства В - область определения

оператора G, то есть Gf &В, для всех / е D(G).

Генератор G позволяет вычислить стохастический дифференциал:

dPt (/) = Pt (Qf)dt + pt(/A)dYr (1.5)

Уравнение (1.5) называется уравнением Закаи {Хдкт М) [27]. Подробный вывод уравнения можно найти в [10]. Поскольку I/^ = ¿>,(1), то соответствующий

дифференциал: йрг (1) = рс {р\)й+р, (А)с1У( . Здесь 1 (х) = 1. Из определения генератора следует, что С1=0. Поэтому с1р((\) = р((А)с1¥(, подставим Р((а) = р((1)м((а), в результате получим, что решение уравнения имеет вид:

рД1) = ехр|--|М52(Л)<& + |мДл)£/751. Используем формулу Ито для вычисления

I 20 о I

А (/) А 0)

\

и в результате получим:

/

с1М, (/) = М( (О/)Л + [М, (/А) - М, (/) М, ( А)] - М,(А)Л] . (1.6)

Формула (1.6) называется эволюционным уравнением Кушнера-Стратоновича [29]. Более подробный вывод см. в [10].

г

Определение 1.2. Процесс = называется инновационным

о

процессом.

Инновационный процесс является квадратично-интегрируемым мартингалом с независимыми приращениями и непрерывными траекториями, поэтому согласно характеризации Леви [22], является броуновским движением. Инновационный процесс можно использовать в уравнении (1.6), что приводит уравнение к виду:

<1М, (/) - М, (О/) Л+[М, (/А) - М, (/) М, (Л)] Ш, (1.7)

Основная сложность уравнения (1.7) заключается в том, что в этом уравнении присутствуют пять неизвестных процессов. Для того, чтобы разработать вычислительные методы, необходима конкретизация модели.

1.2. Диффузионная модель

Наибольшее число работ по нелинейной фильтрации связано с диффузионной моделью. См., например, работы [9, 27, 28, 30, 32]. Мы будем рассматривать стационарное уравнение диффузии следующего вида:

с1Х1=а(Х1)Л + Ь(Х[)(Шг (1.8)

В уравнении (1.8) процесс и, независящий от IV винеровский процесс. Коэффициенты уравнения удовлетворяют стандартным условиям существования и единственности сильного решения [23]:

\а (х) - а +1Ъ (х) - Ъ (у)| < к (и)|х - у\, при |х| < п,\у\< п, (1 -9)

ИФКФМОИ-

Генератор С процесса X имеет следующий вид:

~ ь2(х)дV (1.10)

С/ = а(х)— + —^— 1 ' дх 2 дх

Формула (1.10) непосредственно следует из формулы Ито. Областью определения этого оператора может быть с1 - множество дважды непрерывно дифференцируемых функций с компактным носителем. Для условного математического ожидания: /(х) = х, уравнение Кушнера-Стратоновича (1.7)

приобретает вид:

с1М! (х) = М, {а)сН + [м, (хА)-М, (х)М, (Л)][</Г, -М, (А)Ж~\ .

(1.11)

В этом уравнении участвуют четыре неизвестных процесса: М((х),М((а),Мг(хА) и

М[(А). Для того, чтобы получить замкнутую систему уравнений необходимо

установить дополнительные связи между этими процессами. Наиболее простые соотношения получаются в линейном случае (Фильтр Калмана-Бьюси [10, 11, 12]:

А(х) = Ах,а(х) = ах,Ь(х) = Ь. (1-12)

Уравнение (1.11) для линейного случая (1.12) приобретают вид:

В уравнении (1.13) два неизвестных процесса М({х) и М{{х2^. Для последнего процесса уравнение (1.7) приобретает вид:

¿/Мг(х2) = 2яМ,(х2)^ + Л м,(д:3)-м/(х2)мг(х) - АМ, . С1-14)

В уравнении (1.14) возникает новый неизвестный процесс однако,

поскольку условный закон распределения ¿см^Х, / является нормальным законом распределения, для которого справедливо равенство: М1[хъ^ = М1(х) ЪМ,{х1^-2М1(х) , то подставив последнее равенство в (1.14)

получим замкнутую систему дифференциальных уравнений:

<1т (¿) = ((а - А2у (/)) т, ^Л + Ау (/) с!У[, с1у (?) = (2ау (/)- А2у2 (1) + Ь2)Ш.

(1.15)

В (1.15) приняты следующие обозначения: »?(/) - условное математическое ожидание, у{() - условная дисперсия. Уравнения (1.15) называются уравнениями

фильтра Калмана-Бьюси [34]. Отметим, что эти уравнения легко обобщаются на нестационарный случай. Общий случай, связанный с условно-гауссовским распределением, рассмотрен в работе [9]. Уравнения (1.12) в упомянутой работе имеют следующий вид:

А(х) = А(Г1)х,а(х) = а(У!)х,Ь(х) = Ь(У1). (1-16)

В этих уравнениях коэффициенты в (1.16) являются г/ измеримыми случайными величинами. Поэтому условный закон распределения является условно-гауссовским и для него, тоже можно получить систему линейных уравнений типа (1.15). Далее в этой главе будут рассмотрены два класса нелинейных моделей, которые сводятся к фильтру Калмана-Бьюси. Один из классов таких моделей - это модели, сводящиеся к линейной модели при помощи нелинейного преобразования. Другой класс - это модели, которые получаются в результате конкатенации линейных моделей.

1.3. Линеаризация диффузионной модели

Целью этого параграфа является рассмотрение моделей, которые сводятся к линейным дифференциальным уравнениям с помощью нелинейного преобразования.

Определение 1.3. Будем говорить стохастическое дифференциальное уравнение линеаризуемо, если существует такая локально обратимая функция у = Ф(х), что процесс У,=Ф(X,) удовлетворяет линейному стохастическому

дифференциальному уравнению:

={ах +а2У()ск+{Ь{ +Ь2У1)с1Ь\ .

(1.17)

Используем формулу Ито =

(1.17) получаем уравнения:

¿ф ь2 а1 Ф

а-+--

(1х 2 с!х

Ш + Ь—(Шп в результате из с1х

¿/Ф (IФ

-= а2Ф + ах, Ь-= Ь2Ф + Ь]

(Лх с1х

(1.18)

Последнее уравнение является линейным уравнением, решение которого нетрудно найти. Подставив это решение в первое уравнение, в результате получим достаточное условие линеаризуемости:

, ^ а ь2—+—

сЬс сЫ

Ь — \ с1х;

= 0 .

(1.19)

В условии (1.19) функция Е = ---Ь'. Коэффициент Ь2 является константой,

Ь 2

поэтому возможны следующие достаточные условия существования линеаризирующего преобразования Ф:

а) ^зсотг, или Ь)

сЬс

о —

V (Ьс у

.«¿Г

/-= сот1.

с1х

(1.20)

В первом случае Ь2 - произвольно, в частности Ь2 = 0. Во втором,

Ь2=~— с1х

I-

V с1х )

с!х

и можно положить Ъ{ = 0 В первом случае Ф(х) = 6,#(х)+С, во

.т ^

втором - Ф(х) = Сехр(Ь2Н(х)). Функция Я(х) = |—тЦ-, Подробнее см. [35].

о °

Рассмотрим модель фильтра:

с1У(=А(Х1)Ш + с1Иг1 ,У0= 0;

(1.21)

dXt = a(Xt)dt + b(Xt)dUt.

Допустим, что выполняется условие (1.20) и Vt=<X>(X() линеаризующее преобразование. Тогда, если А(Х() = А1 + А2Ф(Х,), то мы получим систему линейных стохастических дифференциальных уравнений:

dYt=(A]+A2Vt)dt+dWt ,Y0=O (1.22)

dVt = (ах + a2Vt) dt + b2VtdUt.

Рассмотрим пример:

dYt=A(Xt)dt + dWt,YQ=$-, (L23)

dXt=a(Xt)dt + bdUt.

В этом примере волатильность постоянная величина, поэтому функция

F = — . Первое условие линеаризуемости будет иметь вид: а = const, второе условие

Ъ

превращается в дифференциальное уравнение: а" = —Сх. Остановимся на втором

Ъ

условии. Решением дифференциального уравнения будет семейство функций а(дг) = С2 ехр|^С]|+С3, при этом параметр Ъ2 Если условие выполняется, то

ЬЪ

линеаризирующее преобразование Ф(х) = Сехр(62х). Параметры а, =СЬ2,а2 =-—-.

Отметим, что параметр Ь2ф0, поэтому в линейной системе волатильность -переменная величина, хотя в исходной нелинейной системе она была постоянной.

1.4. Линейные модели под управлением марковской цепи

Дальнейшим обобщением фильтра Калмана-Бьюси является линейная модель, в которой параметры переключаются в случайные моменты времени. Модели с переключением параметров рассматривались в работах[36,37,38]. За счет переключения параметров модель становится нелинейной. Модель, которая далее рассматривается, имеет следующий вид:

(¡У^АХ^ + сМг^ (1.24)

(IX, +

В этой модели процесс - однородная марковская цепь с

Ь((,ш) е/ = {\,...,к) и матрицей интенсивностей А, внедиагональные элементы которой имеют следующий смысл: Р(ЬМ - + Диагональные

элементы матрицы А определяют вероятность = \ + +

Отсюда Распределение вероятностей в момент времени /

Рг =/)) удовлетворяет дифференциальному уравнению: с1Р^=Р(тА. Отсюда

для вектора Р( справедливо равенство:

(Р,)'/'=(Р0)Гехр(А/). (1-25)

оо ^ к

В формуле (1.25) ехр(Л?)=^—Ак - матричная экспонента. Траектория ят

к=

является кусочно-постоянной траекторией. Пусть РУ(1) - множество кусочно-постоянных траекторий на интервале [0,Г], каждая из которых может быть

представлена в виде: = что позволяет отождествить

РУ{1) с множеством случайных последовательностей

0 = {^:^ = ((/о,О),(у1,г1),...,(уг,гг))}, причем тг<Т<тг+х. Далее мы будем

использовать последовательность в вместо кусочно-постоянной траектории ш в выкладках и рассматривать в как параметр.

Пример траектории 9, реализованный в программном комплексе, приведен на рисунке 1.1.

в

3

2.7

2.4 2Д

1.8

1.5 1,2

0,15 0,3 0,45 0,6 0,75 0,9 /

Рис. 1.1. Пример кусочно-постоянной траектории в

Таким образом, для модели (1.24) условный закон распределения 1<ш[х(1является смесью условно - гауссовских законов распределения.

Следует отметить, что смеси гауссовских законов распределения в качестве альтернативы гауссовских законов распределения широко используются в математическом моделировании. Особую известность приобрели гиперболические распределения, которые в 1977 году ввел О. Бандорфф-Нильсен [39].

Последовательность в является двумерной марковской последовательностью с переходными вероятностями:

Формула (1.26) непосредственно следует из формулы (1.25). Рассмотрим условное математическое ожидание: т(?,в) = Е[х(1Р?1

условную дисперсию: у{(,в) = Уаг(х( IР? в}, для которых, в силу (1.15), буду справедливы дифференциальные уравнения:

и

т

<}т (/, в) = ((а (/, в)-А2 г (/)) т (/, 0)) с/1 + Ау (/, в)аУ1,

(1.27)

йу (/, в) = (2а ((, в)у (/, в) - А2у2 (/, в) + Ь2 (/, 0))Л.

Начальные условия: т(0,в) = Е(Х0/Уо),у(О,0) = Уаг (Х0 /У0).

Коэффициенты а и Ь в этих дифференциальных уравнениях являются

кусочно-постоянными функциями: = /[г ,г)(0 И =

»' /

Отметим, что задача Коши для дифференциального уравнения с кучно-постоянными коэффициентами может не иметь единственного решения [40]. В нашем случае справедлива следующая теорема.

Теорема 1.1. Задача Коши (1.27) имеет бесконечное множество решений. Доказательство теоремы. Действительно, рассмотрим функции:

г

(1.28)

г

I* (/, <9,/?) = 5>, (/,*,/?,_ ,)/{Г|_,а<Г|}(/)-

Функции и ^(¿,6>,Д_,) являются решениями задач Коши:

¿т(Г, в, ) = ((аУ; ] - Л V «м)) /и 0, )) Л + ^ (/, «м) ^, ^ (/, 0,) = (2я;- чг (/, в,) - Л V (', а,-_1) + б2 ,) Л, / е [гм, г,),

с начальными условиями: от(гм,6>,Дм) = Д_1? 7(/,6>,ам) = ам, причем

/?0 =£(Х0/Г0),ог0 Каждая из задач (1.29) имеет единственное

решение, поэтому функции (1.28) являются решением уравнений (1.27) почти всюду.

Выбор единственного решения требует дополнительных условий. Рассмотрим наиболее естественное. Пусть X, {9) решение уравнения:

с1х(^а{ь{в))х(л+сг{ь{в))ауп тогда у^,в,а) = Е(х{ (в)-т^,в,а))2 - средне-квадратическая ошибка в момент времени /. Интегральная ошибка на интервале

Т г,

[О,Г] имеет вид:= | у^1,в,а1_х)сИ. Поэтому естественно выбирать а,

О г,_,

исходя из решения задач:

Задача (1.30) является задачей оптимального управления следующего типа:

Г,

а1-1 = аг8 ш1П / Уу Я) &.

3

(1.30)

(1.31)

с начальным условием: х(гм) = и. Является справедливой теорема.

Теорема 1.2. Решением задачи (1.31) является и = 0.

Доказательство. Пусть х, < 0 < х2 - корни квадратного уравнения: А2х2 -2ах-Ь2 = 0. Выберем и из интервала: [0,х2). Пусть x{t,u), соответствующее решение задачи Коши, тогда x(t,u)<x 2. Причем lim x(t,u) = x2. Частная

t—>00

dx(t.u) г ч

производная —*—> 0, поэтому оптимальное значение на интервале 10,х2) - и = 0. ди

Пусть и = х2, решение задачи Коши в этом случае x[t,x2) = x2. Далее, положим и>х2. Решение задачи Коши в этом случае x(t,u)>x2 и lim x(t,u) = x2. Сопоставив

/->се

эти варианты выбора и, делаем вывод о справедливости теоремы.

Опираясь на теорему, получим решение второго уравнения (1.29)

г х[х2 (1 - ехр(-А2 (х2 - *{) (/ - г,_,) ]

г(<ло)=т \ ; ; ;—ьГ<)(/).

i-i *{ - 4 ехр(-Л2 L ;

(1.32)

В (1.32) х{ и х2 корни квадратного уравнения: Агх2 -2а]_х-Ь2_х =0.

Рассмотрим первое уравнение (1.29), которое является линейным уравнением следующего вида:

dx(t,в) = Н, (t,в)X(t,G)dt + F(t,e)dY,,t е [rM,г,),

(1.33)

в котором Hl=aJ_i-A2y(t,e,O),F = A/(t,0,O). Естественным начальным условием является: х^(г,_[,0) = lim Это начальное условие означает, что

i-i

оптимальная оценка ищется как непрерывная функция. Решение задачи Коши (1.33) имеет следующий вид:

ДО

г ( Л Л (О

xW(rM,0)+ J ехр - J Ht{v,6)dv т>-\ V r/-i

F(s,d)dYs

ехр

j Н, (s,0)ds

(1.34)

Через решение (1.34) выражается условная оценка:

Оптимальная оценка:

т^) = Ев(т(ив)), (1.36)

Формулы (1.36) совместно с формулами (1.35) и (1.32) определяют оптимальный фильтр.

Один из результатов фильтрации случайного процесса согласно описанному выше методу представлен на рис. 1.2.

Рис. 1.2. Оценка сигнала т(/), полученная по формуле (1.36)

Список литературы диссертационного исследования кандидат наук Мисюра, Илья Владимирович, 2015 год

СПИСОК ЛИТЕРАТУРЫ

1. Johnson, Н. Option pricing when the variance is changing / H. Johnson and D. Shanno. // Journal of Financial and Quantitative Analysis, 1987. - vol. 22. - P. 143— 151.

2. Hull, J. The pricing of options on assets with stochastic volatilities / J Hull and A. White. // Journal of Finance and Quantitative Analysis, 1987. - vol. 42, no. 2. - P. 281— 300.

3. Scott, L. Option pricing when the variance changes randomly: theory, estimation and an application / L. Scott. // Journal of Financial and Quantitative Analysis, 1987. -vol. 22. - P. 419-438.

4. Wiggins, J. B. Option values under stochastic volatility: theory and empirical estimates / J. B. Wiggins. // Journal of Financial Economics, 1987. - vol. 19, no. 2 - P. 351-372.

5. Stein, E. Stock price distributionswith stochastic volatiliy: an analytic approach / E. Stein and J. Stein. // Reviews of Financial Studies, 1987. - vol. 4, no. 4 - P. 727-752.

6. Heston, S. A closed-form solution for options with stochastic volatility with applications to bondand currency options / S. Heston. // Reviews of Financial Studies, 1993. - vol. 6, no. 2 - P. 327-343.

7. Schobel, R. Stochastic volatility with an Ornstein-Uhlenbeck process: an extension / R. Schobel and J. Zhu. // European Financial Review, 1999. - vol. 3 - P. 23-46.

8. Rogers, L. C. G. A stochastic volatility alternative to SABR / L. C. G. Rogers and L. A. M. // Journal of Applied Probability, 2008. - vol. 45, no. 4 - P. 1071-1085.

9. Липцер, P. Ш. Нелинейная фильтрация диффузионных марковских процессов / Р. Ш. Липцер, А. Н. Ширяев // Труды МИАН им. В.А. Сгеклова АН СССР, 1968.-Том 104.-С. 135-180.

10. Bain, A. Fundamentals of stochastic filtering / A. Bain, D. Crisan. - Springer, 2009.-P. 390.

11. Shuss, Z. Nonlinear filtering and optimal tracing / Z Shuss. - Springer, 2012. - P. 262.

12. Липцер, Р.Ш. Статистика случайных процессов (нелинейная фильтрация и смежные вопросы) / Р.Ш. Липцер, А.Н. Ширяев. - М.: Наука, 1974. - 696 с.

13. Липцер, Р.Ш. Интерполяция и фильтрация скачкообразной компоненты Марковского процесса / Р.Ш. Липцер, А.Н. Ширяев // Известия АН СССР, серия математическая, 1969. - т. 33 - С. 901-914.

14. Демин, Д. Фильтрация монотонных выпуклых сигналов, искаженных шумом, и оценка положения особых точек / Д. Демин, А. Чуликов // Фундаментальная и прикладная математика, 2009. - том 15, № 6 - С. 15—31.

15. Белицер Э. Адаптивная фильтрация случайного сигнала в гауссовском белом шуме / Э. Белицер, Ф. Еникеева // Проблемы передачи информации, 2008. -т.44, в.4-С. 39-51.

16. Голубев, Г. О восстановлении сигналов в белом шуме с помощью словарей / Г. Голубев // Проблемы передачи информации, 2009. - т.45, в. 4, - С. 91-106.

17. Jackel, P. Monte Karlo methods in Finance / P. Jackel. - Jon Wiley & Sons, 2001.-P. 219.

18. Харин, Ю.С. Основы имитационного и статистического моделирования / Ю.С. Харин, В.И. Малюгин, В.П. Кирлица. - М.:МГУ, 1997. - 287 с.

19. Бахвалов, Н.С. Численные методы / Н.С. Бахвалов, Н.П. Жидков, Г.М. Кобельков. - М.: Наука, 1999. - 630 с.

20. Воеводин, В.В. Вычислительные процессы с теплицевыми матрицами / В.В. Воеводин, Е.Е. Тыртышников - М.: Наука, 1987. - 319 с.

21. Кузнецов, Ю.И. Проблема собственных значений симметричной теплицевой матрицы / Ю.И.Кузнецов // Сибирский журнал вычислительной математики, 2009. -т. 12, В.4-С. 403-407.

22. Karatzas, I. Brownian motion and stochastic calculus / I. Karatzas, E. Sherve. -Springer, 1991.-P. 470.

23. Оксендаль, Б. Стохастические дифференциальные уравнения / Б. Оксендаль. - М.:Мир, 2003.-406 с.

24. Булинский, А. Теория случайных процессов / А. Булинский, А. Ширяев. -М.:Наука, 2005.-402 с.

25. Medvegyev, P. Stochastic integration theory / P. Medvegyev. - Oxford, 2007. -629 c.

26. Protter, F. Stochastic integration and differential equations / F. Protter. -Springer, 2004.-P.415.

27. Zakai, M. On the optimal filtering of diffusion processes / M. Zakai // Z. Wahrschein-1 ichkeitstheorie und Verw, 1969. - Gebiete, 11 - P. 230-243.

28. Wonham, M. Some applications of stochastic differential equations to optimal nonlinear filtering / M Wonham // J. Soc. Indust. Appl. Math. Ser. A Control, 1965. -no. 2-P. 347-369.

29. Stratonovich, R. L. Application of the theory of Markov processes for optimum filtration of signals / R. L. Stratonovich // Radio Eng. Electron. Phys, 1960. - no. 1 -P.1-19.

30. Lototsky, S. Optimal filtering of stochastic parabolic equations / S. Lototsky // In Recent Developments in Stochastic Analysis and Related Topics.World Scienti c, Hackensack, NJ, 2004. - P. 330-353.

31. Lototsky, S. Wiener chaos and nonlinear filtering / S. Lototsky // Appl. Math. Optim., 2006. - vol.54, no. 3 - P.65-291.

32. Zeitouni, O. On the reference probability approach to the equations of nonlinear filtering / O. Zeitouni, B. Bobrovsky // Stochastics, 1986. - vol.19, no. 3 - P.133-149.

33. Bhatt, A. G. Uniqueness and robustness of the solution of measure-valued equations of nonlinear filtering / A. G. Bhatt, G. Kallianpur, and R. L. Karandikar // Ann. Probab., 1995.-vol.23, no. 4 - P.1895-1938.

34. Kalman, R. New results in linear filtering and prediction theory / Kalman R. and Bucy R.//Trans. ASME, Ser. D, J. Basic Eng., 1961.-no. 108-P.83-95.

35. Kloeden, K. Numerical solution of stochastic differential equations / K. Kloeden, E. Platen. - Springer, 1995. - P. 632.

36. Белявский, Г. Диффузионные модели со случайным переключением параметров. Расчеты и финансовые приложения / Г. Белявский, Н. Данилова. -Lambert Academic Publishing, Saarbrucken, 2012. - 122 с.

37. Chourdacis, К. Continues time regime switching models and applications in estimating processes with stochastic volatility and jumps / K. Chourdacis // Department of economics Queen Mary university of London, working paper, 2002. -N464 - P. 52.

38. Белявский, Г. Вычисление капитала оптимального портфеля с помощью комбинированного метода Монте-Карло в нелинейных моделях финансовых индексов / Белявский Г., Данилова Н. //Siberian Electronic Mathematical Reports, 2014. - т. 11 -С. 1021-1034.

39. Bardornff-Nielsen, О. Exponentially decreasing distributions for the logarithm of particle size / O. Bardornff-Nielsen // Proceeding of Royal Society, London, 1977. -Ser. A. V353 -P. 401-419.

40. Филиппов, А. Дифференциальные уравнения с разрывной правой частью / А. Филиппов. - М.:Наука, 1985. - 224 с.

41. Engle, R. Autoregressive conditional heterocsedasticity with estimation of the variance of United Kingdom inflation / R. Engle // Econometrica, 1982. - P. 987-1008.

42. Ширяев, А. Основы стохастической финансовой математики. Факты. Модели / А. Ширяев. - Фазис, 1998. - 487 с.

43. Xekalaki, Е. ARCH models for financial applications / E. Xekalaki, S. Dgiannaks. - Willey, 2010. - P. 520.

44. Bollerslev, T. Generalized Autoregressive Conditional I-Ieteroscedasticity / T. Bollerslev // Journal of Econometrics, 1986. - no. 31 - P. 307-327.

45. Schwert, G. Heteroskedasticity in stock returns / G. Schwert, P. Segnin //Journal of finance, 1990. - vol. 45 - P. 1129-1155.

46. Жакод, Ж. Предельные теоремы для случайных процессов Т.1, 2. / Ж. Жакод, А. Ширяев. - М: Физматлит, 1994 - 542 с.

47. Липцер, Р. Теория мартингалов / Р. Липцер, А. Ширяев. - М.: Физматлит, 1986.-512 с.

48. Johnson, H. Option pricing when the variance is changing / H. Johnson, D. Shanno // Journal of Financial and Quantitative Analysis, 1987. - vol. 22 - P. 143—151.

49. Hull, J. The pricing of options on assets with stochastic volatilities / J. Hull, A. White // Journal of Finance, 1987. - vol. 42, no. 2 - P. 281-300.

50. Scott, L. Option pricing when the variance changes randomly: theory, estimation and an application / L. Scott // Journal of Financial and Quantitative Analysis, 1987. -vol. 22-P. 419-438.

51. Wiggins, J. B. Option values under stochastic volatility: theory and empirical estimates / J. B. Wiggins. // Journal of Financial Economics, 1987. - vol. 19, no. 2 -P.351-372.

52. Stein, E. Stock price distributions with stochastic volatility: an analytic approach / E. Stein and J. Stein. // Reviews of Financial Studies, 1991.- vol. 4, no.4 - P. 727-752.

53. Heston, S. A closed-form solution for options with stochastic volatility with applications to bondand currency options / S. Heston. // Reviews of Financial Studies, 1993,- vol. 6, no. 2 - P. 327-343.

54. Schobel, R. Stochastic volatility with an Ornstein-Uhlenbeck process: an extension / R. Schobel, J. Zhu. // European Financial Review, 1999 - vol. 3, no. 1 -P.23-46.

55. Rogers , L. C. G. A stochastic volatility alternative to SABR / L. C. G. Rogers and L. A. M. Veraart. // Journal of Applied Probability, 2008. - vol. 45, no. 4 - P. 1071-1085.

56. Kushner, H. J. Numerical methods for stochastic control problems in continuous time / H. J. Kushner. // SIAM Journal of Control and Optimization, 1990. - vol. 28, no. 5-P. 999-1048.

57. Uhlenbeck, G. On the theory of the brownian motion / G. Uhlenbeck and L. Ornstein// Physical review, 1930.-vol. 36-P. 823-841.

58. Флеминг, У. Оптимальное управление детерминированными и стохастическими системами / У. Флеминг, Р. Ришел. - М.: Мир, 1978 - 316 с.

59. Бахвалов, Н. Численные методы / Н. Бахвалов, Н. Жидков, Г. Кобельков. -М.: Бином. Лаборатория знаний, 2003. -423 с.

60. Базара, М. Нелинейное программирование / М. Базара, К. Шетти. - М.:Мир, 1982.-583 с.

61. Жакод, Ж. Предельные теоремы для случайных процессов / Ж. Жакод, А. Ширяев. - М.: Физматлит, 1994. - 544 с.

62. Piccioni, М. Convergence of implicit discretization schemes for linear differential equations with application to filtering / M. Piccioni. // Springer-Verlag, Stochastic Partial Differential Equations and Applications, Lecture Notes in Mathematics, 1987. -vol. 1236.-P. 208-229.

63. Carr, P. Randomization and the American put / P. Carr. // The review of financial studies, 1998. - vol. 11, no. 3 - P. 597-626.

64. Kunsch, Hans R. Recursive Monte Carlo filters: Algorithms and theoretical analysis / Hans R. Kunsch. // Annals of Statistics, 2005. - vol. 33, no. 5 - P. 19832021.

65. Chopin, N. Central limit theorem for sequential Monte Carlo methods and its application to Bayesian inference / N. Chopin. // Annals of Statistics, 2004. - vol. 32, no. 6-P. 2385-2411.

66. Соболь, И. Численные методы Монте-Карло / И. Соболь. - М.: Наука, 1973. -312 с.

67. Ермаков, С. Статистическое моделирование / С. Ермаков, Г. Михайлов. -М.: Физматлит, 1982. - 296 с.

68. Пригарин, С. Введение в численное моделирование случайных процессов и полей / С. Пригарин. - Новосиб.: Издательствово НГУ, 1999.

69. Beliavskiy, G. I. The signal filtration under switching regime model. The Monte-Carlo evaluation / G. I. Beliavskiy, I. V. Misyura // Applied Mathematical Sciences, 2014. - Vol. 8, no. 177 - P. 8833-8840.

70. Мисюра, И.В. Фильтрация сигнала для модели стохастической волатильности / И.В. Мисюра // Известия высших учебных заведений. СевероКавказский регион, 2014 - №6 - С. 27-31.

71. Оппенгейм, А. В. Цифровая обработка сигналов / А.В. Оппенгейм, Р.В. Шафер. - М.:Связь, 1979.-416 с.

72. Даджион, Д. Цифровая обработка многомерных сигналов / Д. Даджион, Р. Мерсеро. - М.:Мир, 1988. -488 с.

73. Марпл, С. JI. Цифровой спектральный анализ и его приложения / С. JT. Марпл. - М.: Мир, 1990. - 584 с.

74. Хемминг, Р.В. Цифровые фильтры / Р.В. Хемминг. - М.: Недра, 1987. -221 с.

75. Robler, A. Runge-Kutta method for numerical solution of stochastic differential equations / A. Robler. - Dissartation (dr. rer. nat), Darmstad, 2003. - P. 217.

76. Cai, Z. An adaptive local grid renitent method for nonlinear filtering / Z. Cai, F. Le Gland, and H. Zhang. // Technical Report, INRIA, 1995. - vol. 2679 - Режим доступа: https://hal.inria.fr/inria-00074012.

77. Oksendal, В. Applied stochastic control of jump diffusion / B. Oksendal, A. Sulem. - New York: Springer Verlag, 2004. - P. 208.

78. Липцер, Р.Ш. Интерполяция и фильтрация скачкообразной компоненты Марковского процесса / Р.Ш. Липцер, А.Н. Ширяев. // Изв. АН СССР, сер. матем., 1969.-т. 33-С. 901-914.

79. Nelson, D. Conditional heteroskedasticity in asset returns: a new approach / D. Nelson // Econometrics, 1990. - no. 59 - P. 347-370.

80. Nelson, D. Filtering and forecasting with misspecified ARCH model / D. Nelson. // Journal of Econiometrics, 1992. - vol. 52 - P. 61-90.

81. Tong, H. Threshold models in non-linear time series analysis / H. Tong. - New York etc: Springer, 1983. - P. 323.

82. Douc, R. Nonlinear Time Series: Theory, Methods and Applications with R Examples / R. Douc, E. Moulines, D. Stoffer. - Taylor and Fransis group, 2014. — P. 551.

83. Dacorogna, V. Moment Condition for the HARCH(k) Models / V. Dacorogna, U. Muller, P. Embrechts, G. Samorodnisky. - Preprint. Zurich: Olsen & Associates, 1995.

84. Muller, U. Volatilities of different time resolution -analyzing the dynamic markets components / U. Muller, M. Dacorogna, R. Dave, R. Olsen, O. Pictet, J. Weissaker// Journal of Empirical Finance, 1997. - vol. 4, issues 2-3 - P. 213-239.

85. Голуб, Д. Матричные вычисления / Д. Голуб, Ч. Ван Лоун. - М.: Мир, 1999. -548 с.

86. Воеводин, В. Вычислительные процессы с теплицевыми матрицами / В. Воеводин, Е. Тыртышников. - М.: Наука, 1987. - 320 с.

87. Тыртышников, Е.Е. Теплицевы матрицы, некоторые их аналоги и приложения / Е.Е. Тыртышников. - М.: ОВМ АН СССР, 1989. - 184 с.

88. Кузнецов Ю. Проблема собственных значений симметричной теплицевой матрицы / Ю. Кузнецов. // Сиб. журн. вычисл. математики, 2009. —Т. 12, № 4. -С. 403-407.

89. Беллман, Р. Динамическое программирование и уравнения в частных производных / Р. Беллман, Э. Энджел. - М.: Мир, 1974. - 204 с.

90. Роббинс, Г. Эмпирический подход к задачам теории статистических решений / Г. Роббинс // Математика. - том 10, № 5, 1966. - С. 122-140.

91. Демьянов, В.Ф. Введение в минимакс / В.Ф. Демьянов. - М.: Наука, 1972. -368 с.

92. Белицер, Э. Адаптивная фильтрация случайного сигнала в гауссовском белом шуме / Э. Белицер, Ф. Н. Еникеева. // Пробл. передачи информ., 2008. - том 44, №4-С. 39-51.

93. Ширяев, А.Н. Статистический последовательный анализ / А.Н. Ширяев. -М.: Наука, 1976.-272 с.

94. Козинов, И. Модифицированный алгоритм разладки случайного процесса и его применение при обработке многоспектральных данных / И. Козинов, Г. Мальцев // Информационно-управляющие системы, 2012. - том 36 № 58 - С. 9 -17.

95. Салов, Г.И. Задача о разладке для скачкообразного марковского процесса / Г.И. Салов // Сиб. журн. индустр. матем., 2008. - том 11, №1 - С. 111-121.

96. Добеши, И. Десять лекций по вейвлету / И. Добеши. - Ижевск: «Регулярная и хаотическая динамика», 2001 - 460 с.

97. Dente, J. Characteristic functions and process identification by neural networks / J. Dente, R. Mendes//Neural Networks, 1997.-vol. 10, no. 8-P. 1465- 1471.

98. Beer, M. Neural network based Monte Carlo simulation of random processes / M. Beer, P. D. Spanos, G. Augusti, G. Shueller, M. Ciampoli as ed. // ICOSSAR, 2005. -Roterdam: Millpress. - P. 2179 - 2186.

99. Balasubramaniam, P. Delay-dependent robust exponential state estimation of Markovian jumping fuzzy Hopfield neural networks with mixed random time-varying delays / P. Balasubramaniam, P. Vembarasan, R. Rakkiyappan. // Communications in Nonlinear Science and Numerical Simulation, 2011.-vol. 16-P. 2109-2129.

100. Leen, T. Approximating distributions in stochastic learning / T. Leen, R. Friel, D. Nielsen. // Neural Networks, 2012. - vol. 32 - P. 219 - 228.

101. Han, H. Efficient self-organizing multilayer neural network for nonlinear system modeling / H. Han, L. Wang, J. Qiao // Neural Networks, 2013. - vol. 43 - P. 22 - 32.

102. Прохоров, Ю.В. Вероятность и математическая статистика: Энциклопедия / Ю.В.Прохоров. - М.: Большая российская энциклопедия, 2003 - 912 с.

103. Белявский, Г.И. Алгоритм и программная реализация гибридного метода обучения искусственных нейронных сетей / Г.И. Белявский, В.Б. Лила, Е.В. Пучков // Программные продукты и системы, 2012. - № 4 - С. 96 - 101.

104. Goldberg, D. Е. Genetic Algorithms in Search, Optimization, and Machine Learning / D. E. Goldberg. - Massachusetts: Addison-Wesley, 1989. - P. 432.

105. Гладков, Л.А. Генетические алгоритмы / Л.А. Гладков, В.В. Курейчик, В.М. Курейчик. - М.: Физматлит, 2006. - 320 с.

106. Gentle, J. Random number generation and Monte-Carlo method / J. Gentle. -Springer, 2003.-P. 381.

107. Мисюра, И.В. Один метод фильтрации случайного сигнала / PI.B. Мисюра. // — Обозрение прикладной и промышленной математики, 2010. - том 17, выпуск 6 -С. 911-912

108. Мисюра, И.В. Фильтрация в дискретном времени винеровского процесса со скачком / И.В. Мисюра. // Обозрение прикладной и промышленной математики, 2011.-том 18, выпуск2-С. 317.

109. Мисюра, И.В. Фильтрация в моделях со скачками. Метод Монте-Карло / И.В. Мисюра // Обозрение прикладной и промышленной математики, Москва ТВП, 2013. - том 20, выпуск 3 - С. 517 - 518.

110. Мисюра, И.В. Обработка и фильтрация сигналов. Современное состояние проблемы [Электронный ресурс] / И.В. Мисюра, В.В. Мисюра // Инженерный Вестник Дона, 2013. - №4 - Режим доступа: http://www.ivdon.ru/magazine/archive/n4y2013/2130

111. Белявский, Г.И. Фильтрация сигналов со скачками, возникающими в дискретном времени и с конечным горизонтом / Г.И. Белявский, И.В. Мисюра. // Научно-технические ведомости СПбГПУ. Физико-математические науки, 2014. -выпуск 2 (194) - С. 137 - 143.

112. Белявский, Г.И. Нейросетевой предсказатель с вейвлет-ядром / Г.И. Белявский, И.В. Мисюра. // Известия высших учебных заведений. СевероКавказский регион. Естественные науки, 2014. - № 3 - С. 11-13.

113. Белявский, Г.И. Одношаговый нейросетевой вейвлет предиктор сигналов / Г.И.Белявский, И.В. Мисюра // Обозрение прикладной и промышленной математики, 2014. - том 21, выпуск 1 - С. 36 - 37.

114. Мисюра, И. В. Предсказание тенденций развития случайных процессов / И.В. Мисюра, В.В. Мисюра // Обозрение прикладной и промышленной математики, 2014. -том 21, выпуск 1 - С. 652 - 653.