Одноэтапные последовательные процедуры оценивания параметров динамических систем тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат наук Емельянова Татьяна Вениаминовна

• Емельянова Татьяна Вениаминовна
• кандидат наук
• 2016

Оглавление диссертации кандидат наук Емельянова Татьяна Вениаминовна

ВВЕДЕНИЕ

1. Последовательное оценивание параметров непрерывной авторегрессии

1.1 Постановка задачи

1.2 Построение последовательной процедуры

1.3 Свойства выборочной информационной матрицы Фишера

1.4 Теоретические свойства последовательного плана

1.5 Результаты численного моделирования

2. Последовательное оценивание параметров непрерывной тригонометрической регрессии на фоне зависимых шумов Орнштейна-Уленбека

2.1 Постановка задачи. Построение одноэтапной последовательной процедуры

2.2. Свойства выборочной информационной матрицы Фишера

2.3. Теоретические свойства последовательного плана

2.4 Результаты численного моделирования

3. Последовательное оценивание периодического сигнала на фоне авторегрессионного шума

3.1 Постановка задачи. Построение последовательной процедуры

3.2 Свойства выборочной информационной матрицы Фишера

3.3 Теоретические свойства последовательного плана

3.4 Экспериментальное исследование процедуры

ЗАКЛЮЧЕНИЕ

СПИСОК ЛИТЕРАТУРЫ

ПРИЛОЖЕНИЕ А

ВВЕДЕНИЕ

Актуальность и степень разработанности темы исследования. В

теоретических и прикладных исследованиях, связанных с задачами обработки временных рядов и их спектральным анализом, задачами автоматического управления и регулирования, идентификации и фильтрации, в физике и финансовой инженерии широко используются динамические системы, описываемые стохастическими дифференциальными и стохастическими разностными уравнениями. Модели, описываемые стохастическими дифференциальными уравнениями, использовались, например, в работах [2, 3] для описания прецессии и нутации земной оси (так называемого чандлеровского колебания), при изучении солнечной активности, а также в электротехнике и радиотехнике. Широкое применение эти модели в последнее время находят в стохастической финансовой математике [38, 58] для описания динамики цен, построения инвестиционных стратегий, расчета опционов различных типов и других финансовых расчетов. В прикладных задачах эти уравнения задаются с точностью до параметров, поэтому решению основных задач фильтрации, прогнозирования, управления обычно предшествует этап идентификации, заключающийся в оценивании неизвестных параметров. Для оценивания неизвестных параметров динамических систем разработаны различные методы, такие как метод максимального правдоподобия [1, 2, 5, 26], наименьших квадратов [1, 5], наименьших модулей [28, 32], стохастической аппроксимации [9, 29] и др. В теории идентификации наиболее глубоко изучены асимптотические свойства оценок, полученных в предположении, что процесс наблюдений динамической системы может продолжаться достаточно долго. Классические результаты по асимптотической теории оценивания подробно изложены в монографиях Андерсена [1], Ибрагимова и Хасьминского [19], Липцера и Ширяева [26], Льюинга и Содерстрома [67]. В работе [64] доказана сильная состоятельность оценок параметров процесса авторегрессии по методу наименьших квадратов при достаточно общих ограничениях на шумы и

произвольных значениях параметров. В последние годы развитию асимптотических методов посвящено большое число исследований, которые существенно расширяют рамки применения этих методов. Отметим, например, работы [44, 55, 68, 77]. Остановимся подробнее на некоторых общих результатах, связанных с тематикой данной работы. В статье [44] для описания динамики цен на сырье и энергоресурсы предлагается использовать обобщенный процесс Орнштейна-Уленбека с периодическим средним, описываемый стохастическим дифференциальным уравнением вида

dXt = (L(t) - aXt )dt + adWt, t > 0, X0 = £,

p

где a, a - некоторые положительные постоянные, L(t) = ^j((t)

i=1

периодическая функция, ju1, ju2,..., jup - неизвестные параметры, (p1(t ),(2(t),..., (pp (t)- базисные функции, L(t + v) = L(t).

Предполагается, что ((t),(2(t),...,(p(t) - ортонормированная система в

L

[0,v],—dA v

\ v

т. е f(j (t((t )dt

J 0 Вводя обозначения

V, j=k

10, j ф k.

Y (t) =

( )Л

(p (t) v X (t),

в

j

v ay

уравнение процесса можно записать в векторном виде

= вУ (* )( +

В статье [44] предлагается оценка вектора неизвестных параметров в по методу максимального правдоподобия:

вМЬ QT PT

Здесь QT е R(p+1)x(p+1) и PT e R(p+1) определены как

а

г — ^

т

^ Ьт у

Рт

)лх(,...,\рр (' )ах,,-\х,ах,

V 0 0 0 у

,т - , ((Р]Ш(')#) е Ярхр, ат = [Тъ(')Х,й,..., Г(рр(ОХ^)', Ьт = (Х?Л

V 1< у, к < р V у

Установлена сильная состоятельность и асимптотическая нормальность этой оценки. В работе [68] исследованы свойства М-оценок (оценок по типу максимального правдоподобия) для данных, описываемых многомерной линейной моделью с шумами, имеющими распределение с «тяжелыми хвостами». Показана асимптотическая нормальность этих оценок при определенном выборе функций потерь.

Модели процессов, задаваемых стохастическими дифференциальными и разностными уравнениями, включающими неизвестные параметры, находят широкое применение при решении задачи оценивания спектров случайных процессов. При этом задача оценивания спектральных свойств процесса сводится к оцениванию неизвестных параметров уравнений. Такой подход является альтернативой другого известного метода, основанного на построении периодограмм и их сглаживания [8, 36, 41, 42]. Отметим, что в одной из последних статей Бриллинджера предлагается для оценивания спектра использовать периодограммы к-го порядка. Показано, что предлагаемые оценки распределены как комплекснозначные гауссовские величины.

При рассмотрении задач идентификации первостепенную роль играют вопросы качества получаемых оценок. В приложениях наиболее часто качество оценки измеряется ее среднеквадратической точностью. При практическом использовании оценок, свойства которых удается исследовать только при асимптотических предположениях, часто исходят из того, что для малых и умеренных объемов данных выборочные свойства оценок близки к асимптотическим. Однако это условие выполняется не всегда и может приводить к ошибочным выводам. Поэтому задача неасимптотического анализа свойств оценок представляется актуальной. Важным подходом, позволяющим получить решение задачи идентификации параметров систем в неасимптотической

г

постановке, является подход с позиций последовательного анализа. Особенность последовательных методов состоит в том, что длительность процедуры не фиксируется заранее, а определяется в ходе наблюдений процесса.

Первоначально последовательные методы строились для схем независимых наблюдений [76]. Теория неасимптотического оценивания параметров процессов с зависимыми значениями стала развиваться сравнительно недавно. Теория неасимптотического оценивания параметров стохастических систем, описываемых уравнениями диффузионного типа, берет свое начало в работах Новикова, Липцера и Ширяева [26, 30, 31], в которых рассматривалась задача оценивания параметра О диффузионного процесса, описываемого стохастическим дифференциальным уравнением вида

¿X, = О (X)& + Ж,, по наблюдениям процессов и / (здесь - стандартное броуновское движение). В этих работах было предложено в оценке максимального правдоподобия

От =1} /ЛX} / (Xух.

вместо детерминированного момента Т ввести специальное правило остановки наблюдений

Г t \

г

V о

I

тн (х ) = М I:} /22 (х ^ = Н

и в качестве оценки неизвестного параметра 0 использовать последовательную оценку максимального правдоподобия, определенную равенством:

,(Х)

Н

1 Тн (X)

5н (X) = Н } / (X

Последовательная оценка обладает рядом преимуществ перед классической оценкой максимального правдоподобия (МП): она является несмещенной и позволяет контролировать среднеквадратическую точность оценивания путем выбора порога процедуры Н. Свойства последовательной оценки

сформулированы в виде теоремы [26]: Пусть для всех в, - да < в < да,

Р,|| у2 (X = да | =

Тогда последовательные планы Лн = Л(тн,дн), 0 < Н <да , где

( ' л Тн (х ) = М ': | // (х Л = Н

V

и

1 Тн (х)

¿н (х) = - | у (х

Н

обладают следующими свойствами:

Рв(т- (х) < да) = 1, - да < в < да (замкнутость), Евдн(х) = в, - да < в < да (несмещенность),

Ев [дн (х) - в]2 = — (гарантированность). Н

Случайная величина 8Н (х) является гауссовской, N

V Н У

В работе [26] устанавливается также оптимальность последовательного плана ЛН = Л(тн , дн) в классе ЛН всех несмещенных последовательных планов Л(а,д), с моментом остановки а, удовлетворяющим условию

/ 1 Л в Н

Р,

и < да

= Р,

| И № Л

<да

=1

| у2 (х >Й

,0

и последовательными оценками 3 такими, что

а

Евд2(х)<да,Ев|У2(х< Н,

0

где Н - заданная константа, 0 < Н < да. Доказано, что в этом классе последовательных планов план Л н =Л(тн ,дн) является оптимальным в среднеквадратическом смысле, т.е. для всех д е ЛН:

Ej*H(X)-o]2 < Ee[s(X)-o]2.

Важной характеристикой последовательной процедуры является ее средняя длительность. В работах [26, 30, 31] найдены явные аналитические формулы для верхней и нижней границы средней длительности процедуры в зависимости от параметра процесса 0 и величины порога H, определяющего момент остановки. Верхняя граница для средней длительности последовательной процедуры E0th (X) удовлетворяет неравенству:

Евтн (X) < 2[o|H + 2VH]+д/8(02H2 + 4H)+ 2H, - да < 0 < да. Нижняя граница для средней длительности процедуры E0th (x) имеет вид:

E0th (x) > -20h, 0< 0. Сравнение классических оценок максимального правдоподобия с фиксированной длительностью наблюдений с последовательными оценками показало, что классические оценки МП уступают по качеству последовательным оценкам: они являются смещенными, и вопрос об их среднеквадратической точности остается открытым.

Проблема несмещенного гарантированного оценивания для моделей с дискретным временем впервые была решена Борисовым и Коневым [6]. В этой работе рассматривалась задача оценивания неизвестного векторного параметра X модели процесса xt , описываемого уравнениями

xf+i = Ao (t, x ) + A (t, x )X + B (t, x )£+i. (*)

Здесь (£t} - последовательность независимых n-мерных случайных векторов с M£t = 0 и cov(^,^)= E ; A0(t,x) - вектор-функция, A1(t,x) и B(t,x) - матричные функции, имеющие соответственно размеры n xl, n х m, n х n. Все элементы этих функций при каждом t могут зависеть не только от xt , но и от предыдущих значений: x0,...,xt-1, т.е. измеримы относительно <г-алгебры Ftx = a(x0,...,xt}.

Предполагается, что матрица BB является невырожденной при любых значениях своих аргументов (B - транспонированная матрица для B).

Постоянный ^-мерный параметр Я неизвестен, и задача состоит в том, чтобы построить для него последовательную оценку по реализации процесса х (.

Последовательный план оценивания вектора неизвестных параметров Я представляет собой пару (т( Н), Я*), где т( н) - длительность процедуры, а Я*

оценка параметра X по методу наименьших квадратов (МНК), вычисляемая в этот момент:

т(Н) = ш1п ]': £ 4 (5)(BB ')-1 (5) 4 (5) > Н

s=0

Я = -11 гт(5 Хх„1 - Л (5 )) н

5=0

Т-1

где От(')-

4Т(')( ВВ ')-1 ('), если' < т( Н) н41 (вво 1а1

а- 5=0

аА* (')(ВВ ')-1 ('), если' = т( Н) 4 (т)(ВВ ')-1 (т) 4 (т)

Как доказано в [6], оценки Я* являются несмещенными, а их

среднеквадратическая погрешность не превосходит сН-1, где с - известная положительная постоянная. Исследование несмещенного гарантированного оценивания в моделях вида (*) при менее ограничительных требованиях на функции динамики А0(', х), А1( ', х) и В( ', х) и на распределение шумов (в предположении, что последовательность шумов является мартингал-разностью) проводилось в работе [13].

Другой подход к конструкции последовательных планов оценивания, ориентированный на улучшение асимптотических свойств классических оценок был предложен в работе [65]. В ней для модели авторегрессии первого порядка

хк = Яхк-1 + а£к, к > 1 х0 = 0, где £к - независимые одинаково распределенные случайные величины с нулевым математическим ожиданием и единичной дисперсией, показано, что если ввести момент остановки

N = N(Н) = |й > 1: ¿х^ > Н|,

то последовательная оценка по методу наименьших квадратов (МНК), имеющая вид:

х

/ N Л-1 / N

^ Xk2—1 ^ Xk-1 Хк V k-1 у V k-1

является асимптотически нормальной равномерно для X е [-1,1] при H ^ да, т.е.

НтБир Бир

п^да щ<1 -®<?<да

(х -х)< *}-Ф

-

а

Ф(и) - стандартное нормальное распределение.

Благодаря дополнительной модификации правила остановки свойство равномерной сходимости к нормальному закону сохраняется и в случае неизвестной дисперсии шума о2 (Теорема 4.3 [65]). Ширяев и Спокойный [72] в предположении, что ошибки }кем являются независимыми нормальными величины, установили асимптотическую равномерную нормальность последовательной МНК-оценки и для взрывного случая авторегрессионной модели (|Л| > 1). Вышеупомянутые результаты оказались значимыми для установления локальной асимптотической минимаксности в смысле Гаека -Лекама (|Я| < 1) [54]. Конев и Пергаменщиков [61] сконструировали оценку с заданной среднеквадратической точностью для случая взрывной авторегрессионной модели с гауссовскими шумами и доказали ее асимптотическую минимаксность в классе последовательных процедур, основанных на правиле остановки N (И). В этом случае асимптотическая функция риска определена как

Я(Х)- Нтзир Бир Е^(рп - х))

где {рп }п6^ - последовательность нормализующих коэффициентов. Заметим, что, несмотря на то, что случаи взрывного и невзрывного процессов рассматривались отдельно, последовательная оценка МНК параметра авторегрессионной модели первого порядка асимптотически нормальна для всех —го < Я < В работах [40, 45, 73-76], рассматривалась задача оценивания параметров авторегрессионных моделей первого порядка в присутствии мешающих

параметров шума. Были разработаны двухвыборочные последовательные процедуры для асимптотически эффективного оценивания параметров таких моделей в присутствии мешающих параметров: сначала по выборке фиксированного объема оценивается неизвестная дисперсия шума, а затем по выборке случайного объема оценивается параметр авторегрессионной модели Я. В статье [61] предложена последовательная оценка для параметра Я модели авторегрессии первого порядка с неизвестной дисперсией шума, основанная на обобщенном методе МНК. Эта оценка имеет вид:

Л-и = (Т,к=1ук-1хк-1) 1(21к=1ук-1хк-1хк ),

где [ук-1] - последовательность весовых коэффициентов. Показано, что она имеет заданную среднеквадратическую точность, асимптотически нормальна и асимптотически минимаксна для обеих областей параметра Я, в том случае, когда о и Я из компакта на действительной оси. В случае неизвестной дисперсии построена двухвыборочная процедура: сначала по выборке фиксированного размера оценивается неизвестный параметр а, а потом по выборке случайного размера - параметр Я. В работе [48] рассматривается асимптотическое распределение последовательных оценок МНК для усеченной процедуры для модели устойчивой авторегрессии ЛЯ(1) с зависимыми шумами, имеющими известное распределение. Показано, что распределение последовательной оценки зависит от типа шумового распределения. Если шумы имеют распределение Котца, то последовательные оценки асимптотически нормальны. Если же шумы имеют смешанное нормальное распределение, то и последовательные оценки имеют также смешанное нормальное распределение. В обоих случаях сходимость является равномерной по параметрической области. Марков [27] предложил последовательные оценки МНК для параметра пороговой авторегресии первого порядка:

х = (01Хк-1 + £к при Хк-1 < 0 к \@2хк-1 + £к при Хк-1 > 0'

Найдено совместное асимптотическое распределение ошибок оценивания.

Последовательная процедура построения оценок МНК параметров множественной авторегрессии, не зависящая от расположения корней характеристического полинома, была предложена в работе [24]. В ней же доказано, что построенные таким образом оценки гарантируют заданную среднеквадратическую точность в зависимости от выбора порога процедуры.

Проблема построения несмещенных гарантированных планов оценивания процессов с дискретным и непрерывным временем для многомерных процессов с числом неизвестных параметров, не превышающих размерность процесса с шумами мартингального типа, исследовалась также в работах Воробейчикова и Конева [13], Васильева и Конева [11] и др.

Последующее развитие методов последовательного оценивания для моделей с непрерывным временем можно найти в работах [20, 21, 47-50, 52, 56, 59, 71].

В статье Лая [66] проведен исторический обзор развития проблематики последовательного анализа и его методов, сформулированы основные направления дальнейшего развития последовательного анализа и его применения в биомедицине, экономике, инженерии. В комментариях к этой статье Гош отметил, что практически все полученные с 1970 года полезные результаты последовательного анализа по своей природе имеют асимптотический характер и пока неясно, насколько близки аппрокимационные формулы к своим точным значениям, поэтому еще одним направлением в дальнейших исследованиях может быть имитационное изучение, а также численное моделирование для проверки адекватности каждого асимптотического результата.

Во многих прикладных задачах возникают стохастические модели с дискретным и непрерывным временем, в которых число неизвестных параметров превышает размерность наблюдаемого процесса. В таком случае возникают принципиальные трудности в построении оценок с гарантированной точностью. В работе [60] рассматривалась задача оценивания среднего в модели вида

X х (хп-1 - + х (хп - р - »)+ Леп,

где {еп } - последовательность независимых одинаково распределенных случайных величин, для которых Ееп = 0, Ее] = 1, вектор ^ = (х0,...,х-р+1) не зависит от последовательности еп. Показано, что при неизвестном значении X оценка по методу наименьших квадратов среднего ^ не достигает заданной среднеквадратической точности при любом фиксированном объеме выборки.

В работах Конева и Пергаменщикова [21, 62] впервые были разработаны двухэтапные последовательные методы, которые при достаточно общих условиях позволяют строить процедуры, обеспечивающие получение оценок неизвестных парамеров с любой заданной среднеквадратической точностью по конечной реализации процесса. Предложенные в [21, 62] процедуры обладают хорошими асимптотическими свойствами: оценки, полученные в результате применения этих процедур, являются асимптотически нормальными и асимптотически эффективными. При всех достоинствах двухэтапной процедуры она может оказаться достаточно сложной для практической реализации в случае многих неизвестных параметров, поскольку включает в себя два этапа и требует построения целой системы оценок МНК, вычисляемых в специальные моменты времени. На первом этапе строится последовательность модифицированных оценок МНК, каждая со своим правилом прекращения наблюдений, на втором этапе проводится процедура сглаживания оценок первого этапа, причем при сглаживании используется случайное число оценок, зависящее от требуемой точности оценивания неизвестных параметров. Поэтому возникает проблема построения более простых последовательных планов при наличии некоторой априорной информации об устойчивости процесса. Такая проблема для авторегрессионного процесса с дискретным временем исследовалась в работах Гальчука и Конева [51]. При этом вопрос гарантированного оценивания для процессов с непрерывным временем оставался открытым.

Введение диссертации (часть автореферата) на тему «Одноэтапные последовательные процедуры оценивания параметров динамических систем»

Цель работы

• Разработать одноэтапные последовательные процедуры оценивания параметров в применении к моделям авторегрессионного типа с непрерывным временем, а также к моделям регрессионного типа с зависимыми шумами.

• Подтвердить работоспособность процедур с помощью численного моделирования.

Для достижения цели были поставлены и решены следующие задачи:

1. Разработать и исследовать одноэтапную последовательную процедуру оценивания параметров авторегрессионной модели порядка р с непрерывным

временем.

2. Разработать и исследовать одноэтапную последовательную процедуру оценивания параметров для модели вида «сигнал плюс шум» с непрерывным временем.

3. Разработать и исследовать одноэтапную последовательную процедуру оценивания параметров для модели вида «сигнал плюс шум» с дискретным временем.

Методы исследования

Решение поставленных в диссертационной работе задач и достижение цели проводилось в рамках теории анализа временных рядов на основе последовательных методов статистики случайных процессов. При доказательстве теоретических результатов используются методы теории стохастического дифференциального исчисления, теории вероятностей, математического анализа, линейной алгебры и классической теории дифференциальных уравнений. Для подтверждения работоспособности процедуры и подтверждения теоретических выводов проводилось имитационное моделирование процессов по методу Монте-Карло.

Научная новизна

Новизна полученных в диссертационной работе результатов заключается в разработке одноэтапных последовательных процедур оценивания векторных

параметров в моделях, описываемых стохастическими дифференциальными и стохастическими разностными уравнениями. Разработанные процедуры позволяют контролировать среднеквадратическую точность оценок неизвестных параметров модели (в зависимости от порога процедуры). Данная методика является развитием подходов и методов последовательного анализа для идентификации параметров динамических систем.

Теоретическая и практическая значимость. Результаты, полученные в диссертационной работе, носят фундаментальный характер с перспективами научно-практических приложений и могут применяться в различных областях науки и техники, таких как финансовая математика, геофизика, метеорология и других. Кроме того, полученные результаты могут быть использованы при решении прикладных задач, связанных с идентификацией систем, управлением, статистической обработкой данных и прогнозированием.

Исследования проводились в международной лаборатории статистики случайных процессов и количественного финансового анализа в рамках Программы «Научный фонд им. Д.И. Менделеева Томского государственного университета».

Обоснованность полученных в работе результатов и достоверность выводов обеспечивается строгим математическим обоснованием в форме теорем. Теоретические результаты, касающиеся среднеквадратической точности оценок и длительности разработанной процедуры, подтверждены имитационным моделированием.

На защиту выносятся

1. Одноэтапная последовательная процедура оценивания параметров авторегрессионной модели порядка р , позволяющая контролировать

среднеквадратическую точность оценок, теорема о средней асимпотической длительности предлагаемой процедуры и результаты имитационного моделирования для данного метода.

2. Одноэтапная последовательная процедура для модели тригонометрической регрессии с зависимыми шумами авторегрессионного типа с

непрерывным временем, теорема о средней асимпотической длительности предлагаемой процедуры и результаты имитационного моделирования для данного метода.

3. Одноэтапная последовательная процедура для модели тригонометрической регрессии с зависимыми шумами авторегрессионного типа с дискретным временем, теорема о средней асимпотической длительности предлагаемой процедуры и результаты имитационного моделирования для данного метода.

Личный вклад автора заключается в совместной с научным руководителем постановке задач, анализе результатов исследований, формулировке выводов и положений, выносимых на защиту. Непосредственно автором были доказаны теоремы, проведены аналитические вычисления и численные эксперименты. В диссертацию вошли результаты, полученные как лично автором, так и разработанные в соавторстве с научным руководителем.

Апробация работы. Основные результаты работы были представлены на следующих конференциях:

1. Всероссийская конференция по математике и механике, Томск, 2-4 октября 2013 г.

2. V Международная конференция «Математика, ее приложения и математическое образование», Улан-Удэ, 23-28 июня 2014 г.

3. The 1st International Academic Congress «Fundamental and Applied Studies in the Pacific а^ Atlantic Oceans Countries», Токио, 25 октября 2014 г.

4. Международная научно-практическая конференция «Актуальные задачи математического моделирования и информационных технологий», Сочи, 15-24 мая 2015 г.

5. Молодежная научная конференция «Все грани математики и механики», Томск, 24-30 апреля 2015.

6. Международная научная конференция «Робастная статистика и финансовая математика», Томск, 01-02 июля 2015 г.

7. Applied Methods of Statistical Analysis. Nonparametric Approach. -AMSA'2015, Novosibirsk, 14-19 September, 2015.

Публикации. Основное содержание диссертации изложено в 9 работах, в том числе 3 статьи в журналах, входящих в Перечень рецензируемых научных изданий, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученой степени кандидата наук, на соискание ученой степени доктора наук, и 6 публикаций в других научных изданиях, включая сборники материалов международных и всероссийских научных конференций.

Объем и структура работы. Кандидатская диссертация включает в себя введение, 3 главы, заключение , список литературы и приложение. Объем работы составляет 111 страниц, включая 13 рисунков и 6 таблиц. Список литературы содержит 79 наименований.

Во введении обоснована актуальность исследуемой проблемы и выбор объектов и методов исследований. Проведен обзор работ, связанных с идентификацией динамических систем. Сформулированы цель и задачи работы, изложены основные положения, выносимые на защиту, раскрыта их практическая ценность, описана структура кандидатской диссертации.

В первой главе диссертационной работы построена одноэтапная последовательная процедура для оценивания параметров вх,в2,...,вр модели

процесса непрерывной устойчивой авторегрессии произвольного конечного порядка p > 2, описываемой стохастическим дифференциальным уравнением

dXp-1) = (в x\p-1) + — + врх( )dt + <jdwt, с начальным условием х0 = <; и

1 <

рациональной спектральной плотностью, имеющей вид f {л) =

2 '

|0(х)|

Предлагаемый последовательный план оценивания неизвестных параметров позволяет контролировать среднеквадратическую точность получаемых оценок посредством выбора порогового значения процедуры. Получена асимптотическая формула для средней длительности процедуры. Проведено экспериментальное

исследование процедуры на примере процесса устойчивой авторегрессии второго порядка с непрерывным временем.

Во второй главе диссертационной работы рассматривается задача оценивания параметров а0, а k, k=1, 2, /=1,..., r сигнала

r

St = а0 + X ап cos (¡t + а/2 sin olt, t > 0,

i=i

по наблюдениям процесса

X = St + 4.

Здесь ol - известные положительные параметры, ot ф юк при l ф k, 4 - шум, задаваемый процессом Орнштейна-Уленбека:

d%t = Á<;tdt + dWt,

в котором Wt - винеровский процесс, Л< 0 - мешающий параметр, начальное значение 4 не зависит от процесса (Wt )t>0. Для оценивания неизвестных параметров модели построена одноэтапная последовательная процедура, гарантирующая заданную среднеквадратическую точность оценивания. Исследованы теоретические свойства последовательного плана. Проведено экспериментальное исследование процедуры.

В третьей главе рассматривается задача оценивания параметров j, ¡2, Pj1, Pj 2, j = 1,..., r тригонометрического сигнала

r

Sn = ¡1 + (-1)" ¡2 + X в 1 cos (OjU + Pj 2 sin (OjU

j=1

по наблюдениям процесса

Xn = Sn + 4 .

Здесь 4 - устойчивый процесс авторегрессии р -го порядка, описываемый стохастическим разностным уравнением:

4 = -1 + ... + Лр4 - р + Sn ,

где [sn} - последовательность независимых одинаково распределенных случайных величин, Esn = 0, =о2\Л1,...,Лр - неизвестные параметры такие,

что все корни характеристического полинома Р(г) = гр - -... - Хр лежат внутри единичного круга комплексной плоскости. Относительно известных параметров щ предполагается, что 0 < щ < п, щ ф щ] при I ф ]. Для оценивания

вектора неизвестных параметров разработана одноэтапная последовательная процедура, позволяющая осуществлять контроль за среднеквадратической точностью оценивания посредством выбора порога процедуры. Исследованы теоретические свойства последовательного плана. Проведено численное исследование процедуры, подтверждающее теоретические выводы.

В заключении к работе приводятся основные результаты и выводы.

Автор считает своим долгом выразить глубокую благодарность своему научному руководителю проф., д. ф.-м. н. В.В. Коневу, выражает признательность проф., д. ф.-м. н. С.М. Пергаменщикову за полезные дискуссии и замечания, а также выражает благодарность О.С. Зиновьевой, А.В. Зиновьеву, Е.С. Емельяновой и С.А. Емельянову за моральную поддержку в период выполнения кандидатской диссертации.

1. Последовательное оценивание параметров непрерывной авторегрессии

В главе рассматривается задача оценивания параметров непрерывного устойчивого процесса авторегрессии произвольного конечного порядка р > 2. Разработан последовательный план оценивания параметров, гарантирующий заданную среднеквадратическую точность. Последовательный план представляет собой оценку МНК, вычисленную в момент остановки наблюдений. Момент остановки определяется на основе выборочной информационной матрицы Фишера. Исследованы основные свойства последовательной процедуры. Получены формулы для ее средней длительности и среднеквадратической точности. Приведены результаты экспериментального исследования предлагаемой процедуры на примере непрерывного устойчивого процесса авторегрессии второго порядка, описываемого стохастическим дифференциальным уравнением ^ = (в1Х1 + 01х1 ^ + .

Материал данной главы опубликован в работах [12, 15, 17, 18].

1.1 Постановка задачи

Пусть наблюдаемый р -мерный процесс Х( = (),...,X (V))' описывается

системой линейных дифференциальных уравнений

= АХ $ + BdWt, (1.1)

в которой А и В - квадратные матрицы постоянных коэффициентов размера р х р, причем все характеристические числа матрицы А имеют отрицательные

вещественные части, ^ - стандартный р -мерный процесс броуновского движения. Задача состоит в том, чтобы оценить неизвестные коэффициенты

матрицы

А =

а]

по наблюдениям процесса Х( на промежутке [0, Т]. К этой

задаче сводится задача оценивания параметров стационарного гауссовского процесса авторегрессии р -го порядка АЯ(р), р > 2

дх(р-1) = {в1 х(р-1) +... + врх( )И + удМ

(1.2)

с рациональном спектральной плотностью, имеющеи вид

I « =

1 у2

2п

2 •

Предполагается, что неизвестные параметры в, I = 1, р таковы, что все корни характеристического полинома О (^) = zp -д12Р-1 -... -вр имеют отрицательные вещественные части, У - известная положительная постоянная. Процесс (1.2) представляется в виде (1.1), если положить

'0 1 0 ... 0Л

X

х (р-1)

• А

0 0 1

0

в в ,

р р-1

ч р

в,

; в =

0 0 0

0

0 у

у > 0

(1.3)

Заметим, что авторегрессионные процессы находят широкое применение в спектральном анализе, поскольку известно, что при достаточно общих условиях стационарный в широком смысле процесс может быть аппроксимирован авторегрессионным процессом. При этом задача оценки спектральной плотности сводится к оцениванию неизвестных параметров процесса авторегрессии. Такой подход имеет преимущества перед известными методами [39, 41, 42] сглаживания периодограмм с помощью окон различного вида.

Одним из основных методов оценивания вектора неизвестных параметров в = (в1,в2,...,вр)' по наблюдениям процесса (1.1) на промежутке [0,Т] является

метод наименьших квадратов [1], согласно которому оценка вТ имеет вид

вт = М+1Х^(ХГ)р , (1.4)

0

где (а) 1 обозначает 1-ю координату вектора-столбца а = (а1,...,ар)', штрих обозначает транспонирование;

Т

Мт = | хя хя' а* (1.5)

- выборочная информационная матрица Фишера, М+ - обратная к ней, если она не вырождена, и М+ = 0 - в противном случае. Асимптотические свойства

вектора оценок вТ по методам максимального правдоподобия и наименьших квадратов изучались в ряде работ (см,например [2, 3, 19, 34, 35]): они являются сильно состоятельными и асимптотически нормальными. В прикладных задачах использование асимптотических свойств оценок обычно основывается на предположении, что эти свойства сохраняются для малых и умеренных объемов данных. Однако поведение оценок при малых и умеренных длительностях наблюдений может существенно отличаться от асимптотического, и это может привести к неточным выводам при принятии решений. Изучение задач оценивания параметров диффузионных процессов в неасимптотической подстановке восходит к работам Новикова, Липцера и Ширяева [26, 30, 31], которые предложили последовательный план оценивания неизвестного параметра диффузионного процесса

йх1 = 6х{Л + <УсЫ>( ,

а также векторного параметра двумерного процесса специального вида с двумя неизвестными параметрами. В этих работах было доказано, что последовательная оценка имеет преимущества перед классической оценкой МНК: она является несмещенной и гауссовской (см. подробнее [26, 30, 31] и др.).

Этот метод, однако, оказывается непригодным в более общей ситуации, когда число неизвестных параметров превышает размерность наблюдаемого процесса. В работах [21, 62] впервые была разработана общая последовательная процедура, позволяющая получать гарантированные оценки с любой заданной среднеквадратической точностью для авторегрессии с дискретным и непрерывным временем любого порядка по конечной реализации процесса. Предложенная в [21] процедура позволяет оценить неизвестные параметры с любой заданной среднеквадратической точностью и обладает хорошими асимптотическими свойствами. Эта процедура, однако, оказываетсяся, достаточно сложной для практической реализации в случае нескольких

неизвестных параметров, поскольку требует построения системы из случайного числа модифицированных оценок МНК, путем сглаживания которых находится последовательная оценка.

Цель главы - построить одноэтапную процедуру оценивания, использующую специальное правило остановки наблюдений, которая позволяет контролировать среднеквадратическую точность оценок. Эта процедура, как и в [21, 62], является последовательной модификацией оценки МНК и может использоваться при наличии некоторой априорной информации о параметрах.

1.2 Построение последовательной процедуры

При построении последовательного плана будет использоваться следующая лемма, дающая оценку нормы уклонения оценки (1.4) от ее истинного значения.

Лемма 1.1. Пусть матрица Мт в (1.5) невырождена. Тогда квадрат нормы уклонения оценки (1.4) удовлетворяет неравенству

вт — в

<

М

—2

\\Ш

Т , где

ТПг,

1

= | XЖ

(1.6)

Доказательство леммы 1.1. Пусть ОТ — ортогональная матрица размера р х р, приводящая матрицу Мт к диагональной форме, т. е.

ОтЛтОт ' = Мт, (1.7)

где Лт = diag(X 1 (Мт),...,Xр (Мт)), Хг (М), I = 1,...,р - собственные числа матрицы М , занумерованные в порядке возрастания: Х1(М) < Х2(М) < ... < Хр(М). Подставляя (1.1) в (1.4) и используя (1.7), получаем

ОТАт<2'(вт -в)= тт.

Поскольку транспонированная к ортогональной матрице совпадает с обратной к ней, то это равенство можно переписать в виде

ЛтОт '(4—в)=ат'

тт

или, в координатной форме,

Л (Мт)• (а '[от - О)^ = {Ят 'тт), / = ър.

Возведя обе части этого равенства в квадрат, просуммировав по г и применив неравенство Коши-Буняковского, имеем оценку

Х{Ят 'От -0)) = IЛ (Мт)(Ят 'щ)2, < |Ят '"Л • IЛ- (Мт)• КЯт 'Щ>,

г=1 Х И г=1 г=1

<

||бт'тт\

ЕЛ (Мт КК аЧ>2

г=1

г=1

Таким образом,

2 (р у/2 д/(ёт-о) < хл"4(мт) •!|й

v г=1 у

' т ТЩ^т

Так как матрица Ят ортогональна, то

От — О

<

ХЛ (Мт )

V г=1

1/2

тТ

Учитывая, что

I Л-4 (Мт) = ^ л—4 = ш—4 =

М.

-2

г=1

приходим к утверждению леммы. Лемма 1.1 доказана.

Как будет показано ниже (см. лемму 1.3), с вероятностью 1 существует предел

Нш = ^

т^® т

(1.8)

причем матрица ^ является положительно определенной. Поэтому отсюда

следует, что множитель М-2 в правой части (1.6) монотонно убывает с ростом

т, при этом Нш

т

М

-2

= 0.

Для контроля среднеквадратической точности будем использовать следующий план оценивания. Пусть Н > 0. Определим длительность наблюдений процесса и оценку неизвестных параметров по формулам

т = т(Н) = М<! т> 0

Ы.

-2

1/2 < 1 < Н

т( Н)

в* (Н ) = Ы~(н)• | х А(х)р

(1.9)

(1.10)

Используя этот план, получим верхнюю границу для среднеквадратической точности оценок.

Лемма 1.2. Пусть выборочная информационная матрица Фишера (1.5) удовлетворяет условию (1.8). Тогда для любого Н > 0 оценка в* (Н), определенная в (1.9) и (1.10), удовлетворяет неравенству

Евв (Н )-в

2 < Ев<гЫг{Н)

Н2

(1.11)

Доказательство леммы 1.2. Заменяя в лемме 1.1 длину промежутка наблюдений Т на момент остановки т( Н), получим

в* (Н )-в

<

Ыш)

т( Н)

[ X (Ж

J « «

Учитывая (1.6), имеем

Евв (Н)-в

2 1

< —7 Ев Н 9

т( Н )

Переходя к усеченным моментам и используя свойства стохастического интеграла, получаем

т( Н).

1 р т(Н) 1 ;гт I Ев | <Х >2 ( =—Е^гЫт Н /=1 0 Н

Отсюда приходим к (1.11). Лемма 1.2 доказана.

Заметим, что предложенная конструкция последовательной процедуры

(1.9), (1.10) в случае процесса авторегрессии первого порядка АЯ(1),

2

2

описываемого стохастическим дифференциальным уравнением dxt = 0xtdt + dWt,

совпадает с последовательным планом, предложенным в работах Новикова, Липцера и Ширяева [26, 30, 31].

1.3 Свойства выборочной информационной матрицы Фишера

Для изучения свойств последовательного плана (1.9), (1.10) для процесса (1.2) потребуется установить некоторые свойства выборочной информационной матрицы Фишера. Наложим дополнительные условия на возможные значения параметров процесса (1.2).

Будем предполагать, что значения параметров в = (вх,в2,...,вр )' таковы, что все корни характеристического полинома имеют отрицательные вещественные части и отделены от нуля известной постоянной Y, то есть

max Re X (А(в)) <-у< 0, у > 0

1< i < р

Обозначим эту априорную параметрическую область

Лг={в е Rp : maX Re ^ (А(в)) < (1.12)

Пусть K сЛг - компакт.

Лемма 1.3. Пусть в уравнении (1.1) £||Х0||4 <+х. Тогда матрица (1.5)

Р Г MT _ Z7

удовлетворяет предельному соотношению гв~1_ F , где F -

положительно определенная матрица, являющаяся единственным решением уравнения

FA'+ AF'+ BB' = 0, (1.13)

при этом F = J eAsBB' eAsds. 0

Доказательство леммы 1.3. Очевидно, что матрица F в (1.13) является неотрицательно определенной. Покажем, что из равенства

Z Fz = 0,

где z = (z1,..., zp) - произвольный ^-мерный вектор, следует, что z = 0.

Подставляя F из (1.13), находим что

ВвА'г = 0 для всех г > 0. Дифференцируя по г (р-1) раз и полагая г=0, получим

Вг = 0, ВА^ = 0,..., В(А')р-11 = 0. Эти уравнения с учетом вида матрицы В эквивалентны следующим равенствам

2р = 0, ((А')^ = 0, для всех I = 1,..., р -1

где (а^ означает /-тую компоненту вектора а = (ах,..., ар)'. С помощью метода математической индукции нетрудно проверить, что

((Аф )р = г,+1 +1 = 0,

.=1

где Л.,, - некоторые постоянные.

Отсюда и из предыдущего равенства получаем г = 0. Следовательно, матрица F в (1.13) положительно определена.

По формуле Ито для стохастического дифференциала матрицы Х(Х( имеем

((хх) = xx'' а (г + х, (М )в + ах х {(г + в(жх'( + ввлг.

Записывая это уравнение в интегральном виде для г = Т

Т Т

ХтХТ = х 0 х 0 + \ хХ + | X ((Мг )В +

0 0

+ aJ XX ds + B J dWXS + J BBds 0 0 0

T

и учитывая, что Мт = J XsXs' öfe, получим

о

MTA' + am; + BBT + = 0, (1.14)

где

т т

= X0 X0T + J Xs (dWs)' B' + bJ( dWs ух/-XTXT\ (1.15)

0 0

Разделив обе части равенства (1.14) на T и учитывая (1.13), имеем

Мт

т

- Е

А'+ А

Мт

т

- Е

+ = 0.

т

Мт

(1.16)

Разрешим это уравнение относительно матрицы —— Е. Так как матрица А

устойчива, то решение уравнения единственно и имеет вид (см., например, [4], стр. 212):

Мт

т

^ £ Е =[ •

т

Отсюда имеем оценку

Мт - Е < <Х)

т J 0 т

с..

= уИ, где сг = Бир

(1.17)

из которой следует, что

Еа

Мт

т

- Е

< с • Е

т

(118)

Из представления (1.15) для с;т, проводя несложные арифметические преобразования, получаем

Е

т

< Е 4,

(1.19)

где

11 (т ) = Е

12 (т ) = Ее тг Ь (т ) = Ее -1

к=1

ХтХт

е т 2

1

| x (^ )'в'

В

1

К

14 (т )= Ее

К0 К0

е т 2

со

2

2

2

2

2

Оценим слагаемые в правой части неравенства (1.19).

Имеем

, = ЩгЪ! = Ев (1Г (Хгхг'). ( ХГХГ')') =

= ± еА(Т -) BdWs Ш<

Ат -) ВйШ„

г р(т-) ВВ'( еА(Т- ))'ds -

о

Т'

.2 (Т

■<г\ ]У(Т-)(еА(Т"4)'<й

о2 П|еА(Т-)

ds

(1.20)

Из теории дифференциальных уравнений известно, что если

тах Яе (А) < - у < 0 то

1<г < р

-s)А

< с^ ^ , где с - некоторая положительная постоянная. Отсюда и из (1.20) следует, что

£ Ев IIХтХт I2 <о2с21

<о2с21 е_2г(т-s}ds <

с о 1

Т2 2^

^ 0

Т

(1.21)

Далее получаем

, -Е

12 - т2 в

|Xs (dWs)'В' - -1 £ о2Ев |Х^2р ds < -1р <

0 Т к-1 0 Т 0

2 Т I-

< Т2 ^

4 ds < <, Т

где с - некоторая положительная постоянная. Такая же оценка верна и для слагаемого ,3 . Учитывая, что последнее слагаемое в (1.19) стремится к нулю,

получим Нт Ев

Т ^да

4

Т

0. Отсюда и из (1.17) следует требуемое предельное

соотношение. Лемма 1.3 доказана.

Оценим скорость убывания с ростом Т четвертого момента нормы уклонения отношения МТ/Т от предельной матрицы ^.

2

Лемма 1.4. Пусть начальное условие в уравнении (1.2) таково, что Бир Ее ||К01| < +да, где область Лг определена в (1.12). Тогда для любого компакта К с Л справедлива оценка

sup Ee

9еК

MT

T

- F

<

L

T

2 ,

(1.22)

где Ь - некоторая положительная постоянная.

Доказательство леммы 1.4. Исходя из (1.17), (1.18) и проводя несложные арифметические преобразования, получим

А т 4Л

\ х, (сш,)' В •

E0

Mr

T

- F

< С4 • 44 • Ea

IIх0X0 II + ||xtxt II + 2

T 4 T 4

T 4

. (1.23)

eA x0 X0II c,

По условию леммы для всех ееK имеем sup——— . Для оценки

\еК

математического ожидания второго слагаемого используем лемму 1.1.1 из [57]

согласно

E\\XT\|2m <(2m - 1)!!ц2m

которой

удовлетворяет

неравенству

( 1 - б'2YT ^ 2Y

для всякого T е R+, где f - некоторая

постоянная. Поэтому

Ee\XTXT 1Г _ Ee\XT

T 4

T 4

< 105a

(1 - Y 2/

Tt = С4. (1.24)

Заметим, что последнее слагаемое допускает следующую оценку

Ea

1

J Xs ( dWs)' B'

T 4

1 p (T <^pIE\ кXsldWp

i 1г=Л n

k=1 V 0

Используя известное свойство стохастических интегралов (см., например, [26])

4

4

( Т

Е

\2 от

V 0

|/ (s, ш) dWs < [от (2от - 1)] Тот-1 ¡Е/2от (^^ , (1.25)

получаем

Еа

1

I Xs (dWs)' В'

Т 4

^ 108о 2

р

^ - ^2 с.

2Г

Т

(1.26)

Отсюда и из (1.23), (1.24) приходим к требуемой оценке. Лемма 1.4 доказана. Следствие. Из леммы 1.4 по неравенству Чебышева имеем

Р

/ М ^ \

п р >8

V п

<

М 4

Е п р

п

<

Ь

2 2 8 П

М

- р

п. н.

Отсюда и из леммы Бореля-Кантелли получаем, что

Лемма 1.5. Для всякого Н > 0 справедливо неравенство

<Х)

ЕвгМ<Н) < ^ • Евт(Н) +1(вА'ЕвХ0X0'еА"')ds .(1.27)

0

Доказательство леммы 1.5. По формуле Ито для стохастического дифференциала матрицы Х(Х( имеем

d(хХ) - XXAdt + X, (dWt )В + АХ Xdt + BdWtX't + ВВ^.

Записывая это уравнение в интегральном виде для , - Т

Т Т

XX - X0X0 +1XsXSdsA' + |Xs ^ ) В +

0 0

Т Т Т

+ А | XX ds + В | dWsX's +1ВВ ds 0 0 0

Т

и учитывая, что МТ -1XX' ds, получим

0

МТА' + АМ'Т + ВВ'Т + 4Т - 0,

в котором

4

2 2 = Х0 Хт0 +| X, (dWs)' 5' + в К ^)' X' - ХТХТ '.

мТ „

Разрешим это уравнение относительно матрицы —— Г . Так как матрица А

устойчива, то решение этого уравнения единственно и имеет вид (см., например, [4], стр. 212):

со

МТ - ТБ = | eАs^eА'sds = 0

да / Т Т

\вА ХоХо'-ХтХт '+!X, (dWs)'в'+ В jdWsXs

eА'sds

о V о о

Заменяя в этом равенстве длину промежутка наблюдений Т на момент остановки т и учитывая, что математические ожидания третьего и четвертого слагаемых в правой части равны нулю, получаем

да да

ЕвМт - Б • Е^т = | еА,Ев (ХоХо') eА'sds -1еА,Ев (ХТХТ ') eА'sds.

о о

Поэтому

да

Ев1гМт < КБ • Евт + К Гг (еА,Ев (ХоХо') еА^ ) ds .

о

Лемма 1.5 доказана.

1.4 Теоретические свойства последовательного плана

Асимптотическое поведение средней длительности процедуры дает следующая теорема.

Теорема 1.1. Пусть т(Н) определяется формулой (1.9) и выполнены условия леммы 1.4. Тогда для любого компакта К с Л

Нш Бир

Н ^да

6>еК

Е.ТМ г-2

Н

= о.

Доказательство теоремы 1.1. Сначала покажем, что Нш Бир Б1

н ^гс

ееК

т(н)

н

<+ю.

По определению т( Н) имеем

да да

£ет( Н ) = { Р0(т( н )> т) аТ = \ р

о о

Выбирая 8 > 0 такое, что

М'

2

2 > —

н

ат

У

БИр

веК

Б

-2

2 <■

28

(1.28)

получаем оценку

ои ои

Еет(Н) < |х(Т8 < Н)аТ + | Ре

Т2 М-2

н_

\ 1Л

2 > —

8У

аТ

Для подынтегральной функции во втором интеграле имеем неравенство

Р

Т2 М-2

1 1Л > —

1

< Р

Б

-2

>

1 28

< Р

/ мт

т Б <п,

V Р

Т2 М-2

2 _

Б

-2

>

28

г

+ Ре

V

Л /

+ Ре

V

Т2 М-2

Б

-2

>

1 2

<

М

г

■-Б

> п

, ее к

(1.29)

М.

Поскольку = Р п.н. и функция Б 2 2 равномерно непрерывна по о на

1

компакте К, то для А < — найдутся такие Т0 > 0 и п > 0, что при Т > Т0, если

28

Мт

т

- Б

< П, то

2 л у—2

Т М

2

Б

-2

< А, поэтому первое слагаемое в правой части

(1.29) равно нулю и неравенство (1.29) принимает вид

Р

Т2 М-

2 1 2 >—

8у

< Р

М

Г

-Б

> п

<— Ее п

М

Г

-Б

(1.30)

Используя лемму 1.4, получаем требуемую асимптотическую равномерную

т( Н)

ограниченность величины Ее

Н

Далее имеем

1

1

1

Еа

■(и)

Н

Б

-2

м

Еа

т( Н)

(Н)У

Б

-2

< А + Ей

:(Н)

Н

м

X

т( Н)

:( Н )

-Б

>

П

+

уУ

+

Б

-2

•Я

м

(Н)

;( Н )

Б

> п

Покажем, что для любого п > о

Кш Бир Рв

Н ^да

веК

м

(Н)

■( Н)

Б

>

п

= о

(1.31)

Имеем

Р

м

т( Н)

т( Н)

- Б

>

п

да

< Рв(т(Н) < т)+ХЧк

к=т

(1.32)

где Чк = Рв

БИр

к <Т <к+1

мТ

Т

Б

> п

Рассмотрим к -й член ряда в правой части (1.32). Для него получаем оценку

г

Чк = Рв

V

БИр

к <Т <к+1

мт

Т г

- Б

> п

<

< Р

||ХТХТ 1 п БИр ^-^ > —

V к<Т<к+1 Т 4 у

+ 2 Р

БИр

к <Т <к+1

К Х, (dWs)' В'

Т

>п

V

+

+ Р

V

Хо Хо п

БИ^ 11 о о " > —

к<т<к+1 Т 4

X Рг (к), п = -

е..

У

г =1

(1.33)

где ег определено в (1.17) и

/

Рх(к) = Рв

ХтХт

\

п

БИр -> —

к<Т<к+1 Т 4 V у

1

Р2(к) = 2 Ре

1

I(ажг )'в'

БИр

к<Т<к+1 Т

>п

4

Р3(к) = Ре

БИр

к <Т <к+1 Т

Х0Х 011 >п

4

У

Оценим первое слагаемое в правой части этого неравенства. Используя известное неравенство для неотрицательных субмартингалов (см., например, [26])

Е

БИр X,

V п<Ы У

\Р ( \Р Р

<

V Р - 1У

ЕХ1

и лемму 1.1.1 из [57], получим

Р1 ( к ) = Ре

V

||ХТХ

БИр -;

к <Т <к+1 Т

Т I \>1

<

Г 4 Л

п У

± е0

БИр ||ХТХТ

V к <Т <к+1

<

<п У

'72 ее бир ||хт

Г < М.

7 2 е - 11 Т|| — /2 ,

к к <Т <к+1 к

здесь ¡1(Г) = Г 4 Л 2 64с4 Г1 - е-2/(к+1) Л

— ^ У

Vп7 У 9 V

(1.34)

(1.35)

Так как процесс

1

I х, (а^)' в

Т > 0 является неотрицательным

субмартингалом относительно фильтрации Б = () , = с(Ж5,, > 0),

порожденной винеровским процессом, то второе слагаемое допускает следующую оценку

Р2 ( к ) = Ре

БИр

к <Т <к+1

IX, (аж,)' в

Т

>т

4

<

2

V

У

<

п)

Е

4 ^ в

БИр

к <Т <к+1

К X, (dWs)' В'

4

< 4 Ев

Список литературы диссертационного исследования кандидат наук Емельянова Татьяна Вениаминовна, 2016 год

СПИСОК ЛИТЕРАТУРЫ

1. Андерсон, Т. Статистический анализ временных рядов / Т. Андерсон. - М. : Мир, 1976. - 756 с.

2. Арато, М. Линейные стохастические системы с постоянными коэффициентами. Статистический подход / М. Арато. - М. : Наука, 1989. - 304 с.

3. Арато, М. Об оценках параметров комплексного стационарного гауссовскогомарковского процесса / М. Арато, А. Н. Колмогоров, Я. Г. Синай // ДАН СССР. - 1982. - Т. 156, №4. - С. 747-750.

4. Беллман, Р. Введение в теорию матриц / Р. Беллман. - М. : Наука, 1969. - 368 с.

5. Бокс, Дж. Анализ временных рядов прогноз и управление / Дж. Бокс, Г. Дженкинс. - М. : Мир, 1974. - Т. 1. - 406 с.

6. Борисов, В. З. Последовательное оценивание параметров дискретных процессов / В. З. Борисов, В. В. Конев // Автоматика и телемеханика. - 1977. -№ 10. - С. 58-64.

7. Бриллинджер, Д. Временные ряды. Обработка данных и теория / Д. Бриллинджер. - М.: Мир, 1980. - 536 с.

8. Булинский, А. В. Теория случайных процессов/ А. В. Булинский, А. Н. Ширяев. - М.: ФИЗМАТЛИТ; Лаборатория базовых знаний, 2003. - 400 с.

9. Вазан, М. Стохастическая аппроксимация / М. Вазан. - М. : Мир, 1972. - 296 с.

10. Васильев, В. А. Непараметрическое оценивание функционалов от распределений стационарных последовательностей / В. А. Васильев, А. В. Добровидов, Г. М. Кошкин. - М. : Наука, 2004. - 512 с.

11. Васильев, В. А. Последовательное оценивание параметров динамических систем при неполном наблюдении / В. А. Васильев, В. В. Конев // Известия АН СССР. Техническая кибернетика. - 1982. - №6. - С. 145-154.

12. Вежнина, О. А. Об оценке спектральной плотности / О. А. Вежнина, Т. В. Емельянова // Все грани математики и механики: сборник статей

молодежной научной конференции. Томск, 24-30 апреля 2015 г. - Томск: ТГУ, 2015. - С. 160-164.

13. Воробейчиков, С. Э. О последовательной идентификации стохастических систем / С. Э. Воробейчиков, В. В. Конев // Изв. АН СССР. Техническая кибернетика. - 1980. - № 4. - С. 176-182.

14. Емельянова, Т. В. Об оценивании параметров тригонометрической регрессии с зависимыми шумами. / Т. В. Емельянова // Актуальные задачи математического моделирования и информационных технологий : сборник материалов международной научно-практической конференции. Сочи, 15-24 мая 2015 г. - Сочи, 2015. - С. 34-36.

15. Емельянова, Т. В. О последовательном оценивании параметров непрерывной авторегрессии / Т. В. Емельянова, В. В. Конев // Вестник ТГУ. Математика и механика. - 2013. - №5(25). - С. 12-25.

16. Емельянова, Т. В. О последовательном оценивании периодического сигнала на фоне авторегрессионного шума / Т. В. Емельянова, В. В. Конев // Вестник ТГУ. Математика и механика. - 2015. - №2(34). - С. 18-29.

17. Емельянова, Т. В. Оценивание параметров непрерывной авторегрессии с использованием последовательной процедуры / Т. В. Емельянова, Ю. В. Иванюк // Все грани математики и механики : сборник статей молодежной научной конференции. Томск, 24-30 апреля 2015 г. - Томск : ТГУ, 2015. - С. 134-139.

18. Емельянова, Т. В. Последовательное оценивание параметров непрерывной авторегрессии / Т. В. Емельянова // Математика, ее приложения и математическое образование : сборник материалов V международной конференции. Улан-Удэ, 23-28 июня 2014 г. - Улан-Удэ : Издательство ВСГУТУ, 2014. - С. 125-130.

19. Ибрагимов, И. А. Асимптотическая теория оценивания / И. А. Ибрагимов, Р. З. Хасьминский. - М. : Наука, 1979. - 527 с.

20. Конев, В. В. Гарантированное оценивание параметров авторегрессии на основе последовательного корреляционного метода / В. В. Конев,

С. М. Пергаменщиков // Труды Математического института им. В. А. Стеклова. -1993. - Т. 202. - С. 149-169.

21. Конев, В. В. Гарантированное оценивание периодического сигнала на фоне авторегрессионных помех с неизвестными параметрами / В. В. Конев, С. М. Пергаменщиков // Проблемы передачи информации. - 1997. - Т. 33, вып. 4.

- С. 26-44.

22. Конев, В. В. О гарантированном оценивании параметров линейной регрессии при зависимых помехах / В. В. Конев, С. М. Пергаменщиков // Автоматика и телемеханика. - 1997. - № 2. - С. 75-87.

23. Конев, В. В. О последовательном оценивании параметров случайных процессов диффузионного типа / В. В. Конев, С. М. Пергаменщиков // Проблемы передачи информации. - 1985. - Т. 21, вып. 1. - С. 48-61.

24. Конев, В. В. Последовательное оценивание параметров линейных неустойчивых стохастических систем с гарантированной среднеквадратической точностью / В. В. Конев, С. М. Пергаменщиков // Проблемы передачи информации. - 1992. - Т. 28, № 4. - С. 327-340.

25. Конев, В. В. Последовательные оценки параметров стохастических динамических систем / В. В. Конев, Ф. П. Тарасенко. - Томск : Изд-во ТГУ, 1985.

- 267 с.

26. Липцер, Р. Ш. Статистика случайных процессов / Р. Ш. Липцер,

A. Н. Ширяев. - М. : Наука, 1974. - 696 с.

27. Марков, А. С. Последовательная идентификация пороговой авторегрессии / А. С. Марков // Известия ТПУ. Математика и механика. Физика. -2009. - Т. 314, № 2. - С. 21-25.

28. Мудров, В. И. Метод наименьших модулей / В. И. Мудров,

B. Л. Кушко. - М. : Знание, 1971. - 64 с.

29. Невельсон, М. Б. Стохастическая аппроксимация и рекуррентное оценивание / М. Б. Невельсон, Р. З. Хасьминский. - М. : Наука, 1972. - 304 с.

30. Новиков, А. А. Последовательное оценивание параметров диффузионных процессов / А. А. Новиков // Теория вероятностей и ее применения. - 1971. - Т. 16, вып. 2. - С. 394-396.

31. Новиков, А. А. Последовательное оценивание параметров процессов диффузионного типа / А. А. Новиков // Математические заметки. - 1972. -Т. 12, вып. 5. - С. 627-638.

32. Панюков, А. В. Взаимосвязь взвешенного и обобщенного вариантов метода наименьших модулей / А. В. Панюков, А. Н. Тырсин // Известия Челябинского научного центра. - Т. 1, № 35. - С. 6-11.

33. Розанов, Ю. А. Стационарные случайные процессы / Ю. А. Розанов -М. : Физматгиз, 1963. - 284 с.

34. Тараскин, А. Ф. Об асимптотической нормальности некоторых стохастических интегралов и оценках параметров переноса многомерного диффузионного процесса / А. Ф. Тараскин // Теория вероятностей и математическая статистика. - Вып. 2. - С. 205-220.

35. Тараскин, А. Ф. Об асимптотической нормальности стохастических интегралов в оценках коэффициента переноса диффузионного процесса / А. Ф. Тараскин // Математическая физика. - 1970. - Вып. 8. - С. 149-163.

36. Хэннан, Э. Многомерные временные ряды / Э. Хэннан. - М. : Мир. 1974. - 575 с.

37. Ширяев, А. Н. Вероятность / А.Н. Ширяев. - М.: Наука, 1989. - 576 с.

38. Ширяев, А. Н. Основы стохастической финансовой математики / А. Н. Ширяев. - М. : Фазис, 1998. - Т. 1. - 512 с. - Т. 2. - 544 с.

39. Яглом, А. М. Введение в теорию стационарных случайных функций / А. М. Яглом // Успехи математических наук. - 1955.- Т. 7, вып. 5. - С. 3-168.

40. Aras, G. Sequential estimation of the mean of a first-order autoregressive process / G. Aras // Communications in Statistics - Theory and Methods. - 1990. -Vol. 19, is. 5. - P. 1639-1652.

41. Brillinger, D. R. Asymptotic theory of estimates of kth-order spectra // Selected Works of David Brillinger / D. R. Brillinger, M. Rosenblatt; P. Guttorp, D. Brillinger (Eds.). - New York : Springer New York, 2012. - P. 173-177.

42. Brillinger, D. R. Asymptotic properties of spectral estimates of second order // Selected Works of David Brillinger / Guttorp P., Brillinger D. (Eds.) - Springer New York, 2012. - P. 179-194.

43. Brockwell, P. J. Introduction to time series and forecasting / P. J. Brockwell, R. A. Davis. - Springer, 2002. - 449 p.

44. Dehling H. Drift estimation for a periodic mean reversion process / H. Dehling, B. Franke, T. Kott // Statistical Inference for Stochastic Processes. - 2010. - Vol. 13. - P. 175-192.

45. Dmitrienko A. Sequential generlized least squares estimator for an autoressive parameter / A. Dmitrienko, V. Konev, S. Pergamenshchikov // Sequential Analysis. - 1997. - Vol. 16, is. 1. - P. 25-46.

46. Emelyanova, T. V. On sequential estimation of a period signal distorted by an autoregressive noise / T. V. Emelyanova, V. V. Konev // Applied Methods of Statistical Analysis. Nonparametric Approach. AMSA'2015 : proceedings of the International Workshop. Novosibirsk, 14-19 September 2015. - Novosibirsk: NSTU publisher, 2015. - P. 307-311.

47. Fakhre-Zakeri, I. Sequential estimation of the mean vector of a multivariate linear process / I. Fakhre-Zakeri, S. Y. Lee // Journal of Multivariate Analysis. - 1993. -Vol. 47, is. 2. - P. 196-209.

48. Fourdrinier D. Truncated sequential estimation of the parameter of a first order autoregressive process with dependent noises / D. Fourdrinier, V. Konev, S. Pergamenshchikov // Mathematical Methods of Statistics. - 2009. - Vol. 18, is. 1. -P. 43-58.

49. Galtchouk L. On sequential estimation of parameters in semimartingale regression models with continuous time parameter / L. Galtchouk, V. Konev // Annals of statistics. - 2001. - Vol. 29, is. 5. - P. 1508-1536.

50. Galtchouk L. On sequential estimation of parameters in continuous time stochastic regression / L. Galtchouk, V. V. Konev // Statistics and Control of Stochastic Processes. - 1997. - P. 123-138.

51. Galtchouk, L. On sequential least squares estimates of autoregressive parameters / L. I. Galtchouk, V. V. Konev // Sequential Analysis. - 2005. - Vol. 24, is. 4. - P. 335-364.

52. Galtchouk, L. I. Discussion on "Sequential Estimation for Time Series Models" by T.N. Sriram and R. Iaci / L. I. Galtchouk // Sequential Analysis: Design Methods and Applications. - 2014. - Vol. 33, is. 2. - P. 161-164.

53. Govindarajulu, Z. The sequential statistical analysis of hypothesis testing, point and interval estimation and decision theory / Z. Govindarajulu. - Columbus : American Sciences Press, 1987. - 680 p.

54. Greenwood, P. E. Asymptotic minimaxity of a sequential estimator for a first order autoregressive model / P. E. Greenwood, A. N. Shiryaev // Stochastics: An International Journal of Probability and Stochastic Processes. - 1992. - Vol. 38, is. 1. -P. 49-65.

55. Hopfner, R. Estimating discontinuous periodic signals in a time inhomogeneous diffusion / R. Hopfner, Y. Kutoyants // Statistical Inference for Stochastic Processes. - 2010. - Vol. 13, is. 3. - P. 193-230.

56. Irle A. Discussion on "Sequential Estimation for Time Series Models" by T.N. Sriram and R. Iaci / A. Irle // Sequential Analysis: Design Methods and Applications. - 2014. - Vol. 33, is. 2. - P. 165-168.

57. Kabanov, Yu. M. Two scale stochastic systems: asymptotic analysis and control / Yu. M. Kabanov, S. M. Pergamenshchikov. - Berlin : Springer Science & Business Media, 2003. - 266 p.

58. Karatzas, I. Methods of Mathematical Finance/ I. Karatzas, S. Shreeve. -New York : Columbia Univ. Press, 1995. - 321 p.

59. Konev V. Estimators with prescribed precision in stochastic regression models / V. Konev, T.L. Lai // Sequential Analysis. - 1995. - Vol. 14, is. 3. - P. 179192.

60. Konev V. On guaranteed estimation of the mean of an autoregressive process / V. Konev, S. Pergamenshchikov // The Annals of Statistics. - 1997. - Vol. 20, is. 5. - P. 2127-2163.

61. Konev, V. V. On optimality the fixed-accuracy estimate of the parameter in an explosive autoregressive process op the first order / V. V. Konev, S. M. Pergamenshchikov // Sequential Analysis. - 1993. - Vol. 12, is. 1. - P. 25-78.

62. Konev, V. V. Sequential estimation of the parameters in a trigonometric regression model with the gaussiancoloured noise / V. V. Konev, S. M. Pergamenshchikov // Statistical Inference for Stochastic Processes. - 2003. -Vol. 6. - P. 215-235.

63. Kuchler, U. On guaranteed parameter estimation of a multiparameter linear regression process / U. Kuchler, V. A. Vasiliev // Automatica. - 2010. - Vol. 46, is. 4. -P. 637-646.

64. Lai, T. L. Asymptotic properties of general autoregressive models and strong consistency of least-squares estimates of their parameters / T. L. Lai, C. Z. Wei // Journal of Multivariate Analysis. - 1983. - Vol. 13, is. 1. - P. 1-23.

65. Lai, T. L. Fixed accuracy estimation of an autoregressive parameter / T.L. Lai, D. Siegmund // The Annals of Statistics. - 1983. - Vol. 11, is. 2. - P. 478-485.

66. Lai, T. L. Sequential analysis some classical problems and new challenges / T. L. Lai // Statistica Sinica. - 2001. - Vol. 11. - P.303-408.

67. Ljuing, L. Theory and practice of recursive identification / L. Ljuing, T. Soderstrom. - The MIT Press, Cambridge, Macsachusettts, London, 1983. - 551 p.

68. Loh, P. L. Statistical consistency and asymptotic normality for high-dimensional robust M-estimators [Электронный ресурс] // arXiv preprint arXiv:1501.00312. - 2015. - URL: http://www.hi-edu.ru (дата обращения: 12.01.2015).

69. Novikov, A. Discussion on "Sequential Estimation for Time Series Models" by T.N. Sriram and R. Iaci / A. Novikov, A. N. Shiryaev // Sequential Analysis. - 2014. - Vol. 33, is. 2. - P. 182-185.

70. Sequential parameter estimation for continuous-time regression models / T. Emelyanova [et al.] // Fundamental and Applied Studies in the Pacific and Atlantic Oceans Countries : papers and commentaries of the 1st International Academic Congress. Tokyo, 25 October 2014. - Vol. II. - Tokyo : Tokyo University Press, 2014.

- P. 515-519.

71. Seydel, R. Tools for computational finance / R. Seydel. - Springer, 2006.

72. Shiriaev, A. N. Statistical experiments and decisions: asymptotic theory / A. N. Shiriaev, V. G. Spokoiny. - World Scientific Pub Co Inc., 2000. - 281 p.

73. Siegmund, D. Sequential analysis: tests and confidence intervals / D. Siegmund. - New York : Springer-Verlag Inc., 1985. - 274 p.

74. Sriram, T. N. Editor's special invited paper: sequential estimation for time series models / T. N. Sriram, R. Iaci // Sequential Analysis. - 2014. - Vol. 33, is. 2. -P. 136-157.

75. Sriram, T. N. Sequential estimation of the autoregressive parameter in a first order autoregressive process / T. N. Sriram // Sequential Analysis. - 1988. - Vol. 7, is. 1. - P. 53-74.

76. Sriram, T. N. Sequential estimation of the mean of a first-order stationary autoregressive process / T.N. Sriram // The Annals of Statistics. - 1987. - Vol. 15, is. 3.

- P. 1079-1090.

77. Stein, C. A two-sample test for a linear hypothesis whose power is independent of the variance / C. Stein // The Annals of Mathematical Statistics. - 1945.

- Vol. 16, is. 3. - P. 243-258.

78. Wald, A. Sequential analysis / A. Wald. - New York : John Wiley & Sons, Inc., 1947. - 212 p.

79. Wilson, P. W. Asymptotic properties of some non-parametric hyperbolic efficiency estimators // Exploring research frontiers in contemporary statistics and econometrics / I. V. Keilegom, P. W. Wilson. - Physica-Verlag HD, 2012. - P. 115150.

ПРИЛОЖЕНИЕ А

У Т В Е F Ж Д А КГ

АКТ

о внедрении результатов клндндатской диссертации Г, В. ï'I м с j 1 г»п 11 u no is

В y4t6llblti процесс П V

Настоящем подтверждается, что результаты диссертации [-люлъяифзон Т.В, "Одноэтапные последовательные 1!роцедуры оценивания параметром динамических систем", представленной на соискание ученой стелет кандидата физико-математических наук по спсци алы гости 05 : - .и. Системным анализ, управление и обработка информации, используются и учебном процессе на мехамнко-.^этсматмческом факультете Томского государственного университета при подготовке и чтении курса icitnuPi статистике случайных процессов на старших курсах ММФ.

Декан механико-математическог о факультета ТГУ.

J

д.ф.-м.н.профессор ■ ;4<hис<-, ' д. В, Старчеико