Некоторые статистические задачи теории временных рядов тема диссертации и автореферата по ВАК РФ 01.01.05, кандидат физико-математических наук Ольшанский, Кирилл Александрович

• Ольшанский, Кирилл Александрович
• кандидат физико-математических наук
• 2004

Оглавление диссертации кандидат физико-математических наук Ольшанский, Кирилл Александрович

0.1 Введение.

1 Об экстремальном индексе прореженного процесса авторегрессии.

1.1 Введение.

1.2 Проверка условия Лидбеттера.

1.3 Предельная теорема для максимума равномерного АЫ(1)-процесса в условиях случайного прореживания.

2 Теорема Лидбеттера для совместного распределения максимумов в условиях случайного прореживания.

2.1 Постановка задачи.

2.2 Вспомогательные леммы.

2.3 Предельная теорема для совместного максимума.

3 Стационарный временной ряд при близкой нестационарной альтернативе: локально асимптотическое распределение отношения правдоподобия.

3.1 Постановка задачи и основные результаты.

3.2 Доказательство Теоремы

3.3 Доказательство леммы о сходимости накопленных сумм к стохастическому интегралу.

4 Литература.

Введение диссертации (часть автореферата) на тему «Некоторые статистические задачи теории временных рядов»

Настоящая работа является диссертацией на соискание ученой степени кандидата физико-математических наук и состоит из трех глав. Первая и вторая главы посвящены исследованию экстремальных значений стационарных временных рядов в условиях случайного прореживания.

Классическая теория экстремальных значений — асимптотическая теория распределения максимума п независимых, одинаково распределенных случайных величин — начала развиваться чуть более полувека назад, хотя ее корни уходят гораздо глубже в историю математики. В основе теории лежит фундаментальный результат, впервые полученный Фреше и Типпетом [15] и позднее в полной общности доказанный Б.В. Гнеденко [16]. Результат, о котором идет речь (его часто называют теоремой экстремальных типов или теоремой Гнеденко), описывает все возможные формы распределения Мп в условиях линейных нормировок. Строго говоря, Гнеденко установил, что если Мп имеет невырожденное предельное распределение С(х), т.е. для некоторой последовательности чисел ап > О, то С? принадлежит одному из трех типов (в том смысле, что существуют такие а > 0,6, для которых распределение Н(х) := С (ах + 6) в точности одно из перечисленных ниже) :

Мп = тах(£ь .,£„)

1)

Тип I: Н(х) = ехр(—е х) — оо < х < +оо

Тип II: Н(х) = ехр(-х~а) х > 0, (а > О)

0 х <0

Тип III: Н(х) = ехр(-(-х)а) х < 0, (а > 0)

1 х>0.

Типы I, II и III соответствуют распределениям Гумбеля (Gumbell), Фреше (Frechét) и Вейбула (Weibull) соответственно. В [27] приводится упрощенное доказательство указанной выше теоремы с использованием техники, предложенной де Хааном (de Haan). Данное доказательство построено на использовании теоремы Хинчина (см. [27] стр.7) о сходимости функций распределения, а также на том факте, что множество функций, возникающих в качестве предела в (1), совпадает с классом устойчивых относительно максимума функций распределения, т.е. таких функций распределения G, для которых существуют числа ап > 0 и Ьп, такие что

Gn(anx + bn) =G(x) для любых п = 2,3,. (подробнее см. [27] глава 1).

Задача оценки параметра а с использованием выборки независимых и одинаково распределенных случайных величин рассмотрена множеством авторов. По этой теме можно обратиться к работам: Hill [21], Hall [18], Mason [29], Pickands [40], Davis and Resnick [12], Hausier and Teugels [20], Csorgó and Deheuvels and Mason [11], Smith [47], Beirland and Teugels [5] и Dekkers and de Haan [13]. Оценка а в условиях зависимой выборки была рассмотрена в Hsing [22].

Если обозначить за F(x) маргинальную функцию распределения случайной последовательности {£„}, то легко видеть, что в случае независимых наблюдений

Р(Мп <х) = Fn(x), а следовательно (1) можно переписать в виде

Fn(a~lx + bn) -4G(i). (2)

Если (2) справедливо для некоторых последовательностей {ап > 0} и {Ьп}, то говорят, что F принадлежит области притяжения распределения G и пишут F G D(G). Известны критерии, дающие необходимые и достаточные условия принадлежности F области притяжения того или иного экстремального типа. Однако есть некоторые F, для которых не существует распределения G, такого что F £ D(G). В этом случае мы может утверждать, что максимум Мп не обладает предельной функцией распределения в условиях линейной нормировки (в качестве примера можно рассмотреть пуассоновскую функцию распределения).

На сегодняшний день классическая теория экстремальных значений полностью сформировалась и имеет множество важных приложений (см. например [17]).

В более поздний период, начиная с работ Ватсона (G.S.Watson), Бер-мана (S.M.Berman), Лойнеса (R.M.Loynes) и Крамера (Н.Cramer), возник интерес к расширению классической теории, сперва на случай зависимых последовательностей случайных величин, а затем и на стационарные процессы с непрерывным временем. Развитие пошло в двух направлениях — расширение общей теории на некоторые типы зависимых последовательностей (Ватсон и Лойнес) и создание подробной теории для стационарных последовательностей (Берман, Лидбеттер) и для гауссовских процессов с непрерывным временем (Крамер).

Далее Лидбеттер, Лингрен (G.Lingren), Рутцен (H.Rootzen) в своей совместной работе [27] объединили эти два направления и сформулировали достаточно полную и общую теорию, включающую уже известные на тот момент результаты для стационарных гауссовских последовательностей и процессов. В частности, Лидбеттер (см. [25],[26],[27]) расширил классическую теорию на случай стационарных последовательностей (а также на некоторые важные нестационарные случаи), использовав необходимые ограничения на зависимость между далеко отстоящими друг от друга элементами, таким образом, что классические предельные законы распределения остались в силе, как если бы элементы исходной последовательности являлись независимыми. При этом условие перемешивания, предложенное Лидбетте-ром значительно слабее, чем традиционные формы ограничения зависимости, например такие, как условие сильного перемешивания, впервые пред-ложеное М.Розенблаттом в 1956г. (см. [44]) для доказательства центральной предельной теоремы для "слабо зависящих" случайных величин.

Приведем определение условия перемешивания, о котором пойдет речь. Итак, пусть где {£„}„>! — произвольная стационарная в узком смысле случайная последовательность. Для краткости обозначим -Р», ,.,»„ (и) = ^ ,.,»*„ {и,., и) для всех п, ¿1,г„,м. Пусть {м„} — некоторая числовая последовательность. Тогда случайная последовательность {£„} удовлетворяет условию ¿}(гг„), если существует семейство чисел {(*«,/}, п,1 = 1,2,., такое что ап,1п —> О для некоторой последовательности натуральных чисел {/„}, 1п = о(п) и если, в тоже время, для произвольного набора целых чисел ¿1, .,гр,7*1, .^д, такого что

1 < ¿1 < г2. < гр < < < п, эх -гр>1 выполняется неравенство

Несмотря на довольно сложное определение, данное условие, как отмечалось ранее, очевидно намного слабее условия сильного перемешивания, поскольку оно подразумевает асимптотическую независимость событий А "от прошлого"и В "от будущего", где А и В имеют особенную, простую форму р я

А = Hífc < М, 5 = < «„},

Г=1 S=1 в то время как условие сильного перемешивания требует, чтобы sup | Р{А,В) - Р(А)Р(В) |-> О, при I —>• оо, где точная верхняя грань берется по всем А £ В £ cr(£j,£j+i,.), таким что j — i = I (сг(.) обозначает сг-алгебру, порожденную случайными величинами, стоящими в скобках).

Пусть последовательность {мп}, такая что n( 1 — F(un)) имеет конечный положительный предел при п —> 0. Тогда, для достаточно больших га, типична ситуация, когда

Р(М„ < «„) и Fn\un), (3) где в — фиксировано, принадлежит отрезку [0,1] и называется экстремальным индексом. Строго говоря, стационарная случайная последовательность {£„} обладает экстремальным индексом в, если

Р(Мп < ип) -» е"^ для любого 7 > 0 и любой числовой последовательности {«„(7)}, такой что n[l-FM7))]->7 (4) при п —> оо (см. [26]). Соотношение (4) накладывает определенное ограничение на вид маргинальной функции распределения F. Если F непрерывна, то для достаточно больших п можно положить т) = ь что дает нам равенство в (4) {1? 1 — функция обратная к Г). В любом случае, для того, чтобы для любого 7 > 0 существовала последовательность чисел {ип(7)}, такая что выполняется (4), необходимо и достаточно, чтобы при п —» оо (см. [27]). Данное условие справедливо для любой функции распределения ^ принадлежащей области притяжения любого из трех экстремальных типов. Также очевидно, что если существует {«п(7о)}> удовлетворяющая (4) для некоторого фиксированного 70 > 0, то и для всех 7 > О существуют последовательности {«п(7)}? удовлетворяющие (4) (т.е. если ип(7о) удовлетворяет (4), то можно положить ип(7) = «[«70/7](То))

Экстремальный индекс можно интерпретировать, как меру зависимости членов последовательности {£п}- Если случайные величины £1,., . независимы, то в = 1. Наоборот, если £1, . сильно зависимы, то в « 0. Полезно также отметить, что если 9 > 0, то величина в~1 является асимптотическим средним числом превышений уровня {ип} внутри отдельно взятого интервала длины йп = о{п), при условии, что произошло хотя бы одно превышение внутри данного интервала, а именно где (1п = о(п) при п —У оо (подробнее см. [26]).

В современных исследованиях существуют два основных направления в описании экстремального индекса. Первое заключается в отыскании "хороших" оценок для 0 и исследовании их вероятностных свойств. В свете

1-Г(х)

Ит сьд-^ы) соотношения (3) достаточно оценить в и хвост маргинальной функции распределения .Р, чтобы оценить хвост распределения максимума Мп. Оцениванию параметра 9 посвящены работы [33], [22], [23] и [48].

Другим направлением является вычисление в в случаях, когда известна структура зависимости внутри последовательности случайных величин. К сожалению пока не найден аналитический метод нахождения в для произвольной стационарной последовательности, так что вычисление экстремального индекса для каждой отдельной стохастической модели воспринимается, как несомненная удача. Например Берман (Вегшап [6]) показал, что стационарная стандартная гауссовская последовательность {£„} имеет 9 = 1, если для ковариационной функции гп = сог>(£1,£„+1) справедливо гпк^гг —» 0 при тг —> оо. Позже Рутцен (см.[42] ) вычислил 9 для некоторого класса скользящих средних от устойчивых процессов. В общем случае для стационарного процесса найдены различные представления в (см. [36] и [43]), которые удобны при работе с цепями Маркова, но тем не менее, тяжело трактуются с практической точки зрения. В работе [50] приводится численный метод определения 9 для стационарных марковских цепей &-того порядка.

Изучением стационарных процессов, наблюдаемых в случайные моменты времени занимался, в частности, Мэсри (Е.Маэгу). Им были получены интересные результаты, касающиеся статистических свойств некоторых непараметрических оценок совместной плотности (см.[30]), спектральной плотности (см.[31]) и ковариации (см.[32]). Идея изучения поведения экстремумов случайных процессов в условиях прореживания принадлежит В.И.Питербаргу. Некоторые результаты по гауссовским процессам получены в [41].

В первой и второй главах автор использует перемешивание по Лидбеттеру для получения некоторых результатов в условиях прореживания исходной последовательности.

В первой главе исследуется поведение экстремальных значений семейства стационарных процессов авторегрессии с равномерной маргинальной функцией распределения в условиях, как случайного, так и детерминированного прореживания.

Рассмотрим случайную последовательность

Хп = —Хп-\ + е„, г где г - целочисленный параметр, г > 2 . При этом случайная величина Хо распределена равномерно на отрезке [0,1] (Хо ~ 11[0,1]), а {б„} независимы и имеют одинаковое дискретное распределение Р(еп = к/г) = 1 /г, где к = О,1,г— 1, для любого п > 1. Последовательность {Хп} стационарна в узком смысле и имеет равномерную маргинальную функцию распределения при любом допустимом значении параметра г.

Случайным прореживанием назовем случайную последовательность {т"п}п>(ь такую что то = 0 и для любого п > 1 приращения := — г„1 независимы, одинаково распределены на множестве натуральных чисел. Пусть последовательности {Хп} и {тп} независимы. Предположим, что вместо {Х„} мы наблюдаем процесс {ХГп,тп}п>о и изучаем поведение максимума новой последовательности {ХГп}.

Во втором разделе первой главы мы доказываем справедливость условия перемешивания по Лидбеттеру для {ХТп} и вычисляем коэффициент перемешивания

В третьем разделе первой главы мы находим точные значения экстремального индекса 9 = 1 — Ег~1,1 для каждой случайной последовательности данного параметрического семейства в условиях случайного прореживания (отсутствие прореживания рассматривается, как частный случай). Строго говоря, пусть Мп = maxr.<n XTi, тогда справедливо следующее утверждение:

Р(Мп < 1 при п —> оо для любого х > О, где (9 = 1 — ¿'г-'1, Л = 1 /^¿î.

Во второй главе исследуется асимптотика совместного распределения максимума исходной и максимума случайно прореженной произвольной стационарной случайной последовательности {£„}. Рассматривается вектор

М„,М„) := (max£f,max£ri). (5) г<п г;<п

Для произвольных 7i,72 : 0 < 71,72 < оо, выбираем последовательности {w*} и {и'п} таким образом, что п(1 - F(uln)) 71 > 0, (6) n(l - F(uD) -> 72 > 0 (7) при П -4 оо.

В первом разделе второй главы вводится определение двухуровневого перемешивания по Лидбсттеру для последовательности {£«}? а именно, случайная последовательность {£„} удовлетворяет условию D2(uJt, если существует семейство чисел {£*„,/}, п,/ = 1,2,., такое что аП;/п —>■ 0 для некоторой последовательности натуральных чисел {/«}, ¿п = о(п) и если, в тоже время, для произвольного набора целых чисел ¿1,., ip,ji, такого что

1 < ¿1 < ¿2. < ip < jl. < jq < n, jl -ip> I выполняется неравенство sup I ~

Пусть ип = и\ Л Введем некоторого дополнительного условия на последовательность {£„} — локального условия D'(un): п/к] lim lim sup п V^ Р(£ i > un,t;j > ип) = 0. к->оо оо г—? j=2

Во втором разделе второй главы доказываются вспомогательные леммы, в том числе аналог леммы Лидбеттера для двух пороговых уровней. В третьем разделе второй главы доказывается асимптотическая независимость максимумов (5) при условии, что 71 <72, что является основным результатом второй главы. Пусть {w*}, {и2п} — числовые последовательности, удовлетворяющие условиям (б) и (7) соответственно. Предположим, что условия D'(un) выполнены для стационарной в узком смысле последовательности {<!;„}, где ип = и\ А и2п. Тогда

Р{Мп < 4, Мп < и\) -> е-71-М72-71)+ при п —> оо, где (72 — 7i)+ = max(72 — 71,0), а A = \ jEt\.

В конце второй главы оценивается нижний и верхний предел вероятности Р(Мп < г/^, Мп < и\) для совместного максимума (5) в ситуации, когда условие D'(un) не выполнено. Рассматривается пример равномерного процесса авторегрессии, т.е. частный случай, когда £„ = Хп, п € N.

Все результаты, полученные для максимума Мп (как в перечисленных работах, так и в настоящей диссертации), ведут к аналогичным результатам для минимума через очевидное соотношение тп = min(£i, .,£„) = -max(-fi, .,-£„).

В третьей главе рассматривается задача проверки гипотезы о том, что исходная модель представляет собой случайное блуждание против простой альтернативы, где модель является стационарным процессом авторегрессии.

При построении параметрической модели авторегрессии временного ряда Хг, £ = 1,2,., по наблюдениям X = .,Хт)т одним из важных вопросов является вопрос о его стационарнности. На языке параметров авторегрессии это означает, можно ли считать, что все корни его характеристического полинома лежат внутри единичного круга, или же некоторые из них лежат на границе или вне этого круга. Этой проблематике посвящено большое число работ, например, в [19] имеется обширная библиография. Наиболее полно развит подход, основанный на исследованиях корреляций, то есть, на теории моментов второго порядка. При этом критериальной статистикой естественно становится оценка минимума квадратов параметров авторегрессии.

Третья глава посвящена классическому подходу к задаче о проверке стационарности, основанному на исследовании отношения правдоподобия. Работ в этом направлении неизмеримо меньше, в первую очередь потому, что задача становится существенно труднее. Рассмотрим модель где í £ Z ■ стационарный случайный процесс. Мы хотим проверить гипотезу, что наша модель представляет собой случайное блуждание,

Множество работ посвящено оцениванию параметра а в модели (8) при условии, что {<$*} — гауссовский белый шум (см. [14] и библиографию). Чаще всего используется оценка минимума квадратов

Хг = + £<, ¿ = 1,2,., Хо = ¿о,

8)

Н : а = 1, против простой альтернативы

А: а = 1-1 7>0. которая в тоже время является и оценкой максимального правдоподобия. В работе [45] рассмотрена последовательная оценка максимального правдоподобия параметра с* т^СО у. , ХтгфГ£ ' н >

2^1=1 г—1 где г(/г) является конечным марковским моментом п т(Ь) = тЦп > 1 : > К}.

1=1

В случае, когда — гауссовский белый шум доказывается состоятельность и асимптотическая нормальность в условиях случайной нормировки оценки (10) независимо от истинного значения параметра а. Можно обратиться к работе [46], где те же авторы используют случайную нормировку для доказательства асимптотической нормальности оценки (9) параметра а при а ф ±1. В [3] вычислено предельное распределение отношения правдоподобия для модели (8) как в условиях Н, так и в условиях А, но лишь для случая, когда независимы и имеют одинаковое нормальное распределение.

Оказалось, что при неограниченном росте числа наблюдений, Т —> оо, логарифм отношения правдоподобия имеет нетривиальный предел. Это означает, что нестационарную последовательность можно отличить от стационарной гораздо быстрее, чем две стационарные друг от друга, за порядка Т наблюдений в первом случае против порядка Т2 - во втором. В работе [2] этот результат обобщен на случай, когда - гауссовская стационарная последовательность достаточно произвольного вида, при доказательстве использовалась техника многомерных гауссовских распределений. Исследование в случае произвольного распределения последовательности требует другого подхода к асимптотическому анализу отношения правдоподобия, основанному на изучении сумм, сходящихся к стохастическим интегралам.

Основной результат третьей главы устанавливает, что в случае произвольного маргинального распределения инновационного шума и даже при наличии авторегрессионных зависимостей в этом шуме, результат аналогичен - предел отношения правдоподобия в вышеприведенной задаче существует и представляет собой сумму стохастических интегралов.

Предположим, что инновационный шум в модели (8) является процессом авторегрессии р-го порядка, то есть, удовлетворяет разностному уравнению

St + + . + apSt-p = et, где et — независимые, одинаково распределенные с плотностью распределения f(x) случайные величины, относительно которых ниже мы сделаем несколько предположений, и первое из которых - предположение, гарантирующее выполнение теоремы Донскера для последовательности st :

El: E^i =0, и для некоторого д > 0 E\ei\2+S < оо.

Введем также дополнительные условия на /: Е2: Функции

Pf'(ei + t)2 и r\f"(^ + t)\ /(ei+i)2 ffr + t) непрерывны по t в нуле и ограничены на любом компакте.

Основной целью третьей главы является доказательство следующего результата. Пусть для модели (8) выполнены условия Е1 и Е2. Тогда логарифм отношения правдоподобия для проверки гипотезы Н против альтернативы А по наблюдениям Х\,.,Хг сходится в условиях гипотезы при Т —У оо по распределеию к

7 [Г ~ ^ + ^WWH^W

I + О-2 + 2 yfl

1 + [I!(("2 + [г) ~ + ¥ где - пара независмых стандартных винеровских процессов, а1 дисиерсия случайной величины е\, / - ее информационное количество Фишера, й = сг2/ — 1. Этот результат оформлен в виде теоремы 5 в третьей главе.

Автор выражает глубокую благодарность своему научному руководителю доктору физ.-мат. наук, профессору В.И.Питербаргу за постановки задач и помощь в работе.

Основные результаты диссертации опубликованы в [52], [53] и [51].

Список литературы диссертационного исследования кандидат физико-математических наук Ольшанский, Кирилл Александрович, 2004 год

1. Биллингсли П. Сходимость вероятностных мер. Издательство "Наука", Главная редация физико-математической литературы, Москва 1977.

2. Кормош Я., Питербарг В. И. Критерий нестационарности гауссовского временного ряда при близкой альтернативе. Проблемы передачи информации, 27, 1991, Вып. 4, 70-75.

3. Ноак У.-Б. Проверка простой гипотезы при близкой альтернативе в модели временного ряда авторегрессии. Вестник МГУ. Сер. матем., мех. 1988, N4, 82-84.

4. Ahtola J. A., Tiao G. С. Parametric inferenec for a nearly nonstationary first-order autoregressive model. Biometrika, 1984, N71, 263-272.

5. Beirland, J. and Teugels, J.L.: Asymptotic normality of Hill's estimator. In Lecture Notes in Statistics, (1989), 51, 148-155, eds. J.Hiisler and R.-D. Reiss, Springer-Verlag.

6. Berman, S.M.: Limit theorem for the maximum term in stationary sequences. Ann. Math. Statist., (1964), 35, 502-516.

7. Boulongne P.: Modèle de type Cagan: distribution limites des estimateurs des parameteurs.

8. Chan N. H., Wei С. Z. Asymptotic inference for nearly nonstationary AR(1) processes. Ann. Statist. 1987, 16, N3, 1050-1063.

9. Chernick M.R.: A limit theorem for the maximum of autoregressive processes with uniform marginal distribution., Ann. Probability, (1981), 9, 145-149.

10. Chernick M.R.: A limit theorem for the maximum of an exponential autoregressive process. SIMS Technical Report 14, Statist. Depart., Standfort Univ.

11. Csorgo, S., Deheuvels, P. Mason, D.M.: Kernel estimates of the tail index of a distribution. Ann. Statist., (1985), 13, 1050-1077.

12. Davis, R.A. and Resnick, S.T.: Tail estimates motivated by extreme value theory. Ann. Statist., (1984), 13, 1050-1077.

13. Dekkers, A.L.M. and de Haan, L: On the estimation of the extreme-value index and large quantile estimation. Ann. Statist., (1989), 17, 1795-1832.

14. Dickey, D.A. and Fueller, W.A.: Distribution of the estimators for autoregressive time series with a unit root. Journal of American Statistical Association., (1979), 74, 427-431.

15. Fisher, R.A. and Tippet, L.H.C.: Limiting forms of the frequency distribution of the lagest or smallest member of a sample. Proc. Cambridge Phil. Soc., (1928), 24, 180-190.

16. Gnedenko B.V.: Sur la distribution limite du terme maximum d'une série aléatoire., Ann. Math., (1943), 44, 423-453.

17. Gumbel, E.J.: Statistics of Extremes. New York,. Colambia Univ. Ptress.

18. Haal, P.: On some simple estimates of an exponent of regular variation. Jornal of the Royal Statistical Society, (1982), B44, 37-42.

19. Hamilton J.D. Time Series Analysis. Princeton Univ. Press, Princeton, New Jersey, 1994.

20. Hausler, E. and Teugels, J.L.: On the asymptotic normality of Hill's estimator for the exponent or regular variation. Ann. Statist., (1985), 13, 743-756.

21. Hill, B.M.: A simple genegal approach to inference about the tail of a distribution. Ann. Statist., (1975), 3, 1163-1174.

22. Hsing, T.: On tail index estimation using dependent data. Ann. Statist., (1991), 19, 1547-1569.

23. Hsing, T.: Extremal index estimation for a weakly dependent stationary sequence. Ann. Statist, (1993), 21, 2043-2071.

24. Jacod J., Shiryaev A.H.: Limit Theorems for Stochastic Processes. SpringerVerlag, Berlin Heidelberg New York, 1987.

25. Leadbetter M.R.: On extreme values in stationary sequences., (1974), Z. Wahrscheinlichkeitstheorie verw. Gebiete, 28, 289-303.

26. Leadbetter M.R.: Extremes and local dependence in stationary sequences., (1983), Z. Wahrscheinlichkeitstheorie verw. Gebiete, 65, 291-306.

27. Leadbetter M.R, Lingren G., Rootzen H.: Extremes and relaned poroperties of random sequances and processes.,Springer Statistics Series. Berlin-Heidelberg-New York: Springer (1983).

28. Loynes R.M.: Extreme values in uniformly mixing stationary stochastic processes., (1965), Ann. Math. Statist., 36, 993-999.

29. Masson, D.M.: Lows of large numbers for sums or extreme values. Ann. Probab., (1982), 10, 754-764.

30. Masry E.: Random sampling of continous-parameter stationary processes: stationary properties of joint density estimators., (1988),Journal of Multivariate Analysis,, 26, 133-165.

31. Masry E.: Non-parametric covariance estimation from irregularly-spaced data., (1983) Adv. in Appl. Probab. 15, 113-132.

32. Masry E.: Spectral and probability density estimation from irregularly-observed data. In Time Series Analysis of Irregularly Observed Data (E. Parzen, Ed.), 224-250. Springer-Verlag, New York/Berlin.

33. Nandagopalan, S.: Multivariate extremes and estimation of the extremal index. Ph.D. dissertation, Dept. Statist, Univ. North Carplina, Chapel Hill.

34. O'Brien G.L.: The maximum term of uniformly mixing stationary processes., Z. Wahrscheinlichkeitstheorie verw. Gebiete, (1974), 30, 57-63.

35. O'Brien G.L.: Limit theorems for the maximum term of a ststionary process., Ann. Probability, (1974), 2 540-545.

36. O'Brien G.L.: Extreme values for stationary and Markov sequences., Ann. Probability, (1987), 15 181-191.

37. Park J.Y. Phillips P.C.B. Statistical inference in regressions with integrated processes: part 2. Econometric Theory, 5, 1989, 95 131.

38. Phillips P.C.B., Durlauf S.N.(1986) Multiple time series regression with integrated processes. Review of Economic Studies, LIII, 473-495.

39. Phillips P.C.B., Perron P. (1988) Testing for unit roots in time series regression. Biometrica, 75, 335-346.

40. Pickands, J: Satistical inference using extreme order statistics. Ann. Statist., (1975), 3 119-131.

41. Piterbarg V.I.: Discrete vs continuous time for large extremes of Gaussian processes. Rotterdam (2002). Econometric Institute report, ISSN 15667294 ; EI 2002-06, 19 p. ; 30 cm.

42. Rootzen, H: Exstremes of moving averages of stable processes. Ann. Probab., (1978), 6 847-869.

43. Rootzen, H: Maxima and exeedances of stationary Markov chains. Adv. in Appl. Probab., (1988), 20 371-390.

44. Rozenblatt, M: A central limit theorem and strong mixing condition Proceedings or the National Academy of Sciences USA, (1956), 42, 43-47.

45. Shiryaev, A.N. and Spokoiny, V.G. : On sequential estimation of an autoregressive parameter. Stochastics Stochastics Rep., (1997), 60, no. 3-4, 219-240.

46. Shiryaev, A.N. and Spokoiny, V.G. : Statistical experiments and Decisions: Asyrntotic theory. World Scientific Publ., (2000), London, Singapore.

47. Smith, R.L.: Estimating tails of probability distributions. Ann. Statist., (1987), 15 1174-1207.

48. Smith, R.L. and Weissman, I: Estimating the extremal index. J. Roy. Statist. Soc Ser.B, (1994), 56 512-528.

49. Watson, G.S.: Extreme values in samples from m-dependent stationary processes., (1954), Ann. Math. Statist., 25, 798-800.