Робастное и непараметрическое оценивание параметров авторегрессионного поля тема диссертации и автореферата по ВАК РФ 05.13.01, доктор физико-математических наук Горяинов, Владимир Борисович

• Горяинов, Владимир Борисович
• доктор физико-математических наук
• 2013

Оглавление диссертации доктор физико-математических наук Горяинов, Владимир Борисович

Введение

Глава 1. М-оценки коэффициентов пространственной авторегрессии

1.1. Тпиы НИ I ОрОГреССПОППЫХ полой и методы их исследования

1.2. К. тссическии п робастнын подходы

1.3. Определение М-оценок

1.4. А( ими !о I пческая норма, н.поеть М-оцепок

1.5. А.поритм вычисления М-оцепок

1.С. Сравнение \1-()ц(чюк и оценки наименьших ква,дратв

1.7. Выводы по главе 1

Глава 2. Обобщённые М-оценки коэффициентов авторегрессионного поля

2 1. Определение обобщённых М-оцепок

2.2. Асимптот ичо< кая нормальное! ь обобщённых М-оцепок

р(Ч рССГИОНПЫХ по кч"1

2.4. Сравнение оценки наименьших квалратв М-онепок и обобщённых М-оценок

2.5. Фильтрация изображений, -загрязненных импульсным шумом

2.0. Вы коды по !.таие 2

Глава 3. Оценка наименьших модулей коэффициентов пространственной авторегрессии

3.1. Определение оценок наименьших модулей

стр.

3.2. Асимптот ичеекая нормальной ь оценки наименьших модулей

3 3. Сравнение опенок наименьших мод\дей и наименьших квадра-

тов при нарушении предно, юженпя нормальное i и ипиовапнон-

iioio моля

3.4. Функционал влияния оценки наименьших мод,улей

3.5. Сравнение оценок наименьших модулей н наименьших квадратов нрп ;-iai рялнепии наблюдении Хп аномально бол1>шимп ошибками

3.6 Bi>iводы но гла ве 3

Глава 4. Знаковые критерии и оценка

4.1. Введение

4.2. Знаковые критерии проверки i ипок- s о параметрах а,второ1 рес-споппого ноля

4.3. Раен])еделение етагиетик .покаплю наиболее мощных знаковых крит ериев

1 1. Определение 'знаковой оценки

4.0. Со(лоятелыюеть знаковой оценки

4.G. Аеимптогичеекаи нормал1>ноетч> 'знаковой оценки

4.7. Ф\ нкционал влияния знаковой опенки

4.8. Сравнение 'знаковой оценки с оценкой наименьших квадратов

4 9. Выводы по главе 4

Глава 5. Ранговые критерии и оценки

5 1. Введение

5.2. Локально наиболее мощные ранговые кршерпи

стр.

5.3. Асимптотическая нормальность ста'і исгик лока, нлю наиболее

мошных рані овых крпіерпев

о.І. Приб. шжёпные раш он!ло \нм кп

5 Г). 11])іімс[)ы менж ранговых с га і псгик

5.0. Определение ранговых опенок

5.7. Оостоятельпосі ь ранговых оценок

5.8. Асимнтої пчеекая нормальность ранговых оценок

5.9. Сравнение раш оных оценок с оценкой наименьших квадрати

5.10. Выводы но главе 5

Основные результаты и выводы

Литература

Введение диссертации (часть автореферата) на тему «Робастное и непараметрическое оценивание параметров авторегрессионного поля»

Введение

Актуальность темы. Первые упоминания об авторегрессионных случайных полях или, как их ещё называют, процессах пространственной авторегрессии, появились в конце 50-х годов прошлого века [156], а через четверть века началось их систематическое исследование [01, 62, 85, 102, 104, 147, 149], активность которого растёт до сих пор. Одной из причин растущего интереса к авторегрессионным полям стало их широкое использование в теории анализа и обработки изображений и теории распознавания образов [7, 39], причём не только в технике [42, 131, 132], но и в естественных науках [69, 125, 164] и медицине [122, 126, 127, 133]. Другим важным направлением применения авторегрессионных полей стала экономика, в которой они используются и в составе более сложных моделей описания пространственно-временных экономических явлений [64, 75, 116].

Одним из важных этапов изучения авторегрессионных полей является их идентификация, сводящаяся к оцениванию параметров (коэффициентов) авторегрессионной модели и проверке различных гипотез о них. Первоначально для этого использовался аналог метода Юла—Уолкера оценивания параметров одномерного авторегрессионного уравнения и эквивалентный ему метод наименьших квадратов. Однако первые же попытки описания процессом пространственной авторегрессии реальных данных привели к пониманию важности разработки таких методов идентификации, которые были бы малочувствительны к нарушениям предположений, лежащих в основе метода наименьших квадратов, и прежде всего к предположениям о нормальном (гауссовском) распределении наблюдений [105].

Аналогичные проблемы возникли и в других направлениях математической статистики, что привело к созданию П.Дж. Хьюбером [46, 97, 98] и Ф. Хампелем [47, 92, 93] в 60-х годах двадцатого века нового подхода к ана-

лизу данных, названного робастным. Робастные методы лишь незначительно уступают в эффективности методам максимального правдоподобия при анализе наблюдений с известным вероятностным распределением, практически не теряют эффективность при небольшом отклонении распределения наблюдений от предполагаемого и не приводят к катастрофическим ошибкам при значительных нарушениях в предположении о распределении наблюдений. Основу робастного подхода к оцениванию параметров моделей составляет теория построения М-оценок, которые являются обобщением оценок максимального правдоподобия. Первоначально свойства М-оценок были изучены в наиболее простых случаях одно- и двухвыборочной задачи [46, 47]. Использование М-оценок в этих моделях оказалось лучше применения метода наименьших квадратов с предварительным отбрасыванием резко выделяющихся наблюдений. В линейных регрессионных моделях М-оценки строились в [4G, 47, 108, 161, 163], в многомерных регрессионных моделях — [54], в нелинейных регрессионных моделях — [100].

Параллельно теория М-оценивания развивалась для процессов авторегрессии [55, 71] и процессов авторегрессии-скользящего среднего [70, 112]. Обобщением М-оценок в регрессионных моделях занимались [54, 68, 119, 157], а в авторегрессионных — [109, 158].

М-оценки в пространственной регрессии изучались [111], а в пространственной авторегрессии — [140].

Одновременно развивались методы анализа данных, основанные на знаках и рангах наблюдений, которые также не предполагают гауссовость наблюдений [8, 96, 101]. За прежними методами, восходящими к концу девятнадцатого и началу двадцатого веков и связанными прежде всего с именами Р. Фишера, К. Пирсона и У. Госсета (Стьюдента), закрепился термин «классические». Первоначально робастные, знаковые и ранговые методы были разработаны и исследованы для сравнительно простых моделей одно- и

двухвыборочных задач сдвига и масштаба. Затем, в последнее десятилетие прошлого века эти методы были распространены на линейную регрессию [101] и одномерную авторегрессию [5, 54, 65, 68, 71, 88-90, 106, 107, 110, 112], и их статистические свойства в перечисленных моделях продолжают изучать, их статистические свойства в перечисленных моделях продолжают изучаться и в настоящее время [50, 52, 55, 77, 158, 163].

Применение робастных методов к анализу авторегрессионных полей в теории обработки изображений также дало положительные результаты, но их изучение, в частности, сравнительный анализ с методом наименьших квадратов, велось исключительно методом компьютерного моделирования вплоть до самого последнего времени [129]. Первые теоретические работы на эту тему появились совсем недавно [82, 130, 140, 141]. К сожалению, подавляющее большинство работ, особенно в экономико-математических журналах, по-прежнему базируется на классическом подходе [53, 60, 70, 72, 79, 80, 84, 86, 113-115, 146, 160]. Таким образом, исследование статистических свойств робастных методов анализа пространственной авторегрессионной модели является актуальной задачей.

Целью работы является разработка и исследование свойств методов робастного и непараметрического оценивания параметров авторегрессионных полей с неизвестным вероятностным распределением.

Задачами исследования являются:

- построение оптимальных знаковых и ранговых критериев проверки гипотез о параметрах авторегрессионных полей;

- построение и исследование статистических свойств знаковых и ранговых оценок параметров авторегрессионных полей;

- исследование статистических свойств М-оценок, обобщённых М-оце-нок, оценок наименьших модулей параметров авторегрессионных полей.

Методы исследования. В диссертации применяются методы теории

вероятностей, математической статистики, теории случайных процессов, математического анализа, функционального анализа.

Научная новизна. В диссертации получены следующие новые результаты, которые выносятся на защиту:

1) метод построения локально наиболее мощных знаковых и ранговых критериев проверки гипотез о параметрах авторегрессионных полей;

2) знаковые и ранговые оценки параметров авторегрессионных полей, основанные на локально наиболее мощных знаковых и ранговых критериях;

3) доказательство состоятельности и асимптотической нормальности М-оценок, обобщённых М-оценок, оценки наименьших модулей, знаковой оценки и ранговых оценок параметров авторегрессионных полей;

4) аналитический вид асимптотической относительной эффективности М-оценок, оценки наименьших модулей, знаковой оценки и ранговых оценок по отношению к оценке наименьших квадратов;

5) исследование поведения функционала влияния обобщённых М-оценок, М-оценок, оценки наименьших модулей и знаковой оценки на различных классах вероятностных распределений ошибок наблюдений авторегрессионного поля.

Результаты диссертации носят теоретический характер и являются развитием робастной теории идентификации стохастических систем.

Достоверность результатов подтверждена строгими доказательствами и результатами численных расчётов.

Практическая ценность. Результаты, изложенные в диссертации, могут быть использованы для идентификации авторегрессионных полей, в особенности, имеющих негауссовскую природу, и/или авторегрессионных полей, наблюдающихся с грубыми ошибками.

Апробация результатов работы. Результаты диссертационной работы докладывались на международной научно-технической конференции «Ин-

формационные технологии и информационная безопасность в науке, технике и образовании «ИНФОТЕХ- 2011»» (Севастополь, 2011), ХУ1-Й Международной конференции «Системный анализ, управление и навигация» (Евпатория, 2011), IX Международной конференции «Идентификация систем и задачи управления», 81СР110'12 (Москва, 2012), ХУП-й Международной конференции «Системный анализ, управление и навигация» (Евпатория, 2012), VII Всероссийской конференции «Необратимые процессы в природе и технике» (Москва, 2013), XXXI Международном семинаре по проблемам устойчивости стохастических моделей 188Р8М'2013 (Москва, 2013), II Международной научно-технической конференции Сот1^-2013 (Черкассы, 2013).

Работа выполнена при поддержке программы Минобрнауки «Развитие научного потенциала высшей школы (2009-2013 годы)», проект № 2.1.1/227.

Публикации. Основные результаты диссертации отражены в 24 научных работах, [10-33], в том числе в 16 статьях, [10-13, 15, 16, 18, 19, 21, 22, 24, 25, 27, 29, 31, 33], опубликованных в журналах из Перечня ведущих научных журналов и изданий, сборнике трудов конференции [20], а также 6 тезисах докладов [14, 17, 23, 26, 28, 30].

Личный вклад соискателя. Все исследования, результаты которых изложены в диссертационной работе, проведены лично соискателем в процессе научной деятельности. Из совместных публикаций в диссертацию включен лишь тот материал, который непосредственно принадлежит соискателю.

Структура и объём работы. Диссертация состоит из введения, пяти глав, выводов и списка литературы. Работа изложена на 243 страницах, содержит 19 иллюстраций, 6 таблиц. Библиография включает 164 наименования.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Горяинов, Владимир Борисович

Основные результаты и выводы

В диссертации получены следующие результаты.

1. Построены локально наиболее мощные знаковые и ранговые критерии проверки гипотез о параметрах авторегрессионных полей;

2. Доказаны состоятельность и асимптотическая нормальность М-оце-нок, обобщённых М-оценок, оценки наименьших модулей, знаковой оценки и ранговых оценок параметров авторегрессионных полей;

3. Найдена асимптотическая относительная эффективность М-оценок, оценки наименьших модулей, знаковой оценки и ранговых оценок по отношению к оценке наименьших квадратов;

4. Найден функционал влияния обобщённых М-оценок, М-оценок, оценки наименьших модулей и знаковой оценки.

Проведенные исследования позволяют сделать следующие выводы:

1. Разработанные критерии и оценки позволяют решать задачи идентификации модели авторегрессионного поля.

2. Эффективность робастных и непараметрических методов идентификации авторегрессионного поля зависит от вероятностного распределения обновляющего поля и от распределения ошибок наблюдения авторегрессионного поля.

3. При небольших нарушениях предположения о нормальности обновляющего поля для идентификации параметров авторегрессионного уравнения целесообразно использовать ранговые критерии и оценки или М-оценки.

4. При значительных нарушениях предположения о нормальности обновляющего поля для идентификации параметров авторегрессионного уравнения целесообразно использовать знаковые критерии и оценки или обобщенные М-оценки.

Список литературы диссертационного исследования доктор физико-математических наук Горяинов, Владимир Борисович, 2013 год

Литература

1. Акимов П. А., Матасов А. И. Уровни неоптимальности алгоритма Вейс-фельда в методе наименьших модулей // Автоматика и телемеханика. 2010. № 2. С. 2-16.

2. Амосов A.A., Дубинский Ю.А., Копченова Н.В. Вычислительные методы для инженеров. М.: Высшая школа, 1994. 546 с.

3. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976. 757 с.

4. Биллингсли П. Сходимость вероятностных мер. М.: Наука, 1977. 352 с.

5. Болдин М.В., Симонова Г. И., Тюрин Ю. Н. Знаковый статистический анализ линейных моделей. М.: Наука, 1997. 288 с.

6. Боровков A.A. Математическая статистика. Новосибирск: Наука, 1997. 772 с.

7. Васильев К.К. Статистический анализ многомерных изображений. Ульяновск: УлГТУ, 2002. 156 с.

8. Гаек Я., Шидак 3. Теория ранговых критериев. М.: Наука, 1971. 376 с.

9. Гельфанд И.М. Лекции по линейной алгебре. М.: Наука, 1971. 267 с.

10. Горяинова Е. Р., Горяинов В. Б. Знаковые критерии в модели скользящего среднего // Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2008. № 1. С. 76-86.

11. Горяинов В. Б., Горяинова Е. Р. Знаковые критерии независимости наблюдений в модели пространственной авторегрессии порядка (1,1)

// Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2009. № 2. С. 115-123.

12. Горяинов В. В., Горяинова Е. Р. Непараметрическая идентификация пространственной модели авторегрессии в условиях априорной стохастической неопределенности // Автоматика и телемеханика. 2010. № 2. С. 31-41.

13. Горяинов В. Б. Локально наиболее мощные ранговые критерии независимости наблюдений в модели пространственной авторегрессии // Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2010. № 4. С. 16-28.

14. Горяинов В. Б. Робастные свойства ранговых оценок коэффициентов двумерных авторегрессионных моделей // Информационные технологии и информационная безопасность в науке, технике и образовани: Тез. докл. Международной научно-технической конференции. Севастополь, 2011. С. 13.

15. Горяинов В. Б. Идентификация пространственной авторегрессии ранговыми методами // Автоматика и телемеханика. 2011. № 5. С. 82-95.

16. Горяинов В. Б. Асимптотическая нормальность оценок наименьших модулей коэффициентов пространственной авторегрессии // Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2011. № 1. С. 25-32.

17. Горяинов В. Б., Горяинова Е. Р. Робастные свойства оценок наименьших модулей коэффициентов пространственной авторегрессии // Системный анализ, управление и навигация: Тез. докл. 16-й Международной конференции. М., 2011. С. 142-143.

18. Горяинов В. Б. Оценки наименьших модулей коэффициентов пространственной авторегрессии // Известия РАН. Теория и системы управления. 2011. № 4. С. 58-65.

19. Горяинов В. Б., Горяинова Е. Р. М-оценки коэффициентов 2Б-авторегрес-сии с необязательно выпуклой функцией потерь // Наука и образование: электронное научное издание. 2011. № 10 [электронный ресурс]. URL: http://technomag.edu.ru/doc/246206.html (дата обращения: 01.11.2011)

20. Горяинов В. Б. М-оценки коэффициентов пространственной авторегрессии // Идентификация систем и задачи управления: Труды IX Международной конференции SICPRO'12. М., 2012. С. 713-719.

21. Горяинов В. Б. Функционалы влияния робастных оценок параметров авторегрессионных полей // Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2012. № 4. С. 3-12.

22. Горяинов В. Б. М-оценки пространственной авторегрессии // Автоматика и телемеханика. 2012. № 8. С. 119-129.

23. Горяинов В. Б. Ранговые оценки коэффициентов пространственной авторегрессии // Системный анализ, управление и навигация: Тез. докл. 17-й Международной конференции. М., 2012. С. 155.

24. Горяинов В. Б. Непараметрическое оценивание коэффициентов пространственной авторегрессии // Вестник МГТУ им. Н.Э. Баумана. Естественные науки. 2012. № 7. С. 164-174.

25. Горяинов В. Б. Обобщенные М-оценки коэффициентов авторегрессионного поля // Автоматика и телемеханика. 2012. № 10. С. 42-51.

26. Горяинов В. Б. Асимптотические свойства обобщённых М-оценок коэффициентов двумерной авторегрессии // Необратимые процессы в природе и технике: Труды 7 Всероссийской конференции. М., 2013. Часть II. С. 4-6.

27. Горяинов В. Б. Ранговый анализ случайных полей // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон, журн. 2013. № 3. DOI: 10.7463/0313.0541592.

28. Goryainov V. В., Goryainova Е. R. Asymptotic properties of sign estimation of the autoregressive field's coefficients // XXXI International Seminar on Stability Problems for Stochastic Models: abstracts. Moscow, 2013. P. 30-32.

29. Горяинов В. Б., Горяинова Е. Р. Робастность оценки коэффициентов уравнения пространственной авторегрессии, основанной на знаковых критериях // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон, журн. 2013. № 4. DOI: 10.7463/0413.0569036.

30. Горяинов В. Б. Асимптотические свойства знаковой оценки коэффициентов авторегрессионного поля // Вычислительный интеллект - 2013 (результаты, проблемы, перспективы): Тез. докл. Второй международной научно-технической конференции ComInt-2013. Черкассы, 2013. С. 351-352.

31. Горяинов В. Б. Идентификация случайных полей методами, основанными на знаках остатков наблюдений // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон, журн. 2013. № 6. DOI: 10.7463/0613.0571085.

32. Goryainov V. В. Robustness of the sign estimators in the 2D-autoregression // European Researcher. 2013. V. 48, N 5-1. P. 1083-1087.

33. Горяинов В. Б. Алгоритм вычисления М-оценок параметров авторегрессионного поля // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон. журн. 2013. № 7. DOI: 10.7463/0713.0571094.

34. Цифровая обработка изображений в информационных системах / И.С. Грузман [и др.]. Новосибирск: Изд-во НГТУ, 2002. 352 с.

35. Дэйвид Г. Порядковые статистики. М.: Наука, 1979. 336 с.

36. Ибрагимов И.А., Линник Ю.В. Независимые и стационарно связанные величины. М.: Наука, 1965. 525 с.

37. Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.: УРСС, 2010. 600 с.

38. Канторович Л.В., Акилов Г.П. Функциональный анализ. М.: Наука, 1984. 752 с.

39. Кашкин В.Б., Сухинин А.И. Цифровая обработка аэрокосмических изображений. Красноярск: ИПК СФУ, 2008. 121 с.

40. Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников. М.: Наука, 2006. 816 с.

41. Леман Э. Теория точечного оценивания. М.: Наука, 1991. 448 с.

42. Попов О.В. Анализ авторегрессионных моделей случайных полей с кратными корнями // Труды Ульяновского научного центра «Ноосферные знания и технологии» Российской академии естественных наук. 1999. Т .2, вып. 1. С. 122-128.

43. Pao С. Р. Линейные статистические методы и их применения. М.: Наука, 1968. 548 с.

44. Старцев А.Н., Мирзаев Т.С. О другом подходе к оценки параметра в одной модели пространственной авторегрессии // Узбекский математический журнал. 2011. № 2. 145-153.

45. Тьюки Д. Анализ результатов наблюдений. Разведочный анализ. М.: Мир, 1981. 694 с.

46. Хьюбер П.Дж. Робастность в статистике. М.: Мир, 1984. 304 с.

47. Робастность в статистике. Подход на основе функций влияния / Ф. Хам-пель [и др.]. М.: Мир, 1989. 512 с.

48. Ширяев А. Н. Вероятность. М.: Наука, 1980. 581 с.

49. Ширяев А. Н. Вероятность; В 2-х кн. М.: МЦНМО, 2004. Кн. 2. 408 с.

50. Allal J., Kaaouachi A., Paindaveine D. R-estimation for ARMA models // Journal of Nonparametric Statistics. 2001. V. 13. N 6. P. 815-831.

51. Andersen P. K., Gill R. D. Cox's regression model for counting processes: a large sample study // Ann. Statist. 1982. V. 10, N 4. P. 1100-1120.

52. Andrews B. Rank-based estimation for autoregressive moving average time series models // J. Time Ser. Anal. 2008. V. 29, N 1. P. 51-73.

53. Arnold M., Wied D. Improved GMM estimation of the spatial autoregressive error model // Econom. Lett. 2010. V. 108, N 1. P. 65-68.

54. Bai Z. D., Wu Y. On necessary conditions for the weak consistency of minimum Li-norm estimates in linear models // Statist. Probab. Lett. 1997. V. 34, N 2. P. 193-199.

55. Bantli F. E., Hallin M. Asymptotic behaviour of M-estimators in AR(p) models under nonstandard conditions //The Canadian Journal of Statistics. 2001. V. 29, N 1. P. 155-168.

56. Barrodale I., Roberts F. D. K. An improved algorithm for discrete L\ linear approximation // SIAM J. Numerical Analysis. 1973. V. 10, N 5. P. 839-848.

57. Bartlett M. S. Physical nearest-neighbour models and non-linear time-series // J. Appl. Probability. 1971. V. 8, N 2. P. 222-232.

58. Bartlett M. S. The statistical analysis of spatial pattern. London: Chapman Hall, 1975. 90 p.

59. Bassett G., Koenker R. Asymptotic theory of least absolute error regression // J. Amer. Statist. Assoc. 1978. V. 73, N 363. P. 618-622.

60. Basu S., Reinsel G. C. Properties of the spatial unilateral first-order ARM A model // Advances in Applied Probability. 1993. V. 25, N 3. P. 631-648.

61. Besag J. On the correlation structure of some two-dimensional stationary processes // Biometrika. 1972. V. 59, N 1. P. 43-48.

62. Besag J. Spatial interaction and the statistical analysis of lattice systems // J. R. Statist. Soc. Ser. B. 1974. V. 36, N 2. P. 192-236.

63. Besag J., York J., Mollie A. Bayesian image restoration, with two applications in spatial statistics. With discussion and a reply by Besag // Ann. Inst. Statist. Math. 1991. V. 43, N 1. P. 1-59.

64. Blonigen B.A., Davies R. B., Waddell G. R. et al. FDI in space: spatial autoregressive relationships in foreign direct investment // European Economic Review. 2007. V. 51, N 5. P. 1303-1325.

65. Bloomfield P., Steiger W. L. Least absolute deviations. Theory, applications, and algorithms. Boston: Birkhauser, 1983. 349 p.

66. Box G. E.P., Jenkins G.M., Reinsel G.C. Time Series Analysis: forecasting and control. Upper Saddle River: Prentice-Hall Inc. 1994. 598 p.

67. Bulinski A., Shashkin A. Limit theorems for associated random fields and related systems. London: World Scientific, 2007. P. 447.

68. Asymptotic normality of minimum Li-norm estimates in linear models / X.R. Chen [et al.]. // Sci. China. Ser. A. 1990. V. 33, N 11. P. 1311-1328.

69. Chiles J.-P., Delfiner P. Geostatistics: Modeling Spatial Uncertainty. New York: Wiley, 1999. 695 p.

70. Davis R.A. Gauss-Newton and M-estimation for ARMA processes with infinite variance // Stochastic Process. Appl. 1996. V. 63, N 1. P. 75-95.

71. Davis R.A., Knight K., Liu J. M-estimation for autoregressions with infinite variance // Stochastic Process. Appl. 1992. V. 40, N 1. P. 145-180.

72. Davydov Y., Paulauskas V. On estimation of parameters for spatial autoregressive model // Statistical Inference for Stochastic Processes. 2008. V. 11, N 3. P. 237-247.

73. Delfiner P., Delhomme J.P. Optimum interpolation by kriging // Nato Advanced Study Institute on Display and Analysis of Spatial Data. New York: Wiley, 1975. P. 96-115.

74. Delp E.J., Kashyap R.L., Mitcheli O.R. Image data compression using autoregressive time series models // Pattern Recognition. 1979. V. 11, N5-6. P. 313-323.

75. Dubin R., Pace R. K., Thibodeau T. G. Spatial Autoregression Techniques for Real Estate Data //J. Real Estate Literature. 1999. V. 7, N 1. P. 79-95.

76. Eisenhart C. Boscovitch and the combination of observations // Roger Joseph Boscovitch. N. Y.: Fordham University Press, 1961. P. 200-212.

77. El Bantli F., Hallin M. Asymptotic behaviour of M-estimators in AR(p) models under nonstandard conditions // The Canadian Journal of Statistics. 2001. V. 29, N 1. P. 155-168.

78. Franks L. E. A model for the random video process // Bell System Technical Journal. 1966. V. 45, N 4. P. 609-630.

79. Gaetan C., Greco L. Weighted likelihood inference for a mixed regressive spatial autoregressive model. Data analysis and classification // Studies in Classification, Data Analysis, and Knowledge Organization. Berlin: Springer, 2010. P. 407-414.

80. Gaetan C., Guyon X. Spatial statistics and modeling. New York: Springer, 2010. 308 p.

81. Handbook of spatial statistics / A. Gelfand [et al.]. Boca Raton: Taylor & Francis, 2010. 620 p.

82. Genton M. G., Koul H. L. Minimum distance inference in unilateral autoregressive lattice processes // Statistica Sinica. 2008. V. 18, N 2. P. 617-631.

83. Goryainov V. B., Goryainova E. R. Asymptotic properties of sign estimation of the autoregressive field's coefficients // XXXI International Seminar on Stability Problems for Stochastic Models: Abstracts. Moscow, 2013. P. 30-32.

84. Griffith D.A. Faster maximum likelihood estimation of very large spatial autoregressive models an extension of the Smirnov-Anselin result // J. Statistical Computation and Simulation. 2004. V. 74, N 12. P. 855-866.

85. Guyon X. Parameter estimation for a stationary process on a d-dimensional lattice // Biometrika. 1982. V. 69, N 1. P. 95-105.

86. Ha E., Newton H. J. The bias of estimators of causal spatial autoregressive processes // Biometrika. 1993. V. 80, N 1. P. 242-245.

87. Haining R. Spatial data analysis: theory and practice. Cambridge: CUP, 2004. 454 p.

88. Hajek J., Shidak Z., Sen P.K. Theory of rank tests. San Diego: Academic Press, 1999. 450 p.

89. Hallin M., Ingenbleek J.-F., Puri M. L. Linear serial rank tests for randomness against arma alternatives // The Annals of Statistics. 1985. V. 13, N 3. P. 1156-1181.

90. Hallin M., Puri M. L. Optimal Rank-Based Procedures for Time Series Analysis: Testing an ARMA Model Against Other ARMA Models // The Annals of Statistics. 1988. V. 16, N 1. P. 402-432.

91. Hallin M., Werker B. J. M. Optimal testing for semi-parametric AR models: from gaussian lagrangem ultipliers to autoregression rank scores and adaptiver ank tests // Asymptotics, nonparametrics and time series /S. Ghosh, ed. New York: Marcel Dekker, 1999. P. 295-350.

92. Hampel F.R. A general qualitative definition of robustness // Ann. Math. Statist. 1971. V. 42, N 6. P. 1887-1896.

93. Hampel F.R. The influence curve and its role in robust estimation // The Annals of Statistics. 1974. V. 69, N 346. P. 383-393.

94. Helson H., Lowdenslager D. Prediction theory and Fourier series in several variables // Acta Math. 1958. V. 99, N 1. P. 165-202.

95. Helson H., Lowdenslager D. Prediction theory and Fourier series in several variables. II // Acta Math. 1961. V. 106, N 3-4. P. 175-213.

96. Hodges J.L.Jr., Lehmann E.L. Estimates of location based on rank tests // Ann. Math. Stat. 1963. V. 34, N 2. P. 598-611.

97. Huber P.J. Robust estimation of a location parameter // Ann. Math. Statist. 1964. V. 35, N 1. P. 73-101.

98. Huber P.J. The behavior of maximum likelihood estimates under nonstandard conditions // Proc. Fifth Berkeley Sympos. Math. Statist, and Probability, Berkeley (Calif.), 1965/66, Berkeley, 1967. Vol. I. P. 221-233.

99. Hu X., Nenov V. Multivariate AR modelling of electromyography for the classification of upper arm movements // Clin. Neurol. 2004. V. 115, N 6. P. 1276-1287.

100. Ivanov A.V., Leonenko N.N. Asymptotic behavior of M -estimators in continuous-time non-linear regression with long-range dependent errors // Random Oper. Stochastic Equations. 2002. V. 10, N 3. P. 201-222.

101. Jureckova J. Asymptotic linearity of a rank statistic in regression parameter // Ann. Math. Statist. 1969. V. 40, N 6. P. 1889-1900.

102. Kallianpur G., Mandrekar V. Nondeterministic random fields and Wold and Halmos decompositions for commuting isometries // Prediction theory and harmonic analysis. Amsterdam, 1983. P. 165-190.

103. Kashyap R. L., Rao A.R. Dynamic stochastic models from empirical data. New York: Academic Press, 1976. 334 p.

104. Kashyap R. L. Characterization and estimation of two-dimensional ARMA models // IEEE Trans. Inform. Theory. 1984. V. 30, N 5. P. 736-745.

105. Kashyap R., Eom K. Robust image techniques with an image restoration application // IEEE Trans. On Acoustics, Speech, and signal Processing. 1988. V. 36, N 8. P. 1313-1325.

106. Knight K. Some limit theory for Li-estimators in autoregressive models under general conditions. ./^-statistical procedures and related topics // Lecture Notes Monogr. Ser. Inst. Math. Statist. 1997. V. 31. P. 315-328.

107. Knight K. Limiting distributions for L\ regression estimators under general conditions // Ann. Statist. 1998. V. 26, N 2. P. 755-770.

108. Knopov P.S. Asymptotic properties of some classes of M-estimates // Cybernetics and Systems Analysis. 1997. V. 33, N 4. P. 468-481.

109. Koul H.L. Weighted empiricals and linear models // Lecture Notes—Monograph Series / Institute of Mathematical Statistics. Hayward (CA). 1992. 264 p.

110. Koul H.L., Saleh A. K. Md. E. R-estimation of the parameters of autoregressive AR(p) models // The Annals of Statistics. 1993. V. 21, N 1. P. 534-551.

111. Lahiri S. N., Mukherjee K. Asymptotic distributions of M-estimators in a spatial regression model under some fixed and stochastic spatial sampling designs // Ann. Inst. Statist. Math. 2004. V. 56, N 2. P. 225-250.

112. Lee C.-H., Martin R. D. Ordinary and proper location M-estimates for autoregressive-moving average models // Biometrika. 1986. V. 73, N. 3. P. 679-686.

113. Lee L.-F. Lee L.-F. Consistency and efficiency of least squares estimation for mixed regressive, spatial autoregressive models // Econometric Theory. 2002. V. 18, N 2. P. 252-277.

114. Lee L.-F. GMM and 2SLS estimation of mixed regressive, spatial autoregressive models // J. Econometrics. 2007. V. 137, N 2. P. 489-514.

115. Lee L.-F. The method of elimination and substitution in the GMM estimation of mixed regressive, spatial autoregressive models // J. Econometrics. 2007. V. 140, N 1. P. 155-189.

116. LeSage J. P., Pace R. K. Introduction to spatial econometrics. Boca Raton: Taylor & Francis, 2009. 321 p.

117. Li J., Liu G., Stoica P. Moving target feature extraction for airborne highrange resolution phased-array radar // IEEE Trans. Signal Process. 2001. V. 49. P. 277-289.

118. Li S. Z. Markov random field modeling in image analysis. London: SpringerVerlag, 2009. 357 p.

119. Maronna R. A., Martin D., Yohai V. Robust Statistics: Theory and Methods. Chichester: Wiley, 2006. 403 p.

120. Martin R.D., Yohai V.J. Robustness in time series and estimating ARM A models // Handbook of Statistics. Amsterdam: Elsevier, 1985. Volume 5: Time Series in the Time Domain / E.J. Hannan, P.R. Krishnaiah and M.M. Rao (eds.). P. 119-155.

121. Martin R. J. A subclass of lattice processes applied to a problem in planar sampling // Biometrika. 1979. V. 66, N 2. P. 209-217.

122. Mast F., Jancke L. (Eds.) Spatial processing in navigation, imagery and perception. New York: Springer, 2007. 440 p.

123. McCormick B. H., Jayaramamurthy S. N. Time series model for texture synthesis // Int. J. Comp. Inform. Sci. 1974. V. 3, N 4. P. 329-343.

124. McLeish D. L. Dependent central limit theorems and invariance principles // The Annals of Probability. 1974. V. 2, N 4. P. 620-628.

125. Mecke K.R., Stoyan D. (Eds.) Statistical physics and spatial statistics: the art of analyzing spatial structures and pattern formation. Berlin: Springer, 2000. 415 p.

126. Miwakeichi F. Impulse response function based on multivariate AR model can differentiate focal hemisphere in temporal lobe epilepsy // Epilepsy Res. 2004. V. 61, N 1-3. P. 73-87.

127. Moraga P., Lawson A.B. Gaussian component mixtures and CAR models in Bayesian disease mapping // Comput. Statist. Data Anal. 2012. V. 56, N 6. P. 1417-1433.

128. Moran P. A. P. A Gaussian Markovian process on a square lattice //J. Appl. Probability. 1973. V. 10, N 1. P. 54-62.

129. Ojeda S., Vallejos R., Bustos O. A new image segmentation algorithm with applications to image inpainting // Comput. Statist. Data Anal. 2010. V. 54, N 9. P. 2082-2093.

130. Ojeda S.M., Vallejos R. O., Lucini M. M. Performance of robust RA

estimator for bidimensional autoregressive models //J. Stat. Comput. Simul. 2002. V. 72, N 1. P. 47-62.

131. Ohtsuka Y., Oga T., Kakamu K. Forecasting electricity demand in Japan: a Bayesian spatial autoregressive ARMA approach // Comput. Statist. Data Anal. 2010. V. 54, N 11. P. 2721-2735.

132. Olivier A., Olivier C. Choice of a 2-D causal autoregressive texture model using information criteria // Pattern Recognition Letters. 2003. V. 24, N 9-10. P. 1191-1201.

133. Spatial Analysis in Epidemiology /D.U. Pfeiffer fet al.]. Oxford: Oxford University Press, 2008. 142 p.

134. Pollard D. Convergence of Stochastic Processes. New York: Springer-Verlag, 1984. 215 p.

135. Pollard D. Asymptotics for least absolute deviation regression estimators // Econometric Theory. 1991. V. 7, N 2. P. 186-199.

136. Portnoy S., Koenker R. The Gaussian hare and the Laplacian tortoise: Computability of squared-error versus absolute-error estimators // Statistical Science. 1997. V. 12, N 4. P. 299-300.

137. Ripley B.D. Spatial statistics. Hoboken: Wiley, 1981. 260 p.

138. Eom K.B., Kashyap R.L. Composite edge detection with random field models // IEEE Trans. Syst. Man Cybern. 1990. V. 20, N 1. P. 81-93.

139. Roesser R. P. A discrete state-space model for linear image processing // IEEE Trans, on Auto. Control. 1975. V. 20, N 1. P. 1-10.

140. Roknossadati S. M., Zarepour M. M-estimation for a spatial unilateral autoregressive model with infinite variance innovations // Econometric Theory. 2010. V. 26, N 6. p. 1663-1682.

141. Roknossadati S. M., Zarepour M. M-estimation for near unit roots in spatial autoregression with infinite variance // Statistics. 2011. V. 45, N 4. P. 337-348.

142. Ruppert D., Carroll R.J. Trimmed least squares estimation in the linear model // J. Amer. Statist. Assoc. 1980. V. 75, N 372. P. 828-838.

143. Shiqing L. Self-weighted least absolute deviation estimation for infinite variance autoregressive models // J. R. Stat. Soc. Ser. B Stat. Methodol. 2005. V. 67, N 3. P. 381-393.

144. Stigler S.M. Simon Newcomb, Percy Daniell, and the history of robust estimation 1885-1920 // J. Amer. Statist. Assoc. 1973. V. 68, N 344. P. 872-879.

145. Stout W. F. Almost Sure Convergence. New York: Academic Press, 1974. 381 p.

146. Su L. Semiparametric GMM estimation of spatial autoregressive models //J. Econometrics. 2012. V. 167, N 2. P. 543-560.

147. Tjostheim D. Statistical Spatial Series Modelling // Advances in Applied Probability. 1978. V. 10, N. 1. P. 130-154.

148. Tjostheim D. Autoregressive Modeling and Spectral Analysis of Array Data in the Plane // IEEE Trans. Geosci. Rem. Sensing. 1981. V. GE-19, N 1. P. 15-24.

149. Tjostheim D. Statistical spatial series modelling II: Some further results on unilateral processes // Adv. Appl. Prob. 1983. V. 15, N 3. P. 562-584.

150. Tukey J.W. A survey of sampling from contaminated distributions // Contributions to Probability and Statistisc / Ed by Olkin I. Stanford: Stanford Univ. Press, 1960. P. 448-485.

151. Tukey J.W. The future of data analysis // The Annals of Mathematical Statistics. 1962. V. 33, N 1. P. 1-67.

152. Unwin D. J., Hepple L. W. The statistical analysis of spatial series // The Statistician. 1974. V. 23, N 3-4. P. 211-227.

153. Wang L., Wang J. The limiting behavior of least absolute deviation estimators for threshold autoregressive models //J. Multivariate Anal. 2004. V. 89, N 2. P. 243-260.

154. White H. Asymptotic theory for econometricians. San Diego: Academic Press, 2001. 264 p.

155. White H., Domowitz I. Nonlinear regression with dependent observations // Econometrica. 1984. V. 52, N 1. P. 143-161.

156. Whittle P. On stationary processes in the plane // Biometrika. 1954. V 41, N 3-4. P. 434-449.

157. Wu Y. Strong consistency and exponential rate of the minimum Li-norm estimates in linear regression models // Comput. Statist. Data Anal. 1988. V. 6, N 3. P. 285-295.

158. Wu R., Davis R.A. Least absolute deviation estimation for general autoregressive moving average time-series models //J. Time Ser. Anal. 2010. V. 31, N 1. P. 98-112.

159. Xu R., Wang J. Li-estimation for spatial nonparametric regression //J. Nonparametr. Stat. 2008. V. 20, N 6. R 523-537.

160. Yao Q., Brockwell P. J. Gaussian maximum likelihood estimation for ARMA models II: spatial processes // Bernoulli. 2006. V. 12, N. 3. P. 403-429.

161. Yohai V.J., Maronna R.A. Asymptotic behavior of M-estimators for the linear model // Ann. Statist. 1979. V. 7, N 2. P. 258-268.

162. Yoshihara K. Limiting behavior of V-statistics for stationary, absolutely regular processes // Z. Wahrsch. Verw. Gebiete. 1976. Bd. 35, N 3. S. 237-252.

163. Zhao Lincheng. Strong consistency of M-estimates in linear models // Sci. China Ser. A. 2002. V. 45, N 11. P. 1420-1427.

164. Zhu D., Beex A. A. Robust Spatial Autoregressive Modeling for Hardwood Log Inspection //J. Visual Communication and Image Representation. 1994. V. 5, N 1. P. 41-51.