Алгоритмы с функциональной обратной связью идентификации оптимальных дискретных фильтров тема диссертации и автореферата по ВАК РФ 01.01.09, кандидат физико-математических наук Дулов, Евгений Вадимович

• Дулов, Евгений Вадимович
• кандидат физико-математических наук
• 1997

Оглавление диссертации кандидат физико-математических наук Дулов, Евгений Вадимович

Введение

1. Задачи и методы теории идентификации и адаптации систем

1.1. Постановка задач идентификации и адаптации систем.

1.2. Методы адаптации

1.2.1. Пассивные методы адаптации.

1.2.2. Активные методы адаптации

1.3. Связь проблем адаптации и контроля.

1.4. Определение принципов адаптации.

1.4.1. Байесовская модель.

1.4.2. Расширенная модель

1.4.3. Аналитическая модель.

1.4.4. Настраиваемая модель

1.4.5. Согласование характеристик.

1.5. Методы построения идентификатора.

1.6. Принципы построения адаптивных фильтров.

1.6.1. Построение оптимального идентификатора.

1.6.2. Выбор прогнозирующей модели.

1.6.3. Выбор критерия качества

1.6.4. Выбор критерия качества для нормального закона распределения помех

1.7. Построение оптимального реализуемого идентификатора.

1.7.1. Методы контроля функционирования идентификатора

1.8. Методы минимизации функционалов.

1.9. Сходимость и устойчивость алгоритмов фильтрации.

2. Построение адаптивного фильтра на основе вспомогательного функционала качества

2.1. Постановка задачи

2.2. Построение фильтра для невырожденной матрицы наблюдений и известной переходной матрицы модели.

2.2.1. Вспомогательный функционал и его минимизация.

2.2.2. Построение алгоритма адаптации фильтра на основе одношагового метода стохастических градиентов.

2.2.3. Построение алгоритма адаптации фильтра на основе многошаговых методов стохастических градиентов.

2.2.4. Построение алгоритма адаптации фильтра на основе метода Ньютона 36 2.2.4.1. Метод Ньютона без регулировки шага.

2.2.5. Предельные свойства сходящегося алгоритма.

2.2.6. Определение условий сходимости фильтра.

2.2.7. Оценка скорости сходимости алгоритма.

2.3. Формирование правила начала/остановки.

2.4. Построение фильтра для систем с матрицей наблюдений неполного столбцового ранга

2.5. Решение задачи оптимизации вспомогательного функционала качества по параметрам двух матриц.

2.5.1. Получение оценки переходной матрицы системы.

2.5.2. Построение адаптивного фильтра по оценкам переходной матрицы

2.6. Анализ сходимости адаптивного фильтра в установившемся состоянии

3. Численные методы

3.1. Построение оценок ковариационных матриц по данным измерений

3.1.1. Метод суммирования в скользящем окне.

3.1.2. Метод сквозного суммирования в предположении Е[1Уг] = 0.

3.1.3. Метод сквозного суммирования в предположении ф 0.

3.1.4. Метод последовательного суммирования с экспоненциальным сглаживанием для Е[щ] = 0, а 6 [0,1]

3.1.5. Метод последовательного суммирования с экспоненциальным сглаживанием для Е[и{] ф € [0,1].

3.1.6. Вопросы практического использования формулы одноранговой модификации

3.1.7. Анализ алгоритмов.

3.2. Вопросы сходимости численной реализации алгоритмов.

3.2.1. Вопросы численной устойчивости.

3.2.2. Скорость сходимости численных методов.

3.3. Обобщенная схема работы алгоритма.

4. Численное моделирование экспериментальных задач

4.1. Идентификация установившегося коэффициента усиления оптимального фильт ра для систем с неизвестными ковариациями шумов.

4.2. Моделирование задачи

4.3. Моделирование задачи 2.

Введение диссертации (часть автореферата) на тему «Алгоритмы с функциональной обратной связью идентификации оптимальных дискретных фильтров»

Актуальность работы. Возникнув в 50-е годы, задача идентификации и адаптации моделей динамических систем остается актуальной, что подтверждается большим числом современных публикаций. Значительный интерес для рассмотрения представляют модели динамических систем, допускающие представление в виде стохастических линейных дифференциальных или стохастических линейных разностных уравнений. При этом важный класс образуют задачи идентификации квазистационарных моделей, возникающие при исследовании новых технических систем, например в области навигации движущихся объектов или при оценке характеристик производственных и технологических процессов.

Для решения таких и подобных им задач разработано множество методов и алгоритмов, систематизированных в трудах известных ученых: Дж. Саридиса, Л. Льюнга, Я.З. Цыпкина, В.Ю. Рутковского и других. В работах Б. Уидроу, С. Стирнза, И.В. Сему-шина и некоторых других предложено разделять способы использования регистрируемой информации в целях адаптации или адаптивной идентификации на две группы.

В первой группе способов информация о характеристиках входных сигналов используется для введения в вычислительный алгоритм или в аналитические выражения для оптимальных значений параметров системы обработки сигналов. При этом априорные предположения о доминирующих параметрах и характеристиках источника сигналов непосредственно влияют на качество работы системы, но успешность таких действий практически не гарантируется из-за отсутствия контроля за критерием (функционалом) качества системы. Методы решения такого типа иногда называют пассивными.

Во второй группе методов качество работы системы с параметрической идентификацией контролируется непосредственно, так как идентификация оптимальных характеристик системы производится по некоторому функционалу качества во время реальной работы. Основное преимущество таких систем заключается в образовании обратной связи по критерию качества. В данной работе будем называть их системами идентификации с функциональной обратной связью. Построение таких систем затруднено, так как из-за неполноты и зашумленности измерений исходный функционал качества принципиально не может быть реализован как функционал, зависящий от неизвестной ошибки фильтрации. Преодоление этих затруднений открыто в работах Р. Хемптона и И.В. Семушина, предложивших практически одновременно формирование вспомогательных функционалов качества, достигающих экстремума при тех же характеристиках, что и исходный функционал качества, но при этом доступных для реализации. Однако практическое использование данного подхода требует эффективных численных алгоритмов минимизации вспомогательного функционала. На построение и исследование таких алгоритмов и направлена данная работа.

Тема настоящей диссертации вошла в научную программу "Университеты России" по проекту НДС-34 "Идентификация и адаптивные процессы в системах управления".

Цель работы — обоснование, разработка и исследование свойств сходимости численных алгоритмов идентификации оптимальных дискретных фильтров в соответствии с принципом функциональной обратной связи в теории и практике адаптивного оценивания и стохастического управления.

Достижение данной цели обеспечивается в работе решением следующих задач:

1) формирование наблюдаемого функционала качества для квазистационарной линейной динамической системы с зашумленными измерениями;

2) обоснование численных алгоритмов минимизации функционала качества;

3) исследование возможности использования методов идентификации с функциональной обратной связью при различной степени априорной неопределенности модели;

4) исследование вопросов сходимости адаптивного фильтра к оптимальному дискретному фильтру с ограничениями:

• исследуемые модели квазистационарных линейных динамических систем полагаются наблюдаемыми;

• матрица наблюдений модели (см. разд. 2) полагается известной;

• численное моделирование производится для моделей систем малой размерности < 5.

Решение первой задачи осуществлено в рамках метода вспомогательного функционала качества с учетом критерия оптимальности функционала качества Я.З. Цыпкина на классе распределений.

Вторая задача характеризуется трудностью решения для функционала общего вида. Для минимизации сформированного функционала в работе используются методы, применявшиеся при решении аналогичных задач, а именно: одношаговый и многошаговый стохастические градиентные методы и стохастический вариант метода Ньютона. Исследуются возможности данных методов в рамках алгоритмов идентификации с функциональной обратной связью для систем фильтрации.

Постановка третьей задачи обусловлена тем, что большинство работ содержит результаты, ограниченные случаем неизвестной ковариации шумов, в то время как наибольший интерес вызывает решение задачи идентификации неизвестных параметров модели в общей постановке.

Четвертая рассматриваемая задача ставит целью определение характера и скорости сходимости фильтра, в частности сходимости адаптивного фильтра к оптимальному дискретному фильтру.

Методы исследования. Для получения теоретических результатов использован аппарат теории вероятностей и математической статистики, теории стохастической идентификации и адаптации, теория матриц и вычислительная линейная алгебра, методы численной оптимизации. Для получения численных результатов использован аппарат теории математической статистики и численного моделирования.

На защиту выносятся следующие положения.

1) Для построенного наблюдаемого функционала качества и выбранного метода минимизации получен рекуррентный адаптивный фильтр для систем с неизвестными ковариациями шумов.

2) Применение принципа функциональной обратной связи для систем оценивания и стохастического управления в задачах идентификации оптимальных установившихся фильтров.

3) Численные алгоритмы, реализующие метод стохастических градиентов в процессе минимизации вспомогательного функционала качества.

4) Сходимость численных алгоритмов минимизации функционала качества к характеристикам оптимального фильтра.

5) Асимптотическая оценка скорости сходимости численных алгоритмов идентификации.

6) Результаты математического моделирования и вычислительных экспериментов, подтверждающие работоспособность предлагаемых алгоритмов в широком диапазоне априорной неопределенности характеристик исходной модели.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, двух приложений и списка литературы. Она изложена на 113 страницах, содержит 22 рисунка и 8 таблиц. Список цитируемой литературы состоит из 93 наименований.

Заключение диссертации по теме «Дискретная математика и математическая кибернетика», Дулов, Евгений Вадимович

Заключение

Результаты выполненной работы сводятся к следующему:

• построен алгоритм адаптивной фильтрации, позволяющий идентифицировать параметры моделей стохастических линейных динамических систем в соответствии с принципом функциональной обратной связи;

• предложены реализуемые алгебраически эквивалентные рекуррентные выражения для оценки неизвестных параметров модели, не требующие известности ковариационных матриц шумов модели при условии невырожденности матрицы наблюдений;

• доказана теорема о сходимости адаптивного фильтра к оптимальному установившемуся фильтру;

• полученные результаты обобщены на случай матрицы наблюдений неполного ранга;

• получена асимптотическая оценка скорости сходимости ажгоритма;

• построены алгоритмы адаптивной фильтрации на основе стохастического варианта метода Ньютона и стохастического многошагового градиентного метода;

• доказана алгебраическая эквивалентность алгоритмов идентификации, отвечающих различным методам: одношаговому методу стохастических градиентов, многошаговому методу стохастических градиентов, стохастическому варианту метода Ньютона;

• построен алгоритм адаптивной фильтрации для систем с неизвестными переходной матрицей состояния модели и ковариационными матрицами шумов.

На этом основании сделаны следующие выводы:

1) Доказана эффективность применения метода идентификации с функциональной обратной связью для решения задач адаптивной фильтрации при различной степени априорной неопределенности модели. Полученные результаты открывают возможность построения новых, эффективных алгоритмов решения ряда конкретных задач теории стохастической фильтрации и управления.

2) Показано, что градиентный метод наискорейшего спуска в задачах идентификации и адаптации для систем с ограниченной дисперсией шумов и функциональной обратной связью позволяет строить численно устойчивые сходящиеся алгоритмы адаптации, не требующие больших вычислительных затрат.

3) Рассмотрены вопросы численной реализации алгоритма, увеличения его точности и численной устойчивости.

4) Полученные в результате численного моделирования выводы о скорости сходимости алгоритма фильтрации и его численной устойчивости позволяют рекомендовать его к использованию при решении широкого класса задач адаптивной фильтрации и идентификации.

Кроме этого, за пределами рассмотрения остались вопросы, которые могут быть рекомендованы для дальнейшего развития работ в этой области:

• построение реализуемых численно устойчивых алгоритмов адаптивной фильтрации для систем с неизвестной переходной матрицей;

• исследование вопросов численной сходимости и устойчивости алгоритма адаптивной фильтрации для систем с малой устойчивостью;

• разработка интегрированной программной системы для решения задач фильтрации и адаптации в рамках современных многозадачных операционных систем.

Научная и практическая значимость работы определяются новизной научного подхода к построению адаптивных фильтров для квазистационарных линейных динамических систем. Используемый для этой цели принцип функциональной обратной связи позволяет строить и применять новые алгоритмы для решения задач идентификации параметров квазистационарных линейных динамических систем в темпе реального времени. Результаты диссертации могут быть использованы в таких областях как теория идентификации и адаптации, для решения практических задач идентификации оптимальных дискретных фильтров для квазистационарных линейных динамических систем, включая стохастические системы управления.

Список литературы диссертационного исследования кандидат физико-математических наук Дулов, Евгений Вадимович, 1997 год

1. Адаптивные системы идентификации / Под ред. В.И. Костюка. - Киев: Техника, 1975 - 288 с.

2. Адаптивное управление сложными технологическими процессами. / Ядыкин И.Б. и др. Зарубежная радиоэлектроника, 1980, №8, С. 3-25.

3. Альтшулер C.B. Методы оценки параметров процессов авторегрессии скользящего среднего. // Автоматика и Телемеханика, 1982, №8, С. 5-18.

4. Аналитические самонастраивающиеся системы автоматического управления / Под ред. В.В. Солодовникова. -М.Машиностроение, 1965. 320 с.

5. Бухалев В.А., Казаков И.Е. Адаптивная фильтрация сигналов при случайных интен-сивностях изменений структуры динамической системы. // Автоматика и Телемеханика, 1984, №2, С. 66-71.

6. Вопросы управления космическими аппаратами : По зарубежным материалам / Под ред. Б.Н. Петрова. -М.:Мир, 1975. 220 С.

7. Гаджиев Ч.М. Диагностирование динамических систем по обновляющей последовательности фильтра Калмана. // Автоматика и Телемеханика, №1, 1992 С. 180-183.

8. Гаджиев Ч.М. Проверка обобщенной дисперсии обновляющей последовательности фильтра Калмана в задачах динамического диагностирования. // Автоматика и Телемеханика, №8, 1994 С. 98-104.

9. Гаджиев Ч.М. Робастный метод обнаружения неполадок фильтра Калмана. // Автометрия, РАН, Сиб. отд. №6, 1995 С. 35-39.

10. Гантмахер Ф.Р. Теория матриц. -М.: Наука, 1988. 552 с.

11. Гличев A.B. Экономическая эффективность технических систем. -М.: Экономика, 1971. 210 с.

12. Горский A.A. Автоматическая оптимальная фильтрация. / Изв. АН СССР, OTII // Энергетика и автоматика, 1962, №5, С. 87-96.

13. Григорьев В.Л. Микропроцессор i486. Архитектура и программирование: В 4-х книгах. Кн. 2. Аппаратная архитектура; Кн. 3. Устройство с плавающей точкой; Кн. 4. Справочник по системе команд. -М.: ГРАНАЛ, 1993. 382 с.

14. Гроп Д. Методы идентификации систем: Пер. с англ. /Под ред. Е. И. Кринецкого. -М.:Мир 1979. -302 с.

15. Дулов E.B. Исследование алгоритмов активной адаптации для квазистационарных моделей. // Тез. докл. в сб. Ш-ей Ежегодной Научно -практической конф., Ульяновск. -Ульяновск: Филиал МРУ в г. Ульяновске, 1995, С. 8-9.

16. Дулов Е.В. Использование функционала качества при построении адаптивного фильтра для линейных динамических систем с неизвестными ковариациями шумов. // -Ульяновск: Филиал МГУ в г. Ульяновске, 1995, -С. 20, Деп. в ВИНИТИ №3143-В95.

17. Дулов Е.В. Идентификация оптимального фильтра для линейных систем с параметрической неопределенностью моделей состояния. // -Ульяновск: Филиал МГУ в г. Ульяновске, 1995, -С. 10, Деп. в ВИНИТИ №3135-В95.

18. Дулов Е.В. Возможности метода Ньютона для минимизации стохастических функционалов. // -Ульяновск: Филиал МГУ в г. Ульяновске, 1995, -С. 11, Деп. в ВИНИТИ №3136-В95.

19. Дулов Е.В. Численные методы в задаче оценивания ковариационных и информационных матриц по эмпирическим данным. // -Ульяновск: УлГУ, 1996, -С. 12, Деп. в ВИНИТИ №1128-В96.

20. Дулов Е.В., Кашлаков Ю.А. Об инструментальной среде моделирования стохастических систем фильтрации и управления с адаптацией и идентификацией. // Тез. докл. в сб. "Информационные технологии в моделировании и управлении", СПб: СПбГТУб 1996, С. 126-129.

21. Семушин И.В., Дулов Е.В., Калинин Л.В. Устойчивое обновление оценок по измерениям. // Тез. докл. в сб. "Распознавание образов и анализ изображений: новые информационные технологии" РОАИ-2-95. Ч. 2, -Ульяновск: УлГТУ, 1995, С. 38.

22. Колмогоров А.Н. Основные понятия теории вероятностей. -М.: Наука, 1974.

23. Костюк В.И. Беспоисковые градиентные самонастраивающиеся системы. -Киев: Техника, 1969. 276 с.

24. Кузовков Н.Т., Карабанов С.В., Салычев O.G. Непрерывные и дискретные системы управления и методы идентификации. -М.¡Машиностроение, 1978. 222 с.

25. Кузовков Н.Т., Салычев О.С. Инерциальная навигация и оптимальная фильтрация. -М.¡Машиностроение, 1982. 216 С.

26. Лайниотис Д. Разделение единый метод построения адаптивных систем. I; Оценивание. II. Управление. -ТИИЭР, 1976, т. 64, №8, С. 8-27; С. 74-93.

27. Ланкастер П. Теория матриц: Пер. с англ. -М.: Наука, 1982. 272 с.

28. Назин A.B. Асимптотические свойства квазиотпимальных алгоритмов стохастической аппроксимации при неизвестной плотности помех. // Автоматика и Телемеханика №10, 1995, С. 70-77.

29. Ортега Дж. Введение в параллельные и векторные методы решения линейных систем : Пер. с англ. -М.:Мир, 1991. 367 с.

30. Острем К.Ю. Введение в стохастическую теорию управления: Пер. с англ. /Под ред. Н.С. Райбмана. -М.:Мир, 1973. 322 с.

31. Пшеничный Б.Н., Данилин Ю.М. Численные методы в экстремальных задачах. -М.: Наука, 1975

32. Саридис Дж. Самоорганизующиеся стохастические системы управления: Пер. с англ. /Под ред. Я.З. Цыпкина -М.:Наука, 1980. 400 с.

33. Сейдж Э.П., Мелса Дж.Л. Идентификация систем управления: Пер с англ. /Под ред. Н.С. Райбмана, -М.:Мир, 1974. 246 с.

34. Семушин И.В. Активная адаптация оптимальных дискретных фильтров. // Изв. АН СССР Техническая Кибернетика, №5, 1975, С. 192-198

35. Семушин И.В. Адаптивное оценивание матрицы передачи оптимального фильтра Калмана для систем с неизвестными ковариациями шумов. // АН СССР Сиб. отд. Автометрия, №5, 1975, С. 46-53.

36. Семушин И.В. Идентификация линейных стохастических объектов по неполным за-шумленным измерениям вектора состояния. // Автоматика и Телемеханика, №8, 1985, С. 61-71.

37. Семушин И.В. Адаптивные схемы идентификации и контроля при обработке случайных сигналов. -Саратов: Изд-во Сарат. ун-та, 1985. 180 с.

38. Торн Ци-Йонг, Заборский. Практически не расходящийся фильтр. // Ракетная техника и космонавтика, 1970, т. 8, №6, С. 173-180.

39. Фомин В.Н. Рекуррентное оценивание и адаптивная фильтрация. -М.: Наука, 1984. -288 с.

40. Фельдбаум A.A. Теория дуального управления. I—IV. // Автоматика и телемеханика, 1960, №9, С. 1240-1249; №10, С. 1453-1464; 1961, №1, С. 3-16; №3, С. 129-142.

41. Цыпкин Я.З. Адаптация и обучение в автоматических системах. -М.:Наука, 1968. -400 с.

42. Цыпкин Я.З. Основы теории обучающихся систем. -М.:Наука, 1970. 252 с.

43. Цыпкин Я.З. Синтез оптимальной настраиваемой модели в задачах идентификации. // Автоматика и телемеханика, 1981, №12, С. 62-67.

44. Цыпкин Я.З. Оптимальные алгоритмы оценивания параметров в задачах идентификации. // Автоматика и телемеханика, 1982, №12, С. 9-23.

45. Цыпкин Я.З. Оптимальная идентификация динамических объектов. Измерения, Контроль, Автоматизация: Науч.-техн. сб. обзоров /ЦНИИТЭИприборостроения. -М.: 1983, вып.3(47), №12, С. 47-60.

46. Цыпкин Я.З. Основы информационной теории идентифкации. -М.: Наука, 1984. -320 с.

47. Цыпкин Я.З. Информационная теория идентифкации. -М.: Наука:Физматлит, 1995. 336 с.

48. Челпанов И.Б. Оптимальная обработка сигналов в навигационных системах. -М.:Наука, 1967. 392 с.

49. Эйкхофф П. Основы идентификации систем управления: Пер. с англ. / Под ред. Н.С. Райбмана. -М.:Мир, 1975. 684 с.

50. Akaike Н. A new look at the statistical model identification. -IEEE Trans. Automat. Contr., 1974, vol. AC-19, No. 4, p. 716-723.

51. Alspach D.L. A parallel processing solution to the adaptive Kalrnan filtering problem with vector measurements. Compt.&Elect.Engng., 1973, vol. 1, p.83-94

52. Alspach D.L., Scharf L.L., Abiri A.A. A bayesian solution to the problem of state estimation in an unknown noise environment. Int. J. Control, 1974, vol. 19, No. 2, p. 265-287.

53. Anderson W.N. et. al. Consistent estimates of the parameters of a linear system. The Annals of Math. Stat., 1969, vol. 40, No. 6, p. 2064-2075.

54. Astrorh K.J., Eykhoff P. System identification a survey. -In: Proc. IFAC Symp. on Identification and Process Parameter Estimation (Prague), 1970, p. 1-38 (see - - Automatica, Journal IFAC, 1971, vol. 7, No. , p. 123-162.)

55. Astrom K.J. Maximum likelihood and prediction error methods. Automatica, Journal IFAC, 1980, vol. 16, No. 5, p. 551-574.

56. Carew В., Belanger P.R. Identification of optimal filter steady-state gain for systems with unknown noise covariances. -IEEE Trans. Automat. Contr., 1973, vol. AC-18, No. 6, p. 582-587.

57. Dulov E.V. The use of an auxiliary quality functional for a construction of an identification algorithm. Pattern Recognition and Image Analysis, vol. 6, no. 1, January-March, 1996, pp. 39-40.

58. Fitzgerald R.T. Divergence of Kalman filter. -IEEE Trans. Automat. Contr., 1971, vol. AC-16, No. 6, p. 736-747.

59. Fogel E. A fundamental approach to the covergence analysis of least squares algorithms. -IEEE Trans. Inform. Theory, 1971, vol. IT-18, No. 5, p. 607-615

60. Gladyshev E.G. On stochastic approximation, Theory Prob. Appl. vol. 10, pp. 275-278, 1965.

61. Graupe D., Krause D.J., Cline W.K. Identification of Kalman-Bucy filters from noisy measurements arrays. Int. J. System SCI, 1973, vol. 4, No. 5, p. 739-756.

62. Hampton R.L.T. On unknown state-dependent noise, modelling errors, and adaptive filtering. Comput. k Elect. Engng., 1975, vol. 2, p. 195-201.

63. Hampton R.L.T. Stochastic algorithms for self-adaptive filtering and prediction, NASA Semi-Annu. Rep. 03-002406, part A, Jan. 1971.

64. Hampton R.L.T., Schultz D.G. Stochastic algorithms for self-adaptive filtering and prediction. -Proc. of the Mexico international, conf. on systems, networks and computers, 1971, p. 463-467

65. Hampton R.L.T. Unsupervised lerning of the Kalman filter. Electr. Lett., 1971, vol. 9, No. 17, p. 383-384.68. 8. Ho Y.C., Lee. R.C.K. Identification of linear dynamic systems. -J. Inform. Control., vol 8, Feb. 1965, pp. 93-110

66. Hoist J. Adaptive prediction and recursive estimation, Dep. Automat. Contr., Lund Inst. Technol., Lund, Sweden, Rep. LUTFD2/(TFRT-1013)/l-206/(1977), Sept. 1977.

67. Jazwinski A.H. Adaptive filtering. Automatica, Journal IFAC, 1969, vol. 5, No. 4, p. 475-485.

68. Jazwinski A.H. Stochastic processes and filtering theory. -N.-Y.:Acad. Press, 1970, 376 P

69. Kashyap R.H. Maximum Likelyhood identification of stochastic linear systems. -IEEE Trans. Automat. Contr., 1970, vol. AC-15, No. 1, p. 25-34.

70. Kaufman H., Beaulier D. Adaptive parameter identification. -IEEE Trans. Automat. Contr., 1972, vol. AC-17, No. 5, p. 729-731.

71. Landau I.D. Adaptive control: the model reference approach. "Control and Systems Theory" series, vol. 8. -N.-Y.:Dekker, 1979, 406 p.

72. Landau I.D. Elimination of the real positivity condition in the design of parallel MRAS, -IEEE Trans. Automat. Contr., 1978, vol. AC-23, No. 12, p. 1015-1020.

73. Ljung L. Asymptotic behavior of the extended Kalman filter as a parameter estimator for linear systems. -IEEE Trans. Automat. Contr., 1977, vol. AC-22, No. 4, p. 551-575.

74. Ljung L. On positive real transfer functions and the convergence of some recursive schemes, -IEEE Trans. Automat. Contr., 1977, vol. AC-22, No. 8, p. 539-551.

75. Ljung L. Analysis of recursive stochastic algorithms, -IEEE Trans. Automat. Contr., 1977, vol. AC-22, No. 8, p. 551-575.

76. Ljung L. Convergence analysis of parametric identification methods. -IEEE Trans. Automat. Contr., 1978, vol. AC-23, No. 5, p. 770-783.

77. Ljung L. Convergence of an adaptive filter algorithm, Int. J. Contr. vol. 27, pp. 673-693, 1978.

78. Mehra R.K. Approaches to adaptive filtering. -IEEE Trans. Automat. Contr., 1972, vol. AC-17, No. 5, p. 693-698.

79. Mehra R.K. On the identification of variances and adaptive Kaiman filtering. -IEEE Trans. Automat. Contr., 1970, vol. AC-15, No. 2, p. 175-181.

80. Mendel J.M. Discrete techniques of paremeter estimation: The equation error formulation. -N.-Y.:Dekker, 1973, 322 p.

81. Myers K.A., Tapley B.D. Adaptive sequental estimation with unknown noise statistics. -IEEE Trans. Automat. Contr., 1976, vol. AC-21, No. 4, p. 520-523.

82. Norris D.O., Snyder L.E. Consistency of least-squares estimates used in linear system identification. SIAM J. Contr., 1975, vol. 13, No. 6, p. 1183-1194.

83. Panuska V. A stochastic approximation method for identification of linear systems using adaptive filtering. Proc. JACC, 1968, p. 1014-1021.

84. Perriot-Mathonna D. Contribution a l'etitude et a la mise en oeuvre d'algorithmes de filtrage de Kaiman adaptatif, Docteur-Ingeniexir dissertation, Univ. Paris-Sud, Centre d'Orsay, France, no. 385, May 1979.

85. Perriot-Mathonna D. On the use of Ljung's results for studying the convergence properties of Hamtpon's adaptive filter. -IEEE Trans. Automat. Contr., 1980, vol. AC-25, No. 6, p. 1165-1169.

86. Prouza L. Bemerkung zur liniaren preditoren mittels eines lernenden filters. In: Trans . of the 1st Prague Conf. on the Inform. Theory and Statistical Decision Functions. Praha: Academia, 1957, p. 330-334.

87. Sangsuk-Iam Suwanchai, Bullock Thomas E. Analysis of Discrete-Time Kaiman Filtering Under Incorrect Noise Covariances. -IEEE Trans. Automat. Contr., 1990, vol. AC-35, No. 12, p. 1304-1308.

88. Self 0. filters and predictors which adapt their values to unknown parameters of the input process. -In: Trans, of the 2d Prague Conf. on Inform. Theory. Praha: Academia, 1960, p. 418-423.

89. Semushin I.V., Dulov E.V. , L.V. Kalinin Stable estimate renewal according to measurements. Pattern Recognition and Image Analysis, vol. 6, no. 1, January-March, 1996, p.

90. Shellenbarger J.C. Estimation of covariance parameters for an adaptive Kalman filter. -Proc. Nat. Electr. Conf., 1966, vol. 22, p. 698-702.

91. Sriyananda H. A simple method for the control of divergence in Kalman-filter algorithms. Int. J. Control, 1972, vol. 17, No. 6, p. 1101-1106.

92. Strejc V. Least squares in identification theory. Cybernetica, 1977, vol. 13, No. 2, p. 83-105.

93. Takata H. Transformation of a nonlinear system into a argumented linear system. -IEEE Trans. Automat. Contr., 1979, vol. AC-24, No. 5, p. 736-741.