Алгоритмы оптимизации в задачах идентификации и синтеза цифровых устройств автоматизированных систем управления тема диссертации и автореферата по ВАК РФ 05.13.06, кандидат технических наук Окишев, Андрей Сергеевич

• Окишев, Андрей Сергеевич
• кандидат технических наук
• 2011

Оглавление диссертации кандидат технических наук Окишев, Андрей Сергеевич

Введение.

1. Методы решения нелинейных уравнений в задачах оптимизации и идентификации автоматизированных систем управления.

1.1. Описание объекта исследования.

1.2. Постановка задачи исследования.

1.3. Выводы.

2. Построение итерационных процедур высших порядков на основе первых производных.

2.1. Основные итерационные процедуры решения уравнений.

2.2. Итерационные процедуры на основе ряда Тейлора для прямой функции.22 2.2.1. Методика полиномиальной аппроксимации.

2.2.2. Аппроксимация высших производных.

2.2.3. Оценка скорости сходимости.

2.3. Обоснование и выбор оптимальной базовой последовательности.

2.4. Итерационные процедуры на основе обратной интерполяции».

2.4.1. Выбор параметров рекурсивной аппроксимации третьего порядка

2.4.2. Выбор параметров рекурсивной аппроксимации четвертого порядка.

2.5. Выводы.

3. Экспериментальные исследования*предлагаемых итерационных процедур.

3.1. Разработка методики исследования алгоритмов.

3.2. Исследование алгоритмов на тестовых функциях.

3.3. Выводы.

4. Применение алгоритмов высокой скорости сходимости при проектировании автоматизированных систем управления.

4.1. Идентификация модели нейтронной кинетики ядерного реактора.

4.1.1. Постановка задачи идентификации в общем виде.

4.1.2. Алгоритм квазилинеаризации.

4.1.3. Алгоритм разностной квазилинеаризации.

4.1.4. Постановка задачи идентификации моделей АСУТП в АЭС.

4.1.5. Выбор имитационной модели.

4.1.6. Идентификация параметров и состояний имитационной модели.

4.2. Применение численных методов оптимизации при проектировании цифровых систем обработки информации.

4.2.1. Математические модели дискретных систем и типы цифровых фильтров.

4.2.2. Методы проектирования цифровых фильтров.

4.2.3. Синтез цифрового БИХ фильтра для системы обработки сигналов .112 4.2.3.1 Вычислительная схема алгоритма проектирования БИХ фильтров 115 4.2.3.2. Результаты синтеза цифрового фильтра нижних частот.

4.3 Выводы.

Заключение диссертации по теме «Автоматизация и управление технологическими процессами и производствами (по отраслям)», Окишев, Андрей Сергеевич

4.3 Выводы

1. Выполнена идентификация параметров компьютерной модели локальной системы автоматического регулирования для исследовательского ядерного реактора нулевой мощности. Идентифицируемый объект представляет собой ядерный реактор на быстрых нейтронах и исполнительный механизм в виде од-ностержневой сервоприводной системы регулирования. Принята имитационная модель, включающая точечную модель нейтронной кинетики реактора с учетом шести групп запаздывающих нейтронов, статическую и передаточную характеристики двигателя постоянного тока, нелинейную градуировочную характеристику стержня управления. Идентифицируемыми характеристиками являются реактивности регулирующего и компенсирующего стерженей и начальные значения параметров состояния реактора.

2. Проведены экспериментальные исследования методов классической и разностной квазилинеаризации с применением разработанных алгоритмов рекурсивной аппроксимации второго, третьего и четвертого порядка сходимости. Исследован как детерминированный случай, так и стохастический, когда в наблюдениях учитывались возмущения.

3. Получены результаты, согласующиеся с теоретическими предположениями. Выявлено преимущество предлагаемых алгоритмов, учитывающих высшие производные, перед классическими методами. Наилучшие показатели по точности и скорости сходимости выявлены у метода разностной квазилинеаризации, построенного на основе алгоритма четвертого порядка сходимости.

4. Рассмотрены основные математические модели дискретных систем обработки информации и методы проектирования цифровых фильтров во временной и частотной области. В качестве универсальной методики проектирования-БИХ фильтров предлагается использовать метод минимизации ¿^-ошибки между текущей и заданной амплитудной характеристикой. Созданы новые рекурсивные процедуры оптимизации для синтеза цифровых фильтров.

5. Предложен и реализован новый алгоритм определения коэффициентов БИХ фильтров и описаны основные этапы его работы. Разработан комплекс программ для проектирования рекурсивных фильтров.

6. Выполнено проектирование цифрового фильтра нижних частот, который используется в ОАО «Омский приборостроительный завод им. Н.Г. Козицкого» в составе демодулятора устройства обработки информации для ограничения спектра частот входных сигналов.

122

Заключение

Содержанием работы является разработка алгоритмов высокой скорости сходимости для повышения качества идентификации моделей автоматизированных систем управления технологическими процессами и ускорения проектирования цифровых устройств обработки информации. Основой алгоритмов являются методы решения нелинейных уравнений, учитывающие высшие производные функций многих переменных. По содержанию работы можно выделить следующие основные результаты и сделать выводы:

1. Предложено заменить методы оптимизации алгоритмами численного нахождения корня нелинейного уравнения. Основным алгоритмом является метод Ньютона, который учитывает только первую производную нелинейной функции и обладает квадратичной скоростью сходимости. Предложены более эффективные процедуры решения уравнений, учитывающие высшие производные. Предлагается два подхода: первый основан на разложении прямой функции в ряд Тейлора с последующей линеаризацией, а второй использует только разложение обратной функции.

2. Разработаны методы, безусловной оптимизации, основанные на разложении в ряд Тейлора прямой^ функции. Получены аналитические выражения для оценки точности и скорости сходимости предлагаемых процедур. Установлено, что максимальная скорость сходимости методов ограничена третьим порядком и не зависит от количества учитываемых высших производных.

3. Получена базовая итерационная последовательность, использующая разложение обратной функции в ряд Тейлора, которая, в отличие от разложения прямой функции, позволяет получить алгоритмы нахождения численного решения нелинейных уравнений с порядком сходимости, равным числу учитываемых производных.

4. Предложена рекурсивная аппроксимация высших производных значениями первых производных нелинейной функции и разработан универсальный алгоритм проектирования численных методов безусловной оптимизации и решения нелинейных уравнений, состоящий из двух этапов. На первом этапе обеспечивается требуемый порядок сходимости, а на втором — минимизируется величина погрешности. В результате достигнуто уменьшение вычислительной сложности практических алгоритмов без ухудшения показателей сходимости.

5. Проведены экспериментальные исследования предлагаемых алгоритмов в среде автоматизации математических вычислений Ма^аЬ 7 для пяти тестовых функций, которые подтвердили теоретические соотношения для скоростей сходимости, а также показали расширение области сходимости при учете высших производных.

6. Разработана подсистема идентификации компьютерного тренажера для операторов исследовательского реактора на быстрых нейтронах с использованием методов классической и разаностной квазилинеаризации с учетом второй и третьей производных. Для принятой имитационной модели ядерного реактора и исполнительного механизма проведены расчеты по идентификации параметров и состояний в различных режимах работы объекта. Подтверждено преимущество разработанных алгоритмов по точности и скорости сходимости, по сравнению с классическими методами идентификации. Результаты работы внедрены в ЗАО «Автоматика-Э».

7. Разработано математическое и программное обеспечение для расчета коэффициентов цифровых рекурсивных фильтров на основе заданных частотных характеристик. Предложенные алгоритмы позволили увеличить скорость вычислений по сравнению со стандартными методами. Программное обеспечение использовалось в ОАО «Омский приборостроительный завод им. Н.Г. Козицкого» при проектировании фильтра нижних частот для обработки потока данных демодулятора в составе цифрового радиоприемного устройства.

Список литературы диссертационного исследования кандидат технических наук Окишев, Андрей Сергеевич, 2011 год

1. Автоматизированное проектирование систем управления / Под. ред. М. Джамшиди и др. М.: Машиностроение, 1989. - 344 с.

2. Айфичер Э. Цифровая обработка сигналов: практический подход / Э. Айфичер, Б. Джервис. Пер. с англ. М.: Вильяме, 2008. - 992 с.

3. Антонью А. Цифровые фильтры: анализ и проектирование / А. Анто-нью. Пер. с англ. под ред. С.А. Понырко. М.: Радио и связь, 1983. — 320 с.

4. Арнольд В.И. Обыкновенные дифференциальные уравнения. -М.: Наука, 1971.-239 с.

5. Аттетков A.B. Методы оптимизации / A.B. Аттетков, C.B. Галкин, B.C. Зарубин. М.: Изд-во МГТУ им. Н.Э. Баумана, 2003. - 440 с.

6. Банди Б. Методы оптимизации. Вводный курс / Б. Банди. Пер. с англ. под ред. В.А. Волынского. Mi: Радио и связь, 1988. - 128 с.

7. Бахвалов Н.С. Численные методы / Н:С. Бахвалов, Н.П. Жидков, Г.М. Кобельков. -М.: Бином. Лаборатория знаний; 2008. — 636 с.

8. Беллман Р. Введение в теорию матриц / Р. Беллман. М.: Наука, 1976: -351 с.

9. Беллман Р., Калаба Р. Квазилинеаризация и нелинейные краевые задачи. М.: Мир, 1968. - 183 с.

10. Березин И.С. Методы вычислений: в 2-х т., т. 1 / И.С. Березин, Н.П. Жидков. М.: Гос. изд. физ.-мат. лит., 1962. - 464 с.

11. Березин И.С. Методы вычислений: в 2-х т., т. 2 / И.С. Березин, Н.П. Жидков. М.: Гос. изд. физ.-мат. лит., 1962. - 620 с.

12. Бесекерский В.А. Теория систем автоматического управления / В.А. Бесекерский, Е.П. Попов. М.: Профессия, 2003. - 750 с.

13. Богнер Р. Введение в цифровую фильтрацию / Р. Богнер, А. Константи-нидис. Пер. с англ. под ред. Л.И. Филиппова. М.: Мир, 1976. - 216 с.

14. Богуславский И.А. Полиномиальная аппроксимация для нелинейных задач оценивания и управления / И.А. Богуславский. М.: Физматлит, 2006. -208 с.

15. Брунченко A.B. Цифровые фильтры в электросвязи и радиотехнике /

16. A.B. Брунченко, Ю.Т. Бутыльский, Л.М. Гольденберг. Под ред. JIM. Гольден-берга. Mi: Радио и связь, 1982. - 224 с.

17. Вержбицкий В.М. Численные методы. Линейная алгебра и нелинейные уравнения«/В:Mi Вержбицкий: -Mi: Оникс 21 век, 2005. — 432 с.

18. Вержбицкий В;М; Численные: методы. Математический?анализ и обыкновенные дифференциальные: уравнения? / В.М. Вержбицкий. — М.: Оникс 21 век, 2005.-400 с.

19. Гантмахер Ф.Р. Теория матриц / Ф.Р. Гантмахер. Mi: Наука; 1988: -548 с.

20. Гилл Ф. Практическая оптимизация / Ф. Гилл, У. Мюррей, М. Райт. Пер. с англ. под ред. A.A. Петрова. М.: Мир, 1985. - 509 с.

21. Гилл Ф. Численные методы условной оптимизации / Ф. Гилл, У. Мюррей. Пер. с англ. под ред. A.A. Петрова.-М.: Мир, 1977. -209 с.

22. Гмурман В.Е. Теория вероятностей и математическая статистика /

23. B.Е. Гмурман. М.: Высшая школа, 1972. - 368 с.

24. Гольденберг Л.М. Цифровая обработка сигналов / Л.М. Гольденберг, Б;Д: Матюшкин, М.Н. Поляк. М;: Радио и связь,, 1990i - 256 с.

25. Гоулд Б. Методы расчета цифровых фильтров в частотной области / Б. Гоулд, Ч. Рэйдер. ТИИЭР, 1967. т.55, №2, с. 19-43":

26. Гоулд Б. Цифровая обработка сигналов: с прил. работы Д. Кайзера «Цифровые фильтры» / Б. Гоулд, Ч. Рэйдер. Пер. с англ. под ред.

27. A.М. Трахтмана. М.: Еов. радио, 1973. - 376 с.

28. Гроп Д. Методы идентификации систем / Пер. с англ. В.Л.Васильева,

29. B.И.Лопатина; Под ред. Е.И.Кринецкого М:: Мир, 1979: - 304 с.

30. Демидович Б:П. Основы вычислительной математики / Б.П. Демидо-вич; И.А. Mäpom -М.: Наука; 1966.- 664 с.

31. Демидович Б.П. Численные методы анализа / Б.П: Демидович; И.А. Марощ Э:3. Шувалова. М.: Наука, 1967. - 560 с.

32. Демьянов В.Ф. Введение в минимакс / В.Ф. Демьянов, В.Н. Малоземов. М.: Наука, 1972. -367 с.

33. Денисова Л.А. Адаптивное управление мощностью ядерного реактора в пусковом диапазоне: Дис. канд. техн. наук. Красноярск, 1993. 166 с.

34. Дьяконов В.П. Компьютерная математика. Теория и практика / В.П. Дьяконов. -М.: Нолидж, 2001. 1296 с.

35. Дьяконов В.П. Справочник по применению системы РС МАТЬАВ / В.П. Дьяконов. М.: Физматлит, 1993. - 112 с.

36. Дьяконов В.П. МАРЬЕ 9.5/10 в математике, физике и образовании / В.П. Дьяконов. М.: Солон-Пресс, 2006. - 720 с.

37. Дэннис Дж. Численные методы безусловной оптимизации и решения нелинейных уравнений / Дж. Дэннис, Р. Шнабель. Пер. с англ. — М.: Мир, 1988. 440 с.

38. Изерман Р. Цифровые системы управления / Р. Изерман. Пер. с англ. под ред. И.М. Макарова М.: Мир, 1984. - 541 с.

39. Казанский Ю.А., Матусевич Е.С. Экспериментальные методы физики реакторов. -М.: Энергоатомиздат, 1974. 270 с.

40. Каппешни В. Цифровые фильтры и их применение / В. Каппешни,

41. A. Константинидис, П> Эмилиани. Пер. с англ. под ред. Н:П. Слепова. — М.: Энергоатомиздат, 1983. 360 с.

42. Кетков Ю. МАТЬАВ 7: программирование, численные методы / Ю.Л. Кетков, А.Ю. Кетков, М.М. Шульц. СПб.: БХВ-Петербург, 2005. - 752 с.

43. Крылов В.И. Вычислительные методы: в 2-х т., т. 1 / В.И. Крылов,

44. B.В. Бобков, П.И. Монастырный. М.: Наука, 1976. - 304 с.

45. Когут А.Т. Разработка и исследование метода структурной идентификации непрерывных технологических процессов: Дис. канд. техн. наук. Омск, 1981.-152 с.

46. Когут А.Т. Экспериментальные методы идентификации динамических объектов и систем: Учебное пособие/ Омская гос. академия путей сообщения. — Омск, 1995.-61 с.

47. Когут А.Т. Расширение класса методов квазилинеаризации при-решении задач параметрической идентификации // Информатика и процессы управления. Красноярск: Изд-во КГТУ, 1995. - 140 с.

48. Когут А.Т. Полиномиальная аппроксимация в некоторых задачах оптимизации и управления / А.Т. Когут. — Омск: Омский гос. ун-т путей сообщения, 2003.-243 с.

49. Комашинский В.И. Нейронные сети и их применение в системах управления и связи / В.И. Комашинский, Д.А. Смирнов. М.: Горячая линия-Телеком, 2003.-94 с.

50. Кориков A.M. Основы теории управления. Учебное пособие. 2-е изд / A.M. Кориков. Томск: Изд-во НТЛ, 2002. - 392 с.

51. Лазарев Ю. Моделирование процессов ^ систем в MATLAB7 Ю; Лазарев. СПб.: Питер; Киев: Издательская группа BHV, 2005. - 512 с.

52. Ланкастер П. Теория матриц / П. Ланкастер. М.: Наука, 1978. — 280 с.

53. Ланнэ A.A. Оптимальный синтез линейных электрических цепей / A.A. Ланнэ. -М.: Связь, 1969. 293 с.

54. Лотоцкий В.А. Идентификация структур и параметров систем управления // Измерения, контроль, автоматизация. 1991, №3-4, с. 30-38'.

55. Льюнг Л. Идентификация систем. Теория для пользователя / Л. Льюнг. Пер. с англ. под ред. Я.З. Цыпкина. М.: Наука. Гл. ред. физ.-мат. лит., 199Г. -423 с.

56. Лэй Э. Цифровая обработка сигналов для инженеров и технических специалистов: практическое руководство / Э. Лэй. Пер. с англ. — М.: ООО «Группа ИДТ», 2007. 336 с.

57. Малютин А.Г. Алгоритмы оценивания параметров и состояний нелинейных динамических моделей на основе полиномиальной аппроксимации: Дис. канд. техн. наук. Красноярск, 2001. 125 с.

58. Марпл-мл. С.Л. Цифровой спектральный анализ и его приложения / С.Л. Марпл-мл. Пер. с англ. под ред. И.С. Рыжака. М.: Мир, 1990. - 584 с.

59. Медведев B.C. Нейронные сети. MATLAB 6 / B.C. Медведев, В.Г. Потемкин. М.: Диалог-МИФИ, 2002. - 496 с.

60. Микеладзе Ш.Е. Решение численных уравнений / Ш.Е. Микеладзе. — Тбилиси: Мецниереба, 1965.

61. Мэтьюз Дж. Г. Численные методы. Использование MATLAB / Дж. Г. Мэтьюз, К.Д. Финк. Пер. с англ. под ред. Ю.В. Козаченко. М.: Вильяме, 2001. - 720 с.

62. Окишев A.C. Применение обратной интерполяции в численных алгоритмах синтеза цифровых фильтров / A.C. Окишев // Доклады Томского государственного университета систем управления и радиоэлектроники, №2 (22), ч. 1 / Томск: Изд-во ТУСУР, 2010. с. 319-323.

63. Окишев A.C. Синтез программного управления механическими колебаниями виброисточника с использованием метода Розенброка / A.C. Окишев,

64. Н.Е. Актаев // XIV Международная научно-практическая конференция студентов, аспирантов и молодых ученых «Современная техника и технологии», 24 -28 марта 2008 г. Труды в 3-х томах. / Томск: Изд-во Томского политехи, ун-та, 2008.

65. Окишев A.C. Формирование и исследование численных методов оптимизации, учитывающих высшие производные / A.C. Окишев // Омский научный вестник. Серия Приборы, машины и технологии, №3 (93) / Омск: Изд-во Ом-ГТУ, 2010. с. 20-25.

66. Основы цифровой' обработки сигналов: Курс лекций / А.И. Солонина, Д.А. Улахович, С.М. Арбузов, Е.Б. Соловьева, И.И. Гук. — СПб.: БХВ-Петербург, 2003. 608 с.

67. Осовский С. Нейронные сети для обработки информации / С. Осов-ский. Пер. с польского. М.: Финансы и статистика, 2004. — 344 с.

68. Пантелеев A.B. Методы оптимизации в примерах и задачах /

69. A.B. Пантелеев, Т.А. Летова. -М.: Высш. шк., 2005. — 544 с.

70. Полак Э. Численные методы оптимизации / Э. Полак. — М.: Мир, 1974. 376 с.

71. Поляк Б.Т. Введение в оптимизацию / Б.Т. Поляк. М.: Наука, 1983. -384 с.

72. Понтрягин Л.С. Обыкновенные дифференциальные уравнения.-М.: Наука, 1982.-330 с.

73. Раб Е.И. Система управления и обработки информации в автоматизированном диагностическом комплексе / Е.И. Раб, A.A. Любченко, A.C. Окишев,

74. Рабинер Л. Теория и применение цифровой обработки сигналов / Л. Рабинер, Б. Гоулд. Пер. с англ. под ред. Ю.Н. Александрова. М.: Мир, 1978.-848 с.

75. Рабинер JI. Цифровая обработка речевых сигналов / Л.Р. Рабинер, Р.В. Шафер. М.: Радио и связь, 1983. - 320 с.

76. Райбман Н.С. Что такое идентификация. М.: Наука, 1970. - 121 с.

77. Растригин Л.А. Современные принципы управления сложными объектами / Л.А. Растригин. -М.: Сов. радио, 1980. 232 с.

78. Рубан А.И. Идентификация нелинейных динамических объектовна основе алгоритма чувствительности. — Томск: Изд-во Томск, ун-та, 1975. 270 с.

79. Рубан А.И. Идентификация и чувствительность сложных систем / А.И. Рубан. Томск: Изд-во Томск, ун-та, 1981. - 302 с.

80. Рубан А.И. Методы оптимизации: учебное пособие / А.И. Рубан. — Красноярск: ИПЦ КГТУ, 2004. 528 с.

81. Рудаков П.И. Обработка сигналов и изображений. MATLAB 5.x / П.И. Рудаков, И.В. Сафонов. Под общ. ред. В.Г. Потемкина. — М.: Диалог-МИФИ, 2000.-416 с.

82. Самарский A.A. Численные методы / A.A. Самарский, A.B. Гулин. -М.: Наука, 1989.-432 с.

83. Сейдж Э., Мелса Д. Идентификация систем управления. — М.: Наука, 1972.-248 с.

84. Сергиенко А.Б. Цифровая обработка сигналов / А.Б. Сергиенко. — СПб.: Питер, 2007.-751 с.

85. Смирнов В.И. Курс высшей математики. Т.1 / В.И. Смирнов. М.: Наука, 1974.-480 с.

86. Солодовников В.В. Теория автоматического управления техническими системами / В.В. Солодовников, В.Н. Плотников, A.B. Яковлев. М.: Изд-во МГТУ им. Н.Э. Баумана, 1993. - 492 с.

87. Справочник по теории автоматического управления/ Под ред.

88. A.A. Красовского. -М.: Наука, 1987. 712 с.

89. Сухарев А.Г. Курс методов оптимизации / А.Г. Сухарев, A.B. Тимохов,

90. B.В. Федоров. М.: Наука, 1986. - 328 с.

91. Трауб Дж. Итерационные методы решения уравнений / Дж. Трауб. Пер. с англ. под ред. А.Х. Сухарева. М.: Мир, 1985. - 263 с.

92. Фиакко А. Нелинейное программирование (методы последовательной безусловной минимизации) / А. Фиакко, Г. Мак-Кормик. Пер. с англ. под ред. Е.Г. Голыптейна. М.: Мир, 1972. - 238 с.

93. Хартман Ф. Обыкновенные дифференциальные уравнения.-М.: Мир, 1970.-720 с.

94. Хемминг Р.В. Цифровые фильтры / Р.В. Хемминг. Пер. с англ. под ред. A.M. Трахтмана. М.: Советское радио, 1980. - 224 с.

95. Химмельблау Д. Прикладное нелинейное программирование / Д. Хим-мельблау. Пер. с англ. под ред. M.JL Быховского. М.: Мир, 1975. - 534 с.

96. Цыпкин Я.З. Основы теории автоматических систем / Я.З. Цыпкин. -М.: Наука, 1977.-548с.

97. Цыпкин Я.З. Основы информационной» теории идентификации.-М.: Наука, 1981.-320 с.

98. Цыпкин Я.З. Информационная теория идентификации / Я.З.Цыпкин. — М.: Наука. Физматлит, 1995. 336 с.

99. Черноруцкий И.Г. Методы оптимизации в теории управления / И.Г. Черноруцкий. СПб.: Питер, 2004. - 256 с.

100. ЮО.Эйкхофф П. Основы идентификации систем управления: Пер. с англ. — М.: Мир, 1975.-680 с.

101. Antoniou A. Digital signal processing. Signals, systems and filters / A. An-toniou. N.Y.: McGraw-Hill, 2006. - 965 p.

102. Antoniou A. Improved minimax optimization algorithms and their application in the design of recursive digital filters // Proc. Inst. Elect. Eng., Part G, vol. 138, Dec. 1991.-pp. 724-730.

103. Antoniou A. Practical optimization. Algorithms and engineering applications. A. Antoniou, W.-S. Lu. - N.Y.: Springer Science, 2007. — 669 p.

104. Bandler J.W. Least pt\\ optimization of recursive digital filters / J.W. Bandler, B.L. Bardakjian // IEEE Trans. Audio Electroacoust., vol. 21, Oct. 1973.-pp. 460-470.

105. Bertsekas D.P. Nonlinear Programming. 2nd Ed. / D.P. Bertsekas. — Belmont, Massachusets: Athena Scientific, 1999. 740 p.

106. Charalambous C. Acceleration of the least pth algorithm for minimax optimization with engineering applications / C. Charalambous // Mathematical Programming, vol. 17, 1979. pp. 270-297.

107. Charalambous C. Minimax design of recursive digital filters / C. Charalambous // Computer Aided Design, vol. 6, Apr. 1974. — pp. 73-81.

108. Deczky A.G. Synthesis of recursive digital filters using the minimum /?-error criterion / A.G. Deczky // IEEE Trans. Audio Electroacoust., vol. 20, Oct. 1972. -pp. 257-263.

109. Fletcher R. An optimal positive definite update for sparse Hessian matrices / R. Fletcher // SIAM Journal on Optimization, 5, 1995. pp. 192-218.

110. O.Fletcher R. Function Minimization by Conjugate Gradients / R. Fletcher, C.M. Reeves // Computer J., 7, 1964. pp. 149-154.

111. Fletcher R. Practical methods of Optimization. 2nd Ed. / R. Fletcher. N.Y.: John Wiley & Sons, 1987. - 560 p.

112. Gibbs A.J. The Design of Digital Filters / A.J. Gibbs // Australian Telecommunication Research, 4, No. 1, 1970. pp. 29-34.

113. Gill P.E. Numerical Linear Algebra and Optimization, Vol. 1 / Gill P.E., Murray W., M.H. Wright. Redwood City, California: Addison Wesley, 1991.

114. Goodwin G.C. The application of curvature methods to parameter and state estimation / G.C. Goodwin // Proc. IEE, 116, №6, 1969.

115. Gould N.I.M. Numerical methods for large-scale nonlinear optimization / N.I.M. Gould, D> Orban, PlL. Toint. Acta Numerica, 14, 2005. - pp. 299-361.

116. Himmelblau D.M. Applied Nonlinear Programming / D.M. Himmelblau. — N.Y.: McGraw-Hill, 1972.

117. Ingle V.K. Digital Signal Processing using MATLAB 4.0 / V.K. Ingle, J.G. Proakis. Boston, PWS Publishing Company, 1997. - 420 p.

118. Liu D.C. On the limited-memory BFGS method for large scale optimization / D.C. Liu, J. Nocedal. Mathematical Programming, 45, 1989. - pp. 503-528.

119. Mangasarian O.L. Nonlinear Programming. 2nd Ed. / O.L. Mangasarian. -Philadelphia: SIAM, 1994. 220 p.

120. Marquardt D.W. An algorithm for least squares estimation of non-linear parameters / D.W. Marquardt. SIAM Journal, 11, 1963. - pp. 431^41.

121. MATLAB. Filter Design Toolbox: Reference guide. The MathWorks, Inc., 2010.-1418 p.

122. McCormik G.P. Methods of Conjugate Directions versus Quasi-Newton methods / G.P. McCormik // Math. Prog., 3(1), 1972. pp. 101-116.

123. Medler Ch.R. An algorithm for nonlinear parameter identification/ Ch.R. Medler, Chin-Chi Hsu // IEEE Trans. Autom. Control, 1969, v. 14, №6.

124. Murray W. Numerical methods for Unconstrained Optimization/ W. Murray. London: Academic Press, 1972.

125. Nocedal J. Numerical optimization / J. Nocedal, S.J. Wright. N.Y.: Springer Science, 2006. - 664 p.

126. Parks T.W. A Program for the Design of Linear Phase Finite Impulse Response Digital Filters / T.W. Parks, J.H. McClellan // IEEE Trans. Audio Elec-troacoust., AU-20, No. 3, Aug. 1972. pp. 195-199.

127. Ruszczynski A. Nonlinear Optimization / A. Ruszczynski. Princeton, 2005.-464 p.

128. Shanno D.F. Matrix Conditioning and Nonlinear Optimization / D.F. Shanno, K.H. Phua // Math. Prog., 14, 1978. pp. 149-160.

129. Steiglitz K. Computer-aided design of recursive digital filters / K. Stieglitz // IEEE Trans. Audio Electroacoust., vol. 18, June 1980. pp. 123-129.

130. Vavasis S.A. Nonlinear Optimization / S.A. Vavasis. N.Y.; Oxford: Oxford University Press, 1991.