Алгоритмический синтез нейросетевых систем управления нелинейными динамическими объектами в условиях неопределенности тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Тюкин, Иван Юрьевич

• Тюкин, Иван Юрьевич
• кандидат технических наук
• 2001

Оглавление диссертации кандидат технических наук Тюкин, Иван Юрьевич

Введение.

1. НЕКОТОРЫЕ ПРОБЛЕМЫ ЗАДАЧИ СИНТЕЗА НЕЙРОСЕТЕВЫХ СИСТЕМ УПРАВЛЕНИЯ НЕЛИНЕЙНЫМИ ДИНАМИЧЕСКИМИ ОБЪЕКТАМИ.

1.1. Базовые сведения о многослойных нейронных сетях.

1.2. Алгоритмы обучения многослойных нейросетей в реальном времени.

1.3. Базовые структуры нейросетевых динамических систем.

1.4. Дифференциальные уравнения процессов преобразования и настройки многослойных нейросетей.

1.5. Методы синтеза нелинейных систем управления.

1.5.1. Метод аналитического конструирования оптимальных регуляторов.

1.5.2. Синтез регуляторов на основе нелинейного преобразования координат.

1.5.3. Метод аналитического конструирования агрегированных регуляторов (АКАР).

1.5.4. Задача управления динамическим объектом в условиях неопределенности.

1.6. Постановка задачи диссертации.

2. АНАЛИТИЧЕСКИЙ СИНТЕЗ ОПТИМАЛЬНЫХ ЗАКОНОВ УПРАВЛЕНИЯ В НЕЛИНЕЙНЫХ ДИНАМИЧЕСКИХ СИСТЕМАХ.

2.1. Постановка задачи аналитического синтеза нелинейных оптимальных законов управления на многообразиях и основные определения.

2.2. Достаточное условие возможности синтеза единственного агрегированного регулятора.

2.3. Необходимые и достаточные условия возможности синтеза агрегированного регулятора для класса нелинейных объектов.

2.4. Синтез агрегированных макропеременных.

2.4.1. Процедура Т{ ^ а-преобразования.

2.4.2. Процедуры Tt ф а -преобразования специального вида.

2.5. Примеры синтеза агрегированных регуляторов.

2. 8. Выводы по разделу 2.

3. АДАПТИВНОЕ УПРАВЛЕНИЕ НА МНОГООБРАЗИЯХ.

3.1. Постановка задачи адаптивного управления на многообразиях.

3.2. Синтез алгоритмов адаптации.

3.3. Условия применимости алгоритмов адаптации.

3.4. Алгоритмы адаптации в случае квадратичного сопровождающего функционала (алгоритмы КСФ).

3.4.1. Синтез алгоритмов адаптации КСФ.

3.4.2. Условия применимости алгоритмов КСФ.

3.5. Синтез алгоритмов КСФ в случае нарушения условия выпуклости.

3.6. Примеры синтеза адаптивных систем управления методом АУМ.

3.7. Выводы по разделу 3.

4. СИНТЕЗ НЕЙРОСЕТЕВЫХ СИСТЕМ УПРАВЛЕНИЯ.

4.1. Постановка задачи.

4.2. Анализ устойчивости и качества процессов обучения многослойных нейронных сетей.

4.2.1. Анализ устойчивости процессов обучения МНС в непрерывном времени методом функций Ляпунова.

4.2.2. Анализ сходимости процессов обучения МНС в дискретном времени.

4.3. Синтез нейросетевых систем управления нелинейными динамическими объектами с непрерывной математической моделью.

4.3.1. Синтез нейросетевых систем управления в случае выполнения условий достижимости.

4.3.2. Анализ условий применимости процедуры обучения МНС в случае нарушения условий достижимости.

4.4. Синтез нейросетевых систем управления нелинейными динамическими объектами с дискретной математической моделью.

4.4.1. Обобщенная схема обратного распространения ошибки "сквозь время".

4.4.2. Условия устойчивости процессов обучения МНС в составе ОНО.

4.4.3. Условие диссипативности синтезированной нейросетевой системы управления.

4.4.4. Условия достижения наименьшего значения критерия обучения МНС.

4.5. Выводы по разделу 4.

5. СИНТЕЗ СИСТЕМЫ УПРАВЛЕНИЯ СКОРОСТЬЮ ВРАЩЕНИЯ ВАЛА ДВИГАТЕЛЯ ВНУТРЕННЕГО СГОРАНИЯ НА ХОЛОСТОМ ХОДУ.

5.1. Постановка задачи.

5.2. Синтез регулятора основного контура.

5.2.1 Синтез регулятора основного контура с астатизмом нулевого порядка.

5.2.2. Синтез регулятора основного контура с астатизмом первого порядка.

5.3. Синтез адаптивной системы управления скоростью вращения вала двигателя в режиме холостого хода.

5.3.1 Синтез адаптивной системы управления идентификационного типа.

5.3.2 Синтез системы прямого адаптивного управления скоростью вращения вала двигателя внутреннего сгорания.

5.3.3. Синтез нейросетевой адаптивной системы управления скоростью вращения вала двигателя на холостом ходу.

5.4. Выводы по разделу 5.

Введение диссертации (часть автореферата) на тему «Алгоритмический синтез нейросетевых систем управления нелинейными динамическими объектами в условиях неопределенности»

Нейросетевые системы управления относятся к классу нелинейных динамических систем. В составе таких систем искусственная нейронная сеть может выполнять различные функции: диагностика технологического оборудования, управление подвижными объектами и технологическими процессами, прогнозирование ситуаций, оценка состояния и мониторинг технологических процессов и многое другое. Примеры такого рода нейросетевых систем можно найти в множестве зарубежных публикаций (например, в [55, 65, 71-73, 79, 80, 84-86, 95, 102, 104]) и в опубликованных трудах российских авторов [9, 11, 18, 19, 35-37]. В последующем изложении содержание понятия "нейросетевые системы управления" ограничим более узкой областью функций, выполняемых нейронной сетью.

Это, во-первых, функция адаптивного регулятора нелинейного многосвязного объекта. Здесь возможны два варианта функционирования нейросети. В первом — нейросеть обучается и одновременно формирует управляющее воздействие на входе исполнительного устройства системы управления. Цель обучения сети и цель управления объектом совпадают, что отражается в задании единой целевой функции системы. Сеть обучается в реальном времени, в темпе протекания процессов в системе (режим on-line). Во втором варианте работа сети состоит из двух этапов: предварительного этапа обучения сети заданной оптимальной функции управления и этапа воспроизведения аппроксимации этой функции в режиме управления объектом при тех же условиях или близких к ним. Целевые функционалы обучения сети и управления объектом могут отличаться друг от друга. Такой вариант применения нейронной сети для управления — т.н. супервизорное управление — нашел преимущественное распространение до настоящего времени, хотя процесс синтеза нейросе-тевого кронтроллера и настройка его параметров в этом случае протекает не в реальном времени (режим off-line).

Выбор конкретного подхода к обучению сети (on-line или off-line) зависит от специфики задачи и, более того, определяет конкретный вид алгоритма обучения сети (беспоисковые/поисковые схемы, глобальная/локальная оптимизация и т.д.). Так, например, в отраслях промышленности, где накоплены огромные массивы данных о поведении исследуемого технического объекта (например, в автомобильной промышленности при проектировании системы управления новым типом двигателя [87]) более разумнным представляется использование off-line техники обучения с применением генетических алгоритмов [76], алгоритмов с элементами случайного поиска [73, 86] или "статистического" обучения [99]. С другой стороны, для объектов, технические характеристики которых меняются относительно быстро в процессе эксплуатации, наиболее предпочтительным становится применение on-line алгоритмов настройки сети.

Нейронные сети находят применение и как идентификаторы для оценивания вектора состояния нелинейных систем и как адаптивные фильтры типа фильтра Калмана в нелинейных динамических системах. Наконец, отметим известное применение нейронной сети в качестве оптимизаторов для настройки параметров регуляторов с типовыми законами регулирования и для настройки параметров алгоритмов адаптации, реализуемых на основе известных методов теории адаптивных систем.

Для обозначения класса нелинейных систем с такого рода применением искусственных нейросетей далее и применяется термин нейросете-вые системы управления (НСУ).

Последующее сужение рассматриваемого в диссертации класса НСУ осуществим за счет выбора одного из трех основных типов искусственных нейросетей для выполнения перечисленных функций: обучаемых многослойных нейронных сетей прямого распространения (многослойных перцептронов), рекуррентных сетей Хопфилда и сетей ("самоорганизующихся карт") Кохонена [12]. Преимущественное распространение для целей управления по ряду причин нашли многослойные нелинейные нейронные сети (МНС), меньшее — сети Хопфилда и еще меньшее — сети Кохонена. В последующем рассматривается применение обучаемых многослойных сетей только прямого распространения.

Первые попытки использовать искусственные нейронные сети для управления динамическими объектами в "бионических системах" были предприняты еще в начале 70-х годов. Сошлемся, для примера, на работы [44, 60]. В них авторы, отталкиваясь от анализа биологических управляющих систем ("биологических прототипов"), пришли к выводу, что нейронные структуры в биологических управляющих системах работают в фазовом пространстве, а нейронная регулирующая система может выполнять функцию обучаемого или самообучаемого классификатора в этом пространстве. Термин "классификатор" в этом случае обозначает, что сеть выполняет оценивание переменных фазового пространства системы относительно окрестности особых точек этого пространства. Фиксируемое попадание изображающей точки системы в одну из областей фазового пространства вызывает на выходе классификатора корректирующие сигналы для изменения функции управления состоянием объекта. Подобная идея "бионического" управления самими авторами называлась гипотетической, но с ". достаточно большим коэффициентом правдоподобия" ([44], с. 54). В качестве примера биологических систем управления, вписывающихся в предложенную концепцию построения нейросетевой систем с классификатором фазового пространства, в работе [44] приводилась "глазодвигательная" система животных. Заметим, что в то время еще не был известен метод обучения многослойных нейронных сетей.

Применение обучаемых многослойных нейросетей в системах управления началось по настоящему в конце 80-х годов, главным образом в США, для управления движением подвижными роботами по аналитически заданным траекториям [72, 73, 80, 95, 96]. Это направление использования нейросетей в системах управления остается по-прежнему актуальным, только теперь решение задачи распространилось и на случай не заданных заранее траекторий движения. В это же время начались исследования по применению многослойных сетей как идентификаторов состояния нелинейных объектов, и это направление также получило впоследствии хорошее развитие [71, 79, 84, 95]. Пример применения многослойной нейронной сети как оптимизатора настроек параметров промышленного ПИД-регулятора содержится в работе [1].

Но лишь в самые последние годы появились первые результаты по использованию нейросетей для управления динамическими объектами. Можно сослаться, например, на редакционную статью в [80], где ее авторы определяют проблемы синтеза нейросетевых систем управления динамическими объектами. Эти проблемы касаются: 1) синтеза структур нейросетевых систем управления; 2) ограничений на максимальную скорость настройки параметров сети; 3) модификации алгоритмов настройки, обеспечивающих малые траекторные ошибки при ограничениях на значения весовых коэффициентов синаптических связей нейронов; 4) модификации управления, гарантирующего грубость в условиях неконтролируемых возмущений.

Подходы к решению перечисленных проблем, безусловно, так или иначе, отражены в существующей литературе по применению нейросетей в задачах управления. Еще в 1992 г. в [91] (J. Slotine) была приведена процедура синтеза системы управления нелинейными объектами с применением RBF (radial basis function) нейросетей. В [91] достаточно подробно рассматриваются вопросы синтеза архитектуры сети и алгоритма адаптации. Проблемы же, связанные с качеством процессов и нечувствительностью системы к неизмеряемым возмущениям, не решаются. В более позднее время, например, в работах [82, 89, 92] (1997 г.) были предложены методы синтеза нейросетевых систем управления сложными техническими объектами, в частности, для решения задач синтеза нейросетевых автопилотов и систем управления угловым движением ракеты. Необходимо отметить, что методы, описанные в [82, 89, 92] были протестированы на действующих моделях в "реальных условиях" (то есть при наличии помех в каналах измерения, неточности математических моделей и т.д.). Однако, математические модели объектов, эксплуатирующиеся в [82, 92], достаточно специфичны и, вероятно, полезны лишь для отдельных областей технической науки. Кроме того, основной результат этих работ в математическом плане - ограниченность всех траекторий в системе - недостаточен для обоснования эффективности разработанного подхода, так как в работе изначально предполагается ограниченность всех решений системы [63].

В работе [91], например, предлагается метод прямого адаптивного нейросетевого управления нелинейным объектом, допускающим линеаризацию обратной связью, с применением RBF сетей. Авторами исследуются достаточные условия достижение цели управления (в частности, установлены ограничения на параметры градиентного алгоритма настройки сети - указана оценка снизу для коэффициентов усиления в алгоритме адаптации), но не учитываются внешние возмущения, влияние немоделируемой динамики. Хотя, выглядит достаточно очевидным, что относительно большие коэффициенты усиления в алгоритме адаптации автоматически означают и аналогичное "усиление" помехи, присутствующей в канале измерения.

Примечательно, большинство работ по искусственным нейронным сетям и их применению опубликовано в зарубежных изданиях научной литературы. Российская же библиография по в этом направлении довольно скудна по сравнению с зарубежной, а в приложениях к управлению динамическими объектами практически отсутствует. Этим, а также, и другими перечисленными факторами подтверждается актуальность темы диссертации.

Как вытекает из краткого анализа существующей на данный момент доступной и относительно свежей литературы по применению ней-росетей в задачах управления динамическими объектами, большинство публикуемых результатов носит частный или эмпирический характер, что подтверждается в обзоре [80]). Более того, на текущий момент времени не существует регулярных методов синтеза нейросетевых систем управления динамическими объектами, что обусловлено прежде всего сложностью математического анализа свойств обучаемой нейросети в составе динамической системы.

Основной целью диссертации является создание основ теории синтеза - как алгоритмического, так и структурного - нейросетевых систем управления стационарными нелинейными динамическими объектами. В нейросетевых системах задача структурного синтеза может быть сведена, как это показано в диссертации, к обоснованному выбору содержательной информации, необходимой для обучения многослойных нейронных сетей формированию оптимального закона управления и установлению условий существования решения задачи управления для класса нелинейных объектов и требуемых целей управления [53]. Алгоритмический же синтез включает в себя решение задачи выбора алгоритма обучения нейросети в реальном времени и анализа условий достижимости целей управления с их помощью, что существенно с практической точки зрения. Результаты, изложенные в диссертации, выполнены в рамках научно-исследовательских работ, проводимых с 1994 года на кафедре автоматики и процессов управления СПбГЭТУ «ЛЭТИ» по научному направлению "Нейросетевые системы управления" под руководством проф. В.А. Терехова [49-54].

Основными положениями диссертации, выносимыми на защиту, являются:

1) Метод аналитического синтеза оптимальных законов управления, формируемых многослойной нейронной сетью в процессе ее обучения в реальном времени для класса многомерных нелинейных стационарных объектов управления.

2) Метод адаптивного управления на многообразиях, в рамках которого решаются вопросы алгоритмического синтеза нейросетевых систем управления.

3) Методика синтеза нейросетевых систем управления, базирующаяся на методах адаптивного управления на многообразиях и синтеза оптимальных законов управления.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Тюкин, Иван Юрьевич

5.4. Выводы по разделу 5

Методы синтеза нейросетевых систем, разработанные в диссертации, применены в задаче управления скоростью вращения вала двигателя на холостом ходу. Получены результаты компьютерного моделирования, подтверждающие теоретические положения работы. Из результатов исследований, изложенных в разд.5, можно сделать следующие выводы.

1. Синтезированные системы обладают достаточной нечувствительностью к неточности измерительной информации и грубостью по отношению к известным значениям параметров модели, что подчеркивает практичность предлагаемого подхода.

182

2. Синтез адаптивных систем управления реальными объектами по классической схеме: разработка регулятора основного контура - синтез алгоритмов адаптации достаточно трудоемок с технической точки зрения и существенным образом зависит от структуры правой части математической модели объекта. Поэтому привлекательным выглядит использование нейросетевого регулятора основного контура системы, что позволяет упростить проектирование системы управления в целом.

3. Нейросетевая адаптивная система управления, синтезированная в разд. 5.3.3 оказалась эффективной при решении задачи управления скоростью вала двигателя на холостом ходу, но для достижения наилучшего качества управления требуется относительно длительное время адаптации, что иллюстрируется рис. П6.8 в Приложении 6.

Заключение по диссертации

1. В диссертационной работе предложен метод синтеза нейросетевых систем управления нелинейными динамическими объектами в условиях параметрической и функциональной неопределенности. Метод конструирования подобных систем основан прежде всего на развиваемых в диссертации методе аналитического синтеза агрегированных регуляторов и методе адаптивного управления на многообразиях. В рамках перечисленных методов синтеза нелинейных систем автором получены следующие результаты.

2. Предложен метод синтеза нелинейных регуляторов на основе агрегированных макропеременных в соответствии с заданным критерием качества в условиях возможной функционально-структурной и параметрической недоопределенности для класса нелинейных моделей динамических объектов и с учетом физической реализуемости агрегированного регулятора.

3. Разработана регулярная процедура (ГГ(ра -преобразование) выбора управляемых инвариантных локальных целевьгх многообразий, достижение которых гарантирует, в свою очередь, достижение глобального целевого многообразия, т. е. выполнение системой управления своей технической задачи.

4. Сформулирован и обоснован метод адаптивного управления на многообразиях нелинейными объектами в условиях параметрической и функционально-структурной неопределенности математической модели объекта с использованием макроинформация о движении динамической системы с неизвестными параметрами. Закон адаптивного управления синтезируется с учетом желаемого качества движения изображающей точки в фазовом пространстве "расширенной" системы.

5. На основе разработанных и изложенных в работе методов аналитического синтеза агрегированных регуляторов и метода адаптивного управления на многообразиях, в диссертации предложен метод синтеза нейросетевых систем управления нелинейными динамическими

184 объектами в условиях неопределенности. В рамках метода получены условия работоспособности процедур обучения МНС в составе обобщенного настраиваемого объекта, допускающего описание системой непрерывных дифференциальных уравнений и условия сходимости алгоритма настройки нейросети для объектов, допускающих описание системами дискретных разностных уравнений.

6. Для дискретных моделей объекта управления разработана процедура синтеза систем, основанная на технике "обратного распространения сквозь время". Получены условия сходимости алгоритмов обучения сети, условия диссипативности результирующей системы и условия возможности получения наилучшего управления в смысле минимума функционала настройки качества.

7. Методы синтеза нейросетевых систем, разработанные в диссертации, использованы для решения задачи управления скоростью вращения вала двигателя на холостом ходу. Полученные результаты компьютерного моделирования хорошо согласуются с теоретическими результатами работы.

Список литературы диссертационного исследования кандидат технических наук Тюкин, Иван Юрьевич, 2001 год

1. Абиев Р.Г., Алиев Р.А., Алиев P.P. Синтез систем автоматического управления с обучаемыми на нейронной сети нечетким контроллером // Изв. РАН. Техническая кибернетика. 1994. № 2. С. 192—197.

2. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. 1995. № 4. С. 106-118.

3. Александров А.Г. Синтез регуляторов многомерных систем. М.: Машиностроение, 1986. 272 с.

4. Александров А.Г. Оптимальные и адаптивные системы: Учеб. пособие. М.: Высшая школа, 1989. 263 с.

5. Арнольд В.И. Математические методы классической механики. М.: Наука, 1989.

6. Болтянский В.Г. Математические методы оптимального управления. М.: Наука, 1966. 408 с.

7. Вулих В.З. Введение в функциональный анализ. М: Наука, 1967. 415 с.

8. Геращенко Б.И., Геращенко С.М. Метод разделения движений и оптимизация нелинейных систем. М.: Наука: 1975. 295 с.

9. Горбань А.Н. Обучение нейронных сетей. — М.: СП "ParaGraph", 1990. 160 с.

10. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. — Новосибирск: Наука (Сиб. отделение), 1996. 276 с.

11. Гордиенко Е.К., Лукьяница А.А. Искусственные нейронные сети: I. Основные определения и модели/ Изв. РАН. Техническая кибернетика. 1994. № 5. С. 79-92.

12. Гноенский Л.С., Каменский Г.А., Эльсгольд Л.Э. Математические основы теории управляемых систем. М.:Наука, 1969. 512 с.

13. Демидович В. П. Лекции по математической теории устойчивости. М.: МГУ, 1998. 480 с.

14. Деревицкий Д.П., Фрадков А.Л. Прикладная теория дискретных адаптивных систем управления. М.: Наука, 1981. 215 с.

15. Дмитриевский А.А., Лысенко Л.Н. Прикладные задачи теории оптимального управления движением беспилотных летательных аппаратов. М.: Машиностроение, 1978.

16. Дружинина М.В., Никифоров В.О., Фрадков А.А. Методы адаптивного управления нелинейными объектами по выходу// Автоматика и телемеханика. 1996. № 2- С. 3 — 33.

17. Ефимов Д.В., Терехов В .А., Тюкин И.Ю. Адаптивная система управления с нейронной сетью// Сб. науч. трудов "Системы обработки информации и управления"/ Изв. ТЭТУ. СПб, 1996. Вып. 490. С. 32-35.

18. Ефимов Д.В., Терехов В.А., Тюкин И.Ю. Синергетический подход к синтезу систем управления динамическими объектами с использованием многослойных нейронных сетей//Изв. ТЭТУ. СПб, 1998. Вып. 520. С. 3-25.

19. Зангвилл У.И. Нелинейное программирование. М.: Сов. радио, 1973. 312 с.

20. Иванов В.А., Фалдин Н.В. Теория оптимальных систем автоматического управления. М.: Наука, 1981. 336 с.

21. Квакернаак X., Сиван Р. Линейные оптимальные системы управления. М.: Мир, 1977. 650 с.

22. Колесников А.А. Основы теории синергетического управления. — М.: Испо—сервис, 2000. 264 с.

23. Колесников А.А. Синергетическая теория управления. Таганрог: ТРТУ. М.: Энергоатомиздат, 1994. 294 с.

24. Красовский А.А. Системы автоматического управления полетом и их аналитическое конструирование. М. -.Наука, 1973. 558 с.

25. Красовский А.А., Буков В.Н., Шендрик B.C. Универсальные алгоритмы оптимального управления непрерывными процессами. М: Наука, 1977. 270 с.

26. Кундевич В.М. Лычак М.М. Синтез систем автоматического управления с помощью функций Ляпунова. М.: Наука, 1977. 400 с.

27. Курош А.Г. Курс высшей алгебры. М.: Наука, 1968. 431 с.

28. Лернер Д.М., Лукомский Ю.А., Михайлов В.А. и др. Управление морскими подвижными объектами. Л.: Судостроение. 1979. 272 с.

29. Летов A.M. Теория оптимального управления // Труды II конгресса ИФАК. "Оптимальные системы. Статистические методы". М: Наука, 1965. С. 7-38.

30. Летов A.M. Динамика полета и управление. М.: Наука, 1969. 319 с.

31. Ли Э.Б., Маркус Л. Основы теории оптимального управления. М.: Наука, 1972. 574 с.

32. Дж. Милиор, А. Уоллес. Дифференциальная топология. Начальный курс. Волгоград: Платон, 1997. 277 с.

33. Мирошник И.В., Никифоров В.О., Фрадков А.Л. Нелинейное и адаптивное управление сложными динамическими системами. (Серия "Анализ и синтез нелинейных систем") — СПб.: Наука, 2000. 549 с.

34. Нейроинформатика и ее приложения/ / Мат. 3-го Всерос. сем., 6-8 октября 1995 г. 4.1 / Под ред. А.Н. Горбаня. — Красноярск: КГТУ. 1995. 230 с.

35. Нейроинформатика и ее приложения// Тез. докл. 5-го Всерос. сем., 3-5 октября 1997 г. / Под ред. А.Н. Горбаня. — Красноярск: КГТУ. 1997. 190 с.

36. Нейроинформатика и ее приложения / / Тез. докл. 7-го Всерос. сем., 1—3 октября 1999 г. / Под ред. А.Н. Горбаня. Красноярск: КГТУ. 1999. С. 3-10.

37. Новые концепции общей теории управления: Сборник научных трудов // Под ред. А.А. Красовского. Москва — Таганрог: ТРТУ,1995. 184 с.

38. Олейников В.А. Оптимальное управление в нефтяной и газовой промышленности. Д.: Недра, 1982. 216 с.

39. Первозванский А.А. Оценки ошибок аппроксимации в искусственных нейронных сетях //Тр. 13-го Конгресса ИФАК, 1996. С. 157 162.

40. Петров Ю.П. Вариационные методы теории оптимального управления. 2-е изд. Д.: Энергия, 1977. 280 с.

41. Попов В.М. Гиперустойчивость автоматических систем. М.: Наука, 1970. 456 с.

42. Путов В.В. Методы построения адаптивных систем управления нелинейными нестационарными динамическими объектами с функционально-параметрической неопределенностью. Дисс. на соискание уч. степ, д-ра техн. наук./ СПбГЭТУ. СПб., 1993. 603 с.

43. Рей У. Методы управления технологическими процессами, М.: Мир, 1983.

44. Сахаров В.В. Расчет оптимальных регуляторов судовых автоматических систем. Д.: Судостроение, 1983.

45. Солодовников А.И., Спиваковский A.M. Основы теории и методы спектральной обработки информации. Ленинград: Издательство ЛГУ, 1986. 272 с.

46. Спивак М. Математический анализ на многообразиях. Волгоград: Платон, 1996. 167 с.

47. Терехов В.А. Динамические алгоритмы обучения многослойных нейронных сетей в системах управления // Изв. РАН. Сер. Теория и системы управления. 1996. № 3. С. 70-79.

48. Терехов В.А., Тюкин И.Ю. Устойчивость по Ляпунову продессов обучения многослойной нейронной сети в динамических системах управления // Изв. ВУЗов. Приборостроение. № 9, 1999.

49. Терехов В.А., Тюкин И.Ю. Исследование устойчивости процессов обучения многослойной нейронной сети. I, II //Автоматика и телемеханика. №10. 1999. С. 145-161; №11. 1999. С. 136-144.

50. Терехов В.А, Ефимов Д.В., Тюкин И.Ю. Адаптивные системы управления с использованием многослойных нейронных сетей. //Сб. науч. трудов "Методы и аппаратно-программные средства цифровой обработки сигналов" / Изв. ТЭТУ. СПб., 1996. Вып.498. С. 36-56.

51. Терехов В.А., Ефимов Д.В., Тюкин И.Ю., Антонов В.Н. Нейросетевые системы управления — СПб. Изд. С.-Петербургского университета, 1999. 265 с.

52. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Структурный синтез адаптивных систем управления с многослойными нейронными се-тями//Изв. ТЭТУ. 1997. Вып. 510. С. 3-13.

53. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика / Пер. с англ. — М.: Мир, 1992. 240 с.

54. Фельдбаум А.А. Основы теории оптимальных автоматических систем. 2-е изд. М.: Наука, 1966. 623 с.

55. Фельдбаум А.А., Бутковский А.Г. Методы теории автоматического управления. М.: Наука, 1977. 744 с.

56. Фомин В.Н., Фрадков А.Л. Якубович В.А. Адаптивное управление динамическими объектами. М.:Наука, 1981. 447 с.

57. Фрадков А.А. Адаптивное управление в сложных системах. М.: Наука, 1990. 286 с.

58. Шквар A.M. Функциональные и структурные аспекты построения некоторых нейронных структур управления // Тр. 4-го Все-союз. совещ. "Теория инвариантности и теория чувствительности автоматических систем". Ч. II. 26-30 апреля 1971. — Киев, 1971. С. 78-89.

59. Ai-Poh Loh, Annaswamy A.M., Skantze F.P. Adaptation in the Presence of a General Nonlinear Parametrization: An Error Model Approach// IEEE Trans, on Automatic Control. Vol. 44. № 9. 1999. P. 1634 -1653.

60. Anil K.Jain, Jianchang Mao, Mohiuddin K.M. Artificial neural networks: A tutorial // Computer. 1996. Vol. 29. № 3. P. 31-44. (Рус. пер. в ж. Открытые системы. 1997. № 4(24). С. 16-24).

61. Частная беседа с проф. Anthony J. Calise. 2000. Dearborn. USA.

62. Barron A.R. Universal approximation bounds for superposition of a sigmoidal function//IEEE Trans. Inform. Theory. 1993. Vol. 39. P. 930-945.

63. Brdys M. A., Kulawski G. J. Dynamic Controllers for Induction Motor // IEEE Trans, on Neural Networks. Vol. 10. No. 2. 1999. P. 340 355.

64. Burkov I.V., Zaremba A.T. Adaptive control for angle speed oscillations generated by periodic disturbances //Proc. 6th St. Petersburg Symp. on Adaptive Systems Theory (SPAS'99). September 7-9, 1999. Vol 1. P. 34-36.

65. Calise A., Hovakimyan N., Hungu Lee. Adaptive Output Feedback Control of Nonlinear Systems using Neural Networks / / Proc. of American Control Conference 2000. 26-30 Jun. Chicago. 2000. P. 3153-3157.

66. Cybenco G. Approximation by superpositions of a sigmoidal function / / Math, of Control, Signals and Systems. 1989. № 2. P. 303-314.

67. Funahashi K. On the approximate realization of continuous mapping by neural networks. Neural Networks. 1989. №2. P. 183—192.

68. Glad S.T. Lecture notes on nonlinear control systems. Report № LiTH- ISY R - 2212. Linkoping University: 2000. P. 219.

69. Handbook of Intelligent Control: Neural, Fuzzy and Adaptive Approaches / Ed. by David A. White & Donald A. Sofge. N.-Y. Van Nostrand Reinhold. 1992. P. 568.

70. Haykin S. Neural networks: A Comprehesive Foundation. — N.-Y.: Macmillan, 1994. P. 842.

71. Haykin S. Neural Networks. A Comprehensive Foundation. Prentice Hall. 1999. P. 842.

72. Isidori A. Nonlinear control systems: An Introduction. 2nd ed. — Berlin: Springer- Verlag, 1989. P. 478.

73. Kim Wing C. Ku, Man Wai Мак, Wan Chi Siu. Adding learning to Cellular Genetic Algorithms for Training Recurrent Neural Networks // IEEE Trans, on Neural Networks. Vol. 10. No. 2. 1999 P. 239-251.

74. Kokotovic P., Arcak M. Constructive Nonlinear Control: Progress in the 90'S // Proc. 14th World Congress of IFAC. Beijing, P.R. China. 5th -9th July, 1999. P. 49-77.

75. Krstic M., Kanellakopoulos I., Kokotovic P.V. Nonlinear and Adaptive Control Design. Wiley & Sons, Inc. 1995, P. 563.

76. Lewis F.L., Parisini T. Guest Editorial: Neural network feedback control with guaranteed stability //Int. J. of Control. 1998. Vol. 70. № 3. P. 337-339.

77. Marino R., Tomei P. Global adaptive observers and output-feedback stabilization for a class of nonlinear systems// Foundations of adaptive control. Berlin: Springer-Verlag, 1991.

78. McFarland M. В., Calise A. J. Multylayer Neural Networks and Adaptive Nonlinear Control of Angle Anti-Missiles. // AIAA Guidance, Navigation and Control Conference, August, 1997.

79. Narendra K.S., Annaswamy A.M. Stable Adaptive Systems. Englewood Cliffs: Prentice Hall Inc., 1989. P. 494.

80. Narendra K.S., Parthsarathy K. Identification and control of dynamic systems using neural networks // IEEE Trans. Neural Networks. 1990. Vol. 1. № 1. P. 4-27.

81. Neural networks for control // Ed. W. Thomas Miller, Richard S. Sutton and P. J. Werbos. Cambridge, MA: Bradford Books. MIT Press, 1990. P. 524.

82. Neural networks for control systems: A survey/K.J. Hunt, D. Sbarbaro, R. Zbikowski, P.J. Gawthrop // Automatica. 1992. Vol. 28, № 6. P. 1083-1112.

83. A.S. Poznyak, E.N. Sanchez, J.P. Perez. Nonlinear Adaptive Trajectory Tracking Using Dynamic Neural Networks // IEEE Trans, on Neural Networks. Vol. 10. No. 6. 199. P. 1402 1411.

84. Prokhorov D., Puskorius G., Feldkamp L. Dynamical Neural Networks for Control. // Ed. by J. Kolen and S. Kremer. A Field Guide to Dynamic Recurrent Networks. IEEE Press (to appear in 2000).

85. Puskorius G. V., Feldkamp L. A. Neurocontrol of Nonlinear Dynamical Systems // IEEE Trans. On Neural Networks, Vol. 5, No. 2. 1994. P. 291 -297.

86. Rao D.H., Gupta M.M. A neural processor for coordinating multiple systems with dynamic uncertainties / / Proc. Int. Symp. Uncertainty and Management (ISUMA). Maryland. April, 25-28, 1993. P. 633-640.

87. Robert M. Sunner, Jean-Jaques Б. Slotine Gaussian Networks For Direct Adaptive Control // IEEE Trans. On Neural Networks. Vol. 3, № 6, 1992, P. 837-863.

88. Rysdyk R., Calise A.J., R.T.N. Chen. Nonlinear Control of Til-trotor Aircraft Using Neural Networks.// SAE/AIAA World Aviation Congress, October. 1997.

89. S. Seshagiri, H.K. Khalil. Output Feedback Control of Nonlinear Systems Using RBF Neural Networks // IEEE Trans, on Neural Network. Vol. 11. No. 1. 2000. P. 69-79.

90. P. Sun, B. Powell, D. Hrovat. Optimal Idle Speed Control of an Automative Engine// Proc. of American Control Confernce 200. 26-30 Jun. Chicago, 2000, P. 1018-1026.

91. Suykens Johan A.K., Vandewalle Joos P.L., De Moor Bart L.R.

92. Artificial Neural Networks for Modelling and Control of Non-Linear Systems. Kluwer Acad. Publ. Boston /Dordrecht / London . 1997. P. 235.

93. Tadeusiewicz R. Sieci Neuronowe.Warszawa: PWN, 1993. P. 195.

94. Terekhov V.A., Tyukin I.Yu. Adaptive Control on Manifolds / / Proc. 6th Saint- Petersburg Symposium on Adaptive Systems Theory. Vol. 1 of 2. (SPAS'99). September 7-9, 1999. Vol. 1. P. 254 (Engl.). Vol. 2. P. 157-160 (Russian).

95. Vidyasagar M. Nonlinear Systems Analysis. Prentice Hall, 1993. P. 498.

96. Vladimir V. Vapnik. An Overview of Statistical Learning Theory // IEEE Trans, on Neural Networks. Vol.10 No. 5. 1999. p. 988-999.

97. Werbos P. J. Beyond Regression: New Tools for Prediction and Analysis in the Behavioral Sciences. Ph. D. Thesis. Harvard Univ. Cambrige. MA, 1974.

98. Widrow В., Rumelhart D.E., Lehr M.A. Neural networks: Application in industry, business and science // Comm. ACM. 1994. Vol. 37, № 3. P. 83-105.

99. Widrow B. Adaptive inverse control //Prep. 2-th IFAC Workshop Adaptive System in Control and Signal Processing. Lund, Sweden, 1986. P. 1-5.

100. Yun Chung Chu, Jie Haung. A Neural-Network Method for the Nonlinear Servomechanism Problem // IEEE Trans, on Neural Networks. Vol. 10. No. 6. 1999. P. 1412-1423.