Применение искусственных нейронных сетей для решения задач управления динамическими объектами тема диссертации и автореферата по ВАК РФ 05.13.17, кандидат физико-математических наук Логовский, Алексей Станиславович

• Логовский, Алексей Станиславович
• кандидат физико-математических наук
• 1998

Оглавление диссертации кандидат физико-математических наук Логовский, Алексей Станиславович

Введение

Глава 1. Основные понятия теории нейронных сетей

1.1 Биологический нейрон. Строение и основные функции

1.2 Математическая модель нейрона. Нейрон Мак-Каллока-Питтса

1.3 Обобщенная математическая модель нейрона

1.3.1 Нейрон с конечным числом входных сигналов

1.3.2 Нейрон с бесконечным числом входных сигналов

1.4 Пространственное и временное суммирование в нейроне

1.4.1 Механизм временного суммирования

1.4.2 Преобразование временного суммирования в пространственное

1.4.3 Преобразование временного суммирования в пространственное

1.4.4 Обобщенная модель нейрона

1.5 Искусственные нейронные сети

1.5.1 Многослойные нейронные сети

1.6 Системный подход к построению нейросетевых систем

Глава 2. Применения нейронных сетей в системах управления

2.1 Классы задач теории управления, решаемые с использованием искусственных нейронных сетей

2.1.1 Нейросетевая аппроксимация поведения контроллера

2.1.2 Нейросетевая модель измерительного устройства

2.1.3 Нейросетевая модель объекта управления

2.1.4 Задача синтеза в нейросетевой постановке

2.2 Классы динамических объектов, для управления которыми используются нейроконтроллеры

2.2.1 Объекты управления, описываемые дифференциальными уравнениями первого порядка

2.2.2 Динамические объекты, описываемые дифференциальными уравнениями второго порядка

2.2.3 Дискретные дифференциальные уравнения

Глава 3. Примеры практического применения нейронных сетей для решения задач управления динамическими объектами

3.1 Обратная кинематическая задача для робота-манипулятора

3.1.1 Постановка задачи обратной кинематики для робота-манипулятора

3.1.2 Решение прямой задачи кинематики

3.1.3 Решение обратной задачи кинематики

3.1.4 Результаты моделирования

3.2 Использование нейронных сетей для управления обратным маятником,

как неустойчивой системой, в реальном времени

3.2.1 Постановка задачи управления обратным маятником

3.2.2 Математическая модель обратного маятника

3.2.3 Структура нейросетевого для контроллера управления обратным маятником

3.2.4 Моделирование объекта управления

3.2.5 Обучение нейронной сети для моделирования поведения объекта управления

3.2.6 Обучение нейронной сети-контроллера

Литература

Приложение Пакет программ моделирования нейронных сетей НеигоЗоШюш фирмы КеигоБтепБюп 1пс

Введение диссертации (часть автореферата) на тему «Применение искусственных нейронных сетей для решения задач управления динамическими объектами»

Введение.

Актуальность темы.

В последнее время во всем мире наблюдается резко возросший объем научных исследований в области теории искусственных нейронных сетей, нейрокомпьютинга и нейроинформатики. Это связано, прежде всего, с теми возможностями, которые искусственные нейронные сети предоставляют для решения сложных, зачастую неформализуемых, прикладных задач.

Искусственные нейронные сети и специализированные вычислительные устройства, созданные на их основе - нейрокомпьютеры - строятся и функционируют по тем же принципам, что и биологические нейронные сети. Подобно своим биологическим аналогам, искусственные нейронные сети представляют собой однородную структуру, состоящую из большого количества параллельно работающих простейших вычислительных элементов -нейронов. За счет применения принципиально нового способа обработки информации достигается гораздо более высокая скорость работы нейросетевых алгоритмов по сравнению с другими алгоритмами. Каждый из составных элементов нейронной сети - нейронов - осуществляет нелинейное преобразование, поэтому нейронная сеть в целом представляет собой нелинейную систему, что особенно важно при использовании нейронных сетей для решения сложных прикладных задач с нелинейными характеристиками.

Искусственные нейронные сети находят широкое применение во многих областях человеческой деятельности. Они активно применяются для решения сложных, часто неформализуемых, прикладных задач, таких как распознавание образов, обработка изображений, обработка сигналов, обработка информации и т.д., а также широко используются для решения различных задач, связанных с управлением динамическими системами. Являясь по своей природе нелинейными адаптивными системами, нейронные сети успешно применяются для управления сложными существенно нелинейными или неформализованными динамическими объектами, там, где неэффективны традиционные алгоритмы управления. Степень использования нейронных сетей в задачах управления за последние несколько лет достигла такого размаха, что уже можно говорить о появлении новой области теории управления -

нейроуправлении. Основной задачей науки под названием «нейроуправление», является анализ возможностей и способы использования искусственных нейронных сетей для управления сложными динамическими объектами. Введенный в 1989 году Паулем Вербосом (Р^егЬоБ) термин «нейроуправление» в настоящее время превратился в полноценную науку, которая далеко продвинулась как в теоретическом, так и практическом аспекте. Разработаны методики применения нейронных сетей для решения различных задач теории управления, созданы, промоделированы и аппаратно реализованы нейроконтроллеры для управления динамическими объектами различной природы, начиная от роботов и кончая летательными аппаратами и атомными реакторами.

Активные работы в этом направлении ведутся и в России. В мире широко известна и пользуется уважением школа, созданная в Институте

проблем управления РАН (г.Москва) академиком |Я.З.Цыпкиным|. Практические исследования в области нейроуправления ведутся в Научном центре нейрокомпьютеров (г.Москва), Московском институте электроники и математики (МГИЭМ, г.Москва), НИИ МВС (г.Таганрог), Красноярском филиале РАН (г.Красноярск), Ростовском НИИ Нейрокибернетики (г.Ростов-на-Дону) и др. По данному направлению ведутся учебные курсы в ведущих ВУЗах страны, таких как МФТИ (Москва), МГТУ (Москва), МГИЭМ (Москва), МИФИ (Москва), Красноярском Государственном университете и др.

Представленная диссертация посвящена использованию нового типа нейронных сетей - динамических нейронных сетей - для управления динамическими системами, что является развитием теории нейроуправления.. Узким местом использования классических нейросетевых парадигм для решения задач управления является их неадекватность решаемым задачам - для управления динамическими системами используются статические нейронные сети. Предлагаемые в диссертации методы позволяют ликвидировать эту неадекватность и повысить качество решаемых прикладных задач данной области.

Цели и задачи работы.

Целью диссертационной работы является разработка новых нейросетевых алгоритмов управления динамическими системами, построенных на основе динамических нейронных сетей.

Для достижения поставленной цели в диссертационной работе были поставлены и решены следующие задачи:

• разработаны математические модели функционирования динамических нейронов и установлена их взаимосвязь с обычно используемыми искусственными нейронами, описан способ построения динамических нейронных сетей, как совокупности динамических нейронов, соединенных между собой;

• проведен анализ постановок задач теории управления с точки зрения используемого аппарата теории искусственных нейронных сетей и сформулированы постановки этих задач в нейросетевом логическом базисе;

• разработана методика синтеза нейросетевых систем для решения различных задач управления, включающая в себя выбор нейросетевой структуры и ее параметров, а также подключение контура настройки и адаптации;

• проведена апробация предложенных динамических нейронных сетей путем решения двух прикладных задач: управлением роботом-манипулятором и управлением обратным маятником в реальном времени.

Методы исследования.

Для решения поставленных задач используется аппарат теории искусственных нейронных сетей, теории управления и теории оптимизации. Используются как традиционные нейросетевые парадигмы и методы, так и разработанные динамические нейронные сети, более адекватные задачам, связанным с управлением динамическими процессами. Для адаптации нейронных сетей применяются градиентные методы оптимизации.

Моделирование нейросетевых систем для решения прикладных задач проводилось на ПЭВМ с использованием специализированных средств моделирования нейронных сетей (нейропакетов) NeuroSolutions фирмы NeuroDimension Inc.

Научная новизна.

В диссертационной работе разработаны динамические нейронные сети, которые применены для решения задач управления динамическими системами, и разработана методика синтеза нейросетевых систем для решения прикладных задач теории управления. Проведен анализ и систематизация постановок задач теории управления, на основе которых приведены постановки этих задач в нейросетевом логическом базисе. Предложено новое нейросетевое решение обратной кинематической задачи для робота-манипулятора и нейросетевое решение задачи стабилизации обратного маятника.

Апробация результатов работы.

Результаты работы докладывались и были обсуждены на:

- конференции «Мнопроцессорные вычислительные системы» МВС-92, (Туапсе, 1992)

- международном симпозиуме по нейроинформатике и нейрокомпьютерам (The First RNNS/IEEE Symposium on Neuroinformatics and Neurocomputers) (Ростов-на-Дону, 1992)

- конференции «Транспьютерные системы» (Москва, 1992, 1993, 1994, 1995) V Научно-технической конференции «Роботы и автоматизированные системы управления технологическими процессами» (Санкт-Петербург, 1995)

- конференции «Нейрокомпьютеры и их применение» (Москва, 1995, 1996, 1997, 1998)

- XXXIX Юбилейной научной конференции МФТИ (Долгопрудный, 1996)

Часть научных результатов диссертации составила основу учебного курса «Нейроматемагика-2 (нейроуправление)», читаемого студентам старших курсов МФТИ (кафедра «Транспьютерные и нейронные ЭВМ» ФРТК) и цикла семинарских занятий, проводимых со студентами МГТУ.

Большая часть научных результатов работы вошла в научно-технические отчеты Научного центра нейрокомпьютеров и других организаций.

Публикации.

По теме диссертации опубликовано 25 печатных работ, из которых 18 приведено в списке основных публикаций по теме диссертации. Материал

диссертации вошел в 32 научно-технических отчета Научного центра нейрокомпьютеров и других организаций.

Работа [28] стала победителем конкурса среди аспирантов и молодых специалистов, проводимого журналом «Зарубежная радиоэлектроника».

Объем и структура и работы.

Диссертация состоит из введения, трех глав, списка используемой литературы и одного приложения; содержит 120 страниц машинописного текста, 32 рисунка, библиография 138 наименований.

Краткий обзор содержания диссертации.

Работа состоит из введения, трех глав, каждая из которых подразделяется на пункты. Нумерация формул и рисунков ведется отдельно в пределах каждой главы. В конце работы представлен список используемой литературы. Нумерация литературы указана в порядке цитирования. При ссылке на литературу порядковый номер статьи или книги указывается в квадратных скобках.

Во введении сформулирована актуальность темы диссертационной работы, сформулированы цели и задачи, научная новизна, практическое значение, а также описана структура работы.

В первой главе приведено описание используемого в дальнейшем формального аппарата теории нейронных сетей. Основное внимание уделено математическому описанию искусственных нейронов и строящихся из них многослойных нейронных сетей. Глава 1 состоит из шести пунктов. В первом пункте представлено краткое описание функционирования биологических нейронов, являющихся основой биологических нейронных сетей живых существ. Второй, третий и четвертый пункты посвящены описанию различных математических моделей искусственных нейронов. В пятом пункте приводится описание частной парадигмы искусственных нейронных сетей - многослойных нейронных сетей, состоящих из описанных ранее нейронов. Шестой пункт посвящен описанию методики построения нейросетевых систем.

Искусственные нейроны, из которых строятся искусственные нейронные сети, в какой-то мере являются аналогами биологических нейронов живых существ. Фундаментальная задача, стоящая перед нейроном, состоит в приеме и

передаче сигналов. Каждый биологический нейрон состоит из тела клетки и расходящихся от него длинных тонких отростков, среди которых можно выделить один длинный аксон, проводящий сигналы от тела нейрона к отдаленным мишеням, и несколько более коротких ветвящихся дендритов, принимающих сигналы от аксонов других нервных клеток. Тело нейрона также способно принимать сигналы. Отдаленный конец аксона обычно ветвится, что позволяет передавать сигнал от данного нейрона одновременно нескольким другим. Степень ветвления дендритов также может быть очень высокой - в некоторых случаях нейрон способен принимать до 100.000 сигналов.

Входные сигналы нейрона можно разделить на возбуждающие и тормозящие. В зависимости от преобладания возбуждающих и тормозящих сигналов во множестве входных сигналов нейрон либо возбуждается (передает возбуждающий сигнал другим нейронам), либо тормозится, т.е. передает другим нейронам тормозящий сигнал. Таким образом, нейрон фактически суммирует поступающие входные сигналы и выполняет некоторое пороговое преобразование.

На основании анализа поведения биологического нейрона была создана его математическая модель, записываемая в виде системы двух дифференциальных уравнений.

В упрощенном виде Мак-Каллоком и Питтсом математическая модель нейрона была представлена в виде взвешенного сумматора с последующим пороговым преобразованием. Эта модель была в дальнейшем обобщена на случай непрерывного входного сигнала и непрерывного нелинейного преобразования вместо порогового.

Нейрон, описываемый такой моделью, широко используется при построении нейронных сетей для решения различных прикладных задач. Это связано, в первую очередь, с простотой самой модели и с относительной простотой ее аппаратной реализации.

В диссертационной работе произведено обобщение указанной модели на случай континуального входного сигнала.

Помимо пространственного суммирования (суммирования сигналов по входам) биологический нейрон способен также осуществлять временное суммирование, т.е. суммировать сигналы, пришедшие в разные моменты времени.

В перечисленных моделях нейрона временное суммирование в нейроне не учитывается. Поэтому нейронная сеть, построенная на базе таких нейронов, является статичной по своей природе и неадекватна задачам, связанным с динамикой, в частности, с задачам управления динамическим объектами. Если же рассматривать исходную модель нейрона (в виде системы дифференциальных уравнений), то она практически непригодна для аппаратной реализации и фактически является математической абстракцией.

В диссертационной работе проведено обобщение модели нейрона с учетом временного суммирования и получена модель нейрона в виде двойного интегратора (по пространству и времени) в случае непрерывных входных сигналов, или двойного сумматора в случае дискретных входных сигналов. Нейронные сети, построенные на базе таких динамических нейронов, также будут динамическими и более адекватными задачам, связанным с динамическими процессами, в частности задачам управления динамическими объектами. С другой стороны динамический нейрон наследует все свойства обычного нейрона и к нему применимы традиционные алгоритмы обучения нейронных сетей. Кроме того, модель динамического нейрона может быть достаточно просто аппаратно реализована.

Сформулирована и доказана теорема о соответствии статических и динамических нейронов.

На базе статических и динамических нейронов могут быть построены нейронные сети различной структуры. В первой главе диссертации приведено описание и математические модели функционирования наиболее распространенной нейросетевой парадигмы - многослойной нейронной сети с различными типами связей (последовательными, перекрестными, латеральными и обратными). Приведена математическая модель функционирования слоя многослойной нейронной сети с различными типами связей.

Вопрос обучения многослойных нейронных сетей вида (5) в общем виде широко рассмотрен в литературе [1-3,9,11,17,21,44-46] и в диссертации не рассматривается.

Помимо описания формального аппарата теории искусственных нейронных сетей в первой главе диссертации представлена общая методика синтеза искусственных нейронных сетей для решения прикладных задач.

Методика синтеза включает в себя последовательность действий, которые необходимо выполнить для того, чтобы синтезированная нейронная структура адекватно решала поставленную прикладную задачу: определение структуры и параметров нейросетевой системы, а также способ адаптации (обучения) нейронной сети.

Во второй главе диссертации рассмотрены основные постановки задач теории управления, для решения которых можно использовать искусственные нейронные сети. Основной рассматриваемой задачей является задача синтеза, т.е. задача построения контроллера, управляющего заданным динамическим объектом по заданному критерию. Для сложных объектов, описываемых нелинейными дифференциальными уравнениями, задача синтеза традиционными методами решается достаточно сложно. Использование же адаптируемой нейронной сети в качестве контроллера позволяет несколько упростить решение указанной задачи. В нейросетевой постановке задача синтеза может быть декомпозирована на ряд подзадач в зависимости от способа использования нейронных сетей.

Помимо систематизации постановок задач управления в нейросетевом базисе в главе 2 приведены также основные типы динамических объектов, для управления которыми могут и успешно используются искусственные нейронные сети. Динамические объекты классифицированы по типу обыкновенных дифференциальных уравнений, которыми они описываются. Всего представлено порядка 50 различных динамических объектов.

В третьей главе диссертации приведены примеры решения двух прикладных задач - обратной кинематической задачи для робота-манипулятора и задачи стабилизации обратного маятника. Обе задачи решаются с использованием искусственных нейронных сетей. Глава 3 состоит из двух пунктов. В первом пункте описывается постановка и нейросетевой метод решения обратной кинематической задачи. Второй пункт посвящен описанию постановки задачи и нейросетевого метода решения задачи стабилизации одно-и двухзвенного обратных маятников.

Описанная в первом пункте обратная задача кинематики математически формулируется следующим образом. В п-мерном (п=2,3) декартовом пространстве заданы координаты цели - вектор X, а в ш-мерном (обычно т>п -условие избыточности) - вектор углов между сочленениями 0, задающих

положение манипулятора. Также заранее известны длины звеньев манипулятора. Прямая задача кинематики заключается в нахождении по заданному вектору углов © найти вектор цели X, т.е. зависимость вида Х=Р(0), где неизвестная функция Б является дифференцируемой и однозначной (для манипулятора).

Обратная задача кинематики состоит в поиске вектора 0 по известному вектору X, т.е. зависимости 0=Г! (X). Из -за избыточности эта задача не имеет однозначного решения, т.е. может иметь несколько различных решений.

Обычные численные методы решения обратной задачи кинематики либо не дают достаточно точного решения, либо не могут работать в режиме реального времени, поэтому особенно интересна возможность решения обратной задачи кинематики с помощью нейронных сетей, что, вдобавок, позволяет увеличивать точность решения без увеличения времени решения.

Прямое преобразование Х=Р(0) может быть получено аналитически, является существенно нелинейным и имеет достаточно сложный вид. Поэтому его обращение требует решения сложной нелинейной алгебраической системы, которая к тому же имеет неоднозначное решение. Применение нейронных сетей для решения указанной задачи позволяет легко обойти эти сложности. В диссертации описано построение нейросетевой системы для решения обратной кинематической задачи. Обратная кинематическая задача характерна тем, что для обучения используемой нейронной сети принципиально невозможно получить желаемое значение выходного сигнала нейросетевого контроллера, поэтому в нейросетевой постановке возможно ставить только задачу синтеза контроллера и невозможно использовать нейронную сеть в качестве аппроксиматора.

Построение и обучение нейросетевой системы произведено в соответствии с «системным подходом». Таким образом, полученная нейросетевая система оказывается адекватной поставленной задаче и решает ее оптимальным образом. Поскольку для решения обратной кинематической задачи не требуется проводить обучения в реальном времени, то при построении нейронной сети использовались нейроны, реализующие только пространственное суммирование, и этого оказалось достаточно для решения поставленной задачи. Представленные результаты моделирования показывают,

что при использовании нейронной сети для решения обратной задачи кинематики ошибка позиционирования исполнительного органа манипулятора составляет порядка 0.1%.

Второй рассматриваемой в главе 3 задачей является задача стабилизации обратного маятника. Обратный маятник представляет собой шест, нижняя точка которого закреплена так, что шест может свободно перемещаться либо в одной плоскости, либо в двух плоскостях (пространственный вариант). Задача стабилизации состоит в том, чтобы удерживать качающийся шест в вертикальном положении, не давая ему упасть. Шест установлен на подвижной платформе, перемещая которую в плоскости или в пространстве можно удерживать шест в равновесии. Модификация обратного маятника может подразумевать несколько шестов, установленных один на другом и шарнирно закрепленных между собой (многозвенный вариант). В этом случае требуется удерживать в вертикальном положении все шесты.

Задача стабилизации обратного мятника характерна тем, что, во-первых, требуется управлять абсолютно неустойчивой системой, а, во-вторых, необходимо осуществлять управление в реальном времени. На сегодняшний день все известные решения данной задачи так иначе опираются на использование нейронных сетей в качестве контроллера для стабилизации обратного маятника.

Задача стабилизации обратного маятника может проводиться либо с использованием конкретного образца, либо на его динамической модели. Как и для обратной кинематической задачи, в данном случае нейронная сеть не может использоваться в качестве аппроксиматора, поскольку неизвестен и принципиально не может быть получен желаемый выходной сигнал нейросетевого контроллера. Также как и для предыдущей задачи, в данном случае должна ставиться задача синтеза в нейросетевой постановке. Однако, в отличие от обратной задачи кинематики, поведение объекта управления описывается в виде системы обыкновенных нелинейных дифференциальных уравнений, а не в виде нелинейного алгебраического преобразования. Поэтому, помимо решения задачи синтеза необходимо также решить систему нелинейных дифференциальных уравнений, описывающих поведение объекта управления. Поскольку стабилизация обратного маятника должна производиться в реальном времени, то время вычисления реакции объекта управления на управляющее

воздействие (т.е. время решения системы дифференциальных уравнений) должно быть как можно меньшим и является критичным параметром. Поэтому целесообразно применить нейронную сеть не только в качестве контроллера, но и в качестве модели объекта управления, т.е. построить нейронную сеть для решения заданной системы нелинейных дифференциальных уравнений.

Таким образом, решение задачи стабилизации обратного маятника декомпозируется на две подзадачи: нейросетевое моделирование поведения объекта управления и синтез нейросетевого контроллера, оперирующего с нейросетевой моделью объекта управления.

Для решения обеих поставленных задач применены нейронные сети, построенные на базе нейронов, осуществляющих как пространственное, так и временное суммирование сигналов. Использование временного суммирования позволяет построить динамическую нейронную сеть, функционирующую во времени, которая более адекватна задаче управления динамической системой ( в данном случае задаче стабилизации обратного маятника), чем традиционные статические нейронные сети. Использование временного суммирования в нейронах позволяет несколько снизить их количество в нейронной сети, а также повысить устойчивость системы, т.е. увеличить значение угла отклонения шеста маятника от положения равновесия, при котором маятник может быть удержан в равновесии.

Разработанные нейросетевые методы решения двух указанных задач были промоделированы с использованием универсального нейропакета (пакета программ моделирования нейронных сетей) NeuroSolutions фирмы NeuroDimension Inc. [47-49]. Выбор указанного нейропакета объясняется его адекватностью решаемым задачам и наличию в нем средств для моделирования динамических нейронных сетей.

Список литературы диссертационного исследования кандидат физико-математических наук Логовский, Алексей Станиславович, 1998 год

Литература.

1. ЦыпкинЯ.З. Адаптация и обучение в автоматических системах. М. Наука,

1968

2. Цыпкин Я.З. Основы теории обучающихся систем. М. Наука, 1970

3. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей //Автоматика и телемеханика, №4,1995

4. Аведьян Э.Д., Коваленко M.JL, Цитоловский E.JL, Цыпкин Я.З. Автономные алгоритмы настройки нейронных сетей //Математика, компьютер, управление и инвестиции. Труды международной конференции, М., 1993.

5. Аведьян Э.Д., Левин И.К., Цыпкин Я.З. Нейронные сети для идентификации нелинейных систем при случайных кусочно-полиномиальных и низкочастотных возмущениях //Нейрокомпьютер, №1, 1996

6. Avedyan Е. Learnin Systems. Berlin, Heidelberg, New-York, Springer-Verlag,

1995

7. Tsypkin Y.Z., Avedyan E.D., Gulinsky O.V. On convergence of the recursive identification algorithms //IEEE Trans. On Automatic Control, 1981, AC-26, №5

8. Tsypkin Y.Z., Avedyan E.D. Multilayer neural network as a model of nonlinear plants // Proc. of the RNNS/IEEE Symposium on Neuroinformatics and Neurocomputers, Rostov-on-Don, October 7-10, 1992, vol.2.

9. Галушкин А.И. Многослойные системы распознавания образов. М. МИЭМ, 1970

10. Галушкин А.И. Единый подход к решению задач обучения и самообучения систем распознавания образов ..Труды МИЭМ, вып.6,1970

11. Галушкин А.И. Синтез многослойных систем распознавания образов. М. Энергия, 1974

12. Галушкин А.И., Судариков В.А., Шабанов Е.В. Нейроматематика: методы решения задач на нейрокомпьютерах //Математическое моделирование,т.З, №8,1991

. 13. Галушкин А.И., Судариков В.А., Шабанов Е.В. Методика решения задач на нейрокомпьютерах //Нейрокомпьютер, №1,1992 14. Галушкин А.И., Шмид A.B. Оптимизация структуры нейронных сетей с перекрестными связями //Нейрокомпьютер, №3-4, 1992

15. Галушкин А.И. Нейрокомпьютеры в разработках военной техники США. М. НЦН 1995

16. Гилев С.Е., Горбань А.Н., Миркес Е.В. Малые эксперты и внутренние конфликты в обучаемых нейронных сетях //Докл. АН СССР, т.320, №1, 1991

17. Гилев С.Е., Миркес Е.М. Обучение ассоциативных сетей //Эволюционное моделирование, РАН СО КНЦ, Новосибирск, 1992

18. Горбань А.Н., Миркес Е.В. Контрастирование нейронных сетей //Нейроинформатика и ее приложения. Тезисы докладов 3-го Всероссийского семинара, КГТУ, Красноярск, 1995

19. Миркес Е.М. Обучение сетей с пороговыми нейронами //Нейроинформатика и ее приложения. Тезисы докладов 3-го Всероссийского семинара, КГТУ, Красноярск, 1995

20. Горбань А.Н. Нейрокомпьютер или Аналоговый ренессанс //Мир ПК, №10, 1994

21. Горбань А.Н. Обучение нейронных сетей. М. Параграф, 1992

22. Логовский A.C. Методы решения обыкновенных дифференциальных уравнений в нейросетевом базисе //Нейрокомпьютер, №2,1992

23. Logovski A. Methods for Solving of Differential Equations in Neural Basis

//Proc. of the RNNS/IEEE Symposium on Neuroinformatics and Neurocomputers, Rostov-on-Don, October 7-10, 1992, vol.2., pp.919-927

24. Галушкин А.И., Логовский A.C. Использование нейронных сетей для решения задач управления роботами //Материалы V Научно-технической конференции «Роботы и автоматизированные системы управления технологическими процессами», Санкт-Петербург, 1995

25. Будаговский В.Ф., Логовский A.C. О разработке нейроподобной системы управления автономным подводным аппаратом ..Материалы конференции НКПВ-95,15-16 февраля 1995г., Москва, 1995.

26. Верещагин С.А., Логовский A.C. Нейронные сети для решения вариационных задач в действительных пространствах //Нейрокомпьютер, №1-2, 1995

27. Логовский A.C. Нейрокомпьютеры в системах управления динамическими объектами //XXXIX Юбилейная научная конференция МФТИ, 29-30 ноября 1996 г., Долгопрудный, 1996

I 1Z.

28. Бондарь T.A., Логовский A.C. Нейрокомпьютеры в управлении //Зарубежная радиоэлектроника, №2 1997, стр.57-71

29. Логовский A.C. Нейрокомьютеры в задачах управления динамическими объектами //Доклад на пленарном заседании конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва, 1997

30. Логовский A.C., Якушев Д.Ж. Нейропакеты: современное состояние и ближайшие перспективы //Доклад на пленарном заседании конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва, 1997

31. Логовский A.C. Анализ многослойной нейронной сети как динамической системы //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва, 1997

32. Бондарь Т.А., Логовский A.C. Применение нейронных сетей для решения обратной кинематической и динамической задач при управлении роботом-манипулятором //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва,

33. Бериев И.Г., Лазебник В.М., Грибков В.Ф., Логовский A.C. Нейрокомпьютеры в системах управления летательными аппаратами //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва, 1997

34. Логовский A.C., Иванов Ю.П., Крысанов А.И., Якушев Д.Ж. Нейрокомпьютеры для обработки сигналов и решения обыкновенных дифференциальных уравнений на отечественных нейрочипах //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-97), 12-14 февраля 1997 г., Москва, 19 97

35. Логовский A.C., Якушев Д.Ж. Нейропакеты: что, где, зачем. //Зарубежная радиоэлектроника, №2,1997, стр. 11-18

36. Логовский A.C. Зарубежные нейропакеты: современное состояние и перспективы //Нейрокомпьютер, №1-2,1998

37. Грибков В.Ф., Бериев И.Г., Буков В.Н., Логовский A.C. Нейрокомпьютеры в авиации //Доклад на пленарном заседании конференции «Нейрокомпьютеры и их применение» (НКП-98), 18-20 февраля 1998 г., Москва, 1998

38.

39.

40.

41,

42,

43

44

45

46

47

48

49

50

51,

52

53

Логовский A.C. Зарубежные нейропакеты: современное состояние и сравнительные характеристики //Доклад на пленарном заседании конференции «Нейрокомпьютеры и их применение» (НКП-98), 18-20 февраля 1998 г., Москва, 1998

Логовский A.C. Нейрокомпьютеры в управлении динамическими системами //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-98), 18-20 февраля 1998 г., Москва, 1998

Логовский A.C., Степанов М.В. Управление туннельным микроскопом на базе нейрокомьютера //Материалы конференции «Нейрокомпьютеры и их применение» (НКП-98), 18-20 февраля 1998г., Москва, 1998 Логовский A.C. Многопроцессорные и нейрокомпьютерные технологии фирмы Sundance Multiprocessor Technology Inc. //Зарубежная радиоэлектроника (принято к печати)

Логовский A.C. Использование нейросетевой технологии для управления прокатными станами //Зарубежная радиоэлектроника (принято к печати) Логовский A.C. Зарубежные нейропакеты: современное состояние и сравнительные характеристики //Зарубежная радиоэлектроника (принято к печати)

Muller R., Reinhaidt Н. Neural Networks. Springer-Verlag, 1990 Уоссермен Ф. Нейрокомпьютерная техника. М. Мир, 1992 SimponP. Artificial Neural Networks Springer-Verlag, 1996 NeuroSolution v.3.0 (Developer Version) Getting Started. Vol. 1. NeuroSolution v.3.0 (Developer Version) User Guide. Vol.l. NeuroSolution v.3.0 (Developer Version) User Guide. Vol.2. Албертс Б., Брей Д., Льюис Дж., Роберте К., Уотсон Дж. Молекулярная биология клетки. Том 3. М. Мир 1994

McCulloch W.C., Pitts W. A logical calculus of the ideas immanent in nervous

activity //Biophys., 5, 1943 Русский перевод: Мак-Каллок У.С., Питтс В.

Логическое исчисление идей, относящихся к нервной активности. //"Архив

нейрокомпьютеров" Нейрокомпьютер N 3,4 1992

Розенблат Ф. Принципы нейродинамики. М. Мир, 1964

Галушкин А.И. Континуальные нейронные сети //Нейрокомпьютер N2,

1992

54. Галушкин А.И. Итоги развития теории многослойных нейронных сетей (1965-1995) в работах Научного центра нейрокомпьютеров и ее перспективы. М.НЦН, 1996

55. Tseng Н.С., Hwang V.H. Neural Networks for Nonlinear Servomechanism //Proc. of the 1991 IEEE Int. Conf. on Robotics and Automation, Sacramento, Calif., April 1991

56. Seube N. Construction of Learning Rules in Neural Networks that Can Find Viable Regulation Laws to Control Problems by Self-Organization //INNC-90, Paris, July 1990, vol.1, pp.209-212

57. Rovithakis G.A., Christodoulou A. Adaptive Control of Unknown Plants Using Dynamical Neural Networks //IEEE Trans, on Systems, Man and Cybern., vol.24, No.3, March 1994

58. Gu Y-L. On Nonlinear System Inevitability and Learning Approaches by Neural Networks //IEEE No. FP13 3:15, 1990, pp.3013-3018

59. Chand S., Lan M.S. Neural Network Augmented Control for Nonlinear Systems //Proc. of the 29th Conf. on Decision and Control, Honolulu, Hawaii, Dec. 1990, pp. 1732-1734

60. Tzirkel-Hancock E., Fallside F. A Stability Based Neural Network Control Method for a Class of Nonlinear Systems //IJCNN-91, Singapore, 1991, pp. 10471052

61. Fernandez В., Parlos A.G., Tsai W.K. Nonlinear Dynamic System Identification using Artificial Neural Networks //IJCNN-90, San Diego, Calif., 1990., vol.2, pp.133-141

62. Chen F.C., Liu C.C. Adaptively Controlling Nonlinear Continuous-Time Systems Using Multilayer Neural Networks //IEEE Trans, on Automatic Control, vol.39, No.6, June 1994

63. Vepsalainen A..M. Modeling of Dynamic Systems with Expandable Neural Networks //Artificial Neural Networks, Ed. T.Kohonen, O.Simula and J.Kangas. Elsevier Science Publishers B.V. (North Holland), 1991, pp.37-42

64. Kraft L.G., Campagna D.P. Comparison of Convergence Properties of CMAC Neural Network and Traditional Adaptive Controllers //Proc. of the 28th Conf. on Decision and Control, Tampa, Florida, Dec. 1988, pp.1744-1747

65. Chen C.-R., Hsu Y.-Y. Synchronous Machine Steady-State Stability Analysis using an Artificial Neural Networks //IEEE Trans, on Energy Conversion, vol.6, No.l, March 1991, pp. 12-20

66. Bar-Kana I., Guez A. Neuromorphic Adaptive Control //Proc. of 28th Conf. on Decision and Control, Tampa, Florida, Dec. 1988, pp.1739-1743

67. Hampo R., Marko K. Neural Network Architectures for Active Suspension Control //IJCNN-91, Seattle, Washington, July 1991, vol.2, pp.465-470

68. Prueitt P.S. Continuous analogs to discrete dynamical systems with application to modelling biological response //IJCNN-90, San Diego. Calif., 1990, vol.3, pp.529-534

69. Jang J.-S. R. Self-Organizing Fuzzy Controllers Based on Temporal Back Propagation //IEEE Trans, on Neural Networks, vol.3, No.5, September 1992, pp.714-723

70. Tanaka T., Chuang C.-H. Nonlinear Neural Network State-Feedback Controllers for Atmosperic Vehicles with Slowly Varying Parameters //AIAA-94-3602, pp.524-532

71. Bullock D., Grossberg S. Spinal network computations enable independent control of muscle lenghtand joint compliance /Advanced Neural Computers (ed. R.Eckmiller). Elsevier Science Publishers B.V. (North Holland), 1990, pp.349356

72. Kuschewski J.G., Hui S., Zak S.H. Application of Feedforward Neural Networks to Dynamical System Identification and Control //IEEE Trans, on Control Systems Technology, vol.1, No.l, March 1993, pp.37-49

73. Haesloop D., Holt B.R. Neural Networks for Process Identification //IJCNN-90, San Diego, Calif., 1990, vol.3, pp.429-434

74. Zein-Sabatton S., Andersen K., Cook G.E. Componetn and Instrument Failures Detection Using Continuous Mapping Neural Networks //IEEE Southeastcon-90: Techol. Today and Tomorrow, New Orleans, Los Angeles, April 1990, vol.3, pp.797-801

75. Smith H.L. Convergent and Oscillatory Activation Dynamics for Cascades of Neural Nets with Nearest Neighbor Competitive or Cooperative Interactions //Neural Networks, 1991, vol.4, No.l, pp.41-46

76. Schoner G. A dynamic theory of coordination of discrete movements /Parallel Processing in Neural Systems and Computers (ed. R.Ecmiller, G.Hartman and G.Hauske). Elsevier Publishers B.V. (North Holland), 1990, pp.87-90

77. Hoptroff R.G., Bürge R.E. Experiments with a neural controller //IJCNN-90, San Diego, Calif., 1990, vol.2, pp.735-740

78. Yeung D.-Y., Bekey A. On Reducing Learning Time in Context-Dependent Mappings //IEEE Trans, on Neural Networks, vol.4, No.l, January 1993, pp.3142

79. Fritz H. Neural Speed Control for Autonomous Road Vehicles //Daimler-Bentz AG, Research Dep. FIM/IA, T728, D-70546, pp.285-290

80. Seube N. Review of Control Methods for Underwater Vehicles Navigation in Uncertain Environment //IJCNN-94, vol.3, pp.99-104

81. Lee T.H., Hang C.C., Lian L.L., Lim B.C. Inverse Nonlinear Control using Neural Networks //IJCNN-91, Singapore, 1991, pp. 2098-2103

82. Lee T.H., Tan W.K., Ang. M.H. A Neural Network Control System with Parallel Adaptive Enhancements Applicable to Nonlinear Servomechanism //IEEE Trans, on Industrial Electronics, vol.41, No.3, June 1994, pp.269-275

83. Lee T.H., Low T.S., Xu J.X., Lim H.K. Offset-Free Combined Neural Network/Switching Control for Nonlinear Servomechanisms with DSP-Based Implementation //IEEE Trans, on Industrial Electronics, vol.42, No.l, February 1995

84. Lim H.K., Lee T.H., Low T.S. An Investigation Neural Net Control Systems with Integral Action //IJCNN-91, Singapore, 1991, pp.1053-1058

85. Li Q., Teo C.L.,Poo A.N., Hong G.S. Response of a Feedback System with a Neural Network Controller in the Presence of Disturbances //IJCNN-91, Singapore, 1991, pp. 1560-1564

86. Williams S.J. Robot dynamic control and techniques //Ind. Digital Contr. Syst, London, 1988, pp.226-252

87. Selinsky J.W., Guez A. The Role of a priori Knowledge of Plant Dynamics in

tli

Neurocontroller Design //Proc. of the 28 Conf. on Decision and Control, Florida, 1989

88. Zeman V., Patel R.V., Khorasani K. A Neural Network Based Control Strategy for Flexible-Joint Manipulators //Proc. of the 28th Conf. on Decision and Control, Florida, December 1989, pp.1759-1764

89. Fiala J., Lumia R. Adaptive Inertia Compensation Using a Cerebellar Model Algorithm //IJCNN-91, Singapore, 1991, pp.2259-2264

90. Parten S.R., Thomas C. Neurocontrol Applied to Telerobotics for the Space Shuttle //INNC-90, Paris, 1990, vol.1, pp.229-236

91. Johansson R., Magnusson M. Optimal coordination and control of posture and locomotion //Artificial Neural Networks, ed. T.Kohonen, O.Simula and J.Kangas, Elseiver Science Publisher, 1991, pp.495-500

92. Hsia T.C., Jung S. A Simple Alternative to Neural Network Control Scheme for Robot Manipulators //IEEE Trans, on Industrial Electronics, vol.42, No.4, August 1995

93. Chen P.C.Y., Mills J.K., Smith K.C. Neural Networks for Performance Improvement in Robot Control During General Task Execution //AIAA Guidance, Navigation and Control Conf., vol.2„ 1994 (AIAA-94-3601-CP), pp.516-523

94. Carelli,R., Camachom E.F., Patino D. A Neural Network Based Feedforward Adaptive Controller for Robots //IEEE Trans, on Systems, Man. and Cybern., vol.25, No.9, September 1995, pp.1281-1287

95. Jin Y., Pipe A.G., Winfield A. Manipulator trajectory control using neural networks - from application to theory and back again //SPIE, vol.2492, pp. 130141

96. Seraji H. Decentralized Adaptive Control of Manipulators: Theory, Simulation and Experimentation //IEEE Trans, on Robotics and Automation, vol.5, No.2, April 1989

97. Tso S.K., Ma Y.X. Discrete Learning Control for Robots Using Partial Model Knowledge //Proc. of the 1992 IEEE Intern. Conf. on Robotics and Automation, Nice, France, 1992, pp.2039-2043

98. Tsuji T., Morasso P.G. Neural Network Learning of Robot Arm Impedance in Operation Space //IEEE Trans, on Systems, Man and Cybern., Part-B: Cybernetics, vol.26, No.2, April 1996

99. Balafoutis C.A., Patel R.V. Efficient Computation of Manipulator Inertia Matrices and the Direct Dynamics Problem //IEEE Trans, on Systems, Man and Cybern.,vol. 19, No.5, September/October 1988, pp.1314-1320

100. Katie D., Vukobratovic M. Decomposed Connectionist Architecture for Fast and Robust Learning of Robot Dynamics //Proc. of 1992 IEEE Conf. on Robotics and Automation, Nice, France, May 1992, pp.2064-2069

101. Sinkjaer T., Wu C.H., Barto A.G., Houl J.C. Cerebellar control of endpoint position - A simulation model //IJCNN-90, Calif., 1990, vol.2, pp.705-710

102. Shibata T., Arai F., Fukuda T., Tokita M., Mitsuoka T. Neuromorphic Sensing and Control - Impact Control of Robotic Manipulator //IJCNN-91, Singapore, 1991, pp.1967-1972

103. Kurematsu Y., Katayama O., Iwata M., Katamura S. Autonomous Trajectory Generation of a Biped Locomotive Robot //IJCNN-91, Singapore, 1991

104. Wang H., Lee T.T., Graver W.A. A Neuromorphic Controller for a Three-Link Biped Robot //IEEE Trans, on Systems. Man and Cybern., vol.22, No.l, January/February 1992, pp. 164-169

105. Khalid M., Omatu S. A Neural Network Controller for a Temperature Control System //Control Systems Magazine, vol.12, No.2, April 1992, pp.58-64

106. Cho G.-S., Lim C.-T. Parameter Identification and Control of Nonlinear System Using Neural Network //Proc. of ITC-CSCC '96, July 1996, Seoul, Korea, pp.369-372

107. Nguyen D.H., Widrow B. Neural Networks for Self-Learning Control Systems //IEEE Control Systems Magazine, April 1990, pp. 18-23

108. Wang H., Brown M., Harris C.J. Neural network modeling of unknown nonlinear systems subject to immeasurable disturbances //IEE Proc.-Control Theory Appl., vol.141, No.4, July 1994, pp.216-222

109. Haas R., Moeller D.P.F. Neural Networks for Modelling Nonlinear Dynamical Systems //Proc. of the SCSC'95, Ontario, Canada, July 1995, pp.314316

110. Etxebarria V. Adaptive control of discrete systems using neural networks //IEE Proc.-Control Theory Appl., vol.141, No.4, July 1994, pp.209-215

111. Narendra K., Parthasarathy K. Adaptive Identification and Control of Dynamical Systems using Neural Networks //Proc. of the 28th Conf. on Decision and Control, Florida, December 1989, pp.1737-1739

112. Lee Sukhan, Kil Rhee M. Robot kinematic control based on bi-directional mapping neural network //IJCNN-90, San Diego, Calif, 1990, vol.3, N.Y., 1990, pp.327-335.

113. Nguyen L., Patel R.V., Khorasani K. Neural network architectures for the forward kinematics problem in robotics //IJCNN-90, San Diego, Calif, 1990, vol.3, N.Y., 1990, pp.393-399.

114. Kieffer Stuart, Morellas Vassilios, Donath Max. Neural network learning of the inverse kinematic relationship for a robot arm. // IEEE, Int. Conf. Robot, and Autom., Sacramento, Calif, 1991, Proc., p.2418.

115. Chen C.L. Philip, AcAuloy A.D. Robot kinematics computations using GMDH learning strategy. // IJCNN, Seattle, Wash., 1991, vol.2, N.Y., 1991, p. 999.

116. Chiaverini Stefano, Egeland Olav. An efficient pseudo-inverse solution to the inverse kinematic problem for six-joint manipulators. // Model., Identif. and Control, 1990, Vol. 11, N 4, pp. 201-222.

117. Kameyama Michitaka, Matsumoto Takao, Egami Hideki, Higuchi Tatsuo. Implementation of a high performance LSI for inverse kinematics computation // IEEE Int. Conf. Rob. And Autom., 1989: Proc. Vol. 2.- Washington etc., 1989, pp. 757-762.

118. Kittichaikoonkit Somchai, Kamei Michitaka, Higuchi Tatsuo. Design of a matrix multiply-addition VLSI processor for robot inverse dynamics computation. // IEICE Transactions, 1991, Vol. 74, N 11, pp. 3819-3828.

119. Tanaka Ken-ichi, Shimizu Masako. A solution to an inverse kinematics problem of a redundant manipulator using neural networks. // Artifical Neural Networks, Elsevier Science Publishers B.V. (North-Holland), 1991.

120. Guo Jenhwa, Cherkassky Vladimir. A solution to the inverse kinematic problem in robotics using neural network processing. // IJCNN, Washington, 1989, vol.2, N.Y., 1989, pp. 299-303.

121. Barhen Jacob, Gulati Sandeep, Zak Michail. Real-time neuromorphic algorithms for inverse kinematics of redundant manipulators. // Intell. Rob. and Comput. Vision. 7th Ser.: Proc. Soc. Photo-Opt. Instrum. Eng., 1989, 1002, pp. 686-696.

122. Guez Allon, Ahmad Ziauddin. Accelerated convergence in the inverse kinematics via multilayer feedforward networks // IJCNN, Washington, 1989, vol.2, N.Y., 1989, pp. 341-343.

123. Hakala J., Fahner G., Eckmiller R. Rapid learning of inverse robot kinematics based on Connection Assignment and Topographical Encoding (CATE). // IJCNN, Sigapoure, 1991, Procedings, pp.1536-1541.

124. Krishnaswamy Gita, Marcelo H. And Jr., Andeen Gerry B. Structured neural-network approach to robot motion control. // IJCNN, Singapoure, Procedings, 1991, pp.1059-1066.

125. Barhen Jacob, Gulati Sandeep, Zak Michail. Neural learning of constrained nonlinear transformations. // Computer, 1989,22, N. 6, pp. 67-76.

126. Lee Sukhan, Kil Rhee M. Redundant arm kinematic control with recurrent loop. // Neural Networks, 1994, Vol. 7, N 4, Elsevier Science Ltd., pp. 643-659.

127. Allon Guez, Ziauddin Ahmad. Solution to the inverse kinematics problem in robotics by neural networks. // IJCNN, 1988, vol. 2, pp. 617-623.

128. Maricic B. Genetially programmed neural network for solving pole-balancing problem //Artificial Neural Networks, ed. T.Kohonen, O.Simula and J.Kangas.-Elseiver Publishers B.V., North-Holland, 1991, pp.1273-1276

129. Geva S., Sitte J. A Cardpole Experiment Benchmark for Trainable Controllers //IEEE Control Systems, vol.4, No.2, October 1993, pp.40-51

130. Anderson C.W. Learning to Control an Inverted Pendulum with Connectionist Networks //Proc. American Conf., Atlanta, Ga, June 15-17,1988, vol.3, pp.22942298

131. Omatu S., Ide T. Stabilization of Inverted Pendulum by Neuro-Control //JCNN-94, Washington, 1994, vol.2, pp.2367-2372

132. Williams V., Matsuoka K. Learning to balance Pendulum using Neural Networks //IJCNN-91, Singapjre, 1991, vol.1, pp.212-219

133. Sekigushi M., Sugasaka T., Kurazume R. Stabilization of an Inverted

Pendulum by a Layered Neural Network //FUJITSU Sci. Tech. Journal, vol.29, «

No.3, September 1993, pp.278-285

134. Furuta K., Ochiai T., Ono N. Attitude control of a triple inverted pendulum //Int. J. Control, 1984, vol.39, No.6, pp.1351-1365

135. Furuta K., Kajiwara H., Kosuge K. Digital control of a double inverted pendulum on an inclined rail //Int. J. Control, 1980, vol.32, No.5, pp.907-924

136. Furuta K., Yamakita M. Swing-up control of inverted pendulum using pseudostate feedback //Proc. Instn Mech Engrs, vol.206, IMechE 1992, pp.263-269

137. Yamakita M., Iwashiro M., Sugahara Y., Furuta K. Robust Swing Up of Double Pendulum //ACC-95, Seattle, 1995, vol.1, pp. 1-6

138. Yamakita M., Nonaka K., Furuta K. Swing Up Control of Double Pendulum //ACC-95, Seallle, 1995, vol.1, pp.12-17