Синтез нейросетевых структур для моделирования управляемых объектов с распределенными параметрами тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Трофимов, Александр Геннадьевич

• Трофимов, Александр Геннадьевич
• кандидат технических наук
• 2008

Оглавление диссертации кандидат технических наук Трофимов, Александр Геннадьевич

СПИСОК ИСПОЛЬЗУЕМЫХ СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

ГЛАВА 1. НЕЙРОСЕТЕВЫЕ МЕТОДЫ ПОСТРОЕНИЯ МОДЕЛЕЙ ДИНАМИЧЕСКИХ ОБЪЕКТОВ.

1.1. Методы идентификации динамических систем.

1.1.1. Классификация динамических систем.

1.1.2. Формулировка задачи построения модели динамического объекта.

1.1.3. Классификация и анализ подходов к идентификации динамических систем.

1.2. нейросетевые методы идентификации динамических систем с

• сосредоточенными параметрами.

1.2.1. Нейросетевые модели, реализующие классические методы идентификации.

1.2.2. Идентификация с использованием нейронных сетей прямого распространения.

1.2.3. Идентификация с использованием рекуррентных нейронных сетей.

1.3. Анализ подходов к идентификации систем с распределёнными параметрами.:.

1.3.1. Классические методы идентификации систем с распределёнными параметрами.

1.3.2. Нейросетевой подход к идентификации систем с распределёнными параметрами.

Выводы по главе 1.

ГЛАВА 2. ИДЕНТИФИКАЦИЯ УПРАВЛЯЕМЫХ СИСТЕМ С РАСПРЕДЕЛЁННЫМИ ПАРАМЕТРАМИ В КЛАССЕ НЕЙРОСЕТЕВЫХ СТРУКТУР.

2.1. Задача нейросетевой идентификации управляемого распределённого объекта.

2.1.1. Постановка задачи.'.

2.1.2. Классы моделей для идентификации.-тт.-.-.492.1.3. Нейросетевая реализация моделей распределённых систем.

2.2. Нейросетевая реализация нелинейной авторегрессионной модели.

2.2.1. Архитектура нейронной сети и алгоритм обучения.

2.2.2. Параметризация синоптических коэффициентов в цепи обратной связи.

2.2.3. Оптимизация параметров модели.

2.3. Нейросетевая модель распределённого объекта, основанная на редукции в пространственной области.

2.3.1. Математическая модель нейросетевой структуры.

2.3.2. Методы обучения нейросетевой структуры.

2.3.3. Особенности последовательной процедуры обучения.

2.3.4. Алгоритм вычисления градиента в параллельной схеме обучения.

2.4. Нейросетевая модель распределённого объекта, основанная на редукции во временной области.

2.4.1. Математическая модель нейросетевой структуры.

2.4.2. Методы обучения нейросетевой структуры.

2.4.3. Алгоритм вычисления градиента в параллельной схеме обучения.

2.5. Оценка точности нейросетевой модели.

2.5.1. Общие показатели точности нейросетевой модели динамического объекта

2.5.2. Использование показателей точности в критериях останова процедуры обучения нейросетевых моделей.

Выводы по главе 2.

ГЛАВА 3. НЕЙРОСЕТЕВАЯ ИДЕНТИФИКАЦИЯ ПРОЦЕССА ЭНЕРГОВЫДЕЛЕНИЯ В АКТИВНОЙ ЗОНЕ ЯДЕРНОГО РЕАКТОРА.

3.1. Задача построения нейросетевой модели энерговыделения в активной зоне ядерного реактора.

3.1.1. Описание предметной области.

3.1.2. Общее описание исходных данных для решения задач идентификации процессов энерговыделения в активной зоне ядерного реактора.

3.1.3. Нейросетевая модель энерговыделения в фиксированном узле активной зоны.

3.2. Нейросетевая идентификация управляемого аксиального профиля энерговыделения ТВ С.

3.2.1. Исходные данные для построения нейросетевой модели аксиального профиля энерговыделения.

3.2.2. Полиномиальная аппроксимация профиля энерговыделения в фиксированные моменты времени.

3.2.3. Выделение главных компонентов в управляемой динамике параметров модели профиля.

3.2.4. Синтез нейроструктурной модели профиля энерговыделения ТВС.

3.3. Нейросетевая идентификация управляемого пространственного поля энерговыделения в активной зоне.:.:.:.97"

3.3.1. Исходные данные для построения нейросетевой модели пространственного поля энерговыделения.

3.3.2. Синтез нейросетевой структуры для моделирования поля энерговыделения в фиксированные моменты времени.

3.3.3. Нейроструктурная модель управляемого поля энерговыделения в активной зоне.

3.4. Программная система для проведения экспериментальных исследований нейроструктурных моделей.

Выводы по главе 3.

ГЛАВА 4. ЭКСПЕРИМЕНТАЛЬНЫЕ ИССЛЕДОВАНИЯ НЕЙРОСТРУК-ТУРНЫХ МОДЕЛЕЙ УПРАВЛЯЕМЫХ РАСПРЕДЕЛЕННЫХ ПРОЦЕССОВ ЭНЕРГОВЫДЕЛЕНИЯ В АКТИВНОЙ ЗОНЕ ЯДЕРНОГО РЕАКТОРА ТИПА ВВЭР-1000.

4.1. Экспериментальные исследования нейросетевой модели энерговыделения в фиксированном узле активной зоны.

4.1.1. Исследование возможности идентификации процесса энерговыделения в классе линейных моделей.

4.1.2. Зависимость способности нейросетевой NARX-модели к обобщению от архитектурных параметров многослойного ядра.

4.1.3. Результаты обучения нейросетевой NARX-модели из различных начальных конфигураций.

4.1.4. Влияние числа задержек в цепях управления и обратной связи NARX-модели на точность моделирования.

4.1.5. Выводы.

4.2. экспериментальные исследования нейросетевой модели управляемого аксиального профиля энерговыделения твс.

4.2.1. Визуальный анализ профилей энерговыделения в фиксированные моменты времени и динамики коэффициентов аппроксимирующего полинома.

4.2.2. Факторный анализ коэффициентов аппроксимирующего полинома.

4.2.3. Результаты компьютерного моделирования динамики главных компонентов параметров модели профиля с помощью NARX-нейросетей.

4.2.4. Точность восстановления фофиля энерговыделения по результатам работы нейросетевых NARX-мод'елей.

4.2.5. Выводы.

4.3. экспериментальные исследования нейросетевой модели управляемого пространственного поля энерговыделения в активной зоне.

4.3.1. Точность нейросетевой модели поля энерговыделения в фиксированные моменты времени.

4.3.2. Анализ динамики параметров нейросетевой модели поля энерговыделения в фиксированные моменты времени.:.::.

4.3.3. Точность и обобщающая способность нейроструктурной модели управляемого пространственного поля энерговыделения.

4.3.4. Выводы.

Выводы по главе 4.

Введение диссертации (часть автореферата) на тему «Синтез нейросетевых структур для моделирования управляемых объектов с распределенными параметрами»

Актуальность темы. Распределённые динамические объекты встречаются в различных областях науки и техники: физике, экономике, медицине, геологии и пр. В отличие от систем с сосредоточенными параметрами, состояние которых в каждый момент времени характеризуется вектором конечной размерности, для распределённых систем состояние описывается функцией одной или нескольких переменных, обычно интерпретируемых как пространственные координаты. Проблема моделирования и управления такими объектами связана не только с их распределенностью и нелинейностью, но и с возможным отсутствием априорной информации о внутреннем устройстве моделируемой системы и закономерностях её функционирования. В этом случае практически единственным подходом к построению модели объекта остаётся использование экспериментальных данных о его функционировании.

Активное развитие классической теории идентификации, наблюдавшееся в 70-80-ых годах прошлого века, преимущественно было направлено на моделирование систем с сосредоточенными параметрами, в то время как распределённым системам уделялось существенно меньшее внимание. Основными причинами этого являлись сложность распределённой природы моделируемого объекта и трудности применения классических подходов.

В- последнее время наблюдается рост интереса к применению современных информационных технологий, в частности, нейросегевой технологии, к задачам моделирования распределённых динамических объектов. Связано это, по всей

1 видимости, с целым рядом факторов, среди которых можно отметить: разнообразие практических приложений; трудности применения стандартных методов идентификации вследствие нелинейности моделей, большого объёма данных, неточности- их измерений; высокая- вычислительная - сложность- классических методов моделирования распределённых систем.

Успех применения нейронных сетей в математическом моделировании в основном связан с задачами обработки статических данных, в то время как нейросетевому моделированию динамических объектов уделяется существенно меньшее внимание. Математические модели в классе, нейронных сетей обладают рядом замечательных свойств, связанных с их адаптивностью и способностью к генерализации данных, что говорит об их перспективности в рассматриваемой области.

Большинство методов идентификации распределённых объектов предполагают известным вид уравнения с частными производными, описывающего моделируемый объект, а задача идентификации сводится к подбору параметров этого уравнения, при которых удовлетворяются заданные граничные и начальные условия или обеспечивается наилучшее соответствие результатам наблюдений. В зависимости от типа этого уравнения, как правило, применяются различные методы решения. Нейросетевой подход позволяет единым способом решать задачи идентификации объектов, описываемых дифференциальными уравнениями различных типов.

Среди отечественных научных исследований, посвященных проблеме нейросетевого решения уравнений математической физики, особо можно выделить работы. Д.Л. Тархова, Л.Н.Васильева, В.И. Горбаченко. Многие работы в этой области являются узкоспециализированными и посвящены пейросетевому решению уравнений определённых типов либо предполагают ■ нейросетевую реализацию классических методов их численного решения.

В связи с этим создание псйросетевых моделей и методов идентификации систем с распределёнными параметрами в отсутствие информации о виде описывающих систему дифференциальных уравнений и конструирование соответствующих пейросетевых алгоритмов представляют актуальную и недостаточно изученную научную проблему.

К управляемым распределённым процессам относится процесс энерговыделепия в активной зоне ядерного реактора. Знание трехмерного поля эиерговыделения требуется для обеспечения безопасности эксплуатации реактора. Это связано с тем обстоятельством, что только на трехмерном поле энерговыделения можно определить критические теплофизические параметры, безопасности.

В настоящее время существует ряд программных моделей поля энерговыделения, используемых на атомных электростанциях (АЭС) и для проведения научных исследований. Эти модели имеют приемлемую погрешность -восстановления локального .энерговыделения в стационарном или медленно меняющемся состоянии реактора, в то время как в переходных режимах точность расчетов значительно ухудшается. Поскольку физические модели основаны на численном решении уравнений математической физики, повышение требований к точности неизбежно приводит к снижению их быстродействия. Кроме того, для физического расчёта необходима, адекватная информация о состоянии и параметрах активной зоны, которая не всегда известна с требуемой точностью.

В связи с этим актуальна проблема построения адекватной быстродействующей модели поля энерговыделения в активной зоне реактора, возможное использование которой в качестве советчика оператора позволит повысить эффективность эксплуатации ядерной энергетической установки

Объектом исследования диссертации являются управляемые системы с распределёнными параметрами, к которым относится активная зона ядерного реактора типа ВВЭР-1 ООО.

Предметом исследования являются методы идентификации управляемых систем с распределёнными параметрами на основе экспериментальных данных в классе нейросетевых моделей.

Цель и задачи исследования. Диссертация посвящена созданию нейросетевых моделей и методов идентификации управляемых систем с распределёнными параметрами и методических рекомендаций по их применению. Достижение поставленной цели предполагает решение следующих основных задач.

1. Формальное описание и теоретическое обоснование класса моделей, в рамках которого предполагается решать задачу идентификации управляемого распределённого объекта.

2. Интерпретация моделей в нёйросетевых терминах, позволяющая использовать для идентификации методы теории нейронных сетей, и синтез соответствующих нейросетевых моделей.

3. Разработка методов и алгоритмов настройки параметров нейросетевых моделей в соответствии с выбранным критерием оптимальности.

4. Формирование набора показателей для оценки точности обученных нейросетевых моделей управляемых распределённых объектов и предложений по их использованию.

5. Разработка специализированной программной системы-для проведения исследований нейросетевых моделей рассматриваемого типа.

6. Применение предложенных нейросетевых моделей и алгоритмов для решения прикладной задачи идентификации распределённых процессов энерговыделения в активной зоне ядерного реактора при совершении манёвра мощности.

7. Экспериментальные исследования построенных моделей энерговыделения средствами разработанного программного обеспечения и оценка их точности и обобщающей способности.

Методы исследования. Основой для создания нейросетевых моделей и алгоритмов и проведения экспериментальных исследований являются теория идентификации динамических систем, теория нейронных сетей, теория дифференциальных уравнений в частных производных и обыкновенных дифференциальных уравнений, численные методы решения дифференциальных уравнений, методы оптимизации и статистические методы анализа данных.

Научная новизна. В диссертации получены следующие результаты, характеризующиеся научной новизной.

1. Предложены и теоретически обоснованы два новых класса моделей управляемых объектов с распределёнными параметрами, в рамках которых возможна декомпозиция задачи идентификации на отдельные подзадачи.

2. Предложена нейроеетевая интерпретация моделей указанных классов в виде нейросетевых структур - совокупности связанных нейросетевых модулей различных архитектур. Применение нейроструктурных моделей является новым подходом в теории идентификации распределённых систем.

3. Разработаны два подхода к обучению нейросетевых структур рассматриваемых классов: последовательное и совместное обучение. Предложенный алгоритм совместного обучения обобщает классический метод обратного распространения ошибки во времени на случай нейросетевых структур и является новым в теории нейронных сетей.

4. Нейроструктурный подход применён для решения задач моделирования распределённых процессов энерговыделения в активной зоне ядерного реактора. Построенные нейроструктурные модели являются новыми и не применялись ранее в математическом моделировании физических процессов в реакторной установке.

5. Проведены серии компьютерных экспериментов, подтверждающие точность и обобщающую способность построенных нейроструктурных моделей процессов энерговыделения в активной зоне реактора.

Обоснованность и достоверность результатов обеспечиваются корректностью применения математического аппарата и сопоставлением результатов компьютерных экспериментов созданных нейроструктурных моделей с данными сертифицированной программы NOSTRA, реализующей численный расчёт соответствующих физических моделей.

Практическая значимость работы.

1. Нейроструктурные модели энерговыделения, обученные на реальных данных, полученных с помощью датчиков системы внугриреакторного контроля (СВРК) АЭС, могут быть использованы в качестве советчика оператора. Использование такой быстродействующей модели совместно с аппаратурой СВРК позволит повысить безопасность эксплуатации ядерной энергетической установки в манёвренном режиме.

2. Построенная динамическая модель управляемого аксиального профиля энерговыделения в активной зоне может быть использована для коррекции показаний датчиков аппаратуры контроля нейтронного потока, что позволит получить более точную информацию о состоянии активной зоны и, как следствие, повысить эффективность эксплуатации ядерной энергетической установки в манёвренном режиме.

3. Разработанное в диссертации методическое, алгоритмическое и программное обеспечение может -быть использовано в учебных курсах по современным методам математического моделирования и нейроинформатике, что позволит повысить уровень подготовки специалистов.

4. Предложенные модели и методы идентификации динамических систем в классе нейросетевых структур могут быть применены для решения прикладных задач в других проблемных областях. В работе описаны две подобные задачи: моделирование процессов гибели опухолевых клеток в живых тканях в условиях гипертермического воздействия и траекторное управление самолетом, который совершает оборонительный манёвр от атакующей его ракеты.

Реализация результатов работы. Математические модели, методы, алгоритмы и иаучно-практические рекомендации диссертации применены при решении задач моделирования физических процессов в активной зоне реактора ВВЭР-1000 и могут быть использованы при решении задач управления.

Полученные в диссертационной работе результаты используются в учебном процессе кафедр "Кибернетика" и "Теплофизика" МИФИ (Москва).

Созданное методическое и алгоритмическое обеспечение, а также практические рекомендации по обучению нейросетевых структур были применены при разработке системы распознавания символьной информации (ООО "ACT", Москва).

Использование результатов диссертационной работы и достигнутый при этом эффект подтверждены соответствующими актами.

Апробация работы. Основные положения диссертации докладывались на следующих всероссийских и международных семинарах и конференциях:

• Международная научно-техническая конференция "Интеллектуальные и многопроцессорные системы" (Геленджик, 2003).

• Всероссийская научно-техническая конференция "Нейроинформатика" (Москва, МИФИ, 2005, 2006, 2008).

• Всероссийская конференция "Нейросетевые алгоритмы решения задач ■ ~ математической физики" (Москва, НИИАА, 2007).

• Междисциплинарный научный семинар "Экобионика" (Москва, МГТУ им. Н.Э. Баумана, 2008).

• Annual Meeting of the European Society for Hyperthermic Oncology (Berlin 2006, Prague 2007).

• World Congress on Medical Physics and Biomedical Engineering (Seoul 2006).

• Научная сессия Российского научно-технического общества радиотехники, электроники и связи им. А.С. Попова (Москва, 2007).

• Научная сессия МИФИ (Москва, МИФИ, 2005, 2006, 2007, 2008).

• Международный научно-технический семинар "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, МАИ, 2005, 2006, 2007, 2008).

Результаты диссертации использованы в отчётах по проектам РФФИ (№ 05-08-01421) и МНТЦ (#2221).

Публикации результатов. Основные результаты диссертации опубликованы в 26 печатных научных работах, среди которых 2 статьи - в периодических научных изданиях, рекомендованных ВАК России,' 8 работ - в статьях и материалах конференций.

Основные положения, выносимые на защиту.

1. Новый тип нейросетевых математических моделей управляемых объектов с распределёнными параметрами - нейросетевые структуры - в рамках которых предлагается решать задачу идентификации.

2. Два подхода к обучению нейроструктурных моделей: последовательное, предполагающее обучение отдельных модулей структуры в определённой последовательности, и совместное, основанное на алгоритме обратного распространения ошибки во времени. Оба подхода допускают обобщение на более широкий класс нейросетевых структур.

3. Построенные в классе нейросетевых структур модели управляемых распределённых процессов энерговыделения в активной зоне ядерного реактора типа ВВЭР-1000: модель энерговыделения в фиксированном узле активной зоны, модель аксиального профиля энергбвыделения тепловыделяющей сборки, модель поля энерговыделения активной зоны.

4. Результаты компьютерных экспериментов построенных нейроструктурных моделей энерговыделения, демонстрирующих точность и обобщающие способности моделей в ограниченной области типовых управляющих воздействий, а также практические рекомендации по их обучению.

Структура и объём диссертации. Диссертация состоит из введения, четырёх глав, заключения, библиографического списка и четырёх. приложений. Основная часть работы содержит 150 страниц машинописного текста, включая 14 таблиц, 58 рисунков и перечень использованной литературы из 129 наименований.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Трофимов, Александр Геннадьевич

Выводы по главе 4

Приведены результаты экспериментальных исследований нейросетевых моделей энерговыделения в активной зоне реактора ВВЭР-1000, предложенных в главе 3: модели ЭВ фиксированном узле активной зоны, модели аксиального профиля ЭВ ТВС и модели пространственного поля ЭВ. В результате предварительных исследований установлено, что процессы энерговыделения в фиксированных узлах активной зоны являются существенно нелинейными. Проведены исследования нейросетевых А^^Л'-моделей ЭВ в фиксированных узлах активной зоны, в результате которых определены зависимости точности и обобщающей способности сети от её архитектурных параметров^Установлено,-что-----обобщающие способности сети существенно зависят от начальной конфигурации еинаптичееких коэффициентов при использовании для обучения градиентных методов.

Приведены результаты экспериментальных исследований динамической нейросетевой модели аксиального профиля энерговыделения ТВС. Экспериментально подтверждено предположение, что в динамике коэффициентов полинома, аппроксимирующего профиль, присутствует небольшое число главных компонентов, инвариантных относительно рассматриваемых режимов кусочно-линейного управления.

В результате компьютерных экспериментов нейроструктурной модели пространственного поля ЭВ подобраны архитектурные параметры отдельных нейросетевых модулей, образующих структуру, при которых модель поля энерговыделения удовлетворяет требованиям по точности.

Показано, что построенные нейросетевые модели не уступают по точности существующим физическим моделям и обладают способностью к обобщению в ограниченном пространстве управляющих воздействий, определяемом рассматриваемыми кусочно-линейными режимами управления.

Результаты проведённых исследований нейроструктурных моделей подтверждают применимость разработанного методического и алгоритмического обеспечения для решения задач идентификации управляемых систем с распределёнными параметрами.

ЗАКЛЮЧЕНИЕ

В рамках диссертационной работы получены следующие научные и практические результаты.

На основе проведённого анализа существующих подходов к идентификации динамических систем с сосредоточенными и распределёнными параметрами предложено использовать нейросетевой подход. Описаны возможности нейросетевых моделей при решении задач идентификации динамических объектов, их преимущества и недостатки перед другими моделями.

Поставлена задача идентификации управляемого объекта с распределёнными параметрами на основе результатов наблюдений типа "вход-выход". Введены и теоретически обоснованы два класса моделей, в рамках которых решается задача идентификации. Оба класса моделей предполагают аппроксимацию распределённой системы системой с сосредоточенными параметрами.

Предложена нейросетевая реализация математических моделей указанных классов в виде нейросетевых структур - моделей нового типа, состоящих из взаимосвязанных нейросетевых модулей в общем случае различных архитектур.

Разработаны два метода обучения нейросетевых структур: последовательное, включающее многошаговую процедуру обучения отдельных модулей, и совместное, рассматривающее нейросетевую структуру как единое целое. Указаны особенности использования обоих методов. Алгоритм совместного обучения позволяет рассматривать метод обратного распространения ошибки во времени на более высоком уровне - распространение ошибки в нейросетевой структуре осуществляется не через отдельные нейроны, а через нейросетевые модули, в общем случае имеющие различные математические модели.

Для моделирования сосредоточенной управляемой динамики использована управляемая нейросеть- нелинейной-авторегрессии-(А'>1./?^г-нейросеть).Предложена модификация математической модели ЛгЛ.&¥-нейросети, позволяющая сократить число настраиваемых параметров и повысить эффективность процедуры обучения.

Предложен набор показателей для оценки точности нейроструктурных моделей управляемых распределённых объектов. Сформулированы практические рекомендации по организации процесса обучения нейросетевых структур и их применению.

Предложенные нейроструктурные модели и алгоритмы применены для решения прикладной задачи идентификации распределённых процессов энерговыделения в активной зоне ядерного реактора типа ВВЭР-1000 при совершении манёвра мощности. Построены модель управляемых процессов энерговыделения в фиксированном узле активной зоны, модель профиля ЭВ ТВС и модель пространственного поля ЭВ в активной зоне реактора.

Для проведения исследований нейроструктурных моделей управляемых распределённых объектов разработана специализированная программная система.

Средствами разработанной программной системы проведены серии компьютерных экспериментов, демонстрирующих точность построенных нейроструктурных моделей энерговыделения и подтверждающих их обобщающие способности в ограниченном пространстве типовых управляющих воздействий.

Результаты проведённых теоретических и экспериментальных исследований подтверждают применимость разработанного методического и алгоритмического обеспечения для решения задач идентификации управляемых систем с распределёнными параметрами, а новый предложенный тип нейроструктурных математических моделей может найти применение и в других проблемных областях.

Список литературы диссертационного исследования кандидат технических наук Трофимов, Александр Геннадьевич, 2008 год

1. Нелинейные эффекты в хаотических и стохастических системах / B.C. Анищенко и др.. М.; Ижевск: Институт компьютерных исследований, 2003.

2. Малинецкий, Г.Г. Современные, проблемы нелинейной динамики / Г.Г. Малинецкий, А.Б. Потапов. М.: УРСС, 2000.

3. Перельман, И.И. Оперативная идентификация объектов управления / И.И. Перельман М.: Энергоиздат, 1982.

4. Заде, JI. Теория линейных систем. Метод пространства состояний / JI. Заде, Ч. Дезоер. -М.: Наука, 1970.

5. Современные методы* идентификации систем / Под ред. П. Эйкхоффа; пер. с англ. М.: Мир, 1983.

6. Эйкхофф, П. Основы идентификации систем управления / П. Эйкхофф. М.: Мир, 1975.

7. Методы классической и современной теории автоматического управления. Том 2: статистическая динамика и идентификация систем автоматического управления / Под ред. К.А. Пупкова и Н.Д. Егупова. М'.: Изд-во МГТУ им. Н.Э. Баумана, 2004.

8. Гроп, Д. Методы идентификации систем / Д. Гроп. М.: Мир, 1979.

9. Сейдж, Э. Идентификация систем управления / Э. Сейдж, Д. Мелса. М.: Наука, 1974.

10. Осовский, С. Нейронные сети для обработки информации / С. Осовский. -М.: Финансы и статистика, 2002.

11. Хайкин, С. Нейронные сети: полный курс / С. Хайкин. М.: Вильяме, 2006.

12. Galushkin, A.I. Neural networks theory / A.I. Galushkin. Springer, 2007.'

13. Sutton, R. Learning to predict by the methods of temporal differences / R. Sutton // Machine Learning. 1988. - № 3. - Pp. 9-44.

14. Narendra, K. Identification and control of dynamical systems using neural networks / K. Narendra, K. Parthasarathy // IEEE Transactions on Neural Networks. - 1990. - Vol. 1, № 1. - Pp. 4-27.

15. Kuroe, Y. Identification of nonlinear dynamical systems by recurrent high-order neural networks / Y. Kuroe, H. Ikeda, T. Mori // Proceedings of the IEEE International Conference on. Systems, Man and Cybernetics. 1997. - Vol. 1. -Pp. 70-75.

16. Chow, T. Application of modified sigma-pi-linked neural network to dynamical system identification / T. Chow, G. Fei, Y. Yam // Proceedings of the 3rd IEEE Conference on Control Applications. 1994. - Vol. 3. - Pp. 1729-1733.

17. Bailer-Jones, С. A Recurrent Neural Network for Modelling Dynamical Systems. Network / C. Bailer-Jones, D. MacKay // Computation in Neural Systems. -1998.-№ 9.-Pp. 531-547.

18. Wang, Y. Runge-Kutta neural network for identification of dunamical systems in high accuracy / Y. Wang, C. Lin // IEEE transactions on neural networks. — 1998. Vol. 9, № 2. - Pp. 294-307.

19. Geometry from a time series / N. Packard, J. Crutchfield, J. Farmer, R. Shaw // Physical Review Letters. 1980. - Vol. 45, № 9. - Pp. 712-716.

20. Takens, F. Detecting strange attractors in turbulence / F. Takens // Dynamical systems and turbulence. Lecture notes in mathematics // Eds. D.A. Rand, L.-S. Young.-Berlin: Springer-Verlag, 1981.-Vol. 898.-Pp. 366-381.

21. Mane, R. On the dimension of the compact invariant sets of certain nonlinear maps / R. Mane // Dynamical systems and turbulence. Lecture notes in mathematics // Eds. D.A. Rand,* L.-S. Young. Berlin: Springer-Verlag, 1981. — Vol. 898.-Pp. 230-242.

22. Delay Embeddings for Forced Systems II. Stochastic Forcing / J. Stark, D. S. Broomhead, M. E. Davies, J. Huke // Journal of Nonlinear Science. -2003. Vol. 13, № 6. - Pp. 519-577.

23. Leontaritis, I. J. Input-output parametric models for nonlinear systems: Part I -Deterministic nonlinear systems / I. J. Leontaritis, S.A. Billings // International Journal of Control. 1985. - Vol. 41. - Pp. 303-329.

24. Leontaritis, I.J. Input-output parametric models for nonlinear systems: Part II -Stochastic nonlinear systems / I. J. Leontaritis, S.A. Billings // International Journal of Control. 1985. - Vol. 41. - Pp. 329-344.

25. Льюнг, JI. Идентификация систем. Теория для пользователя / Л. Льюнг. М.: Гл. ред. физ.-мат. лит., 1991.

26. Todorovic, N. State of the art in nonlinear dynamically stem identification" using" artificial neural networks / N. Todorovic // Proceedings of 8th Seminar on Neural Network Applications in Electrical Engineering, NEUREL-2006. 2006. -Pp. 103-108.

27. Lang, K. A time-delay neural network architecture for isolated word recognition / K. Lang, A. Waibel, G. Hinton//Neural Networks. 1990. -№ 3. - Pp. 23-43.

28. Weigend, A. Times series prediction: Forecasting the future and understanding the past / A. Weigend, N. Gershenfield. MA: Addison-Wesley, 1994.

29. Sundararajan, Y. Analysis of minimal radial basis function network algorithm for real-time identification of nonlinear dynamic systems / Y. Sundararajan, P. Saratchandran // Control Th'eory Applications. 2000. - Vol. 147, №4. -Pp. 476-484.

30. Junge, Т. Off-line identification of nonlinear time-invariant systems using structurally adaptive radial basis function networks / T. Junge, H. Unbehauen // Proceedings of the 35th Conference on Decision and Control. 1996. -Pp. 943-948.

31. Zhang, Q. Wavelet Networks / Q. Zhang, A. Benveniste // IEEE transactions on neural networks. 1992. - Vol. 3. - Pp. 889-898.

32. Ling, S. Genetic algorithm-based variable translation wavelet neural network and its application / S. Ling, F. Leung // Proceedings of International Joint Conference on Neural Networks. 2005. - Pp. 1365-1370.

33. Lee, T. Wavelet-neural-network-based backstepping control for chaotic systems / T. Lee, C. Lin, C. Hsu // Proceedings of International Joint Conference on Neural Networks. 2005. - Pp. 384-389.

34. Dynamic wavelet neural network for nonlinear dynamic system identification / Y. Tan, X. Dang, F. Liang, C'. Su // Proceedings of the IEEE International Conference on Control Applications. 2000. - Pp. 214-219.

35. Patra, J. Nonlinear dynamic system identification using Chebyshev functional link artificial neural networks / J. Patra // IEEE Transactions on Systems. 2002. -Vol. 32, №4.-Pp. 505-511.

36. Mackenzie, M. Hermite neural network correlation ~ and- application / M.Mackenzie, A. Tieu // IEEE Transactions on' Signal Processing. 2003. -Vol. 51, № 12. - Pp. 3210-3219.

37. Barreto, G. Identification and control of dynamical systems using the self-organizing map / G. Barreto, A. Araujo // IEEE Transactions on Neural Networks.-2004.-Vol. 15, №5.-Pp. 1244-1259.

38. Temporal Sequence Processing using Recurrent SOM / T. Koskela, M. Varsta, J. Heikkonen, K. Kaski // Proceedings of the Second International Conference on Knowledge Based Engineering Systems KES'98. - 1998. - Vol. 1. -Pp. 290-296.

39. Varsta, M. Self-organizing maps in sequence processing : diss. . degree Doctor of Science in Technology / M. Varsta. 2002.

40. Williams, R. A learning algorithm for continually running fully recurrent neural networks / R. Williams, D. Zipser // Neural Computers. 1989. - Vol. 1, № 2. -Pp. 270-280.

41. Chan, L. Locally connected recurrent networks : technical report CS-TR-95-10, the Chinese University of Hong Kong, Computer Science Department / L. Chan, E. Young. 1995.

42. Siegelmann, H. Turing computability with neural nets / H. Siegelmann, E. Sontag

43. Applied Mathematics Letters. 1991. - Vol. 4, № 6. - Pp. 77-80.

44. Siegelmann, H. Computational power of neural networks / H. Siegelmann, E. Sontag // Journal of Computer System Sciences. 1995. - Vol. 50, № 1. — Pp. 132-150.

45. Siegelmann, H. Computational capabilities of recurrent NARX neural networks : technical report UMIACS-TR-95-12, CS-TR-3408 / H. Siegelmann., B. Home, C. Giles. 1995.

46. Rumelhart, R. Learning internal representation by error backpropagation / R. Rumelhart, G. Hinton, R. Williams // Parallel Distributed Processing: Explorations in Microstructure of Cognition. 1986. - Vol. 1. - Pp. 318-362.

47. Schmidhuber, J. A local learning algorithm for dynamic feedforward and recurrent networks : Report FKI-124-90 / J. Schmidhuber. 1990.

48. Elman, J. L. Finding structure in time / J.L. Elman // Cognitive Science. 1990. -Vol. 14.-Pp. 179-211.

49. Jordan, M. Generic constraints on underspecified target trajectories / M. Jordan // Proceedings of the International Joint Conference on Neural Networks. 1989. -Pp. 217-225.

50. Medsker, L. Recurrent neural networks: Design and applications /~L. MedskerT L. Jain. CRC Press, 2000.

51. Fernandez, B. Nonlinear dynamic system identification using artificial neural networks / B. Fernandez, A. Parlos, W. Tsai // Proceedings of the International Joint Conference on Neural Networks. 1990. - Pp. 133-141.

52. Puskorius, G. Neurocontrol of nonlinear dynamical systems with Kalman filter trained recurrent networks / G. Puskorius, L. Feldkamp // IEEE Transactions on Neural Networks. 1994. - Vol. 5, № 2. - Pp. 279-297.

53. Li, X. Dynamic system identification via recurrent multilayer perceptrons. Information Sciences / X. Li, W. Yu // Informatics and Computer Science: An International Journal. 2002. - Vol. 147, № 1. - Pp. 45-63.

54. Narendra, К. Gradient methods for the optimization of dynamical j systems containing neural networks / K. Narendra, K. Parthasarathy // IEEE Transactions on Neural Networks. 1991. - Vol. 2, № 2. - Pp. 252-262.

55. Kinouchi, M. Learning temporal sequences by complex neurons with local feedback / M. Kinouchi, M. Hagiwara // Proceedings of IEEE International Conference on Neural Networks. 1995. - Vol. 6. -Pp. 3165-3169.

56. Самарский, A.A. Теория разностных схем / A.A. Самарский. M.: Наука, 1989.

57. Parlos, A. Application of the recurrent multilayer perceptron in modeling complex process dynamics / A. Parlos, K. Chong, A. Atiya // IEEE Transactions on Neural Networks. 1993. - Vol. 5, № 2, Pp. 255-266.

58. Heister, F. An approach for the identification of nonlinear, dynamic processes with Kalman-filter-trained recurrent neural structures : report no. 193, University of Wurzburg, Institute of Computer Science / F. Heister, R. Muller. 1999.

59. Tutschku, K. Recurrent Multilayer Perceptrons for Identifcation and Control: The Road to Applications : report № 118, Institute of Computer Science, University of Wurzburg / K. Tutschku. 1995.

60. Chen, S. Non-linear system identification using neural networks / S.Chen, S. Billings, P.1 Grant // International Journal of Control. 1990. - Vol. 51, № 6. -Pp. 1191-1214. ' s< '

61. Home, B. An experimental comparison of recurrent neural networks / B. Home,

62. C. Giles // Advances in Neural Information Processing Systems // Eds.

63. D. Tesauro, D. Touretzky, T. been. MIT Press, 1995. - Pp. 697-704.

64. A delay damage model selection algorithm for NARX neural networks / T. Lin, L. Giles, B. Home, S. Kung // IEEE transactions on signal processing. Special issue on neural networks. 1997. - Vol. 45, № 11. - Pp. 2719-2730.

65. Billings, S. Recurrent radial basis function networks for ^"adaptive-noise" cancellation / S. Billings, C. Fung // Neural Networks. 1995. - Vol. 8, № 2. -Pp. 273-290.

66. Cheung, Y. A new recurrent radial basis function network / Y. Cheung // Proceedings of the 9th International Conference on Neural Information Processing (ICONIP). 2002. - Vol. 2. - Pp. 1032-1036.

67. Learning chaotic dynamics in recurrent RBF network / T. Miyoshi, II. Ichihashi, S. Okamoto, T. Hayakawa // Proceedings of the IEEE International Conference on Neural Networks. 1995.-Vol. l.-Pp. 588-593.

68. De Vries, B. The gamma model a new neural model for temporal processing / B. De Vries, J. Principe // Neural Networks. - 1992. - Vol. 5. - Pp. 565-576.

69. Motter, M. A gamma memory neural network for system identification / M. Motter, J. Principe // IEEE International Conference on Neural Networks '94. -1994.-Pp. 3232-3237.

70. Cholewo, T. Exact gradient calculation in gamma neural networks / T. Cholewo, J. Zurada, A. Cichocki // In Proceedings of International Symposium on Nonlinear Theory and its Applications. 1997. - Pp. 767-770.

71. The gamma MLP using ' multiple temporal resolutions for improved classification / S. Lawrence, A. Back, A. Tsoi, C. Giles // IEEE Workshop on Neural Networks for Signal Processing '97. - 1997. - Pp. 362-367.

72. Back, A. FIR and IIR synapses, new neural network architecture for time series modeling / A. Back, A. Tsoi // Neural Computing. 1991. - Vol.3. -Pp. 375-385.

73. Tsoi, A. Locally recurrent globally feedforward networks: A critical review of architectures / A. Tsoi, A. Back // IEEE Transactions on Neural Networks. 1994. -Vol. 5.-Pp. 229-239.

74. Frasconi, P. Local feedback multilayered networks / P. Frasconi, M. Gori, G. Soda//Neural Computing. 1992. - Vol. 4.-Pp. 120-130.

75. Bengio, Y. Learning the dynamic of speech with backpropagation for sequences / Y. Bengio, R. DeMori, M. Gori // Pattern Recognition Letters. 1992. -Vol. 13.-Pp. 375-385.

76. Mozer, M. A focused backpropagation algorithm for temporal pattern recognition / M. Mozer//Complex Systems. 1989.-Vol. 3.-Pp. 349-381.

77. Janczac, A. Identification on nonlinear systems using neural networks and polynomial models. A block-oriented approach / A. Janczac. Berlin; New York: Springer, 2005.

78. Haber, R. Nonlinear system identification input-output modeling approach. Volume 1: Nonlinear system parameter identification TR. Haber, L. KeviczkyT-New York: Springer, 1999.

79. Mandic, D. Recurrent neural networks for prediction. Learning algorithms, architectures and stability / D. Mandic, J. Chambers. New York: Wiley, 2001.

80. Balestrino, A. Approximation of Hammerstein/Wiener Dynamic Models / A. Balestrino, A. Caiti // IEEE International Joint Conference on Neural Networks IJCNN. 2000. - Vol. 1. - Pp. 70-74.

81. Chen, Y. Identification of chaotic systems using a self-constructing recurrent network / Y. Chen, J. Wang // Proceedings of the IEEE International Conference on Systems, Man and Cybernetics. -2005. Vol. 3. - Pp. 2150-2155.

82. Хакен, Г. Синергетика. Иерархии неустойчивости в самоорганизующихся системах и устройствах / Г. Хакен. М.: Мир, 1985.

83. Sinha, N. Modeling and Identification of Dynamic Systems / N. Sinha, B. Kuszta New York: VanNostrand Reinhold Co., 1983.

84. Ucianski, D. Optimal Measurement Methods for Distributed Parameter System Identification / D. Ucianski. Boca Raton: CRC Press, 200584. Приклонский, В:И. Численные методы / В .И. Приклонский. — М.: МГУ, 1999.

85. Власова, Е.А. Приближённые методы математической физики, /

86. Е.А. Власова; под ред. B.C. Зарубина, А.П. Крищенко. М.: Изд-воМГТУ им; Н.Э. Баумана; 2001.86: Зенкевич, О. Конечные элементы и аппроксимация / О. Зенкевич М.: Мир, 1986.

87. Chirikjian, G. A modal : approach to hyper-redundant manipulator, kinematics / G. Chirikjian- J. Burdick // IEEE Transactions on Robotics and Automaton. — 1994. Vol. 10, № 3. - Pp. 343-354.

88. Kugi, A. Tracking control of distributed-parameter systems: from? theory" to applications / A. Kugi- // Proceedings; of^ 6th International. Congress on Industrial, and Applied Mathematics. 2007. - Pp. 191-192.

89. Горбаченко, В.И. Нейрокомпьютеры в решении краевых задач теории поля. Книга 10-: учеб. пособие для вузов / В.И. Еорбаченко. — М.: Радиотехника, 2003: '

90. Нейроматематика. Книга 6. : учеб. пособие для вузов / под общ: ред: А.И: Галушкина. М.: ИПРЖР, 2002.

91. Васильев, А.Н. Новые подходы на основе RBF-сетей: к решению краевых задач для уравнения Лапласа на. плоскости / А.Н. Васильев, Д.А. Тархов // Нейрокомпьютеры: разработка и применение. -2004. -№ 7-8. С. 119-126.

92. Тархов, Д.А. Математическое моделирование физико-технических объектов на основе структурной и параметрической адаптации искусственных нейронных сетей : дис. . д-ра техн. наук : 05.13.18 / Тархов Дмитрий Альбертович. СПб, 2006.

93. Тархов, Д.А. Нейронные сети: модели и алгоритмы / Д.А. Тархов. М.: Радиотехника, 2005.

94. Two neural network models for nuclear engineering applications / O.A. Mishulina, V.S. Kharitonov, M.V. Scherbinina, A.G. Trofimov, A.A. Uskova // Optical Memory&Neural Networks. 2005. - Vol. 14, № 1. - Pp. 23-44.

95. Моделирование нейтронного потока в активной зоне ВВЭР с помощью нейросетевых технологий / О.А. Мишулина, А.А. Пинегин, А.Г. Трофимов, Б.Е. Шумский // Научная сессия МИФИ-2007. Сборник научных трудов. -М.: МИФИ, 2007. Т.8. - С. 160-162.

96. Трофимов, А.Г. Нейросетевое моделирование распределённых процессов энерговыделения в активной зоне реакторной установки / О.А. Мишулина,

97. A.Г. Трофимов // Нейрокомпьютеры: разработка и применение. 2007. -№ 9. - С. 57-70.

98. Коршунов, Ю.М. Математические основы кибернетики / Ю.М. Коршунов. -М.: Энергоатомиздат, 1987.

99. Jacobs, R.A. Increased Rates of Convergence Through Learning Rate Adaptation / R.A. Jacobs // Neural Networks.- 1988. Vol. 1. - Pp. 295-307.

100. Вапник, В. H. Восстановление зависимостей по эмпирическим данным /

101. B. Н. Вапник. М.: Наука, 1979.г

102. Климов, А. Н. Ядерная физика и ядерные реакторы / А.Н.Климов. М.: Энергоатомиздат, 1985.

103. Ядерные энергетические установки : учеб/ пособие для вузов / под общ. ред. акад. Н. А. Доллежаля. М.: Энергоатомиздат, 1983.

104. Шумский, Б. Е. Результаты и опыт аттестации программы NOSTRA / Б. Е. Шумский, А. А. Пинегин // Научная сессия МИФИ-2004. Сборник научных трудов. М.: МИФИ," 2004 - Т. 8. - С. 70-71.

105. Прикладная статистика. Классификация и. снижение размерности / С. А. Айвазян. М.: Финансы и статистика, 1989.

106. Трофимов А.Г. Разработка системы» NSTRUCT для моделирования и обучения нейросетевых структур / А.Г. Трофимов // Научная сессия МИФИ-2007. Сборник научных трудов. М.: МИФИ, 2007. - Т.2. - С. 12-13.'

107. Трофимов, А.Г. Разработка программной системы NeuroDynamica для нейросетевого моделирования динамических объектов / А.Г. Трофимов,

108. B.И. Скругин // Научная сессия МИФИ-2008. Сборник научных трудов. М.: МИФИ, 2008.-Т. 11.-С. 109-110.

109. Пакет прикладных программ N-FONTO для построения нейросетевых моделей в ядерной энергетике / А.Г. Трофимов и др. // Сборник научных трудов VII Всероссийской» научно-технической конференции "Нейроинформатика-2005". М.: МИФИ, 2005. - Т. 2. - С. 182-190.

110. Разработка системы N-FONTO для решения задач ядерной теплоэнергетики /

111. АЛЛ Трофимов и др. // Научная* сессия МИФИ-2005. Сборник научныхтрудов. М.: МИФИ, 2005. - Т. 2. - С. И7-118/ " ""

112. Трофимов А.Г. Нейросетевые структуры в задачах моделирования физических переменных / О.А. Мишулина, А.Г. Трофимов, М.В. Щербинина // Труды 62-ой- Научной сессии РНТОРЭС им. А.С. Попова. 2007.1. C.102-105.

113. Трофимов А.Г. Нейросетевой прогноз выживаемости клеток при гипертермическом воздействии / О.А. Мишулина, А.Г. Трофимов // Новости искусственного интеллекта. — 2007.

114. Trofimov A.G. Neural network model of cell survival under hyperthermia / V.V. Kosterev, O.A. Mishulina, A.G. Trofimov // IFMBE Proceedings WC 2006 "World Congress on Medical Physics and Biomedical Engineering". 2006. -Vol. 14.-Pp. 3393-3396.

115. Trofimov A.G. Cell survival data processing with artificial neural networks / V.V. Kosterev, O.A. Mishulina, A.G. Trofimov // 23-rd Annual Meeting of the European society for hyperthermic oncology. Abstract Book. 2006. - Pp. 114115.

116. Neural model of cells equisurvival lines under hyperthermia / V.V. Kosterev, E.A. Kramer-Ageev, O.A. Mishulina, A.G. Trofimov // 24-rd Annual Meeting of the ESHO. Abstract Book. 2007. - Pp. 89-90.

117. Мазохин, B.H. Современное состояние и перспективы применения электромагнитной гипертермии в медицинской практике / В.Н. Мазохин, Э.А. Гельвич // Биомедицинская радиоэлектроника. — 2000. — № 11. — С. 29-36.

118. Hyperthermia and Oncology. Volume 2: Biology of Thermal Potentiation of Radiotherapy / ed. by M. Urano, E. Douple. Zeist: VSP, 1989.

119. Ярмоненко, С. П. Радиобиология человека и животных : учеб. пособие / С. П. Ярмоненко, А. А. Вайнсон М.: Высшая школа, 2004.

120. Параллельная реализация алгоритмов обучения модульной нейросети и ее работы / А.Г. Трофимов и др. // Научная сессия МИФИ-2008: Сборник научных трудов. М.:МИФИ, 2008. - Т.12. - С.121-122.

121. Нейросети в задаче траекторного управления динамическим объектом / О.А. Мишулина, А.Г. Трофимов, Б.Е. Федунов, М.А. Демкин // Авиакосмическое приборостроение. 2007. - № 1. - С.31-37.

122. Дьяконов, В. MATLAB. Анализ, идентификация и моделирование систем. Специальный справочник / В. Дьяконов, В. Круглов СПб.: Питер, 2001.