Исследование нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений тема диссертации и автореферата по ВАК РФ 05.13.11, доктор технических наук Комарцова, Людмила Георгиевна

• Комарцова, Людмила Георгиевна
• доктор технических наук
• 2003

Оглавление диссертации доктор технических наук Комарцова, Людмила Георгиевна

1. Анализ состояния теории и практики создания интеллектуальных систем поддержки принятия решений (ИСПГТР) в трудно формализуемых задачах.

1.1. Проблемы формализации поиска и принятия решений в ИСППР.

1.2. Подходы к решению трудно формализуемых задач на основе систем обработки знаний.

1.2.1. Характеристика трудно формализуемой задачи и пути ее решения.

1.2.2. Методы решения трудно формализуемых задач с помощью классических систем искусственного интеллекта.

1.2.3. Нейросетсвой подход к решению трудно формализуемых задач.

1.2.4. Проблемы создания гибридных моделей.

1.3. Принципы построения программного обеспечения ИСППР.

1.4. Обзор программных средств и технологий для организации поиска решений.

1.4.1. Нейросетевые пакеты.

1.4.2. Пакеты на основе нечеткой логики.

1.4.3. Программные продукты для генетических алгоритмов.

1.4.4. Опыт использования интеграции программных средств для построения гибридных моделей.

1.5. Обзор программных средств для анализа решений методами моделирования.

1.5.1. Программные среды для моделирования компьютерных сетей.

1.5.2. Моделирующие системы.

1.6. Задачи исследования.

1.7. Выводы.

2. Организация нсйросетевых баз знаний в ИСППР.

2.1. Особенности формирования нейросетсвой базы знаний.

2.2. Алгоритмы обработки исходной информации для формирования обучающих выборок.

2.3. Синтез нейронной сети для решения прикладных задач.

2.3.1. Выбор типа НС.

2.3.2. Влияние алгоритма обучения на эффективность НС.

2.3.3. Проблемы формирования топологии НС.

2.3.4. Постановка задачи синтеза нейронной сети.

2.4. Принципы организации нейросетсвой базы знаний.

2.5. Задача иитерпретации результатов работы нейронной сети в ИСППР и ее решение.

2.6. Выводы.

3. Разработка методов и алгоритмов настройки и адаптации нейронных модулей к решаемой задаче.

3.1. Проблемы создания генетических алгоритмов для решения задач адаптации и настройки НС.

3.1.1. Кодирование потенциальных решений.

3.1.2. Разработка и исследование генетических операторов.

3.1.3. Разработка новых операторов селекции хромосом.

3.1.4. Механизм фильтрации хромосом.

3.1.5. Разработка способов задания функций качества хромосом.

3.1.6. Разработка и оценка качества многопопуляционного алгоритма.

3.2. Алгоритм обучения НС на основе генетического алгоритма и его оценка.

3.2.1. Экспериментальное исследование генетического алгоритма для построения эффективного алгоритма обучения НС.

3.2.2. Разработка и исследование двухэтапного алгоритма оптимизации на основе генетического алгоритма.

3.2.3. Построение генетического алгоритма с помощью генетического алгоритма.

3.2.4. Генетический алгоритм обучения нейронной сети.

3.3. Алгоритмы настройки НС на решаемую задачу.

3.3.1. Модификация конструктивного метода формирования топологии НС.

3.3.2. Формирование топологии нейронных сетей с помощью генетического алгоритма.

3.3.3. Экспериментальное исследование алгоритмов формирования топологии нейронных сетей.

3.4. Выводы.

4. Методы повышения эффективности использования нейросете-вых и гибридных технологий в ИСППР.

4.1. Повышение вычислительной эффективности алгоритмов обучения многослойного персептрона.

4.1.1. Использование нечеткой логики для регулирования скорости обучения МНС.

4.1.2. Комбинированный алгоритм обучения МНС с использованием ГА и имитации отжига.

4.1.3. Сравнительный анализ нейросетевых классификаторов на основе МНС.

4.1.4. Решение задачи автоматизации останова обучения МНС.

4.1.5. Пример применения многослойного персептрона к выбору параметров компьютерной сети.

4.2. Повышение скорости сходимости самоорганизующейся сети Кохонена.

4.3. Развитие нечеткой нейронной сети Кохонена для повышения скорости обучения и качества распознавания.

4.4. Повышение качества и уменьшение трудоемкости вывода решений на основе нейросетевых нечетких моделей.

4.5. Выводы.

5. Анализ и оценка решений с помощью методов моделирования.

5.1 Особенности построения модельной среды.

5.1.1. Принципы формирования базы имитационных модулей.

5.1.2. Интеграция аналитических и имитационных моделей.

5.2. Методы и алгоритмы управления модельным экспериментом.

5.2.1. Организация системы имитационного моделирования.

5.2.2. Управление имитационным экспериментом с помощью методов планирования экспериментов. Ранжирование уровней параметров модели.

5.3. Оптимизация параметров имитационной модели на основе генетического алгоритма и нейронной сети.

5.3.1. Проблемы выбора нейронной сети для моделирования функции фитнесса.

5.3.2. Алгоритм оптимизации параметров имитационной модели на основе генетического алгоритма.

5.4. Выводы.

6. Применение разработанных методов, алгоритмов и программных средств.

6.1. Обзор инструментальных средств поддержки исследования компьютерных сетей.

6.2. Состав и реализация функций ИСППР.

6.2.1. Функциональная схема выбора варианта построения копьютерпой сети.

6.2.2. Архитектура ИСППР.

6.3. Комплекс инструментальных средств для реализации основных функций ИСППР.

6.3.1. Нейроимитатор.

6.3.2. Система нечеткого вывода решений.

6.3.3. Конструктор генетических алгоритмов.

6.3.4. Организация пользовательского интерфейса с базой экспертных знаний.

6.3.5. Организация инструментальной среды для распределенной обработки информации в ИСППР.

6.4. Примеры решения практических задач.

6.4.1.Разработка и исследование локальной вычислительной сети Калужского управления подземного хранения газа

КУПХГ).

6.4.2. Выбор варианта организации комплекса обработки телеметрической информации для ГУП ОКБ "СПЕКТР".

6.4.3. Повышение эффективности функционирования распределенной вычислительной системы для диагностики бортовых технологических объектов.

6.4.4. Разработка информационно - вычислительной сети кафедры КФ МГТУ им. Н.Э. Баумана.

6.5. Внедрение в учебный процесс.

6.6. Выводы.

Введение диссертации (часть автореферата) на тему «Исследование нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений»

Интеллектуальные компьютерные технологии в настоящее время являются одним из ключевых направлений развития информатики. Проведение исследований по форме и методам построения интеллектуальных систем позволяет России оставаться среди стран, влияющих на мировое развитие науки.

Особенно важным в этих исследованиях представляется создание интеллектуальных систем поддержки прииятия решений (ИСППР), которые благодаря огромному прогрессу в области вычислительной техники находят все более широкое применение при решении сложных трудно формализуемых задач, какими являются задачи автоматизированного проектирования, робототехники, управления, информационного мониторинга, диагностики и т.д.

Отличительными признаками трудно формализуемой задачи являются неполнота исходных данных о решаемой задаче, их неточность и неоднородность, высокая вычислительная сложность их анализа даже на быстродействующих компьютерах. Трудно формализуемая задача не имеет точного решения и требует применения приближенных методов, основанных на широком использовании эмпирических данных, экспертного оценивания, нечетких и неклассических логик, моделирования, специально разработанных методик.

Современные методы построения ИСППР берут начало в работах таких российских и зарубежных ученых, как Глушков В.М., Амосов Н.А., Поспелов Д.А., Винер Н., Минский М., Ларичев О.И., Лорьер Ж.-Л., Розенблатт Ф., Пейперт С., Стефанкж В.Л., Гладун В.П., Попов Э.В., Осипов Г.С, Загоруйко Н.Г., Борисов А.Н., Вагин В.Н., Финн В.К. и др.

Основные ограничения известных методов и технологий, используемых в настоящее время в системах поддержки принятия решений в трудно формализуемых задачах, обусловлены недостаточной эффективностью решения в них проблем обучения, настройки и адаптации к проблемной области, обработки неполной и неточной исходной информации, интерпретации данных и накопления знаний экспертов, единообразного представления информации, поступающей из различных источников и т.д. Эти ограничения могут быть устранены на основе использования перспективных нейросетевых методов и технологий, эволюционного моделирования и генетических алгоритмов, нечеткой логики, различных гибридных технологий или технологий мягких вычислений - Soft computing (нейро-нечетких, нейро-генетических и т.п.). Исследованию и практическому применению перечисленных методов и технологий для решения практических задач посвящены работы Галушкина А.И., Горбаня А.Н., Курейчика В.М., Омату С., Заде Л., Касабова Н., Гольд-берга Д., Дэвиса Л., Лина С., Филаретова Г.Ф., Фоминых И.Б., Нечаева Ю.И. Васильева В.И., Редько В.Г., Ярушкиной Н.Г., Аверкина А.Н.и др.

Вместе с тем, несмотря на активные исследования в этой области, все еще остаются не полностью решенными многие проблемы, связанные с разработкой методов и алгоритмов синтеза нейронной сети и интерпретации результатов ее работы для конкретных приложений, недостаточно проработаны вопросы интеграции различных информационных технологий и особенности их реализации в ИСППР.

Таким образом, решаемые в диссертационной работе задачи исследования нейросетевых и гибридных методов и технологий в ИСППР для повышения эффективности реализации в них механизмов обучения, самообучения и адаптации к особенностям проблемной среды являются важными и актуальными.

Целью диссертации является развитие теории, создание, исследование и совершенствование методов и алгоритмов, составляющих основу нейросетевых и гибридных технологий, повышающих эффективность процессов обработки информации в интеллектуальных системах, предназначенных для поддержки принятия решений. Эффективность применения технологий оценивается по качеству решений, срокам их получения, а также по возможности расширения класса решаемых в рамках ИСППР задач.

Для достижения поставленной цели в диссертации решаются следующие основные задачи.

1. Разработка и исследование методов и алгоритмов, нацеленных на повышение эффективности применения нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений.

2. Разработка и исследование принципов построения нейросетевой базы знаний с использованием базовых нейронных модулей, ориентированных на специфику предметной области и предназначенных для комплексного решения типовых задач, лежащих в основе создания интеллектуальной системы поддержки принятия решений.

3. Разработка алгоритмов и методики построения нейронных сетей и гибридных моделей с заданными характеристиками, в зависимости от специфики их применения для решения конкретных задач в рамках интеллектуальной системы поддержки принятия решений с возможностью их адаптации в условиях процесса поиска решения.

4. Разработка методики и алгоритмов анализа прогнозируемых на основе нейронных сетей и гибридных моделей альтернативных вариантов решений, обеспечивающих обобщение результатов моделирования и оптимизацию параметров моделей при существенном сокращении времени исследования.

5. Исследование на практике эффективности применения созданных методов, алгоритмов и инструментальных средств, точности заложенных в них методов и алгоритмов подготовки и выбора решения.

Методы исследования. Проведенные теоретические и прикладные исследования базируются на методах современного системного анализа, теории принятия решений, иейроинформатики, генетических и эволюционных алгоритмов, теории нечеткой логики, теории распознавания образов, теории оптимизации, методах математической статистики, теории планирования экспериментов, имитационного моделирования, объектно-ориентированного программирования.

Научная новизна. Разработанные в диссертации теоретические основы построения нейросетевых и гибридных моделей поиска и оценки решений в трудно формализуемых задачах с помощью ИСППР, обеспечивающих реализацию механизмов обучения, самообучения и адаптации к особенностям проблемной среды, и методы их анализа являются существенным вкладом в развитие фундаментальных исследований в области теории принятия решений, создания и исследования новых технологий проектирования сложных программных систем, расширяющих интеллектуальные возможности компьютеров и компьютерных систем.

Конкретно на защиту выносятся следующие новые научные положения и результаты:

• методы и алгоритмы повышения эффективности применения нейросетевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, выражающейся в повышении качества формируемых решений и в сокращении сроков их получения;

• методика и алгоритмы формирования специализированных нейросетевых баз знаний на основе предварительно обученных нейронных модулей, обеспечивающих гибкость и накопление опыта эксперта в заданной предметной области;

• методика и алгоритмы синтеза нейронной сети и гибридных моделей с требуемыми свойствами для конкретных приложений;

• методы и алгоритмы анализа альтернативных вариантов решений методами моделирования, обеспечивающие развитие предпочтительного варианта и оценку результата для принятия окончательного решения.

Практическая значимость результатов диссертационной работы определяется созданием комплекса программных инструментальных средств, повышающих эффективность процессов обработки информации в интегрированных интеллектуальных системах поддержки принятия решений и позволяющих использовать разработанные методы, модели и программные системы, отвечающие конкретным приложениям. Созданный комплекс инструментальных средств может служить как для научных исследований и обучения, так и для комплексировапия с другими информационными системами коммерческих и государственных предприятий посредством стандартных интерфейсов DCOM, DDE, CORBA и др. с целью получения доступа к реальным базам данных и знаний. Предлагаемые методы, алгоритмы и программные системы применены при решении конкретных задач исследования специализированных компьютерных систем обработки данных, а также при выборе компонентов программного и аппаратного обеспечения компьютерных сетей, разрабатывавшихся как для учебного заведения, так и для государственных и коммерческих организаций.

Достоверность. Достоверность научных положений, теоретических выводов и практических результатов, полученных в диссертации, подтверждена результатами практической проверки методов, алгоритмов и программного обеспечения с использованием стандартных и специально разработанных тестов на основе существующих методик, корректным обоснованием и анализом моделей с применением методов математической статистики, использованием результатов работы другими авторами, а также результатами практического использования разработанных в диссертации математических, алгоритмических и программных методов и средств.

Внедрение и реализация результатов работы. Диссертация является теоретическим обобщением научных исследований, выполненных автором в течение 25 лет на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана в результате сотрудничества со многими промышленными предприятиями и фирмами. Теоретический базис разработанного подхода к построению интеллектуальных систем поддержки принятия решений в трудно формализуемых задачах основан на исследованиях, результаты которых обобщены в монографии, учебных пособиях, научных статьях и в докладах на национальных и международных конференциях. Наиболее важная часть разработанного программного обеспечения зарегистрирована в Роспатенте (имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ). Выполнены 17 хоздоговорных и госбюджетных НИР, в которых автор являлся руководителем, заместителем руководителя, ответственным исполнителем и исполнителем темы.

Основные результаты диссертационной работы нашли свое применение в виде инженерных рекомендаций и методик, пакетов прикладных программ и инструментальных средств при разработке Государственной сети вычислительных центров (Гос. per. № 74066264, № 74017988. -М.:МЭИ,1974

1975г.г.), выборе комплекса аппаратных и программных средств проблемно-ориентированных вычислительных систем и сетей (Гос. per. № 77077691-М. :МЭИ, ЦНИИ "АГАТ" 1976-1977г.г.), создании специализированных распределенных вычислительных комплексов управления цехом сборки интегральных схем, техпроцессом, динамическими объектами (Гос.рег. №79076603, №78007065, №81018468. -М.:МВТУ им. Н.Э. Баумана, 1978-1981г.г.), разработке обобщенной имитационной модели комплекса обработки телеметрической информации в реальном масштабе времени и имитационных моделей специализированных устройств (Гос.рег. №81011976. -М.:МВТУ им. Н.Э. Баумана, 1985г.), разработке и исследовании специализированных распределенных вычислительных комплексов (Гос. per. №86015052. -М.:МГТУ им. Н.Э. Баумана, 1990 г.г.), проектировании и анализе информационно-вычислительной сети КФ МГТУ им. Н.Э. Баумана, (Гос. per. №01950002971. -М.:МГТУ им. Н.Э. Баумана, 1991-1995г.г.), развитие и применение новых технологий проектирования вычислительных систем и сетей (Гос. регистр. № 01980003288. - М.: МГТУ им. Н.Э. Баумана, 1998), создании и развитии региональных и локальных сетей на предприятиях и в офисах (Гос. per. 01990004086, № 01200107595 -М.:МГТУ им. Н.Э. Баумана, 1996-2001 г.г.).

Полученные в диссертации результаты внедрены на ГУП ОКБ "СПЕКТР" (г. Рязань), на ГУП КНИИТМУ (Калужский научно-исследовательский институт телемеханических устройств), на ОАО "Восход" - Калужский радиоламповый завод (KPJI3), на ОАО "Тайфун" - Калужский приборостроительный завод, в научно-производственной фирме "ЭВЕРЕСТ", в учебный процесс. Наибольшее отражение в работе нашли результаты, полученные автором и руководимой им научной группой при совместной работе с Особым конструкторским бюро "Спектр" (1975-2002 г.г.), связанные с разработкой и анализом специализированных распределенных вычислительных комплексов, предназначенных для оперативной обработки телеметрической информации и проведении наземных испытаний бортовых систем.

Результаты диссертационной работы активно используются в учебном процессе: при чтении лекций, при курсовом и дипломном проектировании, проведении студенческих НИР, при подготовке кандидатских диссертаций (автор имеет 4 аспиранта) и в лабораторных работах на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана, на межвузовском факультете КГПУ (Калужского Государственного педагогического университета). Монография, учебное пособие "Нейрокомпьютеры", допущенпое Министерством образования Российской Федерации для студентов высших учебных заведений, и 5 учебных пособий (МГТУ им. Н.Э. Баумана), разработанные автором, в отсутствии широко доступных учебников по теме диссертации, используются для подготовки инженеров по специальности "Вычислительные машины, комплексы, системы и сети" направления подготовки дипломированных специалистов "Информатика и вычислительная техника". Полученные автором результаты вошли в программы дисциплин "Вычислительные системы и сети", "Программные средства проектирования вычислительных систем", "Экспертные системы", "Системы искусственного интеллекта", "Перспективные направления развития СИИ", "Нейрокомпьютеры",

Эволюционное моделирование", "Интеллектуальные САПР", в читаемые лекционные курсы для студентов 4-го, 5-го, 6-го и 7-го курсов КФ МГТУ им. Н.Э.Баумана, а также используются в учебном процессе других Российских ВУЗов.

Практическое использование результатов диссертационной работы подтверждено соответствующими актами о внедрении. Акты о внедрении и использовании результатов работы, а также копии авторских свидетельств (Роспатент) представлены в Приложении к диссертации.

Апробация работы. Результаты исследований, составляющих содержание работы, докладывались и обсуждались на Всероссийской конференции с международным участием "Нейрокомпьютеры и их применение" (Москва, 1999, 2000, 2001, 2002), на Всероссийской научно-технической конференции "Нейроинформатика" (Москва, 2000, 2001, 2002, 2003, МИФИ), на Всероссийском семинаре "Нейроинформатика и ее приложения" (Красноярск, 2000, 2001, 2002, СО РАН), на Международном форуме "Информационные средства и технологии МФИ" (Москва, МЭИ, 1999, 2000, 2001, 2002), на Международной конференции "Lyap-2001", посвященной памяти Ляпунова А.А. (Новосибирск, СО РАН, 2001),на Восьмой национальной конференции по искусственному интеллекту КИИ' 2002 (Коломна, 2002), на Международной конференции CAD/ САМ/ PDM "Системы проектирования, технологической подготовки производства и управления этапами жизненного цикла промышленного продукта" (Москва, 2001, 2002, 2003, ИПУ РАН), на Международной конференции SicPro- "Идентификация систем и задачи управления" (Москва,

2000, 2003 ИПУ РАН), на Международном научно-практическом семинаре "Интегрированные модели и мягкие вычисления в искусственном интеллекте" (Коломна, 2001, 2003), на XII Международной конференции "Интеллектуальные САПР" (Геленджик, 2002), на Международной ШЕЕ конференции "Искусственные интеллектуальные системы" ICAIS'2002 (Геленджик, 2002), на Втором российско-украинском семинаре "Интеллектуальный анализ информации ИАИ- 2002 (Киев, 2002), на Научной сессии МИФИ -2002 "Интеллектуальные системы и технологии" (Москва, 2002, 2003, МИФИ), на Международной конференции ТАС - "Теория активных систем" (Москва, 2001, ИПУ РАН), на II Международной конференции CASC-2002 "Когнитивный анализ и управление развитием ситуаций" (Москва, 2002, ИПУ РАН), на Международной научной школе МА БРК - "Моделирование и анализ безопасности, риска и качества в сложных системах" (Санкт-Петербург, 2001, 2002, ИПМ РАН), на Пятом Международном симпозиуме " Интеллектуальные системы" - INTELS'2002 - пленарный доклад (Калуга-Москва, 2002), на I и II Всесибирском конгрессе женщин-математиков (Красноярск, 2000, 2002, СО РАН), на Международной научно-технической конференции "Системные проблемы качества, математического моделирования и информационных технологий" (Сочи, 1999, 2000-пленарный доклад), на Российском научном симпозиуме "Современные проблемы информатики и кибернетики"- пленарный доклад (Сочи, 2001), на Всероссийской научно-технической конференции "Моделирование неравновесных систем" (Красноярск, 1999, 2000, 2001,

2002, СО РАН), на Международной конференции по проблемам управления, посвященной 60-летию ИПУ (Москва, 1999, ИПУ РАН), на Международной конференции "Континуальные логико-алгебраические исчисления и нейро-математика в науке, технике и экономике"- КЛИН (Ульяновск, 2001, 2002, 2003), на 8-ом Международном научно-техническом семинаре "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, 1999), на Всероссийском научно-практическом семинаре "Новые информационные технологии" (Москва, 2001, 2002, МГИЭМ), на Третьей Международной конференции "Измерение, контроль, информатизация" ИКИ-2002 (Барнаул, 2002), на Первой Международной конференции "Современные сложные системы управления -СССУ/ HTCS - High Technology Control Systems" (Липецк, 2002), на Всероссийских научно-технических конференциях "Автоматизация исследования, проектирования и испытания сложных систем" (Калуга, 1980 - 2002), на Международной конференции "Шаг в будущее" (Москва, 1995), на Международной конференции "Современные проблемы моделирования" (Киев, 1994), на Всесоюзном семинаре по автоматизированным обучающим системам (Киев, 1985), на Всесоюзных школах-семинарах по высокопроизводительным вычислительным системам (Москва, 1984; Чернигов, 1991), на Всесоюзных симпозиумах по математическому обеспечению (ИК АН УССР, Киев, 1974, 1983), на Всесоюзных конференциях " Применение микропроцессоров в управляющих вычислительных машинах и средах" (Рязань, 1979; Клайпеда, 1981; Ленинград, 1983; Ереван, 1986), на Всесоюзной конференции " Применение вычислительной техники в автоматизированном проектировании сложных систем" (Таллин,

1980), на Всесоюзных научно-технических совещаниях "Перспективы развития микропроцессорных систем" (Рига, 1980, 1981), а также на научных семинарах Российской ассоциации искусственного интеллекта и Российской ассоциации нейроинформатики (Москва), НИЦЭВТ (Москва), МЭИ (Москва), МГУ (Москва), МГИЭМ (Москва), Всесоюзного института электротехники (Рига), ГУП ОКБ "Спектр" (Рязань), МГТУ им. Н.Э. Баумана (Москва).

Публикации. По теме диссертации опубликовано 53 основных работы, 6 учебных пособий, одна монография, имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ (Роспатент), зарегистрировано 17 отчетов по НИР.

Структура и объем работы. Диссертация состоит из введения, шести глав, заключения, пяти приложений, содержит 436 страницы машинописного текста, 89 рисунков, 32 таблицы, библиографический список из 260 наименований.

Заключение диссертации по теме «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей», Комарцова, Людмила Георгиевна

Основные результаты работы заключаются в следующем.

1. Разработаны методы и алгоритмы, повышающие эффективность использования нейросетевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, и на их основе создан комплекс программных средств, обеспечивающий адаптацию, обучение, самообучение и модификацию нейросетевых и гибридных модулей обработки информации в процессе выработки и анализа решений с учетом специфики предметной области.

2. Разработаны принципы построения специализированной нейросетевой базы знаний для конкретной проблемной области и методы формирования нейронных сетей на основе предварительного обучения базовых нейросетевых и гибридных модулей, обеспечивающих их модификацию, обучение и адаптацию к решаемой задаче.

3. Решена задача настройки (автоматического формирования топологии) нейронного модуля и многомодульной нейронной сети на конкретную прикладную задачу, решаемую в ИСППР, на основе модифицированного конструктивного подхода и генетического алгоритма, экспериментальное исследование которых показало, что количество межнейронных связей в нейронном модуле уменьшается примерно на 30% по сравнению с полносвязной нейронной сетью, что позволяет, в свою очередь, уменьшить время распознавания и время обучения в сетях, использующих данный модуль. 4. Проведено теоретическое и экспериментальное исследование генетического алгоритма для обучения нейронной сети, являющегося альтернативой алгоритму обратного распространения ошибки (Back Propagation -BP), обеспечивающего увеличение скорости сходимости к глобальному минимуму ошибки обучения и уменьшение ошибки распознавания, а именно:

• на основе анализа естественных природных механизмов эволюции предложены, исследованы и реализованы новые операторы селекции хромосом, кроссинговера, хромосомной мутации, отбора, которые, в отличие от классических, повышают вероятность нахождения глобального экстремума функции ошибки нейронной сети со сложным ландшафтом;

• предложен, исследован и реализован многопопуляционный генетический алгоритм обучения нейронной сети, позволяющий, в отличие от известных, изменять процедуру обмена хромосом между популяциями, в зависимости от ситуации поиска, что повышает достоверность принимаемого решения;

• разработан, исследован и реализован двухэтапный алгоритм оптимизации, позволяющий за счет использования на первом этапе генетического алгоритма быстро локализовать область существования глобального экстрему

375 ма, а на втором за счет использования локального алгоритма оптимизации повысить точность нахождения экстремума;

• проведено экспериментальное исследование влияния различных генетических операторов на эффективность поиска и получены рекомендации о целесообразном их использовании в генетическом алгоритме при оптимизации функции ошибки нейронной сети.

5. Создана методологическая и инструментальная среда для построения нейронных сетей с требуемыми характеристиками из предварительно обученных и вновь разрабатываемых нейросетевых и гибридных модулей для конкретных приложений. В том числе:

• предложены и программно реализованы усовершенствованные нейросетевые классификаторы персептронного типа, позволяющие, в отличие от классификаторов, обучающихся по стандартному алгоритму BP, решить следующие задачи:

1) повысить скорость сходимости алгоритма обучения BP на 2530% за счет регулирования параметров обучения на основе нечеткой логики;

2) уменьшить ошибку распознавания на 30-40 % и время обучения в тысячу и более раз при той же обучающей выборке за счет разработки комбинированного генетического алгоритма с динамическим изменением параметров во время процедуры оптимизации на основе недетерминированного алгоритма поиска экстремума - алгоритма имитации отжига;

3) уменьшить время обучения нейронной сети за счет разработки алгоритма автоматического останова процедуры обучения, при этом число итераций для получения той же ошибки обобщения уменьшается примерно наполовину;

• проведен сравнительный анализ разработанных нейросетевых классификаторов и классификаторов, построенных на основе метода потенциальных функций и к- ближайших соседей:

1) наилучшим классификатором по проценту ошибок при распознавании является многослойный персептрон с алгоритмами обучения на основе двухэтапного генетического алгоритма и комбинированного алгоритма за счет свойств генетического алгоритма, заключающегося в более широком охвате области поиска глобального экстремума функции ошибки сети: по сравнению с методом k-ближайших соседей и потенциальных функций ошибка распознавания уменьшается примерно в 1,5 раза;

2) при использовании двухэтапного генетического алгоритма процент распознавания несколько выше (на 5-10%), чем у комбинированного алгоритма, т.к. на последней итерации при обучении НС происходит переключение на локальный алгоритм оптимизации, который обеспечивает большую точность;

3) время обучения классификаторов на основе генетических алгоритмов является наименьшим среди всех исследуемых классификаторов за счет высокой скорости сходимости генетического алгоритма при решении оптимизационных задач;

• предложен усовершенствованный алгоритм обучения нейронной сети Кохонена, позволяющий за счет введения в стандартный алгоритм механизма изменения радиуса окрестности выигрывающего нейрона и скорости обучения в среднем на 10 процентов уменьшить число ошибок распознавания и время обучения;

• предложен усовершенствованный алгоритм обучения нечеткой нейронной сети Кохонена, приводящий к более быстрому обучению, т.к. обеспечивает автоматическое управление как изменением скоростей обучения, так и окрестностью обновления, что, в конечном итоге уменьшает число итераций в среднем на 7-10%; достижение той же ошибки обучения достигается при меньшей выборке (в среднем в два раза меньше). Это позволяет рекомендовать нечеткую сеть Кохонена для прогноза возможных результатов при дефиците исходной информации;

• предложен нейросетевой способ реализации нечетких отношений и автоматического формирования функций принадлежности при нечетком выводе, позволяющий уменьшить трудоемкость нечеткого вывода;

• решена задача интерпретации результатов обучения нейронной сети, что позволяет строить "логически прозрачные" для пользователя нейронной сети и в явном виде давать объяснение этих результатов. Решение получено на основе разработки оригинального алгоритма формирования нечетких правил IF -THEN по примерам, который на основе заданной обучающей выборки позволяет формировать нечеткие продукционные правила. Исследована проблема устранения конфликтов при формировании правил IF - THEN.

6. Разработана методология анализа, оценки и оптимизации решений в ИСППР на основе методов моделирования. В том числе:

378

• предложен модульный подход к формированию имитационной модели, позволяющий уменьшить трудоемкость создания моделей исследуемых альтернативных вариантов объектов и, в отличие от обобщенной модели Бусленко Н.П., дающий возможность увеличить гибкость модели за счет пополнения и конкретизации базы имитационных модулей при решении реальных задач;

• разработаны принципы интеграции имитационных и аналитических моделей, что позволяет предварительно оценить значения параметров имитационной модели с помощью математических зависимостей для выбора наилучших сочетаний параметров и уменьшить число экспериментов на ЭВМ за счет сужения поискового пространства;

• на основе предложенных принципов разработаны три базовые теоретические модели, обеспечивающие возможность предварительной оценки временных параметров имитационной модели компьютерной сети, что экономит временные и ресурсные затраты на проведение экспериментов. Использование разработанных моделей, кроме того, существенно снижает сложность модели за счет замены ее отдельных фрагментов математическими зависимостями при моделировании;

• развит подход к управлению модельным экспериментом на основе методов комбинаторного и смешанного планирования экстремальных экспериментов, что позволяет: 1) проводить ранжирование и отбор информативных параметров имитационной модели; 2) снижать временные и ресурсные затраты на проведение экспериментов на инструментальной ЭВМ и оценку ре

379 зультатов моделирования; 3) повысить интеллектуальный потенциал проектировщика за счет предоставления ему средств автоматизированной статистической обработки результатов эксперимента на основе дисперсионного и регрессионного анализа;

• предложен новый подход к оптимизации параметров имитационной модели на основе генетического алгоритма, позволяющий: 1) в отличие от других методов оптимизации, применяемых в имитационном моделировании, находить множество локальных экстремумов (а в некоторых случаях и глобальный) показателя качества за полиномиальное время; 2) использовать для моделирования функции фитнесса нейронную сеть, что дает возможность обобщать результаты моделирования и существенно сокращать число имитационных экспериментов и время, затрачиваемое на оптимизацию. 7. Полученные в диссертационной работе результаты нашли применение при решении ряда важных практических задач, связанных с созданием вычислительных средств, работающих в реальном масштабе времени и предназначенных для обработки полетной и предполетной информации, поступающей от космических объектов (ГУП ОКБ «СПЕКТР»), модернизацией специализированных вычислительных систем, обслуживающих военные объекты (КНИИТМУ), разработкой информационно- вычислительных систем предприятий военно-промышленного комплекса (ОАО «Восход», ОАО «Тайфун»), созданием компьютерных сетей коммерческих организаций (научно-промышленная фирма «Эверест», Калужское Управление подземного хранения газа), а также внедрены в учебный процесс.

Накопленный опыт исследования позволяет наметить пути дальнейшего совершенствования разработанных и исследованных в диссертации нейросетевых и гибридных технологий.

Заключение

В рамках диссертационной работы проведено теоретическое обобщение и получено решение важной научно-технической проблемы создания методологической базы, моделей, методов, алгоритмов и программ интеллектуальной системы поддержки принятия решений нового типа, обеспечивающей обучение, адаптацию и модификацию баз знаний к проблемной среде с учетом неполноты исходной информации.

Список литературы диссертационного исследования доктор технических наук Комарцова, Людмила Георгиевна, 2003 год

1. Лрлазаров В.Л., Журавлев Ю.И., Ларичев О.И., Лохин В.М., Макаров И.М., Рахманкулов В.З., Финн В.К. Теория и методы создания интеллектуальных компьютерных систем // Информационные технологии и вычислительные системы.-1998.-№1.

2. Норенков И.П., Трудоношин В.А. Телекоммуникационные технологии и сети.- М: Издательство МГТУ им. Н.Э. Баумана.-1998.

3. Курейчик В.М. Генетические алгоритмы и их применение. Монография. Таганрог: Из-во ТРТУ.-2002.

4. Алиев Р.А., Абдулаев Т.С. Гибридная экспертная система для проектирования технической базы распределенной системы обработки данных "Экс-перт-сеть'7/ УС и М. -№1.-1991.

5. Попов Э.В., Фоминых И.Б., Кисель Е.Б., Шапот М.Д. Статические и динамические экспертные системы. Учебное пособие. -М.: Финансы и статистика. 1996.

6. Корячко В.П., Курейчик В.М., Норенков И.П. Теоретические основы САПР. -М.: Энергоатомиздат. 1987.

7. Пятибратов А.П. и др. Вычислительные системы, сети и коммуникации. Учебник для вузов. -М.: Финансы и статистика. -1998.

8. Курейчик В.М., Курейчик В.В. Эволюционные, синергетические и го-меостатические стратегии в искусственном интеллекте: сосотояние и перспективы // Новости искусственного интеллекта. -№3. -2000. -С.39-65.

9. Макаров И.М. и др. Теория выбора и принятия решений. -М.: Наука. -1982.

10. Трахтенгерц Э.А. Компьютерная поддержка принятия решений. — М.: Синтег. -1998.

11. Комарцова Л.Г. Использование нейросетевых методов для решения задач проектирования вычислительных систем (монография). Научное издание. -М.: Из-во МГТУ им. Н.Э. Баумана. -2000.

12. Ларичев О.И. и др. Новые возможности компьютерного обучения. // Вестник РАН. -1999. -Т.69. -№2.

13. Богуславский Л.Б., Дрожжинов В.И. Основы построения вычислительных сетей для автоматизированных систем. -М. : Энергоатомиздат.-1990.

14. Cavanagh J. Haw to design LANs with modeling and simulation // LAN Technology.-1990.-№ 12. -p.59-68.

15. Reynolds P.L. An expert system approach to private telecommunication network design // British Telecommunication Technology Journal. -1993. -Vol. 11. №.4. -p.44-52.

16. Тейз А., Грибомон П., Луи Ж. И др. Логический подход к искусственному интеллекту: от модальной логики к логике баз данных // Пер. с франц. -М.: Мир.-1998.

17. Искусственный интеллект. Справочник. Системы общения и экспертные системы. Кн.1. Под ред. проф. Попова Э.В. М: Радио и связь. 1990.

18. Искусственный интеллект. Справочник. Модели и методы. Кн.2. Под ред. проф. Поспелова Д.А. М: Радио и связь. 1990. -303 с.

19. Искусственный интеллект. Справочник. Программные и аппаратные средства. Кн.З. Под ред. проф. Захарова В.Н., проф. Хорошевского В.Ф. М: Радио и связь. 1990, с.287.

20. Ларичев О.И. Теория и методы принятия решений. — М.: Логос. -2002.

21. Moscr J.G. Integration of artificial intelligence and simulation in comprehensive decision support systems // Simulation. -V.47.-№6.-1992.

22. Fubo I. AI and simulation on Prolog Basis // Articial Intelligence, expert systems and languages in modeling and simulation. 1998. -p. 14-20.

23. Ford D.R., Schoer B.J. An expert manufacturing simulation system // Simulation. -V.47. -№5. -1987.33. http://www.netwizard.ru

24. Бутенко Д.В., Вагин B.H., Головина Е.Ю., Еремеев А.П., Курейчик В.М и др. Зачем нужны нетрадиционные логики в интеллектуальных САПР? // Новости искусственного интеллекта. -№3. -2000.

25. Клир Дж. Системология. Автоматизация решения системных задач. -М.: Радио и связь. -1990.

26. Вагин В.Н. Дедукция и обобщение в системах принятия решений. -М.: Наука, 1988.

27. Осипов Г.С. Приобретение знаний интеллектуальными системами. -М.: Наука. Физматлит. -1997.

28. Представление и использование знаний // Пер. с яп. под ред. Х.Уэно, М.Исудзуки. -М: Мир. -1989.

29. Поспелов Д.А. Ситуационное управление. Теория и практика. -М.: Наука.-1986.

30. Гаврилова Т.А., Хорошевский В.Р. Базы знаний интеллектуальных систем. -СПб.: Питер. -2000.

31. Минский М. Структура для представления знаний // Психология машинного зрения. Под ред. П. Уинстона. -М.: Мир. -1978. С. 249-339.

32. Quillian M.R. Semantic Memory // Minsky M. (ed.) Semantic Information Processing. Cambridge: MIT Press. -1968. P. 216-270.

33. Гладун В.П. Процессы формирования новых знаний. София: СД "Педагог".-1994.

34. Байдык Т.Н. Нейронные сети и задачи искусственного интеллекта. — Киев.: Наукова Думка. -2001.

35. Заде JI. Понятие лингвистической переменной и его применение к принятию приближённых решений / Пер. с англ. -М.:Мир. -1976.

36. Болотов А.А., Фролов А.Б. Классификация и распознавание в дискретных системах. -М.: Из-во МЭИ. -1997.

37. Айзерман М.А., Браверман Э.М., Розоноэр JI.H. Метод потенциальных функций в теории обучения машин. -М.: Наука. -1970.

38. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Поспелова Д.А. -М.: Наука. -1986.

39. Герман О.В. Введение в теорию экспертных систем и обработку знаний. -Минск.: Из-во "ДизайнПро". -1995.

40. Загоруйко Н.Г. Прикладные методы анализа данных и знаний. -Новосибирск.: Из-во Института Математики СО РАН. -1999.

41. Загоруйко Н.Г. Методы обнаружения закономерностей. М.: Знание. -1981.

42. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиций непрерывных функций одного переменного и сложения //Докл.АН СССР, 1957, т.114, №5, с.953-956.

43. Шапот М. Интеллектуальный анализ данных в системах поддержки принятия решений // Открытые системы. -1998. -№1.

44. Забежайло М.И. Data mining and knowledge discovery in database: предметная область, задачи, методы и инструменты // Сб. Трудов КИИ-98. -Пущино.-1998.

45. Загоровский И.М. Выбор алгоритма обучения в системах приобретения знаний из данных // Сб. Трудов КИИ-2000. -Переславль-Залесский. -2000.

46. Галушкин А.И. Теория нейронных сетей. -Кн. 1. -М.: ИПРЖР. -2000.

47. Галушкин А.И. Нейрокомпьютеры. -Кн. 3. -М.: ИПРЖР. -2000.

48. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры. -М.:Из-во МГТУ им. Н.Э. Баумана. -2002.

49. Головко В.А. Нейронные сети: обучение, организация, применение.-Кн.4. -М.: ИПРЖР. -2001.

50. Горбань А.Н. и др. Нейроинформатика. -Красноярск.: СО РАН. -1999.

51. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. -Новосибирск.: Наука. СО РАН. -1996.

52. Горбань А.И., Дунин-Барковский В.Л., Кирдин А.И. и др. // Сб. статей "Нейроинформатика".-Новосибирск.: Наука. Сибирское предприятие РАН.1998.

53. Голицын Г.А., Фоминых И.Б. Нейронные сети и экспертные системы: перспективы интеграции // Новости искусственного интеллекта. -1996. -№4.

54. Фоминых И.Б. Некоторые формальные аспекты информационного подхода к построению нейросетевых ЭС // Известия РАН: Теория и системы управления. -1999. -№5.

55. Харин Ю.С., Малюгин В.И. и др. Основы имитационного и статистического моделирования. -Минск.: Из-во "Дизайн ПРО". -1997.

56. Guariso G. Hitz М. Werthner Н. Experience in the development of advance modeling environment// Proc. ofEUROCAST-95. Austria. 1995. Springer Berlin.

57. Beck M.B. et al. Construction and evaluation of models of environment system//Modeling Change in Environmental system. Chichester. 1993.

58. Комарцова Л.Г. Оптимизация вычислительной системы на ее имитационной модели. // Вестник МГТУ им. Н.Э.Баумана, -сер. "Приборостроение".1999. -№2. -С.48-60.

59. Комарцова JI.Г. Совершенствование методики активного программного моделирования на этапе структурного проектирования ЦВМ. Автореферат диссертации на соискание уч. ст. к.т.н. -М. МЭИ., 1975.

60. Круглое В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. -М.: Телеком. -2001.

61. Нейронные сети. Statistical Neural Networks // Пер. с англ. -М.: Горячая линия -Телеком. -2000.

62. Sarle W. Neural Networks and Statistical models. In Proc. of 19-th Annual SAS users group International Conferense. -1994.ftp:// ftp.sas.com/pub/neural/inter95.ps

63. Квичанский A.B., Терехов C.A. Методы нейросетевого имитационного моделирования в комплексе NIMEA // Нейроинформатика и ее приложения. Тез доклада IV Всерос. Семинара. -КГТУ. -1996.

64. Francesko М. Functional network. A new computational framework for specification, simulation and algebraic manipulation of modular neural systems. PhD Thesis University of Geneva. -1994.

65. Smieja F., Multiple Network System (MINOS) modules: task division and module discrimination. In Proc. of 8-th AISB Conf. on Artificial Intelligence. Leeds.-1991.

66. Jabri M. A use guide to the MUME system / Technical report System engineering and design automation laboratory. University of Sydney. -1992.

67. Fuller R. Hybrid systems, http ://www.abo.fi/~rfuller.

68. Bauer P., Nouak S., Winkler R. A brief course in fuzzy logic and fuzzy control.-1996 //ftp://ftp.flll.uni-linz.ac.at/pub/info

69. Wakami N. Engineering application of fuzzy systems -Fuzzy Control and Neural Networks //Japanese-European Symposium on Fuzzy Systems in Berlin. -1992.

70. Pagni A. et al. WARP: Weight Associative Rule Processor // An Innovative Fuzzy Logic Controller. IIZUKA'92-2-ND International Conference on Fuzzy and Neural Network, 1992.

71. Bonarini A. Evolutionary Learning of Fuzzy rules (ELF): competition and cooperation, In Pedrycz, W. (Ed.), Fuzzy Modelling: Paradigms and Practice, Kluwer Academic Press, Norwell. -1996.-P. 265 284.

72. Ларичев О.И. Объективные модели и субъективные решения. -М.: Наука.-1987.

73. Валькман Ю.Р. Интеллектуальные технологии исследовательского проектирования. -Киев.: Port-Royal. -1998.

74. Бурков В.И., Новиков В.А. Введение в теорию активных систем. -М.:ИПУ. -1996.

75. Иордан Э., Аргила К. Структурные модели в объектно ориентированном анализе и проектировании. -М.: Из-во Лори.-1999.

76. Норенков И.П. Основы автомтизированного проектирования. -М: Из-во МГТУ им. Н.Э. Баумана. -2000.

77. Цой Е.В., Юдин А.Д., Юдин Д.Б. Проблемы дополнения и синтеза знаний //Автоматика и телемеханика. -1994. -№7.

78. Нариньяни А.С. НЕ факторы: неточность и недоопределенность -различие и взаимосвязь // Изв. РАН: Теория и системы управления. -2000. -№5.

79. Еремеев А.П. Экспертные модели и методы принятия решений. -М.: МЭИ.-1995.

80. Тарасов В.Б. От многоагентных систем к интеллектуальным организациям: философия, психология, информатика. -М.:Эдиториал УРСС. -2002.

81. Комарцова Л.Г. Роль новых информационных технологий в развитии интеллектуальных САПР // Труды международной конференции CAD/CAM/PDM-2002. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2002. -С.47-58.

82. Комарцова Л.Г. Интегрированная САПР распределенных вычислительных систем // Труды международной конференции CAD/CAM/PDM-2001. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2001. -С.25-35.

83. Yoshikawa Н. General design theory as a formal theory of design //Intelligent CAD //Ed. by H.Yoshikawa, D. Gorsard. -Amsterdam: Elsevier Science Publishers. -1999.

84. Advances in formal design methods CAD //Ed. by J. Gero. -Melbourne:Chapman and Hall.-1996.

85. Поспелов Д.А. Моделирование рассуждений (опыт анализа мыслительных актов). -М.: Радио и связь. 1989.113. htpp://www.uni-koblenz.se/~kyt/Learn/Textbook/nodel95.html

86. Hasson М.Е. Fundamentals of Artificial Neural Networks (Chapter 5: Genetic Algorithms for Optimization of Neural Networks), The MIT Press Cambridge, Massachusetts, London, 1995.

87. Rumelhart D.E. et al. Parallel Distributed Processing: Exploration in the Micro Structure of Cognition. Vol. I: Foundation MITPress. Cambridgre. MA. -1986.

88. Aleksander Igor, Morton Helen. An introduction into neural computing. London.: TJ Press Ltd. -1991.

89. Huang W.Y., Lippmann R.P. Neural net and traditional classifiers // Neural Information Processing Systems: 1st IEEE Conf. / Ed. D.Z.Anderson, New York, Amer.Inst. Phys.-1988. -p.387-396.

90. Аркадьев А.Г., Браверман Э.М. Обучение машины классификации объектов. -М.: Наука. Физматлит. -1971.

91. Kirkpatrick S., Gellat C.D. Vecchi M. Optimization by Simulated Annealing. Sciece. -1983.-vol. 220.

92. Laarhoven P., van Aarts E. Simulated Annealing: Theory and Application. D. Riedel, Dordrecht. Holland. -1987.

93. Sechen C. Lee K. -W. An improved simulated annealing algorithm for row-based placement //Proc. of the IEEE International Conf. on CAD.-1987.

94. Metropolis N. and al. Equation of calculation by fast computing machines. -J. of Chem. Phys. -21(6). -1998.

95. Хинтоп Дж. Обучение в параллельных сетях. В кн. "Реальность и прогнозы искусственного интеллекта"// Под ред. Стефанюка В.Л. -М.:Мир.-1987.

96. Lin С.Т. Neural Fuzzy Control System with Structure and Parameter Learning. Singapore: World Scientific. -1994.

97. De Groot C. Times series analysis with connectionist networks. Proc. PASE 1991, Zurich, Dec. Parallel problem solving-applications in statistics and economics.

98. Бэстенс Д., Ван Ден Берг, Д. Вуд Нейронные сети и финансовые рынки. -М.: ТВП. -1997.

99. Wasserman P.D. Neural computing. Theory and practice. -(Van Nostrand Reinold) ANZA Research, Inc., New York. 1989.

100. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация // Пер. с англ. -М.: Мир.-1985.

101. Реклейтис А., Рейвиндран А. и др. Оптимизация в технике.-В 2-х кн.-М.:Мир. -1988.

102. Батищев Д.И. Поисковые методы оптимального проектирования. -М.:Советское радио. -1975.

103. Миркес Е.М. Нейрокомпьютер. Проект стандарта. Новосибирск.:Наука.-Сибирское отделение РАН. -1999.

104. Сигеру Омату, Морзуки Холид, Рубея Юсов. Нейроуправление и его приложения. -Кн. 2. -М.: ИПРЖР. -2000.

105. Lin С.Т. Neural Fuzzy Control System with Structure and Parameter Learning. Singapore: World Scientific. -1994.

106. Lin C.-T., George Lee C.S. Neural Fuzzy Systems. A Neuro Fuzzy Synergism to Intelligent Systems. Prentice Hall P T R, Upper Sandle River, NJ 07458. -1997.

107. Комарцова Л.Г. Исследование возможностей нейронных сетей для создания проекта локальной вычислительной сети // Нейрокомпьютеры. Разработка и применение. -М.:Радиотехника.-2001.-№6.

108. Комарцова Л.Г. Двухэтапный алгоритм обучения нейронной сети на основе генетического поиска // Нейрокомпьютеры. Разработка и примене-ние.-М.: Радиотехника.-2000. -№1.

109. Комарцова Л.Г. Управляемый алгоритм обучения нейронной сети на основе генетического поиска и имитации отжига // Сб. докладов VII Всероссийской конференции "Нейрокомпьютеры и их применение". -М.: Радиотехника. -2001.

110. Комарцова Л.Г. Сравнительный анализ нейросетевых классификаторов //Научная сессия МИФИ-2002. Сб. научных трудов 4 -ой Всероссийской конференции "Нейроинформатика-2002". -В 2 частях. -4.2. -М.:МИФИ.-2001.

111. Шумский С.А. Байесова регуляризация обучения // Научная сессия МИФИ-2002. Сб. научных трудов 4 -ой Всероссийской конференции "Нейроинформатика-2002". -В 2 частях. -4.1. -М.:МИФИ.-2002.

112. Kussul Е.М., Baidyk T.N., LukowichV.V., Rachkovskij D.A. Adaptive neural network classifier with multifloat input coding // Proc.of 6-th Int. Conf. "Neu-roNimes-93". -Nimes, France. -1993.

113. Тихонов A.H., Арсенин В.Я. Методы решения некорректных задач.-М:Наука.-1979.

114. Бендат Дж., Пирсол А. Измерение и анализ случайных процессов. -М: Мир.-1974.

115. Борель Э., Дельтейл Р., Юрон Р. Вероятности, ошибки. / Пер. с франц. -М.: Статистика. -1972.

116. Girosi F., Jones М., Poggio Т. Regularization. Theory and Neural Networks.

117. Kohonen T. Self-organization and Associative Memory. Springer-Verlag: New York.-1984.

118. Комарцова Л.Г. Анализ самоорганизующейся сети Кохонена для решения задач распознавания // Нейрокомпьютеры. Разработка и применение. -М.Радиотехника. -2001. -№12. С. 3-9.

119. Kosko В. Fuzzy Engineering. New Jersey: Prentice-Hall. -1997.

120. Жожикашвили В.А., Вишневский B.M. Сети массового обслуживания. Теория и применение к сетям ЭВМ. -М.: Радио и связь. -1988.

121. Богуславский Л.Б. Моделирование многосерверных локальных сетей // Автоматика и телемеханика. -№8. -1998. -С. 109-123.

122. Феррари Д. Оценка производительности вычислительных систем. -М.:Мир.-1981.

123. Липаев В.В., Яшков С.Ф. Эффективность методов организации вычислительного процесса в АСУ. -М.:Статистика. -1975.

124. Зайченко Ю. П., Гонта Ю.В. Структурная оптимизация сетей ЭВМ. -Киев.: Техника. -1986.

125. Kleinrock L., Kermani P. State Flow Control in Store-and-forward Computer Networks //IEEE Trans. -1988. -Vol.2. P.271-279.

126. Комарцова Л.Г. Методика имитационного моделирования вычислительных систем с использованием нейронной сети для обобщения результатов. Известия вузов, -сер. Приборостроение. 2001. -Т.44. -№2.С.31-35.

127. Круг Г.К. Теоретические основы планирования экспериментальных исследований. -М.: МЭИ.-1974.

128. Маркова Е.В., Лисенков А.Н. Комбинаторные планы в задачах многофакторного эксперимента. -М.:Наука.-1979.

129. Thgoh Е. Semantic extraction using neural network modeling and sensitivity analysis. Institute of System Science. Syngapore. -1991.

130. Шигин А.Г. Цифровые вычислительные машины. -М.:Энергия.-1971.

131. Miller W., Glanz F., Kraft L. CMAC: An associative neural network alternative to back propagation // Proc. of the IEEE. -1990. -V.78. -N 10. -P. 1561-1567.

132. Majors M. Stori J. Cho D. -I. Neural network control of automatic systems // IEEE Control Systems. -1994. -V.14. -N 3.- P. 31-36.

133. Аведьян Э.Д. Ассоциативная нейронная сеть СМАС // Сборник статей "Проблемы построения и обучения нейронных сетей". -М.: Машиностроение. -1999.

134. Prechelt J. A set of neural network benchmark problems and benchmarking rules. "Tech. Rep. 21/94. Fakultat fur Informatik Universitat Kaflsrube. -1994.

135. Towell G. Knowledge-Based Artificial Neural Networks //Artificial Intelligence. 1994. -№7. -P. 119-165.

136. Orsier В., Amy.B., Rialle V. A study of the hybrid system SYNHESIS. In Proc. of ECAI-94. Amsterdam. -1994.

137. Lim T.S., Loh W.Y. Shih Y.S. An empirical comparison of decision trees and other classification methods. Technical Report 979. Department of Statistics. University of Wiscosin. Madison. Wisconsin. -1997. http:// www.stat.wisc.edu/ -limt/compare.ps

138. Хакен Г. Синергетика. Иерархия неустойчивостей в самоорганизующихся системах и устройствах / Пер. с англ. -М.: Мир.-1985.

139. Kosko В. Neural networks and fuzzy system . Prentice Hall, Englewood Cliffs. N.J. 1992.

140. Ярушкина Н.Г. Мягкие вычисления в автоматизированном проектировании //Труды КИИ'2000. -Т.2. -С.541-548.

141. Нанс Б. Компьютерные сети. / Пер. с англ. -М.: Бином.-1995.

142. Нильсон Н. Принципы искусственного интеллекта. Методы поиска решений. М : Мир.-1972. -234 с.

143. Kinderman J., Hinden A. Inversion of Neural Networks by Gradient Descent // Parallel Computing. №14. -1990. -P. 277-286.

144. Комарцова Л.Г. Методы и модели в системах поддержки принятия решений на начальном этапе проектирования распределенных вычислительных систем // Труды Международной конф. "Lyap-2001", поев, памяти Ляпунова А.А.-Новосибирск: СО РАН. -2001. -С.292-297.

145. Pal S.K. Genetic Algorithm's with Fuzzy Fitness Function for Object Extraction Using Cellular Networks // Fuzzy Sets & Systems. -1994. Vol. 65. - P. 126139.

146. Ida K., Gen M. Solving Multicriteria Solid Transportation Problem with Fuzzy Numbers by Genetic Algorithm // Proc. of EUFIT'95, Aahen. 1995.

147. Machado R. Evolutive Fuzzy Neural Networks // Proc. of the 1992 IEEE Int. Conf. on Fuzzy Systems, San Diego, 1992.

148. Karr C. Genetic Algorithms for Fuzzy Controller // AI Expert. -1998. -Vol. 6. P. 26-33.

149. Осовский С. Нейронные сети для обработки информации /Пер. с польского. -М.: Финансы и статистика. -2002.

150. Averkin A.N. Expert Oriented Fuzzy Logic's Acquisition in Soft Computing System // Труды Международного семинара "Мягкие вычисления-96". Казань. КГТУ.-1996. -С. 15-19.

151. Осипов Г.С. Динамика систем, основанных на знаниях // Известия РАН. Теория и системы управления. -1998. -№5. -С.24-28.

152. Локтев А.Г. Выбор коммутаторов // Сети и телекоммуникации. -№2. -2001.

153. Комарцова Л.Г. Математические модели вычислительных систем в интерактивном режиме. // Методы исследования и проектирования сложных технических систем. Сб. научных трудов. -М.: МГТУ им. Н.Э. Баумана. -1997. -вып.570. С.19-30.

154. Бусленко Н.П. Моделирование сложных систем. -М.: Наука. -1978.

155. Андрейчиков А.В., Андрейчикова О.Н. Компьютерная поддержка изобретательства. М.: Машиностроение. -1998.

156. Саймон Г. Науки об искусственном // Пер. с англ. -М.: Мир. -1972.

157. Розенблатт Ф. Принципы нейродинамики. М.: Мир. -1965.

158. MacGarry К., Wermter S. Hybrid neural system: from simply coupling to fully integrated neural network // Neural Coupling Surveys. -1999. -№ 2. -P. 6293.

159. Torvell G., Shavlik W. The Extraction of Refined Rules from Knowledge -Based Neural Networks // Machine Learning. 1993. -№13. -P. 71-101.

160. Mahoney J., Combining Symbolic and Connectionist Learning Methods to Refine Certain by Factor Rules Bases. Ph. D. Thesis Department of Computer Sciences. University of Texas at Austin. 1996.

161. Parsaye K. Characterization of data mining technologies and process // Journal of Data Warehousing. -1998. -№1.

162. Пупков К.А. Динамические экспертные системы в управлении // Изв. Вузов.-Приборостроение. -1996. -№8. -С. 39-50.

163. Попов Э.В. Корпоративные системы управления знаниями // Новости искусственного интеллекта. -2001. -№1. -С. 14-25.

164. Hecht-Nielsen R. Kolmogorov's Mapping Neural Network Existence Theorem// IEEE First Annual Int. Conf. on Neural Networks, San Diego, 1987.- Vol. 3.-P. 11-13.

165. Амосов H.M. Алгоритмы разума. -Киев.: Наукова думка.-1979. 86 с.

166. Нейрокомпьютеры и интеллектуальные роботы // Под ред. Амосова Н.М. -Киев. -Наукова думка. -1994.

167. Хыобел Д. Глаз, мозг, зрение. -М. -Мир. -1990.

168. Комарцова Л.Г. Перспективы использования новых технологий проектирования // Информационные технологии в проектировании и производстве. -Научно-техн. журнал.: ГУП "ВИМИ".-М.-2000.-№1.-С. 34-38.

169. Комарцова Л.Г. Нейросетевой метод извлечения знаний для мягкой экспертной системы // Научная сессия МИФИ -2001. Сб. научных трудов 3 Всероссийской конференции "Нейроинформатика-2001". -В 2 частях. -4.2. -М.-.МИФИ.-2001. С. 124 -129.

170. Goldberg D.E. Genetic algorithm in search, optimization and machine learning. -New York: Addison-Wesley Publishing Company.-Inc. -1989.

171. Practical handbook of genetic algorithm // Ed. By T.I. Chambers.-Washington. USA.: CRC Press. -1995.

172. Foundation of Genetic Algorithms. Edited by Laurence Davis. Van Nostrand Reynold Publishers. New York. -1991.

173. Foundation of Genetic Algorithms. Edited by Rawling Gregory. Morgan Kaufman Publishers. San meteo. California.-1991.

174. Кофанов Ю.Н., Комарцова Л.Г., Голубин A.B. Интерактивная среда для исследования генетических алгоритмов оптимизации // А.С. об официальной регистрации программ для ЭВМ. -РОСПАТЕНТ. №2002611145. -2002.

175. Ратнер А.Н. Генетика. Молекулярная кибернетика. -Новосибирск.: Наука. -2002.

176. Комарцова Л.Г., Солодовников А.Ю. Нечеткий вывод в системах поддержки проектирования корпоративных сетей // Информационные технологии. М.: Машиностроение. - 2003. №2.

177. Komartsova L.G. Use of New Information Technologies in LAN's Designing // Proc. of IEEE Int. Conf. on Artificial Intelligence Systems. -Los Alamitos, California.-2002. -P.438-440.

178. Komartsova L.G. Research of a Genetic Algorithms Designer // Proc. of IEEE Int. Conf. on Artificial Intelligence Systems. -Los Alamitos, California.-2002. -P.395 -397.

179. Комарцова Л.Г. Поисковое проектирование распределенных вычислительных систем с использованием генетического алгоритма // Информационные технологии. -М.: Машиностроение. -2000. -№5. С.25-30.

180. Олифер В.Г., Олифер Н.А. Компьютерные сети. Принципы, технологии, протоколы. -Санкт-Петербург: Питер.-2001.

181. Телекоммуникационные решения для промышленных предприятий (обзор компании Ай Ти) // Сеть. -№ 8-9. -1999.

182. Прикладные нечеткие системы // Под редакцией Тэрано Т. -Пер. с англ. -М.:Мир. -1993.

183. Kasabov N. Evolving connectionist and fuzzy connectionist systems theory and applications for adaptive on-line intelligent systems // In Neuro-Fuzzy Techniques for Intelligent Information Systems. -Physic Verlag (1999). - P. 111146.

184. Комарцова Л.Г. Нейросетевые технологии в задачах проектирования корпоративных сетей // Информационные технологии в проектировании и производстве. -Научно-техн. журнал.: ГУП "ВИМИ".-М.-2000.-№3.-С. 47-50.

185. Комарцова Л.Г. Исследование алгоритмов обучения многослойного персептрона // Нейрокомпьютеры. Разработка и применение. -М.: Радиотех-ника.-2002. -№12.-С. 15-21.

186. Краснощеков П.С., Федоров В.В., Флеров Ю.А. Элементы математической теории принятия проектных решений // Автоматизация проектирования. 1997. - №1. -С.5-23.

187. В.А. Вязгин, В.В. Федоров Математические методы автоматизированного проектирования. -М.: Высшая школа. 1989.

188. Комарцова Л.Г. Компьютерные методы генерации решений на основе самоорганизующихся нейронных сетей // Новости искусственного интеллекта. -М. -2002. -№3. -С. 23-29.

189. Месарович М., Мако Д., Такахара И. Теория иерархических многоуровневых систем.-М.-Мир.-1973.

190. Whitley D., Starkweather Т., Bogart С. Genetic algorithms and neural networks: optimizing connections and connectivity // Parallel Computing, 14:347361, 1990.

191. Bartlett P., Downs T. Training a neural network with a genetic algorithm // Technical Report, Dept. ofElec. Eng., Univ. of Queensland, January 1990.

192. Fogel D., Fogel L., Porto V. Evolving neural networks // Biological Cybernetics, 63, 1990, pp. 487-493.

193. Barren A. Approximation and estimation bounds for artificial neural networks //Proceedings of the Fourth Annual Workshop on Computational Learning Theory, 1991, pp.243-249.

194. Barren A. Complexity Regularization with Application to Neural Networks // Nonparametric Functional Estimation and Related Topics, Roussas G.,editor, Kluwer Academic Publishers, 1991,pp.561-576.

195. Moody J. The Effective Number of Parameters: An Analysis of Generalization and Regularization in Nonlinear Learning Systems // Moody, J.E., Hanson, S.J., and Lippmann, R.P., Advances in Neural Information Processing Systems 4,1992, pp. 847- 854.

196. Umnov N., Orlov S., Sannikov A. A priori NN structure selection using information about the training data // International Conference on Information Processing by Neural Networks '96. 1996.

197. Torres-Moreno J. M. Apprentissage et generalisation par des reseaux de neurones : etude de nou'ueuux u.lgo'n.th'rnes con.itructifs. II PhD thesis, de l'Institut National PolytechniquedeGrenobire,1997.

198. Ash Т. Dynamic Node Creation in Back-Propagation Networks. II Connection Science, V. 1, 1989.

199. Fahlman S.E. and Lebiere C. The cascade-correlation learning architecture. II In Advances in Neural Information Processing II, P. 524 532, 1990. (ftp://archive.cis.ohio-state.edu/pub/neuroprose/fahlman.cascor-tr.ps.gz).

200. Treadgold, N.K and Gedeon T.D. Exploring Architecture Variations in Constructive Cascade Networks. II Proc. Int. Joint Conf. on Neural Networks, Anchorage, P. 343 348, 1998. (http://www.cse.unsw.edu.au/ nickt/doc/tower.ps).

201. Treadgold N.K. and Gedeon T.D. A Cascade Network Algorithm Employing Progressive RPROP. II Int. Work Conf. on Artificial and Natural Neural Networks, Lanzarote, P. 733 742, 1997. (http://www.cse.unsw.edu.au/ nickt/doc/casper.ps).

202. Yao X. A review of evolutionary artificial neural networks // International Journal of Intelligent Systems, 8(4):539-67, 1993.

203. Harp S., Samad Т., Guha A. Designing application-specific neural networks using the genetic algorithm // In D. S. Touretzky, editor. Advances in Neural Information Processing Systems 2, pp. 447-454. Morgan Kaufmann, San Mateo, С A, 1990.

204. Wilson S. Pcrceptron rcdux: emergence of structure // Physica D, 42:249-256, 1990.

205. Тютерев B.B. Алгоритм эволюционного наращивания нейронной сети Сб. научных трудов 3-ей Всероссийской конференции "Нейроинформатика -2001 ".-М.:МИФИ.-2001 .-С. 174-179.

206. Mandischer М. Representation and evolution of neural networks // Proceedings of the Conference on Artificial Neural Nets and Genetic Algorithms, pp. 643-649. Springer Verlag, 1993.

207. Hancock P. Coding Strategies for Genetic Algorithms and Neural Nets // PhD thesis, Department of Computing Science and Mathematics, University of Stirling, 1992.

208. Thierens D., Suykens J., Vandewalle J., De Moor B. Genetic weight optimization of a feedforward neural network controller // Proceedings of the Conference on Artificial Neural Nets and Genetic Algotithms, pp. 658-663. Springer Verlag, 1993.