Интеллектуальная система моделирования коллективного принятия решений для сложной транспортно-логистической задачи тема диссертации и автореферата по ВАК РФ 05.13.17, кандидат технических наук Листопад, Сергей Викторович

• Листопад, Сергей Викторович
• кандидат технических наук
• 2012

Оглавление диссертации кандидат технических наук Листопад, Сергей Викторович

СОДЕРЖАНИЕ

1 СИСТЕМЫ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ — ИНСТРУМЕНТ

КОЛЛЕКТИВНОГО РЕШЕНИЯ ЗАДАЧ

1.1 Особенности сложной транспортно-логистической задачи

1.2 Концептуальная модель коллективного принятия решений

1.3 Интегрированные методы компьютерного моделирования процессов и явлений коллективного принятия решений

1.4 Проблемы коллективного принятия решений и задачи диссертационной работы

2 МОДЕЛИРОВАНИЕ СЛОЖНОЙ ТРАНСПОРТНО-ЛОГИСТИЧЕСКОЙ ЗАДАЧИ

2.1 Мера сложности моделирования задач

2.2 Классификация транспортно-логистических задач по сложности моделирования

2.3 Условия сложной транспортно-логистической задачи

3 МОДЕЛИРОВАНИЕ КОЛЛЕКТИВНОГО РЕШЕНИЯ СЛОЖНОЙ ТРАНСПОРТНО-ЛОГИСТИЧЕСКОЙ ЗАДАЧИ

3.1 Концептуальная модель самоорганизации в системах поддержки принятия решений на основе анализа целей

3.2 Гибридная интеллектуальная многоагентная система с самоорганизацией

3.3 Модель рассуждений агента, принимающего решения

3.4 Метод моделирования процессов самоорганизации в системах поддержки принятия решений с использованием гибридной интеллектуальной многоагентной системы

4 ГИБРИДНАЯ ИНТЕЛЛЕКТУАЛЬНАЯ МНОГОАГЕНТНАЯ СИСТЕМА С САМООРГАНИЗАЦИЕЙ ДЛЯ РЕШЕНИЯ СЛОЖНОЙ ТРАНСПОРТНО-ЛОГИСТИЧЕСКОЙ ЗАДАЧИ

4.1 Функциональная структура системы

4.2 Выбор среды разработки

4.3 Методика применения системы при решении сложной транспортно-логистической задачи

5 ИССЛЕДОВАНИЕ ЯВЛЕНИЙ И ПРОЦЕССОВ КОЛЛЕКТИВНОГО ПРИНЯТИЯ РЕШЕНИЙ В ПРОГРАММНОМ ПРОДУКТЕ ТРАНСМАР НА ПРИМЕРЕ СЛОЖНОЙ ТРАНСПОРТНО-ЛОГИСТИЧЕСКОЙ ЗАДАЧИ

5.1 Цели, задачи и организация экспериментов

5.2 Результаты и анализ вычислительных экспериментов

5.3 Оценка экономических показателей практического использования программного продукта ТРАНСМАР

ЗАКЛЮЧЕНИЕ

СПИСОК ЛИТЕРАТУРЫ

ПРИЛОЖЕНИЕ А

ПРИЛОЖЕНИЕ Б

149

Список сокращений

ВЗК — вероятностная задача коммивояжера

ГиИМАС — гибридная интеллектуальная многоагентная система

ГиИС — гибридная интеллектуальная система

ГСМ — горюче-смазочные материалы

ДЗК — динамическая задача коммивояжера

ДП — детерминированная переменная

ЗКВО — задача коммивояжера с временными окнами

ИИ — искусственный интеллект

ИЭС — интегрированная экспертная система

КЗК — классическая задача коммивояжера

КСППР — компьютерная система поддержки принятия решений

ЛПР — лицо, принимающее решения

MAC — многоагентная система

МФПС — метод формализованного представления систем

ОЗК — обобщенная задача коммивояжера

ОУ — объект управления

ГШ — программный продукт

CTJI3 — сложная транспортно-логистическая задача

СППР — система поддержки принятия решений

СП — стохастическая переменная

ACL — Agent communication language

ADK — Agent development kit

COOL — Coordination language

JADE — Java agent development framework

KQML — Knowledge query manipulation language

MADKit — Multi agent development kit

MASIF — Mobile agent system interoperability facilities

OMG — Object management group

FIPA — Foundation for intelligent physical agents.

Введение диссертации (часть автореферата) на тему «Интеллектуальная система моделирования коллективного принятия решений для сложной транспортно-логистической задачи»

Введение

Результаты информатики за последние полвека со всей очевидностью показали, что применение на практике методов моделирования принятия решений, развитых в рамках парадигмы рационализма и редукционизма, не всегда дает корректные результаты [1 - 4]. Дело в том, что задачи из практики принятия решений — сложные, состоящие из множества взаимосвязанных, взаимозависимых частей, и для их решения требуются знания различных научных школ. В практике принятия решений сложные задачи по-прежнему решаются «вручную» системами поддержки принятия решений — коллективами экспертов под управлением лица, принимающего решения.

В СППР не только снижается сложность проблемы делением ее на части между квалифицированными специалистами, но и организуется несколько линий обсуждения для получения общего решения-комбинации [1]. При этом возникают многочисленные и разнообразные взаимосвязи между экспертами, что приводит к самоорганизации коллектива. Всякий раз, когда возникает задача, СППР, работая с «нуля», вырабатывает новый метод ее решения. По сути, это означает, что в СППР практикуется принцип синтеза метода решения сложной задачи комбинированием разнородных знаний и линий рассуждений экспертов.

В то время как коллективы людей давно научились вырабатывать и применять новые методы к решению сложных задач, в информатике компьютеры по-прежнему используются как инструмент реализации уже известных и ограниченных по своим возможностям инструментариев [1]. Таким образом, актуально создание методов компьютерного моделирования поведения систем поддержки принятия решений в процессе самоорганизации, что расширит класс задач, решаемых автоматизированно с использованием парадигмы компьютерного синтеза метода решения задачи из ограниченного набора инструментариев.

Теоретические основы комбинированных моделей для машинного синтеза новых динамично изменяемых методов решения задач рассматривались в работах по синергетическому искусственному интеллекту (многоагентные системы, гибридные интеллектуальные системы, интегрированные экспертные системы и др.). Тем не менее вопросы сложности разработки информационных моделей задач с

разнородными знаниями, построения новых методов с достоинствами гибридных и многоагентных систем, а также создания и исследования функционирования программных продуктов, имитирующих поведение коллектива людей, решающего сложные задачи в условиях разнообразия информации, исследованы недостаточно.

В этой связи можно сформулировать актуальную научно-техническую задачу повышения эффективности разработки информационных интеллектуальных систем и качества результатов автоматизированного решения сложных задач в условиях разнообразия информации, что снижает временные затраты на разработку системы и повышает эффективность системы управления путем сокращения потерь от ошибочных и нерелевантных сложности ситуации индивидуальных решений.

Выполнение работы связано с плановыми исследованиями Калининградского филиала ИПИ РАН, проводимыми в рамках Программы фундаментальных научных исследований государственных академий наук на 2008 - 2012 годы, утвержденной распоряжением Правительства Российской Федерации от 27.02.2008 г. № 233-р (направления 27, 28). Гибридная интеллектуальная многоагентная система для решения сложной транспортно-логистической задачи и программный продукт «Транспортный маршрутизатор ТРАНСМАР» версия 1.1, реализующий ее, были разработаны в Калининградском филиале ИПИ РАН в рамках проекта «Альянс» (2010 - 2011 гг.), а также тесно связанного с ним проекта «Гибрид-функционал» (2007 - 2009 гг.). Особенность ГиИМАС — использование взаимодействующих агентов интеллектуальных технологий, которые вместе способны имитировать несколько разнородных линий рассуждений. Благодаря наличию агента, принимающего решения, система может перестраивать свою архитектуру и менять алгоритм своего функционирования, т.е. проявлять признаки самоорганизации, а сам агент, принимающий решения, способен обучаться в ходе эксплуатации системы. В качестве примера сложной задачи в диссертации рассматривается сложная транспорт-но-логистическая задача доставки грузов клиентам.

В первой главе проводится анализ особенностей СТЛЗ, вводится и исследуется концептуальная модель коллективного принятия решений, дается аналитический обзор интегрированных методов компьютерного моделирования явлений и процессов коллективного принятия решений, выявляются проблемы коллективного принятия решений и ставятся задачи диссертационного исследования.

Вторая глава посвящена разработке формализованной меры сложности моделирования (разработки модели) задач, предлагается классификация транспортно-логистических задач по сложности моделирования, формулируются условия СТЛЗ.

В третьей главе разработаны модель ГиИМАС с самоорганизацией, модель рассуждений агента, принимающего решения, метод моделирования процессов самоорганизации в СППР с использованием ГиИМАС.

В четвертой главе предлагается функциональная структура системы, выбирается программная среда и разрабатывается методика применения системы для решения СТЛЗ.

В пятой главе ставятся цели, задачи, рассматривается организация лабораторных экспериментов, оцениваются экономические показатели практического использования ПП «Транспортный маршрутизатор ТРАНСМАР».

Цель диссертационной работы состоит в том, чтобы для решения поставленной научно-технической задачи: 1) получить новые знания о сложности моделирования задач; 2) разработать и исследовать метод, модели, алгоритмы интегрированного, гибридно-многоагентного представления знаний о сложной задаче; 3) создать и исследовать ПП, имитирующий поведение коллектива людей, вырабатывающих и применяющих метод решения сложной задачи над различными линиями рассуждений экспертов.

Задачи исследования:

1. Выявление объективных параметров классификации задач по признаку сложности моделирования и разработка меры сложности моделирования задач;

2. Исследование явлений и процессов самоорганизации в СППР;

3. Разработка метода моделирования процессов самоорганизации в системах поддержки принятия решений с использованием ГиИМАС;

4. Извлечение знаний о поведении ЛПР по управлению коллективом в СППР с использованием компьютерного моделирования;

5. Разработка и исследование программной реализации ГиИМАС с самоорганизацией и методики для решения СТЛЗ.

Данные задачи были решены в ходе работы.

Объекты исследования: СППР и процессы самоорганизации в коллективах людей, принимающих решения; класс сложных для моделирования задач; шесть

классов методов: аналитические, статистические, экспертных систем, нечетких систем, искусственных нейронных сетей, генетических алгоритмов; новый класс гибридных интеллектуальных многоагентных систем.

Содержание диссертационного исследования соответствует специальности 05.13.17 «Теоретические основы информатики» (пункты 1, 2, 4, 8 паспорта специальности ВАК)

Методическая база исследований. Для разработки меры сложности задач использовались: дискретная математика, теория множеств, теория графов, модели «неоднородная задача» и «однородная задача», информационный язык «ресурс-свойство-действие-отношение» A.B. Колесникова. Для разработки метода моделирования самоорганизации в СППР с использованием ГиИМАС применялись теория нечетких множеств, методы нечеткой логики. При разработке ПП ТРАНСМАР использовались алгебраические уравнения, алгоритм колонии муравьев, продукционная экспертная система с рассуждениями в прямом направлении, алгоритм нечетких рассуждений Мамдани и метод Монте-Карло. Применялось объектно-ориентированное, агентно-ориентированное, модульное программирование. Методика применения ПП основана на проблемно-структурной методологии ГиИС.

Научная новизна состоит в том, что:

1. Предложена классификация задач по сложности моделирования и разработана мера сложности моделирования задач;

2. Исследованы процессы и разработана модель самоорганизации в системах поддержки принятия решений на основе анализа целей участников;

3. Разработан метод моделирования самоорганизации в СППР с использованием гибридной интеллектуальной многоагентной системы;

4. Получены новые знания о поведении лица, принимающего решения, по управлению коллективом СППР методом компьютерного моделирования;

5. Разработана программная реализация ГиИМАС с самоорганизацией для решения сложной транспортно-логистической задачи - ПП «Транспортный маршрутизатор ТРАНСМАР» версии 1.1 - и методика ее применения.

Достоверность научных положений, рекомендаций и выводов. Обоснованность научных положений, рекомендаций и выводов определяется корректным использованием математических методов и моделей. Достоверность положений и

выводов подтверждена результатами лабораторных исследований и экспериментальными данными, полученными при внедрении ГиИМАС. Определения, классификация задач, мера сложности моделирования апробированы на конференциях и в научных публикациях.

Практическая ценность диссертационной работы состоит в том, что разработанный ПП «Транспортный маршрутизатор ТРАНСМАР» версии 1.1 может использоваться при создании компьютерных интеллектуальных СППР, что снижает временные затраты на проект у разработчика и повышает эффективность системы управления, сокращая потери от ошибочных и нерелевантных решений.

Разработанная мера сложности моделирования задачи может использоваться для анализа результатов предпроектного обследования объекта автоматизации и разработки технического задания на КСППР, что позволяет рассчитать релевантные оценки архитектуры ГиИМАС, времени и ресурсов на реализацию проекта.

Реализация результатов исследования. Метод моделирования самоорганизации в СППР с использованием ГиИМАС реализован, что подтверждается свидетельствами о регистрации программ для ЭВМ [5-7]. Мера оценки сложности моделирования и ПП ТРАНСМАР использовались: 1) в лабораторных экспериментах для моделирования самоорганизации в СППР и оценки качества коллективных решений в сравнении с индивидуальными; 2) при разработке КСППР для транспорт-но-логистических предприятий ЗАО «Совтрансавто-Калининград» и ООО «Балт-реммаш», выполняющих международные и региональные перевозки. Использование подтверждается двумя актами о внедрении результатов диссертационной работы (приложение А). Результаты планируется использовать в проектах интеллектуального муниципалитета и ситуационных центров в Калининградской области.

Положения, выносимые на защиту. На защиту выносятся следующие полученные автором результаты:

1. Мера оценки сложности моделирования, основанная на объективных параметрах разнообразия и неоднородности информации: «класс переменных» и «класс отношений», позволяющая вычислить границу сложных задач, определить требования к структурным свойствам КСППР, количественно оценить релевантность моделей оригиналам;

2. Модель ГиИМАС с самоорганизацией, релевантно отображающая в памяти ЭВМ как разнообразие знаний агентов-экспертов, так и их информационные взаимодействия между собой и агентом-ЛПР в ходе анализа, редукции и поиска решения сложной задачи;

3. Метод моделирования самоорганизации СППР на основе анализа целей агентов для синтеза релевантного ситуации принятия решений инструмента;

4. Модель информационной структуры, реализующей в ЭВМ интегрированное представление знаний - ГиИМАС, и процесс ее функционирования, отображающий самоорганизацию в СППР;

5. Методика применения ГиИМАС для решения СТЛЗ с целью прокладки маршрутов транспортных средств, выполняющих доставку грузов клиентам логистической компании.

Апробация работы. Основные положения диссертационной работы обсуждались на Международной научной конференции Computer Days - 2009 (Каунас, Литва, 2009); 7-й Международной конференции «Инновации в науке и образовании» (Калининград, 2009), Международных научных конференциях IT 2010 и IT 2011 (Каунас, Литва, 2010, 2011), III - V Всероссийских конференциях студентов, аспирантов и молодых учёных «Искусственный интеллект: философия, методология, инновации» (Москва, 2009, 2010, 2011), IX Международной конференции «Морская индустрия, транспорт и логистика в странах региона Балтийского моря: новые вызовы и ответы», посвященной 45-летию Балтийской государственной академии рыбопромыслового флота, и др. Работа отмечена премией в рамках Второй школы молодых ученых ИПИ РАН в 2011 г.

Публикации. По тематике диссертационной работы имеется 18 печатных публикаций общим объемом 17,6 печатных листа, из них 7,1 авторских (в изданиях, рекомендованных ВАК, - 2 публикации общим объемом 1,5 печатных листа, из них 1,1 авторских), в том числе одна коллективная монография и три свидетельства о регистрации программ для ЭВМ в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам (Роспатент).

Объем и структура работы. Диссертация состоит из введения, пяти глав, 17 таблиц, 35 рисунков, заключения, списка литературы, содержащего 170 наименований, и двух приложений. Объем основного текста работы - 145 страниц.

1 Системы поддержки принятия решений — инструмент коллективного решения задач

Принятие решений коллективом экспертов отличается от принятия индивидуальных решений [1]. Принятие коллективных решений демократичнее и учитывает интересы множества заинтересованных лиц. При коллективном принятии решений поставленная задача может быть всесторонне проанализирована, так как приглашаются эксперты в различных областях знаний. Это позволяет коллективу решать задачи, с которыми один человек не справляется. Кроме того, порядок взаимодействия между экспертами жестко не закреплен, поэтому взаимосвязи участников формируются при каждом решении задачи заново, т.е. каждый раз вырабатывается новый метод решения, релевантный условиям конкретной задачи. Можно сказать, что при коллективном решении задачи возникает эффект самоорганизации (подробнее см. раздел 1.2), улучшающий качество принимаемых решений [8]. Коллективное принятие решений имеет и недостатки [9, 10], например, «групсинк» (англ. groupthink) — феномен интегрального лидерства, гипертрофированное доверие к лидеру, ложное согласие и др.

Таким образом, и индивидуальное, и коллективное принятие решений имеют определенные преимущества и недостатки. Последнее затратнее в сравнении с индивидуальным. Отдавать группе экспертов задачу, которая под силу одному человеку, не оправданно, поэтому коллективы решают только сложные задачи. Для исследования границ коллективного принятия решений, а также моделирующих его автоматизированных систем (раздел 1.3), рассмотрим особенности сложной транс-портно-логистической задачи.

1.1 Особенности сложной транспортно-логистической задачи

Все ученые, определявшие понятие «задача», систематизировали проблемы в классификациях, которые затем выполняли функцию инструмента сокращения многообразия в мире задач, выделения типовых классов задач, что оправдывало появление, существование и эволюцию методов решения задачи в мире моделирования [1]. Тем самым ограничивался перечень задач, которые могли быть решены с использованием того или иного метода. Как подчеркивал Д. Пойя (в. Ро1уа), при

решении задач может оказаться полезной их классификация, установление различия между задачами по их типам. Хорошая классификация предполагает такое разбиение задач, что тип задачи предполагает метод ее решения [11]. Таким образом, чтобы определить круг задач для СППР, требуется классификация задач по сложности моделирования, поэтому рассмотрим понятия «сложность» (применительно к описанию задачи) и «сложность моделирования» (сложность разработки модели), введем формализованную меру сложности моделирования задачи (раздел 2.1).

1.1.1 Понятие сложности задачи

Понятие «сложность» из ежедневного словаря каждого человека [12]. На рис. 1.1 систематизированы основные научные подходы к определению понятия «сложность». Аспекты этого понятия выделяются в физике, математике, кибернетике, информатике, синергетике, психологии. Понятие сложности исследовалось Г. Николисом и И.Р. Пригожиным [12], Г. Хакеном [13], К.Майнцером [14], М. Котсафтисом в [15], Э.С. Биром [16], У. Уивером [17] и др. Говоря о вкладе отечественных ученых, нельзя не упомянуть работы С.П. Капицы, С.П. Курдюмова, Е.Н. Князевой, Г.Г. Малинецкого [18, 19], М.В. Волькенштейна [20], Д.С. Чернавского [21] и И.В. Мелик-Гайказян [22]. Вопросам сложности систем в теории самоорганизации посвящены исследования Санкт-Петербургского института информатики и автоматизации РАН и Института системного анализа РАН.

Однако единого мнения о том, какую же систему называть сложной, в настоящее время нет. И дело даже не в том, что в повседневной речи понятия «сложность» и «трудность» (субъективное восприятие сложности) — синонимы. Как показано в [12], одна и та же система в одних условиях может быть простой, а в других — сложной. Краткий обзор известных определений понятия «сложность» представлен на рис. 1.1. Их исследование показало, что удовлетворительной формализованной меры сложности системы в настоящее время не существует. Так алгебраическую меру А.Н. Колмогорова и Г. Дж. Чейтина, связывающую сложность с минимальной длиной моделирующего алгоритма, на практике применить затруднительно, так как требуется не только построить алгоритм, адекватно моделирующий систему, но и из всего множества возможных алгоритмов найти алгоритм минимальной длины. Кроме того, в соответствии с данной мерой, наибольшей сложностью обладают системы со случайным поведением. Мера сложности Э.С. Бира

на основе анализа числа факторов в среде принятия решений не учитывает возможное взаимодействие между этими факторами и характер этих взаимодействий. Аналогичные недостатки есть и у других подходов к определению сложности. Это обусловлено абстрактностью понятия «сложность» при его рассмотрении безотносительно описываемого понятия: системы, автомата, последовательности и т.п. Исследуем понятие «сложность» применительно к понятию «задача».

Р. Лопез-Руиз, Х.Л. Манчини,

_К. Калбет [32]_

Сложность системы — комбинация хранящейся в ней информации и неравновесности этой системы

К. Крон. Дж. Роудз Г311

Сложность конечной полугруппы — наименьшее число групп в узловом произведении конечных групп и конечных апериодических полугрупп, для которых рассматриваемая группа является делителем

У. Уивер [17]

Сложность системы обусловлена сложностью определения (предсказания) ее свойств в целом на основе знаний о свойствах ее частей

Д.У. Макши [26]

Сложность определяется числом составных частей системы и/или взаимодействий внутри системы

У. Бялек[28]

Сложность описывается характером зависимости энтропии от числа случайных переменных системы

Дж.П. Кратчфилд. К. Янг [27] Сложность — энтропия по К. Шеннону распределения вероятности будущих каузальных состояний системы

Э. Йордон [33]

Система сложна для восприятия, если число ее частей больше четырех (храйр предел)

Дж.А. Миллер [33] Система сложна для восприятия, если число ее частей больше 7 ± 2

Г. Хакен [13]

Сложность связана с наличием большого числа взаимодействующих частей

Г, Николис. И.Р. Пригожин [12]

Т. Маккейб [29,30] Сложность программы — цикломатическое число графа потока управления программы

Ч.Г. Бэннетт [25]

Сложность соответствует времени выполнения кратчайшей программы, моделирующей поведение системы

Компоненты сложного поведения — бифуркационные процессы вдали от равновесия, нелинейность, нарушение симметрии, корреляции макроскопического масштаба

К. Майнцер [14]

Сложность системы определяется ее нелинейным характером

М. Котсафтис [15]

Свойства сложной системы в целом несводимы к сумме свойств ее компонентов, т.е. сложность системы обусловлена ее эмерджентностью

Е.Н.Князева, С.П.Курдюмов [18] Сложность системы связана с интеграцией в ней структур «разного возраста», развивающихся в различном темпе, для чего требуется включать элемент «память»

А.Н. Колмогоров, Г. Чейтин [12] Сложность последовательности данных — минимальная длина вычислительного алгоритма, способного ее воспроизвести

П. Грассбергер [23]

Сложность системы определяется числом состояний, предшествующих текущему, необходимых для предсказания следующего состояния

Дж. Хартманис, Р. Стирнз [24] Сложность системы связана с количеством вычислительных ресурсов для ее моделирования

Э.С. Бир [16]

Сложность определяется разнообразием факторов, ситуаций в среде принятия решений

Рис. 1.1. Многообразие определений понятия «сложность» в науке

Общепринятой классификации задач по сложности в настоящее время не существует [1]. Анализ [34 — 49] показывает, что с задачей чаще всего соотносятся две оценки: «трудность» и «сложность». Согласно С.И. Ожегову [34] «трудный — требующий большого труда, усилий, напряжения; заключающий в себе затруднения, нелегкий; с трудом поддающийся воздействию, доставляющий беспокойство», а «сложный — состоящий из нескольких частей, многообразный по составу входящих частей и связей между ними». О.К.Тихомиров [36], P.A. Гильманов [37], A.M.

Сохор [38] рассматривали трудность задачи как психологическую характеристику, как отношения решаемого и решающего, т.е. между задачей и тем, кто ее решает.

Сложностью управления В.М. Глушков называл [39] число элементарных операций для выработки правильных решений по управлению системой Sx за промежуток времени t. По мере развития системы Sx увеличивается сложность индивидуальных решений в отношении с окружающими вещами, и усложняются процессы общения между людьми. В результате сложность P(SX) управления замкнутой системой Sx растет быстрее, чем число людей N(SX) в ней.

Н.Г. Рыженко [41, 42] исходит из того, что сложность структуры решения задачи определяется сложностью графа типа дерево или лес, представляющего эту структуру. Педагог З.Т. Бустубаева [43], рассматривая требования к системам учебных задач, пишет, что следует различать понятия «сложность» и «трудность». Этому вопросу также уделяли внимание Я.А. Микк [44], И .Я Лернер [45], Г.Я. Балл [46], В.И. Крупич [47] и др. Так, В.В. Гузеев [48] пишет, что сложность задачи — формальная характеристика структуры процесса поиска решения, а трудность —-субъективная характеристика, т.е. зависит и от того, кто решает задачу.

С. Рассел (S.J. Russell) и П. Норвиг (Р. Norvig) [49] различают характеристики простых задач: предметная область статична, описана одной моделью, данные точны и не содержат ошибок; и сложных: динамичность модели предметной области, неполнота модели описания, неопределенность исходных данных.

Согласно [50, 51] решение задачи в автоматизированном режиме состоит из: постановки задачи, построения и алгоритма, составления программы, ее отладки и тестирования, расчетов и анализа результатов — или еще более укрупнено: из разработки модели решения задачи и экспериментов с моделью. В большинстве случаев понятие сложности применяется к длительности выполнения алгоритма, а не сложности построения (разработки) компьютерной модели. При этом упускается из виду, что для построения метода решения сложной задачи требуется на порядок больше времени и трудозатрат, чем для его исполнения. Создание компьютерной модели выполняется коллективом разработчиков в научных, проектных и проект-но-конструкторских организациях с ограниченными знаниями и опытом. В зависимости от того, насколько набор знаний релевантен конкретной задаче, как оригиналу, возможны различные оценки сложности ее моделирования. Такие количествен-

ные оценки чрезвычайно важны на стадии предпроектного обследования объекта автоматизации, когда актуальны ответы на следующие вопросы: «Какими знаниями должен располагать разработчик для построения модели, и какие методы автоматизированного решения задач эти знания позволяют применить для моделирования?», «Какие ресурсы: время, деньги, техника, технологии требуется привлечь для моделирования?», «Какова вероятность успешного завершение проекта за ограниченное время?».

Таким образом, важно иметь объективную меру для априорного измерения сложности моделирования задачи и определения релевантности того или иного коллектива разработчиков с ограниченными ресурсами сложности задачи.

Обобщая вышесказанное, можно сделать следующие выводы:

1) актуальна выработка единого понимания сложности задачи и меры ее количественной оценки. Ее применение классифицирует задачи, определит методы их решения и даст количественные показатели достаточности привлекаемых ресурсов и успешного завершения проекта;

2) понятие сложности многоаспектно («вычислительная сложность», «структурная сложность» и др.); сложности моделирования задач в информатике уделяется неоправданно мало внимания;

3) специфицирующие свойства задач — «составной характер» и «многообразие» («разнообразие»); для отображения составного характера и разнообразия сложных задач в [1] предложена модель «неоднородная задача» (раздел 1.1.2);

4) сконцентрируем внимание на «сложности», полагая, что «трудность» решения задач не составляет предмет настоящих исследований.

1.1.2 Многоаспектное представление сложной задачи

Чтобы отобразить сложность моделирования на реалии внешнего мира через «призму» разнообразия, в [1] введены модели «однородная задача» и «неоднородная задача». Однородные задачи — задачи, не имеющие структуры и не подлежащие более глубокому анализу и редукции в ходе моделирования. По определению они содержат минимум разнообразия и специфицируются одним методом формализованного представления систем (термин предложен Ф.Е. Темниковым [52]). Неоднородные задачи (рис. 1.2) — задачи-системы, состоящие минимум из двух однородных подзадач, моделируемых различными МФПС, обладающие свойством

эмерджентности, несводимости свойств неоднородной задачи к сумме свойств составляющих ее подзадач. Выделены и другие особенности класса сложных задач: невозможность поиска решения по частям и обеспечения полноты исходной информации, линии рассуждения одного эксперта недостаточно (полиязыковой характер), а единственный способ проверки качества решения - его выполнение.

Обозначения:----отношения «целое-часть» между задачей и подзадачами;

— отношения между подзадачами

Рис. 1.2. Сложная задача — система взаимосвязанных разнородных подзадач

В научных знаниях о многообразии реального мира различают МФПС [53]:

- аналитические методы, в которых свойства многомерной системы отображаются функционалом в единственную точку многомерного пространства, совершающую движение (рис. 1.3, а). Сюда относятся методы классической математики, методы поиска экстремумов функций, вариационное исчисление, математическое программирование и т.п. Применяются в тех случаях, когда свойства системы можно отобразить детерминированными переменными, а взаимосвязи между ними — аналитическими зависимостями;

- статистические методы, в которых свойства системы Бх отображаются функционалом Ф(5^) в «размытую» точку (область) многомерного пространства, совершающую движение в соответствии со случайной функцией (рис. 1.3, б). К таким методам относятся теория вероятностей, математическая статистика, теория массового обслуживания, статистические испытания и т.п. Значительно расширяют возможности моделирования, так как не требуется выявлять все детерминированные связи между компонентами системы. Они заменяются статистическими закономерностями со стохастическими переменными. Применение этих методов ограничивается возможностью определения представительной выборки и проведения статистических исследований, что может потребовать высоких затрат ресурсов;

ставления систем: а) аналитическими; б) статистическими; в) логическими; г) лингвистическими; д) нечеткими

- логические методы переводят систему и отношения в ней на язык одной из алгебр логики (рис. 1.3, в), основанных на применении алгебраических методов для выражения законов формальной логики на пропозициональных (логических) переменных. Применяются при моделировании задач в новых системах, в которых характер отношений между компонентами недостаточно изучен для составления аналитических зависимостей, а статистические исследования дороги и затратны;

- лингвистические методы отображают систему Бх в знаковую модель с символьными переменными (рис. 1.3, г). Она показана окружностью с тремя знаками и отношениями, причем каждый знак разделен на три сектора: синтаксис, семантику и прагматику [1]. К лингвистическим методам отнесем, например, экспертные системы. Являются удобным аппаратом для первого этапа формализации задач принятия решений в плохо формализуемых ситуациях, если не применимы аналитические, статистические и логические модели;

- нечеткие методы, в которых свойства системы ^ отображаются функционалом Ф(£д) в совокупность взаимосвязанных нечетких множеств (рис. 1.3, д). Нечеткое множество А [1]— это пара объектов (и,\хА), где V— универсум, /лА — функция

принадлежности, принимающая значения в некотором упорядоченном множестве М = [0,1]. К таким методам относятся системы нечеткого вывода на лингвистических (или нечетких) переменных. Упрощают моделирование из-за отказа от поиска аналитических зависимостей и статистических исследований.

Подводя итог, скажем, что при классификации задач по сложности моделирования простыми задачами будем называть однородные задачи, а сложными — неоднородные задачи-системы, элементы-подзадачи которых описываются различными МФПС [1]. Согласно [1] для решения простых задач достаточно существующих методов, разработанных в рамках той или иной научной школы. Для решения сложных задач требуется применение интегрированных методов, например, систем поддержки принятия решений — коллективов экспертов в различных областях научных знаний под управлением лица, принимающего решения.

Сложная задача (рис. 1.4) может рассматриваться как неоднородная система, включающая несколько взаимосвязанных однородных областей (множеств простых, однородных подзадач), описываемых различными МФПС, каждый из которых использует переменные определенного класса.

Редукция

Соответствие

Агрегирование

€ в

Неоднородная^^ Однородные __к Автономные методы Интегрированный задача V задачи и модели (МФПС) у метод решения

сложной задачи

Рис. 1.4. Этапы создания интегрированного метода решения сложной задачи

На этих областях соответствующими МФПС заданы причинно-следственные связи в рассуждениях экспертов. В СППР каждый из экспертов решает подзадачи «своей» однородной области. Взаимодействуя, эксперты каждый раз при решении сложной задачи создают новый интегрированный метод ее решения. При этом чем более неоднородна задача, т.е. разнообразнее информация для принятия решений и состав переменных, используемых в ее модели, чем сложнее взаимосвязи между подзадачами из различных областей, тем более разнообразный состав экспертов и набор взаимосвязей между ними должна иметь решающая эту задачу СППР.

Таким образом, чтобы найти границы применения той или иной СППР или определить состав СППР для решения сложной задачи, требуется некоторая мера сложности ее моделирования, учитывающая степень неоднородности задачи.

Согласно [1] практические задачи обладают высокой неоднородностью, и для их моделирования необходимо использование всех перечисленных выше МФПС, поэтому такая мера позволит определить, насколько хорошо задача отображает реальную ситуацию практики принятия решений. Один из вариантов меры рассмотрен в разделе 2.1. Ниже исследуем различия между простыми и сложными для моделирования задачами на примере транспортно-логистической задачи.

1.1.3 Понятие сложной транспортно-логистической задачи

В практике принятия решений по прокладке маршрутов транспортных средств возникает множество транспортно-логистических задач. Одни из них, например, поиска оптимального маршрута [54], сбора монет из таксофонов или почты [55], достаточно просты, описываются только детерминированными переменными, в постановке этих задач участвуют один тип объектов и один тип отношений

между объектами. Согласно [56] такие задачи могут быть релевантно представлены задачей коммивояжера и успешно решаться разработанными для нее методами. Другие, более сложные, требуют учета разнородной информации, моделирования объектов и отношений различных типов и многокритериальной оптимизации. Рассмотрим различия этих двух классов задач.

Условия классической задачи коммивояжера: пусть V — множество узлов-городов v,,v2,...,v„, а dy = diy^Vj) \ ij = 1, п — расстояния между ними. Найти

й-1

min значение суммы ^]dn{i)MM) + dn(n)Ml) среди всех (п-1)!/2 перестановок я, где

;'=1

7г(г) — /-й город в выбранной перестановке, i=l, ..., п. На рис. 1.5 дана графическая постановка КЗК (граф представлен матрицей D расстояний между городами). Результат решения — тур 1-3-5-2-1, либо обратный тур 1-2-5-3-1, так как граф неориентированный.

Обозначения: [ ^ ) - город; -12- - дорога длиной 12 условных единиц;

- - дорога, входящая в маршрут минимальной длины

Рис. 1.5. Графическая постановка классической задачи коммивояжера Так как в КЗК dij — расстояния, они должны быть неотрицательными:

diJ ^0, оо, г, у=1, п, (1.1)

где второе равенство означает отсутствие петель на графе, симметричными:

dij=dß, i,j = l,n (1.2)

и удовлетворять неравенству треугольника:

dy + djk > dik, i, j,k = \,n \ i* j, j k. (1.3)

К КЗК сводятся практические задачи: поиска оптимального маршрута [54], сбора монет из таксофонов или почты [55], прокладки кабелей вычислительных сетей [57], предсказания функции неизвестных протеинов [58], определения оптимальной последовательности обработки деталей [59] и оптимизации переналадки станков [59]. Такая универсальность объясняется тем, что КЗК представляет класс tVP-полных по вычислительной сложности задач в теории алгоритмов.

Активно развиваются методы для ускорения решения КЗК большой размерности (с числом городов более 100 [60 — 68]) и методы искусственного интеллекта [56]. Однако КЗК не учитывает практические аспекты оптимизационных задач: динамичность, нечеткость, неточность, недоопределенность и др. [1]. Поиск маршрута без учета этих свойств, процессов и явлений реального мира ведет к «хрупкому» при изменении условий задачи решению. Эти недостатки КЗК — причина возникновения ее новых формулировок для релевантного моделирования широкого класса транспортно-логистических задач. Вводятся новые типы отношений и переменных, новые объекты, что усложняет КЗК и приближает ее к условиям практики.

Исследуем КЗК на предмет однородности/неоднородности. В табл. 1.1 дана ее характеристика по шкале «оригинал — модель» [1]. Введение существенных ограничений разнообразия информации через количество отображаемых объектов, использование единственного отношения и только детерминированных переменных позволяют свести представление системы к реберно-взвешенному неориентированному графу, для которого может быть найден гамильтонов цикл наименьшей длины. Таким образом, КЗК — однородная задача, полностью описываемая аналитическими МФПС.

Таблица 1.1. Характеристика классической задачи коммивояжера

Оригинал Модель

Отношения Детерминированные переменные

Города «Находиться на расстоянии... от...» Количество вершин

Дороги — Количество ребер Расстояние между городами

Очевидно, что КЗК — модельная задача без многих аспектов практических проблем. Методы КЗК используются только для решения практических задач, удовлетворяющих ограничениям (1.1) — (1.3).

Снимем некоторые из них, чтобы приблизить модельную задачу к реальности. В табл. 1.2 приведена характеристика такой задачи, которую уже можно отнести к сложной транспортно-логистической задаче [1]. В ней по сравнению с КЗК сняты ограничения на количество моделируемых объектов оригинала, добавлен «человеческий фактор», расширен список классов отношений между объектами и (или) их свойствами. Кроме этого присутствуют еще два класса переменных — стохастических, позволяющих учесть неопределенность, а также лингвистических для качественного описания поведения системы «города-дороги-люди».

Таблица 1.2. Характеристика сложной транспортно-логистической задачи

Оригинал Модель

Отношения Переменные

Детерминированные Стохастические Лингвистические

Города Узлы Отели Вокзалы Пробки на улицах Определения Включения Сравнения Пространственные Временные Причинности Число городов Число клиентов Расстояния: «город-вокзал», «клиент-клиент», «вокзал-клиент» Затраты Стоимость Время задержки и обслуживания Погода Названия Адреса Положение Престижность гостиницы Возможности агента Погода

Дороги Транспорт Потоки Определения Сравнения Пространственные Временные Причинности Расстояния: «город-город», «город-поселок» Скорость Затраты Стоимость (проезда, сервиса) Время в пути Вероятность проезда Время задержки и обслуживания Плотность потока Интервал движения Время прибытия Время отправления Названия (пунктов, дорог) Категория дороги Загрузка магистрали Вид транспорта Расписание Безопасность Опоздания Наличие билетов Расписание Очереди

Люди: «ЛПР», «агент», «клиент» Сервис Семейные Подчиненности Согласования Принадлежность группе Дружеские Координаты агента Критерии выбора Вероятность изменения маршрута Вероятность появления клиента Субъективные оценки Личные предпочтения Критерии и риск выбора Здоровье Уверенность Ошибки агента и сервиса Важность клиента

При этом табл. 1.2 не претендует на полный охват всего множества условий, обстоятельств, событий, процессов, переменных, актуальных для диспетчера транспортно-логистического предприятия. Задача таблицы — показать возможность постановки некоторого множества транспортно-логистических задач. Среди

задач из этого множества есть и КЗК, однако есть и другие. Например, можно рассмотреть область стохастического поведения системы «города-дороги-люди», добавив вероятность изменения (целенаправленного или по ошибке) диспетчером первоначально избранного маршрута. Этими оценками можно взвесить как города-вершины графа, так и дороги-ребра.

Практические задачи, подобные представленной выше СТЛЗ, требуют всестороннего анализа и использования методов из различных областей знаний. Для решения таких задач затруднительно найти эксперта, способного охватить все разнообразие информации о задаче целиком, если такое возможно. Необходимый инструмент их решения — СППР, как социальный интеллект, средство интеграции разнородных знаний и моделей действительности.

1.1.4 Решение сложной транспортно-логистической задачи в системе поддержки принятия решений

Каждый участник СППР обладает присущей только ему моделью внешнего мира [69], которая формируется на протяжении всей его жизни [70]. Темперамент, воспитание, образование, опыт работы, физиологические особенности, а также многие другие факторы оказывают на нее влияние. В результате участник СППР воспринимает решаемую задачу со своей точки зрения, с использованием своей модели внешнего мира. В условиях сложных задач отдельный участник не способен охватить всю задачу целиком в силу ограниченности этой индивидуальной модели. Поэтому он «видит» лишь часть проблемы, подзадачу, формируя в своем сознании характерную только для него модель части сложной задачи.

В результате взаимодействия участников СППР их модели образуют единую, коллективную, интегрированную модель задачи. Можно сказать, что в данном случае в результате самоорганизации участников возникает синергетический эффект: СППР в целом способна решать задачи, которые не могут решить (или решают хуже, предлагая менее качественные с точки зрения ЛПР решения) все ее участники, работая порознь.

Для успешной работы в СППР привлекаются эксперты из различных областей знаний. В общем случае, эксперты имеют критерии и предпочтения, которые могут противоречить друг другу. Таким образом, в ходе коллективного решения СТЛЗ актуальны методы выработки единого решения СППР на основе частных ре-

комендаций экспертов [71, 72]. Наиболее известны методы (табл. 1.3): Дельфи [70, 71], анализа иерархий [73, 74], мозгового штурма [71], синектики [70], пула мозговой записи [71] и др. Возможны их вариации.

Таблица 1.3. Преимущества и недостатки методов экспертного оценивания

Метод Преимущества Недостатки

Дельфи Анонимное обсуждение, исключение групсинка; заочное участие экспертов Длительность принятия решений; мнение большинства не всегда правильное; многократный пересмотр мнения экспертом

Анализа иерархий Высокая скорость выработки решений; качественный (а не количественный, как в методе Дельфи) анализ альтернатив Возможен групсинк; плохо подходит к условиям неопределенности; не использует коллективное творчество для выработки решений

Мозгового штурма Генерирует инновационные варианты, синтезируя идеи; высокая скорость выработки решений; ответственность участников СППР за принятое решение Высокие интеллектуальные усилия участников; исключает «управление мышлением»

Синектики Генерирует инновационные варианты, синтезируя идеи, используя аналогии, метафоры и т.п.; высокая скорость выработки решений; ответственность участников СППР за принятое решение Высокие интеллектуальные усилия участников; требуется обученная СППР, иначе возрастает ее критичность и снижается продуктивность; СППР концентрируется не на проблеме, а на ее аналоге

Пула мозговой записи Анонимное обсуждение, исключение групсинка; генерирует инновационные варианты, синтезируя идеи; высокая скорость выработки решений Высокие интеллектуальные усилия участников

Анализ табл. 1.3 позволяет сделать выбор в пользу метода пула мозговой записи для компьютерного моделирования коллективного решения СТЛЗ, так как он обладает меньшим количеством недостатков по сравнению с аналогами. При этом функционирование СППР имитируется следующим образом: 1) ЛПР передает экспертам условия СТЛЗ; 2) каждый эксперт на основе собственной модели и критерия оптимальности вырабатывает вариант ее решения (маршрута) и передает его ЛПР; 3) ЛПР полученные варианты передает всем экспертам, кроме источника, для доработки и улучшения (соблюдается конфиденциальность); 4) эксперты улучшают варианты и возвращают их ЛПР: третий и четвертый этапы повторяются до тех пор, пока каждый из экспертов не обработает хотя бы один раз каждый вариант решения; 5) ЛПР оценивает все варианты решения, в том числе и промежуточные, и выбирает лучший на основе собственной модели задачи и критерия оптимальности. Схематично функционирование модели СППР, состоящей из ЛПР и двух экспертов, дано на рис. 1.6.

Обозначения: \ \ - участники СППР; I-- шкала времени; | | - действие;

--- процесс передачи информации между участниками СППР; < - модельное время

Рис. 1.6. Схема работы СППР над СТЛЗ по методу пула мозговой записи

Согласно рис. 1.6, процессы обмена решениями чередуются с периодами индивидуальной работы экспертов по поиску новых или доработке имеющихся решений через призму своей модели внешнего мира. В результате СТЛЗ редуцируется в подзадачу со специфическим для эксперта критерием. При этом эксперт использует один из множества методов ее решения. Процессы обмена мнениями касательно решения задачи указывают на случайный характер взаимодействия экспертов. В такой СППР проявляется самоорганизация, возникает синергетический эффект, когда решение СППР качественно лучше решений любого из экспертов.

1.2 Концептуальная модель коллективного принятия решений

Концептуальная модель — модель предметной области, состоящая из перечня всех понятий, свойств и характеристик для описания этой области, а также законов протекания процессов в ней [77, 78]. Концептуальная модель, с одной стороны, ограничивает предметную область как совокупность объектов, связей и отношений между ними, процедур преобразования этих объектов при решении задач, а с другой стороны — вносит в моделирование субъективные представления разработчика в виде его знаний и опыта — концепций

Концептуальные модели сущностей (например, задач, СППР) будем строить на основе схемы концептуальных моделей [69], содержащей 11 категорий концептов С, из которых используются следующие пять.

Определение 1.1. Ресурс — понятие, обозначающее вещь, имеющуюся у субъекта управления для решения задач. Множество ресурсов обозначим

RES = Cres с С.

Определение 1.2. Свойство — все то, что не является границами данной вещи. Это то, что, характеризуя вещи, не образует новых вещей. Множество свойств обозначим PR = Срг с С.

Определение 1.3. Действие — понятие, обозначающее отношения на ресурсах, как следствие деятельности, поступков и поведения. Множество действий обозначим ACT = Cact сС.

Определение 1.4. Значение — понятие или число, показывающее количество единиц меры. Множество значений обозначим VAL = Cval с С.

Определение 1.5. Состояние — понятие, обозначающее проявление процессов, происходящих в ресурсе в некоторый момент времени. Множество состояний обозначим ST = CST с С.

Между концептами этих категорий установлено множество отношений R. Определение 1.6. Отношение — то, что образует вещь из данных элементов (свойства или других вещей). Отношение — есть то, что, будучи установлено между вещами, образует новые вещи.

Факт установления между концептами отношение обозначим га р(с",ср).

Будем отличать отношения между различными категориями концептов: Ra ß с R — множество отношений между концептами из множества Са и множества Cß, где a,ß е {"res", "pr", "act", "val").

Таким образом, фрагмент схемы концептуальных моделей sc\, построенной в рамках неформальной аксиоматической теории [69], для структурирования знаний о предметной области моделируемой задачи может быть представлен:

sc\ = Rres res (RES, RES) ° Rprpr (PR, PR) ° Racl act (ACT, ACT) o Rval val (VAL, VAL) °

o Rst st (ST,ST) o Rrespr (RES,PR) ° Rpr res (PR,RES) o Rres act (RES, ACT) о

oRact res (ACT,RES) o Rres st (RES, ST) ° Rst res (ST,RES) ° Rpr act (PR,ACT) о o Ractpr (ACT,PR)° Rpr val (PR, VAL) o Rvalpr (VAL,PR),

где знак о — конкатенация.

Графически схема представлена на рис. 1.7. Концепты изображаются в

овальном блоке, как показано на рис. 1.8, а; в верхней части блока указывается категория концепта, а в нижней части — сам концепт; отношения между концептами представляются стрелками —рис. 1.8,6.

яп

V

^1С1рГ

РЯ

ВТ

К

л>а1 ш1

АСТ

дао

Рис. 1.7. Схема ролевых концептуальных моделей действительности

Отношение

Рис. 1.8. Условные обозначения на концептуальных моделях: а) блок — концепт; б) стрелка — отношение

Концептуальная модель взаимодействия участников СППР (концептуальная модель СППР на микроуровне) [69] представлена на рис. 1.9 (стрелки Я™гез, связывающие экспертов, показывают их многогранное взаимодействие).

Рис. 1.9. Концептуальная модель СППР на микроуровне

Концептуальная модель СППР совпадает с понятием «система поддержки принятия решений» [79]. В ней Э.А. Трахтенгерц отмечает, что функции СППР из-

давна выполнялись военными советами, коллегиями министерств, совещаниями, планерками, аналитическими центрами и т.д., хотя они и не назывались СППР. Формально микроуровневая концептуальная модель СППР записывается:

dis = Rres res (prtdm, env) о Rres res (.PRT, PRT), (1.5)

где prtdm — модель знаний ЛПР; env e RES — внешняя среда; PRT = {prtl,...,prtn,prtdm}, PRT с RES — множество участников СППР, включающее ЛПР prtäm; Rresres — множество отношений «ресурс — ресурс» между участниками СППР, а также ЛПР и внешней средой.

В [9] отмечается, что каждый участник prt е PRT СППР преследует собственную цель prgsu (раздел 3.1), которая может совпадать или вступать в противоречие с целями других участников. Взаимодействуя в ходе обсуждения (рис. 1.6), эксперты обмениваются данными prdat, знаниями prknw, объяснениями ргехр и частичными решениями prdec общей задачи, т.е. выполняют множество действий по передаче информации ACTltr. Кроме того, каждый эксперт обладает собственной моделью resmod внешней среды, в том числе и объекта управления, а также собственным набором методов RESmet решения задач. Причем, ввиду неоднородного характера сложных задач, о чем сказано в разделах 1.1.1 и 1.1.2, для успешного их решения в состав СППР должны входить эксперты различных специальностей, с различными наборами методов решения задач, т.е. RES™et ^ RESJel, где

i,j = \,...,п, i ф j — номер участника во множестве PRT. Таким образом, концептуальная модель эксперта СППР может быть представлена выражением:

pni = r;espr(prt,prgsil)o r;espr{prt,prda,)o r;espr(prt,prknw) о or(espr(prt,prexp)or™spr{prt,prdec)or!lesac\prt,ACTitr)o

(1.6)

о r2actpr(ACTitr,prdat) о r2oci pr (ACT , pr ) о r2actpr(ACTitr,prexp) ° о r2act pr (ACTUr, prdec ) о r3m (prt, resmod ) ° r/ei (prt, RESmet ),

где r[espr — отношение «иметь свойство», устанавливающие соответствие между участником СППР и его свойствами; r[es ш — отношение «выполнять», связываю-

щее субъект и действие, которое он выполняет; г™'рг — отношение «иметь объек-

/-• «-» res res

том», связывающее действие с объектом, на который оно направлено; гъ — отношение «включает», связывающее целое с его частями.

Продолжая рассматривать (1.5), нужно отметить, что множество отношений genres состоит из подмножеств отношений различных классов: сотрудничества RZ;es, конкуренции R^, нейтралитета конформизма Я™'* солидарно-

сти Я™™, уклонения ЯЦГ и другие Rr0%res. Подмножество отношений R™™ введено в модель, чтобы сделать ее полной и расширяемой [69]. Таким образом, множество Rres res может быть представлено выражением:

D res res nres res . . nres res . . nres res . . nres res . nres res . . nres res . . и res res /1 n\

K = Kcoop comp U Kneut U Kconf U Ksoli U Kdevi ^ Koth • У1-')

Состав отношений из множества Rres res и его подмножеств заранее неизвестен, а определяется во время работы СППР согласно правилам взаимодействия INT с RES в результате ее самоорганизации. Самоорганизация — основа интенсивного развития СППР, ее способность реагировать на изменения во внешней среде, обоснованно и своевременно корректируя свое внешнее поведение и основополагающие принципы собственного устройства и функционирования. За счет динамичности связей между экспертами и самоорганизации СППР каждый раз способна вырабатывать новый метод ее решения, релевантный сложившимся условиям. Тогда концептуальная модель СППР как самоорганизующейся сущности — метода решения сложной задачи — может быть представлена выражением:

RESZ' = Rres res (RES™', RES™') о... о Rresres (RES™', RES™') о

oRres ™(RES™',RES™') о... о R™ res(RES™',RES™') ° (L8)

oRres ™(res™\reS™') °... ° Rres res(RES™',RES™l),

где метод RES™'s, вырабатываемый СППР при решении очередной сложной задачи, представляет собой взаимосвязанную совокупность наборов методов RES™', i = 1,...,и, используемых экспертами при решении их подзадач.

При решении очередной задачи интенсивность и направленность отношений Rres res между экспертами СППР и, соответственно, между используемыми ими методами меняются, приводя к выработке согласно (1.8) нового метода, релевантного поставленной сложной задаче, т.е. возникает синергетический эффект. Внешнее проявление этого эффекта — получение СППР решений качественнее в сравнении с решениями отдельных экспертов.

Самоорганизация приводит к адаптации, гомеостазу и самообучению СППР [80 — 85]. Учитывая вышесказанное, макроуровневая модель СППР может быть представлена:

dss = [PRT,env,INT,DSS,EFF), (1.9)

где PRT — множество участников СППР, описываемых концептуальной моделью (1.6); env — среда, в которой находится СППР; INT— множество элементов для

структурирования взаимодействий между экспертами; DSS — множество моделей (1.8) СППР на микроуровне, соответствующих конкретным функциям экспертов в СППР и установившимся отношениям между ними; EFF — множество концептуальных моделей макроуровневых процессов в СППР: самоорганизации so, адаптации ad, гомеостаза ho, самообучения si и синергетического эффекта se.

Построим концептуальные модели этих процессов.

Концептуальная модель самоорганизации:

50 = r[es act (dss, ACTsen) o rxact res (ACTsen, env) o R[es res (DSS, DSS), (1.10)

где ACTsen — множество действий СППР по восприятию внешней среды; r°ct res — отношение «иметь объектом» действия и его ресурсов; R¡es res — множество отношений следования предшествующей микроуровневой модели с последующей в процессе их смены.

Согласно [80] различаются два вида адаптации: пассивная и активная. В первом случае адаптирующаяся система изменяется так, чтобы выполнять свои функции в данной среде наилучшим образом. Концептуальная модель такой адаптации в СППР представляется выражением:

adp = r™ act (dss, ACTsen) o rxact res (ACTsen, env) o R™ res (DSS, DSS) °

(1.11)

or™ pr (DSS, PRcr) o rpr val (PRcr, VALcr) o rvxal val (VALcr, К4Г'g0),

где PRcr — множество критериев оценки эффективности СППР; VALcr — множество значений критических параметров СППР для микроуровневых моделей; VALcr 80 — множество целевых значений критических параметров СППР; rxpr ml —

отношение «иметь значение»; г™1 val — отношение близости двух значений.

Активная адаптация подразумевает либо изменение среды с целью максимизации критерия эффективности, либо активный поиск такой среды. Концептуальная модель активной адаптации в СППР:

ada = r[es act (dss, ACTsen) o rxact res (ACTsen, env) o R[es res (ENV, ENV) о

or™ pr (DSS, PRcr) o rpr ml (PRcr, VALcr) o r¡al val (VALT, VALcr go)o (1.12)

or™act (dss, ACTinf) о Г]ш res (ACTinf, env),

где ENV с RES — множество внешних сред, в которых может работать

СППР; ACTinf — множество воздействий СППР на свою внешнюю среду.

Как отмечается в [81], именно гибкие организационные структуры с самоорганизацией эффективно реагируют на изменения внешней среды, и осуществляют внутренние трансформации. По мнению Ф.П. Хэйлихена (F.P. Heylighen) [82] самоорганизация неотъемлемо приводит к адаптации. Можно сказать, что пассивная адаптация СППР к внешней среде обуславливается самоорганизацией. Это видно и в результате сравнения выражений (1.10) и (1.11), так как в (1.11) включено выражение (1.10), и (1.11) может быть переписано adp= so°r™pr(DSS,PRcr)o

rpr val pRcr 5 VALcr ) 0 rval val ^jj-er ^ y^cr go } _

С самоорганизацией связано и понятие гомеостаза. С.Г. Хорошавина [83] выделяет гомеостаз (от греч. homoios — подобный и stasis — неподвижность) как атрибут самоорганизующейся системы. Термин широко применяется в информатике, психологии и социологии [84]. Гомеостаз поддерживает важнейшие для системы параметры в необходимых пределах за счет процессов самоорганизации, само-

регулирования, самосохранения, основанных на универсальном принципе обратной связи. Концептуальная модель гомеостаза в СППР:

ho = г™ ac,(dss,ACTsen)o rxact res(ACre",env) ° R[es res(DSS,DSS) °

_____(1.13)

o r{es pr (DSS, PRcr)° rpr val (PRcr, VALcr) o r™'val (VALcr, VALcr a"),

где VALcr a" — множество допустимых значений критических параметров СППР.

Как и в (1.11), в (1.13) включено выражение (1.10), и (1.13) может быть переписано: ho = so о r(espr(DSS,PRcr)orxpr va\PRcr,VALcr)°r™1 val (VALcr ,VALcra").

Самообучение в СППР [85] — самостоятельная работа ее участника по повышению уровня образования с опорой на опыт и знания других членов СППР. Во время обсуждения проблемы возникают горизонтальные связи с передачей информации, знаний и опыта от одних участников другим (1.5) и (1.6).

Самообучение присуще и ЛПР. При решении новой задачи он учитывает опыт предыдущей работы СППР и распределяет подзадачи с учетом своих знаний. Это зависимость качества результата и интенсивности самоорганизации от принимаемых ЛПР решений по распределению подзадач между экспертами. Она изменяется после каждого очередного решения сложной задачи. Эти знания ЛПР, чаще всего, не вербализованы, подсознательны, их получение и представление в формальном виде — трудоемкая задача. В этой связи актуально моделирование самообучения ЛПР, и извлечение знаний методом компьютерного моделирования. Концептуальная модель самообучения ЛПР представляется выражением:

sldm = r[es act(dss,ACTse") о rxact res(ACTsen,env) o R[es res(DSS,DSS) o o r™ pr (dís, PRa) o rpr val (PRcr, VALcr pl) o rpr vc" (PRcr, VALcrfct) o r¡es res (prtdm, resfdb ) o or;al val (VALcr pl, VALcrfct) o r[es act (resfdb, ACTlm) o rxact res (ACTlrn ,resrul) ° or3res res (res™1, res'em) ° r¡es res (resrul, residss) o r¡es res (resrul, res,fct),

где VALcrpl — множество планируемых значений критериев эффективности СППР

при выбранной микроуровневой модели dss; VALcrfct — множество фактических значений критериев эффективности СППР при выбранной микроуровневой модели

dss; resfdb — нечеткая база знаний ЛПР по выбору микроуровневых моделей

СППР из множества DSS ; АСТ1гп — обучение, корректировка правил нечеткой базы знаний ЛПР resfdb; resrul — правило нечеткой базы знаний ЛПР по выбору мик-роуровневых моделей СППР из множества DSS; res'mv — информация о внешней

среде; res'dss — информация о микроуровневой модели dss; resifct — информация о фактических значениях критериев эффективности СППР с выбранной моделью dss. Как и в случае с адаптацией и гомеостазом, (1.14) переписывается:

sldm = so о r;es pr (dís, PRcr) o rf val (PRcr, VALcr pl) ° rfval (PRcr, VALcrfct) o orvaival (у^41сг i'1 ^ VALcrfc,)or™ res{prtdn\resfdb)or^ act (resfdb ,ACTlm) o oract res(ACTlm,resrul) o r¡es res(resrul,resienv) o r¡es res(resru\residss) o r™ res(resrul,resifct).

Таким образом, исследовав адаптацию, гомеостаз и самообучение, можно утверждать, что самоорганизация в СППР — ключ к пониманию коллективного принятия решений.

Идеи самоорганизации восходят к работам И. Канта [86], Г.В.Ф. Гегеля [87], а в XX в. — А. Богданова [88], Э. Шредингера [89], Л. Берталанфи [90], У.Р. Эшби [91, 92], Н. Моисеева [93, 94], Г. Николиса и И. Пригожина [95], И. Стенгерс [96], Г. Хакена [97, 98], У.Р. Матураны и Ф.Х. Варелы [99], В.И. Арнольда [100] и др. Их анализ [101] позволяет сформулировать следующие свойства СППР как самоорганизующейся системы: 1) эндогенный глобальный порядок — СППР меняет свою

микроуровневую модель dss за счет внутренних процессов; 2) эмерджентность — следствие внутренних взаимодействий элементов — экспертов и ЛПР, благодаря чему метод решения сложной задачи, вырабатываемый СППР по (1.8), не сводится к совокупности методов решения задач отдельных экспертов; 3) общее сложное правило функционирования СППР RES™' основано на простых локальных правилах функционирования элементов prt¡; 4) небольшие флуктуации внешней среды env приводят к значительным изменениям в функционировании СППР, вплоть до перехода на другую микроуровневую модель dss; 5) для каждой микроуровневой

модели dss существует подмножество микроуровневых моделей DSSP с DSS , в которые возможен переход.

Анализ свойств 1 — 5 показывает, что самоорганизация в СППР качественно улучшает принимаемые ею решения по сравнению с рекомендациями отдельных экспертов.

Рассмотрим условия самоорганизации СППР.

Процесс принятия решения в СППР — поиск компромисса, управляемый ЛПР. Цель поиска — «резонансное состояние», синергетический эффект хода обсуждения в СППР, когда коллективное, интегрированное решение качественно лучше и лишено недостатков индивидуальных мнений экспертов.

Причинно-следственные связи самоорганизации и свойств системы исследованы в [8, 98 — 105]. Применительно к СППР построена диаграмма соотношения хаоса и порядка [103] в СППР (рис. 1.10). Здесь используются две оси: «согласованность» — класс отношений Rresres (1.7) между участниками СППР по степени близости их мнений о решаемой задаче, например, конкуренция, нейтралитет, сотрудничество, и «детерминированность» — характеристика внешней среды env СППР, определяющая возможность предсказания участниками СППР будущего состояния объекта управления. При высоких уровнях согласованности и детерминированности наиболее эффективно функционируют СППР с жесткой иерархией управления и правилами INT взаимодействия участников, т.е. «организованные» СППР. Если мнения участников СППР слабо согласованны, а состояние объекта управления плохо предсказуемо, в СППР возникают случайные действия и мнения, которые создают хаотичную атмосферу. Такие СППР — «неорганизованные». Между этими «полюсами» выделяется класс «самоорганизующихся» СППР. Для них характерна эмерджентность, их структура и взаимодействия между элементами возникают спонтанно, в результате чего они эффективно решают поставленные задачи, адаптируясь к постоянно меняющейся внешней среде.

Выявлено поведение людей, облегчающее возникновение синергетических отношений между ними [8]. Применительно к участникам СППР это означает установление между ними отношений: симпатии, сопереживания (эмпатии), семантической «телепатии», «синапса», откровенной и совершенной беседы. В противном случае, возможен обратный эффект — «дисергия», т.е. результат работы СППР может быть хуже решений, предлагаемых отдельными экспертами.

Согласованность участников

А

конкуренция

Самоорганизующиеся СППР

нейтралитет

(правила INT создают основу взаимодействия участников PRT, оставляя им свободу действий) • Эмерджентные

• Адаптирующиеся

• Легко образующие структуры

сотрудничество

Организованные СПП[ (жесткая регламента^ поведения участников правилами /Л/7)

• Предсказуемые

Заключение диссертации по теме «Теоретические основы информатики», Листопад, Сергей Викторович

Выводы по пятой главе

Пятая глава диссертационной работы посвящена тестированию ГиИМАС для решения СТЛЗ ТРАНСМАР. В ней описаны цели и задачи экспериментов. Рассмотрены три архитектуры ГиИМАС, относящиеся к различным классам архитектур по степени взаимодействия агентов. Представлены результаты вычислительных экспериментов по определению зависимости вероятности и величины синерге-тического эффекта от типа архитектуры ГиИМАС. В результате анализа этих результатов сформулированы правила нечеткой базы знаний агента, принимающего решения, т.е. решена четвертая задача диссертационного исследования. Сделан вывод о том, что эффективность ГиИМАС при любом взаимодействии агентов выше, чем без такового.

Разработанный ПП «Транспортный маршрутизатор» позволил в лабораторных условиях имитировать и исследовать сложное и многогранное явление самоорганизации в ходе коллективного принятия решений, выработать признаки и наблюдать ситуации синергетического эффекта, когда коллективное решение оказывается лучше любого индивидуального мнения, что подтверждает эффективность результатов моделирования СППР.

Анализ технико-эксплуатационных параметров показывает, что в условиях эксперимента время решения СТЛЗ составило 2-30 мин, а качество решений подтверждено экспериментально и экспертами. По итогам практического использования ПП ТРАНСМАР на двух объектах средняя суммарная себестоимость доставки грузов в день сократилась на 7,2%, средняя суммарная длительность доставки в день - на 12,13%, среднее время построения маршрутов в день уменьшилось на 23,14%. Рассчитана цена ПП, необходимые для его внедрения капитальные вложения заказчика, а также срок окупаемости, который составляет менее года. Показана экономическая целесообразность внедрения данного ПП. Таким образом, в данной главе исследована программная реализация ГиИМАС с самоорганизацией, т.е. решена вторая часть пятой задачи диссертационного исследования.

Заключение

К основным результатам работы можно отнести следующие.

1) Разработанная мера оценки сложности моделирования (разработка модели), основанная на объективных параметрах разнообразия и неоднородности информации: «класс переменных» и «класс отношений», дает возможность классифицировать задачи на «простые» и «сложные», определить требования к структурным свойствам компьютерных систем поддержки принятия решений, а также количественно оценить релевантность моделей оригиналам. Применение меры к результатам предпроектного обследования объекта автоматизации позволяет выработать оценки трудозатрат и ресурсов, что значительно снижает риски.

2) Разработанная модель нового класса интеллектуальных систем -ГиИМАС с самоорганизацией - позволяет отобразить и скомбинировать в памяти ЭВМ разнообразие знаний экспертов о проблемной среде, что имитирует полиязыковой характер сложных задач, с одной стороны, и социальный, коллективный характер решений, когда моделируется взаимодействие экспертов друг с другом и с ЛПР, - с другой стороны. Наконец, такие модели позволяют строить системы, самостоятельно изменяющие алгоритм своего функционирования, и создавать информационные технологии для решения задач со все более высокими оценками сложности моделирования.

3) Метод моделирования самоорганизации СППР на основе анализа целей агентов, по сути, позволяет разнообразию условий и ситуаций решения сложных задач коллективом сопоставить не один единственный инструмент, а множество динамично синтезируемых и изменяемых интегрированных моделей, что является выходом из проблем теоретической информатики, когда моделируется принятие решений «когда в одну и ту же воду войти нельзя».

4) Универсальная информационная структура, реализующая в ЭВМ интегрированное представление знаний - ГиИМАС - и имитационный процесс ее функционирования, отображающий самоорганизацию систем, принимающих коллективные решения, удовлетворяют предложенным в работе требованиям, реализованы программно и апробированы на примере СТЛЗ.

5) Методика применения ГиИМАС для решения СТЛЗ позволяет сделать обработку информации в отношении «оригинал - модель» целенаправленной и может быть положена в основу методологии и технологии компьютерных систем поддержки принятия решений, а также позволит избежать многочисленных ошибок проектирования и «откатов назад», что приводит к выходу проектов интеллектуальных систем за рамки бюджета и ресурсов.

6) Разработанный ПП «Транспортный маршрутизатор» позволил в лабораторных условиях имитировать и исследовать сложное и многогранное явление самоорганизации в ходе коллективного принятия решений, выработать признаки и наблюдать ситуации синергетического эффекта, когда коллективное решение оказывается лучше любого индивидуального мнения, что подтверждает эффективность результатов моделирования СППР.

7) Анализ технико-эксплуатационных параметров показывает, что в условиях эксперимента время решения СТЛЗ составило 2-30 мин, а качество решений подтверждено экспериментально и экспертами. По итогам практического использования ПП ТРАНСМАР на двух объектах средняя суммарная себестоимость доставки грузов в день сократилась на 7,2%, средняя суммарная длительность доставки в день - на 12,13%, среднее время построения маршрутов в день уменьшилось на 23,14%.

В рамках диссертационной работы получены новые знания о сложности моделирования задач, разработаны и исследованы методы, модели, алгоритмы и программа интегрированного, гибридно-многоагентного представления знаний о сложной задаче, имитирующие в памяти ЭВМ коллективное поведение людей в условиях сложных ситуаций, позволяющие вырабатывать и применять метод решения сложной задачи над различными линиями рассуждений экспертов. Таким образом, сделан еще один шаг в решении фундаментальной научной проблемы информатики — создании программных средств, синтезирующих новые методы обработки информации.

Список литературы диссертационного исследования кандидат технических наук Листопад, Сергей Викторович, 2012 год

Список литературы

1) Колесников A.B. Методология и технология решения сложных задач методами функциональных гибридных интеллектуальных систем / A.B. Колесников, И.А. Кириков. - М.: ИЛИ РАН, 2007. - 387 е., ил.

2) Пешель М. Моделирование сигналов и систем / М. Пешель. - М.: Мир, 1981.

3) Гнатюк В.И. Закон оптимального построения техноценозов / В.И. Гнатюк. -М.: Изд-во ТГУ, 2005. - 384 с.

4) Тарасов В.Б. От многоагентных систем к интеллектуальным организациям: философия, психология, информатика / В.Б. Тарасов. - М.: Эдиториал УРСС, 2002.

5) Колесников A.B., Листопад C.B. Многоагентная система для решения сложной задачи коммивояжера «MAS SZK». Свидетельство о регистрации программы для ЭВМ №2009615951, 11.01.2010.

6) Богданова Т.В., Колесников A.B., Листопад C.B., Меркулов A.A. Логистический диспетчерский центр. Свидетельство о регистрации программы для ЭВМ №2009615952, 11.01.2010.

7) Листопад C.B., Кабыш С.А., Резниченко Ю.А., Меркулов A.A. Интеллектуальная гибридная система управления технологическими процессами. Свидетельство о регистрации программы для ЭВМ. № 2010610825, 26.01.2010.

8) Coulter N.A. Human synergetics [Электронный ресурс] / N.A. Coulter. - Электрон. дан. - 2002. - Режим доступа: http://www.synearth.net/coulter/synergetics.pdf. -Загл. с экрана.

9) Козелецкий Ю. Психологическая теория решений / Ю. Козелецкий. - М.: Прогресс, 1979. - 503 с.

10) Корнилова Т.В. Психология риска и принятия решений / Т.В. Корнилова. -М.: Аспект Пресс, 2003.

11) Пойа Д. Математическое открытие. Решение задач: основные понятия, изучение и преподавание / Д. Пойа. - М.: Наука, 1970. - 452 с.

12) Николис Г. Познание сложного. Введение: Пер с англ. / Г. Николис, И. При-гожин. - М.: Едиториал УРСС, 2003. - 344 с.

13) Хакен Г. Принципы работы головного мозга: Синергетический подход к активности мозга, поведению и когнитивной деятельности / Г. Хакен. - М.: ПЕР СЭ, 2001.-351 с.

14) Mainzer К. Thinking in complexity: The complex dynamics of matter, mind, and mankind / K. Mainzer. - Berlin: Springer-Verlag, 1994.

15) Cotsaftis M. A Passage to Complex Systems / M. Cotsaftis // Complex systems and self-organization modeling / C.Bertelle, G.H.E. Duchamp, H.Kadri-Dahmani (eds.). -Berlin: Springer-Verlag, 2009. - 228 p.

16) Вир С. Мозг фирмы / С. Вир. - М.: Едиториал УРСС, 2005. - 416 с.

17) Weaver W. Science and Complexity / W. Weaver // American Scientist. - 1948. -Vol. 36, №4.-pp. 536-544.

18) Князева E.H. Законы эволюции и самоорганизации сложных систем / Е.Н. Князева, С.П. Курдюмов. - М.: Наука, 1994.

19) Капица С.П. Синергетика и прогнозы будущего / С.П. Капица, С.П. Курдюмов, Г.Г. Малинецкий. —М.: Наука, 1997.

20) Волькенштейн М.В. Энтропия и информация / М.В. Волькенштейн. — М.: Наука, 1986. — 192с.

21) Чернавский Д.С. Синергетика и информация / Д.С. Чернавский. — М.: Наука, 2001. — 105 с.

22) Мелик-Гайказян И.В. Информационные процессы и реальность / И.В. Мелик-Гайказян. — М.: Наука, 1997. — 192 с.

23) Grassberger P. Toward a quantitative theory of self-generated complexity / P. Grassberger // International Journal of Theoretical Physics. - 1986. - Vol. 25, № 9. - pp. 907-928.

24) Hartmanis, J. On the computational complexity of algorithms / J. Hartmanis, R.E. Stearns // Transactions of the American Mathematical Society. - 1965. - Vol. 117. - pp. 285-306.

25) Bennett C.H. Logical depth and physical complexity / C.H. Bennett // The Universal Turing Machine. A Half-Century Survey. - Oxford: Oxford University Press, 1988. -pp. 227 - 257.

26) McShea D. W. Metazoan complexity and evolution: Is there a trend? / D.W. McShea // Evolution. - 1996. - Vol. 50, № 2. - pp. 477 - 492.

27) Crutchfield J.P. Inferring statistical complexity / J.P. Crutchfield, K. Young // Physical Review Letters. - 1989. - Vol. 63. - pp. 105 - 109.

28) Bialek W. Predictability, complexity, and learning / W. Bialek, I. Nemenman, N. Tishby. //Neural Computation. - 2001. - Vol. 13. - pp. 2409 - 2463.

29) McCabe T. A Complexity Measure / T. McCabe // IEEE Transactions on Software Engineering. - 1976. - Vol. SE-2, № 4. - pp. 308 - 320.

30) Cyclomatic Complexity [Electronic resource] / A.H. Watson, T.J. McCabe; National Institute of Standards and Technology. - Electronic data. -1996. - Mode of access: http://hissa.nist.gov/HHRFdata/Artifacts/ITLdoc/235/chapter2.htm. - Загл. с экрана.

31) Алгебраическая теория автоматов, языков и полугрупп: Пер с англ. / под ред. М. Арбиба. -М.: Статистика, 1975. - 335 с.

32) Lopez-Ruiz R. A Statistical Measure of Complexity / R. Lopez-Ruiz, H. Mancini, X. Calbet // Physics Letters A. - 1995. - Vol. 209. - pp. 321 - 326.

33) Hrair limit - Definition [Electronic resource] / WordIQ.com . - Electronic data. -2010. - Mode of access: http://www.wordiq.com/defmition/Hrair_limit. - Загл. с экрана.

34) Ожегов С.И. Словарь русского языка / С.И. Ожегов. - М.: Советская энциклопедия, 1972.-556 с.

35) Фресс П. Оптимум мотивации / П. Фресс, Ж. Пиаже // Экспериментальная психология. - М.: Прогресс, 1975. - Вып. 5. - С. 119 - 125.

36) Тихомиров O.K. Структура мыслительной деятельности человека / O.K. Тихомиров. - М.: МГУ, 1969. - 304 с.

37) Гильманов Р.А. Измерение трудности учебных упражнений посредством моделирования процесса их выполнения: дисс. ... канд. пед. наук / Казанский университет; Р.А. Гильманов - Казань, 1987. - 156 с.

38) Сохор А.М. Логическая структура учебного материала / A.M. Сохор. - М.: Педагогика, 1974. - 189 с.

39) Глушков В.М. Кибернетика. Вопросы теории и практики / В.М. Глушков. -М.: Наука, 1986.-488 с.

40) Бирюков В.В. О понятии сложности / В.В. Бирюков, B.C. Тюхтин // Логика и методология наук. - М.: Мысль, 1967. - С. 218 - 225.

41) Рыженко Н.Г. Структуризация и систематизация сюжетных задач по сложности их решения / Н.Г. Рыженко, H.A. Жигачева // Вестник Омского университета. -Омск: Издательство ОмГУ, 1998. - №4. - С. 111 - 114.

42) Рыженко Н.Г. Графовое моделирование как средство определения сложности решений текстовых задач школьного курса математики / Н.Г. Рыженко // Математика и информатика: наука и образование: межвузовский сборник научных трудов.

- Омск: Изд-во ОмГПУ, 2001. - Вып. 1. - С. 99 - 103.

43) Бустубаева З.Т. Диагностика сложности учебных задач по физике в 7-м классе по теме: «Скорость» [Электронный ресурс] / Фестиваль педагогических идей «Открытый урок»; З.Т. Бустубаева. - Электрон, дан. - М.: ИД «Первое сентября», 2005.

- Режим доступа: http://festival.lseptember.ru/articles/211430/. - Загл. с экрана.

44) Микк Я.А. Советская педагогика и школа / Я.А. Микк. - Тарту, 1981.

45) Лернер И.Я. Критерии сложности некоторых элементов учебника /И.Я. Лернер // Проблемы школьного учебника. - М.: Просвещение, 1974. - Вып. 1. - С. 47 - 58.

46) Балл Г.А. Теория учебных задач: психолого-педагогический аспект / Г.А. Балл. - М.: Педагогика, 1988. - 98 с.

47) Крупич В.И. Структура и логика процесса обучения математике в средней школе / В.И. Крупич. - М.: МГПИ им. В.И.Ленина, 1985. - 118 с.

48) Гузеев В.В. Соотнесение сложности и трудности учебных задач с уровнями планируемых результатов обучения / В.В. Гузеев // Школьные технологии. - 2003. -№ 3. - С. 50-56.

49) Russell S.J. Artificial Intelligence. A modern approach / S.J. Russell, P. Norvig. -New Jersey: Prentice Hall, 1995. - p. 932.

50) Давыдова H. А. Программирование: учеб. пособие / H.A. Давыдова, E.B. Боровская. - M.: БИНОМ. Лаборатория знаний, 2009. - 238 с.

51) Шеннон Р. Имитационное моделирование систем - искусство и наука / Р. Шеннон. - М.: Мир, 1978. - 420 с.

52) Волкова В.Н. Методы формализованного представления (отображения) систем: Текст лекций / В.Н. Волкова, Ф.Е. Темников. - М.:ИПКИР, 1974. - 114 с.

53) Волкова В.Н. Основы теории систем и системного анализа / В.Н. Волкова, A.A. Денисов. - СПб.: СПбГТУ, 1999. - 512 с.

54) Ismail Z. Traveling Salesman Approach for Solving Petrol Distribution Using Simulated Annealing / Z. Ismail, W.R.W. Ibrahim //American Journal of Applied Sciences. - 2008. - 5 (11). - pp. 1543-1546.

55) Lenstra J. Some simple applications of the travelling salesman problem / J. Lenstra,

A.R. Kan // Operational Research Quarterly. - November 1975. - Vol. 26, № 4, Part 1. -pp.717-733.

56) Колесников A.B. Решение сложных задач коммивояжера методами функциональных гибридных интеллектуальных систем / Колесников А.В., Кириков И.А., Листопад С.В. и др.; Под ред. А.В. Колесникова. - М.: ИПИ РАН, 2011. - 295 с.

57) Goldschmidt О. SONET/SDH ring assignment with capacity constraints / О. Goldschmidt, A. Laugier, E.V. Olinick // Discrete Applied Mathematics. - 2003. - Vol. 129. -pp. 99-128.

58) Johnson O. A traveling salesman approach for predicting protein functions / O. Johnson, J. Liu // Source Code for Biology and Medicine. - 2006. - Vol. 1, Art. No. 3. -pp. 1-7.

59) Мудров В.И. Задача о коммивояжере / В.И. Мудров. - М.: Знание, 1969.

60) Пападимитриу Х.Х. Комбинаторная оптимизация. Алгоритмы и сложность / Х.Х. Пападимитриу, К. Стайглиц. - М.: Мир, 1984.

61) Рейнгольд Э. Комбинаторные алгоритмы. Теория и практика / Э. Рейнгольд, Ю. Нивергельт, Н. Део. - М.: Мир, 1980.

62) Основы теории оптимального управления: учеб. пособие для экон. вузов /

B.Ф. Кротов, Б.А. Лагоша, С.М. Лобанов и др. - М.: Высшая школа, 1990.

63) Лорьер Ж.-Л. Системы искусственного интеллекта / Ж.-Л. Лорьер. - М.: Мир, 1991.

64) Кристофидес Н. Теория графов. Алгоритмический подход / Н. Кристофидес. -М.: Мир, 1978.

65) Сигал И.Х. Введение в прикладное дискретное программирование: модели и вычислительные алгоритмы / И.Х. Сигал, А.П. Иванова. - М.: ФИЗМАТЛИТ, 2007.

66) Фроловский В.Д. Приближенные методы решения NP-трудных задач в системах автоматизации проектирования / В.Д. Фроловский. - Новосибирск: Изд-во НГТУ, 2006.

67) Gutin G. Traveling salesman should not be greedy: domination analysis of greedy-type heuristics for the TSP / G. Gutin, A. Yeo, A. Zverovich // Discrete Applied Mathematics, 2002. Vol. 117. P. 81-86.

68) Сергиенко И.В. Задачи дискретной оптимизации: проблемы, методы решения, исследования / И.В. Сергиенко, В.П. Шило. - Киев: Наук, думка, 2003.

69) Колесников A.B. Гибридные интеллектуальные системы. Теория и технология разработки / A.B. Колесников; под ред. A.M. Яшина. - СПб.: СПбГТУ, 2001.

70) Колпаков В.М. Теория и практика принятия управленческих решений: Учеб. пособие / В.М. Колпаков. - 2-е изд., перераб. и доп. - К.: МАУП, 2004. - 504 с.

71) Сладкевич В.П. Современный менеджмент (в схемах): Опорный конспект лекций (в схемах) / В.П. Сладкевич, А.Д. Чернявский. - 3-е изд., стереотип. - К.: МАУП, 2003.- 152 с.

72) Орлов А.И. Теория принятия решений. Учебное пособие / А.И.Орлов. - М.: Издательство «Экзамен», 2005. - 656 с.

73) Саати Т. Принятие решений. Метод анализа иерархий / Т. Саати; пер. с англ. Р.Г. Вачнадзе. - М.: Радио и связь, 1993. - 278 с.

74) Сухарев М.Г. Методы прогнозирования: учеб. пособие / М.Г. Сухарев. - М.: РГУ нефти и газа, 2009. - 208 с.

75) Альтшуллер Г.С. Алгоритм изобретения / Г.С. Альтшуллер. - М.: Московский рабочий, 1973.-С. 47-51.

76) Ногин В.Д. Упрощенный вариант метода анализа иерархий на основе нелинейной свертки критериев / В.Д. Ногин // Журнал вычислительной математики и математической физики. - 2004. - Т. 44, № 7. - С. 1259 - 1268.

77) Толковый словарь по искусственному интеллекту / А.Н. Аверкин, М.Г. Гаазе-Рапопорт, Д.А. Поспелов. - М.: Радио и связь, 1992. - 256 с.

78) Колесников A.B. Концептуальная модель - инструмент познания внешнего мира в системах искусственного интеллекта / A.B. Колесников // Человек техногенной цивилизации на рубеже двух тысячелетий: Монография в соавторстве с В.Е. Ивановым, Э.В. Каракозовой и др. - Раздел 3. - Глава 2. - Калининград: КГТУ, Калининградское отделение МАИ, 2000. - С. 152-175.

79) Трахтенгерц Э.А. Методы генерации, оценки и согласования решений в распределенных системах поддержки принятия решений / Э.А. Трахтенгерц // Автоматика и телемеханика. - 1995. - №4. - С. 3 - 52.

80) Растригин JI.A. Адаптация сложных систем / JI.A. Растригин. - Рига: Зинатне, 1981.-375 с.

81) Дорофеева Л.И. Менеджмент. Конспект лекций / Л.И. Дорофеева. -М.: ЭКС-МО, 2007. - 192 с.

82) Heylighen F. The Science of Self-organization and Adaptivity / F. Heylighen // Knowledge Management, Organizational Intelligence and Learning, and Complexity / L.D. Kiel (ed.). - Oxford: Eolss Publishers, 2001. - pp. 184 - 211.

83) Хорошавина С.Г. Концепции современного естествознания: курс лекций / С.Г. Хорошавина. - изд. 4-е. - Ростов н/Д: Феникс, 2005. - 480 с.

84) Кнорринг В.И. Теория, практика и искусство управления / В.И. Кнорринг. - 2-е изд., изм. и доп. - М.: Изд-во НОРМА, 2001. - 528 с.

85) Потапов С.В. Как принимать решения / С.В. Потапов. - М.: Эксмо, 2007.

86) Кант И. Сочинения в шести томах. / И. Кант. - Т. 3. - М., 1964.

87) Гегель Г.В.Ф. Наука логики: В 3 т. / Г.В.Ф. Гегель. - Т. 3. - М., 1972.

88) Богданов А.А. Тектология. Всеобщая организационная наука / А.А. Богданов. - М.: Финансы, 2003. - 496 с.

89) Шредингер Э. Что такое жизнь? С точки зрения физики: Пер. с англ. / Э. Шредингер. - изд. 2. - М.: Атомиздат, 1972. - 88 с.

90) Bertalanffy L. An Outline of General System Theory / L. Bertalanffy // The British Journal for the Philosophy of Science. - 1950. - Vol. 1, № 2. - pp. 134 - 165.

91) Ashby W.R. Principles of the Self-Organizing Dynamic System / W.R. Ashby // Journal of General Psychology. - 1947. - Vol. 37. - pp. 125 - 128.

92) Ashby W.R. Principles of the self-organizing system / W.R. Ashby // Principles of Self-Organization: Transactions of the University of Illinois Symposium / H. Von Foer-ster, G. W. Zopf, Jr. (eds.). - London: Pergamon Press, 1962. - pp. 255 - 278.

93) Моисеев H.H. Универсальный эволюционизм и самоорганизация [Электронный ресурс] / Н.Н. Моисеев. - Электрон, дан. - М.: 2003. - Режим доступа: http://www.ecolife.ru/jornal/echo/ 2003-2-l.shtml. - Загл. с экрана.

94) Моисеев Н.Н. Универсум. Информация. Общество / Н.Н. Моисеев. - М.: Устойчивый мир, 2001. - 200 с.

95) Николис Г. Самоорганизация в неравновесных системах / Г. Николис, И. При-гожин. -М.: Мир, 1979. - 512 с.

96) Пригожин И.Р. Порядок из хаоса: новый диалог человека с природой / И.Р. Пригожин, И.Стенгерс. -М.: Прогресс, 1986.

97) Хакен Г. Информация и самоорганизация: Макроскопический подход к сложным системам: Пер. с англ. / Г. Хакен. - М.: Мир, 1991. - 240 с.

98) Хакен Г. Синергетика: Пер. с англ / Г. Хакен. - М.: Мир, 1980. - 406 с.

99) Матурана У.Р. Древо познания / У.Р. Матурана, Ф.Х. Варела. - М.: Прогресс-Традиция, 2001.-224 с.

100) Арнольд В.И. Теория катастроф /В.И. Арнольд. - 4-е изд., стер. - М.: Едито-риалУРСС, 2004.- 127 с.

101) Marzo Serugendo G.D. Self-organization in multi-agent systems / G.D. Marzo Se-rugendo, M.-P. Gleizes, A. Karageorgos // The Knowledge Engineering Review. - 2005. - Vol. 20, № 2. - pp. 165 - 189.

102) Olson E.E. Facilitating organization change: Lessons from complexity science / E.E. Olson, G.H. Eoyang. - San Francisco: Jossey-Bass/Pfeiffer, 2001.

103) Stacey R. Complexity and creativity in organizations / R. Stacey. - San Francisco: Berrett-Koehler Publishers, 1996.

104) Eoyang G. Coping with chaos: Seven simple tools / G. Eoyang. - Cheyenne: Lagumo, 1999.

105) Pascale R.T. Surfing the edge of chaos: The laws of nature and the new laws of business / R.T. Pascale, M. Millemann, L. Gioja. - New York: Crown Business, 2000.

106) Философский энциклопедический словарь / Е.Ф. Губский, Г.В. Кораблева, В .А. Лутченко - М.: Инфра-М, 1997.

107) Antsaklis J. Hybrid System Modeling and Autonomous Control Systems / J. Ant-saklis, J. Stiver, M.D. Lemmon // In Hybrid Systems / R.L. Grossman, A. Nerode, A.P. Ravin, and H. Rischel, Eds. - Vol. 736 of Lecture Notes in Computer Science. - New York: Springer-Verlag, 1993. - pp. 366 - 392.

108) Brockett R.W. Hybrid Models for Motion Control Systems / R.W. Brockett // Technical Report CICS-P-364. Center for Intelligent Control Systems. Massachusetts Institute of Technology, 1993.

109) Back A. Dynamical Simulation Facility for Hybrid Systems / A. Back, J. Gucken-heimer, M.A. Myers // Technical Report 92-6, Mathematical Science Institute. Cornell University, 1992.

110) Witsenhausen H.S. A class of hybrid-state continuous time dynamic systems / H.S. Witsenhausen // IEEE Transactions on Automatic Control. - 1966. - Vol. 11, №2. - 161 - 167 pp.

111)Nerode A. Models for Hybrid Systems: Automata, Topologies, Stability / A. Nerode, W. Kohn // Technical Report 93-11. Mathematical Science Institute, Cornell University, 1993.

112) Tavernini L. Differential Automata and their discrete simulators / L. Tavernini // Nonlinear Analysis, Theory, Methods, and Applications. - 1987. - 11(6). - pp.665 - 683.

113) Борисов A.H. Принципы построения и реализации гибридных экспертных систем / А.Н. Борисов // Гибридные экспертные системы в задачах проектирования сложных технических объектов. Матер, краткосрочного научно-технического семинара «Гибридные экспертные системы в задачах проектирования сложных технических объектов»: сб. тез. докл. - СПб: Дом НТП, 1992. - С. 6 - 9.

114) Рыбина Г.В. Интегрированные экспертные системы: современное состояние, проблемы и тенденции / Г.В. Рыбина // Известия РАН. Теория и системы управления. - 2002. - №5. - С. 111 - 126.

115) Рыбина Г.В. Современные экспертные системы: тенденции к интеграции и гибридизации / Г.В. Рыбина // Приборы и системы. Управление, контроль, диагностика. -2001.- №8. -С. 18-21.

116) Рыбина Г.В. Проектирование систем, основанных на знаниях / Г.В. Рыбина. -М: МИФИ, 1997.

117) Попов Э.В. Статические и динамические экспертные системы: учебное пособие / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель и др. - М.: Финансы и статистика, 1996 - 320с.

118) Эрлих А.И. Проблемы моделирования в интеллектуальных системах / А.И. Эрлих // Вестн. МГТУ. - 1/94. - Системы искусственного интеллекта: спец. выпуск. -М.:МГТУ, 1994.

119) Ярушкина Н.Г. Основы теории нечетких и гибридных систем / Н.Г. Ярушки-на. - М.: Финансы и статистика, 2004. - 320 с.

120) Goonatilake S. Intelligent Hybrid Systems / S. Goonatilake, S. Khebbal // The First Singapore Int. Conference on Intelligent Systems: proceedings. - 1992. - pp. 356-364.

121) Kasabov N. Hybrid Intelligent Adaptive Systems: a Framework and a Case Study on Speech Recognition / N. Kasabov, R. Kozma // Intelligent Systems. - 1998. - Vol. 13. -pp. 455-466.

122) Medsker L.R. Hybrid Intelligent Systems / L.R. Medsker. - Boston: Kluwer Academic Publishers, 1995.

123) Гаврилова T.A. Базы знаний интеллектуальных систем / Т.А. Гаврилова, В.Ф. Хорошевский. - СПб.: Питер, 2000.

124) Городецкий В.И. Многоагентные системы (обзор) / В.И. Городецкий, М.С. Грушинский, А.В. Хабалов // Новости искусственного интеллекта. - 1998. - №2. -С. 64-116.

125) Нарушев Е.С. AgSDK: инструментарий разработки мультиагентных систем / Е.С. Нарушев, В.Ф. Хорошевский // Тр. VII национальной конференции по искусственному интеллекту с международным участием КИИ-2000. - Т. 2. - М. : Физ-матлит, 2000. - С. 830 - 840.

126) Multiagent systems: A modern approach to distributed artificial intelligence / Gerhard Weiss (ed.). - London: The MIT Press Cambridge, 1999. - 654 p.

127) Wooldridge M. An Introduction to MultiAgent Systems. - New York: John Wiley & Sons Ltd, 2002. - 366 p.

128) Burkhard H.-D. On a formal definition of multi-agent systems / H.-D. Burkhard // Proc. workshop concurrency, specification & programming. - Berlin: Humboldt-University, 1992.-pp. 1-15.

129) Demazeau Y. Populations and organizations in open multi-agent systems / Y. De-mazeau, A.C. Rocha Costa // In 1st Nat. Symposium on Parallel and Distributed AI (PDAI '96). - Hyderabad, India: 1996.

130) Self-organization in multiagent systems: from agent interaction to agent organization / M. Schillo, B. Fley, M. Florian, etc. // Proceedings of the 3rd International Workshop on Modeling Artificial Societies and Hybrid Organizations (MASHO'02), Workshop at KI2002, the 25th German Conference on Artificial Intelligence. - Aachen, 2002. -pp. 47-56.

131) Исследование и разработка методов, моделей и алгоритмов компьютерной имитации явлений и процессов самоорганизации в системах поддержки принятия решений методами гибридных интеллектуальных систем: отчет о НИР / Институт проблем информатики РАН, Калининградский филиал; Руководитель А.В. Колесников. - № ГР 01.2.010 00911. - Калининград, 2010.

132) Берзин Е.А. Элементарные решения неэлементарных задач на графах: учеб. пособие / Е.А. Берзин; под ред. А.Н. Кудинова. - Тверь: ТГТУ, 2005. - 136 с.

133) Аксенов В.В. Постановка задачи коммивояжера с временными окнами и ее решение [Электронный ресурс] / Электронная библиотека НИЯУ МИФИ; В.В. Аксенов, И.Д. Салмин. - Электрон, дан. - М.: НБ МИФИ, 2006. - Режим доступа: http://library.mephi.ru/data/scientific-sessions/2006/t2/2-l-26.doc. - Загл. с экрана.

134) Ohlmann J.W. Compressed-Annealing Heuristic for the Traveling Salesman Problem with Time Windows / J.W. Ohlmann, B.W. Thomas // INFORMS Journal on Computing. -2007. -Vol.19, №1. - pp. 80-90.

135) Focacci F. A hybrid exact algorithm for the TSPTW / F. Focacci, A. Lodi, M. Milano // INFORMS Journal on Computing. - 2002. - Vol. 14. - pp. 403-417.

136) Eyckelhof C.J. Ant systems for a dynamic TSP: Ants caught in a traffic jam / C.J. Eyckelhof, M. Snoek // Proceedings of ANTS2002 - From ant colonies to artificial ants: Third international workshop on ant algorithms / M. Dorigo, G. Di Саго, M. Sampels (eds.). - Berlin.: Springer Verlag, 2002. - Vol. 2463 of Lecture notes in computer science.-pp. 88-99.

137) Bianchi L. An ant colony optimization approach to the probabilistic traveling salesman problem / L. Bianchi, L.M. Gambardella, M. Dorigo // Proceedings of PPSN-VII, Seventh international conference on parallel problem solving from nature. - Berlin.: Springer, 2002. - Vol. 2439 of Lecture notes in computer science, - pp. 883-892.

138) Kolesnikov A.V. Investigation of self-organization relations in intelligent agents' teams / A.V. Kolesnikov, S.V. Listopad, I.A. Kirikov // Pr. of The "Computer Days -2009" . - Kaunas, 2009. - 89 - 91 pp.

139) Колесников A.B. Исследование отношений самоорганизации в коллективах интеллектуальных агентов / А.В. Колесников, С.В. Листопад // Искусственный интеллект: философия, методология, инновации. Материалы III Всероссийской конференции студентов, аспирантов и молодых ученых, МИРЭА. - М.: «Связь-Принт», 2009.-С. 18-20.

140) Колесников А.В. Метод оценки степени сплоченности коллектива интеллектуальных агентов, принимающих решения / А.В. Колесников, С.В. Листопад // Труды VII юбилейной международной научной конференции «Инновации в науке и образовании-2009». - Ч. 2. - Калининград: КГТУ, 2009. - С. 175 - 177.

141) Колесников А.В. Метод оценки степени взаимодействия интеллектуальных агентов в компьютерных системах поддержки принятия решений / А.В. Колесников, С.В. Листопад // Известия КГТУ. - 2010. - № 17: Материалы VII Международной научной конференции «Инновации в науке и образовании-2009». - С. 166-170.

142) Кириков И.А. Моделирование процессов самоорганизации в коллективах интеллектуальных агентов / И.А. Кириков, А.В. Колесников, С.В. Листопад // Материалы IV Всероссийской конференции студентов, аспирантов и молодых учёных «Искусственный интеллект: философия, методология, инновации». - Ч. 1. - М.: Радио и связь, 2010.-С.9-11.

143) Kolesnikov A. Investigation of self-organization phenomena and processes in decision support systems according to relationships of participants' goals / A. Kolesnikov, S. Listopad, I. Kirikov // Pr. of the 16th International Conference on Information and Software Technologies, IT 2010. - Kaunas: Kaunas University of Technology, 2010. - 88 - 94 pp.

144) Кириков И.А. Моделирование самоорганизации групп интеллектуальных агентов в зависимости от степени их взаимодействия / И.А. Кириков, А.В. Колесников, С.В. Листопад // Информатика и её применения. — 2009. — Т. 3, Вып. 4. — М., 2009. — С. 76-86

145) Сурмин Ю.П. Теория систем и системный анализ: учеб. пособие / Ю.П. Сур-мин. - Киев: МАУП, 2003. - 368 с.

146) Анфилатов B.C. Системный анализ в управлении: Учебное пособие / B.C. Ан-филатов, А.А. Емельянов, А.А. Кукушкин. - М.: Финансы и статистика, 2002.

147) Алтунин А.Е. Модели и алгоритмы принятия решений в нечетких условиях / А.Е. Алтунин, М.В. Семухин. - Тюмень: Изд-во Тюменского государственного университета, 2000. - 352 с.

148) Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А.Поспелова. - М.: Наука, 1986.

149) Кофман А. Введение в теорию нечетких множеств / А. Кофман; пер. с франц. - М.: Радио и связь, 1982.

150) Рыжов А.П. Элементы теории нечетких множеств и ее приложений / А.П. Рыжов. - М.: Диалог-МГУ, 1998. - 81 с.

151) Abonyi J. Adaptive fuzzy inference system and its application in modelling and model based control / J. Abonyi, L. Nagy, F. Szeifert // Chemical engineering research and design. - 1999. - Vol. 77, № 4. - pp. 281-290.

152) Jang R. Neuro-fuzzy modeling: architectures, analyses and applications. Ph.D. Thesis. - Berkeley: University of California, 1992.

153) Berenji H.R. Learning and tuning fuzzy logic controllers through reinforcements / H.R. Berenji, P. Khedkar // IEEE Transactions on Neural Networks. - 1992. - Vol. 3. -pp. 724-740.

154) Feng J.C. An online self constructing neural fuzzy inference network and its applications / J.C. Feng, L.C. Teng // IEEE Transactions on Fuzzy Systems. - 1998. - Vol. 6, № l.-pp. 12-32.

155) Штовба С.Д. Идентификация нелинейных зависимостей с помощью нечеткого логического вывода в системе MATLAB / С.Д. Штовба // Математика в приложениях. - 2003. - № 2 (2). - С. 9 - 15.

156) Тгап С. Adaptation of Mamdani fuzzy inference system using neuro-genetic approach for tactical air combat support system / C. Tran, L. Jain, A. Abraham // 15th Australian Joint Conference on Artificial Intelligence (AI'02). - Berlin: Springer, 2002. - pp. 402-410.

157) Терехов С.А. Лекции по теории и приложениям искусственных нейронных сетей. Лекция 6. Многослойный персептрон [Электронный ресурс] / ВНИИТФ; С.А.

ТереховВ.В. - Электрон, дан. - Снежинск: ВНИИТФ, 1998. - Режим доступа: http://alife.narod.ru/lectures/ neural/Neu_ch06.htm. - Загл. с экрана.

158) Kirikov I. Computer decision support system modelling self-organisation effects based on the analysis of experts' goals /1. Kirikov, A. Kolesnikov, S. Listopad // Pr. of the 17th International Conference on Information and Software Technologies, IT 2011. -Kaunas: Kaunas University of Technology, 2011. - 39-44 pp.

159) Листопад С.В. Моделирование коллективного решения сложных задач гибридными интеллектуальными многоагентными системами / С.В. Листопад // Вторая школа молодых ученых ИПИ РАН. Сборник докладов. - М.: ИЛИ РАН, 2011.— С.42-52.

160) Кириков И.А. Исследование эффекта самоорганизации в компьютерных системах поддержки принятия решения на примере многоагентных систем / И.А. Кириков, А.В. Колесников, С.В. Листопад // Вестник Российского государственного университета им. Иммануила Канта. — Вып. 10: Сер. Физико-математические науки.— Калининград: Изд-во РТУ им. И. Канта, 2010. — С. 79 - 90

161) Zhang Z. Agent-Based Hybrid Intelligent Systems: An Agent-Based Framework for Complex Problem Solving / Z. Zhang, C. Zhang // Lecture Notes in Artificial Intelligence / J. G. Carbonell, J. Siekmann (eds.). - Berlin: Springer, 2004. - Vol. 2938.-216 p.

162) Standard status specifications [Electronic resource] / Foundation for Intelligent Physical Agents. - Electronic data. - Alameda, 2002. - Mode of access: http://www.fipa.org /repository/standardspecs.html. - Загл. с экрана.

163) Allan R. Survey of agent based modelling and simulation tools / R. Allan // Technical Report DL-TR-2010-007. STFC Daresbury Laboratory, Daresbury, Warrington, 2010.

164) Serenko A. Agent toolkits: A general overview of the market and an assessment of instructor satisfaction with utilizing toolkits in the classroom / A. Serenko, B. Detlor // Working paper №455. - Hamilton, Ontario: McMaster University, Michael G. DeGroote School of Business, 2002.

165) Leszczyna R. Evaluation of agent platforms / R. Leszczyna // Technical report, European Commission, Joint Research Centre, Institute for the Protection and security of the Citizen, Ispra, Italy, 2004.

166) Procedural Reasoning System. User's Guide. A Manual for Version 2.0 / Artificial Intelligence Center, SRI International. - Menlo Park, 2001. - p. 80.

167) DTnverno M. The dMARS architecture: A specification of the distributed multiagent reasoning system // M. d'lnverno, M. Luck, M. Georgeff, D. Kinny, etc. // Autonomous Agents and Multi-Agent Systems. - 2004. - Vol. 9, № 1. - 5 - 53 pp.

168) Thorne C. The BDI model of agency and BDI logics / C. Thorne // Technical Report, Laboratory for Applied Ontology (ISTC-CNR), 2005.

169) Листопад C.B. Решение сложной практической задачи коммивояжера методами гибридных интеллектуальных систем / С.В. Листопад // Искусственный интеллект: философия, методология, инновации. Материалы 2-ой международной молодежной конференции. - СПб, 2007. - С. 199-201.

170) Листопад С.В. Философско-методологический анализ синергетического эффекта в симбиозе интеллектуальности и реактивности в системах искусственного интеллекта / С.В. Листопад // Образование, наука и инженерная деятельность в социокультурном пространстве эксклавного региона: история, актуальные проблемы, перспективы развития. - Калининград, 2007. - С. 51 - 53.