Модели, методы и программные средства вывода в интегрированных экспертных системах тема диссертации и автореферата по ВАК РФ 05.13.11, кандидат технических наук Демидов, Дмитрий Витальевич

• Демидов, Дмитрий Витальевич
• кандидат технических наук
• 2007

Оглавление диссертации кандидат технических наук Демидов, Дмитрий Витальевич

СПИСОК СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

1 ОСОБЕННОСТИ ПОСТРОЕНИЯ СРЕДСТВ ВЫВОДА ДЛЯ ИНТЕГРИРОВАННЫХ ЭКСПЕРТНЫХ СИСТЕМ.

1.1 Подходы к построению средств вывода.

1.2 Методы представления и обработки знаний, содержащих недостоверную информацию.

1.2.1 Классификация НЕ-факторов знаний.

1.2.2 Методы представления и обработки неопределенности.

1.2.3 Методы представления и обработки неточности.

1.2.4 Методы представления и обработки нечеткости.

1.2.5 Методы представления и обработки недоопределенности.

1.2.6 Проблемы совместной обработки знаний, содержащих НЕ-факторы, в интегрированных экспертных системах.

1.3 Особенности представления и обработки знаний в экспертных системах и инструментальных средствах для построения экспертных систем.

1.3.1 Методы вывода и стратегии поиска решений в пространстве состояний.

1.3.2 Эффективные методы сопоставления и разрешения конфликтов.

1.3.3 Стратегии подтверждения гипотез и ведения уточняющих поддиалогов.

1.3.4 Потребность в метауровне: метаархитектуры, метауправление, декларативное описание алгоритмов обработки знаний.

1.3.5 Особенности задачно-ориентированной методологии построения интегрированных экспертных систем.

1.4 Объяснительные способности экспертных систем.

1.4.1 Подходы к формированию объяснений.

1.4.2 Взаимосвязь средств вывода и средств формирования объяснений в интегрированных экспертных системах.

1.4.3 Проблемы построения объяснений в интегрированных экспертных системах.

1.5 Особенности интегрированных экспертных систем, влияющие на архитектуру и требования к средствам вывода.

1.6 План исследования.

Выводы.

2 ТЕОРЕТИЧЕСКИЕ ВОПРОСЫ ПОСТРОЕНИЯ СРЕДСТВ ВЫВОДА И АЛГОРИТМОВ ОБРАБОТКИ ЗНАНИЙ.

2.1 Обобщенная модель вывода.

2.2 Методы вывода.

2.2.1 Особенности методов сопоставления и разрешения конфликтов.

2.2.2 Метод ведения уточняющих поддиалогов.

2.2.3 Подход к обработке знаний, содержащих НЕ-факторы.

2.2.4 Метод дефаззификации многомодальных функций принадлежности.

2.2.5 Методы совместной обработки НЕ-факторов знаний.

2.2.6 Метод интерпретации метапроцедур принятия решений.

2.3 Представление знаний в рабочей памяти.

2.3.1 Представление классов, методов и правил.

2.3.2 Представление типов и структур данных.

2.3.3 Представление значений, переменных, операций, выражений, ссылок.

2.3.4 Представление исполняемых инструкций.

2.3.5 Особенности предложенной модели представления знаний.

2.4 Модель рабочей памяти.

2.4.1 Представление задачи в рабочей памяти.

2.4.2 Представление текущего состояния решения задачи.

2.4.3 Представление контекста вывода.

2.4.4 Представление метазнаний в рабочей памяти.

2.5 Модель вычислений, производимых средствами вывода.

2.5.1 Инициализация рабочей памяти.

2.5.2 Создание экземпляров классов, наследование классов.

2.5.3 Интерпретация правил.

2.5.4 Операционная семантика инструкций.

2.5.5 Алгоритм вычисления выражений.

2.6 Теоретические вопросы взаимодействия средств вывода со средствами формирования объяснений.

2.7 Оптимизация вывода и базы знаний.

2.8 Перспективы построения средств вывода для решения задач в динамических проблемных областях.

Выводы.

3 ПРОЕКТИРОВАНИЕ И ПРОГРАММНАЯ РЕАЛИЗАЦИЯ СРЕДСТВ ВЫВОДА ДЛЯ ИНТЕГРИРОВАННЫХ ЭКСПЕРТНЫХ СИСТЕМ.

3.1 Архитектура универсального решателя.

3.2 Представление базы знаний в рабочей памяти универсального решателя.

3.3 Архитектура средств отладки в универсальном решателе.

3.4 Взаимодействие универсального решателя со средствами поддержки разработки инструментального комплекса АТ-ТЕХНОЛОГИЯ.

3.5 Взаимодействие универсального решателя с другими программными средствами в составе интегрированных экспертных систем.

3.5.1 Схема взаимодействия универсального решателя и компонента интеграции с внешними программными средствами.

3.5.2 Сценарии взаимодействия с базами данных.

3.5.3 Сценарии взаимодействия со средствами формирования объяснений.

3.5.4 Наследование классов от СОМ-объектов.

3.6 Подходы к тестированию средств вывода.

Выводы.

4 АПРОБАЦИЯ И ВНЕДРЕНИЕ РАЗРАБОТАННЫХ ПРОГРАММНЫХ СРЕДСТВ

4.1 Сравнение эффективности алгоритмов вывода универсального решателя с прежней версией средств вывода комплекса АТ-ТЕХНОЛОГИЯ.

4.2 Оценка эффективности работы средств вывода в составе интегрированной экспертной системы проектирования корпоративных информационно-вычислительных сетей

4.3 Использование универсального решателя в составе интеллектуального планировщика инструментального комплекса АТ-ТЕХНОЛОГИЯ.

4.4 Оценка эффективности работы средств вывода в составе интегрированной экспертной системы диагностики заболеваний дыхательных путей МедЭС.

4.5 Внедрения в учебный процесс.

Выводы.

Выводы по диссертации.

Введение диссертации (часть автореферата) на тему «Модели, методы и программные средства вывода в интегрированных экспертных системах»

Проблемам обработки знаний в таком классе интеллектуальных систем как экспертные системы традиционно уделялось много внимания, поскольку эффективность процесса интерпретации знаний напрямую влияет на качество получаемых решений. С появлением более сложного и широкого класса экспертных систем - интегрированных экспертных систем (ИЭС), связанным со сближением парадигм искусственного интеллекта и традиционного программирования, значимость и актуальность проблемы эффективности и корректности вывода решений только возросла. Это связано с многообразием архитектур ИЭС, возрастанием числа стадий и итераций в моделях жизненного цикла построения отдельных компонентов, повышением доли недостоверной информации в базах знаний и др.

Значительный вклад в исследование и решение проблем построения экспертных систем и ИЭС внесли отечественные учёные О.И. Ларичев, Д.А. Поспелов, Э.В. Попов, Г.С. Осипов, Г.В. Рыбина, О.П. Кузнецов, А.П. Еремеев, И.Б. Фоминых, Т.А. Гаврилова, В.Ф. Хорошевский, В.Л. Стефанюк, Б.А. Кобринский, В.Н. Вагин, В.Б. Тарасов, А.Н. Аверкин и другие, а также ряд зарубежных учёных Л. Заде, У. Клэнси, Э. Шортлиф, Ф. Форсайт, Ф. Хейес-Рот, Д. Ленат, Д. Уотермен, К. Нейлор, П. Джексон и др.

Исследование и классификация знаний привели к появлению большого числа подходов для выявления и представления так называемых НЕ-факторов знаний (термин введен A.C. Нариньяни), а также математических аппаратов для их обработки. Хотя для отдельных НЕ-факторов знаний разработаны методы их выявления и представления, а также мощные математические аппараты их обработки, существующие подходы учитывают в основном отдельные аспекты обработки НЕ-факторов в процессе принятия решений. Проведённый анализ существующих методов обработки знаний, содержащих НЕ-факторы, методов вывода, а также методов построения средств вывода для ИЭС выявил ряд недостатков, важнейшими из которых являются ограниченность области применения некоторых методов и отсутствие в целом решения проблемы совместной обработки НЕ-факторов знаний.

В диссертации использован практический опыт разработки прикладных ИЭС на основе задачно-ориентированной методологии (автор Г.В. Рыбина), который позволил выявить ряд дополнительных проблем, связанных с процессом вывода. Основными проблемами являются:

• необходимость совместной обработки неопределенных, неточных и нечетких знаний, эксплицитно проявляющихся в рассуждениях экспертов;

• необходимость интеграции средств вывода с разнородными программными средствами в составе ИЭС (в силу масштабируемости их архитектуры), которые в процессе вывода могут являться как источниками, так и потребителями данных;

• существенный рост вычислительных затрат на поиск решения при возрастании объемов баз знаний;

• необходимость гибкой настройки средств вывода на решаемую задачу.

Современные коммерческие инструментальные средства для создания интеллектуальных систем, такие как Level 5 Object, G2, Clips, Exsys и др. в полной мере не решают обозначенные проблемы. Практическая значимость ИЭС и необходимость использования в них мощных средств вывода обуславливает актуальность данного диссертационного исследования.

Диссертационная работа посвящена решению проблемы обработки знаний, содержащих различные НЕ-факторы знаний, и повышению эффективности вывода в ИЭС в рамках задачно-ориентированной методологии автоматизированного построения прикладных ИЭС, предложенной Г.В. Рыбиной в середине 90-х годов.

Объектом исследования являются средства вывода в ИЭС, обеспечивающие процессы поиска решения задач на основе ИЭС.

Предметом исследования являются методы вывода на знаниях, содержащих неопределенность, неточность и нечеткость; методы совместной обработки недостоверных знаний; методы представления и интерпретации декларативных и процедурных знаний в ИЭС; подходы к построению средств вывода для ИЭС.

Целью данной диссертации является исследование и разработка моделей, методов и программных средств вывода в ИЭС. Для достижения поставленной цели в диссертации решены следующие основные задачи:

• разработан метод вывода, предусматривающий совместную обработку знаний, содержащих неопределенность, неточность и нечеткость;

• на основе анализа существующих методов и средств вывода, подходов к разработке средств вывода выявлена совокупность требований к модели представления знаний, модели рабочей памяти средств вывода, разработана модель вычислений, производимых средствами вывода;

• разработаны алгоритмы взаимодействия средств вывода с подсистемой объяснения, базами данных;

• выполнен анализ системных требований и проектирование инструментальных средств вывода в соответствии с задачно-ориентированной методологией;

• разработаны программные средства вывода, включенные в состав инструментального комплекса АТ-ТЕХНОЛОГИЯ третьего поколения;

• проведена экспериментальная апробация предложенных алгоритмов и разработанных инструментальных программных средств вывода для задач проектирования корпоративных информационно-вычислительных сетей и медицинской диагностики.

Для решения поставленных задач в работе использованы методы искусственного интеллекта (модели представления и обработки знаний, методы инженерии знаний и нечеткой логики), методы дискретной математики (математической логики, математической лингвистики, теории множеств, теории графов), системного анализа, теории построения трансляторов, теории принятия решений. Научная новизна исследования состоит в следующем:

1. Разработан оригинальный метод совместной обработки знаний, который отличается тем, что позволяет производить вывод в условиях одновременного наличия знаний с неопределённостью, неточностью и нечёткостью.

2. Разработан оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, который отличается от классических методов тем, что в качестве результата дефаззификации вычисляется в общем случае несколько четких значений, а не одно.

3. Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа базы знаний, позволяющая более эффективно формировать конфликтное множество гипотез по сравнению с существующими стратегиями.

4. Предложена расширенная модель представления знаний в ИЭС, позволяющая представлять декларативные и процедурные знания и метазнания, и опирающаяся на объектно-ориентированную концепцию структурирования проблемной области.

5. Разработаны средства вывода (универсальный решатель), включенные с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ, обладающие способностью взаимодействия с разнородными программными средствами в составе ИЭС и обеспечивающие автоматическое построение объяснений получаемого решения. Разработан оригинальный программный инструментарий инженера по знаниям, включенный с состав комплекса АТ-ТЕХНОЛОГИЯ, предназначенный для отладки средств вывода с возможностью управления процессом вывода в пошаговом режиме.

Основные научные результаты, выносимые на защиту

1. Специализированный метод совместной обработки знаний, содержащих неточность, неопределенность, нечеткость.

2. Оригинальный метод дефаззификации многомодальных функций принадлежности.

3. Новый метод подтверждения гипотез на основе комбинирования стратегий и статистического анализа базы знаний.

4. Расширенная модель представления знаний в интегрированных экспертных системах позволяет представлять декларативные и процедурные знания, а также поддерживает объектно-ориентированную концепцию структурирования проблемной области.

5. Обобщенная модель рабочей памяти средств вывода.

Практическая значимость проведенных исследований и полученных результатов заключается в создании эффективных моделей, методов и программных средств вывода для ИЭС. Важность решения поставленных задач состоит в повышении точности решений, получаемых с помощью ИЭС, снижении времени вывода при поиске решений в ИЭС, сокращении сроков создания ИЭС.

Практическая значимость работы подтверждается использованием разработанного программного обеспечения в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ, а также в составе нескольких прототипов ИЭС в области проектирования и медицинской диагностики.

Достоверность разработанных методов и алгоритмов обработки знаний в ИЭС в рамках заданно-ориентированной методологии подтверждается соответствием теоретических и экспериментально полученных данных о качественных и количественных характеристиках работы созданных средств вывода, результатами сравнения с существующими средствами вывода, а также актами о практическом внедрении и использовании.

Результаты работы использованы в НИР, выполненных при поддержке РФФИ в лаборатории "Системы искусственного интеллекта" кафедры кибернетики МИФИ (ГУ) (исполнитель по проектам №00-01-00679, №06-01-00242, №03-01-00924). Результаты диссертации использованы в проекте РФФИ №04-07-90200, выполненном совместно с ФГУП «Концерн «СИСТЕМПРОМ».

Разработанные программные средства вывода используются:

• в составе исследовательского прототипа ИЭС для проектирования и моделирования корпоративных информационно-вычислительных сетей, применяемого в исследованиях и разработках ФГУП «Концерн «СИСТЕМПРОМ» (акт об использовании);

• в составе прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлинике №109 СЗАО г. Москвы (акт об использовании).

Созданные инструментальные программные средства в составе комплекса АТ-ТЕХНОЛОГИЯ используются в учебном процессе Московского инженерно-физического института (МИФИ) на кафедре Кибернетики и Российского государственного социального университета (РГСУ) на кафедре Социальной информатики, что подтверждается соответствующими актами о внедрении, а также использовались при создании учебного пособия "Лабораторный практикум по курсу "Проектирование систем, основанных на знаниях" (авторы Г.В. Рыбина, Д.В. Демидов, М.Г. Иващенко, М.: МИФИ, 2007).

Основные положения и результаты диссертационного исследования докладывались и обсуждались на научных конференциях и семинарах:

1. "Интегрированные модели и мягкие вычисления в искусственном интеллекте". П-й Международный научно-практический семинар, Коломна, 2003 г.;

2. "Интеллектуальные системы" (AIS-05). V Международная конференция, Геленджик, 2005 г.;

3. Научные сессии МИФИ (ГУ), г. Москва, 2002,2003,2004,2005, 2006,2007 гг.;

4. "Современнные технологии в задачах управления, автоматики и обработки информации". XIV международный научно-технический семинар, Алушта, 2005 г.

По теме диссертационного исследования опубликовано 7 печатных работ, в том числе одна статья в журнале, включённом ВАК РФ в перечень ведущих рецензируемых научных журналов и изданий, одна статья в периодическом сборнике и пять докладов в сборниках трудов конференций.

Диссертация состоит из введения, четырех глав, заключения, библиографического списка (99 наименований) и приложений. Основная часть диссертации содержит 135 страниц машинописного текста, включая 46 рисунков, 26 таблиц.

Заключение диссертации по теме «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей», Демидов, Дмитрий Витальевич

Выводы по диссертации

1. Предложены специализированные методы и алгоритмы совместной обработки НЕфакторов знаний, отличающиеся тем, что позволяют производить вывод в условиях наличия в базе знаний совокупности НЕ-факторов знаний, таких как неопределённость, неточность, нечёткость [62, 61].

2. Предложен оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, отличающийся тем, что в качестве результата дефаззификации вычисляется в общем случае несколько четких значений [18,61].

3. Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа БЗ, отличающаяся тем, что позволяет эффективнее по сравнению с аналогами формировать конфликтное множество гипотез [59].

4. Предложена расширенная модель представления знаний в ИЭС, отличающаяся тем, что позволяет представлять декларативные и процедурные знания, а также поддерживает объектно-ориентированную концепцию структурирования проблемной области [60, 61].

5. Реализована новая версия универсального решателя, инструментальные средства поддержки разработки средств вывода, оригинальный программный инструментарий инженера по знаниям, предназначенный для отладки средств вывода и позволяющий в пошаговом режиме управлять процессом вывода [20, 60, 61, 63]. Инструментарий включен с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ.

6. Созданные программные средства использованы при создании исследовательского прототипа ИЭС для проектирования и моделирования корпоративных информационно-вычислительных сетей, применяемых в исследованиях и разработках ФГУП "Концерн "СИСТЕМПРОМ" (акт об использовании) [15], а также при создании прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлиники № 109 СЗАО г. Москвы (акт об использовании).

7. Разработанные программные средства в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ использованы в учебном процессе Московского инженерно-физического института и Российского государственного социального университета (акты о внедрении).

Список литературы диссертационного исследования кандидат технических наук Демидов, Дмитрий Витальевич, 2007 год

1. Аверкин А.Н., Батыршин ИЗ., Блишун А.Ф., Силов В.Б., Тарасов В.Б. Нечеткие множества в моделях управления и искусственного интеллекта /Под ред. Поспелова Д.А. -М: Наука, 1986.-312 с.

2. Алексеев A.B., Борисов А.Н., Вилюмс Э.Р., Слядзь H.H., Фомин С.А. Интеллектуальные системы принятия проектных решений. Рига: Зинатне, 1997. 320 с. ил.

3. Ахо А., Сети Р., Ульман Д. Компиляторы: принципы, технологии и инструменты. Пер. с англ. М. Издательский дом "Вильяме", 2001. - 768 е., ил.

4. Буч Г., РамбоД, Якобсон И. UML. Руководство пользователя, М: ДМК, 2000. 432 с.

5. Вагин В.Н, Головина Е.Ю., Загорянская A.A., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах / Под ред. Вагина В.Н., Поспелова Д.А. М: ФИЗМАТЛИТ, 2004. - 704 с.

6. Вагин В.Н. Знание в интеллектуальных системах // Новости искусственного интеллекта. 2002. №6. С. 8-18.

7. Вагин В.Н.,. Еремеев А.П. Некоторые базовые принципы построения интеллектуальных систем поддержки принятия решений реального времени // Изв. РАН. ТиСУ, 2001, №6,с. 114-123.

8. Валъкман Ю.Р. НЕ-факторы основа образного мышления // Интегрированные модели и мягкие вычисления в искусственном интеллекте. Сборник трудов 11-го Международного научно-практического семинара. -М.: Физматлит, 2003. с. 26-33.

9. Валъкман Ю.Р. Моделирование НЕ-факторов основа интеллектуализации компьютерных технологий // Новости искусственного интеллекта. 2004. №2. С. 64-81.

10. Гаврилова Т.А. Логико-лингвистическое управление. Как введение в управление знаниями // Новости искусственного интеллекта. 2002. №6. С. 36-40.

11. Гаврилова Т.А. Онтологический подход к управлению знаниями при разработке корпоративных информационных систем // Новости искусственного интеллекта. 2003. №2. С. 24-29.

12. Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. СПб: Питер, 2000.-384 с.

13. Горбатов В.А. Фундаментальные основы дискретной математики М.: Наука. Физматлит, 1999. 544 с.

14. Горелкин Г.А., Хохлачев E.H. Прототип экспертной системы проектирования136информационно-вычислительных сетей. В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 16 томах. Т.З. М.: МИФИ, 2006, с. 94-95.

15. Гринберг С.Я,, Яхно Т.М. ДИ*ГЕН: оболочка для создания диагностирующих экспертных систем. В кн.: II Всесоюзная конференция "Искусственный интеллект 90". Тверь: Ротапринт НПО "Центрпрограммсистем", 1990, с. 45-48.

16. Девятков В.В. Системы искусственного интеллекта. М.: Изд-во МГТУ им. Н.Э. Баумана, 2001. 352 с. ил.

17. Демидов Д.В. Метод дефаззификации многомодальных функций принадлежности лингвистических переменных. Научная сессия МИФИ-2004. Сборник научных трудов. В 15 томах. Т. 14. М.: МИФИ, 2004, с.29-30.

18. Демидов Д.В. Модель вычислений средств вывода интегрированных экспертных систем. Научная сессия МИФИ-2007. Сборник научных трудов. В 17 томах. Т.З. Интеллектуальные системы и технологии. М,: МИФИ, 2007. с. 178-179.

19. Джексон П. Введение в экспертные системы. М: Издательский дом "Вильяме", 2001. 624 е., ил.

20. Дракин В.К, Попов Э.В., Преображенский А.Б. Общение конечных пользователей с системами обработки данных.

21. Душкин Р.В., Рыбина Г.В. Об одном подходе к автоматизированному извлечению, представлению и обработке знаний с НЕ-факторами. В кн.: Известия РАН. Теория и системы управления. 1999, N5, с. 34-44.

22. Дымова Л.Г., Севастьянов П.В. Мягкая математика в оптимизации биржевой торговли // Новости искусственного интеллекта. 2004. № 2, с. 35-51.

23. Емельянов В.В., Ясиновский С.И. Введение в интеллектуальное имитационное моделирование сложных дискретных систем и процессов. Язык РДО. -М.: АНВИК, 1998, -427с.

24. Еремеев А.П. , Денисенко JI.C. Обработка недоопределенной информации в системе поддержки принятия решений реального времени применительно к оперативной службе электростанций // Изв. РАН. Энергетика. 2002. № 2, с. 32-43.

25. Жигалов A.B., Никулин М.Б., Чуприпа СИ. Оболочка экспертных систем XG#: концепция построения и реализация // Математика программных систем: Межвуз. сб. научн. тр. Пермь: Перм. ун-т, 2003. - С. 97-106.

26. Капер С., ФолкДж., Нгуен Е.К. Тестирование ПО. К: ДиаСофт, 2000. 544 с.

27. Клоксин У., Меллиш К. Программирование на языке Пролог. Пер. с англ. М.: Мир,1371987.-336 с.

28. Кнут Д. Искусство программирования. В 3-х томах. Т.1 М.: Мир, 1986.

29. Крисевич B.C., Кузьмич JI.A., Шиф A.M., Курманов B.C., Кутян H.H., Краснопрошин

30. B.В., Михайлов В.Н., Валъвачев А.Н., Уткин Ю.А. Экспертные системы для персональных компьютеры: методы, средства, реализации: Справ, пособие. Мн.: Выш. шк., 1990. 197 е., ил.

31. Ларичев О.И. Теория подсознательных решающих правил новый взгляд на экспертное мышление. VIII национальная конференция по искусственному интеллекту с международным участием КИИ-2002. Сб. научных трудов, том 1. М.: Физматлит, 2002.1. C. 1-14.

32. Ларичев О.И, Мечитов А.И., Мошкович Е.И, Фуремс Е.М. Выявление экспертных знаний. М.: Наука, 1989.

33. Лорьер Ж.-Л. Системы искусственного интеллекта. М: Мир, 1991. 568 е., ил.

34. Набебин A.A. Логика и Пролог в дискретной математике. М.: Издательство МЭИ, 1996.-452 с. ил.

35. Наринъяни A.C. Недоопределенность в системах представления и обработки знаний // Изв. АН СССР. Техническая кибернетика. 1986. № 5

36. Нариньяни A.C. НЕ-факторы: неоднозначность (до-формальное исследование) // Новости искусственного интеллекта. 2003. № 5, с. 47-55.

37. Наринъяни A.C. НЕ-факторы: краткое введение // Новости искусственного интеллекта. 2004. № 2, с. 52-63.

38. Нилъсон Н. Принципы искусственного интеллекта. М: Радио и связь, 1985. 376 с.

39. Новицкий П.Ф., Зограф И.А. Оценка погрешностей результатов измерений. 2-е изд., перераб. и доп. - Л.: Энергоатомиздат. Ленингр. отд-ние, 1991. - 304 е.: ил.

40. Осипов Г.С. Искусственный интеллект: основные направления и состояние исследований // Компьютерра №30 (455). 2002.

41. Осипов Г.С. Приобретение знаний интеллектуальными системами. Основы теории и технологии. М.: Наука, Физматлит, 1997. - 112 с.

42. Осипов Г.С. и dp. SIMER + MIR инструментальные программные средства для экспертных систем. В кн.: II Всесоюзная конференция "Искусственный интеллект - 90". Тверь: Ротапринт НПО "Центрпрограммсистем", 1990, с. 58-64.

43. Осуга С., Сажи Ю. и др. Приобретение знаний. М: Мир, 1990. 304 е., ил.

44. Попов Э.В. Корпоративные системы управления знаниями // Новости искусственного интеллекта. 2001. №1. С. 14-25.

45. Попов Э. В. Экспертные системы. Решение неформализованных задач в диалоге с ЭВМ. М: Наука, 1987.-288 с.

46. Попов Э. В., Фоминых И. Б., Кисель Е. Б., Шапот М. Д. Статические и динамические экспертные системы. М: Финансы и статистика, 1996. 320 с.

47. Поспелов Д. А. Моделирование рассуждений. Опыт анализа мыслительных актов. М: Радио и связь, 1989. 184 с.

48. Поспелов ДА. Ситуационное управление. Теория и практика. М: Наука, 1986.-288 с.

49. Пытьев Ю.П. Возможность. Элементы теории и применения. М.: Эдиториал УРСС, 2000.-192 с.

50. Рапопорт Г.Н., Герц А.Г. Искусственный и биологический интеллекты. Общность структуры, эволюция и процессы познания. М.: КомКнига, 2005. - 312 с.

51. Рассел С., Порвиг П. Искусственный интеллект: современный подход, 2-ое изд. Пер. с англ. М.: Издательский дом «Вильяме», 2006. - 1408 е., ил.

52. Рыбина Г. В. Автоматизированное построение баз знаний для интегрированных экспертных систем. В кн.: Известия РАН. Теория и системы управления. 1998, №5, с. 152166.

53. Рыбина Г.В. Введение в интеллектуальные системы: Учебное пособие. М.: МИФИ, 2006. -140 с.

54. Рыбина Г.В. Задачно-ориентированная методология автоматизации построения интегрированных экспертных систем для статических проблемных областей. В кн.: Известия РАН. Теория и системы управления. 1997, N5. 37 с.

55. Рыбина Г.В. Инструментальные средства нового поколения для построения прикладных интеллектуальных систем // Авиакосмическое приборостроение. 2004. № 10.

56. Рыбина Г.В. Приобретение знаний, содержащих НЕ-факторы // Новости искусственного интеллекта. 2004. № 2, с. 82-94.

57. Рыбина Г. В. Проектирование систем, основанных на знаниях. Учебное пособие. М: МИФИ, 2000.-104 с.

58. Рыбина Г.В., Демидов Д.В. Метод подтверждения гипотез в универсальном решателе инструментального комплекса АТ-ТЕХНОЛОГИЯ. В кн.: Научная сессия МИФИ-2003. Сборник научных трудов. В 14 томах. Т.З. М.: МИФИ, 2003, с. 89-90.

59. Рыбина Г.В., Демидов Д.В. Методы построения средств вывода для интегрированных экспертных систем. В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 15 томах. Т.З. М.: МИФИ, 2006. с.48-52.

60. Рыбина Г.В., Демидов Д.В. Модели, методы и программные средства вывода в интегрированных экспертных системах // Инженерная физика. №2,2007. с.51-60.

61. Рыбина Г.В., Пышагин C.B. Интеллектуальная поддержка разработки интегрированных экспертных систем. VI национальная конференция с международным участием КИИ-98. Сб. научных трудов, том 2. С.169-175, Пущино, 1998.

62. Рыбина Г.В., Пышагин C.B., Смирнов В.В., Левин Д.Е., Душкин Р.В. Инструментальный комплекс AT-ТЕХНОЛОГИЯ для поддержки разработки интегрированных экспертных систем. М: МИФИ, 2001.

63. Рыбина Г.В., Рудина C.B. Инструментальное средство Level 5 Object для поддержки разработки систем, основанных на знаниях: Учебное пособие. М.: МИФИ, 1999. - 52 с.

64. Справочное руководство по LEVEL5 OBJECT для Microsoft Windows Версия 3.6. Information Builders, Inc., 1995.

65. Справочник. Искусственный интеллект. Т. 2. М.: Радио и связь, 1990.

66. Стерлинг Л., Шапиро Э. Искусство программирования на языке Пролог. М.: Мир, 1990.-235 с. ил.

67. СэвидэюДж. Э. Сложность вычислений. Пер. с англ. М.: изд-во "Факториал", 1998. -368 е.: ил.

68. Тарасов В.Б. НЕ-факторы: от семиотического анализа к методам формализации // Новости искусственного интеллекта. 2004. №2. С. 95-114.

69. Тарасов В. Б. Операции отрицания в моделировании отношений между объектами // Интегрированные модели и мягкие вычисления в искусственном интеллекте. Сборник трудов И-го Международного научно-практического семинара. М.: Физматлит, 2003. с. 63-68.

70. Тарасов В.Б. Управление знаниями в сетях предприятий // Новости искусственного интеллекта. 2003. №3. С. 32-35.

71. Тарасов В.Б. Теория нечетких множеств: новый виток развития В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 16 томах. Т.З. М.: МИФИ, 2006. с.16-18

72. Тулупьев А.Л., Николенко СМ., Сироткин А.В. Байесовские сети. Логико-вероятностный подход. СПб.: Наука, 2006. - 607 с.

73. Уэно X, Исидзука М. и др. Представление и использование знаний. М: Мир, 1989. -220 е., ил.

74. Филиппович А.Ю. Интеграция систем ситуационного, имитационного и экспертного моделирования. М.: Изд-во "ООО Эликс+", 2003. 300 с.

75. Форсайт Ф. Экспертные системы. Принципы работы и примеры. М: Радио и связь, 1987.-224 с.

76. Хейес-Рот Ф., Уотермен Д., ЛенатД. Построение экспертных систем. М: Мир, 1987. -441 с.

77. Хорошевский В. Ф. Механизмы вывода решений в экспертных системах. Учебное пособие. М; МИФИ, 1988. 44 с.

78. Хювенен Э., Сеппянен И. Мир Лиспа. В 2-х томах. Введение в язык Лисп и функциональное программирование. Пер. с финск. М.: Мир, 1990. -447 с.

79. Частиков А.П., Гаврилова Т.А. Белов Д.Л. Разработка экспертных систем. Среда CLIPS. СПб.: БХВ - Петербург, 2003. - 608 с.

80. Ярушкина Н.Г. Основы теории нечетких и гибридных систем. М.: Финансы и статистика, 2004. 320 е.: ил.

81. Bourg D.M., Seeman G. AI for game developers. Published by O'Reilly in 2004. ISBN 0596-00555-5. pp.400

82. Chatterjee A., Rakshit A. Influential Rule Search Engine (IRSS) A new fuzzy pattern classifier // IEEE Transactions on Knowledge and Data Engineering Vol. 16, No.8, August 2004, pp. 881-893.

83. Chen S.-M. Weighted fuzzy reasoning using weighted fuzzy Petri nets // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.2, March/April 2002, pp. 386-397.

84. Dung P.M., Mancarella P. Production systems with negation as failure // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.2, March/April 2002, pp. 336-352.

85. Hamilton-Wright A., StashukD. Transparent decision support using statistical reasoning and fuzzy inference // IEEE Transactions on Knowledge and Data Engineering Vol. 18, No.8, August 2006, pp. 1125-1137.

86. Leone N„ Scarcello F„ Subrahmanian V.S. Optimal models of disjunctive logic programs: Semantic, complexity, and computation // IEEE Transactions on Knowledge and Data Engineering Vol. 16, No.4, April 2004, pp. 487-504.

87. Li J. Robust rule-based prediction // IEEE Transactions on Knowledge and Data Engineering Vol. 18, No.8, August 2006, pp. 1043-1054.

88. Litman D„ Patel-Schneider P.F., Mishra A., Crawford J., Dvorak D. R++: Adding Path-based rules to С++ // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.3, May/June 2002, pp. 638-658.

89. Pal S.К., Shiu S.C.K. Foundations of soft case-based reasoning. Wiley series on intelligent systems. Published by John Wiley & sons, Inc., Hoboken, New Jersey in 2004. 274 p.

90. Siler IV., Buckley J.J. Fuzzy expert systems and fuzzy reasoning. Published by John Wiley & sons, Inc., Hoboken, New Jersey in 2005. 405 p.

91. Wuwongse V., Nantajeewarawat E. Declarative programs with implicit implication I I IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.4, July/August 2002, pp. 836849.

92. Zadeh L. Fuzzy logic, neural networks and soft computing. Communications of the ACM, 37-3,1994.1. ИНТЕРНЕТ ИСТОЧНИКИ

93. Веб-ориентированная оболочка Exsys Corvid http://www.exsys.com

94. Среда XG# для обучения дисциплинам по тематике искусственного интеллекта http://ict.edu.ru/vconf/index.php?a^vconf&c=getForm&r=thesisDesc&id sec=l50&id vconf-2 6&id thesis=6096&d=light

95. Среда CLIPS http://www.ghg.net/clips/clips.html