Деревья решений в задачах распознавания образов тема диссертации и автореферата по ВАК РФ 05.13.16, кандидат технических наук Алхасан Муса Мухамед

• Алхасан Муса Мухамед
• кандидат технических наук
• 1998

Оглавление диссертации кандидат технических наук Алхасан Муса Мухамед

СОДЕРЖАНИЕ

ВВЕДЕНИЕ

ГЛАВА 1. АЛГОРИТМЫ РАСПОЗНАВАНИЯ ОБРАЗОВ НА

ОСНОВЕ ДЕРЕВЬЕВ РЕШЕНИЙ

1.1. Качественное описание задачи распознавания образов

1.2. Формальное описание задачи распознавания образов

1.3. Основные задачи распознавания образов

1.4. Методы построения решающих правил в задачах

распознавания

1.4.1. Статистические методы

1.4.2. Детерминистский подход

1.4.3. Нечеткие методы

1.5. Деревья решений в задачах распознавания образов

1.5.1. Деревья решений на основе логических решающих правил

1.5.2. Метод обучения на основе построения миноров-эталонов и его использования для построения деревьев решений

1.5.2.1. Алгоритм обучения

1.5.2.2. Представление решающего правила, алгоритма "Геконал" в виде

дерева решения

1.5.3. Деревья решений в задаче построения многоклассовых решающих правил

1.5.4. Применения деревьев решений в задачах разработки обучаемых экспертных систем

1.5.5. Обучение на примерах и деревья решений

1.6. Выводы

ГЛАВА 2. ДЕРЕВЬЯ РЕШЕНИЙ НА ОСНОВЕ

ГРАФ-СХЕМ И ИХ СВОЙСТВА

2.1. Алгоритм построения

2.2. Граф-схемы на основе бинарных признаков

2.3. Классифицирующие свойства бинарной граф-схемы

2.4. Распознавание с помощью граф-схем

2.5. Устранения неопределенности методом расширения

обучающей выборки

2.6. Идея бинаризации признаков

2.6.1. Линейно-упорядоченные признаки

2.6.2. Граф-схема как наилучшее продолжение для случая линейно-упорядоченных признаков

2.6.3. Монотонность граф-схемы

2.6.4. Пример построения граф-схемы

2.6.5. Методы представления признаков при формировании граф-схем

2.6.6. Использование деревьев решений на основе граф-схем в задаче автоматического построение базы знаний экспертной системы

2.7. Выводы

ГЛАВА 3. НЕЧЕТКИЕ ДЕРЕВЬЯ РЕШЕНИЙ НА ОСНОВЕ

ГРАФ-СХЕМ

3.1. Нечеткие события, классы и признаки

3.2. Пространство нечетких признаков

3.3. Условные вероятности нечетких событий

3.4. Признаки нечетких событий

3.5. Пространство классов

3.6. Задача нечеткого обучения в распознавании

образов

3.7. Нечеткие граф-схемы

3.8. Алгоритм построения нечеткой граф-схемы

3.9. Пример построения нечеткой граф-схемы

возможностей

3.10. Выводы

ГЛАВА 4. ПРОГРАММНЫЕ СРЕДСТВА ДЛЯ РАБОТЫ С

ДЕРЕВЬЯМИ РЕШЕНИЙ

4.1. Общее описание системы распознавания "GRAF"

4.1.1. Обоснование выбора языка реализации

4.1.2. Вопросы реализации

4.1.3. Структура системы распознавания образов "GRAF"

4.1.4. Описание модуля CONVERT

4.1.5. Описание модуля SYSTEM

4.1.6. Описание модуля GRAPH

4.1.7. Описание модуля LOGIC

4.1.8. Работа с программной системы "GRAF"

4.2. Система автоматического приобретения знаний для

экспертной системы "ЭСТЕР" на основе программы

"GRAF"

4.2.1. Основные характеристики экспертной системы "ЭСТЕР"

4.2.2. Состав инструментальной оболочки ЭС

"ЭСТЕР"

4.2.3. Язык описания базы знаний в системе

"ЭСТЕР"

4.2.4. Простой пример записи базы знаний

4.2.5. Структура системы автоматического приобретения знаний (автоматической разработки правил) для ЭС "ЭСТЕР"

4.3. Выводы

ГЛАВА 5. ЭКСПЕРИМЕНТАЛЬНЫЕ ИССЛЕДОВАНИЯ МЕТОДОВ ПОСТРОЕНИЯ ДЕРЕВЬЕВ

РЕШЕНИЙ

5.1. Экспериментальные исследования по классификация артефактов при анализе электроэнцефалограмм человека

5.1.1. Артефакты при электроэнцефалографических исследованиях

5.1.2. Описание использованных статистических

данных

5.1.3. Предварительная обработка экспериментальных

данных

5.1.4. Обнаружение феноменов ЭЭГ на основе

описания сигналов спектрами ДПФ

5.1.5. Эксперименты по автоматической классификации типов феноменов

5.1.6. Эксперименты по классификации феноменов

ЭЭГ с использованием программы "GRAF"

5.1.7. Эксперимент по автоматической разработке базы знаний экспертной системы классификации артефактов

5.2. Применение граф-схем для распознавания

изображения

5.3. Исследования нечеткого распознавания на модельных примерах

5.3.1. Построение нечеткой граф-схемы на основе расширенных данных таблицы 4.1

5.3.2. Модельной пример: нечеткое распознавание качества яблок

5.4. Выводы

ЗАКЛЮЧЕНИЕ

СПИСОК ЛИТЕРАТУРЫ

ПРИЛОЖЕНИЕ 1

Введение диссертации (часть автореферата) на тему «Деревья решений в задачах распознавания образов»

ВВЕДЕНИЕ

Актуальность темы. В рамках кибернетики во второй половине 50-х годов XX в, начало формироваться новое научное направление, связанное с разработкой теоретических основ и практической реализацией устройств, а затем и систем, предназначенных для распознавания неизвестных объектов, явлений, процессов. Новая научная дисциплина получила название "распознавание образов". Подобное название возникло в связи с тем, что процесс распознавания отождествляется с выявлением вопроса о том, к какому классу объектов (образу) может быть отнесен распознаваемый объект. При этом класс олицетворяет собой некоторую совокупность (подмножество) объектов, обладающих близкими свойствами.

Первая работа в области распознавание образов в России была выполнена одним из основоположников современной теории информации акад. А. А. Харкевичем. Значительный вклад в развитие теории и практики распознавания внесли также отечественные ученые В. М. Глушков, В. С. Михалевич, В. С. Пугачев, Н. П. Бусленко, Ю. И. Журавлев, Я. 3. Цыпкин, А. Г. Ивахненко, М. А. Айзерман, М. М. Бонгард, Э. М. Браверман, В. Н. Вапник, Н. Г. Загоруйко, JI. А. Растригин и др. Из зарубежных ученых следует отметить в первую очередь Ф.Розенблатта, предложившего в 1957 г. машину, обучающуюся распознаванию образов, названную им персептрон (от англ: "to percept"- воспринимать), в качестве простейшей модели деятельности мозга, связанной с распознаванием образов. Кроме того, необходимо назвать видных ученых Р. Гонсалеса, У. Гренандера, Р. Дуда, Г. Себестиана, Дж. Ту, К. Фу, П. Харта, основные работы которых переведены на русский язык.

В настоящее время теория распознавания образов является сложившейся научной дисциплиной охватывающей разнообразные методы решения задач распознавания [24,29,34,45], такие как статистические и синтаксические, методы детерминированного распознавания основанные на геометрических представлениях , логические и алгебраические методы, методы основанные на теории нечетких множеств.

Системы распознавания в настоящее время получают все большее применение и трудно назвать такую отрасль науки или сферу производственной деятельности, где они не используются или не будут использоваться в ближайшие годы.

Известно, что одним из важнейших прикладных направлений применения методов распознавания являются создание диагностических систем для технических и медицинских приложений. Важным направлением использования методов распознавания является автоматизация создания баз знаний экспертных систем на основе использования принципов индуктивного обучения.

Известно, что решение практически любой задачи распознавания образов сводится к двум основным проблемам - выбор признакового описания и выбор решающих правил.

Настоящая работа посвящена задачам, связанным с выбором решающих правил. Несмотря на то , что эта проблема исследуется достаточно давно и существует много различных способов построения решающих правил в настоящее время остается значительный интерес к исследованию и разработке решающих правил определенного класса -правил , основанных на построении деревьев решений. Использование деревьев решений часто приводит к достаточно экономным по требуемым вычислительным ресурсам алгоритмам, позволяет оптимизировать процедуры выбора классификационных признаков и существенно огра-

ничить количество используемых признаков при распознавании конкретных объектов.

Весьма важным применением деревьев решений является разработка обучаемых экспертных систем продукционного типа на основе индуктивного обучения. Это связано с тем , что при использовании экспертных систем продукционного типа проблема принятия решений сводится к перебору возможных путей на графе решения, заданном набором продукционных правил базы знаний .Если использовать методы обучения, приводящие к решающим правилам в виде деревьев решений , то полученные деревья решений могут быть легко представлены в виде совокупности продукционных правил и тем самым решается проблема автоматического формирования базы знаний.

Все сказанное определяет актуальность проблемы исследования методов построения деревьев решений в задачах распознавания образов.

В предлагаемой работе проведен анализ различных подходов к построению деревьев решений в задаче распознавания образов и исследованы методы основанные на использовании алгоритмов построения граф-схем для детерминированной и недетерминированной ( нечеткой) постановки задачи.

Цель и задачи работы.

Целью работы является:

• исследование методов построения деревьев решений в задачах распознавания образов;

• исследование возможности применения алгоритмов построения деревьев решений в задачах создания обучаемых диагностических экспертных систем;

• исследования применения деревьев решения в различных прикладных задачах распознавания образов.

В соответствии с указанными целями в диссертации решены следующие задачи:

1. Разработаны методы построения детерминированных деревьев решений с использованием граф-схемного подхода.

2. Исследованы свойства граф-схем как решающих функций и предложены методы устранения отказов при принятии решений.

3. Предложено расширение детерминированного метода построения деревьев решений на случай нечеткого задания исходных данных.

4. Разработана методика применения построения деревьев в задачах разработки обучаемых экспертных систем.

5. Реализован программный комплекс построения деревьев решений в задаче четкого и нечеткого распознавания образов.

6. Разработан программный комплекс для решения задачи автоматического приобретения знаний при построении обучаемых экспертных систем.

7. Проведены экспериментальные исследования применения деревьев решений для различных прикладных задач.

Методы исследования. При проведении исследований в работе использовались основные положения теории распознавания образов, теории нечетких множеств, методы теории дискретных систем, основы теории построения экспертным систем.

В качестве инструментальных средств использовались системы программирования Borland С++ v.4.5, Turbo Pascal v.7.0 , инструментальная оболочка экспертной системы "ЭСТЕР".

Научную новизну работы составляют:

1. Метод построения деревьев решений на основе граф-схемного подхода при детерминированном (четком) задании исходных данных.

2. Способ устранения отказов при использовании деревьев решений путем введения бинаризации признаков.

3. Метод построения граф-схемы для нечетких исходных данных , основанный на сведении к алгоритму построения четкой граф-схемы с выделенным последним слоем, содержащим характеристики нечеткости.

4. Разработка метода автоматического формирования базы знаний диагностической экспертной системы на основе использования алгоритмов построения деревьев решений.

Практическая ценность.

1. Разработка комплекса программных средств для построения четких и нечетких деревьев на основе граф-схемного подхода.

2. Разработка системы автоматического приобретения знаний при формировании диагностических экспертных систем на основе использования предложенных методов построения деревьев решений.

3. Показана эффективность разработанных алгоритмов и программных средств в задачах обработки электроэнцефалографической информации и распознавания изображений в задачах reo локации.

Внедрение результатов работы. Работа выполнялась в рамках научно-технической программы "Университеты России" (подраздел 2.3) "Разработка математических методов и инструментальных средств построения нечетких деревьев решений в задачах распознавания образов", гранта РФФИ № 98-01-00578 "Методы визуализации и классификации подповерхностных объектов и структур на основе сверхширокополосного радиолокационного зондирования". Результаты работы были использованы в рамках НИР БФ-43, выполняемой по заказу НИИ Радиоэлектронных средств прогнозирования чрезвычайных ситуаций ("Прогноз") при СПбГЭТУ. Разработанные программные средства использованы в учебном процессе при проведении лабораторных работ по курсу "Системы искусственного интеллекта".

Апробация работы. Основные положения и результаты диссертационной работы докладывались и обсуждались на научно-технических конференциях СПбГЭТУ в 1996-1998 гг., на втором международном симпозиуме: "Интеллектуальные системы" (ИНТЕЛС'96), Санкт-Петербург 1996, на международной конференции "Biomedical Engineering and Medical Informatics" (BEMI'97) Gliwice Польша 1997, на Третьем международном симпозиуме: "Интеллектуальные системы" (ИНТЕЛС'98), Псков, 1998, на международной конференции по мягким вычислениям и измерениям (SCM - 98): Санкт-Петербург 1998, на Всероссийской конференции "Мониторинг и прогнозирование чрезвычайных ситуаций", Санкт-Петербург, 1998.

Публикации по теме диссертации. Основные результаты диссертационной работы опубликованы в 7 печатных работах.

Заключение диссертации по теме «Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)», Алхасан Муса Мухамед

5.4. Выводы.

1. Проведенные экспериментальные исследования показали возможность эффективного решения прикладных задач с использованием разработанных алгоритмов построения деревьев решений.

2. Экспериментально показана возможность автоматического формирования базы знании экспертной системы для классификации типов артефактов в ЭЭГ.

3. Проведенные экспериментальные исследования по использованию деревьев решений для классификации нечетких данных показали практическую возможность эффективного применения предложенных методов. Наличие интерактивного задания функции принадлежностей позволяет проводить исследования достаточно сложных моделей нечетких данных.

ЗЛ КЛЮЧЕЙ НЕ

Проведенные исследования позволили разработать новые подходы к решению проблем построения деревьев решений в задачах распознавания образов, показать возможности применения разработанных методов и алгоритмов в различных прикладных задачах распознавания, в создании обучаемых диагностических экспертных систем и , таким образом, достигнуть поставленные в диссертационной работе цели.

Основные научные и практические результаты работы можно сформулировать следующим образом:

1. Разработаны методы построения детерминированных деревьев решений с использованием граф-схемного подхода.

2. Исследованы свойства граф-схем как решающих функций и предложены методы устранения отказов при принятии решений.

3. Предложено расширение детерминированого метода построения деревьев решений на случай нечеткого задания исходных данных.

4. Разработана методика применения методов построения деревьев решений в задачах разработки обучаемых экспертных систем.

5. Реализован программный комплекс построения деревьев решений в задаче четкого и нечеткого распознавания образов .

6. Разработан программный комплекс для решения задачи автоматического приобретения знаний при построении обучаемых экспертных систем.

7. Проведены экспериментальные исследования применения разработанных методов построения деревьев решений для различных прикладных задач, показавшие высокую эффективность предложенных алгоритмических и программных решений.

Работа выполнялась в рамках научно-технической программы "Университеты России" (подраздел 2.3) "Разработка математических методов и инструментальных средств построения нечетких деревьев решений в задачах распознавания образов", гранта РФФИ № 98-01-00578 "Методы визуализации и классификации подповерхностных объектов и структур на основе сверхширокополосного радиолокационного зондирования". Результаты работы были использованы в рамках НИР БФ-43, выполняемой по заказу НИИ Радиоэлектронных средств прогнозирования чрезвычайных ситуаций ("Прогноз") при СПбГЭТУ. Разработанные программные средства использованы в учебном процессе при проведении лабораторных работ по курсу "Системы искусственного интеллекта".

По материалам работы опубликованы 7 печатных и 1 депонированная работа, подготовлены доклады на 8-и научно-технических конференциях и семинарах.

Дальнейшие исследования по тематике диссертационной работы целесообразно провести в направлении расширения применения нечетких моделей данных в задачах построения деревьев решений, и использования предложенных методов для различных прикладных задач в области медицинской и технической диагностики.

Список литературы диссертационного исследования кандидат технических наук Алхасан Муса Мухамед, 1998 год

СПИСОК ЛИТЕРАТУРЫ

1. Алхасан M. М., Геппенер В. В. Нечеткая система распознавания на основе деревьев решений: Тез. Докл. Второй международный симпозиум: "Интеллектуальные системы" (ИНТЕЛС'96), Санкт-Петербург, 1996, т. 2, с. 190.

2. Алхасан M. М., Геппенер В. В., Фигурин В. Н. Построение деревьев решений при нечетком задании исходных данных// Изв. ГЭТУ: Сб. науч. тр. / Санкт-Петербургский государственный электротехнический университет. СПб. 1997 г. -Вып.515.

3. Алхасан M. М., Геппенер В. В. Использование граф-схем для формирования базы знаний экспертной системы: Тез. Докл. Третий международный симпозиум: "Интеллектуальные системы" (ИНТЕЛС'98), Псков, 1998 г, с. 131-133.

4. Алхасан M. М., Геппенер В. В., Соколов М. А. Построение нечетких деревьев решений в задачах автоматического формирования базы знаний диагностической экспертной системы: Международная конференция по мягким вычислениям и измерениям (SCM - 98): Санкт-Петербург, 1998 г, с. 195-198.

5. Алхасан M. М., Геппенер В. В., Соколов М. А. Обработка информации сверхширокополосного геолокатора в задачах обнаружения, визуализации классификации подповерхностных объектов. Тезисы докладов Всеросийской конференция "Мониторинг и прогнозирование чрезвычайных ситуаций, Санкт-Петербург, 25-26 .ноября 1998 г, с. 46.

6. Алхасан M. М., Геппенер В. В., Трошин К. Л. Нечеткая система распознавания образов // Изв. ГЭТУ: Сб. науч. тр. / Санкт-Петербургский государственный электротехнический университет. СПб. 1996 г. -Вып.500, с. 80-88.

7. Алхасан А. М. Исследование методов автоматического выделения артефактов в цифровых электроэнцефалографических системах. / Диссертация на соискание ученой степени кандидата технических наук СПГЭУ 1996 г.

8. Горелик А. Л., Скрипкин В. А. Методы распознавания: Учеб. пособие для вузов. -3-е изд., перераб. и доп. - М.: Высш. шк., 1989. - 232 с.

9. Кофман А. Введение в теорию нечетких множеств. - М. : Радио и связь, 1982. -432 с.

10. Борисов А. Н., Алексеев А. В., Крумберг О. А., и др. Модели принятия решений на основе лингвистической переменной - Рига: Зи-натне, 1982. - 256 с.

11. Michalski R. S. A theroy and methodology of inductive learing // Artif. Intell. - 1983. - vol. 20, N 2. - pp. 111-161.

12. Борисов A. H., Алексеев А. В., Меркурьева Г. В. и др. Обработка нечеткой информации в системах принятия решений. - М.: Радио и связь, 1989. -304 с.

13. Блох А.Ш. Граф-схемы и алгоритмы. — М.: Высш.шк., 1987. —

144с.

14. Загоруйко Н. Г. Методы распознавания и их применение. М.: Советское радио, 1972.

15. Бонгард М.М. Проблема узнавания. - М.:Наука, 1967.- 320 с.

16. Кнорринт В. Г. Предложения по терминологии в области шкал. // Тр. Международной канференции по мятким вычислениям и измерениям, С. Петербург, 1998, т1, с. 63 - 69.

17. Brule J.F., Blount A. Knowledge acquisiton. - McGraw-Hill, New York, 1989.

18. Baas L., Bourne J.R. A rule-based microcomputer system for electroencephalogram evaluation // IEEE transactions on biomedical engeneering.-1984.- vol. BME-31, № 10.

19. Геппенер B.B., Назаров В.Б., Яфаева Н.Ю. Алгоритмы классификации на основе разнородных признаков. - Л., 1985. - с. 121-128 (Изв. ЛЭТИ; вып. 415).

20. Гендлер М. Б. Пригожин Б. В. Ковалев А. В. Обручев В. Л. Использование древоподобных структур в решающих системах. Программные продукты и системы N. 1, 1993, с. 50-53.

21. Гусельников В.И. Электрофизиология головного мозга,- М.: Высшая школа, 1976.

22. Golubev А. В. , Geppener V. V. , Vasserman Е. L. , Alhasan М. М. Learning expert system for the analysis of EEG. -international workshop "Biomedical Engineering and Medical Informatics (ВЕМГ 97)". 1997, Gliwice, Poland.

23. Дюбуа Д., Прад А. Теория возможностей. Приложение к представлению знаний в информатике. / Пер. с фр. — М.:Радио и связь, 1990 — 288 с.

24. Ту Дж., Гонсалес Р. Принципы распознавания образов.—М.: Мир, 1978, с. 416.

25. Уотермен Д. Руководство по экспертным системам. М.: Мир,

1989.

26. Геппенер В.В., Алхасан А., Черниченко Д.А.. Исследование спектральных методов автоматического определения артефактов в цифровых ЭЭГ-системах // METROMED 95: Тез. докл. международной научно-практической конференции "Измерительно-информационные технологии в охране здоровья". Санкт-Петербург, 19-22 июня 1995. с. 191193.

27. Денисов Д.А. Компьютерные методы анализа видеоинформации. -Кросноярск: Гос. Университет, 1993.

28. Debenham J. Knowledge Acquisition: a systematic approach. In book: Application of expert systems, edited by J.R. Quinlan, University of Tecnology, Sydney, 1989.

29. Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания и классификации // Проблемы кибернетики.- 1978.-вып.ЗЗ.- с. 4-68.

30. Заде JI.A. Размытые множества и их применение в распознавании образов и кластер-анализе // Классификация и кластер. / Пер. с англ. ; Под ред. Дж. Вэн Райзина. — М., 1980. — с.208—247.

31. Заде Л. А., Понятия лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1916.

32. Загоруйко Н.Г., Елкина В.Н., Лбов Г.С. Алгоритмы обнаружения эмпирических закономерностей. - Новосибирск: Наука, 1985.- 112 с.

33. Закревский А.Д. Логика распознавания. - Минск: Наука и техника, 1988.- 118 с.

34. Фу К. С. Структурные методы в распознавания образов. М.: Мир, 1977. - 319 с.

35. Кофман А. Введение в теорию нечетких множеств /Пер. с фр. — М.: Радио и связь, 1982. — 432с.

36. Прикладные нечеткие системы: Пер. с япон.;под редакцией. Тэрано Т., Асаи К., М. Сугэно М. - М.: Мир, 1993. -368 с.

37. Кук Н.М., Макдональд Дж.Э. Формальная методология приобретения и представления экспертных знаний. // ТИИЭР, 1986, т. 74, № 10.

38. Кулаичев А.П., Каплан А.Я. Системы компьютерного анализа биоэлектрических сигналов. // Мир ПК, № 8, 1994., с. 132-137.

39. JI. Т. Кузин, Основы кибернетики: В 2-х т. Т. 2. Основы кибернетических моделей. Учеб. пособие для вузов. - М.: Энергия, 1979. -584 с.

40. Лбов Г. С., Котюков В. И., Манохин А. Н. Об одном алгоритме распознавания в пространстве разнотипных признаков. - Вычислительные системы, 1973, вып. 55, с. 98-107.

41. Лбов Г. С. Логические функции в задачах эмпирического предсказания. - Вычислительные системы, 1978, вып. 76, с. 34-64.

42. Лбов Г. С. Методы обработки разнотипных экспериментальных данных. - Новосибирск, : Наука, 1981 г.

43. Астанин Л.Ю., Костылев A.A. Основы сверхширокополосных радиолокационных измерений. - М. : Радио и связь, 1989.

44. Astanin L., Geppener Y.V., Nicolaev V.A. Methods for Visnalization and Classification of Undersurface Objects and Structures Based on Broad-Band Radar Probing-Pattern Recognition and Image Analysis, Yol. 8, N. 3 1988, p. 384-386

45. Дуда P., Харт П. Распознавания образов и анализ сцен. - М.: Мир, 1976. - 510 с.

46. Нечеткие множества и теория возможностей. Последние достижения. Под ред. Р. Ягера. М.: Радио и связь, 1986.

47. Никифоров И.В. Последовательное обнаружение изменения свойств временных рядов. - М.: Наука, 1983. - 199с.

48. Machine learning: a guide to current research / Ed. by Mitchell T.M., Carbonell J.G., Michalski R.S. - Boston: Kluwer Akad. Publ., 1986.

49. Методы клинической нейрофизиологии. Изучение физиологии головного мозга человека / Под ред. В.Б. Гречина.- Ленинград- Наука-1977.

50. Миленький A.B. Классификация сигналов в условиях неопределенности. - М.: Сов. радио, 1975.

51. Ope О., Теория графов. - Наука, Москва, 1980, 336с.

52. Пфанцгаль И. Теория измерений М.: Мир, 1976, с. 220.

53. Патрик Э. Основы теории распознавания образов: Пер. с англ.

- М.: Советское радио, 1980.

54. Горелик А. Д., Гуревич И. Б., Скрипкин В. А. Современное состояния проблемы распознавания. - М. радио и связь, 1985. - с. 161.

55. Ронкин М. А. Функциональная диагностика нервных болезней.

- М.: Медицина, 1982.

56. Pawlak Z. Decision tables and decision algorithms. // Bulletin of the Polish Academy of Scince - 1986.- Vol.34, pp. 563.

57. Quinlan J.R. Induction of decision trees // Machine Learning.-1986.- Vol.1, Nu.l- pp.81-106.

58. Представление и использование знаний. - М.: Мир, 1989. - с19 с.

59. Shalin V.L., Wisniewski E.J., Levi K.R. A formal analysis of machine learning systems for knowledge acquisition // Int. J. Man-Mach. Stud.- 1989,- vol. 29.- pp.429-446.

60. Shaw M.J. Applying inductive learning to enhance knowledge-based expert systems. // Decis. Support Syst. - 1987.- vol. 3, № 4. - pp.319-332.

61. Tzung-Pei Hong, Chai-YingLee. Induction of fuzzy rules and membership functions from training examples // International Journal of softcomputing and intelligence, fuzzy sets and systems/ V. 84, N. 1, November 25, 1996, c. 33-49.

62. Winston P.H. Learning structural descriptions from examples // The psychology of computer vision, Ed. by Winston P.H.- New York: McGraw-Hill, 1975,- ch. 5.

63. Прэтт У. Цифровая обработка изображений. -М. Мир, Т. 1,2;

1982.

64. Федотов Н. Г., Методы стохастической геометрии в распознавании образов. -М.: Радио и связь, 1990. -144 с.

65. Хант Э., Марин Дж., Стоун Ф. Моделирование процесса формирования понятий на вычислительной машине. - М. Мир, 1970. -302 с.

66. Экспертная система для технических и экономических реализаций (ППП Эстер). - Калинин: НПО "Центрпрограммсистем", 1990.

67. Назаров В.Б. Диссертация на соискание ученой степени кандидата технических наук, ЛЭТИ, 1985.

68. Голубев А.Б. Исследование методов построения обучаемых экспертных систем (на примере задачи обработки электроэнцефалограмм человека). Диссертация на соискание ученой степени кандидата технических наук, СПБГЭТУ, 1998.

69. Алхасан М. М., Геппенер В. В., Соколов М. Разработка математических методов и инструментальных средств построения нечетких деревьев решений в задачах распознавания образов.// Отчет по научно-технической программе Университеты России (подраздел 2,3), № гос. per. 01970001845, инв. № 029.80.002031, 1998 г.