Отношение теоретических концепций и компьютерных моделей в исследованиях искусственного интеллекта тема диссертации и автореферата по ВАК РФ 09.00.08, кандидат философских наук Трушкина, Наталья Юрьевна

• Трушкина, Наталья Юрьевна
• кандидат философских наук
• 2008

Введение диссертации (часть автореферата) на тему «Отношение теоретических концепций и компьютерных моделей в исследованиях искусственного интеллекта»

Актуальность темы исследования обусловлена тем, что в настоящее ¡il » . время 1 в сфере междисциплинарных научно-практических областей исследования по созданию искусственного интеллекта (далее ИИ) занимают одно из центральных мест. Это направление воплощает в компьютерных системах важнейшие идеи и подходы, выработанные в рамках гуманитарных дисциплин и в рамках современного естествознания. Несмотря на значительное число теоретических моделей и практических реализаций, осуществляемых в рамках ИИ, в данной области не наблюдается единства в подходе к реализации машинного интеллекта.

В области ИИ занято огромное количество специалистов из всех отраслей наук. В настоящее время функционирует множество специализированных научных центров по исследованию искусственного интеллекта. В крупнейших университетах, на базе коммерческих компаний, в рамках научно-исследовательских институтов по всему миру действует более 300 лабораторий только по машинному зрению1.

Среди самых крупных научных сообществ, занимающихся проблемами создания искусственного интеллекта, следует назвать American Association for Artificial Intelligence (AAAI), European Coordinating Committee for Artifïcial Intelligence (ECCAI), Society for Artificial Intelligence and Simulation of Behavior (AISB), ACM Special Interest Group in Artificial Intelligence (SIGART). В Российской Федерации крупнейшим обществом по проблемам ИИ является Российская ассоциация искусственного интеллекта (РАИИ)11.

Ежегодно во всем мире проводится множество научных конференций,, посвященных современным проблемам ИИ. Самой крупной является Объединенная международная конференция по искусственному интеллекту

The International Joint Conference on AI, IJCAI). Проводятся конференции, посвященные некоторым выделенным сегментам ИИ. Так, по нейрокибернетическому направлению самой крупной является Объединенная международная конференция по нейронным сетям (IJCNN).

Функционирует ряд научных журналов, посвященных проблематике ИИ. Основными являются Electronic Transactions on Artificial Intelligence, Journal of Artificial Intelligence Research, Machine Intelligence, IEEE Transactions on Pattern Analysis.

Область ИИ за сравнительно короткий период существования доказала свою практическую значимость. Приведем далее некоторые практические области, в которых исследователи добились значительных результатов.

1. Интеллектуальные игры. Программа Deep Blue компании IBM - первая компьютерная программа, которая смогла одержать победу над чемпионом мира по шахматам Гарри Каспаровым. В 1997 году в показательном матче программа выиграла у гроссмейстера со счетом 3,5:2,5. Вследствие этого акции компании IBM выросли на 18 миллиардов долларов1".

2. Автономное планирование. Программа Remote Agent, разработанная в рамках американского агенства NASA является первой бортовой автономной системой планирования, предназначенной для управления и составления расписания операций для космического аппарата. На разработку программы, осуществляющей подготовку и запуск шаттла к полету, NASA потратила порядка 2 миллионов долларов. При каждом запуске такая система экономит от полумиллиона до миллиона долларов1У.

3. Автономное управление. Система компьютерного зрения Alvinn, обученная управлению автомобилем, была использована при пилотировании микроавтобуса, управляемого компьютером NavLab, и использовалась для проезда по США (при этом человек принимал управление на себя только в 2% случаев).

4. Медицинская диагностика. Диагностические экспертные системы, основанные на вероятностном анализе, достигли достаточно высокого уровня в некоторых областях медицины. Известен случай, когда врач-эксперт, не согласившись с диагнозом программы, прочитав её объяснения, изменил своё решение11'.

5. Решение задач и понимание естественного языка. Программа Proverbvl в большинстве случаев решает кроссворды лучше и быстрее человека.

В рамках исследований по ИИ активно развиваются такие практически значимые направления как распознавание образов (pattern recognition), оптическое распознавание символов (optical character recognition), распознавание письменной речи (handwriting recognition), распознавание устной речи (speech recognition), распознавание лиц (face recognition), искусственное творчество (artificial creativity), компьютерное зрение (computer visión), медицинская и техническая диагностика, теория игр (game theory), стратегическое планирование (strategic planning), игровой искусственный интеллект (game artificial intelligence и computer game bot), обработка естественного языка (natural language processing), перевод (translation), диалоговые боты (chatterbots), нелинейное управление (non-linear control) и робототехника (robotics).

Многие из. функционирующих научно-исследовательских центров изначально были созданы как имеющие инженерно-практическое значение. В их задачи не входило генерирование самостоятельных теоретических конструктов. В своих разработках исследователи обращались к идеям, разработанным в рамках различных гуманитарных и частно-научных дисциплин.

Несмотря на существующий огромный интерес к области искусственного интеллекта со стороны, как практиков, так и теоретиков, в настоящее время в ней отсутствует единый взгляд на предмет исследования. Каждое направление представляет свой подход к решению определенного круга задач, провозглашая свой метод как максимально эффективный. Ряд авторов описывают современное состояние области ИИ термином «фракционность>>УП. Одной из причин такой разобщенности альтернативных направлений является стремление получить финансовую поддержку своих исследований и лишить её конкурентов.

Одновременно с констатацией существующей разобщенности современных областей ИИ необходимо отметить противоположную тенденцию к интеграции различных подходов, наметившуюся еще в конце 80-х годовуш. Данный процесс обуславливает необходимость развития эмпирических и теоретических способов интеграции, которые включают в себя процесс интеграции понимания структуры предмета моделирования, в интересах взаимной компенсации недостатков и объединения преимуществ разнородных моделей.

Отсутствие единого теоретического представления относительно предмета исследования и одновременно тенденция к интеграции различных подходов в области ИИ обуславливают актуальность темы данного исследования. На наш взгляд, характеристика отношений между теоретическими концепциями и компьютерными моделями представляет собой шаг в направлении выделения условий возможности формирования интегрального методологического подхода в области ИИ.

Степень разработанности темы исследования определена уровнем развития- компьютерных наук и уровнем исследований их теоретических оснований.

На самом раннем этапе развития исследований по ИИ ключевую роль в формировании области ИИ сыграли работы У. Маккалока и У. Г1иттса1Х, но в особенности идеи А. Тьюрингах, изложенные им в статье «Computing machinery and intelligence».

Официальной датой рождения ИИ считается 1956 год. По инициативе одного из самых авторитетных специалистов по данной тематике Дж. Маккарти в Дартмутском колледже состоялся специализированный двухмесячный семинар. В роли соорганизаторов выступали М. Минский, А. Ныоэлл, Г. Саймон. В работе семинара приняли участие десять крупнейших американских ученых, включая Т. Мура из Принстонского университета, Р.Соломонова и О. Селфриджа из Массачусетстского технологического института. На семинаре были сформулированы основные задачи, которые предстояло решить новому научному направлению. Были' рассмотрены такие аспекты ИИ как компьютерное программирование, способность машины к пониманию естественного языка, нейронные сети, проверяемость, креативность и многие другие. Благодаря Дартмутскому семинару в научном мире закрепилось название «Искусственный Интеллект».

В результате разработок ранних идей У. Маккалока, У. ПиттсаХ1 по созданию нейронных сетей, а также благодаря работам Ф. Розенблаттах", сформировались так называемые коннекционистские или структурные модели интеллектуальных систем. В 70-е годы своим развитием это направление обязано, в первую очередь, работам Дж. Хопфилдахш.

Благодаря разработкам А. Ньюэлла, Г. СаймонаХ1У оформился подход, основанный на эвристическом поиске. Затруднения на этом пути вызвали к жизни новое решение, получившее название моделей основанных на знаниях. Инициаторами данного направления принято считать группу ученых Стенфордского университета (Э. Фейгенбаум, Б. Бьюкенен, Дж. Ледердерг), разработавших первую экспертную систему ОЕ№ЖАЬх\ Сложившееся направление обычно классифицируют как логическую парадигму в исследованиях ИИ.

На современном этапе исследования по ИИ представляют собой множество различных подходов и направлений. В массиве литературы, посвященной ИИ, практически отсутствуют исследования, которые бы репрезентировали всю область знаний в целом.

Так, среди книг посвященных нейрокомпьютерному программированию можно выделить работу С. Хайкина™, посвященную искусственным нейронным сетям, которая дает наиболее полное представление о современном состоянии и возможностях указанного подхода. В книге рассматриваются основные парадигмы искусственных нейронных сетей, различные области приложения данной технологии при решении задач распознавания образов, управления, обработки сигналов.

Говоря об эволюционной кибернетике, следует упомянуть работы одного из ведущих специалистов РФ в области адаптивного поведения В.Г. Редько,ХУ11 а также М.Г. Газе-Рапопорта и Д.А. Поспелова. Реализация эволюционного подхода представлена в проектах «Искусственная жизнь»ХУШ и «Адаптивное поведение»Х1Х. Среди широко известных систем можно назвать проекты Poly World Л. Ягера,50' а также Tierra Т. Рэя™.

Подробное изложение основ генетического программирования дано в работах отечественных исследователей Л.А. Гладкова, В.В. Курейчика, В.М. Курейчика50"1, которые ориентируются на работы американской научной школы по генетическим алгоритмам Д. Холланда, Д.Гольдберга, Д. Коза, Л. Чамберса. В Европе исследования по генетическим алгоритмам представлены работами Р. Клинг, П. Банерджи, Э. Фалькенауэр.

Технологию нейронных сетей, эволюционной кибернетики, генетические алгоритмы чаще всего определяют как бионический подход к разработке систем ИИ.

Подробное описание развития технологии компьютерного зрения представлено в работе Д. А.Форсайта и Ж. Понсаххш.

Для последнего десятилетия XX века характерен возврат к технологии создания физических роботов. Один из самых ярких проектов последнего времени, гуманоидный робот Ког, был разработан в лаборатории искусственного интеллекта Массачусетского технологического института под руководством Р. Брукса"™. Несмотря на то, что данный проект по многим пунктам оказался неудачным, идея того, что восприятие робота должно включать в себя не только получение абстрактной информации, но и формирование тесных взаимосвязей между восприятием, и действием, остаются работающим подходом в ИИ.

Однако существует ряд работ современных авторов, которые могли бы претендовать на роль, описания общего положения дел в исследованиях по ИИ. С этой точки зрения, внимания заслуживает фундаментальная работа «Artificial Intelligence» С. Рассела, П. НорвигаХХУ. Эта книга построена на так называемом агентном варианте развития ИИ. Некоторые современные авторы действительно указывают на агентскую технологию как на самое последнее слово в кибернетике. Эта область претендует, по мнению ряда теоретиков и практиков ИИ, таких как Б. Уитби и Дж. Люгер, на роль, объединяющего звена, которое использует в своих исследованиях достижения1 всех направлений рщххУ1 ^ем не менее, эта книга, как и представленный в ней подход, не могут претендовать на действительный охват всего многообразия современных моделей и направлений ИИ.

Отдельного упоминания заслуживает фундаментальная работа Дж. Лютера"*™. Несмотря на то, что исследование заявлено как описание современного подхода в ИИ, в центре внимания автора находятся методики, основанные на явном представлении знаний и четко спроектированных алгоритмах перебора. Автор не рассматривает такие подходы' как искусственные нейронные сети, генетические алгоритмы, адаптационный подход, реализуемый в проекте «Искусственная жизнь», квалифицируя их как «альтернативные» в противоположность классическому «символьному» ИИ.ХХУШ

В отечественной литературе также отсутствуют монографические работы, в которых компьютерные модели, используемые в технологии искусственного интеллекта, рассматривались бы с единых философско-методологических позиций. Отсутствуют и обобщающие работы, анализирующие все многообразие форм воссоздания интеллектуальных способностей человека механическими или вычислительными средствами.

Объект исследования составляют теоретическая деятельность, связанная с осознанием субстратной и функциональной структуры интеллекта, и практическая деятельность, направленная на реализацию этих структур в компьютерных науках. Настоящее исследование включает указанный объект на трех уровнях, а именно как: основные представления о сознании, разработанные в- ходе исторического развития гуманитарных, естественнонаучных и прикладных дисциплин;

• основные проекты реализации искусственного интеллекта в XX веке;

• методологические установки исследований ИИ в аспектах теоретизации проблемы сознания и реализации компьютерных моделей интеллекта.

Предмет исследования образуют воспроизводящиеся в общественном сознании концептуализации мышления, его строения и функций, а также некоторые ключевые попытки их моделирования в ходе исследований по ИИ.

Дополнительная специфика предмета исследования определяется тем, что он сознательно ограничен в соответствии с наиболее развитыми на настоящий момент сферами разработки и применения компьютерных моделей. Современное положение характеризуется пятью основными функциями систем, обрабатывающих информацию, а именно: получение, поиск, хранение, преобразование, создание информации. Типичные исторически возникшие подразделения функций мышления оказываются не вполне совместимыми с технически и практически развитыми компьютерными приложениями. Это обуславливает необходимость анализа понятий и концепций интеллекта с функционально-информационной точки зрения.

Цель ■ исследования составляет выявление специфики отношения между теоретическими концепциями, описывающими структуру и функции интеллекта, и компьютерными моделями, реализующими интеллектуальные функции.

Для достижения цели необходимо решить следующие задачи:

• проанализировать теоретические концепции о структурах и функциях интеллекта, исторически сформировавшиеся в рамках гуманитарных, естественнонаучных и прикладных дисциплин, которые оказали влияние на формирование компьютерных моделей в исследованиях по ИИ;

• проанализировать компьютерные модели интеллекта, реализуемые в основных направлениях исследований ИИ;

• исследовать структурные и функциональные закономерности отношения между теоретическими концептами и компьютерными моделями.

Метод исследования. Основными методами исследования являются структурно-функциональный и сравнительный анализ. Представления о строении теорий и разделов знания, использованные в работе, употребляются в соответствии с их концептуальными структурами, разработанными B.C. Степиным, C.B. Илларионовым, А.И. Липкиным.

В исследовании автор опирается на следующий методический принцип: общая структура попыток реализации ИИ состоит из двух элементов и отношения между ними, а именно - а) функции субъекта, б) технического устройства, и в) отношения моделирования функции субъекта на техническом устройстве.

Положения, выносимые на защиту. • Анализ востребованных в исследованиях по ИИ теоретических концепций о структуре и функциях интеллекта, сформировавшихся в рамках гуманитарных, естественнонаучных и прикладных дисциплин, показал, что выделенные в них представления о строении функции интеллекта группируются в три нечетко ограниченные совокупности: совокупность чувственных, рациональных и нерациональных функций.

Все рассмотренные компьютерные модели ИИ включают моделирование двух различных типов: а) моделирование механизма организации интеллектуальной функции и б) моделирование результата действия интеллектуальной функции.

Во всех исследованных работах по ,ИИ представление о моделируемых функциях остается почти не эксплицированным, при том, что оно в каждом отдельном случае содержательно определяет интерпретацию модели.

Как правило, представления о функциях мышления заимствуются из теоретизированных концепций, принадлежащих области философии и таких конкретных наук как психология, логика, кибернетика, нейробиология, физиология высшей нервной деятельности и т.п. Заимствование представлений о характере и структуре интеллектуальной функции носит фрагментарный характер, и полного изоморфизма между структурами теоретических концептов и принципами организации компьютерных моделей не наблюдается. В ходе развития компьютерной модели может происходить как уточнение, заимствование на более глубоком уровне структур, сформированных в рамках различных теоретических концепций, так и отдаление компьютерной модели от своего прототипа.

Новизна полученных результатов.

В диссертационном исследовании

• выделен набор функций (получение, поиск, хранение, преобразование, создание информации), определяющих структуры представлений об интеллекте в функционально-информационном аспекте рассмотрения;

• предложена типология основных подходов к моделированию ИИ по основанию выделенного для заимствования аспекта интеллектуальной функции, включающая 1) уровень моделирования механизма организации интеллектуальной функции и 2) уровень результата действия интеллектуальной функции;

• описана сложная многовариантная структура отношения между теоретическими концепциями и компьютерными моделями ИИ, которая является частичным изоморфизмом.

Теоретическое значение диссертации.

Результаты диссертационного исследования могут быть применимы для оценки и разработки методологии создания элементов ИИ, а также для коррекции и развития существующих подходов к моделированию ИИ. Полученные в ходе исследования результаты могут служить основанием для интеграции различных методологических подходов к реализации элементов ИИ.

Результаты исследования имеют дидактическое значение и могут применяться при чтении общего курса «Истории и методологии науки», общего курса «Философские проблемы конкретно-научных дисциплин». Они также могут быть использованы в качестве основы отдельных курсов по истории и методологии компьютерных наук, специального курса, посвященного теоретическим проблемам области ИИ.

Под историей человеческой мысли в первую очередь будет понимать историю философии, а также ряд научно-популярных концептов, представленных частнонаучными дисциплинами. Поставленные задачи предполагается выполнять на материале истории европейской философской мысли от Античности до Немецкой классической философии. В рамках исследования будут рассмотрены представления о структуре интеллекта Парменида, Анаксагора, Демокрита, Эпикура, Платона, Зенона, Аристотеля, Декарта, Спинозы, Канта, Гегеля. Рассматривая историю формирования символической логики будем опираться на идеи Лейбница, Буля ДжФреге Г., Рассела Б., Уайтхеда А. Анализу подлежат философские идеи Пуанкаре А.

В исследовании будут задействованы идеи таких частнонаучных дисциплин, как психология, а в частности гештальт-психология. Идеи гештальт-психологии проанализируем на материале работ идеологов этого направления Вертгеймера М., Коффки К., Келера В.

Источником информации об уровне развития знаний в биологии будет служить классическая книга Шеперда Г., а также ряд современных исследований Николса Дж., Мартина Р., Валласа Б., Фукса И

Анализ компьютерных моделей основывается как на работах ранних идеологов ИИ, таких как Ньюэлл А., Саймон Г., Минский М., так и на работах последних нескольких лет по эвристическому поиску, экспертным системам, нейрокомпьютерному программированию, эволюционной кибернетике, генетическим алгоритмам и тп. 1

1 г I

13 г

Заключение диссертации по теме «Философия науки и техники», Трушкина, Наталья Юрьевна

Заключение

Рассмотрим результаты основных разделов исследования

В первой главе «Анализ теоретических концепций интеллекта» дана характеристика представлений о структурах интеллекта, которые оказали влияние на формирование компьютерных моделей в исследованиях ИИ. Основной акцент сделан на концепциях, которые в дальнейшем были реализованы в логическом или математическом направлении ИИ, а также структурном подходе.

Первый параграф раскрывает поставленную задачу по описанию представления о структуре интеллекта на примере философской традиции. Производится реконструкция представления об интеллекте и интеллектуальной деятельности в философской традиции Античности, европейского рационализма XVII века, немецкой классической философии, философии математики XX века. Анализ представлений Гераклита Эфесского, Парменида, Анаксагора Клазоменского, Демокрита, Эпикура, Платона, Аристотеля, приводит к первому базовому для теории познания Античности и актуальному, относительно интересующей нас функционально-информационной точки зрения, представлению- о мышление как процессе доказательства, вывода корректных заключений из истинных посылок по некоторым формальным логическим правилам. Дальнейшее рассмотрение посвящено анализу идей Лейбница, Р. Луллия, Дж. Далгарно, Дж. Буля, Г. Фреге, их вкладу в развитие символической логики. Исторический анализ развития логики, с одной стороны, подтверждает тезис о том, что мышление обычно связывают с высказываниями, а мысль всегда существует в форме понятий и предложений, и именно по этому законы логики могут быть поняты как законы мышления; с другой стороны, дает новые инструменты для реализации данного принципа. Реконструкция представлений о мышлении в истории философии и логики завершается анализом идей Декарта, Спинозы, Лейбница, Канта, Гегеля, А. Пуанкаре, которые дополняют представление о структуре мышления тезисом о наличии в доказательстве, в качестве необходимого условия, элементов, не входящих в строгую дедуктивную структуру; и представлением о бессознательном характере мыслительных процедур, источником которых являются данные неформализуемые элементы. Выделенные в первом параграфе элементы представлений о структуре интеллекта представляют собой теоретический базис для логической парадигмы в исследованиях по созданию ИИ.

Во втором параграфе рассматриваются представления о структуре интеллекта, получившие развитие в психологии. Модели интеллекта, которые предлагали и использовали различные психологические школы, становились образцом, либо были частично заимствованы учеными, целью которых стало создание искусственного аналога человеческого интеллекта. Одним из вариантов определенного представления об интеллекте в рамках психологической науки является модель, возникшая в рамках гештальт-психологии. Эта модель оказала определенное влияние на ряд проектов, возникших в рамках решения задач построения искусственного интеллекта: Представление о структуре интеллекта в гештальт-психологии выявлено на примере работ В. Келера, К. Коффки, М. Вертгеймера. Подробное рассмотрение теоретического и экспериментального материала позволяет автору исследования выделить специфическую структуру представления интеллектуальных способностей. В гештальт-теории интересующую нас структуру составляют следующие элементы: перцептивное поле, выделение фигуры на фоне, переструктурирование, принцип близости, принцип подобия. Процедура восприятия, при которой формируется целостный образ наличной ситуации, представляя самостоятельную интеллектуальную способность, выделена также в качестве базовой процедуры при решении любой мыслительной и поведенческой задачи.

Третий параграф посвящен подходу к определению интеллекта, который был сформулирован А. Тьюрингом. Из рассмотренного видно, что тест Тьюринга, во-первых, сохраняет в определении интеллекта те черты, которые были выделены ранее и сформированы в рамках традиции европейского рационализма; а суть интеллекта по предлагаемому варианту - это способность генерировать рассуждения, неотличимые от поведения реального человека. Дополнительными элементами, включенными в структуру представления об интеллекте А. Тьюринга, являются следующие положения: способность к обучению и способность к реакции в условиях неопределенности. Идеи А.Тьюринга продолжают традиции европейского рационализма и в пункте относительно отделения интеллекта от телесного и духовного субстрата.

Целью четвертого параграфа является выявление предпосылок формирования структурного подхода в исследованиях по созданию ИИ, где под структурной или сетевой парадигмой понимается подход, использующий модели биологических нейронов и образуемых ими сетей для моделированиям интеллектуального поведения человека. Прежде чем рассматривать истоки и базовые идеи нейробиологии, которые повлияли и были заимствованы в нейрокомпьютерах, автор выделяет философские идеи, которые способствовали возникновению самой идеи изучения строения человеческого тела. В работе рассмотрена первая умозрительная концепция, получившая в последствии название «доктрины о нервном процессе», описывающая принципы функционирования нервной системы, автором которой является Декарт. Проанализированы узловые моменты в формировании предмета современной нейробиологии, и в частности с укреплением позиций клеточной теории. В этой связи проанализированы открытия, сделанные такими учеными как М. Шлейден, Т. Шванн, О. Дейтерс, К. Гольджи, Т. Кахал, В. Вальдейер. Анализ развития предмета нейробиологии позволяет автору определить задачу нейробиологии как описание способов передачи сигналов нервными клетками, изучение механизмов интеграции, нервных клеток, на основании которых возникают высшие нервные функции мозга. В качестве главной характеристики нейрона как элемента более общей структуры выступает наличие механизма, обеспечивающего передачу сигнала. В результате анализа работы нервной системы на клеточном уровне был выделен ряд свойств нервных клеток, необходимых для реализации функции передачи сигнала, а именно: а) нервные клетки участвуют в обмене химическими веществами с окружающей средой; Ь) нервные клетки должны иметь участки, которые бы служили для быстрой передачи сигналов между разными нервными клеткам (эту функцию выполняют синапсы); с) должны, существовать механизмы для приведения в действие участков взаимодействия между нейронами (эта функция выполняется за счет химического или электрического взаимодействия); с!) должны существовать механизмы ответной реакции на активацию синапсов; е) должны существовать механизмы проведения активации в пределах единичного нейрона. Дальнейшее изложение посвящено описанию типологии взаимодействий между нейронами, рассмотрено строение и принципы работы, химического и электрического синапса. В заключительной части параграфа выделены положения, свидетельствующие о недостоверности классического представления о «поляризованном» нейроне и однонаправленности сигнала внутри нервной системы.

Во второй главе «Анализ компьютерных моделей интеллекта» сделана попытка описать и проанализировать принципы организации компьютерных моделей в основных направлениях исследований ИИ, а также исследовать структурные и функциональные закономерности отношения между теоретическими концептами и принципами организации компьютерных моделей. В рассметниваемоей главе дано подробное описание механизмов заимствования теоретических представлений о структуре интеллекта рядом компьютерных моделей. Для этих целей были рассмотрены примеры как конкретных спекулятивных моделей, так и реализованных на практике компьютерных программ, относящихся к области ИИ. Вторая глава состоит из трех параграфов.

В первом параграфе автор обращается к моделям, относящимся к логической парадигме в исследованиях ИИ.

Первый подраздел параграфа посвящен реализации выделенных в первом параграфе первой главы исследования структурных компонентов интеллектуальной функции в программах автоматического доказательства теорем Логик-теоретик (Logic Theorist) и Общий решатель Задач (General Problem Solver) А. Ньюэлла и Г. Саймона. При рассмотрении попыток автоматизированного доказательства, таких как программы LT и GPS, все более необходимым становится обращение к неявным структурам человеческого мышления, выявлению1 таких характеристик интеллектуальной деятельности, которые не были рассмотрены в рамках стандартных логических подходов. Речь идет о процедурах выбора последующего шага и ограничения перебора» возможных вариантов. Здесь присутствует явное соответствие с выделенными в первой части интеллектуальными функциями мышления. С одной; стороны,, очевидно понимание интеллекта как процесса доказательства, вывода корректных заключений из истинных посылок по некоторым формальным правилам, правилам, которые сформулированы логикой. С другой стороны, заметно расширение такого понимания за счет добавления к решению логической задачи установки на решение вычислительной задачи: При реализации первого типа задачи машина идет по жесткому пути решения, который заложен в неё программистом. В таком случае продолжение процесса всегда однозначно определено, и, даже если имеется разветвление, то машина имеет информацию, которая позволяет ей сделать дальнейший шаг. При решении задач второго типа выбор в узле не является однозначно определенным. Задачи такого типа могут быть решены машиной путем полного или частичного перебора вариантов. Как отмечает Д.А. Поспелов, главная особенность естественного интеллекта в том, что «в отличие от машины человек проводит целесообразный перебор, резко сокращает число просматриваемых вариантов за счет априорной оценки многих из них как неперспективных». Именно эта идея и лежит в основе программ LT и GPS, созданных А. Ньюэллом и Г. Саймоном. Постановка такой задачи и пути её решения в явном виде изоморфны выделенным ранее следующим теоретическим концептам: наличие в доказательстве, в качестве необходимого условия, элементов, не входящих в строгую дедуктивную структуру; бессознательный характер мыслительных процедур. Отмечено, что авторы. GPS не разделяют установку о неформализуемом характере этих неявных процедур:

Второй подраздел параграфа посвящен анализу компьютерных моделей, реализованных в экспертных системах. Автор иллюстрирует принципы работы экспертных систем различных типов, а именно: экспертных систем, основанных на продуктивных правилах; рассуждений на основе опыта; модельного подхода и гибридных систем. В исследовании проанализированы, такие экспертные системы как система DENDRAL, система MYCIN, программы CASEY и PROTOS. Из рассмотрения вытекает формулировка трех основных принципов логического подхода к созданию ИИ. Было показано, что источником появления этих принципов в современной науке являются-указанные элементы античной и символической логики, философские идеи европейского рационализма. Во-первых, это использование символов как инструмента описания мира, во-вторых, необходимость разработки методов перебора возможных вариантов решения, то есть эвристик, в-третьих, игнорирование субстратной основы интеллекта, или отвлеченность от когнитивной архитектуры.

Третий подраздел параграфа посвящен анализу влияния теоретической установки теста Тьюринга на формирование компьютерных моделей типа' «ботов». Анализ проведен на примере программ-имитаторов ELIZA и A.L.I.C.E. Показано, что теоретический концепт, выделенный в идеях А. Тьринга относительно функции интеллекта, не может выполнить роль единственного регулятива в создании программ ИИ. В чистом виде он может лишь выступать как некоторый критерий итоговой проверки в числе ряда других критериев. В последнем случае проиллюстрирована ситуация некорректного заимствования, перевеса в сторону моделирования результата действия интеллектуальной функции, но моделирования механизма организации интеллектуальной функции.

Идеи структурной организации интеллектуальной функции, как показано автором во втором параграфе, легли в основу теории фреймовом. Мински. Показано, что определение фрейма структурно сходно с моделью интеллектуальных способностей в гештальт-психологии. Существенными представляются процедуры первичного выделения структуры в виде перцептивного образа и дальнейшего её переструктурирования в соответствии с наличной ситуацией, то есть процедур заявленных в гештальт-теории как формирование образа-гештальта и его переструктурирование. В1 гештальт-теории выделение фигуры всегда происходит в рамках перцептивного поля, в теории фреймов его функцию выполняет Глобальный пространственный фрейм (в8Р), который представляет собой «постоянный набор «типичных позиций» в абстрактном трехмерном пространстве», при этом предполагается, что человек всегда представляет себе, что он находится в универсальной воображаемой комнате, в которой происходят реальные события. М. Мински предполагает как сложное устройство самого фрейма, так и многоуровневый характер систем фреймов, что совпадает с тезисом о многоуровневом характере продуктивного образа в гештальт-теории. Таким образом, в теории фреймов воспроизводится гештальт-психологическая идея многоуровневой организации восприятия' наличной ситуации. Показано, что фреймовая модель ИИ предполагает описанные в гештальт-психологии структуры организации психических актов.

Третий параграф посвящен компьютерным моделям, возникшим в рамках направления, получившего название «нейронные сети», или структурной парадигме в искусственном интеллекте. На примере функционирования формального нейрона Мак-Каллока-Питца показано, как представленная в кибернетике схема естественного нейрона (далее ЕН) находит свою реализацию в модели искусственного нейрона (далее ИН). Показано, что те функции, которые были выделены в ЕН кибернетиками, действительно реализуются в ИН. Показано, что данное направление тяготеет к моделированию механизма организации интеллектуальной функции в противоположность логической парадигме в ИИ, где в явном виде превалирует моделирование результата действия интеллектуальной функции. В разделе проведен подробный сравнительный анализ моделей естественного и искусственного нейрона в нейробиологии и компьютерных науках соответственно. Обратившись к представлению о нейроне в нейробиологии, представляется возможным выделить ряд кардинальных отличий между пониманием ЕН в кибернетике и реализованной в исследованиях по ИИ моделью ЕН. Эти отличия сформулированы автором в следующих пунктах:

• По данным современной нейробиологии, в нервной системе имеют место множество различных по форме и строению нейронов, что далеко от реализованного в кибернетике представления о единообразии элементов искусственной нейронной сети.

• В нейробиологии существует представление о многообразии типов межнейронных взаимодействий. Экспериментально описаны такие типы взаимодействий как дистантные, основанные на смежности или соединении мембран. Современный уровень развития кибернетических моделей искусственных нейронных сетей не реализует такого разнообразия взаимодействий между своими элементами.

• Описание дистантных форм межнейронного взаимодействия химического синапса в нейробиологии указывает на то, что в естественных нейронных сетях важной характеристикой является временная задержка в передаче сигнала. Реакция нейронов даже при стандартном, «классическом» соединении на 5-6 порядков медленнее, чем реакции кремневых элементов искусственной сети. Длительность событий в кремниевых элементах измеряется в наносекундах, в естественных нейронах - в миллисекундах.

Динамика развития искусственный нейронных сетей позволяет проиллюстрировать положение о фрагментарном характере заимствования представлений о структуре интеллектуальной функции, и об отсутствии полного изоморфизма между структурами теоретических концептов и принципами организации компьютерных моделей. В разделе также находит подтверждение положение о том, что в ходе развития компьютерной модели может происходить как уточнение, заимствование на более глубоком уровне структур, сформированных в рамках различных теоретических концепций, так и отдаление компьютерной модели от своего прототипа. Так, в современных кибернетических моделях сделана попытка внедрения характеристики времени в функционирование сети, с целью создания динамических сетей, обладающих памятью и данные идеи, по утверждениям, самих кибернетиков «имеют своё нейробиологическое объяснение». Потребность во временной задержке возникает в многочисленных прикладных задачах, таких как прогнозирование (prediction) и моделирование временных рядов (time series), шумоподавление (noise cancellation), адаптивное уравнивание (adaptive equalization) неизвестного канала связи, адаптивное управление (adaptive control), идентификация систем (system identification). Несмотря на аналогию с наличием у биологического нейрона временной задержки, на этом сходство кибернетической модели и её биологического прототипа заканчивается. При этом показано, что в кибернетической модели даже на современном этапе в качестве основного типа взаимодействия между нейронами принимается однонаправленное. На основе такого типа взаимодействия функционируют искусственные сети прямого распространения. Несмотря на то, что в кибернетике сделаны попытки внедрения в сети обратных связей, этот тип не является основным для кибернетических моделей, в то время как в нейробиологии все больше внимания уделяют именно нестандартным типам синаптических связей. Показано, что компьютерная модель, разработанная в рамках структурного направления, придерживается идей нейрона как базового элемента нейронной сети, что было выделено в качестве тезиса о клеточном строении нервной системы живого организма в разделе о теоретических концептах нейробиологии. Однако, компьютерная модель лишь фрагментарно использует теоретические представления о молекулярном строении нейрона. Кроме того, схема биологического нейрона в кибернетике крайне искаженно репрезентирует свой биологический аналог. Подобные затруднения обусловлены также отсутствием в нейробиологии законченной модели не только нервной сети, но также и нейрона как единицы этой сети. Тем самым в, исследовании действительно решены поставленные во введении задачи по анализу основных структур представлений об интеллекте, исторически сформировавшихся в рамках гуманитарных, естественнонаучных и прикладных дисциплинах, в аспекте пяти базовых функций, технически, реализуемых в ИИ; анализу и описанию принципов организации компьютерных моделей в основных направлениях исследований ИИ. Были также исследованы структурные и функциональные закономерности отношения между теоретическими концептами и принципами организации компьютерных моделями.

Заметим, что рассмотренное представление о некоторой функции мышления, моделируемой на некотором техническом устройстве, по мнению автора, представляет собой одно из условий возможности формирования интегрального методологического подхода в области ИИ.

Список литературы диссертационного исследования кандидат философских наук Трушкина, Наталья Юрьевна, 2008 год

1. Алексеева И.Ю. Человеческое знание и его компьютерный образ. - М.: Наука, 1992

2. Арбиб М. Метафорический мозг. М.: Едиториал УРСС, 2004

3. Арбиб М. Алгебраическая теория автоматов, языков и полугрупп. М.: Статистика, 1975

4. Аристотель Метафизика. Ростов-на-Дону: «Феникс», 1999

5. Асмус В.Ф. Античная философия. М.: Высш. шк.,1999

6. Асмус В.Ф. Проблема интуиции в философии математики. Очерк истории: XVII начало XX в.- М.: Едиториал УРСС, 2004

7. Баксанский O.E. Кучер E.H. Когнитивные науки: от познания к действию.- М.: КомКнига, 2005

8. Блехман М.С. Певзнер Б.Р. Автоматизированная обработка многоязычной информации // НТИ/ ВИНИТИ. Сер.2, Информ. Процессы и системы. -М.:, 1989. №6

9. Боброва В.Я. Системы машинного перевода // Итоги науки и техники. Сер.:Информатика.-М.:, 1990. -Т. 14.

10. Ю.Ванников Ю.В., Кудряшова JIM., Марчук Ю.Н. и др. Научно-технический перевод М.: Наука, 1987

11. Вертгеймер М. Продуктивное мышление.- М.: Прогресс, 1987

12. Визель Т.Г. Основы нейропсихологии. -М.: ACT: Транзиткнига, 2006

13. Газе-Рапопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения. -М.: Едиториал УРСС, 2004

14. Гладков Л.А., Курейчик В.В., Курейчик В.М. Генетические алгоритмы. -М.: ФИЗМАТЛИТ, 2006

15. Глухов В. П. Основы психолингвистики. М.: ACT: Астрель, 2005

16. Гобсс. Избран, произв., т.2, М:, 1964

17. Греческая философия. T.l М.: Греко-латинский кабинет Ю.А. Шичалина, 2006

18. Декарт Р. Сочинения. T.l. М.:, 1989-1994

19. Декарт Р. Сочинения. Т.2. М.:, 1989-1994

20. Диоген Лаэртский. О жизни, учениях и изречениях знаменитых философов. -М.: Мысль, 1986

21. Дрейфус X. Чего не могут вычислительные машины. М.: Прогресс, 197822.3орина З.А. Смирнова A.A. О чем рассказали «говорящие обезьяны»:

22. Способны ли высшие животные оперировать символами? М.: Языки славянских культур, 2006

23. Интеллектуальные системы (МГУ). 1996. - Т. 1, вып. 1-4

24. Келер В. Исследование интеллекта человекоподобных обезьян. //Основные направления психологии в классических трудах. Гештальт-психология.- М.: ООО «Издательство ACT-ЛТД», 1998

25. Келер В. Некоторые задачи гештальт-психологии.// История психологии (10-е -30-е гг. Период открытого кризиса): Тексты.-М.: Изд-во Моск. унта, 1992

26. Коффка К. «Восприятие: введение в гештальттеорию» // Хрестоматия по ощущению и восприятию М.: МГУ, 1995

27. Краткий словарь когнитивных терминов. Под ред. Е.С. Кубряковой. М.: Филологический факультет МГУ им. М.В. Ломоносова, 1996

28. Кутюра Л. Философские принципы математики, СПб.:Д913

29. Лакофф Дж. Женщины, огонь и опасные вещи: Что категории языка говорят нам о мышлении. М.: Языки славянской культуры, 2004

30. Леонтьев A.A. Основы психолингвистики. М.:, 1997

31. Лукасевич Я. Аристотелевская силлогистика с точки зрения современной формальной логики. М.:, 1959

32. Люгер Дж. Ф. Искусственный интеллект: стратегии и методы решения сложных проблем, 4-е изд. М.: Издательский дом «Вильяме», 2005

33. Маковельский А.О: Досократики. Казань. - 1914. - Т. 1

34. Малевич О.Б. Проблемы маншнного перевода на семинаре «ЭВМ и перевод 89»// НТИ/ ВИНИТИ. Сер. 2, Информ. Процессы и ситемы. М.:, 1990

35. Мински М. Фреймы для представления знаний: М.: Энергия, 1979'

36. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие. М.: ACT: Восток - Запад, 2007

37. Марчук Ю.Н. Машинный перевод как информационная и технологическая реальность. М.: ИНИОН АН СССР, 1988

38. Маршинин Б.А. Перцептивные и мыслительные процессы, их мозговое обеспечение: Монография. -М.: Логос, 2007

39. Непомнящих В.А. Поиск общих принципов адаптивного поведения живых организмов и аниматов // Новости искусственного интеллекта. 2002, №2.

40. Николс Дж., Мартин Р., Валлас Б., Фукс П. От нейрона к мозгу М.: Едиториал УРСС, 2003

41. Ньюэлл А., Саймон Г. «GPS программа, моделирующая процесс человеческого мышления // Фейгенбаум Э., Фельдман Дж. Вычислительные машины и мышление. - М.: Издательство «Мир», 1967

42. Ньюэлл А., Саймон Г. Эмпирические исследования машины.«Логик-теоретик»; пример изучения эвристики// Фейгенбаум Э., Фельдман Дж. Вычислительные машины и мышление. М.: Издательство «Мир», 1967

43. Паункаре А. Наука и метод // О науке. М.: Наука. 1990

44. Петренко В. Ф. Основы психосемантики. М. СПб.: Питер, 2005

45. Поспелов Д.А. Пушкин В.Н. Мышление и автоматы. -М.: Изд-во «Советское радио», 1972

46. Поспелов Д.А. Десять «горячих точек» в исследованиях по искусственному интеллекту // Интеллектуальные системы (МГУ). 1996. -Т.1, вып.1-4.

47. Поспелов Д.А. Ситуационное управление: теория и практика. М.: Наука, 1986

48. Рассел С., Норвиг П. Искусственный интеллект: современный подход.-М.: Издательский дом «Вильяме», 2006

49. Редько В.Г. Эволюция, нейронные сети, интеллект: Модели и концепции эволюционной кибернетики. М.: КомКнига, 2007

50. Редько В.Г.Эволюционная кибернетика М.: Наука, 2001

51. Саймон Г. Науки об искусственном. М.: Едиториал УРСС, 2004 52:Сахаров Д.А. Наука о мозге - Нейробиология // Актуальные проблемыбиологической науки. -М.: Просвещение, 1984

52. Седов К.Ф. Нейропсихолингвистика. М.: Лабиринт, 2007

53. Слобин Д., Грин Д. Психолингвистика. Хомский и психология. — М.: Едиториал УРСС, 2004'

54. Соколов E.H., Вайткявичюс. Нейроинтеллект: от нейрона к нейрокомпьютеру -М.: Наука, 1989

55. Солсо Р. Когнитивная психология, СПб.: Питер, 2006

56. Стяжкин Н.И. Становление идеи математической логики. М.\ Наука, 1964

57. Суворов В.В. Интеллект и креативность в постнеклассической науке. «Интеллект неискусственный». М.: Изд-во МГУ, 2006

58. Тарасов В.Б. Системно-организационный подход в искусственном интеллекте // Программные продукты и системы. 1999 - №3

59. Тарков М.С. Нейрокомпьютерные системы: Учебное пособие-М.: Интернет-Университет Информационных Технологий; БИНОМ. Лаборатория знаний,2006

60. Тьюринг А. Может ли машины мыслить? М.: ГИФМЛ, 1960

61. Уитби Б. Искусственный интеллект: реальна ли Матрица- М.: ФАИР-ПРЕСС,2004

62. Уоссерман Ф. Нейрокомпьютерная техника: Теория и практика.

63. Форсайт Д. А. Понс Ж. Компьютерное зрение. Современный подход.- М.: Издательский дом «Вильяме», 2004

64. Фрагменты ранних греческих философов. 4.1. От эпических теокосмогоний до возникновения атомистики. — М.: Наука, 1989

65. Хайдеггер М. Что зовется мышлением? М.: «Территория будущего», 2006

66. Хайкин С. Нейронные сети: полный курс. М.: ООО «И.Д.Вильямс», 2006

67. Хокинс Дж., Блейксли С. Об интеллекте. -М.: ООО «И.Д. Вильяме», 200769:Хомский Н. О природе языка. М.: КомКнига, 2005

68. Хомский Н., Миллер Дж. Введение в формальный анализ естественных языков: М.: Едиториал УРСС, 2003

69. Шамис A. JI. Поведение, восприятие, мышление: проблемы создания искусственного интеллекта. М.: Едиториал УРСС, 2005

70. Шеперд Г. Нейробиология. Т.1. -М.: Мир, 198773 .Язык и интеллект. М.: Издательская группа «Прогресс», 1995

71. Ясницкий Введение в искусственный интеллект. М.:, Издательский центр «Академия», 2005

72. Brooks R.A. Intelligence without representation// Artificial Intelligence № 47, 1991

73. Brown J.S., Burton R.R., deKleer J. Pedagogical, natural language and knowledge engineering techniques in SOPHIE// Slleman D., Brown J. S. Intelligence Tutoring Systems. NY: Academic Press, 1982

74. Clancy W.J. Heuristics Classification. Artificial Intelligence, № 27,1985

75. Forgy C.L. RETE: a fast algorithm for many pattern/many object pattern match problem // Artificial Intelligent 19(1), 1982

76. From animats to animats. Proceeding of the First International Conferrence on Simulation of Adaptive Behavior/ Eds. J.-A. Meyer, S.W.Wison Cambridge, Massachusetts, London: The MIT Press, 1990

77. Goodman D., Keene R. Man versus Machine: Kasparov versus Deep Blue. H3 Publications , Cambridge, Massachusets, 1997

78. Heckerman D. Probabilistic Similarity Networks. MIT Press, Cambridge, Massachusets, 1991

79. Hopfield J.J. Neurons with graded respons have collective computational propeties like those of two-state neurons. Proceedings of National Academy of Science of the United States of America, 79

80. Kneale W., Kneale M. The development of logic. Oxford.: Clarendon Press, 1991

81. Lindsay R.K., Buchanan B.G., Feigenbaum E.A., Lederberg J. Applications of artificial intelligence for organic chemistry: the DENTRAL project. NY: VcGraw-Hill, 1980

82. Littman M.L., Keim G.A., Shazeer N.M. Solving crosswords with PROVERB. In Proceedings of the 16th National Conference on Artificial Intelligence (AAAI-99), Orlando, Florida. AAAI Press

83. McCarty J. Programs with common sense, 1959

84. McCulloch W.S., Pitts W. A Logical Calculus of Ideas Immanent in Nervous Activity \\ Bull. Mathematical Biophysics, 1943. V.5

85. Newell A., Simon H. Empirical explorations with the Logic Theory Machine: a case study in heuristics // Feigenbaum E.A., Feldman J., ed. Computers and Thought. New York: McGraw-Hill, 1963

86. Ray T.S. An approach to the synthesis of life // Artificial Life II: Proceedings of the Second Artificial Life Workshop

87. Rescher Nicolas. Leibniz's interpretation of his logical calculi, «The Journal of Symbolic Logic», vol 19, N 1, 1954

88. Rossenblatt F. Principles of Neurodynamics: Perseptrons and the Theory of Brain Mechanisms. Spatan, Chicago, 1962

89. Turing A. Computing machinery and intelligence. Mind, 59, 1950

90. Turing, Alan M.: Intelligence Service: Schr./ Alan M. Turing.- Berlin: Brinkmann & Bose, 1987

91. Veroff R., ed. Automated Reasoning and its Applications. Cambridge, MA: MIT Press, 1997

92. YaegerL. Computational genetics, physiology, metabolism, neural systems, learning, vision, and behavioror Polyworld: Life in a new context // Artificial life III/Ed. C.G. Langton. Addison-Wesley, 1994.

93. I См. Goodman D., Keene R. Man versus Machine: Kasparov versus Deep Blue. H3 Publications , Cambridge, Massachusets, 1997

94. Ознакомится с применением технологий ИИ в NASA можно в интернета на сайте http://www-aig.jpl.nasa.gov v См. Heckerman D. Probabilistic Similarity Networks. MIT Press, Cambridge, Massachusets, 1991

95. Littman M.L., Keim G.A., Shazeer N.M. Solving crosswords with PROVERB. In Proceedings of the 16th National Conference on Artificial Intelligence (AAAI-99), Orlando, Florida.AAAI Press, стр. 914-915

96. См. Brooks R.A. Intelligence without representation// Artificial Intelligence № 47, 1991; Уитби Б. Искусственный интеллект: реальна ли Матрица- М.: ФАИР-ПРЕСС, 2004.

97. Turing A. Computing machinery and intelligence. Mind, 59, 1950, стр 433-460. Русский переводТыоринг A. Может ли машины мыслить? М.: ГИФМЛ, I960

98. McCulloch W.S., Pitts W. A Logical Calculus of Ideas Immanent in Nervous Activity \\ Bull. Mathematical Biophysics,1943.-V.5x" Rossenblatt F. Principles of Neurodynamics: Perseptrons and the Theory of Brain Mechanisms. Spatan, Chicago, 1962

99. Xl" Hopfield J.J. Neurons with graded respons have collective computational propeties like those of two-state neurons.

100. Proceedings of National Academy of Science of the United States of America, 79, стр. 2554-2558

101. X1V Newell A., Simon H. Empirical explorations with the Logic Theory Machine: a case study in heuristics //

102. Feigenbaum E.A., Feldman J., ed Computers and Thought. New York: McGraw-Hill, 1963. Русский перевод:

103. Ньюэлл А., Саймон Г. Эмпирические исследования машины «Логик- теоретик»; пример изучения эвристики//

104. Х|Х Редько В.Г. Эволюция, нейронные сети, интеллект: Модели и концепции эволюционной кибернетики. М.: КомКнига, 2007, с. 150-163.

105. Yaeger L. Computational genetics, physiology, metabolism, neural systems, learning, vision, and behavioror

106. Pplyworld: Life in a new context // Artificial life III/ Ed. C.G. Langton. Addison-Wesley, 1994.

107. XX1 Ray T.S. An approach to the synthesis of life // Artificial Life II: Proceedings of the Second Artificial Life1. Workshop.

108. ХС1Х Вертгеймер M. Продуктивное мышление.- М.: Прогресс, 1987, стр. 82сВертгеймер M. Продуктивное мышление.- М.: Прогресс, 1987, стр. 82

109. CV1 Тьюринг А. Может ли машины мыслить? М.: ГИФМЛ, 1960. с. 4с"' Шульц Д., Шульц Э. «История современной психологии», СПб.: Изд. «Евразия», 2002. -с.25cvm Цитата по Сахаров Д.А. Наука о мозге Нейробиология // Актуальные проблемы биологической науки.

110. М.: Просвещение, 1984.-е. 75

111. С1Х Цитата по Шульц Д., Шульц Э. «История современной психологии», СПб.: Изд. «Евразия», 2002.' -с.26 сх Цитата по Сахаров Д.А. Наука о мозге Нейробиология // Актуальные проблемы биологической науки. - М.: Просвещение, 1984.-е. 77

112. Э., Фельдман Дж. Вычислительные машины и мышление. М.: Издательство "Мир», 1967. - с.283-300ом™ ньюэлл д ; Саймон Г. "GPS программа, моделирующая процесс человеческого мышления // Фейгенбаум

113. Э., Фельдман Дж. Вычислительные машины и мышление. М.: Издательство "Мир», 1967. - с.283cxxvrn Ньюэлл А-) Саймон Г. "GPS программа, моделирующая процесс человеческого мышления // Фейгенбаум

114. Э., Фельдман Дж. Вычислительные машины и мышление. М.: Издательство "Мир», 1967. - с.289