Методологические основания моделирования эмоций в архитектуре искусственного интеллекта тема диссертации и автореферата по ВАК РФ 09.00.08, кандидат наук Шиллер Александра Викторовна

• Шиллер Александра Викторовна
• кандидат наук
• 2019

Оглавление диссертации кандидат наук Шиллер Александра Викторовна

ВВЕДЕНИЕ

ГЛАВА 1 ОСНОВНЫЕ ТРАКТОВКИ ЭМОЦИЙ В ФИЛОСОФИИ, ПСИХОЛОГИИ И КОГНИТИВНЫХ НАУКАХ

1.1 Понимание эмоций в философии и современной психологии

1.2 Основные концепции эмоций в когнитивных науках

1.3 Значение психологических и когнитивных концепции эмоций для методологии исследований искусственного интеллекта

ГЛАВА 2. ЭМОЦИИ В АРХИТЕКТУРЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

2.1 Современные дискуссии о соотношении эмоций и других когнитивных функций

2.2 Когнитивные функции в архитектуре искусственного интеллекта

2.3 Роль эмоций в архитектуре искусственного интеллекта

ГЛАВА 3. ВЫЧИСЛИТЕЛЬНЫЕ МОДЕЛИ ЭМОЦИЙ В АРХИТЕКТУРЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

3.1 Методологические проблемы моделирования эмоций

3.2 Вычислительное моделирование эмоций

3.3 Методологические основания вычислительного моделирования эмоций158

ЗАКЛЮЧЕНИЕ

БИБЛИОГРАФИЯ

ВВЕДЕНИЕ

Актуальность исследования. При моделировании и дальнейшем построении систем искусственного интеллекта решающее значение имеет выбор методологических оснований, на которые опираются разработчики и исследователи, и которые выступают базовыми элементами конечных создаваемых продуктов - моделей архитектур искусственного интеллекта или отдельных моделей эмоций. Философия предоставляет теоретический базис в виде универсальных, обладающих общеметодологическим значением категорий и принципов. Именно поэтому философия будет занимать ключевую роль в развитии междисциплинарных исследований искусственного интеллекта, объединенных в рамках дисциплины «Философия искусственного интеллекта», к которой можно отнести и представленную работу.

Интерес к проблеме эмоций возрастает вместе с развитием исследований искусственного интеллекта. Все чаще возникает потребность в человекоподобном поведении, воспроизвести которое очень сложно без попыток моделирования эмоционального аппарата. Особенно важным становится моделирование эмоций в контексте создания агентов, функциональность которых связана с коммуникацией с человеком. Для многих практических задач и проблем (например, распознавание эмоций, реализация эффектов или последствий эмоций) перспективным кажется развитие биоинформатики и технологий машинного обучения. Однако решение отдельных задач (таких как распознание эмоций по фото/тексту и т.д.) пока не привело к качественному прорыву в моделировании эмоциональных систем. Более того, исследователи все чаще отказываются от создания отдельной эмоциональной системы, апеллируя к тому, что эффекты эмоций реализуются в поведении агента автоматически, если они были включены в данные, использованные для обучения агента. Примером практической реализации задачи является разработанный компанией Microsoft чатбот Тэй (Tay) в Твиттере, который быстро научился писать эмоциональные тексты, но при этом очевидно, что такое поведение не является следствием работы его собственной эмоциональной системы.

За последние пять лет значительно возросло количество вычислительных моделей эмоций и архитектур аффективных агентов. Исследователи в области когнитивных наук, искусственного интеллекта, биоинженерии, программного обеспечения, робототехники давно занимаются созданием «моделей эмоций». Причины, побуждающие ученых и разработчиков исследовать природу эмоций и развивать теоретическое моделирование эмоций, обусловлены запросами практики: необходимостью качественного повышения уровня взаимодействия человека и машины, а также потребностью в создании более правдоподобных и эффективных систем искусственного интеллекта и роботов

Несмотря на обширную разработку темы моделирования эмоций, существует методологическая неопределённость, вызванная рядом факторов. Во-первых, «отсутствует согласованность и ясность в отношении того, что означает понятие «модель эмоций». 2 Во-вторых, не существует однозначной общеупотребимой терминологии, что затрудняет сравнение разработанных к настоящему времени теорий моделирования эмоций и определение применимости и эффективности отдельных теорий и моделей в конкретных случаях.

Следствием такой методологической неопределённости является «отсутствие методологических основ или рекомендаций при создании проектов по моделированию конкретных аффективных феноменов»3, невозможность ответить на фундаментальные для моделирования эмоций вопросы: «Каковы вычислительные задачи, которые должны быть реализованы? Какие теории наиболее применимы для данной модели? Какие данные необходимо предварительно получить из научной литературы и данных эмпирических исследований?»

Проблематика и степень научной разработанности темы. С позиций философии и методологии науки моделирование эмоций в архитектуре

1 НиШкка, 2008Ь

2 Шиллер,

3 Там же

4 Там же

искусственного интеллекта изучалось за рубежом, однако в России подобные исследования до настоящего момента не проводились.

Предлагаемые в работе методологические основания моделирования эмоций основаны на психологических и философских концепциях эмоций, в частности, на концепции комплексных или социальных эмоций, а также на современных когнитивных теориях познания - теории воплощенного познания и теории «небрежных когниций». Используемые представления об архитектуре основаны на подходе А. Сломана к созданию архитектуры искусственного агента. В этой работе представлен аналитический подход к разработке методологии и предложен набор общих методологических рекомендаций, существенных для создания аффективных моделей. Путем создания набора необходимых вычислительных задач и альтернатив для их реализации в работе преследуется цель по разработке методологии моделирования, которая выйдет за границы существующей работы в аффективном моделировании и поможет осуществить первые шаги на пути формирования базовых оснований для создания вычислительных моделей эмоций.

В данной работе под методологическими основаниями понимаются теоретические положения, на которых должно основываться моделирование эмоций в архитектуре искусственного интеллекта. Эмоции рассматриваются как состояния, которые отражают ценностные сужения об окружающем мире, себе и других социальных агентах, в свете целей и убеждений организма, которые мотивируют и направляют приспособительное поведение. Отметим, что термины «цели» и «убеждения» использованы в общем смысле: цели отражают желаемые состояния, а убеждения отражают текущие знания. Кроме того, понятие «цель» в этом определении включает в себя любые представления о желаемых состояниях: сознательные и неосознаваемые, эксплицитные или имплицитные, врожденные или выученные цели.

Искусственный интеллект понимается как «свойство систем или агентов выполнять творческие, креативные функции, которые традиционно считаются прерогативой человека». Искусственный интеллект и агент используются в работе как равнозначные понятия с учетом определения

искусственного интеллекта, которое дают Рассел и Норвиг: «наука об агентах, получающих из своей среды результаты актов восприятия и выполняющих соответствующие действия»

Искусственный интеллект понимается в работе в рамках философской теории о слабом искусственном интеллекте, однако в некоторых разделах сделаны приписки для отдельных рассматриваемых ситуаций, где искусственный интеллект понимается как сильный искусственный интеллект. Архитектура искусственного интеллекта рассматривается как интегрированный набор разнообразных, но взаимосвязанных способностей, реализованных в искусственной интеллектуальной системе в виде набора блоков-преобразователей данных. Для целей работы важно опираться на понятие архитектуры искусственного интеллекта в понимании А. Сломана.

Важность проблемы поиска и выработки общих методологических рекомендаций или оснований моделирования эмоций предопределила актуальность выполнения данной работы.

Таким образом, анализ научно-методической литературы позволил выявить противоречия между назревшей необходимостью построения общей методологии моделирования эмоций в архитектуре искусственного интеллекта, с одной стороны, и недостаточной научной разработанностью проблемы создания и оценки существующих теорий эмоций, подходящих в качестве оснований для моделирования отдельных процессов обработки эмоциональной информации в рамках разработки вычислительных моделей эмоций.

Объект исследования: эмоции в архитектуре искусственного интеллекта.

Предмет исследования: моделирование эмоций в архитектуре искусственного интеллекта.

Цель исследования - выявить и проанализировать методологические основания моделирования эмоций в архитектуре искусственного интеллекта.

5 Рассел, Норвиг,

Задачи исследования:

1. Показать методологическое значение философских, психологических и когнитивных концепций эмоций для исследований по моделированию эмоций в архитектуре искусственного интеллекта.

2. На основе анализа современных научных дискуссий определить роль эмоций в архитектуре искусственного интеллекта.

3. Сформулировать основные методологические проблемы моделирования эмоций в архитектуре искусственного интеллекта.

4. Проанализировать существующие и предложить новые методологические основания вычислительного моделирования эмоций.

5. Предложить теорию для моделирования эффектов эмоций в архитектуре искусственного интеллекта.

Методы исследования:

1. Теоретико-методологический анализ современных подходов к моделированию эмоций в целом, а также к моделированию эмоций в архитектуре искусственного интеллекта в философии, психологии и когнитивных науках для формулирования основных позиций исследования;

2. Метод экспертной оценки существующих вычислительных моделей эмоций и анализ методологии создания моделей с целью выявления недостатков и проблем методологического характера, а также с целью поиска и создания альтернативных решений выявленных проблем.

Положения, выносимые на защиту:

1. Эмоции связаны со всеми когнитивными функциями и оказывают на них влияние, поэтому можно утверждать, что эмоциональная подсистема -необходимость для искусственного агента, способного к мультимодальному отражению действительности.

2. Наиболее перспективным подходом при построении архитектуры искусственного интеллекта является использование отдельных хорошо

разработанных теорий, опирающихся на философские и психологические концепции эмоций, в частности, на теорию воплощенного познания и теорию смешанной когнитивно-аффективной системы («небрежных когниций»).

3. Моделирование эмоций в архитектуре искусственного интеллекта осложняется рядом методологических проблем:

3.1 Отсутствие общей однозначной терминологии затрудняет сравнение

теоретических подходов к моделированию эмоций:

• отсутствует согласованность и ясность в отношении значения понятия «модель эмоций»

• наблюдается неопределённость относительно того, какие аффективные состояния моделируется.

3.2 Модели эмоций заметно отличаются друг от друга в зависимости от

моделируемой функции эмоций.

4. Реконструкция эмоциональной системы возможна путем ее моделирования. Основой моделирования эмоций должны служить вычислительные модели эмоций для двух процессов: генерации эмоций и выражения эмоций через эффекты эмоций, а также теоретические основания моделирования в виде различных когнитивно-аффективных теорий.

5. В настоящее время нет общепризнанной теории, подходящей на роль основы для моделирования эффектов эмоций. В работе предлагается использовать в качестве теоретической основы для моделирования эффектов эмоций комбинацию из двух теорий: теории воплощенного познания и теории смешанной когнитивно-аффективной системы («небрежных когниций»), названную автором КАМА - когнитивно-аффективной моделью архитектуры.

Научная новизна и теоретическая значимость исследования

определяются тем, что в представленной работе ясно определены и описаны

методологические основания моделирования эмоций в архитектуре искусственного интеллекта. Выявлены и описаны теоретические основания, вычислительные задачи и шаги вычислительного моделирования эмоций. Проанализированы современные когнитивные теории и выделены перспективные для моделирования эмоций - теория воплощенного познания и теория «небрежных когниций», которые могут быть использованы в когнитивно-аффективной модели архитектуры (КАМА), разрабатываемой для описания моделирования эффектов эмоций. Описана роль социальных эмоций в эмоциональной архитектуре искусственного интеллекта. Описаны дилеммы и методологические проблемы, характерные для разработки моделей эмоций.

Важно отметить, что у диссертационной работы есть ряд ограничений:

Во-первых, обсуждается только когнитивная модальность эмоций, применимая для генерации эмоций с помощью когнитивных оценок и моделирования влияния эффектов эмоций на когнитивные процессы. Причиной служит более высокий уровень разработанности моделей эмоций, основанных на когнитивных исследованиях, что ни в коей мере не означает, что другие модальности отбрасываются и не считаются столь ж критически важными для понимания феномена эмоций.

Во-вторых, анализ различных математических методов, служащих для обеспечения вычислительных задач, был также неглубоким. Причиной служит тот факт, что исследования моделей эмоций находятся на начальном этапе, а валидация и систематическая оценка существующих моделей эмоций проводилась в ограниченном объеме.

В-третьих, ограниченность объемом работы не позволяет развернуть глубокую дискуссию по поводу существующих моделей, поэтому о них были сделаны довольно короткие заметки.

Несмотря на это, с учетом всё возрастающей включенности искусственного интеллекта в повседневную жизнь людей необходимо уже сейчас разрабатывать эмоциональные системы для искусственных агентов. Для решения этой задачи необходимы такие подходы, которые выступали бы направляющими для выбора

дизайна архитектуры искусственного интеллекта, регулировали возможности развития интеллектуальных систем, чтобы обеспечить надлежащее управление данными и определить степень вовлеченности человека в процесс управления этими системами.

Практическая значимость исследования состоит в формировании базовых методологических рекомендаций и анализе существующих когнитивно-аффективных теорий, которые можно использовать в качестве основы для моделирования эмоций в архитектуре искусственного интеллекта в рамках разработки вычислительных моделей эмоций.

Достоверность и обоснованность исследования обусловлены обширной научной базой, включающей философские, психолого-когнитивистские работы; применением современной методологии научного исследования; использованием комплекса методов, адекватных целям и задачам исследования; апробацией материалов исследования в педагогической практике; разносторонним анализом и обработкой данных.

Личный вклад соискателя заключается в осуществлении обзора по проблеме исследования; в определении основных методологических проблем моделирования эмоций в архитектуре искусственного интеллекта; в разработке авторской теории для моделирования эффектов эмоций в архитектуре искусственного интеллекта; в выдвижении обобщающих выводов, в разработке спецкурса для магистров.

Апробация и внедрение результатов исследования осуществлялись в процессе научной и педагогической практики с помощью разработки учебного курса по теме «Философия эмоционального искусственного интеллекта», выступлений на научных конференциях и в рамках научных публикаций по теме исследования.

Структура работы. Диссертация состоит из введения, трех глав, заключения, библиографического списка.

Работа организована следующим образом. В первой главе содержится обзор исследований эмоций в философии, психологии, когнитивных науках -описываются теоретические подходы к моделированию эмоций и концептуализации феномена эмоций. Во второй главе обсуждается соотношение эмоций с другими когнитивными процессами, в частности, соотношение эмоций и мышления, эмоций и языковой деятельности, а также роль эмоций в когнитивной архитектуре в целом. В третьей главе обсуждаются теоретические основания вычислительного моделирования эмоций, методологические перспективы моделирования эмоций, включая обсуждение базовых аффективных процессов (генерация эмоций и эффекты эмоций), а также необходимых вычислительных задач, которые должны быть определены для реализации этих процессов. Кроме того, в третьей главе описывается система шагов и проводится анализ аффективных требований, необходимых для разработки вычислительных моделей эмоций.

ГЛАВА 1 ОСНОВНЫЕ ТРАКТОВКИ ЭМОЦИЙ В ФИЛОСОФИИ, ПСИХОЛОГИИ И КОГНИТИВНЫХ НАУКАХ

1.1 Понимание эмоций в философии и современной психологии

Эмоции как объект изучения существуют практически столько же времени, сколько существует человек как объект изучения философии. Для достижения цели и задач исследования важно сделать беглый исторический обзор взглядов на эмоции в рамках гуманитарных наук - современной постмодернистской философии, психологии и когнитивной науки в целом.

Отношение к эмоциям менялось по мере развития философии - в классической и новоевропейской философии господствовала идея «примата разума» над чувствами и телесностью в целом, эмоции и аффективная жизнь описывались как низкоранговые феномены относительно когнитивных процессов или как «помехи». В современной (постмодернистской) философии внимание, в противоположность, акцентируется на телесности и чувственности, которые ценятся выше разума и мышления.

М. Г. Ярошевский отмечает, что, начиная с античности, в философии господствовала идея «примата разума». 6 «В рамках стоицизма аффекты понимались как «порча разума» или болезнь, от которой необходимо «вылечить», поскольку только разум, очищенный от аффектов, способен эффективно управлять поведением. Однако, можно отметить существовавшую противоречивость в идеях философов, которая была связана с представлениями о негативной роли эмоций в мышлении. Например, в рассуждениях Сократа о художественном творчестве, можно увидеть представления о его божественном происхождении».7 А также заметить, что в некоторых диалогах появляется описание особого вида «истинных, чистых удовольствий», являющихся «родственниками Разумения и Ума» и возникающих во время интеллектуальных занятий или от наблюдения за прекрасным.8 Впервые был выделен отдельный вид эмоциональных феноменов

6 Ярошевский,

7 Смелова,

8 Платон, 1970; Платон,

«умственные наслаждения», выделявшиеся характером проявлений и особой ролью в процессе познания, для которых триггером выступала сама познавательная деятельность.

Рене Декарт выделял в эмоциональных процессах (страстях) две стороны -духовную и телесную.9 Проблема управления эмоциями также рассматривается им с двух сторон. Например, при испуге может возникнуть реакция бегства, для которой нужно задействовать только моторные функции (телесные), при этом «помощь» духовной стороны души не потребуется. Но другие реакции на пугающий стимул и последующее поведение могут возникнуть под влиянием именно духовной стороны, например, человек может остановиться и замереть, хотя ему страшно. Декарт использует аналогию с машиной, чтобы описать основополагающий механизм управления человеческим поведением. Душа воздействует на тело посредством «животных духов». Но даже люди с «сильной душой» не всегда способны преодолеть влияние эмоциональных процессов, и в таком случае становится заметна роль интеллекта. Согласно Декарту, страсти можно обуздать рациональным путем. Для этого нужно понимать объективную ситуацию (приближаться к истинному знанию) и предвидеть «возможные последствия того или иного поведения (например, бегства от опасности). Таким образом, утверждается, что мышление не всегда управляет эмоциями» 10, а интеллект рассматривается как более высокоуровневая категория чем эмоциональные процессы, которые характеризуются обособленными механизмами управления.

Спиноза разработал учение об аффектах, в котором провел анализ происхождения и природы аффектов. 11 Основное внимание уделено «роли и могуществе человеческого разума в борьбе с аффектами. Спиноза полемизирует с идеями стоиков о возможностях контроля и управления аффектами. Бессилие и

9 Декарт,

10 Смелова,

11 Спиноза,

ограниченность возможностей человека в этой борьбе он называет рабством»12, поскольку эмоции оказываются могущественнее когнитивных процессов. Согласно Спинозе аффекты могут приносить и пользу, увеличивая способности тела, что соответствует современным исследованиям о роли эмоциональных процессов. Однако Спиноза остается на позиции примата разума, так как победа разума над аффектами ведет к человеческой свободе.

Рассматривая эволюцию западной философии, можно сделать вывод, что, по мнению исследователей, когнитивные процессы, включенные в мышление и его отдельные составляющие - аргументацию, принятие решений, должны управляться некоторыми «идеальными» и не подверженными влияниям механизмами. 13 Если человек способен использовать «правильный язык», очищенный от эмоциональных влияний, и будет следовать логическим правилам, тогда он способен постичь истину, которая проявится в своей универсальной форме. С этой точки зрения, содержание мысли не является переживанием, но является внутренней основой для «идеальных» идей и символов. В основе философии до постмодернистского периода лежал такой принцип: существует оптимальный процесс рассуждения и когнитивной оценки, который должен сопровождать любую ситуацию.

Но поверхностный анализ реальных дебатов в философских кругах на протяжении истории показывает совершенно другую картину: идеалисты-дедуктивисты представляют в своих работах deux ex machine или мифы (например, множество предложенных Платоном не-фальсифицируемых мифов), индуктивисты предлагают множество универсальных утверждений без подтверждения, абдуктивисты выступают с другими противоположными стратегиями, рационалисты обращаются к сверхъестественным силам для того, чтобы поддержать принципы тождества (как принцип тождества «А=А», который вынудил Декарта искать отправную точку для рассуждения, пока он не осознал, что только злой демон может сподвигнуть человека ошибаться насчет этого

12 Смелова,

13 Russel,

утверждения, и поэтому только Бог может поддержать этот принцип, что в итоге приводит к утверждению, что в основе рационалистической философии появляется сверхъестественная сущность для подтверждения основы суждения), и так далее. Можно найти огромный список сильных расхождений по поводу методов хорошего рассуждения и о корректности уже используемых аргументов и

"

истинности знаний/

Лингвисты 19 века (а также логики, философы, антропологи) полагали, что наивысшая логическая точность позволит им открыть новую эру ясности и понимания.16 17 Но как только была создана формальная логика, появившиеся проблемы и неожиданные парадоксы вынудили ученых создавать новые логики.18 Несмотря на эту неудачу в области идеальной аргументации, новые исследовательские области соответствовали стремлению отразить человеческое рассуждение механистически, пойдя по пути создания искусственного интеллекта. В первых работах исследователи определяли когнитивную область как символическую и включающую взаимодействие сверху-вниз (top-down). 19 Несколько десятилетий спустя и, несмотря на несколько удивительных открытий, этот подход не справился с решением задач по представлению некоторых биологических процессов, например, зрения, а также большого списка сенсомоторных процессов (схватывание, ходьба, манипулирование предметом, принятие решения в реальном времени в сложной среде и т.д.). Мультимодальность большинства когнитивных процессов, а также неэффективность использования чисто вычислительных моделей породили ряд неразрешимых на тот момент проблем.

Революция в понимании телесности привела к появлению возможностей использовать ее в робототехнике и когнитивных науках, в связи с чем в 1980-х годах учеными был предложен «восходящий» подход (bottom up) к созданию

14Bywater,

15 Scholus,

16 MacFarlane,

17 Burge,

18 Kyburg,

19 Simon,

искусственного интеллекта, который понимался как некоторый процесс, сопровождаемый биологическими телесными процессами.20 Новые идеи о не символическом интеллекте, роевом интеллекте (swarm), воплощенном познании (embodied cognition), морфологическом познании (morphological cognition), обоснованном познании (grounded cognition), предписанном познании (attributed

cognition) и энактивном познании (enactive or extended cognition) являются лишь

21

частью из множества различных вариантов, представленных в настоящий момент.

Можно заключить, что в существующее когнитивное уравнение телесность была добавлена прагматичными подходами, ориентированными на практику и вдохновленными биологическими природными стратегиями живых существ. Эти стратегии показывают, что природа часто оперирует приближенными значениям.22 Поэтому исследователям необходимо отказаться от идеи «точных» подходов и перейти к созданию подходов, включающих в себя все те процессы и феномены, которые ранее отбрасывались как «помехи» восприятия и мышления, прежде всего, это касается эмоций.

Прежде чем перейти к рассмотрению подходов, учитывающих роль эмоций при построении архитектуры искусственных агентов, необходимо рассмотреть, как эмоции понимаются в последние десятилетия психологами и когнитивными учеными.

Несмотря на цели конкретного исследования, для разработчика аффективных архитектур или исследователя-теоретика важно быть знакомым с литературой по исследованию эмоций в психологии. Этот источник данных предоставляет определения и терминологию, теории и концептуальные модели, а также огромное число экспериментальных данных. Знакомство с этим теориями, моделями и данными критически важно для создания аффективных вычислительных моделей и для процессов идентификации эмоций машинами и генерации аффективных выражений агентами и роботами. Это важно для прикладных моделей, чья цель -улучшить взаимодействие между человеком и машиной или контролировать

20 Brooks, 1990; Brooks, 1991; Pfeifer, Bongard and Grand,

21 Barsalou, Simmons, Barbey and Wilson, 2003; Hutchins, 1995; Casacuberta, 2010; Bartneck,

22 Fauconnier, Turner, 2002; Fauconnier, Turner,

поведение искусственных агентов или роботов. Но еще более критично для исследовательских моделей, целью которых является освещение природы эмоций и механизмов аффективных процессов и феноменов. Знание существующих данных и теорий также предоставляет основу для оценки и валидации цифровых моделей. Кроме того, знакомство с исследованиями эмоций в психологии способствует междисциплинарному взаимодействию для продолжающегося прогресса в исследовании цифровых эмоций и исследований эмоций в целом. Далее представлен обзор подходов к исследованию эмоций в психологии и их связь с моделированием цифровых эмоций. Что такое эмоции?

Если проанализировать, каким образом даются определения понятию «эмоция», можно отметить, что большинство определений содержат описания характеристик, ролей или функций эмоций. Этот интересный факт показывает, что понимание комплексного феномена эмоций фактически отсутствует, поэтому исследователям приходится описывать эмоции с помощью их характеристик, а не обращаться к их природе.

Следствием такого подхода к определению эмоций является существование множества расплывчатых определений эмоций, которые рассматриваются как «состояния, отражающие ценностные сужения об окружающем мире, себе и других социальных агентах в соответствии с целями и убеждениями организма, мотивирующие и направляющие приспособительное поведение».23 Отметим, что термины «цели» и «убеждения» использованы в общем смысле: цели отражают желаемые состояния, а убеждения отражают текущие знания. Кроме того, понятие «цель» в этом определении включает в себя любые представления о желаемых состояниях: сознательные и неосознаваемые, эксплицитные или имплицитные, врожденные или выученные цели. Систематика аффективных состояний и черт

Как уже было указано, понятие «эмоция» само по себе сложно для определения. Можно выделить два основных подхода к пониманию эмоций.

23 НиШкка, 2008Ь

Некоторые исследователи полагают, что эмоции следует понимать в общем культурно-психологическом смысле. Это означает, что эмоции - феномен, который разделяется всеми носителями одной культуры и включает в себя много видов аффективных состояний. Согласно второму подходу термин «эмоция» имеет специфическое значение в научной литературе по исследованию эмоций, где эмоции понимаются как некоторые состояния, обладающие временными «характеристиками (длящиеся секунды или минуты); обычно связанные с определенными пусковыми событиями (триггерами); обладающие характерными паттернами выражений и поведения. Хотя такое определение эмоций больше подходит для простых, базовых эмоций, нежели для комплексных» эмоций

Систематизация эмоций обычно опирается на дихотомию базовые/комплексные, поэтому обычно эмоции делятся на базовые эмоции25 (также упоминаются как фундаментальные) и за неимением лучшего слова на «не базовые» или сложные комплексные эмоции. Неэлегантные термины «не базовый» и «комплексный» отражают сложности классификации этих эмоций с помощью единого описательного термина. Набор не базовых эмоций включает в себя важные социальные (также определяемые как эмоции самоотношения) эмоции, такие как гордость, стыд и вина, но также и все другие комплексные эмоции, включая любовь, эмпатию, спицифичные для отдельных языков описания состояний (например, немецкое понятие БЬаёегЁгеиёе), унижение, презрение и многие другие.

Эта категоризация отражает различия в степени когнитивной сложности, связанной со специфическими эмоциями, универсальности пусковых стимулов-триггеров и поведенческом выражении (манифестации эмоций), а также в уровне требуемой репрезентации личности от агентов внутри социальной среды. Хотя эта категоризация не является повсеместно принятой в практике исследований эмоций 26 , тем не менее она полезна для эмоционального моделирования и применима для дальнейшего обсуждения.

24 Hudlicka, 2008b

25Ekman, 1992; Izard, 1977; Panskepp, 1998; Plutchik,

26 Ortony & Turner, 1990, Ekman & Davidson,

Эмоции могут быть противопоставлены другим понятиям, описывающим аффективные феномены: настроениям, совпадающим с эмоциям по многим характеристикам, но длящимся дольше (часы или месяцы), и имеющим менее определенные выражения и триггеры; аффектам, недифференцированным негативным и позитивным состояниям, связанным с общими поведенческими тенденциями (сближение, отдаление); и чувствам, неким сложно определяемым и имеющим слабую перспективу в рамках моделирования конструктам. «Чувства не являются ни необходимыми, ни достаточными состояниями для пребывания в эмоциональном состоянии».27 «В качестве компонентов темпоральной (временной) аффективной активности можно выделить несколько аффективных феноменов -эмоции, настроения, аффекты, чувства. Некоторые модели эмоций также содержат стабильные аффективные черты личности (экстраверсия, нейротизм и т.д.) или разнообразные «смешанные» когнитивно-аффективные душевные состояния, например, аттитюды». 28 Схема №1 иллюстрирует систематику аффективных состояний и черт, описанных выше.

г \

Комплексы ые эмоции ч_

Г-\

Базовые эмоции ч_/

Схема №1. Систематика аффективных состояний и черт

27 АуегШ,

28 НисШска, 2008Ь

Мультимодальная природа эмоций

Ключевой характеристикой эмоций является их мультимодальность. Эмоции у биологических агентов выражаются с использованием четырех различных, взаимодействующих между собой модальностей. Наиболее заметной и поэтому достаточно исследованной является поведенческая модальность, которая содержит экспрессивные и ориентированные на действия характеристики, такие, как выражения лица, речь, жесты, поза. С ней тесно связана физиологическая модальность - нейропсихологический субстрат, лежащий в основе поведения и когнитивных процессов (например, частота сердечных сокращений, нейроэндокринные показатели, кровяное давление). Когнитивная модальность является основой современных когнитивно-оценочных теорий возникновения эмоций. Наиболее сложной для моделирования является эмпирическая/субъективная модальность - сознательное и по существу специфически индивидуальное переживание эмоций

В современных моделях эмоций основной акцент сделан на поведенческой и когнитивной модальностях, но важно помнить, что «физиологическая и

30

эмпирическая модальности также играют критически важные роли» , о чем писал еще Изард.

Таблица №1 содержит примеры мультимодальных описаний двух «базовых» эмоций: страха и злости.

Таблица №1. Примеры мультимодальных описаний эмоций

Введение диссертации (часть автореферата) на тему «Методологические основания моделирования эмоций в архитектуре искусственного интеллекта»

Злость

Триггер (ы) Прогресс относительно целей скрыт, обычно эмоция вызвана другим агентом

Когнитивные смещения Сильное влияние на фокусировку и избирательность внимания Приписывание враждебности другим агентам Переоценка своих шансов на успех

29 НиШкка, 2008Ь

30 ^аМ, 1993

Тенденция пробовать альтернативные стратегии Сниженное восприятие риска и возрастание толерантности к риску

Физиологическ ие корреляты Общая задача: мобилизация и поддержание высокого уровня энергии, требуемого для возможной агрессии

Корреляты в вегетативной нервной системе Более сильное сердцебиение (относительно состояния счастья) Сильное возрастание температуры пальцев (относительно страха) Более высокое давление в диастоле (относительно страха) Лучшая периферическая устойчивость (относительно страха) Усиление скорости сердцебиения (относительно отвращения)31

Лицевые выражения Опускающиеся брови; поднимающиеся веки; втягивание и смыкание губ

Особенности речи Высокий темп; большая интенсивность голоса; высокие частоты, широкий диапазон частот; резкие изменения высоты тона

Поведенческие особенности Агрессивные тенденции, активное желание (рвение) предпринимать действия

Страх

Триггер (ы) Переживание чувство опасности за важные для себя или другие отстаиваемые цели

Когнитивные смещения Туннельное зрение (сужение фокусировки на источнике опасности) Фокус внимания и интерпретации сосредоточен на опасности Более быстрое опознание опасного стимула Интерпретация двусмысленного стимула как опасного

Физиологическ ие корреляты Мобилизация уровня энергии для подготовки к действиям; энергетический «пик»

Корреляты в вегетативной Более сильное сердцебиение (относительно счастья)

31 Ьеуешои, 1992

нервной системе Усиление проводимости кожи (относительно счастья) Снижение диастолического давления (относительно злости) Сниженная температура пальцев

Лицевые выражения Приподнятые брови и веки (глаза широко открыты); губы растянуты и сжаты

Особенности речи Более быстрый темп, высокая частотность, широкий диапазон частот; средняя интенсивность

Цели Самозащита, защита в целом

Поведенческие особенности Полет и избегание; защитное поведение; Низкая интенсивность (тормозящее поведение, замирание), высокая интенсивность (бегство)32

В чем заключается роль эмоций?

Эмоции имеют важное значение для биологических агентов - они помогают регулировать гомеостаз, репродуктивное поведение и обеспечивают выживание, а также в целом делают возможным адаптивное поведение в сложном и изменяющемся окружении, включая социальное поведение. Функции эмоций могут быть разделены на две большие группы - интрапсихические и интерперсональные. Интерперсональные эмоции служат для обеспечения социальной координации, быстрой коммуникации и выражения поведенческих намерений. Для этого эмоции могут быть представлены через лицевые выражения, речь (ее содержание и особенности), позы и жесты, а также с помощью специфических действий или поведения. Интрапсихические эмоции необходимы для обеспечения мотивации, гомеостаза и адаптивного поведения. Для этих целей они могут быть представлены с помощью системы глобального прерывания/ограничения функционирования, управления целями, подготовки координированных действий, оценочной генерации эмоций и эффектами эмоций (процессуальными смещениями). Ниже обе эти группы будут рассмотрены

32 Рашкерр, 1998

подробнее. В Таблице .№2 собраны все основные функции эмоций из этих больших групп.

Согласно наиболее популярной и принятой в настоящее время точке зрения эволюционное, первостепенное назначение эмоций - обеспечивать выживание путем быстрого определения критически важных для выживания стимулов в окружающей среде, а также с помощью подготовки организма к координированному выполнению необходимых поведенческих актов.33 Однако мы знаем, что эмоции могут стать совершенно дезадаптивными и даже опасными, как в случае индивидуального их переживания, так и в ситуациях выражения эмоций, направленных на других агентов в социальном окружении. Дезадаптивная и патологическая природа эмоций стала объектом внимания исследователей совсем недавно. Так или иначе, основной акцент в аффективном моделировании, в первую очередь, делается на адаптивной роли эмоций, хотя созданы некоторое модели, которые пытаются определить механизмы дезадаптивного аффективного

34

процессинга; например, механизмы, лежащие в основе тревожных расстройств.

Таблица №2. Обзор интрапсихичсеких и интерпсихических функций эмоций

Интрапсихические функции

• Быстрое опознание и обработка заметных стимулов (например, избегание опасности,

получение еды)

• Захват (установление триггеров), подготовка и выполнение фиксированных поведенческих

паттернов, необходимых для выживания (например, борьба, замирание, бегство)

• Быстрое перемещение и мобилизация ресурсов

• Координация сложных систем (перцептивных, когнитивных, физиологических)

• Воплощение системных смещений в протекающих процессах для каждого отдельного

направления (например, опознание опасности, самооценка)

• Нарушение текущей активности и изменение приоритетных целей

• Мотивация поведения с помощью механизмов награды/наказания

33 Ekman & Davidson, 1994; Frijda, 2008; Plutchik, 1984

34 Hudlicka, 2008a

• Мотивация обучения (любопытство/скука)

Интерперсональные функции

• Выражение внутренних состояний с помощью невербальных выражений и поведенческих

тенденций (например, улыбка/хмурое выражение, приглашающие или угрожающие позы и жесты)

• Выражение информации о статусе внутри социальной группы (доминантность и

подчиненность)

• Сопровождение привязанности

• Коммуникативное подтверждение неверных действий (вина, стыд) в попытке восстановить

отношения и уменьшить возможную агрессию

Исследования эмоций в психологии

Активный исследовательский интерес к проблеме феноменологии эмоций появился после работ Дарвина, который обратил внимание на то, что эмоции сопровождаются физиологическими проявлениями, например, появлением румянца на щеках. Он детально описал особенности этих эмоций в своей работе «Выражение эмоций у человека и животных». Однако вскоре выяснилось, что одинаковые физиологические признаки могут сопровождать совершенно разные эмоции - румянец характерен при стыде, вине, смущении, возбуждении. Возникла проблема выделения критериев отличия эмоций. Дарвин не отрицал наличия когнитивного компонента в формировании даже базовых эмоций, например, мыслей о мнении окружающих людей, которые вызывают смущение, но он не рассматривал объем используемых когнитивных процессов как способ дифференциации разных эмоций самоотношения.35

Джеймс в своей концепции эмоций также утверждал, что каждое событие должно сопровождаться различными телесными проявлениями, а их осознание человеком и есть эмоция. Поскольку мы сознаем различные эмоции, то можно было предположить, что их должны сопровождать различные телесные проявления.36

35 Дарвин, 2001

36 Джеймс, 2003

После этого ряд исследователей провели эксперименты, результаты которых оказались неутешительными, так как снова возникла проблема выделения критериев отличия эмоций, поскольку их сопровождали одинаковые телесные проявления.

В связи с этим ряд исследователей пришли к выводу о необходимости выделения когнитивных факторов как детерминант эмоциональных состояний. Возникло предположение, что человек интерпретирует свое эмоциональное состояние, опираясь на характеристики ситуации и физиологические составляющие. Оба эти фактора являются необходимыми, причем физиологическое возбуждение не является достаточным для возникновения эмоций, что было показано в экспериментах Мараньона, Кантрила и Ханта.37 Исследования показали, что эмоция возникает в ситуации, когда человек не может найти удовлетворительного объяснения своему физиологическому возбуждению и поэтому обращается к ситуации, как доступному для познания явлению. Шахтер и Зингер провели экспериментальные исследования и обосновали двухфакторную теорию эмоций, которая выдвигает предположение о том, что для возникновения эмоции имеет значение субъективная интерпретация ситуации и степень физиологического возбуждения.38 Однако идея о том, что когнитивные процессы могут порождать эмоции плохо принимается теми, кто убежден, что такой подход подразумевает реальный статус когнитивных процессов, в то время как эмоции объявляются эпифеноменами, не имеющими физического выражения.39

Кроме того, начиная с самых первых исследований эмоций, возникла проблема определения количества факторов, достаточных для выделения сходств и различий в переживании разных эмоций. Осгудом было выделено три критерия различения эмоций — факторы активности, силы и приятности.40 В большинстве современных исследований авторы придерживаются двухмерных моделей, эти исследования выполнены в практическом русле и часто не подкреплены теорией.

37 Lewis, 2008

38 8Иас^ег, Б^ег, 1962

39 Latane, БсЬасЙег, 1962

40 Osgood, Мау, Мтоп, 1975

В них уровень проявления эмоций связывается с восприятием сходства выражений лица и стандартных выражений эмоций или с индивидуальными особенностями описания переживаний.

Однако в статье «Мир эмоций не двухмерен» Фонтейн, Шерер и коллеги определяют эмоции как состоящую из различно связанных частей активность, включающую набор из шести компонентов:

1. оценка событий;

2. психофизиологические изменения (телесные ощущения);

3. двигательные выражения (мимика, голосовые особенности, жестикуляция);

4. направления действий (тенденции, склонности к действиям);

5. субъективные переживания (чувства);

6. эмоциональная регуляция.

Исследование было проведено на респондентах, говорящих на трех индоевропейских языках, и включало анализ 24 эмоций. Для сокращения семантического пространства был использован метод анализа главных компонент, в результате которого было получено четырехкомпонентное пространство. Три из выделенных факторов повторяют найденные Осгудом, а четвертый является новым — это фактор непредсказуемости. Этот фактор характеризуется оценкой новизны и непредсказуемости (сюда относится такое поведение, как резкое поднятие бровей, неожиданные возгласы или внезапное удивление в виде опускания челюсти) по сравнению с оценкой знакомых и ожидаемых проявлений эмоций. Очевидно, что удивление отличается от всех других эмоций по этому фактору.41 Данное исследование не показало различий в структуре эмоций, что неудивительно, так как респонденты говорят на языках из одной группы и их культуры очень близки.

В целом, говоря о кросс-культурных различиях в когнитивной структуре эмоций, нужно различать три аспекта:

• лингвистический (разница в определениях эмоций,

41 РоШаЬе ег а1., 2007

используемых понятиях);

• репрезентативный или когнитивный (представления о компонентах эмоциональных процессов и состояний с точки зрения когнитивных сходств и различий в определениях эмоций);

• психический или процессуальный (сами по себе эмоциональные процессы и состояния).

Преодоление лингвистического барьера возможно при использовании двойного перевода и привлечении профессиональных лингвистов, однако не существует ни практических, ни теоретических доказательств, что вся область эмоций в полной мере отражается в когнитивной структуре. Люди склонны разделять эмоциональные состояния как таковые, склонность к действиям в определенной ситуации и социальные нормы, предписывающие вести себя каким-либо образом. Это и позволяет предположить, что различия в проявлениях эмоций могут быть связаны с культурно обусловленными когнитивными процессами, связанными с этими эмоциями.

Фонтейн определяет когнитивную структуру эмоций (внутри культурной группы) как когнитивную репрезентацию различий и сходств в определениях эмоций. 42 Поскольку словарь каждого языка ограничен, возможно получить описание взаимосвязи эмоций. Кроме того, поскольку эмоциональные процессы и их составляющие считаются сходными внутри одной культуры, они закодированы в определениях (терминах) и позволяют оценить культурно-специфические представления об эмоциях. Также было установлено, что когнитивные процессы, связанные с эмоциями, напоминают характеристики эмоциональных процессов: выявлена тесная связь между корреляционной структурой текущих аффектов и воспринимаемым сходством между эмоциями (понятиями).

Позже возникли когнитивно-аффективные теории, опирающиеся на психологию личности. В одной из таких теорий успехи или неудачи индивида во взаимодействии и выполнении правил, ценностей и целей сравниваются с

42 БИауег et а1., 1987

сигналами для Я, которые отражаются в процессах рефлексии. Рост рефлексии вызывает усиление самоатрибуции и специфические эмоции, которые сопровождают разные типы атрибутивных процессов.43

Такой подход имеет три важных преимущества:

• не содержит в себе попыток выявить, что определяет успех или неудачу и самооценку поведения индивидом;

• не определяет частные нормы, ценности и цели;

• утверждает, что самоатрибуции, приводящие к определенным эмоциям, являются внутренними событиями, которые свойственны личности как таковой, а не выучены извне, как комплекс норм, ценностей и целей.

Хотя эта модель основана на феноменологической и когнитивно-атрибутивной модели, эмоции не являются чистым эпифеноменом, поэтому заслуживают более «низкого» статуса, нежели когнитивные процессы сами по себе. Когнитивные процессы, связанные с эмоциями, могут служить для них триггерами, как и другая стимуляция, например, громкие шумы, социальное поведение других людей, внезапные события, то есть определенные эмоции могут быть вызваны набором атрибуций, но эмоции повлиять на когнитивные процессы не могут.

Как уже указано выше, Льюис выдвинул теорию, которая предполагает равный статус когнитивных процессов и эмоций, то есть как когнитивные процессы могут выступать триггерами для эмоций, так и эмоции могут приводить к возникновению или изменению когнитивных процессов. Льюис построил структурную модель оценочных эмоций самоотношения, в которую входят такие компоненты как Стандарты и правила, Ценности, Атрибуция Я, а также рассматриваются эмоции вины, стыда, гордости и высокомерия.

43 Lewis, 2008

Структурная модель выявления оценочных эмоций самоотношения Льюиса

А. Стандарты и правила Б. Ценность

Успех Неудача С. Атрибуция Я

Высокомерие Стыд Глобальная

Гордость Вина/Сожаление Специфическая

А, Б и С - когнитивные процессы, служащие стимуляцией для возникновения эмоций самоотношения.

Таким образом, выделяя 3 типа активностей - определенные ценности, нормы и цели; ценность успеха/неуспеха в соответствии с ними; атрибуция своего поведения в двух аспектах - ответственность (внутренняя/внешняя) и фокус на Я (глобальная/специфическая), - можно увидеть, как они влияют на эмоциональное состояние. Эта модель позволяет представить когнитивно-оценочный процесс внутри организма, который выявляет/проявляет эмоции самоотношения. Процесс распознавания эмоций протекает путем перцептивной категоризации, которая осуществляется через сличение набора стимулов, поступивших в организм извне/изнутри, с набором прототипов эмоций. Набор прототипов постоянно хранится в памяти индивида, а также дополняется и изменяется из-за накопления опыта и знаний. Сличение может происходить непосредственно в том случае, если стимуляция поступает извне, а в том случае, если стимуляция поступает изнутри, например, при воспоминаниях о неприятных ситуациях, требуется сначала провести реконструкцию ситуации и всей стимуляции, сопровождавшей ее на тот момент, а только затем определить вид эмоции. К факторам, которые определяют набор характеристик для идентификации эмоции, можно отнести индивидуальный опыт и особенности культуры. Данная модель позволяет выявить различия между четырьмя эмоциональными состояниями - стыдом, виной, гордостью и высокомерием.

А. Стандарты, правила и цели. У всех людей есть представления о том, как правильно думать, делать и чувствовать что-либо в соответствии со стандартами, правилами и целями (СПЦ). Этот комплекс представлений определяет ту информацию, который каждый из нас приобретает в процессе социализации.

Ценности, нормы и правила различны в разных культурах, группах и у людей разных возрастов. Стандарты культуры разнообразны и комплексны, но каждый человек знает хотя бы некоторые из них. Кроме того, каждый из нас имеет уникальный их набор. Для вхождения в какую-либо группу нам необходимо овладевать этими правилами, и надо заметить, что нельзя себе представить группу, в которой бы отсутствовали правила, ценности и цели.

Б. Ценность. Оценивание поведения, мыслей и чувств является вторым процессом, запускающим эмоции самоотношения. В этом процессе можно выделить два главных аспекта. Во-первых, для построения модели, описывающей процесс извлечения эмоций, необходимо противопоставления внутренней оценки отсутствию оценки или внешней оценке. Индивиды отличаются в характеристиках ценностных ответов. Более того, ситуации различаются по вероятности появления определенного ценностного ответа. Во-вторых, необходимо учитывать, как индивиды определяют успех или неудачу в соотношении с определенными стандартами.

С. Ответственность. Впервые проблема ответственности за свое поведение появилась в исследованиях атрибутивных процессов. Одной из особенностей людей является совершение фундаментальной ошибки атрибуции, выражающейся в склонности людей объяснять причины поведения других людей особенностями их личности, а причины собственного поведения искать в ситуационных факторах.44 ФОА часто проявляется при нарушении норм и предписаний.45

Самоатрибуция. Другое разделение атрибуции можно провести по линии отношений к собственному Я - глобальная или специфическая. Глобальная атрибуция связана со склонностью к оценке личности в целом. Люди, использующие эту атрибуцию, описывают свое поведение через фразы вроде «Поскольку это Я сделал что-либо, Я плохой/хороший».

44 Андреева, 2004

45 Майерс, 2012

Такое понимание атрибутивных процессов согласуется с теорией социальной атрибуции, разработанной Хьюстоном и Яспарсом. Опираясь на Андрееву, можно выделить ряд преимуществ теории социальной атрибуции:

1. Атрибуция касается объяснений причин и результатов поведения людей и учитывает окружение, в котором живут люди.

2. Основой атрибуции является социальная категоризация (как субъекта, так и объекта атрибутивного процесса).

3. Воспринимающий субъект поддерживает «положительный образ своей группы, что достигается применением такой стратегии, когда успех своей группы и неуспех чужой группы объясняются внутренними причинами, а неуспех своей

46

группы и успех чужой группы — внешними причинами».

В настоящее время существует еще один подход, описывающий взаимоотношения эмоций и когнитивных процессов - теория воплощенного познания или embodied cognition, наиболее подходящая на взгляд автора для создания искусственного интеллекта, обладающего эмоциональной системой.

На сегодняшний день наиболее перспективными представляются исследования в рамках сочетания двух подходов: теории воплощенного познания и когнитивно-аффективных теорий. Обе эти теории существуют в междисциплинарном поле, но все же больше приближены к когнитивным наукам, поэтому их рассмотрение целесообразно поместить именно в раздел, освещающий основные концепции эмоций в когнитивных науках.

1.2 Основные концепции эмоций в когнитивных науках

Эмоции давно являются одной из важных тем исследований в рамках когнитивных наук. Представления об эмоциях прошли путь от постулирования эмоций как низко статусных феноменов по сравнению с когнитивными процессами до «подъема» статуса эмоций и даже утверждений о превосходстве эмоций над познавательными процессами.

46 Андреева, 2004

1.2.1 Концепция «небрежных когниций»

Как понятие-интегратор идей о природном, креативном, мультиэвристичном и «неточном» понимании процесса обработки информации, можно представить теорию «небрежной» когнитивно-аффективной сферы. Большинство современных и исторических подходов в эпистемологии, познании или когнитивной науке привычно умеет различать для себя правильные и неправильные способы обращения с семантической информацией. За пределами существования очевидных ошибок и заблуждений, кажется логичным утверждать, что некоторые когнитивные стратегии превосходят другие. Но согласно эмпирическим данным, люди склонны действовать «иррационально». 47 Возьмем в качестве примера покупателей, находящихся в процессе экономического выбора, или хорошо описанные этические дилеммы (дилемма вагонетки и прочие), или все

48

лингвистические парадоксы, относящиеся к процессу принятия решений.

Человеческие когнитивные процессы, понимаемые как результат некоторых культурно-обусловленных влияний, имеют биологические корни, которые усиливают и «выпячивают» неточные или противоположные эвристики,

49

соответствующие окружающим условиям.

Рассматривая повседневный процесс принятия решения у людей, можно отметить смешение методов для каждого отдельного случая, а также множество направляемых интуицией и эмоциями действий, которые нельзя отнести непосредственно к принятию решений. Люди склонны смешивать и соединять несколько видов эвристик, сознательно или бессознательно, на символическом и сенсомоторном уровнях. Это смешение может быть параллельным или последовательным, или одновременно и таким, и таким (что похоже на механизмы работы человеческой памяти, внимания и других высших психических функций). Используется огромный набор методов и техник для того, чтобы принять решение и выбрать конкретные действия из широкого пула возможных. Это можно считать

47 Gigerenzer, 2004; Ро11оск, 2008

48 Costa, Роисай, 2014

49 Hertwig, Herzog, 2009; Gigerenzer, Hertwig, Patchur, 2015; Gigerenzer,2008

интегрированной мультиэвристической активностью, которая протекает на разных уровнях.50

Особенной ролью в принятии решений обладают эмоции, как один из триггеров, а также как медиатор процесса. Долгое время эмоции элиминировались из процесса мыслительной деятельности как деструктивные элементы, мешающие и отвлекающие от рациональной работы. Но именно присутствие эмоций позволяет обеспечивать мультиэвристическую активность и определяет смешанную природу когнитивной сферы.

Одним из первых в отечественной науке о положительной роли эмоций в мышлении писал Тихомиров, создавший научную школу по исследованию мышления и проведший ряд экспериментов, подтверждающих тезис о важной роли эмоций в мышлении. 51 Тихомировым был выделен отдельный ряд эмоций, названный им «интеллектуальными эмоциями». Это предвосхищающие и эвристические эмоции, выполняющие сигнальную функцию оповещения о появлении смысловых новообразований в мыслительной деятельности, а также интегративную функцию по отношению к ним. Эксперименты показали, что «существует такой феномен как «эмоциональное решение», который связан с возникновением субъективного ощущения нахождения решения и сопровождается предвосхищающим сознательное решение изменением объективных показателей эмоциональной активации (КГР)».52 «Эмоциональное решение» возникает только тогда, когда решение задачи требует оформления идеи с помощью слов, что является сложной когнитивной задачей, задействующей смысловую сферу. При решении простых математических задач такой феномен не наблюдался. Также в школе Тихомирова был открыт феномен «эмоционального обнаружения проблемы», который является одним из механизмов саморазвития мышления. Стоит отметить, что именно этот феномен можно попробовать воплотить с помощью современных вычислительных моделей для обеспечения искусственных агентов (понимаемых здесь в рамках программы сильного искусственного

50 БшоссЫаго, 2005

51 Тихомиров, 1984

52 Бабаева и др., 2008

интеллекта) базой для развертывания самостоятельной мыслительной деятельности. Этот принцип можно применить как отправную точку для формирования самообучающейся системы, использующей принципы machine learning (для случаев разработки сильного искусственного интеллекта).

В настоящее время соотношение когнитивных процессов показывает, что сила и креативность человеческого мышления основана на комбинации различных эвристик. В то время как исторические подходы искали идеал, состоящий из избранного и уникального способа построения рассуждения, результаты исследований эволюционной психологии мышления, культурной антропологии, лингвистики, современной логики, компьютерных наук и робототехники, а также многих других областей, говорят о другом. Люди используют богатый и комбинируемый между собой пул эвристик и методов обработки информации для того, чтобы принимать решения и реагировать в условиях очень сложной окружающей среды.

Как уже отмечалось, классически эмоциям отводилась роль лишних элементов, и обычно они просто отбрасывались нейронаукой.53 С точки зрения функционализма, некоторые способы обращения с информацией (оптимизация размера и качества памяти, время принятие решения, число процессов, признанных релевантными) воплощены телесно и реализуются в случае совпадения с некоторыми переменными, набор которых формируется в зависимости от текущих условий. Само существование воображения, креативности и инноваций в способах обращения с информацией является естественной чертой человеческой психики. Рассуждение само по себе всегда культурно обусловлено и не может быть просто последовательным рассуждением, реализованным для обеспечения существования или объяснения смещения устоявшихся знаний/парадигмы. Происходящие изменения требуется принять во внимание при разработке новых правил рассуждения, перераспределении семантических ценностей и реализации альтернативных способов обращения с информацией, даже с точки зрения не

Список литературы диссертационного исследования кандидат наук Шиллер Александра Викторовна, 2019 год

БИБЛИОГРАФИЯ

1. Андреева Г. М. Психология социального познания. Учебное пособие. - М.: Аспект Пресс, 2004.

2. Бабаева Ю. Д. Смысловая теория мышления // Вестник Московского университета. Серия 14. Психология, № 2, стр. 26-58, 2008.

3. Бабаева Ю. Д. Эмоции и проблема классификации видов мышления / Ю. Д. Бабаева, И. А.Васильев, А. Е. Войскунский, О. К. Тихомиров // Вестник Московского университета. Психология. № 3. 1999.

4. Бажанов В.А. Современная культурная нейронаука и природа субъекта познания: логико-эпистемологические измерения // Epistemology & Philosophy of Science. №3 (45). 2015.

5. Бенедикт Р. Хризантема и меч. - М.:РОСПЭН, 2004.

6. Бергсон А. Собрание сочинений : в 4 т. : пер. с фр. / предисл. И. И. Блауберг.

- М. : Московский клуб. Т. 1. Опыт о непосредственных данных сознания. Материя и память. 325 с. 1992.

7. Бергсон А. Творческая эволюция: пер. с фр. - М. : КанонПресс ; Кучково поле. 384 с. 1998.

8. Блейлер Э. Аутистическое мышление. Аффективность, внушение, паранойя.

- М.: ИД Алеф-Пресс. 214 с. 2018.

9. Бостром Н., Искусственный интеллект. Этапы. Угрозы. Стратегии, ООО «Манн, Иванов и Фербер», 760 с. 2016.

10. Бреслав Г. М. Психология эмоций. - М.: Смысл: Издательский центр «Академия». 544 с. 2006.

11. Вежбицкая А. Семантические универсалии и описание языков. - М., 1999

12. Вежбицкая А. Понимание культур через посредство ключевых слов. - М.: Языки славянской культуры. 288 с. 2001a.

13. Вежбицкая А. Сопоставление культур через посредство лексики и прагматики. - М. 2001b.

14. Видгоф В.М. Целостная модель человеческой эмоциональности (опыт философской реконструкции) // Бюллетень оперативной научной информации / Томский государственный университет. №6 (август). 2001.

15. Вилюнас В.К. Психология эмоциональных явлений. - М. 1976.

16. Выготский Л.С. Собрание сочинений в 6 т. Т. 2. - М. 1982.

17. Горбунова М. Ю. Социальные функции эмоций // Научный журнал КубГАУ. №67(03). 2011.

18. Дарвин Ч. О выражении эмоций у человека и животных. - СПб.: Питер, 2001.

19. Де Вааль Ф. Истоки морали: в поисках человеческого у приматов. - М.: Альпина нон-фикшн. 376 с. 2015.

20. Декарт Р. Страсти души //Соч.: В 2 т. Т. 1. - М., 1989.

21. Деникин А. А. Телесно-ориентированный подход при анализе произведений экранного искусства // Знание. Понимание. Умение, Московский гуманитарный университет. №2. С.115-131. 2017.

22. Джеймс У. Научные основы психологии. - М. 2003.

23. Дильтей, В. Описательная психология / Перевод с немецкого Е. Д. Зайцевой под ред. Г. Г. Шпета. Второе издание. — СПб.: Алетейя. 160 с. 1996.

24. Ждан А.Н. История психологии. От античности к современности. - М., 1997.

25. Зайцев И. Д., Шиллер А. В. Теории понимания другого в проектах искусственного интеллекта // Искусственный интеллект: философия, методология, инновации. Сборник трудов Х Всероссийской конференции студентов, аспирантов и молодых учёных. Москва, МИРЭА, 27-28 апреля 2017 г. Под общей редакцией Е.А. Никитиной. — Т. 1. — М.: Московский технологический университет (МИРЭА). С. 31-36. 2017

26. Князева, Е. Н. Энактивизм: новая форма конструктивизма в эпистемологии. - СПб.: Центр гуманитарных инициатив. Университетская книга. 352 с. 2014.

27. Кон И. С. Моральное сознание личности и регулятивные механизмы культуры // Социальная психология личности/ Под ред. М. И. Бобневой, Е. В. Шороховой. - М.:Наука. С. 85-113. 1979.

28. Кудряшев А. Ф., Елхова О. И. Процесс творчества в системах с искусственным интеллектом // Вестник Башкирского университета. № 21(4). С.1124-1129. 2016.

29. Курцвейл Р. Transcend: девять шагов на пути к вечной жизни. - М.: ООО «Манн, Иванов и Фербер». 520 с. 2015.

30. Леонтьев А. Н. Мышление //Философская энциклопедия. Т. 3. - М. 1964.

31. Леонтьев А. Н. О некоторых перспективных проблемах советской психологии // Вопросы психологии № 6. 1967.

32. Леонтьев А.А., Леонтьев Д.А. Предисловие // Леонтьев А.Н. Философия психологии. - М. 1994.

33. Лотман Ю. М. О семиотике понятий «стыд» и «страх» в механизме культуры // Тезисы докладов VI Летней школы по вторичным моделирующим системам, 17-24 авг. 1970 г. Тарту. С. 98-101. 1970.

34. Майер Г. Психология эмоционального мышления / Г. Майер. - Москва // Психология мышления: хрестоматия / [и др.]; ред. Ю.Б. Гиппенрейтер, В.Ф. Спиридонов, М.В. Фаликман. Издание 2-е, переработанное и дополненное. -М.: АСТ: Астрель. С. 204-207. (Хрестоматия по психологии). 2008.

35. Майерс Д. Социальная психология. - СПб.: Питер. С. 70-78. 2012.

36. Матурана, У. Р., Варела, Ф. Х. Древо познания. Биологические корни человеческого понимания: пер. с англ. - М.:иЯ8Б. Изд. 2. 320 с. 2019.

37. Мерло-Понти М. Феноменология восприятия / пер. с фр. под ред. И. С. Вдовиной, С. Л. Фокина. - СПб.: Ювента. Наука. 608 с. 1999.

38. Новак Т. Германия разработала первый в мире этический кодекс для беспилотного транспорта. (https://apparat.cc/news/ethic/). 2017.

39. Платон. Ион //Собр. соч.: В 3 т. Т. 1. - М., 1970.

40. Платон. Филеб //Собр. соч.: В 3 т. Т. 3. - М., 1971.

41. Рассел Б. История западной философии [В 2 т.] Т.1 [Кн. 1,2] / Бертран Рассел; [пер. с англ.]. - М.: Изд-во АСТ. 768 с. - (Эксклюзивная классика). 2019.

42. Рассел С., Норвиг П. Искусственный интеллект. Современный подход. "AIMA" ("Artificial Intelligence: A Modern Approach"). - М.: Изд-во Вильямс. 1408 с. - 2019.

43. Савчук В. В. Метафора поворота в философии // Философские науки. №10. С.135-150. 2010.

44. Смелова В. Г. «В начале было чувство». Интегрированный урок о значении эмоций в жизни человека. Биология в школе - М. : Изд-во ООО «Школьная пресса», С. 40-45. 2006.

45. Спиноза Б. Этика. - М., Азбука. 352 с. 2012.

46. Стефаненко Т. Г. Энопсихология: Учебник для вузов — 4-е изд. М.: Аспект Пресс. 2009.

47. Тихомиров О. К. Психология мышления: Учебное пособие. - М.: Изд-во Московского университета. 272 с. 1984.

48. Триандис Г.К. Культура и социальное поведение. - М.: Форум. 2007.

49. Фрейд З. Три очерка по теории сексуальности. - М.:Изд-во ВосточноЕвропейский Институт Психоанализа. 2017.

50. Фромм Э. Бегство от свободы. - М.: АСТ: Астрель. 2017.

51. Хомский Н. Язык и мышление. - М. 1972.

52. Шиллер А. В. От теорий к моделям эмоций для искусственного интеллекта — основные методологические вопросы // Ценности и смыслы. Т. 4, № 56. С. 126-137. 2018.

53. Шлет Г. Г. Мысль и Слово. Избранные труды / Отв. ред.-составитель Т. Г. Щедрина. — М.: РОССПЭН. 688 с. 2005.

54. Эпштейн, М. Н., Тульчинский, Г. Л. Философия тела. Тело свободы. - СПб.: Алетейя. 432 с. 2006.

55. Эриксон Э. Г. Детство и общество. - СПб.: Летний сад. 2000.

56. Ярошевский М.Г. История психологии. - М. 1976.

57. Adolphs R. Recognizing emotion from facial expressions: psychological and neurological mechanisms // Behavioral and Cognitive Neuroscience Review. Vol. 1, p.21-62. 2002.

58. Anagnostopoulus C., Hadjiefhymiades S. Situational computing: an innovative architecture with imprecise reasoning // Journal of systematic Software. Vol. 80. №12. P.1993-2014. 2007

59. Anderson J. D. The Reality of Illusion: An Ecological Approach to Cognitive Film Theory. - Carbondale and Edwardsville: Southern Illinois University Press. 200 p. 1996.

60. Andre, E., Klesen, M., Gebhard, P., Allen, S., Rist, T. Exploiting Models of Personality and Emotions to Control the Behavior of Animated Interactive Agents // Proceedings of IWAI, Siena, Italy. 2000.

61. Antunes L. R. Neural Correlates of the Multisensory Film Experience // Neuroscience and Media: New Understandings and Representations / Grabowski, N. (ed.). New York, NY.; London: Routledge. P. 46-62. 2014.

62. Arnold M. B. Emotion and personality. - New York: Columbia University Press. 1960.

63. Averill J. R. I Feel, Therefore I Am - I Think. / In P. Ekman & R. J. Davidson (Eds.), The nature of emotion: Fundamental questions. - Oxford: Oxford University Press. 1994.

64. Axelrod R. The evolution of cooperation. NY. Vol. 1984. P. 23-27. 2004.

65. Aylett R. S. Agents and affect: why embodied agents need affective systems // 3rd Hellenic Conference on AI, Samos, May 2004 Springer LNAI 3025 p. 2004.

66. Barker J. M. The Tactile Eye: Touch and the Cinematic Experience. - University of California Press. 208 p. 2009.

67. Barrett L. F., Wilson-Mendenhall C. D., Barsalou L. W. A psychological construction account of emotion regulation and dysregulation: the role of situated conceptualizations / in Handbook of Emotion Regulation, 2nd Edn. ed J. J. Gross (New York, NY: Guilford). P.447-465. 2014.

68. Barsalou L. W. Situated simulation in the human conceptual system. // Language and Cognitive Processes. Vol. 18. P.513-562. 2003.

69. Barsalou L. W., Niedenthal P. M., Barbey A., Ruppert J. The psychology of learning and motivation: Advances in research and theory / in The Psychology of Learning and Motivation, B. H. Ross, Ed.. - Academic, San Diego, CA. Vol. 43. p.43-92. 2003.

70. Barsalou L. W., Simmons W. K., Barbey A. K., Wilson C. D. Grounding conceptual knowledge in modality-specific systems // Trends in Cognitive Science. Vol. 7. №2. P. 84-91. 2003.

71. Bartneck C. Integrating the OCC Model of emotions in embodied characters // Proceedings of the workshop on virtual conversational characters: applications, methods and research challenges. P. 1-5. 2002.

72. Bates J., Loyall A. B., Reilly W. S. Broad agents. // SIGART BULLETIN. 2(4). Aug. 1991. P. 38-40. 1991.

73. Bates J., Loyall A. B., Reilly W. S. Integrating Reactivity, Goals, and Emotion in a Broad Agent // Proceedings of the 14th Meeting of the Cognitive Science Society. 1992.

74. Baumeister R. F., Stillwell A. M., Heatherton T. F. Guilt: An interpersonal approach // Psychological Bulletin. Vol. 115. P. 243-267. 1994.

75. Becker C., Nakasone A., Prendinger H., Ishizuka M., Wachsmuth, I. Physiologically interactive gaming with the 3D agent Max // Papers of International Workshop on Conversational Informatics at JSAI-05, Kitakyushu, Japan. 2005.

76. Becker-Asano C. WASABI: Affect Simulation for Agents with Believable Interactivity. - IOS Press. 2008.

77. Beaudoin L. P. Goal processing in autonomous agents. // Science. The University of Birmingham. 1994.

78. Belavkin R. V., Ritter F. E. OPTIMIST: A new conflict resolution algorithm for ACT-R. // Proceedings of the Sixth International Conference on Cognitive Modeling, Pittsburgh, PA. 2004.

79. Beuls K., Steels L. Agent-based models of strategies for the emergence and evolution of grammatical agreement // PLoS One. Vol. 8. №3. 2013.

80. Bower G. H. Mood and Memory // American Psychologist. Vol.36. P.129-148. 1981.

81. Bower, G. H. How Might Emotions Affect Memory? In S. A. Christianson (Ed.), Handbook of Emotion and Memory. Hillsdale, NJ: Lawrence Erlbaum. 1992.

82. Branscombe N. R., Doosje B. Collective guilt: International perspectives. New York: Cambridge University Press. 2004.

83. Breazeal, C., Brooks, R. Robot Emotion: A Functional Perspective. / In J.-M. Fellous & M. A. Arbib (Eds.), Who Needs Emotions? NY: Oxford University Press. 2005.

84. Broekens, J., DeGroot, D., Kosters, W. A. Formal Models of Appraisal: Theory, Specification, and Computational Model // Cognitive Systems Research. Vol. 9 (3). P.173-197. 2008.

85. Broekens, J., Kosters, W.,Verbeek, F. On Affect and Self-adaptation: Potential Benefits of Valence-Controlled Action-Selection // Bio-inspired Modeling of Cognitive Tasks. P.357-366. 2007.

86. Brooks R. A. Intelligence without representation // Artificial Intelligence. Vol. 47. №1. P. 139-159. 1991.

87. Brown R., Cehajic S. Dealing with the past and facing the future: Mediators of the effects of collective guilt and shame in Bosnia and Herzegovina. // European

Journal of Social Psychology. Vol. 38. P. 669-684. 2008.

88. Burge T., Truth, Thought, Reason: Essays on Frege. 2010.

89. Bywater W. G. Argumentation and Persuation in Philosophy // Philosophical Rhetoric. Vol. 2. №3. P. 167-175. 1969.

90. Cañamero L., Avila-Gracia O. A Bottom-Up Investigation of Emotional Modulation in Competitive Scienarios / In the Affective Computing and Intelligent Interaction. 2007.

91. Cañamero L. Building Emotional Artifacts in Social Worlds: Challenges and Perspectives / AAAI Fall Symposium «Emotional and Intelligent II: The Tangled Knot of Social Cognition» Cape Cod, MA: Menlo Park, CA: AAAI Press. 2001.

92. Carruthers P. Simulation and self-knowledge: a defence of theory-theory. / In: P. Carruthers & P. R. Smith (Eds.). Theories of theories of mind. Cambridge: Cambridge University Press. P.22-38. 1996.

93. Carruthers P., Veillet B. The case against cognitive phenomenology. / In Tim Bayne & Michelle Montague (eds.), Cognitive phenomenology. Oxford University Press. P. 35-67. 2011.

94. Casacuberta D. Embodying Cognition: a morphological perspective / Thinking of machines and the philosophy of computer science: concepts and principles. P. 344366. 2010.

95. Cehajic S., Brown R. The Burden of our times: Antecedents of group-based guilt and shame. University of Sussex. 2007.

96. Chartrand, T. L., Bargh, J. A. The chameleon effect: The perception-behavior link and social interaction. // Journal of Personality and Social Psychology. Vol. 76. P.893-910. 1999.

97. Churchland P. M. Folk psychology and the explanation of human behavior. / In: J. D. Greenwood (Ed.). The future of folk psychology. Cambridge: Cambridge University Press. P.51-69. 1991.

98. Clore G. L. Why Emotions Are Felt? / In P. Ekman & R. J. Davidson (Eds.) The nature of emotion: Fundamental questions. Oxford: Oxford University Press. 1994.

99. Clore G. L., Ortony A. The Semantics of the Affective Lexicon. / In V. Hamilton, G. Bower & N. Frijda (Eds.), Cognitive science perspectives on emotion and motivation. Amsterdam: Martinus Nijhoff. P.367-397. 1988.

100. Cohen J., Stewart I. The collapse of chaos. Penguin Books. New York. 1994.

101. Cohn J. F., Ambadar Z., Ekman P. Observer-Based Measurement of Facial Expression with the Facial Action Coding System. / In J. A. Coan & J. B. Allen (Eds.), The handbook of emotion elicitation and assessment. NY: Oxford. 2007.

102. Costa A., Foucart A. Your morals depend on language // PLoS One. Vol. 9. №4. 2014.

103. Coulson S. Semantic leaps: frame-shifting and conceptual blending in

meaning construction. Cambridge: Cambridge University Press. 2001.

104. Damasio A. R. Time-locked multiregional retroactivation: A systems-level proposal for the neural substrates of recall and recognition // Cognition. Vol.33. P. 25-62. 1989.

105. Damasio A. R. Descartes' Error: Emotion, Reason, and the Human Brain. / Grosset, Putnam, New York. 1994.

106. Damasio A., Meyer K. Behind the looking-glass // Nature. Vol. 454, №«7201. P. 167-168. 2008.

107. Darwin C., Ekman P., Prodger Ph. The Expression of the Emotions in Man and Animals. 3rd Ed., London: Harper Collins. 1998.

108. Davies M., Stone T. Introduction. In: M. Davies & T. Stone (Eds.). Mental Simulation. Oxford: Blackwell. P.1-18. 1995.

109. Davis J. D., Winkielman P., Coulson S. Facial action and emotional language: ERP evidence that blocking facial feedback selectively impairs sentence comprehension. // Journal of Cognitive Neuroscience. Vol.27. P. 22692280. 2015.

110. Davis J. D., Winkielman P., Coulson S. Sensorimotor simulation and emotion processing: impairing facial action increases semantic retrieval demands. // Cogitive and Affective Behavioural Neuroscience. Vol.17. P.652-664. 2017.

111. Dawkins R., The selfish gene // 30th Anniversary Edition. A new Introduction by author. 384 p. 1976.

112. Decety J., Jackson P. L. The functional architecture of human empathy // Behavioral and Cognitive Neuroscience Review. Vol. 3. P.71-100. 2004.

113. De Rosis F., Pelachaud C., Poggi I., Carofiglio V., De Carolis B. From Greta's mind to her face: Modelling the dynamics of affective states in a conversational embodied agent // International journal of human-computer studies. Vol.59(1-2). P.81-118. 2003.

114. De Wit M., van der Kamp J., Withagen R. Gibsonian neuroscience // Theory & Psychology. Vol.26(3). 2015.

115. Dennett D. C. Why and How Does Consciousness Seem the Way it Seems? / In T. Metzinger & J. M. Windt (Eds). Open MIND: 10(T). Frankfurt am Main: MIND Group. 2015.

116. Derryberry D. Emotional influences on evaluative judgments: Roles of arousal, attention, and spreading activation // Motivation and Emotion. Vol.12(1). P.23-55. 1988.

117. Derrybery,D., Reed M. A. Information Processing Approaches to Individual Differences in Emotional Reactivity. / In R. J. Davidson, K. R. Scherer & H. H. Goldsmith (Eds.), Handbook of Affective Sciences. NY: Oxford. 2003.

118. Dignum,V. Responsible autonomy. // In Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence (IJCAI'2017). P. 46984704.2017.

119. Dijkstra N., Zeidman P., Ondobaka S., van Gerven M. A. J., Friston K. Distinct top-down and bottom-up brain connectivity during visual perception and imagery. // Science Reporter. Vol. 7. P.56-77. 2017.

120. Douglas M. Thought styles: critical essays on good taste. London: SAGE Publications. 1996.

121. Dove G. On the need for embodied and dis-embodied cognition // Frontiers in Psychology. Vol. 1. №1. 2011.

122. Duckworth K. L., Bargh J. A., Garcia M., Chaiken S. The automatic evaluation of novel stimuli // Psychological Science. Vol. 13. P.513-519. 2002.

123. Dunne P. E., Nawwab F. S., Bench-Capon T. J. M. Exploring the role of emotions in rational decision making // Frontiers in Artificial Intelligence and Applications. Vol. 216. P. 367-378. 2010.

124. Edelman G. M. Neural Darwinism: selection and reentrant signaling in higher brain function //Neuron. Vol. 10. №2. P.115-125. 1993.

125. Ekman P. An argument for basic emotions //Cognition and Emotion Vol.6(3-4). P. 169- 200. 1992.

126. Ekman P., DavidsonR. J. The nature of emotion: Fundamental questions. NY: Oxford. 1994.

127. Ekman P., Friesen W. V., Hager J. C. Facial Action Coding System. Manual and Investigator's Guide, Salt Lake City, UT: Research Nexus. 2002.

128. El-Nasr M. S., Yen J., Ioerger T. R. FLAME - Fuzzy Logic Adaptive Model of Emotions // Autonomous Agents and Multi-Agent Systems. Vol.3(3). P.219-257. 2000.

129. Elliot C. The Affective Reasoner: A Process Model of Emotions in a Multiagent System. Northwestern University, Evanston. 1992.

130. Ellsworth P. C., Scherer K. R. Appraisal Processes in Emotion. / In R. J. Davidson, K. R. Scherer & H.H.Goldsmith (Eds.), Handbook of Affective Sciences. NY: Oxford University Press. 2003.

131. Esrock E. Touching art: intimacy, embodiment and the somatosensory system // Consciousness and Emotion. Vol.2(2). P. 233-254. 2001.

132. Fauconnier G., Turner M. The way we think: conceptual blending and the mind's hidden complexities,.1st ed. Basic Books. 2002.

133. Fauconnier G., Turner M. Principles of conceptual integration // Discourse Cognition. P. 269-283. 1998.

134. Fellous J. M. From Human Emotions to Robot Emotions // AAAI Spring Symposium: Architectures for Modeling Emotion, Stanford University, CA. 2004.

135. Finocchiaro M. Arguments about arguments. 1st ed. Cambridge: Cambridge University Press. 2005.

136. Fodor J. The Language of Thought. Harvard University Press, Cambridge, MA. 1975.

137. Fontaine J.R.J., Poortinga Y.H., Setiadi B., Suprapti S.M. Cognitive structure of emotion in terms of Indonesia and The Netherlands // Cognition and Emotion. Vol.16. P. 61-86. 2002.

138. Fontaine J.R.J., Scherer K.R., Roesch E.B., Ellsworth P.C. The World of Emotions Is Not Two-Dimensional // Psychological Science. P. 1050-1057. 2007.

139. Forgas J. Mood and judgment: The affect infusion model (AIM) // Psychological Bulletin. Vol.117(1). P. 39-66. 1999.

140. Forgas J. Affective Influencees on Attitudes and Judgments. / In K. R. S. R.J. Davidson, H.H.Goldsmith (Ed.), Handbook of Affective Sciences. NY, NY: Oxford University Press. 2003.

141. Forrest P. Collective guilt; Individual shame // Midwest Studies in Philosophy. Vol. XXX. P.146-153. 2006.

142. Frijda N. The Psychologists' Point of View. / In M. Lewis, J. M. Haviland-Jones & L. F. Barrett (Eds.), Handbook of Emotions (3rd ed.). NY: The Guilford Press. 2008.

143. Frijda N. H. The Emotions. Cambridge: Cambridge University Press. 1986.

144. Frijda N. H. Emotions Are Functional, Most of the Time. / In P. Ekman & R. J. Davidson (Eds.), The nature of emotion: Fundamental questions. New York: Oxford University Press. 1994.

145. Frijda N. H., Swagerman J. Can computers feel? Theory and design of an emotional system // Cognition and Emotion. Vol.1(3). P.235-257. 1987.

146. Gallese V. The Manifold Nature of Interpersonal Relations: The Quest for a Common Mechanism // Philosophical Transactions of the Royal Society of London. Vol. 358. №1431. P. 517-528. 2003.

147. Gallese V. Intentional Attunement: The Mirror Neuron System and its Role in Interpersonal Relations. [Электронный ресурс] // URL: https://pdfs.semanticscholar.org/55eb/da934a4c2662c88ae2bd5ebb4a5b2024ba07 .pdf. 2005a.

148. Gallese V. Embodied Simulation: From Neurons to Phenomenal Experience // Phenomenology and the Cognitive Sciences. Vol. 4. №1. P. 23-48. 2005b.

149. Gallese V. The roots of empathy: the shared manifold hypothesis and the neural basis of intersubjectivity // Psychopathology. Vol. 36. P.171-180. 2003.

150. Gallese V., Keysers C., Rizzolatti G. A unifying view of the basis of social cognition // Trends in Cognitive Science. Vol. 8. P.396-403. 2004.

151. Gallese V., Lakoff G. The Brain's concepts: the role of the Sensory-motor system in conceptual knowledge // Cognitive Neuropsychology. Vol.22. P.455-479. 2005.

152. Gallese V., Sinigaglia C. What Is So Special with Embodied Simulation? // Trends in Cognitive Sciences. Vol. 15. №11. P. 512-519. 2011.

153. Gallese V., Guerra M. Embodying Movies: Embodied Simulation and Film Studies // Cinema: Journal of Philosophy and the Moving Image. Vol.3. P.183-210. 2012.

154. Gardner H. Frames of mind: The theory of multiple intelligence. N.Y. 1983.

155. Glenberg A. M., Robinson D. A. Symbol grounding and meaning: of high-dimensional and embodied theories of meaning // Journal of Memory and Language. Vol. 43. P.379-401. 2000.

156. Gao J.,Wang A., Qian M. Differentiating shame and guilt from a relational perspective: a cross-cultural study // Social behavior and personality. Vol.38(10). P.1401-1408. 2010.

157. Geurts B. Neurocognition of language: good, bad, and bogus [Online]. 2007.

158. Gigerenzer G. The irrationality paradox // Behaviour Brain Science. Vol. 27. №3. P. 334-337. 2004.

159. Gigerenzer G. Why heuristics work // Perspective Psychological Science. Vol. 3. №1. P. 20-29. 2008.

160. Gigerenzer G., Hertwig R., Patchur T. Heuristics: the foundations of the adaptive behavior. New York: Oxford University Press. 2015.

161. Gilbert P. Evolution, social roles, and the differences in shame and guilt // Social Research. Vol.70(4). P.1205-1230. 2003.

162. Gilbert P. The evolution of shame as a marker for relationship security: A biopsychosocial approach. / In J. L. Tracy, R. W. Robins, J. P. Tangney, The self-conscious emotions: Theory and research. New York: Guilford. P.283-309. 2007.

163. Goel V. Cognitive Neuroscience of Deductive Reasoning / The Cambridge handbook of thinking and reasoning. P.475-492. 2005.

164. Golloway B. Some logical issues in Madhyamaka thought // Journal of Indian Philosophy. Vol. 17. №1. P. 1-35. 1989.

165. Gordon R. M. The structure of emotions: investigations in cognitive philosophy. Cambridge University Press. 1987.

166. Grabenhorst et al. Primate Amygdala Neurons Simulate Decision Processes of Social Partners // Cell. 2019.

167. Gratch J., Marsella S. A domain independent frame-work for modeling emotion // Journal of Cognitive Systems Research. Vol.5(4). P.269-306. 2004.

168. Guattari, F. Chaosmosis: an ethicoaesthetic paradigm. Bloomington/Indianapolis: Indiana University Press. 136 p. 1995.

169. Gustafson N.J., Daw N.D. Grid Cells, Place Cells, and Geodesic Generalization for Spatial Reinforcement Learning // PLoS Computational Biology. Vol.7(10). 2011.

170. Iacoboni M., Molnar Szakacs I., Gallese V., Buccino G., Mazziotta J. C., Rizzolatti G. Grasping the intentions of others with one's own mirror neuron system // PLoS Biology. №3. P. 529-535. 2005.

171. Jacobs R., Cornelissen F. An explanation for the role of the amygdala in aesthetic judgments // Frontiers in human neuroscience. Vol. 11. 2017.

172. Jayatilleke K. N. The logic of four alternatives. University of Hawaii Press. [Online]. 1967.

173. Johnson-Laird P. N., Oatley K. The language of emotions: an analysis of a semantic field // Cognition and Emotion. Vol. 3(2). P.81-123. 1989.

174. Haidt J. The emotional dog and its rational tail: A social intuitionist approach to moral judgment // Psychological Review.Vol.108. P.814-834. 2001.

175. Haiman J. Talk is cheap: sarcasm, alienation and the evaluation of language. Oxford University Press. 1998.

176. Hansen M. B. N. New Philosophy for New Media. MIT Press. 361 p. 2004.

177. Harre R. Selves in talk // British journal of social psychology. Vol. 25. №3. 1986.

178. Havas D. A., Glenberg A. M., Rinck M. Emotion simulation during language comprehension // Psychonomic Bulletin & Review. Vol.14. P.436-441. 2007.

179. Heisig J. W. Philosophers of nothingness: an essay on the Kyoto school. University of Hawaii Press. 2001.

180. Hertwig R., Herzog S. Fast and Frugal heuristics: tools of social rationality // Social Cognition. Vol. 27. №5. P. 661-698. 2009.

181. Hoffman M. L. Development of prosocial motivation: Empathy and guilt // Development of prosocial behavior. San Diego: Academic Press. P.281-313. 1982.

182. Hoffman M. L. Empathy and moral development: Implications for caring and justice. Cambridge, UK: Cambridge University Press. 2000.

183. Holmes E. A., Blackwell S. E., Burnett Heyes S., Renner F., Raes F. Mental imagery in depression: phenomenology, potential mechanisms, and treatment implications. // Annual Review in Clinical Psychology. Vol.12. P.249-280. 2016.

184. Hudlicka E. This time with feeling: Integrated Model of Trait and State Effects on Cognition and Behavior // Applied Artificial Intelligence. Vol.16. P.1-31. 2002.

185. Hudlicka E. Two Sides of Appraisal: Implementing Appraisal and Its Consequences within a Cognitive Architecture // AAAI Spring Symposium: Architectures for Modeling Emotion. Stanford University, CA: AAAI Press. 2004.

186. Hudlicka E. Reasons for Emotions. / In W. Gray (Ed.), Advances in Cognitive Models and Cognitive Architectures. NY: Oxford. 2007.

187. Hudlicka E. Modeling the Mechanisms of Emotion Effects on Cognition // AAAI Fall Symposium: Biologically Inspired Cognitive Architectures. Arlington, VA: Menlo Park. CA: AAAI Press. P. 82-86. 2008a.

188. Hudlicka E. What are we modeling when we model emotion? // AAAI Spring Symposium: Emotion, Personality, and Social Behavior. Stanford University, CA: Menlo Park, CA: AAAI Press. P. 52-59. 2008b.

189. Hudlicka E. From Habits to Standards: Towards Systematic Design of Emotion Models and Affective Architectures / In Emotion Modeling: Towards Pragmatic Computational Models of Affective Processes. P.3-23. 2014.

190. Hutchins E. Cognition in the wild. MIT Press. P.1-5. 1995.

191. Izard C. E. Human Emotions. NY: Plenum. 1977.

192. Izard C. E. Four Systems for Emotion Activation: Cognitive and Noncognitive Processes // Psychological Review. Vol.100(1). P.68-90. 1993.

193. Ji J. L., Holmes E. A., Blackwell S. E. Seeing light at the end of the tunnel: positive prospective mental imagery and optimism in depression. // Psychiatry Research. Vol.247. P.155-162. 2017.

194. Juslin P. N., Scherer, K. R. Vocal expression of affect. / In J. A. Harrigan, R. Rosenthal & K. R. Scherer (Eds.), The new handbook of Methods in Nonverbal Behavior Research. NY: Oxford. P. 65-135. 2005.

195. Kanal J., Perlis D. Uniform accountability for multiple models of reasoning // International Journal of Approximative Reasoning. Vol. 2. №3. P. 233-246. 1988.

196. Kesner L., Horacek J. Empathy-Related Responses to Depicted People in Art Works // Frontiers in Psychology. Vol. 8. 2017.

197. Kolb E. J. Directed expression: Quantifying emotional expression with concepts derived from the performing arts. [Электронный ресурс]( https://www.researchgate.net/publication/314114921_Directed_expression_Quan tifying_emotional_expression_with_concepts_derived_from_the_performing_arts ). 2017.

198. Krawczyk D. C. The cognition and neuroscience of relational reasoning // Brain Research. Vol.1. 2012.

199. Kyburg H. E. Real logic is nonmonotonic // Minds machines. Vol. 11. №4. P.577-595. 2001.

200. La Case M. At first blush: the politics of guilt and shame // Parrhesia. Vol. 18. P. 85-99. 2013.

201. Larsen R., Kasimatis K., Frey K. Facilitating the Furrowed Brow: An Unobtrusive Test of the Facial Feedback Hypothesis Applied to Unpleasant Affect // Cognition & Emotion. Vol. 6. P.321-338. 1992.

202. Latane B., Schachter S. Adrenalin and avoidance learning. // Journal of Comparative and Physiological Psychology. Vol 55(3). P. 369-372. 1962.

203. Lazarus R. S. On the primacy of cognition // American Psychologist. Vol. 39(2). P.124- 129. 1984.

204. Ledoux J., Brown R. A higher-order theory of emotional consciousness. // Proceedings of the National Academy of Sciences. Vol.114(10). 2017.

205. Leon F., Szanto T., Zahavi D. Emotional sharing and the extended mind. // Synthese. P.1-21. 2017.

206. LernerJ. S., Tiedens, L. Z. Portrait of the Angry Decision Maker: How Appraisal Tendencies Shape Anger's Influence on Cognition. // Journal of Behavioral Decision Making. Vol.19. P.115-137. 2006.

207. Leventhal H., Scherer K. R. The relationship of emotion to cognition. // Cognition and Emotion. Vol.1. P.3-28. 1987.

208. Lewis H. B. Shame and guilt in neurosis. New York: International Universities Press. 1971.

209. Lewis M. Self-conscious emotions. // Handbook of Emotions third edition. NY: Gilford Press. P.742-749. 2008.

210. Lickel B., Schmader T., Barquissau M. Evocation of moral emotions in intergroup contexts: The distinction between collective guilt and collective shame. New York: Cambridge University Press. 2004.

211. Lisetti C., Gmytrasiewicz, P. Can rational agents afford to be affectless? // Applied Artificial Intelligence. Vol.16(7-8). P.577-609. 2002.

212. Loyall A. B. Believable Agents: Building Interactive Personalities. CMU, Pittsburgh. 1997.

213. Lycan W. Consciousness and Experience. Cambridge, MA: MIT Press. P.1-11. 1996.

214. MacFarlane J. Frege, Kant and the logic in logicism // Philosophical Review. Vol. 111. №1. P.25-65. 2002.

215. Mandler G. Mind and Body: The Psychology of Emotion and Stress. New York: Norton. 1984.

216. Marks L. U. Touch: Sensuous Theory and Multisensory Media. University of Minnesota Press. 259 p. 2002.

217. Markus H., Kitayama S. Culture and the self: Implications for cognition, emotion, and motivation // Psychological Review. Vol.98(2). P. 224-253. 1991.

218. Massumi B. Parables for the Virtual: Movement, Affect, Sensation. Durham: Duke University Press. 336 p. 2002.

219. Matthews G. A., HarleyT. A. Effects of Extraversion and Self-Report Arousal on Semantic Priming: A Connectionist Approach. // Journal of Personality and Social Psychology. Vol.65(4). P.735-756. 1993.

220. Mayer J.D., Salovey P. The intelligence of emotional intelligence // Intelligence. Vol. 17. 1993.

221. Mehrabian A. Framework for a Comprehensive Description and Measurement of Emotional States. / In Genetic, Social, and General Psychology Monographs. Vol. 121. P. 339-361. 1995.

222. McIntosh D. R., Reichmann-Decker A., Winkielman P., Wilbarger J. When the social mirror breaks: deficits in automatic, but not voluntary, mimicry of emotional facial expressions in autism // Developmental Science. Vol. 9. P.295-302. 2006.

223. Michlmayr M. Simulation Theory versus Theory Theory: Theories concerning the Ability to Read Minds. PhD work [Online]. 2002.

224. Newell A. Physical Symbol Systems // Cognitive Science. Vol. 4. 1980.

225. Niedenthal P. M., Barsalou L. W., Ric F., Krauth-Gruber S. Embodiment in the acquisition and use of emotion knowledge. - in Emotion: Conscious and Unconscious, L. F. Barrett, P. M. Niedenthal, P. Winkielman, Eds. Guilford, New York. P.21-50. 2005.

226. Niedenthal P. M., Halberstadt J. B., Innes-Ker A. H. Emotional response categorization. // Psychological Review. Vol. 106. P.337- 361. 1999.

227. Niedenthal P.M., Winkielman P., Mondillon L., Vermeulen N. Embodiment of emotion concepts // Journal of Personality and Social Psychology. Vol. 96. P.1120-1136. 2009.

228. Nisbett R. The geography of thought: how Asians and Westerners think differently...and why: Amazon.com: Books, NY: Free press (Simon & Schuster, Inc.). 2003.

229. Noe A. Out of our Heads: Why You are Not Your Brain, and Other Lessons from the Biology of Cognition. Farrar, Straus & Giroux. 232 p. 2010.

230. Nygaard L. C., Lunders E. R. Resolution of lexical ambiguity by emotional tone of voice // Memory Cognition. Vol. 30. P.583-593. 2002.

231. Ohman A., Flykt A., Esteves F. Emotion drives attention: detecting the snake in the grass // Journal of Experimental Psychological Genetic. Vol. 130. P.466-478. 2001.

232. O'Rorke P., Ortony A. Explaining emotions. // Cognitive Science. Vol.18(2). P.283- 323. 1994.

233. Ortony A., Clore G. L., Collins A. The Cognitive Structure of Emotions. NY: Cambridge. 1988.

234. Ortony A., Norman D., Revelle, W. Affect and Proto-Affect in Effective Functioning7 / In J. M. Fellous & M. A. Arbib (Eds.), Who Needs Emotions? NY: Oxford. 2005.

235. Ortony A., Turner T. J. What's Basic About Basic Emotions? // Psychological Review. Vol. 97(3). P.315-331. 1990.

236. Osgood C.E., May W.H., Miron M.S. Cross-cultural universals in affective meaning. Urbana: University of Illinois Press. 1975.

237. Palmer T. Modelling: build imprecise supercomputers // Nature. Vol. 526. №7571. P. 32-42. 2015.

238. Panskepp J. Affective Neuroscience: The Foundations of Human and Animal Emotions. NY: Oxford University Press. 1998.

239. Pecher D., Zeelenberg R., Barsalou L. W. Verifying different-modality properties for concepts produces switching costs // Psychological Science. Vol.14. P.119-124. 2003.

240. Pfeifer R., Bongard J., Grand S. How the body shapes the way we think: a new view of intelligence. MIT Press. 2007.

241. Phelps et al. Activation of the left amygdala to a cognitive representation of fear // Natural Neuroscience. Vol.4. P.437-441. 2001.

242. Picard R. Affective Computing. Cambridge, MA: The MIT Press. 1997.

243. Plutchik R. Emotions: A General Psychoevolutionary Theory. / In K. R. Scherer & P. Ekman (Eds.), Approaches to emotion. Hillsdale, N.J.: Erlbaum. 1984.

244. Pomerol J.-C. Artificial intelligence and human decision making // European Journal of Operational Research. Vol. 99(3). P.3-25. 1997.

245. Prendinger H., Descamps S., Ishizuka M. Scripting Affective Communication with Life-like Characters in Web-based Interaction Systems. // Applied Artificial Intelligence. Vol.16(7-8). P.519-553. 2002.

246. Prendinger H., Saeyor S., Ishizuka, M. MPML and SCREAM: Scripting the Bodies and Minds of Life-Like Characters. / In H. Prendinger & M. Ishizuka (Eds.), Life- Like Charactes: Tools, Affective Functions, and Applications. Berlin: Springer. 2004.

247. Price R. Microsoft is deleting its AI chatbot's incredibly racist tweets. (http://www.businessinsider.com/microsoft-deletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016-3). 2016.

248. Prinz J. J. Furnishing the Mind: Concepts and Their Perceptual Basis. MIT Press, Cambridge, MA. 2002.

249. Pollock J. Irrationality and cognition // Epistemology: new essays. 2008.

250. Puusepp Bohl V. No Joint Ownership! Shared Emotions Are Social-relational Emotions // Studia Philosophica Estonia. Vol. 9(1). P.111-135. 2016.

251. Reilly W. S. N. Modeling What Happens Between Emotional Antecedents and Emotional Consequents // ACE 2006, Vienna, Austria. 2006.

252. Reilly W. S. R. Believable Social and Emotional Agents. CMU, Pittsburgh. 1996.

253. Reisenzein R. Pleasure-arousal theory and the Intensity of Emotions. // Journal of Personality and Social Psychology. Vol.67. P.525-539. 1994.

254. Reisenzein R. Appraisal processes conceptualized from a schema-theoretic perspective: Contributions to a process analysis of emotions. / In K. R. Scherer, A. Schorr & T. Johnstone (Eds.), Appraisal processes in emotion: Theory, methods, research. NY: Oxford University Press. 2001.

255. Rilling J. K., Scholz J., Preuss T. M., Glasser M. F., Errangi B. K., Behrens T. E. Differences between chimpanzees and bonobos in neural systems supporting social cognition. // Social Cognitive and Affective Neuroscience. Vol.7. P.369-379. 2011.

256. Ringle M. Psychological Studies and Artificial Intelligence. // AI Magazine. Vol. 4. №1. P.37-42. 1983.

257. Ritter F. E., Avramides M. N. Steps Towards Including Behavior Moderators in Human Performance Models in Synthetic Environments: The Pennsylvania State University. 2000.

258. Ritter F. E., Reifers A. L., Klein L. C., Schoelles M. J. Lessons from defining theories of stress for cognitive architectures. / In W.Gray (Ed.), Advances in Cognitive Models and Cognitive Architectures. NY, NY: Oxford University Press. 2007.

259. Rizzolatti G., Craighero L. The Mirror Neuron System // Annual Review of Neuroscience. Vol. 27. P. 169-192. 2004.

260. Rizzolatti G., Corrado S. Mirrors in the Brain: How Our Minds Share Actions and Emotions. Oxford: Oxford University Press. 256 p. 2006.

261. Rizzolatti G., Fadiga L., Gallese V., Fogasi L. Premotor Cortex and the Recognition of Motor Actions // Cognitive Brain Research. No3. P. 131-141. 1996.

262. Roseman I. J. A Model of Appraisal in the Emotion System. / In K. R. Scherer, A. Schorr & T. Johnstone (Eds.), Appraisal Processes in Emotion: Theory, Methods, Research. NY: Oxford. 2001.

263. Roseman I. J., Smith C. A. Appraisal Theory: Overview, Assumptions, Varieties, Controversies. / In K. R. Scherer, A. Schorr & T. Johnstone (Eds.), Appraisal Processes in Emotion: Theory, Methods, Research. NY: Oxford. 2001.

264. Rozin P. Introduction: Evolutionary and Cultural Perspectives on Affect. / In R. J. Davidson, K. R. Scherer & H.H.Goldsmith (Eds.), Handbook of Affective Sciences. NY: Oxford University Press. 2003.

265. Russell J. Core Affect and the Psychological Construction of Emotion. //

Psychological Review. Vol.110(1). P.145-172. 2003.

266. Russell J., Barrett L. F. Core Affect, Prototypical Emotional Episodes, and Other Things Called Emotion: Dissecting the Elephant // Journal of Personality and Social Psychology. Vol.76(5). P.805-819. 1999.

267. Russell J., Mehrabian, A. Evidence for a three-factor theory of emotions. // Journal of Research on Personality. Vol.11. P. 273-294. 1977.

268. Salovey P., Mayer J.D. Some final thoghts about personality and intelligence // Personality and Intelligence /Ed. by J. Sternberg, P. Ruzgis. Cambridge University Press. 1994.

269. Schank R. C., Abelson R. P. Scripts, Plans, Goals and Understanding: An Inquiry into Human Knowledge Structures. Hillsdale, NJ: Lawrence Erlbaum. 1977.

270. Scherer K., Schorr A., Johnstone T. Appraisal Processes in Emotion: Theory, Methods, Research. NY: Oxford. 2001.

271. Scherer K. R. Emotions are biologically and socially constituted: A response to Greenwood. // New Ideas in Psychology. Vol.10(1). P.19-22. 1992.

272. Scherer K. R. Emotions as Episodes of Subsystem Synchronization Driven by Nonlinear Appraisal Processes. / In M. D. Lewis & I. Granic (Eds.) Emotion, Development, and Self-Organization. NY: Cambridge University Press. 2000.

273. Scherer K. R. (2001). Appraisal Considered as a Process of Multilevel Sequential Checking. / In K. R. Scherer, A. Schorr & T. Johnstone (Eds.) Appraisal Processes in Emotion: Theory, Methods, Research. NY: Oxford. 2001.

274. Schwarz N. Feelings as information: Informational and motivational functions of affective states / Handbook of motivation and cognition. New York: Guilford. P.527-561. 1990.

275. Schwarz N., Clore G. L. How do I feel about it? The information function of affective states. / In K. Fiedler & J. P. Forgas (Eds.) Affect, cognition,and social behavior. Toronto: Hogrefe. P.44-62. 1988.

276. Schwarz N., Clore G. Feelings and phenomenal experiences // Social psychology: Handbook of basic principles. New York: Guilford. P. 433-465. 1996.

277. Schwartz S.H. Basic human values: Their content and structure across countries // Valores e comportamento nas organizacoes. Petropolis. 2005.

278. Scholus P. Reason, Semantics and Argumentation in Philosophy // Philosophical Rhetorics. Vol. 4. №2. P.183-200. 1971.

279. Sehaba K., Sabouret N., Corruble V. An emotional model for synthetic characters with personality // Affective Computing and Intelligent Interaction (ACII), Lisbon, Portugal. 2007.

280. Sestito M. Emotional motor resonance and its role in anomalous subjective experience in schizophrenia. PhD work. 2013.

281. Shachter S., Singer J.E. Cognitive, social, and psychological determinants of emotional state // Psychological Review. Vol.69. P.379—399. 1962.

282. Shaver P., Schwartz J., Kirson D., O'Conner Emotion knowledge: Further exploration of a prototype approach // Journal of Personality and Social Psychology. Vol. 52. P.1061-1086. 1987.

283. Silfver-Kuhalampi M. The sourses of moral motivation - studies on empathy, guilt, shame and values. Department of Social Psychology, University of Helsinki. 2008.

284. Simon H. A. Motivational and emotional controls of cognition / Reprinted in Models of Thought, Yale University Press. P.29-38. 1979.

285. Simon H. A. Artificial intelligence: an empirical science // Artificial Intelligence. Vol. 77. №1. P. 95-127.1995.

286. Singer et al. Empathy for pain involves the affective but not sensory components of pain // Science. Vol. 303. P.1157-1162. 2004.

287. Sloman A. Interactions between philosophy and AI: The role of intuition and non-logical reasoning in intelligence. // Reprinted in Artificial Intelligence. P. 209225. 1971. And in J.M. Nicholas, ed. Images, Perception, and Knowledge. Dordrecht-Holland: Reidel. 1977.

288. Sloman A. On designing a visual system (towards a gibsonian computational model of vision). // Journal of Experimental and Theoretical AI. Vol.1(4). P.289-337. 1989.

289. Sloman A. Motives mechanisms and emotions. // Emotion and Cognition. Vol.1(3). P.217-234. 1987. Reprinted in M.A. Boden (ed), The Philosophy of Artificial Intelligence, Oxford Readings in Philosophy Series, Oxford University Press. P.231-247. 1990.

290. Sloman A. Prolegomena to a theory of communication and affect. / In A. Ortony, J. Slack, and O. Stock, editors, Communication from an Artificial Intelligence Perspective: Theoretical and Applied Issues. P. 229-260. Springer, Heidelberg, Germany. 1992.

291. Sloman A. Prospects for AI as the general science of intelligence. / In A. Sloman, D. Hogg, G. Humphreys, D. Partridge, and A. Ramsay, editors, Prospects for Artificial Intelligence. P.1-10. IOS Press, Amsterdam. 1993.

292. Sloman A. Semantics in an intelligent control system. // Philosophical Transactions of the Royal Society: Physical Sciences and Engineering, Vol.349(1689). P.43-58. 1994.

293. Sloman A. Musings on the roles of logical and non-logical representations in intelligence. / In Janice Glasgow, Hari Narayanan, and Chandrasekaran, editors, Diagrammatic Reasoning: Computational and Cognitive Perspectives. P. 7-33. MIT Press. 1995.

294. Sloman A., Croucher M. Why robots will have emotions. / In Proceedings of the 7th International Joint Conference on AI, Vancouver. 1981.

295. Sloman A., Poli. R. Sim agent: A toolkit for exploring agent designs. / In Wooldridge M., Mueller J., Tambe M. (Eds.), Intelligent Agents. Vol II (ATAL-95). P. 392-407. Springer. 1996.

296. Sloman, A., Chrisley, R., Scheutz, M. The Architectural Basis of Affective States and Processes / In J.-M. Fellous & M. A. Arbib (Eds.), Who Needs Emotions? NY: Oxford University Press. 2005.

297. Smith E. R. Social identity and social emotions: Toward new conceptualizations of prejudice //Affect, cognition and stereotyping. San Diego: Academic Press. P.297-315.1993.

298. Smith R. H., Webster M., Parrott W. G., Eyre H. L. The role of public exposure in moral and nonmoral shame and guilt // Journal of Personality and Social Psychology. Vol.83. P. 138-159. 2002.

299. Smith C. A., Kirby, L. Consequences require antecedents: Toward a process model of emotion elicitation. / In J. P. Forgas (Ed.), Feeling and Thinking: The role of affect in social cognition. NY: Cambridge. 2000.

300. Smith, C. A., Kirby, L. D. Toward Delivering on the Promise of Appraisal Theory. / In K. R. Scherer, A. Schorr & T. Johnstone (Eds.), Appraisal Processes in Emotion. NY: Oxford. 2001.

301. Sobchack V. Carnal Thoughts: Embodiment and Moving Image Culture. Berkeley, CA: University of California Press. 340 p. 2004.

302. Solomon K. O., Barsalou L. W. Perceptual simulation in property verification // Memory and Cognition. Vol.32. P.244-259. 2004.

303. Sonnemans J., Frijda, N. H. The Structure of Subjective Emotional Intensity // Cognition and Emotion. Vol.8(4). P.329-350. 1994.

304. Spence C., Nicholls M. E., Driver J. The cost of expecting events in the wrong sensory modality // Perceptional Psychophysiology. Vol.63. P.330-336. 2001.

305. Staller A., Petta, P. Towards a tractable appraisal-based architecture for situated cognizers. // Proceedings of the 5th International Conference of the Society for Adaptive Behaviour (SAB'98): Grounding Emotions in Adaptive Systems Workshop., Zurich, Switzerland. 1998.

306. Stepper S., Strack F. Proprioceptive determinants of emotional and nonemotional feelings. // Journal of Personality and Social Psychology. Vol. 64. P. 211-220. 1993.

307. Stone P., Brooks R., Brynjolfsson E., Calo R., Etzioni O., Hager G., Hirschberg J., Kalyanakrishnan S., Kamar E., Kraus S., Leyton-Brown K., Parkes D., Press W., Saxenian A., Shah J., Tambe M., Teller A. Artificial Intelligence and

Life in 2030: One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016 Study Panel.[Online]. 2016.

308. Strack F., Schwarz N., Gschneidinger E. Happiness and reminiscing: The role of time perspective, affect, and mode of thinking // Journal of Personality and Social Psychology. Vol. 49. P.1460-1469. 1985.

309. Strack F., Martin L. L., Stepper S. Inhibiting and facilitating conditions of the human smile: a nonobtrusive test of the facial feedback hypothesis // Journal of Personality and Social Psychology. Vol. 54. P.768-777. 1988.

310. Tajfel H., Turner J. C. The social identity theory of intergroup behavior // Psychology of intergroup relations. Chicago: Nelson Hall. P.7-24. 1986.

311. Tangney J.P., Wagner P.E., Gramzow R. The Test of Self-Concious Affect/George Mason University: Fairfax, Va. 1989.

312. Tangney J.P. How does guilt differ from shame? // Guilt and Children. Academic: San-Diego. P.1-17. 1998.

313. Thagard P. Why Cognitive Science Needs Philosophy and Vice Versa // Cognitive Science. Vol.1. P.237-254. 2009.

314. Tom G., Pettersen P., Lau T., Burton T., Cook J. The role of overt head in the information of affect. //Basic and Applied Social Psychology. Vol. 12. P. 281289. 1991.

315. Tracy J. L., Robins R. W., Tangney J. P. The self-conscious emotions. New York:Guilford. 2007.

316. Turiel E. The culture of morality: Social development, context, and conflict. Cambridge: Cambridge University Press. 2002.

317. Vermeulen N., Niedenthal P. M., Luminet O. Switching between sensory and affective systems incurs processing costs // Cognitive Science. Vol.31. P.183-192. 2007.

318. Vigliocco G. Kousta S.-T. The neural representation of abstract words: role of emotion. // Cerebral cortex. Vol. 24. №7. P. 1767-1777. 2014.

319. Voss P. The third wave of AI. (https://becominghuman.ai/the-third-wave-of-ai-1579ea97210b). 2017.

320. Weiner B. Judgements of responsibility: A foundation for a theory of social conduct. New York: Guilford Press. 1995.

321. Wierzbicka A. Defining emotion concepts // Cognitive science. Vol.16. P.529-581. 1992.

322. Wicker et al. Both of us disgusted in My insula: the common neural basis of seeing and feeling disgust // Neuron. Vol. 40. P.655-664. 2003.

323. Wilson M. Six views of embodied cognition // Psychonomic Bulletin Review. Vol.9. P.625-636. 2002.

324. Wright I.P., Sloman A., Beaudoin L.P. Towards a design-based analysis of emotional episodes. // Philosophy, Psychiatry and Psychology. Vol.3(2). P.101-126. 1996.

325. Yang M.-L., Yang C.-C., Chiou W.-B. When guilt leads to other orientation and shame leads to egocentric self-focus: effects of differential priming of negative affects on perspective taking // Social behavior and personality. Vol. 38(5). P.605-614. 2010.

326. Yuste R. From the neuron doctrine to neural networks. // Nature Reviews Neuroscience. Vol. 16(8). 2015.

327. Zajonc R. B., Adelmann P. K. et. al. Convergence in the Physical Appearance of Spouses // Motivation and Emotion. Vol. 11. P.335-346. 1987.

328. Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars? (https://www.technologyreview.com/sZ542626/why-self-driving-cars-must-be-programmed-to-kill/). 2015.

329. Save the driver, says Benz (https://www.motoring.com.au/kill-the-rest-says-benz-104114/). 2016.