Обоснование морали в современной философской когнитивистике тема диссертации и автореферата по ВАК РФ 09.00.05, кандидат наук Новикова, Ольга Валерьевна

• Новикова, Ольга Валерьевна
• кандидат наук
• 2017

Оглавление диссертации кандидат наук Новикова, Ольга Валерьевна

Оглавление

Оглавление

1. Введение

2. Основы когнитивистики

2.1. Понятие когнитивистики

2.2. Вычислительно-репрезентативная модель строения разума

2.3. Взаимоотношения философии и когнитивистики

3. Этика и когнитивистика

3.1. Когнитивный подход в этике

3.2. Понятия свободы и детерминизма

3.3. Свобода в экспериментальной нейроэтике

3.4. Компатибилизм Д. Деннета

3.5. Связь сознания и тела в когнитивных исследованиях:

теория Д. Серла

3.6. Основные черты современного когнитивного подхода к этическим проблемам

4. Этические аспекты искусственного интеллекта

4.1. Основные понятия и историческая справка

4.2. «Могут ли машины мыслить?» Алана Тьюринга

4.3. Современное понимание и критика теории А.Тьюринга

4.4. Современный когнитивный взгляд на философские основания ИИ

4.5. Открытое письмо о разработке ИИ

4.6. Проблемы морали в искусственном интеллекте

5. Заключение

6. Список литературы

Введение диссертации (часть автореферата) на тему «Обоснование морали в современной философской когнитивистике»

1. Введение

Актуальность исследования. Человеческий разум всегда был предметом интереса для философии. Его природа, основные свойства, возможности, даже, несмотря на рывок в технологиях изучения мозга, который мы наблюдали в XX веке, все еще остаются тайной.

Разум был объектом дискуссий не только для философии, но и для многих других наук: психологии, биологии, лингвистики, а с недавних пор и для таких новых дисциплин как нейронаука и информатика. Несмотря на то, что предметом исследования для всех из них был один и тот же феномен, можно было увидеть разделение между конкретными целями и методами его изучения у разных наук. Во второй половине XX века появилась потребность создания общей теоретико-методологической платформы для междисциплинарных исследований. Это привело к возникновению целого комплекса наук, получившего общее название -когнитивистика.

Когнитивистика является междисциплинарной областью, предполагающей комплексный подход к изучению разума1. Название используют как во множественном числе (когнитивные науки), имея в виду совокупность разных по предмету и методу наук, так и в единственном числе (когнитивистика), подчеркивая объединение тех частей этих наук,

1 Для проведения данного исследования разграничим два понятия: разум и сознание. В этой работе мы будем рассматривать разум как более общий концепт, включающий как сознание, так и психические функции мозга. Такое разделение связано с особенностями перевода текстов когнитивистики. Термин сознание имеет прямую аналогию с английским "consciousness". В то же время слово "mind", которое используется в англоязычных когнитивных текстах, как самое общее понятие по отношению к мыслительной деятельности, имеет несколько переводов, из которых автор данной диссертации выбрал «разум». Также оговорим, что словосочетание "philosophy of mind" мы будем переводить как "философия сознания", поскольку это устоявшееся название направления когнитивистики и философии.

которые считают своей задачей изучение разума. В свете нарастающего технического прогресса и увеличения власти науки, когнитивистика становится все более весомой сферой, занимающей одно из лидирующих по актуальности мест в области изучения сознания и поведения человека.

Несмотря на то, что ученые когнитивисты утверждают, что они рассматривают разум одновременно с наибольшего количества точек зрения, психология, нейронаука и лингвистика явно берут верх над другими областями. Это ограничивает картину разума в когнитивистике, что является парадоксом, ведь, по изначальному заявлению ученых когнитивистов, именно наиболее широкий взгляд на разум является смыслом существования этой дисциплины. Отдельная дисциплина, связывающая философию и когнитивистику, называется философией сознания (philosophy of mind). По факту же можно утверждать, что эта наука ближе к психологии, чем к философии. По этой причине оказывается, что философии с конкретно ее традиционной проблематикой о разуме и ее критическим и аналитическим методом, пока не нашлось подобающего места в когнитивистике. Ситуация кажется в этом свете несколько парадоксальной, ведь, постулируя себя всеобъемлющей, касающейся всех доступных на данный момент граней разума, когнитивистика видит своим долгом и рассмотрение таких значимых для философского изучения явлений как сознание, свобода, рациональность, восприятие и т.д.

Это указывает на актуальность и новизну исследования, представленного в данной диссертации, ведь оно имеет своей целью анализ этого парадокса в связи с некоторыми достижениями и методами когнитивистики при изучении этических феноменов именно с точки зрения современной этики в широком философском смысле слова, а не лингвистики, психологии или нейронауки. Многие когнитивисты с разным успехом затрагивали эти вопросы, но все подобные исследования оказывались редукционистскими, поскольку сводили мораль к предметам

одной из перечисленных наук. Это является, в частности, результатом большого влияния, который на формирование этой науки оказали позитивизм, а вслед за ним - бихевиоризм. Именно с точки зрения бихевиоризма в когнитивистике рассматриваются и все этические вопросы.

Согласно бихевиористической точке зрения, только внешнее поведение может быть научно исследовано, и, следовательно, только оно принимается в расчет при оценке психологического поведения человека. Его мотивы и внутренние переживания не могут быть исследованы. Таким же образом исследуется и оценивается моральное поведение. Причины такого поведения ищутся тоже только в эмпирически проверяемых факторах, например, в фактах, которые можно зафиксировать в среде взросления человека, в поведении его родителей, в состоянии здоровья, в событиях в его жизни и т.д. С точки зрения этой позиции, этических ценностей не существует. Поскольку при таком подходе не остается места для внутреннего мира человека, в том числе и для его свободы, ведь все поступки обусловлены какими-то внешними причинами из детства и окружения, то такой подход оказывается последовательно детерминистическим.

Существует прямая связь когнитивизма, как теоретического направления в этике, с когнитивистикой, дисциплиной о разуме, пользующейся средствами естественных наук для объяснения философских феноменов. Что касается когнитивизма, то «в аналитической этике, или метаэтике, термином "когнитивизм" (англ. cognitivism, от лат. cognitio -знание, познание) обозначают точку зрения, согласно которой моральные (оценочные и императивные) высказывания суть обычные когнитивные суждения, поддающиеся верификации и обладающие истинностным

значением»1. Таким образом, данный подход постулирует возможность редуцирования моральных высказываний до более простых описательных утверждений, которым можно приписать значение истинности или ложности. Это и делает нравственные суждения познаваемыми. Критики данной позиции утверждают, что, сводя этику к формальной логике, когнитивисты теряют прескриптивную суть моральных высказываний и специфика этики перестает существовать. Стоит упомянуть, что анализ моральных суждений в данной работе не приводится, поскольку автор не видит его необходимым в рамках поставленной цели исследования.

Также отметим, что актуальность рассматриваемой проблематики подтверждается тем, что целый номер одного из ведущих российских философских журналов в 2015 г. был посвящен проблемам сознания и свободе воли в контексте современного развития нейронаук2, Другой журнал в 2016 году выпустил номер, посвященный проблемам свободы

-5

воли в современной философии , акцентируя внимание именно на проблемах в рамках когнитивной философии. Подобной же теме посвящен один из номеров журнала «Мысль» 4.

Обоснование выбора и формулировки темы. Абсолютизация физически проверяемых и зависимых от причинно-следственных связей явлений приводит к детерминизму, который не оставляет места для свободы воли человека. Традиционно считается, что именно свобода является залогом существования морали, ведь, если человек не свободен, его моральный выбор не является выбором, а только иллюзией. С другой стороны, утверждение об эпистемической верификации моральных суждений сводит, по сути, этику к формальной логике. Таким образом,

1 Максимов Л.В. Когнитивизм и нонкогнитивизм / Энциклопедия эпистемологии и философии науки. -М.: Канон+, 2009. С. 363

2 Вестник Московского университета. Серия 7. Философия. 2015. № 6. - 137 с.

3 Логос. 2016. Т. 26. № 5. - 282 с.

4 Мысль. 2016. № 21. - 186 с.

обоснование морали, как и ее существование, становятся проблематичными для когнитивных исследований.

Степень научной разработанности проблемы. Проблема обоснования морали в когнитивистике является многогранной, поскольку включает в себя как философские аспекты, так и фактологическую информацию, представленную другими науками. Поэтому имеющуюся на данный момент литературу можно условно разделить на 4 области: метакогнитивные исследования, свобода и детерминизм, сознание и тело, этические аспекты искусственного интеллекта.

Сразу оговоримся, что область когнитивистики воспринимается сейчас как «специфически англосаксонская традиция мысли»1, что, учитывая контингент авторов, является фактом. Тем не менее, исследование оснований когнитивистики привлекло и некоторых отечественных авторов, таких как Ю.М. Шилков, В.М. Аллахвердов, Л.В. Максимов, В.В. Васильев, И.В. Черникова, А.П. Беседин, Д.Б. Волков, Е.В. Логинов, О.В. Черкашина, М.А Секацкая и др.

Метакогнитивные исследования ищут философские основания когнитивистики как науки, которой предстоит объединить разные по методу и научным традициям дисциплины. Эти основания пытаются найти сами когнитивисты, такие как Пол Тагард, Джон Серл, Элвин Голдман и др. Будучи философами сознания, они в первую очередь ищут способ вписать мораль в материалистическую парадигму, смотря на нее только с точки зрения поведения и психических процессов и исходя из того, что такая позиция аксиоматически верна, а исследования естественных наук первичны по отношению к философскому анализу. То есть научное познание изначально, а затем начинается осмысление его результатов.

1 Джохадзе И.Д.. Аналитическая философия сегодня:кризис идентичности // Логос. 2016. Т. 26. № 5. С. 1

С противоположной стороны мы видим философскую позицию, исходящую из первичности философских категорий по отношению к экспериментальной области. Среди таких философов мы находим, например, Ю.М. Шилкова, В.М. Аллахвердова, Л.В. Максимова. Они, опираясь на многовековую историю философии, видят существование когнитивистики только в рамках когнитивизма, утверждающего познаваемость и объективность окружающего мира. Моральные суждения в когнитивизме также познаваемы и объективны, поскольку обладают свойствами истинности и ложности. Поскольку в этом суждении когнитивисты противостоят нонкогнитивистам, утверждающим, что моральные суждения обладают особым прескриптивным характером, не сводимым к фактическим утверждениям, доказательство тезиса когнитивистов спорно, а ведь именно доказательство верности позиции когнитивизма является способом обоснования существования морали в когнитивистике.

Свобода и детерминизм. Обоснование морали также связано с вопросом существования свободы, поскольку не свободное решение не является и моральным также. Доказательство свободы является проблематичным для когнитивного подхода, поскольку тенденция к абсолютизации экспериментальных естественнонаучных методов обязывает когнитивистов, таких как Дэниел Деннет и Элвин Голдман, Бенджамин Либет и Джон-Дилан Хайнес, Джон Серл, из отечественных авторов - В. В. Васильев, Л. В. Максимов - абсолютизировать и причинно-следственные связи, которые, по сути, являются предметом поиска в естественных науках. В то же время, как отмечает Ларс Свендсен, автор работы «Философия

свободы», отсутствие свободы воли является контринтуитивным1, поэтому наиболее распространенным подходом к вопросу свободы воли среди когнитивистов является компатибилизм, который сочетает каузальный детерминизм со свободой воли.

Сознание и тело. Свободный выбор не считается таковым, согласно Аристотелю, «поскольку [нравственная] добродетель связана со страстями и поступками... то при внимательном исследовании добродетели необходимо, вероятно, разграничить произвольное и непроизвольное; это могут использовать и законодатели, назначая награды и наказания. причем подневольным является тот поступок, источник которого находится вовне.»2. Иными словами: признаком свободы является то, что поступок контролируется действующим субъектом и зависит только от него. Этой же позиции придерживаются когнитивисты, фактически отождествляющие свободный выбор и сознательный. Такими авторами являются Дэниел Деннет и Пол Тагард, а также Питер Норвиг и Стюарт Рассел. Они предполагают, что сознание является одной из психических функций мозга, и функция его заключается в том, чтобы рассуждать рационально. Таким образом, мы видим еще одну пару отождествляемых понятий: сознательный выбор и рациональный. Именно рациональность - главное свойство свободного выбора, то есть взвешенного формальной логикой выбора из всех представленных на имеющийся момент вариантов, ведь если человек действует не рационально, он сумасшедший. Эту позицию критикует Джон Серл, утверждающий, что рациональность существует, но она не тождественна сознанию и что абсолютизация рациональности является

1 Свендсен Л. Философия свободы ресурс] / пер. с норвежского Воробьева Е., М.: Прогресс-Традиция, 2016. С. 6. - Режим доступа: http://www.litres.ru/pages/biblio_book/?art=18023499 (дата обращения: 24.10.2016)

2 Аристотель. Никомахова этика // Аристотель. Сочинения: в 4-х т. - М.: Мысль, 1983. Т. 4. С. 95

заведомо детерминистической, поскольку не оставляет человеку выбора поступить не сообразно с требованиями формальной логики.

Этические аспекты искусственного интеллекта тесно связаны с пониманием работы разума человека, поскольку целью его создания является добиться от машины человеческого уровня мышления или более высокого. В вопросе применения технологий ИИ и слабого (не обладающего разумом) ИИ, этическая проблематика заключается в вопросе применения людьми этих технологий: на кого ложиться ответственность за их ошибки? Как на человека, обладающего такими уникальными свойствами как мораль, сознание, творчество, могут повлиять технологические изменения собственного тела и разума? Эти вопросы обозревают Питер Норвиг и Стюарт Рассел, более глубокую оценку дают Марвин Минский и Ник Бостром и др.

Что касается моральности самого искусственного интеллекта, этот вопрос на данный момент является открытым, ведь, несмотря на существование очень развитых слабых ИИ (возьмем, например, тот факт, что машина уже прошла тест Тьюринга), они все же остаются слабыми, а мораль может проявлять только обладающий сознанием, а, следовательно, свободный и моральный субъект, будь то машина или человек. Тем не менее, вопрос о возможности существования морального ИИ был поставлен несколько раз, начиная с Алана Тьюринга1, и сохранился в опасениях вероятной угрозы человечеству со стороны сильного ИИ, выраженных в

Л

открытом письме об исследованиях и использовании ИИ . Суть этой угрозы заключается в том, что мышление сильного ИИ, несмотря на все попытки повторить человеческий разум, будет сильно отличаться, в первую очередь,

1 Тьюринг А.М. Может ли машина мыслить? [Электронный ресурс]. - М.: Государственное издательство физико-математической литературы, 1960. - 67 с. - Режим доступа: http://www.etheroneph.com/files/can_the_machine_think.pdf (дата обращения: 19.10.2015)

2 An Open Letter. Research priorities for robust and beneficial artificial intelligence. [Электронный ресурс]. -Режим доступа: http ://futureoflife.org/ai-open-letter/ (дата обращения: 18.10.2016)

в отношении морали, поэтому уже сейчас ведутся дебаты о том, как сделать сильный ИИ моральным. Самой распространенной точкой зрения, ставшей практически безусловной и аксиоматической классикой, являются четыре закона робототехники Айзека Азимова1, которые предлагается вписать в алгоритмы сильного ИИ. Альтернативной точкой зрения является концепция Элиезера Юдковского о дружественном искусственном интеллекте, который будет создан таким образом, чтобы хотеть предотвратить любой вред, наносимый человеку.

Объект исследования. Когнитивизм как этическое основание науки когнитивистики утверждает познаваемость и объективность морали, как и любых других феноменов. Это сводит на нет прескриптивную сущность морали, делая ее лишь дескриптивной. При таком подходе обоснование этики становится проблематичным. Именно противостояние, с одной стороны, прескриптивного характера морали, а с другой, требование познаваемости и объективности в когнитивистике, и является объектом данного исследования.

Предмет исследования. Предметом исследования в представленной диссертации является, во-первых, проблема существования свободы, как залога обоснования морали, при аксиоматической необходимости наличия объективных причинно-следственных связей в естественнонаучных исследованиях, образующих когнитивную науку, то есть защита идеи детерминизма. Во-вторых, этическая проблематика, возникающая при построении и изучении искусственного интеллекта, как одной из разделов когнитивистики.

Цели и задачи исследования. Целью работы является философско-этическое осмысление современной когнитивистики, анализ соотношения и

1 Азимов А. Хоровод //Черный столб. - М.: Знание 1963. - С. 150 - 169 и Азимов А. Роботы и империя. -М.: Эксмо, 2003

взаимосвязи этики и когнитивистики. Реализация данной цели требует решения следующих задач:

- описать основные характеристики когнитивистики, обозначить основные этико-философские проблемы, с которыми связана эта область знания;

- определить место и роль философии в когнитивистике и взаимоотношение с другими ее областями;

- выделить наиболее распространенные этические проблемы, которые затрагивают ученые когнитивисты в своих работах, и проанализировать основные предлагаемые способы решения этих проблем;

- рассмотреть этические проблемы искусственного интеллекта как одного из существенных направления исследований в когнитивистике.

Методологическая основа диссертации. При решении задач диссертационного исследования использовались следующие методологические приемы: метод сравнительного анализа, логико-смысловой подход к анализу текста. Принцип объективности способствовал непредвзятой оценке изучаемых источников.

Положения, выносимые на защиту.

1. Концепция строения разума, определяющего моральное поведение человека, в когнитивизме оказывается непоследовательной. Следуя теоретико-методологическим традициям естественнонаучным традициям изучения поведения, прежде всего, бихевиоризма, она предполагает ограничивать исследование наблюдаемыми феноменами. При этом когнитивизм с необходимостью признает некоторые ненаблюдаемые явления, например, само существование сознания.

2. Философия сознания, в рамках которой проводятся этические исследования и которая, по утверждению когнитивистов, является важной составляющей когнитивистики, фактически оказывается редуцируемой к

другим наукам, входящим в когнитивистику, прежде всего к психологии, нейронауке и лингвистике.

3. В области этики стремление к объективизации феноменов, связанных со свободой, делает этическую позицию когнитивистов детерминистической в физикалистско-натуралистическом понимании, в то время как интуитивная ценность свободы заставляет их искать обходные пути для признания свободы воли и обоснования компатибилизма.

4. Попытка отказа от философской базы и стремление дать ответы на фундаментальные морально-философские вопросы исключительно на экспериментальных основаниях делают эти исследования легким объектом для критики с позиции этики. При этом, многие идеи, которые позиционируются когнитивистами как новые, уже нашли отражение в истории философии и этики.

5. Предполагается, что одним из ключевых свойств «сильного искусственного интеллекта» является наличие у него возможных элементов морали. Проблема построения «машинной морали» заключается, во-первых, в рассмотрении ее когнитивистами только с физикалистско-натуралистической точки зрения, то есть без учета ее сущностных свойств. Во-вторых, проектировщики ИИ пытаются разработать одновременно и «машинный разум», аналогичный человеческому, и полезную для человека «машинную мораль», что является противоречием, поскольку свобода и сознательность человеческого разума не совместима с идеей изначальной пруденциальности в расчетливо-прагматическом смысле.

Структура работы. В первой главе «Основы когнитивистики» рассмотрен вопрос, что представляет собой когнитивистика, как целостная наука или комплекс наук: чем занимаются входящие в нее разделы, что привело к ее появлению, есть ли у нее единое понимание разума и какую методологию используют ее ученые для доказательства своих гипотез. Для выполнения этой задачи была проанализирована работа Пола Тагарда (Paul

Thagard), которая является признанным теоретико-методологическим введением в когнитивистику, раскрывает суть вычислительно-репрезентативного подхода к разуму и наиболее полно отражает современные тенденции в когнитивистике. Также были выделены черты и области, как объединяющие философию и когнитивистику, так и разделяющие их, основные позиции относительно их видения мира в целом и разума в частности. Основой для выполнения этой задачи послужило детальное и последовательное «Оксфордское руководство по философии когнитивной науки» (The Oxford Handbook of Philosophy of Cognitive Science).

В следующей главе «Этика и когнитивистика» мы перейдем к обзору именно этической проблематики, которую затрагивают ученые-когнитивисты. В первую очередь рассмотрим основные черты когнитивизма как этического подхода. Максимов Леонид Владимирович, доктор философских наук, профессор, автор многих работ по аналитической этике, в своих статьях проводит анализ когнитивизма и нонкогнитивизма, которому последуем и мы в этой главе.

Затем был проанализирован наиболее яркий и значимый для этики пример этического рассуждения в когнитивистике - вопрос свободы и детерминизма, поскольку свобода является залогом морали, то есть обоснованием ее существования. В первую очередь мы уделили внимание самому понятию свободы, чтобы увидеть, какие варианты развития изысканий на эту тему возможны. Всеобъемлющая и последовательная работа Ларса Свендсена «Философия свободы» ляжет в основу этой главы, чтобы осветить основные дискуссии, разворачивающиеся вокруг данной темы.

В качестве представителей когнитивизма рассмотрим идеи Б. Либета и Д.-Д. Хайнеса с их нейроэтическими экспериментами со свободой воли. На результаты их исследований ссылаются все современные авторы,

затрагивающие вопрос свободы воли, так как их изыскания являются прекрасным примером для нейроэтики.

В следующем параграфе «Компатибилизм Д. Деннета» мы перейдем к другой распространенной в когнитивных исследованиях концепции, концепции так называемого «мягкого детерминизма» или компатибилизма. Сторонником этого направления является известный философ сознания Дэниел Деннет. Ссылки на его труды можно найти практически у каждого ученого, который хоть как-то касается темы философии сознания. В своих работах он делает обзор разных видов свободы: с нейроэтической точки зрения, генетической и психоаналитической.

Закончим мы рассмотрение этих теорий анализом работ Джона Серла, который в своих книгах пытается проанализировать основные тенденции в современной когнитивистике и критикует своих коллег за применение физикалистского материализма как аксиоматического основания всех их философских изысканий. В конце этой главы путем анализа и сравнения мы постараемся выделить в когнитивных теориях общие для этики когнитивистики черты и тенденции.

В последней главе «Этические аспекты искусственного интеллекта» мы углубимся в отдельную область когнитивистики - искусственный интеллект (ИИ)1.

Для когнитивистики эта область чрезвычайно важна, ведь в ней аккумулируются результаты других наук для воспроизведения их в машинном разуме. Сначала мы определили, что подразумевается под термином «искусственный интеллект», рассмотрели историю его возникновения, указали причины, по которым его изучение с этической точки зрения важно.

1 Искусственный интеллект в контексте данной работы, как и в трудах многих современных когнитивистов, будет рассматриваться одновременно как продукт развития технологий, обладающий машинным разумом, так и в качестве дисциплины, целью которой является создание подобных машин.

Далее было проведено исследование философских проблем, лежащих в основании рассуждений об ИИ. Есть несколько вопросов, от решения которых зависит траектория ИИ как науки, но на которые на данный момент нет однозначного ответа. Возможно ли в принципе создать искусственный интеллект? Можно ли приравнять разум и очень качественную имитацию разума? Можно и нужно ли считать машинный интеллект моральным субъектом или моральным объектом? Возможно ли создать дружественный человеку искусственный интеллект? Если мы заменим части тела или мозга человека полностью или частично на искусственные детали, продолжит ли он быть человеком?

Этими вопросами впервые задался Алан Тьюринг в своей работе «Могут ли машины мыслить?». Как один из основоположников информатики, Тьюринг перечислил все встретившиеся ему на пути разработки идеи искусственного интеллекта аргументы против этой возможности. Мы проанализируем как саму работу, так и взгляды на нее современных ученых. Для этого мы применим анализ, проведенный в предыдущей главе данной диссертации, и попытаемся найти те же черты, которые мы выделили ранее.

От теоретических и философских оснований в данной диссертации совершен переход к самому распространенному и укрепившемуся на данный момент видению ИИ - видению С. Рассела и П. Норвига, которые занимаются не только исследованиями в этой области, но также являются и непосредственными разработчиками систем ИИ корпорации Google. Дополним их работу исследованием концепциии дружественного ИИ, разработанной американским исследователем Элиезером Юдковским.

Список литературы диссертационного исследования кандидат наук Новикова, Ольга Валерьевна, 2017 год

6. Список литературы

1. Автоматизированный перевод // Академика: [сайт]. URL: http://dic.academic.ru/dic.nsf/ruwiki/30223/Автоматизированный_перевод (дата обращения: 30.12.2016)

2. Адамс Д. Автостопом по Галактике. - М.: «АСТ», 1997. - 544 c.

3. Азимов А. Роботы и империя. - М.: Эксмо, 2003. - 480 с.

4. Азимов А. Хоровод //Черный столб. - М.: Знание, 1963. - С. 150-169

5. Алан Тьюринг // Rybochkin's Turing Machine.: [сайт]. URL: http: //turing.ru/en/#! /Turing (дата обращения: 05.01.2017)

6. Аллахвердов В.М.. Дилемма Радикальный взгляд на когнитивизм и сознание// Эпистемология и философия науки. - 2015. Т. 9. N 3. - С. 65-70.

7. Альтруизм // Электронная библиотека Института философии РАН // Новая философская энциклопедия: [сайт]. URL:http://iphlib.ru/greenst one3/library/collection/newphilenc/document/HASH6e4b309e60a1b122ebfc6e (дата обращения: 30.01.2017)

8. Аристотель. Никомахова этика // Аристотель. Сочинения: в 4 т. - М.: Мысль, 1983. - Т. 4. - С. 53-294

9. Аристотель. Политика // Аристотель. Сочинения в 4 т. Москва: Мысль, 1983. - Т. 4. - C. 376-644

10. Артемьева О.В. К вопросу о природе морали в философии Дэвида Юма // Этическая мысль. 2012. Т. 12. - С. 104-123.

11. Б. Ф. Скиннер и бихевиоризм: [сайт]. URL:http://www.skinner.psy4.ru/ (дата обращения: 04.01.2017)

12. Бердяев Н.А. Этическая проблема в свете философского идеализма // Бердяев Н.А. Sub specie aeternitatis. Опыты философские, социальные и литературные. - М.: Канон+, 2002. - 655 с.

13. Березин А. Мораль для роботов-убийц // Lenta.Ru (Лента.Ру). 19.02.2015. URL: https://lenta.ru/articles/2015/02/19/killerrobotethics/ (дата обращения: 27.12.2016).

14. Васильев В. В. В защиту классического компатибилизма // Вопросы философии. - 2016. N. 2. - 64-76 с.

15. Васильев В. В. Два тупика инкомпатибилизма // Логос. - 2016. Т. 26. N 5. - С. 175-200

16. Вестник Московского университета. Серия 7. Философия. 2015. № 6. -137 с.

17. Воронцов Н. Машины окончательно победили людей в го. 12.03.2016// N+1 Интернет-издание: [сайт]. URL: https://nplus1.ru/news/2016/03/12/last-resort (дата обращения: 20.01.2017)

18. Дарвин Ч. Происхождение человека и половой подбор. - СПб: Издание В. И. Губинского, 1908

19. Джохадзе И.Д.. Аналитическая философия сегодня:кризис идентичности // Логос. 2016. Т. 26. № 5. - С. 175-200

20. Доска почёта: роботы. 10 самых-самых // Мир фантастики. Ежемесячный журнал: [сайт]. URL: http://old.mirf.ru/Articles/art1618.htm (дата обращения: 20.01.2017).

21. Дружественный искусственный интеллект // Академика: [сайт]. URL: http://dic.academic.ru/dic.nsf/ruwiki/1375480 (дата обращения: 06.01.2017)

22. Дубровский Д. И. Нейрофилософия и проблема сознания // Философские науки. - 2015. N. 11. - 9-22 с.

23. Дубровский Д. И. Новое открытие сознания? (По поводу книги Джона Серла "Открывая сознание заново") [Электронный ресурс] // Вопросы

философии. - 2003. N 7. - С. 92-111. - Режим доступа: http://old.virtualcoglab.ru/html/ddi_2.html (дата обращения: 08.10.2015)

24. Индуктивистский позитивизм Джона Стюарта Милля // Цифровая библиотека по философии: [сайт]. URL: http://filosof.historic.ru/books/item/f00/s00/z0000007/st017.shtml (дата обращения: 10.12.2016)

25. Кант И. Критика чистого разума // Кант И. Сочинения: в 6 т. - М.: Мысль, 1964. Т. 3. - 67-694 с.

26. Кант И. Основы метафизики нравственности // Кант И. Сочинения: в 6 т. - М.: Мысль, 1964. Т. 4. Ч. 1. - 220-310 с.

27. Кант И. О педагогике / Собрание сочинений: в 8 т; под общей редакцией А.В. Гулыги. - М.: ЧОРО, 1994. - 8 т. - С. 399-462

28. Конт О. Курс положительной философии Т.1. - СПб.: Книжный магазин Т-ва "Посредник", 1900. - 302 с.

29. Кравченко С. А. ЛИБЕТ Бенджамин (Benjamin Libet): [сайт]. URL: http://centr.skravchenko.ru/index.htm/libet_Bendzhamin (дата обращения: 15.10.2014)

30. Лейбниц Г.В. Отрывки: в 4 т. Т.2 / редкол.: Б.Э. Быховский, Г.Г. Майоров, И.С. Нарский и др. - М.: Мысль, 1989. - 686 с.

31. Лем С. // Собрание сочинений в десяти томах.- М.:Текст, 1993 - Т.6.- С. 309-332

32. Лисанюк Е.Н., Перов В.Ю., Марков Б.В., Стребков А.И., Сунами А.Н. Философия ответственности. - СПб:Наука, 2014. - 255 с.

33. Лихи Т. История современной психологии. - СПб.: Питер, 2003. - 448с.

34. Логинов Е.В. Прагматическое истолкование свободы воли // Вестник Московского университета. Серия 7. Философия. - 2015. - N. 6. - 88-95 с.

35. Логос. 2016. Т. 26. N 5. - 282 с.

36. Лурье С. Я. Демокрит. Тексты. Перевод. Исследования. - Л.: Ленинградское отделение Издательства "Наука", 1970. - 664 с.

37. Максимов Л.В. Дилемма «естественности» и «неестественности» морального мотива // Этическая мысль. 2013. Т. 13. - С. 5-29.

38. Максимов Л.В. Когнитивизм и нонкогнитивизм / Энциклопедия эпистемологии и философии науки. - М.: Канон+, 2009. - 1248 с.

39. Милль Д. С. О свободе // О Свободе: Антология мировой либеральной мысли (I половиныХХ века). Москва: Прогресс-Традиция, 2000. - 288-392 с.

40. Минский М., Пейпер С. Персептроны. - М.: Мир. 1971. - 262 с.

41. Мишура А.С. Поле битвы — свобода воли // Логос. 2016. Т. 26. № 5. -С. 19-58

42. Мультиагентная система // Академика: [сайт]. URL: http://dic.academic.r u/dic.nsf/ruwiki/1048829 (дата обращения: 29.12.2016)

43. Мур Дж.Э. Принципы этики. - М.: Прогресс, 1984. - 327 с.

44. Мысль. 2016. № 21. - 186 с.

45. Области применения искусственных нейронных сетей: [сайт]. URL: http://www.neuropro.ru/neu7.shtml (дата обращения: 14.01.2017).

46. Пенроуз Р. Новый ум короля. — М.: Едиториал УРСС, 2003. — 339 с

47. Позитивизм О. Конта / Спиркин А.Г. Философия. - М.: Гардарики, 2006. - 736 с.

48. Проценко В. Падение последнего интеллектуального бастиона: действительно ли компьютер-шахматист сильнее человека? 26.06.2014 // Geektimes: [сайт]. URL: https://geektimes.ru/post/227679/ (дата обращения: 20.01.2017)

49. Радлов Э. Л. Этика // Радлов Э. Л. Этика. Очерк истории древнегреческой этики до Аристотеля. СПб.: Наука. - 2002. - 43-178 с.

50. Рахманинова М.Д. Кропоткин и Штирнер: современность как точка встречи полюсов анархизма // Вопросы философии. N 4, 2013. - С. 99-111

51. Робокоп // КиноПоиск: [сайт]. URL: https://www.kinopoisk.ru/film/7410/ (Дата обращения: 20.01.2017)

52. Свендсен Л. Философия свободы / пер. с норвежского Воробьева Е., М.: Прогресс-Традиция, 2016. - 264 с. [Электронный ресурс] - Режим доступа: http://www.litres.ru/pages/biblio_book/?art=18023499 (дата обращения: 24.10.2016)

53. Секацкая М.А. Физический детерминизм и свобода воли: картезианское решение // Философские науки, 2010. — N 10. — С. 65-80

54. Секацкая М.А. Этические идеалы, логические ограничения и проблема свободы // Вопросы философии, 2012. — N 2. — С. 81-91; Секацкая М.А. Res cogitans и Res extensa: проблема свободы. — Санкт-Петербург: Издательство Русской христианской гуманитарной академии, 2013. — 212 с.

55. Серл Дж. Открывая сознание заново / пер. с англ. А. Ф. Грязнова. - М.: Идея-Пресс, 2002. - 256 с.

56. Сёрль Дж. Рациональность в действии / пер. с англ. А. Колодия, Е. Румянцевой. - М.: Прогресс-Традиция, 2004. - 336 с.

57. Сид М. Какие вопросы можно задать Siri // iPhones.ru: [сайт]. 14.02.2016. URL: https://www.iphones.ru/iNotes/531284 (дата обращения: 11.01.2017).

58. Сирл Д. Разум мозга - компьютерная программа? // В мире науки. 1990. N. 3.- С. 7-13

59. Тагард П. Междисциплинарность: торговые зоны в когнитивной науке // Логос. - 2014. - N. 97. - C. 35-60

60. Турчин А. SIAI Рекомендации по созданию Дружественного ИИ // Российское Трансгуманистическое Движение: [сайт] 09.07.2008. URL: http://transhuman.ru/biblioteka/iskusstvennyi-intellekt/siai-rekomendatsii-po-soz (дата обращения: 06.01.2017)

61. Тьюринг А.М. Вычислительные машины и разум [Электронный ресурс] // Хофштадтер Д. Глаз разума. — Бахрах - М, 2003. - Режим доступа: https://bio.wikireading.ru/6066 (дата обращения: 27.12.2016)

62. Тьюринг А.М. Может ли машина мыслить? [Электронный ресурс]. -М. : Государственное издательство физико-математической литературы, 1960. - 67 с. - Режим доступа:

http://www.etheroneph.com/files/can_the_machine_think.pdf (дата обращения: 19.10.2015)

63. Ушакова Е.С. Проблема искусственного интеллекта в современном мире [Электронный ресурс] // Молодежный научно-технический вестник ФГБОУ ВПО "МГТУ им. Н.Э. Баумана". 2016. N. 07. - Режим доступа: file:///C:/Users/1/Downloads/%D0%A3%D 1 %88%D0%B0%D0%BA% D0%BE%D0%B2%D0%B0%20%D0%95.%D0%A1.pdf (дата обращения: 05.01.2017)

64. Философия Лейбница // Русская историческая библиотека: [сайт]. URL: http://rushist.com/index.php/philosophical-articles/2393-filosofiya-lejbnitsa-kratko (дата обращения: 04.01.2017)

65. Философский словарь / под ред. И.Т. Фролова. - М.: Политиздат, 1991. - 560 с

66. Фишер Д.М. Полукомпатибилизм и его соперники // Логос. 2016. Т. 26. № 5. - С. 131-174

67. Хель И. Впервые компьютер прошел тест Тьюринга. 09.06.2014 // Hi-News.ru: [сайт]. URL: https://hi-news.ru/robots/vpervye-kompyuter-proshel-test-tyuringa.html (дата обращения: 20.01.2017)

68. Хоружая А. Стимуляция мозга: потенциальная польза для психиатров. 18.12.2016 // Нейроновости: [сайт]. URL: http://neuronovosti.ru/non-invasive_brain_stimulation_and_-psychiatry/ (дата обращения: 30.12.2016).

69. Черкашина О.В. Понятия обладания свободой воли // Вестник Московского университета. Серия 7. Философия. - 2015. - N. 6. - 88-95 с.

70. Черникова И.В. Гуманистическая функция когнитивной науки в современном обществе [Электронный ресурс] // Вестник Томского государственного университета. - 2010. — Томск: ТГУ. — С. 200-203. -

Режим доступа: http://www.km.ru/referats/335059-gumanisticheskaya-funktsiya-kognitivnoi-nauki-v-sovremennom-obshchestve. (дата

обращения:13.10.2014).

71. Что такое "свобода воли", и нужна ли она человеку // Фактрум: [сайт]. URL: http://www.factroom.ru/science/ daniel-dennett-free-will (дата обращения: 10.01.2016).

72. Шилков Ю.М.. Язык, сознание, мозг: когнитивистская парадигма // Эпистемология и философия науки. - 2006. Т. 9. N 3. - С. 56-64.

73. Экперименты Бенджамина Либета со свободой воли, 2012: [сайт]. URL: http://mywisdom.ru/article/ekperimenty-bendzhamina-libeta-so-svobodoi-voli. (дата обращения: 15.10.14).

74. Эфроимсон В. П. Родословная альтруизма (этика с позиций эволюционной генетики человека) // Новый мир. - N. 10, 1971. - C.193-213

75. Юдин Б. Г. Сотворение человека // Вестник Российской академии наук. Т. 77. N6, 2007. - С. 520-527

76. Юм Д. Исследование о человеческом разумении. - М.: Прогресс, 1995. - 80 с.

77. Юм Д. Трактат о человеческой природе / Сочинения: в 2 т. - М.: Мысль, 1965. - 1 т. - С.42-677

78. An Open Letter. Research priorities for robust and beneficial artificial intelligence. [Электронный ресурс]. - Режим доступа: http://futureoflife.org/ai-open-letter/ (дата обращения:18.10.2016)

79. Anghelou A. Determinism or Free will? A cognitive behavioural perspective: [сайт]. URL: http://www.neurope.eu/kn/article/determinism-or-free-will-cognitive-behavioural-perspective (дата обращения: 13.10.2014)

80. Bostrom N. A. History of Transhumanist Thought [Электронный ресурс] // Journal of Evolution and Technology Vol. 14. Iss. 1. April 2005. P.1-25. - Режим доступа: http://www.jetpress.org/volume14/bostrom.pdf) (дата обращения: 30.12.2016)

81. Bostrom N. What is transhumanism? 2001: [сайт]. URL: http://www.nickbostrom.com/old/transhumanism.html (дата обращения: 30.12.2016)

82. Bourget D., Chalmers D. J. What Do Philosophers Believe? [Электронный ресурс] // Philosophical Studies. - 2014. N. 170. Vol. 3. - 40 p. - Режим доступа: https://philpapers.org/archive/BOUWDP (дата обращения: 15.01.2017)

83. Campbell A. The Senseo f Well-Beingin America. - New York: McGraw-Hill, 1981. 263 p.

84. Chalmers, D. A Computational Foundation for the Study of Cognition / The Journal of Cognitive Science. - 2011. - N 12. P.323-357.

85. Chomsky N. Syntactiс Structures. — The Hague: Mouton, 1957

86. Churchland P.S. Neurophilosophy. - Cambridge: MIT Press, 1986

87. Cognitive Science Society: [сайт]. URL:http://www.cognitivesciencesociety. org/description/ (дата обращения: 05.10.2015)

88. Connectionism // Stanford Encyclopedia of Philosophy: [сайт] URL: https://plato.stanford.edu/entries/connectionism/ (дата обращения: 13.02.2017)

89. Dennett D. C. On Failures of Freedom & the Fear of Science // Deadalus. MIT Press. - 2003. - Vol. 132. N. 6. - p. 126-130

90. Dennett D. C. The Part of Cognitive Science That Is Philosophy [Электронный ресурс] / Topics in Cognitive Science 1. - 2009. P. 231-236. -Режим доступа: https://ase.tufts.edu/cogstud/dennett/papers/tops_1015.pdf (дата обращения: 04.01.2017)

91. Fodor J. and Z. Pylyshyn, Connectionism and Cognitive Architecture: A Critical Analysis / Cognition - 1988. - N 28. P. 3-71.

92. Goldman A.I. Ethics and Cognitive Science // Ethics. Vol. 103. N. 2. 1993. 337-360 c.

93. Hristova E., Grinberg M. Should Robots Kill? Moral Judgments for Actions of Artificial Cognitive Agents / Proceedings of the EuroAsianPacific Joint Conference on Cognitive Science. 2015. 306-311 с.

94. John-Dylan Haynes: [сайт]. URL: http://www.informationphilosopher.com/solutions/scientists/haynes/ (дата обращения: 31.07.2016).

95. Libet B. Can Conscious Experience Affect Brain Activity? // Journal of Consciousness Studies. - 2003. - Vol. 10. N 12. - 24-28 p.

96. Libet B. Unconscious Cerebral Initiative and the Role of Cnonscious Will in Voluntary Action // The Behavioral and Brain Sciences. 1985. N. 8. - P. 529-566.

97. Longuet-Higgins, H. C. Comments on the Lighthill Report and the Sutherland Reply / «Lighthill Report: Artificial Intelligence: a paper symposium». Science Research Council (1973) - P. 35-37

98. Maguire P., Moser P., Maguire R. A clarification on Turing's test and its implications for machine intelligence / Proceedings of the EuroAsianPacific Joint Conference on Cognitive Science. - 2015. - 318-323 p.

99. Maguire P., Mulhall O., Maguire R., Taylor J. Compressionism: A Theory of Mind Based on Data Compression / Proceedings of the EuroAsianPacific Joint Conference on Cognitive Science. - 2015. - 294-299 p.

100. McLeod S. Freewill and Determinism in Psychology: [сайт]. URL: http://www.simplypsychology.org/freewill-determinism.html (дата обращения: 13.10.2014).

101. Mele A. Free Will: Action Theory Meets Neuroscience [Электронный ресурс] // Intentionality, Deliberation, and Autonomy: The Action-theoretic Basis of Practical. Ed. Lumer C. 2007. 31 p. - Режим доступа: http://www. summer12.isc.uqam. ca/page/docs/readings/Mele-Alfred/Mele.pdf (дата обращения: 04.01.2017)

102. Miller G. A. The cognitive revolution: a historical perspective [Электронный ресурс] / Trends in Cognitive Sciences - Vol.7 N.3 March 2003. Режим доступа: http://www.cs.princeton.edu/~rit/geo/Miller.pdf (дата обращения: 13.02.2017). - P. 141-144

103. Minsky M. L. Will Robots Inherit the Earth?: [сайт]. URL: http://web.media.mit.edu/~minsky/papers/sciam.inherit.html (дата обращения: 29.12.2016)

104. Nair R., Graves M., Reimer K.S., Brown W.S., Quartz S., Peterson G.R., Schümann D., Gläscher J., Spezio M. A Self for Others: Joint Self-Other Representation of Value During Morally Relevant Action / Proceedings of the EuroAsianPacific Joint Conference on Cognitive Science. 2015. 330-334 c.

105. Negnevitsky M. Artificial Intelligence: A Guide to Intelligent Systems. -Pearson Education Limited, 2005. 415 p.

106. Plantinga A. God, freedom, and evil. Wm. B. Eerdmans Publishing, 1974. -112 p

107. Ponto A. The Liar's Paradox as a Turing Test In "Westworld" 03.10.2016 // Artboiled: [сайт]. URL: http://www.artboiled.com/2016/the-liars-paradox-as-a-turing-test-in-westworld/ (дата обращения: 20.01.2017).

108. Preliminary Draft Report of Comest on Robotics Ethics: [preliminary repot; Электронный ресурс]. - World Comission on the Ethics of Scientific Knowledge and Technology (COMEST), 5 August 2016 - 31. p. - Режим доступа: http://unesdoc.unesco.org/images/0024/002455/245532E.pdf (дата обращения: 27.12.2016)

109. Psillos S., Curd M. The Routledge Companion to Philosophy of Science. -Routledge, 2008. - 619 p.

110. Rigoni D., Kuhn S., Sartori G., Brass M. Inducing Disbelief in Free Will Alters Brain Correlates of Preconscious Motor Preparation: The Brain Minds whether We Believe in Free Will or Not // Psychological Science, 2011. N. 5. -613-618 с.

111. Russell S., Dewey D., Tegmark M. Research priorities for robust and beneficial artificial intelligence [Электронный ресурс] // AI Magazine. - 2015. P.112. - Режим доступа:

http : //futureoflife. org/data/documents/research_priorities. pdf. (дата

обращения:18.10.2016)

112. Russsell S. J., Norvig P. Artificial Intelligence: A Modern Approach -Prentice Hall, 2010. - 1132 p.

113. Sammons A. The cognitive approach: the basics: [сайт] URL: http://www.psychlotron.org.uk/newresources/approaches/as_aqb_approaches_cog nitivebasics.pdf (дата обращения: 13.10.2014)

114. Samuels R., Margolis E., Stich S.P. Introduction: Philosophy and Cognitive Science [Электронный ресурс] // The Oxford Handbook of Philosophy of Cognitive Science. - Режим доступа:

http://www.oxfordhandbooks.com/view/10.1093/oxfordhb/9780195309799.001.0 001/oxfordhb-9780195309799-e-1 (дата обращения: 01.11.2016)

115. Siri: [сайт]. URL: https://www.iphones.ru/iNotes/531284 (дата обращения: 11.01.2017).

116. Smith K. Neuroscience vs Philosophy: Taking Aim at Free Will // Nature: [сайт]. URL: http://www.nature.com/news/2011/110831/full/477023a.html (дата обращения: 31.07.2016)

117. Soon C. S., Brass M., Heinze H.-J., Haynes J.-D. Unconscious Determinants of Free Decisions in the Human Brain [Электронный ресурс] // Nature Neuroscience. - 2008. - N. 11. - Режим доступа: http://www.rifters.com/real/articles/NatureNeuroScience_Soon_et_al.pdf (дата обращения: 31.07.2016).

118. Soon C. S., Hanxi He A., Bode S., Haynes J.-D. Predicting Free Choices for Abstract Intentions [Электронный ресурс]. // Proceedings of the National Academy of Sciences of the United Stated of America. - 2013. - N. 110 - p. 6217-6222. -Режим доступа: http://www.pnas.org/content/110/15/6217.full.pdf. (дата обращения: 31.07.2016).

119. Strack F., Argyle M., Schwarz N. Happiness and Reminiscing: The Role of Time Perspective, Mood, and Mode of Thinking // Journal of Personality and Social Psychology, 1985. Vol. 49. N. 46. - 1460-69 p.

120. Thagard P. Cognitive science [Электронный ресурс]. - July 10, 2006. -p. 21. - Режим доступа: http://cogsci.uwaterloo.ca/Articles/cognitive-science.routledge.pdf. (дата обращения: 10.01.2017)

121. Thagard P. Cognitive Science. [сайт]. URL: http://plato.stanford.edu/entries/cognitive-science/ (дата обращения: 13.10.14)

122. Thagard, P. Mind: Introduction to Cognitive Science. - Cambridge: The MIT Press, 2005. - 266 с.

123. Walker M. Prolegomena to Any Future Philosophy [Электронный ресурс] // Journal of Evolution and Technology Vol. 10.March 2002. . - Режим доступа: http://www.jetpress.org/volume10/prolegomena.html (дата обращения: 20.01.2017)

124. Yudkowsky E. Coherent Extrapolated Volition [Электронный ресурс] // Machine Intelligence Research Institute. 2004. 37 p. - Режим доступа:: https://intelligence.org/files/CEV.pdf (дата обращения: 06.01.2017)

125. Yudkowsky E. Humor: GURPS Friendly AI //LessWrong: [сайт]. URL: http://lesswrong.com/r/all/lw/gkh/humor_gurps_friendly_ai/ (дата обращения: 06.01.2017).