Уголовно-правовая охрана общественных отношений, связанных с робототехникой тема диссертации и автореферата по ВАК РФ 12.00.08, доктор наук Бегишев Ильдар Рустамович

• Бегишев Ильдар Рустамович
• доктор наук
• 2022

Оглавление диссертации доктор наук Бегишев Ильдар Рустамович

ВВЕДЕНИЕ

РАЗДЕЛ 1. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ УГОЛОВНО-ПРАВОВОЙ ОХРАНЫ ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ

С РОБОТОТЕХНИКОЙ

ГЛАВА 1. Системообразующие начала уголовно-правовой охраны

общественных отношений, связанных с робототехникой

§ 1.1. Понятие и содержание уголовно-правовой охраны общественных

отношений, связанных с робототехникой

§ 1.2. Социальная обусловленность и запрос на уголовно-правовую

охрану общественных отношений, связанных с робототехникой

§ 1.3. Пределы уголовно-правовой охраны общественных отношений,

связанных с робототехникой

§ 1.4. Применение риск-ориентированного подхода к уголовно-правовой охране общественных отношений, связанных с робототехникой

ГЛАВА 2. Робототехника как феномен, значимый для уголовного

права

§ 2.1. Определение понятий «робот» и «робототехника»

§ 2.2. Сущность робототехники как феномена, значимого для уголовного права

§ 2.3. Концепция правового регулирования робототехники как феномена, значимого для уголовного права

РАЗДЕЛ 2. ПРЕСТУПЛЕНИЯ, СВЯЗАННЫЕ С УПРАВЛЯЕМОЙ

РОБОТОТЕХНИКОЙ

ГЛАВА 3. Уголовная ответственность за преступления, посягающие на цифровую безопасность роботов

§ 3.1. Уголовная ответственность за захват управления робота

§ 3.2. Уголовная ответственность за создание цифрового кода компьютерной программы робота с заведомо внесенными уязвимостями и робота с недекларируемыми возможностями

§ 3.3. Уголовная ответственность за нарушение правил создания, эксплуатации и ремонта роботов либо иного взаимодействия с ними

ГЛАВА 4. Уголовная ответственность за преступления, совершаемые в сфере оборота роботов

§ 4.1. Уголовная ответственность за создание и (или) распространение

роботов, предназначенных для совершения преступления

§ 4.2. Уголовная ответственность за незаконные создание, распространение, приобретение или применение вооруженных роботов

РАЗДЕЛ 3. ПРЕСТУПЛЕНИЯ, СВЯЗАННЫЕ С АВТОНОМНОЙ

РОБОТОТЕХНИКОЙ

ГЛАВА 5. Перспективы уголовно-правовой охраны общественных

отношений, связанных с автономными роботами

§ 5.1. Проблема определения правосубъектности автономных

роботов

§ 5.2. Перспективная модель реакции государства на факт причинения вреда охраняемым уголовным законом общественным отношениям в процессе функционирования автономных роботов

ГЛАВА 6. Уголовно-правовое противодействие обороту автономных вооруженных роботов

§ 6.1. Автономные вооруженные роботы как потенциальная угроза

для мира и безопасности человечества

§ 6.2. Уголовно-правовые риски применения автономных вооруженных

роботов

§ 6.3. Уголовная ответственность за создание, распространение или

использование автономных вооруженных роботов

ЗАКЛЮЧЕНИЕ

СПИСОК СОКРАЩЕНИЙ И УСЛОВНЫХ ОБОЗНАЧЕНИЙ

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

ПРИЛОЖЕНИЯ

Приложение № 1. Предложения по совершенствованию уголовного законодательства, охраняющего общественные отношения, связанные

с управляемой робототехникой

Приложение № 2. Перспективные предложения по совершенствованию уголовного законодательства, охраняющего общественные отношения,

связанные с автономной робототехникой

Приложение № 3. Структура проекта федерального закона «Об обороте роботов, их составных частей (модулей)»

Приложение № 4. Пояснительная записка к проекту федерального закона «Об обороте роботов, их составных частей (модулей)»

Приложение № 5. Проект федерального закона «Об обороте роботов,

их составных частей (модулей)»

Приложение № 6. Анкета социологического опроса на тему «Уголовно-правовая охрана общественных отношений, связанных с робототехникой»491 Приложение № 7. Таблица результатов социологического опроса на тему «Уголовно-правовая охрана общественных отношений, связанных

с робототехникой»

Приложение № 8. Диаграммы результатов социологического опроса на тему «Уголовно-правовая охрана общественных отношений, связанных

с робототехникой»

Приложение № 9. Сведения о зарегистрированных в Российской Федерации преступлениях в сфере компьютерной информации

Приложение № 10. Сведения о зарегистрированных в Российской

Федерации преступлениях, предусмотренных ст. 272 УК РФ

Приложение № 11. Сведения о зарегистрированных в Российской

Федерации преступлениях, предусмотренных ст. 273 УК РФ

Приложение № 12. Сведения о зарегистрированных в Российской

Федерации преступлениях, предусмотренных ст. 274 УК РФ

Приложение № 13. Сведения о зарегистрированных в Российской Федерации преступлениях, предусмотренных ст. 2741 УК РФ

Введение диссертации (часть автореферата) на тему «Уголовно-правовая охрана общественных отношений, связанных с робототехникой»

ВВЕДЕНИЕ

Актуальность темы диссертационного исследования. Технологии, лежащие в основе Индустрии 4.0, влекут коренные изменения во всех отраслях человеческой деятельности. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы успешно применяются в промышленности и строительстве, в здравоохранении и образовании, в быту, в сельском и жилищно-коммунальном хозяйствах, в военной и космической областях, а также в других сферах. Одновременно они создают значительные и все возрастающие риски для охраняемых уголовным законом общественных отношений.

По данным Международной федерации робототехники (далее - IFR), количество промышленных роботов на сегодняшний день достигло невиданных масштабов - 3 млн штук, что на 10 % больше, чем в 2020 году1. В 2021 году на 12 % возросло и использование сервисных роботов по всему миру2. Более 73 % глобальных установок роботов сосредоточено в пяти странах (Китайская Народная Республика, Государство Япония, Республика Корея, Федеративная Республика Германия и Соединённые Штаты Америки (далее - США))3. Россия сегодня находится во втором эшелоне стран по использованию промышленных роботов, однако разрыв стремительно сокращается.

Согласно информации Национальной Ассоциации участников рынка робототехники (далее - НАУРР), в 2021 году российский рынок робото-

1 World Robotics 2021 Industrial Robots. URL: https://ifr.org/ifr-press-releases/news/ robot-sales-rise-again (дата обращения: 10.01.2022).

2 World Robotics 2021 Service Robots. URL: https://ifr.org/ifr-press-releases/news/ service-robots-hit-double-digit-growth-worldwide (дата обращения: 10.01.2022).

3 World Robotics 2021 Industrial Robots. URL: https://ifr.org/ifr-press-releases/news/ robot-sales-rise-again (дата обращения: 10.01.2022).

техники насчитывает 170 производителей промышленных роботов1 и 270 компаний-разработчиков профессиональных сервисных роботов2. Планируется, что к 2024 году указанный сегмент робототехники возрастет почти вдвое - до 17,4 млрд руб.3.

Инновационные технологии создания и производства роботов демонстрируют экспоненциальное развитие: создаваемые машины приобретают новые характеристики, существенно расширяющие их функционал, ввиду чего разрабатываемые и перспективные роботы могут выпадать из правового поля, не являясь тождественными какому-либо предмету, признаваемому в качестве объекта соответствующих правоотношений. Уже сейчас создание, разработка и использование различных робототехнических устройств является объективной реальностью. При этом роботы перманентно видоизменяются, расширяя пределы своих функциональных возможностей, чем сообразно изменяют характер, формы, методы, средства и способы взаимодействия человека с ними.

Устойчивое и безопасное развитие робототехники является важной государственной задачей, успешная реализация которой позволит России открыть новые экономические рынки, изменить в свою пользу сложившиеся мировые торгово-финансовые отношения. Указанные процессы диктуют необходимость создания контрольно-надзорных механизмов за действиями роботов и охраны общественных отношений, возникающих на этапах их создания и функционирования.

Дистанцирование от вопросов правового, в том числе государственно -запретительного воздействия на общественные отношения, порожденные

1 Карта российского рынка промышленной робототехники. URL: http://www.tad-viser.ru/index.php/Статья:Карта_российского_рынка_промышленной_робототехники (дата обращения: 10.01.2022).

2 Карта сервисной робототехники впервые выпущена в России. URL: https://robotunion.ru/tpost/z6i3 smsu41 -karta-servisnoi-robototehniki-vpervie-vi (дата обращения: 10.01.2022).

3 Минкомсвязь: рынок робототехники в России в 2024 году вырастет вдвое. URL: https://ria.ru/20191014/ 1559747112.html?utm_source=yxnews&utm_medium=desktop&utm_re ferrer=https%3A%2F%2Fyandex.ru%2Fnews (дата обращения: 10.01.2022).

роботами, представляются деструктивным вектором, влекущим деактуализацию правовых предписаний, снижение их эффективности. Изменения в структуре и характере общественных отношений, вызванные внедрением в них робототехнических технологий, должны находить адекватное и соответствующее социальной действительности отражение в нормативных правовых актах, включая уголовное законодательство.

В случае запаздывая процессов трансформации правовых предписаний возможно возникновение криминальных областей разработки, производства и применения роботов. Подобное положение представляет собой объективную угрозу.

Совершенно справедливы слова Президента Российской Федерации В. В. Путина о том, что необходимо «обеспечить использование прорывных цифровых технологий для осуществления национальных целей, преображения России и укрепления ее позиций в мире»1.

Утверждение 19 августа 2020 года распоряжением Правительства Российской Федерации Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года2 ознаменовало новый этап в регулировании сквозных цифровых технологий. Принятие Концепции наряду с Национальной стратегией развития искусственного интеллекта до 2030 года3 стало признанием российским обществом и правительством серьезных вызовов и угроз, которые возникли и продолжают расти с развитием технологий искусственного интеллекта и робототехники, что ставит важную задачу перед правовой системой в целом и уголовным правом в частности.

1 Конференция по искусственному интеллекту. В. В. Путин в режиме видеоконференции принял участие в основной дискуссии конференции по искусственному интеллекту Artificial Intelligence Journey (AI Journey 2020) на тему «Искусственный интеллект - главная технология XXI века». 4 декабря 2020 года. URL: http://www.kremlin.ru/ events/president/news/64545 (дата обращения: 10.01.2022).

2 Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р // Собрание законодательства Российской Федерации. 2020. № 35. Ст. 5593.

3 Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700.

Таким образом, перед наукой уголовного права возникает задача особой значимости - обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники. Немаловажную роль в указанных процессах занимает также проработка механизмов уголовной ответственности за причинение вреда с использованием робототехники1.

Робототехника, будучи сквозной цифровой технологией, содержит существенные риски и угрозы. И тому есть объективные подтверждения. Последние пять лет все больше стран стали заявлять об использовании роботов в военных целях, не исключением является и Российская Федерация2. Особую озабоченность подобные инциденты вызывают в свете растущей автономности роботов от человека.

Общественные, международные организации и межгосударственные объединения призывают ограничить оборот автономных роботов в военных целях, поскольку это создает прямую угрозу соблюдению принципов защиты прав и свобод человека и гражданина, обеспечению безопасности личности, общества и государства. И если экспертами делались прогнозы о том, что угроза автономной робототехники для человеческих ценностей станет реальной в ближайшие 20-25 лет, то реальность, к сожалению, диктует свои правила. В мае 2021 года широкой публике был представлен Доклад группы экспертов Совета Безопасности Организация Объединенных Наций по Ливии, где отмечалось, что впервые в истории боевой робот самостоятельно выследил и уничтожил человека по собственной инициативе и без участия оператора3.

Немало рисков для охраняемых уголовным законом общественных отношений несет использование роботов в преступных целях.

1 Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р // Собрание законодательства Российской Федерации. 2020. № 35. Ст. 5593.

2 Шойгу заявил о создании в России боевых роботов. URL: https://turbo.gazeta.ru/-army/news/2021/05/21/16005926.shtml (дата обращения: 10.01.2022).

3 Отчёт ООН: впервые в истории боевой робот выследил и ликвидировал бойца без команды оператора. URL: https://topwar.ru/183548-otchet-oon-vpervye-v-istorii-boevoj-robot-vysledil-i-likvidiroval-bojca-bez-komandy-operatora.html (дата обращения: 10.01.2022).

Правоприменению были известны случаи, когда роботы стали задействоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ1.

В связи с этим необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов при совершении преступлений. Обозначенное необходимо для своевременного конструирования уголовно-правовых механизмов установления ответственности за причинение вреда, связанного с использованием роботов.

Необходимость полной, своевременной и достаточной защиты охраняемых уголовным законом объектов делает обязательным построение системы уголовно-правовой охраны отношений, связанных с робототехникой. Составляющие ее меры и инструменты закладывают основу безопасности личности, общества и государства от соответствующих общественно опасных деяний.

Проведенное исследование позволяет прийти к выводу о необходимости проведения комплексного изучения и построения моделей уголовно-правовой охраны общественных отношений, связанных с робототехникой, и, следовательно, свидетельствует об актуальности избранной темы диссертационного исследования.

Диссертация соответствует приоритетному направлению развития науки в Российской Федерации «Робототехнические комплексы (системы) военного, специального и двойного назначения»2, утвержденному Указом Президента Российской Федерации от 7 июля 2011 г. № 899 (в редакции

1 В Токио местные банды стали перевозить по городу наркотики с помощью дронов. URL: https://pikabu.ru/story/v_tokio_mestnyie_bandyi_stali_perevozit_po_gorodu_ narkotiki_s_po-moshchyu_dronov_6441376 (дата обращения: 10.01.2022).

2 Указ Президента Российской Федерации от 7 июля 2011 г. № 899 «Об утверждении приоритетных направлений развития науки, технологий и техники в Российской Федерации и перечня критических технологий Российской Федерации» // Собрание законодательства Российской Федерации. 2011. № 28. Ст. 4168.

от 16 декабря 2015 г. № 6231). Она прямо реализует положения Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года2, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, в том числе в части проработки механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники. В числе задач регулирования отношений в указанной области данный документ называет «определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»3, которая безусловно имеет отношение и к сфере уголовного права.

Степень научной разработанности темы диссертационного исследования. Особую актуальность избранной темы исследования придает отсутствие в правовом пространстве системного и комплексного подхода к уголовно-правовой охране общественных отношений, связанных с робототехникой. На сегодняшний день отсутствуют диссертационные исследования и монографии, посвященные решению проблем теории уголовного права, отмеченных при обосновании актуальности темы. В то же время следует отметить, что в отечественной и зарубежной правовой доктрине отдельные, частные проблемы охраны и регулирования робототехники и искусственного интеллекта уже поднимались.

Весомый вклад в разработку вопросов уголовно-правовой охраны в разное время внесли труды В. К. Бабаева, А. Г. Блинова, Е. В. Бондаренко, Л. А. Букалеровой, В. Н. Винокурова, Л. Д. Гаухмана, Н. В. Генриха, Ю. В. Голика, А. П. Дьяченко, Ю. С. Жарикова, Л. Р. Клебанова, В. С. Комиссарова, А. И. Коробеева, В. Н. Кудрявцева, Н. Ф. Кузнецовой, В. В. Лу-

1 Указ Президента Российской Федерации от 16 декабря 2015 г. № 623 «О Национальном центре развития технологий и базовых элементов робототехники» // Собрание законодательства Российской Федерации. 2015. № 51 (часть III). Ст. 7313.

2 Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р // Собрание законодательства Российской Федерации. 2020. № 35. Ст. 5593.

3 Там же.

неева, С. В. Mаксимова, В. В. Mальцева, А. В. Наумова, Г. П. Новоселова, С. С. Пирвагидова, Ю. В. Пудовочкина, Б. Т. Разгильдиева, С. В. Расторопо-ва, А. Н. Сайгашкина, В. И. Тюнина, И. M. Тяжковой и др.

Из зарубежных ученых подобные проблемы исследовали Аббас Фадхил Саид (Abbas Fadhil Saeed), Эльс Де Буссер (Els De Busser), Харальд Арнольд (Harald Arnold), Жасмин Чосич (Jasmin Cosic), Джессика Ян (Jessica Jahn), Джулия Кассельт (Julia Kasselt), Mайкл Килчлинг (Michael Kilchling), Mирей Хильдебрандт (Mireille Hildebrandt), Нандор Кнуст (Nandor Knust), Роли Лэй (Raleigh Lay), Томас Валь (Thomas Wahl), Юаньли Ли (Yuanli Li), Тобиас Сингелнштейн (Tobias Singelnstein), Василики Халкиадаки (Vasiliki Chalkiadaki) и др.

Проблемы установления уголовной ответственности за преступления, совершенные с использованием робототехники и искусственного интеллекта, а также уголовной ответственности роботов и искусственного интеллекта, рассматривались в трудах таких ученых-правоведов, как С. А. Аверинская, В. В. Берггольц, В. Ф. Васюков, А. И. Видергольд, П. В. Волосюк, А. А. Вол-чкова, Э. В. Густова, Н. Л. Денисов, Р. А. Забавко, Е. С. Иликбаева, А. Г. Ки-бальник, M. С. Кириенко, M. M. Лапунин, В. Н. Некрасов, И. К. Русинова, А. А. Севостьянова, И. А. Семенцова, А. А. Сокова, А. И. Фоменко, З. И. Хи-самова, А. Р. Хисматова и др.

Среди зарубежных авторов вышеуказанные проблемы рассматривали Габриэль Халлеви (Gabriel Hallevy), Джина Ри (Gina Rhee), Гинтаре Сирбиките (Gintarè Sirbikytè), Юргита Григене (Jurgita Grigienè), Джон Кингстон (John Kingston), Карел Недбал (Karel Nedbálek), Mария Каяфа-Гбанди (Maria Kaiafa-Gbandi), Mоника Симмлер (Monika Simmler), Нора Mарквальдер (Nora Markwalder), Нора Османи (Nora Osmani), Александр Радутный (Oleksandr Radutniy), Паулюс Черка (Paulius Cerka), Питер Асаро (Peter Asaro), Ризки Хабибула (Rizki Habibulah), Рофи Рахман (Rofi Rahman), Сима Mукерджи (Seema Mukherjee), Сонджо Ан (Seongjo Ahn), Юнг Чхоль Юн (Young Cheol Yoon) и др.

Уголовно-правовые риски в сфере цифровой экономики, в том числе связанные с разработкой и применением беспилотных транспортных средств (далее - БПТС), беспилотных летательных аппаратов (далее - БПЛА) и беспилотных воздушных судов (далее - БПВС), систем искусственного интеллекта, робототехники и иных цифровых технологий исследовались в трудах А. А. Арямова, Д. Д. Берсей, Л. А. Букалеровой, А. В. Бычкова, А. M. Бычковой, З. В. Валиева, Я. В. Гайворонской, З. В. Галазовой, Ю. В. Грачевой, Е. А. Ерахтиной, M. А. Ефремовой, С. А. Иванова, M. А. Иващенко, Н. Ш. Козаева, А. И. Коробеева, А. Г. Корчагина, С. M. Ко-чои, В. Н. Куфлевой, M. В. Лебедева, T. M. Лопатиной, Р. В. Лысенко, С. В. Mаликова, А. Ю. Mамычева, О. И. Mирошниченко, Н. Л. Назаровой, Е. А. Русскевича, А. В. Серебренниковой, Э. Л. Сидоренко, Д. В. Соболева, А. П. Суходолова, В. А. Tирранен, T. Н. Уторовой, В. В. Фирсова, А. Ю. Чуп-ровой, А. И. Чучаева, А. А. Шутовой, А. А. Яковенко, Е. О. Яковлевой и др.

В числе зарубежных ученых рассматриваемые риски исследовали Алан Вагнер (Alan Wagner), Энтони Гиллеспи (Anthony Gillespie), Бартош Брожек (Bartosz Brozek), Кристоф Бартнек (Christoph Bartneck), Кристоф Лютге (Christoph Lütge), Кристиан Пинтер (Krisztian Pinter), Mарек Якубец (Marek Jakubiec), Mайкл Новатковски (Michael Nowatkowski), Пол Mаксвелл (Paul Maxwell), Ричард Эпштейн (Richard Epstein), Райли Джон (Riley John), Шон Уэлш (Sean Welsh), Стив Хейлз (Steve Hailes), Жолт Салай (Zsolt Szalay) и др.

Робот и искусственный интеллект как субъект преступления, предмет преступления или средство совершения преступления рассматривались в работах таких исследователей, как: В. А. Ализаде, А. Г. Волеводз, Р. И. Дремлюга, А. О. Клунейко, Р. Н. Ключко, И. Н. Mосечкин, Н. Ю. Попова, А. А. Tурышев, В. А. Шестак и др.

Среди зарубежных авторов эту проблему исследовали Эми Карофски (Amy Karofsky), Дональд Mаксим (Donald Maxim), Харшит Tриведи (Harshit Trivedi), Цзяхуэй Гао (Jiahui Gao), Джой Ван (Joy Wang), Кейт Хейворд (Keith

Hayward), Mэри Литч (Mary Litch), Mаттис Mаас (Matthijs Maas), Mинго Хуанфу (Mingguo Huangfu), Пейдж Браун (Paige Brown), Родерик Бродхерст (Roderic Broadhurst), Ян Чжао (Yang Zhao), Чжу Хуэйцинь (Zhu Huiqin) и др.

Юридической ответственности за применение смертоносных автономных систем вооружения посвящены научные исследования российских ученых, таких как: И. В. Балканов, С. Г. Верещагин, Я. В. Гайво-ронская, И. Н. Глебов, E. E. Королькова, В. Б. Козюлин, Д. А. Петрова, О. П. Сибилева, А. Ю. Скуратова, В. Н. Старцун, О. В. Тиханычев, А. Г. Чернявский и др.

Из иностранных авторов аналогичные проблемы исследовали Аджей Леле (Ajey Lele), Алонсо Гурменди Дункельберг (Alonso Gurmendi Dunkelberg), Амандип Гилл (Amandeep Gill), Энн Гердес (Anne Gerdes), Кристофер Койн (Christopher Coyne), Душан Немец (Dusan Nemec), Жерар де Буабуассель (Gerard de Boisboissel), Йозеф Хрбчек (Jozef Hrbcek), Каролина Завиеска (Karolina Zawieska), Mэлаки Итон (Malachy Eaton), Mариан Хрубош (Marian Hrubos), Mихал Грегор (Michal Gregor), Рауль Сальгадо Эспиноза (Raúl Salgado Espinoza), Ричард Армитаж (Richard Armitage), Рональд Аркин (Ronald Arkin), Войтех Шимак (Vojtech Simák), Яхья Альшами (Yahya Alshamy) и др.

Теоретические проблемы ответственности за причинение вреда действиями робота и объектами с искусственным интеллектом посвящены научные труды таких ученых, как: Н. Н. Апостолова, К. О. Беляков, В. В. Берггольц, П. Н. Бирюков, А. А. Васильев, E. Л. Венгеровский, M. Б. Добробаба, О. С. Eрахтина, Т. С. Заплатина, E. Н. Ирискина, К. С. Кондратьева, В. А. Лаптев, А. В. Mартынов, M. А. Mельничук, С. Г. Павликов, И. С. Павлов, С. В. Салтанова, E. А. Свиридова, О. Р. Скопенко, А. E. Федюнин, И. А. Филиппов, E. Ю. Цуканова, Д. В. Ченцова и др.

Из числа зарубежных авторов, в работах нижеследующих: Аманда Свенсон (Amanda Swanson), Анна Конерт (Anna Konert), Кэролайн Коффман (Caroline Cauffman), Фазал Хан (Fazal Khan), Янно Лахе (Janno Lahe),

Джон Байерс (John Buyers), Луис Франко (Luis Franco), Mатеуш Котлински (Mateusz Kotlinski), Нгуен Tхи Фуонг Чам (Nguyen Thi Phuong Cham), Райли Джон (Riley John), Tайво Лийвак (Taivo Liivak) и др.

В то же время исключительное значение для решения поставленных в диссертации задач имеют работы исследователей других отраслей права, а также философии, социологии и психологии.

Особую роль в становлении и развитии отечественной системы правового регулирования технологий искусственного интеллекта и робототехники сыграли труды ученых-правоведов, экспертов исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо» В. В. Архипова, В. Б. Наумова и А. В. Незнамова.

Сущность искусственного интеллекта и механизмы его правового регулирования исследовались в работах отечественных ученых: П. П. Баранова, Д. В. Бахтеева, В. В. Блажеева, А. В. Боковой, M. А. Егоровой, M. В. За-лоило, И. А. Зырянов, Р. С. Ибрагимова, А. А. Карцхия, С. Ю. Кашкина, Д. В. Кирпичникова, Э. Ю. Латыповой, А. В. Mинбалеева, О. И. Mирошни-ченко, П. M. Mорхата, А. В. Понкина, Н. Ф. Поповой, Д. В. Пономаревой,

A. И. Редькиной, Г. Ф. Ручкиной, В. Н. Синельникова, Д. В. Смолина, О. Э. Старовойтовой, Е. Д. Сурагиной, Э. В. Tалапиной, И. А. Филиповой,

B. А. Фулина, Е. В. Холодной, К. С. Яковлева и др.

В числе зарубежных авторов этой темой занимались: Агус Рахарджо (Agus Raharjo), Альжбета Краусова (Alzbeta Krausová), Азиз Хук (Aziz Huq), Кристофер Филлип Стивен Mарку (Christopher Phillip Stephen Markou), Дирк Вейел (Dirk Veiel), Элиана Эррера (Eliana Herrera), Хутан Ашрафян (Hutan Ashrafian), Джерри Каплан (Jerry Kaplan), Катрин Найман Mеткалф (Katrin Nyman Metcalf), Лоуренс Солум (Lawrence Solum), Mэнди Горам (Mandy Goram), Mаргарита Роблес Каррильо (Margarita Robles Carrillo), Ник Бостром (Nick Bostrom), Питер Норвиг (Peter Norvig), Рэймонд Курцвейл (Raymond Kurzweil), Райан Эбботт (Ryan Abbott), Райан Кало (Ryan Calo), Сита Кумари (Sita Kumari), Шринивасарао Вепачеду (Sreenivasarao Vepachedu),

Стюарт Расселл (Stewart Russell), Танель Керикмяэ (Tanel Kerikmäe), Уго Пагалло (Ugo Pagallo), Вудро Барфилд (Woodrow Barfield) и др.

Проблемы и перспективы правового регулирования робототехники нашли отражение в трудах таких исследователей, как: Н. В. Антонова, С. Б. Бальхаева, E. Ю. Баракина, E. M. Вавилова, А. В. Габов, Ж. А. Гаунова, А. А. Головина, M. В. Демченко, И. Ш. Исмаилов, Н. Б. Кирсанова, Н. Б. Крысенкова, M. А. Лапина, Ж. А. Mаргушева, E. С. Mихалева, M. В. Mосин, С. Б. Нанба, А. В. Нестеров, К. Ю. Никольская, Н. Ф. Попова, Р. Ш. Рахматуллина, А. И. Сидоренко, Ю. А. Тихомиров, И. А. Хаванова, Ф. В. Цомартова, В. К. Шайдуллина, E. А. Шубина, Ф. Г. Шухов и др.

В числе иностранных исследователей Аммар Юнас (Ammar Younas), Энди Пуцкэ (Andy Puscä), Анджела Дэйли (Angela Daly), Белинда Беннетт (Belinda Bennett), Шарлотта Уокер-Осборн (Charlotte Walker-Osborn), Кристофер Чан (Christopher Chan), Эрика Палмерини (Erica Palmerini), Габриэль Лима (Gabriel Lima), Гарри Янг (Garry Young), Хин-Янь Лю (Hin-Yan Liu), Дженнифер Робертсон (Jennifer Robertson), Джошуа Чад Геллерс (Joshua Chad Gellers), Камиль Mамак (Kamil Mamak), Каролина Урбанска (Karolina Urbanska), Чанён Ким (Changyeon Kim), Коэн Хиндрикс (Koen Hindriks), Mаартье Грааф (Maartje Graaf), Mейён Ча (Meeyoung Cha), Mихал Бено (Michal Beno), Натали Невеянс (Nathalie Nevejans), Николас Спатола (Nicolas Spatola), Патрик Саэренс (Patrick Saerens), Перикль Сальвини (Pericle Salvini), Рехан Юнас (Rehan Younas), Роланд Бенедиктер (Roland Benedikter), Сынхо Рю (Seungho Ryu), Сомто Кизор (Somto Kizor), Томас Коннер (Thomas Conner), Уго Пагалло (Ugo Pagallo), Вольфганг Шредер (Wolfgang Schröder) и др.

Проблеме правосубъектности «электронных лиц», правового статуса роботов и юнитов искусственного интеллекта были посвящены работы E. А. Войниканиса, Г. А. Гаджиева, С. С. Гороховой, П. Н. Дурневой, Г. Г. Камаловой, В. П. Камышанского, А. В. Корецкого, Т. Р. Mолодцова, С. Б. Полич, E. В. Пономаревой, А. В. Поповой, С. А. Соменкова, Г. В. Стан-

кевич, Ф. В. Ужова, В. Н. Черкасова, М. Д. Шапсуговой, М. Г. Щербаков, О. А. Ястребова и др.

Из иностранных исследователей можно выделить Пэк Мин-Дже (Baek Min-je), Дебора Джонсон (Deborah Johnson), Элиза Мик (Eliza Mik), Джейкоб Тернер (Jacob Turner), Джахонг Чен (Jiahong Chen), Джоанна Брайсон (Joanna Bryson), Джон-Стюарт Гордон (John-Stewart Gordon), Каролина Зиемянина (Karolina Ziemianin), Косенка Думанчич (Kosjenka Dumancic), Лоуренс Солум (Lawrence Solum), Лучано Флориди (Luciano Floridi), Марио Вердиккио (Mario Verdicchio), Мигле Лауките (Migle Laukyte), Михайлис Диамантис (Mihailis Diamantis), Мин-Бэ Ким (Min-Bae Kim), Пакси Юдха Сасмита (Paksi Yudha Sasmita), Пол Берджесс (Paul Burgess), Пеэтер Мюрсепп (Peeter Müürsepp), С. М. Солайман (S. M. Solaiman), Саймон Честерман (Simon Chesterman), Сунг-Джин Ли (Sung-Jin Lee), Танель Керикмяэ (Tanel Kerikmäe), Томас Грант (Thomas Grant), Вагелис Папаконстантину (Vagelis Papakonstantinou), Виони Кресна Сумантри (Viony Kresna Sumantri), Ювоно Прианто (Yuwono Prianto) и др.

Исследованию проблем правового регулирования цифровой экономики и цифровых технологий посвящены труды таких ученых, как: Е. В. Аристов, А. Ю. Боковня, И. И. Бикеев, В. А. Вайпан, Г. А. Грищенко, А. К. Жарова, О. А. Кузнецова, Т. В. Летута, Т. А. Полякова, В. О. Пучков, Р. Ш. Рахмату-лина, О. М. Родионова, В. С. Савина, Ю. В. Сотникова, Ф. Р. Сундуров, М. В. Талан, Э. В. Талапина, И. А. Тарханов, А. А. Фатьянов, Т. Я. Хабриева, А. А. Чеботарева, Н. Н. Черногор, О. А. Шабаева и др.

Среди иностранных авторов Андреас Лунд (Andreas Lund), Ану Брэдфорд (Anu Bradford), Бьорн Лундквист (Björn Lundqvist), Бруно Целлер (Bruno Zeller), Хасан Аламро (Hassan Alamro), Ян Фальк (Ian Falk), Джон Гюнтер (John Guenther), Карл Лихтблау (Karl Lichtblau), Леон Тракман (Leon Trakman), Ма Хуатенг (Ma Huateng), Мануэль Фрич (Manuel Fritsch), Марк Чинен (Mark Chinen), Михал Гал (Michal Gal), Мэн Чжаоли (Meng Zhaoli), Филиппа Райан (Philippa Ryan), Роберт Уолтерс

(Robert Walters), Торил Аагаард (Toril Aagaard), Ван Хуалей (Wang Hualei), Ян Дели (Yan Deli) и др.

Философские исследования проблем этики и морали робототехники и искусственного интеллекта были предметом рассмотрения в научных трудах таких ученых, как: M. Г. Абрамова, E. В. Введенская, О. В. Ворон-кова, Д. Э. Гаспарян, П. M. Готовцев, С. А. Грязнов, В. Э. Карпов, А. С. Лунь-ков, Ф. Г. Mайленова, К. К. Mартынов, M. В. Mоисеенко, Ю. В. Назарова, А. В. Попова, А. В. Разин, Г. В. Ройзензон, E. В. Середкина, E. В. Скурко, А. В. Слободская, E. M. Стырин, Г. M. Шаповалова, А. В. Шиллер и др.

Зарубежные авторы, занимавшиеся этой темой, - Баран Шюрюклю (Baran Çûrûklû), Кристофер Харпер (Christopher Harper), Даррен Чонг (Darren Chong), Дерек Лебен (Derek Leben), Дуглас Петрикат (Douglas Petrikat), Гордана Додиг Црнкович (Gordana Dodig Crnkovic), Гурвиндер Вирк (Gurvinder Virk), Гюнёль Пак (Gyunyeol Park), Хёнсу Ким (Hyunsoo Kim), Джефф Бюхнер (Jeff Buechner), Джеффри Шоу (Jeffrey Shaw), Джон Тасиулас (John Tasioulas), M. О. Тохи (M. O. Tokhi), Mарк Кукельберг (Mark Coeckelbergh), Mартин Эберс (Martin Ebers), Mайкл Фанк (Michael Funk), Питер Асаро (Peter Asaro), Питер Копачек (Peter Kopacek), Филип Хмелевски (Philip Chmielewski), Роберт Сойер (Robert Sawyer), Санджа Дограмадзи (Sanja Dogramadzi), Тило Хагендорф (Thilo Hagendorff), Венделл Валлах (Wendell Wallach) и др.

Несмотря на значительное количество и высокую научную ценность трудов вышеупомянутых отечественных и зарубежных авторов, необходимо констатировать, что система уголовно-правовой охраны общественных отношений, связанных с робототехникой в настоящий момент в науке уголовного права комплексно не исследована. Все это свидетельствует о несомненной актуальности темы настоящего диссертационного исследования.

Объектом диссертационного исследования является комплекс общественных отношений, связанных с ответственностью за преступления,

совершаемые в процессе разработки, производства и применения роботов, выступающих в качестве предмета преступного посягательства либо средства совершения преступления.

Предметом диссертационного исследования выступают положения Конституции Российской Федерации, международно-правовых актов, актов международных организаций, актов Европейского Союза, российского и зарубежного законодательства, материалы судебно-следственной практики, статистические данные, экспертно-аналитические отчеты, доклады, информационные материалы и аналитические обзоры, специальная литература и ресурсы информационно-телекоммуникационной сети «Интернет» об исследуемых преступлениях.

Целью диссертационного исследования является выработка теоретических основ уголовно-правовой охраны общественных отношений, возникающих по поводу разработки, создания, эксплуатации и иного использования роботов, а также формулирование предложений, направленных на совершенствование уголовного законодательства об ответственности за преступные посягательства, сопряженные с применением роботов и (или) совершенные в их отношении.

Список литературы диссертационного исследования доктор наук Бегишев Ильдар Рустамович, 2022 год

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

Правовые акты и иные официальные документы

1. Конституция Российской Федерации (принята всенародным голосованием 12 декабря 1993 г. с изменениями, одобренными в ходе общероссийс -кого голосования 1 июля 2020 г.).

2. Уголовный кодекс Российской Федерации от 13 июня 1996 г. № 63-Ф3 // Собрание законодательства Российской Федерации. 1996. № 25. Ст. 2954.

3. Часть вторая Гражданского кодекса Российской Федерации от 26 января 1996 г. № 14-ФЗ // Собрание законодательства Российской Федерации. 1996. № 5. Ст. 410.

4. Закон Российской Федерации от 7 февраля 1992 г. № 2300-I «О защите прав потребителей» // Ведомость Съезда народных депутатов Российской Федерации и Верховного Совета Российской Федерации. 1992. № 15. Ст. 766.

5. Федеральный закон от 13 декабря 1996 г. № 150-ФЗ «Об оружии» // Собрание законодательства Российской Федерации. 1996. № 51. Ст. 5681.

6. Федеральный закон от 12 июля 1999 г. № 161-ФЗ «О материальной ответственности военнослужащих» // Собрание законодательства Российской Федерации. 1999. № 29. Ст. 3682.

7. Федеральный закон от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации» // Собрание законодательства Российской Федерации. 2006. № 31 (часть I). Ст. 3448.

8. Федеральный закон от 26 июля 2017 г. № 187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» // Собрание законодательства Российской Федерации. 2017. № 31 (часть I). Ст. 4736.

9. Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении

эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // Собрание законодательства Российской Федерации. 2020. № 17. Ст. 2701.

10. Федеральный закон от 31 июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» // Собрание законодательства Российской Федерации. 2020. № 31 (часть I). Ст. 5017.

11. Указ Президента Российской Федерации от 5 декабря 2016 г. № 646 «Об утверждении Доктрины информационной безопасности Российской Федерации» // Собрание законодательства Российской Федерации. 2016. № 50. Ст. 7074.

12. Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700.

13. Указ Президента Российской Федерации от 7 июля 2011 г. № 899 «Об утверждении приоритетных направлений развития науки, технологий и техники в Российской Федерации и перечня критических технологий Российской Федерации» // Собрание законодательства Российской Федерации. 2011. № 28. Ст. 4168.

14. Указ Президента Российской Федерации от 16 декабря 2015 г. № 623 «О Национальном центре развития технологий и базовых элементов робототехники» // Собрание законодательства Российской Федерации. 2015. № 51 (часть III). Ст. 7313.

15. Послание Президента Российской Федерации В. В. Путина Федеральному Собранию Российской Федерации от 20 февраля 2019 г. // Российская газета. 2019. № 38 (7796).

16. Послание Президента Российской Федерации В. В. Путина

Федеральному Собранию Российской Федерации от 15 января 2020 г. // Российская газета. 2020. № 7 (8061).

17. Послание Президента Российской Федерации В. В. Путина Федеральному Собранию Российской Федерации от 21 апреля 2021 г. // Российская газета. 2021. № 85 (8436).

18. Постановление Совмина СССР от 22 октября 1990 г. № 1072 «О единых нормах амортизационных отчислений на полное восстановление основных фондов народного хозяйства СССР» // СП СССР. 1990. № 30. Ст. 140.

19. Постановление Правительства Российской Федерации от 15 апреля 2014 г. № 313 «Об утверждении государственной программы Российской Федерации «Информационное общество» // Собрание законодательства Российской Федерации. 2014. № 18 (часть II). Ст. 2159.

20. Постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств» // Собрание законодательства Российской Федерации. 2018. № 49 (часть VI). Ст. 7619.

21. Постановление Правительства Российской Федерации от 25 мая 2019 г. № 658 «Об утверждении Правил учета беспилотных гражданских воздушных судов с максимальной взлетной массой от 0,25 килограмма до 30 килограммов, ввезенных в Российскую Федерацию или произведенных в Российской Федерации» // Собрание законодательства Российской Федерации. 2019. № 22. Ст. 2824.

22. Постановление Правительства Российской Федерации от 25 декабря 2019 г. № 1813 «Об утверждении Правил предоставления в 2019 году субсидии из федерального бюджета на государственную поддержку автономной некоммерческой организации высшего образования Университет Иннополис в целях обеспечения развития образовательных и научно-методических практик подготовки специалистов в сфере

информационных и сквозных технологий, а также развития международного сотрудничества, интеграции российской образовательной системы и лучших зарубежных практик» // Собрание законодательства Российской Федерации.

2019. № 52 (часть II). Ст. 8033.

23. Постановление Правительства Российской Федерации от 28 октября 2020 г. № 1750 «Об утверждении перечня технологий, применяемых в рамках экспериментальных правовых режимов в сфере цифровых инноваций» // Собрание законодательства Российской Федерации.

2020. № 44. Ст. 7003.

24. Распоряжение Правительства Российской Федерации от 3 декабря 2014 г. № 2446-р // Собрание законодательства Российской Федерации. 2014. № 50. Ст. 7220.

25. Распоряжение Правительства Российской Федерации от 8 января 2018 г. № 1-р // Собрание законодательства Российской Федерации. 2018. № 5. Ст. 774.

26. Распоряжение Правительства Российской Федерации от 25 марта 2020 г. № 724-р // Собрание законодательства Российской Федерации. 2020. № 13. Ст. 1995.

27. Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р // Собрание законодательства Российской Федерации. 2020. № 35. Ст. 5593.

28. Распоряжение Правительства Российской Федерации от 5 ноября 2020 г. № 2869-р // Собрание законодательства Российской Федерации. 2020. № 46. Ст. 7316.

29. Распоряжение Правительства Российской Федерации от 28 ноября 2020 г. № 3143-р // Собрание законодательства Российской Федерации. 2020. № 50 (часть V). Ст. 8251.

30. Приказ Федеральной службы государственной статистики от 24 августа 2017 г. № 545 «Об утверждении статистического инструментария для организации федерального статистического наблюдения

за сельским хозяйством и окружающей природной средой» // Текст приказа официально опубликован не был.

31. Приказ Федеральной службы государственной статистики от 30 декабря 2019 г. № 825 «Об утверждении форм федерального статистического наблюдения для организации федерального статистического наблюдения за деятельностью в сфере инноваций» // Текст приказа официально опубликован не был.

32. Приказ Федеральной службы государственной статистики от 30 июля 2020 г. № 424 «Об утверждении форм федерального статистического наблюдения для организации федерального статистического наблюдения за деятельностью в сфере образования, науки, инноваций и информационных технологий» // Текст приказа официально опубликован не был.

33. Постановление Федеральной службы государственной статистики от 7 ноября 2006 г. № 63 «Об утверждении Порядков заполнения и представления форм федерального государственного статистического наблюдения № 1-технология «Сведения о создании и использовании передовых производственных технологий», № 1-НК «Сведения о работе аспирантуры и докторантуры» // Текст постановления официально опубликован не был.

34. Рекомендации Банка России № РС БР ИББС-2.8-2015 «Обеспечение информационной безопасности организаций банковской системы Российской Федерации. Обеспечение информационной безопасности при использовании технологии виртуализации» (введен в действие приказом Банка России от 19 февраля 2015 г. № ОД-393) // Вестник Банка России. 2015. № 35.

35. Регламент № 2016/679 ЕП и Совета ЕС «О защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС (Общий Регламент о защите персональных данных)» (Принят в г. Брюсселе 27 апреля 2016 г.) // Документ на английском языке опубликован в официальном журнале ЕС. URL:

http://eur-lex.europa.eu/ (дата обращения: 10.01.2022).

36. Дополнительный протокол 1977 г. к Женевским конвенциям от 12 августа 1949 г., касающийся защиты жертв международных вооруженных конфликтов. URL: https://www.icrc.org/ru/doc/assets/files/2013/ ap_i_rus.pdf (дата обращения: 10.01.2022).

37. Декларация о запрещении применения ядерного и термоядерного оружия. URL: https://www.un.org/ru/documents/decl_conv/declarations/ nuc_prohibition.shtml (дата обращения: 10.01.2022).

38. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html (дата обращения: 10.01.2022).

39. General Data Protection Regulation (GDPR) (2018). URL: https://gdpr-info.eu/ (дата обращения: 10.01.2022).

40. National AI Policies & Strategies. URL: https://oecd.ai/dashboards (дата обращения: 10.01.2022).

41. UAE 2031: UAE Artificial Intelligence Strategy. URL: http://www.uaeai.ae/en/ (дата обращения: 10.01.2022).

42. Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. 2017. № 2017/C 288/01. Pp. 1-9.

43. Technological Convergence, Artificial Intelligence and Human Rights. Recommendation of Parliamentary Assembly of the Council of Europe. 2017. № 2102. URL: https://assembly.coe.int/nw/xml/XRef/Xref-DocDetails-EN.asp? File ID=23726&lang=EN (дата обращения: 10.01.2022).

44. The Montréal Declaration for a Responsible Development of Artificial Intelligence. URL: https://www.montrealdeclaration-responsibleai.com/ (дата обращения: 10.01.2022).

45. The national artificial intelligence research and development strategic plan. National Science and Technology Council Networking and Information Technology Research and Development Subcommittee, October 2016, 48 p. URL: https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf (дата обращения: 10.01.2022).

46. Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL). European Parliament, 2017. URL: http: //www. europarl .europa.eu/sides/getDoc. do ?pubRef=-//EP//NONSGML+COMPARL+PE

582.443+01+D0C+PDF+V0//EN&language=EN (дата обращения: 10.01.2022).

47. ISO/TR 13309:1995 Manipulating industrial robots - Informative guide on test equipment and metrology methods of operation for robot performance evaluation in accordance with ISO 9283. URL: https://www.iso.org/standard/ 21679.html (дата обращения: 10.01.2022).

48. ISO 11593:1996 Manipulating industrial robots - Automatic end effector exchange systems - Vocabulary and presentation of characteristics. URL: https://www.iso.org/standard/19528.html (дата обращения: 10.01.2022).

49. ISO 9283:1998 Manipulating industrial robots - Performance criteria and related test methods. URL: https://www.iso.org/standard/22244.html (дата обращения: 10.01.2022).

50. ISO 9946:1999 Manipulating industrial robots - Presentation of characteristics. URL: https://www.iso.org/standard/28794.html (дата обращения: 10.01.2022).

51. ISO 14539:2000 Manipulating industrial robots - Object handling with grasp-type grippers - Vocabulary and presentation of characteristics. URL: https://www.iso.org/standard/24062.html (дата обращения: 10.01.2022).

52. ISO 9409-2:2002 Manipulating industrial robots - Mechanical interfaces - Part 2: Shafts. URL: https://www.iso.org/standard/36579.html (дата обращения: 10.01.2022).

53. ISO 9409-1:2004 Manipulating industrial robots - Mechanical interfaces

- Part 1: Plates. URL: https://www.iso.org/standard/36578.html (дата обращения: 10.01.2022).

54. ISO 10218-1:2011 Robots and robotic devices - Safety requirements for industrial robots -Part 1: Robots. URL: https://www.iso.org/standard/51330.html (дата обращения: 10.01.2022).

55. ISO 10218-2:2011 Robots and robotic devices - Safety requirements for industrial robots - Part 2: Robot systems and integration. URL: https://www.iso.org/standard/41571.html (дата обращения: 10.01.2022).

56. ISO 8373:2012. Robots and robotic devices - Vocabulary. URL: https://www.iso.org/standard/55890.html (дата обращения: 10.01.2022

57. ISO 9787:2013 Robots and robotic devices - Coordinate systems and motion nomenclatures. URL: https://www.iso.org/standard/59444.html (дата обращения: 10.01.2022).

58. ISO 13482:2014 Robots and robotic devices - Safety requirements for personal care robots. URL: https://www.iso.org/standard/53820.html (дата обращения: 10.01.2022).

59. ISO/TS 15066:2016 Robots and robotic devices - Collaborative robots. URL: https://www.iso.org/standard/62996.html (дата обращения: 10.01.2022).

60. ISO 18646-1:2016 Robotics - Performance criteria and related test methods for service robots - Part 1: Locomotion for wheeled robots. URL: https://www.iso.org/standard/63127.html (дата обращения: 10.01.2022).

61. ISO 19649:2017 Mobile robots - Vocabulary. URL: https://www.iso.org/ standard/65658.html (дата обращения: 10.01.2022).

62. ISO/TR 20218-2:2017 Robotics - Safety design for industrial robot systems - Part 2: Manual load/unload stations. URL: https://www.iso.org/ standard/70584.html (дата обращения: 10.01.2022).

63. IEC/TR 60601-4-1:2017 Medical electrical equipment - Part 4-1: Guidance and interpretation - Medical electrical equipment and medical electrical systems employing a degree of autonomy. URL: https://www.iso.org/ standard/70755.html (дата обращения: 10.01.2022).

64. ISO/IEC TR 20547-2:2018 Information technology - Big data reference architecture - Part 2: Use cases and derived requirements. URL: https://www.iso. org/ru/standard/71276.html (дата обращения: 10.01.2022).

65. ISO/IEC TR 20547-5:2018 Information technology - Big data reference architecture - Part 5: Standards roadmap. URL: https://www.iso.org/ru/standard/ 72826.html (дата обращения: 10.01.2022).

66. Государственный стандарт Российской Федерации ГОСТ 12.2.07298 «Роботы промышленные. Роботизированные технологические комплексы. Требования безопасности и методы испытаний». М.: Стандартинформ, 1998: утвержден и введен в действие постановлением Государственного комитета Российской Федерации по стандартизации и метрологии от 22 декабря 2000 г. № 398-ст «О введении в действие межгосударственного стандарта» // Текст постановления официально опубликован не был.

67. Национальный стандарт Российской Федерации ГОСТ Р 43.0.4-2009 «Информационное обеспечение техники и операторской деятельности. Информация в технической деятельности. Общие положения». М.: Стандартинформ, 2009: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 15 декабря 2009 г. № 960-ст «Об утверждении национального стандарта» // Текст приказа официально опубликован не был.

68. Национальный стандарт Российской Федерации ГОСТ Р ИСО 8373 -2014 «Роботы и робототехнические устройства. Термины и определения». М.: Стандартинформ, 2014: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 26 ноября 2014 г. № 1863-ст «Об утверждении национального стандарта» // Текст приказа официально опубликован не был.

69. Национальный стандарт Российской Федерации межгосударственный стандарт ГОСТ 33707-2016 (ISO/IEC 2382:2015) «Информационные технологии. Словарь». М.: Стандартинформ, 2016: утвержден и введен в действие приказом Федерального агентства по техническому

регулированию и метрологии от 22 сентября 2016 г. № 1189-ст «О введении в действие межгосударственного стандарта» // Текст приказа официально опубликован не был.

70. Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.22016 «Роботы и робототехнические устройства. Классификация». М.: Стандартинформ, 2016: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 29 ноября 2016 г. № 1842-ст «Об утверждении национального стандарта Российской Федерации» // Текст приказа официально опубликован не был.

71. Национальный стандарт Российской Федерации ГОСТ Р 60.0.2.1 -2016 «Роботы и робототехнические устройства. Общие требования по безопасности». М.: Стандартинформ, 2016: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 29 ноября 2016 г. № 1843-ст «Об утверждении национального стандарта Российской Федерации» // Текст приказа официально опубликован не был.

72. Национальный стандарт Российской Федерации ГОСТ Р 60.1.2.1 -2016/ИСО 10218-1:2011 «Роботы и робототехнические устройства. Требования по безопасности для промышленных роботов. Часть 1. Роботы». М.: Стандартинформ, 2016: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 8 ноября 2016 г. № 1624-ст «Об утверждении национального стандарта Российской Федерации» // Текст приказа официально опубликован не был.

73. Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.4 -2019/ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения». М.: Стандартинформ, 2019: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 14 февраля 2019 г. № 31-ст «Об утверждении национального стандарта Российской Федерации» // Текст приказа официально опубликован не был.

74. Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.4 -2019/ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения». М.: Стандартинформ, 2019: утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 14 февраля 2019 г. № 31-ст «Об утверждении национального стандарта Российской Федерации» // Текст приказа официально опубликован не был.

75. Перечень поручений по итогам совещания по вопросам развития технологий в области искусственного интеллекта (утв. Президентом Российской Федерации 12 июня 2019 г. № Пр-1030). URL: http://www.kremlin.ru/acts/assignments/orders/60748 (дата обращения: 10.01.2022).

76. Дорожная карта развития «сквозной» цифровой технологии «Компоненты робототехники и сенсорика». URL: https://digital.gov.ru/ uploaded/files/07102019robototehnika-i-sensorika.pdf (дата обращения: 10.01.2022).

77. Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». URL: https://digital.gov.ru/ ru/documents/6658/ (дата обращения: 10.01.2022).

78. Типовые нормы времени по техническому обслуживанию станков с числовым программным управлением и роботов (манипуляторов), утв. Постановлением Госкомтруда СССР, Секретариата ВЦСПС от 16 января 1989 г. № 28/4-7. М., Издательство «Экономика», 1990. 62 с.

79. Паспорт национальной программы «Цифровая экономика Российской Федерации» (утв. президиумом Совета при Президенте Российской Федерации по стратегическому развитию и национальным проектам протокол от 24 декабря 2018 г. № 16) // Текст паспорта официально опубликован не был.

372

Материалы судебной практики

1. Определение Конституционного Суда Российской Федерации от 10 июля 2003 г. № 270-О «Об отказе в принятии к рассмотрению запроса Курганского городского суда Курганской области о проверке конституционности части первой статьи 3, статьи 10 Уголовного кодекса Российской Федерации и пункта 13 статьи 397 Уголовно-процессуального кодекса Российской Федерации» // Вестник Конституционного Суда Российской Федерации. 2003. № 5.

2. Постановление Конституционного Суда Российской Федерации от 25 апреля 2001 г. № 6-П «По делу о проверке конституционности статьи 265 Уголовного кодекса Российской Федерации в связи с жалобой гражданина А. А. Шевякова» // Собрание законодательства Российской Федерации. 2001. № 23. Ст. 2408.

3. Постановление Конституционного Суда Российской Федерации от 19 марта 2003 г. № 3-П «По делу о проверке конституционности положений Уголовного кодекса Российской Федерации, регламентирующих правовые последствия судимости лица, неоднократности и рецидива преступлений, а также пунктов 1 -8 постановления Государственной Думы от 26 мая 2000 года «Об объявлении амнистии в связи с 55-летием Победы в Великой Отечественной войне 1941-1945 годов» в связи с запросом Останкинского межмуниципального (районного) суда города Москвы и жалобами ряда граждан» // Собрание законодательства Российской Федерации. 2003. № 14. Ст. 1302.

4. Постановление Конституционного Суда Российской Федерации от 10 марта 2017 г. № 6-П «По делу о проверке конституционности статьи 15, пункта 1 статьи 1064, статьи 1072 и пункта 1 статьи 1079 Гражданского кодекса Российской Федерации в связи с жалобами граждан А. С. Аринушенко, Г. С. Бересневой и других» // Собрание законодательства Российской Федерации. 2017. № 12. Ст. 1780.

5. Постановление Пленума Верховного Суда Российской Федерации от 10 октября 2003 г. № 5 «О применении судами общей юрисдикции общепризнанных принципов и норм международного права и международных договоров Российской Федерации» // Бюллетень Верховного Суда Российской Федерации. 2003. № 12.

6. Постановление Пленума Верховного Суда Российской Федерации от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» // Бюллетень Верховного Суда Российской Федерации. 2010. № 3.

7. Постановление Пленума Верховного Суда Российской Федерации от 18 октября 2012 г. № 21 «О применении судами законодательства об ответственности за нарушения в области охраны окружающей среды и природопользования» // Бюллетень Верховного Суда Российской Федерации. 2012. № 12.

8. Постановление Пленума Верховного Суда Российской Федерации от 30 ноября 2017 г. № 49 «О некоторых вопросах применения законодательства о возмещении вреда, причиненного окружающей среде» // Бюллетень Верховного Суда Российской Федерации. 2018. № 2.

9. Постановление Пленума Верховного Суда Российской Федерации от 29 ноября 2018 г. № 41 «О судебной практике по уголовным делам о нарушениях требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов» // Бюллетень Верховного Суда Российской Федерации. 2019. № 1.

10. Постановление Пленума Верховного Суда Российской Федерации от 25 июня 2019 г. № 18 «О судебной практике по делам о преступлениях, предусмотренных статьей 238 Уголовного кодекса Российской Федерации» // Российская газета. 2019. № 142.

11. Приговор Автозаводского районного суда г. Нижний Новгород

Нижегородской области от 12 декабря 2019 г. по делу № 1-492/2019.

12. Приговор Авиастроительного районного суда г. Казани Республики Татарстан от 27 мая 2019 г. по делу № 1-129/2019.

13. Приговор Автозаводского районного суда г. Тольятти Самарской области от 6 июля 2020 г. по делу № 1-483/2020.

14. Приговор Бижбулякского районного суда Республики Башкортостан от 12 февраля 2020 г. по делу № 1 -19/2020.

15. Приговор Волжского городского суда Волгоградской области от 5 февраля 2018 г. по делу № 1-23/2018.

16. Приговор Димитровградского городского суда Ульяновской области от 16 июля 2018 г. по делу № 1-176/2018.

17. Приговор Донецкого городского суда Ростовской области от 21 марта 2016 г. по делу № 1-140/2015.

18. Приговор Железнодорожного районного суда г. Пензы Пензенской области от 29 мая 2020 г. по делу № 1-189/2020.

19. Приговор Железнодорожного районного суда г. Самары Самарской области от 19 мая 2020 г. по делу № 1 -128/2020.

20. Приговор Зубово-Полянского районного суда Республики Мордовия от 11 сентября 2019 г. по делу № 1-123/2019.

21. Приговор Избербашского городского суда Республики Дагестан от 27 января 2020 г. по делу № 1-164/2019.

22. Приговор Йошкар-Олинского городского суда Республики Марий Эл от 25 мая 2020 г. по делу № 1-1009/2019.

23. Приговор Ленинградского районного суда Краснодарского края от 27 августа 2019 г. по делу № 1-110/2019.

24. Приговор Ленинского районного суда г. Кирова Кировской области от 5 декабря 2019 г. по делу № 1-882/2019.

25. Приговор Марксовского городского суда Саратовской области от 10 июля 2020 г. по делу № 1-40/2020.

26. Приговор Медведевского районного суда Республики Марий Эл

от 20 июля 2020 г. по делу № 1-116/2020.

27. Приговор Московского областного суда от 10 августа 2020 г. по делу № 2-61/2020.

28. Приговор Московского районного суда г. Санкт-Петербурга от 23 июля 2019 г. по делу № 1-675/2019.

29. Приговор Московского районного суда г. Санкт-Петербурга от 27 сентября 2018 г. по делу № 1-838/2018.

30. Приговор Октябрьского городского суда Республики Башкортостан от 29 июля 2020 г. по делу № 1-243/2020.

31. Приговор Первомайского районного суда г. Ижевска Удмуртской Республики от 14 июня 2018 г. по делу № 1-272/2018.

32. Приговор Приволжского районного суда г. Казани Республики Татарстан от 6 июля 2020 г. по делу № 1-59/2020.

33. Приговор Прикубанского районного суда г. Краснодара Краснодарского края от 14 мая 2020 г. по делу № 1 -504/2020.

34. Приговор Саровского городского суда Нижегородской области от 17 сентября 2019 г. по делу № 1-149/2019.

35. Приговор Свердловского районного суда г. Красноярска Красноярского края от 22 января 2020 г. по делу № 1-109/2020.

36. Приговор Советского районного суда г. Махачкала Республики Дагестан от 11 августа 2021 г. по делу № 1-1036/2021.

37. Приговор Советского районного суда г. Рязани Рязанской области от 23 июня 2017 г. по делу № 1-111/2017.

38. Приговор Хасавюртовского городского суда Республика Дагестан от 20 июля 2020 г. по делу № 1-261/2020.

39. Приговор Центрального районного суда г. Воронежа от 21 мая 2021 г. по делу № 1-116/2021.

40. Приговор Центрального районного суда г. Оренбурга Оренбургской области от 2 декабря 2019 г. по делу № 1-461/2019.

41. Приговор Шалинского городского суда Чеченской Республики

от 16 мая 2016 г. по делу № 1-112/2016.

42. Приговор Шпаковского районного суда Ставропольского края от 30 марта 2021 г. по делу № 1-402/2020.

43. Решение Советского районного суда г. Томска Томской области от 27 июля 2020 г. по делу № 2-1689/2020.

44. Решение Сухиничского районного суда Калужской области от 21 июля 2020 г. по делу № 2-4-87/2020.

45. Решение Центрального районного суда г. Калининграда Калининградской области от 9 августа 2019 г. по делу № 2А-3712/2019.

46. Постановление судьи Пролетарского районного суда г. Ростова-на-Дону от 12 октября 2018 г. по делу № 5-759/2018.

47. Постановление судьи Кировского районного суда г. Саратова от 12 июля 2018 г. по делу № 5-160/2018.

Монографии, учебники, словари и учебно-методические издания

1. Asimov I. Runaround // Astounding Science Fiction. New York, 1942.

180 p.

2. Bellman R. E. An Introduction to Artificial Intelligence: Can Computers Think?. San Francisco: Boyd & Fraser Publishing Company, 1978. 146 p.

3. Ben-Ari M., Mondada F. Robots and Their Applications. In: Elements of Robotics. Berlin: Springer, 2018. Pp. 1-20.

4. Boscarato C. Who is Responsible for a Robot's Actions? An Initial Examination of Italian Law within a European Perspective // Technologies on the Stand: Legal and Ethical Questions in Neuroscience and Robotics / Ed. by B. van den Berg, L. Klaming. Ni-jmegen: Wolf Legal Publishers, 2011. Pp. 383402.

5. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014. 390 p.

6. Calo R. Robots and Privacy // Robot Ethics: The Ethical and Social

Implications of Robotics / P. Lin, G. Bekey, K. Abney. Cambridge: MIT Press, 2012. Pp. 187-202.

7. Calo R., Froomkin A. M., Kerr I. Robot Law. Edward Elgar Publishing. 2016. 424 p.

8. Capek K. R. U. R. Rossum's Universal Robots. Praga, 1920. 120 p.

9. Chelioudakis E. Deceptive AI Machines on the Battlefield: Do They Challenge the Rules of the Law of Armed Conflict on Military Deception? Tilburg: Tilburg University, 2018. 59 p.

10. Chopra S., White L. F. A Legal Theory for Autonomous Artificial Agents, University of Michigan Press, 2011. 250 p.

11. Estolatan E., Geuna A., Guerzoni M., Massimiliano N. Mapping the Evolution of the Robotics Industry: A cross country comparison // Department of Economics and Statistics Cognetti de Martiis. Working Papers 201812, University of Turin, 2018. 32 p.

12. Fitzi G. Roboter als «legale Personen» mit begrenzter Haftung. Eine soziologische Sicht // Robotik und Gesetzgebung. / J. P. Günther, E. Hilgendorf. Baden-Baden: Nomos Verlagsgesellschaft mbH & Co, 2013. Pp. 377-398.

13. Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Springer International Publishing, 2015. 257 p.

14. Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. Lebanon, NH: Northeastern University Press, 2013. 244 p.

15. Harari Y. N. Homo deus: A brief history of tomorrow. New York: Random House, 2017. 364 p.

16. Hawking S. Brief Answers to the Big Questions. London: Random House LLC, 2018. 256 p.

17. Kakoudaki D. Anatomy of a Robot: Literature, Cinema, and the Cultural Work of Artificial Intelligence. New Brunswick: Rutgers University Press, 2014. 272 p.

18. Kurzweil R. The Age of Intelligent Machines. Cambridge, MA: MIT Press, 1990. 580 p.

19. Kurzweil R. The singularity is near: when humans transcend biology Penguin Books, 2006. 672 p.

20. Matthews P., Greenspan S. Technology Definitions. In: Automation and Collaborative Robotics. Berkeley: Apress, 2020. Pp. 45-67.

21. McCarty L. T. Finding the Right Balance in Artificial Intelligence and Law. In book: Research Handbook on the Law of Artificial Intelligence. Chapter: 3. Publisher: Edward Elgar Publishing, 2017. Pp. 55-87.

22. McCulloch W. S. Embodiments of Mind. Cambridge, MA: MIT Press, 1965. 200 p.

23. McDermott D. What Matter to a Machine? // Machine Ethics / M. Anderson, S. Anderson (ed.). Connecticut: Cambridge University Press, 2011. Pp. 88-114.

24. Nilsson N. J. Artificial Intelligence: A New Synthesis. Beijing: Morgan Kaufmann; China Machine Press, 1998. 513 p.

25. Nilsson N. J. The quest for artificial intelligence: a history of ideas and achievements. New York: Cambridge University Press, 2009. 707 p.

26. Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts. New York: Springer, 2013. 181 p.

27. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. New Jersey: Prentice Hall, 1995. 905 p.

28. Saariluoma P., Leikas J. Designing Ethical AI in the Shadow of Hume's Guillotine. In: Ahram T., Karwowski W., Vergnano A., Leali F., Taiar R. (eds) Intelligent Human Systems Integration 2020. IHSI 2020. Advances in Intelligent Systems and Computing, Vol 1131. Springer, 2020. Pp 594-599.

29. Sidorenko E. L., Esendirov M. V., Grigorieva O. G., Khisamova Z. I. Digitalization of the public administration system: modern efficiency methods. Lecture Notes in Networks and Systems. Vol. 84. Springer, 2020. Pp. 742-750.

30. Sidorenko E. L., Khisamova Z. I. The readiness of the economy for digitalization: basic methodological approaches. Lecture Notes in Networks and Systems. Vol. 84. Springer, 2020. Pp. 308-316.

31. Sidorenko E. L., Khisamova Z. I., Monastyrsky U. E. The Main Ethical Risks of Using Artificial Intelligence in Business. Lecture Notes in Networks and Systems. Vol 133. Springer, 2021. Pp 423-429.

32. Simmler M. Maschinenethik und strafrechtliche Verantwortlichkeit. In: Bendel O. (eds) Handbuch Maschinenethik. Springer Reference Geisteswissenschaften. Wiesbaden, 2019. Pp. 1-18.

33. Smith B., Shum H. The Future Computed: Artificial Intelligence and its role in society. Published by Microsoft Corporation. Washington, 2018. 146 p.

34. Smith S. S. The New International Webster's Comprehensive Dictionary of the English Language: Encyclopedic Edition. New York: Trident Press International, 2003. 1936 p.

35. Sparrow R. Can Machines Be People? Reflections on the Turing Triage Test // Robot Ethics: the Ethical and Social Implications of Robotics / P. Lin, K. Abney, G. A. Bekey. Cambridge: MIT Press, 2012. Pp. 301-315.

36. Turkle S. Alone Together: Why We Expect More from Technology and Less from Each Other. New York: RHYW, 2011. 384 p.

37. Van de Gevel A. J. W., Noussair C. N. The Nexus Between Artificial Intelligence and Economics. In: The Nexus between Artificial Intelligence and Economics. Springer Briefs in Economics. Berlin: Springer, 2013. Pp. 1-110.

38. Weaver J. F. Robots Are People Too: How Siri, Google Car, and Artificial Intelligence Will Force Us to Change Our Laws. Santa Barbara CA: Praeger, 2014. 246 p.

39. Алексеев С. С. Право: азбука-теория-философия: опыт комплексного исследования. М.: СТАТУТ, 1999. 712 с.

40. Антимонов Б. С. Гражданская ответственность за вред, причиненный источником повышенной опасности. М.: Госюриздат, 1952. 296 с.

41. Архипов В. В. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / Под ред. А. В. Незнамова. М.: Инфотропик Медиа, 2018. 232 с.

42. Архипов В. В., Камалова Г. Г., Наумов В. Б. Правовые и этические аспекты, связанные с разработкой и применением систем искусственного интеллекта и робототехники: история, современное состояние и перспективы развития: монография / под общ. ред. В. Б. Наумова. СПб.: НП-Принт, 2020. 260 с.

43. Арямов А. А., Грачева Ю. В., Чучаев А. И. Девиации в цифровом мире: уголовно-правовое измерение (Часть I): научно-практическое пособие. М.: ООО «Юридическая фирма Контракт», 2019. 160 с.

44. Бавсун М. В. Целесообразность в уголовном праве. Омск: Омская академия МВД России, 2004. 172 с.

45. Баррат Д. Последнее изобретение человечества: Искусственный интеллект и конец эры Homosapiens / Д. Баррат. Пер. с англ. М.: Альпина нон-фикшн, 2015. 304 с.

46. Барышева К. А., Грачева Ю. В., Есаков Г. А. и др. Комментарий к Уголовному кодексу Российской Федерации (постатейный) / под ред. Г. А. Есакова. 8-е изд., перераб. и доп. М.: Проспект, 2019. 752 с.

47. Бачило И. Л. Государство и право XXI в. Реальное и виртуальное. М.: «ЮРКОМПАНИ», 2012. 280 с.

48. Бегишев И. Р. Об обороте роботов, их составных частей (модулей) (инициативный проект федерального закона). Казань: Изд-во «Познание» Казанского инновационного университета, 2021. 28 с.

49. Бегишев И. Р. Уголовно-правовое регулирование робототехники. М.: Проспект, 2022. 312 с.

50. Бегишев И. Р. Автономная робототехника в системе уголовно-правовых отношений. М.: Проспект, 2022. 160 с.

51. Бегишев И. Р., Бикеев И. И. Преступления в сфере обращения: цифровой информации. Казань: Изд-во «Познание» Казанского инновационного университета, 2020. 300 с.

52. Бегишев И. Р., Хисамова З. И. Искусственный интеллект и робототехника: глоссарий понятий. М.: Проспект, 2021. 64 с.

53. Бегишев И. Р., Хисамова З. И. Искусственный интеллект и уголовный закон. М.: Проспект, 2021. 192 с.

54. Бегишев И. Р. Цифровая трансформация общественных отношений: криминальные риски и угрозы создания и использования роботов // Актуальные проблемы права и экономики в ракурсе междисциплинарных научных исследований как формы международного сотрудничества : монография / под общ. ред. В. В. Блажеева, М. А. Егоровой. - Москва : Проспект, 2022. - С. 237-245.

55. Бегишев И. Р. Регулирование робототехнических технологий: столкновение этики и закона // Социально-психологические проблемы современного общества в условиях цифровизации: личность, организация, управление: коллективная монография / под ред. И. А. Бариляк, Е. Д. Короткиной, Е. С. Ребри-ловой. - Тверь : Издательство Тверского государственного университета, 2021. - С. 141-152.

56. Бегишев И. Р. Анализ уголовной ответственности искусственного интеллекта с теоретической и практической точек зрения

/ И. Р. Бегишев, З. И. Хисамова // Искусственный интеллект, блокчейн и верховенство закона

: монография / отв. ред. Чжан Хайбинь. - Пекин : Юридическая пресса, 2021. - С. 26-36.

57. Бегишев И. Р. Преступления в сфере компьютерной информации : учебное пособие / И. Р. Бегишев. - Казань : Изд-во «Познание» Казанского инновационного университета, 2021. - 40 с.

58. Бегишев И. Р. Преступления в сфере обращения цифровой информации : учебное пособие / И. Р. Бегишев. - Казань : Изд-во «Познание» Казанского инновационного университета, 2020. - 66 с.

59. Бегишев И. Р. Преступления в сфере обращения цифровой информации : учебно-методическое пособие / И. Р. Бегишев. - Казань : Изд-во «Позна-ние» Казанского инновационного университета, 2020. - 52 с.

60. Бегишев И. Р. Цифровой мир: терминологический словарь-

справочник в определениях официальных документов / И. Р. Бегишев, в соавт. - Москва : Проспект, 2022. - 672 с.

61. Бегишев И. Р. Робототехника и право: библиографический указатель / И. Р. Бегишев. - Москва : Проспект, 2022. - 100 с.

62. Белякова А. М. Гражданско-правовая ответственность за причинение вреда. М.: Издательство МГУ, 1986. 148 с.

63. Бикеев И. И. Материальные объекты повышенной опасности в российском уголовном праве: общие и специальные вопросы. Казань: Издательство «Познание», 2007. 272 с.

64. Блажко П. К. Совокупность правонарушений по советскому праву (понятие и юридическое значение). Казань: Издательство Казанского государственного университета, 1988. 97 с.

65. Бодаевский В. П., Зимин В. М., Чучаев А. И. Уголовное право. Общая часть : учебник. М.: Проспект, 2020. 251 с.

66. Болдинов В. М. Ответственность за причинение вреда источником повышенной опасности. СПб.: Юридический центр «Пресс», 2002. 372 с.

67. Болотова Л. С. Системы искусственного интеллекта: модели и технологии, основанные на знаниях: Учебник. М.: Финансы и статистика, 2012. 664 с.

68. Большая советская энциклопедия. М.: Советская энциклопедия, 1969-1978. 1200 с.

69. Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016. 496 с.

70. Бутримович Я. В., Волынец А. Д., Ефимов А. Р., Конюховская А. Е., Крамм Е. М., Наумов В. Б., Незнамов А. В., Побрызгаева Е. П., Смирнова К. М. Основы государственной политики в сфере робототехники и технологий искусственного интеллекта : Монография / Под ред. А. В. Незнамова. М.: Инфотропик Медиа, 2019. 184 с.

71. Винокуров В. Н. Объект преступления: теория, законодательство, практика. М.: Юрлитинформ, 2010. 224 с.

72. Воробьев С. В. Ядерное оружие в современных международных отношениях : Учебное пособие / С. В. Воробьев, Т. В. Каширина. 2-е изд. М.: Издательско-торговая корпорация «Дашков и К», 2021. 190 с.

73. Генрих Н. В. Предмет уголовного права: генезис научной мысли и проблемы современной интерпретации. М.: Юрлитинформ, 2010. 184 с.

74. Джонс М. Т. Программирование искусственного интеллекта в приложениях. М.: ДМК Пресс, 2011. 312 с.

75. Джордан Дж. Роботы. М.: Точка, 2017. 272 с.

76. Добробаба М. Б. Искусственный интеллект: проблема распределения ответственности в условиях социальной интеграции // В книге: Право и бизнес: правовое пространство для развития бизнеса в России. Коллективная монография. В 4-х томах. Отв. редактор С. Д. Могилевский [и др.]. Москва, 2020. С. 16-25.

77. Дорогин Д. А., Пудовочкин Ю. Е. Учение о преступлении и о составе преступления: учебное пособие. М.: Изд-во Российского государственного университета правосудия, 2017. 224 с.

78. Евгеньева А. П. Малый академический словарь. М.: Институт русского языка Академии наук СССР, 1957-1984. 750 с.

79. Есаков Г. А. Комментарий к Уголовному кодексу Российской Федерации (постатейный). М.: Проспект, 2017. 736 с.

80. Ефремова М. А. Уголовная ответственность за преступления, совершаемые с использованием информационно-телекоммуникационных технологий. М.: Юрлитинформ, 2015. 200 с.

81. Ефремова М. А. Уголовно-правовая охрана информационной безопасности. М.: Юрлитинформ, 2018. 306 с.

82. Ефремова Т. Ф. Новый словарь русского языка. М.: Русский язык, 2005. 980 с.

83. Иоффе О. С. Обязательственное право. М.: Юридическая литература, 1975. 880 с.

84. Кабанова И. Е. Гражданско-правовая ответственность публичных

субъектов: опыт межотраслевого исследования. М.: Юридический Дом «Юстицинформ», 2016. 284 с.

85. Камалова Г. Г. Искусственный интеллект для развития бизнеса и охрана персональных данных: правовые проблемы обеспечения баланса интересов // В книге: Право и бизнес: правовое пространство для развития бизнеса в России. Коллективная монография. В 4-х томах. Отв. редактор С. Д. Могилевский [и др.]. М.: Проспект, 2020. С. 122-130.

86. Камалова Г. Г., Мосин М. В., Наумов В. Б., Незнамов А. В., Никольская К. Ю. Модели правового регулирования создания, использования и распространения роботов и систем с искусственным интеллектом: монография / под общ. ред. В. Б. Наумова. СПб.: НП-Принт, 2019. 252 с.

87. Карелов С. В., Карлюк М. В., Колонин А. Г., Маркоткин Н. М., Щефтелович Д. Р. Международные и социальные последствия использования технологий искусственного интеллекта. М.: РСМД, 2018. 62 с.

88. Кельзен Г. Чистое учение о праве. 2-е изд. / Пер. с нем. М. В. Антонова, С. В. Лёзова. СПб.: Алеф-Пресс, 2015. 542 с.

89. Кленова Т. В. Основы теории кодификации уголовно-правовых норм. Самара: Самарский государственный аэрокосмический университет имени академика С. П. Королёва, 2001. 244 с.

90. Корнев А. В., Барзилова И. С., Липень С. В., Танимов О. В., Шепелев Д. В., Арнаутова А. А. Система права и система законодательства: современное состояние и перспективы развития в цифровую эпоху. М.: Проспект, 2019. 176 с.

91. Кудрявцев В. Н., Яковлев А. М. Основания уголовно-правового запрета: криминализация и декриминализация. М.: Наука, 1982. 304 с.

92. Кузнецова Н. Ф. Избранные труды. СПб.: Юридический центр «Пресс», 2003. 834 с.

93. Курс уголовного права. Том 1. Общая часть. Учение о преступлении / Под ред. Н. Ф. Кузнецовой, И. М. Тяжковой. М.: ИКД «Зерцало-М», 2002. 624 с.

94. Курс российского уголовного права. Общая часть. / Под ред. В. Н. Кудрявцева, А. В. Наумова. М.: Спарк, 2001. 767 с.

95. Ларина Е. С. Искусственный интеллект. Большие данные. Преступность / Е. С. Ларина, В. С. Овчинский. М.: Кн. мир, 2018. 416 с.

96. Ларина Е. С. Криминал будущего уже здесь / Е. С. Ларина, В. С. Овчинский. М.: Кн. мир, 2017. 480 с.

97. Лопашенко Н. А. Межотраслевая дифференциация уголовной и иных видов юридической ответственности: итоги теоретического моделирования. М.: Юрлитинформ, 2021. 480 с.

98. Лопашенко Н. А. Уголовная политика. М.: Волтерс Клувер, 2009.

579 с.

99. Майданик Л. А. Материальная ответственность за повреждение здоровья. М.: Госюриздат, 1962. 231 с.

100. Малеин Н. С. Правонарушение: понятие, причины, ответственность. М.: Юридическая литература, 1985. 192 с.

101. Малков В. П. Совокупность преступлений: вопросы квалификации и назначения наказания. Казань: Изд-во Казанского университета, 1974. 307 с.

102. Мамычев А. Ю. Мир в цифровую эпоху: политика, право и экономика в XXI веке: коллективная монография / А. Ю. Мамычев, Я. В. Гайворонская, Д. А. Петрова и др. М.: ИЦ РИОР : НИЦ ИНФРА-М, 2020. 216 с.

103. Мамычев А. Ю., Мордовцев А. Ю., Васильев А. А. и др. Роботы заявляют о своих правах: доктринально-правовые основы и нравственно-этические стандарты применения автономных роботизированных технологий и аппаратов: коллективная монография / Под ред. А. Ю. Мамычева, А. Ю. Мордовцева, Г. В. Петрук. М.: РИОР, 2020. 349 с.

104. Марцев А. И. Преступление: социально-правовой анализ: учебное пособие. Омск: Омская академия МВД России, 2012. 75 с.

105. Минбалеев А. В. Основные направления правового регулирования

отношений в сфере использования искусственного интеллекта // В книге: Право и бизнес: правовое пространство для развития бизнеса в России. Коллективная монография. В 4-х томах. Отв. редактор С. Д. Могилевский [и др.]. Москва, 2020. С. 46-50.

106. Морхат П. М. Искусственный интеллект. Право. Технологии. Экономика. Управление: Библиографический указатель. М.: Юнити-Дана, 2018. 131 с.

107. Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. 257 с.

108. Морхат П. М. Искусственный интеллект: референтная судебная практика. М.: Юнити-Дана, 2019. 100 с.

109. Морхат П. М. Право и искусственный интеллект. М.: Юнити-Дана, 2018. 544 с.

110. Морхат П. М. Право интеллектуальной собственности и искусственный интеллект. М.: Юнити-Дана, 2018. 121 с.

111. Морхат П. М. Правосубъектность юнитов искусственного интеллекта. Гражданско-правовое исследование. М.: Юнити-Дана, 2018. 112 с.

112. Мосечкин И. Н. Искусственный интеллект в уголовном праве: перспективы совершенствования охраны и регулирования. Киров: Изд-во «Вятский государственный университет», 2020. 111 с.

113. Новоселов Г. П. Учение об объекте преступления: методологические аспекты. М.: НОРМА, 2001. 198 с.

114. Овчинский В. С. Технологии будущего против криминала / В. С. Овчинский. М.: Книжный мир, 2017. 288 с.

115. Овчинский В. С. Криминология цифрового мира: учебник / В. С. Овчинский. М.: Норма: ИНФРА-М, 2018. 352 с.

116. Ожегов С. И., Шведова Н. Ю. Толковый словарь русского языка. М.: А ТЕМП, 2010. 944 с.

117. Пионтковский А. А. Учение о преступлении по советскому

уголовному праву. Курс советского уголовного права. Общая часть. М.: Госюриздат, 1961. 666 с.

118. Поцелуев Е. Л. Эволюция категории «правонарушение» в истории западной и отечественной юридической мысли (XVII - начало ХХ в.). Иваново: Издательство Ивановского государственного университета, 2004. 156 с.

119. Публично-правовые средства эффективности развития экономики и финансов. Часть 2. Публично-правовые средства развития искусственного интеллекта, цифровизации финансов и институтов юридической ответственности: монография / под ред. Г. Ф. Ручкиной, М. А. Лапиной. М.: КНОРУС, 2020. 256 с.

120. Пудовочкин Ю. Е. Учение о составе преступления: учебное пособие. М.: Юрлитинформ, 2009. 247 с.

121. Рарог А. И. Квалификация преступлений по субъективным признакам. СПб.: Юридический центр Пресс, 2002. 304 с.

122. Растригин Л. А. С компьютером наедине. М.: Радио и связь, 1990.

224 с.

123. Репетева О. Е. Правонарушения и юридическая ответственность в сфере труда: общетеоретический аспект. Тольятти: Издательство Тольяттинского государственного университета, 2009. 151 с.

124. Российское уголовное право. Общая часть / Под ред. В. С. Комиссарова. СПб: Питер, 2005. 560 с.

125. Русскевич Е. А. Уголовное право и «цифровая преступность». Проблемы и решения. М.: ИНФРА-М, 2020. 227 с.

126. Русскевич Е. А. Уголовно-правовое противодействие преступлениям, совершаемым с использованием информационно-коммуникационных технологий. М.: ИНФРА-М, 2019. 186 с.

127. Ручкин В. Н., Фулин В. А. Универсальный искусственный интеллект и экспертные системы. СПб.: БХВ-Петербург, 2009. 240 с.

128. Ручкина Г. Ф., Демченко М. В., Попова А. В., Шайдуллина В. К.,

Лапина М. А., Попова Н. Ф., Горохова С. С., Рахматуллина Р. Ш., Свиридова Е. А., Исмаилов И. Ш., Баракина Е. Ю., Вавилова Е. М. Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники. М.: Издательство Прометей, 2020. 296 с.

129. Слэйгл Дж. Искусственный интеллект. Подход на основе эвристического программирования. М.: Мир, 1973. 320 с.

130. Смолин Д. В. Введение в искусственный интеллект: Конспект лекций. М.: Физматлит, 2004. 208 с.

131. Степанов О. А. Противодействие кибертерроризму в цифровую эпоху. М.: Издательство Юрайт, 2020. 103 с.

132. Таганцев Н. С. Русское уголовное право. Часть общая. Т. 1 / Н. С. Таганцев. Тула: Автограф, 2001. 800 с.

133. Теплова Н. А. Советское право. Учебник 3-е изд., перераб. и доп. М.: Издательство «Высшая школа», 1987. 463 с.

134. Тихий В. П. Уголовная ответственность за нарушение правил безопасности обращения: с общеопасными предметами. Киев: Издательство УМК ВО при Минвузе УССР, 1989. 78 с.

135. Тихомиров Ю. А., Головина А. А., Нанба С. Б. Юридическая концепция роботизации: монография / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М.: Проспект, 2019. 240 с.

136. Тоболкин П. С. Социальная обусловленность уголовно-правовых норм. Свердловск: Средне-Уральское книжное издательство, 1983. 177 с.

137. Толковый словарь по искусственному интеллекту / Авторы-составители А. Н. Аверкин, М. Г. Гаазе-Рапопорт, Д. А. Поспелов. М.: Радио и связь, 1992. 256 с.

138. Уголовное право России: курс лекций в 6 т. Т. 1. Кн. 1. / под ред. Б. Т. Разгильдиева. Саратов: Изд-во ГОУ ВПО «Саратовская государственная академия права», 2004. 320 с.

139. Уголовное право России. Общая часть: Учебник / Под ред. В. Н. Кудрявцева, В. В. Лунеева, А. В. Наумова. 2-е изд, перераб. и доп. М.:

Юрист, 2005. 540 с.

140. Уголовно-юрисдикционная деятельность в условиях цифровиза-ции: монография / Н. А. Голованова, А. А. Гравина, О. А. Зайцев и др. М.: Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации; ООО «Юридическая фирма Контракт», 2019. 212 с.

141. Уинстон П. Г. Искусственный интеллект. М.: Мир, 1980. 520 с.

142. Филипова И. А. Правовое регулирование искусственного интеллекта: учебное пособие. Нижний Новгород: Нижегородский госуниверситет, 2020. 90 с.

143. Филипова И. А. Трансформация правового регулирования труда в цифровом обществе. Искусственный интеллект и трудовое право: научное издание. Нижний Новгород: Нижегородский госуниверситет имени Н. И. Лобачевского, 2019. 89 с.

144. Хисамова З. И. Международный опыт уголовно-правового противодействия преступлениям в сфере цифровой экономики. Краснодар: Изд-во «Краснодарский университет МВД России», 2018. 116 с.

145. Хисамова З. И. Уголовная ответственность за преступления, совершаемые в финансовой сфере с использованием информационно-телекоммуникационных технологий. М.: Юрлитинформ, 2017. 160 с.

146. Цифровизация правотворчества: поиск новых решений / Д. А. Пашенцев, М. В. Залоило, О. А. Иванюк, А. А. Головина; под общ. ред. Д. А. Пашенцева. М.: Институт законодательства и сравнительного правоведения при Правительстве РФ; ИНФРА-М, 2019. 234 с.

147. Цифровое право: глоссарий понятий / под общ. ред. В. В. Бла-жеева, М.А. Егоровой. М.: Проспект, 2020. 64 с.

148. Цифровое право: учебник / под общ. ред. В. В. Блажеева, М. А. Егоровой. М.: Проспект, 2020. 640 с.

149. Шилейко А. В. Дискуссии об искусственном интеллекте. М.: Знание, 1970. 48 с.

150. Шутова А. А. Уголовно-правовое противодействие информационным преступлениям в сфере экономической деятельности. М.: Юрлит-информ, 2019. 192 с.

151. Шутова А. А., Хисамова З. И., Ефремова М. А., Никифорова А. А. Пандемия и самоизоляция: криминальные угрозы и правовые последствия. М.: Проспект, 2021. 112 с.

152. Эндрю А. Искусственный интеллект. М.: Мир, 1985. 264 с.

153. Ярошенко К. Б. Специальные случаи ответственности за причинение вреда. М.: Юридическая литература, 1977. 80 с.

154. Ястребов О. А. Юридическое лицо публичного права: вопросы теории. М.: Наука, 2010.

Научные статьи, сборники научных трудов и другие публикации

1. Amores J. Multiple instance classification: Review, taxonomy and comparative study // Artificial Intelligence. 2013. Vol. 201. Pp. 81-105.

2. Amoroso D., Tamburrini G. Autonomous Weapons Systems and Meaningful Human Control: Ethical and Legal Issues // Current Robotics Reports. 2020. Vol. 1, No 7. P. 187-194.

3. Armin E. Das selbstfahrende Kraftfahrzeug und die Bewältigung dilemmatischer Situationen // Zeitschrift für internationale Strafrechtsdogmatik. 2016. Vol. 11, No. 9. Pp. 608-618.

4. Asada M., MacDorman K. F., Ishiguro H., Kuniyoshi Y. Cognitive developmental robotics as a new paradigm for the design of humanoid robots // Robotics and Autonomous Systems. 2001. Vol. 37, No 2-3. Pp. 185-193.

5. Asaro P. M. Robots and Responsibility from a Legal Perspective // Proceedings of the IEEE. 2007. Vol. 4, No 14. Pp. 20-24.

6. Ashrafian H. AIonAI: A Humanitarian Law of Artificial Intelligence and Robotics // Science and Engineering Ethics. 2015. Vol. 21, No 1. Pp. 29-40.

7. Ashrafian H. Artificial Intelligence and Robot Responsibilities:

Innovating Beyond Rights // Science and Engineering Ethics. 2015. Vol. 21, No 1. Pp. 317-326.

8. Atabekov A., Yastrebov O. Legal Status of Artificial Intelligence Across Countries: Legislation on the Move // European Research Studies Journal. 2018. Vol. 21, No 4. Pp. 773-782.

9. Atkinson L., Cipriani A. How to carry out a literature search for a systematic review: a practical guide // British Journal of Psychological Advances. 2018. Vol. 24, No 2. Pp. 74-82.

10. Baranov P. P., Mamychev A. Yu., Plotnikov A. A., Voronov D. Yu., Voronova E. M. Problems of Legal Regulation of Robotics and Artificial Intelligence from the Psychological Perspective // Propósitos y Representaciones. 2020. Vol. 8, No 2. Pp. e511.

11. Baude W., Sachs S. E. The law of interpretation // Harvard Law Review. 2017. Vol. 130, No 4. Pp. 1082-1147.

12. Bayamlioglu E. Intelligent Agents and Their Legal Status // AnkaraBarReview. 2008. Vol. 1. Pp. 46-54.

13. Beck S. Legal Responsibility in the Case of Robotics // AI and Society. 2016. Vol. 31, No 4. Pp. 473-481.

14. Begishev I. R., Khisamova Z. I., Mazitova G. I. Criminal legal ensuring of security of critical information infrastructure of the Russian Federation // Revista Genero e Direito. 2019. Vol. 8., No 6. Pp. 283-292.

15. Begishev I. R., Khisamova Z. I., Mazitova G. I. Information infrastructure of safe computer attack // Helix. 2019. Vol. 9., No 5. Pp. 5639-5642.

16. Begishev I. R., Khisamova Z. I., Nikitin S. G. The Organization of Hacking Community: Criminological and Criminal Law Aspects // Russian Journal of Criminology. 2020. Vol. 14, No 1. Pp. 96-105.

17. Begishev I. R. Technological, Ethical, Environmental and Legal Aspects of Robotics / I. R. Begishev, co-authored // E3S Web of Conferences. XXII International Scientific Conference Energy Management of Municipal Facilities and Sustainable Energy Technologies (EMMFT-2020). - 2021. - Vol.

244. - Art. 12028.

18. Begishev I. R. From Robotics Technology to Environmental Crimes Involving Robots / I. R. Begishev, co-authored // E3S Web of Conferences. XXII International Scientific Conference Energy Management of Municipal Facilities and Sustainable Energy Technologies (EMMFT-2020). - 2021. - Vol. 244. - Art. 12029.

19. Begishev I. R. Criminal Legal Support for Safeguarding the Citizens' Digital Rights / I. R. Begishev, co-authored // SHS Web of Conferences. 3rd International Scientific Conference on New Industrialization and Digitalization (NID 2020). - 2021. - Vol. 93. - Art. 02023.

20. Belk R. Ethical issues in service robotics and artificial intelligence // The Service Industries Journal. 2020. Vol. 40, No 10. Pp. 1-17.

21. Benedict H. The Lonely Soldier: The Private War of Women Serving in Iraq. Boston: Beacon Press, 2010. 280 p.

22. Bennett B., Daly A. Recognising rights for robots: Can we? Will we? Should we? // Law, Innovation and Technology. 2020. Vol. 12, No 1. Pp. 1-21.

23. Bertolini A. Wearable Robots: A Legal Analysis. In: González-Vargas J., Ibáñez J., Contreras-Vidal J., van der Kooij H., Pons J. (eds). Wearable Robotics: Challenges and Trends. Biosystems & Biorobotics. Springer. 2017. Vol. 16. Pp. 201-204.

24. Bertolini A., Aiello G. Robot companions: A legal and ethical analysis // The Information Society. 2018. Vol. 34, No 3. Pp. 130-140.

25. Bigman Y. E., Waytz A., Alterovitz R., Gray K. Holding Robots Responsible: The Elements of Machine Morality // Trends in Cognitive Sciences. 2019. Vol. 23, No 5. Pp. 365-368.

26. Bikeev I. I., Kabanov P. A., Begishev I. R., Khisamova Z. I. Criminological risks and legal aspects of artificial intelligence implementation // ACM International Conference Proceeding Series. 2019. No a20.

27. Bikeev I. I., Kabanov P. A., Begishev I. R., Khisamova Z. I. Criminologi -cal Risks and Legal Aspects of Artificial Intelligence Implementation //

In Proceedings of the International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC '19). New York: Association for Computing Machinery, 2019. Art. 20. Pp. 1-7.

28. Boden M., Bryson J., Caldwell D., Dautenhahn K., Edwards L., Kember S., Newman P., Parry V., Pegman G., Rodden T., Sorrell T., Wallis M., Whitby B., Winfield A. Principles of robotics: regulating robots in the real world // Connection Science. 2017. Vol. 29, No 2. Pp. 124-129.

29. Bokovnya A. Yu., Begishev I. R., Khisamova Z. I., Bikeev I. I., Sidorenko E. L., Bersei D. D. Pressing Issues of Unlawful Application of Artificial Intelligence // International Journal of Criminology and Sociology. 2020. Vol. 9. Pp. 1054-1057.

30. Bokovnya A. Yu., Begishev I. R., Khisamova Z. I., Narimanova N. R., Sherbakova L. M., Minina A. A. Legal Approaches to Artificial Intelligence Concept and Essence Definition // Revista San Gregorio. 2020. No 41. Pp. 115121.

31. Bokovnya A. Yu., Khisamova Z. I., Begishev I. R. Study of Russian and the UK legislations in combating digital crimes // Helix. 2019. Vol. 9., No 5. Pp. 5458-5461.

32. Bonnefon J. F., Shariff A., Rahwan I. The social dilemma of autonomous vehicles // Science. 2016. Vol. 352, No 6293. Pp. 1573-1576.

33. Both G., Weber J. Hands-Free Driving? Automatisiertes Fahren und Mensch-Maschine Interaktion // Robotik im Kontext von Recht und Moral / E. Hilgendorf (Ed.). Baden-Baden: Nomos Verlagsgesellschaft mbH & Co, 2014. Pp. 171-189.

34. Brozek B., Jakubiec M. On the legal responsibility of autonomous machines // Artificial Intelligence Law. 2017. № 25 (3). Pp. 293-304.

35. Bryson J. J., Diamantis M. E., Grant T. D. Of, for, and by the People: the Legal Lacuna of Synthetic Persons // Artificial Intelligence and Law. 2017. Vol. 25, No 3. Pp. 273-291.

36. Bucchi M., Trench B. Science Communication and Science in Society:

A Conceptual Review in Ten Keywords // Tecnoscienza: Italian Journal of Science & Technology Studies. 2016. Vol. 7, No. 2. Pp. 151-168.

37. Caldwell M., Andrews J. T. A., Tanay T., Griffin L. D. Al-enabled future crime // Crime Science. 2020. Vol. 9, No 14. Pp. 564-577.

38. Calo R. Robots as Legal Metaphors // Harvard Journal of Law & Technology. 2016. Vol. 30, No 1. Pp. 209-237.

39. Cerka P., Grigiene J., Sirbikyte G. Liability for damages caused by artificial intelligence // Computer Law & Security Review. 2015. Vol. 31, No 3. Pp. 376-389.

40. Chae Y. U. S. AI Regulation Guide: Legislative Overview and Practical Considerations // Robotics, Artificial Intelligence & Law. 2020. Vol. 3. No 1. Pp. 17-40.

41. Chopra S., White L. F. A Legal Theory for Autonomous Artificial Agents. The University of Michigan Press, 2011. 252 p.

42. Clarke R. Principles and business processes for responsible AI // Computer Law & Security Review. 2019. Vol. 35, No 4. Pp. 410-422.

43. Danaher J. Robots, Law and the Retribution Gap // Ethics and Information Technology. 2016. Vol. 18, No 4. Pp. 299-309.

44. Deng B. Machine ethics: The robot's dilemma // Nature. 2015. Vol. 523. Pp. 24-26.

45. Dignum V. Ethics in artificial intelligence: introduction to the special issue // Ethics and Information Technology. 2018. Vol. 20, No 1. Pp. 1-3.

46. Dremliuga R. I., Mamychev A. Yu., Dremliuga O. A., Matyuk Yu. S. Artificial Intelligence as a Subject of Law: Pros and Cons // Contemporary Dilemmas: Education, Politics and Values. 2019. Vol. 7, No 1. Pp. 127-130.

47. Dremliuga R., Kuznetcov P., Mamychev A. Yu. Criteria for recognition of AI as a legal person // Journal of Politics and Law. 2019. Vol. 12, No 3. Pp. 105-112.

48. Dremliuga R., Kuznetcov P., Mamychev A. Yu. Criteria for Recognition of AI as a Legal Person // Journal of Politics and Law. 2019. Vol. 12, No 3.

Pp. 105-112.

49. Dremliuga R., Prisekina N. The Concept of Culpability in Criminal Law and AI Systems // Journal of Politics and Law. 2020. Vol. 13, No 3. Pp. 256-262.

50. Ernest N., Carroll D., Schumacher C., Clark M., Cohen K., Lee G. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions // Journal of Defense Management. 2016. Vol. 6, No 1. Pp. 1-7.

51. Eysseltt F. An experimental psychological perspective on social robotics // Robotics and Autonomous Systems. 2017. Vol. 87. Pp. 363-371.

52. Filipe M. A. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control // SSRN Electronic Journal. 2017. Pp. 1-68.

53. Fong T., Nourbakhsh I., Dautenhahn K. A survey of socially interactive robots // Robotics and Autonomous Systems. 2003. Vol. 42. Pp. 143-166.

54. Fosch Villaronga E., Golia A. J. Robots, standards and the law: Rivalries between private standards and public policymaking for robot governance // Computer Law & Security Review. 2019. Vol. 35, No 2. Pp. 129-144.

55. Fosch Villaronga E., Roig A. European regulatory framework for person carrier robots // Computer Law & Security Review. 2017. Vol. 33, No 4. Pp. 502-520.

56. Gaifutdinov R. R., Khisamova Z. I., Sidorenko E.L., Efremova M. A., Lopatina T. M., Kirpichnikov D. V. Theoretical and Legal Bases of Artificial Intelligence Punishment System Development // Revista San Gregorio. 2020. No 41. Pp. 159-164.

57. Gardina D. Social Robot: the Problem of Definition and Classification // Artificial Societies. 2018. Vol. 13, No 1-2.

58. Gerla M., Lee E., Pau G., Lee U. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds // 2014 IEEE World Forum on Internet of Things (WF-IoT). 2014. Pp. 241-246.

59. Gless S., Silverman E., Weigend T. If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability // New Criminal Law

Review. 2016. Vol. 19, No. 3. Pp. 412-436.

60. Gómez de Ágreda Á. Ethics of autonomous weapons systems and its applicability to any AI systems // Telecommunications Policy. 2020. Vol. 44, No 6. Pp. 101953.

61. González M. Regulacion Legalde la Robotica y la Inteledencia Artificial: Retos de Futuro // Revista Jurídica de la Universidad de León. 2017. No 4. Pp. 25-50.

62. Good I.J. Speculations Concerning the First Ultraintelligent Machine // Advances in Computers. 1966. Vol. 6. Pp. 31-88.

63. Green B. P. Ethical Reflections on Artificial Intelligence // Scientia et Fides. 2018. Vol. 6, No 2. Pp. 9-31.

64. Guarini M. Introduction: Machine ethics and the ethics of building intelligent machines // Topoi. 2013. Vol. 32, No 2. Pp. 213-215.

65. Guo S., Zhang G. Robot Rights // Science. 2009. Vol. 323, No 5916. Pp. 876a.

66. Haddaway N. R., Collins A. M., Coughlin D., Kirk S. The Role of Google Scholar in Evidence Reviews and Its Applicability to Grey Literature Searching // PLoS One. 2015. Vol. 10, No 9. Pp. e0138237.

67. Hage J. Theoretical foundations for the responsibility of autonomous agents // Artificial Intelligence & Law. 2017. No 25 (3). Pp. 255-271.

68. Hallevy G. Prologue Unmanned Vehicles - Subordination to Criminal Law under the Modern Concept of Criminal Liability // Journal of Law, Information and Science. 2012. Vol. 21, No 2. Pp. 200-211.

69. Hallevy G. The Criminal Liability of Artificial Intelligence Entities -from Science Fiction to Legal Social Control // Akron Intellectual Property Journal. 2010. Vol. 4, No 2. Pp. 171-201.

70. Haque A. A. Review of R. A. Duff, Answering for Crime: Responsibility and Liability in the Criminal Law // Law & Politics Book Review. 2008. Vol. 18, No 5. Pp. 423-426.

71. Henschel A., Hortensius R., Cross E. S. Social Cognition in the Age

of Human-Robot Interaction // Trends in Neurosciences. 2020. Vol. 43, No 3. Pp. 373-384.

72. Holder C., Khurana V., Hook J., Bacon G., Day R. Robotics and law: Key legal and regulatory implications of the robotics age (part II of II) // Computer Law & Security Review. 2016. Vol. 32, No. 4. Pp. 557-576.

73. Hubbard F. P. Sophisticated Robots: Balancing Liability, Regulation, and Innovation // Florida Law Review. 2014. Vol. 66, No 5. Pp. 1803-1872.

74. Johansson L. Is It Morally Right to Use Unmanned Aerial Vehicles (UAVs) in War? // Philosophy & Technology. 2011. Vol. 24, No 3. P. 279-291.

75. Keisner A., Raffo J., Wunsch-Vincent S. Robotics: Breakthrough Technologies, Innovation, Intellectual Property // Foresight and STI Governance. 2016. Vol. 10, No 2. Pp. 7-27.

76. Khanna V. S. Corporate criminal liability: what purpose does it serve? // Harvard Law Review. 1996. Vol. 109. Pp 1477-1534.

77. Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol. 9, No 1. Pp. 5159-5162.

78. Khisamova Z. I., Begishev I. R., Sidorenko E. L. Artificial Intelligence and Problems of Ensuring Cyber Security // International Journal of Cyber Criminology. 2019. Vol. 13, No 2. Pp. 564-577.

79. Khisamova Z. I., Sidorenko E. L. Private Partnership as a Global Trend of Digital Government // SHS Web of Conferences 71, Eurasia: Sustainable Development, Security, Cooperation. 2019. Art. 01004.

80. Khisamova Z. I., Sidorenko E. L. The Readiness of the Economy for Digitalization: Basic Methodological Approaches. In: Ashmarina S., Vochozka M., Mantulenko V. (eds) Digital Age: Chances, Challenges and Future. ISCDTE 2019. Lecture Notes in Networks and Systems, Vol 84. Springer, Cham. Pp. 308-316.

81. Kim Y., Mutlu B. How social distance shapes human-robot interaction //

International Journal of Human-Computer Studies. 2014. Vol. 72, No. 12. Pp. 783-795.