Реагирование Европейского союза на глобальные технологические риски: практика и эффективность тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Сорокова Екатерина Дмитриевна

  • Сорокова Екатерина Дмитриевна
  • кандидат науккандидат наук
  • 2023, ФГАОУ ВО «Московский государственный институт международных отношений (университет) Министерства иностранных дел Российской Федерации»
  • Специальность ВАК РФ00.00.00
  • Количество страниц 280
Сорокова Екатерина Дмитриевна. Реагирование Европейского союза на глобальные технологические риски: практика и эффективность: дис. кандидат наук: 00.00.00 - Другие cпециальности. ФГАОУ ВО «Московский государственный институт международных отношений (университет) Министерства иностранных дел Российской Федерации». 2023. 280 с.

Оглавление диссертации кандидат наук Сорокова Екатерина Дмитриевна

ВВЕДЕНИЕ

ГЛАВА 1. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ РЕАГИРОВАНИЯ ЕВРОПЕЙСКОГО СОЮЗА НА ГЛОБАЛЬНЫЕ ТЕХНОЛОГИЧЕСКИЕ РИСКИ

1.1. Европейские исследования рисков и глобальных технологических рисков

1.1.1. Эволюция европейских рискологических представлений

1.1.2. Современные прикладные рискологические исследования и материалы Всемирного экономического форума как источниковая база

1.1.3. Глобальные технологические риски в ряду глобальных рисков современности

1.2. Эволюция европейских подходов к реагированию на риски и глобальные риски современности

1.2.1. От «анализа рисков» и «управления рисками» к концепции стрессоустойчивости

1.2.2. Актуальные европейские подходы к реагированию на глобальные риски современности

1.3. Европейские теоретико-методологические подходы к исследованиям амбивалентности глобальных технологических рисков современности и комплексного реагирования на них

1.3.1. Феномен техники, «высший риск» современности и его преодоление в дискурсе «фундаментальной онтологии» М. Хайдеггера

1.3.2. Амбивалентное отношение к глобальным технологическим рискам в социологических и политико-философских концепциях Н. Лумана, У. Бека, Э. Гидденса, Ю. Хабермаса

1.3.3. Реконструкция теоретических основ исследований глобальных рисков и реагирования на них под эгидой Всемирного экономического форума

ГЛАВА 2. ПРАКТИКА РЕАГИРОВАНИЯ ЕВРОПЕЙСКОГО СОЮЗА НА ОСНОВНЫЕ ГЛОБАЛЬНЫЕ ТЕХНОЛОГИЧЕСКИЕ РИСКИ

2.1. Политическое измерение феномена и исследований глобальных технологических рисков современности

2.2. Выявление и анализ основных глобальных технологических рисков современности на материале исследований Всемирного экономического форума (2006-2022 гг.)

2.3. Практика реагирования Европейского союза на основные глобальные технологические риски современности

2.3.1. Нарушение критической информационной инфраструктуры

2.3.2. Мошенничество с данными / кража данных

2.3.3. Масштабные кибератаки

2.3.4. Новейшие риски

2.3.5. Неблагоприятные результаты развития технологий

2.4. Практика реагирования Европейского союза на риски технологий искусственного интеллекта как драйвера Четвертой промышленной революции (2018-2022 гг.)

2.4.1 Технологии искусственного интеллекта как драйвер Четвертой промышленной революции

2.4.2. Искусственный интеллект в документах Евросоюза: цели, задачи, «желаемый образ»

2.4.3. Нормативное регулирование сферы технологий искусственного интеллекта: от этики к законодательству

2.4.4. Проект «Акта ЕС об искусственном интеллекте» 2021 г. в контексте характеристик сложных систем и положений теории многоуровневого управления

ГЛАВА 3. ЭФФЕКТИВНОСТЬ РЕАГИРОВАНИЯ ЕВРОПЕЙСКОГО СОЮЗА НА ГЛОБАЛЬНЫЕ ТЕХНОЛОГИЧЕСКИЕ РИСКИ СОВРЕМЕННОСТИ

3.1. Эффективность политики реагирования: актуальная методологическая проблема и теоретические предпосылки ее решения

3.1.1. Проблема оценки эффективности политики властных структур по Р.Ф. Туровскому: подходы, измерения, направления

3.1.2. Агент-структурный подход В. Галаза и А. Дьюи к оценке адаптивности сложных систем

3.1.3. Конкретизация параметров среды в типологии рисков по А. Клинке и О. Ренну

3.2. Синтез и первичная апробация рабочих моделей для выявления эффективности практик реагирования Евросоюза на глобальные технологические риски современности

3.3. Подходы к разработке и принципы создания рабочих моделей по анализу эффективности реагирования на глобальные технологические риски современности

ЗАКЛЮЧЕНИЕ

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ И ЛИТЕРАТУРЫ

Нормативно-правовые акты и другие официальные документы ЕС

Доклады и отчеты, подготовленные ВЭФ

Документы иных государств и международных организаций

Монографии и научные статьи на русском языке

Книги на русском языке

Монографии и научные статьи на иностранных языках

Диссертационные исследования

Аналитические доклады

Электронные ресурсы на русском языке

Электронные ресурсы на английском языке

ПРИЛОЖЕНИЯ

Приложение А Результаты анализа статистических данных о составе экспертов, участвующих в исследовании глобальных рисков современности (по материалам Всемирного экономического форума 2011-2022 гг.)

Приложение Б Характеристика методологии проведения эмпирических исследований глобальных рисков современности (по материалам Всемирного экономического форума 2011-2022 гг.)

Приложение В К дефиниции понятия «Глобальные технологические риски современности» (по материалам Всемирного экономического форума 2006-2022 гг.)

Приложение Г Номенклатура и трактовки основных глобальных технологических рисков современности (по материалам Всемирного экономического форума 2006-2022)

Приложение Д Классификация основных глобальных технологических рисков в контексте глобальных рисков современности (по материалам Всемирного экономического форума 20062022 гг.)

Приложение Е Результаты апробации схемы Р.Ф. Туровского по оценке измерений и направлений эффективности применительно к практике реагирования Евросоюза на последствия технологий искусственного интеллекта

Рекомендованный список диссертаций по специальности «Другие cпециальности», 00.00.00 шифр ВАК

Введение диссертации (часть автореферата) на тему «Реагирование Европейского союза на глобальные технологические риски: практика и эффективность»

ВВЕДЕНИЕ

Актуальность темы исследования. Особенностью XXI века стал резкий скачок в развитии информационных технологий (далее - ИТ) и бурное развитие технологий искусственного интеллекта (далее - ИИ). В соответствии с «Национальной стратегией развития искусственного интеллекта на период до 2030 года» целями развития ИИ в России являются «обеспечение роста благосостояния и качества жизни ее населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире...»1. Однако под влиянием реалий даже концептуальные документы требуют обновления: уже на конференции «AI Journey» 2022 г. Президент РФ анонсировал обновление приоритетов названной Национальной стратегии, что соответствует экспертным прогнозам о приближении эпохи Четвертой промышленной революции, предполагающей внедрение киберфизических систем в производственные процессы и повсеместное распространение нано-, био- инфо- и когнитивных технологий2. Наряду с глобализацией это усложняет картину рисков современности и их научное исследование.

Двигателем теоретического прогресса в сфере международных отношений и мировой политики «стали достижения других наук, новые технологические открытия, которые либо изменили реальность, либо позволили взглянуть на нее с более открытыми глазами»3. В частности, развитие новых технологий - это небывалый вызов для ЕС, который претендует на лидерство в области реагирования на глобальные риски4.

1 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». - Текст : электронный // Президент России : официальный сайт. 2019. 10 окт. URL: http://www.kremlin.ru/acts/bank/44731 (дата обращения: 29.12.2022).

2 Смирнов А. И. Современные информационные технологии в международных отношениях : монография. М. : МГИМО-Университет, 2017. 334 с.

3 Алексеева Т.А. «Квантовый подход» к международным отношениям: научное издание; отв. ред. Т.А. Алексеева. М., 2018. С. 73.

4 Арбатова Н.К. Климатические угрозы - новое измерение безопасности Евросоюза // Полис. Политические исследования. 2022. №6. С. 81-93.

Цифровая трансформация видится законодателям Евросоюза как источник не только возможностей, но и потенциальных рисков: те же технологии ИИ обладают беспрецедентным трансформирующим потенциалом, поэтому их рост, качественное развитие и внедрение во все сферы жизни общества в «нормативном вакууме» могут вызвать непредсказуемые и необратимые социально-политические последствия. Возникают новые озабоченности в сфере безопасности - прежде всего, военной и инфраструктурной, связанной с недружественным применением ИИ и его пока не познанными последствиями. Одновременно происходит рост внимания законодателей ЕС к политическим и социально-гуманитарным проблемам, связанным с глобальным воздействием новейших технологий на человека и общество. На фоне нарастания конкуренции5 между различными технико-экономическими моделями и усиления транснациональных цифровых корпораций ведущие страны стремятся к укреплению цифрового суверенитета6: предпринимают меры по усилению законодательного регулирования деятельности «ИТ-гигантов», поддержке собственной конкурентоспособности, развитию технологий и инфраструктурной устойчивости, по защите персональных данных граждан. Достаточно остро стоит вопрос нормативного регулирования в сфере новейших технологий7. Так, еще ни в одной европейской стране не принят всеобъемлющий закон, охватывающий общие принципы проектирования, производства и эксплуатации систем ИИ: обычно на них распространяются положения нормативных актов из смежных сфер.

Несмотря на очевидную востребованность знаний в данной области, в современной политической науке пока не выработаны теоретико-методологические основания видения специфики глобальных технологических

5 Безруков А.О., Мамонов М.В., Сучков М.А., Сушенцов А.А. Международная конкуренция и лидерство в цифровой среде : Доклад Международного дискуссионного клуба «Валдай». М., 2021. 31 c. URL: https://ru.valdaiclub.com/files/36581/ (дата обращения 29.12.22).

6 Безруков А.О., Мамонов М.В., Ребро О.В., Сушенцов А.А. Realpolitik в «цифре»: суверенитет, союзы и неприсоединение XXI века : Доклад Международного дискуссионного клуба «Валдай». М., 2021. 19 c. URL: https://ru.valdaiclub.com/files/39047/ (дата обращения 29.12.22).

7 Сорокова Е. Д. Стратегии реагирования России и Евросоюза на глобальные технологические риски // Научно-аналитический вестник ИЕ РАН. 2022. №4. С. 18-29. DOI: 10.15211/vestnikieran420221829.

рисков (далее - ГТР) и адекватного современности реагирования на них, а также методология оценки эффективности соответствующих практик.

В связи с этим приобретает особую актуальность проблема выявления основных подходов, концепций и характеристик современного комплексного процесса реформирования не только технологической политики стран-лидеров в этой области (в частности, реагирования Евросоюза на ГТР современности), но и «традиционных» политических процессов в сторону повышения их «стрессоустойчивости», гибкости и сложности, освобождения от морально устаревших, формализованных и политизированных стратегий, а также выработки и закрепления норм на государственном, региональном, международном уровнях и, разумеется, разработки принципов и моделей оценки эффективности подобной политики реагирования.

Степень научной разработанности различных аспектов темы диссертационного исследования существенно разнится.

Исследования, посвященные непосредственно феномену рисков, их возможным последствиям, воздействию на общество, проблемам прогнозирования и предотвращения, осуществлялись с начала ХХ в.; за это время они последовательно развивались в сторону «социализации» и «гуманитаризации»8 исследуемого явления.

Так, формально-логический поход, сформулированный американским экономистом, основателем Чикагской школы экономики Ф. Найтом, заложил основы рационального и прагматичного управления рисками9. Французский экономист М. Алле в 1950-х гг. сформулировал субъектно-психологический подход к рискам, обратившись к изучению восприятия рисков на индивидуальном и групповом уровнях10. Видные представители культурно-символической теории

8 Зубков В. И. Риск как предмета социологического анализа // Социологические исследования. 1999. № 4. С. 3-9.

9 Кравченко С. А. Социология риска и безопасности : учебник и практикум для академического бакалавриата. М. : Юрайт, 2016. С.33.

10 Алле М. Поведение рационального человека в условиях риска: критика постулатов и аксиом американской школы // THESIS. 1994. Вып. 5. С.18.

(М. Дуглас11, А. Вильдавский и др.12) рассматривали риски как угрозы определенному образу и стилю жизни больших социальных групп, восприятие которых опосредовано культурными нормами, стереотипами, символами. Представители модернистского направления (У. Бек13, Э. Гидденс14) связывали риски с негативными последствиями модернизации. В рамках психометрической парадигмы (П. Слович15, С. Лихтенштейн, Б. Фишхофф и др.16) изучалось восприятие рисков различными группами людей в разных социальных контекстах. Представители говернменталистского (социально-управленческого) подхода М. Фуко17, М. Дин18 и П. О'Мэлли19 оценивали риск как любые отклонения от «нормального» развития событий. Необходимо также выделить: обобщающую работу А. Клинке и О. Ренна по суммированию основных теоретико-методологических проблем современной рискологии, классификации рисков, обзору проблематики и составлению варианта «дерева реагирования» для руководителей20; труды В. И. Зубкова и В. В. Гришаева по систематизации подходов к реагированию на риски21; работы по дефиниции и классификации политических рисков А. Н. Бордовских22.

Таким образом, к 2020-м гг. рискология в целом представляет собой междисциплинарную область знаний, по-прежнему разрозненную в

11 Дуглас М. Риск как судебный механизм // THESIS. 1994. Вып. 5. С. 250. URL: https://www.hse.ru/data/471/313/1234/5 4 2Daed.pdf (дата обращения 29.12.22).

12 Douglas M., Wildavsky A. Risk and culture: An essay on selection of technological and environmental dangers. Berkley, 1982; Douglas M. Risk and blame: Essays in cultural theory. Routledge, 1992; Cross-cultural risk perception: A survey of empirical studies / Ed. by О. Renn, B. Rohrmann. Dordrecht; Boston, 2000.

13 Бек У. Общество риска. На пути к другому модерну. М.: Прогресс-Традиция, 2000. 383 с.

14 Гидденс Э. Судьба, риск и безопасность // THESIS. 1994. Вып. 5. С. 123-124.

15 Slovic P. The Perception of Risk. L.: Sterling, VA., 2000. 511 p.

16 Slovic P.,Fischhoff В., Lichtenstein, S. Characterizing Perceived Risk // Perilous progress: Managing the Hazards of Technology / R. W. Kates, C. Hohenemser, & J. X. Kasperson (eds.). Westview, 1985. pp. 91-125. URL: https://papers.ssrn.com/sol3/papers.cfm7abstract id=2185557 (дата обращения 29.12.22).

17 The Foucault effect: Studies in Governmentality / G. Burchell, C. Gordon, P. Miller. Hemel Hempstead, 1991; Foucault and political reason: Liberalism, neo-liberalism and rationalities of government / Ed. by A. Barry, T. Osborne, N. Rose. University College of London Press, 1996.

18 Mitchell D. Governmentality. Power and Rule in Modern Society. Second Edition. SAGE Publications Ltd., Denmark, 2009. 304 p.

19 O'Malley, P. Uncertain subjects: risks, liberalism and contract' // Economy and Society, 2000, 29, 4, P. 460-484.

20 Klinke A., Renn O. A New Approach to Risk Evaluation and Management: Risk-Based, Precaution-Based, and Discourse-Based Strategies // Risk Analysis. 2002. Vol. 22. No. 6. Р. 1072. DOI: https://doi.org/10.1111/1539-6924.00274. (дата обращения 29.12.22).

21 Зубков В. И. Риск как предмет социологического анализа : автореф.дис. ... д-ра социол. наук. М., 2006. 48 с.; Гришаев В. В. Риск и общество (дискуссия о понятии риска и библиография). М., 2002. 46 с.

22 Бордовских А. Н. Политические риски в современной экономике : Учеб. пособие. М.: КНОРУС, 2019. 204 с.

теоретико-методологическом плане. Например, в рискологической литературе до сих пор не до конца разработана проблема терминологического разграничения понятия «риск» и смежных категорий - «вызов», «угроза», «опасность». Казалось бы, определения данных терминов в сфере национальной безопасности проанализированы в работе А. А. Кравчука23; однако на терминологическую путаницу в нормативных документах, учебной и научной литературе (как ранее С. В. Федораев) по-прежнему указывают И. А. Сушкова, С. И. Яковлева, Е. В. Духанина, В. С. Николаенко24. Немалое внимание уделяется в научной литературе угрозам. Объектом изучения становятся адаптация государственных органов к новым угрозам (в т.ч. технологическим)25, создание системы предотвращения технологических угроз26, восприятие угроз и реагирование на них27.

Проблематика реагирования на риски представлена в научной литературе гораздо более скудно. Большинство теоретических и эмпирических работ, посвященных управлению рисками, или имеют узкоотраслевой характер28, или рассматривают технологические риски

29

исключительно как техногенные29, или затрагивают отдельные подходы:

23 Кравчук А. А. Категории «вызов», «опасность», «угроза» в теории национальной безопасности // Вестник Забайкальского гос. ун-та. 2016. Т. 22. № 11. С. 65-74.

24 Сушкова И. А. Соотношение и взаимосвязь понятий «вызов», «опасность», «угроза», «риск» // Экономическая безопасность и качество. 2018. № 4 (33); Яковлева С. И. Угрозы, вызовы, риски и проблемы как важные категории стратегического планирования регионов // Псковский регионологический журнал. № 3 (31). 2017. С. 3-18; Федораев С. В. Опасности, угрозы и риски развития национальной экономики: методологический аспект // Экономическая теория и институциональная экономика. 2010. № 4 (30). - С. 5-11; Духанина Е. В., Кулаков К. Ю., Хаметова А. Т. Анализ подходов к трактовке понятия риска, его содержания и методов управления // Вестник евразийской науки. 2022. Т. 14. № 1. URL: https ://esi.today/PDF/26ECVN122 .pdf; Николаенко В. С. Риск, риск-менеджмент и неопределенность: уточнение понятий // Государственное управление. Электронный вестник. 2020. № 81. DOI: 10.24411/20701381-2020-10080 (дата обращения 29.12.22).

25 Kavanagh C. New Tech, New Threats, and New Governance Challenges: Report. An Opportunity to Craft Smarter Responses? // Carnegie Endowment for International Peace, 2019. URL: http://www.jstor.eom/stable/resrep20978.4.

26 Hester R.J. Bioveillance: A Techno-security Infrastructure to Preempt the Dangers of Informationalised Biology // Science as Culture. 2020. 29:1. Р. 153-176, DOI: 10.1080/09505431.2019.1705270.

27 O'Meyer C., Miskimmon A. Perceptions and Responses to Threats: Introduction, Cambridge Review of International Affairs. 2009. 22:4. Р. 625-628.

28 Агарков Г. А. и др. Международные модели управления рисками: возможности применения и результаты // Международный бухгалтерский учет. 2016. №13. С. 52-68; Строганова Е. В. Развитие государственной системы закупок на основе риск-ориентированного подхода : дис. ... канд.экон.наук. М., 2021. 175 с.; Руководство по управлению рисками / ПАРТАД: Профессиональная ассоциация регистраторов, трансфер-агентов и депозитариев. М., 2018. 91 с.

29 См., например: Белов П. Г. Теоретические основы менеджмента техногенного риска : автореф. Дис. ... д-ра техн. наук. М., 2007. 32 с.; Балабаев М. А. Когнитивные нечетко-логические модели и комплекс программ оценки техногенно-природных рисков : автореф. дис. ... канд.техн.наук. М., 2008. 22 с.

оценку приоритетности рисков (Дж. Блэк и др.)30, влияние риска на когнитивные аспекты принятия управленческих решений (Р. Бизли)31 и т.д.

При этом тема реагирования Евросоюза на риски в зарубежной научной литературе освещается более подробно: так, Э. Вос рассматривает историю научного обеспечения процесса принятия решений в Европейских сообществах, направленного на превентивный анализ и учет рисков32; Дж. Сперлинг и др. - в контексте теории секьюритизации33; отдельные работы посвящены вопросам нормативно-правового регулирования технологий (Г. Ван Калстер34), анализу риск-ориентированного подхода в его отдельных сферах (М. Гонсальвез35), устоявшимся и зарождающимся практикам управления рисками и взаимодействия ЕС с государствами-членами в определенных сферах, связанных как с новыми технологиями («интернет вещей»36, нанотехнологии37), так и с рисками иного порядка (изменением климата38; охраной внешних границ Евросоюза39, защитой персональных данных40). В отечественной научной литературе исследования указанных проблем представлены в актуальных работах сотрудников Института Европы

30 Black J., Baldwin R. When Risk-Based Regulation Aims Low: Approaches and Challenges // Regulation & Governance, 2012. 6. pp. 2-22.

31 Beasley R. Dissonance and Decision-Making Mistakes in the Age of Risk // Journal of European Public Policy. 2016. 23:5. pp. 771-787.

32 Vos E. Three Decades of EU Risk Regulation Research // European Journal of Risk Regulation. Issue 1: Cambridge Inaugural Issue: The Past, Present And Future of Risk Regulation. 2017. №8. Р.47-51. DOI: https://doi.org/10.1017/err.2016.7 (дата обращения: 29.12.2022).

33 Sperling J., Webber M. The European Union: Security Governance and Collective Securitisation // West European Politics. 2019. 42:2. p. 228-260. DOI: 10.1080/01402382.2018.1510193 (дата обращения: 29.12.2022).

34 Van Calster G. Risk Regulation, EU Law and Emerging Technologies: Smother or Smooth? // NanoEthics. 2008. 2. pp. 61-71. DOI 10.1007/s11569-008-0029-8 (дата обращения: 11.06.2022).

35 Gongalves M.E. The Risk-Based Approach under the New EU Data Protection Regulation: a Critical Perspective // Journal of Risk Research. 2020. 23:2. pp. 139-152. DOI: 10.1080/13669877.2018.1517381 (дата обращения: 11.06.2022).

36 Brass I., Sowell J.H. Adaptive Governance for the Internet of Things: Coping with Emerging Security Risks // Regulation & Governance. 2020. D0I:10.1111/rego.12343.

37 Isigonis P. et al. Risk Governance of Emerging Technologies Demonstrated in Terms of its Applicability to Nanomaterials // Advanced Science News Small. 2020. 16, 2003303. DOI: 10.1002/smll.202003303.

38 Bremberg N. et al. The EU and Climate-Related Security Risks: a Community of Practice in the Making? // Journal of European Integration. 2019. 41:5. pp. 623-639. DOI: 10.1080/07036337.2018.1546301; Paul R. et al. Risk-based governance against national obstacles? Comparative dynamics of Europeanization in Dutch, French, and German flooding policies // Journal of Risk Research. 2016. 19:8. pp.1043-1062. DOI: 10.1080/13669877.2015.1074936.

39 Paul R. Harmonisation by Risk Analysis? FRONTEX and the Risk-Based Governance of European Border Control // Journal of European Integration. 2017. 39:6. pp. 689-706. DOI: 10.1080/07036337.2017.1320553.

40 Шадрин С. А. Правовое регулирование защиты персональных данных в Европейском Союзе: генезис и перспективы развития : автореф. дис.....канд.юрид.наук. Казань, 2019. 35 с.

РАН (Д. Ю. Базаркиной41 и др.), Института мировой экономики и международных отношений РАН (Н.К. Арбатовой42) и МГИМО МИД России (М. М. Лебедевой43, Е. С. Зиновьевой44 и др.).

Отдельный пласт работ посвящен теории стрессоустойчивости -системному подходу к выстраиванию комплексного реагирования на риск как на сложную систему. Стоит отметить всесторонний концептуальный анализ и критику, представленные в сборнике «Справочник КоиИеё§е по стрессоустойчивости» под редакцией Д. Чэндлера и Дж. Коффи45, теоретические исследования самого Д. Чэндлера46, работы С. Хумберта и Дж. Джозефа47, Ф. Бурбо48, И. Линькова49, Э. Штолленверка, Т. Борцель и Т. Риссе50, Г. Маршана и И. Стивенс51, а также анализ соответствующих документов Евросоюза, проделанный М. Теокариду52. Из отечественных исследователей значимый вклад в исследование концепции

41 Bazarkina D.Y. Countermeasures for Hybrid Threats: The Experience of the European Union and Its Member States // Herald of the Russian Academy of Sciences. 2022. № 92. Р. 315-320; Базаркина Д.Ю. Эволюция подхода Европейского союза к борьбе с дезинформацией // Власть. 2021. Т. 29. № 6. С. 130-138; Базаркина Д.Ю. Эволюция подхода Европейского союза к борьбе с дезинформацией // Власть. 2021. Т. 29. № 6. С. 130-138.

42 Арбатова Н.К. Станет ли Европейский союз мировым центром силы? (Тенденции, возможности, риски) // Мировая экономика и международные отношения. 2020. Т. 64. № 6. С. 51-65; Арбатова Н.К. Климатические угрозы - новое измерение безопасности Евросоюза // Полис. Политические исследования. 2022. №6. С. 81-93.

43 Lebedeva M.M. Global governance of biogenic threats // Vestnik MGIMO-Universiteta. 2021. 14(2). Р. 7-21; Лебедева М.М. Мировая политика в эпоху COVID-19: монография. - М.: Аспект Пресс, 2022. - 316 с.

44 Zinovieva E., Bulva V. EU digital sovereignty // Sovremennaya Evropa. 2021. № 2 (102). Рp. 40-49; Зиновьева Е.С. Международная информационная безопасность. Проблемы двустороннего и многостороннего сотрудничества. М., 2021. - 280 с; Зиновьева Е.С. Формирование цифровых границ и информационная глобализация: анализ с позиций критической географии // Полис. Политические исследования. 2022. № 2. С. 8-21.

45 The Routledge Handbook of International Resilience / David Chandler, Jon Coaffee (eds.). London: Routledge, 420 p. DOI: https://doi.org/10.4324/9781315765006 . (дата обращения 29.12.22).

46 Chandler D. Beyond neoliberalism: resilience, the new art of governing complexity // Resilience: International Policies, Practices and Discourses. 2014. 2:1. Р. 47-63. DOI: 10.1080/21693293.2013.878544; Chandler D. Resilience. The governance of complexity. London : Routledge, 2014. 268 р. DOI: https://doi.org/10.4324/9781315773810 (дата обращения 29.12.22).

47 Humbert C., Joseph J. Introduction: the politics of resilience: problematising current approaches // Resilience. 2019. 7 (3). pp. 215-223. DOI: https://doi.org/10.1080/21693293.2019.1613738 (дата обращения 29.12.22).

48 Bourbeau Ph. Resilience, security and world politics // The Routledge Handbook of International Resilience. Routledge, 2016. URL: https://www.routledgehandbooks.com/doi/10.4324/9781315765006.ch3 (дата обращения 29.12.22).

49 Linkov I. et al. Changing the resilience paradigm // Nature climate change. 2014. vol 4. Р. 408. URL: www.nature.com/natureclimatechange - с.408 (дата обращения 29.12.22).

50 Stollenwerk E., Borzel T.A., Risse T. Theorizing resilience-building in the EU's neighbourhood: introduction to the special issue // Democratization. 2021. 28:7. Р. 1219-1238. DOI: 10.1080/13510347.2021.19578 39.

51 Marchant G.E., Stevens Y.A. Resilience: A New Tool in the Risk Governance Toolbox for Emerging Technologies // U.C. Davis Law Review. 2017. Vol 51. No. 1. pp. 233-271. URL: https://lawreview.law.ucdavis.edu/issues/51/1/Symposium/51-1 Marchant Stevens.pdf (дата обращения 29.12.22).

52 Theocharidou M., Galbusera L., Giannopoulos G. Resilience of critical infrastructure systems: Policy, research projects and tools // IRGC resource guide on resilience (vol. 2): Domains of resilience for complex interconnected systems / B. D. Trump, M.-V. Florin, , & I. Linkov (Eds.). Lausanne, CH: EPFL International Risk Governance Center, 2018.

стрессоустойчивости53 и ее практического приложения в разных сферах политики ЕС (ОВПБ54, кибербезопасность55, информационная безопасность56), внесла сотрудница Санкт-Петербургского государственного университета Т.А. Романова и ее коллеги Е. Б. Павлова, Е. Ю. Трещенков, Н. Н. Гудалов, Д. С. Тулупов57.

Достаточно широко в научной литературе представлены теория сложности и теория управления. Необходимо выделить обобщающие теоретические работы сотрудников МГИМО МИД России о приложении теории сложности к сфере международных отношений, мировой и публичной политики - И. А. Истомина и Д. А. Дегтерева58, Е. С. Зиновьевой и А. А. Казанцева59, а также А. Геллера60, А. Буске и С. Кертиса61, П. Кэйрни62.

53 Романова Т. А. Категория "стрессоустойчивость" в Европейском Союзе // Современная Европа. 2017. № 4. С. 17-28. URL: http://www.sov-europe.ru/images/pdf/2017/4-2017/Romanova_4-2017.pdf. (дата обращения 29.12.22).

54 Романова Т. А., Павлова Е. Б. От гражданской и нормативной силы к стрессоустойчивости? Эволюция идейных основ Внешней деятельности ЕС // Международные процессы. Т. 16. № 2. С. 73-90. DOI: 10.17994/IT.2018.16.2.53.5 (дата обращения: 12.06.2022).

55 Романова Т.А., Малова А.Н. Проблема применения категории «стрессоустойчивость» в политике кибербезопасности Евросоюза // Вестн. Моск. ун-та. Сер. 25: Международные отношения и мировая политика. 2019. №1. С. 20-44. URL: https://cyberlemnka.ru/articleMproblema-primeneniya-kategorii-stressoustoychivost-v-politike-kiberbezopasnosti-evrosoyuza. (дата обращения 29.12.22).

56 Романова Т. А., Соколов Н. И., Колотаев Ю. Ю. Дезинформация (фейковые новости, пропаганда) как угроза стрессоустойчивости: подходы на уровне Евросоюза и Литвы как его члена // Балтийский регион. 2020. Т. 12. №1. С. 53-67. doi: 10.5922/2079-8555-2020-1-4. (дата обращения 29.12.22).

57 Трещенков Е.Ю. Стрессоустойчивость (resilience) в дискурсах Европейского союза и международных организаций // Вестник международных организаций. 2019. Т. 14. № 1. С. 55-75. DOI: 10.17323/1996-78452019-01-04; Трещенков Е. Ю. Стрессоустойчивость в дискурсах Европейского Союза // Россия и современный мир, 2019. С.223-241. DOI: 10.31249/rsm/2019.01.15; Трещенков Е. Ю. Стрессоустойчивость в современных дискурсах управления // Власть. 2018. №8. С.24-31; Pavlova E. B., Romanova T. A. Resilience in EU Discourse: A New Norm in Relations with Russia? // Russia in Global Affairs. 2019. vol. 17, No.4. Р. 110-126. DOI: 10.31278/1810-6374-2019-17-4-110-126; Павлова Е. Б., Гудалов Н. Н., Коцур Г. В. «Стрессоустойчивость»: новое слово в международных отношениях или вариация на неолиберальную тему? // Вестн. Моск. ун-та. Сер. 25: Международные отношения и мировая политика. 2017. № 2. С. 170-182; Гудалов Н. Н., Тулупов Д. С. Семиотика стрессоустойчивости в международных отношениях: многообразие академических и политических смыслов // Полития. 2018. № 1 (88). С. 135-147. DOI: 10.30570/2078-5089-2018-88-1-135-147.

58 Дегтерев Д.А., Истомин И.А. Системное моделирование международных отношений / Д.А. Дегтерев, И.А. Истомин // Мировая экономика и международные отношения. 2015, № 11. С. 17-30. DOI: 10.20542/0131-22272015-59-11-17-30 (дата обращения: 12.06.2022).

59 Зиновьева Е. С., Казанцев А. А. Сложность мировой политики: к вопросу о новой методологии анализа // Мировая экономика и международные отношения. 2015. № 4. С. 58-67. DOI:10.20542/0131-2227-2015-4-58-67 (дата обращения: 12.06.2022).

60 Geller A. The Use of Complexity-Based Models in International Relations: A Technical Overview and Discussion of Prospects and Challenges / A. Geller // Cambridge Review of International Affairs. 2011. 24:01. Р. 63-80. DOI: 10.1080/09557571.2011.559191 (дата обращения: 11.06.2022).

61 Bousquet A., Curtis S. Beyond models and metaphors: complexity theory, systems thinking and international relations / A. Bousquet, S. Curtis // Cambridge Review of International Affairs. 2011. 24:01. Р. 43-62. DOI: 10.1080/09557571.2011.558054 (дата обращения: 11.06.2022).

62 Cairney P. Complexity Theory in Political Science and Public Policy // Political Studies Review. 2012. Vol. 10. рр . 346-358. DOI: 10.1111/j.1478-9302.2012.00270.x (дата обращения: 11.06.2022).

Различные аспекты теории управления также подвергаются всестороннему рассмотрению и модификации: так, теория многоуровневого управления (multi-level governance), разработанная в конце 1990-х гг. Л. Хуг и Г. Марксом в контексте исследования европейской интеграции63 наряду с теорией эксперименталистского управления были использованы исследовательницей М. Маркут для анализа цифровой политики Евросоюза64; основные постулаты теории управления были заимствованы В. Галазом и А. Дьюи для рассмотрения поведения сложных адаптивных систем65 и т.д.

Ограниченное освещение в зарубежной и отечественной литературе получают проблемы этического регулирования технологических рисков: выстраивание этического регулирования (А. А. Кулешов и др.66, Р. С. Ибрагимов67), его ограничения и способы их преодоления (С. Делакруа и др.68, Б. Вагнер69). К теме этики ИИ обращались Н. Бостром70, Л. Флориди71, Д. Лауэр72, С. Прункль и др73. Различные аспекты рисков ИИ, его влияния на общество и реагирования на них освещали М. Тегмарк74, Н. Бостром75,

63 Hooghe L., Marks G., Schakel A. Multilevel governance // Comparative Politics / Daniele Caramani (ed.). Oxford : Oxford University Press, 2020. pp. 193-210. URL: https://hdl.handle.net/1814/70417. (дата обращения 29.12.22).

64 Marcut M. The Governance of Digital Policies. Towards a New Competence in the European Union. Palgrave Macmillan, 2020. 136 р.

65 Duit A., Galaz V. Governance and Complexity - Emerging Issues for Governance Theory // Governance: An International Journal of Policy, Administration, and Institutions. 2008. Vol. 21. No 3. Р. 311-335. DOI: https://doi.org/10.1111/j.1468-0491.2008.00402.x (дата обращения: 11.06.2022).

66 Kuleshov A., Ignatiev I., Abramova A., Marshalko G. Addressing AI Ethics Through Codification // Proceedings of the 2020 International Conference Engineering Technologies and Computer Science (EnT). 24-26 June 2020. URL: https://ieeexplore.ieee.org/document/9140627 (дата обращения 29.12.22).

67 Ибрагимов Р.С., Сурагина E^., Чурилова Д.Ю. Этика и регулирование искусственного интеллекта // Закон 2021. 8. С. 85-95.

68 Delacroix S., Wagner B. Constructing a Mutually Supportive Interface between Ethics and Regulation // Computer Law & Security Review. 2021. 40 (April). DOI: https://doi.org/10.1016/J.CLSR.2020.105520. Accessed October 30, 2021 (дата обращения 29.12.22).

69 Wagner B. Ethics As An Escape From Regulation. From "Ethics-Washing" To Ethics-Shopping? // Being Profiled: Cogitas Ergo Sum, 2018. DOI: https://doi.org/10.1515/9789048550180-016 (дата обращения: 11.06.2022).

70 Bostrom N. The Ethics of Artificial Intelligence // The Cambridge Handbook of Artificial Intelligence. Cambridge University Press, 2014. Р. 316-334.

71 Floridi L. et al. AI4People - An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations // Minds and Machines. 2018. №28. Р. 689-707. DOI: https://doi.org/10.1007/s11023-018-9482-5 (дата обращения: 11.06.2022).

72 Lauer D. You cannot have AI ethics without ethics // AI and Ethics. 2021. 1:21-25. DOI: https://doi.org/10.1007/s43681-020-00013-4 (дата обращения 29.12.22).

73 Prunkl C.E.A. et al. Institutionalizing ethics in AI through broader impact requirements // Nature Machine Intelligence. 2021. Vol. 3. Р. 104-110. URL: https://www.nature.com/articles/s42256-021-00298-y (дата обращения: 11.06.2022).

74 Tegmark M. Life 3.0. Being Human in the Age of Artificial Intelligence. Penguin Books, 2017. 364 р.

75 Bostrom N. Policy Desiderata for Superintelligent AI: A Vector Field Approach, version 4.3 / N. Bostrom, A. Dafoe, C. Flynn // Ethics of Artificial Intelligence / ed. by Liao S.M. Oxford University Press, 2019; Bostrom N. The Vulnerable World Hypothesis / N. Bostrom // Global Policy. 2019. Vol.10. Issue 4.

Н. Диков76, Д. А. Квашнина77, Д. Ю. Базаркина и Е.Н. Пашенцев78.

Особенности Европейских исследований ГТР как амбивалентного феномена описаны в работе с опорой на труды крупнейших представителей самых разных подходов - социологического (У. Бек79 и Э. Гидденс80), системной теории рисков (Н. Луман81), «фундаментальной онтологии» (М. Хайдеггер82), «дискурсивной этики» (Ю. Хабермас83). Для интерпретации их идей привлекались труды исследователей их творчества - С. С. Хоружего84, О. М. Ломако85, О. А. Добриной86, Н. В. Мотрошиловой87, А. Н. Линде88. О возможном влиянии технологий на будущее политики и политической науки писал Дж. Сасскинд89; проблематику амбивалентности цифровизации в

76 Dickow M. Das globale Ringen um die Zukunft der künstlichen Intelligenz / M. Dickow, D. Jacob // SWP-Aktuell. 2018. № 24. URL: https://www.ssoar.info/ssoar/bitstream/handle/document/57758/ssoar-2018-dickow_et_al-Das_globale_Ringen_um_die.pdf;jsessionid=D844A2DE77D5F6E42BD362D17B5BF00E?sequence=1 (дата обращения: 11.06.2022).

77 Квашнина Д.А. Философские аспекты влияния искусственного интеллекта на социум // Вестник Томского государственного университета. Философия. Социология. Политология. 2017. №37. DOI: 10.17223/1998863Х/37/6 2017 (дата обращения: 18.05.2020).

Список литературы диссертационного исследования кандидат наук Сорокова Екатерина Дмитриевна, 2023 год

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ

И ЛИТЕРАТУРЫ

Нормативно-правовые акты и другие официальные документы ЕС

1. Commission Staff Working Document. Action Plan for Resilience in Crisis Prone Countries 2013-2020 (SWD(2013) 227 final) // European Commission, 2013. - URL: https://ec.europa.eu/echo/files/policies/resilience/com_2013_227_ap_crisis_prone_countr ies_en.pdf (дата обращения 30.12.22).

2. Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions "Artificial Intelligence for Europe" (COM(2018) 237 final) // EUR-Lex, 2018. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN (дата обращения 30.12.22).

3. Communication from the Commission to the Council and the European Parliament of 20 October 2004 - Critical Infrastructure Protection in the fight against terrorism (COM(2004) 702 final) [Электронный ресурс] // EUR-Lex, 2004. URL: https://eur-lex.europa.eu/legal-content/EN/LSU/?uri=CELEX%3A52004DC0702 (дата обращения 30.12.22).

4. Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions "Fostering a European approach to Artificial Intelligence" (COM(2021) 205 final) // European Commission, 2021. URL: https://digital-strategy.ec.europa.eu/en/library/communication-fostering-european-approach-artificial-intelligence (дата обращения 30.12.22).

5. Communication from the Commission to the European Parliament and the Council "The EU Approach to Resilience: Learning from Food Security Crises (COM(2012) 586 final) // European Commission, 2012. URL: https://ec.europa.eu/echo/files/policies/resilience/com_2012_586_resilience_en.pdf (дата обращения 30.12.22).

Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions "The European Agenda on Security" (C0M/2015/0185 final) // EUR-Lex, 2015. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1485257048405&uri=CELEX:52015DC0185 (дата обращения 30.12.22). Concept Note. The High-Level Expert Group on Artificial Intelligence / European Commission, 2018. URL: https://futurium.ec.europa.eu/en/european-ai-alliance/open-library/concept-note-ai-hleg?language=en (дата обращения 30.12.22). Council Directive 2008/114/EC of 8 December 2008 on the identification and designation of European critical infrastructures and the assessment of the need to improve their protection (Text with EEA relevance) // EUR-Lex, 2008. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32008L0114 (дата обращения 30.12.22). Declaration for the Future of Internet // European Commission, 2022. URL: https://digital-strategy.ec.europa.eu/en/library/declaration-future-internet (дата обращения 30.12.22). Directive 2002/58/EC of the European Parliament and of the Council of 12 July 2002 concerning the processing of personal data and the protection of privacy in the electronic communications sector (Directive on privacy and electronic communications) // EUR-Lex,

6.

7.

8.

9.

2002. URL: https://eur-lex.europa.eu/legal-

content/EN/ALL/?uri=CELEX%3A32002L0058 (дата обращения 30.12.22).

11. Directive 2009/136/EC of the European Parliament and of the Council of 25 November 2009 amending Directive 2002/22/EC on universal service and users' rights relating to electronic communications networks and services, Directive 2002/58/EC concerning the processing of personal data and the protection of privacy in the electronic communications sector and Regulation (EC) No 2006/2004 on cooperation between national authorities responsible for the enforcement of consumer protection laws (Text with EEA relevance) // EUR-Lex, 2009. URL: https://eur-lex.eurcpa.eu/LexUriServ/LexUriServ.do?uri=QJ:L:2009:337:0011:0036:en:PDF. (дата обращения 30.12.22).

12. Directive (EU) 2016/680 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data by competent authorities for the purposes of the prevention, investigation, detection or prosecution of criminal offences or the execution of criminal penalties, and on the free movement of such data, and repealing Council Framework Decision 2008/977/JHA // EUR-Lex, 2016. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32016L0680 (дата обращения 30.12.22).

13. Directive (EU) 2016/1148 of the European Parliament and of the Council of 6 July 2016 concerning measures for a high common level of security of network and information systems across the Union // EUR-Lex, 2016. URL: https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX%3A32016L1148 (дата обращения 30.12.22).

14. Ethics guidelines for trustworthy AI // European Commission, 2019. URL: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (дата обращения 30.12.22).

15. Europe's Digital Decade: digital targets for 2030 // European Commission, 2021. URL: https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/europes-digital-decade-digital-targets-2030_en (дата обращения 30.12.22).

16. Joint Communication to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions "Cybersecurity Strategy of the European Union: An Qpen, Safe and Secure Cyberspace" (J0IN/2013/01 final) // EUR-Lex, 2013. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52013JC0001 (дата обращения 30.12.22).

17. Joint Communication to the European Parliament and the Council "Joint Framework on countering hybrid threats: a European Union response" J0IN(2016) 18 final // EUR-Lex, 2016. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52016JC0018 (дата обращения 30.12.22).

18. Joint Communication: Increasing resilience and bolstering capabilities to address hybrid threats // The European External Action Service, 2018. URL: https://www.eeas.europa.eu/node/46397 en (дата обращения 30.12.22).

19. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) (Text with EEA relevance) // EUR-Lex, 2016. https://eur-lex.europa.eu/eli/reg/2016/679/oj (дата обращения 30.12.22).

20. Shared Vision, Common Action: A Stronger Europe. A Global Strategy for the European Union's Foreign And Security Policy // The European

External Action Service, 2016. URL: https://www.eeas.europa.eu/sites/ default/files/eugs review web 0.pdf (дата обращения 30.12.22).

21. Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts // EUR-Lex, 2021. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206 (дата обращения 30.12.22).

22. Proposal for a Regulation of the European Parliament and of the Council "On a Single Market for Digital Services (Digital Services Act) and amending Directive 2000/31/EC" (COM/2020/825 final) // EUR-Lex, 2020. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52020PC0825 (дата обращения 30.12.22).

23. Proposal for a Regulation of the European Parliament and of the Council "On contestable and fair markets in the digital sector (Digital Markets Act)" (COM/2020/842 final) // EUR-Lex, 2020. URL: https://eur-lex.europa.eu/legal-content/en/TXT/?uri=COM%3A2020%3A842%3AFIN (дата обращения 30.12.22).

24. Proposal for an ePrivacy Regulation // European Commission, 2020. URL: https://digital-strategy.ec.europa.eu/en/policies/eprivacy-regulation (дата обращения 30.12.22).

25. Welcome to the ALTAI portal! // European AI Alliance, 2020. URL: https://futurium.ec.europa.eu/en/european-ai-alliance/pages/welcome-altai-portal (дата обращения 30.12.22).

26. White Paper on Artificial Intelligence - A European approach to excellence and trust // European Commission, 2020. URL: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (дата обращения 30.12.22).

Доклады и отчеты, подготовленные ВЭФ

27. Agile Governance Reimagining Policy-making in the Fourth Industrial Revolution [Электронный ресурс] // World Economic Forum, 2017. URL: https://www3.weforum.org/docs/WEF Agile Governance Reimagining Policymaking 4IR report.pdf (дата обращения 30.12.22).

28. Centre for the Fourth Industrial Revolution // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/centre-for-the-fourth-industrial-revolution/ (дата обращения 30.12.22).

29. Data Policy in the Fourth Industrial Revolution: Insights on personal data [Электронный ресурс] // World Economic Forum, 2020. URL: https://www3.weforum.org/docs/WEF_Data_Policy_in_the_Fourth_Industrial_ Revolution_2020.pdf (дата обращения 30.12.22).

30. Global Future Council on Agile Governance // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/communities/gfc-on-agile-governance (дата обращения 30.12.22).

31. Global Future Council on Artificial Intelligence for Humanity // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/communities/gfc-on-artificial-intelligence-for-humanity (дата обращения 30.12.22).

32. Global Future Council on Cybersecurity // World Economic Forum, 2022 [Электронный ресурс]. URL: https ://www.weforum. org/ communities/ gfc-on-cybersecurity (дата обращения 30.12.22).

33. Global Risks Report 2006 [Электронный ресурс] // World Economic Forum, 2006. URL: https://www3.weforum.org/docs/WEF Global Risks Report 2006.pdf (дата обращения 30.12.22).

34. Global Risks Report 2007 [Электронный ресурс] // World Economic Forum, 2007. URL: https://www3.weforum.ors/docs/WEF Global Risks Report 2007.pdf (дата обращения 30.12.22).

35. Global Risks Report 2008 [Электронный ресурс] // World Economic Forum, 2008. URL: https://www3.weforum.org/docs/WEF Global Risks Report 2008.pdf (дата обращения 30.12.22).

36. Global Risks Report 2009 [Электронный ресурс] // World Economic Forum, 2009. URL: https://www3.weforum.ors/docs/WEF Global Risks Report 2009.pdf (дата обращения 30.12.22).

37. Global Risks Report 2010 [Электронный ресурс] // World Economic Forum, 2010. URL: https://www3.weforum.org/docs/WEF_Global_Risks_Report_2010.pdf (дата обращения 30.12.22).

38. Global Risks Report 2011 [Электронный ресурс] // World Economic Forum, 2011. URL: https://www3.weforum.org/docs/WEF_Global_Risks_Report_2011.pdf (дата обращения 30.12.22).

39. Global Risks Report 2012 // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www3.weforum.ors/docs/WEF GlobalRisks Report 2012.pdf(дата обращения 30.12.22).

40. Global Risks Report 2013 [Электронный ресурс] // World Economic Forum, 2013. URL: https://www3.weforum.ors/docs/WEF GlobalRisks Report 2013.pdf(дата обращения 30.12.22).

41. Global Risks Report 2014 [Электронный ресурс] // World Economic Forum, 2014. URL: https://www3.weforum.org/docs/WEF_GlobalRisks_Report_ 2014.pdf (дата обращения 30.12.22).

42. Global Risks Report 2015 [Электронный ресурс] // World Economic Forum, 2015. URL: https://www3.weforum.org/docs/WEF_Global_Risks_2015.pdf (дата обращения 30.12.22).

43. Global Risks Report 2016 [Электронный ресурс] // World Economic Forum, 2016. URL: https://www3.weforum.org/docs/GRR/WEF GRR16.pdf(дата обращения 30.12.22).

44. Global Risks Report 2017 [Электронный ресурс] // World Economic Forum, 2017. URL: https://www3.weforum.org/docs/GRR17 Report web.pdf (дата обращения 30.12.22).

45. Global Risks Report 2018 [Электронный ресурс] // World Economic Forum, 2018. URL: https://www3.weforum.org/docs/WEF_GRR18_Report.pdf (дата обращения 30.12.22).

46. Global Risks Report 2019 [Электронный ресурс] // World Economic Forum, 2019. URL: https://www3.weforum.org/docs/WEF_Global_Risks_Report_2019.pdf (дата обращения 30.12.22).

47. Global Risks Report 2020 [Электронный ресурс] // World Economic Forum, 2020. URL: https://www3.weforum.org/docs/WEF Global Risk Report 2020.pdf. (дата обращения 30.12.22).

48. Global Risks Report 2021 [Электронный ресурс] // World Economic Forum, 2021. URL: https://www3.weforum.org/docs/WEF The Global Risks Report 2021.pdf (дата обращения 30.12.22).

49. Global Risks Report 2022 [Электронный ресурс] // World Economic Forum, 2022. URL: https://www3.weforum.org/docs/WEF_The_Global_Risks_Report_2022.pdf (дата обращения 30.12.22).

50. Global Technology Governance: A Multistakeholder Approach: White Paper [Электронный ресурс] // World Economic Forum, 2019. URL: https://www3.weforum.org/docs/WEF Global Technology Governance.pdf (дата обращения 30.12.22).

51. Pawlak P. Risk and resilience in foreign policy: Briefing // European Parliament, 2015. URL: https://www.europarl.europa.eu/RegData/etudes/BRIE/2015/568349/ EPRS BRI%282015%29568349 EN.pdf (дата обращения 30.12.22).

52. Reports // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/reports/ (дата обращения 30.12.22).

53. Shaping the Future of Technology Governance: Artificial Intelligence and Machine Learning // World Economic Forum, 2022 [Электронный ресурс]. URL:

https://www.weforum.org/platforms/shaping-the-future-of-technology-governance-artificial-intelligence-and-machine-learning (дата обращения 30.12.22).

54. Shaping the Future of Technology Governance: Blockchain and Digital Assets // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/platforms/shaping-the-future-of-blockchain-and-digital-assets (дата обращения 30.12.22).

55. Shaping the Future of Technology Governance: Data Policy // World Economic Forum, 2022 [Электронный ресурс]. URL: https://www.weforum.org/platforms/ shaping-the-future-of-data-policy (дата обращения 30.12.22).

Документы иных государств и международных организаций

56. Бюллетень «Ситуация на продовольственном рынке Европы и Центральной Азии и политика реагирования на пандемию COVID-19» // ФАО, Рим, 2020. URL: https://doi.org/10.4060/ca8869ru (дата обращения 30.12.22).

57. Artificial Intelligence Strategy of the German Federal Government 2020 Update // KI_Strategie fuer Deutschland, 2020. URL: https://www.ki-strategie-deutschland.de/files/downloads/Fortschreibung_KI-Strategie_engl.pdf (дата обращения 30.12.22).

58. France's AI strategy [Электронный ресурс] // France in the UK, 2019. URL: https://uk.ambafrance.org/France-s-AI-strategy (дата обращения 30.12.22).

Монографии и научные статьи на русском языке

59. Алексеева, Т.А. Агент-структурные отношения: методология конструктивизма / Т.А. Алексеева // Полис. Политические исследования. - 2022. - №4. - С. 77-93.

60. Алексеева, Т.А. «Квантовый подход» к международным отношениям: научное издание / Т.А. Алексеева, А.П. Минеев, И.Д. Лошкарёв, Б.И. Ананьев; отв. ред. Т.А. Алексеева. - М., 2018. - 110 с.

61. Алексеева, Т.А. Политическая наука в поисках нового мышления // Социальные и гуманитарные знания. - 2020. - № 2(6). - С.112-121.

62. Алле, М. Поведение рационального человека в условиях риска: критика постулатов и аксиом американской школы // THESIS. - 1994. - Вып. 5. - С. 217-241.

63. Арбатова, Н.К. Климатические угрозы - новое измерение безопасности Евросоюза / Н.К. Арбатова // Полис. Политические исследования. - 2022. - №6. - С. 81-93.

64. Арбатова, Н.К. Станет ли Европейский союз мировым центром силы? (Тенденции, возможности, риски) / Н.К. Арбатова // Мировая экономика и международные отношения. - 2020. - Т. 64. - № 6. - С. 51-65.

65. Базаркина, Д. Ю. Искусственный интеллект и международная информационно-психологическая безопасность: выступления российских исследователей в ЮАР / Д. Ю. Базаркина, Л. Дж. Ласурия // Государственное управление. Электронный вестник. - 2019. - Вып. 75. - URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-mezhdunarodnaya-informatsionno-psihologicheskaya-bezopasnost-vystupleniya-rossiyskih-issledovateley-v (дата обращения: 12.06.2022).

66. Базаркина Д.Ю. Эволюция подхода Европейского союза к борьбе с дезинформацией / Д.Ю. Базаркина // Власть. - 2021. - Т. 29. - № 6. - С. 130-138.

67. Базаркина Д.Ю. Эволюция подходов к противодействию гибридным угрозам в стратегическом планировании ЕС / Д.Ю. Базаркина // Современная Европа. - 2021. - № 6 (106). - С. 133-143.

68. Барабанов, О. Н., Маслова, Е. А. Международный режим декарбонизации как инструмент имплементации ценностей общества риска // Мировая экономика и международные отношения. - 2022. - Т. 66. - № 5. - С. 112-119.

69. Безруков, А. О., Мамонов, М. В., Сучков, М. А., Сушенцов, А. А. Суверенитет и "цифра" // Россия в глобальной политике. - 2021. - Т.19. - №2 (108). - С. 106-119.

70. Бек, У. Общество риска: На пути к другому модерну / пер. с нем. В. Седельника, Н. Федоровой. - М.: Прогресс-Традиция, 2000. - 383 с.

71. Беляев, Е. И. Рискология в философской перспективе // Известия Саратовского ун-та. Нов. серия. - 2013. - Т. 13. Сер. Философия. Психология. Педагогика. - Вып. 1. - C. 10-14.

72. Гидденс, Э. Последствия современности // Пер. с англ. Г. К. Ольховикова; Д. А. Кибальчича. - М.: Издательская и консалтинговая группа «Праксис», 2011. - 352 с.

73. Волеводз, А. Г. Защита персональных данных в Европейском союзе: правовое регулирование и порядок взаимодействия с третьими странами // Международное уголовное право и правосудие. - 2018. - Т.3(38). - С. 303-312.

74. Гидденс, Э. Судьба, риск и безопасность // THESIS. - 1994. - Вып. 5. - С. 107-134.

75. Гидденс, Э. Последствия современности. - М.: «Праксис», 2011. - 352 с.

76. Гидденс, Э. Ускользающий мир: как глобализация меняет нашу жизнь / Пер. с англ. М. Л. Коробочкина. - М.: Весь мир, 2004. - 116 с.

77. Гришаев, В. В. Риск и общество (дискуссия о понятии риска и библиография). - М.: 2002. - 46 с.

78. Громогласова Е. С. Роль Африканского союза в обеспечении гуманитарной безопасности в субсахарской Африке // Политика и общество. - 2018. - № 1. - С. 72-82.

79. Гудалов, Н. Н., Тулупов, Д. С. Семиотика стрессоустойчивости в международных отношениях: многообразие академических и политических смыслов // Полития. -

2018. - № 1(88). - С. 135-147.

80. Дегтерев, Д. А., Истомин, И. А. Системное моделирование международных отношений / Д. А. Дегтерев, И. А. Истомин // Мировая экономика и международные отношения. - 2015. - № 11. - С.17-30.

81. Добрина, О. А. Социальные риски современности и угрозы идентичности: системный анализ концепции Э. Гидденса // Системная психология и социология. -

2019. - № 1(29). - С. 100-108.

82. Дуглас, М. Риск как судебный механизм // THESIS. - 1994. - Вып. 5. - С. 242-276.

83. Духанина, Е. В. Анализ подходов к трактовке понятия риска, его содержания и методов управления / Е. В. Духанина, К. Ю. Кулаков, А. Т. Хаметова // Вестник евразийской науки. - 2022. - Т. 14. - № 1. - URL: https://esj.today/PDF/26ECVN122.pdf (дата обращения 30.12.22).

84. Европа XXI века. Новые вызовы и риски / Ал. А. Громыко, В. В. Журкин, В. П. Фёдоров и др.; под общей редакцией Ал. А. Громыко, В. П. Фёдорова. М.; СПб.: Нестор-История, 2017. - 584 с.

85. Зайцева, И. А. Глобальные риски как факторы, влияющие на современную систему международных отношений / И. А. Зайцева // Проблемы постсоветского пространства. Post-Soviet Issues. - 2017. - 4(4). - С. 356-363.

86. Зиновьева, Е. С. Международная информационная безопасность. Проблемы двустороннего и многостороннего сотрудничества / Е. С. Зиновьева. - М.: Издательство МГИМО МИД России, 2021. - 280 с.

87. Зиновьева, Е. С. Формирование цифровых границ и информационная глобализация: анализ с позиций критической географии / Е. С. Зиновьева // Полис. Политические исследования. - 2022. - № 2. - С. 8-21.

88. Зиновьева, Е. С., Казанцев, А. А. Сложность мировой политики: к вопросу о новой методологии анализа / Е. С. Зиновьева, А. А. Казанцев // Мировая экономика и международные отношения. - 2015. - № 4. - С. 58-67.

89. Зубков, В. И. Риск как предмета социологического анализа // Социологические исследования. - 1999. - № 4. - С. 3-9.

90. Ибрагимов, Р. С., Сурагина, Е. Д., Чурилова, Д. Ю. Этика и регулирование искусственного интеллекта // Закон. - 2021. - № 8. - С. 85-95.

91. Квашнина, Д. А. Философские аспекты влияния искусственного интеллекта на социум // Вестник Томского государственного университета. Философия. Социология. Политология. - 2017. - № 37. - Б01: 10.17223/1998863Х/37/6 2017 (дата обращения: 18.05.2020).

92. Кравченко, С. А. Амбивалентности цифровизации: востребованность ее национально-культурной модели для устойчивого развития / С. А. Кравченко // Социологические исследования. - 2022. - № 9. - С. 29-37.

93. Кравченко, С. А. Усложняющиеся метаморфозы: социологические поиски ответов на вызовы : монография / С. А. Кравченко. - М., 2019. - 236 с.

94. Кравченко, С. А., Ракова, К. В. Востребованность глобо-локального устойчивого развития: амбивалентности новейших уязвимостей // Вопросы философии. - 2022. - № 8. - С. 55-64.

95. Кравчук, А. А. Категории «вызов», «опасность», «угроза» в теории национальной безопасности / А. А. Кравчук // Вестник Забайкальского государственного университета. - 2016. - Т. 22. - № 11. - С. 65-74.

96. Лебедева, М. М. Гуманитаризация мировой политики / М. М. Лебедева // Полис. Политические исследования. - 2021. - № 4. - С. 76-87.

97. Лебедева, М. М. Гуманитарная и социальная составляющая международной безопасности // Вестник Российского университета дружбы народов. Серия: Политология. - 2022. - Т. 24. - № 2. - С. 187-199.

98. Лебедева, М. М. Мировая политика в эпоху COVID-19: монография / отв. ред. М. М. Лебедева, Д. А. Кузнецов. - М.: Аспект Пресс, 2022. - 316 с.

99. Линде, А. Н. Сохранение личности в информационных обществах: применение подхода Ю. Хабермаса // Вестник Санкт-Петербургского университета. Социология.

- 2019. - Т. 12. - Вып. 2. - С. 114-133

100. Линде, А. Н. Подход Ю. Хабермаса к теоретическому изучению политической коммуникации // Вестн. Моск. ун-та. Сер. 7. Философия. - 2015. - № 5. - С. 91-104.

101. Ломако, О. М. Антропологический кризис в обществе риска: философский анализ // Вестник РУДН. Сер. Философия. - 2019. - Т. 23. - № 1. - С. 66-73.

102. Ломако, О. М. Мировое общество риска в политической философии Ульриха Бека // Изв. Сарат. ун-та. Нов. сер. Сер. Философия. Психология. Педагогика. - 2018.

- Т. 18. - Вып. 3. - С. 265-269.

103. Луман, Н. Введение в системную теорию / под ред. Д. Беккера. М.: Издательство «Логос», 2007. - 360 с.

104. Луман, Н. Понятие риска / Н. Луман // THESIS. - 1994. - Вып. 5. - С. 135-160.

105. Луман, Н. Социальные системы. Очерк общей теории / Н. Луман; под ред. Н. А. Головина. - СПб.: «НАУКА», 2007.

106. Мальцева, Д. А., Дедуль, А. Г. Риск-менеджмент как механизм обеспечения адаптивности политического процесса в цифровом обществе // Возможности и угрозы цифрового общества / сборник научных статей под общ. ред. А. В. Соколова, А. А. Власовой. Ярославль. Цифровая типография, 2019. - С. 84-87.

107. Манахова, И. В. Глобальные угрозы и риски на пути к ноономике // Экономическое возрождение России. - 2021. - № 3(69). - С. 144-153.

108. Марченко, А. Ю. Правовое регулирование технологий ИИ в Европейском союзе: текущее состояние и перспективы его развития // Юридическая наука. - 2021. - № 7. - С. 32-36.

109. Марченко, А. Ю. Правовой статус систем искусственного интеллекта и проблема определения ответственности за их действия по праву Европейского союза // Современная наука: актуальные проблемы теории и практики. Серия: Экономика и право. - 2021. - (8). - C. 134-138.

110. Маслова, Е. А. Итальянский коронакризис и его последствия: национальное, общеевропейское и глобальное измерения // Международная аналитика. - 2020. -Т. 11. - №1. - С. 58-70.

111. Маслова, Е. А., Сорокова, Е. Д. Диалектика этики и права в регулировании технологии искусственного интеллекта: опыт ЕС // Современная Европа. - 2022. -№ 5. - С. 19-33. - DOI: 10.31857/S0201708322050023 (дата обращения 30.12.22).

112. Минбалеев, А. В. Проблемы регулирования искусственного интеллекта // Bulletin of the South Ural State University. - 2018. - Ser. Law, Vol. 18. - № 4. - Pp. 82-87.

113. Мотрошилова, Н. В. Юрген Хабермас: что происходит с Европой? // Современная Европа. - 2008. - № 4. - С. 19-32.

114. Найт, Ф. Риск, неопределенность и прибыль // THESIS. - 1994. - Вып. 5. - С. 12-28.

115. Николаенко, В. С. Риск, риск-менеджмент и неопределенность: уточнение понятий // Государственное управление. Электронный вестник. - 2020. - № 81. - DOI: 10.24411/2070-1381-2020-10080 (дата обращения 30.12.22).

116. Павлова, Е. Б., Гудалов, Н. Н., Коцур, Г. В. «Стрессоустойчивость»: новое слово в международных отношениях или вариация на неолиберальную тему? // Вестн. Моск. ун-та. Сер. 25: Международные отношения и мировая политика. -2017. - № 2. - С. 170-182.

117. Пашенцев, Е. Н. Злонамеренное использование искусственного интеллекта: новые угрозы для международной информационно-психологической безопасности и пути их нейтрализации / Е. Н. Пашенцев // Государственное управление. Электронный вестник. -2019. - Вып. 76. - DOI: 10.24411/2070-1381-2019-10013 (дата обращения: 14.06.2022).

118. Рагозин, Н. П. Концептуальные рамки анализа «общества риска» / Н. П. Рагозин // Философия и социальные науки: Научный журнал. - 2010. - № 2. - С. 4-11.

119. Ребро, О. В. Категория «цифрового суверенитета» в современной мировой политике: вызовы и возможности для России // Международные процессы. - 2022. -4(19). - С. 47-67.

120. Романова, Т. А. Категория "стрессоустойчивость" в Европейском Союзе // Современная Европа. - 2017. - № 4. - С. 17-28.

121. Романова, Т. А., Малова, А. Н. Проблема применения категории «стрессоустойчивость» в политике кибербезопасности Евросоюза // Вестн. Моск. унта. Сер. 25: Международные отношения и мировая политика. - 2019. - №1. - С. 20-44.

122. Романова, Т. А., Павлова, Е. Б. От гражданской и нормативной силы к стрессоустойчивости? Эволюция идейных основ Внешней деятельности ЕС / Т. А. Романова, Е. Б. Павлова // Международные процессы. -Том 16. - № 2. - С. 73-90.

123. Романова, Т. А., Соколов, Н. И., Колотаев, Ю. Ю. Дезинформация (фейковые новости, пропаганда) как угроза стрессоустойчивости: подходы на уровне Евросоюза и Литвы как его члена // Балтийский регион. - 2020. - Т. 12. - №1. - С. 53-67.

124. Смирнов, А. И. Современные информационные технологии в международных отношениях : монография / А. И. Смирнов. - М.: МГИМО-Университет, 2017. - 334 с.

125. Соколова, С. Н. Искусственный интеллект и безопасность общества / С. Н. Соколова // Вестник Полесского государственного университета. Серия общественных и гуманитарных наук. - 2016. - №1. - URL: https://cyberleninka.rn/article/Mskusstvemyy-intellekt;-i-bezopasnost-obschestva (дата обращения: 14.06.2022).

126. Сорокова, Е. Д. Стратегии реагирования России и Евросоюза на глобальные технологические риски // Научно-аналитический вестник ИЕ РАН. - 2022. - №4. -С. 18-29. - DOI: 10.15211/vestnikieran420221829 (дата обращения 30.12.22).

127. Сорокова, Е. Д. Этика искусственного интеллекта в России и Европейском союзе: общее в риск-ориентированных подходах // Дискурс-Пи. - 2022. - Т. 19. - № 3. - С. 157169. - URL: https://doi.org/10.17506/18179568_2022_19_3_157 (дата обращения 30.12.22).

128. Сучков, М. А. «Геополитика технологий»: международные отношения в эпоху Четвертой промышленной революции // Вестник Санкт-Петербургского университета. Международные отношения. - 2022. - Т. 15. - №2. - С. 138-157.

129. Сушкова, И. А. Соотношение и взаимосвязь понятий «вызов», «опасность», «угроза», «риск» // Экономическая безопасность и качество. - 2018. - № 4 (33).

130. Трещенков, Е. Ю. Стрессоустойчивость (resilience) в дискурсах Европейского союза и международных организаций // Вестник международных организаций. 2019. -Т. 14. - № 1. - С. 55-75.

131. Трещенков, Е. Ю. Стрессоустойчивость в дискурсах Европейского Союза // Россия и современный мир. - 2019. - С. 223-241.

132. Трещенков, Е. Ю. Стрессоустойчивость в современных дискурсах управления // Власть. - 2018. - №8. - С. 24-31.

133. Туровский, Р. Ф. Социальная и политическая эффективность региональной власти: проблема измерения // Полития. - 2013. - № 1(68). - С. 175-196.

134. Федораев, С. В. Опасности, угрозы и риски развития национальной экономики: методологический аспект // Экономическая теория и институциональная экономика. 2010. - № 4 (30). - С. 5-11.

135. Хоружий, С. С. Глобалистика и антропология / Институт синергийной антропологии, 2004. - URL: http://synergia-isa.ru/biblioteka/biblioteka-horuzhij/ (дата обращения 30.12.22).

136. Хоружий, С. С. Очерки синергийной антропологии. М.: Институт философии, теологии и истории св. Фомы, 2005. - 408 с.

137. Хоружий, С. С. Социум и синергия: колонизация интерфейса. Казань : Казанский инновационный университет им. В. Г. Тимирясова (ИЭУП), 2016. - 452 с.

138. Худайкулова, А. В., Неклюдов, Н. Я. Концепция онтологической безопасности в международно-политическом дискурсе // Вестник МГИМО-Университета. - 2019. - 12(6). - С. 129-149.

139. Цветухина, Е. А. Амбивалентность как особый тип бинарных отношений // Омский научный вестник. - 2014. - №4 (131). - С. 78-79.

140. Шаклеина, Т. А. Великие державы и региональные подсистемы // Международные процессы. - 2011. - Т .9. - №2(26). - С. 29-39.

141. Шестак, В. А. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Russian Journal of Criminology. -2019. - Т. 13. - № 2. - С. 197-206.

142. Яковлева, С. И. Угрозы, вызовы, риски и проблемы как важные категории стратегического планирования регионов // Псковский регионологический журнал. -2017. - № 3 (31). - С. 3-18.

Книги на русском языке

143. Бордовских, А. Н. Политические риски в современной экономике : Учебное пособие. - М.: КНОРУС, 2019. - 204 с.

144. Истомин, И. А. Логика поведения государств в международной политике. -М.: Аспект-пресс, 2021.

145. Кравченко, С. А. Социология риска и безопасности : учебник и практикум для академического бакалавриата. - М. : Издательство Юрайт, 2016. - 302 с.

146. Международная информационная безопасность: Теория и практика: В трех томах. Том 1: Учебник для вузов / под общ. ред. А. В. Крутских. - М.: Аспект Пресс, 2021. - 384 с.

147. Политическая компаративистика / под ред. О. В. Гаман-Голутвиной. - М.: Аспект-Пресс, 2020. - 784 с.

148. Хайдеггер, М. Время и бытие: Статьи и выступления / Пер. с нем В. Бибихина. - М.: Республика, 1993. - 447 с.

149. Цыганков, П. А. Международная система // Международные отношения : Учебное пособие. - М.: Новая школа, 1996. - 320 с.

150. Цыганков, П. А. Теория международных отношений : Учеб. пособие. - М.: Гардарики, 2003.

151. Шваб, К., Дэвис, Н. Технологии Четвертой промышленной революции. - М.: Эксмо, 2018.

Монографии и научные статьи на иностранных языках

152. Armstrong, S. Racing to the Precipice: a Model of Artificial Intelligence Development / S. Armstrong, N. Bostrom, C. Shulman. // Technical Report. - 2013-1. Future of Humanity Institute : Oxford University, 2013. - Р. 1-8.

153. Ayoub, K. Strategy in the Age of Artificial Intelligence / K. Ayoub, K. Payne // Journal of Strategic Studies. - 2016. - 39. - Pр. 5-6.

154. Baum, S.D. Superintelligence skepticism as a political tool / S. D. Baum // Information. - 2018. - №9. - С. 209. - DOI: 10.3390/info9090209 (дата обращения: 12.06.2022).

155. Bazarkina D.Y. Countermeasures for Hybrid Threats: The Experience of the European Union and Its Member States / D.Y. Bazarkina // Herald of the Russian Academy of Sciences. - 2022. - № 92. - Р. 315-320.

156. Bazarkina D. Counter-Terrorism as Part of Strategic Communication: The EU's Experience and Possibilities for Russia // Strategic Communication in EU-Russia Relations: Tensions, Challenges and Opportunities / ed. by E. Pashentsev. - Cham: Palgrave Macmillan, 2020. - Р. 313 - 357.

157. Bazarkina, D. Y., Pashentsev, E. N. Artificial Intelligence and New Threats to International Psychological Security // Russia in Global Affairs. - 2019. - Т.17. - №1. - Р. 147-170.

158. Beck, U. Critical Theory of World Risk Society: A Cosmopolitan Vision / U. Beck // Constellations. - 2009. - Vol.16. No 1. - DOI: https://doi.org/10.1111/j.1467-8675.2009.00534.x (дата обращения: 11.06.2022).

159. Beck, U. The Cosmopolitan Perspective: Sociology of the Second Age of Modernity // British Journal of Sociology. - 2000. - Vol. 51, Issue 1. - Р. 79-105.

160. Beck, U. Risk Society. Towards a New Modernity. Sage Publications, 1992. - 260 р.

161. Beasley, R. Dissonance and Decision-Making Mistakes in the Age of Risk // Journal of European Public Policy. - 2016. - 23:5. - Pp. 771-787.

162. Black, J., Baldwin, R. When Risk-Based Regulation Aims Low: Approaches and Challenges // Regulation & Governance. - 2012. - 6. - Pp. 2-22.

163. Bode, I. Disorganized Welfare Mixes / Ingo Bode // Journal of European Social Policy. - 2006. - 16(4). - P. 346-359.

164. Bostrom, N. Hail Mary, Value Porosity, and Utility Diversification / Nick Bostrom's Home Page, 2014. - URL: https://www.nickbostrom.com/papers/porosity.pdf (дата обращения 30.12.22).

165. Bostrom, N. Policy Desiderata for Superintelligent AI: A Vector Field Approach, version 4.3 // Ethics of Artificial Intelligence / S. M. Liao (ed.). - Oxford University Press, 2019.

166. Bostrom, N. Smart Policy: Cognitive Enhancement And The Public Interest / N. Bostrom, R. Roache // Enhancing Human Capabilities / ed. by J. Savulescu, R. ter Muelen, G. Kahane. - Oxford: Wiley-Blackwell, 2011.

167. Bostrom, N. Superintelligence: Paths, dangers, strategies. - Oxford University Press, 2014.

168. Bostrom, N. The Ethics of Artificial Intelligence / N. Bostrom, E. Yudkowsky // The Cambridge Handbook of Artificial Intelligence. Cambridge University Press, 2014. - с. 316-334.

169. Bostrom, N. The Vulnerable World Hypothesis / N. Bostrom // Global Policy. -2019. - Vol.10. - Issue 4. - P. 455-476.

170. Bourbeau, Ph. Resilience, security and world politics // The Routledge Handbook of International Resilience. - Routledge, 2016.

171. Bousquet, A., Curtis, S. Beyond models and metaphors: complexity theory, systems thinking and international relations / A. Bousquet, S. Curtis // Cambridge Review of International Affairs. - 2011. - 24:01. - P. 43-62.

172. Brass, I., Sowell, J.H. Adaptive Governance for the Internet of Things: Coping with Emerging Security Risks // Regulation & Governance, 2020.

173. Bremberg, N. et al. The EU and Climate-Related Security Risks: a Community of Practice in the Making? // Journal of European Integration. - 2019. - 41:5. - Рp. 623-639.

174. Butcher, J. What is the State of Artificial Intelligence Governance Globally? / J. Butcher, I. Beridze // The RUSI Journal. - 2019. - 164:5-6. - DOI: 10.1080/03071847.2019.1694260 (дата обращения: 12.06.2022).

175. Buzan, B., W^ver, O. Macrosecuritisation and Security Constellations: Reconsidering Scale in Securitisation / B. Buzan, O. W^ver // Review of International Studies. - 2009. - Vol. 35. - №2. - Pр. 253-276.

176. Cairney, P. Complexity Theory in Political Science and Public Policy / P. Cairney // Political Studies Review. - 2012. - Vol. 10. - Pр. 346-358.

177. Castellano, G. Governing Ignorance: Emerging Catastrophic Risks— Industry Responses and Policy Frictions / G. Castellano // The Geneva Papers. - 2010. - Vol. 35 - № 3. - Р. 391-415. - URL: https://www.jstor.org/stable/41953086 (дата обращения: 11.06.2022).

178. Charbit, C. From 'De Jure' to 'De Facto' Decentralised Public Policies: the MultiLevel Governance Approach / C. Charbit // The British Journal of Politics and International Relations. - 2020. - Vol. 22(4). - Р. 809-819.

179. Chandler, D. Beyond neoliberalism: resilience, the new art of governing complexity // Resilience: International Policies, Practices and Discourses. - 2014. - 2:1. - Р. 47-63.

180. Chandler, D. Resilience. The governance of complexity. - London : Routledge, 2014. - 268 р.

181. Cotton-Barratt, O., Daniel, M., Sandberg, A. Defence in Depth Against Human Extinction: Prevention, Response, Resilience, and Why They All Matter / O. Cotton-Barratt, M. Daniel, A. Sandberg // Global Policy. - 2020. - Vol. 11. -Issue 3. - DOI: 10.1111/1758-5899.12786 (дата обращения: 11.06.2022).

182. Cross-cultural risk perception: A survey of empirical studies / Ed. by О. Renn, B. Rohrmann. - Dordrecht; Boston, 2000.

183. Dahlberg, R. Resilience and Complexity: Conjoining the Discourses of Two Contested Concepts // Culture Unbound. - 2015. - Vol. 7. - Рp. 541-557.

184. Delacroix, S., Wagner, B. Constructing a Mutually Supportive Interface between Ethics and Regulation // Computer Law & Security Review. - 2021. - №40 (April). - DOI: https://doi.org/10.1016/J.CLSR.2020.105520 (дата обращения 30.12.22).

185. De Soto, H. The Mystery of Capital: Why Capitalism Triumphs in the West and Fails Everywhere Else / Hernando De Soto. - New York: Basic Books, 2000.

186. Dickow, M. Das globale Ringen um die Zukunft der künstlichen Intelligenz / M. Dickow, D. Jacob // SWP-Aktuell. - 2018. - № 24. - URL: https://www.ssoar.info/ssoar/bitstream/handle/document/57758/ssoar-2018-

dickow et al-Das globale Ringen um die.pdf;jsessionid=D844A2DE77D5F6 E42BD362D17B5BF00E? sequence= 1 (дата обращения: 11.06.2022).

187. Douglas, M. Risk and blame: Essays in cultural theory. - Routledge, 1992.

188. Douglas, M., Wildavsky, A. Risk and culture: An essay on selection of technological and environmental dangers. - Berkley, 1982.

189. Duit, A., Galaz, V. Governance and Complexity—Emerging Issues for Governance Theory / A. Duit, V. Galaz // Governance: An International Journal of Policy, Administration, and Institutions. - 2008. - Vol. 21. - № 3. - Pр. 311-335.

190. Fitzpatrick, M. Artificial Intelligence and Nuclear Command and Control // Survival. -2019. - 61:3. - DOI: 10.1080/00396338.2019.1614782 (дата обращения: 12.06.2022).

191. Floridi, L. et al. AI4People - An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations / L. Floridi et al. // Minds and Machines. - 2018. - № 28. - Р. 689-707.

192. Foucault and political reason: Liberalism, neo-liberalism and rationalities of government / Ed. by A. Barry, T. Osborne, N. Rose. - University College of London Press, 1996.

193. Geller, A. The Use of Complexity-Based Models in International Relations: A Technical Overview and Discussion of Prospects and Challenges / A. Geller // Cambridge Review of International Affairs. - 2011. - 24:01. - Р. 63-80.

194. Giddens, А. Cross Civilizational AI. A Magna Carta For The Digital Age [Электронный ресурс]. - URL: https://www.noemamag.com/a-magna-carta-for-the-digital-age/ (дата обращения: 11.06.2022).

195. Gon9alves, M.E. The Risk-Based Approach under the New EU Data Protection Regulation: A Critical Perspective / M. E. Gon9alves // Journal of Risk Research. - 2020. -23:2. - Р. 139-152.

196. Gordon, J. What do we owe to intelligent robots? // AI & Soc. - 2020. - 35. - Р. 209-223.

197. Guilong, Y. The Impact of Artificial Intelligence on Hybrid Warfare / Y. Guilong // Small Wars & Insurgencies. - 2020. - Vol. 31. - URL: https://doi.org/10.1080/09592318.2019.1682908 (дата обращения: 12.06.2022).

198. Gunderson, L.H., Holling, C.S. Panarchy - Understanding Transformations in Systems of Humans and Nature / Lance H. Gunderson, C.S. Holling. - Washington, DC: Island Press, 2002.

199. Habermas, J. Justification and Application: Remarks on Discourse Ethics. Polity. -1995. - URL: https://www.wiley.com/en-us/Justification+and+Application%3A+Remarks+on+Discourse+Ethics-p-9780745616391 (дата обращения 30.12.22).

200. Hardin, G. Tragedy of Commons / Garret Hardin // Science. - 1968. - 162(3859). - Р.1243-1248.

201. Hardin, R. Trust and Trustworthiness / Russell Hardin. - New York: Russell Sage, 2002.

202. Heinl, C. H. Artificial (Intelligent) Agents and Active Cyber Defence: Policy Implications // 6th International Conference on Cyber Conflict. ed. by P. Brangetto, M. Maybaum, J. Stinissen. - 2014. - URL: https://www.researchgate.net/publication/286594605_Artificial_intelligent_agents_and _active_cyber_defence_Policy_implications (дата обращения 30.12.22).

203. Hester, R. J. Bioveillance: A Techno-security Infrastructure to Preempt the Dangers of Informationalised Biology // Science as Culture. - 2020. - 29:1. - Р. 153-176.

204. Hooghe, L., Marks, G., Schakel, A. Multilevel governance // Comparative Politics / D. Caramani (ed.). - Oxford: Oxford University Press, 2020. - Рp. 193-210.

205. Humbert, C., Joseph, J. Introduction: the politics of resilience: problematising current approaches // Resilience. - 2019. - 7(3). - Рp. 215-223.

206. Iphofen, R. Regulating artificial intelligence and robotics: ethics by design in a digital society / R. Iphofen, M. Kritikos // Contemporary Social Science. - 2019. -DOI:10.1080/21582041.2018.1563803 (дата обращения 30.12.22).

207. Isigonis, P. et al. Risk Governance of Emerging Technologies Demonstrated in Terms of its Applicability to Nanomaterials // Advanced Science News Small. - 2020. - 16, 2003303. - DOI: 10.1002/smll.202003303 (дата обращения 30.12.22).

208. Johnson, J. Artificial Intelligence & Future Warfare: Implications for International Security / J. Johnson // Defense & Security Analysis. - 2019. - 35:2. - DOI: 10.1080/14751798.2019.1600800 (дата обращения: 12.06.2022).

209. Khisamova Z. I. Artificial intelligence and problems of ensuring cyber security / Z. I. Khisamova, I. R. Begishev, E. L. Sidorenko // International Journal of Cyber Criminology. - 2019. - Vol. 13. - №2. - Pр. 564-577.

210. King, A. Avoiding Ecological Surprise: Lessons from Long-Standing Communities / Andrew King // The Academy of Management Review. - 1994. - 20(4). - Р. 961-985.

211. Klinke, A., Renn, O. A New Approach to Risk Evaluation and Management: Risk-Based, Precaution-Based, and Discourse-Based Strategies / A. Klinke, O. Renn // Risk Analysis. - 2002. - Vol. 22. - № 6. - Р. 1071-1094.

212. Knack, S., Keefer, Ph. Does Social Capital Have an Economic Payoff? A CrossCountry Investigation / Stephen Knack, Philip Keefer // Quarterly Journal of Economics.

- 1997. - 112(4). - Р.1251-1288.

213. Kravchenko, S. A. Demand for Global-Local Sustainable Development: The Ambivalence of the Latest Vulnerabilities / S. A. Kravchenko, K. V. Rakova // Voprosy Filosofii. - 2022. - 2022(8). - Рp. 55-64.

214. Kravchenko, S. A. From Formal Rationality to the Digital One: Side Effects, Ambivalences, and Vulnerabilities // Вестник РУДН. Сер. Социология. - 2021. - Т. 21.

- № 1. - С. 7-17.

215. Kuleshov, A., Ignatiev, I., Abramova, A., Marshalko, G. Addressing AI Ethics Through Codification // Proceedings of the 2020 International Conference Engineering Technologies and Computer Science (EnT). 24-26 June 2020. - URL: https://ieeexplore.ieee.org/document/9140627. Accessed October 30, 2021.

216. La Porte, Todd R. High Reliability Organizations: Unlikely, Demanding, and At Risk / Todd R. La Porte // Journal of Contingencies and Crisis Management. - 1996. - 4(2). - Р. 60-71.

217. Lauer, D. You cannot have AI ethics without ethics // AI and Ethics. - 2021. - 1. - Р. 21-25.

218. Lebedeva, M. M. Global governance of biogenic threats / M. M. Lebedeva // Vestnik MGIMO-Universiteta. - 2021. - 14(2). - Р. 7-21.

219. Levi, M. Consent, Dissent, and Patriotism / Margaret Levi. - New York: Cambridge University Press, 1997.

220. Lewis, L. Resolving the Battle over Artificial Intelligence in War / L. Lewis // The RUSI Journal. - 2019. - 164:5-6. - DOI: 10.1080/03071847.2019.1694228 (дата обращения: 12.06.2022).

221. Li, W. Trust Model of Users' Behavior in Trustworthy Internet / W. Li, L. Ping; K. Lu; X. Chen. // IEEE Xplore. - 2009. - URL: https://ieeexplore.ieee.org/document/5211236 (дата обращения: 18.05.2020).

222. Linkov, I. et al. Changing the resilience paradigm // Nature climate change. - 2014. - vol 4.

- Рp. 407-409. - URL: www.nature.com/natureclimatechange (дата обращения 30.12.22).

223. Lopez, J.D., Dittmar, E.C., Portillo, J.P.V. New Directions in Corporate Social Responsibility and Ethics: Codes of Conduct in the Digital Environment / D. Lopez

Jimenez, E. C. Dittmar, J. P. V. Portillo // Journal of Business Ethics. - DOI: https://doi.org/10.1007/s10551-021-04753-z (дата обращения: 11.06.2022).

224. Marcut, M. The Governance of Digital Policies. Towards a New Competence in the European Union. - Palgrave Macmillan, 2020. - 136 р.

225. Marchant, G.E., Stevens, Y.A. Resilience: A New Tool in the Risk Governance Toolbox for Emerging Technologies // U.C. Davis Law Review. - 2017. - Vol. 51. - № 1.

- Рp. 233-271.

226. Mitchell, D. Governmentality. Power and Rule in Modern Society. Second Edition. SAGE Publications Ltd., Denmark, 2009. - 304 p.

227. O'Malley, P. Uncertain subjects: risks, liberalism and contract // Economy and Society. - 2000. - T. 29. - № 4. - Pр. 460-484.

228. O'Meyer, C., Miskimmon, A. Perceptions and Responses to Threats: Introduction // Cambridge Review of International Affairs. - 2009. - 22:4. - Р. 625-628.

229. Mobjörk, M. Integrated Policy Responses for Addressing Climate-Related Security Risks / Stockholm International Peace Research Institute. - 2016. - URL: http://www.jstor.com/stable/resrep19140 (дата обращения 30.12.22).

230. Muehlhauser, L., Bostrom, N. Why We Need Friendly AI // Think. - 2014. - 13. - Рp. 41-47.

231. North, D.C. Understanding the Process of Economic Change / Douglass C. North.

- Princeton, NJ: Princeton University Press, 2005.

232. Ostrom, E. Understanding Institutional Diversity / Elinor Ostrom. - Princeton, NJ: Princeton University Press, 2005.

233. Ostrom, E., Walker, J. Trust and Reciprocity: Interdisciplinary Lessons from Experimental Research / Elinor Ostrom, James Walker. - New York: Russell Sage, 2003.

234. Payne, K. Artificial Intelligence: A Revolution in Strategic Affairs? // Survival. -2018. - 60:5. - DOI: 10.1080/00396338.2018.1518374 (дата обращения 30.12.22).

235. Paul, R. Harmonisation by Risk Analysis? FRONTEX and the Risk-Based Governance of European Border Control // Journal of European Integration. - 2017. - 39:6.

- Рp. 689-706. - DOI: 10.1080/07036337.2017.1320553 (дата обращения 30.12.22).

236. Paul, R. et al. Risk-based governance against national obstacles? Comparative dynamics of Europeanization in Dutch, French, and German flooding policies // Journal of Risk Research. - 2016. - 19:8. - Рp. 1043-1062.

237. Prunkl, C.E.A. et al. Institutionalizing ethics in AI through broader impact requirements / C. E. A. Prunkl et al. // Nature Machine Intelligence. - 2021. - Vol. 3. - Р. 104-110.

238. Putnam, R.D., Leonardi, R., Nanetti, R. Making Democracy Work: Civic Traditions in Modern Italy / Robert D Putnam, Robert Leonardi and Rafaella Nanetti. - Princeton, NJ: Princeton University Press, 1993.

239. Rohner, D. COVID-19 and Conflict: Major Risks and Policy Responses // DE GRUYTER Peace Econ. Peace Sci. Pub. Pol. 2020. - 26(3).

240. Rothstein, B. Social Capital, Economic Growth and Quality of Government: The Causal Mechanism / Bo Rothstein // New Political Economy. - 2003. - 8(1). - Р. 49-71.

241. Rothstein, B., Stolle, Dietlind. Social Capital, Impartiality and the Welfare State: An Institutional Approach / Bo Rothstein, Dietlind Stolle // Generating Social Capital. Civic Society and Institutions in Comparative Perspective / ed. Dietlind Stolle and Marc Hooghe. Basingstoke, UK/New York: Palgrave Macmillan, 2003.

242. Shahin, J., Finger, M. The History of a European Information Society: Shifts from Governments to Governance / Eds: Tuptimhin, Jirapon, Pipe, Russell // Global e-Governance. Advancing governance through innovation and leadership. - IOS Press, 2009.

243. Shandler, R., Alberto Gomez, M. The hidden threat of cyber-attacks - undermining public confidence in government / R. Shandler, M. Alberto Gomez // Journal of Information Technology & Politics. - 2022. - DOI: 10.1080/19331681.2022.2112796 (дата обращения 06.01.23).

244. Sharikov, P. Artificial intelligence, cyberattack, and nuclear weapons - A dangerous combination // Bulletin of the Atomic Scientists. - 2018. - 74:6. - DOI: 10.1080/00963402.2018.1533185 (дата обращения: 12.06.2022).

245. Slovic, P. The Perception of Risk. - L.; Sterling, VA., 2000. - 511 p.

246. Slovic, P., Fischhoff, B., Lichtenstein, S. Characterizing Perceived Risk // Perilous progress: Managing the Hazards of Technology / R. W. Kates, C. Hohenemser & J. X. Kasperson (eds.). - Westview, 1985. - Рp. 91-125.

247. Stirling, A. Science, Precaution, and the Politics of Technological Risk. Converging Implications in Evolutionary and Social Scientific Perspectives / A. Stirling // Ann.N.Y.Acad.Sci. - 2008. Apr.1128. - Pр. 95-110.

248. Stollenwerk, E., Borzel, T. A., Risse, T. Theorizing resilience-building in the EU's neighbourhood: introduction to the special issue // Democratization. - 2021. - 28:7. - Pр. 1219-1238.

249. Sperling, J., Webber, M. The European Union: Security Governance and Collective Securitisation / J. Sperling, M. Webber // West European Politics. - 2019. - 42:2. - Р. 228-260.

250. Susskind, J. Future Politics: Living Together in a World Transformed by Tech. -Oxford University Press, 2018. - 544 р.

251. Tegmark, M. Life 3.0. Being Human in the Age of Artificial Intelligence. - Penguin Books, 2017. - 364 р.

252. Theocharidou, M., Galbusera, L., Giannopoulos, G. Resilience of critical infrastructure systems: Policy, research projects and tools // IRGC resource guide on resilience (vol. 2): Domains of resilience for complex interconnected systems / B. D. Trump, M.-V. Florin & I. Linkov (Eds.). - Lausanne, CH: EPFL International Risk Governance Center, 2018.

253. The Foucault effect: Studies in Governmentality / G. Burchell, C. Gordon, P. Miller. - Hemel Hempstead, 1991.

254. The Routledge Handbook of International Resilience / D. Chandler, J. Coaffee (eds.). - London: Routledge, 2017. - 420 p.

255. Unver, H. A. Artificial Intelligence, Authoritarianism and the Future of Political Systems. - EDAM, Oxford CTGA & Kadir Has University, 2018/9.

256. Van Calster, G. Risk Regulation, EU Law and Emerging Technologies: Smother or Smooth? // NanoEthics. - 2008. - 2. - Рp. 61-71.

257. Vos, E. Three Decades of EU Risk Regulation Research / E. Vos // European Journal of Risk Regulation. Issue 1: Cambridge Inaugural Issue: The Past, Present And Future of Risk Regulation. - 2017. - №8. - Р. 47-51.

258. Wagner, B. Ethics As An Escape From Regulation. From "Ethics-Washing" To Ethics-Shopping? // Being Profiled: Cogitas Ergo Sum. - 2018. - DOI: https://doi.org/10.1515/9789048550180-016 (дата обращения: 11.06.2022).

259. Webb, T.E., Geyer, R. The Drafters' Dance: the complexity of drafting legislation and the limitations of 'Plain Language' and 'Good Law' initiatives / T. E. Webb, R. Geyer // Statute Law Review. - 2020. - Vol. 41, Issue 2. - Pp. 129-158.

260. Zak, P.J., Knack, S. Trust and Growth / Paul J. Zak, Stephen Knack // Economic Journal. 2001. - 111(470). - Р. 295-321.

261. Zinovieva E., Bulva, V. EU digital sovereignty / E. Zinovieva, V. Bulva // Sovremennaya Evropa. - 2021. - № 2 (102). - pp. 40-49.

Диссертационные исследования

262. Бодрунова, С. С. Медиакратия: СМИ и власть в современных демократических обществах : дис. ... д-ра полит. наук : 10.01.10 / Светлана Сергеевна Бодрунова. - СПб., 2015. - 498 с.

263. Зиновьева, Е. С. Международное сотрудничество по обеспечению информационной безопасности: проблемы, субъекты, перспективы : дис. ... д-ра полит. наук : 23.00.04 / Елена Сергеевна Зиновьева. - М., 2017. - 332 с.

264. Зубков, В. И. Риск как предмет социологического анализа : автореф. дис. ... д-ра социол. наук : 22.00.01 / Владимир Иванович Зубков. - М., 2006. - 48 с.

265. Марченко, А. Ю. Правовой анализ новейшего законодательства ЕС о применении технологий искусственного интеллекта : - дис. ... канд.юрид.н. : 12.00.10 / А Ю Анна Юрьевна Марченко: - М., 2021. - 208 с.

266. Морхат, П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук : 12.00.03 / Петр Мечиславович Морхат. - М., 2018. - 420 с.

267. Уланова, А. Е. Роль творчества в адаптации человека к внедрению элементов искусственного интеллекта (на примере журналистики) : дис. . канд. филос. наук : 09.00.13 / Александра ЕвгеньевнаУланова. - М., 2021. - 190 с.

268. Шадрин, С. А. Правовое регулирование защиты персональных данных в Европейском Союзе: генезис и перспективы развития : автореф. дис. ... канд. юрид. наук : 12.00.10 / Станислав Александрович Шадрин. - Казань, 2019. - 35 с.

269. Юдин, Н. О. Гуманитарное влияние транснациональных компаний в мировой политике в XXI веке : дис. ... канд. полит. наук : 23.00.04 / Никита Олегович Юдин. - М., 2021. - 236 с.

Аналитические доклады

270. Безруков, А. О., Мамонов, М. В., Сучков, М. А., Сушенцов, А. А. Международная конкуренция и лидерство в цифровой среде : Доклад Международного дискуссионного клуба «Валдай». - М.: 2021. - 31 c. - URL: https://ru.valdaiclub.com/files/36581/ (дата обращения 30.12.22).

271. Безруков, А. О., Мамонов, М. В., Ребро, О. В., Сушенцов, А. А. Realpolitik в «цифре»: суверенитет, союзы и неприсоединение XXI века : Доклад Международного дискуссионного клуба «Валдай». - М.: 2021. - 19 c. - URL: https://ru.valdaiclub.com/files/39047/ (дата обращения 30.12.22).

272. Барабанов, О. Н. Глобальное общество риска: когда катастрофы и эпидемии становятся нормой / Клуб «Валдай». - 2020. - URL: https://ru.valdaiclub.com/a/highlights/globalnoe-obshchestvo-riska/ (дата обращения 30.12.22).

273. Климатическая политика в глобальном обществе риска. - М.: Клуб «Валдай», 2020. - URL: https://ru.valdaiclub.com/files/35992/ (дата обращения 30.12.22).

274. Международные и социальные последствия использования технологий искусственного интеллекта / [С. В. Карелов, М. В. Карлюк, А. Г. Колонин, Н. М. Маркоткин, Д. Р. Шефтелович]; Российский совет по международным делам (РСМД) // Рабочая тетрадь. - 2018. - №44. - М.: НП РСМД, 2018 - 60 с.

275. Bauer, M., Erixon, F. Europe's Quest for Technology Sovereignty: Opportunities and Pitfalls // ECIPE occasional paper. - 2020. - №2. - URL: https://www.econstor.eu/handle/10419/251089 (дата обращения 30.12.22).

276. Europe's Approach to Artificial Intelligence: How AI Strategy is Evolving [Электронный ресурс] // Access Now. - 2020. - URL: https://www.accessnow.org/cms/assets/uploads/2020/12/Europes-approach-to-AI-strategy-is-evolving.pdf. (дата обращения 30.12.22).

277. Kavanagh, C. Artificial Intelligence. An Opportunity to Craft Smarter Responses? // New Tech, New Threats, and New Governance Challenges. Carnegie Endowment for International Peace. - 2019. - URL: http://www.jstor.com/stable/resrep20978.5 (дата обращения: 11.06.2022).

278. Mueller, B. How Much Will the Artificial Intelligence Act Cost Europe? // Center for Data Innovation. - 2021. - URL: https ://datainnovati on.org/2021/07/how-much-will -the-artificial-intelligence-act-cost-europe/ (дата обращения 30.12.22).

279. The AI Governance Journey: Development and Opportunities. World Economic Forum, 2021 [Электронный ресурс]. - URL: https://www.weforum.org/reports/the-ai-governance-journey-development-and-opportunities/ (дата обращения: 11.06.2022).

Электронные ресурсы на русском языке

280. Горячев, С. Закон Калифорнии о защите данных пользователей [Электронный ресурс] / АНО «Координационный центр национального домена сети Интернет», 2021. - URL: https://cctld.ru/upload/iblock/734/200109 CCPA%20The%20California%20Consumer% 20Privacy%20Act.pdf (дата обращения 30.12.22).

281. Киберугрозам сказали «нет» на международном уровне [Электронный ресурс] // Comnews. - 2021. - URL: https://www.comnews.ru/content/215413/2021-07-12/2021-w28/kiberugrozam-skazali-net-mezhdunarodnom-urovne (дата обращения 30.12.22).

282. Международное гуманитарное право и кибероперации во время вооруженных конфликтов. Изложение позиции МККК [Электронный ресурс] / Международный комитет Красного Креста, 2020. - URL: https://www.icrc.org/ru/document/mezhdunarodnoe-gumanitarnoe-pravo-i-kiberoperacii-vo-vremya-vooruzhennyh-konfliktov (дата обращения 30.12.22).

283. О некоторых аспектах «Декларации о будущем Интернета» [Электронный ресурс] / Центр компетенций по глобальной ИТ-кооперации, 2022. - URL: https://cgitc.ru/groups/revers-inzhiniring/o-nekotorykh-aspektakh-deklaratsii-o-budushchem-interneta/ (дата обращения 30.12.22).

284. Переломный момент в истории: доклад Генсека ООН [Электронный ресурс] / Центр компетенций по глобальной ИТ-кооперации, 2021. - URL: https://csitc.ru/news/perelomnyy-moment-v-istorii-doklad-genseka-oon/. (дата обращения 30.12.22).

285. Россия внесла в специальный комитет ООН проект конвенции о противодействии использованию информационно-коммуникационных технологий в преступных целях [Электронный ресурс] / Генеральная прокуратура Российской Федерации, 2021. - URL: https://epp.genproc.gov.ru/web/gprf/mass-media/news?item=63983506 (дата обращения 30.12.22).

286. Россия внесла в ООН резолюцию для создания конвенции по кибербезопасности [Электронный ресурс] // Известия. - 2019. - URL: https://iz.ru/954706/2019-12-16/rossiia-vnesla-v-oon-rezoliutciiu-dlia-sozdaniia-konventcii-po-kiberbezopasnosti (дата обращения 30.12.22).

287. Россия подготовила новую концепцию Конвенции о международной информационной безопасности [Электронный ресурс] // ТАСС. - 2021. - URL: https://tass.ru/politika/11732803 (дата обращения 30.12.22).

288. Совершенствование моделей управления данными. Режим обмена данными между государственным сектором и ключевыми участниками рынка [Электронный ресурс] / Центр компетенций по глобальной ИТ-кооперации, 2021. - URL: https://cgitc.ru/brochures/sovershenstvovanie-modeley-upravleniya-dannymi-rezhim-obmena-dannymi-mezhdu-gosudarstvennym-sektorom/ (дата обращения 30.12.22).

289. Сорокова, Е. Д. Глобальные риски военно-политического использования искусственного интеллекта в обществе модерна / Е. Д. Сорокова. - Текст : электронный // Материалы Международного молодежного научного форума «ЛОМОНОСОВ-2021» / Отв. ред. И. А. Алешковский, А. В. Андриянов, Е. А. Антипов, Е. И. Зимакова. - Москва : МАКС Пресс, 2021. - URL: https://lomonosov-

msu.ru/archive/Lomonosov_2021/data/22434/129698_uid451302_report.pdf (дата обращения 29.12.22).

290. Сорокова, Е. Д. Глобальные технологические риски современности: основные тренды, реагирование государств и международные последствия / Е. Д. Сорокова. - Текст : электронный // Материалы Международного молодежного научного форума «ЛОМОНОСОВ-2022» / Отв. ред. И. А. Алешковский, А. В. Андриянов, Е. А. Антипов, Е. И. Зимакова. - Москва : МАКС Пресс, 2022. - URL: https://conf.msu.ru/archive/Lomonosov_2022/data/25654/140695_uid451302_report.pdf (дата обращения 29.12.22).

291. Сорокова, Е. Д. Доклад ООН «Эпоха цифровой взаимозависимости»: игра без правил или «эра милосердия»? / Е. Д. Сорокова. - Текст : электронный // D-Russia. -2019. - URL: https://d-russia.ru/doklad-oon-epoha-tsifrovoj-vzaimozavisimosti-igra-bez-pravil-ili-era-miloserdiya.html (дата обращения 30.12.22).

292. Сорокова, Е. Д. Реагирование России и ЕС на глобальные технологические риски ИИ: социально-политический аспект / Е. Д. Сорокова. - Текст : электронный // Искусственный интеллект и общественное развитие : новые возможности и преграды : XVI Международная научная конференция «Сорокинские чтения - 2022» ; 21 февраля 2022 г. : сб. материалов. - Москва : МАКС Пресс, 2022. - С. 401-403. -

URL: http://www.socio.msu.ru/documents/20220707_sorok.pdf (дата обращения 29.12.22). (Электронное издание сетевого распространения).

293. Сорокова, Е. Д. Этика искусственного интеллекта в России и ЕС: сходства и различия риск-ориентированного подхода / Е. Д. Сорокова. - Текст : электронный // Философские контексты современности: искусственный интеллект и интеллектуальная интуиция. ФИКОС 2022: материалы II Всерос. науч.-практ. конф. с междунар. участием / отв. ред. Н. Б. Полякова, сост. А. А. Шамшурин. - Ижевск : Удмуртский университет, 2022. - С. 210-214. - URL: http://elibrary.udsu.ru/xmlui/bitstream/handle/123456789/21029/338%d0%bb%d0%b1_1 000983914_28.06.2022.pdf?sequence=1 (дата обращения 29.12.22).

Электронные ресурсы на английском языке

294. Centre for Cybersecurity// World Economic Forum, 2022 [Электронный ресурс]. - URL: https://www.weforum.org/platforms/the-centre-for-cybersecurity (дата обращения 30.12.22).

295. Country & Sector Risk Barometer - Q2 2022 [Электронный ресурс] // COFACE, 2022. - URL: https://www.coface.com/News-Publications/Publications/Country-Sector-Risk-Barometer-Q2-2022 (дата обращения 30.12.22).

296. Critical infrastructure resilience [Электронный ресурс] / European Commission, 2022. - URL: https://home-affairs.ec.europa.eu/counter-terrorism-and-radicalisation/protection/critical-infrastructure-resiliance en (дата обращения 30.12.22).

297. Cybersecurity: how the EU tackles cyber threats // Council of the European Union, 2023 [Электронный ресурс]. - URL: https://www.consilium.europa.eu/en/policies/cybersecurity/ #resilience (дата обращения 06.01.23).

298. Cybersecurity Investments in the EU: Is the Money Enough to Meet the New Cybersecurity Standards? // ENISA, 2022 [Электронный ресурс]. - URL: https ://www. enisa. europa. eu/news/ cybersecurity-investments-in-the-eu-is-the-money-enough-to-meet-the-new-cybersecurity-standards (дата обращения 06.01.23).

299. Digital Markets Act: Commission welcomes political agreement on rules to ensure fair and open digital markets / European commission, 2022. - URL: https://ec.europa.eu/commission/ presscorner/detail/en/ip_22_1978 (дата обращения 30.12.22).

300. EU's latest sanctions take aim at Russia's 'industrial complex' [Электронный ресурс] // Politico. - 2022. - 8 декабря. - URL: https://www.politico.eu/article/revealed-the-eus-latest-russian-sanctions-in-full/ (дата обращения 30.12.22).

301. EU Cybersecurity Strategy for the Digital Decade: Questions and Answers [Электронный ресурс] / European Commission, 2022. - URL: https://digital-strategy.ec.europa.eu/en/faqs/eu-cybersecurity-strategy-digital-decade-questions-and-answers (дата обращения 30.12.22).

302. European Group on Ethics in Science and New Technologies (EGE) [Электронный ресурс] / European Commission, 2021. - URL: https://research-and-innovation.ec.europa.eu/strategy/support-policy-making/scientific-support-eu-policies/ege_en (дата обращения 30.12.22).

303. Global Future Councils [Электронный ресурс] / World Economic Forum, 2022. - URL: https://www.weforum.org/communities/global-future-councils. (дата обращения 30.12.22).

304. Global Impact report / Deloitte, 2022 [Электронный ресурс]. - URL: https://www2.deloitte.com/global/en.html (дата обращения 30.12.22).

305. GRAFT Update on World Economic Forum's 2022 Most Severe Risks [Электронный ресурс] / Global Risk Institute, 2022. - URL: https://globalriskinstitute.org/publications/graft-update-on-world-economic-forums-2022-most-severe-risks/ (дата обращения 30.12.22).

306. Future of Humanity Institute // University of Oxford, 2022 [Электронный ресурс].

- URL: https://www.fhi.ox.ac.uk/ (дата обращения 30.12.22).

307. Jervis, R. Cooperation under the Security Dilemma // World Politics. - 1978. -№2(30). - Р. 167-214.

308. Monteleone, S. Reform of the e-Privacy Directive // European Parliament, 2017. - URL: https://www.europarl.europa.eu/RegData/etudes/BRIE/2017/608661/EPRS BRI(2017)608661

EN.pdf (дата обращения 30.12.22).

309. Our Centres ¿Centre for the Fourth Industrial Revolution. World Economic Forum, 2022. - URL: https://initiatives.weforum.org/c4ir/centres (дата обращения 30.12.22).

310. Our Initiatives' Principles [Электронный ресурс] / Centre for the Fourth Industrial Revolution. World Economic Forum, 2022. - URL: https://initiatives.weforum.org/c4ir/initiatives (дата обращения 30.12.22).

311. Our Mission [Электронный ресурс] / World Economic Forum, 2022. - URL: https://www.weforum.org/ about/world-economic-forum (дата обращения 30.12.22).

312. Questions and Answers: Digital Services Act / European Commission, 2022. -URL: https://ec.europa.eu/commission/presscorner/detail/en/QANDA_20_2348 (дата обращения 30.12.22).

313. Resilience. International Policies, Practices and Discourses [Электронный ресурс].

- URL: https://www.tandfonline.com/journals/resi20 (дата обращения 30.12.22).

314. Risk Governance // IRGC, 2022 [Электронный ресурс]. - URL: https://irgc.org/ (дата обращения 30.12.22).

315. The European AI Alliance [Электронный ресурс] / European Commission, 2022. - URL: https://digital-strategy.ec.europa.eu/en/policies/european-ai-alliance (дата обращения 30.12.22).

316. The Cybersecurity Strategy [Электронный ресурс] / European Commission, 2022.

- URL: https://digital-strategy.ec.europa.eu/en/policies/cybersecurity-strategy#:~:text=The%20EU%20Cybersecurity%20Strategy%20aims,benefit%20from% 20trustworthy%20digital%20technologies.&text=Follow%20the%20latest%20progress% 20and%20learn%20more%20about%20getting%20involved (дата обращения 30.12.22).

317. United Nations Office for Disaster Risk Reduction [Электронный ресурс]. - URL: https://www.undrr.org/ (дата обращения 30.12.22).

318. US, EU and Western allies to subscribe to democratic principles of the internet [Электронный ресурс] // Euractiv, 2022. - URL: https://www.euractiv.com/section/digital/news/us-eu-and-western-allies-to-subscribe-to-democratic-principles-of-the-internet/ (дата обращения 30.12.22).

ПРИЛОЖЕНИЯ

Приложение А Результаты анализа статистических данных о составе экспертов, участвующих в исследовании глобальных рисков современности (по материалам Всемирного экономического форума 2011-2022 гг.)

Рассмотрим изменения в выборке респондентов, содержательные ответы и профессиональные оценки которых стали основным эмпирическим материалом ежегодных докладов ВЭФ, а также динамику объема выборки респондентов для последующего расчета распределения выборки по региону, полу, возрасту, области знаний и месту работы.

В течение 12 лет издания докладов ВЭФ (а точнее - с 2011 по 2022 гг., когда подобные сведения публиковались)597 наблюдалась неравномерность общего объема выборки экспертов: от минимума в 468 человек (2012 г.) до максимума в 1006 человек (2013 г.). Средний показатель объема выборки за 12 лет составил 768,4 чел. с тенденцией к увеличению до 959 человек в 2022 году (рисунок А.1).

Объем выборки

2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022

Рисунок А.1 - Динамика (2011-2022) объема выборки респондентов (чел.), давших содержательные ответы

597 Global Risks Report 2011; Global Risks Report 2012; Global Risks Report 2013; Global Risks Report 2014; Global Risks Report 2015; Global Risks Report 2016; Global Risks Report 2017; Global Risks Report 2018; Global Risks Report 2019; Global Risks Report 2020; Global Risks Report 2021; Global Risks Report 2022.

При рассмотрении динамики распределения выборки респондентов по полу (%) на рисунке А.2 было выявлено, что в течение последних 10 лет в выборке экспертов ВЭФ сохранялась следующая пропорция подвыборок по полу: в среднем 70 % мужской (минимум: 56% (2017 г.); максимум: 73,9% (2015 г.)) и 30% женской (23,8% (2021 г.); максимум: 34% (2022 г.)).

Распределение по полу

80

^»Мужчины ^"Женщины -Неопред.

Рисунок А.2 - Динамика (2013-22) распределения выборки респондентов по полу (%)

Средние объемы подвыборок экспертов по возрасту распределились в следующей последовательности: почти половину общей выборки (48,9%) совместно составили респонденты 40-49 лет (25,1%) и 50-59 лет (23,8%); на третьем месте эксперты помладше, от 30 до 39 лет (18,4%); на четвертом и пятом местах с почти одинаковым результатом - молодежь до 30-ти (12,9%) и ветераны 60-69 лет (12,6%).

Средний возраст респондентов

■ <30 ■ 30-39 ■ 40-49 ■ 50-59 ■ 60-69 ■ >70 ■ н/о

Рисунок А.3 - Усредненные показатели (2013-2022) распределения выборки по возрасту респондентов (%).

Наконец, группа «патриархов» старше 70-ти составила в среднем 4,3% объема общей выборки (рисунок А.3). Интересно отметить, что в течение последних 10 лет объемы некоторых групп экспертов в распределении выборки респондентов по возрасту существенно изменились (рисунок А.4).

Рисунок А.4 - Динамика (2013-2022) распределения выборки респондентов по возрасту (%).

Так, резко уменьшился объем «молодежной» группы экспертов (младше 30 лет): если вначале ее объем составлял почти четверть от общей выборки (24,8% в 2013 г. и 26,3% в 2016 г.), то к 2021 г. он сократился до 2,2%(!), составив 7% к 2022-му. Одновременно наблюдались встречные колебания в количественных характеристиках групп «ветеранов» (60-69 лет) и «патриархов» старше 70-ти. С точки зрения статистики налицо попытки организаторов привести выборку к «нормальному распределению» по возрасту. А с содержательной позиции это может отражать изменение в политике формирования экспертной выборки с большим интересом организаторов исследований к мнению и оценкам лиц с большим жизненным и профессиональным опытом, однако при этом продолжающих активно участвовать в социальной практике.

Что касается средних показателей распределения выборки экспертов по областям знаний за последние 10 лет, то на первом месте в рамках исследований ВЭФ предсказуемо оказалась группа «экономистов» (31,8%); второе и третье с приблизительно равными результатами поделили знатоки

обществознания (17,5%) и современных технологий (16,9%); на четвертом и пятом - специалисты в области геополитики (11,8%) и других областей знаний (11,3%); на шестом - экологи (7,8%). Следует подчеркнуть, что с 2022 г. в качестве отдельной области знаний выделена рискология, и объем этой подвыборки специалистов сразу составил 8%, т.е. 76 человек. При этом количество «узких» специалистов в области современных технологий в течение 10 лет стабильно находилось в районе 16-17% от общей выборки, т.е. ежегодно составляло в среднем не менее 130 человек (рисунок А.5).

Рисунок А.5 - Усредненные показатели (2013-2022) распределения респондентов по области знания

Рисунок А.6 - Усредненные показатели (2013-2022) распределения выборки по занятию бизнесом I

Десятилетние статистические показатели отражают изначальную установку организаторов исследований на поддержание status quo

Рисунок А.7 - Усредненные показатели (2013-2022) распределения респондентов по типам организаций (%)_

Рисунок А.8 - Усредненные показатели (2012-2022) региональной представленности респондентов (%)_

в пропорции группы экспертов, тесно связанных с бизнесом: их подвыборка в среднем составила 40,4%. (рисунок А.6).

Анализ средних показателей распределения выборки экспертов по типам представляемых организаций за последние 10 лет на рисунке А.7 показал, что на втором месте после бизнесменов (40,4%) оказались представители академического сообщества (19,2%), на третьем -некоммерческих организаций (13,6%), на четвертом - государственные служащие (11,1%), на пятом - сотрудники международных организаций (8,3%). Таким образом, общая картина восприятия глобальных рисков современности складывается из мнений респондентов, две пятых из которых являются представителями бизнес-кругов, около одной пятой -академического сообщества; еще одна пятая объединяет госслужащих и сотрудников международных организаций, а оставшиеся 20% -представителей некоммерческих и других организаций.

Особый интерес в связи с предметом диссертационного исследования представляет анализ усредненных показателей распределения выборки экспертов по регионам проживания и их десятилетняя динамика (рисунок А.8). Однако, в данном случае усредненные показатели подвыборки экспертов из европейского региона (37,6%) не отражают главного процесса: за десятилетие целенаправленно осуществлялся рост их представителей - с 28,9% в 2013 г. до 46,1% в 2021 г. (рисунок А.9).

Рисунок А.9 - Динамика (2012-2022) объемов европейской и североамериканской подвыборок респондентов (%)

И прежде всего - за счет почти двукратного уменьшения количества экспертов из Северной Америки (с 28,0% в 2012 г. до 15,0% в 2022 г.). То есть, состав представителей западноевропейского региона, специализирующихся

на глобальных рисках современности, увеличился за десятилетие с менее чем трети от общей выборки почти до ее половины. Таким образом, картина восприятия глобальных рисков современности наполовину представлена глазами наиболее квалифицированных европейцев, подавляющее большинство из которых имеют прямое или косвенное отношение к ЕС и погружены в его проблемы.

Таким образом, количественный состав западноевропейских экспертов, который в течение последних 5 лет приближается к 50% от общей выборки, позволяет выдвинуть гипотезу о том, что картина восприятия глобальных рисков в докладах ВЭФ современности написана по большей части с опорой на точку зрения западноевропейских экспертов, и мы видим ее, прежде всего, «глазами ЕС». То есть основные выводы исследований и экспертных оценок глобальных рисков современности, проводимых под эгидой ВЭФ, можно считать достаточно валидными и достоверными прежде всего по отношению к проблематике ЕС - а, например, не России, число экспертов из которой в составе более широкой евразийской подвыборки не превышало 2,3% за весь рассматриваемый период.

Приложение Б

Характеристика методологии проведения эмпирических исследований

глобальных рисков современности (по материалам Всемирного экономического форума 2011-2022 гг.)

Методические особенности традиционных разделов анализа

Раздел 1 «Открытые вопросы о новых глобальных рисках и трендах». Респондентам регулярно предоставляется возможность назвать любые другие проблемы, не включенные в список глобальных рисков, опубликованных в текущем году, которые, по их мнению, станут источником повышенного риска впоследствии. Обобщение ответов именно на эти открытые вопросы используется для оценки необходимости ежегодного обновления списка глобальных рисков ВЭФ.

Для каждого из глобальных рисков, перечисленных в «Докладе ВЭФ» данного года издания, респондентам предлагается оценить: (1) вероятность возникновения каждого глобального риска в течение следующих 10 лет и (2) серьезность его воздействия на глобальном уровне, если оно произойдет, как в масштабе от 1 до 5 следующим образом:

- Вероятность: значение 1 для "очень маловероятно " и 5 для "очень вероятно ".

- Воздействие: значение 1 для "минимального" воздействия и 5 для "катастрофического " воздействия.

Раздел 2 «Глобальный ландшафт рисков». Это традиционное исследование призвано ответить на два вопроса: «Как респонденты опроса воспринимают влияние и вероятность глобальных рисков»? Их результаты отражены в виде системы координат (по оси абсцисс отложена шкала вероятности, по оси ординат - влияния) с точками-рисками и обычно представлены в начале ежегодных докладов - например, 2021 года598.

Чтобы уменьшить смещение во времени, респондентам, например, предлагают оценить 30 рисков за 10-летний период, в отличие от временного горизонта в один год для предыдущих 40 рисков. Опять же, чтобы уменьшить смещение кадрирования, значениям в пределах шкалы 1-5 не присваивается конкретная формулировка. Респонденты могут оставить вопрос полностью незаполненным. Частичные ответы на любой риск — те, которые оценивают только вероятность возникновения или только негативное воздействие, — не включаются в результаты. На этой основе рассчитывается простое среднее значение как вероятности, так и воздействия для каждого из 30 глобальных рисков. Т.е. для любого данного риска i его вероятность и воздействие, обозначаемые соответственно вероятностью и воздействием, являются:

где Ni - количество респондентов по риску i, а likelihood n и impacti,n — соответственно вероятность и влияние, присвоенные респондентом n риску i. Вероятность измеряется по шкале 1-5, а воздействие - по шкале 1-5. Ni - это число респондентов по риску i, которые оценили как вероятность, так и влияние этого конкретного риска.

Раздел 3 «Взаимосвязи глобальных рисков». Здесь оцениваются взаимосвязи между парами глобальных рисков, для чего респондентам была дана следующая инструкция: «Глобальные риски не являются изолированными, и важно оценить их взаимосвязи. На ваш взгляд, какие глобальные риски наиболее тесно связаны между собой? Пожалуйста, выберите от трех до шести пар глобальных рисков из приведенных ниже 30 глобальных рисков (один риск может быть связан с любым из 29 других глобальных рисков)».

Проводится подсчет количества упоминаний каждой пары; результаты проиллюстрированы на «Карте взаимосвязей глобальных рисков» - например,

на рис. IV «Доклада» 2020 года599. Следует отметить, что в «Глобальном ландшафте рисков» и на «Карте взаимосвязей» размер каждого риска масштабируется в соответствии с «весом» этого узла в системе.

Обратите внимание, представленные выше научные тексты размещены для ознакомления и получены посредством распознавания оригинальных текстов диссертаций (OCR). В связи с чем, в них могут содержаться ошибки, связанные с несовершенством алгоритмов распознавания. В PDF файлах диссертаций и авторефератов, которые мы доставляем, подобных ошибок нет.