Модели и методы социального влияния на основе стохастических протоколов тема диссертации и автореферата по ВАК РФ 00.00.00, доктор наук Козицин Иван Владимирович

• Козицин Иван Владимирович
• доктор наук
• 2025

Оглавление диссертации доктор наук Козицин Иван Владимирович

Оглавление

Введение

Глава 1. Проблемы моделирования процессов влияния в

социальных сетях

1.1 Некоторые определения и понятия из теории графов, сигнатурные свойства социальных сетей

1.1.1 Разреженность

1.1.2 Распределение степеней вершин

1.1.3 Гигантская компонента связности

1.1.4 Кластеризация

1.1.5 Теория шести рукопожатий

1.1.6 Ассортативность и социальная селективность

1.1.7 Эхо-камеры и информационные петли

1.2 Случайные графы: в поисках реализма

1.3 Методы анализа темпоральных сетей

1.4 Модели социального влияния: общая характеристика

1.4.1 Мнения

1.4.2 Сеть влияний

1.4.3 Протокол взаимодействия

1.5 Основные механизмы социального влияния - качественное описание

1.5.1 Ассимилятивное и диссимилятивное влияния

1.5.2 Ограниченное доверие (к информации)

1.5.3 Ограниченное доверие (к субъекту влияния)

1.5.4 Искаженное восприятие информации

1.6 Основные механизмы социального влияния - математическая формализация

1.6.1 Ассимилятивное влияние в линейной форме

1.6.2 Ограниченное доверие в жесткой форме

1.6.3 Ограниченное доверие в мягкой форме

1.6.4 Комбинация ассимилятивного и диссимилятивного

влияний в мягкой форме

1.6.5 Диссимилятивное влияние в линейной форме

1.6.6 Искаженное восприятие информации: метод

корректирующих множителей и метод плато

1.7 Обзор эмпирических исследований социального влияния

1.8 Фрагментация общества и поляризация взглядов

1.9 О гетерогенности сетей влияний

1.10 Управление в моделях социального влияния

1.11 Современные направления развития моделей социального влияния

1.11.1 Модели коэволюции мнений и социальных связей

1.11.2 Обмен информацией, действия и распознавание сигналов

1.11.3 Алгоритмы ранжирования и особенности коммуникации

в онлайновых сетях

1.11.4 Искусственные аккаунты (социальные боты) и их роль в процессах социальной динамики и их изучении

1.11.5 Эхо-камеры, информационные петли и дополнительные характеристики сообщений

1.11.6 Обобщающие модели и мета-модели

1.12 Выводы

Глава 2. Анализ паттернов динамики мнений и структуры

социальных связей

2.1 Анализ динамики мнений (датасет Д-2)

2.1.1 Разведочный анализ, выделение гигантской компоненты связности

2.1.2 Карта перемещений в пространстве мнений и поляризация взглядов

2.1.3 Методология анализа процессов социального влияния

2.1.4 Карты влияний

2.1.5 Обсуждение результатов и выводы

2.2 Анализ динамики мнений и структуры потребления идеологически полярной информации (датасет Д-3)

2.2.1 Разведочный анализ, выделение гигантской компоненты связности

2.2.2 Карты влияний

2.2.3 Структура потребления идеологически полярной информации

2.2.4 Обсуждение результатов и выводы

2.3 Анализ динамики мнений (датасет Д-3-1)

2.3.1 Разведочный анализ, выделение гигантской компоненты связности

2.3.2 Корреляционный анализ

2.3.3 Структура ассортативности

2.3.4 Мезо-свойства сетевой структуры: выявление эхо-камер

2.3.5 Карты влияний

2.3.6 Методология анализа эффектов социально-демографических характеристик пользователей на сеть влияний

2.3.7 Результаты

2.3.8 Обсуждение результатов и выводы

2.4 Анализ динамики социальных связей (датасет Д-3-1)

2.4.1 Методология анализа динамики социальных связей

графа Яю-з-1

2.4.2 Результаты (вероятностный метод)

2.4.3 Результаты (метод максимального правдоподобия)

2.4.4 Обсуждение результатов и выводы

Глава 3. 8САИЮО-модель динамики мнений

3.1 Мотивировки

3.2 Базовая спецификация

3.2.1 Описание

3.2.2 Азбука мнений

3.2.3 Таблица переходов

3.2.4 Гибкость модели

3.2.5 Учет влияния внешних событий на систему

3.2.6 Мотивировки выбора типа взаимодействий

3.2.7 Калибровка параметров модели

3.3 Банк таблиц переходов

3.3.1 Формализация механизма ассимилятивного влияния

3.3.2 Формализация механизма ограниченного доверия

3.3.3 Формализация эмпирических данных

3.3.4 Формализация агентов, невосприимчивых ко внешему влиянию

3.4 Приближение среднего поля

3.4.1 Построение приближения среднего поля

3.4.2 Свойства

3.4.3 Анализ устойчивости. Примеры

3.4.4 Численный метод решения системы уравнений среднего

поля

3.5 Изучение феноменологии модели

3.5.1 Дизайн имитационных экспериментов

3.5.2 Макро-показатели и их референтные значения

3.5.3 Результаты. Эмпирический парадокс БСАЯБО-модели

3.6 Объяснение эмпирического парадокса БСАЯБО-модели

3.6.1 Версия 1 - ошибка в оценке параметров модели

3.6.2 Версия 2 - алгоритмы персонализации

3.6.3 Версия 3 - социальная селективность

3.6.4 Версия 4 - многомерная коррелированность и гетерогенность процессов влияния

3.6.5 Проработка версии

3.6.6 Модификация БСАЯБО-модели для учета алгоритмов персонализации и социальной селективности

3.6.7 Проработка версий 2 и

3.6.8 Оценка уровней селективности и персонализации для социальной сети ВКонтакте

3.7 Устойчивость БСАЯБО-модели и ее связь со стохастическим протоколом

3.8 Дальнейшее развитие БСАЯБО-модели: гетерогенность

процессов социального влияния

3.8.1 Формальное описание

3.8.2 Калибровка параметров

3.8.3 Пример использования модели SCARDO-2 (проработка

версии 4)

3.9 Предиктивная способность SCARDO-модели: прогноз динамики общественного мнения на примере датасета Д-2

3.9.1 Калибровка параметров

3.9.2 Дизайн имитационных экспериментов

3.9.3 Результаты

3.10 Обсуждение результатов и выводы

Глава 4. Управление мнениями в 8САИЮО-модели

4.1 Преамбула

4.2 Типизация агентов

4.3 Построение приближения среднего поля для модели SCARDO-2

с типизированными агентами

4.4 Численный метод решения системы уравнений среднего поля

4.5 Постановка задачи оптимального управления

4.6 Необходимые условия оптимальности

4.7 Численные методы решения задачи управления

4.7.1 Прямой метод

4.7.2 Метод прямой-обратной прогонки

4.8 Результаты вычислительных экспериментов

4.8.1 Механизм ассимилятивного влияния, один тип агентов

4.8.2 Механизм ограниченного доверия, один тип агентов

4.8.3 Эмпирические таблицы переходов, один тип агентов

4.8.4 Иерархии влиятельности, несколько типов агентов

4.9 Вычислительные эксперименты на сложных сетевых структурах

4.10 Обсуждение результатов и выводы

Глава 5. Моделирование типовых аспектов

онлайн-взаимодействий

5.1 Влияние активности пользователей социальных медиа на

формирование информационных пузырей

5.1.1 Описание модели

5.1.2 Дизайн имитационных экспериментов

5.1.3 Результаты

5.1.4 Обсуждение результатов и выводы

5.2 Формирование мнений в информационных каскадах

5.2.1 Описание модели

5.2.2 Взаимодействие агента с элементом новостной ленты

5.2.3 Новостная лента и ограниченное внимание агента

5.2.4 Эффект социального заражения

5.2.5 Спецификации алгоритма ранжирования

5.2.6 Скетч модели

5.2.7 Дизайн имитационных экспериментов

5.2.8 Результаты

5.2.9 Обсуждение результатов и выводы

5.3 Моделирование процессов информационного противоборства: теория аргументативных взаимодействий и фейковые новости

5.3.1 Описание модели

5.3.2 Аргументы и мнения

5.3.3 Информационные источники

5.3.4 Агенты и их действия

5.3.5 Просмотр поста

5.3.6 Определение функций обработки аргументов

5.3.7 Подписка на информационные источники и постановка лайков

5.3.8 Фейковые аргументы и механизм проверки достоверности контента

5.3.9 Новизна модели

5.3.10 Дизайн имитационных экспериментов

5.3.11 Результаты

5.3.12 Обсуждение результатов и выводы

Глава 6. Оценка мнений пользователей социальных сетей, сбор

данных и построение датасетов

6.1 Краткое описание устройства социальной сети ВКонтакте,

понятийный аппарат

6.2 Программный комплекс для оценивания мнений пользователей ВКонтакте

6.2.1 Общий принцип работы

6.2.2 Схема построения корпусов размеченных данных

6.2.3 Политический контекст, описание корпусов размеченных данных

6.2.4 Обучение и тестирование моделей, оценка качества работы

6.2.5 Балансировка классов

6.2.6 Понижение размерности

6.2.7 Исключение аномалий

6.2.8 Спецификации классификатора: модели ПК-М-1 и ПК-М-2

6.2.9 Качество работы моделей ПК-М-1 и ПК-М-2 на тестовых выборках

6.2.10 Заключительный этап подготовки программного комплекса к работе

6.2.11 Обсуждение предлагаемого подхода для оценивания

мнений

6.3 Датасеты

6.3.1 Датасет Д-1

6.3.2 Датасет Д-2

6.3.3 Датасет Д-3

6.3.4 Датасет Д-3-1

6.4 Апробация модели ПК-М-1

6.5 Эмпирический контекст

6.5.1 О мнениях и друзьях

6.5.2 Искажающие факторы

6.6 Выводы

Заключение

Список обозначений

Список рисунков

Список таблиц

Приложение А. Вспомогательные рисунки и таблицы

Приложение Б. Свидетельства о регистрации ЭВМ и ссылки

на программные комплексы

Введение диссертации (часть автореферата) на тему «Модели и методы социального влияния на основе стохастических протоколов»

Введение

За последние два десятилетия структура и интенсивность информационных процессов претерпела радикальные изменения. Прошедшие годы ознаменовались цифровизацией нашего общества, в результате которой люди получили доступ к сети Интернет. Особую роль в Интернет-общении играют так называемые онлайновые социальные сети - медиа-платформы, обеспечивающие своим пользователям площадку для быстрого и удобного обмена информацией (ВКонтакте, Telegram, Одноклассники и др.).

В результате появления онлайновых сетей географические и экономические барьеры оказались стерты. Ученые полагали, что всеобщий доступ к информации и рост «связности» должны способствовать снижению уровня лжи в информационном пространстве, создавая барьеры для распространения фейковых новостей [1]. Вместо этого к настоящему моменту сложилось общество постправды - социальная среда, в которой эмоциональная составляющая восприятия превалирует над объективной оценкой имеющихся фактов. Все больше исследований документируют сегрегацию онлайн-среды по идеологическому признаку и формирование в ней эхо-камер или, как их еще называют, информационных пузырей -плотных социальных структур, в которых пользователи взаимодействуют преимущественно с теми, кто разделяет похожие взгляды, не имея доступа к информации, противоречащей их системам убеждений [2; 3]. Продвижение научно-обоснованной повестки (к примеру, проведение информационных кампаний по вакцинации против COVID-19, ношению медицинских масок или продвижению традиционных семейных ценностей - указом Президента 2024 год в Российской Федерации объявлен годом семьи) в таких условиях затруднено уязвимостью информационных пузырей к фейковым сообщениям, содержание которых зачастую вызывает сильный эмоциональный отклик, мешающий объективному восприятию.

К причинам формирования информационной изолированности относят как поведенческие особенности людей, стремящихся минимизировать контакты с информацией, противоречащей их картине мира [4], так и свойства архитектуры социальных медиа-платформ, которые, преследуя коммерческие цели, могут искусственно поощрять контакты между людьми, которые не

вызовут у них негативных эмоций (например, общение между людьми, имеющими одинаковые взгляды по тем или иным вопросам), что будет способствовать росту времени, которое эти люди проводят в данной социальной сети [5; 6]. Соответствующие алгоритмы именуют алгоритмами ранжирования или алгоритмами персонализации [6]. Также важно учитывать тот факт, что пользователи онлайновых социальных сетей при общении влияют друг на друга, что может также приводить к снижению уровня гетерогенности мнений в онлайн-сообществах, способствуя формированию гомогенной информационной среды [7]. Без понимания механизмов, лежащих в основе данных процессов, невозможно прогнозировать эволюцию мнений в социальных сетях, а также строить стратегии управления такими системами.

Необходимо отметить, что онлайновые сети позволили обычным людям транслировать свою точку зрения широкой аудитории, выступая в качестве полноценных продуцентов информации. Это лишило традиционные СМИ монополии на формирование повестки. Такие пользователи, в случае если они обладают достаточно крупной аудиторией (их называют блогерами), могут оказывать существенное воздействие на общественное мнение. В связи с этим чрезвычайно важно уметь определять наиболее влиятельных акторов социальных сетей (социальных сетевых структур) [8; 9]. С одной стороны, это позволит применять их социальный капитал для противодействия вредоносным информационным воздействиям. С другой стороны, такие влиятельные акторы представляют собой потенциальные точки уязвимости сети, которые необходимо купировать.

Для описания такого рода систем и их динамики традиционно используются методы математического моделирования, в частности - агент-ориентированные модели, позволяющие формализовывать все многообразие эффектов и явлений на уровне отдельных людей (агентов) [10]. В таких моделях (их в литературе наз вают моделями социального влияния или моделями формирования мнений) задаются правила, на основании которых агенты взаимодействуют друг с другом и которые определяют то, каким образом меняются состояния агентов (в частности, их мнения) в результате взаимодействий. При помощи аналитических расчетов (для достаточно простых моделей) и имитационных экспериментов можно прогнозировать, к каким мезо- и макро-последствиям приведут те или иные микро-механизмы взаимодействий [3; 11; 12]. В качестве двух наиболее известных примеров

макроскопических последствий можно привести консенсус (состояние, когда мнения всех агентов совпадают) и поляризацию (когда общество сегрегировано на два лагеря адептов противоположных взглядов). В свою очередь, эхо-камеры являются классическим примером сетевого мезо-эффекта.

При помощи математических моделей социального удалось объяснить многие социальные макро- и мезо-эффекты, в том числе: консенсус [13], сегментацию мнений (формирование в обществе нескольких кластеров сторонников различных взглядов) [14], поляризацию (которую можно понимать как предельный случай сегментации) [15; 16] и формирование эхо-камер [17]. Несмотря на серьезную теоретическую проработанность данного класса моделей [18—21], вопросы их адекватности и применимости для описания реальных социальных процессов остаются открытыми [18; 22; 23].

Это в первую очередь связано с объективными трудностями в построении эмпирической базы. В середине 2000-х годов ученые, работающие в данной предметной области, связывали определенные надежды с теми возможностями для проведения контролируемых и неконтролируемых полевых экспериментов, которые обеспечивает Интернет, в частности, с потенциальными выгодами от использования открытых данных из социальных медиа-платформ. Все это в перспективе должно было способствовать формированию надежной экспериментальной базы. Однако нельзя сказать, что эти надежды оправдали себя, даже несмотря на ряд чрезвычайно качественных и важных исследований [3; 24—27]. Отчасти это связано с тем, что некоторые зарубежные медиа-платформы в середине 2010-х существенно усложнили/запретили выгрузку данных через API (Artificial Programming Interface) [28]. Часть исследований, по-видимому, была переведена в закрытый режим. Кроме того, отмечается недостаточный для проведения такого рода комплексных работ и разработки адекватного математического аппарата уровень кооперации между специалистами из различных областей, включая анализ больших данных, машинное обучение, сетевой анализ и социальную психологию [20]. Помимо этого, задача оценивания параметров математических моделей социального влияния является чрезвычайно сложной [29], особенно в случае если дизайн эксперимента или имеющиеся в распоряжении ресурсы не позволяют это сделать путем прямого интервьюирования (при этом само по себе интервьюирование не дает гарантий честного ответа).

В этом контексте уместно упомянуть высказывания руководителей известных западных социальных медиа-платформ, наглядно иллюстрирующие тот факт, что знание механизмов социального влияния существенно необходимо для противодействия опасным социальным макро-явлениям, например поляризации мнений в обществе. В 2018 году генеральный директор Twitter (в данный момент носит название X - запрещена в Российской Федерации) Джек Дорси заявил, что данная социальная сеть способствует формированию информационных пузырей и с этим необходимо бороться, поощряя контакты носителей противоположных взглядов. В свою очередь, в 2017 году генеральный директор Facebook (входит в Meta - запрещена в Российской Федерации) Марк Цукерберг высказал мнение, что метод противодействия формированию информационных пузырей, основанный на поощрении взаимодействий между людьми, имеющими полярные позиции (который должен быть эффективным в случае ассимилятивного механизма социального влияния, согласно которому в результате контакта мнения людей сближаются, ассимилируют, а магнитуда изменения положительно коррелирует с изначальной разницей во мнениях), лишь усугубляет поляризацию, так как по результатам такого общения мнения людей расходятся, диссимилируют, еще сильнее. В своих рассуждениях он основывался на другом микро-механизме - механизме диссимилятивного влияния (при котором большая разница во взглядах может привести к дальнейшей эскалации разногласий), вокруг легитимности которого в настоящий момент разворачиваются активные дебаты [3]. Чтобы разрешить данный (заочный) спор, необходимо четко понимать микро-правила, по которым меняются мнения, к чему приводят такого рода взаимодействия между людьми и, в частности, ведут ли они к диссимиляции взглядов. На данный момент этого понимания нет.

В связи с этим чрезвычайно важным направлением является проведение исследований, направленных на тестирование существующих микро-механизмов социального влияния и математических моделей формирования мнений на реальных данных, создание необходимого для этого математического аппарата. Это будет способствовать разработке эмпирически-обоснованных моделей и методов, адекватно описывающих и объясняющих влияние в социальных сетях и позволяющих прогнозировать и управлять процессами формирования мнений.

Целью настоящей работы является разработка математических моделей и методов, дающих адекватное описание и объяснение влияния в социальных сетях и позволяющих прогнозировать динамику и управлять процессами формирования мнений.

Для выбора пути достижения поставленной цели были проведены натурные эксперименты по изучению социального влияния. По результатам проведенных экспериментов для моделирования рассматриваемых процессов было предложено использовать стохастические протоколы взаимодействия агентов.

Таким образом были решены следующие задачи:

1. Анализ проблематики моделирования влияния и управления в социальных сетях (глава 1).

2. Разработка математического аппарата в форме карт влияний для анализа лонгитюдных данных, описывающих динамику мнений, проведение натурных экспериментов для изучения паттернов социального влияния (главы 2, 6).

3. Создание математических моделей и методов на основе стохастических протоколов взаимодействия агентов, адекватно описывающих и объясняющих влияние в социальных сетях и позволяющих прогнозировать динамику формирования мнений (главы 3, 5).

4. Разработка математических моделей и методов управления в социальных сетях, основанных на разработанных моделях влияния, а также численных методов и алгоритмов в виде комплексов проблемно-ориентированных программ для нахождения оптимальных стратегий управления (глава 4).

Научная новизна:

1. Разработан математический аппарат - карты влияний, - позволяющий анализировать лонгитюдные данные о динамике мнений и изучать паттерны социального влияния, решать задачи прогнозирования и управления. В рамках натурных экспериментов при помощи карт влияний выявлены свидетельства в поддержку существования диссимилятивной компоненты социального влияния и определено расстояние в пространстве мнений, обеспечивающее наибольший ожидаемый ассимилятивный отклик.

2. Построена математическая модель, описывающая формирование мнений (БСАЯБО-модель). В модель интегрированы механизмы персонализации контента и идеологической селективности. Модель учитывает влияние социально-демографических и прочих характеристик агентов на протекание процессов социального влияния. Модель основана на стохастическом протоколе изменений мнений. Подтверждена способность модели воспроизводить основные известные механизмы социального влияния, а также паттерны влияния и формирования социальных связей, обнаруженные в рамках проведенных натурных экспериментов. Показано, что БСАЯБО-модель способна эффективно предсказывать динамику общественного мнения.

3. При помощи вычислительных экспериментов со БСАЯБО-моделью получена количественная оценка эффекта идеологической селективности для пользователей социальной сети ВКонтакте, ранее формально не описанного.

4. Для БСАЯБО-модели построено приближение среднего поля в форме системы обыкновенных дифференциальных уравнений, описывающих социальную динамику в терминах численностей сторонников различных взглядов. Доказаны существование и единственность решения системы, исследованы его свойства. При помощи вычислительных экспериментов исследованы границы применимости приближения среднего поля. Найдены условия, при которых приближение среднего поля описывает поведение модели на макроуровне на разреженных топологиях со сложной структурой.

5. Задача управления мнениями агентов в БСАЯБО-модели поставлена как задача оптимального управления. Доказано существование оптимального управления, приведены примеры неединственности решения задачи. Сформулированы необходимые условия оптимальности в форме принципа максимума Понтрягина. Охарактеризованы свойства оптимального управления. Разработаны два численных метода для решения задачи управления. Они реализованы в виде комплексов проблемно-ориентированных программ. В рамках вычислительных экспериментов показано, что эти методы находят оптимальные и субоптимальные стратегии управления для основных механизмов социального влияния, известных

в литературе, а также для различных иерархий влиятельности. Выявлены условия, при которых данные численные методы не справляются с решением поставленной задачи.

6. Разработан набор математических моделей формирования мнений, основанных на стохастических протоколах изменения мнений и совершения действий, с учетом специфики общения в онлайн-среде, в том числе в социальных сетях. При помощи данных моделей изучены:

— Влияние активности пользователей на образование эхо-камер и поляризацию мнений.

— Влияние активности пользователей на продвижение точек зрения в информационных каскадах.

— Влияние достоверности и убедительности контента на исход противоборства двух конкурирующих информационных источников.

Практическая значимость заключается в возможности использования разработанного набора математических моделей и методов, а также программных комплексов, для изучения различных сценариев влияния в социальных сетях, построения оптимальных стратегий управления для противодействия распространению деструктивного контента, снижения уровня поляризации, а также продвижения традиционных семейных ценностей.

Методология и методы исследования. основаны на использовании математического, в том числе имитационного и агент-ориентированного, моделирования, теорий дифференциальных уравнений, статистической физики, сетевого анализа, оптимального управления, численных методов решения дифференциальных уравнений и задач оптимального управления, а также теорий из социальной психологии.

Основные положения, выносимые на защиту:

1. Карты влияний - математический аппарат, позволяющий анализировать лонгитюдные данные о динамике мнений и изучать паттерны социального влияния, решать задачи прогнозирования и управления. Построение карт влияний для датасетов, описывающих динамику мнений пользователей социальной сети ВКонтакте, позволило выявить диссимилятивную компоненту социального влияния, а также определить расстояние в пространстве мнений, обеспечивающее наибольший ожидаемый ассимилятивный отклик.

2. БСАЯБО-модель - математическая модель динамики мнений, построенная с учетом проведенных эмпирических исследований и основанная на стохастических протоколах. Она способна эффективно прогнозировать динамику общественного мнения. В модель интегрированы механизмы персонализации и идеологической селективности. Модель учитывает влияние социально-демографических и прочих характеристик агентов на протекание процессов социального влияния. Модель способна воспроизводить основные механизмы социального влияния, а также паттерны формирования социальных связей, обнаруженные в рамках проведенных натурных экспериментов.

3. Количественная оценка эффекта идеологической селективности для пользователей социальной сети ВКонтакте получена при помощи вычислительных экспериментов со БСАЯБО-моделью.

4. Приближение среднего поля для БСАЯБО-модели в форме системы обыкновенных дифференциальных уравнений имеет единственное решение, являющееся аналитической функцией от параметров модели и начальных условий, описывает динамику модели в терминах численностей сторонников различных взглядов на разреженных топологиях со сложной структурой для ряда стохастических таблиц переходов.

5. Сформулированная на основании приближения среднего поля для БСАЯБО-модели задача управления мнениями агентов имеет решение при любых значениях параметров. Оптимальные и субоптимальные стратегии управления для основных известных механизмов социального влияния и различных иерархий влиятельности получены при помощи разработанных численные методов и алгоритмов, реализованных в виде комплексов проблемно-ориентированных программ.

6. Разработанные математические модели формирования мнений основаны на стохастических протоколах изменений мнений и совершения действий с учетом специфики общения в онлайн-среде, в том числе в социальных сетях. Данные модели позволяют изучать:

— Влияние активности пользователей на образование эхо-камер и поляризацию мнений.

— Влияние активности пользователей на продвижение точек зрения в информационных каскадах.

— Влияние достоверности и убедительности контента на исход противоборства двух конкурирующих информационных источников.

Соответствие пунктам паспорта специальности 1.2.2. Математическое моделирование, численные методы и комплексы программ.

1. Положения 2 и 4 соответствуют п. 1 «Разработка новых математических методов моделирования объектов и явлений».

2. Положение 5 соответствует п. 3 «Реализация эффективных численных методов и алгоритмов в виде комплексов проблемно-ориентированных программ для проведения вычислительного эксперимента».

3. Положение 1 соответствует п. 4 «Разработка новых математических методов и алгоритмов интерпретации натурного эксперимента на основе его математической модели».

4. Положения 3 и 6 соответствуют п. 8 «Комплексные исследования научных и технических проблем с применением современной технологии математического моделирования и вычислительного эксперимента».

Достоверность полученных результатов обеспечивается апробацией на российских и международных научных конференциях и семинарах, публикациями результатов исследования в ведущих рецензируемых научных изданиях, положительными отзывами экспертов РФФИ и РНФ (которые поддержали заявки на гранты по тематике исследования); строгостью и корректностью математических доказательств и рассуждений; результатами математического и компьютерного моделирования.

Апробация работы. Основные результаты работы докладывались на следующих конференциях:

— 8-я Московская международная конференция по исследованию операций (ОИМ-2016, Москва)

— 2-я Всероссийская междисциплинарная конференция «Социофизика и социоинженерия» (Москва, ИПУ РАН, 2018)

— 9-я Московская международная конференция по исследованию операций (ОИМ-2018, Москва)

— 11-я Международная конференция «Управление развитием крупномасштабных систем» (МЬББ'2018, Москва)

— 12-я Международная конференция «Управление развитием крупномасштабных систем» (МЬББ'2019, Москва)

— 13-е Всероссийское совещание по проблемам управления (ВСПУ XIII, Москва, 2019)

— 13-я Международная конференция «Управление развитием крупномасштабных систем» (МЬББ'2020, Москва)

— 10-я Международная социологическая Грушинская конференция «Жить в России. Жить в мире. Социология повседневности» (Москва, 2020)

— 63-я Всероссийская научная конференция МФТИ (Москва, 2020)

— 17-я Всероссийская школа-конференция молодых ученых «Управление большими системами» (УБС'2021, Москва)

— 14-я Мультиконференция по проблемам Дивноморское, Геленджик)

— 14-я Международная конференция крупномасштабных систем» (МЬББ'2021)

— 15-я Международная конференция крупномасштабных систем» (МЬББ'2022)

— 18-я Всероссийская школа-конференция молодых ученых «Управление большими системами» (УБС'2022, Челябинск)

— 4-я Международная конференция по математическому моделированию систем управления, автоматизации и энергоэффективности (БиММА'2022, Липецк)

— 16-я Мультиконференция по проблемам управления (МКПУ'2023, Волгоград)

— 16-я Международная конференция «Управление развитием крупномасштабных систем» (МЬББ'2023, Москва)

— 50-я Международная конференция по математическому моделированию систем управления, автоматизации и энергоэффективности (БиММА'2023, Липецк)

— Международная конференция «Математика в созвездии наук» (Москва, 2024)

управления (МКПУ'2021, «Управление развитием «Управление развитием

Также автор выступал с докладами по результатам работы на следующих мероприятиях:

— Научные семинары кафедры высшей математики МФТИ (МФТИ, Долгопрудный)

— Семинары Теория управления организационными системами (ИПУ РАН, Москва)

— Семинары по социофизике имени Д. С.Чернавского (МГУ и ИПУ РАН, Москва)

— Семинары Модели сложных сетей (ИПУ РАН, Москва)

— Семинар Экспертные оценки и анализ данных (ИПУ РАН, Москва, 2019)

— Семинары Функционально-дифференциальные уравнения и их приложения (ЦЭМИ РАН, Москва))

— Форум Открытые данные 2022 (Санкт-Петербург, 2022)

— Семинары Математическое моделирование экономических систем (ФИЦ ИУ РАН, Москва)

— Научно-исследовательские семинары лаборатории Прикладного анализа больших данных (ТГУ, Томск)

Работа поддержана грантами:

— РФФИ 18-29-22042, Разработка моделей и методов выявления информационных угроз и защиты от них в Интернет-пространстве.

— РНФ 20-11-20059, Математические модели, теория игр и эмпирический анализ в исследовании информационных противоборств в социуме.

— РФФИ 0-04-60296, Анализ структуры и динамики аттитюдов и убеждений населения России по проблеме пандемии коронавируса с использованием цифровых методов.

— РНФ 22-71-00075, Разработка математических моделей и методов описания процессов социального влияния в эпоху Интернета и социальных сетей (автор диссертации является руководителем гранта).

— РНФ 23-21-00408, Моделирование процессов формирования информационных каскадов в онлайновых социальных сетях и их влияния на динамику мнений пользователей с учетом алгоритмов ранжирования, ботов и модерации контента.

Личный вклад. Все результаты диссертации были получены автором самостоятельно.

Публикации. Основные результаты по теме диссертации изложены в 37 публикациях. Среди них - 19 публикаций, индексируемых Web of Science или Scopus, 2 в журналах, входящих в базу данных RSCI. Зарегистрированы 2 программы для ЭВМ.

Объем и структура работы. Диссертация состоит из введения, 6 глав, заключения и 2 приложений. Полный объём диссертации составляет 466 страниц, включая 113 рисунков и 20 таблиц. Список литературы содержит 300 наименований.

Заключение диссертации по теме «Другие cпециальности», Козицин Иван Владимирович

Перечислим основные результаты работы.

1. Разработан математический аппарат - карты влияний, - позволяющий анализировать лонгитюдные данные о динамике мнений и изучать паттерны социального влияния, решать задачи прогнозирования и управления. В рамках натурных экспериментов при помощи карт влияний выявлены свидетельства в поддержку существования диссимилятивной компоненты социального влияния и определено расстояние в пространстве мнений, обеспечивающее наибольший ожидаемый ассимилятивный отклик.

2. Построена математическая модель, описывающая формирование мнений (БСАЯБО-модель). В модель интегрированы механизмы персонализации контента и идеологической селективности. Модель учитывает влияние социально-демографических и прочих характеристик агентов на протекание процессов социального влияния. Модель основана на стохастическом протоколе изменений мнений. Подтверждена способность модели воспроизводить основные известные механизмы социального влияния, а также паттерны влияния и формирования социальных связей, обнаруженные в рамках проведенных натурных экспериментов. Показано, что БСАЯБО-модель способна эффективно предсказывать динамику общественного мнения.

3. При помощи вычислительных экспериментов со БСАЯБО-моделью получена количественная оценка эффекта идеологической селективности для пользователей социальной сети ВКонтакте, ранее формально не описанного.

4. Для БСАЯБО-модели построено приближение среднего поля в форме системы обыкновенных дифференциальных уравнений, описывающих социальную динамику в терминах численностей сторонников различных взглядов. Доказаны существование и единственность решения системы, исследованы его свойства. При помощи вычислительных экспериментов исследованы границы применимости приближения среднего поля. Найдены условия, при которых приближение среднего поля описывает поведение модели на макроуровне на разреженных топологиях со сложной структурой.

5. Задача управления мнениями агентов в БСАЯБО-модели поставлена как задача оптимального управления. Доказано существование оптимального управления, приведены примеры неединственности решения задачи. Сформулированы необходимые условия оптимальности в форме принципа максимума Понтрягина. Охарактеризованы свойства оптимального управления. Разработаны два численных метода для решения задачи управления. Они реализованы в виде комплексов проблемно-ориентированных программ. В рамках вычислительных экспериментов показано, что эти методы находят оптимальные и субоптимальные стратегии управления для основных механизмов социального влияния, известных в литературе, а также для различных иерархий влиятельности. Выявлены условия, при которых данные численные методы не справляются с решением поставленной задачи.

6. Разработан набор математических моделей формирования мнений, основанных на стохастических протоколах изменения мнений и совершения действий, с учетом специфики общения в онлайн-среде, в том числе в социальных сетях. При помощи данных моделей изучены:

— Влияние активности пользователей на образование эхо-камер и поляризацию мнений.

— Влияние активности пользователей на продвижение точек зрения в информационных каскадах.

— Влияние достоверности и убедительности контента на исход противоборства двух конкурирующих информационных источников.

Приведем локализацию данных результатов. Ранее на рисунке А.1 (глава 1) было представлено позиционирование эмпирических результатов из главы 2. Локализация моделей и методов влияния, приведенных в главах 3-5, отображена в таблицах, представленные на рисунке А.19. Классификация построена относительно:

— типов механизмов влияния (градация осуществлена в соответствии с обзорными работами [18; 151]);

— наличия/отсутствия статичности структуры социального графа/сети влияний;

— учета/неучета особенностей онлайн-взаимодействий.

При этом отдельная таблица посвящена постановкам, связанным с задачей управления мнениями агентов. Таким образом рассматриваемая предметная область декомпозирована на два измерения: механизмы социального влияния (строки) и характеристики модели (столбцы). Каждая модель может быть представлена как ячейка в этой таблицы. При этом более общим/сложным моделям соответствуют сразу несколько ячеек. Каждой позиционируемой модели/методу соответствует свой блок со своей цветовой кодировкой и отсылкой к оглавлению. Включение ячейки таблицы в блок означает наличие соответствующей характеристики у модели/метода и возможности в рамках модели/метода описать соответствующий механизм социального влияния.

Кратко охарактеризуем дальнейшие пути развития данного научного направления. Как уже было отмечено, в ближайшее время стоит ожидать дальнейшего роста числа эмпирических исследований с использованием данных из онлайновых социальных сетей. Основной вызов заключается в их корректной катологизации и интерпретации. Уже сейчас проявляется (хоть и запоздалый) эффект от использования таких данных - последние исследования все чаще указывают на существование диссимилятивной компоненты социального влияния [3]. При этом наиболее перспективными видятся контролируемые эксперименты в онлайн-среде, позволяющие собрать большое число испытуемых, но при этом дающие возможность манипулировать стимулами и в некоторой степени контролировать сторонние эффекты. Ключевую роль в такого рода исследованиях будет играть эмпирический контекст - без его аккуратной каталогизации [249] могут возникнуть ситуации, когда одни и те же условия ведут к диаметрально противоположным исходам и, тем самым, противоречивым выводам. К примеру, исследования показали, что пользователи по-разному реагируют на воздействия со стороны официальных источников информации и обычных пользователей [27; 162]. В первом случае наблюдалось диссимилятивное влияние, в то время как во втором авторы выявили тенденцию к ассимиляции мнений людей. Крайне перспективной видится практика использования социальных ботов для проведения такого рода экспериментов, а также для исследования экосистемы социальных медиа, в том числе устройства алгоритмов ранжирования.

Если говорить о самих моделях социального влияния, то на данный момент наблюдается тенденция к их усложнению, учету все большего числа эффектов и, в связи с этим, введению новых параметров. Перспективным

видится использование более сложных протоколов динамики социальных связей, учитывающих, помимо социальной селективности, другие механизмы формирования сетей, в том числе механизм антипредпочтительного присоединения и его локализацию, представленные в данной диссертационной работе. Применение таких комплексных моделей требует проведения масштабных вычислительных экспериментов в силу трудности построения их аналитического описания. С другой стороны, рост числа параметров моделей усложняет их калибровку, в связи с чем необходимо стараться держаться некоторой «золотой середины» в данном вопросе, балансируя между описательной способностью модели и ее простотой. Можно отметить все больший сдвиг в сторону теоретико-игровых постановок. Также наблюдется появление мета-моделей, позволяющих изучать модели социального и сопоставлять их друг с другом, а также проводить валидацию на эмпирических данных. Одним из перспективных направлений видится развитие моделей, основанных на теории аргументативных взаимодействий -подход, предлагаемый данной теорией, дает возможность описывать сложные системы убеждений, а также кодировать различные аспекты передаваемой информации, в том числе ее достоверность и убедительность.

Список литературы диссертационного исследования доктор наук Козицин Иван Владимирович, 2025 год

Список литературы

1. Baumann F. et al. Modeling echo chambers and polarization dynamics in social networks // Physical Review Letters. - 2020. - Vol. 124, No. 4. - P. 048301.

2. Cinelli M. et al. The echo chamber effect on social media // Proceedings of the National Academy of Sciences. - 2021. - Vol. 118, No. 9. - P. e2023301118.

3. Keijzer M., Mäs M., Flache A. Polarization on social media: Micro-level evidence and macro-level implications // Journal of Artificial Societies and Social Simulation. - 2024. - Vol. 27, No. 1. - P. 1-7.

4. Fränken J. P., Pilditch T. Cascades across networks are sufficient for the formation of echo chambers: An agent-based model // Journal of Artificial Societies and Social Simulation. - 2021. - Vol. 24, No. 3. - P. 1-15.

5. Bakshy E., Messing S., Adamic L. A. Exposure to ideologically diverse news and opinion on Facebook // Science. - 2015. - Vol. 348, No. 6239. - P. 11301132.

6. Perra N., Rocha L. E. C. Modelling opinion dynamics in the age of algorithmic personalization // Scientific reports. - 2019. - Vol. 9, No. 1. - P. 7261.

7. Asch S. E. Opinions and social pressure // Scientific American. - 1955. - Vol. 193, No. 5. - P. 31-35.

8. Gubanov D. A., Chkhartishvili A. G. Influence levels of users and meta-users of a social network // Automation and Remote Control. - 2018. - Vol. 79. - P. 545-553.

9. Kovalenko K. et al. Vector centrality in hypergraphs // Chaos, Solitons & Fractals. - 2022. - Vol. 162. - P. 112397.

10. Renzini F. et al. The New Frontiers of Social Simulation in the Data Science Era: An Introduction to the Proceedings // Conference of the European Social Simulation Association. - Cham: Springer Nature Switzerland. - 2022. - P. 110.

11. Chattoe-Brown E. Why questions like 'do networks matter?'matter to methodology: How Agent-Based Modelling makes it possible to answer them

// International Journal of Social Research Methodology. - 2021. - Vol. 24, No. 4. - P. 429-442.

12. Epstein J. M. Inverse generative social science: Backward to the future // Journal of Artificial Societies and Social Simulation. - 2023. - Vol. 26, No. 2. - P. 1-9.

13. DeGroot M. H. Reaching a consensus // Journal of the American Statistical association. - 1974. - Vol. 69, No. 345. - P. 118-121.

14. Deffuant G. et al. Mixing beliefs among interacting agents // Advances in Complex Systems. - 2001. - Vol. 3, No. 01n04. - P. 87-98.

15. Mas M., Flache A. Differentiation without distancing. Explaining bi-polarization of opinions without negative influence // PloS one. - 2013. - Vol. 8, No. 11. - P. e74516.

16. Banisch S., Olbrich E. Opinion polarization by learning from social feedback // The Journal of Mathematical Sociology. - 2019. - Vol. 43, No. 2. - P. 76-103.

17. Sasahara K. et al. Social influence and unfollowing accelerate the emergence of echo chambers // Journal of Computational Social Science. - 2021. - Vol. 4, No. 1. - P. 381-402.

18. Flache A. et al. Models of social influence: Towards the next frontiers // Journal of Artificial Societies and Social Simulation. - 2017. - Vol. 20, No. 4. - P. 12.

19. Proskurnikov A. V., Tempo R. A tutorial on modeling and analysis of dynamic social networks. Part I // Annual Reviews in Control. - 2017. - Vol. 43. - P. 65-79.

20. Proskurnikov A. V., Tempo R. A tutorial on modeling and analysis of dynamic social networks. Part II // Annual Reviews in Control. - 2018. - Vol. 45. - P. 166-190.

21. Noorazar H. Recent advances in opinion propagation dynamics: A 2020 survey // The European Physical Journal Plus. - 2020. - Vol. 135. - P. 1-20.

22. Mas M. Challenges to simulation validation in the social sciences. A critical rationalist perspective // Computer Simulation Validation. Springer. - 2019. -P. 857-879.

23. Vazquez F. Modeling and analysis of social phenomena: challenges and possible research directions // Entropy. - 2022. - Vol. 24, No. 4. - P. 491.

24. Bond R. M. et al. A 61-million-person experiment in social influence and political mobilization // Nature. - 2012. - Vol. 489, No. 7415. - P. 295-298.

25. Barbera P. How social media reduces mass political polarization. Evidence from Germany, Spain, and the US // Job Market Paper, New York University. - 2014. - Vol. 46. - P. 1-46.

26. Clemm von Hohenberg B., Maes M., Pradelski B. Micro influence and macro dynamics of opinion formation // Available at SSRN 2974413. - 2017.

27. Bail C. A. et al. Exposure to opposing views on social media can increase political polarization // Proceedings of the National Academy of Sciences. -2018. - Vol. 115, No. 37. - P. 9216-9221.

28. Freelon D. Computational research in the post-API age // Political Communication. - 2018. - Vol. 35, No. 4. - P. 665-668.

29. Devia C. A., Giordano G. A framework to analyze opinion formation models // Scientific Reports. - 2022. - Vol. 12, No. 1. - P. 13441.

30. Currarini S., Jackson M. O., Pin P. An economic model of friendship: Homophily, minorities, and segregation // Econometrica. - 2009. - Vol. 77, No. 4. - P. 1003-1045.

31. Castellano C., Fortunato S., Loreto V. Statistical physics of social dynamics // Reviews of modern physics. - 2009. - Vol. 81, No. 2. - P. 591-646.

32. Zhuk A. et al. Predicting transitions in cooperation levels from network connectivity // New Journal of Physics. - 2021. - Vol. 23, No. 9. - P. 093040.

33. Holme P., Newman M. E. J. Nonequilibrium phase transition in the coevolution of networks and opinions // Physical Review E. - 2006. - Vol. 74, No. 5. - P. 056108.

34. Lazer D. et al. The coevolution of networks and political attitudes // Political communication. - 2010. - Vol. 27, No. 3. - P. 248-274.

35. Snijders T. A. B. Stochastic actor-oriented models for network dynamics // Annual review of statistics and its application. - 2017. - Vol. 4, No. 1. - P. 343363.

36. Chang C. Y. Selection or influence? The position-based method to analyzing behavioral similarity in adolescent social networks // International Journal of Adolescence and Youth. - 2022. - Vol. 27, No. 1. - P. 149-165.

37. Pansanella V., Rossetti G., Milli L. Modeling algorithmic bias: simplicial complexes and evolving network topologies // Applied Network Science. -2022. - Vol. 7, No. 1. - P. 1-24.

38. Kan U., Feng M., Porter M. A. An adaptive bounded-confidence model of opinion dynamics on networks // Journal of Complex Networks. - 2023. - Vol. 11, No. 1. - P. 415-444.

39. Newman M. Networks. - Oxford university press, 2018. - 784 p.

40. Dunbar R. How many friends does one person need? Dunbar's number and other evolutionary quirks. - Harvard University Press, 2010. - 312 p.

41. Albert R., Barabasi A. L. Statistical mechanics of complex networks // Reviews of modern physics. - 2002. - Vol. 74, No. 1. - P. 47-97.

42. Newman M. E. J. Clustering and preferential attachment in growing networks // Physical review E. - 2001. - Vol. 64. - No. 2. - P. 025102.

43. Newman M. E. J. Equivalence between modularity optimization and maximum likelihood methods for community detection // Physical Review E. - 2016. -Vol. 94, No. 5. - P. 052315.

44. Palla G. et al. Uncovering the overlapping community structure of complex networks in nature and society // nature. - 2005. - Vol. 435, No. 7043. - P. 814818.

45. Newman M. E. J. Spectral methods for community detection and graph partitioning // Physical Review E. - 2013. - Vol. 88, No. 4. - P. 042822.

46. Travers J., Milgram S. An experimental study of the small world problem // Social networks. Elsevier, 1977. - P. 179-197.

47. Dodds P. S., Muhamad R., Watts D. J. An experimental study of search in global social networks // science. - 2003. - Vol. 301, No. 5634. - P. 827-829.

48. Samoylenko I. et al. Why are there six degrees of separation in a social network? // Physical Review X. - 2023. - Vol. 13, No. 2. - P. 021032.

49. Newman M. E. J. Mixing patterns in networks // Physical review E. - 2003. -Vol. 67, No. 2. - P. 026126.

50. Halberstam Y., Knight B. Homophily, group size, and the diffusion of political information in social networks: Evidence from Twitter // Journal of public economics. - 2016. - Vol. 143. - P. 73-88.

51. McPherson M., Smith-Lovin L., Cook J. M. Birds of a feather: Homophily in social networks // Annual review of sociology. - 2001. - Vol. 27, No. 1. - P. 415-444.

52. Noldus R., Van Mieghem P. Assortativity in complex networks //Journal of Complex Networks. - 2015. - T. 3. - №. 4. - C. 507-542.

53. Lewis K., Gonzalez M., Kaufman J. Social selection and peer influence in an online social network // Proceedings of the National Academy of Sciences. -2012. - Vol. 109, No. 1. - P. 68-72.

54. Steglich C., Snijders T. A. B., Pearson M. Dynamic networks and behavior: Separating selection from influence // Sociological methodology. - 2010. - Vol. 40, No. 1. - P. 329-393.

55. Zhang C. et al. Understanding scientific collaboration: Homophily, transitivity, and preferential attachment // Journal of the Association for Information Science and Technology. - 2018. - Vol. 69, No. 1. - P. 72-86.

56. Jasny L., Waggle J., Fisher D. R. An empirical examination of echo chambers in US climate policy networks // Nature Climate Change. - 2015. - Vol. 5, No. 8. - P. 782-786.

57. Colleoni E., Rozza A., Arvidsson A. Echo chamber or public sphere? Predicting political orientation and measuring political homophily in Twitter using big data // Journal of communication. - 2014. - Vol. 64, No. 2. - P. 317-332.

58. Currin C. B., Vera S. V., Khaledi-Nasab A. Depolarization of echo chambers by random dynamical nudge // Scientific Reports. - 2022. - Vol. 12, No. 1. - P. 9234.

59. Gradwohl N., Strandburg-Peshkin A., Giese H. Humans strategically avoid connecting to others who agree and avert the emergence of network polarization in a coordination task // Scientific Reports. - 2023. - Vol. 13, No. 1. - P. 11299.

60. Fortunato S., Newman M. E. J. 20 years of network community detection // Nature Physics. - 2022. - Vol. 18, No. 8. - P. 848-850.

61. Morini V., Pollacci L., Rossetti G. Toward a standard approach for echo chamber detection: Reddit case study // Applied Sciences. - 2021. - Vol. 11, No. 12. - P. 5390.

62. De Francisci Morales G., Monti C., Starnini M. No echo in the chambers of political interactions on Reddit // Scientific reports. - 2021. - Vol. 11, No. 1. -P. 2818.

63. Robertson R. E. et al. Users choose to engage with more partisan news than they are exposed to on Google Search // Nature. - 2023. - Vol. 618, No. 7964. - P. 342-348.

64. Clauset A., Shalizi C. R., Newman M. E. J. Power-law distributions in empirical data // SIAM review. - 2009. - Vol. 51, No. 4. - P. 661-703.

65. Broido A. D., Clauset A. Scale-free networks are rare // Nature communications. - 2019. - Vol. 10, No. 1. - P. 1017.

66. Talaga S., Nowak A. Homophily as a process generating social networks: insights from social distance attachment model // Journal of Artificial Societies and Social Simulation. - 2020. - Vol. 23, No. 2. - P. 1-6.

67. Price D. S. A general theory of bibliometric and other cumulative advantage processes // Journal of the American society for Information science. - 1976. -Vol. 27, No. 5. - P. 292-306.

68. Dall J., Christensen M. Random geometric graphs // Physical review E. - 2002.

- Vol. 66, No. 1. - P. 016121.

69. Watts D. J., Strogatz S. H. Collective dynamics of 'small-world'networks // nature. - 1998. - Vol. 393, No. 6684. - P. 440-442.

70. Asch S. E. Effects of group pressure upon the modification and distortion of judgments // Organizational influence processes. - Routledge, 2016. - P. 295303.

71. Wang C., Lizardo O., Hachen D. S. Neither influence nor selection: Examining co-evolution of political orientation and social networks in the NetSense and NetHealth studies // PLOS one. - 2020. - Vol. 15, No. 5. - P. e0233458.

72. Holland P. W., Laskey K. B., Leinhardt S. Stochastic blockmodels: First steps // Social networks. - 1983. - Vol. 5, No. 2. - P. 109-137.

73. Das B., Ghosh S. Growth of common friends in a preferential attachment model // Stochastic Models. - 2021. - Vol. 37, No. 3. - P. 427-447.

74. Chandrasekhar A. G., Jackson M. O. A network formation model based on subgraphs // arXiv preprint arXiv:1611.07658. - 2016. - P. 1-77.

75. Sendiña-Nadal I. et al. Assortativity and leadership emerge from anti-preferential attachment in heterogeneous networks // Scientific reports. - 2016.

- Vol. 6, No. 1. - P. 21297.

76. Yuan Y., Alabdulkareem A., Pentland A. S. An interpretable approach for social network formation among heterogeneous agents // Nature communications. -2018. - Vol. 9, No. 1. - P. 4704.

77. Liben-Nowell D., Kleinberg J. The link prediction problem for social networks // Proceedings of the twelfth international conference on Information and knowledge management. - 2003. - P. 556-559.

78. Lü L., Zhou T. Link prediction in complex networks: A survey // Physica A: statistical mechanics and its applications. - 2011. - Vol. 390, No. 6. - P. 11501170.

79. Kumar A. et al. Link prediction techniques, applications, and performance: A survey // Physica A: Statistical Mechanics and its Applications. - 2020. - Vol. 553. - P. 124289.

80. Zareie A., Sakellariou R. Similarity-based link prediction in social networks using latent relationships between the users // Scientific reports. - 2020. - Vol. 10, No. 1. - P. 20137.

81. Wang C., Satuluri V., Parthasarathy S. Local probabilistic models for link prediction // Seventh IEEE international conference on data mining (ICDM 2007). - IEEE, 2007. - P. 322-331.

82. Inoue M., Pham T., Shimodaira H. Joint estimation of non-parametric transitivity and preferential attachment functions in scientific co-authorship networks // Journal of Informetrics. - 2020. - Vol. 14, No. 3. - P. 101042.

83. Leskovec J. et al. Microscopic evolution of social networks // Proceedings of the 14th ACM SIGKDD international conference on Knowledge discovery and data mining. - 2008. - P. 462-470.

84. Berahmand K. et al. A modified DeepWalk method for link prediction in attributed social network // Computing. - 2021. - Vol. 103. - P. 2227-2249.

85. Gao S., Denoyer L., Gallinari P. Temporal link prediction by integrating content and structure information // Proceedings of the 20th ACM international conference on Information and knowledge management. - 2011. - P. 11691174.

86. Wang H., Shi X., Yeung D. Y. Relational deep learning: A deep latent variable model for link prediction // Proceedings of the AAAI Conference on Artificial Intelligence. - 2017. - Vol. 31, No. 1. - P. 2688-2694.

87. Tan F., Xia Y., Zhu B. Link prediction in complex networks: a mutual information perspective // PloS one. - 2014. - Vol. 9, No. 9. - P. e107056.

88. Inoue M., Pham T., Shimodaira H. Transitivity vs preferential attachment: Determining the driving force behind the evolution of scientific co-authorship networks // Unifying Themes in Complex Systems IX: Proceedings of the Ninth

International Conference on Complex Systems 9. - Springer International Publishing, 2018. - P. 262-271.

89. Weng L. et al. The role of information diffusion in the evolution of social networks // Proceedings of the 19th ACM SIGKDD international conference on Knowledge discovery and data mining. - 2013. - P. 356-364.

90. Peng T. Q. Assortative mixing, preferential attachment, and triadic closure: A longitudinal study of tie-generative mechanisms in journal citation networks // Journal of Informetrics. - 2015. - Vol. 9, No. 2. - P. 250-262.

91. Snijders T. A. B. The statistical evaluation of social network dynamics // Sociological methodology. - 2001. - Vol. 31, No. 1. - P. 361-395.

92. Xu H. et al. Evolution of structural properties and its determinants of global waste paper trade network based on temporal exponential random graph models // Renewable and Sustainable Energy Reviews. - 2021. - Vol. 149. - P. 111402.

93. Cialdini R. B., Goldstein N. J. Social influence: Compliance and conformity // Annual Review of Psychology. - 2004. - Vol. 55, No. 1. - P. 591-621.

94. Clifford P., Sudbury A. A model for spatial conflict // Biometrika. - 1973. -Vol. 60, No. 3. - P. 581-588.

95. Rashevsky N. Studies in mathematical theory of human relations // Psychometrika. - 1939. - Vol. 4, No. 3. - P. 221-239.

96. Sedakov A. A., Zhen M. Opinion dynamics game in a social network with two influence nodes // Вестник Санкт-Петербургского университета. Прикладная математика. Информатика. Процессы управления. - 2019. -№. 1. - С. 118-125.

97. Mazalov V., Parilina E. The Euler-equation approach in average-oriented opinion dynamics // Mathematics. - 2020. - Vol. 8, No. 3. - P. 355.

98. Niazi M. U. B., Ozguler A. B. A differential game model of opinion dynamics: Accord and discord as Nash equilibria // Dynamic Games and Applications. -2021. - Vol. 11. - P. 137-160.

99. Granovetter M. S. The strength of weak ties // American journal of sociology. - 1973. - Vol. 78, No. 6. - P. 1360-1380.

100. M0nsted B. et al. Evidence of complex contagion of information in social media: An experiment using Twitter bots // PloS one. - 2017. - Vol. 12, No. 9. - P.e0184148.

101. Cabrera D., Arnold L., Cabrera L. Y. The Simple Rules of Complex Networks: A Heuristic for Determining the Potential Complexity of Any Network and Making Structural Predictions // Journal of Systems Thinking. - 2023. - P. 122.

102. French Jr J. R. P. A formal theory of social power // Psychological review. -1956. - Vol. 63, No. 3. - P. 181-194.

103. Friedkin N. E., Johnsen E. C. Social influence and opinions // Journal of mathematical sociology. - 1990. - Vol. 15, No. 3-4. - P. 193-206.

104. Friedkin N. E. et al. Network science on belief system dynamics under logic constraints // Science. - 2016. - Vol. 354, No. 6310. - P. 321-326.

105. Moretti P. et al. Mean-field analysis of the q-voter model on networks // Journal of statistical physics. - 2013. - Vol. 151. - P. 113-130.

106. Hsu J., Huang D. Mean-field theory of modified voter model for opinions // Physica A: Statistical Mechanics and Its Applications. - 2014. - Vol. 416. - P. 3713-77.

107. Macy M. W., Szymanski B. K., Holyst J. A. The Ising model celebrates a century of interdisciplinary contributions // npj Complexity. - 2024. - Vol. 1, No. 1. - P. 10.

108. Van Santen N., Ryckebusch J., Rocha L. E. C. Social clustering reinforces external influence on the majority opinion model // arXiv preprint arXiv:2404.02689. - 2024.

109. Ramirez L. S. et al. Ordering dynamics of nonlinear voter models // Physical Review E. - 2024. - Vol. 109, No. 3. - P. 034307.

110. Carro A., Toral R., San Miguel M. The noisy voter model on complex networks // Scientific reports. - 2016. - Vol. 6, No. 1. - P. 24775.

111. Krueger T., Szwabinski J., Weron T. Conformity, anticonformity and polarization of opinions: insights from a mathematical model of opinion dynamics // Entropy. - 2017. - Vol. 19, No. 7. - P. 371.

112. De Marzo G., Zaccaria A., Castellano C. Emergence of polarization in a voter model with personalized information // Physical Review Research. - 2020. -Vol. 2, No. 4. - P. 043117.

113. J^drzejewski A. Pair approximation for the q-voter model with independence on complex networks // Physical Review E. - 2017. - Vol. 95, No. 1. - P. 012307.

114. Weron T., Szwabinski J. Opinion evolution in divided community // Entropy. -2022. - Vol. 24, No. 2. - P. 185.

115. Axelrod R. The dissemination of culture: A model with local convergence and global polarization // Journal of Conflict Resolution. - 1997. - Vol. 41, No. 2. - P. 203-226.

116. Carpentras D. et al. Deriving an opinion dynamics model from experimental data // Journal of Artificial Societies and Social Simulation. - 2022. - Vol. 25, No. 4. - P. 1-15.

117. Parsegov S. E. et al. Novel multidimensional models of opinion dynamics in social networks // IEEE Transactions on Automatic Control. - 2016. - Vol. 62, No. 5. - P. 2270-2285.

118. Van der Maas H. L. J., Dalege J., Waldorp L. The polarization within and across individuals: The hierarchical Ising opinion model // Journal of complex networks. - 2020. - Vol. 8, No. 2. - P. cnaa010.

119. Barbera P. Birds of the same feather tweet together: Bayesian ideal point estimation using Twitter data // Political analysis. - 2015. - Vol. 23, No. 1. - P. 76-91.

120. Pavaloaia V. D. et al. Opinion mining on social media data: sentiment analysis of user preferences // Sustainability. - 2019. - Vol. 11, No. 16. - P. 4459.

121. Stefanov P. et al. Predicting the topical stance and political leaning of media using tweets // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. - 2020. - P.527-537.

122. Lai A. et al. Estimating the ideology of political youtube videos // Political Analysis. - 2022. - P. 1-16.

123. Flamino J. et al. Political polarization of news media and influencers on Twitter in the 2016 and 2020 US presidential elections // Nature Human Behaviour. -2023. - Vol. 7, No. 6. - P. 904-916.

124. Cohen R., Ruths D. Classifying political orientation on Twitter: It's not easy! // Proceedings of the International AAAI Conference on Web and Social Media.

- 2013. - Vol. 7, No. 1. - P. 91-99.

125. González-Bailón S. et al. Asymmetric ideological segregation in exposure to political news on Facebook // Science. - 2023. - Vol. 381, No. 6656. - P. 392398.

126. Pansanella V. et al. Change my mind: Data driven estimate of open-mindedness from political discussions // International Conference on Complex Networks and Their Applications. - Cham: Springer International Publishing, 2022. - P. 86-97.

127. Schmidt A. L. et al. Anatomy of news consumption on Facebook // Proceedings of the National Academy of Sciences. - 2017. - Vol. 114, No. 12. - P. 30353039.

128. Zappavigna M. Searchable talk: The linguistic functions of hashtags // Social semiotics. - 2015. - Vol. 25, No. 3. - P. 274-291.

129. Altafini C. Consensus problems on networks with antagonistic interactions // IEEE transactions on automatic control. - 2012. - Vol. 58, No. 4. - P. 935-946.

130. Hegselmann R., Krause U. Opinion dynamics and bounded confidence: models, analysis and simulation // Journal of Artifical Societies and Social Simulation.

- 2002. - Vol. 5, No. 3. - P. 1-33.

131. Flache A., Mas M. How to get the timing right. A computational model of the effects of the timing of contacts on team cohesion in demographically diverse

teams // Computational and Mathematical Organization Theory. - 2008. - Vol. 14, No. 1. - P. 23-51.

132. Gomez-Rodriguez M., Leskovec J., Krause A. Inferring networks of diffusion and influence // ACM Transactions on Knowledge Discovery from Data (TKDD). - 2012. - Vol. 5, No. 4. - P. 1-37.

133. Rodriguez M. G. et al. Uncovering the structure and temporal dynamics of information propagation // Network Science. - 2014. - Vol. 2, No. 1. - P. 2665.

134. Ravazzi C., Tempo R., Dabbene F. Learning influence structure in sparse social networks // IEEE Transactions on Control of Network Systems. - 2017. - Vol. 5, No. 4. - P. 1976-1986.

135. Ravazzi C. et al. Learning hidden influences in large-scale dynamical social networks: A data-driven sparsity-based approach, in memory of Roberto Tempo // IEEE Control Systems Magazine. - 2021. - Vol. 41, No. 5. - P. 61-103.

136. Newman M. E. J. Network structure from rich but noisy data // Nature Physics. - 2018. - Vol. 14, No. 6. - P. 542-545.

137. Abelson R. P. Mathematical models of the distribution of attitudes under controversy // Contributions to mathematical psychology. - 1964.

138. Frasca P., Tarbouriech S., Zaccarian L. Hybrid models of opinion dynamics with opinion-dependent connectivity // Automatica. - 2019. - Vol. 100. - P. 153-161.

139. Maes M., Bischofberger L. Will the personalization of online social networks foster opinion polarization? // Available at SSRN 2553436. - 2015. - P. 1-36.

140. Keijzer M. A., Mas M., Flache A. Communication in online social networks fosters cultural isolation // Complexity. - 2018. - Vol. 2018, No. 1. - P. 9502872.

141. Galam S. Majority rule, hierarchical structures, and democratic totalitarianism: A statistical approach // Journal of Mathematical Psychology. - 1986. - Vol. 30, No. 4. - P. 426-434.

142. Li G. J., Porter M. A. Bounded-confidence model of opinion dynamics with heterogeneous node-activity levels // Physical Review Research. - 2023. - Vol. 5, No. 2. - P. 023179.

143. Zarei F., Gandica Y., Rocha L. E. C. Bursts of communication increase opinion diversity in the temporal Deffuant model // Scientific Reports. - 2024. - Vol. 14, No. 1. - P. 2222.

144. Guo L. et al. Analyzing patterns of user content generation in online social networks // Proceedings of the 15th ACM SIGKDD international conference on Knowledge discovery and data mining. - 2009. - P.369-378.

145. Wojcik S., Hughes A. Sizing up Twitter users // PEW research center. - 2019. - Vol. 24. - P. 1-23.

146. Petrov A. P., Podlipskaya O. G., Pronchev G. B. Modeling the dynamics of public attention to extended processes on the example of the COVID-19 pandemic // Computer Research and Modeling. - 2022. - Vol. 14, No. 5. - P. 1131-1141.

147. Banisch S., Shamon H. Biased processing and opinion polarization: experimental refinement of argument communication theory in the context of the energy debate // arXiv preprint arXiv:2212.10117. - 2022. - P. 1-17.

148. Sznajd-Weron K., Sznajd J. Opinion evolution in closed community // International Journal of Modern Physics C. - 2000. - Vol. 11, No. 06. - P. 1157-1165.

149. Mei W. et al. Structural balance and interpersonal appraisals dynamics: Beyond all-to-all and two-faction networks // Automatica. - 2022. - Vol. 140. - P. 110239.

150. Groeber P., Lorenz J., Schweitzer F. Dissonance minimization as a microfoundation of social influence in models of opinion formation // The Journal of Mathematical Sociology. - 2014. - Vol. 38, No. 3. - P. 147-174.

151. Takacs K., Flache A., Mas M. Discrepancy and disliking do not induce negative opinion shifts // PloS one. - 2016. - Vol. 11, No. 6. - P. e0157948.

152. Balietti S. et al. Reducing opinion polarization: Effects of exposure to similar people with differing political views // Proceedings of the National Academy of Sciences. - 2021. - Vol. 118, No. 52. - P. e2112552118.

153. Puga-Gonzalez I., Shults F. L. R. Generation Gaps: An Agent-Based Model of Opinion Shifts Among Cohorts // Advances in Social Simulation. - Cham: Springer International Publishing, 2022. - P.233-245.

154. Chen X. et al. Opinion dynamics of social-similarity-based Hegselmann-Krause model // Complexity. - 2017. - Vol. 2017, No. 1. - P. 1820257.

155. Dandekar P., Goel A., Lee D. T. Biased assimilation, homophily, and the dynamics of polarization // Proceedings of the National Academy of Sciences. - 2013. - Vol. 110, No. 15. - P. 5791-5796.

156. Lord C. G., Ross L., Lepper M. R. Biased assimilation and attitude polarization: The effects of prior theories on subsequently considered evidence // Journal of personality and social psychology. - 1979. - Vol. 37, No. 11. - P. 2098.

157. Краснощеков П. С. Простейшая математическая модель поведения. Психология конформизма // Математическое моделирование. - 1998. - Т. 10. - № 7. - С. 76-92.

158. Kurahashi-Nakamura T., Mas M., Lorenz J. Robust clustering in generalized boundedconfidence models // Journal of Artificial Societies and Social Simulation. - 2016. - Vol. 19, No. 4. - P. 1-13.

159. Sherif M., Hovland C. I. Social judgment: Assimilation and contrast effects in communication and attitude change // Yale University Press. - 1961. - p. 218.

160. Chen W. et al. Neutral bots probe political bias on social media // Nature communications. - 2021. - Vol. 12, No. 1. - P. 5580.

161. Soares F. B., Recuero R., Zago G. Asymmetric polarization on Twitter and the 2018 Brazilian presidential elections // Proceedings of the 10th international conference on social media and society. - 2019. - P. 67-76.

162. Combs A. et al. Reducing political polarization in the United States with a mobile chat platform // Nature human behaviour. - 2023. - Vol. 7, No. 9. - P. 1454-1461.

163. Friedkin N. E., Proskurnikov A. V., Bullo F. Group dynamics on multidimensional object threat appraisals // Social Networks. - 2021. - Vol. 65. - P. 157-167.

164. Vande Kerckhove C. et al. Modelling influence and opinion evolution in online collective behaviour // PloS one. - 2016. - Vol. 11, No. 6. - P. e0157685.

165. Friedkin N. E., Bullo F. How truth wins in opinion dynamics along issue sequences // Proceedings of the National Academy of Sciences. - 2017. - Vol. 114, No. 43. - P. 11380-11385.

166. Moussaid M. et al. Social influence and the collective dynamics of opinion formation // PloS one. - 2013. - Vol. 8, No. 11. - P. e78433.

167. Ding Z. et al. Asynchronous opinion dynamics with online and offline interactions in bounded confidence model // Journal of Artificial Societies and Social Simulation. - 2017. - Vol. 20, No. 4. - P. 1-12.

168. Bernardo C., Vasca F. A mixed logical dynamical model of the Hegselmann-Krause opinion dynamics // IFAC-PapersOnLine. - 2020. - Vol. 53, No. 2. - P. 2826-2831.

169. Schawe H., Fontaine S., Hernández L. When network bridges foster consensus. Bounded confidence models in networked societies // Physical Review Research. - 2021. - Vol. 3, No. 2. - P. 023208.

170. Zhang J. et al. Dynamics of Opinions with Bounded Confidence in Social Cliques: Emergence of Fluctuations // arXiv preprint arXiv:2107.04948. -2021. - P.1-30.

171. Hickok A. et al. A bounded-confidence model of opinion dynamics on hypergraphs // SIAM Journal on Applied Dynamical Systems. - 2022. - Vol. 21, No. 1. - P. 1-32.

172. Mazen R., Leventhal H. The influence of communicator-recipient similarity upon the beliefs and behavior of pregnant women // Journal of Experimental Social Psychology. - 1972. - Vol. 8, No. 4. - P. 289-302.

173. Van Knippenberg D., De Vries N., Van Knippenberg A. Group status, group size and attitude polarization // European Journal of Social Psychology. - 1990.

- Vol. 20, No. 3. - P. 253-257.

174. Liu C. C., Srivastava S. B. Pulling closer and moving apart: Interaction, identity, and influence in the US Senate, 1973 to 2009 // American Sociological Review.

- 2015. - Vol. 80, No. 1. - P. 192-217.

175. Krizan Z., Baron R. S. Group polarization and choice-dilemmas: how important is self-categorization? // European Journal of Social Psychology. - 2007. - Vol. 37, No. 1. - P. 191-201.

176. Flache A., Macy M. W. Small worlds and cultural polarization // Micro-Macro Links and Microfoundations in Sociology. - Routledge, 2014. - P. 146-176.

177. Böttcher L., Gersbach H. The great divide: drivers of polarization in the US public // EPJ data science. - 2020. - Vol. 9, No. 1. - P. 1-13.

178. Kubin E., Von Sikorski C. The role of (social) media in political polarization: a systematic review // Annals of the International Communication Association. -2021. - Vol. 45, No. 3. - P. 188-206.

179. Buder J. et al. Does negatively toned language use on social media lead to attitude polarization? // Computers in Human Behavior. - 2021. - Vol. 116. -P. 106663.

180. Baumann F. et al. Emergence of polarized ideological opinions in multidimensional topic spaces // Physical Review X. - 2021. - Vol. 11, No. 1.

- P.011012.

181. Törnberg P. et al. Modeling the emergence of affective polarization in the social media society // Plos one. - 2021. - Vol. 16, No. 10. - P. e0258259.

182. Zafeiris A. Opinion polarization in human communities can emerge as a natural consequence of beliefs being interrelated // Entropy. - 2022. - Vol. 24, No. 9.

- P. 1320.

183. Haghtalab N., Jackson M. O., Procaccia A. D. Belief polarization in a complex world: A learning theory perspective // Proceedings of the National Academy of Sciences. - 2021. - Vol. 118, No. 19. - P. e2010144118.

184. Esteban J.-M., Ray D. On the measurement of polarization // Econometrica: Journal of the Econometric Society. - 1994. - Vol. 62, No. 4. - P. 819-851.

185. Liu S. et al. Job Done? New Modeling Challenges After 20 Years of Work on Bounded-Confidence Models // Journal of Artificial Societies and Social Simulation JASSS. - 2023. - Vol. 26, No. 4. - P. 1-24.

186. Chartishvili A. G. et al. On an approach to measure the level of polarization of individuals' opinions // Twelfth International Conference" Management of large-scale system development"(MLSD). - IEEE, 2019. - P. 1-5.

187. Steinberg L., Monahan K. C. Age differences in resistance to peer influence // Developmental psychology. - 2007. - Vol. 43, No. 6. - P. 1531-1543.

188. Foulkes L. et al. Age differences in the prosocial influence effect // Developmental science. - 2018. - Vol. 21, No. 6. - P. e12666.

189. Eagly A. H. Gender and social influence: A social psychological analysis // American Psychologist. - 1983. - Vol. 38, No. 9. - P. 971-981.

190. Peshkovskaya A. G. et al. The socialization effect on decision making in the Prisoner's Dilemma game: An eye-tracking study // PloS One. - 2017. - Vol. 12, No. 4. - P. e0175492.

191. Peshkovskaya A., Babkina T., Myagkov M. Social context reveals gender differences in cooperative behavior // Journal of Bioeconomics. - 2018. - Vol. 20. - P.213-225.

192. Peshkovskaya A., Babkina T., Myagkov M. Gender effects and cooperation in collective action: A laboratory experiment // Rationality and Society. - 2019. -Vol. 31, No. 3. - P. 337-353.

193. Aral S., Walker D. Tie strength, embeddedness, and social influence: A large-scale networked experiment // Management Science. - 2014. - Vol. 60, No. 6. - P.1352-1370.

194. Mei W. et al. Micro-foundation of opinion dynamics: Rich consequences of the weighted-median mechanism // Physical Review Research. - 2022. - Vol. 4, No. 2. - P. 023213.

195. Friedkin N. E. The problem of social control and coordination of complex systems in sociology: A look at the community cleavage problem // IEEE Control Systems Magazine. - 2015. - Vol. 35, No. 3. - P. 40-51.

196. Aral S., Nicolaides C. Exercise contagion in a global social network // Nature communications. - 2017. - Vol. 8, No. 1. - P. 14753.

197. Khan T., Michalas A., Akhunzada A. Fake news outbreak 2021: Can we stop the viral spread? // Journal of Network and Computer Applications. - 2021. -Vol. 190. - P. 103112.

198. Li Y., Zhao H. Evaluation and control of opinion polarization and disagreement: a review // International Journal of Crowd Science. - 2021. - Vol. 5, No. 2. -P. 114-128.

199. Romero Moreno G., Chakraborty S., Brede M. Shadowing and shielding: Effective heuristics for continuous influence maximisation in the voting dynamics // Plos one. - 2021. - Vol. 16, No. 6. - P. e0252515.

200. Bini M. et al. Graph structure-based heuristics for optimal targeting in social networks // IEEE Transactions on Control of Network Systems. - 2022. - Vol. 9, No. 3. - P. 1189-1201.

201. Varma V. S., Hayel Y., Morarescu I. C. A non-cooperative resource utilization game between two competing malware // IEEE Control Systems Letters. -2022. - Vol. 7. - P. 67-72.

202. Chkhartishvili A. G., Gubanov D. A., Novikov D. A. Social Networks: Models of information influence, control and confrontation. - Springer, 2018. - Vol. 189. - p. 188.

203. Rácz M. Z., Rigobon D. E. Towards consensus: Reducing polarization by perturbing social networks // IEEE Transactions on Network Science and Engineering. - 2023. - Vol. 10, No. 6. - P. 3450-3464.

204. Patwardhan S., Radicchi F., Fortunato S. Influence maximization: Divide and conquer // Physical Review E. - 2023. - Vol. 107, No. 5. - P. 054306.

205. Proskurnikov A. V. et al. Opinion evolution in time-varying social influence networks with prejudiced agents // IFAC-PapersOnLine. - 2017. - Vol. 50, No. 1. - P. 11896-11901.

206. Devia C. A., Giordano G. Classification-based opinion formation model embedding agents' psychological traits // Journal of Artificial Societies and Social Simulation. - 2023. - Vol. 26, No. 3. - P. 1-40.

207. Gubanov D. A., Petrov I. V., Chkhartishvili A. G. Multidimensional model of opinion dynamics in social networks: polarization indices // Automation and Remote Control. - 2021. - Vol. 82. - P. 1802-1811.

208. Gubanov D. A., Novikov D. A. Models of joint dynamics of opinions and actions in online social networks. Part I: Primary data analysis // Problemy Upravleniya. - 2023. - Vol. 2. - P. 37-53.

209. Gubanov D. A., Novikov D. A. Models of joint dynamics of opinions and actions in online social networks. Part II: Linear models // Problemy Upravleniya. - 2023. - Vol. 3. - P. 40-64.

210. Martins A. C. R. Continuous opinions and discrete actions in opinion dynamics problems // International Journal of Modern Physics C. - 2008. - Vol. 19, No. 04. - P. 617-624.

211. Zino L., Ye M., Cao M. A two-layer model for coevolving opinion dynamics and collective decision-making in complex social systems // Chaos: An Interdisciplinary Journal of Nonlinear Science. - 2020. - Vol. 30, No. 8. - P. 083107.

212. Conjeaud I., Lorenz-Spreen P., Kalogeratos A. Degroot-based opinion formation under a global steering mechanism // IEEE Transactions on Computational Social Systems. - 2024. - Vol. 11, No. 3. - P. 4040 - 4057.

213. Zhao C., Parilina E. Investigation on centrality measures and opinion dynamics in two-layer networks with replica nodes // arXiv preprint arXiv:2406.18780. -2024. - P. 1-21.

214. Zhao C., Parilina E. M. Network Structure Properties and Opinion Dynamics in Two-Layer Networks with Hypocrisy // International Conference on

Mathematical Optimization Theory and Operations Research. - Cham: Springer Nature Switzerland, 2024. - P. 300-314.

215. Tang T., Chorus C. G. Learning opinions by observing actions: Simulation of opinion dynamics using an action-opinion inference model // Journal of Artificial Societies and Social Simulation. - 2019. - Vol. 22, No. 3. - P. 1-20.

216. Shang Y. Resilient consensus for expressed and private opinions // IEEE Transactions on Cybernetics. - 2019. - Vol. 51, No. 1. - P. 318-331.

217. Cabrera B. et al. The influence of community structure on opinion expression: an agent-based model // Journal of Business Economics. - 2021. - Vol. 91. - P. 1331-1355.

218. Van Der Does T. et al. Strategic identity signaling in heterogeneous networks // Proceedings of the National Academy of Sciences. - 2022. - Vol. 119, No. 10. - P.e2117898119.

219. Gaisbauer F., Olbrich E., Banisch S. Dynamics of opinion expression // Physical Review E. - 2020. - Vol. 102, No. 4. - P. 042303.

220. Pedreschi D. et al. Human-AI Coevolution // Artificial Intelligence. - 2024. -P. 104244.

221. Weng L., Menczer F., Ahn Y. Y. Virality prediction and community structure in social networks // Scientific reports. - 2013. - Vol. 3, No. 1. - P. 1-6.

222. Weng L. et al. Competition among memes in a world with limited attention // Scientific reports. - 2012. - Vol. 2, No. 1. - P. 335.

223. Chavalarias D., Bouchaud P., Panahi M. Can a Single Line of Code Change Society? The Systemic Risks of Optimizing Engagement in Recommender Systems on Global Information Flow, Opinion Dynamics and Social Structures // Journal of Artificial Societies and Social Simulation. - 2024. - Vol. 27, No. 1. - P. 1-39.

224. Rossi W. S., Polderman J. W., Frasca P. The closed loop between opinion formation and personalized recommendations // IEEE Transactions on Control of Network Systems. - 2021. - Vol. 9, No. 3. - P. 1092-1103.

225. Peralta A. F. et al. Effect of algorithmic bias and network structure on coexistence, consensus, and polarization of opinions // Physical Review E. -2021. - Vol. 104, No. 4. - P. 044312.

226. Santos F. P., Lelkes Y., Levin S. A. Link recommendation algorithms and dynamics of polarization in online social networks // Proceedings of the National Academy of Sciences. - 2021. - Vol. 118, No. 50. - P. e2102141118.

227. Huszár F. et al. Algorithmic amplification of politics on Twitter // Proceedings of the National Academy of Sciences. - 2022. - Vol. 119, No. 1. - P. e2025334119.

228. Ibrahim H. et al. YouTube's recommendation algorithm is left-leaning in the United States // PNAS nexus. - 2023. - Vol. 2, No. 8. - P. pgad264.

229. Alrhmoun A., Kertész J. Emergent local structures in an ecosystem of social bots and humans on Twitter // EPJ Data Science. - 2023. - Vol. 12, No. 1. - P. 39.

230. Ross B. et al. Are social bots a real threat? An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks // European Journal of Information Systems. - 2019. - Vol. 28, No. 4. - P. 394412.

231. González-Bailón S., De Domenico M. Bots are less central than verified accounts during contentious political events // Proceedings of the National Academy of Sciences. - 2021. - Vol. 118, No. 11. - P. e2013443118.

232. Stella M., Ferrara E., De Domenico M. Bots increase exposure to negative and inflammatory content in online social systems // Proceedings of the National Academy of Sciences. - 2018. - Vol. 115, No. 49. - P. 12435-12440.

233. Torres-Lugo C. et al. Manipulating Twitter through deletions // Proceedings of the international AAAI conference on web and social media. - 2022. - Vol. 16. - P.1029-1039.

234. Pescetelli N., Barkoczi D., Cebrian M. Bots influence opinion dynamics without direct human-bot interaction: The mediating role of recommender systems // Applied Network Science. - 2022. - Vol. 7, No. 1. - P. 46.

235. Roth C., Mazieres A., Menezes T. Tubes and bubbles topological confinement of YouTube recommendations // PloS one. - 2020. - Vol. 15, No. 4. - P. e0231703.

236. Cota W. et al. Quantifying echo chamber effects in information spreading over political communication networks // EPJ Data Science. - 2019. - Vol. 8, No. 1. - P. 1-13.

237. Cinelli M. et al. Echo chambers on social media: A comparative analysis // arXiv preprint arXiv:2004.09603. - 2020. - P. 1-15.

238. Del Vicario M. et al. The spreading of misinformation online // Proceedings of the national academy of Sciences. - 2016. - Vol. 113, No. 3. - P. 554-559.

239. Sikder O. et al. A minimalistic model of bias, polarization and misinformation in social networks // Scientific reports. - 2020. - Vol. 10, No. 1. - P. 5493.

240. Douven I., Hegselmann R. Mis-and disinformation in a bounded confidence model // Artificial Intelligence. - 2021. - Vol. 291. - P. 103415.

241. Rozin P., Royzman E. B. Negativity bias, negativity dominance, and contagion // Personality and social psychology review. - 2001. - Vol. 5, No. 4. - P. 296320.

242. Schweitzer F., Krivachy T., Garcia D. An agent-based model of opinion polarization driven by emotions // Complexity. - 2020. - Vol. 2020, No. 3. - P. 1-11.

243. Proskurnikov A. V., Calafiore G. C., Cao M. Recurrent averaging inequalities in multi-agent control and social dynamics modeling // Annual Reviews in Control. - 2020. - Vol. 49. - P. 95-112.

244. Novikov D. Models of strategic decision-making under informational control // Mathematics. - 2021. - Vol. 9, No. 16. - P. 1889.

245. Galam S. Opinion dynamics and unifying principles: A global unifying frame // Entropy. - 2022. - Vol. 24, No. 9. - P. 1201.

246. Zhu J. et al. Dynamic Parameter Calibration Framework for Opinion Dynamics Models // Entropy. - 2022. - Vol. 24, No. 8. - P. 1112.

247. Devia C. A., Giordano G. Probabilistic analysis of agent-based opinion formation models //Scientific Reports. - 2023. - Vol. 13, No. 1. - P. 20152.

248. Alraddadi E. E. et al. A novel framework to classify opinion dynamics of mobile agents under the bounded confidence model // Adaptive Behavior. - 2024. -Vol. 32, No. 2. - P. 167-187.

249. Almaatouq A. et al. Beyond playing 20 questions with nature: Integrative experiment design in the social and behavioral sciences // Behavioral and Brain Sciences. - 2022. - P. 1-55.

250. Chkhartishvili A., Kozitsin I. Binary separation index for echo chamber effect measuring // Eleventh International Conference" Management of large-scale system development"(MLSD). - IEEE, 2018. - P. 1-4.

251. Kozitsin I. V. et al. Symmetric convex mechanism of opinion formation predicts directions of users' opinions trajectories // Twelfth International Conference" Management of large-scale system development"(MLSD). - IEEE, 2019. - P. 1-5.

252. Kozitsin I. V. et al. Modeling political preferences of russian users exemplified by the social network Vkontakte // Mathematical Models and Computer Simulations. - 2020. - Vol. 12. - P. 185-194.

253. Byzov L. G., Gubanov D. A., Kozitsin I. V., Chkhartishvili A. G. A perfect politician for social networks: an approach to analyzing ideological preferences of users // Automation and Remote Control. - 2021. - Vol. 82. - P.1614-1631.

254. Chkhartishvili A. G., Gubanov D. A., Kozitsin I. V. Face mask perception during the COVID-19 pandemic: an observational study of Russian online social network VKontakte // Advances in Systems Science and Applications. -2021. - Vol. 21, No. 3. - P. 91-100.

255. Kozitsin I. V. Formal models of opinion formation and their application to real data: evidence from online social networks // The Journal of Mathematical Sociology. - 2022. - Vol. 46, No. 2. - P. 120-147.

256. Kozitsin I. V. Opinion dynamics of online social network users: a micro-level analysis // The Journal of Mathematical Sociology. - 2023. - Vol. 47, No. 1. -P. 1-41.

257. Kozitsin I. V. et al. A nontrivial interplay between triadic closure, preferential, and anti-preferential attachment: New insights from online data // Online Social Networks and Media. - 2023. - Vol. 34. - P. 100248.

258. Gezha V. N., Kozitsin I. V. The effects of individuals' opinion and non-opinion characteristics on the Organization of Influence Networks in the online domain // Computers. - 2023. - Vol. 12, No. 6. - P. 116.

259. Козицин И. В. Структура потребления идеологически полярной информации в социальной сети ВКонтакте // Труды 19-ой Всероссийской школы-конференции молодых ученых «Управление большими системами» (УБС'2023, Воронеж). - 2023. - С. 179-184.

260. Preo^iuc-Pietro D. et al. Beyond binary labels: political ideology prediction of twitter users // Proceedings of the 55th annual meeting of the association for computational linguistics (volume 1: long papers). - 2017. - P. 729-740.

261. Hardy M. D. et al. Resampling reduces bias amplification in experimental social networks // Nature Human Behaviour. - 2023. - Vol. 7, No. 12. - P. 2084-2098.

262. Garimella K. et al. Political discourse on social media: Echo chambers, gatekeepers, and the price of bipartisanship // Proceedings of the 2018 World Wide Web Conference. - 2018. - P. 913-922.

263. Clauset A., Newman M. E. J., Moore C. Finding community structure in very large networks // Physical Review E. - 2004. - Vol. 70, No. 6. - P. 066111.

264. Sears D. O. College sophomores in the laboratory: Influences of a narrow data base on social psychology's view of human nature // Journal of personality and social psychology. - 1986. - Vol. 51, No. 3. - P. 515-530.

265. Petrov A., Akhremenko A., Zheglov S. Dual Identity in Repressive Contexts: An Agent-Based Model of Protest Dynamics // Social Science Computer Review. - 2023. - Vol. 41, No. 6. - P. 2249-2273.

266. Kozitsin I. V. A general framework to link theory and empirics in opinion formation models // Scientific reports. - 2022. - Vol. 12, No. 1. - P. 5543.

267. Kozitsin I. V. Modeling Opinion Dynamics: Ranking Algorithms on Heterogeneous Populations // 4th International Conference on Control Systems, Mathematical Modeling, Automation and Energy Efficiency (SUMMA). -IEEE, 2022. - P. 198-203.

268. Gezha V. N., Kozitsin I. V. Binary Opinion Space in the SCARDO Model: Precise Analytical Description // Advances in Systems Science and Applications. - 2022. - Vol. 22, No. 4. - P. 103-115.

269. Gubanov A. V. et al. Coevolution of Opinions and Ties in a Social Network: a Differential Equations Approach // 5th International Conference on Control Systems, Mathematical Modeling, Automation and Energy Efficiency (SUMMA). - IEEE, 2023. - P. 475-480.

270. Козицин И. В. Построение прогноза динамики общественного мнения при помощи Scardo-модели! // Управление большими системами. - 2024. - Т. 108. - С. 124-136.

271. Gezha V. N., Kozitsin I. V. The Mean-Field Approximation for the SCARDO Model in the Case of 3-element Opinion Space: Fixed Points and Exact Solutions // Advances in Systems Science and Applications. - 2024. - Vol. 24, No. 02. - P. 54-65.

272. Vazquez F., Krapivsky P. L., Redner S. Constrained opinion dynamics: Freezing and slow evolution // Journal of Physics A: Mathematical and General. - 2003. - Vol. 36, No. 3. - P. L61-L68.

273. Howard M. C. Understanding face mask use to prevent coronavirus and other illnesses: Development of a multidimensional face mask perceptions scale // British journal of health psychology. - 2020. - Vol. 25, No. 4. - P. 912-924.

274. Lopez-Pintado D., Watts D. J. Social influence, binary decisions and collective dynamics // Rationality and Society. - 2008. - Vol. 20, No. 4. - P. 399-443.

275. Granovetter M. Threshold models of collective behavior // American journal of sociology. - 1978. - Vol. 83, No. 6. - P. 1420-1443.

276. Guilbeault D., Centola D. Topological measures for identifying and predicting the spread of complex contagions // Nature communications. - 2021. - Vol. 12, No. 1. - P. 4430.

277. Hartman P. Ordinary differential equations // Society for Industrial and Applied Mathematics, 2002. - p. 642.

278. Piao J. et al. Human-AI adaptive dynamics drives the emergence of information cocoons // Nature Machine Intelligence. - 2023. - Vol. 5, No. 11. - P. 12141224.

279. Ravazzi C. et al. Ergodic randomized algorithms and dynamics over networks // IEEE transactions on control of network systems. - 2014. - Vol. 2, No. 1. -P. 78-87.

280. Kozitsin I. V. Optimal control in opinion dynamics models: diversity of influence mechanisms and complex influence hierarchies // Chaos, Solitons & Fractals. - 2024. - Vol. 181. - P. 114728.

281. Zimmaro F., Contucci P., Kertész J. Voter-like dynamics with conflicting preferences on modular networks // Entropy. - 2023. - Vol. 25, No. 6. - P. 838.

282. Lenhart S., Workman J. T. Optimal control applied to biological models. -Chapman and Hall/CRC, 2007. - p. 274.

283. Petrov I. Structural interventions in linear best-response games on random graphs // IFAC-PapersOnLine. - 2023. - Vol. 56, No. 2. - P. 2830-2833.

284. Goel S., Watts D. J., Goldstein D. G. The structure of online diffusion networks // Proceedings of the 13 th ACM conference on electronic commerce. - 2012. -P. 623-638.

285. Kozitsin I. V., Chkhartishvili A. G. Users' activity in online social networks and the formation of echo chambers // 13th International Conference" Management of large-scale system development"(MLSD). - IEEE, 2020. - P. 1-5.

286. Chkhartishvili A., Gubanov D., Kozitsin I. COVID-19 information consumption and dissemination: a study of online social network VKontakte //

14th International Conference Management of large-scale system development (MLSD). - IEEE, 2021. - P. 1-5.

287. Козицин И. В. Моделирование процессов информационного противоборства: теория аргументных взаимодействий и фейковые новости // Труды 18-ой Всероссийской школы-конференции молодых ученых «Управление большими системами» (УБС'2022, Челябинск). -

2022. - С. 576-584.

288. Кажберова В. В. и др. Агрессия в общении медиапользователей: анализ особенностей поведения и взаимного влияния // Вестник Московского университета. Серия 10. Журналистика. - 2023. - №. 3. - С. 26-56.

289. Kozitsin I. V. Opinion formation in online public debates structured in information cascades: A system-theoretic viewpoint // Computers. - 2023. -Vol. 12, No. 9. - P. 178.

290. Антонов А. В., Козицин И. В. Моделирование процессов информационного противоборства: теория аргументных взаимодействий и фейковые новости // Труды 16-й Международной конференции «Управление развитием крупномасштабных систем» (MLSD'2023). -

2023. - С. 1598-1609.

291. Christakis N. A., Fowler J. H. Social contagion theory: examining dynamic social networks and human behavior // Statistics in medicine. - 2013. - Vol. 32, No. 4. - P. 556-577.

292. Choi Y. P., Paolucci A., Pignotti C. Consensus of the Hegselmann-Krause opinion formation model with time delay // Mathematical Methods in the Applied Sciences. - 2021. - Vol. 44, No. 6. - P. 4560-4579.

293. Schelling T. C. Models of segregation // The American Economic Review. -1969. - Vol. 59, No. 2. - P. 488-493.

294. Backstrom L. et al. Group formation in large social networks: membership, growth, and evolution // Proceedings of the 12th ACM SIGKDD international conference on Knowledge discovery and data mining. - 2006. - P. 44-54.

295. Bure V., Parilina E., Sedakov A. Consensus in social networks with heterogeneous agents and two centers of influence // International Conference "Stability and Control Processes" in Memory of VI Zubov (SCP). - IEEE, 2015. - P. 233-236.

296. Bure V. M., Parilina E. M., Sedakov A. A. Consensus in a social network with two principals // Automation and Remote Control. - 2017. - Vol. 78. - P. 14891499.

297. Simonovits G., Vig A. News sharing as a measure of media alignment // Journal of Quantitative Description: Digital Media. - 2023. - Vol. 3. - P. 1-15.

298. Козицин И. В. Валидация модели Краснощекова на основании данных из онлайновой социальной сети ВКонтакте: дисс. канд. физ.-мат. наук: 05.13.18. - Долгопрудный, 2020. - 118 с.

299. Iyyer M. et al. Political ideology detection using recursive neural networks // Proceedings of the 52nd annual meeting of the Association for Computational Linguistics (volume 1: long papers). - 2014. - P. 1113-1122.

300. Yang K.-C., Ferrara E., Menczer F. Botometer 101: Social bot practicum for computational social scientists // Journal of computational social science. -2022. - Vol. 5, No. 2. - P. 1511-1528.