Применение технологий искусственного интеллекта в системе корпоративного управления тема диссертации и автореферата по ВАК РФ 08.00.05, кандидат наук Никишова Мария Игоревна

• Никишова Мария Игоревна
• кандидат наук
• 2021

Оглавление диссертации кандидат наук Никишова Мария Игоревна

Введение

Глава 1 Теоретико-методические основы принятия решений в системе корпоративного управления с применением технологий искусственного интеллекта

1.1 Эволюция принятия решений в системе корпоративного управления

1.2 Трансформация роли и ответственности совета директоров в системе корпоративного управления

1.3 Основы применения технологий искусственного интеллекта в системе корпоративного управления

Глава 2 Анализ применения технологий искусственного интеллекта в системе корпоративного управления

2.1 Анализ факторов, оказывающих негативное влияние на процесс принятия решений советом директоров

2.2 Оценка областей применения технологий искусственного интеллекта в системе корпоративного управления

2.3 Алгоритм процесса принятия решений советом директоров с

применением технологий искусственного интеллекта

Глава 3 Совершенствование процесса принятия решений в системе корпоративного управления с применением технологий искусственного интеллекта

3.1 Совершенствование контроля советом директоров реализации закупочной политики с применением технологий искусственного интеллекта

3.2 Оценка эффекта применения технологий искусственного интеллекта в системе корпоративного управления

3.3 Риски применения технологий искусственного интеллекта в системе корпоративного управления

Заключение

Словарь терминов

Список литературы

Приложение А Вопросы интервью с членами советов директоров

Приложение Б Информация об участниках интервью

Приложение В Формулы расчетов экономического эффекта разработки и

внедрения проекта

Приложение Г Этапы обучения системы с применением технологий искусственного интеллекта для контроля советом директоров закупочной

деятельности

Приложение Д Фрагмент одобряемого советом директоров отчета о выполнении годового плана закупок

Введение диссертации (часть автореферата) на тему «Применение технологий искусственного интеллекта в системе корпоративного управления»

Введение

Актуальность темы исследования. В настоящее время в условиях ускоряющегося технологического развития в мире стремительно нарастает скорость изменений, время бизнес-цикла от идеи до получения прибыли сократилось от нескольких лет до нескольких месяцев, а компаниям для эффективной деятельности не обязательно обладать материальными активами. Компаниям, чтобы выживать в новых условиях, необходимо повышать качество принимаемых стратегических решений, причем такие решения должны быть быстрыми, гибкими и аналитически обоснованными. В основе такого пути развития должны лежать интеллектуальные способы управления наиболее важным в XXI веке ресурсом - информацией.

Развитие передовых технологий на современном этапе приводит к ужесточающейся конкуренции между компаниями, увеличению «давления на существующие механизмы принятия решений, поскольку ежегодно растет не только поток информации, но и усиливается регуляторное воздействие на лица, принимающие решения, наряду с ожиданиями стейкхолдеров» [135, с. 21]. Вместе с тем для любого человека существует предел объема информации, который человек может проанализировать и усвоить за определенный период времени. Вопросы, связанные с конкуренцией, регуляторным давлением и ожиданиями стейкхолдеров, а также с работой с информацией, представляют собой наиболее возрастающий вызов для такого участника корпоративных отношений, как совет директоров - орган управления, изначально создаваемый, в основном, чтобы представлять интересы финансовых инвесторов, и формировавшийся по принципу представительства. В условиях технологических сдвигов в первую очередь совет директоров как стратегический орган управления, адаптирующий компанию под новые условия, вынужден меняться: актуализировать свою роль с учетом вызовов времени, повышать эффективность управленческих «решений, чтобы не становиться слабым звеном в цепочке ускоряющихся бизнес-отношений, не

выдержав нагрузки из-за необходимости обрабатывать нарастающие массивы данных» [135, с. 22]. Поэтому важно принимать решения на основе качественной аналитики, а не только на основе экспертного мнения.

Таким образом, актуальность темы диссертационного исследования обусловлена потребностью в повышении эффективности принимаемых решений «советом директоров как стратегическим органом управления» [42] для выживания компаний в условиях ускоряющегося технологического развития и увеличивающейся проблемы «информационной асимметрии» между советом директоров и менеджментом.

Вместе с тем, как упомянуто в российской стратегии развития искусственного интеллекта на период до 2030 года, за счет возможностей повышать эффективность «процессов планирования, прогнозирования и принятия управленческих решений» [8] искусственный интеллект является перспективной технологией, позволяющей в XXI веке справиться с задачей повышения эффективности принимаемых решений, качественно обрабатывая большие массивы данных, обеспечивая человека аналитически обоснованными рекомендациями, избегая феномена «группового мышления» и иных человеческих искажений в процессе принятия решений. Уже сейчас технологии искусственного интеллекта применяются в различных управленческих областях: от вопросов управления персоналом до аудита, юридической поддержки и оценки инвестиционных проектов. Дальнейшая эволюция развития областей применения технологий искусственного интеллекта позволяет прийти к выводу, что данная технология сможет применяться и в корпоративном управлении для повышения качества управленческих решений.

Вышеизложенное подтверждает актуальность научного обоснования, поиска способа применения технологий искусственного интеллекта в системе корпоративного управления для повышения эффективности принимаемых решений советом директоров в условиях «информационной асимметрии», увеличивающейся роли и ответственности совета директоров. А научные

результаты с учетом упомянутой в Указе Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» необходимости «обеспечения тесного взаимодействия научных исследований и разработок в области искусственного интеллекта с реальным сектором экономики» [8] будут представлять как практическую, так и научную значимость для развития науки в России.

Область исследования. Содержание диссертации соответствует пунктам 10.11. «Процесс управления организацией, её отдельными подсистемами и функциями. Целеполагание и планирование в управлении организацией. Контроль, мониторинг и бенчмаркинг. Механизмы и методы принятия и реализации управленческих решений. Управление проектом. Управление знаниями. Риск-менеджмент. Управление производством. Современные производственные системы», 10.17. «Корпоративное управление. Формы и методы корпоративного контроля. Управление стоимостью фирмы. Роль и влияние стейкхолдеров на организацию. Миссия организации. Корпоративная социальная ответственность. Социальная и экологическая ответственность бизнеса» Паспорта научной специальности 08.00.05 - Экономика и управление народным хозяйством: менеджмент (экономические науки).

Степень разработанности темы исследования. Основополагающей теоретической и методологической базой диссертации послужили труды зарубежных и российских исследователей в сферах теории корпоративного управления, теории принятия управленческих решений, поведенческой экономики, новой информационной теории, прикладные работы по вопросам функционирования современных технологий, в частности, применения технологий искусственного интеллекта.

Существенный вклад в развитие научного обоснования корпоративного управления, управления процессами корпоративного взаимодействия, процессами принятия решений внесли зарубежные ученые И. Ансофф, А. Берли, Г. Беккер, П. Бурдье, Э. Берглоф, М. Дженсен, Дж. Коулман,

Д. Канеман, А. Тверски, Р. Лебланк, Дж. Минц, Дж. Мур, М. Портер, С. Рид, Г. Минцберг, Р. Стоунер, Дж. Стиглиц, О. Уильямсон, Э. Химскерк, Б. Чеффинс, Е. Фама, Ф. Фукуяма, Э. Фриман, Дж. Харви, Т. Шульц, а также российские исследователи: A.A. Аузан, С.Б. Авдашева, М.Д. Аистова, В.Г. Антонов, Б.С. Батаева, Л.П. Белых, И.Ю. Беляева, В. Вербицкий, Ю.Б. Винслав, О.В. Данилова, Т.Г. Долгопятова, С.О. Календжян, В.Г. Клейнер, B.C. Лисин, М.В. Самосудов, М.А. Федотова, Х.П. Харчилава, Ю.М. Цыгалов, И.С. Шиткина, М.А. Эскиндаров и другие.

Теоретическими аспектами разработки и применения искусственного интеллекта начиная с Дж. Маккарти и А. Тьюринга занимались С. Армстронг, Т. Бергер, X. Берлинер, Н. Бостром, М.М. Ботвинник, С.М. Брин, Э. Бриньолфсон, А.Л. Брудно, А. Гарольд, П. Домингос, П. Доэрти, X. Дрейфус, Дж. Дэвис, К. Ли, Дж. Уилсон, Э. Макафи, П. Норвиг, Э. Юдковский и другие. На протяжении последних лет в связи с ускоряющимся развитием технологий отмечено возрастающее количество актуальных исследований по практическим особенностям использования искусственных нейронных сетей, на применении которых в системе корпоративного управления основана данная работа. Первыми по теме применения искусственных нейронных сетей стали исследования У. Мак-Каллокка, В. Питтса, Ф. Розенблатта, Д. Хебба, далее развитие данной области наблюдалось в работах А. Бека, К. Бишопа, А. Вайгенда, Й. Джолиффа, А. Хюваринена и других.

Заметный вклад в разработку темы изменений в управлении в эпоху информационного общества, передовых технологий, промышленных революций и цифровой экономики внесли Д. Арриго, Д. Белл, И. Валлерстайн, П. Друкер, Д. Ито, С.М. Кастельс, P.M. Нуреев, Е.Б. Кузнецов, Дж. Стиглиц, А. Тойнби, Э. Тоффлер, С. Уэстлейк, Дж. Хаскел, Д. Хоуи, Ч. Хуанг, К. Шваб, Й. Шумпетер.

В исследованиях перечисленных ученых рассматриваются теории корпоративного управления, принятия решений, описываются возможности

цифровых технологий, в частности, технологий искусственного интеллекта, и технологические сдвиги. Исследованиями же на стыке этих теорий с акцентом на потребность в трансформации корпоративного управления благодаря применению современных технологий занимаются такие зарубежные учёные, как П. Вережен, Э. Вермулейн, Д. Винсдор, В. Виссер, А. Вулджридж, Е. Джордан, Б. Либерт, Д. Маккарти, Д. Массой, Ф. Меслейн, М. Фенвик, а также российские исследователи В. Д. Алёшин, М.А. Измайлова, М.Е. Кузнецов, В.Д. Миловидов, А.Е. Молотников и другие.

Анализ работ перечисленных авторов показал, что исследователи фокусируют внимание на проблемах корпоративного управления и на описании процессов принятия решений в системе корпоративного управления, анализируют основные технологические тенденции, особенности цифровых технологий и их влияние на общество и компании в целом, однако поиск новых способов повышения эффективности принимаемых решений в системе корпоративного управления с учетом технологических тенденций XXI века не нашел должного теоретического и практического обоснования, поэтому данные вопросы нуждаются в дополнительном изучении. Этот факт послужил фундаментом для выбора темы исследования, постановки цели, формирования задач, а также построения логики диссертационного исследования.

Методология и методы исследования. Теоретико-методологической базой исследования послужили научные труды зарубежных и российских исследователей в области корпоративного управления, процессов принятия решений, искусственного интеллекта, поведенческой экономики, новой информационной теории, прикладные работы по вопросам функционирования современных технологий искусственного интеллекта.

В соответствии с поставленной целью и задачами использованы общенаучные методы теории управления, статистического, сравнительного и логического анализа, обобщения, системного подхода к изучению экономических явлений и процессов, применены методы глубинного

интервью и экспертных оценок. Применены табличные, а также графические способы визуализации данных.

Информационно-эмпирической базой исследования послужили статистические данные исследований Всемирного экономического форума, компаний PWC, Allianz, Deloitte, McKinsey, TopCompetence и других организаций, а также сведения, полученные в ходе 149 глубинных интервью с членами советов директоров, анализа протоколов заседаний советов директоров 25 компаний, информации, отраженной в указах Президента, распоряжениях и директивах Правительства, руководствах Росимущества, нормативных актах и иных официальных документах.

Цель и задачи диссертации. Цель исследования заключается в теоретическом и методическом обосновании применения технологий искусственного интеллекта в процессе принятия управленческих решений советом директоров в системе корпоративного управления.

Заданная цель определила необходимость постановки и решения задач:

- обосновать новый способ решения классических проблем «агентской теории», среди которых проблемы «информационной асимметрии», «оппортунистического поведения» менеджмента, «ограниченной рациональности», доверия между советом директоров и менеджментом, и адаптировать принципы применения технологий искусственного интеллекта к системе корпоративного управления;

- выявить особенности и негативные факторы, с которыми сталкиваются советы директоров при принятии решений, и оценить задачи совета директоров, для которых может быть снижено влияние выявленных негативных факторов с помощью технологий искусственного интеллекта;

- разработать алгоритм процесса принятия решений советом директоров в системе корпоративного управления с применением технологий искусственного интеллекта;

- сформировать систему показателей эффективности деятельности исполнительных органов на примере решения одной из задач совета директоров по контролю исполнительных органов с учётом разработанного алгоритма;

- определить качественные и количественные эффекты, а также риски применения технологий искусственного интеллекта в системе корпоративного управления.

Объектом исследования является система корпоративного управления акционерных обществ.

Предмет исследования - организационно-экономические отношения, возникающие в процессе принятия решений советом директоров в системе корпоративного управления с применением технологий искусственного интеллекта.

Научная новизна исследования заключается в решении важной научной задачи - определении нового способа повышения эффективности процесса принятия решений советом директоров в системе корпоративного управления с помощью применения технологий искусственного интеллекта.

Положения, выносимые на защиту:

а) Предложен новый способ решения классических проблем «агентской теории», среди которых проблемы «информационной асимметрии», «оппортунистического поведения» менеджмента, «ограниченной рациональности», доверия между советом директоров и менеджментом, с помощью применения технологий искусственного интеллекта, основываясь на тенденциях развития корпоративного управления и функциях технологий искусственного интеллекта. Адаптированы к системе корпоративного управления принципы применения технологий искусственного интеллекта, сопряженные с принципами корпоративного управления ОЭСР и принципами применения искусственного интеллекта, изложенными в российской стратегии искусственного интеллекта, а именно: ответственность, прозрачность, безопасность, регулируемость, доверие, позволяющие повысить эффективность процесса принятия решений с применением

технологий искусственного интеллекта в системе корпоративного управления (С. 56-60).

б) Определены и классифицированы факторы, оказывающие негативное влияние на процесс принятия решений советом директоров: непрофессиональная работа менеджмента и низкое качество подготавливаемых материалов; недостаток времени и недобросовестный подход к работе директоров; недостаток квалификации, опыта и персональных характеристик директоров; когнитивные искажения в процессе принятия решений советом директоров. Проведена оценка задач совета директоров, для которых может быть снижено влияние негативных факторов за счет применения технологий искусственного интеллекта, а именно: контроль закупочной политики, решения по крупным сделкам и сделкам с заинтересованностью, контроль исполнительных органов и другие (С. 67-80).

в) Разработан новый алгоритм процесса принятия решений советом директоров в системе корпоративного управления с применением технологий искусственного интеллекта, особенностью которого является проведение параллельного анализа рассматриваемых вопросов системой с применением искусственного интеллекта, что позволяет повышать качество принимаемых решений, сглаживать выявленные негативные факторы, характерные для принятия решений советом директоров, и решать проблемы «агентской теории» (С. 82-88).

г) Сформирована на примере задачи совета директоров по контролю деятельности исполнительных органов в вопросах реализации закупочной политики система показателей эффективности закупочной деятельности с применением технологий искусственного интеллекта для контроля показателей эффективности советом директоров, которая включает показатели экономии средств заказчика, роста доли конкурентных закупок, роста доли закупок в электронной форме, снижения доли неэффективных закупок и другие. Разработаны перечень технических мероприятий и направления применения технологий искусственного интеллекта (система

интеллектуального поиска поставщиков, мониторинга цен, скоринга поставщиков), что позволяет решать проблемы предотвращения советом директоров заранее неэффективных закупок, снижать степень «оппортунистического поведения» менеджмента и проявление коррупционных элементов (С. 99-106).

д) Определены качественные и количественные эффекты и учтены риски внедрения предложенных алгоритма и системы показателей в систему корпоративного управления, позволяющих обеспечить экономию бюджета закупок за установленный период, уменьшить «информационную асимметрию», увеличить степень прозрачности закупочной деятельности, обеспечить возможности независимого и аналитически обоснованного контроля закупок советом директоров, снизить влияние выявленных в исследовании негативных факторов на принятие решений, избавиться от «оппортунистического поведения» менеджмента и коррупционных элементов в области закупок, повысить степень доверия и эффективность взаимодействия между советом директоров и менеджментом, автоматически контролировать исполнение положений директив и внутренних документов (С. 106-122).

Теоретическая значимость полученных результатов заключается в развитии теории корпоративного управления в части предложения нового способа повышения эффективности управленческих решений совета директоров - применения технологий искусственного интеллекта в системе корпоративного управления, а также адаптации принципов применения технологий искусственного интеллекта к системе корпоративного управления. Теоретическая значимость результатов также заключается в развитии теории принятия решений в части выявления особенностей и негативных факторов, с которыми сталкиваются советы директоров в процессе принятия управленческих решений, и оценки задач совета директоров, для которых может быть снижено влияние выявленных негативных факторов с помощью технологий искусственного интеллекта.

Практическая значимость исследования обусловлена тем, что системы, основанные на предложенных разработках - алгоритме и системе показателей эффективности для контроля советом директоров, с учетом выявленных рисков и рассчитанного эффекта могут применяться для поддержки принятия решений советов директоров как в частных компаниях, так и в компаниях с государственным участием для повышения качества процессов принятия решений и эффективности самих решений. Данные о типичных проблемах, характерных для совета директоров, полученные в ходе интервью в аналитической части, могут быть использованы для диагностики проблем систем корпоративного управления и улучшения качества деятельности советов директоров. Предложенные алгоритм процесса принятия решений советом директоров с применением технологий искусственного интеллекта и система показателей эффективности закупочной деятельности для контроля советом директоров в дальнейшем могут быть адаптированы под разработку систем поддержки принятия решений, применяемых в вопросах одобрения советом директоров сделок, и использованы в решении иных задач, относящихся к компетенции совета директоров. Предложенные разработки также могут быть адаптированы к деятельности менеджмента, являющегося неотъемлемой частью системы корпоративного управления. Выявленные области рисков применения технологий искусственного интеллекта в системе корпоративного управления могут быть полезны для дальнейших научных исследований и разработки/доработки системы управления рисками компаний.

Отдельное практическое применение могут иметь результаты:

- система показателей эффективности закупочной деятельности с применением технологий искусственного интеллекта для контроля советом директоров;

- алгоритм процесса принятия решений советом директоров в системе корпоративного управления с применением технологий искусственного интеллекта;

- области рисков применения технологий искусственного интеллекта в системе корпоративного управления.

Степень достоверности, апробация и внедрение результатов исследования. Исследование основано на глубоком изучении исследуемой проблемы и подтверждено результатами анализа достоверных теоретических источников и результатами обработки глубинного интервью с членами советов директоров, анализа протоколов заседаний советов директоров компаний. Исследование базируется на корректных методах анализа данных и тщательной методической проработке полученных результатов.

Ключевые положения и результаты прошли апробацию, получив одобрение на международных и российских научно-практических конференциях: на V Международной научно-практической конференции «Управленческие науки в современном мире» (Москва, Финансовый университет, 6-7 декабря 2017 г.); на II Международной конференции «Управление бизнесом в цифровой экономике» (Санкт-Петербург, Санкт-Петербургский государственный университет, 22 марта 2019 г.); на научно-практической конференции «Современные тенденции экономического развития в условиях рыночных изменений» (Москва, МИСиС и Молодежная финансовая лига, 17 июля 2019 г.); на VII Международной научно-практической конференции «Управленческие науки в современном мире» (Москва, Финансовый университет, 13-15 ноября 2019 г.); на Всероссийской научно-практической конференции «Финансы и корпоративное управление в меняющемся мире» (Москва, Финансовый университет, 3 декабря 2019 г.); на научно-практической конференции «Современные вызовы и пути решения в развитии финансово-экономических систем» (Москва, МИСиС и Молодежная финансовая лига, 11 июля 2020 г.).

Полученные научные результаты подтверждены внедрением основных выводов и положений диссертационного исследования в практическую деятельность компании в области управленческого консультирования и компании реального сектора экономики, а именно, материалы диссертации

используются в практической деятельности ООО «Топкомпетенс», в частности, разработки послужили основой для создания системы автоматизации коммуникаций и поддержки принятия решений советов директоров Воагс124 на базе «Битрикс24» с применением технологий искусственного интеллекта. При создании и внедрении данной системы были использованы следующие материалы диссертационного исследования:

- система показателей эффективности закупочной деятельности для контроля советом директоров;

- алгоритм процесса принятия решений советом директоров с применением технологий искусственного интеллекта в системе корпоративного управления.

Система Воагс124 внедрена в ООО «Топкомпетенс» и может быть использована компаниями при установке «Битрикс24». Разработки способствуют повышению эффективности деятельности органов управления компаний, более качественному принятию управленческих решений и планируются к внедрению в системы корпоративного управления других компаний.

Также материалы диссертации используются в практической деятельности АО «Владхлеб». При создании внедренной системы Воагс124 были учтены выявленные в диссертации типовые проблемы в деятельности директоров, а также применен предложенный алгоритм принятия решений советом директоров.

Разработки в системе Воагс124 способствуют повышению скорости и качества принимаемых решений советом директоров, повышая эффективность системы корпоративного управления АО «Владхлеб» в целом.

Материалы диссертации используются Департаментом корпоративных финансов и корпоративного управления Финансового университета при Правительстве Российской Федерации в преподавании учебной дисциплины «Корпоративное управление в цифровой экономике» для студентов,

обучающихся по направлению подготовки 38.04.02 - «Менеджмент», направленность программы магистратуры «Корпоративное управление».

Апробация и внедрение результатов исследования подтверждены соответствующими документами.

Публикации. По теме диссертационного исследования опубликовано 9 работ общим объемом 5,97 п.л. (авторский объем 5,54 п.л.), в том числе 6 работ общим объемом 4,76 п.л. (авторский объем 4,33 п.л.) опубликованы в рецензируемых научных изданиях, определенных ВАК при Минобрнауки России.

Структура и объем диссертации обусловлены целью, поставленными задачами и логикой исследования. Диссертация состоит из введения, трёх глав, заключения, словаря терминов, списка литературы, состоящего из 147 наименований, и пяти приложений. Текст диссертации изложен на 165 страницах, содержит 17 таблиц и 13 рисунков.

17

Глава 1

Теоретико-методические основы принятия решений в системе корпоративного управления с применением технологий искусственного интеллекта

1.1 Эволюция принятия решений в системе корпоративного управления

Корпорации доминировали в мировой экономике как минимум в течение последних 150 лет, и есть веские основания утверждать, что корпорация, как отмечает Дж. Бакан, является одним из ключевых институтов за этот период времени [114, с. 139]. Корпоративное управление можно назвать одним из революционных организационных изобретений человечества, которое появилось под влиянием социальных, технологических и политических сдвигов и во многом способствовало трансформациям в ходе технологических революций, позволяя мобилизовать капитал, способствуя развитию международной торговли и развитию коммуникаций между участниками корпоративных отношений. Благодаря постепенному развитию, по мнению М. Фенвика и Э. Вермюлейна, корпорации создали основу для устойчивого экономического роста и процветания и сыграли жизненно важную роль в разработке и распространении новых технологий [119, с. 2].

С. Дикин отмечает [117], что в современном формате корпоративное управление, привычный в XXI веке набор стейкхолдеров, оказывающий влияние на принятие корпоративных решений, также как и порядок принимаемых участниками корпоративных отношений решений, сформировались не сразу. Изменения в корпоративном управлении происходили постепенно как серия адаптаций к трансформациям в обществе и на каждом этапе отвечали вызовам времени.

Список литературы диссертационного исследования кандидат наук Никишова Мария Игоревна, 2021 год

Источник: [59].

Рисунок 8 - Доля несостоявшихся закупок и закупок у единственного поставщика от общей стоимости всех контрактов различных стран.

- в-третьих, степень «информационной асимметрии» в области закупок максимально высока, поскольку директора самостоятельно не оценивают контрагентов, позиции, цены, иные условия и полагаются при принятии решений на добросовестность менеджмента, на собственные суждения, основанные на «опыте, интуиции и выборочной проверке», а не на полноценный анализ данных;

- в-четвертых, ситуация в области закупок, по исследованию НИУ ВШЭ [59, с. 9], в России характеризуется «коррупцией, ленью и отсутствием усилий менеджмента по организации закупки наилучшим образом» (менеджеры нередко находятся в ситуации конфликта интересов, не заинтересованы в оптимизации закупок, сокращении затрат, чаще всего направляют предложения знакомым компаниям), из-за чего дополнительные расходы на процедуры закупок могут увеличиваться до 83%, при том, что, согласно статистическим данным, суммы контрактов, заключаемых ежегодно в рамках 44-ФЗ и 223-ФЭ достигают 32,2 трлн рублей. Исследование

НИУ ВШЭ показывает, что в России имеют место такие проблемы, как наличие неформальных связей между поставщиком и заказчиком, низкое качество поставляемых товаров/услуг, расторжение контрактов, влияющее на выполнение плана закупок, а также наличие конфликта интересов между сторонами контракта.

Кроме того, по данным статистики, в 2019 г. по закону № 44-ФЗ было проведено более 1 млн аукционов в электронном формате, в каждом из которых принимали участие в среднем только два конкурента, что с высокой вероятностью свидетельствует о том, что потенциальный круг поставщиков очень мал, и предложения к участию в торгах в этих аукционах направляются недостаточному числу поставщиков [59]. Приведенная статистика подчеркивает, что технологии искусственного интеллекта в данной сфере способны улучшить качество закупок и обеспечивать совет директоров как минимум большими данными, мотивировать менеджмент к добросовестному подходу в вопросах закупок и предложению более проработанных альтернатив при принятии решений о контроле закупочной деятельности;

- в-пятых, если рассматривать деятельность госкорпораций, госкомпаний и их дочерних обществ, направление эффективности закупок может проверяться Счетной палатой Российской Федерации, что также усиливает ответственность директоров за контроль данной области. Причем А. Кудрин в своем интервью 2020 г., посвященному высокой степени коррупции в России, обращал внимание на актуальность поиска новых способов контроля качества корпоративного управления, процедур имущественных сделок и закупок [49];

- в-шестых, в области закупок для практического применения технологий искусственного интеллекта в сравнении с многими другими областями доступны структурированные данные с электронных торговых площадок, что обеспечивает высокую скорость и качество обучения систем с применением технологий искусственного интеллекта.

Эффективная деятельность компании в области закупок направлена на обеспечение компании качественными товарами и услугами в определенный срок при условии обеспечения максимального снижения издержек, с учетом законодательных норм в области обеспечения планирования потребностей и проведения закупочных процедур. При этом, как поясняют Н. Димитри, Г. Пига и Дж. Спаньоло [16], компании тратят значительные ресурсы на администрирование данного процесса, однако зачастую многие решения принимаются индивидуально и в некоторых случаях полагаясь на такие категории, как «опыт» и «интуиция», а возможности человека в области обработки больших массивов данных, требуемые для максимально качественного принятия решений даже на уровне менеджмента, не позволяют широкому кругу потенциальных поставщиков принять участие в закупках. При этом члены совета директоров, также не вооруженные дополнительными аналитическими инструментами, фактически не обладают возможностями тщательного контроля эффективности закупок и принятия полностью обоснованных решений об одобрении планов и отчетов исполнительных органов по закупкам и реализации закупочной политики.

Наиболее часто встречающимися источниками информации и предпосылками к принятию решений являются [35]:

- анализ закупок менеджментом, который не обладает исчерпывающей информацией в силу ограниченности возможностей обработки большого массива данных человеком;

- в ряде случаев менеджмент может находиться в ситуации конфликта интересов и может быть не заинтересован в сокращении затрат, оптимизации закупок;

- собственный анализ директоров, основанный во многом на таких категориях, как «разумный смысл» и «интуиция», которые, как утверждает в исследовании Д. Канеман [22] и подтверждают крупнейшие корпоративные скандалы и конфликты, описанные в диссертации, способны приводить, как минимум, к потере возможностей получения дополнительной экономической эффективности или к более серьезным негативным последствиям.

Таким образом, «информационная асимметрия», в которой находится совет директоров, особенно ярко проявляется именно в вопросах контроля закупочной деятельности. Объем данных, с которым приходится сталкиваться при анализе эффективности закупочной деятельности совету директоров (сотни или тысячи контрагентов, тысячи позиций, цены, условия поставки и прочие), требует принципиально иных инструментов и временных затрат, чем имеются в распоряжении членов советов директоров в настоящее время. Например, инструменты внутреннего аудита, деятельность ревизионной комиссии, на которые чаще всего опирается совет директоров, не дают разумной уверенности и гарантий совету директоров в полноте информации, так как они опираются на ретроспективные данные. При этом, утверждая, например, план закупок и отчет о закупочной деятельности, совет директоров может оказаться в ситуации вынужденного одобрения заранее неэффективных закупок или даже сфальсифицированной отчетности.

В связи с этим в практической части исследования предлагается система показателей эффективности закупочной деятельности для контроля советом директоров с применением технологий искусственного интеллекта, которая закладывается при работе нейросети.

Опираясь на подходы к оценке эффективности закупочной деятельности, предложенные на основе изучения опыта 25 исследуемых компаний, результаты исследования НИУ ВШЭ проблем закупочной деятельности [59; 66], а также на анализ параметров, указанных в следующих документах:

- Директива Правительства РФ от 20.02.2019 № 1519п-П13 по вопросу разработки программ по повышению качества управления закупочной деятельностью;

- Директива от 13.07.2016 № ДП-11/ 29926 Росимущества о разработке планов сокращения операционных издержек на 10%;

- Методические указания по расчету снижения расходов акционерными обществами, доля государства в уставных капиталах которых составляет более 50%, утвержденные приказом Федерального агентства по управлению

государственным имуществом от 10.03.2016 № 90, в таблице 10 предлагается к внедрению компаниями система показателей эффективности закупочной деятельности для контроля советом директоров с описанием конкретных направлений применения технологий искусственного интеллекта и описанием качественных эффектов от применения системы, основанной на применении технологий искусственного интеллекта.

Таблица 10 — Система показателей эффективности закупочной деятельности для контроля советом директоров с применением технологий искусственного интеллекта

Показатели эффективности закупочной деятельности Характеристика показателя в части направления оптимизации Применение технологий ИИ Эффект от применения системы

1 2 3 4

Общие объем (кг/л/шт.) и стоимость (руб.) договоров по результатам закупок по направлениям. Соответствие плана закупок плану произвол ства/продаж, отсутствие избыточных закупок. Система мониторинга эффективности закупок. Система позволяет в целом оптимизировать объемы и стоимость закупок: избежать избыточных, неэффективных закупок.

Доля закупок по конкурентным процедурам, проценты. Рост доли конкурентных закупок способствует снижению цен и повышению качества товаров/услуг. Система интеллектуального поиска поставщиков, оценка их надежности (скоринг). Система расширяет перечень доступных поставщиков, помогая найти наилучшие условия.

Доля закупок по конкурентным процедурам в электронной форме, проценты. Рост доли закупок в электронной форме способствует большей прозрачности для стейкхолдеров и снижению издержек на закупки. Система мониторинга цен, на базе интеграции ЕИС (единой информационной системы) и данных электронных площадок. Скоринг поставщиков повышает надежность и качество поставок.

Продолжение таблицы 10

1 2 3 4

Снижение доли Показатель Система За счет применения

несостоявшихся характеризует интеллектуального скоринга и

закупок, процент к эффективность поиска интеллектуального

общему количеству процессов закупок, поставщиков, поиска, а также

закупок. адекватность оценка их более точного

ценообразования и надежности ценообразования

качество работы с (скоринг). доля

поставщиками. несостоявшихся

закупок может

снизится.

Для компаний с Показатель в За счет применения

государственным компаниях с интеллектуального

участием: доля государственным поиска расширяется

закупок, участием база поставщиков и

осуществляемых у характеризует потенциально растет

субъектов малого и выполнение доля поставщиков -

среднего директивы по субъектов МСП.

предпринимательства поддержке МСП и

(МСП), проценты диверсификацию

(для компаний с закупок.

госучастием).

Источник: составлено автором [35].

Предлагаемая система показателей эффективности закупочной деятельности является ключевой частью технического задания для обучения нейронной сети и в конечном счете контроля показателей советом директоров.

Во входном слое нейронной сети рассматриваются показатели из первого столбца таблицы 10. Например, для прогнозирования общего объема и стоимости договоров по результатам закупок по направлениям закупок во входном слое, как описывает А.Н. Лебедев и B.C. Тынченко, загружаются следующие исторические данные [27, с. 149]:

- позиции закупок;

- объемы продаж за предыдущие исторические периоды;

- объемы закупок за предыдущие периоды;

- количество несостоявшихся закупок;

- позиции несостоявшихся закупок;

- названия поставщиков;

- финансовые показатели деятельности поставщиков;

- цены по позициям;

- финансовые показатели деятельности компании;

- названия конкурентов поставщиков;

- аффилированность менеджеров с поставщиками;

- аффилированность членов совета директоров с поставщиками;

- закупки конкурентов (из внешних источников - тендерных площадок);

- рыночные цены на товары и услуги;

- стандартные ценовые запросы;

- нестандартные ценовые запросы;

- принятые ранее решения и планы закупок советом директоров;

- количество выполненных и расторгнутых договоров;

- ограничения из внутренних положений и иных документов общества и другие.

Форматы данных, с которыми придется работать специалисту по анализу данных, представляют собой неструктурированные и частично структурированные данные за определённый период времени, например, пять лет:

- числовые электронные данные из базы данных закупок, тендерных площадок, например, из Единой информационной системы (ЕИС) в сфере закупок 44-ФЗ и 223-ФЗ и иных электронных торговых площадок (ЭТП);

- числовые данные о закупках компаний из внутрикорпоративных систем (1С или иных);

- текстовые файлы компании с данными о закупках;

- бумажные текстовые версии - политики компании и иные документы;

- числовые и текстовые данные о бюджетах закупок;

- текстовые электронные данные финансовая отчетность компании;

- текстовые электронные данные из новостных лент о состоянии компании и контрагентах, требующие семантического анализа.

Второй столбец предложенной системы оценки показателей для контроля советом директоров - то, чего компания желает добиться в результате применения нейронной сети на выходном слое, например, для первого показателя - соответствие плана закупок плану производства/продаж, отсутствие избыточных закупок. Представленная система показателей направлена на обеспечение выполнения целевой функции закупок с позиции совета директоров: закупка нужного (в соответствии с бюджетом) товара/услуги в срок по адекватной (рыночной) цене у надежных поставщиков. Для обеспечения данной функции предлагается применить технологии искусственного интеллекта указанным в третьем столбце таблицы 10 образом.

После определения и подготовки входных и выходных данных осуществляется выбор структуры нейронной сети. Для контроля закупочной деятельности, как отмечают А.Н. Лебедев и B.C. Тынченко [27, с. 149], больше всего подходит многослойная нейронная сеть («пер-септрон»), которая состоит из входного слоя, состоящего из нескольких входных узлов, скрытых слоев и выходного слоя. Применение нейронных сетей описанным в столбце 3 таблицы 10 способом позволяет осуществить последовательные изменения процесса контроля закупок советом директоров - от мониторинга цен, организации закупочных процедур и мониторинга результатов закупок до системы, которая учится по фактическим данным закупок, подсказывая направления оптимизации и повышения эффективности закупок.

Особую роль играет технический администратор системы (менеджер). Это может быть как внутренний сотрудник, так и сотрудник на аутсорсинге. Он осуществляет функции сбора первичной информации для обучения системы, загружает информацию для обучения системы на базе технологий искусственного интеллекта, интерпретирует данные, консультирует остальных участников по работе системы, занимается ее обучением. Доступ

к функциям системы должен осуществляться только авторизованными пользователями на основе матрицы ролей и прав посредством сети Интернет через соответствующие сервисы, желательно, на сервере компании для обеспечения конфиденциальности данных. Технически этапы обучения и внедрения системы поддержки принятия решений на примере решения задачи контроля закупочной деятельности описаны в приложении Г.

При этом необходимо учитывать, что длительность обучения, количество и качество требуемых данных, особенности внедрения системы могут различаться в зависимости от размеров компании, объема и сложности закупочной деятельности, уникальности закупаемых позиций, поэтому система должна настраиваться под каждую компанию индивидуально.

По итогам работы нейронной сети применительно к задаче совета директоров по контролю закупочной деятельности совет директоров может получать скорректированный план закупок, представленный в приложении Д, и анализ закупок прошлого года с рекомендациями системы с применением технологий искусственного интеллекта на ближайший год. В предложенном варианте система с применением технологий искусственного интеллекта проверяет план закупок, оптимизирует его, предлагая собственную корректировку плана и анализ прошлогоднего плана закупок. Стоит отметить, что предложенная система может быть полезна не только совету директоров, но и менеджменту как одному из ключевых участников системы корпоративного управления, для повышения эффективности системы корпоративного управления, обеспечивая доверие между советом директоров и менеджментом.

Применение технологий искусственного интеллекта на основе массива данных, обеспечивающее проведение параллельного с советом директоров анализа позволяет:

- производить мониторинг позиций плана закупок, анализ рыночности цен. Это дает возможность корректировать план закупок, уточнять начальную максимальную цену контракта (НМЦК);

- после прохождения этапа утверждения плана закупок и в начале его выполнения система помогает уточнить (и расширить) набор поставщиков, осуществлять скоринг, оценивая надежность потенциальных контрагентов и связанность с аффилированными лицами, учитывая ограничения внутренних политик, стратегии и регламентов акционерного общества, а также различных внешних Директив и нормативов (например, в системе может быть задана доля закупок у МСП);

- сопоставлять отобранные закупки с предыдущими закупками компании, оценивать эффективность плана закупок, выстраивать корреляции на основе исторических данных, предоставляя свой вариант отчета о закупках. Пример такого отчета представлен в приложении Д;

- постоянно обновлять базу данных на основе корректировки администратором системы;

- предоставлять скорректированные рекомендации по плану закупок и анализу эффективности закупок с независимым заключением системы и пояснительной запиской от отдела закупок/менеджера для дальнейшего принятия решений.

Предложенная система показателей эффективности закупочной деятельности была верифицирована с 25 компаниями, и установлено, что преимуществами предлагаемой системы контроля закупочной деятельности с применением технологий искусственного интеллекта является возможность обеспечения гарантированного независимого параллельного с человеком анализа эффективности закупочной деятельности на основе большого массива данных с учетом большого числа различных корреляций. Причем возможности применения технологий искусственного интеллекта опираются на уже существующие разработки, в частности, на опыт, накопленный электронными торговыми площадками по организации и мониторингу эффективности закупочной деятельности, и опыт применения технологий искусственного интеллекта в смежных с корпоративным управлением областях, описанных в первой главе диссертационного исследования.

Таким образом, использование технологии искусственного интеллекта в данной системе направлено на то, чтобы решить следующие задачи, касающиеся контроля исполнительных органов в области закупок:

- обеспечить независимый мониторинг цен и условий закупки;

- выработать рекомендации по определению адекватной начальной максимальной цены (НМЦК) контракта;

- обеспечить комплексную скоринговую оценку надежности и качества поставщиков. Система с применением искусственного интеллекта настраивается под профиль риска компании, утвержденный советом директоров, вырабатывая рекомендации по выбору поставщиков. Это позволит снизить риски и потенциальные потери компании от выбора ненадежного поставщика;

- расширить список потенциальных поставщиков компании за счет анализа аналогичных закупок и кластеризации потенциальных поставщиков, увеличивая конкурентность закупок и позволяя повысить тем самым их эффективность;

- оптимизировать утверждение плана закупок, повысить скорость процесса закупочной деятельности, прозрачность для ключевых стейкхолдеров, обеспечивая уверенность директоров в качестве рекомендаций.

Разработанные материалы диссертации внедрены в систему поддержки принятия решений совета директоров Board24, разработанную ООО «Топкомпетенс», которая показала работу на клиентах компании, в частности АО «Владхлеб», доказав свою практическую полезность и потенциал к применению в других компаниях.

В следующем параграфе осуществляется оценка эффекта применения разработанной системы по представленному алгоритму применения технологий искусственного интеллекта в системе корпоративного управления.

Стоит отметить, что аналогичные системы могут быть созданы и для других принимаемых советом директоров решений, поскольку призваны в первую очередь уменьшить «информационную асимметрию», в которой находится совет

директоров по отношению к менеджменту, обеспечив независимость мониторинга деятельности, а также позволяя решать классические проблемы корпоративного управления, повышая степень прозрачности, эффективности деятельности совета директоров и менеджмента, качества их коммуникаций.

3.2 Оценка эффекта применения технологий искусственного интеллекта в системе корпоративного управления

В результате исследования определены качественные и количественные эффекты от внедрения предложенного алгоритма в систему корпоративного управления.

Качественный эффект. Система, основанная на применении технологий искусственного интеллекта в системе корпоративного управления на примере контроля советом директоров закупочной деятельности путем передачи системе поддержки принятия решений контроля закупок аналитических функций на основе предложенных алгоритма и системы показателей эффективности, позволяет:

- уменьшить «информационную асимметрию», в которой находится совет директоров, увеличить степень прозрачности закупочной деятельности;

- обеспечить возможности независимого и аналитически обоснованного контроля закупочной деятельности советом директоров, избавиться от «оппортунистического поведения менеджмента» и коррупционных элементов в области закупок;

- обеспечить снижение влияния выявленных в интервью негативных человеческих факторов в процессе принятия решений советом директоров благодаря предоставлению аналитики «в качестве опоры для принятия решений» [35, с. 1379];

- «повысить общую эффективность взаимодействия совета директоров и менеджмента» [41], обеспечить доверие, более качественную работу с поставщиками как одной из категорий стейкхолдеров компании;

- достигать показателей эффективности в соответствии с разработанной системой показателей эффективности закупочной деятельности, а для

компаний с государственным участием - автоматически выполнять условия директив, распоряжений и иных документов, обязательных для исполнения.

Количественный эффект. Согласно результатам интервью с членами советов директоров 25 компаний, описанным во второй главе, наиболее существенный эффект от разработанной системы может достигаться за счет следующих факторов:

- более точного определения начальной минимальной цены закупок, более точного планирования, расширения качества аналитики за счет определения цены контракта не по запросу, а по факту других аналогичных закупок;

- обеспечения расширения и уточнения списка рассылки приглашений потенциальным поставщикам (с учетом скоринга и усиления конкуренции за счет подбора системой потенциальных поставщиков);

- повышение надежности закупок, минимизации повторных закупок за счет применения гибкой системы скоринга поставщиков.

Каждый из перечисленных факторов, по мнению опрошенных директоров, способен повлиять на экономию средств бюджета закупок. Минимальный процент экономии бюджета закупок за счет перечисленных факторов, по оценкам опрошенных директоров, представлен в таблице 11.

Таблица 11 — Эффект от действия системы поддержки принятия решений совета директоров по контролю закупочной деятельности с применением технологий искусственного интеллекта

Факторы, за счет которых достигается эффект от внедрения системы на основе предложенного алгоритма Эффект, минимальный процент экономии от бюджета закупок

Более точное определение начальной минимальной цены закупок, более точное планирование, расширение аналитики за счет определения не по запросу, а по факту других аналогичных закупок. 1

Обеспечение расширения и уточнения списка рассылки приглашений потенциальным поставщикам (с учетом скоринга и усиления конкуренции). 2

Повышение надежности закупок, минимизация повторных закупок за счет применения гибкой системы скоринга поставщиков. 1

Итого минимальная экономия бюджета закупок. 4

Источник: составлено автором.

Стоит отметить, что некоторые участники интервью оценивают экономию бюджета закупок в их компании за счет перечисленных факторов до 15%. Учитывая минимальную экономию бюджета закупок в 4%, проведена экономическая оценка эффективности разработки и внедрения системы с применением технологий искусственного интеллекта в процесс принятия решений советом директоров на основе предложенного алгоритма применительно к контролю закупочной деятельности (далее - системы).

Согласно результатам интервью в 25 компаниях, доля бюджета закупок в этих компаниях составляет в среднем от 30 до 80% себестоимости продаж. Данные по выборке из аналитической системы СПАРК по компаниям, где имеется отчетность за 2019 год из 3,4 млн действующих компаний, также показывают, что в среднем бюджет закупок составляет от 30 до 80% себестоимости продаж [50]. Опираясь на минимальную экономию бюджета закупок в 4% от 30%, минимальная экономия себестоимости продаж составит 1,2%, что означает увеличение чистой прибыли. Таким образом, окупаемость внедрения системы зависит от бюджета закупок компании.

Исходя из стоимости внедрения готовой системы, уже созданной на основе разработок диссертационного исследования, ежегодная абонентская плата за которую составляет 1 000 000 рублей, экономически целесообразно внедрение системы для компаний, бюджет закупок которых составляет от 1 000 000 рублей. В этом случае минимальная экономия бюджета закупок может составить 40 000 рублей, при этом будут иметь место описанные качественные эффекты, улучшающие процессы принятия решений в системе корпоративного управления, а срок внедрения может составить от 4 месяцев. Таким образом, обоснована эффективность внедрения готовой системы.

В случае если компания самостоятельно разрабатывает систему, требуются собственные инвестиции. В этом случае в качестве примера расчетов рассмотрены варианты разработки и внедрения системы на примере компании с оборотом 1000 млн рублей, чистой прибылью 90 млн рублей в год из расчета минимальной экономии бюджета закупок 4%. Результаты расчета

экономического эффекта полноценной разработки и внедрения системы поддержки принятия решений совета директоров с применением технологий искусственного интеллекта представлены в таблицах 12, 13 и на рисунке 9, а формулы расчетов отображены в приложении В.

Таблица 12 - Основные параметры разработки и внедрения системы с применением технологий искусственного интеллекта

Параметры проекта Значение

Период проекта 24 месяца

Простой срок окупаемости 12,2 месяцев

Дисконтированный срок окупаемости 12,8 месяцев

Среднемесячное значение чистого денежного потока проекта 568333 рублей

Ставка дисконтирования, % 8

NPV проекта 11 666 781 рублей

IRR проекта, % 9

Источник: составлено автором.

В случае разработки и внедрения предлагаемой системы на основе технологий искусственного интеллекта для контроля закупочной деятельности, дисконтированный срок окупаемости, иллюстрированный на рисунке 9, составит 12,8 месяцев с учетом минимально возможной оцениваемой экономии бюджета закупок в 4% и параметров, указанных в таблице 12.

Окупаемость проекта аналитической системы поддержки принятия решений для совета директоров по контролю закупок с применением технологий искусственного интеллекта

20 ООО ООО | 10 ООО ООО 0

- 10 ООО ООО

Точка окупаемости 12,8 месяцев

10 11 12 13 14 15 16 17 18 19 20 21 22 23 24

■Чистый денежный поток проекта, накопленным итогом Чистый денежный поток проекта

Источник: составлено автором.

Рисунок 9 - Графическое изображение окупаемости проекта аналитической системы поддержки принятия решений для совета директоров по контролю закупок с применением технологий искусственного интеллекта

Таблица 13 — Результаты расчета экономического эффекта разработки и внедрения системы поддержки принятия решений совета директоров с применением технологий искусственного интеллекта

Месяц Стоимость разработ кив руб. Текущие затраты на поддержание системы (заработная плата), руб. Цена за единицу аппаратных ресурсов, руб. Коэффициент загрузки аппаратных ресурсов, единицу Стоимость аппаратных ресурсов, руб. в месяц за единицу Итого текущие затраты проекта, руб. Объем закупок, руб. Ожидаемая экономия от использования системы, % суммы закупок Текущие доходы в руб. Чистая прибыль проекта, руб Чистый денежный поток проекта Чистый денежный поток проекта, накопленн ым итогом Чистый дисконта -рован -ный доход (ЧДД) ЧДД накопленным итогом Коэффициент дисконтирования, % = (1+ Ставка дисконт ирова-ния) в

степени периода

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

1 2000000 0 144 000 0,5 72000 72000 15000000 0 0 - 72000 - 2072000 - 2 072 000 -2057 852 - 2057852 101

2 2000000 0 144 000 0,5 72000 72000 20000000 0 0 - 72000 - 2072000 - 4 144 000 -2043 801 -4101653 101

3 2000000 0 144 000 0,5 72 000 72000 45000000 0 0 - 72000 - 2072000 - 6 216 000 -2029 846 -6131499 102

4 1000000 0 144 000 1 144 000 144000 46000000 0 0 - 144000 - 1144000 - 7 360 000 - 1113 073 - 7244573 103

5 1000000 0 144 000 1 144 000 144000 46000000 0 0 - 144000 - 144000 - 7 504 000 - 139 150 - 7383723 103

6 0 100 000 144 000 1 144 000 244000 46000000 2 920 000 676000 576000 - 6 92 8 000 552801 - 6830922 104

7 0 100 000 144 000 1 144 000 244000 46000000 2 920 000 676000 576000 - 6 352 000 549027 - 6281895 105

8 0 100 000 144 000 1 144 000 244000 46000000 4 1 840 000 1 596000 1496 000 - 4 856 000 1416 208 - 4865687 106

9 0 100 000 144 000 1 144 000 244000 46000000 4 1 840 000 1 596000 1 496000 - 3 360 000 1406 538 - 3459148 106

10 0 100 000 144 000 2 288 000 388000 46000000 4 1 840 000 1 452000 1 352000 - 2 008 000 1262 470 -2196678 107

11 0 100 000 144 000 3 432 000 532000 46000000 4 1 840 000 1 308000 1 208000 - 800 000 1120 304 - 1076374 108

12 0 100 000 144 000 4 576 000 676000 36000000 4 1 440 000 764000 664 000 611591 109

13 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 976 000 1017 238 552 455 109

Продолжение таблицы 13

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

14 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 2 088 000 1010 292 1562747 110

15 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 3 200 000 1003 394 2566141 111

16 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 4 312 000 996543 3562683 112

17 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 5 424 000 989738 4552422 112

18 0 100 000 144 000 2 288 000 388000 40000000 4 1 600 000 1 212000 1 112000 6 536 000 982980 5535402 113

19 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 7 720 000 1039 480 6574882 114

20 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 8 904 000 1032 382 7607264 115

21 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 10 088 000 1025 333 8632597 115

22 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 11 272 000 1018 332 9650929 116

23 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 12 456 000 1011 379 10662308 117

24 0 100 000 144 000 1,5 216 000 316000 40000000 4 1 600 000 1 284000 1 184000 13 640 000 1004 473 11666781 118

Итого 8000000 5400000 7300000 29 840 000 22540000 13640000

Примечания 1 Расчеты осуществлены по формулам, указанным в приложении В. 2 Для расчетов за срок проекта взяты 2 года (24 месяца), так как после 2 лет могут потребоваться инвестиции на модернизацию. 3 Приведена полная стоимость разработки исходя из средней стоимости затрат на работу подрядчика по подобным проектам, в соответствии со средними ценами, указанными на ЕИС закупок в 2020 году. 4 Цена за единицу аппаратных ресурсов включает в себя стоимость сервера в год. 5 Коэффициент загрузки приведен исходя из технически требуемой загруженности сервера для обеспечения работы системы. Коэффициент загрузки, равный 1,5 означает, что требуется 2 сервера, один из которых будет загружен на 100%, а второй - на 50%. 6 Объем закупок представлен из расчета объема закупок на примере конкретной компании.

Установлено, что в случае внедрения готового масштабируемого решения, уже созданного на основе предложенных в исследовании разработок, срок внедрения системы, учитывая опыт внедрения системы Боагё24 в АО «Владхлеб», может составить от 4 месяцев. Внедрение системы, как показали расчеты, экономически окупается для компаний, имеющих бюджет закупок от 1 000 000 рублей в год.

Потенциально резервы экономии бюджета могут быть значительно выше, особенно для крупных компаний, где массивы данных, необходимых для принятия решений, существенно больше, чем в средних и небольших компаниях.

Таким образом, определены положительные качественные и количественные эффекты внедрения предложенного алгоритма в систему корпоративного управления, влияющие как на всю систему корпоративного управления, так и на экономические показатели деятельности акционерного общества. Вместе с тем перед созданием и внедрением любой системы важно определить риски и назначить ответственных за потенциальные последствия применения технологий, поэтому далее рассматриваются вопросы рисков применения технологий искусственного интеллекта в системе корпоративного управления.

3.3 Риски применения технологий искусственного интеллекта в системе корпоративного управления

Применение технологий искусственного интеллекта в корпоративном управлении, как и любой деятельности человека, сопряжено с разного рода рисками, которые важно учитывать на этапах разработки, внедрения и применения технологий.

По данным исследования PWC [77], факторами, сдерживающими внедрение технологий искусственного интеллекта в деятельность компаний, по мнению директоров, «являются рост неопределенности за счет появления прорывных технологий, перспективы совершения серьезных ошибок и недостаток прозрачности» применения технологий искусственного интеллекта,

«неуверенность в способности контролировать искусственный интеллект, моральные дилеммы и риск потери доверия стейкхолдеров», а также «потенциальные разрушительные эффекты для общества и недостаток адекватного регулирования». Риски применения технологий искусственного интеллекта беспокоят не только практиков, но и исследователей, а также футурологов Н. Бострома, П. Доэрти, Р. Курцвейла, К. Ли, Ф. Меслейна, Дж. Уилсона.

Поэтому для успешного применения искусственного интеллекта в системе корпоративного управления с учетом рисков, выделяемых перечисленными авторами, на основе исследования Allianz global corporate & specialty [51] были выявлены и сгруппированы шесть областей рисков, связанных с внедрением технологий искусственного интеллекта в качестве системы поддержки принятия решений на основе технологий искусственного интеллекта в системе корпоративного управления.

На рисунке 10 представлены основные области рисков, связанные с этикой и безопасностью применения технологий, доступностью программного обеспечения (ПО) и проблемами монополизма, вопросами ответственности за принимаемые решения, подконтрольностью и прозрачностью для стейкхолдеров систем с применением технологий искусственного интеллекта, ответственностью за принимаемые решения, а также вопросами доверия системам и потенциального снижения разнообразия решений.

Безопасность

о

£ Этика

о

К

д- Доступность ПО и монополизм g

ю ^ 2

о Ответственность за решения о

® I I лпт/литпл ттт_илг-тх. ТТ гтЛ'ИЛОииЛГ'Т!. ^

~ ^

й Доверие и снижение разнообразия при принятии решений К

н

« 5

8- «

(Ц

8 « .2 ^ РР О

Источник: составлено автором. Рисунок 10 — Области рисков применения технологий искусственного интеллекта в

системе корпоративного управления [36]

Далее рассмотрены подробнее представленные на 10 рисунке основные области рисков [37, с. 270].

Риск 1 - безопасность применения технологий искусственного интеллекта. Несмотря на перспективы и возможности применения технологий искусственного интеллекта, многие ученые и практики, как отмечалось ранее, выражают опасения, связанные с возможными последствиями и угрозами безопасности в связи с внедрением искусственного интеллекта в деятельность человека, в том числе из-за стремительного развития технологий и трудностей в прогнозировании последствий применения ранее широко не применяемых технологий. В этой связи И. Маск призвал заниматься регулированием искусственного интеллекта до того, как начнется его массовое внедрение, «полагая, что искусственный интеллект - самый большой риск, с которым человечество сталкивается как цивилизация» [85]. Это в первую очередь связано с потенциалом технологии искусственного интеллекта перерасти в «сильный» искусственный интеллект, который способен нивелировать его потенциальные выгоды и представлять собой угрозу не только для самих компаний, но и для безопасности всего человечества. Например, такие компании, как «Майкрософт» и «Фейсбук» приостановили свои эксперименты в ряде проектов с искусственным интеллектом из-за недостаточно просчитанных рисков и, как следствие, непредвиденных обстоятельств. Эксперимент «Майскрософт» с ботом на основе искусственного интеллекта был заблокирован в социальной сети «Твиттер» в связи с тем, что, начиная с позитивных фраз, обучавшийся бот начал отвечать, применяя нацистские и расистские высказывания, а также начал употреблять нецензурную лексику [79]. Созданные для общения с людьми «Фэйсбуком» чат-боты в процессе общения друг с другом создали собственный язык, недоступный человеку [36]. Поэтому в связи с риском потери контроля над технологией искусственного интеллекта компании должны брать на себя новые обязательства по управлению рисками и закреплять ограничения и вопросы ответственности за действия системы на базе технологий искусственного

интеллекта во внутренних документах. Вопросы обеспечения кибербезопасности и защиты от взлома системы, цифровых атак, конфиденциальности персональных данных и коммерческой тайны должны стать неотъемлемой частью системы управления рисками компаний.

Риск 2 связан с этикой применения технологий искусственного интеллекта. Решение, предложенное системой с применением искусственного интеллекта, может быть математически оправданным, однако решение директоров должно учитывать корпоративные и личностные этические, ценностные, культурные, специфические особенности, принятые обычаи и иные неформализуемые особенности. Актуальность этической стороны применения искусственного интеллекта подчеркивает и В. В. Путин, предлагая профессиональному сообществу и компаниям сформировать свод «этических правил взаимодействия человека с искусственным интеллектом» [65].

Иллюстрацией вопроса этического применения технологий искусственного интеллекта в неоднозначных ситуациях является классическая проблема выбора, описанная в 1967 г. британским философом Ф. Футом, - «проблема вагонетки» [36], суть которой заключается в выборе между спасением человека, лежащего на рельсах, или пассажиров вагонетки, которая катится на человека. На сайте Массачусетского технологического института также обсуждался аналогичный этический вопрос и проводилось голосование «Машина морали» [36], целью которого было определение правил для технологий в нестандартных критических ситуациях. Дилемма заключается в вопросе о том, как следует программировать беспилотный транспорт на основе технологий искусственного интеллекта в случае, если его тормоза откажут на пешеходном переходе и предстоит сделать выбор между тем, чтобы врезаться во впереди идущих людей или врезаться в бетонное заграждение, поставив в опасность жизнь своего пассажира. В связи со сложностью выбора в некоторых ситуациях важно понимать, кто и как будет принимать решение, кто будет нести за него ответственность, и это также следует закреплять в документах компании перед внедрением технологии

в деятельность. С точки зрения применения технологий искусственного интеллекта в корпоративном управлении Ф. Меслейн предположил [134, а 11], что корпоративное право может позволять директорам делегировать права принятия решений технологиям искусственного интеллекта, хотя и с определенными ограничениями. Более того, закон может даже обязывать применять технологии искусственного интеллекта для проверки решений, принятых советом директоров. Основываясь на этом, Ф. Меслейн также поднимает обратный вопрос: могут ли директора требовать права делегировать право принятия решений алгоритмам и технологиям искусственного интеллекта, по крайней мере при определенных обстоятельствах? Например, в ситуации конфликта интересов или необходимости принимать решения на основе массива данных, физически не доступного для обработки человеческим мозгом в ограниченный период времени. В связи с появлением подобных вопросов важно на законодательном уровне учитывать вопросы вины и ответственности лиц, регулирующих настройку системы в компании, разработчиков программного обеспечения и директоров при принятии решений с применением искусственного интеллекта или при отказе от его применения.

Риск 3 связан с доступностью программного обеспечения (ПО) и монополизмом компаний, которые будут иметь системы с применением искусственного интеллекта. Риск связан с вопросом, будет ли система поддержки принятия решений с применением технологий искусственного интеллекта доступна всем компаниям во избежание монополизации рынка технологическими гигантами. На необходимость поддержки конкуренции между компаниями в связи с внедрением таких инноваций, как системы с применением искусственного интеллекта, обращено внимание российской стратегии развития искусственного интеллекта. Управление этими рисками важно как со стороны государства, так и со стороны компаний. Ещё в 1947 г. Й. Шумпетер определил инновации «как важнейшее измерение экономических изменений». «Он утверждал, что экономические изменения

вращаются вокруг инноваций, предпринимательской деятельности и рыночной власти и стремился доказать, что рыночная власть, основанная на инновациях, может обеспечить лучшие результаты, чем «невидимая рука рынка» и «ценовая конкуренция» [142]. Однако, как отмечает Э. Кэролл, «технологические инновации часто создают временные монополии, позволяя получать аномальные прибыли» [123]. В случае с применением технологий искусственного интеллекта в системе корпоративного управления компании, внедрившие предложенную систему поддержки принятия решений, будут обладать существенным преимуществом относительно других компаний за счет более качественной аналитики и лучшей проработанности решений. А процессы, в рамках которых одна из сторон сможет обладать более качественной информацией, чем другая, по мнению Дж. Стиглица, ведут к социальным перекосам и перетоку капиталов в руки сверхбогачей [47]. Отсутствие управления описываемым риском способно усилить общее социальное неравенство. Понимая это, на уровне государства ряд стран уже предпринимают попытки регулирования робототехники и искусственного интеллекта, что подтверждает необходимость работы с рисками и регламентации деятельности в данной области также и на уровне компаний. Например, в России рабочей группой «Нормативное регулирование цифровой среды» одобрена концепция правового регулирования искусственного интеллекта и робототехники [135], и авторы концепции ожидают, что на основе данного документа к 2024 году в России будут приняты нормативные акты для создания комфортной регуляторной среды для развития соответствующих технологий искусственного интеллекта и учета рисков применения данной технологии. В США и Евросоюзе также имеются документы, направленные на регламентирование деятельности, связанной с применением искусственного интеллекта, а в Китае разработан развернутый План развития технологий искусственного интеллекта нового поколения, в котором поставлены амбициозные цели к 2030 году с учетом правового регулирования технологий и рисков их применения.

Если рассмотреть возможности крупнейших корпораций, борющихся за развитие платформ на основе искусственного интеллекта: Google, Microsoft, IBM, Apple, «Яндекс», - то можно обратить внимание на их существенный отрыв от конкурентов именно за счет этих технологий, а в случае появления системы поддержки принятия решений уровня совета директоров могут образовываться еще более информационно вооруженные монополии [75].

Профессор Оксфордского университета Н. Бостром рассматривает гипотетическую «гонку вооружений» с применением искусственного интеллекта, в которой несколько команд конкурируют за право первыми создать «сильный» искусственный интеллект [13, с. 203]. В этом случае, с позиции теории игр, как предполагает Н. Бостром, в отсутствие согласия между соперниками (в данном случае - компаниями), которого не удалось достичь из-за различия позиций или невозможности контролировать соблюдение договора, гонка может стать смертельно опасной, поскольку каждая команда начнет сокращать вложения в безопасность в попытках усовершенствовать функциональные свойства системы. Таким образом, в соответствии с классической «дилеммой заключенного» в условиях конкурентных рынков все компании неизбежно придут к необходимости применения искусственного интеллекта, так как непрерывное усовершенствование технологий искусственного интеллекта станет единственной разумной стратегией выживания в конкурентной борьбе [13]. Поэтому в целях недопущения монополизации рынков важно на уровне регулирования государства и на уровне компаний оставлять доступ к технологиям всему профессиональному сообществу. Исходя из этого, о недопущении «действий, направленных на ограничение конкуренции» между компаниями, осуществляющими деятельность с применением технологий искусственного интеллекта, пишут в стратегиях и регулирующих документах всех государств, в том числе в российской стратегии развития искусственного интеллекта [8].

Риск 4 - ответственность за принимаемые с помощью технологий искусственного интеллекта решения. Проблема ответственности и правовых

рисков в случае применения искусственного интеллекта также имеет важное значение. Например, в своем интервью Г. Греф в 2019 году сообщал, что Сбербанк потерял миллиарды рублей из-за ошибок искусственного интеллекта [54]. А при применении технологии искусственного интеллекта советом директоров стоимость стратегически неверного решения может оказаться существенно выше, поэтому компании следует заранее устанавливать, на какую степень риска готова идти компания в связи с применением технологии. Еще один пример, иллюстрирующий важность управления риском, связанным с ответственностью за принимаемые с помощью технологий искусственного интеллекта решения, связан с компанией Tyndaris Investments, знаменитой тем, что к компании был подан иск в связи с работой искусственного интеллекта - это первый прецедент судебного разбирательства, связанного с потерей финансовых средств из-за действий искусственного интеллекта. Таким образом, важно внутри компании прийти к консенсусу, установив ответственных лиц за работу с технологией и принятые на основе ее рекомендаций решения. При этом необходимо учитывать, что разработчик системы, адаптирующий технологии под компанию, и лицо, обучающее систему, которые могут быть как внутренними сотрудниками, так и внешними подрядчиками, становятся важнейшими стейкхолдерами, роль и деятельность которых важно фиксировать во внутренних документах.

Риск 5 - подконтрольность и прозрачность применения технологий искусственного интеллекта. Применение технологий искусственного интеллекта на уровне совета директоров означает необходимость в полном контроле за технологиями, регулярном тщательном аудите системы, что подразумевает потребность в привлечении дополнительной экспертизы в таком аудите и выстраивания системы подотчетности. Кроме того, важно, чтобы члены совета директоров, акционеры, инвесторы и другие заинтересованные стороны понимали, как работают технологии в компании, чтобы этот процесс был

максимально прозрачен для стейкхолдеров. Все эти вопросы должны прорабатываться и также фиксироваться во внутренних документах компании.

Риск 6 - избыточное доверие и снижения разнообразия при принятии решений. При наличии аналитической системы поддержки принятия решений и контролирующего менеджмента директора способны к избыточному доверию, когда они полностью полагаются при принятии решений на рекомендации системы без критической оценки ее рекомендаций, учета необходимости калибровки интересов стейкхолдеров и иных факторов. Кроме того, системы на основе любых технологий, также как и человек, способны давать сбой, а также могут быть взломаны, поэтому важно учитывать риск избыточного доверия системе. Наряду с этим возникает риск снижения разнообразия мнений при принятии решений, поскольку решения будут полностью основаны на четкой машинной логике, а с заключением системы директорам может быть спорить достаточно трудно. Поэтому важно учитывать, что технологии искусственного интеллекта учатся на текущий момент на ограниченном массиве данных с ограниченными вводными, они не всегда способны учесть косвенно относящиеся к решению задачи «человеческие факторы», разовые события, на которые может обратить внимание человек. При этом, как отмечалось в исследовании ранее, искусственный интеллект в настоящее время не способен справляться с «черными лебедями» или создавать инновационные решения, поскольку не обучался на массивах данных с несуществующими событиями. В связи с этим предлагается рассматривать систему поддержки принятия решений совета директоров на основе технологий искусственного интеллекта как вспомогательную аналитическую систему, подобную автомобильному спутниковому навигатору, которым человек может пользоваться при выборе маршрута, но руководствоваться рекомендациями навигатора не обязан, и данная система создается для помощи в принятии решений, не снимая ответственности за принимаемые решения с совета директоров. Эти вопросы

также должны фиксироваться во внутренней политике применения технологий искусственного интеллекта компании.

С целью первичной оценки уровней вероятности реализации и потенциальных последствий реализации описанных рисков в компаниях в результате интервью с 34 членами советов директоров, являющимися экспертами в области информационных технологий, была сформирована карта рисков. Для этого директорам было предложено оценить по 3-балльной шкале уровень вероятности реализации риска, а также уровень последствий реализации каждой из групп рисков с точки зрения потенциальных убытков для их компании. С заданными респондентам вопросами и значением баллов оценки можно ознакомиться в приложении А. Матрица рисков применения технологий искусственного интеллекта в системе корпоративного управления, составленная методом экспертных оценок, представлена на рисунке 11.

а н о о я

н §

а.

а> а

л х

а>

а о

Уровень последствий

Примечания

1 Риск безопасности применения технологий искусственного интеллекта (в том числе кибербезопасности).

2 Риск неэтичного применения технологий искусственного интеллекта в системе корпоративного управления.

3 Риск низкой доступности ПО и монополизма.

4 Риск перекладывания ответственности за принимаемые решения.

5 Риск потери подконтрольности и прозрачности.

6 Риск чрезмерного доверия системе с применением технологий искусственного интеллекта.

Рисунок 11

Источник: составлено автором. — Матрица рисков применения технологий искусственного интеллекта в системе корпоративного управления для компаний

Как показала первичная оценка, из перечисленных групп рисков нет ни одной группы с низким уровнем вероятности возникновения рисков и с низким уровнем потенциальных последствий для компаний, а две из перечисленных групп рисков уже сейчас находятся в «красной зоне» с высокой степенью вероятности реализации и высоким уровнем негативных последствий. Кроме того, как отмечалось в исследовании, данные риски могут влиять не только на компании, но и на всё общество. Это свидетельствует о том, что тема рисков применения технологий искусственного интеллекта в системе корпоративного управления требует дальнейшей детализации и новых исследований для выработки направлений управления рисками в системе корпоративного управления, основой для которых может стать данное диссертационное исследование.

Стоит отметить, что помимо выявленных основных областей рисков могут иметь место специфические риски, характерные для отдельных компаний, отмеченные членами советов директоров в ходе проведенного интервью. Например, риск того, что менеджмент в связи с личной незаинтересованностью будет оказывать сопротивление внедрению системы с применением технологий искусственного интеллекта. Таким образом, перечисленные области рисков могут относиться ко всем компаниям, но не представляют собой исчерпывающий детальный перечень рисков. Поэтому при создании системы поддержки принятия решений совета директоров с применением технологий искусственного интеллекта компаниям заранее необходимо построить «такое исходное состояние для внедрения процесса, чтобы получить результат, который нужен человеку, или хотя бы заранее иметь для себя гарантии, что последствия будут отвечать условиям приемлемого исхода» [41, с. 235], учитывая все риски, относимые к конкретной компании.

Эту позицию разделяет профессор Оксфордского университета Н. Бостром [53], предлагая методы «контроля над возможностями предотвращения нежелательных конечных результатов действий» [41, с. 235-236]

технологий искусственного интеллекта, в том числе за счет ограничения их возможностей и иных способов управления рисками. Для наиболее ответственного отношения к управлению рисками применения технологий искусственного интеллекта предлагается ряд рекомендаций по внесению отдельных положений во внутренние документы компаний. Данные рекомендации предложены на основе сформулированных в первой главе принципов, описанных областей рисков, а также результатов анализа Рекомендаций Совета по искусственному интеллекту, Руководства по искусственному интеллекту и ответственному деловому поведению ОЭСР [102] и исследований Н. Бострома [13].

Предлагается внесение во внутренние документы следующих вопросов и положений [41, с. 1005]:

- принципы и порядок принятия решений с применением технологий искусственного интеллекта, включающие в себя этапы принятия решений, на которых может/должна применяться система с применением технологий искусственного интеллекта;

- описание системы с применением технологий искусственного интеллекта и ее ограничений доступным для ключевых стейкхолдеров языком;

- порядок верификации результатов, получаемых в ходе применения системы;

- перечень ответственных и формы ответственности за работу всей системы или сбоев на каждом этапе работы системы с применением технологий искусственного интеллекта;

- вопросы ответственности за принимаемые решения, основанные на рекомендации системы с применением технологий искусственного интеллекта;

- инструкция с действиями в ситуации, когда мнение человека и системы на основе технологий искусственного интеллекта разошлись. В таком случае, например, вопрос может выноситься на повторное

рассмотрение с учетом новой информации, однако совет директоров должен принимать на себя риски, связанные с решением, несоответствующим предложению системы на базе технологий искусственного интеллекта;

- инструкция с описанием ограничений системы, а также случаев, при которых решение должно приниматься только человеком без применения системы на основе технологий искусственного интеллекта;

- положение о том, что система управления рисками компании должна учитывать риски кибербезопасности и иные риски, связанные с применением технологий искусственного интеллекта в системе корпоративного управления. Учитывая это, рекомендуется разработка способов предиктивного управления рисками, установление владельцев каждого вида риска.

Вопросы применения технологий искусственного интеллекта в системе корпоративного управления с учетом вышеупомянутых положений должны быть отражены в положении о деятельности совета директоров, политике и положении об управлении рисками и в отдельном положении или регламенте о применении искусственного интеллекта в системе корпоративного управления.

Несмотря на большие перспективы применения технологии искусственного интеллекта, поскольку данные технологии обладают высокой скоростью развития и ранее в корпоративном управлении широко не применялись, при разработке и внедрении системы поддержки принятия решений совета директоров с применением искусственного интеллекта компании важно учитывать описанные и специфические области рисков. С учетом перечисленных областей рисков предлагается разрабатывать предиктивную систему управления рисками, предупреждающую возникновение нежелательных последствий, на которые обращают внимание исследователи и практики. Причем, несмотря на возможность создания правил, регламентов и ограничений для системы поддержки принятия решений совета директоров с применением технологий искусственного интеллекта, ответственными за решения должны оставаться люди.

Выводы по главе 3. В качестве одного из направлений практического применения технологий искусственного интеллекта в системе корпоративного управления была выбрана одна из задач совета директоров - контроль деятельности исполнительных органов в вопросах реализации закупочной политики. Анализ практики принятия решений о контроле закупочной деятельности советом директоров позволил оценить значимость контроля вопросов закупок в акционерных обществах, определить особенности этой деятельности и сформировать систему показателей оценки эффективности закупочной деятельности советом директоров с применением технологий искусственного интеллекта, описать ключевые качественные и количественные эффекты для всей системы корпоративного управления от применения технологий искусственного интеллекта в рамках предложенной системы показателей.

Было установлено, что «информационная асимметрия» и объемы данных, требуемые для анализа и принятия взвешенного решения в области закупок, зачастую несоизмеримы с временными и иными ресурсами, которыми обладают члены совета директоров в настоящий момент. При этом, одобряя план закупочной деятельности и отчет о закупках, совет директоров способен оказаться в ситуации одобрения заранее неэффективных и даже коррупционных закупок. В связи с этим для реализации предложенного в предыдущей главе алгоритма процесса принятия решений советом директоров на примере одной из задач совета директоров предложена система показателей эффективности закупочной деятельности с применением технологий искусственного интеллекта. Система верифицирована в ходе интервью с членами советов директоров и сделан вывод, что благодаря ее внедрению могут решаться проблемы предотвращения советом директоров заранее неэффективных закупок, снижаться степень «оппортунистического поведения менеджмента», искореняться коррупционные элементы в области закупок, сглаживаться негативные факторы, влияющие на принятие решений

советом директоров, обеспечивая фактическую независимость и проработанность решений совета директоров в вопросах закупок.

Среди эффектов, которые может обеспечивать система с применением технологий искусственного интеллекта на базе предложенного алгоритма, можно выделить качественные эффекты:

- уменьшение «информационной асимметрии», в которой находится совет директоров, увеличение степени прозрачности закупочной деятельности;

- обеспечение возможности независимого и аналитически обоснованного контроля закупочной деятельности советом директоров, избавление от «оппортунистического поведения менеджмента» и коррупционных элементов;

- обеспечение снижения влияния выявленных в интервью негативных «человеческих факторов» в процессе принятия решений советом директоров за счет предоставления аналитики в качестве опоры для принятия решений;

- повышение общей эффективности процесса взаимодействия совета директоров и менеджмента, обеспечение доверия, более качественная работа с поставщиками как одной из категорий стейкхолдеров компании.

Количественные эффекты от применения системы поддержки принятия решений с применением технологий искусственного интеллекта применительно к закупочной деятельности достигаются за счет следующих факторов:

- более точного определения начальной минимальной цены закупок, более точного планирования, расширения аналитики за счет определения не по запросу, а по факту других аналогичных закупок;

- обеспечения расширения и уточнения списка рассылки приглашений потенциальным поставщикам;

- повышения надежности закупок, минимизации повторных закупок за счет применения гибкой системы скоринга поставщиков.

Перечисленные факторы, по мнению директоров, способны обеспечить минимальную экономию бюджета закупок в 4%, а по мнению некоторых директоров, экономия бюджета закупок с учетом описанных качественных эффектов может составить до 15%.

В соответствии с проведенными аналитическими расчетами, проект эффективен и может окупиться в среднем в срок чуть больше 1 года при разработке собственной системы и за 4 месяца в случае внедрения готового решения Боагё24 на платформе «Битрикс24», уже разработанного на основе материалов диссертационного исследования. Система Боагё24 внедрена и апробирована в ООО «Топкомпетенс» и АО «Владхеб». Внедрение системы, как показали расчеты, экономически целесообразно для компаний, имеющих бюджет закупок от 1 000 000 рублей в год.

Анализ существующих исследований в области рисков, связанных с применением технологий искусственного интеллекта, а также мнений практикующих экспертов показал, что существует порядка шести основных областей рисков, связанных с этикой и безопасностью применения технологий искусственного интеллекта, доступностью программного обеспечения и проблемами монополизма, вопросами ответственности за принимаемые решения, подконтрольности и прозрачности для стейкхолдеров систем с применением технологий искусственного интеллекта, ответственности за принимаемые решения, а также с вопросами доверия системам и потенциального снижения разнообразия решений совета директоров. В данной главе подчеркивается, что компании с учетом описанных областей рисков должны разрабатывать систему управления рисками, включающую в себя риски, характерные для конкретной компании. А основные принципы и особенности применения технологий искусственного интеллекта, описанные в первой главе, должны прорабатываться и фиксироваться во внутренних документах компаний.

В результате проведенного диссертационного исследования были получены выводы, обобщения и практические разработки, соответствующие цели и поставленным задачам работы. Исследование позволило решить важную научную задачу - предложить новый способ повышения эффективности процесса принятия решений советом директоров в системе корпоративного управления с помощью применения технологий искусственного интеллекта.

Цель исследования - теоретическое и методическое обоснование применения технологий искусственного интеллекта в процессе принятия управленческих решений советом директоров в системе корпоративного управления - была достигнута.

В первой главе были изучены теоретико-методические основы принятия решений в системе корпоративного управления с применением технологий искусственного интеллекта, в частности, выявлены тенденции развития корпоративного управления, установлено, что в XXI веке усиливается роль и повышается ответственность совета директоров как стратегического органа управления в условиях ускоряющегося технологического развития. В ходе исследования на этом этапе было выявлено, что совет директоров, с учетом необходимости принятия решений на основе увеличивающихся массивов данных, должен перестраивать процесс принятия решений, сделав переход от принятия решений на основе экспертных знаний к решениям, основанным в том числе на качественной аналитике, чтобы справиться с нарастающей проблемой «информационной асимметрии» и не стать «слабым звеном» в процессах принятия решений в системе корпоративного управления.

Установлено, что технологиями, подходящими для эффективной работы с данными, на основе которых должны приниматься решения, в настоящее время являются технологии искусственного интеллекта. Благодаря анализу возможностей и определению преимуществ применения технологий

искусственного интеллекта, а также изучению вариантов применения данных технологий в сопоставимых с корпоративным управлением областях установлено, что применение искусственного интеллекта может быть целесообразно для повышения эффективности процесса принятия решений советом директоров. Благодаря анализу составляющих «агентской теории» корпоративного управления установлено, что функции технологий искусственного интеллекта способны помочь в решении таких классических проблем, как «информационная асимметрия», «оппортунистическое поведение менеджмента», «ограниченная рациональность», неполное доверие между советом директоров и менеджментом. Вместе с тем изучение «стейкхолдерской теории» позволило сделать вывод о том, что вопросы балансировки интересов стейкхоледров должны оставаться задачей человека, поэтому наиболее эффективным вариантом применения технологий искусственного интеллекта является симбиоз [93] технологии и человека. Изучение особенностей применения технологий искусственного интеллекта, принципов эффективного корпоративного управления и опасений ученых и практиков, касающихся применения данных технологий, позволило сформулировать основные адаптированные принципы применения технологий искусственного интеллекта в системе корпоративного управления.

Во второй главе в рамках проектов по оценке деятельности советов директоров были проведены глубинные интервью с членами советов директоров, проанализированы протоколы заседаний за 2019 г., благодаря которым выявлены четыре группы негативных факторов, оказывающих влияние на процесс принятия решений советом директоров, а именно: связанные с работой менеджмента и низким качеством подготавливаемых материалов; с недостатком времени и недобросовестным подходом к работе директоров; с квалификацией, опытом и персональными характеристиками директоров; с когнитивными искажениями в процессе принятия решений.

Установлено, что все рассмотренные проблемы и негативные факторы могут представлять собой риски для системы корпоративного управления.

Благодаря анализу результатов интервью были также оценены задачи совета директоров, для которых может быть снижено влияние выявленных негативных факторов за счет применения технологий искусственного интеллекта. Определено, что, несмотря на то что вопросы стратегии в настоящий момент полностью недоступны технологиям искусственного интеллекта, целесообразно применение технологий искусственного интеллекта для вопросов, связанных с анализом крупных сделок и сделок с заинтересованностью, контролем реализации исполнительными органами закупочной политики, вопросами аудита и управления рисками.

В завершение аналитической части с учетом описанных особенностей работы нейронных сетей предложен новый алгоритм процесса принятия решений советом директоров с применением технологий искусственного интеллекта в системе корпоративного управления, который отличается от применяемого в настоящее время алгоритма тем, что система с применением технологий искусственного интеллекта проводит параллельный анализ материалов, связанных с рассматриваемым вопросом, и позволяет принять решение не только на основе рекомендаций менеджмента и анализа данных членами совета директоров, но и на основе рекомендаций, сформированных благодаря анализу больших данных системой с применением искусственного интеллекта. Данный алгоритм способен повысить качество принимаемых решений совета директоров благодаря независимой аналитике, снизить степень «информационной асимметрии», повысить степень доверия между советом директоров и менеджментом.

В третьей главе описаны основные направления применения технологий искусственного интеллекта в системе корпоративного управления. Для практического применения технологий искусственного интеллекта была выбрана одна из задач совета директоров - контроль деятельности исполнительных органов в вопросах реализации закупочной политики. С учетом исследованных особенностей контроля закупок сформирована система показателей оценки эффективности закупочной деятельности

с применением технологий искусственного интеллекта для контроля советом директоров, применяемая вместе с алгоритмом процесса принятия решений.

В результате определения качественных эффектов применения разработанной системы установлено, что благодаря сформированной и верифицированной с директорами системе могут решаться проблемы предотвращения советом директоров заранее неэффективных закупок, влияния коррупционных элементов в данной сфере, обеспечиваться снижение влияния негативных человеческих факторов на процесс принятия решений советом директоров и осуществляться более качественная работа с поставщиками как одной из категорий стейкхолдеров компании.

Основанный на результатах интервью анализ количественных эффектов показал, что внедрение системы на основе предложенного алгоритма может принести компании экономию бюджета закупок от 4 до 15%. На основе этого рассчитано, что окупаемость разработки и внедрения системы на основе предложенного алгоритма на примере одной из компаний составит чуть больше 1 года, а в случае внедрения готового масштабируемого решения, уже созданного на основе предложенных в исследовании разработок, - от 4 месяцев. Внедрение системы, как показали расчеты, экономически окупаемо для компаний, обладающих бюджетом закупок от 1 000 000 рублей в год.

Вместе с тем, в работе учитывается, что при создании и внедрении систем с применением технологий искусственного интеллекта необходимо просчитывать риски, связанные с безопасностью, этикой, доступностью программного обеспечения, ответственностью за принимаемые решения, подконтрольностью и прозрачностью, доверием и снижением разнообразия при принятии решений. Делается вывод, что поскольку технологии искусственного интеллекта в корпоративном управлении ранее широко не применялись, компаниям важно заблаговременно разрабатывать систему управления рисками, регламентировать данную деятельность во внутренних документах и руководствоваться принципами, предложенными в первой главе исследования.

Прикладная значимость исследования заключается в том, что системы, основанные на предложенных разработках, могут применяться для поддержки принятия решений советом директоров для повышения эффективности процесса принятия решений в системе корпоративного управления. Созданную на основе предложенных разработок систему Боагё24 уже начали внедрять компании, имеющие доступ к «Битрикс24». Исходя из этого факта и учитывая направления «Национальной стратегии развития искусственного интеллекта до 2030 года» [8], можно заключить, что предложенные разработки являются актуальными, востребованными, а в случае адаптации разработок под иные задачи совета директоров, требующие принятия решений на основе анализа данных, способны стать существенным фактором конкурентоспособности компании.

В заключение стоит отметить, что благодаря тому, что в исследовании было расширено представление о возможностях повышения эффективности процесса принятия решений в системе корпоративного управления с помощью технологий искусственного интеллекта, были открыты новые возможности для развития теории и прикладных смежных исследований, связанных с корпоративным управлением. Учитывая это, дальнейшими направлениями исследований могут стать:

- управление рисками применения технологий искусственного интеллекта в системе корпоративного управления;

- адаптация предложенных разработок под решение иных задач совета директоров, не рассмотренных в рамках данного исследования;

- адаптация предложенных разработок под решение задач менеджмента как одного из ключевых участников системы корпоративного управления.

бессознательные социальные предубеждения: Когнитивные искажения, в результате которых имеются социальные стереотипы в отношении групп людей, которые находятся вне поля контроля человека.

групповая поляризация: Искажение, заключающееся в том, что в ходе группового обсуждения различающиеся мнения участников не сглаживаются, а формируются в позиции, полярно противоположные друг другу, исключая любые компромиссы.

игнорирование сигналов извне: Искажение, в результате которого лица, принимающие решения, склонны доверять более широко известной информации в ущерб малоизвестной.

иллюзия единогласия: Искажение, в результате которого невысказанная позиция принимается за согласие.

иллюзия контроля: Искажение, результатом которого является то что орган управления верит, что может контролировать или, как минимум, существенно влиять на результаты событий, на которые он фактически влиять не может.

иллюзия корреляции: Искажение, результатом которого является привычка видеть взаимосвязь в следующих событиях друг за другом события.

иллюзия прозрачности: Склонность человека к тому, чтобы переоценивать способность других к пониманию его истинных мотивов.

когнитивные искажения: Понятие когнитивной науки, которое означает наличие систематических отклонений

в поведении, восприятии и мышлении человека, причинами которых являются субъективные убеждения (предубеждения) и стереотипы, а также социальные, моральные и эмоциональные причины, сбои при обработке и анализе данных, вызванные физическими ограничениями или особенностями строения мозга человека.

контролеры мышления: Самоназначенные члены коллегиального органа, ограждающие группу от информации, которая противоречит общему мнению группы.

ловушка нарратива: Когнитивное искажение, отражающее способность достраивать ситуацию с целью объяснения происходящей событий.

ложный консенсус, или «Парадокс Абилина»: Искажение, в результате которого коллегиальный орган может принять решение, которое будет противоречить возможному выбору любого из членов коллегиального органа, из-за того что каждый индивидуум полагает, что его цели могут противоречить целям группы, поэтому не возражает.

предвзятость подтверждения: Искажение, в результате которого человек акцентирует внимание на данных, которые подтверждают точку зрения человека, и игнорирует данные, которые ей противоречат.

предпочтение нулевого риска: Склонность к выбору стратегии, при которой один из нескольких рисков исчезнет полностью, вместо выбора стратегии, при которой частично снизятся несколько рисков, даже если в этом случае общий риск станет ниже.

проблема усреднения: Склонность к принятию решений на основе усредненной информации, а не точной.

ретроспективные искажения: Искажения, связанные с тем, что информация пропускается сквозь призму нынешнего знания и ограниченного опыта, а не через факты.

сверхоптимизм: Завышенные ожидания от решения. туннельный эффект и избирательность внимания: Искажение, в результате которого человек обращает внимание только на аргументы, которые подтверждают правильность решения.

феноменом «группомыслия», конформность, конформизм: Стремление избежать разногласий, споров и конфликтов при принятии

решений, чтобы сохранить согласие в группе без выдвижения альтернативных вариантов.

феномен Стоунера о склонности к рисковым решениям группы:

Искажение, согласно которому группа чаще склонна принимать более рискованные решения, чем ее члены приняли бы по отдельности.

эгоцентризм в решениях: Тенденция принимать решения на основе собственных выгод и интересов без внимания к возможным последствиям.

эффект поляризации риска: Искажение, в результате которого происходит ситуация, при которой мнение коллегиального органа в результате обсуждения сдвигается в сторону одного из полюсов - крайнего риска или крайней осторожности.

эффект Даннинга-Крюгера: Искажение, согласно которому человек, имеющий низкий уровень квалификации, принимает неудачные решения и при этом неспособен осознавать свои ошибки из-за низкого уровня квалификации.

эффект повального увлечения: Искажение, в результате которого происходит тенденция делать или верить во что-либо, потому что другие члены коллегиального органа делают или верят в это.

якорение на первой полученной информации: Искажение, в результате которого человек избыточно доверяет первой полученной информации при принятии решений.

136

Список литературы

Нормативные правовые акты

1. Информационное письмо Банка России от 28.02.2019 № ИН-06-28/18 «О руководстве для членов совета директоров (наблюдательного совета) финансовой организации». - Справочно-правовая система «Консультант-Плюс». - Текст : электронный. - URL: http://www.consultant.ru/document/cons_doc_LAW_319434/0981628529d4c5ed79dd3 fb9d4389955d5581540 (дата обращения: 10.08.2019).

2. Кодекс корпоративного управления. Письмо Банка России от 10.04.2014 № 06-52/2463 «О Кодексе корпоративного управления» // Вестник Банка России. - 2014. - № 40.

3. Перечень актуальных директив Правительства Российской Федерации и Росимущества. - Официальный сайт Росимущества. - URL: https://www.rosim.ru/activities/corp (дата обращения: 10.01.2020). - Текст : электронный.

4. Послание Президента Федеральному Собранию 15 января 2020 г.

- Официальный сайт Президента РФ. - URL:

- http://kremlin.ru/events/president/news/62582 (дата обращения: 16.01.2020).

- Текст : электронный.

5. Распоряжение Правительства РФ от 13 февраля 2017 г. № 255-р «О предоставлении субсидий из федерального бюджета на реализацию проектов в целях реализации планов мероприятий («дорожных карт») Национальной технологической инициативы». - Справочно-правовая система «Гарант». - Текст : электронный. - URL: https://www.garant.ru/products/ipo/prime/doc/71510912/ (дата обращения: 11.08.2019).

6. Российская Федерация. Законы. Федеральный закон «Об акционерных обществах» от 26.12.1995 № 208-ФЗ (редакция от 31.07.2020).

- Справочно-правовая система «Консультант-Плюс». - Текст : электронный.

- URL: http://www.consultant.ru/document/cons_doc_LAW_8743/ (дата обращения: 10.08.2020).

7. Российская Федерация. Законы. Федеральный закон «О внесении изменений в главу 4 части первой Гражданского кодекса Российской Федерации и о признании утратившими силу отдельных положений законодательных актов Российской Федерации» от 05.05.2014 № 99-ФЗ. - Справочно-правовая система «Консультант-Плюс». - Текст : электронный. - URL: http://www.consultant.ru/document/cons_doc_LAW_162608/ (дата обращения: 10.08.2020).

8. Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации».

- Справочно-правовая система «Гарант». - Текст : электронный. - URL: https://www.garant.ru/products/ipo/prime/doc/72738946/ (дата обращения: 11.08.2019).

Книги

9. Аброськин, ДА. Стейкхолдер-менеджмент в компаниях стратегических отраслей экономики (на примере нефтегазовых компаний РФ) / Д.А. Аброськин, Е.В. Волостных // Актуальные вопросы экономических наук. - 2016. - № 51. - С. 211-217. - ISSN 2311-4320.

10. Алферов, А.В. Механизация и автоматизация управленческого труда / А.В. Алферов; под общей редакцией В. Г. Шорина. - Москва : Знание, 1976.

- 256 с. - ISBN 5-256-00294-5.

11. Батаева, Б. Формирование компетенции менеджеров действовать в условиях неопределенности / Б. Батаева // Проблемы теории и практики управления. - 2017. - № 11. - С. 44-49. - ISBN 0234-4505.

12. Беляева, И.Ю. Тенденции развития корпоративного управления в цифровой эпохе / И.Ю. Беляева, Х.П. Харчилава, М.И. Никишова // Управление бизнесом в цифровой экономике. - 2019. - С. 375-377. - ISBN 978-5-288-05860-8.

13. Бостром, Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Н. Бостром. - Москва : Манн, Иванов и Фербер, 2016. - 493 с.

- ISBN 978-5-00057-810-0.

14. Вербицкий, В. Из идеального реальному. Что действительно нужно компаниям для своей практики из corporate governance best practices /

B. Вербицкий. - Москва : Альпина Паблишер, 2015. - 216 с.

- ISBN 978-5-907274-82-2.

15. Виленский, П. Л. Оценка эффективности инвестиционных проектов: Теория и практика: учебное пособие / П.Л. Виленский, В.Н. Лившиц,

C.А. Смоляк. - Москва : ПолиПринтСервис, 2015. - 1300 с.

- ISBN 978-5-904466-17-6.

16. Димитри, Н. Руководство по закупкам : учебное пособие / Н. Димитри, Г. Пига, Дж. Спаньоло. - Москва : Издательский дом Высшей школы экономики, 2013. - 695 с. - ISBN 978-5-7598-1000-1.

17. Доэрти, П. Человек+машина. Новые принципы искусственного интеллекта / П. Доэрти, Дж. Уилсон. - Москва : Манн Иванов и Фербер, 2019.

- 304 с. - ISBN 978-5-00146-159-3.

18. Дудляк, Ю.И. Эволюция института совета директоров в российских компаниях: от формальной роли к реальной / Ю.И. Дудляк // Корпоративные финансы. - 2012. - № 1. - С. 24-32. - ISSN 2073-0438.

19. Еляков, А.Д. Информационная перегрузка людей / А.Д. Еляков // Социологические исследования. - 2005. - № 5. - С. 114-121.

- ISSN 0132-1625.

20. Исаев, Д.В. Корпоративное управление и стратегический менеджмент: информационный аспект: монография / Д.В. Исаев. - Москва : Издательский дом ГУ-ВШЭ, 2010. - 219 с. - 1000 экз.

- ISBN 978-5-7598-0697-4.

21. Ито, Д. Сдвиг: как выжить в стремительном будущем / Д. Ито, Д. Хоуи.

- Москва : Манн, Иванов и Фербер, 2018. - 272 с. - ISBN 978-5-00100-970-2.

22. Канеман, Д. Думай медленно... решай быстро / Д. Канеман.

- Москва : АСТ, 2014. - 598 с. - ISBN 978-5-17-080053-7.

23. Карапетян Д. Корпоративное управление: основные понятия и результаты исследовательской практики / Д. Карапетян, М. Грачева // Управление компанией. - 2004. - № 1. - С. 42-49. - ISBN отсутствует.

24. Кузнецов, М.Е. Корпоративное управление в России в 2015-2019 годах: есть ли реальный прогресс? / М.Е. Кузнецов, М.И. Никишова // Национальный доклад по корпоративному управлению НСКУ. - 2019.

- Выпуск XI. - 288 с. - ISBN 978-5-903946-03-7.

25. Кузнецов, М.Е. Оценка совета директоров: компас должен быть исправен! / М.Е. Кузнецов, М.И. Никишова // Акционерное общество: вопросы корпоративного управления. - 2019. - № 10 (185). - С. 25-33. - ISSN 1726-9059.

26. Курицына, Е.И. Обзор практики корпоративного управления в ПАО за 2016 год / Е.И. Курицына // Круглый стол ОЭСР Россия по корпоративному управлению. - 2017. - 10 с. - ISBN отсутствует.

27. Лебедев, А.Н. О применении искусственных нейронных сетей к прогнозированию закупок на торговом предприятии / А.Н. Лебедев, В.С. Тынченко // Решетневские чтения. - 2013. - С. 148-150.

- ISBN отсутствует.

28. Лебланк, Р. Совет директоров - взгляд изнутри. Принципы формирования, управление, анализ эффективности / Р. Лебланк, Д. Гиллис.

- Москва : Альпина Бизнес Букс, 2006. - 267 с. - ISBN 5-9614-0428-5.

29. Ли, К.Ф. Сверхдержавы искусственного интеллекта: Китай, Кремниевая долина и новый мировой порядок / К.Ф. Ли. - Москва : Манн, Иванов и Фербер, 2019. - 350 с. - ISBN 978-5-00146-163-0.

30. Либман, А.В. Теоретические аспекты агентской проблемы в корпорации / А.В. Либман // Вестник Санкт-Петербургского государственного университета. Менеджмент. - 2005. - № 1. - С. 123-139. - ISSN 1605-7953.

31. Миловидов, В.Д. Корпоративное управление 2.0: эволюция системы корпоративных отношений в информационном обществе / В.Д. Миловидов // Проблемы национальной стратегии. - 2017. - № 4 (43). - С. 171-189.

- ISSN 2079-3359.

32. Мироненко, Л. А. Эмпирическая социология: учебное пособие / Л. А. Мироненко. - Комсомольск-на-Амуре : ФГБОУ ВПО «КнАГТУ», 2013.

- 181 с. - IBSN 978-5-93190-328-6.

33. Молотников, А.Е. Четвертая промышленная революция и современное осмысление корпоративной формы ведения бизнеса / А.Е. Молотников // Предпринимательское право. - 2017. - № 2. - С. 3-16.

- ISSN 1999-4788.

34. Московичи, С. Век толп. Исторический трактат по психологии масс / С. Московичи. - Москва : Академический проект, 2011. - 396 с.

- IBSN 978-5-8291-1299-8.

35. Никишова, М. И. Внедрение нейросейтей в деятельность наблюдательных советов на примере контроля закупок / М.И. Никишова // Экономика и предпринимательство. - 2020. - № 9 (122). - C. 1376-1379.

- ISSN 1999-2300.

36. Никишова, М.И. Обзор рисков применения искусственного интеллекта в управлении / М.И. Никишова // Шаг в будущее: искусственный интеллект и цифровая экономика. Революция в управлении: новая цифровая экономика или новый мир машин : материалы II Международного научного форума. Выпуск 4 ; под общей редакцией П.В. Терелянского. - Москва : Издательский дом Государственный университет управления, 2018. - С. 267-272. - ISBN 978-5-215-03131-5.4.

37. Никишова, М. И. Искажения в процессе принятия решений совета директоров / М.И. Никишова // Современная наука: актуальные проблемы теории и практики. Серия: экономика и право. - 2019. - № 7.

- С. 48-52. - ISSN 2223-2974.

38. Никишова, М.И. Особенности деятельности совета директоров в цифровой экономике / М. И. Никишова, О. С. Сучкова // Научные исследования и разработки. Экономика фирмы. - 2020. - № 1. Том 9. - С. 38-44.

- ISSN 2587-6287. - Текст : электронный. - DOI 10.12737/2306-627X-

2020-38-44. - URL: https://naukaru.ru/ru/nauka/article/37026/view (дата обращения: 12.09.2020).

39. Никишова, М.И. Перспективы применения технологий искусственного интеллекта в корпоративном управлении в условиях перехода к цифровой экономике / М.И. Никишова // Управленческие науки в современном мире: сборник докладов научной конференции. - 2018. - № 1. Том 1. - С. 233-236. - ISSN 2412-2289.

40. Никишова, М.И. Развитие компетенций в IT Governance в совете директоров в условиях цифровой экономики / М.И. Никишова, О.С. Сучкова // Вестник университета. - 2018. - № 12/2018. - С. 43-48. - ISSN 1816-4277.

41. Никишова, М.И. Регулирование технологий искусственного интеллекта в корпоративном управлении / М.И. Никишова // Экономика и предпринимательство. - 2020. - № 2 (115). - C. 1003-1006. - ISSN 1999-2300.

42. Никишова, М.И. Роль совета директоров в цифровой трансформации бизнеса / М.И. Никишова // Экономика и управление.

- 2018. - № 10 (156). - С. 80-87. - ISSN 1998-1627.

43. Николенко, C. Глубокое обучение. Погружение в мир нейронных сетей / С. Николенко. - Санкт-Петербург : Питер, 2018. - 123 с.

- ISBN 978-5-496-02536-2.

44. Романова, О. А. Повышение адаптивных свойств российских корпораций / О. А. Романова, А.В. Новоселов ; под редакцией И.Н. Ткаченко // Новые тенденции в развитии российской модели корпоративного управления: посткризисные уроки и выводы. - 2011. - С. 240-255. - ISBN отсутствует.

45. Смит, А. Исследование о природе и причинах богатства народов / А. Смит; перевод с английского П. Клюкина. - Москва : Эксмо, 2016.

- 1056 c. - ISBN 978-5-699-84994-9.

46. Степанов, Д. Ответственность директора перед корпорацией за причиненные ей убытки в судебной практике / Д. Степанов, Ю. Михальчук.

- Москва : Статут, 2018. - 207 с. - ISBN 978-5-8354-1475-8.

47. Стиглиц, Дж. Информация и смена парадигмы в экономической