CC BY
69Роль искусственного интеллекта в управлении рисками организации
Михайлов Антон Александрович,
аспирант экономического факультета Московского университета имени А.С. Грибоедова E-mail: antonmickhailov@gmail.com
В современном мире бизнес все чаще внедряет системы искусственного интеллекта для улучшения собственных бизнес-процессов, в том числе в управлении рисками, их предупреждению и минимизации ущерба в том случае, если риск не удалось нивелировать.
Опираясь на реальные кейсы российских и зарубежных компаний, в статье исследуется прикладное применение искусственного интеллекта в области управления рисками организаций: перечисляются все основные группы рисков, с которыми сталкиваются организации, описываются актуальные проблемы в использовании искусственного интеллекта в управлении рисками, в том числе, в правовом поле, и перспективы их решения, оценивается возможность управления рисками организации без участия человека, а также рассматриваются преимущества синергии человека и машины в области управления рисками организации.
Цель данной статьи - на основании полученных практических данных и теоретических знаний представить всесторонний взгляд на интеграцию искусственного интеллекта в управлении рисками организаций и предугадать дальнейшее развитие данного направления.
Ключевые слова: Искусственный интеллект, риск, риск-менеджмент, организация, бизнес, менеджмент
Введение
Риск-менеджмент играет одну из решающих ролей в успехе компаний в различных отраслях. Поскольку компании функционируют в сложных и динамичных средах, эффективное выявление, оценка и минимизация рисков становятся важными задачами, на которые топ-менеджмент готов тратить значительную часть бюджета. В последние годы искусственный интеллект (ИИ) превратился в технологию, способную совершить революцию в управления рисками организаций. На рынке, в том числе отечественном, уже сейчас существуют компании, которые успешно применяют технологии ИИ в управлении рисками. ИИ, включающий в себя передовые алгоритмы и методы машинного обучения, дает организациям новые возможности для расширения их потенциала по управлению рисками и принятию решений, основанных на больших данных.
Используя аналитические возможности искусственного интеллекта и способность обрабатывать огромные объемы данных, организации могут получить более глубокое представление о потенциальных рисках, принимать более обоснованные решения и разрабатывать упреждающие стратегии для эффективного снижения рисков. Однако крайне важно признать, что ИИ не является панацеей и должен использоваться ответственно и этично. Достижение баланса между автоматизацией, управляемой ИИ, и человеческим разумом имеет важное значение для обеспечения прозрачности, подотчетности и сохранения этических принципов в практике управления рисками.
Цель этой статьи - исследовать роль ИИ в управлении рисками организаций. В статье рассмотрены конкретные способы, с помощью которых ИИ может внести свой вклад в управлении рисками, включая идентификацию рисков, оценку, выявление мошенничества, управление кредитными рисками и кибербезопасность. Кроме того, в статье перечислены проблемы и соображения, связанные с внедрением ИИ в управлении рисками, и подчеркнута необходимость совместного подхода между ИИ и человеком. В статье представлены реальные кейсы отечественных компаний и выделены лучшие практики по внедрению ИИ в управлении рисками и разобраны будущие направления исследований и разработок.
Основные риски, с которыми сталкиваются компании
сз о со от m Р от
Прежде чем начинать говорить о роли ИИ в управлении рисками, важно и нужно иметь понимание о том, с какими типами рисков сталкиваются орга-
от А
=Е
низации. Ниже приведен список таких рисков, начиная от наиболее распространенных и заканчивая
наименее распространенными [7]:
• Кибербезопасность и утечка данных: риск ки-бератак, утечек данных и несанкционированного доступа к конфиденциальной информации является серьезной проблемой для компаний всех размеров и отраслей промышленности.
• Экономические и рыночные риски: компании сталкиваются с рисками, связанными с экономическими колебаниями, волатильностью рынка, изменениями в поведении потребителей и сбоями в отрасли, которые могут повлиять на их финансовые показатели.
• Риски регулирования и комплаенса: соблюдение законов, нормативных актов и отраслевых стандартов имеет решающее значение. Компании должны ориентироваться в тонкостях нормативно-правовой базы, чтобы избежать штрафов, судебных исков или ущерба репутации.
• Репутационные риски: ущерб репутации компании может быть нанесен негативной рекламой, недовольством клиентов, негативной реакцией в социальных сетях или неэтичными действиями сотрудников. Это может привести к снижению доверия, потере клиентов и снижению рыночной стоимости.
• Операционные риски: к ним относятся риски, связанные с повседневными операциями, такие как отказы оборудования, сбои в цепочке поставок, человеческие ошибки или неэффективность процессов, которые могут повлиять на производительность, качество и удовлетворенность клиентов.
• Финансовые риски: компании сталкиваются с рисками, связанными с управлением финансами, включая проблемы с денежными потоками, проблемы с ликвидностью, кредитные риски и проблемы управления дебиторской задолженностью.
• Стратегические риски: Эти риски связаны с принятием стратегических решений, включая выход на новые рынки, слияния и поглощения, инновации и изменения в бизнес-моделях. Неверно принятое стратегическое решение может привести к невыгодному положению в конкурентной борьбе или неспособности адаптироваться к изменениям на рынке.
• Юридические риски и судебные разбирательства: Компании могут столкнуться с юридическими проблемами, такими как судебные иски, споры об интеллектуальной собственности, нарушения контрактов или расследования регулирующих органов, которые могут привести к финансовым потерям и ущербу репутации компании.
• Кадровые риски: Эти риски охватывают вопросы, связанные с управлением персоналом, такие как привлечение и удержание талантов, конфликты между сотрудниками, соблюдение трудового законодательства, обучение и развитие, а также планирование преемственности.
• Риски для окружающей среды и устойчивого развития: Компании все чаще сталкиваются с рисками, связанными с экологической устойчивостью, изменением климата и нехваткой ресурсов. Эти риски могут включать изменения в законодательстве, ущерб репутации и сбои в работе.
Важно отметить, что распространенность и значимость этих рисков могут варьироваться в зависимости от отрасли, местоположения и конкретных обстоятельств каждой компании. Эффективные стратегии управления рисками предполагают выявление, оценку и смягчение этих рисков посредством упреждающего планирования, внедрения мер контроля и мониторинга потенциальных угроз и уязвимостей.
Использование ИИ в управлении рисками организации решения для обеспечения безопасности и защищать своих клиентов от возникающих рисков [13].
По данным исследования Capgemini Reinventing Cybersecurity with Artificial Intelligence 2019, 69% руководителей считают, что ИИ в сфере кибербез-опасности обеспечивает более высокую точность обнаружения нарушений [8].
Одним из примеров российской компании, использующей ИИ для управления экономическими и рыночными рисками, является Сбербанк, крупнейший банк в России. Компания использует алгоритмы ИИ и методы машинного обучения для анализа огромных объемов финансовых данных, рыночных тенденций и экономических показателей [3]. Обрабатывая и интерпретируя эти данные, системы искусственного интеллект банка могут выявлять закономерности, корреляции и аномалии, которые могут указывать на потенциальные экономические или рыночные риски. Это позволяет Сбербанку принимать решения, основанные на данных, и разрабатывать упреждающие стратегии по снижению рисков [14].
В частности, системы управления рисками Сбербанка на базе ИИ могут [5]:
• Прогнозировать волатильности рынка
• Оптимизировать инвестиционный портфель
• Моделировать и анализировать различные экономические сценарии с учетом различных параметров и факторов
• Оценивать кредитные риски путем анализа данных о заемщиках, финансовой отчетности и макроэкономических факторов.
В работе Artificial Intelligent Credit Risk Prediction: An Empirical Study of Analytical Artificial Intelligence Tools for Credit Risk Prediction in a Digital Era были описаны результаты трех экспериментов, которые сравнивали возможности традиционных моделей оценивания кредитных рисков в потребительском кредитовании с моделями, в ядре которых использовался ИИ. Во всех экспериментах модели с ИИ показали лучшие результаты, чем традиционные модели [1].
Альфа-Банк, один из крупнейших частных банков России, внедрил ИИ в свои процессы управ-
ления комплаенс-рисками. Банк использует алгоритмы ИИ для мониторинга и анализа транзакций клиентов, выявления закономерностей и выявления потенциальных подозрительных действий, которые могут указывать на несоблюдение правил борьбы с отмыванием денег (AML). Используя ИИ, Альфа-Банк стремится расширить свои возможности по предотвращению финансовых преступлений, ненадлежащему соблюдению нормативных требований и защите конфиденциальности банковских операций [11 ].
Модели на базе ИИ позволят значительно повысить уровень безопасности, снизить издержки и более рационально использовать имеющиеся на предприятии трудовые ресурсы. Системы управления на базе ИИ способствует снижению правовых рисков, издержек на выплату штрафов путем комплексной проверки и выделения с последующим отсеиванием «токсичных» связей и контрагентов [4].
Во всех перечисленных ранее областях управления рисками ИИ может расширить возможности человека, обеспечить эффективный анализ данных и предложить возможности прогнозирования. Однако важно отметить, что ИИ не заменяет человеческий опыт и суждения. Человеческий надзор и соблюдение законодательства необходимы для обеспечения этичного и ответственного использования технологий ИИ при управлении этими рисками.
Актуальные проблемы использования ИИ в управлении рисками организации
На сегодняшний день есть ряд проблем, с которыми сталкиваются организации, при использовании ИИ в области управления рисками. Ниже перечислены самые значимые из них [10]:
• Отсутствие объяснимости: одной из основных проблем, связанных с ИИ в управлении рисками, является отсутствие объяснимости или интерпретируемости моделей ИИ. Алгоритмы глубокого обучения и сложные системы искусственного интеллекта могут принимать решения, которые трудно понять и объяснить человеческими терминами. Такое отсутствие прозрачности может создать проблемы при обосновании решений заинтересованным сторонам, регулирующим органам или клиентам.
• Высокая зависимость от качества исходных данных: модели ИИ в значительной степени полагаются на данные для обучения и принятия решений. Если данные, используемые для обучения моделей ИИ, являются неполными или некачественными, это может привести к неточным оценкам рисков.
• Потенциальная чрезмерная зависимость от ИИ: организации могут столкнуться с риском чрезмерной зависимости от систем ИИ без достаточного контроля со стороны человека. Опора исключительно на ИИ при принятии решений по управлению рисками может привести к не-
достатку критического мышления, интуиции и знаний о конкретном контексте, которым могут владеть люди - эксперты. Человеческое суждение имеет решающее значение при интерпретации результатов алгоритмов ИИ и принятии обоснованных решений по управлению рисками.
• Этические и юридические соображения: системы ИИ должны соответствовать этическим и правовым стандартам в области управления рисками. Обеспечение соблюдения правил конфиденциальности, защите данных и недопущению дискриминационной практики являются важнейшими соображениями. Прозрачность, справедливость и подотчетность в алгоритмах ИИ и процессах принятия решений необходимы для укрепления доверия и предотвращения потенциальных юридических или репутационных рисков. Общий регламент по защите данных (GDPR) в Европе и аналогичные нормативные акты по всему миру подчеркивают важность этических и юридических соображений при внедрении ИИ [9].
Решение этих проблем требует постоянных исследований, разработок и сотрудничества между экспертами в области ИИ, специалистами по управлению рисками и регулирующими органами. Организации должны уделять приоритетное внимание ответственным практикам ИИ, инвестировать в качество и разнообразие данных и внедрять надежные системы управления, чтобы обеспечить эффективное и этичное использование ИИ в управлении рисками.
Способен ли ИИ на сегодняшний день управлять рисками организации без участия человека? Вопрос о том, когда ИИ сможет управлять рисками организации без участия человека, является спекулятивным и зависит от различных факторов. Несмотря на то, что искусственный интеллект добился значительных успехов в управлении рисками, в обозримом будущем он вряд ли полностью заменит участие человека. Вот несколько соображений в поддержку данного тезиса:
• Сложность управления рисками включает в себя не только анализ данных, но и понимание сложной динамики бизнеса, нормативно-правовой базы, этических соображений и принятия стратегических решений. Человеческий опыт и суждения в настоящее время необходимы для эффективного решения этих сложных задач.
• Этическая и юридическая ответственность: процессы принятия решений, связанных с управлением рисками, часто имеют этические и юридические последствия. Обеспечение подотчетности, справедливости и соблюдения нормативных актов требуют человеческого надзора.
• Непредвиденные риски и знание контекста: риски могут возникать в результате непредвиденных обстоятельств или контекстуальных факторов, которые могут быть не учтены только историческими данными. Участие человека имеет
сз о со от m Р от
от А
=Е
решающее значение для интерпретации таких ситуаций и реагирования на них, применения контекстуальных знаний и вынесения обоснованных суждений. • Доверие и уверенность участников: привлечение экспертов к управлению рисками обеспечивает определенный уровень доверия для заинтересованных сторон, включая клиентов, инвесторов и регулирующие органы. Человеческий надзор помогает обеспечить прозрачность, подотчетность и способность объяснять принимаемые решения.
В то время как ИИ может значительно улучшить процессы управления рисками, анализируя огромные объемы данных, выявляя закономерности и предоставляя информацию, сотрудничество человека и ИИ, вероятно, сохранится. Организации будут продолжать полагаться на интеграцию инструментов и алгоритмов ИИ с человеческим опытом для принятия обоснованных решений, снижения рисков и поддержания доверия заинтересованных сторон.
Сроки потенциального управления рисками с помощью ИИ без участия человека неопределенны и зависят от будущих достижений в области технологий ИИ, нормативно-правовой базы, этических соображений и общественного признания. Это потребует тщательного рассмотрения рисков и выгод, связанных с повышением автономности ИИ, и создания соответствующих гарантий и механизмов управления.
Вывод
Подводя итоги, основной вывод заключается в том, что, хотя искусственный интеллект имеет большие перспективы в управлении рисками, он вряд ли полностью заменит участие человека. ИИ может значительно улучшить процессы управления рисками, анализируя огромные объемы данных, обеспечивая мониторинг в режиме реального времени, прогнозную информацию и поддержку принятия решений, что может помочь организациям более эффективно выявлять, оценивать и снижать риски.
Однако существует ряд проблем, которые необходимо учитывать. К ним относятся: отсутствие объяснимости в моделях ИИ; проблемы с качеством данных; потребность в человеческом опыте и знаниях контекста; этические и юридические соображения; проблема поддержания доверия заинтересованных сторон.
Успешное внедрение ИИ в управление рисками требует совместного подхода, сочетающего сильные стороны ИИ с человеческим суждением, надзором и этическими нормами. Организации должны уделять приоритетное внимание прозрачности, оь подотчетности и ответственным практикам ИИ. По-~ стоянные исследования, разработки и сотрудниче-сэ ство между экспертами в области ИИ, специалист стами по управлению рисками и регулирующими ^ органами необходимы для решения этих проблем
и обеспечения эффективного и этичного использования ИИ в управлении рисками.
Литература
1. Thiel D., Fred van Raaij W. Artificial Intelligent Credit Risk Prediction: An Empirical Study of Analytical Artificial Intelligence Tools for Credit Risk Prediction in a Digital Era. Journal of Accounting and Finance Vol. 19(8), 2019
2. Апатова Н.В., Королев О.Л. Искусственный интеллект в управлении рисками виртуального предприятия. Стратегическое управление развитием информационной безопасности социально-экономических систем на основе умных технологий. Монография. Симферополь, 2022
3. Семеко Г.В. Искусственный интеллект в банковском секторе: возможности и проблемы // Социальные новации и социальные науки. -Москва: ИНИОН РАН, 2021. - № 2. - С. 81-97.
4. Соколов Н.А., Славянов А.С., Фешина С.С. Модели искусственного интеллекта в системе безопасности интеллектуального потенциала организации. Международный научно-исследовательский журнал № 6 (108) Часть 5, 2021
5. Шермухамедов Б.А. Системы искусственного интеллекта в банковской сфере. Текст научной статьи по специальности «Компьютерные и информационные науки», 2021
6. Baquero J., Burkhardt R., Govindarajan A., Wallace T. Derisking AI by design: How to build risk management into AI development. McKinsey [электронный ресурс] - URL: https://www.mck-insey.com/capabilities/quantumblack/our-insights/ derisking-ai-by-design-how-to-build-risk-manage-ment-into-ai-development#/ (дата обращения: 18.06.2023)
7. Bozic V. The role of artificial intelligence in risk management. ResearchGate [электронный ресурс] - URL: https://www.researchgate.net/pub-lication/370005124_THE_R0LE_0F_ARTIFI-CIAL_INTELLIGENCE_IN_RISK_MANAGEMENT (дата обращения: 16.06.2023)
8. Capgemini Research Institute. Reinventing Cy-bersecurity with Artificial Intelligence: The new frontier in digital security [электронный ресурс] - URL: https://www.capgemini.com/wp-con-tent/uploads/2019/07/AI-in-Cybersecurity_Re-port_20190711_V06.pdf (дата обращения: 20.06.2023)
9. General Data Protection Regulation (GDPR) [электронный ресурс] - URL: https://gdpr-info. eu/ (дата обращения: 02.07.2023)
10. Hosameldeen O. Intelligent Risk Management using Artificial Intelligence. ResearchGate [электронный ресурс] - URL: https://www.research-gate.net/publication/359362007_Intelligent_Risk_ Management_using_Artificial_Intelligence (дата обращения: 14.06.2023)
11. Альфа-Банк внедрил искусственный интеллект в розничное кредитование [электронный ресурс] - URL: https://www.banki.ru/news/len-ta/?id=10957204 (дата обращения: 18.06.2023)
12. Какие направления выбирали банки для внедрения искусственного интеллекта в 2021 году? [электронный ресурс] - URL: https://fu-turebanking.ru/post/3986 (дата обращения: 20.06.2023)
13. Облачный мониторинг угроз: Kaspersky Security Network (KSN) [электронный ресурс] - URL: https://www.kaspersky.ru/enterprise-security/ wiki-section/products/kaspersky-security-network (дата обращения: 16.06.2023)
14. Сбербанк использует искусственный интеллект для мониторинга кредитных рисков [электронный ресурс] - URL: https://www.banki. ru/news/lenta/?id=10827930 (дата обращения: 18.06.2023)
SCALED AGILE FRAMEWORKS. ANALYSIS AND COMPARISON
Mikhailov AA
Moscow State University named after A.S. Griboyedov
In the modern world, businesses are increasingly introducing artificial intelligence systems to improve their own business processes, including risk management, prevention and damage minimization in the event that the risk could not be leveled.
Based on real cases of Russian and foreign companies, the article explores the application of artificial intelligence in the field of risk management of organizations: lists all the main groups of risks faced by organizations, describes current problems in the use of artificial intelligence in risk management, including in the legal field, and prospects for their solutions, assesses the possibility of management The advantages of human-machine synergy in the field of organizational risk management are also considered. The purpose of this article is based on the obtained practical data and theoretical knowledge to present a comprehensive view of the integration of artificial intelligence in the risk management of organizations and to predict the further development of this direction.
Keywords: Artificial intelligence, risk, risk management, organization, business, management.
References
1. Thiel D., Fred van Raaij W. Artificial Intelligent Credit Risk Prediction: An Empirical Study of Analytical Artificial Intelligence
Tools for Credit Risk Prediction in a Digital Era. Journal of Accounting and Finance Vol. 19(8), 2019
2. Apatova N.V., Korolev O.L. Artificial intelligence in risk management of a virtual enterprise. Strategic management of information security development of socio-economic systems based on smart technologies. Monograph. Simferopol, 2022
3. Semeko G.V. Artificial intelligence in the banking sector: opportunities and problems // Social innovations and social sciences. - Moscow: INION RAS, 2021. - No. 2. - pp. 81-97.
4. Sokolov N.A., Slavyanov A.S., Feshina S.S. Models of artificial intelligence in the security system of the intellectual potential of the organization. International Research Journal No. 6 (108) Part 5, 2021
5. Shermukhamedov B.A. Artificial intelligence systems in the banking sector. The text of a scientific article on the specialty "Computer and information sciences", 2021
6. Baquero J., Burkhardt R., Govindarajan A., Wallace T. Derisk-ing AI by design: How to build risk management into AI development. McKinsey [electronic resource] - URL: https://www. mckinsey.com/capabilities/quantumblack/our-insights/derisk-ing-ai-by-design-how-to-build-risk-management-into-ai-devel-opment# / (accessed: 06/18/2023)
7. Bozic V. The role of artificial intelligence in risk management. ResearchGate [electronic resource] - URL: https://www.re-searchgate.net/publication/370005124_THE_R0LE_0F_ARTI-FICIALJNTELUGENCEJN_RISK_MANAGEMENT (accessed: 06/16/2023)
8. Capgemini Research Institute. Reinventing Cybersecurity with Artificial Intelligence: The new frontier in digital security [electronic resource] - URL: https://www.capgemini.com/wp-content/ uploads/2019/07/AI-in-Cybersecurity_Report_20190711_V06. pdf (accessed: 06/20/2023)
9. General Data Protection Regulation (GDPR) [electronic resource] - URL: https://gdpr-info.eu / (accessed: 02.07.2023)
10. Hosameldeen O. Intelligent Risk Management using Artificial Intelligence. ResearchGate [electronic resource] - URL: https:// www.researchgate.net/publication/359362007_Intelligent_ Risk_Management_using_Artificial_Intelligence (accessed: 06/14/2023)
11. Alfa-Bank has introduced artificial intelligence into retail lending [electronic resource] - URL: https://www.banki.ru/news/len-ta/?id=10957204 (accessed: 06/18/2023)
12. What directions did banks choose for the introduction of artificial intelligence in 2021? [electronic resource] - URL: https://future-banking.ru/post/3986 (accessed: 06/20/2023)
13. Cloud threat monitoring: Kaspersky Security Network (KSN) [electronic resource] - URL: https://www.kaspersky.ru/ enterprise-security/wiki-section/products/kaspersky-security-network (accessed: 06/16/2023)
14. Sberbank uses artificial intelligence to monitor credit risks [electronic resource] - URL: https://www.banki.ru/news/len-ta/?id=10827930 (date addresses: 06/18/2023)
