CC BY
580
DOI: 10.24412/2070-1381-2022-94-173-187
Искусственный интеллект в корпоративном управлении: возможности и границы применения
Зуб Анатолий Тимофеевич
Доктор философских наук, профессор, факультет государственного управления, МГУ имени М.В. Ломоносова, Москва, РФ. E-mail: [email protected] SPIN-код РИНЦ: 4469-8621 ORCID ID: 0000-0001-8794-2399
Петрова Кристина Сергеевна
Аспирант, факультет государственного управления, МГУ имени М.В. Ломоносова, Москва, РФ. E-mail: [email protected]
Аннотация
Целью данной статьи является определение перспектив использования технологий искусственного интеллекта (ИИ) для повышения эффективности корпоративного управления в целом и оценка перспектив его применения для решения задач оперативного и стратегического управления. В настоящее время сформировались две парадигмы, исследующие перспективы использования ИИ в организационных исследованиях: парадигма, рассматривающая искусственный интеллект как совокупность мета-алгоритмов, способных находить алгоритмы решения конкретных задач корпоративного управления, и парадигма, рассматривающая искусственный интеллект как средство оптимизации поведения людей в организации. В качестве ключевой области применения искусственного интеллекта в корпоративном управлении выделяется процесс принятия управленческих решений на уровне совета директоров. Выявляются и определяются возможности ИИ для повышения эффективности принятия управленческих решений. Среди них можно выделить: обеспечение необходимого объема и разнообразия информации с меньшими ресурсозатратами, быстрый анализ больших массивов данных, разработку достоверных сценариев последствий принимаемых решений, беспристрастность решений и другие. Технологии искусственного интеллекта уже в настоящее время являются полезным инструментом для повышения эффективности принятия управленческих решений, что показано на ряде примеров из практики российских корпораций. Проанализированы трудности и проблемы, стоящие на пути широкого применения технологий искусственного интеллекта: недостаточная разработанность законодательства, регулирующего их использование, защиту интеллектуальной собственности в этой сфере, конфиденциальность данных; отсутствие ясности относительно ответственности за принятие рисковых решений на базе использования искусственного интеллекта и их последствия. Применение искусственного интеллекта в корпоративном управлении ограничено рядом этических проблем, связанных с ответственностью за последствия принятых решений, низким уровнем правового обеспечения его использования и специфическими рисками, методология работы с которыми требует дальнейшей разработки.
Ключевые слова
Корпоративное управление, бизнес-процессы, искусственный интеллект, процесс принятия управленческих решений, совет директоров, конкурентное преимущество.
Artificial Intelligence in Corporate Governance: Perspectives and Boundaries of Use
Anatoly T. Zub
DSc (Philosophy), Professor, School of Public Administration, Lomonosov Moscow State University, Moscow, Russian Federation. E-mail: [email protected] ORCID ID: 0000-0001-8794-2399
Kristina S. Petrova
Postgraduate student, School of Public Administration, Lomonosov Moscow State University, Moscow, Russian Federation. E-mail: [email protected]
Abstract
The aim of this article is to identify the expected improvements in corporate governance using artificial intelligence (AI) technologies and to estimate perspectives of their application for strategic management. Currently, two paradigms have been formed that explore the prospects of using artificial intelligence in organizational research: a paradigm that considers artificial intelligence as a set of meta-algorithms capable of finding algorithms for solving specific corporate governance problems and a paradigm that considers artificial intelligence as a means of optimizing people's behavior in an organization. As an area of application of artificial intelligence in corporate governance, the process of making managerial decisions at the level of the board of directors is singled out. As a result, the possibilities of artificial intelligence to improve the efficiency of managerial decision-making were identified. Among them are: providing the necessary volume and variety of information with less resource costs, rapid analysis of large data sets, development of reliable scenarios for the consequences of decisions made, impartiality of decisions, and others. AI technologies are useful tools for increasing decision-making efficiency which is demonstrated using Russian companies' examples. The article analyzes as well problems that prevent AI technologies from a wide use: limits of legislation, which controls their use, intellectual property protection in this sphere, data privacy; uncertainty of responsibility for risk decision-making based on AI and its consequences. Thus, AI usage in corporate management is limited by a set of ethical issues related to consequences of decisions, low level of legislation and specific risks which require further researches.
Keywords
Corporate governance, artificial intelligence, managerial decision-making process, board of directors, competitive advantage.
Введение
В современном значении понятие искусственного интеллекта (ИИ) возникло еще в середине ХХ века. Его содержание менялось по мере развития технических возможностей машинного копирования отдельных функций интеллекта человека (начиная с таких простых, как счет) до современного состояния, когда искусственный интеллект представляет собой мощный технологический комплекс, которому под силу не только замещать человека в решении многочисленных вычислительных задач, но и моделировать отдельные функции сознания человека. Как отмечает Ю.Ю. Петрунин, в процессе развития представлений об ИИ «были предложены действительно перспективные инструменты искусственного интеллекта: модели нейронных сетей, генетических и, шире, эволюционных алгоритмов, нечеткой логики, мультиагентных (многоагентных) систем, рефлексивного управления и т.д.» [Петрунин 2018, 103].
Возникшие в середине прошлого века технологии ИИ решали лишь круг задач, ограниченный математическими вычислениями. Однако по мере совершенствования компьютерных технологий ИИ получил новый толчок для своего развития. Особенно на развитие искусственного интеллекта повлияла методология нейронных сетей, которая имитирует, копирует организацию в сеть нейронов нервных систем живых организмов. Особенность нейронной сети состоит в том, что она способна обучаться на различных задачах и благодаря этому может определять закономерности и выявлять взаимозависимости и связи (корреляции) между анализируемыми данными, которые другими способами выявить невозможно.
Такое развитие ИИ в конечном счете привело к возможности широкой интерпретации возможностей использования искусственного интеллекта в самых разных сферах общественной практики. Разумеется, не остались в стороне проблемы корпоративного управления, оценка перспектив их решения с использованием ИИ.
Определенную трудность в осмыслении перспектив использования ИИ в корпоративном управлении1 составляет многозначность термина. Даже если оставить в стороне обыденное представление, что ИИ —замена человеческого сознания, в перспективе ведущая к «бунту роботов», можно выделить две парадигмы, присутствующие в научной литературе.
Первая парадигма исходит из понимания ИИ как совокупности «мета-алгоритмов, способных находить алгоритмы решения любой конкретной задачи» [Там же, 100], копирующих рациональный процесс мышления человека.
Вторая парадигма рассматривает ИИ как средство оптимизации поведения людей в организации, особенно в тех его аспектах, которые связаны с принятием и реализацией важных (прежде всего стратегических) решений. Так, в частности, американские исследователи С. Рассел и П. Норвиг рассматривают совокупность поведенческих проявлений мышления человека как «экстернализацию мышления», предполагающую высокий уровень корреляции между мыслительными актами и организационным поведением людей [Russel, Norvig 2021, 17]. В рамках этой парадигмы ИИ понимается как некоторая логическая машина, описывающая и предписывающая поведение людей в организации как рационально действующих субъектов.
Такое бихевиористское (поведенческое) понимание предполагает использование ИИ только при условии, что люди в организациях действуют исходя исключительно из рациональных соображений.
1 Под «корпоративным управлением» мы будем понимать управление крупными публичными компаниями с акционерным капиталом и разделенными функциями стратегического (совет директоров) и оперативного (СЕО, администрация) управления [Monks, Minow 2011].
Однако далеко не все проблемы могут быть описаны рациональным образом. К рациональным рассуждениям часто «подмешиваются» эмоции, желания, стремление к личной выгоде, многочисленные (часто скрытые) риски и т.д. То есть проблемы делаются «мягкими»: границы их размыты, неопределенны, а методы решения неочевидны. Так выглядит большинство самых важных организационных проблем — от разработки стратегии до назначения компенсаций высшему управленческому персоналу компании. Но это не делает ситуацию с использованием ИИ безнадежной: задача ИИ в случае такого рода «мягких» проблем может решаться путем построения мета-алгоритмов с использованием больших баз данных, учитывающих все (или почти все) многообразие человеческих поведенческих реакций в ходе повседневной работы компании.
Несмотря на существование различных пониманий сущности и значения ИИ для организационных исследований, бурное развитие дисциплины и предоставляемые ею новые возможности не могли не оказать существенное влияние на теорию и практику менеджмента в XXI веке. Различные аспекты такого влияния широко обсуждаются в современной научной литературе по управлению и теории ведения бизнеса. Так, в частности, Т. Таулли рассматривает перспективы применения в организационном управлении машинного обучения, алгоритмов нейронных сетей для планирования и контроля, использования ИИ в роботизации производственных процессов [Таулли 2021]. А.Постолит поднимает вопросы возможности программной реализации элементов нейронной сети и построения многослойных нейронных сетей, обеспечивающих координацию выполнения сложных проектов [Постолит 2021], в то же время М. Бруссард предостерегает относительно чрезмерного оптимизма, высказываемого рядом авторов, выражающих уверенность, что в принципе не существует ограничений для использования ИИ в организационном менеджменте [Бруссард 2021]. Рассматриваются и более частные вопросы использования ИИ в корпоративном управлении. Например, Н. Сони с соавторами предлагают пути использования ИИ для продвижения на рынок инновационных продуктов [Sonietal. 2020], а И. Энхолм с соавторами анализируют перспективы использования ИИ в управлении на основе ценностей (MBV) [Enholm et al. 2021].
С другой стороны, уже с начала ХХ1в. крупнейшие транснациональные корпорации, такие как Apple, Facebook2, Amazon, Google, Microsoft и ряд других проявляют большой интерес к возможностям использования ИИ для решения многочисленных задач ведения бизнеса. Они вкладывают гигантские средства в исследования ИИ и уже сейчас применяют в своей практической деятельности различные разработки из данной области. Современная же тенденция к снижению стоимости ИИ-платформ и повышение их доступности позволили работать с ними не только крупным корпорациям, но и специализированным компаниям и даже стартапам [Гусев, Добриднюк 2017].
Проблемы и перспективы применения технологий ИИ в различных областях активно обсуждаются международным научным сообществом и затрагивают широкий круг тем. Однако исследований, акцентирующих свое внимание на использовании технологий ИИ в сфере бизнеса, корпоративного управления, немного. Тематика внедрения технологий ИИ в область корпоративного управления только развивается и остается слабо разработанной в научной литературе. С учетом этого обстоятельства цель нашего исследования — определение перспектив использования технологий ИИ для повышения эффективности корпоративного управления в целом и оценка перспектив его применения для решения задач оперативного и стратегического управления.
2 Meta Platforms Inc. (владелец Facebook и Instagram) — организация признана экстремистской, ее деятельность запрещена на территории России.
© Факультет государственного управления МГУ имени М.В.Ломоносова, 2022 175
Возможности ИИ для повышения эффективности процесса принятия решений в системе корпоративного управления
Если оставаться в рамках первой из обозначенных нами выше парадигм, под ИИ понимаются не только имитирующие мышление человека технологии, но и способные самообучаться, что означает способность искусственной интеллектуальной системы создавать мета-алгоритмы, позволяющие решать новые задачи, с которыми система ранее не сталкивалась. В организационном управлении такого рода задачи наиболее характерны для процесса принятия сложных решений, при этом под «сложными» решениями мы будем понимать решения, оказывающие существенное влияние на перспективы развития компании, возможности достижения установленной миссии, зачастую просто дальнейшего ее существования. Это могут быть, например, решения относительно выбора стратегии развития, проведения масштабных реорганизаций, изменений, выбора тех или иных антикризисных мер.
Существуют различные источники вариантов решения проблем такого рода. Хорошей основой является в некоторых случаях личный опыт руководителя, его умение организовать процесс партисипативного принятия решений, использования «коллективного разума» подчиненных, коммуникаций с коллегами, которые сталкивались с подобными проблемами и опыт которых можно адаптировать для решения собственных задач. Особый случай в плане невозможности рациональной реконструкции процесса принятия решений составляют ситуации «озарения», «голоса свыше» или осознания правильного решения, как это было с явлением образа периодической системы элементов Д. Менделееву во время сна. В целом такого рода процессы принятия решений можно охарактеризовать как методологический хаос, который впоследствии нередко интерпретируется как рациональный процесс, где четко выделяются этапы и взаимосвязь последовательности действий, ведущих к успеху. Множество примеров такого рода рациональных реконструкций ситуаций принятия решений можно обнаружить в мемуарах и жизнеописаниях известных руководителей бизнеса — от Г. Форда [Форд 2017] и Л.Якокки [Якокка 2022] до основателя корпорации Apple С.Джобса [Прашкевич, Соловьев 2019].
Рациональный процесс принятия важных корпоративных решений хорошо изучен и верифицирован. Он обычно представлен восемью этапами (Рисунок 1).
Определение проблемы
2. Идентификация проблемы: выявление и диагностика
3.Разработка альтернатив решения
л
со К Ш
и
Идентификация решения
Выполнение решения
4. Разработка критериев оценки альтернатив
к (В
к н
п)
а. \о о
л ч о а
ЕЯ О
ьс:
Рисунок 1. Этапы рационального процесса принятия управленческих решений3
С начала 1970-ххгг. в корпоративном управлении (прежде всего в промышленности) широко используются возможности ЭВМ для сбора информации и оценки альтернатив решения производственных проблем. Все большее количество процедур принятия решений формализовалось, все большее количество вариантов решений анализировалось компьютерами —
3 Разработано авторами.
© Факультет государственного управления МГУ имени М.В.Ломоносова, 2022 177
создавалось впечатление, что в обозримой перспективе все этапы процесса принятия решений будут формализованы, а сам процесс оптимизирован. Г. Саймон, Дж. Марч в своих работах этого периода отмечали, что не существует принципиальных препятствий для алгоритмизации всех этапов принятия решений — проблема состоит лишь в быстродействии существующих ЭВМ, которая на глазах теряет остроту на фоне стремительного прогресса компьютерной техники [March, Simon 1998].
Они во многом оказались правы. Действительно, почти все этапы рационального принятия решений успешно подвергаются компьютеризации, однако проблема остается с разработкой критериев оценки альтернатив (этап 4) и еще более острая с оценкой необходимости пересмотра критериев и выдвижения его вариантов. Именно в этой области люди руководствуются не только рациональными соображениями, но и скрытыми стимулами: например, руководитель может настаивать на пересмотре критериев оценки альтернатив с целью обеспечения поддержки выгодного ему варианта решения, обеспечивающего дополнительный личный доход, реализацию практики кумовства в кадровых решениях или исполнение распоряжения госоргана, явно идущего вразрез с целями организации. Эту мысль Р. Смит фиксирует следующим образом: «ИИ показал, что модели человеческого мышления, основанные на идеализациях математики или логики, не воплощают реальное, надежное принятие решений перед лицом онтологической неопределенности, наблюдаемой у людей. Таким образом, следует проявлять осторожность при попытке смоделировать процесс принятия решений экономическими субъектами с использованием аналогичных инструментов» [Smith2016, 34-35].
Такая «онтологическая неопределенность» порождает феномен «очеловечения» ИИ, что означает включение в сферу ИИ учета человеческих мотивов принятия решений и возможности предотвращения воспроизведения человеческих ошибок4. Задача состоит в том, чтобы найти пути объединения ИИ с уникальными возможностями человека для принятия решений. Целый ряд исследователей отмечают перспективность этого пути и даже возникающие от такого взаимодействия синергические эффекты.
Так, американский исследователь М. Джараи развивает идею взаимодополняемости людей и искусственного интеллекта, исследуя, как каждая из этих сторон может внести свою лепту в процессы принятия организационных решений, обычно характеризующихся неопределенностью, сложностью и двусмысленностью. Он отмечает, что, «обладая большей вычислительной мощностью обработки информации и аналитическим подходом, ИИ может расширить возможности человека при решении сложных вопросов, в то время как люди по-прежнему могут предлагать более целостный, интуитивный подход к работе с неопределенностью и двусмысленностью» [Jarrahi 2018, 577].
Технологии ИИ могут обеспечить необходимый объем и широкую номенклатуру информации, необходимой для принятия стратегических решений, что сокращает потребность в квалифицированном персонале для обеспечения этой важной функции корпорации. В связи с этим, как отмечают Ф. Провост и T. Фосетт, потребуется меньше человеческих и временных ресурсов, а небольшие команды для разработки решений повысят эффективность и скорость их принятия за счет новых возможностей, предоставляемых ИИ [Provost, Fawcett 2021, 55].
У человека существует предел скорости и объема усвоения и переработки информации, а его превышение ведет к психологическим и физиологическим проблемам, что в случае руководителя отражается на качестве принимаемых решений и руководства в целом. Выход здесь
4 Эта тема обсуждается, в частности, в:Национальный доклад по корпоративному управлению. Выпуск XII// НОКС [Электронный ресурс]. URL: https://nokc.org.ru/wp-content/uploads/2021/05/nsku 2020 final1.pdf (дата обращения: 06.03.2022).
© Факультет государственного управления МГУ имени М.В.Ломоносова, 2022 178
часто находят в упрощении ситуации через построение иерархии существенных и несущественных данных, когда последние игнорируются. Такой путь преодоления информационной перегруженности создает опасность ошибки, когда существенные для решения дробленые данные попадают в разряд несущественных, вследствие чего они «вполне обоснованно» не учитываются, однако последствия такой ошибки могут быть весьма печальными. Чтобы ее избежать, можно рассмотреть перспективы использования ИИ, для которого практически любые массивы данных не составляют проблемы [Fiori 2011, 587].
Применение технологий ИИ для анализа большого массива данных позволяет реагировать на быстрый рост данных и высокую динамичность параметров окружающей среды в современных реалиях. Оценивая их перспективы, американский исследователь М.Хилб утверждает, что «благодаря анализу большого массива разнообразных данных технологии ИИ могут вырабатывать более достоверные сценарии последствий принятых решений, тем самым улучшая возможности прогнозирования» [Hilb 2020, 861].
Исследователи пытались выяснить, каким образом топ-менеджеры корпораций оценивают перспективы использования ИИ для принятия решений. С этой целью В. Колбьёрнсруд, Р. Амико и Р. Томас опросили 1770 менеджеров корпораций из 14 стран, в том числе 37 директоров, отвечающих за цифровую трансформацию в своих компаниях. Было также выяснено, что менеджеры корпораций всех уровней тратят более половины своего рабочего времени на координацию выполнения работ и контроль, то есть вполне рутинные процедуры. При этом они рассчитывают, что эти функции с внедрением технологий ИИ могут быть постепенно переданы искусственному интеллекту, а освободившееся время они предпочли бы использовать на решение более «нестандартных» задач, используя свой творческий потенциал и творческий потенциал других [Kolbj0rnsrud et al. 2016].
В другом исследовании, проведенным А. Транком, Х. Биркелем и Э. Хартманном, изучалась перспектива интеграции ИИ в процесс принятия стратегических решений в условиях неопределенности, представленной в литературе по стратегическому менеджменту. Они пришли к выводу, что многие авторы весьма сдержанно оценивают такую перспективу, поскольку убеждены, что для принятия такого рода решений требуются способности, которыми обладают только люди. Технологии ИИ в этом случае они рассматривают только в качестве поддержки процесса принятия решений (прежде всего в плане обработки больших массивов данных). Однако было выявлено немало авторов, которые считают, что технологии ИИ и люди будут друг друга дополнять при разработке корпоративных стратегий [Trunk et al. 2020].
Такую точку зрения развивает, в частности, австралийский исследователь М. Хилб, выделяя пять направлений применения технологий ИИ в корпоративном управлении и в деятельности по принятию решений Советом директоров(СД) [Hilb 2020]. Во-первых, ИИ может использоваться в качестве вспомогательного средства, своеобразного набора инструментов для осуществления выбора лучшей альтернативы решения, средства оценки значительно большего числа вариантов решения по несравненно большему числу параметров, чем это доступно даже наиболее изощренному человеческому интеллекту. К тому же использование ИИ позволяет дополнительно автоматизировать процессы консолидации и отчетности в компании, предоставляя членам СД данные в режиме реального времени, что повышает прозрачность процесса принятия решений.
Во-вторых, ИИ может рассматриваться как расширение возможностей человеческого интеллекта подобно расширению многообразия действий человеческой руки, в которую вложен меч или смычок скрипки. В качестве таких инструментов, расширяющих возможности разума,
могут рассматриваться построенные на основе ИИ прогностические модели, которые помогают разрабатывать все более достоверные сценарии и модели, внедрять ситуационную (contingency) методологию в процесс принятия решений, позволяющую прогнозировать даже весьма отдаленные последствия принятия решений.
В-третьих, по нарастающей веса и влияния ИИ может применяться в ситуации, когда часть функций (особенно требующих больших объемов вычислений) в принятии решений передается искусственному интеллекту, а люди используют полученные таким образом результаты в качестве основы для окончательного принятия решений.
В-четвертых, двигаясь по логике все большей значимости ИИ, он приобретает функции автономного интеллекта, высказывающего свое мнение по тем или иным проблемам, требующим решений. По сути, ИИ становится самостоятельным членом СД, как это описывалось в вышеприведенном примере.
Наконец, ИИ становится «мозгом» корпорации, выполняя наиболее важные функции СД (от разработки стратегии, назначений на высшие административные посты в компании). Такой вариант предполагает полностью автоматизированное управление бизнесом, планирование будущего корпорации и разработку мер для его достижения. Разумеется, в настоящее время это выглядит как полет фантазии, где нет никаких ограничений, но в то же время не найдено рациональных ограничений, в принципе запрещающих такого рода развитие процесса стратегического управления компанией.
Использование технологий ИИ в российских корпорациях: возможности и проблемы
Россия традиционно является одной из ведущих держав в области разработки информационных технологий в целом и ИИ в частности. Поэтому принятые государственными органами в последнее десятилетие документы, определяющие развитие технологий ИИ, должны оцениваться как реалистичные. Прежде всего это относится к принятой в 2019 г. «Национальной стратегии развития искусственного интеллекта на период до 2030 года», которая является комплексным планом, обеспечивающим «высокую степень влияния технологических решений, разработанных на основе искусственного интеллекта, на результативность деятельности организации и человека, в том числе связанной с принятием управленческих решений»5. Как отмечается в стратегии, она служит, среди прочего, основой для разработки плановых и программно-целевых продуктов акционерных обществ с государственным участием в части, касающейся развития ИИ, и ее реализация обеспечивается согласованными действиями многих участников, среди которых фигурируют акционерные общества с государственным участием.
В плане конкретизации «Национальной стратегии» Минкомсвязи России в 2019 г. разработало «Дорожную карту развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», которая описывает основные сферы применения ИИ: освобождение человека от монотонной работы путем автоматического создания программного обеспечения; поддержка в принятии решений; автоматизация опасных видов работ; поддержка коммуникаций между людьми. Как утверждается в «Дорожной карте», искусственный интеллект выступает в роли «нового электричества», призванного повысить качество жизни и улучшить благосостояние общества6. В свою очередь, Минэкономразвития России разработало в 2020 г. паспорт
5 Указ Президента РФ от 10 октября 2019 г. №490 «О развитии искусственного интеллекта в Российской Федерации»// Гарант [Электронный ресурс]. URL: https://www.garant.ru/products/ipo/prime/doc/72738946/ (дата обращения: 27.03.2022).
6 Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». С.2// Правительство РФ [Электронный ресурс]. URL: https://digital.gov.ru/uploaded/files/07102019ii.pdf (дата обращения: 03.04.2022).
© Факультет государственного управления МГУ имени М.В.Ломоносова, 2022 180
Федерального проекта «Искусственный интеллект», финансирование которого составит 31,2 млрд рублей в 2021-2024 гг. Он предусматривает разработку и развитие программного обеспечения, в котором используются технологии ИИ, поддержку научных исследований в целях обеспечения опережающего развития ИИ, повышение уровня кадрового обеспечения российского рынка технологий ИИ, внедрение ИИ-решений в отраслях экономики и повышение доступности и качества данных, необходимых для развития технологий ИИ и ряд других мероприятий7.
В июне 2019 г. был впервые представлен в рамках работы Петербургского международного экономического форума документ, получивший наименование «Альманах по искусственному интеллекту». Альманах был подготовлен Центром компетенций НТИ «Искусственный интеллект» на базе МФТИ при поддержке «Сбербанка» и Аналитического центра при Правительстве РФ и в настоящее время выпускается на регулярной основе. Он содержит обзор текущего состояния отрасли ИИ по таким ключевым направлениям, как наука, бизнес, образование, стартапы и инвестиции, рынок труда.
Была создана также библиотека эффективных решений на базе ИИ — «AI Russia», созданная Альянсом в сфере искусственного интеллекта. В Альянс входят крупнейшие корпорации России, использующие в своей деятельности «высокие технологии»: VK Company, «МТС», «Яндекс», «Сбербанк», «Газпром нефть», РФПИ. В издании AI Russia представлен опыт использования ИИ в российских компаниях, изучение которого должно способствовать ускорению процесса внедрения ИИ в самые разные отрасли путем обмена опытом и популяризации технологий ИИ. В качестве иллюстрации и основания для некоторых обобщений рассмотрим успешные примеры из практики внедрения ИИ в практику работы российских компаний.
Одним из лидеров среди крупных российских корпораций в использовании ИИ для решения производственных и управленческих задач является ПАО «МТС». До недавнего времени хронической проблемой компании являлась проблема формирования, заполнения, проверки контрактов и отслеживания выполнения их условий, которые требовали, с одной стороны, больших трудозатрат, с другой — существующая практика «ручной» работы с документами не позволяла своевременно обнаруживать нарушения сроков исполнения обязательств и оперативно направлять претензии клиентам и поставщикам [Стародубов и др. 2020].Для решения этой проблемы компания внедрила систему управления контрактами на основе ИИ, которая автоматически распознает тексты документов, извлекает из них нужные данные, отслеживает сроки выполнения обязательств и формирует претензионные документы. Позитивные изменения в работе компании приведены в Таблице 1.
Таблица 1.Изменения в системе управления контрактами в ПАО «МТС» на основе внедрения
технологий ИИ8
До внедрения технологий ИИ После внедрения технологий ИИ
Работа с документами не систематизирована и ведется вручную. Создано единое окно мониторинга всех документов.
Сроки исполнения договоров проверялись юристами «вручную». Производится автоматический контроль сроков исполнения договоров.
Компания несла потери из-за невыполненных контрагентами обязательств. Потери существенно снижены за счет роста культуры исполнения обязательств.
Не удавалось вовремя выставлять претензии и начислять штрафы. Претензии и штрафы направляются оперативно.
7 Развитие искусственного интеллекта // Министерство экономического развития Российской Федерации [Электронный ресурс]. URL: https://www.economy.gov.ru/material/departments/d01/razvitie iskusstvennogo intellekta/ (дата обращения: 28.08.2022).
8 Составлено авторами по Автоматический контроль поставщиков// AI Russia [Электронный ресурс]. URL: https://ai-russia.ru/library/mts-management (дата обращения: 28.05.2022).
В результате внедрения системы ИИ в 1,5 раза возросла производительность работающих с документами сотрудников, а за счет улучшения дисциплины платежей контрагентов удалось экономить от 3 до 4 процентов от суммы контрактов [Там же]9.
Успешно внедрил технологию ИИ ПАО «Сбербанк» для мониторинга в интернете информации о контрагентах и поиска потенциальных клиентов для банковского бизнеса.
До внедрения ИИ ежедневный мониторинг СМИ и анализ данных новостных агрегаторов проводился вручную. Множество сотрудников искали информацию в интернете и других открытых источниках, на основе которой можно было бы сделать вывод об устойчивости компаний. При этом около 84% важных сведений упускалось из виду [Там же].
В целях повышения эффективности этого бизнес-процесса была внедрена система мониторинга российских и иностранных СМИ, управляемая ИИ. Она самостоятельно, без участия человека ищет информацию о компаниях и их окружении, формирует структурированное досье, анализирует отраслевые новости и их влияние на бизнес, следит за ключевыми событиями (банкротство, отзыв лицензий и т.д.). А уже отобранные и ранжированные по степени важности новости анализируются экспертами и администрацией банка. Кроме этого, система находит и оценивает людей, проявляющих интерес к услугам, предоставляемым банком, выявляет их потребности и оценивает как потенциальных клиентов (лидов). Последовавшие после внедрения технологий ИИ изменения представлены в Таблице 2.
Таблица 2.Изменения в системе мониторинга СМИ после внедрения технологий ИИ10
До внедрения технологий ИИ После внедрения технологий ИИ
Ручной мониторинг СМИ Автоматический мониторинг— более 3,5 млн новостей ежемесячно
Длительный процесс поиска информации Сканирование новостного фона каждые 5 минут, перевод с 90 языков
Низкая вероятность своевременной идентификации важных событий Быстрое реагирование на релевантную информацию
Высокие операционные и кредитные риски Сокращение издержек за счет своевременной идентификации рисков
Система оказалась высокоэффективной. Она обеспечила постоянный мониторинг финансового положения более чем двух миллионов компаний, вследствие чего снизились операционные и кредитные риски, что обусловило снижение потерь за счет неправильного учета рисков в размере 85 млн рублей в годовом исчислении.
Имеются также многочисленные свидетельства, что использование ИИ российскими компаниями повышает производительность управленческого труда при принятии решений на уровне СД, для проведения аудита, проверки финансовой отчетности, автоматизации документооборота, оценки динамики экономических и финансовых показателей, обнаружения мошенничества, подбора персонала на ответственные должности, организации выплат компенсаций топ-менеджменту корпорации, определения тенденций изменения акционерного капитала и для совершенствования многих других сфер корпоративного управления [Джураев 2021; Устинова 2020; Блинникова, Йинг 2020;Чуланова, Фомина 2019].
9 См. также Автоматический контроль поставщиков// AI Russia [Электронный ресурс]. URL: https://ai-russia.ru/library/mts-management (дата обращения: 28.05.2022).
10 Составлено авторами по Идентификация событий в СМИ // AI Russia [Электронный ресурс]. URL: https://ai-russia.ru/library/sber-smi (дата обращения: 29.05.2022).
Несмотря на успешный опыт применения технологий ИИ в корпоративном управлении, на этом пути имеются определенные трудности. Прежде всего отметим неразработанность законодательства, регулирующего его использование. В частности, речь идет о проблемах правового регулирования данных, связанных с конфиденциальностью, интеллектуальной собственностью, безопасностью и ответственностью, этикой11. Задача разработки нового законодательства становится неотложной, тем более что, как отмечают российские и зарубежные исследователи, быстрое распространение ИИ уже опережает разработку и внедрение нормативной правовой базы и механизмов, которые предназначены для его управления [Воробьева, Салахутдинов 2020; Goralski, Tan 2020]
Как и любые другие технологии, технологии ИИ несут в себе риски. Это риски, связанные с безопасностью использования ИИ (как в физическом, так и в финансовом, репутационном смысле), с делегированием ответственности за принятые решения, риски, обусловленные реорганизацией системы подотчетности в компании, риски утраты конфиденциальности программного обеспечения и его умышленной порчи и ряд других.
Безопасность использования технологий ИИ означает защищенность от негативных последствий, которые могут возникнуть при их внедрении. С целью обеспечения безопасности технологии искусственного интеллекта должны проходить процедуру верификации и соответствующим образом корректироваться, а также встраивать защитные механизмы, препятствующие негативному вмешательству.
Подотчетность непосредственно касается процесса принятия решений ИИ и подразумевает их прозрачность и проверяемость. В процесс принятия решений должны быть встроены такие критерии, которые помогут добиться прозрачности решений, то есть воспроизводимости процесса принятия решений и объяснимости его с помощью логических рассуждений.
Ответственность — одна из самых острых проблем, порождаемых применением технологий ИИ. Кто несет ответственность в случае причинения ущерба технологиями ИИ? Если ущерб связан с дефектами проектирования или производства, то ответственность несет производитель. Но в случае если неверные решения не связаны напрямую с проектированием и производством, то нет явного виновника и непонятно, каким образом в этом случае применять меры дисциплинарной ответственности.
Этика и этические проблемы становятся все более важными по мере развития технологий ИИ. Искусственный интеллект не способен понимать абстрактные концепции, такие как справедливость, ответственность, лояльность по отношению к организации и отдельным ее лидерам; таким образом, этические принципы и суждения не могут влиять на выбор, который делается ИИ. Но легко представить себе ситуацию, когда ИИ принимает оптимальные решения в рамках используемой логики, но которые вследствие их негативной этической нагрузки никогда не принял бы заботящийся о своей репутации руководитель.
Первые шаги в российской практике на пути решения этических проблем уже предпринимаются. Так, в октябре 2021 года в рамках первого международного форума «Этика искусственного интеллекта: начало доверия» был подписан первый в России кодекс этики искусственного интеллекта12.
11 Проблемы правового регулирования искусственного интеллекта // Forsetis [Электронный ресурс]. URL: https://habr.com/ru/post/513656/?ysclid=l511wlnqzh275946739 (дата обращения: 24.06.2022).
12 Крупнейшие компании подписали первый в России кодекс этики искусственного интеллекта // Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации [Электронный ресурс]. URL: https://digital.gov.ru/ru/events/41339/ (дата обращения: 07.05.2022).
Следующая рисковая область — доступность программного обеспечения. Здесь возникает дилемма: должен ли исходный код программ ИИ быть закрытым или открытым? Каждый из этих вариантов несет в себе плюсы и минусы. С одной стороны, открытость исходников может ускорить развитие ИИ через применение метода краудсорсинга, когда любой желающий может попробовать изменить программу ИИ, а результат «продать» заинтересованной стороне. Однако открытость увеличивает угрозы несанкционированного использования технологий ИИ. С другой стороны, закрытость доступа к программному обеспечению минимизирует угрозы злоупотребления при использовании технологий, но, как отмечается в издании Alliance global corporate & specialty, замедляет процессы развития технологий ИИ13.
Обобщая, отметим, что использование технологий ИИ открывает много возможностей ив то же время несет в себе серьезные риски. Поэтому при реализации проектов на основе использовании ИИ необходимо применять взвешенный подход, учитывающий не только выгоды внедрения и использования ИИ, но и неизбежно возникающие при этом проблемы.
Заключение
Сегодня технологии ИИ вызывают особый интерес и являются, как отмечается, наиболее перспективными. Они несут в себе как новые возможности, так и новые угрозы, которые необходимо принимать во внимание при их внедрении и применении. Технологии ИИ развиваются и находят свое применение в самых различных сферах, включая и сферу корпоративного управления. И одной из областей применения технологий ИИ в сфере корпоративного управления выделен процесс принятия управленческих решений.
В связи с заявленной целью описать и оценить перспективы внедрения и применения технологий ИИ в практику корпоративного управления, выявить их положительные эффекты основной акцент был сделан на определении возможностей ИИ для повышения эффективности принятия управленческих решений и прежде всего, стратегических решений, принимаемых СД компании. Важнейшими из таких эффектов являются многократное возрастание объемов информации, привлекаемой для выработки альтернатив решений, и существенное уменьшение ресурсозатрат; быстрый анализ больших массивов данных; разработка достоверных сценариев последствий принимаемых решений; возрастание качества решений (их беспристрастность, резкое снижение возможности отражения в них оппортунистических настроений, конфликтующих с корпоративными целями и ценностями) и ряд других.
Понимание возможности достижения таких позитивных эффектов, как и ограничений в использовании ИИ, делает применение этих технологий более продуктивным и осмысленным.
Список литературы:
БлинниковаА.В., ЙингД.К. Использование искусственного интеллекта в процессах управления человеческими ресурсами// Вестник ГУУ 2020. №7. С.14-21. DOT: 10.26425/1816-4277-2020-7-14-21
Бруссард М. Искусственный интеллект. Пределы возможного. М.: Альпина нон-фикшн, 2021.
ВоробьеваИ.В., СалахутдиновВ.Д. Проблемы правового регулирования искусственного интеллекта// Наука и образование: будущее и цели устойчивого развития. Материалы XVT международной научной конференции, в 4 частях. М.: изд. ЧОУВО «МУ им. С.Ю. Витте». 2020. Ч. 4. C. 65-75.
13 Взлет искусственного интеллекта: будущие перспективы и возникающие риски // Allianz [Электронный ресурс]. URL: https://allianz.ru/content/dam/onemarketing/cee/azru/archive/ru/stuff/Взлет%20искусственного%20интеллекта. pdf (дата обращения: 14.05.2022).
© Факультет государственного управления МГУ имени М.В.Ломоносова, 2022 184
Государственное управление. Электронный вестник
Выпуск № 94. Октябрь 2022 г.
ГусевА.В., ДобриднюкС.Л. Искусственный интеллект в медицине и здравоохранении// Информационное общество. 2017. № 4-5. С. 78-93.
Джураев Д.Ш. Искусственный интеллект в менеджменте // Интернаука. 2021. № 25-1. С. 80-82.
ПетрунинЮ.Ю. Искусственный интеллект: ключ к будущему?// Философские науки. 2018. №4. С. 96-113. DOI: 10.30727/0235-1188-2018-4-96-113
ПостолитА.В. Основы искусственного интеллекта в примерах на Python. СПб.: БХВ-Петербург, 2021. Прашкевич Г., Соловьев С. Стивен Джобс. М.: Молодая гвардия, 2019.
СтародубовО.О., МакаровВ.В., БлатоваТ.А., ГодунА.Д. Инновационные решения ПАО «МТС» по внедрению современных услуг и технологий искусственного интеллекта // Экономика и бизнес: теория и практика. 2020. № 9-2. P. 73-77. DOI: 10.24411/2411-0450-2020-10732
ТауллиТ. Основы искусственного интеллекта: нетехническое введение. СПб.: БХВ-Петербург, 2021.
Устинова О.Е. Искусственный интеллект в менеджменте компаний // Креативная экономика. 2020. Т. 14. № 5. С. 885-904. DOI: 10.18334/ce.14.5.102145
Форд Г. Моя жизнь. Мои достижения. М.: Астрель, 2017.
ЧулановаО.Л., ФоминаЕ.В. Применение игровых технологий и искусственного интеллекта в обучении производственного персонала на предприятиях энергокомплекса // Вестник Евразийской науки. 2019. № 1. URL: https://esj.today/PDF/54ECVN119.pdf
Якокка Л. Карьера менеджера. М.: Попурри, 2022.
EnholmI., PapagiannidisE., MikalefP., KrogstieJ. Artificial Intelligence and Business Value:A Literature Review // Information Systems Frontiers. 2021. DOI: 10.1007/s10796-021-10186-w
Fiori S. Forms of Bounded Rationality: The Reception and Redefinition of Herbert A. Simon's Perspective // Review of Political Economy. 2011. Vol. 23. Is. 4. Р. 587-612. DOI: 10.1080/09538259.2011.611624
GoralskiM.A., TanT.K. Artificial Intelligence and Sustainable Development// The International Journal of Management Education. 2020. Vol. 18. Is. 1. DOI: 10.1016/j.ijme.2019.100330
Hilb M. Toward Artificial Governance? The Role of Artificial Intelligence in Shaping the Future of Corporate Governance// Journal of Management and Governance. 2020. Vol.24. P. 851-870. DOI: 10.1007/s10997-020-09519-9
Jarrahi M.H. Artificial Intelligence and the Future of Work: Human-AI Symbiosis in Organizational Decision-Making // Business Horizons. 2018. Vol. 61. Is. 4. Р. 577-586. DOI: 10.1016/j.bushor.2018.03.007
Kolbj0rnsrudV., AmicoR., ThomasR. How Artificial Intelligence
Will Redefine Management// Harvard Business Review. 2016.
URL https://hbr.org/2016/11/how-artificial-intelligence-will-redefine-management
March G., Simon H. Organizations. New York: Blackwell, 1998.
Monks R., Minow N. Watching the Watchers. What Is Corporation? New York: Thousand Oaks, 1996.
ProvostF., FawcettT. Data Science for Business:What You Need to Know about Data Mining and Data-Analytic Thinking. Sebastopol: O'Reilly Media, 2021.
RusselS., NorvigP. Artificial Intelligence:A Modern Approach (Pearson Series in Artificial Intelligence). New York: Pearson, 2021.
Smith R. Idealizations of Uncertainty, and Lessons from Artificial Intelligence // Economics. 2016. Vol. 10. Is. 1. DOI: 10.5018/economics-ejournal.ja.2016-7
SoniN., SharmaE., SinghN., KapoorA. Impact of Artificial Intelligence in Business:From Research and Innovation to Market Deployment// Procedía Computer Science. 2020. Vol.167. P. 2200-2210. DOI: 10.1016/j.procs.2020.03.272
TrunkA., BirkelH., HartmannE. On the Current State of Combining Human and Artificial Intelligence for Strategic Organizational Decision Making// Business Research. 2020. Vol.13. Р. 875-919. DOI: 10.1007/s40685-020-00133-x
References:
BlinnikovaA.V., YingD.K. (2020) Using Artificial Intelligence in Human Resource Management Processes. Vestnik GUU. № 7. P. 14-21. DOI: 10.26425/1816-4277-2020-7-14-21
BroussardM. (2021) Artificial Unintelligence:How Computers Misunderstand the World. Moscow: Al'pina non-fikshn.
ChulanovaO.L., FominaE.V. (2019) Application of Game Technologies and Artificial Intelligence in Teaching Industrial Personnel at Energy Complex Enterprises. Vestnik Evraziyskoy nauki. № 1. Available: https://esj.today/PDF/54ECVN119.pdf
DzhurayevD.S. (2021) Iskusstvennyy intellekt v menedzhmente [Artificial intelligence in management]. Internauka. № 25-1. P. 80-82
EnholmI., PapagiannidisE., MikalefP., KrogstieJ. (2021) Artificial Intelligence and Business Value: A Literature Review. Information Systems Frontiers. DOI: 10.1007/s10796-021-10186-w
FioriS. (2011) Forms of Bounded Rationality:The Reception and Redefinition of Herbert A. Simon's Perspective. Review of Political Economy. Vol. 23. Is. 4. Р. 587-612. DOI: 10.1080/09538259.2011.611624
Ford H. (2017) My Life & Work. Moscow: Astrel.
GoralskiM.A., TanT.K. (2020) Artificial Intelligence and Sustainable Development. The International Journal of Management Education. Vol. 18. Is. 1. DOI: 10.1016/j.ijme.2019.100330
GusevA.V., DobridnyukS.L. (2017) Artificial Intelligence in Medicine and Healthcare. Information Society. № 4-5. Р. 78-93.
HilbM. (2020) Toward Artificial Governance? The Role of Artificial Intelligence in Shaping the Future of Corporate Governance. Journal of Management and Governance. Vol.24. P. 851-870. DOI: 10.1007/s10997-020-09519-9
Iacocca L. (2022) An Autobiography. Moscow: Popurri.
Jarrahi M.H. (2018) Artificial Intelligence and the Future of Work: Human-AI Symbiosis in Organizational Decision-Making. Business Horizons. Vol. 61. Is. 4. Р. 577-586. DOI: 10.1016/j.bushor.2018.03.007
Kolbj0rnsrudV., AmicoR., ThomasR. (2016) How Artificial Intelligence Will Redefine Management. Harvard Business Review. Available.
Available: https://hbr.org/2016/11/how-artificial-intelligence-will-redefine-management
March G., Simon H. (1998) Organizations. New York: Blackwell.
Monks R., Minow N. (1996) Watching the Watchers. What Is Corporation? New York: Thousand Oaks.
PetruninYu.Yu. (2018) Artificial Intelligence:Is It the Clue to the Future? Filosofskiye nauki. №4. P. 96-113. DOI: 10.30727/0235-1188-2018-4-96-113
PostolitA.V. (2021) Osnovy iskusstvennogo intellekta v primerakh na Python [Fundamentals of artificial intelligence in Python examples]. Saint Petersburg: BKhV-Peterburg.
Государственное управление. Электронный вестник
Выпуск № 94. Октябрь 2022 г.
Prashkevich G., Soloviev S. (2019) Stiven Dzhobs [Steven Jobs] Moscow: Molodaya gvardiya.
ProvostF., FawcettT. (2021) Data Science for Business: What You Need to Know About Data Mining and Data-Analytic Thinking. Sebastopol: O'Reilly Media.
Russel S.,Norvig P. (2021) Artificial Intelligence: A Modern Approach (Pearson Series in Artificial Intelligence). New York: Pearson.
SmithR. (2016) Idealizations of Uncertainty, and Lessons from Artificial Intelligence. Economics. Vol. 10. Is. 1. DOI: 10.5018/economics-ejournal.ja.2016-7
SoniN., SharmaE., SinghN., KapoorA. (2020) Impact of Artificial Intelligence in Business: From Research and Innovation to Market Deployment. Procedia Computer Science. Vol. 167. P. 2200-2210. DOI: 10.1016/j.procs.2020.03.272
Starodubov O.O., MakarovV.V., BlatovaT.A., GodunA.D. (2020) Innovative Solutions of MTS PJSC for the Introduction of Modern Services and Technologies. Ekonomika i biznes: teoriya i praktika.№ 9-2. P. 73-77. DOI: 10.24411/2411-0450-2020-10732
Taulli T. (2021) Artificial Intelligence Basics. A non-Technical Introduction. Saint Petersburg: BKhV-Peterburg.
TrunkA., BirkelH., HartmannE. (2020) On the Current State of Combining Human and Artificial Intelligence for Strategic Organizational Decision Making. Business Research. Vol. 13. Р. 875-919. DOI: 10.1007/s40685-020-00133-x
Ustinova O.E. (2020) Artificial Intelligence in Company Management. Kreativnaya ekonomika. Vol. 14. Is. 5. Р. 885-904. DOI: 10.18334/ce.14.5.102145
VorobevaI.V., SalakhutdinovV.D. (2020) Problems of Legal Regulation of Artificial Intelligence. Nauka i obrazovaniye: budushcheye i tseli ustoychivogo razvitiya. Materialy XVI mezhdunarodnoy nauchnoy konferentsii. In 4 parts. Moscow: izd. ChOUVO «MU im. S.Yu. Vitte». Part4. Р. 65-75.
Дата поступления/Received: 15.07.2022
