CC BY
56
Том 10, № 4(2022) Business Strategies
Внедрение технологии искусственного интеллекта в бизнесе: этические аспекты / Implementation of artificial intelligence technology in business: Ethical aspects Н.Д. Ковалев, Д.А. Степаненко / N.D. Kovalev, D.A. Stepanenko
001: 10.17747/2311-7184-2022-4-90-93 1/^41== УДК 338 ^ -
Внедрение технологии искусственного интеллекта в бизнесе: этические аспекты
Н.Д. Ковалев, младший менеджер проектов,
ООО «Газпром маркетинг и трейдинг лимитед» (Санкт-Петербург, Россия) nikitoff25@yandex.ru
Д.А. Степаненко, к.э.н., доцент кафедры менеджмента и инноваций, Санкт-Петербургский государственный экономический университет (Санкт-Петербург, Россия) kadar_77@mail.ru
Аннотация. В работе проведено исследование возможностей и областей внедрения искусственного интеллекта. Определены направления развития в бизнесе с использованием технологий искусственного интеллекта. Выявлено отсутствие зависимости между затратами на разработку и внедрение технологий искусственного интеллекта и размером ожидаемой прибыли. Наряду с технологическими и управленческими проблемами внедрения технологий искусственного интеллекта большое значение приобретают этические аспекты: сокращение рабочих мест, конфиденциальность и непредвзятость. В работе определены направления решения этических проблем - разработка стандартов, правовое регулирование, перевод рекомендательных кодексов в правовое поле при сохранении потенциала развития.
Ключевые слова: искусственный интеллект, масштабирование, бизнес-экосистемы, этические аспекты, кодекс этики.
Implementation of artificial intelligence technology in business: Ethical aspects
N.D. Kovalev, junior project manager,
Gazprom Marketing and Trading Limited LLC (Saint Petersburg, Russia) nikitoff25@yandex.ru
D.A. Stepanenko, cand. sci. (econ.), associate professor,
Saint Petersburg State University of Economics (Saint Petersburg, Russia)
kadar_77@mail.ru
Abstract. ^e work carried out a study of the possibilities and areas of implementation of artificial intelligence. The directions of development in business with the use of artificial intelligence technologies are determined. The absence of dependence between the costs of development and implementation of artificial intelligence technologies and the size of the expected profit has been revealed. Along with the technological and managerial problems of introducing artificial intelligence technologies, ethical aspects are of great importance: job cuts, confidentiality and impartiality. The work defines the directions for solving ethical problems - the development of standards, legal regulation, the translation of recommendatory codes into the legal field while maintaining the development potential. Keywords: artificial intelligence, scaling, business ecosystems, ethical aspects, code of ethics.
Возможности внедрения технологии искусственного интеллекта (ИИ) для экономии времени при решении трудоемких задач обусловливает актуальность выбранной темы. С помощью искусственного интеллекта в десятки раз быстрее открывают банковские счета и проводят закупки, разрабатывают новые лекарства, инвестируют на фондовом рынке и могут с точностью до минут определить время задержки рейса. Искусственный интеллект называют новым электричеством - он меняет целые отрасли бизнеса.
В бизнесе искусственный интеллект может быть задействован в поддержании трех важных направлений развития:
- при автоматизации структурированных и повторяющихся процессов посредством использования ро-
- при представлении выводов на основании исчерпывающего анализа структурированных данных, чаще всего с использованием машинного обучения;
- при взаимодействии с клиентами и сотрудниками при помощи чат-ботов, обрабатывающих естественный язык, виртуальных помощников и машинного обучения.
Важно отметить, что искусственный интеллект представляет собой точечное решение. Он предназначен для конкретного прогноза, разрабатывается для решения конкретной задачи. Один алгоритм - один прогноз
бототехники;
Том 10, № 4(2022) Business Strategies
Внедрение технологии искусственного интеллекта в бизнесе: этические аспекты / Implementation of artificial intelligence technology in business: Ethical aspects Н.Д. Ковалев, Д.А. Степаненко / N.D. Kovalev, D.A. Stepanenko
- одно решение. Для того чтобы переложить на искусственный интеллект бизнес-процесс, его сначала необходимо разбить на функции, которые должны быть разбиты на задачи. Таким образом, необходимо заняться точным и детальным анализом. И только после этого, создавая ИИ под каждую задачу, синтезировать функции в бизнес-процесс.
При внедрении систем ИИ организации следует разделить процессы на задачи, подсчитать прибыль и затраты по разработке или приобретении ИИ для каждой конкретной задачи, упорядочить ИИ по степени отдачи на капитал от максимальной к минимальной, после чего, двигаясь от варианта с высокой отдачей по порядку далее, внедрять системы (если ожидаемая отдача это оправдывает). Несмотря на то что в некоторых случаях выгода от внедрения ИИ на уровне отдельного бизнес-процесса может быть заметна сразу, в большинстве случаев получение реальной выгоды возможно лишь при трансформации бизнес-процесса целиком.
Перед внедрением ИИ на уровне предприятия необходимо разработать подробные планы масштабирования, для чего следует организовать совместную работу экспертов по технологиям с ответственными за трансформируемые процессы. Так как ИИ не перестраивает целые процессы, а решает отдельные задачи, масштабирование в большинстве случаев предполагает интеграцию с существующими процессами и системами. Перед началом внедрения систем ИИ следует проверить, возможна ли такая интеграция. Обеспечение непрерывной коммуникации между специалистами позволяет добиться наилучшего решения.
Основная дилемма заключается в определении приоритетной области для внедрения систем ИИ между внутренними операциями и внешним миром, включая совершенствование продукции и отношения с потребителями. Во внутренней среде организации ИИ может применяться в автоматизации существующих процессов с целью снижения затрат или для оптимизации процесса принятия решений в сфере управления финансами или цепями поставок. Эффективность внутренней интеграции процессов и систем наглядно прослеживается в симметричных организациях и актуальна при внедрении прорывных инноваций [7].
Помимо этого, распространено применение систем ИИ для повышения обоснованности принятия решений. Система может анализировать более динамичные и детализированные данные в режиме реального времени, в том числе поступающие из внешних источников. Благодаря предоставлению более точной картины текущей ситуации такой алгоритм подкрепляет процесс принятия решений в организации.
Во внешней среде предприятие может направить усилия для изучения своих клиентов с целью персонализа-ции предложений, что сможет увеличивать продажи благодаря прогнозированию потребностей и выстраивать долгосрочные отношения с ними. Вместе с тем компания может внедрять ИИ в свою продукцию, чтобы менять опыт взаимодействия клиента с ней. Также ИИ может применяться для обеспечения требований регуляторов и при управлении рисками.
Внедрение ИИ на внешнем уровне зависит от специфики конкретной отрасли или продукта. Решения для применения на внутреннем уровне более универсальны, но тем не менее обладают большим разнообразием сфер применения технологии для повышения эффективности производственных операций.
Эффективность использования ИИ при построении бизнес-экосистем позволяет полностью реализовы-вать данную идею через цифровые платформы. Это проявляется в увеличении спроса и продаж, возможности увеличения цены на продукт или услугу, получении выходов к новым рынкам, получении стратегически важных ресурсов за счет систем партнерских отношений, что открывает новые направления в оказании комплекса услуг [1].
Исследование взаимодействия элементов «тройной спирали» в России: государства, университетов и бизнеса - выявило слабую развитость бизнес-спирали и неопределенность роли университетов в модели инновационной активности [4]. Эффективным решением данной проблемы становится внедрение технологий ИИ, обеспечивающее доступ к информации участников «тройной спирали» и оптимизируя принятие решений.
Внедрение технологий искусственного интеллекта затрагивает важные этические аспекты. При большом количестве делегируемых алгоритмам задач остро встают вопросы безопасности и ответственного применения систем ИИ. С целью снижения уровня существующих рисков и обеспечения надежной и безопасной работы алгоритмов в мировой практике разрабатываются различные стандарты и технологические решения [2].
Компании, занимающиеся внедрением ИИ, сталкиваются не только с технологическими и управленческими, но и с этическими трудностями. ИИ, являющийся подрывной технологией, трансформирует все сферы общественной жизни. Применение для ИИ находят в самых разных отраслях экономики, начиная с промышленности и сельского хозяйства, заканчивая образованием и медициной [6]. При этом последствия его применения могут оказаться неоднозначными. Помимо целого ряда преимуществ использование ИИ несет некоторые риски и даже угрозы. Этические проблемы применения технологии выходят на первый план и в последние годы все чаще оказываются темами крупных отраслевых конференций.
Есть ряд основных этических вопросов, которые затрагиваются при внедрении технологии ИИ:
1. Люди и рабочие места. Компании, внедряющие технологии ИИ в свои бизнес-процессы, заявляют о том, что такая оптимизация позволяет значительно сокращать издержки. И основной статьей сокращения издержек является исключение человеческого труда из процесса: снижение затрат на оплату труда в связи с сокращением сотрудников, повышение скорости операций и качества за счет исключения человеческого фактора, снижения количества ошибок [3]. Что делать при этом с бывшими сотрудниками? Например, ПАО «Сбербанк» смог заменить 70% сотрудников среднего звена менеджмента алгоритмами ИИ, взявшими на себя их типичные и однообразные функции. Компания заявляет, что большинство сотрудников прошли переобучение новым актуальным навыкам и теперь трудятся в компании на других позициях. Наверняка дешевле просто уволить сотрудников, но компания выбрала более этичный путь. Как заявляет глава организации Герман Греф, ИИ создает даже
Том 10, № 4(2022) Business Strategies
Внедрение технологии искусственного интеллекта в бизнесе: этические аспекты / Implementation of artificial intelligence technology in business: Ethical aspects Н.Д. Ковалев, Д.А. Степаненко / N.D. Kovalev, D.A. Stepanenko
большее количество рабочих мест, чем сокращает. Но это рабочие места другого типа. В первую очередь, ИИ возьмет на себя низкоквалифицированную, не требующую глубоких знаний и навыков работу. А новые рабочие места требуют серьезного технического образования в сфере цифровых технологий. Социально ответственным компаниям предстоит разрабатывать возможности для переобучения своих сотрудников, чтобы избежать большого количества сокращений. В любом случае, при замене функций сотрудника системами ИИ обязательно встанет вопрос о том, что делать с освободившимися специалистами. И компании должны оценивать не только прибыль от внедрения технологии, но и социальные последствия такого рода решений.
2. Непредвзятость. Как было сказано выше, качество алгоритма зависит от качества исходных данных, на которых он будет обучаться. И если сами данные окажутся слишком предвзятыми, не учитывающими возможного разнообразия, то прогноз ИИ может тоже получиться необъективным. Например, компания Amazon столкнулась с сексизмом при найме сотрудников. В организации разработали алгоритм, целью которого была первичная оценка резюме кандидата на соответствие вакансии. ИИ отлично справлялся с задачей с технической точки зрения, но вскоре разработчики заметили, что он был предвзят в отношении кандидатов и отдавал предпочтение мужчинам. Это происходило из-за того, что алгоритм обучали на данных десятилетней давности, когда большинство резюме в компанию поступало от мужчин.
Исключение возможности дискриминации и обеспечение справедливости работы алгоритмов предполагает, что должны предприниматься меры для проверки набора данных, используемых для машинного обучения, чтобы не допустить умышленной дискриминации. Должны применяться методики и программные решения, выявляющие и препятствующие возникновению дискриминации по признакам расовой, национальной, половой принадлежности, политическим взглядам, религиозным убеждениям, возрасту, социальному и экономическому статусу или сведениям о частной жизни.
3. Конфиденциальность. Ответственное отношение со стороны организаций в вопросах влияния ИИ на граждан и общество при разработке систем, учитывая неприкосновенность частной жизни, этичное, безопасное и ответственное использование персональных данных, к характеру, степени и размеру ущерба, который может последовать в результате использования технологий, а также при выборе и использовании аппаратных средств и программного обеспечения, задействованных на различных жизненных циклах систем ИИ [5].
Для того чтобы избежать многих этических проблем, бизнесу следует уделять особое внимание нескольким ключевым принципам:
- использовать в обучении алгоритмов качественные данные;
- обеспечивать лучший надзор за направлениями разработки и применения технологий;
- учитывать последствия внедряемых решений не только в экономических показателях, но и в отношении социальных и репутационных рисков.
Какие бы ни были этические проблемы в области ИИ, сами по себе алгоритмы не могут представлять опасность. Страшна не технология сама по себе, а возможность того, что она окажется в нечистоплотных руках. И именно от создателей алгоритмов зависит, готовы ли они принести в жертву этические вопросы ради большего удобства, данных и прибыли или все-таки будут ответственно подходить к созданию своих алгоритмов. К счастью, в настоящее время крупные компании, занимающиеся разработкой и внедрением ИИ, много говорят о вопросах этики и уделяют ей большое внимание в своих стратегиях. Отечественные технологические компании также задаются вопросами этики при разработке и применении технологий ИИ. В 2021 году в России был принят Национальный кодекс этики в сфере ИИ [8]. Кодекс разработан «Альянсом в сфере искусственного интеллекта», и к нему уже присоединились многие ведущие российские компании - лидеры в разработке технологий. Пока что кодекс носит рекомендательный характер, но Совет Федерации РФ планирует рекомендовать законодательно его закрепить.
Несмотря на попытки бизнеса сделать подход к созданию и внедрению ИИ более осознанным и ответственным, внутренних установок компаний и рекомендательных кодексов недостаточно. Такая технология не должна оставаться без законодательного регулирования, что невозможно без активного участия государства в этом процессе.
Российские власти активно вовлечены в вопросы законодательного закрепления технологий ИИ. Важно не перерегулировать развитие систем ИИ (иначе Российская Федерация будет иметь технологическое отставание от других стран), но в то же время обеспечить развитие с соблюдением прав и свобод людей, большим вниманием к защите данных и вниманию к рискам, которые может привести развитие ИИ.
Том 1G, № 4(2G22) Business Strategies
Внедрение технологии искусственного интеллекта в бизнесе: этические аспекты / Implementation of artificial intelligence technology in business: Ethical aspects Н.Д. Ковалев, Д.А. Степаненко / N.D. Kovalev, D.A. Stepanenko
Использованные источники
1. Бездудная А.Г., Трейман М.Г. Бизнес-экосистемы компаний: конкуренция или сотрудничество, развитие цифровых подходов // Известия Санкт-Петербургского государственного экономического университета. 2021. № 4(130). С. 129-134.
2. Зарембо В.Е. К вопросу о цифровизации в России // Современный менеджмент: проблемы и перспективы: Сборник статей по итогам XV международной научно-практической конференции, Санкт-Петербург, 23-24 апреля 2020 года. СПб.: СПбГЭУ, 2020. С. 521-526.
3. Малышкин А.В. Интегрирование искусственного интеллекта в общественную жизнь: некоторые этические и правовые проблемы // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10. № 3. С. 444-460. йО!: 10.21638/БрЬи14.2019.303.
4. Растова Ю.И., Степаненко Д.А. Инновационная активность бизнеса в процессе реализации модели «тройной спирали» Генри Ицковича // Омский научный вестник. Серия: Общество. История. Современность. 2020. Т. 5. № 3. С. 117-121. йО!: 10.25206/2542-0488-2020-5-3-117-121.
5. Салимьянова И.Г., Малюк В.И. Инструменты цифровой экономики как эффективный механизм инновационного развития производственной и непроизводственной сфер деятельности // Инновационная деятельность. 2018. № 3(46). С. 84-91.
6. Салимьянова И.Г., Погорельцев А.С. Цифровая трансформация экономики: анализ трендов в контексте институциональных экономических теорий (часть 2) // Известия Санкт-Петербургского государственного экономического университета. 2019. № 1(115). С. 11-17.
7. Степаненко Д.А., Ермолина А.А. Организационная симметричность как инструмент повышения эффективности предприятий, внедряющих инновации // Вестник образования и развития науки Российской академии естественных наук. 2019. № 4. С. 54-57. йО!: 10.26163/РАБ1\1.2019.16.18.013.
8. Кодекс этики в сфере искусственного интеллекта. URL: https://a-ai.ru/wp-content/uploads/2021/10/%D0%9 A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA%D0%B8_%D0%B2_ %D1%81%D1%84%D0%B5%D1%80%D0%B5_%D0%98%D0%98_%D1%84%D0%B8%D0%BD%D0%B0%D 0%BB%D1%8C%D0%BD%D1%8B%D0%B9.pdf.
