CC BY
2
ВЕСТН. МОСК. УН-ТА. СЕР. 6. ЭКОНОМИКА. 2024. Том 59. № 3
ЭКОНОМИЧЕСКАЯ ТЕОРИЯ Л. А. Тутов1
МГУ имени М. В. Ломоносова (Москва, Россия) А. А. Измайлов2
МГУ имени М. В. Ломоносова (Москва, Россия) УДК: 334.012.74
doi: 10.55959/MSU0130-0105-6-59-3-1
ЦИФРОВЫЕ ТЕХНОЛОГИИ
НА СЛУЖБЕ У ПРЕДПРИНИМАТЕЛЬСТВА:
НОВЫЕ ВЫЗОВЫ ДЛЯ РЕГУЛИРОВАНИЯ3
В статье рассматриваются новые проблемы и вызовы для регуляторных органов, порождаемые расширением применения искусственного интеллекта (далее ИИ) и технологий сбора и обработки больших данных со стороны компаний. Целью исследование выступает выявление оптимального теоретического подхода к регулированию применения ИИ в области ценообразования и оптимизации работы с потребителями. В качестве новых проблем, требующих вмешательства регулятора, выделены манипуляция поведением потребителей и эксплуатация их когнитивных отклонений на основе сбора больших данных, усиление проблемы ценовой дискриминации и риски возникновения трудно выявляемых ценовых сговоров в условиях применения алгоритмического ценообразования. К основным факторам, которые необходимо учитывать при выборе мер, регулирующих применение ИИ компаниями, отнесены сверхбыстрые темпы развития цифровых технологий и частое восприятие их как «черного ящика», снижающаяся в динамично меняющихся условиях эффективность традиционных методов экономического анализа, необходимость комплексного подхода к решению множества проблем и координации действий различных регуляторных органов. В соответствии с этим наиболее оптимальным подходом к регулированию применения ИИ компаниями признано «умное регулирование». Несмотря на то что его реализация сопряжена с высокими трансакционными издержками, этот подход позволяет нивелировать проблемы применения ИИ, ex ante снизить вероятность по-
1 Тутов Леонид Арнольдович — д.филос.н., профессор, заведующий кафедры философии и методологии, Экономический факультет МГУ имени М. В. Ломоносова; e-mail: [email protected], ORCID: 0000-0002-8652-3341.
2 Измайлов Александр Александрович — ассистент кафедры философии и методологии экономики, Экономический факультет МГУ имени М. В. Ломоносова; e-mail: [email protected], ORCID: 0009-0004-7984-3613.
3 Статья подготовлена в рамках реализации внутрифакультетского гранта Экономического факультета МГУ имени М.В. Ломоносова по теме «Регуляторное вмешательство в цифровую эпоху: корректировка когнитивных ошибок или препятствование предпринимательству?».
© Тутов Леонид Арнольдович, 2024 [МЁШ^И
© Измайлов Александр Александрович, 2024 [МЁШ^И
LOMONOSOV ECON. JOUR. 2024. VOL. 59. No. 3
явления новых рисков и при этом сохранять привносимые ИИ позитивные эффекты. В качестве инструментов, применяемых в рамках «умного регулирования» ИИ, выделены создание «регуляторных песочниц» и механизмов предварительного тестирования алгоритмов ИИ, расширение стимулов для саморегулирования, разработка контралгоритмов и др.
Ключевые слова: искусственный интеллект, большие данные, манипуляции поведением потребителей, алгоритмическое ценообразование, ценовая дискриминация, «умное регулирование», предпринимательство.
Цитировать статью: Тутов, Л. А., & Измайлов, А. А. (2024). Цифровые технологии на службе у предпринимательства: новые вызовы для регулирования. Вестник Московского университета. Серия 6. Экономика, 59(3), 3-20. https://doi.org/10.55959/MSU0130-0105-6-59-3-1.
L. A. Tutov
Lomonosov Moscow State University (Moscow, Russia) A. A. Izmaylov
Lomonosov Moscow State University (Moscow, Russia) JEL: D49, L40, L50
DIGITAL TECHNOLOGIES IN SERVICE OF ENTREPRENEURSHIP: NEW CHALLENGES FOR REGULATION
The article examines new challenges for regulators arising from an increasing use of artificial intelligence (AI) and technologies for collecting and processing big data by companies. The purpose of the study is to identify an optimal theoretical approach to the regulation of AI use in the field of pricing and optimization of work with consumers. The manipulation of consumer behavior and the exploitation of their cognitive deviations based on the collection of big data, the strengthening of the problem of price discrimination and the risks of difficult-to-detect price collusion in the context of the use of algorithmic pricing are highlighted as new problems requiring regulatory intervention. The main factors that must be taken into account when choosing measures regulating the use of AI by companies include ultra-fast pace of development of digital technologies and frequent perception of them as a "black box", the decreasing effectiveness of traditional methods of economic analysis in dynamically changing conditions, the need for an integrated approach to solving many problems and coordinating the actions of various regulatory authorities. In accordance with this, "smart regulation" is recognized as the most optimal approach to regulating the use of AI by companies. Despite the fact that its implementation is associated with high transaction costs, this approach allows us to level out the problems of using AI, ex ante reduce the likelihood of new risks emerging and at the same time maintain the positive effects brought by AI. The tools used within the framework of "smart regulation" of AI include the creation of "regulatory sandboxes" and mechanisms for preliminary testing of AI algorithms, expansion of incentives for self-regulation, development of counter-algorithms, etc.
Keywords: artificial intelligence, big data, manipulation of consumer behavior, algorithmic pricing, price discrimination, smart regulation, entrepreneurship
To cite this document: Tutov, L. A., & Izmaylov, A. A. (2024). Digital technologies in the service of entrepreneurship: new challenges for regulation. Lomonosov Economics Journal, 59(3), 3-20. https://doi.org/10.55959/MSU0130-0105-6-59-3-1
Введение
В условиях цифровой трансформации компании в своей деятельности все чаще прибегают к использованию новых цифровых технологий, в их числе можно выделить технологии искусственного интеллекта и сбора и обработки больших данных. С одной стороны, широкое применение компаниями этих технологий может вести к росту прозрачности рынков, значительному снижению издержек поиска, снижению барьеров входа на рынок. Все это должно способствовать усилению конкуренции и увеличению благосостояния потребителей, однако на практике укрепление «цифровой руки» ведет к росту проблемы манипуляций поведением потребителей и появлению новых возможностей для ограничения конкуренции (Эзрахи, Стаки, 2022). Г. Вагнер и Х. Айденмюллер (Wagner, Б1ёепшие11ег, 2019) в своем исследовании выделяют три главных элемента «темной стороны» применения больших данных и ИИ для персонализа-ции воздействия на пользователей: ценовая дискриминация и выкачивание ренты, активная эксплуатация когнитивных ограничений потребителей, использование микротаргетинговой рекламы для формирования у потребителей предпочтений и моделей потребления, соответствующих интересам компании.
В рамках этой статьи исследовательский фокус концентрируется на проблемах, связанных с эксплуатацией когнитивных отклонений потребителей и манипуляций их поведением на основе больших данных, а также проблемах, связанных с применением ИИ в области ценообразования, к которым относятся усиление ценовой дискриминации и повышение рисков появления ценовых сговоров. Эти проблемы требуют вмешательства регуляторных органов, однако в условиях, когда темпы развития технологий крайне высоки, возможности для регуляторного вмешательства оказываются ограничены. Здесь крайне актуальным становится вопрос выбора оптимального регуляторного подхода и наиболее эффективных инструментов, которые позволят устранять возникающие проблемы, при этом сохраняя позитивные эффекты цифровизации и не подрывая инновационную и инвестиционную активность компаний.
Таким образом, цель исследования заключается в выборе оптимального теоретического подхода к регулированию применения ИИ в области ценообразования и оптимизации работы с потребителями.
Задачи исследования включают: выявление ключевых проблем и обусловленных ими вызовов, связанных с применением компаниями технологий работы с большими данными и алгоритмов ИИ; определение ключевых особенностей, которые необходимо учитывать при регуляторном вмешательстве в условиях широкого распространения цифровых технологий; выбор в контексте установленных проблем и особенностей оптимального подхода к регуляторному вмешательству.
Применение больших данных и искусственного интеллекта
для влияния на поведение потребителей
В условиях цифровой трансформации растет актуальность вопросов, связанных с ограниченной рациональностью экономических агентов и их когнитивными отклонениями. Впервые концепция ограниченной рациональности экономических агентов была системно изложена Г. Саймоном (Simon, 1978). Она представляет собой «информационно-поведенческую предпосылку, в соответствии с которой человек стремится к максимальному удовлетворению потребностей с учетом своей не только внешней, но и внутренней интеллектуальной ограниченности» (Тутов, Шаститко 2005, с. 118).
Рациональный выбор, согласно концепции Г. Саймона, представляет собой поиск лучшего решения из заданного набора возможностей. Ограниченная рациональность возникает из-за существования препятствий на пути обнаружения элементов множества возможностей и их сравнения. Индивиды при принятии решений, в силу когнитивных, временных и информационных ограничений, выбирают первую удовлетворительную альтернативу, соответствующую его желаниям, и не ранжируют доступные альтернативы по критерию полезности в поиске оптимального решения (Simon, 1956). В итоге рациональность индивидов определяется с учетом доступных ему знаний и методов анализа альтернатив. Главную роль при принятии решений здесь играют неполнота информации и субъективность восприятия (Милкова, 2021).
Широкое распространение цифровых технологий, с одной стороны, упрощает экономическим агентам поиск и обработку информации. Важную роль в этих процессах играют технологии искусственного интеллекта. Как отмечает С. Дэвидсон (Davidson, 2023), ИИ позволяет преодолеть когнитивные ограничения и благодаря этому улучшить процессы принятия решений, в том числе экономических. ИИ обладает возможностью в кратчайшее время обрабатывать огромные массивы данных, что может быть недоступно человеку или, как минимум, требует от него значительных затрат времени. Обработка данных при помощи ИИ позволяет выявлять наиболее актуальную информацию о доступных альтернативных решениях, их нюансах и последствиях их принятия. В результате этого процесс
принятия решений экономическими агентами упрощается. ИИ также позволяет снизить влияние предвзятости человека, которая может приводить к принятию решений, значительно отклоняющихся от оптимальных.
С точки зрения компаний аналитические и прогностические способности ИИ позволяют повышать эффективность производственных и распределительных процессов, оптимизировать затраты. Потребители при помощи ИИ могут за короткое время собрать информацию о широком перечне товаров и услуг, сравнивать альтернативы и выбрать оптимальное решение. При этом в условиях активного развития цифровых технологий, в том числе ИИ, доступ к ним упрощается и становится дешевле, что способствует ускорению их распространения.
Но, с другой стороны, развитие цифровых технологий сопровождается усилением существующих и появлением новых проблем. Например, в силу различий в когнитивных способностях пользователей, навыках применения цифровых технологий и доступе к ним, обострилась проблема асимметрии информации. Важно отметить, что в условиях технологического и социально-экономического развития стремительно растет количество доступных для выбора альтернатив. Вероятность совершения ошибки ограниченно рациональным индивидом в условиях присутствия многочисленных и разнообразных альтернатив увеличивается, возникает проблема информационной перегрузки (Schwartz, 2005). Рост набора альтернатив и дифференциация между ними может вызывать стресс в процессе выбора, а также сомнения относительно правильности уже сделанного выбора, что в результате усугубляет проблему (Earl, 2016). Таким образом, в условиях ограниченной рациональности экономических агентов под влиянием цифровых технологий повышается вероятность принятия неоптимальных решений потребителями, представителями компаний и регуляторных органов власти.
Следует отметить, что повышать вероятность ошибки при экономическом выборе могут социальные и этические проблемы, порождаемые цифровой трансформацией. К таким проблемам можно отнести нарушения приватности и безопасности, цифровое неравенство и дискриминацию, десоциализацию и др. (Royakkers et al., 2018). Все эти проблемы могут негативно отражаться на когнитивных способностях индивидов, что может способствовать принятию неоптимальных решений.
С точки зрения потребителей крайне актуальной проблемой в условиях цифровой трансформации является проблема манипулирования их поведением (Zuboff, 2015). Благодаря накоплению огромных массивов данных крупные цифровые компании могут устанавливать предпочтения потребителей и различными способами склонять их к выбору альтернатив, выгодных продавцу, но не потребителю. По мере развития цифровых технологий эта проблема набирает актуальность, главную роль здесь играет искусственный интеллект, который может эффективно управлять
поведением потребителей, а также технологии сбора и обработки больших данных (Alben, 2020).
Благодаря использованию цифровых технологий крупные компании получают широкие возможности для формирования информационной среды, в которой происходит взаимодействие с другими компаниями и пользователями. «Цифровые следы» позволяют компаниям не только идентифицировать потребителей, но и предоставляют информацию об их предпочтениях, причем сбор данных как правило скрыт от самих пользователей, и в большинстве юрисдикций не попадает под контроль со стороны регуляторных органов (Шаститко, Моросанова, 2024).
В рамках взаимодействия с потребителями активно используется подталкивание. Например, цифровые платформы с помощью онлайн-рекламы стремятся убедить пользователя в том, что предлагаемый вариант в наиболее полной мере соответствует его потребностям. Цифровые платформы также могут различными образами выделять наиболее выгодный им вариант среди других, тем самым склоняя выбор ограниченно рациональных пользователей в свою пользу. При этом с точки зрения пользователей такой выбор может еще сильнее отклоняться от оптимального.
Проблема манипулирования поведением потребителей усиливается за счет того, что компании активно эксплуатируют когнитивные отклонения. Современные цифровые компании комбинируют применение новых технологий и поведенческого дизайна, представляющего собой комплекс методик, разработанных в рамках поведенческих наук, направленных на изменение поведения потребителей и формирование у них привычек (Проволович, 2022). Крупные цифровые компании, обладающие достаточными ресурсами, активно финансируют исследования механизмов принятия решений экономическими агентами, что позволяет повысить эффективность манипуляций поведением потребителя. В результате этого возникает ситуация, когда предложение программирует спрос, при этом итоговый выбор потребителей может сильнее отклоняться от оптимального.
Эксплуатация когнитивных отклонений потребителей тесно связана с рекламой. Подобные воздействия на потребителей встречались и ранее. На протяжении длительного времени в рамках маркетинговых кампаний происходило взаимодействие представителей бизнеса с психологами и благодаря этому создавались маркетинговые инструменты, подталкивающие клиентов к совершению неоптимальных для них, но выгодных для продавца действий. Использование больших данных и технологий ИИ значительно масштабировали возможности для таргетинга, тем самым вывели его на новый уровень. С их помощью значительно расширились возможности для манипуляций поведением потребителей, эксплуатации их когнитивных отклонений для формирования у них ложных убеждений, ожиданий и предпочтений, а также соответствующих интересам
манипулятора моделей поведения. Благодаря новым технологиям появились возможность для реализации микротаргетинга, т.е. индивидуального воздействия на каждого потребителя. Это стало возможным благодаря масштабному сбору персональных данных и их автоматизированной обработке на основании алгоритмов ИИ, эффективность которой с точки зрения компании значительно выше, нежели в случае обработке данных наемными работниками.
Здесь также важно отметить, что эффективность алгоритмических манипуляций напрямую связана с возможностями оперативного сбора и анализа постоянно обновляемых данных. Любое действие потребителя в цифровой среде оставляет цифровой след в виде данных. Крупные цифровые компании, обладающие доступом к наиболее совершенным техническим решениям, могут оперативно фиксировать эти действия и с помощью ИИ-алгоритмов моментально адаптировать меры воздействия на его поведение. Таким образом, применение передовых технологий открывает компаниям широкие возможности для микротаргетинга, при этом сбор данных и их обработка ИИ позволяют значительно масштабировать и автоматизировать влияние на выбор потребителей, сделать его более тонким с точки зрения восприятия потребителями (lenca, 2023).
Наряду с проблемой манипуляции поведением ограниченно рациональных потребителей с применением алгоритмов ИИ также стоит выделить проблему сужения пространства для потребительского выбора. Как отмечалось ранее, по мере экономического, социального и технологического развития изобилие товаров и услуг возрастает. При этом, с одной стороны, цифровые технологии позволяют потребителям выявлять и сравнивать широкие наборы альтернатив. Однако, с другой стороны, цифровые компании активно применяют ИИ для разработки рекомендаций потребителям, которые могут представлять собой как рекомендации выгодных компании наборов товаров, или же целенаправленных рекомендаций, ориентированных на выбор конкретного товара или услуги. При этом по мере развития взаимодействия клиента с цифровой компанией доступный набор альтернатив может сужаться в соответствии с оставленным им цифровым следом (de Marcellis-Warin et al., 2022). В таких условиях процедура совершения выбора может упрощаться, однако сами доступные альтернативы могут еще сильнее отклоняться от оптимальных с точки зрения потребителя, что также ведет к снижению его благосостояния.
В контексте влияния искусственного интеллекта на ограниченную рациональность также можно выделить отдельный пласт социально-экономических проблем, связанных с сокращением рабочих мест, вызванным замещением труда человека искусственным интеллектом. В ряде областей искусственный интеллект и роботы могут принимать решения эффективнее, чем ограниченно рациональный человек, что ведет к сокращению персонала (Royakkers et al., 2018). Ограниченная рациональность
уволенных сотрудников может усугублять проблемы такого рода, осложняя переквалификацию и поиск новой работы.
В дополнение к этому отметим, что проблемы манипуляции поведением потребителей на основе сбора больших дополняются и усиливаются за счет использования больших данных в качестве основы для алгоритмического ценообразования. В результате этого компании не только подталкивают потребителей к выбору выгодных компании альтернатив, но и устанавливают максимальную цену, выкачивая ренту. Подробнее об этой проблеме речь пойдет в следующем разделе.
Алгоритмическое ценообразование:
новые регуляторные проблемы
Современные компании активно применяют ИИ с целью оптимизации их деятельности и увеличения прибыли. Важным направлением применения технологий ИИ и больших данных является ценообразование. Алгоритмические модели, основанные на применении технологий ИИ, в сочетании с обширными массивами персональных данных потребителей используются компаниями для формирования сложных прогнозов и оптимизации уровня цен.
Сбор данных о потребителях и их дальнейшая обработка при помощи ценовых алгоритмов, основанных на применении технологий ИИ, приводят к высокой сегментации клиентов. При этом на основе ИИ-алгоритмов формируются индивидуальные для каждого сегмента потребителей цены. Если компании доступны наиболее мощные технические решения, сегментация может доходить до индивидуального уровня, когда предлагаемые каждому потребителю цены формируются на основании обработки его персональных данных. В результате возникает ценовая дискриминация, компания устанавливает цену, при которой она может извлечь максимально возможный излишек, не отпугнув клиента от совершения трансакции. Вследствие этого благосостояние потребителя снижается, а компании извлекают дополнительную ренту, увеличивая тем самым свою прибыль (ёе МагсеШ8-Мгагт е! а1., 2022). С точки зрения компании такой подход к ценообразованию может быть эффективным, способствовать повышению прибыли, однако на благосостоянии потребителей алгоритмическое ценообразование может сказываться отрицательно, так как оно усиливает ценовую дискриминацию (ОегИск, Йоги, 2020).
Здесь важно отметить, что внедрение алгоритмов ИИ в процесс принятия решений в области ценообразования и персонализации работы с клиентами может привести к дополнительным проблемам и для компаний. В этом контексте также важна проблема ограниченной рациональности разработчиков, которые закладывают базовые параметры для алгоритмов ИИ и машинного обучения. Ограниченная рациональность наклады-
вает определенные ограничения на их когнитивные способности, равно как и на когнитивные способности лиц, разрабатывающих техническое задание и принимающих решение о внедрении созданных алгоритмов. В результате этого возрастает вероятность совершения ошибок на этапе создания алгоритмов ИИ. На такие ошибки может влиять качество данных, на которых обучается ИИ: если эти данные содержат искажения или являются недостоверными, эти искажения могут в дальнейшем масштабироваться в ходе работы ИИ. Ограниченно рациональные создатели ИИ могут не замечать такие искажения в данных, что в дальнейшем также ведет к ошибочным решениям, принимаемым ИИ. Такие ошибки могут вести к снижению прибыли компании, а также к нарушению регуляторных норм, что для компании может быть чревато внушительными штрафами.
Проблема усугубляется тем, что современные технологии ИИ в ходе машинного обучения оказываются способными выходить за пределы изначально установленных рамок. Крайне остро этот вопрос стоит относительно применения алгоритмов ИИ для ценообразования. Например, если на этапе разработки ему поставлена цель, заключающаяся в максимизации прибыли, в дальнейшем ИИ может самостоятельно изучать и выбирать правила поведения, которые ведут к достижению поставленной цели. Рост вычислительных способностей ИИ приводит к тому, что алгоритмы могут самостоятельно выявлять условия ценового сговора, оценивать его влияние на прибыль компании, и принимать решения о его реализации (Оа1, 2019). Важную роль в таком поведении ИИ играет возможность отслеживать цены конкурентов, что в условиях цифровой экономики и онлайн-рынков является легкодоступным (Са1уапо е! а1., 2020а).
При определенных условиях принятие решений ИИ в области ценообразования может приводить к сговору, нарушающему правила конкурентной борьбы и наносящему ущерб потребителям за счет установления завышенной относительно конкурентного уровня цены. При этом такие сговоры, установленные благодаря самостоятельным решениям ИИ, зачастую оказываются неявными и трудно обнаружимыми (Са1уапо е! а1., 2019). Его могут не замечать сотрудники как компаний, участвующих в сговоре, так и регулирующих органов. На фоне активного манипулирования поведением потребителей последние также могут не обращать внимание на рост цен в условиях сговора, так как благодаря действиям компаний, направленным на программирование принимаемых потребителями решений, характерный для сговора уровень может восприниматься ими как оптимальный. Все это может требовать дополнительного регуляторного вмешательства, однако вопросы его необходимости и дизайна на сегодняшний день остаются дискуссионными.
Дополнительной проблемой здесь выступает выявление умысла в действиях сотрудников компаний, ответственных за разработку и внедрение ИИ решений. В условиях динамичного развития и усложнения алгорит-
мов ИИ регулятору представляется затруднительным доподлинно установить, были ли заранее заданы разработчиками условия, на основании которых ИИ пришел к решению, устанавливающему уровень цены, соответствующий сговору, или же ИИ пришел к этому самостоятельно в ходе машинного обучения. Результатом этого является снижение эффективности государственного регулирования, что требует принятия дополнительных мер, направленных на ее повышение.
Особенности регуляторного вмешательства
в условиях стремительного развития цифровых технологий
При формировании мер, регулирующих деятельность компаний в цифровой экономике, важно учитывать, что развитие цифровых технологий порождает не только экономические, но и этические и социальные проблемы. Наряду с ценовой дискриминацией и сговорами, можно выделить такие проблемы, как нарушения безопасности и приватности, усиление рисков десоциализации, социальной дискриминации, усиления социального неравенства и др. Для полноценного решения этих проблем требуется комплексный подход, который позволит нивелировать риски усугубления одних проблем при решении других.
При выборе регуляторных мер в цифровой экономике также необходимо учитывать ряд особенностей, которые возникают в связи с развитием цифровых технологий, в том числе технологий ИИ. В качестве первой особенности стоить выделить сверхбыстрые темпы развития цифровых технологий, дальнейшее внедрение которых вызывает значительные изменения во всех сферах экономики. В таких условиях представители регуляторных органов, эксперты, ученые и в некоторых случаях представители компаний, разрабатывающих и внедряющих новые цифровые технологии, не успевают в полной мере осознать сущность новых технологий, алгоритмы их работы, выявить возможные угрозы. В результате этого значительно осложняется ex ante регулирование, а регулирование ex post в таких условиях может быть неэффективным (de Marcellis-Warin et al., 2022).
Ситуация осложняется тем, что стандартные методы экономического анализа, доступные регуляторам, могут оказываться малоэффективными, а также требовать значительного времени на проведение такого анализа. Это требует совершенствования их, которое позволит сделать экономический анализ более оперативным и одновременно с этим достаточно обоснованным (World Bank..., 2020).
Наряду с этим, к особенностям регулирования в цифровой экономике можно отнести широкие горизонты деятельности крупных цифровых компаний, которая распространяется на области ответственности множества регуляторных органов, что требует координации их действий (World Bank., 2020). В отношении крупных цифровых компаний также
стоит отметить, что они закрепляют за собой доминирующее положение на рынке. Такое положение, с одной стороны, позволяет им направлять значительные ресурсы на дальнейшее технологическое развитие, но, с другой стороны, это чревато усугублением таких проблем, как нарушение конкуренции, манипулирование поведением потребителей и ценовая дискриминация. Такое усугубление проблем связано в том числе и с тем, что крупные цифровые компании обладают доступом к передовым цифровым технологиям, например, цифровым гигантам доступны наиболее передовые алгоритмам ИИ, и они могут значительно масштабировать их применение, в том числе благодаря возможности собирать и обрабатывать огромные массивы личных данных потребителей.
В качестве важной особенности регулирования применения ИИ цифровыми компаниями можно выделить проблему «черного ящика». Решения, принимаемые современными алгоритмами ИИ, могут выходить за рамки, установленные разработчиками этих алгоритмов. В результате этого возникают трудности с установлением ответственных за принятие таких решений и с разработкой мер, направленных на предотвращение принятия ИИ решений, нарушающих регуляторные нормы. На сегодняшний день среди ученых, экспертов и представителей регуляторных органов сохраняется дискуссия относительно решения этой проблемы. Эта проблема крайне актуальна в случае возникновения ценовых сговоров, которые возникают в результате принятия решений алгоритмами ИИ, применяемыми для ценообразования. Отсутствие непосредственной коммуникации между представителями компаний, участвующих в сговоре, может приводить к тому, что компании будут уходить от ответственности, и это будет в полной мере соответствовать действующему законодательству (Са1уапо е! а1., 2020а). Дискуссионным остается вопрос о включении ИИ в перечень субъектов права и о его возможностях нести ответственность. Здесь можно выделить позицию представителей новой австрийской теории, согласно которой всю ответственность за решения, принимаемые ИИ, должен нести предприниматель, который применяет этот ИИ в рамках деятельности компании (РЬе1ап, 2020). Кроме того, можно отметить важность поиска регуляторных мер, ориентированных не на применение карательных мер за нарушающие закон решения ИИ, а на предотвращение принятия им таких решений.
Основные подходы к регулированию ценообразования
с применением искусственного интеллекта
На сегодняшний день можно выделить три основных подхода к регулированию ценообразования с применением ИИ. Первый подход связан с установкой значительных санкций в отношении компаний, применяющих ИИ, за принятые им решения, а также запретов на применение ИИ,
второй, напротив, заключается в дерегулировании и предоставлении свободы компаниям, третий представляет собой переход к системе «умного регулирования».
При выборе наиболее оптимального из этих подходов необходимо учитывать выделенные выше проблемы и особенности регуляторного вмешательства в условиях цифровизации. Такой подход должен быть эффективным в решении усиливающихся проблем нарушений условий конкурентной борьбы и ценовой дискриминации, способствовать повышению общественного благосостояния и справедливости его распределения с позиций умеренного эгалитаризма, т.е. такой подход должен позволять защищать интересы уязвимых к манипуляциям и дискриминации потребителей, при этом сохраняя позитивные эффекты от внедрения ИИ, стимулы для технологического и экономического развития компаний. Наряду с этим, наиболее оптимальный подход должен в условиях сверхбыстрых темпов развития технологий способствовать предотвращению появления новых проблем в будущем, а также позволять комплексно решать экономические, социальные и этические проблемы.
Перейдем к более подробному рассмотрению доступных теоретических подходов. Первый подход сопряжен с установкой санкций для компаний, которые применяются в случае принятия используемых компаниями ИИ решений об установке цен, соответствующих условиям ценового сговора. Здесь также возможна установка запретов и ограничений на использование ИИ для формирования цен. Например, А. МакКей и С. Вайнштайн (MacKay, Weinstein, 2022) в качестве основного подхода к регулированию ценообразования с применением ИИ на текущем этапе предлагают такие заградительные меры, как установка временных рамок на изменение уровня цен, а также запрет на использование данных о ценах конкурентов при использовании алгоритмического ценообразования. По мнению исследователей, такие меры будут эффективны в условиях, когда закон не позволяет привлекать компании к ответственности за неявные сговоры, сформированные благодаря решениям ИИ. Однако авторы отмечают, что в условиях динамичного и непредсказуемого развития технологий регуляторным органам необходимо сохранять гибкость, позволяющую корректировать курс. Предлагаемые А. МакКеем и С. Вайнштайном меры, с одной стороны, могут положительно отразиться на благосостоянии потребителей, способствовать устранению проблемы дискриминации и ценовых сговоров. Однако, с другой стороны, такие меры могут значительно снизить позитивные эффекты, привносимые использованием ИИ, с точки зрения как компаний, так и потребителей.
Если же говорить в целом об установлении значительных барьеров или запретов на применение ИИ в области ценообразования, они могут негативно повлиять на экономическое и технологическое развитие, привести к снижению инвестиционной и инновационной активности. По-
тенциально это может негативно отразиться на эффективности всей экономики страны и привести к долгосрочным негативным последствиям в условиях высокой конкуренции между государствами в области технологического развития.
Сторонники второго подхода, связанного с дерегулированием и предоставлением свобод компаниям на применение ИИ, утверждают, что такие меры являются наиболее эффективными в условиях, когда технологии развиваются настолько быстро, что ученые, эксперты и представители органов власти не успевают их осмыслить, оценить новые возможности и угрозы. По их мнению, в таких условиях принимаемые регуляторные меры оказываются неэффективными. Регулятору при этом, в первую очередь, доступно ex post вмешательство, которое также может негативно сказываться на экономической активности. На основании этого сторонники дерегулирования утверждают, что компании могут сами эффективно устранять проблемы дискриминации и манипулирования поведением потребителя, нарушения конкуренции, так как, во-первых, именно компании наиболее полно осведомлены о специфике собственной деятельности, во-вторых, обладают мотивами к саморегуляции, основным из которых являются ре-путационные риски (de Marcellis-Warin et al., 2022).
Однако сам факт того, что в экономической практике достаточно широко распространены и ценовая дискриминация, и манипулирование поведением потребителей, в том числе с применением мер «поведенческого дизайна» (Проволович, 2022), предусматривающих использование наработок ученых-психологов для повышения эффективности манипуляций, может говорить о том, что на практике саморегуляция не работает, или работает недостаточно эффективно. При внедрении алгоритмов ИИ компании стремятся максимизировать свою прибыль, и одна лишь саморегуляция не способна ограничить их действия, способствующие ухудшению благосостояния потребителей, дополнительного внешнего воздействия. Здесь стоит отметить, что вопросы возможности саморегулирования уже длительное время исследуются учеными (Maitland, 1985), и ряд его ограничений представляется возможным устранить при выстраивании регуля-торными органами эффективной системы стимулов.
В условиях, когда заградительные меры вместе с негативными эффектами применения ИИ могут устранить и позитивные эффекты, а дерегулирование чревато снижением благосостояния, наиболее оптимальным представляется третий подход, который заключается в формировании системы «умного регулирования». Этот подход был разработан в 1998 г. Н. Ганнингемом и П. Грабоски (Gunningham, Grabosky, 1998). Его суть заключается в формировании системы регулирования, которая позволяет достигать желаемого результата при минимальных издержках и негативных эффектах. В основе такого регулирования лежит использование широкого перечня регуляторных инструментов прямого и не-
прямого воздействия. Наиболее оптимальные инструменты могут выбираться индивидуально в отдельных случаях на основе экономического обоснования их эффективности, а также с учетом интересов всех сторон (Бикташев, 2023).
Такое регулирование позволяет комбинировать различные регуля-торные меры, а также выборочно применять их в отношении отдельных компаний и отраслей экономики с учетом издержек и выгод разных групп интересов. Для групп интересов, которые несут потери в результате реализации регуляторных мер, разрабатываются различные варианты компенсаций (Купряшин, Сарычева, 2013). При таком подходе принимаются во внимание интересы компаний, потребителей, государства, учитываются как экономические, так и социальные и этические проблемы, находят практическое применение современные разработки ученых и экспертов. Все это крайне актуально в случае регулирования применения алгоритмов ИИ.
Наряду с преимуществами «умного регулирования», важно отметить недостатки и ограничения такого подхода. К ним можно отнести риски искажения разработанных мер при их реализации, трудности в оценке и сравнении эффективности различных регуляторных мер, отсутствие полных знаний об объекте регулирования, возможность возникновения перекосов в пользу тех или иных групп интересов, значительные временные затраты на выбор оптимальных регуляторных мер (Купряшин, Сарычева, 2013; Бикташев, 2023).
Отметим, что риски искажения регуляторных мер и перекосов в пользу некоторых групп интересов также характерны и для традиционного регулирования. Выделяемая исследователями проблема отсутствия полных знаний об объекте регулирования при качественной реализации «умного регулирования», наоборот, решается по сравнению с традиционным подходом, так как здесь к обсуждению привлекаются в том числе ученые и эксперты. В случае с регулированием ИИ это является крайне важным, так как лишь ученые и эксперты в области программирования в наибольшей степени осведомлены о функционировании алгоритмов ИИ и их возможностях. В случае с регулированием ИИ и других цифровых технологий наиболее критичным из выделенных недостатков «умного регулирования» выступают временные затраты на его дизайн и реализацию. Однако с учетом ограничений других подходов и преимуществ «умного регулирования» этот недостаток не является критичным, он значительно смягчается при реализации в рамках «умного регулирования» мер, направленных на ex ante предотвращение негативных последствий применения цифровых технологий. В результате, несмотря на необходимость значительных трансакционных издержек для реализации такого подхода, он является наиболее оптимальным, при этом эффективной по сравнению с другими подходами является даже его частичная реализация.
Сегодня исследователи выделяют целый ряд регуляторных мер, которые могут найти применение в рамках «умного регулирования» использования алгоритмов ИИ в ценообразовании. Однако не все эти меры являются эффективными и реализуемыми на практике. В качестве примера эффективного инструмента можно выделить создание «регуляторных песочниц», где происходит апробация различных технологических решений и их регулирования. Этот инструмент позволяет поддерживать баланс между защитой интересов потребителей и общества в целом и содействием инновационному развитию цифровых компаний, как крупных, так и малых (ТгиЬу е! а1., 2022).
Еще одним важным инструментом «умного регулирования» может выступить разработка обязательного механизма предварительного тестирования алгоритмов ИИ и выявления потенциально возможных решений, которые эти алгоритмы будут принимать. Результаты проведенных в этой области исследований показывают, что при помощи моделирования отклонений от текущих рыночных цен под влиянием различных факторов можно заранее определить, способен ли ИИ-алгоритм устанавливать уровень цен, соответствующий сговору, однако полноценная реализация этого требует значительных усилий и затрат (Са1уапо е! а1., 2020Ь).
В качестве еще одного инструмента «умного регулирования» ИИ можно выделить создание дополнительных стимулов для саморегулирования компаний и повышения уровня прозрачности их деятельности. Создание таких стимулов возможно на основе реализации «метарегулирования», т.е. комплекса регуляторных мер, побуждающих компании выработать внутренние механизмы саморегулирования, позволяющие преодолеть экономические, этические и социальные проблемы и тем самым устранить потери других групп интересов. Важную роль здесь может сыграть риск-ориентированный подход, при котором назначаются высокие штрафные санкции за нарушение установленных регуляторных норм, побуждающие компании к саморегулированию (ёе МагсеШ8^агт е! а1., 2022).
Наряду с этим, исследователи выделяют такие меры регулирования ценообразования с применением ИИ, как создание государственных ИИ-алгоритмов, которые позволят выявлять и пресекать неправомерные действия, основанные на решениях алгоритмов, используемых компаниями, а также внедрение системы отчетности, в рамках которой будут фиксироваться и отслеживаться все решения, принимаемые ИИ-алгоритмами компаний (ёе МагсеШ8^апп е! а1., 2022).
Заключение
Подводя итоги, отметим, что цифровая трансформация усугубляет проблему выбора ограниченно рациональными индивидами, что создает новые вызовы для регулирования. Под воздействием цифровых технологий
индивиды совершают больше ошибок. Усиливающиеся по мере развития цифровых технологий социальные и этические проблемы усугубляют эту проблему. В результате выбираемые потребителями удовлетворительные альтернативы могут оказываться еще дальше от оптимального выбора. Одной из самых актуальных проблем здесь выступает применение алгоритмов ИИ и больших данных для выстраивания систем микротаргетинга и индивидуального ценообразования, позволяющих компаниям манипулировать поведением потребителей и программировать спрос. Такие меры помогают компаниям максимизировать прибыль, однако это происходит за счет ценовой дискриминации, снижающей благосостояние потребителей. Ряд проблем порождает внедрение ИИ в процесс принятия решений в области ценообразования, оно может приводить к негативным экономическим последствиям, например нарушениям условий конкурентной борьбы и формированию сговоров.
К особенностям регулирования применения алгоритмов ИИ для ценообразования можно отнести высокую скорость развития цифровых технологий, в условиях которой осложняется их оценка, широкие горизонты деятельности цифровых компаний и тесную взаимосвязь экономических проблем с социальными и этическими проблемами, что требует координации действий различных регуляторных органов. Кроме того, важно отметить, что процесс принятия решений ИИ продолжает восприниматься как «черный ящик», что осложняет выявление лиц, ответственных за принятие ИИ нарушающих закон решений.
Основными подходами к регулированию ценообразования с применением алгоритмов ИИ выступают установка санкций и запретов на применение ИИ в этой области, дерегулирование, и подход, основанный на реализации системы «умного регулирования». С учетом указанных выше особенностей оптимальным регуляторным подходом выступает «умное регулирование», однако этот подход является труднореализуемым, он требует значительных усилий как от регуляторных органов, так и от самих компаний. Дополнительными барьерами на пути его реализации выступают коррупция и влияние различных групп интересов. Однако именно этот подход даже при частичной его реализации можно рассматривать как наиболее эффективный с точки зрения повышения общественного благосостояния, уровня конкуренции, стимулирования экономического развития, инновационной и инвестиционной активности.
Список литературы
Бикташев, А. А. (2023). Концепция «умное регулирование» (smart regulation) в зарубежных исследованиях по государственному управлению. Вопросы государственного и муниципального управления, 1, 199-222. https://doi.org/10.17323/1999-5431-2023-0-1-199-222
Купряшин, Г. Л., & Сарычева, Н. Н. (2013). Концепция умного регулирования: зарубежный опыт и возможности применения в государственном управлении России. Вестник Московского университета. Серия 21: Управление (государство и общество), 2, 3-20.
Милкова, М. А. (2021). Информация и ограниченная рациональность выбора в цифровой экономике. Цифровая экономика, 1, 69-88. https://doi.org/10.34706/DE-2021-01-08
Проволович, Т. О. (2022). Искусственный интеллект как инструмент манипулирования поведением. Дата обращения 08.09.2023, https://phc.hse.ru/humai/news/603110314. html
Тутов, Л. А., & Шаститко, А. Е. (2005). Ограниченная рациональность: проблемы системности определения в междисциплинарном контексте. Общественные науки и современность, 2, 117-127.
Шаститко, А. Е., & Моросанова А. А. (2024). Дорогая бесплатность. Вопросы теоретической экономики, 2, 56-72. https://doi.org/10.52342/2587-7666VTE_ 2024_2_56_72 Эзрахи, А., & Стаки, М. (2022). Виртуальная конкуренция: посулы и опасности алгоритмической экономики. М.: Дело РАНХиГС.
Alben, A. (2020). When Artificial Intelligence and Big Data Collide — How Data Aggregation and Predictive Machines Threaten our Privacy and Autonomy. AIEthics Journal, 1(1). https://doi.org/10.47289/AIEJ20201106
Calvano, E., Calzolari, G, Denicol6 , V., & Pastorello, S. (2019). Algorithmic pricing what implications for competition policy? Review of Industrial Organization, 55, 155-171. https://doi.org/10.1007/s11151-019-09689-3
Calvano, E., Calzolari, G, Denicol6, V., & Pastorello, S. (2020a). Artificial Intelligence, Algorithmic Pricing, and Collusion. American Economic Review, 110(10), 3267-3297. https:// doi.org/10.1257/aer.20190623
Calvano, E., Calzolari, G., Denicolo, V., Harrington, J., & Pastorello, S. (2020b). Protecting consumers from collusive prices due to AI. Insights, 370(6520), 1040-1042. https://doi.org/10.1126/science.abe3796
Davidson, S. (2023). The economic institutions of artificial intelligence. SSRN Working Paper. Retrieved October 27, 2023, from https://ssrn.com/abstract=4456471or http:// dx.doi.org/10.2139/ssrn.4456471
de Marcellis-Warin, N., Marty, F., Thelisson, E., & Warrin, T. (2022). Artificial intelligence and consumer manipulations: from consumer's counter algorithms to firm's self-regulation tools. AI and Ethics, 2, 259-268. https://doi.org/10.1007/s43681-022-00149-5
Earl, P. E. (2016). Bounded Rationality in the Digital Age. In R. Frantz, L. Marsh (Eds.), Minds, Models and Millieux (p. 253-271). https://doi.org/10.1057/9781137442505_15
Gal, M. S. (2019). Illegal pricing algorithms. Communications ofthe ACM, 62(1), 18-20. https://dl.acm.org/doi/10.1145/3292515
Gerlick, J. A., & Liozu, S. M. (2020). Ethical and legal considerations of artificial intelligence and algorithmic decision-making in personalized pricing. Journal of Revenue and Pricing Management, 19, 85-98. https://doi.org/10.1057/s41272-019-00225-2
Gunningham, N., & Grabosky, P. (1998). Smart Regulation: Designing Environmental Policy. Oxford University Press.
Ienca, M. (2023). On Artificial Intelligence and Manipulation. Topoi, 42, 833-842. https://doi.org/10.1007/s11245-023-09940-3
MacKay, A., & Weinstein, S. (2022). Dynamic Pricing Algorithms, Consumer Harm, and Regulatory Response. Harvard Business School. Working Paper No. 22-050.
Retrieved October 23, 2023, from https://www.hbs.edu/ris/Publication%20FiIes/22-050_ ec28aaca-2b94-477f-84e6-e8b58428ba43.pdf
Maitland, I. (1985). The limits of self-regulation. Calif. Manage. Rev, 27(3). Royakkers, L., Timmer, J., Kool, L., & Est, R. (2018). Societal and Ethical Issues of Digitalization. Ethics and Information Technology, 20(2). https://doi.org/10.1007/s10676-018-9452-x
Schwartz, B. (2005). The Paradox of Choice: Why More is Less. New York: Harper Perennial.
Simon, H. A. (1956). Rational choice and the structure of the environment. Psychological Review, 63(2), 129-138. https://doi.org/10.1037/h0042769
Simon, H. A. (1978). Rationality as Process and as Product of Thought. American Economic Review, 68(2), 1-16.
Truby, J., Brown, R., Ibrahim, I., & Parellada, O. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation, 13(2), 270-294. https://doi.org/10.1017/err.2021.52
Wagner, G., & Eidenmueller, H. (2019). Down by Algorithms? Siphoning Rents, Exploiting Biases and Shaping Preferences — The Dark Side of Personalized Transactions. University of Chicago Law Review, 20. http://dx.doi.org/10.2139/ssrn.3160276
World Bank. Digital Regulation Handbook (2020). Retrieved October 10, 2023, from https://www.itu.int/en/ITU-D/Regulatory-Market/Pages/DigiReg20.aspx
Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30, 75-89. https://doi.org/10.1057/jit.2015.5
References
Biktashev, A. A. (2023). The concept of"smart regulation" in foreign public administration studies. Public Administration Issues, 1, 199-222. https://doi.org/10.17323/1999-5431-2023-0-1-199-222.
Ezrachi, A., Stucke, M. E., (2022). Virtual Competition: The Promise of the Algorothm-Driven Economy. Delo RANEPA.
Kupryashin, G. L., & Sarycheva, N. N. (2013). The concept of smart regulation: foreign experience and possibilities of application in Russian public administration. Lomonosov Public Administration Journal. Series, 21(2), 3-20.
Milkova, M. A. (2021). Information and bounded rationality of choice in the digital economy. Digital Economy, 1, 69-88. https://doi.org/10.34706/DE-2021-01-08
Provolovich, T. O. (2022). Artificial intelligence as a tool for manipulating behavior. Retrieved August 9, 2023, from https://phc.hse.ru/humai/news/603110314.html
Shastitko, A., Morosanova A. (2024). Expensive Free. Voprosy teoreticheskoy ekonomiki, 2, 56-72. https://doi.org/10.52342/2587-7666VTE_ 2024_2_56_72
Tutov, L. A., & Shastitko, A. E. (2005). Bounded rationality: problems of systematic definition in an interdisciplinary context. Social Sciences and Contemporary World, 2, 117127.
