Проблемы и перспективы регулирования отношений в рамках сделки, совершенной с участием искусственного интеллекта Текст научной статьи по специальности «Право»

Научная статья

УДК 347.44:004.8

EDN: https://elibrary.ru/jyqazw

DOI: https://doi.org/10.21202/jdtl.2023.18

з

Check for updates

Проблемы и перспективы регулирования отношений в рамках сделки, совершенной с участием искусственного интеллекта

Дмитрий Александрович Казанцев

B2B-Center

г. Москва, Российская Федерация

Ключевые слова

Автоматизация,

данные,

закупка,

искусственный интеллект,

ответственность,

право,

робот,

сделка,

цифровизация, цифровые технологии

Аннотация

Цель: исследование проблемы определения субъекта юридически значимого действия, совершенного с использованием искусственного интеллекта, а также распределения ответственности за последствия его работы.

Методы: для иллюстрации проблематики и практической значимости вопроса о правосубъектности искусственного интеллекта были выбраны автоматизированные закупки для государственных и корпоративных нужд, а методологическую основу исследования составила совокупность методов научного познания, используемых для теоретико-правовых исследований, в том числе сравнения, ретроспективного анализа, аналогии и синтеза.

Результаты: на примере отрасли конкурентных закупок для государственных и корпоративных нужд проанализирована эволюция автоматизации хозяйственных отношений вплоть до внедрения искусственного интеллекта. Продемонстрированы успешно апробированные ответы на вызовы, обусловленные поэтапным внедрением цифровых технологий в хозяйственные отношения, а также соответствующие модификации правового регулирования. На основании текущего уровня развития технологий сформулированы перспективные вопросы правового регулирования хозяйственных отношений, реализуемых с использованием искусственного интеллекта, и прежде всего вопрос определения субъекта сделки, совершенной с использованием искусственного интеллекта. В качестве приглашения к дискуссии после анализа выводов правоведов о возможных вариантах юридического статуса искусственного

© Казанцев Д. А., 2023

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

интеллекта предложены варианты ответа на вопрос о его правосубъектности при заключении сделки. Для решения вопроса об ответственности за решения, ставшие результатом реализации алгоритмов программно-аппаратного комплекса, предложено несколько моделей распределения такой ответственности между его создателем, его владельцем и иными лицами, действия которых могли повлиять на результаты работы такого алгоритма. Предложенные выводы могут использоваться для развития нормативного регулирования как в совокупности, так и по отдельности. Научная новизна: в работе на основании анализа эволюции практик использования цифровых технологий в закупках сформулированы потенциальные проблемы правового порядка, обусловленные непрерывным процессом автоматизации хозяйственных отношений, а также предложены правовые конструкции для решения таких проблем. Практическая значимость: выводы и предложения настоящей работы имеют перспективное значение для концептуального понимания и нормативного регулирования инструментов проведения закупок в электронной форме как на корпоративном, так и национальном уровне.

Для цитирования

Казанцев, Д. А. (2023). Проблемы и перспективы регулирования отношений в рамках сделки, совершенной с участием искусственного интеллекта. Journal ofDigital Technologies and Law, 7(2), 438-463. https://doi.org/10.21202/jdtl.2023.18

Содержание

Введение

1. Пять цифровых трансформаций конкурентных закупок

1.1. Закупки в электронной форме

1.2. Цифровизация закупочной работы

1.3. Автоматизация создания документов

1.4. Автоматизация бизнес-процессов

1.5. Автоматизация решений

2. Правосубъектность искусственного интеллекта

3. Правовой статус сделки, совершенной с участием искусственного интеллекта

Выводы

Список литературы Введение

Использование искусственного интеллекта с каждым годом становится все более востребованным в самых различных отраслях. Актуальность искусственного интеллекта является логичным и неизбежным следствием повсеместного распространения цифровых технологий.

Цифровые технологии уже давно используются не только для повседневной коммуникации, но и для сопровождения, а сегодня еще и для оформления хозяйственных отношений. Закупки корпоративного и государственного сегментов могут служить наглядным примером стремительного расширения области применения информационных технологий.

Однако сегодня диджитализация выходит на новый уровень: программно-аппаратный комплекс решает задачи и осуществляет действия, которые традиционно считались прерогативой человека. Это и создание объектов авторского права, и фактическое заключение сделок.

Такое проникновение искусственного интеллекта в хозяйственные, а вслед за тем и в правовые отношения с неизбежностью ставит перед нами вопросы юридического характера. Например, кто является автором текста, созданного искусственным интеллектом? Или кто отвечает за последствия сделки, правовое бытие которой порождено последствиями реализации алгоритмов программно-аппаратного комплекса?

Эти вопросы приобретают особенную актуальность в силу того, что и диджита-лизация в целом, и использование искусственного интеллекта в частности отнюдь не являются сиюминутной данью моде. Рациональное и последовательное внедрение этих технологий действительно способно повысить эффективность как процессов производства, так и бизнес-процессов в целом.

В связи с этим можно ожидать лишь расширения и интенсификации применения цифровых технологий. А значит, и юридическая наука не сможет уклониться от ответов на возникающие вопросы. «При этом юристам не обязательно постигать математические и технические тайны цифровизации; цифровизация не входит в предмет юридической науки. Об этом приходится писать, поскольку многие из тех, кто посвятил свои исследования цифровизации, игнорируют то обстоятельство, что науки делятся на технические и социальные, а юридические науки - науки социальные, и технические нормы не являются предметом их анализа» (Лазарев, 2023).

Разумеется, электронные технологии, как и любые технологии, имеют ограничение области эффективного применения. Но, например, конкурентные закупки В2В (business-to-business) и B2G (business-to-government) являются той сферой, в которой эти технологии дают качественное повышение эффективности работы: так, с помощью цифровых технологий уже сегодня за считаные часы выполняются те бизнес-процессы, на которые в традиционной парадигме отводились недели.

Применение программно-аппаратных комплексов вовсе не ограничивается конкурентными закупками. Однако эта сфера позволяет представить наглядные иллюстрации как той поэтапной эволюции внедрения цифровых технологий, которая логически привела к использованию ИИ, так и сопутствующей правовой проблематики. Не претендуя на всеобъемлющее исследование применения технологий автоматизации в хозяйственной деятельности, в рамках данной статьи именно на примере электронных конкурентных закупок будут рассмотрены те вопросы, которые синтез бизнеса и цифровых технологий ставит перед юридической наукой.

И в сегменте B2G, и особенно в сегменте В2В за I четверть XXI века конкурентные закупки прошли путь от внедрения электронного документооборота до апробирования технологий искусственного интеллекта. Этот путь включал не только множество экспериментов, но и несколько качественных переходов, каждый из которых требует, по крайней мере, обобщенного анализа не только с организационной, но и с правовой точки зрения.

Такой анализ даст нам возможность отследить те ключевые трансформации, каждая из которых принципиальным образом меняла значение цифровых

технологий в закупочной деятельности. И та трансформация, связанная с внедрением ИИ в повседневные бизнес-процессы, которая в этой сфере происходит сегодня, не ограничивается лишь вопросами технологии, но и в значительной мере касается вопросов права.

При этом важно не забывать о том, что и предшествующие трансформации отнюдь не обходились без формулировки и внедрения новых правовых конструкций. А значит, мы можем опираться и на этот опыт для ответа на новые вопросы.

1. Пять цифровых трансформаций конкурентных закупок

Конкурентные закупки в той или иной форме существуют уже не первое столетие. И до конца XX века они проводились, за редчайшим исключением, без использования цифровых технологий. Однако в течение первой четверти XXI века использование цифровых технологий при проведении закупок не просто стало повсеместным, а повлекло стремительное изменение качества использования этих технологий.

Несмотря на стремительную диджитализацию, в целом можно констатировать ее эволюционный характер. Это, в свою очередь, дает нам возможность проследить этапы внедрения цифровых технологий в закупочное пространство. Для наглядности эту эволюцию можно представить в виде пяти трансформаций, результатом каждой из которых стала принципиально новая роль цифровых технологий в закупочных бизнес-процессах.

Обособление этих трансформаций важно еще и в связи с тем, что на практике крайне затруднителен переход на очередной уровень внедрения цифровых технологий без глубокой и последовательной реализации предыдущего уровня в повседневной закупочной работе. Иными словами, каждая предшествующая трансформация является необходимым условием для последующей трансформации.

1.1. Закупки в электронной форме

Первой цифровой трансформацией конкурентных закупок можно назвать перевод таких закупок в электронную форму.

Электронную конкурентную закупку можно в самом первом приближении определить через технологический признак как формализованную процедуру конкурентного выбора контрагента, в рамках которой все отношения между организатором и участниками закупки, в том числе юридически значимый документооборот и торги в режиме реального времени, полностью реализуются в сети Интернет без использования документов на бумажных носителях.

Разумеется, не только торги в Интернете, но даже и простой отказ от документов на бумажных носителях невозможно реализовать без «нулевого» шага в виде внедрения хозяйствующими субъектами электронного документооборота. Для того чтобы документ на электронном носителе признавался столь же юридически значимым, как и документ на бумажном носителе, потребовался механизм удостоверения юридической значимости электронного документа.

Таким механизмом стала электронная подпись, которая позволила направлять предложение о заключении сделки в виде файла и гарантировать такому файлу статус полноценной оферты в гражданско-правовом смысле. В самом начале 2002 г.

был подписан Закон «Об электронной цифровой подписи»1, а в 2011 г. ему на смену пришел ныне действующий Закон «Об электронной подписи»2.

Вопрос о видах и порядке применения электронных подписей остается за рамками этой статьи. Для рассматриваемой темы важно то, что посредством проставления электронной подписи юридическая значимость сообщается не только документам на электронном носителе, но и информации в электронной форме. В частности, такой подписью может быть удостоверен электронный образ бумажного документа или даже цифра, указанная в качестве аукционной ставки. А это уже, в свою очередь, открывает пространство для проведения полноценных торгов в электронной форме.

Первые электронные закупки стали проводиться корпоративными заказчиками в 2002 г., а к концу десятилетия электронные аукционы были введены и для государственных заказчиков3. И хотя широкий спектр инструментария электронных закупок не ограничивается лишь аукционом - так, в электронной форме с тем же успехом можно проводить и конкурсы, и запросы предложений, и запросы цен, - но сама по себе новелла об использовании электронных аукционов для государственных закупок стала важнейшей вехой официального признания электронных закупочных технологий. Отдельной дискуссии заслуживает вопрос о том, насколько методологически и практически оправдано избрание из всего спектра доступных инструментов электронных закупок одного лишь аукциона в электронной форме, который в действующем Законе «О контрактной системе» играет доминирующую роль4.

Сегодня электронная форма является нормой и для государственных, и для коммерческих закупок. Однако на практике в понятие «электронной закупки» разные заказчики вкладывают разное содержание. Для одних это публикация закупочной документации в сети Интернет с последующим сбором предложений на электронных носителях. Для других - проведение формализованной процедуры на специализированном портале, именуемом электронной торговой площадкой.

Различаются и хронологические рамки применения электронных технологий в закупке. Традиционно для наименования электронной закупкой достаточно проведения на электронной торговой площадке той части бизнес-процессов, которые начинаются публикацией извещения о закупке и завершаются объявлением результатов закупки.

Однако на деле комплекс закупочных бизнес-процессов куда обширнее. Он начинается задолго до объявления закупки формализованной работой с той потребностью, для удовлетворения которой эта закупка необходима, а результаты такой работы включаются в план закупок. Завершается же закупочная работа много позднее выбора победителя оформлением результатов поставки, а в развитых закупочных

Об электронной цифровой подписи: Федеральный закон от 10.01.2002 № 1-ФЗ. Собрание законодательства РФ, 14.01.2002, № 2. Ст. 127.

Об электронной подписи: Федеральный закон от 06.04.2011 № бЗ-ФЗ. Собрание законодательства РФ, 11.04.2011, № 15. Ст. 2036.

О размещении заказов на поставки товаров, выполнение работ, оказание услуг для государственных и муниципальных нужд: Федеральный закон от 21 июля 2005 года № 94-Фз. Собрание законодательства РФ, 2005, № 30. Ст. 3105.

О контрактной системе в сфере закупок товаров, работ, услуг для обеспечения государственных и муниципальных нужд: Федеральный закон от 05.04.2013 № 44-ФЗ. Собрание законодательства РФ, 08.04.2013, № 14. Ст. 1652.

1

2

3

4

практиках - анализом качества удовлетворения поставленной продукцией первоначально заявленной потребности.

Технически все эти бизнес-процессы уже давно могут реализовываться в электронной форме. Практика показывает, что при должной реализации их перевод в электронную форму имеет практический смысл. Однако для этого нужна уже следующая трансформация, которую условно можно назвать цифровизацией закупочной работы.

1.2. Цифровизация закупочной работы

Цифровизация закупок - это перевод в электронную форму всех формализованных закупочных бизнес-процессов от планирования закупки до приемки поставленной продукции. Такая трансформация, как правило, требует создания специализированного портала, обеспечивающего прохождение бизнес-процессов в цифровой среде.

Если цифровизация закупочной работы проведена успешно, то весь внутренний и внешний документооборот, связанный с подготовкой и проведением закупки, осуществляется в электронной форме. Бизнес-процессы реализуются по тем маршрутам, которые предлагают пользователю алгоритмы специализированного портала. Это, в свою очередь, упорядочивает закупочное взаимодействие и облегчает деятельность человека, который получает возможность сосредоточиться не на бюрократической, а на содержательной части своей работы.

Цифровизация закупочной работы почти всегда подразумевает поэтапное внедрение новых технологий в устоявшиеся бизнес-процессы. Все этапы такого внедрения можно условно объединить в два блока: создание цифровой среды, в которой будут проходить бизнес-процессы после их цифровизации, и последующее развитие цифровой системы, обеспечивающей прохождение бизнес-процессов в электронной среде (Казанцев, 2022). Очевидным образом эти блоки могут быть реализованы лишь последовательно, но внутри каждого из двух блоков отдельные этапы могут прорабатываться и параллельно.

Создание цифровой среды не ограничивается созданием специализированного портала. Этот блок требует также решения целого ряда организационных и юриди-ко-технических вопросов, таких как:

1. Систематизация закупочных бизнес-процессов с распределением полномочий и ответственности, исключением лишних звеньев и добавлением недостающих элементов.

2. Регламентация закупочных бизнес-процессов в документах, обязательных для всех субъектов бизнес-процессов. Такие документы должны исключать как различные толкования формулировок, так и размытие ответственности, неопределенность сроков и иные юридико-технические недочеты.

3. Описание закупочных бизнес-процессов в виде алгоритмов, предназначенных для наглядной визуализации регламентирующих документов и упрощения последующей цифровизации регламентированных бизнес-процессов.

4. Создание программного обеспечения для реализации закупочных алгоритмов, а также интуитивно понятного интерфейса для использования этого программного обеспечения.

5. Пользовательское тестирование и отладка функциональности программного обеспечения для реализации закупочных алгоритмов.

6. Апробирование созданной цифровой среды на пилотном проекте для минимизации издержек последующего внедрения программного обеспечения для всех бизнес-процессов.

7. Модернизация цифровой среды по итогам пилотного проекта и ее распространение на все закупочные бизнес-процессы.

Развитие цифровой системы закупок в самом общем виде сводится к расширению области ее использования в хозяйственной деятельности компании путем постепенного перевода всех бизнес-процессов в электронную форму.

Однако не стоит забывать о том, что цифровизация закупок, при всех очевидных удобствах, в глобальном смысле означает лишь реализацию старых процессов в новой среде. По известному определению, цифровизация хаоса порождает лишь хаос в электронной форме. Иными словами, цифровизацию закупочных - да и любых других - бизнес-процессов необходимо начинать с их отладки и оптимизации. Не стоит ожидать эффективности от внедрения цифровых инструментов при сохранении избыточных согласований или, наоборот, участков непрозрачности решений.

Для того чтобы содержание закупочной работы качественно изменилось благодаря внедрению цифровых технологий, цифровизации недостаточно. Необходима автоматизация.

Понятие автоматизации необходимо строго отделять от понятия цифровизации. Цифровизация предшествует автоматизации и является ее необходимым условием, но отнюдь не тождественна ей.

1.3. Автоматизация создания документов

Если цифровизация представляет собой осуществление классических бизнес-процессов в электронной среде, то автоматизация - это привлечение к выполнению части задач в рамках таких процессов мощностей программно-аппаратного комплекса. Причем речь не идет о задачах вроде маршрутизации документов и напоминании о наступлении тех или иных сроков. Автоматизация означает использование программно-аппаратного комплекса, в том числе для создания таких документов.

В самом общем виде за человеком в таком разделении труда остается загрузка исходных данных и контроль результатов, а за программно-аппаратным комплексом - обработка данных и формирование результатов. Ответственным за результат, в том числе в юридическом смысле, остается уполномоченный сотрудник. Однако при должной реализации внедрение подобных технологий качественно сокращает объем рутинной работы человека и повышает ее экспертную составляющую.

Первый шаг такой автоматизации - это формирование базы данных, включающей конструктор электронных документов с предустановленными формами. Эти формы могут иметь вид текстовых полей, полей цифр или дат, списков, формул и т. д. С помощью интерфейса конструктора документов ответственный сотрудник вводит исходную информацию в предустановленные формы. На основании совокупности этой информации программно-аппаратным комплексом сперва подбирается релевантная форма, а затем в этой форме заполняются переменные значения.

Именно конкурентные закупки в силу самой своей организационной специфики представляют собой перспективную среду для автоматизации процессов подготовки документов. Ведь нормальная закупка проводится по формализованной, заранее регламентированной процедуре, а число вариантов как шаблонов закупочной

документации, так и шаблонов заявки на участие в закупке является конечным и, как правило, весьма ограниченным.

Это создает возможность для использования при автоматизации закупок помещенных в цифровую среду шаблонов документов, а в развитых электронных системах еще и заполнение этих шаблонов с помощью технологии наследования данных. Под наследованием данных с точки зрения бизнес-процессов в данном случае мы понимаем возможность автоматизированного предзаполнения форм документов, контрактов и т. д. По сути, заказчику при подготовке каждой закупки остается лишь указать в «шаблоне» документации предмет закупки, требования к закупаемой продукции и условия будущей поставки.

С помощью конструктора документов создается форма, необходимая для данной закупочной процедуры, а с помощью наследования данных в этой форме заполняются поля переменных.

Максимально упрощая, систему наследования данных в рамках конкурентной закупки можно представить так:

1. Параметры потребности формулируются в виде электронной заявки на проведение закупки.

2. Параметры согласованной заявки включаются в план закупок.

3. Данные строки плана закупок «подтягиваются» в типовую закупочную документацию, которая благодаря этому превращается в проект документации конкретной закупки.

4. Нормы закупочной документации транслируются в проект договора.

5. Договорные условия отражаются в закрывающих документах.

По большому счету, сегодняшняя архитектура цифровой среды государственных закупок, и прежде всего Единой информационной системы в сфере закупок, строится именно на таких подходах.

Для эффективного использования подобной электронной системы пользователю должно быть достаточно профессиональных знаний в своей области. Иными словами, автоматизация хороша лишь в тех случаях, когда она высвобождает время сотрудника, а не требует от него тратить это время на изучение порядка использования функциональности электронного портала.

Вот почему в числе прочего дизайн системы и ее интерфейса на практике является одним из ключевых факторов автоматизации работы. Несколько упрощая, можно сформулировать этот принцип так: система тем лучше, чем меньшее количество кнопок нужно нажать человеку для получения сложного результата.

Результатом наследования данных предшествующих документов должно становиться предзаполнение форм последующих документов. Например, в рамках согласованной заявки утверждены наименование и количество приобретаемой продукции - в этом случае технология наследования данных должна обеспечить автоматизированное предзаполнение переменных «наименование» и «количество» и в плане закупок, и в закупочной документации, и в проекте договора, и в проектах документов о приемке. При этом предзаполнение данных должно оставлять человеку пространство для их редактирования - поскольку, как уже было сказано, именно человек в конечном счете отвечает за результат.

Таким образом, после внедрения инструментов автоматизации создания документов исходные данные, в том числе параметры закупки и значения переменных, указываются человеком. Проекты документов создаются программно-аппаратным

комплексом. А юридическую значимость этим документам сообщает подписание, осуществляемое уполномоченным сотрудником посредством проставления электронной подписи.

При этом ни в теории, ни на практике потенциал автоматизации в закупках не ограничивается формированием закупочной документации. Уже сегодня мы видим успешные примеры автоматизации отдельных бизнес-процессов, связанных с закупками.

1.4. Автоматизация бизнес-процессов

Автоматизацию бизнес-процессов можно определить как обеспечение их прохождения с использованием алгоритмов программно-аппаратного комплекса. Как правило, это требует существенной организационной переработки этих бизнес-процессов при сохранении их сущности. После автоматизации закупок человек принимает решения только на ключевых этапах.

Возможности автоматизации позволяют реализовать закупки и по принципиально новым процедурам - качественно сокращающим организационные издержки всех сторон закупочного процесса при сохранении конкурентности и прозрачности самой закупки (Казанцев, Михалева, 2020). Уже сегодня набирают популярность так называемые динамические закупки, в рамках которых сбор предложений поставщиков и их ранжирование де-факто автоматизированы. И это пример того, как автоматизация требует организационной перестройки привычных бизнес-процессов.

Например, в рамках классической конкурентной закупки заказчик сперва публикует извещение о закупке, затем от одной до нескольких недель ожидает поступления предложений от поставщиков, потом оценивает и ранжирует эти предложения и лишь после этого оформляет итоги закупки. Автоматизация в рамках динамической закупки требует выстроить процесс иначе: сперва поставщики публикуют свои предложения на специализированном портале и подписывают их электронной подписью как оферты, адресованные неопределенному кругу потенциальных заказчиков; затем заказчик, при возникновении потребности в закупке, указывает параметры этой потребности в предназначенных для того полях интерфейса специализированного портала; после этого программно-аппаратный комплекс портала проводит автоматизированный поиск релевантных предложений среди тех, которые уже были загружены поставщиками, и сразу же ранжирует их по параметрам, заданным заказчиком.

Сегодня появляются все новые и новые разновидности этой схемы в виде электронных маркетплейсов и корпоративных интернет-магазинов. Эти разновидности порой могут иметь существенную специфику: например, предварительное предложение может не иметь статуса оферты, а его выбор означает не акцепт, а лишь приглашение к переговорам. Но даже такая специфика не отменяет базовой схемы описанной выше автоматизации.

Инструмент быстрого приобретения продукции с автоматизированным подбором потенциальных предложений на сегодняшний день регламентирован ч. 12 ст. 93 Закона «О контрактной системе»5 как полноценный способ определения поставщи-

О контрактной системе в сфере закупок товаров, работ, услуг для обеспечения государственных и муниципальных нужд: Федеральный закон от 05.04.2013 № 44-ФЗ. Собрание законодательства РФ, 08.04.2013, № 14. Ст. 1652.

5

ка (подрядчика, исполнителя). В качестве рекомендованного инструмента он получил свое место и в закупках государственных корпораций и субъектов естественных монополий6. Еще в 2014 году схожий инструмент под названием Dynamic purchasing были упомянут в Директиве ЕС «О публичных закупках»7, а в 2016 г. стал едва ли не основным способом выбора поставщика в Закупочном кодексе Италии8.

Динамическая закупка - это лишь один из вариантов автоматизации закупочных бизнес-процессов. Строго говоря, в этом случае автоматизация касается лишь выбора победителя. Это действительно позволяет качественно сократить временные издержки. Однако в конкурентных закупках может быть реализован и более глубокий вариант автоматизации.

Такой вариант автоматизации называют сквозной автоматизацией. Она базируется на описанной выше технологии наследования данных, но не ограничивается ею. В схематическом виде ее можно описать следующим образом:

1. Заказчик формирует базу данных с библиотеками типовых закупочных доку-ментаций, проектов договоров и т. д.

2. База данных интегрируется в специализированный портал вместе с категорий-ными стратегиями заказчика.

3. При возникновении потребности в закупке уполномоченный сотрудник указывает ключевые параметры этой потребности в предназначенных для того полях интерфейса специализированного портала.

4. На основании ключевых параметров программно-аппаратным комплексом определяется категорийная стратегия.

5. В рамках данной стратегии осуществляются автоматизированный сбор и обработка информации, в том числе информация о конкурентном состоянии рынка, наличии квалифицированных поставщиков, рыночных ценах на продукцию, после чего определяется наиболее эффективный способ закупки и формируется пакет закупочной документации.

6. Уполномоченный сотрудник утверждает проекты либо вносит дополнительные данные для уточнения результатов.

7. На основании документации, утвержденной уполномоченным сотрудником, программно-аппаратный комплекс осуществляет контроль сроков и публикует либо рассылает извещение о закупке в предназначенное для того время.

8. В зависимости от выбранного способа закупки программно-аппаратный комплекс подбирает предложения, заранее опубликованные поставщиками для участия в динамической закупке, либо направляет квалифицированным поставщикам приглашения прислать свои предложения.

9. После сбора предложений программно-аппаратный комплекс осуществляет проверку сведений о поставщиках в открытых источниках, оценивает соответствие

Об особенностях участия субъектов малого и среднего предпринимательства в закупках товаров, работ, услуг отдельными видами юридических лиц: Постановление Правительства РФ от 11.12.2014 № 1352. Собрание законодательства РФ, 22.12.2014, № 51. Ст. 7438.

Directive 2014/24/EU of the European Parliament and of the Council of 26 February 2014 on public procurement. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A32014L0024

Codice dei contratti pubblici (Decreto legislativo 18 aprile 2016, n. 50). https://www.bosettiegatti.eu/info/ norme/statali/2016_0050.htm

6

7

8

каждого предложения потребности заказчика и ранжирует предложения на основании критериев, указанных заказчиком.

10. Заказчик утверждает ранжирование и объявляет победителя, указывает дополнительные данные для проведения новой закупки.

11. В случае объявления победителя программно-аппаратный комплекс составляет проект договора и направляет его сперва на утверждение заказчику, а затем на подписание поставщику.

12. На основании параметров подписанного договора программно-аппаратный комплекс осуществляет контроль сроков и объемов поставки, в том числе рассылает напоминания об отгрузке и приемке.

13. По итогам поставки на основании сведений договора и загруженной заказчиком информации о фактическом исполнении договора программно-аппаратный комплекс формирует проекты закрывающих документов и направляет их на подписание заказчику и поставщику (Казанцев, 2020).

Эта схема охватывает все основные этапы закупочной работы и допускает использование всех основных способов закупки. Важно подчеркнуть: человек при этом не устраняется от закупочной работы, и именно его электронной подписью сообщается юридическая значимость ключевым решениям и документам. Но вот подготовка этих решений и документов, их маршрутизация, коммуникации с контрагентом и «бюрократические» элементы работы - все это реализуется силами программно-аппаратного комплекса.

В такой парадигме не только сокращаются трудозатраты уполномоченного сотрудника при одновременном увеличении скорости прохождения бизнес-процессов. Реализация этих процессов силами программно-аппаратного комплекса снижает значение так называемого человеческого фактора и субъективизма в принятии решений. Ведь тот факт, что человек может вносить правки в документы, подготовленные программно-аппаратным комплексом, не отменяет того, что каждая из этих правок фиксируется в истории изменений, а это в свою очередь облегчает ретроспективный контроль.

Сквозная автоматизация создает условия для формирования системы S2P. Source-to-pay - это прикладная автоматизация всего комплекса закупочной работы, включая все взаимодействия между заказчиком и поставщиком9. В этой системе все бизнес-процессы, связанные с закупкой, проходят в цифровой среде и реализуются в том числе с использованием искусственного интеллекта.

Искусственный интеллект при должной интеграции в систему S2P способен существенно расширить потенциал автоматизации и индивидуализировать закупочные сценарии в зависимости от уникальных параметров сочетания потребности заказчика с рынком приобретаемой продукции. В дополнение к описанной выше базовой схеме автоматизации искусственный интеллект на основании анализа больших данных - как из открытых источников, так и из собственных архивов ранее проведенных закупок - способен выполнять по меньшей мере следующие функции:

- Прогнозировать потребности. Для этого ИИ анализирует деятельность заказчика с точки зрения необходимых для нее ресурсов, отслеживает объем и содержание складских запасов, а также выполнение рамочных договоров. Если возникает риск

McCann, Jo. How source-to-pay works. https://blog.routable.com/how-source-to-pay-works/

9

того, что тот или иной ресурс близок к истощению и не может быть получен без проведения закупки, то ИИ сообщает об этом заказчику, а в идеале еще и предлагает оптимальные параметры будущей закупки. Например, учитывается фактический срок выполнения заказа поставщиками. Ведь чем больше времени требуется поставщику, чтобы доставить товары, тем больше запасов вынужден держать производитель10.

- Определить наиболее эффективный инструмент закупки. По большому счету эта функция является продолжением функции определения базовых параметров. На основании анализа информации о состоянии рынка закупаемой продукции в регионе ее закупки ИИ может оценить, что будет эффективнее - объявить аукцион, провести динамическую закупку или сразу предложить кандидатуру единственного поставщика. Ведь, например, попытка проведения аукциона, заранее обреченного на провал в силу отсутствия конкуренции, будет означать лишь дополнительные организационные и временные издержки заказчика без какого бы то ни было результата.

- Провести расширенную проверку квалификации и хозяйственного поведения поставщика. ИИ способен не просто собрать данные из официальных реестров, но и получить отзывы других клиентов, информацию о судебных разбирательствах, а иногда даже сведения о мощностях, оборудовании, технологиях, квалификации сотрудников и т. д. Все эти данные важны для заключения договора. Вот только самому заказчику без использования ИИ потребуется несравненно больше времени для того, чтобы собрать хотя бы часть этих сведений.

- Определить и контролировать логистику доставки. ИИ не просто высчитывает оптимальный маршрут, его стоимость и риски, но и позволяет заказчику при минимальной технологической интеграции с поставщиком и его навигационными системами отслеживать движение груза в режиме реального времени.

Реализация этих дополнительных функций требует от программно-аппаратного комплекса собирать и обрабатывать большие данные, а также иметь механизмы машинного обучения. Эти признаки позволяют нам говорить, если и не в узкоспециализированном, то, по крайней мере, в широком смысле об использовании для автоматизации закупок искусственного интеллекта.

1.5. Автоматизация решений

На сегодня нельзя говорить о консенсусе даже по такому, казалось бы, отправному для данной дискуссии вопросу, как понятие искусственного интеллекта.

Например, предлагается понимать его как систему, обладающую способностью физически проявлять себя, в том числе чувствовать, обрабатывать и воздействовать на окружающий мир в некоторой степени (Calo, 2015). В такой дефиниции на первый план выходит физическое проявление последствий работы искусственного интеллекта. Но на практике результаты его работы могут оставаться в электронной среде, и лишь воздействие этих результатов на правоотношения с участием физических и юридических лиц проявит себя в окружающем мире.

10 Banker, Steve. (2022, April 1). One Multinational's Supply Chain Transformation Journey. Forbes. https:// www.forbes.com/sites/stevebanker/2022/04/01/one-multinationals-supply-chain-transformation-journey/?sh=87ff9516229c

В крайнем выражении такой подход воплощен в концепции так называемого сильного искусственного интеллекта, под которым исследователи понимают такую технологию, которая ментальными свойствами и характером обработки доступной ей информации идентична человеческому сознанию, в том числе в части комплексной интерпретации информации, способности к творчеству и интуиции ^еаНе, 1990).

Однако на сегодня наиболее реалистичной следует признать концепцию искусственного интеллекта как программно-аппаратного комплекса, не имеющего с человеческим разумом ничего общего в плане сущности мышления, но способного при этом решать в совокупности аналогичные по сложности либо более сложные задачи (Bokovnya et а1., 2020). Представляется, что именно такой подход отвечает сегодня как достигнутому уровню технологий, так и областям практического применения искусственного интеллекта.

В развернутом варианте, предложенном Н. Н. Черногором, определение искусственного интеллекта в рамках такого подхода звучит следующим образом: «Технология, определяющая способность некой информационной системы без непосредственного участия человека правильно интерпретировать внешние данные (внешнюю информацию), уточнять базу (базы) данных с их учетом, извлекать уроки из допущенных ошибок и использовать полученные знания для достижения конкретных целей, решения конкретных задач посредством гибкой адаптации в условиях плохо определенной ситуации» (Черногор, 2022).

Уже сегодня возможности искусственного интеллекта в большей или меньшей степени используются заказчиками для управления складскими объемами и для работы с логистикой поставки. Сочетание объема обрабатываемых данных со скоростью обработки делает привлечение ИИ объективно оправданным. Однако это и ставит перед нами новые вопросы правового характера.

На примере предыдущих четырех трансформаций было показано, что развитие регулирования не предваряло внедрение электронных технологий в закупочную деятельность, но всегда сопровождало его. Сперва это были новеллы общего регулирования, посвященные электронному документообороту и электронной подписи, затем новеллы специального законодательства, регулирующие электронные способы закупки, затем новые подзаконные акты, посвященные быстрым покупкам на базе схем автоматизации. Государственное регулирование дополнялось и развивалось корпоративным регулированием - в вопросах автоматизации сегодня основной объем норм, равно как и глубина регулирования, приходится не на законы и даже не на ведомственные инструкции, а именно на корпоративные положения и регламенты.

Об этом стоит помнить, приступая к вопросу о регулировании применения искусственного интеллекта в закупочной работе. Ведь ИИ способен не только анализировать складские запасы и маршруты доставки. Следующий шаг - это выбор оптимального способа закупки на основании анализа данных о рыночных условиях. Для этого важна не просто обработка больших данных, но и наличие у заказчика многофакторных категорийных стратегий управления закупками. Ведь для определения инструментария большие данные о рынке должны обрабатываться в матрице категорийных стратегий: ИИ собирает и обрабатывает данные о том, продается ли необходимая заказчику продукция в данном регионе и доставляется ли она из соседних регионов, какова цена с учетом доставки, отвечают ли характеристики потребностям заказчика, есть ли конкурирующие предложения и готовы ли поставщики к конкуренции и т. д.

Но если ИИ способен обрабатывать эти данные, то он может предложить заказчику не только оптимальный способ закупки, но и кандидатуру победителя. А если экстраполировать эту возможность на потребность в оперативной закупке для непрерывного производства, то тот же ИИ на основании тех же данных может сам направить заявку на поставку лучшему поставщику.

И даже если ИИ направляет заявку не новому поставщику, а тому, с которым ранее заказчик заключил рамочное соглашение на поставку - а такие модели интеграции искусственного интеллекта в закупки уже сегодня используют некоторые предприятия, - то и в этом случае именно ИИ формирует те существенные условия договора, которые порождают сделку. Он указывает конкретный объем поставки конкретной продукции, из чего на условиях рамочного договора автоматически следует определение цены поставки. Технически уже сегодня искусственный интеллект может делать то же самое и в отсутствие рамочного договора, подписанного ранее заказчиком и поставщиком.

Автоматизация принятия решения о выборе поставщика и о заключении сделки с ним - это намного быстрее и удобнее классического тендера. Это полностью устраняет пристрастность и субъективизм принятия решения о выборе победителя закупки. Но это же превращает ИИ из инструмента принятия решения в субъекта принятия решения.

2. Правосубъектность искусственного интеллекта

Принципиальное изменение роли программно-аппаратного комплекса в хозяйственных отношениях, связанных с закупками, ставит перед нами принципиально новые вопросы юридического порядка, которые уже не снимаются действующим регулированием. Уже урегулирован электронный документооборот. Урегулированы и электронные закупки, которые проходят с использованием электронного документооборота. До известной степени урегулирована и цифровизация всего процесса закупочной работы, для которого сама по себе электронная закупка является лишь одним из этапов. Но не урегулирован статус искусственного интеллекта в рамках цифровой закупочной работы.

И сегодня это уже вопрос не просто теоретического порядка: на практике последствия работы искусственного интеллекта приводят в том числе к заключению сделок и возникновению договорных обязательств. Более того, можно утверждать, что именно возникновение договорных обязательств по результатам работы искусственного интеллекта и означает подлинную автоматизацию закупочной работы.

Так, например, решение о выборе способа закупки напрямую касается лишь заказчика (пусть даже его последствия косвенным образом могут сказаться на поставщике). И в этом случае программно-аппаратный комплекс, предлагающий заказчику на основании заданного алгоритма наиболее эффективный инструмент закупок, выполняет сложную, но все еще вспомогательную функцию. Субъектом решения, отвечающим на его последствия, остается уполномоченный сотрудник заказчика. А значит, о полной автоматизации данного бизнес-процесса говорить еще не приходится.

Но уже решение об отправке поставщику заявки на отгрузку очередной партии товара ставит программно-аппаратный комплекс в рамках хозяйственных отношений в ту роль, при которой уже фактически можно говорить о том, что робот заключает сделку.

При этом, что важно, программно-аппаратный комплекс не «присваивает» себе полномочий за рамками заданного ему алгоритма. Его роль субъекта сделки следует именно из выполнения алгоритма - ведь и заказчику, и поставщику удобно такое привлечение робота к определению сроков, объема и предмета поставки. Это позволяет и заказчику, и поставщику высвободить ресурсы для основной производственной деятельности. Но с гражданско-правовой точки зрения в этой ситуации именно результаты работы искусственного интеллекта порождают взаимные права и обязанности заказчика и поставщика.

Это обстоятельство ставит перед нами вопрос о правосубъектности самого искусственного интеллекта, ответ на который сегодня нельзя назвать очевидным. Результаты научной дискуссии по этому вопросу зависят не только от возможного консенсуса, но и от скорости развития электронных технологий.

Вопрос о правосубъектности искусственного интеллекта решается на базисе понимания его сущности, однако не ограничивается ею. Так, даже если не пытаться отыскать сходства между мыслительной деятельностью человека и работой искусственного интеллекта, то можно найти весомые аргументы в пользу наделения программно-аппаратного комплекса правосубъектностью, во-первых, для ясного обозначения его роли в правовых отношениях, а во-вторых, для защиты прав иных субъектов.

С предельной ясностью эту мысль выражает Е. В. Вавилин: «...правосубъектность ИИ необходима для того, чтобы ИИ был ограничен в своих правах конкретным функциональным предназначением» (Вавилин, 2021). Однако и он не говорит о том, что правосубъектность искусственного интеллекта может быть сходна с правосубъектностью, например, юридического лица. Конструкция правосубъектности ИИ предлагается именно как способ достижения цели ограничения его прав. С этой точки зрения достаточно наделить ИИ конкретным набором прав и обязанностей, т. е. предусмотреть специальную техническую правосубъектность.

Однако в подобном дискурсе остается неразрешенным вопрос о практической реализации такой правосубъектности, и в частности о практических аспектах возложения ответственности. Каким образом, например, можно заставить ИИ возместить вред, причиненный последствиями его работы? Ведь какие бы юридические фикции мы ни использовали, но де-факто работа ИИ в пользу одного субъекта (например, в пользу лица, которому искусственный интеллект причинил ущерб) означает то, что он не использует часть времени или мощностей для работы в пользу другого лица (а именно своего владельца). Таким образом, фактически возмещение вреда в этой ситуации возлагается на владельца ИИ, пусть даже и осуществляет он это возмещение с использованием того же ИИ.

В этих условиях сложно не согласиться с выводами В. К. Андреева о том, что «применение цифровых технологий с использованием искусственного интеллекта на современном уровне его развития не означает появления новых общественных отношений, качественно отличающихся от существующих», а «искусственный интеллект не выступает в качестве цифрового субъекта права в отношениях по обороту цифровых прав в информационной системе оператора. Последний, используя в предпринимательстве цифровые технологии, применяет в бизнес-моделях элементы искусственного интеллекта, которые не порождают цифровых правоотношений» (Андреев, 2021).

И в самом деле, именно владелец, или оператор, искусственного интеллекта выступает тем субъектом, который в итоге влияет на результаты работы ИИ

и пользуется ими. А значит, логично предположить и его ответственность за эти результаты.

И в самом деле, при любом уровне проникновения цифровых технологий и при любой модели использования искусственного интеллекта сегодня сложно представить ситуацию, в которой ИИ действует совершенно независимо от человека и принимает на себя права и обязанности, не проистекающие из воли и действий последнего ни прямо, ни косвенно. А значит, искусственный интеллект сегодня стоит отнести не столько к новым правовым субъектам, сколько к инновационным инструментам, требующим нового правового регулирования.

«Отношения с использованием искусственного интеллекта - это всегда отношения между субъектами права или по поводу объектов права. В любом случае это отношения, которые на том или ином этапе инициированы, запрограммированы человеком - субъектом права с той или иной степенью ответственности (в том числе в рамках деятельности юридических лиц). Волеизъявление человека на те или иные действия искусственного интеллекта может быть выражено в разной степени: от действий ИИ, находящихся под полным контролем воли человека, до автономных действий ИИ, опять же допускаемых и осознаваемых в своих возможных пределах и последствиях человеком (группой лиц)» (Шахназаров, 2022).

Степень влияния волеизъявления человека на результаты работы искусственного интеллекта должна приниматься во внимание при решении вопроса о распределении ответственности за действия ИИ между существующими правовыми субъектами, о чем подробнее будет сказано ниже. Но в вопросе о правосубъектности самого искусственного интеллекта на нынешнем уровне развития технологий, а также общественных и хозяйственных отношений можно опираться на позицию С. Е. Чаннова: «Придание роботам (СИИ) статуса субъекта права не повлечет за собой в обозримом будущем каких-то явных негативных последствий. В то же время не видны и преимущества такого решения по сравнению с рассмотрением роботов (СИИ) в качестве квазисубъектов права. Исходя из философского принципа Оккама не умножать сущности без крайней на то необходимости, мы полагаем, что введение в правовую сферу такого принципиально нового субъекта права, как робот (СИИ), является преждевременным (хотя не исключено, что такая необходимость появится)» (Чаннов, 2022).

3. Правовой статус сделки, совершенной с участием искусственного интеллекта

Вывод о том, что искусственный интеллект на сегодня не может быть признан субъектом права, не снимает, а лишь актуализирует вопросы, связанные со статусом сделки, совершенной с участием искусственного интеллекта. Ведь такие сделки заключаются уже сегодня, а со временем их число будет только расти.

Каков статус подобной сделки? Каков механизм ее судебной защиты? По каким основаниям она может быть оспорима? На эти и другие вопросы теоретикам права еще только предстоит ответить. И именно эти ответы станут основой того самого «права электронных отношений» (Кеппеу & Zysman, 2016), о котором пишут уже сегодня. Представляется, что будущее правового регулирования именно за формированием права электронных отношений как обособленной и целостной отрасли правового знания, а не за приданием искусственному интеллекту статуса правового субъекта.

Но если наделение искусственного интеллекта правосубъектностью пока преждевременно, то необходимо решить вопрос о том, кто является субъектом правоотношения, реализуемого с участием ИИ. Ведь использование ИИ не должно само по себе приводить к оспоримости, а тем более к ничтожности сделки. Ведь если допустить презумпцию порока сделки по основанию использования технологии ИИ при ее совершении, то это с неизбежностью создаст неоправданные риски для существующих хозяйственных отношений, о цифровизации и автоматизации которых подробного говорилось выше. А коль скоро за любым ИИ стоит физическое или юридическое лицо, то между ними и стоит распределять как правовые последствия, так и ответственность за работу искусственного интеллекта.

Точные параметры распределения ответственности как раз и предстоит выработать юридической науке в рамках формирования права электронных отношений. В качестве приглашения к дискуссии можно предложить несколько вариантов решения вопроса об ответственности за последствия работы программно-аппаратного комплекса в рамках хозяйственных отношений с высокой степенью автоматизации:

1. Ответственность владельца: каким был ни был результат, ответственным за действия и решения ИИ является то юридическое или физическое лицо, которому данный программно-аппаратный комплекс принадлежит или которым он используется на законном праве.

По блестящему определению С. Ф. Афанасьева, при таком подходе «правовое положение ИИ становится тождественным или близким тому, которое было у римских антропоморфных коллективных организаций, либо еще более редуцированным -раба, домочадцев, детей, в том числе filius in potestate tua est» (Афанасьев, 2022).

Такой подход интуитивно понятен и, на первый взгляд, максимально логичен и утилитарен. Однако он игнорирует тот факт, что результаты работы искусственного интеллекта далеко не всегда зависят от последствий волеизъявления, действий или бездействий его владельца.

Например, неблагоприятные последствия работы ИИ могут стать не только следствием порока его использования, но и следствием порока разработки. И сомнительной представляется правовая конструкция, возлагающая на владельца ответственность за работу программного кода, для анализа которого необходима специальная и глубокая экспертиза - та экспертиза, которой добросовестный пользователь программно-аппаратного комплекса, как правило, не может, да и не обязан обладать.

2. Ответственность создателя: если добросовестный владелец не предвидел неблагоприятные последствия действий робота и не мог повлиять на них, то обязательства из причинения ущерба логично возложить не на него, а на разработчика того алгоритма, реализация которого и стала причиной ущерба.

Необходимо подчеркнуть: речь не идет об устранении владельца ИИ от ответственности за последствия работы последнего. Речь идет лишь о распределении такой ответственности по результатам доказывания вины. Так, презюмируется ответственность владельца, но если его вину доказать не удалось, то инициируется вопрос о выяснении вины разработчика.

Однако этот подход может иметь свое логичное продолжение и в том случае, когда не доказана вина создателя. Если же на результаты работы ИИ повлияло иное

лицо, например путем его модификации или предоставления для обработки некорректных данных, то ответственным будет именно это лицо.

3. Комплексный подход: за неблагоприятные последствия работы ИИ отвечает тот субъект, чье действие или бездействие в конечном счете стало причиной причинения ущерба. Ведь на практике причиной неблагоприятных последствий работы ИИ в рамках закупочных бизнес-процессов могут стать и действия разработчика, и действия заказчика как владельца программно-аппаратного комплекса, и даже действия поставщика как его пользователя.

В зарубежной доктрине рассматривается даже вопрос о реализации концепции уголовной ответственности за последствия работы искусственного интеллекта, которая принимала бы во внимание действия и бездействия создателя, владельца, пользователей, а также иных лиц, имеющих отношение к ИИ или повлиявших на результаты ее работы (Hallevy, 2013).

Ведь искусственный интеллект принимает решения на основании сбора и обработки информации. В том числе информации из открытых источников. А значит, если в одном из таких источников содержится критический объем некорректной информации, то именно он может стать причиной ошибки искусственного интеллекта и соответствующих неблагоприятных последствий.

Для распределения ответственности в этом случае можно законодательно установить, например, презумпцию того, что субъектом обязательств, возникших в результате нормальной работы программно-аппаратного комплекса, считается его владелец. И именно он обязан будет доказать необходимость возложения ответственности на другого субъекта. К этой мысли нас подводит, в частности, В. А. Лаптев, рассуждая о субсидиарной ответственности создателя, владельца и пользователя искусственного интеллекта (Лаптев, 2019).

Этот спектр решений не является закрытым. Можно сконструировать иные модели правовых последствий для отношений, возникших в результате работы искусственного интеллекта.

Например, еще одной правовой конструкцией может стать включение ИИ в круг источников повышенной опасности. По мнению А. А. Антонова, «фиксация в законе новых систем ИИ потребует рассмотрения вопроса о признании их источником повышенной опасности, так как взыскать с владельца ИИ возмещение ущерба за причиненный вред можно лишь через суд» (Антонов, 2020).

Альтернативный подход, обсуждаемый в том числе в зарубежной доктрине, - это наделение искусственного интеллекта правосубъектностью, схожей с правосубъектностью юридического лица - со схожим же распределением ответственности за последствия его работы (Chesterman, 2020).

В любом случае регулирование вопроса правосубъектности в отношениях, реализуемых с использованием ИИ, равно как и вопрос распределения ответственности в этих отношениях, требует специального нормативного регулирования. Это не означает незамедлительного внесения изменения в законодательство: регулятор-ной апробацией могут стать соглашения, включающие нормы о статусе ИИ, между лицами, участвующими в таких правоотношениях. В конце концов, сами технологии цифровизации и автоматизации закупок, избранные в качестве иллюстративного материала к данной статье, создавались и апробировались не в государственном, а коммерческом сегменте.

Выводы

Информационное право не просто формируется на наших глазах, но и может в перспективе стать самостоятельной отраслью права. Той отраслью, на которой базируется значимый сегмент хозяйственных отношений. И, что еще важнее, без формулировки специализированных норм информационного законодательства в этих отношениях с каждым годом все сложнее будет говорить о правовом регулировании. Иными словами, огромные ресурсы будут задействованы в хозяйственной деятельности в отсутствие возможности точного определения взаимных прав и обязанностей.

Опыт цифровизации конкурентных закупок В2В и B2G может помочь нам проследить эволюцию проникновения цифровых технологий в хозяйственную деятельность и практику внедрения новых правовых механизмов для решения возникающих при этом вопросов. И этот опыт свидетельствует о том, что возникновение принципиально новых технологий никогда не означает принципиальной невозможности их регулирования. Разумеется, это регулирование должно отражать, а не подменять собой технологическое развитие.

При этом даже в такой специфической сфере, как конкурентные закупки, повсеместное проникновение цифровых технологий не означает равномерности такого внедрения. Проще говоря, в то самое время, когда одни заказчики лишь проходят первую цифровую трансформацию и все еще не готовы отказаться от договора на бумажном носителе с собственноручной подписью, другие заказчики на постоянной основе пользуются автоматизацией закупочных бизнес-процессов и прорабатывают внедрение технологий искусственного интеллекта.

Такая неравномерность не зависит от отраслевой специфики: первая цифровая трансформация может стать «камнем преткновения» для крупных организаций в чрезвычайно наукоемких отраслях, но при этом пятую цифровую трансформацию могут успешно апробировать самые заурядные сервисы. Это обстоятельство возвращает нас к мысли о том, что закупочное регулирование в вопросах диджитализа-ции не является производной от отраслевого регулирования, а представляет собой самостоятельный и во многом обособленный круг вопросов, обладающий предметным единством. Такую специфику чрезвычайно важно учитывать при развитии нормативного регулирования хозяйственных отношений с использованием искусственного интеллекта.

Цифровая трансформация не ограничивается лишь использованием нового программного обеспечения. Она включает и перестроение бизнес-процессов, и модернизацию правового регулирования. Например, «цифровизация государственных закупок - это не просто вопрос приобретения самых передовых технологий. Это также требует изменения инструментов и способов закупок, которые позволили бы государству осуществлять взаимодействие с новыми технологиями, а также эффективно и быстро интегрировать их в практическую действительность» (Шмелева, 2019).

Логичным продолжением цифровой трансформации закупочной работы является ее автоматизация, в том числе с использованием технологии искусственного интеллекта. Использование искусственного интеллекта не означает устранение человека от закупочной работы. Оно означает лишь повышение экспертного уровня этой работы. Проще говоря, по мере внедрения искусственного интеллекта внимание специалиста по закупкам будет все более и более концентрироваться на нетиповых, специфических и особо важных ситуациях (Казанцев, 2021).

При этом сам искусственный интеллект на сегодня остается именно инструментом, а не субъектом закупочной работы - даже тогда, когда решения в рамках этой работы принимаются программно-аппаратным комплексом без непосредственного участия человека. «С онтологической точки зрения все передовые технологии являются не субъектами, а объектами, и нет никаких оснований предоставлять им права или привлекать их к юридической ответственности. Даже в свете существующих правил юридической ответственности на основе различных правовых критериев всегда теоретически возможно идентифицировать человека, который понесет ответственность за ущерб, возникший в результате производства или эксплуатации устройства с системой ИИ» (Ивлиев, Егорова, 2022).

В качестве приглашения к дискуссии можно предложить несколько моделей распределения ответственности в рамках хозяйственных отношений с высокой степенью автоматизации. Точнее даже будет назвать их не столько моделями, сколько точками для формулировки юридических конструкций.

Например, можно исходить из того, что субъектом такой сделки де-юре считается лицо, подписавшее тот рамочный договор, во исполнение которого был создан оформленный роботом заказ. Таким образом, ответственность за решения, «принятые» роботом в рамках исполнения алгоритма, перекладывается на человека. Но нельзя не заметить того, что по большому счету это лишь временная мера. Ведь искусственный интеллект технически уже сегодня может не просто направлять заявки в рамках подписанных ранее договоров, но и заключать новые самостоятельные договоры. Проще говоря, выступая в качестве субъекта правоотношения, робот уже не нуждается в подписанном ранее рамочном соглашении.

Другой подход - за действия робота отвечает хозяин. Иными словами, каким был ни был результат исполнения алгоритма, ответственным за действия и решения робота можно считать то юридическое или физическое лицо, которому данный программно-аппаратный комплекс принадлежит или которым он используется на законном праве. По большому счету подобный подход отработан еще римскими юристами для казусов рабовладельческих отношений.

Можно увязать ответственность за последствия работы искусственного интеллекта с виной того субъекта, действие или бездействие которого повлияло на возникновение определенного результата работы программно-аппаратного комплекса.

Каждый из подходов не совершенен и заслуживает дискуссии. Задача будущего - выработать решение, базирующееся на этих подходах, но не ограниченное рамками ни одного из них. Однако сами по себе решения в области правового регулирования означенных вопросов необходимы.

Информационное право становится все более и более востребованной отраслью юридического знания (Scassa, 2018). В перспективе оно почти наверняка станет самостоятельной отраслью права. И этой отрасли придется иметь дело с отношениями, в которых технологии и бизнес-практики имеют приоритетное значение для выработки юридических норм. Проще говоря, новые нормы должны не создавать, а гармонизировать цифровую реальность.

А значит, и новые юридические конструкции должны адекватно отражать и регулировать реально существующие отношения, реализуемые в том числе с помощью инструментов автоматизации. Именно при таком подходе представляется достижимой задача правового регулирования по минимизации риска злоупотребления полезными инструментами со стороны недобросовестных субъектов.

Список литературы

Андреев, В. К. (2021). Приобретение и осуществление прав юридического лица с использованием

искусственного интеллекта. Предпринимательское право, 4, 11-17. Антонов, А. А. (2020). Искусственный интеллект как источник повышенной опасности. Юрист, 7, 69-74.

https://doi.org/10.18572/1812-3929-2020-7-69-74 Афанасьев, С. Ф. (2022). К проблеме материальной и процессуальной правосубъектности искусственного

интеллекта. Вестник гражданского процесса, 3, 12-31. Вавилин, Е. В. (2021). Трансформация гражданско-правовых и процессуальных отношений с использованием искусственного интеллекта: формирование новых правовых режимов. Вестник гражданского процесса, 6, 13-35. https://doi.org/10.24031/2226-0781-2021-11-6-13-35 Ивлиев, Г. П., Егорова, М. А. (2022). Юридическая проблематика правового статуса искусственного интеллекта и продуктов, созданных системами искусственного интеллекта. Журнал российского права, 26(6), 32-46. https://doi.org/10.12737/jrl.2022.060 Казанцев, Д. А. (2020). Конкурентные закупки. Методология и нормативное регулирование: монография.

Москва: ИНФРА-М. https://doi.org/10.12737/1068790 Казанцев, Д. А. (2021). Закупки и машинное обучение. Есть ли пространство для применения технологии?

Госзаказ: управление, размещение, обеспечение, 65, 110-115. Казанцев, Д. А. (2022). От электронных документов до Source-to-Pay. Автоматизация закупок шаг за

шагом. Госзаказ:управление, размещение, обеспечение, 67, 60-67. Казанцев, Д. А., Михалева, Н. М. (2020). Автоматизация закупок как будущее контрактной системы. Вестник Российского университета дружбы народов. Серия: Юридические науки, 7, 137-159. https://doi.org/10.22363/2313-2337-2020-24-1-137-157 Лазарев, В. В. (2023). Юридическая наука в свете перспектив цифровизации. Журнал российского права, 2, 5-19.

Лаптев, В. А. (2019). Понятие искусственного интеллекта и юридическая ответственность за его работу.

Право. Журнал Высшей школы экономики, 2, 79-102. Чаннов, С. Е. (2022). Робот (система искусственного интеллекта) как субъект (квазисубъект) права. Актуальные проблемы российского права, 12, 94-109. https://doi.org/10.17803/1994-1471.2022.145.12.094-109

Черногор, Н. Н. (2022). Искусственный интеллект и его роль в трансформации современного правопорядка.

Журнал российского права, 26(4), 5-15 https://doi.org/10.12737/jrl.2022.037 Шахназаров, Б. А. (2022). Правовое регулирование отношений с использованием искусственного интеллекта. Актуальные проблемы российского права, 9, 63-72. https://doi.org/10.17803/1994-1471.2022.142.9.063-072

Шмелева, М. В. (2019). Цифровая трансформация системы государственных и муниципальных закупок.

Юрист, 7, 15-22. https://doi.org/10.18572/1812-3929-2019-7-15-22 Bokovnya, A. Y. et al. (2020). Legal Approaches to Artificial Intelligence Concept and Essence Definition. Revista

San Gregorio, 47, 115-121. Calo, R. (2015). Robotics and the New Cyberlaw. Californian Law Review, 703(3).

Chesterman, S. (2020). Artificial intelligence and the limits of legal personality. International and Comparative

Law Quarterly, 69(4), 819-844. https://doi.org/10.1017/s0020589320000366 Hallevy, G. (2013). When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England. Kenney, M., & Zysman, J. (2016). The Rise of the Platform Economy. Issues in Science and Technology, 32(3), 61-69.

Scassa, T. (2018). Information Law in the Platform Economy: Ownership, Control, and Reuse of Platform Data. In Law and the "Sharing Economy": Regulating Online Market Platforms (pp. 321-356). University of Ottawa Press.

Searle, J. R. (1990, January). Is the Brain's Mind a Computer Program? Scientific American, 262(1).

Сведения об авторе

Казанцев Дмитрий Александрович - кандидат юридических наук, руководитель Департамента нормативно-правового регулирования оператора электронной торговой площадки B2B-Center

Адрес: 107113, Российская Федерация, г. Москва, 3-я Рыбинская улица, 18/22

E-mail: [email protected]

ORCID ID: https://orcid.org/0000-0003-2182-5776

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=1149755

Конфликт интересов

Автор заявляет об отсутствии конфликта интересов.

Финансирование

Исследование не имело спонсорской поддержки.

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: OM / Law Рубрика ГРНТИ: 10.27.41 / Сделки

Специальность ВАК: 5.1.3 / Частно-правовые (цивилистические) науки

История статьи

Дата поступления - 6 апреля 2023 г. Дата одобрения после рецензирования - 15 апреля 2023 г. Дата принятия к опубликованию - 16 июня 2023 г. Дата онлайн-размещения - 20 июня 2023 г.

Research article

DOI: https://doi.org/10.21202/jdtl.2023.18

3

Check for updates

Problems and Prospects of Regulating Relations within a Deal Effected with Participation of Artificial Intelligence

Dmitriy A. Kazantsev ©

B2B-Center

Moscow, Russian Federation

Keywords

Artificial intelligence,

automation,

data,

deal,

digital technologies,

digitalization,

law,

liability,

procurement,

robot

Abstract

Objective: to research the problem of determining the subject of a legally relevant act effected with participation of artificial intelligence, as well as distribution of responsibility for the consequences of its performance. Methods: to illustrate the problematic and practical significance of the issue of legal personality of artificial intelligence, we chose automated procurements for public and corporate needs; the methodological basis of the research is the set of methods of scientific cognition, including comparison, retrospective analysis, analogy, and synthesis.

Results: by the example of the sector of competitive procurements for public and corporate needs, the evolution of automation of economic relations up to artificial intelligence introduction was analyzed. Successfully tested reactions to the challenges of stage-by-stage introduction of digital technologies into economic relations were demonstrated, as well as the respective modifications of legal regulation. Based on the current level of technological development, the prospective questions are formulated, associated with the legal regulation of economic relations implemented with the use of artificial intelligence, first of all, the question of defining the subject of a deal effected with participation of artificial intelligence. As an invitation for discussion after analysis of jurists' conclusions about the probable variants of the legal status of artificial intelligence, the author proposes

© Kazantsev D. A., 2023

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

variants of answers to the question of its legal personality when effecting a deal. To solve the issue of responsibility for the decisions resulting from the implementation of algorithms of a software and hardware package, we propose several models of distributing such responsibility among its creator, owner, and other persons, whose actions might influence the results of such an algorithm functioning. The proposed conclusions may be used to develop normative regulation both as a set and individually.

Scientific novelty: based on the analysis of evolution of the practices of using digital technologies in procurement, the work formulates potential legal problems, determined by the constant automation of economic relations, and proposes legal constructs to solve such problems.

Practical significance: the conclusions and proposals of this work are of prospective significance for conceptual comprehension and normative regulation of electronic procurement tools both at corporate and national level.

For citation

Kazantsev, D. A. (2023). Problems and Prospects of Regulating Relations within a Deal Effected with Participation of Artificial Intelligence. Journal ofDigital Technologies and Law, 7(2), 438-463. https://doi.org/10.21202/jdtl.2023.18

References

Afanasyev, S. F. (2022). On the problem of substantive and procedural legal personality of artificial intelligence.

Herald of Civil Procedure, 3, 12-31. (In Russ.). Andreev, V. K. (2021). Acquisition and implementation of rights of a legal person using artificial intelligence.

Predprinimatelskoe pravo, 4, 11-17. (In Russ.). Antonov, A. A. (2020). Artificial Intelligence as a Source of Increased Danger. Yurist, 7, 69-74. https://doi.

org/10.18572/1812-3929-2020-7-69-74 Bokovnya, A. Y. et al. (2020). Legal Approaches to Artificial Intelligence Concept and Essence Definition. Revista

San Gregorio, 41, 115-121. Calo, R. (2015). Robotics and the New Cyberlaw. Californian Law Review, 103(3).

Channov, S. E. (2022). Robot (Artificial Intelligence System) as a Subject (Quasi-Subject) of Law. Actual Problems

of Russian Law, 17(12), 94-109. (In Russ.). https://doi.org/10.17803/1994-1471.2022.145.12.094-109 Chernogor, N. N. (2022). Artificial intelligence and its role in the transformation of modern law and order. Journal

of Russian Law, 4, 5-15. (In Russ.). https://doi.org/10.12737/jrl.2022.037 Chesterman, S. (2020). Artificial intelligence and the limits of legal personality. International and Comparative

Law Quarterly, 69(4), 819-844. https://doi.org/10.1017/s0020589320000366 Hallevy, G. (2013). When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England. Ivliev, G., & Egorova, M. (2023). Legal Issues of the Legal Status of Artificial Intelligence and Products Created by Artificial Intelligence Systems. Journal of Russian Law, 26(6), 32-46. (In Russ.). https://doi.org/10.12737/ jrl.2022.060

Kazancev, D. (2020). A competitive procurement. Methodology and regulation. Moscow: INFRA-M. (In Russ.).

https://doi.org/10.12737/1068790 Kazantsev, D. A. (2021). Procurement and machine learning. Is there space for technology application? Goszakaz:

upravlenie, razmeshchenie, obespechenie, 65, 110-115. (In Russ.). Kazantsev, D. A. (2022). From electronic documents to Source-to-Pay. Procurement automation step by step.

Goszakaz: upravlenie, razmeshchenie, obespechenie, 67, 60-67. (In Russ.). Kazantsev, D. A., & Mikhaleva, N. A. (2020). Procurement automation as the future of the contract system. RUDN Journal of Law, 1, 137-159. (In Russ.). https://doi.org/10.22363/2313-2337-2020-24-1-137-157

Kenney, M., & Zysman, J. (2016). The Rise of the Platform Economy. Issues in Science and Technology, 32(3), 61-69.

Laptev, V. A. (2019). Artificial Intelligence and Liability for its Work. Pravo. Zhurnal Vysshey Shkoly Ekonomiki, 2, 79-102. (In Russ.).

Lazarev, V. V. (2023). Legal Science in the Light of the Prospects of Digitalization. Journal of Russian Law, 2, 5-19. (In Russ.).

Scassa, T. (2018). Information Law in the Platform Economy: Ownership, Control, and Reuse of Platform Data. In Law and the "Sharing Economy": Regulating Online Market Platforms (pp. 321-356). University of Ottawa Press.

Searle, J. R. (1990, January). Is the Brain's Mind a Computer Program? Scientific American, 262(1).

Shakhnazarov, B. A. (2022). Legal Regulation of Relations Using Artificial Intelligence. Actual Problems of Russian Law, 9, 63-72. (In Russ.). https://doi.org/10.17803/1994-1471.2022.142.9.063-072

Shmeleva, M. V. (2019). Digital Transformation of the System of Public and Municipal Procurements, Jurist, 7, 15-22. (In Russ.). https://doi.org/10.18572/1812-3929-2019-7-15-22

Vavilin, E. V. (2021). Transformation of civil legal and procedural relations with the use of artificial intelligence: the formation of new legal regimes. Herald of Civil Procedure, 6, 13-35. (In Russ.). https://doi. org/10.24031/2226-0781-2021-11-6-13-35

Author information

Dmitriy A. Kazantsev - Candidate of Sciences in Jurisprudence, Head of the Department

of normative-legal regulation of the B2B-Center electronic trading platform operator

Address: 18/22 3rd Rybiskaya Str., 107113 Moscow, Russian Federation

E-mail: [email protected]

ORCID ID: https://orcid.org/0000-0003-2182-5776

RSCI Author ID: https://elibrary.ru/author_items.asp?authorid=1149755

Conflict of interests

The author declares no conflict of interest.

Financial disclosure

The research had no sponsorship.

Thematic rubrics

OECD: 5.05 / Law PASJC: 3308 / Law WoS: OM / Law

Article history

Date of receipt - April 6, 2023 Date of approval - April 15, 2023 Date of acceptance - June 16, 2023 Date of online placement - June 20, 2023