CC BY
31
ПРАВОВОЕ РЕГУЛИРОВАНИЕ В ИНФОРМАЦИОННОЙ СФЕРЕ
001: 10.17803/1994-1471.2023.152.7.071-085
Е. А. Березина*
Использование программных агентов в юридической практике
Аннотация. Статья посвящена анализу такой правовой технологии, как использование программных агентов в юридической практике. В работе обосновывается актуальность темы исследования, дается понятие программного агента, приводится их классификация. Особое внимание уделяется интеллектуальным программным агентам, анализируются их виды, применяемые при осуществлении юридической деятельности. Демонстрируются примеры используемых в юридической практике интеллектуальных программных агентов-ботов; пользовательских агентов; предиктивных агентов и агентов по поиску данных, осуществляющих подбор и анализ информации в больших хранилищах данных с целью ее систематизации, классификации, выявления тенденций отдельных показателей. Делается вывод о том, что использование программных агентов в юридической практике может рассматриваться как разновидность правовых технологий в том случае, если оно влечет юридически значимый результат, определенные правовые последствия. Программный агент выступает в качестве одного из структурных элементов правовой технологии — средства осуществления юридической деятельности, средства достижения правового результата, а само использование данного средства в юридической практике является правовой технологией. Осуществляется отнесение данной технологии к определенным видам в зависимости от различных критериев классификации. На основании материалов отечественной и зарубежной юридической практики приводятся конкретные примеры причинения вреда деятельностью, осуществляемой с помощью программных агентов. Обозначаются проблемы использования программных агентов в юридической практике, требующие своего дальнейшего изучения. Ключевые слова: технология; программный агент; электронный агент; искусственный интеллект; интеллектуальный программный агент; предиктивный агент; правовая технология; правовое регулирование; использование программных агентов в юридической практике; использование программных агентов как правовая технология.
Для цитирования: Березина Е. А. Использование программных агентов в юридической практике // Актуальные проблемы российского права. — 2023. — Т. 18. — № 7. — С. 71-85. — DOI: 10.17803/19941471.2023.152.7.071-085.
© Березина Е. А., 2023
* Березина Елена Александровна, кандидат юридических наук, доцент, доцент кафедры теории государства и права Уральского государственного юридического университета имени В.Ф. Яковлева Комсомольская ул., д. 21, г. Екатеринбург, Россия, 620137 helalex@mail.ru
Software Agents in the Practice of Law
Elena A. Berezina, Cand. Sci. (Law), Associate Professor, Department of Theory of the State and Law,
Yakovlev Ural State Law University
ul. Komsomolskaya, 21, Yekaterinburg, Russia, 620137
helalex@mail.ru
Abstract. The paper is devoted to the analysis of such legal technology as the use of software agents in law practice. The paper substantiates the relevance of the research topic, gives the concept of a software agent, and provides their classification. Special attention is paid to intelligent software agents, their types used in the implementation of legal activities. The paper provides examples of intelligent software agents-bots used in legal practice; user agents, predictive agents and data search agents that select and analyze information in large data warehouses in order to systematize it, classify and identify trends in individual indicators. It is concluded that the use of software agents in legal practice can be considered as a kind of legal technology in the event that it entails a legally significant result and certain legal consequences. A software agent acts as one of the structural elements of legal technology — a means of carrying out legal activity, a means of achieving a legal result, and the very use of this tool in legal practice is a legal technology. This technology is assigned to certain types depending on various classification criteria. Based on the materials of domestic and foreign legal practice, the author provides specific examples of harm caused by activities carried out with the help of software agents. The author outlines the problems of using software agents in law practice that require further examination. Keywords: technology; software agent; electronic agent; artificial intelligence; intelligent software agent; predictive agent; legal technology; legal regulation; use of software agents in legal practice; use of software agents as legal technology.
Cite as: Berezina EA. Ispolzovanie programmnykh agentov v yuridicheskoy praktike [Software Agents in the Practice of Law]. Aktuai'nye problemy rossijskogo prava. 2023;18(7):71-85. DOI: 10.17803/1994-1471.2023.152.7.071-085. (In Russ., abstract in Eng.).
Интенсивное поступательное движение общества в направлении развития различных видов технологий, происходящее в последние десятилетия, неизбежно порождает новые, неизвестные ранее риски, серьезные технологические вызовы как для всего человечества, так и для отдельных государств. Это могут быть вызовы, связанные с использованием новых технологий в военной промышленности, медицине, сельском хозяйстве, юриспруденции и даже в образовании. Недавний случай применения чат-бота ChatGPT для написания дипломной работы поставил перед профессорско-преподавательским составом вузов и перед всем обществом вопросы, на которые невозможно ответить однозначно, но которые требуют своего решения, в том числе с помощью правовых средств1.
В этой ситуации именно праву отводится роль такого социального регулятора, который может обеспечить дальнейшее совершенствование технологий в соответствии с прогрессивными потребностями общества, а также минимизировать те риски, которые данные технологии таят в себе.
Роль права, правотворческой деятельности в процессе технологизации и цифровизации социальных процессов во многом зависит от того, в рамках какой концепции правопонимания находятся ученые-правоведы и законодатель. Как считают некоторые авторы, «лишь изменив основы правопонимания, можно спасти человека и человечество от негативных последствий технического развития»2. Это требует от представителей юридической науки и практи-
Студент РГГУ защитил диплом, написанный ChatGPT // Хабр. Новости. 01.02.2023. URL: https://habr.com/ ru/news/t/714216/ (дата обращения: 03.03.2022).
Пржиленский В. И. Идея права в контексте эволюции техносоциальных систем // Актуальные проблемы российского права. 2022. Т. 17. № 8. С. 18.
2
ки активного участия в конструктивно-критическом анализе уже существующих и разработке новых научных концепций правопонимания, вопросов ценности права в жизни общества, роли права в научно-техническом прогрессе, позволяющих обществу оперативно реагировать на вызовы времени. «Сегодня правоведы выступают "наблюдателями" процесса развития информационных технологий, которые вносят существенные изменения в складывающиеся общественные отношения. В целях правильной правовой регламентации отношений нормы права должны создаваться с учетом стремительного развития и внедрения цифровых технологий»3, с учетом возможных последствий такого развития — как позитивного, так и негативного характера.
При упорядочении общественных отношений в процессе правотворчества, при реализации правовых норм, при осуществлении правоприменительной деятельности, при обеспечении и охране правопорядка используются различные правовые технологии, сильно изменившиеся за последние годы под воздействием процессов технологизации и цифровизации. Помимо собственно правовых технологий, свойственных праву, включающих в себя использование юридических конструкций, специальной юридической терминологии, типов, методов и способов правового регулирования и т.д., в юридической практике находят свою эффективную реализацию компьютерные, цифровые, информационные технологии, которые приобретают статус правовых, будучи использованными для достижения определенного правового результата.
Данные технологии нашли свое отражение во всех сферах профессиональной юридической
деятельности, которую уже сложно представить без LegalTech. В своей работе отечественные юристы обращаются к справочно-правовым системам, автоматизированной системе протоколирования «Фемида». Для МВД РФ разрабатывается система «Зеркало (Верблюд»), которая позволит выявить признаки deepfake-ви-део, созданного с помощью нейронных сетей4. В декабре 2019 г. на форуме «Глобальное технологическое лидерство» награду в номинации «Вклад в развитие технологий» получила система контроля и управления доступом «Пилот», которая позволила обеспечить безопасность посетителей на культурно-массовых мероприятиях и охраняемых объектах (на стадионах, в аэропортах, на вокзалах, в театрах, музеях, на концертных площадках, в учебных заведениях). Данная технология успешно использовалась в 2014 г. на Зимних Олимпийских играх, в 2018 г. на чемпионате мира по футболу, в 2019 г. на Зимней универсиаде в г. Красноярске. Сейчас она находит свое применение, например, при обеспечении безопасности стадионов «РЖД Арена» (Москва); «Екатеринбург Арена»; «Волгоград Арена»; «Фишт» (Сочи) и др.5
В последнее время в России одним из самых востребованных является такой аппаратно-программный агент, как «Ревизор», который необходим для проверки доступа к сайтам в рамках требований, предусмотренных статьями 15.1-15.4 Федерального закона от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации»6. Данный агент помогает выявить факты доступа к запрещенной информации и получить данные, подтверждающие факт нарушения требований правовых норм.
Лаптев В. А. Deepfake и иные продукты искусственного интеллекта на пути развития онлайн-правосу-дия // Актуальные проблемы российского права. 2021. Т. 16. № 11. С. 185.
МВД заключило контракт на ИТ-разработку под шифром «Верблюд» // РБК.Общество. 2021. 5 мая. URL: https://www.rbc.ru/society/05/05/2021/609200729a7947a6bbb24333#xtor=AL-%5Binternal_traffic%5D--%5Brss.rbc.ru%5D-%5Btop_stories_brief_news%5D (дата обращения: 09.12.2022).
Система контроля и управления доступом «Пилот». Цифровые продукты Росатома // Государственная корпорация по атомной энергии «Росатом». Направления деятельности. Цифровые продукты. URL: https:// www.rosatom.ru/production/supercomputer-and-software/index.php?sphrase_id=3736554 (дата обращения: 12.12.2022).
СЗ РФ. 2006. № 31 (ч. I). Ст. 3448.
3
4
5
6
В январе 2022 г. МВД РФ запущена в эксплуатацию федеральная система «Паутина», предназначенная для фиксации нарушений правил дорожного движения, для обнаружения владельцев автомобилей, которые скрылись с места дорожно-транспортного происшествия, для повышения эффективности работы правоохранительных органов, связанной с раскрытием таких преступлений, как угон, разные виды хищения транспортных средств и ряда других7. 4 октября 2022 г. в реестр российского программного обеспечения были включены сведения о программном обеспечении «Система юридического программирования LegalRules», правообладателем которого является ПАО «Сбербанк России». 1_е§а!Кие представляет собой платформу для оптимизации процесса разработки, тестирования и внедрения юридических сервисов, созданную для формирования общего цифрового пространства для юристов8.
Большинство из перечисленных цифровых продуктов основано на обращении к функции слабого искусственного интеллекта, в частности возможности оптического распознавания изображений и текста, его семантического анализа.
Одним из программных решений при создании систем искусственного интеллекта является использование программных агентов.
Программным агентом называется структурный элемент программного обеспечения и/или аппаратного оборудования, который способен функционировать строго в соответствии с предписаниями в целях исполнения задач от имени лица, являющегося его пользователем9. Программный агент — это обобщающий термин,
метатермин или класс, который охватывает ряд других более специфических типов агентов10.
Согласно классификации, введенной Х. С. Нвана, выделяют четыре класса программных агентов: простые, умные (smart), интеллектуальные и действительно интеллектуальные агенты11.
Наиболее распространенными в практике становятся интеллектуальные агенты, которые «имеют возможность адаптивного поведения для достижения целей, способны к самообучению на основе данных, полученных из окружающей среды, являются толерантными к ошибкам и неверным входным сигналам, способны работать в режиме реального времени и взаимодействовать на естественном языке»12. С технической точки зрения функционирование программных агентов описано в достаточно широком круге источников, как зарубежных, так и отечественных13. Теоретические основы проектирования и реализации программных агентов относятся еще к 1980-м гг. Но особо пристальное внимание им стало уделяться в последние десятилетия, что обусловлено бурным развитием компьютерных технологий в XXI в., как в аппаратном сегменте, так и в программной сфере, появлением новых языков программирования, новыми исследованиями в области нейронных сетей и машинного обучения, значительно приблизившими системы искусственного интеллекта к современному обществу. Многие из нас, осуществляя поиск информации в сети Интернет, делая покупки в интернет-магазинах, отслеживая новостную информацию по своим предпочтениям и т.д., зачастую не догадыва-
7 Ремезова Т. МВД раскинуло «Паутину»: как будет работать система // Вести.Ру. 2021. 22 апреля. URL: https://www.vesti.ru/auto/article/2554038 (дата обращения: 09.12.2022).
8 Российский реестр программного обеспечения. URL: https://reestr.digital.gov.ru/request/969579/Psphrase_ id=2425790 (дата обращения: 12.12.2022).
9 Nwana H. S. Software agents: an overview // Knowledge Engineering Review. 1996. Vol. 11. № 3. P. 209.
10 Nwana H. S. Op. cit. P. 209.
11 Nwana H. S. Op. cit. P. 205-244.
12 Иванов К. К., Лужин В. М., Кожевников Д. В. Программные агенты и мультиагентные системы // Молодой ученый. 2017. № 7 (141). С. 12.
13 См., например: Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. СПб. : Питер, 2001. 384 с. ; Brooks R. A. Intelligence without representation // Artificial Intelligence. 1991. № 47. P. 139-159.
лись, что большую часть работы выполняют интеллектуальные программные агенты.
Стефан Хааг с соавторами выделяет четыре группы интеллектуальных программных агентов14: во-первых, агенты-боты, например торговые боты (агенты-покупатели или информационные агенты), которые собирают информацию о товарах и об услугах, интересных пользователю. Примерами торговых ботов являются распространенные отечественные поисково-аналитические системы в области тендеров и госзакупок Tenderland15, Seldon16, FindTenders. ги17 и др. Во-вторых, пользовательские агенты, которые действуют от имени пользователя и в его интересах. Например, такой агент может сортировать электронную почту, обрабатывать письма и отвечать на них, заполнять веб-формы на сайтах, отправлять данные на запросы внутри корпоративной компьютерной сети и анализировать их. Так, пользовательские агенты активно задействованы в корпоративных информационных системах ^Р-системах)18. В-третьих, пре-диктивные агенты, которые осуществляют мониторинг за объектом и прогнозируют критическое изменение его состояния. В частности, наблюдение может вестись за запасами продуктов на складе, состоянием оборудования, количеством боеприпасов в военном подразделении, состоянием общественного порядка. Своевременное реагирование на сигнал предиктивного агента сводит к минимуму расходы, вызванные изменением наблюдаемого объекта. В-четвертых, агенты по поиску данных, осуществляющие подбор и анализ информации в больших хра-
нилищах данных с целью ее систематизации, классификации, выявления каких-либо тенденций отдельных показателей.
Таким образом, программные агенты могут использоваться субъектами права при выполнении определенных задач. При этом контроль за функционированием программного агента и вмешательство в его работу со стороны субъекта права может быть минимальным, а может и полностью отсутствовать. Например, в разд. 2 Единого закона США об электронных транзакциях 1999 г. под электронным агентом понимается «компьютерная программа или электронное или другое автоматизированное средство, используемое независимо для инициирования действия или ответа на электронные записи или действия, без проверки или участия человека»19. Согласно данному определению, в качестве электронного агента рассматривается «средство», которое используется субъектом права только как инструмент реализации его воли.
При этом в силу п. 1 и 2 разд. 14 Единого закона США об электронных транзакциях, в которых перечисляются правила автоматизированной транзакции, «договор может быть заключен в результате взаимодействия электронных агентов сторон, даже если ни одна из сторон не знала или не отслеживала действия электронных агентов; договор может быть заключен путем взаимодействия электронного агента и субъекта права, действующего от своего имени или от имени другого лица». На основании Единого закона США об электронных транзакциях законодательные органы штатов принимают
14 Haag S., Cummings M., Phillips A. Management information systems for the information age. 6th ed. Boston [etc.] : McGraw-Hill/Irwin, 2007. P. 200-203.
15 Программа по поиску закупок Tenderland // URL: https://tenderland.ru/landing/index.php (дата обращения: 09.12.2022).
16 Информационно-аналитическая система для государственных закупок, участия в тендерах и проверке контрагентов Seldon // URL: https://seldon.pro/programmy-seldon/ (дата обращения: 09.12.2022).
17 Автоматизированная система поиска государственных и коммерческих тендеров FindTenders // URL: https://findtenders.ru/ (дата обращения: 09.12.2022).
18 Намиот Д. Е., Сухомлин В. А., Шаргалин С. П. Программные агенты в ERP системах // International Journal of Open Information Technologies. 2016. Vol. 4. № 6. P. 49-53.
19 Uniform Electronic Transactions Act // National conference of commissioners on Uniform State Laws. 1999. P. 4. URL: https://www.uniformlaws.org/committees/community-home/librarydocuments/viewdocument7D ocumentKey=eebd2d89-344c-4286-9e5c-b35319bb17c6 (дата обращения: 09.12.2022).
собственное законодательство. Так, в штате Вирджиния был принят Единообразный закон об операциях с компьютерной информацией, вносящий дополнение в Кодекс Вирджинии20.
Программные агенты могут быть не только средством, с помощью которого заключаются договоры, не только средством цифрового выражения контракта (формой сделки), но и средством, с помощью которого автоматически выполняется часть или все обязательства по договору. В качестве примера можно привести торговых роботов на биржах, с помощью которых заключаются, сопровождаются и исполняются сделки. Наиболее известные из таких роботов — Abi, Autocryptobot, Daxrobot21. Высокочастотные торговые роботы (High Frequency Trading algorithms) могут вести торговлю на бирже круглосуточно и проводить тысячи сделок в секунду. Естественно, что при этом повышается эффективность, снижается вероятность ошибок, так как в работе агента отсутствует субъективный фактор.
Основываясь на выделении четырех групп интеллектуальных программных агентов, осуществленном С. Хаагом с соавторами22, попытаемся провести анализ их использования в современной юридической практике, которое может быть охарактеризовано как один из подвидов правовых технологий (LegalTech), принадлежащий, в свою очередь, к такому их виду, как использование в юридической практике искусственного интеллекта.
Деятельность различных субъектов права, осуществляемую с помощью программных агентов, возможно отнести к правовым технологиям в том случае, если она влечет за собой юридически значимый результат, определенные правовые последствия. Программный
агент будет рассматриваться в качестве одного из структурных элементов правовой технологии — в качестве средства осуществления юридической деятельности, средства достижения правового результата, а само использование данного средства в юридической практике — в качестве правовой технологии. При этом данное средство будет носить смешанный характер, подразумевающий обращение при осуществлении юридической деятельности, направленной на достижение правового результата, как к специально-юридическим (юридическим конструкциям, правовым понятиям, юридическим фактам, правоотношениям, нормам права и т.д.), так и к неюридическим средствам (информационным, техническим, аппаратным, программным и др.). Действительно, в случае использования программных агентов при осуществлении юридической деятельности применяются в своей взаимосвязи такие средства, как технические и правовые нормы, информационно-коммуникативные, цифровые средства. Так, в Предварительном национальном стандарте «Информационные технологии. Сети сенсорные» программный агент определяется как «фрагмент кода, который действует от имени приложения сенсорной сети или пользователя с определенной степенью автономности»23.
Перейдем к примерам использования отдельных видов данной правовой технологии в юридической практике.
К первой группе относится применение чат-ботов — программной надстройки, которая позволяет автоматизировать процессы в маркетинге, продажах, поддержке клиентов, в том числе в правовой деятельности. С помощью таких программных агентов, например, юри-
20 Code of Virginia. Title 59.1 «Trade and Commerce». Chapter 43 «Uniform Computer Information Transactions Act» // URL: https://law.lis.virginia.goV/vacode/title59.1/chapter43/ (дата обращения: 09.12.2022).
21 Как выбрать торгового робота. Топ самых лучших // URL: https://binaroption.com/signaly/380-kak-vybrat-torgovogo-robota-top-samykh-luchshikh (дата обращения: 09.12.2022).
22 Haag S., Cummings M., Phillips A. Op. cit. P. 200-203.
23 П. 7.4.3. Предварительный национальный стандарт ПНСТ 421-2020 (ИСО/МЭК 29182-4:2013) «Информационные технологии. Сети сенсорные. Типовая архитектура сенсорных сетей. Часть 4. Модели сущностей», утвержденный приказом Федерального агентства по техническому регулированию и метрологии от 23.07.2020 № 30-пнст. Срок действия — с 1 января 2021 г. до 1 января 2024 г. М. : Стандартинформ, 2020. С. 14.
дические консалтинговые фирмы могут привлекать и классифицировать потенциальных клиентов, консультировать пользователей на первичных этапах, принимать оплату без участия человека. Чат-боты могут использоваться на сайтах компаний, в социальных сетях, мес-сенджерах и прочих информационных каналах. Для обращения к данным программным агентам нет необходимости разбираться в языках программирования и конструировании сайтов. Существует множество финансово доступных готовых решений (конструкторов), что обуславливает массовость и эффективность применения данных программных агентов на практике. Так, конструктор чат-ботов А^у^к на базе машинного обучения и искусственного интеллекта позволяет создать программного агента, который умеет распознавать естественную речь и определять намерение клиента, предоставлять ему информацию, обучаться на примерах реальных фраз, собирать отзывы, переводить диалог на специалиста, обзванивать клиентов, напоминать заказчику о предстоящем мероприятии, принимать платежи24. Практическое значение таких программных агентов состоит в том, что они выполняют большую часть повседневных задач, с которыми сталкиваются в своей деятельности юристы, высвобождая их время для решения более сложных юридических вопросов, требующих непосредственного участия.
Большинство конструкторов чат-ботов универсальны и позволяют создать программного агента практически для любой сферы деятель-
ности, но есть и специализированные решения для юридических задач. Так, например, российская разработка Egrulbot по запросу пользователя, в частности по номеру ИНН или ОГРН, присылает выписку из Единого государственного реестра юридических лиц, а также информацию о запрашиваемом юридическом лице в соответствии с настройками в конструкторе отчетов25. Зарубежный чат-бот Docubot помогает пользователю генерировать и создавать юридические документы, при этом он осуществляет мониторинг множества правовых сайтов и анализирует информацию, которая может понадобиться для создания документа26. «Атомбот.Закупки» автоматизирует процессы, не требующие верификации или экспертизы с участием человека: «осуществляет формирование и проверку технического задания и проекта договора по нормативным правилам»27.
Ко второй группе данного вида правовой технологии принадлежит использование интеллектуальных программных агентов, действующих от имени пользователя и в его интересах (пользовательских агентов), к которым можно причислить, например, компьютерную программу, позволяющую автоматизировать исполнение обязательств при наступлении определенных условий, так называемый смарт-контракт28. Так, в конце 2016 г. первыми в России технологию смарт-контракта применяли для осуществления расчетов Альфа-банк и S7 Airlines29.
В качестве примера третьей группы правовых технологий, связанных с использованием
24 Конструктор ботов Aimylogic // URL: https://aimylogic.com/ru/chatbot (дата обращения: 09.12.2022).
25 Бот Единого государственного реестра юридических лиц Egrulbot // URL: https://egrulbot.ru/ (дата обращения: 09.12.2022).
26 Docubot — a Legal Artificial Intelligence Technology in the Market // Consumer Law Magazine. 2018. 5 Dec. URL: http://consumerlawmagazine.com/docubot-legal-ai-technology (дата обращения: 09.12.2022).
27 «Атомбот. Закупки» (ПО «Система интеллектуальной проверки документации») // Росатом. Направления деятельности. Цифровые продукты. // URL: https://rosatom.ru/production/supercomputer-and-software/ (дата обращения: 09.12.2022).
28 Smart Contracts: Is the Law Ready? // Smart-Contracts-Whitepaper-WEB. Smart Contracts Alliance, 2018. P. 37-38. URL: https://digitalchamber.s3.amazonaws.com/Smart-Contracts-Whitepaper-WEB.pdf (дата обращения: 09.12.2022).
29 S7 Airlines и Альфа-Банк впервые в России провели сделку-аккредитив с использованием блокчейн // Содружество авиационных экспертов Aviation Explorer. 2016 г. 21 декабря. URL: https://www.aex.ru/ news/2016/12/21/163842/ (дата обращения: 09.12.2022).
в юридической деятельности таких программных агентов, как предиктивные, можно назвать деятельность правоохранительных органов, применяющих программы прогнозирования совершения преступлений. Так, в Италии бывший сотрудник полиции создал компанию KeyCrime, разработавшую программное решение delia для анализа преступности и улучшения работы полицейских с помощью использования технологий искусственного интеллекта и машинного обучения. Delia позволяет выявить преступные деяния, которые могут быть частью серии преступлений, позволяя полиции быстрее обнаружить взаимосвязь между ними и прогнозировать совершение новых30. Данное программное обеспечение отличается от обычных полицейских средств для прогнозирования тем, что оно фокусируется на поимке преступников, а не на предупреждении преступлений. Программное обеспечение обращается к информации о совершенных преступлениях, а затем предсказывает, когда и где конкретный человек или группа вновь совершат преступное деяние. Delia генерирует индивидуальные прогнозы, что уменьшает вероятность предвзятости31.
Примерами использования в юридической деятельности агентов четвертой группы (агентов по поиску и анализу данных) являются программные решения на основе Legal GRC Software Platform компании Exterro, которая разрабатывает программные продукты для юридических фирм в сфере проверки соблюдения нормативных требований. Программные агенты на платформе Legal GRC осуществляют сбор правовой информации из различных хра-
нилищ и юридических баз данных, обрабатывают и унифицируют ее в соответствии с настройками, заданными пользователем32. Программа Legalscape, предоставляемая Legalscape Inc. (Япония), анализирует и систематизирует юридическую информацию, содержащуюся в нормативных правовых актах, судебных решениях, интерпретационных актах, комментариях к законодательству и др. Для структурирования информации программа Legalscape использует искусственный интеллект33.
В настоящее время ученые, классифицируя правовые технологии на виды, называя среди них научное проектирование, правовой эксперимент, правовой мониторинг, нейролингви-стические технологии, правовую экспертизу, относят к ним и самостоятельный вид — информационно-правовые технологии. В последние включаются применение информационно-поисковых правовых систем, применение АСУ, программного обеспечения, электронной цифровой подписи и др.34 В данной классификации технологий программные агенты будут относиться прежде всего к программному обеспечению как разновидности информационных правовых технологий. Кроме того, программные агенты будут рассматриваться как средство осуществления деятельности с использованием всех остальных видов информационно-правовых технологий.
Некоторые авторы предлагают подразделить комплекс технологий в составе LegalTech на 3 группы: вспомогательные технологии (технологии общего характера), технологии обеспечения организационной работы и аналитические правовые технологии (решения в области ана-
30 Программное обеспечение для анализа преступности Delia. KeyCrime // URL: https://keycrime.com/delia/ (дата обращения: 09.12.2022).
31 Mastrobuoni G. Do algorithms help to reduce crime? // The Japan Times. 2022. 25 May. URL: https://www. japantimes.co.jp/opinion/2022/05/25/commentary/world-commentary/algorithms-fight-crime/ (дата обращения: 09.12.2022).
32 Exterro Completes Significant Strategic Recapitalization in Excess of $1 Billion // Exterro. 2022. July 26. URL: https://www.exterro.com/about/news-events/exterro-completes-significant-strategic-recapitalization-in-excess-of-1-billion (дата обращения: 09.12.2022).
33 Digitalizing Japan's legal world // University of Tokyo. Public Relations Office 2023. 16 February. URL: https:// www.u-tokyo.ac.jp/focus/en/features/entrepreneurs17.html# (дата обращения: 10.03.2023)/.
34 Юридическая техника и цифровые технологии : монография / под науч. ред. А. В. Корнева. М. : Проспект, 2022. С. 86.
лиза материального права, поддерживающие деятельность юриста или даже заменяющие его)35. Согласно приведенной выше классификации, использование программных агентов будет характерно для каждого из названных видов технологий.
В зависимости от видов осуществляемой юридической деятельности можно говорить об использовании программных агентов в правотворческой (например, технология электронного правительства), правоинтерпретационной (например, информационно-поисковые правовые системы), правореализационной (например, технологии подготовки проектов договоров с помощью программных агентов, технологии автоматического исполнения договоров (смарт-контрактов)) и правоприменительной деятельности (например, применение предиктивных программных агентов, технологии электронного судопроизводства).
Правовые технологии, связанные с использованием программных агентов, могут быть подразделены на две группы в зависимости от вида программного агента — стационарные и мобильные36. Стационарные программные агенты функционируют только в своей среде и не могут ее покинуть. Мобильные агенты могут мигрировать между различными средами и платформами. И если стационарный агент всегда остается в своей среде и находится под контролем пользователя, то мобильный агент, например, осуществляя сбор информации на стороннем ресурсе, функционирует в чужой среде, которая неизвестна владельцу агента и неподконтрольна ему. Функционированием мобильного агента трудно управлять, он переходит между различными средами и агентскими платформами и возвращается к владельцу, когда его задача будет выполнена. Эти обстоятельства вызывают проблемы, связанные с использованием данной технологии: вмешательство в функционирование программного агента, верификация агента, сохранение конфиденциаль-
ности информации, легальные способы перемещения между различными средами, возможное отрицательное влияние чужой среды, которое может вызвать сбои в работе программы, большое количество агентов и др.
Какие еще риски могут быть связаны с использованием интеллектуальных программных агентов и чем они обусловлены? Риски могут исходить из трех источников: непосредственно самих агентов; агентских платформ, то есть среды, где программные агенты функционируют, выполняют поставленные задачи, обмениваются информацией; внешних источников (например, незаконного воздействия на программного агента третьими лицами). Самые передовые системы компьютерной безопасности не могут полностью исключить такие риски, как повреждение агента, принудительное изменение его задачи, утечка конфиденциальной информации, нарушение работы агентской платформы вследствие сетевых атак. Все эти риски могут привести к негативным последствиям различного масштаба — искажению информации, финансовым убыткам, технологическим авариям и др.
Приведем пример, когда программный агент предоставляет неполную информацию, то есть выполняет поставленную задачу лишь частично. Предположим, что представитель компании — поставщика товаров или услуг настраивает фильтры по ключевым словам в поисково-аналитической системе с целью отслеживания нужных тендеров, но по каким-либо причинам используемая система пропускает необходимую информацию и поставщик упускает потенциальную финансовую выгоду от участия в них. Подобная ситуация может сложиться вследствие различных причин. Во-первых, поставщик неверно настроил фильтр поиска (множество ключевых слов, исключения, регион деятельности, категории товаров и услуг и т.д.); во-вторых, организатор тендера по ошибке или сознательно, чтобы исключить возможную конкуренцию, исказил информацию о
35 Информационно-технологическое обеспечение юридической деятельности (LegalTech) : учебник / под ред. А. В. Минбалеева. М. : Проспект, 2022. С. 22.
36 Sachin M. Electronic agents are helpful and without risks for business as well as consumers // URL: https:// legalserviceindia.com/article/l245-Electronic-agents.html (дата обращения: 09.12.2022).
закупке, вследствие чего программный агент в ходе поиска встретил затруднения в распознавании такого тендера. Такими затрудняющими факторами могут быть дополнительные пробелы в словах, слитное написание различных слов, использование латинских букв в качестве кириллицы, грамматические ошибки, сокращения и аббревиатура37. В итоге поставщик, в интересах которого действовал программный агент, упускает возможность участия в данной закупке. В-третьих, ошибки могут присутствовать в программном коде агента, особенно на этапе разработки новых систем искусственного интеллекта.
Проблемным для пользователя может оказаться и использование аукционного робота — программы, которая позволяет подавать ценовые предложения по заранее установленной стратегии без участия пользователя. Аукционные роботы могут быть как интегрированным, встроенным элементом конкретной электронной площадки, так и сторонней программой. В настоящее время встроенные аукционные роботы реализованы на площадках «Сбербанк-АСТ»38 и «РТС-тендер»39. На остальных электронных площадках могут применяться сторонние аукционные роботы, например программы AuSe40, Win-IT41, а также частные программные разработки. Преимущество аукционных роботов заключается в экономии времени пользователя, возможности одновременного участия в нескольких процедурах, отсутствии ошибок при подаче ценовых предложений, быстроте реагирования и т.д. Однако использование аукционных роботов, по своей сути являющихся
программными агентами, может быть связано и со злоупотреблением. Так, например, с помощью аукционного робота можно максимально затягивать проведение процедуры торгов, когда ценовое предложение подается в последнюю секунду контрольного времени и данное действие повторяется многократно. В 2018 г. ФАС России доказала неправомерное использование участниками торгов ООО «Валирия» и ООО «Эгамед» аукционных роботов, настроенных на автоматическое поддержание максимальной цены в ряде аукционов на поставку медицинских расходных материалов42.
Известны примеры прямых финансовых убытков, вызванных некорректной работой программных агентов. 1 августа 2012 г. американская компания Knight Capital Americas LLC, один из крупнейших участников фондового рынка, за 45 минут работы торгового робота на бирже потеряла 465 млн долл., что в итоге привело к ее банкротству. Причины этой финансовой катастрофы заключались в использовании на одном из серверов ошибочного программного кода, связанного с обработкой заказов от брокеров, вследствие чего заказы стали размещаться роботом безостановочно и бесконтрольно, а компания Knight Capital Americas LLC теряла 172 тыс. долл. в секунду. При этом уже в первые минуты участникам рынка стало понятно, что высокочастотный торговый робот ведет себя некорректно, но в компании Knight Capital Americas LLC сделать ничего не могли, так как у торгового робота, образно говоря, не оказалось «выключателя». Подробный анализ всех обстоятельств данного дела приведен в отчете
37 Павлов А. Спрятанные тендеры, как найти все интересные торги // URL: https://www.garant.ru/ article/1265822/ (дата обращения: 09.12.2022).
38 Торговый робот (223-ФЗ) Сбербанка России // URL: https://help.sberbank-ast.ru/?page=50569390.html (дата обращения: 09.12.2022).
39 «Автоторг» — сервис для подачи ценовых предложений в авторежиме // URL: https://www.rts-tender.ru/ about/news/27032017 (дата обращения: 09.12.2022).
40 Программа для закупки поиска тендеров по всем торговым площадкам. Аукционный робот Ause для Сбербанка и Росэлторг // URL: https://www.i-tt.ru/products/AuSe (дата обращения: 09.12.2022).
41 Аукционный робот: что это такое и для чего он нужен // URL: https://zakupkihelp.ru/uchastniku-zakupok/ auktsionnyj-robot.html (дата обращения: 09.12.2022).
42 Решение ФАС России по делу № 1-11-166/00-22-17 от 27.04.2018 // СПС «КонсультантПлюс».
Комиссии США по ценным бумагам и биржам43, а также разобран на некоторых русскоязычных профильных сайтах44.
Некорректная работа программных агентов может привести и к техногенным авариям. Например, в 2008 г. крупная атомная электростанция в штате Джорджия (США) прекратила свою работу на двое суток, так как после обновления программного обеспечения главный компьютер, выполнявший диагностику и мониторинг основных показателей работы станции, перезагрузился, вследствие чего из памяти была стерта часть данных дозиметрического контроля. В свою очередь, компьютерная система безопасности станции приняла потерю этих данных за утечку радиоактивных веществ и остановила работу всех систем на двое суток45.
Как мы видим, очень важным при осуществлении деятельности субъектов права с помощью интеллектуальных программных агентов является вопрос об ответственности. Кто будет выступать субъектом юридической ответственности в случае, если в результате функционирования такого программного агента был причинен вред либо лицам, использующим данную компьютерную программу, либо третьим лицам? Кто должен отвечать — заказчик программы, ее создатель, лицо, осуществляющее свою деятельность с помощью этого агента, или, есть и такая точка зрения, сам интеллектуальный программный агент?
Создание современных систем искусственного интеллекта и необходимость определить степень их участия в правовых отношениях, их место в структуре правоотношения, потребность в выявлении субъектов юридической ответственности при причинении вреда личности, юридическим лицам, обществу или государству
вследствие использования интеллектуальных программных агентов заставили юридическое сообщество вновь обратиться к этой проблеме, переосмыслив устоявшиеся дефиниции в области права. Как отмечает В. Н. Синюков, «впервые в истории права новые технологии стали напрямую влиять на сам характер права, право-реализацию, добираясь до самых классических и, казалось бы, вечных юридических форм и институтов — договора, субъектов, юридической ответственности, юридического процесса»46.
Помимо обозначенной выше проблемы определения субъекта юридической ответственности за причинение вреда деятельностью, осуществляемой с помощью интеллектуальных программных агентов, к проблемам использования программных агентов в юридической практике, требующим своего дальнейшего изучения, можно отнести вопросы: правовой идентификации интеллектуальных программных агентов; необходимости закрепления на законодательном уровне требования обязательной государственной регистрации созданных интеллектуальных программных агентов, установления законодателем норм права, предусматривающих страхование рисков причинения вреда данным видом деятельности; разработки положений специального правового режима со свойственной ему спецификой правового регулирования отдельной сферы общественных отношений — отношений, связанных с созданием и использованием интеллектуальных программных агентов.
В правотворческой деятельности государственных органов РФ уже сейчас можно встретить выражения «электронный агент», «цифровой агент». Например, в программе цифровой трансформации Федерального казначейства на
43 Securities Exchange Act of 1934. Release № 70694. 2013. 16 October // URL: https://www.sec.gov/litigation/ admin/2013/34-70694.pdf (дата обращения: 09.12.2022).
44 Золотое Е. Ошибочка вышла! Как Knight Capital потеряла полмиллиарда за полчаса // Компьютерра. 2012. 6 августа. URL: https://www.computerra.ru/187019/kcg/ (дата обращения: 09.12.2022).
45 Атомная электростанция прекратила работу из-за обновления ПО // SecurityLab. 2008. 9 июня. URL: https:// www.securitylab.ru/news/354480.php (дата обращения: 09.12.2022).
46 Синюков В. Н. Право XXI века: сущность и новизна // Право и общество в эпоху социально-экономических преобразований XXI века: опыт России, ЕС, США и Китая : колл. монография к 90-летию Университета имени О.Е. Кутафина (МГЮА) / под общ. ред. В. В. Блажеева, М. А. Егоровой. М. : Проспект, 2021. С. 12.
2022-2024 гг. указывается, что в казначействе уже «созданы инструменты искусственного интеллекта посредством реализации голосового помощника "Интеллектуальный цифровой агент"»47.
В судебной практике РФ тоже уже имеются примеры использования понятия «электронный агент» в конкретных судебных решениях: так, в постановлении Первого арбитражного апелляционного суда от 29.07.202248 по делу о взыскании долга и затрат, о взыскании неустойки, о взыскании страхового возмещения по договору страхования было зафиксировано, что страховая компания ссылалась на поддельность спорного полиса ОСАГО и на то, что полис был выдан посредством электронного агента путем оформления на сайте РСА. Но нужно отметить, что не всегда правоприменитель использует данное понятие правильно: так, в определении Второго кассационного суда общей юрисдикции от 08.09.2021 по делу № 8Г-16006/2021[88-17817/2021]49 о взыскании долга, о возмещении вреда суд указал, что «электронным агентом по сервисному сбору является ООО "С7 Трэвел Ритейл"», хотя в действительности электронным агентом является программа, с помощью которой осуществляется оплата сервисного сбора субъектом права — ООО «С7 Трэвел Ритейл», а не само ООО «С7 Трэвел Ритейл». Это свидетельствует о том, что понятия «электронный агент», «программный агент», «интеллектуальный программный агент», «цифровой агент» еще не являются устоявшимися и требуют своей доктринальной разработки.
Проведенный анализ примеров использования программных агентов в отечественной и зарубежной юридической практике дает возможность утверждать, что уже сейчас программные агенты внедрены в различные виды юридической деятельности. Но нужно учитывать и тот факт, что функционирование программных
агентов несет и определенные риски как для лиц, их использующих, так и для третьих лиц. Данные риски могут быть обусловлены особенностями самих программных агентов, спецификой среды, в которой программные агенты функционируют, а также влиянием внешних источников. Возникающие при этом вопросы, касающиеся субъектов юридической ответственности за вред, причиненный использованием программного агента, вынуждают исследователей обращаться к анализу общетеоретической проблемы, связанной с определением правового положения программного агента. Представляется, что наиболее адекватным решением выступает рассмотрение программного агента как объекта права, поскольку даже интеллектуальные программные агенты выступают только как инструмент, программное средство, с помощью которого субъект права реализует свою волю. У любого программного агента есть параметры его программирования, заданные конкретным субъектом права, поэтому, даже будучи автономным, агент реализует волю субъекта права, не имея собственной независимой воли. Для защиты прав и интересов лиц, которым был причинен вред деятельностью, осуществляемой с помощью программных агентов, предлагается предусмотреть в законодательстве обязательность страхования рисков юридической ответственности для создателей (разработчиков) интеллектуальных программных агентов.
Исходя из того, что использование программных агентов может порождать определенный юридически значимый результат как нормативного, так и индивидуального характера, возможно рассматривать юридическую деятельность, осуществляемую с помощью программных агентов, как разновидность правовой технологии. При этом данный вид технологии характерен для всех видов юридической деятельности (правотворческой, правосистематизационной,
47 Приказ Федерального казначейства от 05.07.2022 № 197 «О внесении изменений в ведомственную программу цифровой трансформации на 2022-2024 годы, утвержденную приказом Федерального казначейства от 14.01.2022 № 10» // СПС «Гарант».
48 Постановление Первого арбитражного апелляционного суда от 29.07.2022 № 01АП-4019/22 по делу № А43-5161/2021 // СПС «Гарант».
49 СПС «Гарант».
правореализационной, правоприменительной, правоинтерпретационной) и для всех или большинства отраслей права, что позволяет говорить о ней как о сквозной технологии50.
Таким образом, с одной стороны, программные агенты являются разновидностью цифровых технологий, но, с другой стороны, их использование в юридической практике, нацеленное на порождение определенных правовых последствий, выступает как разновидность правовых технологий.
В настоящее время всё более востребованным становится такой вид правовой технологии, как осуществление юридической деятельности с помощью интеллектуальных программных агентов. Юристами успешно используются программные агенты-боты; пользовательские агенты; предиктивные агенты и агенты по поиску данных, осуществляющие подбор и анализ информации в больших хранилищах данных с целью ее систематизации, классификации, выявления каких-либо тенденций отдельных показателей, то есть все виды интеллектуальных программных агентов, автономно выполняющих те или иные задания пользователя в течение некоторых промежутков времени.
Вместе с тем лица, осуществляющие юридическую деятельность с помощью программных агентов, сталкиваются с целым рядом трудностей теоретического и практического характера, среди которых можно назвать возможную дефектность и уязвимость программного обеспечения; риски несанкционированного доступа
к компьютерной программе; создание вредоносных программных агентов; квалификацию лиц, обращающихся к данному виду правовых технологий; определение пределов внедрения искусственного интеллекта в юридическую деятельность, в частности в правосудие, в зависимости от вида субъектов, использующих информационные технологии51; дискуссионность вопроса о правовой природе интеллектуальных программных агентов; трудности в определении субъекта юридической ответственности за вред, причиненный деятельностью, осуществляемой с помощью программных агентов; нерешенность проблемы страхования рисков юридической ответственности; отсутствие адекватного правового регулирования.
Очевидно, что вопросы, связанные с использованием программных агентов как одного из видов правовых технологий, необходимо решать как можно скорее. Как и любое достижение в области информационных технологий, оно имеет и положительные, и отрицательные последствия, относительно которых юридическая наука должна выдвигать верные прогнозы и предлагать оптимальные варианты решений. В свою очередь, правотворческим органам, осуществляющим нормативное правовое регулирование в данной сфере общественных отношений, необходимо не отставать от технологического прогресса, способствуя планомерному и подконтрольному человеку его развитию, предвидя и предотвращая наступление его неблагоприятных последствий.
БИБЛИОГРАФИЯ
1. Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. — СПб. : Питер, 2001. — 384 с.
2. Ештокин С. В. Сквозные технологии цифровой экономики как фактор формирования технологического суверенитета страны // Вопросы инновационной экономики. — 2022. — Т. 12. — № 3. — С. 1301-1314.
3. Иванов К. К., Лужин В. М., Кожевников Д. В. Программные агенты и мультиагентные системы // Молодой ученый. — 2017. — № 7 (141). — С. 11-13.
50 Ештокин С. В. Сквозные технологии цифровой экономики как фактор формирования технологического суверенитета страны // Вопросы инновационной экономики. 2022. Т. 12. № 3. С. 1301-1314.
51 Макутчев А. В. Современные возможности и пределы внедрения искусственного интеллекта в систему правосудия // Актуальные проблемы российского права. 2022. Т. 17. № 8. С. 50.
правовое регулирование в информационной сфере
4. Информационно-технологическое обеспечение юридической деятельности (LegalTech) : учебник / под ред. А. В. Минбалеева. — М. : Проспект, 2022. — 368 с.
5. Лаптев В. А. Deepfake и иные продукты искусственного интеллекта на пути развития онлайн-право-судия // Актуальные проблемы российского права. — 2021. — Т. 16. — № 11. — С. 180-186.
6. Макутчев А. В. Современные возможности и пределы внедрения искусственного интеллекта в систему правосудия // Актуальные проблемы российского права. — 2022. — Т. 17. — № 8. — С. 47-58.
7. Намиот Д. Е., Сухомлин В. А., Шаргалин С. П. Программные агенты в ERP системах // International Journal of Open Information Technologies. — 2016. — Vol. 4. — № 6. — P. 49-53.
8. Пржиленский В. И. Идея права в контексте эволюции техносоциальных систем // Актуальные проблемы российского права. — 2022. — Т. 17. — № 8. — С. 11-19.
9. Синюков В. Н. Право XXI века: сущность и новизна // Право и общество в эпоху социально-экономических преобразований XXI века: опыт России, ЕС, США и Китая : колл. монография к 90-летию Университета имени О.Е. Кутафина (МГЮА) / под общ. ред. В. В. Блажеева, М. А. Егоровой. — М. : Проспект, 2021. — С. 12-29.
10. Юридическая техника и цифровые технологии : монография / под науч. ред. А. В. Корнева. — М. : Проспект, 2022. — 152 с.
11. Brooks R. A. Intelligence without representation // Artificial Intelli-gence. — 1991. — № 47. — P. 139-159.
12. Haag S., Cummings M., Phillips A. Management information systems for the information age. — 6th ed. — Boston [etc.] : McGraw-Hill/Irwin, 2007. — 558 p.
13. Nwana H. S. Software agents: an overview // Knowledge Engineering Review. — 1996. — Vol. 11. — № 3. — P. 205-244. URL: https://www.math.pku.edu.cn/teachers/linzq/teaching/stm/references/Software%20 Agents%20-%20An%200verview.pdf.
14. Sachin M. Electronic agents are helpful and without risks for busi-ness as well as consumers // URL: https:// legalserviceindia.com/article/l245-Electronic-agents.html.
Материал поступил в редакцию 20 марта 2023 г.
REFERENCES (TRANSLITERATION)
1. Gavrilova T. A., Khoroshevskiy V. F. Bazy znaniy intellektualnykh sistem. — SPb.: Piter, 2001. — 384 s.
2. Eshtokin S. V. Skvoznye tekhnologii tsifrovoy ekonomiki kak faktor formirovaniya tekhnologicheskogo suvereniteta strany // Voprosy innovatsionnoy ekonomiki. — 2022. — T. 12. — № 3. — S. 1301-1314.
3. Ivanov K. K., Luzhin V. M., Kozhevnikov D. V. Programmnye agenty i multiagentnye sistemy // Molodoy uchenyy. — 2017. — № 7 (141). — S. 11-13.
4. Informatsionno-tekhnologicheskoe obespechenie yuridicheskoy deyatelnosti (LegalTech): uchebnik / pod red. A. V. Minbaleeva. — M.: Prospekt, 2022. — 368 s.
5. Laptev V. A. Deepfake i inye produkty iskusstvennogo intellekta na puti razvitiya onlayn-pravosudiya // Aktual'nye problemy rossijskogo prava. — 2021. — T. 16. — № 11. — S. 180-186.
6. Makutchev A. V. Sovremennye vozmozhnosti i predely vnedreniya iskusstvennogo intellekta v sistemu pravosudiya // Aktual'nye problemy rossijskogo prava. — 2022. — T. 17. — № 8. — S. 47-58.
7. Namiot D. E., Sukhomlin V. A., Shargalin S. P. Programmnye agenty v ERP sistemakh // International Journal of Open Information Technologies. — 2016. — Vol. 4. — № 6. — P. 49-53.
8. Przhilenskiy V. I. Ideya prava v kontekste evolyutsii tekhnosotsialnykh sistem // Aktual'nye problemy rossijskogo prava. — 2022. — T. 17. — № 8. — S. 11-19.
9. Sinyukov V. N. Pravo XXI veka: sushchnost i novizna // Pravo i obshchestvo v epokhu sotsialno-ekonomicheskikh preobrazovaniy XXI veka: opyt Rossii, ES, SShA i Kitaya: koll. monografiya k 90-letiyu
Universiteta imeni O.E. Kutafina (MGYuA) / pod obshch. red. V. V. Blazheeva, M. A. Egorovoy. — M.: Prospekt,
2021. — S. 12-29.
10. Yuridicheskaya tekhnika i tsifrovye tekhnologii: monografiya / pod nauch. red. A. V. Korneva. — M.: Prospekt,
2022. — 152 s.
11. Brooks R. A. Intelligence without representation // Artificial Intelli-gence. — 1991. — № 47. — P. 139-159.
12. Haag S., Cummings M., Phillips A. Management information systems for the information age. — 6th ed. — Boston [etc.]: McGraw-Hill/Irwin, 2007. — 558 p.
13. Nwana H. S. Software agents: an overview // Knowledge Engineering Review. — 1996. — Vol. 11. — № 3. — P. 205-244. URL: https://www.math.pku.edu.cn/teachers/linzq/teaching/stm/references/Software%20 Agents%20-%20An%200verview.pdf.
14. Sachin M. Electronic agents are helpful and without risks for busi-ness as well as consumers // URL: https:// legalserviceindia.com/article/l245-Electronic-agents.html.
