CC BY
108ЦИФРОВОЕ ПРАВО
DOI: 10.24412/2224-9133-2023-6-144-148 NIION: 2021-0079-6/23-340 MOSURED: 77/27-025-2023-06-340
ТОРЛОВ Леонид Олегович,
студент Юридической школы Дальневосточного федерального университета, e-mail: torlov.lo@students.dvfu.ru
О ПРАВОСУБЪЕКТНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Аннотация. Авторами рассматривается понятие искусственного интеллекта и робота со стороны законодателя, доктрины, определяется и раскрывается проблема правосубъектности искусственного интеллекта, как объекта, субъекта, субъекта с ограниченной правосубъектностью, анализируются позиции авторов по наделению правосубъектности ИИ.
Ключевые слова: искусственный интеллект, правосубъектность искусственного интеллекта,
ИИ.
TORLOV Leonid Olegovich,
student of the Law School of the Far Eastern Federal University
ON THE LEGAL PERSONALITY OF ARTIFICIAL INTELLIGENCE
Annotation. The authors consider the concept of artificial intelligence and a robot on the part of the legislator, doctrine, define and disclose the problem of the legal personality of artificial intelligence as an object, subject, subject with limited legal personality, analyze the authors' positions on the legal personality of AI.
Key words: Artificial intelligence, legal personality of artificial intelligence, AI.
В настоящее время искусственный интеллект (ИИ) играет все более важную роль в различных сферах человеческой жизни, в том числе в юридической практике. Однако, с развитием технологий и возможностей ИИ возникают вопросы юридической ответственности за его действия, и соответственно, напрямую связанный с ним, вопрос правосубъектности. Перед выяснением правого статуса искусственного интеллекта авторы дадут понимание того, чем, собственно, ИИ является.
Понятие искусственного интеллекта (англ. artificial intelligence, AI, ИИ) является неоднозначным, сложность его определения заключается в его правовой и технической «природе». Каждый исследователь рассматривает ИИ так, как считает нужным в рамках своей работы, единого мнения по поводу дефиниции на сегодняшний день нет. В настоящей работе на основании анализа источников выделяются следующие подходы: (1) способность аналогичная функциональным способностям интеллекта человека, (2) техническая система. Рассмотрим по порядку предложенные подходы:
Первый подход определяет искусственный интеллект так, ИИ - это способность аналогичная
функциональным способностям интеллекта человека. Данное положение нашло отражение:
• В указе Президента РФ от 10.10.2019 №490 содержится понятие искусственного интеллекта, под ним понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.
• В п. 2.1.2, 2.1.5-2.1.7. проекта стандарта ISO/IEC DIS 22989 Information technology — Artificial intelligence — Artificial intelligence concepts and terminology: ИИ определяют как способность приобретать, обрабатывать, создавать и применять знания, определенные в форме модели, для выполнения одной или нескольких поставленных задач1.
1 Проект ГОСТ Р Информационные технологии. Искусственный интеллект. Понятия и терминология. Официальный сайт Росстандарта www.gost.ru по состоянию на 03.12.2021. [Электронный ресурс]. URL:https:/Лgis.gostru/share/page/rsprs/nds-
• В работе Филиповой И.А.: «искусственный интеллект - это способность интеллектуальных систем выполнять творческие функции, обычно присущие человеку» [19].
Таким образом, такой подход подразумевает под собой понимание искусственного интеллекта через призму имитации интеллекта человека посредством технических решений.
Второй подход рассматривает искусственный интеллект как техническую систему, что подтверждается следующим:
• в законе H.R.6216 National Artificial Intelligence Initiative Act of 2020 искусственный интеллект определяется, как техническая система, способная делать прогнозы, выдавать рекомендации или принимать решения, влияющие на реальную или виртуальную среду для целей, поставленных человеком1,
• в резолюции Европарламента «Нормы гражданского права о робототехнике» искусственный интеллект является небиологической автономной киберфизической системой, способной взаимодействовать с аналогичными системами, самообучаться, адаптироваться свои решения, действия и поведение в соответствии с условиями среды2.
• в документе EUROPEAN COMMISSION. COMMUNICATION FROM THE COMMISSION. Artificial Intelligence for Europe искусственный интеллект - это система, демонстрирующая разумное поведение, заключающееся в анализе окружающей среды и совершении действий, с некоторой степенью автономии, для достижения поставленных целей.
• в рекомендации ЮНЕСКО от 16.11.2021 «об этических аспектах искусственного интеллекта» под искусственным интеллектом понимаются технологические системы, способные обрабатывать данные и информацию способом, напоминающим разумное поведение и включающим, как правило, такие аспекты, как рассуждение, обучение, распознание, прогнозирование, планирование и контроль3.
details?uuid=e6e695df-ebaf-40cb-809e-016012e05530 -Текст: электронный. (дата обращения 21.01.2023).
1 H.R.6216 — 116th Congress (2019-2020). National Artificial Intelligence Initiative Act of 2020. [Электронный ресурс]. URL: https://www.congress.gov/ bill/116th-congress/house-bill/6216/titles - Текст: электронный. (дата обращения 21.01.2023).
2 Резолюция 2015/2103 (INL) «Нормы гражданского права о робототехнике». Европейский Сервер сети «Интернет». [Электронный ресурс]. URL: http:// europa.eu.int (дата обращения 08.12.2022).
3 Рекомендация ЮНЕСКО от 16.11.2021 «Об
этических аспектах искусственного интеллекта».
• Американские ученые Рассел и Норвинг рассматривают ИИ, «как системы, подобные людям либо как системы, которые думают рационально [16]», ключевой фактор, по их мнению, это возможность ИИ обладать разумом, автономией воли.
• Отечественный ученый, судья Морхат П.М. пишет, что «искусственный интеллект - это полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в т. ч. биокибернетическая, система, наделенная/обладающая способностями и возможностями мыслить, самоогранизовываться, обучаться, самостоятельно принимать решения и др. [14]».
Несмотря на существование двух подходов, можно сделать вывод о том, что фактически они не являются кардинально разными, так или иначе искусственный интеллект рассматривают через призму возможности искусственного интеллекта обладать разумом, сходным с человеческим интеллектом. В связи с чем возникает вопрос о правосубъектности искусственного интеллекта, можно ли говорить об очередной фикции в праве? Однако в контексте правосубъектности стоит отметить отличие ИИ от робота, многие авторы подменяют понятие робота искусственным интеллектом, что не есть корректно со стороны терминологии, с другой стороны понятие ИИ обширнее, чем робот, соответственно охватывает понятие робота, и так писать можно. Такой вывод сделан на основании анализа понятия искусственного интеллекта (как способности имитации человеческого разума) и понятия робота, под ним понимается «исполнительный механизм, программируемый по двум или более степеням подвижности, обладающий определенной степенью автономности и способный перемещаться во внешней среде с целью выполнения задач по назначению4». Так, после анализа источников были выделены три основные позиции по поводу правосубъектности ИИ (робота): ИИ является субъектом права, ИИ является объектом права или ИИ является субъектом права с ограниченной правоспособностью.
1) Робот - это субъект права В 1983 г. Маршалл С. Уиллик (Marshall S. Willick) предложил рассматривать умные компьютеры наравне с человеком в качестве субъектов
[Электронный ресурс]. URL: https://ifap.ru/ofdocs/ unesco/airec.pdf - Текст: электронный. (дата обращения 21.01.2023)
4 ГОСТ Р 60.0.0.4-2019/Ис0 8373:2012 Роботы и робототехнические устройства. Термины и определения. [Электронный ресурс]. URL: https://docs.cntd.ru/ document/1200162703?section=status - Текст: электронный. (дата обращения 21.06.2023).
права. Позиция строится на способности компьютеров выполнять физические и умственные способности человека «сложно провести грань между работой, проделанной компьютерной программой, и результатом, полученным в процессе действий человека» [7]. Такое положение дел как никогда актуально, на текущий момент очень популярны нейрогенеративные сети, способные создавать различные произведения искусства при запросах пользователя, например, арт-группа Obvious c помощью нейросетей создает картины, которые продаются за сотни тысяч долларов1. Такую позицию поддерживают такие авторы, как Alain Bensoussan [2], Murielle Cahen [4], Г.П. Бутюгов и В.В. Зайцев [9], Морхат П.М.
Отечественный исследовать Морхат также предлагает ввести понятие электронного лица -формализованный технико-юридический образ, обладающий некоторыми признаками юридической фикции [13].
Профессор Лаптев В.А. в своей работе приводил пример промышленного AI-робота, обладающего признаками субъекта предпринимательства. Его можно привлечь к юридической ответственности, применить к нему такие санкции, как принудительное отключение, доработка программы, утилизация. Лаптев писал о том, что «совокупность робота и искусственного интеллекта можно рассмотреть в качестве робото-раз-умного субъекта права (robo-sapiens) [11]», чем фактически признавал его в качестве субъекта права.
Архипов В.В., Наумов В.Б. предлагали внести поправки в ГК в раздел «Лица», признать участников правоотношений «робота-агента» и «владельца робота-агента», в раздел «Объекты гражданских прав» - «робот». Тем самым привязывая ИИ к агентированию (агентскому договору п. 1 ст. 1005 ГК РФ).
Hallevy G. писал о возможности применения мер уголовной ответственности к ИИ [5], Kopfstein J. даже предлагал ввести специальные виды наказания для роботов, как деактивация, перепрограммирование или наделение статусом преступника [6], такую позицию поддерживает, и даже «ужесточает» российский ученый Ужов Ф.В., он предлагает к санкциям добавить полное перепрограммирование и утилизацию робота [18]. Однако иную позицию поддерживают Коро-беев А.И. и Чучаев А.И., они считают, что вопрос криминализации деяния, правосубъектности ИИ, привлечения к юридической ответственности должен быть научно обоснованным с факторами,
1 «Да, мы — художники» Арт-группа Obvious: «Медуза» — международное русскоязычное издание [Электронный ресурс]. URL: https://meduza.io/ feature/2020/07/03/da-my-hudozhniki (дата обращения 18.05.2023).
относящимися к уровню общественной опасности, степени распространенности, неблагоприятной динамики развития, возможности правового воздействия средствами уголовного права и отсутствие иных менее репрессивных средств [10]. По нашему мнению, данный подход не совсем целесообразен в настоящий момент, поскольку искусственный интеллект пока не способен полноценно реализовывать себя как личность.
2) Робот - объект права Такая позиция признает робота средством осуществления деятельности традиционных субъектов права, и применяется сейчас. Суть данного подхода заключается в превосходстве (само-)сознания и разума человека [12], невозможности искусственного интеллекта быть полноценным членом общества, способным существовать в качестве субъекта правоотношений. Профессор Романова И.Н. также добавляла, что робот не может быть субъектом права ввиду отсутствия эмоционально-волевой составляющей, как одного из элементов правовой оценки и привлечения к юридической ответственности [17]. Кроме того, проблема правосубъектности искусственного интеллекта связана с морально-этической точкой зрения. Ученые считают, что у ИИ отсутствует большее количество сходств с людьми - как вменяемость, способность осознавать фактический характер и общественную опасность своих деяний, руководить ими, поэтому признавать ИИ нельзя. Невьянс Н. даже иронизирует по поводу наделения ИИ правосубъектностью, так, он предложил наделить ей отдельных животных, «обладающих сознанием и способных иметь чувства», как дельфины [8].
3) Робот - субъект права, имеющий ограниченную правосубъектность Asaro P.M., Hood K. Писали о возможности наделения ИИ отдельными правами [1]. Мы в настоящем исследовании поддерживаем позицию французского исследователя Jean-René Binet о том, что ИИ является объектом права, однако «автономные самообучающиеся роботы» могут быть субъектами [3]. ИИ в нынешнем «виде» (и возможно в будущем) явно не может быть полноценной заменой человеческому разуму с творческим началом - искусственный интеллект сейчас является слабым ИИ (ANI, Artificial Narrow Intelligence) - ИИ, способный решать исключительно узкопрофильные, простые задачи [15]. Мы можем делать предположения о возможности создания сильного искусственного интеллекта лишь из различных произведений творчества. Сильный ИИ, по мнению ученых и общества, может полноценно имитировать функции человека, чувствовать эмоции, мыслить, обладать автономией воли, как например, Терминатор из
одноименного фильма, Сонми-451 из фильма «Облачный атлас», Вижн из киновселенной Marvel и др. В случае, если робот действительно станет полноценной «личностью», общество столкнётся с рядом юридических проблем, и правосубъектность искусственного интеллекта как никогда прежде станет злободневной проблемой общества, законодательства и практики.
Список литературы:
[1] Asaro P.M. Robots and Responsibility from a Legal Perspective / P.M. Asaro // Proceedings of the IEEE. 2007. Vol. 4, iss. 14. P. 20-24.
[2] Bensoussan, Alain. Point de vue: Plaidoyer pour un droit des robots: de la ''personne morale'' à la ''personne robot'' // La Lettre des Juristes d'affaires, 2013. No.1134.
[3] Binet, Jean-René. Personnalité juridique des robots : une voie à ne pas suivre. // Droit de la famille, 2017. No. 6. P. 6.
[4] Cahen, Murielle. Le droit des robots. [Электронный ресурс] URL: https://www.murielle-cahen. com/publications/robot.asp (дата обращения: 18.05.2023).
[5] Hallevy G. The Criminal Liability of Artificial Intelligence Entities — from Science Fiction to Legal Social Control / G. Hal-levy // Akron Intellectual Property Journal. — 2010. — Vol. 4, iss. 2. — P. 195
[6] Kopfstein J. Should Robots Be Punished For Committing Crimes? / J. Kopfstein. [Электронный ресурс] URL: https://www.vocativ.com/417732/ robots-punished-committing-crimes. (дата обращения: 18.05.2023).
[7] Marshall, Willick S. Artificial intelligence: Some legal approaches and implications // AI Magazine, 1983. Vol. 4, No.2. P. 5. (in French).
[8] Nevejans N. European Civil Law Rules in Robotics: Study / N. Nevejans. — Brussels: European Parliament's Committee on Legal Affairs. 2016. Р. 15
[9] Бутюгов Г.П., Зайцев В.В. Искусственный интеллект как юридическое лицо // Материалы межвузовской научно-практической конференции с международным участием «Юриспруденция 2.0: новый взгляд на право». Российский университет дружбы народов, 8 декабря 2017.
[10] Коробеев А.И., Чучаев А.И. Беспилотные транспортные средства: новые вызовы общественной безопасности // LEX RUSSICA. 2019. № 2 (147). С. 25.
[11] Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. № 2. 2019. С. 88-89.
[12] Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис. ... д-ра юрид. наук. М., 2018. С. 113
[13] Морхат П.М. Правосубъектность юни-тов искусственного интеллекта. Гражданско-правовое исследование. М.: Юнити-Дана, 2018. С.30.
[14] Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография / РОО «Институт государственно-конфессиональных отношений и права». М.: Буки Веди, 2017. С.69.
[15] Писаренко М.С. К вопросу об искусственном интеллекте и его сущности / Вопросы российской юстиции. 2020. №10. С. 5.
[16] Рассел С. и Норвинг П. Искусственный интеллект. Современный подход. М.: Вильямс, 2006. С.35.
[17] Романова И.Н. Проблемы юридической ответственности за вред, причиненный при использовании технологий искусственного интеллекта: Научная электронная библиотека «Кибер-Ленинка». 2022. [Электронный ресурс]. URL: https://cyberleninka.ru/article/nZotvetstvennost-za-vred-prichinennyy-tehnologiyami-s-iskusstvennym-intellektom-podhod-evropeyskogo-soyuza (дата обращения 18.05.2023).
[18] Ужов Ф.В. Искусственный интеллект как субъект права / Ф.В. Ужов // Пробелы в российском законодательстве. 2017. № 3. С. 358.
[19] Филипова И.А. Правовое регулирование искусственного интеллекта: учебное пособие -Нижний Новгород: Нижегородский госуниверситет, 2020. С. 42.
Spisok literatury:
[1] Asaro P.M. Robots and Responsibility from a Legal Perspective / P.M. Asaro // Proceedings of the IEEE. 2007. Vol. 4, iss. 14. P. 20-24.
[2] Bensoussan, Alain. Point de vue: Plaidoyer pour un droit des robots: de la ''personne morale'' à la ''personne robot'' // La Lettre des Juristes d'affaires, 2013. No.1134.
[3] Binet, Jean-René. Personnalité juridique des robots: une voie à ne pas suivre. // Droit de la famille, 2017. No. 6. P. 6.
[4] Cahen, Murielle. Le droit des robots. [Elek-tronnyj resurs] URL: https://www.murielle-cahen. com/publications/robot.asp (data obrashcheniya: 18.05.2023).
[5] Hallevy G. The Criminal Liability of Artificial Intelligence Entities — from Science Fiction to Legal Social Control / G. Hal-levy // Akron Intellectual Property Journal. — 2010. — Vol. 4, iss. 2. — P. 195
[6] Kopfstein J. Should Robots Be Punished For Committing Crimes? / J. Kopfstein. [Elektronnyj resurs] URL: https://www.vocativ.com/417732/ robots-punished-committing-crimes. (data obrash-cheniya: 18.05.2023).
[7] Marshall, Willick S. Artificial intelligence: Some legal approaches and implications // AI Magazine, 1983. Vol. 4, No.2. P. 5. (in French).
[8] Nevejans N. European Civil Law Rules in Robotics: Study / N. Nevejans. — Brussels: European Parliament's Committee on Legal Affairs. 2016. R. 15
[9] Butyugov G.P., Zajcev V.V. Iskusstvennyj intellekt kak yuridicheskoe lico // Materialy mezhvu-zovskoj nauchno-prakticheskoj konferencii s mezh-dunarodnym uchastiem «YUrisprudenciya 2.0: novyj vzglyad na pravo». Rossijskij universitet druzhby nar-odov, 8 dekabrya 2017.
[10] Korobeev A.I., CHuchaev A.I. Bespilotnye transportnye sredstva: novye vyzovy obshchestven-noj bezopasnosti // LEX RUSSICA. 2019. № 2 (147). S. 25.
[11] Laptev V.A. Ponyatie iskusstvennogo intell-ekta i yuridicheskaya otvetstvennost' za ego rabotu // Pravo. ZHurnal Vysshej shkoly ekonomiki. № 2. 2019. S. 88-89.
[12] Morhat P. M. Pravosub"ektnost' iskusstvennogo intellekta v sfere prava intellektual'noj sob-stvennosti: grazhdansko-pravovye problemy: dis. ... d-ra yurid. nauk. M., 2018. S. 113
[13] Morhat P.M. Pravosub"ektnost' yunitov iskusstvennogo intellekta. Grazhdansko-pravovoe
[14] Morhat P.M. Iskusstvennyj intellekt: pravo-voj vzglyad: Nauchnaya monografiya / ROO «Institut gosudarstvenno-konfessional'nyh otnoshenij i prava». M.: Buki Vedi, 2017. S.69.
[15] Pisarenko M.S. K voprosu ob iskusstven-nom intellekte i ego sushchnosti / Voprosy rossijskoj yusticii. 2020. №10. S. 5.
[16] Rassel S. i Norving P. Iskusstvennyj intellekt. Sovremennyj podhod. M.: Vil'yams, 2006. S.35.
[17] Romanova I.N. Problemy yuridicheskoj otvetstvennosti za vred, prichinennyj pri ispol'zovanii tekhnologij iskusstvennogo intellekta: Nauchnaya elektronnaya biblioteka «KiberLeninka». 2022. [Elek-tronnyj resurs]. URL: https://cyberleninka.ru/arti-cle/n/otvetstvennost-za-vred-prichinennyy-teh-nologiyami-s-iskusstvennym-intellektom-pod-hod-evropeyskogo-soyuza (data obrashcheniya 18.05.2023).
[18] Uzhov F.V. Iskusstvennyj intellekt kak sub-"ekt prava / F.V. Uzhov // Probely v rossijskom zakonodatel'stve. 2017. № 3. S. 358.
[19] Filipova I.A. Pravovoe regulirovanie iskus-stvennogo intellekta: uchebnoe posobie - Nizhnij Novgorod: Nizhegorodskij gosuniversitet, 2020.
issledovanie. M.: YUniti-Dana, 2018. S.30. S. 42.
