CC BY
31DOI: 10.24412/2076-1503-2022-7-249-253 NIION: 2018-0076-7/22-849 MOSURED: 77/27-023-2022-7-1047
МИНАЕВА Анастасия Игоревна,
аспирант кафедры теории государства и права Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), е-mail: mail@law-books.ru
К ВОПРОСУ О ВЛИЯНИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА ИНДИВИДУАЛЬНЫХ СУБЪЕКТОВ ПРАВА
Аннотация. Предмет рассмотрения настоящей статьи — влияние процесса развития искусственного интеллекта на индивидуальных субъектов российского права. Автор исследует подходы к понятию искусственного интеллекта, его правовому положению, позиции ученых относительно постановки вопроса о самостоятельной правосубъектности искусственного интеллекта. Автор посредством исследования сущности искусственного интеллекта и его соотношения с человеком как индивидуальным субъектом права ставит под сомнение возможность их уравнивания. Так же автор исследует вопрос юридической ответственности индивидуальных субъектов права при использовании искусственного интеллекта.
Ключевые слова: индивидуальные субъекты права, искусственный интеллект, электронное лицо, юридическая ответственность, правосубъектность.
MINAEVA Anastasia I.,
Postgraduate, Kutafin Moscow State Law University (MSAL)
ON THE ISSUE OF THE INFLUENCE OF ARTIFICIAL INTELLIGENCE ON INDIVIDUAL SUBJECTS OF LAW
Annotation. The subject of this article is the influence of the process of artificial intelligence development on individual subjects of Russian law. The author explores approaches to the concept of artificial intelligence, its legal status, the position of scientists regarding the question of the independent legal personality of artificial intelligence. The author, through the study of the essence of artificial intelligence and its relationship with a person as an individual subject of law, questions the possibility of their equalization. The author also explores the issue of legal responsibility of individual subjects of law when using artificial intelligence.
Key words: individual subjects of law, artificial intelligence, electronic person, legal responsibility, legal personality.
В настоящее время правовая наука стремится адаптироваться к изменяющимся условиям, пересмотреть сложившиеся классические подходы, в т.ч. к определению круга индивидуальных субъектов права. В настоящее время многие исследователи стремятся признать искусственный интеллект самостоятельным субъектом права. Некоторыми учеными предлагается расширительное толкование понятия «личность», включая в его содержание не только собственно человека, но и высокоразвитый искусственный интеллект: «конституционно-правовой статус высокоразвитого искусственного интеллекта должен, если так можно выразиться, строиться по образу и подобию конституционно-правового статуса человека» [1, с. 83].
Опыт, связанный с наделением правосубъектностью юридических лиц, показывает, по мне-
нию исследователей, что соответствующие юридические конструкции для признания искусственного интеллекта субъектом права уже существуют [2, с. 124], «в определении правового статуса робота и юридического лица не существует различий, поскольку правовой статус того и другого, по существу, являются юридической фикцией и реального, собственного содержания не имеет» [3, с. 22].
Российским исследовательским центром проблем регулирования робототехники разработана «Модельная конвенция о робототехнике», в ст. 29 которой предлагается закрепить следующее положение: «роботы могут выступать в гражданском обороте как самостоятельные лица, в том числе выступать собственниками других роботов, если это прямо установлено применимым законодательством».
ОБРАЗОВАНИЕ И ПРАВО № 7 • 2022
Для того чтобы определиться с вопросом правосубъектности искусственного интеллекта необходимо рассмотреть сущность этого понятия, под ним, в частности, понимают «цифровое воспроизведение процессов сознательной активности человека и социума в целом в части творческой обработки и рассуждений на основе нетривиально формализуемой информации в условиях временных и ресурсных ограничений неопределенности и неполноты исходных данных, создающее кибернетические объекты» [4, с. 7].
Так же существуют различные определения понятия «робот», в частности под роботом в приказе Федерального агентства по техническому регулированию и метрологии от 26.11.2014 г. № 1863 «Роботы и роботехнические устройства. Термины и определения» понимается «приводящий механизм, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению».
В Российской Федерации в настоящее время в действующее законодательство не внесены положения, регулирующие правовой статус роботов. Однако Правительство РФ утвердило концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г., в которой сформулированы некоторые важные подходы, в частности, необходимость предусматривать в нормах права подконтрольность технологий искусственного интеллекта и робототехники человеку, а также приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод.
Исследование природы самого индивидуального субъекта права показывает, что всегда за этим понятием в конечном счете стоит человек, с его специфическими характеристиками, позволяющими ему выступать в различных общественных отношениях, создавать их, ставить сознательные цели, выступать под различными правовыми «масками», играть разные правовые роли.
Идея признания искусственного интеллекта в качестве индивидуального субъекта права не соответствует существующим ранее представлениям о субъекте права как лице, как социально-правовой ценности, достоинстве, как автономной правовой воле и, как представляется, вступает в противоречие с такими традиционными юридическими конструкциями, как состав правоотношения, состав правонарушения. Более того, искусственный интеллект не обладает необходимыми и достаточными признаками индивидуального субъекта права: наличие свободной воли, сознания, органического тела, способности к целенаправленной самостоятельной деятельности, вызванной собственными интересами и потребностями, способности нести юридическую
ответственность, самостоятельно принимать правовые решения.
Идея искусственного интеллекта как индивидуального субъекта права ставит техническое устройство (хоть и в высшей степени сложное) на один уровень с человеком, приравнивает человека технике.
На сегодняшний день наукой не доказано, что человеческий интеллект имеет равные аналоги ни в биологическом, ни в техническом мире. И, поскольку, именно человек создал технологию искусственного интеллекта, он, будучи творцом и мыслителем, не может и не должен быть уравнен с результатом собственной деятельности.
Таким образом, правовая наука, предлагая подходы к правовому регулированию новых категорий, явлений, должна исходить из четкого, доказанного технической наукой представления о сущности искусственного интеллекта, в первую очередь, как определенной технологии. В настоящее время феномен искусственного интеллекта, границы его технологических возможностей еще не до конца изучены, однако ясно одно: данная технология есть результат творческой, интеллектуальной деятельности именно человека. Признание искусственного интеллекта в качестве самостоятельного индивидуального субъекта права является явно преждевременным и недостаточно обоснованным выводом.
Искусственный интеллект - особая технологическая система с присущими ей специфическими свойствами, а робот является конкретным техническим устройством, которое может быть наделено искусственном интеллектом, выступающие в качестве объекта, а не субъекта права, следовательно, сам термин «правосубъектность» к искусственному интеллекту и роботу не применим.
Искусственный интеллект программируется таким образом, чтобы он мог использовать существующие приложения так же, как делал бы это человек. В настоящее время разрабатываются концепции «цифрового работника» (по сути, программное решение, которое автоматизирует шаблоны человеческого поведения для решения определенных проблем и задач), «электронного чиновника», в рамках которого будет осуществляться оптимизация деятельности государственных органов путем унификации отчетности и сокращения документооборота на бумажных носителях. В данном случае, как представляется, речь идет не о новом индивидуальном субъекте права (цифровом чиновнике или цифровом работнике).
В контексте рассмотрения взаимосвязи человеческой деятельности и искусственного интеллекта остро встает проблема юридической
ОБРАЗОВАНИЕ И ПРАВО № 7 • 2022
ответственности индивидуальных субъектов права при использовании искусственного интеллекта. В Распоряжении Правительства РФ от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года» среди принципов регулирования отношений в сфере технологий искусственного интеллекта и робототехники провозглашен принцип обеспечения баланса интересов разработчиков, потребителей и иных лиц в сфере искусственного интеллекта и робототехники, а также определение границ их ответственности за возможные негативные последствия использования технологий искусственного интеллекта и робототехники. Однако напрямую эти границы не предусмотрены действующим законодательством.
Необходимо исходить из того, что робот может потенциально наносить ущерб правам и интересам других лиц из-за недостатков программирования (изначально заложен некорректный алгоритм), из-за сбоя в программе, неисправности приборов, но также и из-за некорректного использования робота самим владельцем. Меры ответственности могут применяться к лицу, предоставившему роботу возможность совершения определенных действий или разрешение искусственному интеллекту действовать по собственному усмотрению [5, с. 64].
Проблема определения юридической ответственности индивидуальных субъектов права при использовании технологий на базе искусственного интеллекта связана с тем, что не решен вопрос о правовом режиме последнего. Вероятно, субъектами юридической ответственности за действия искусственного интеллекта являются лица, имевшие отношение к созданию и программированию искусственного интеллекта (изобретатели, программисты, производители и владельцы).
Кроме того, в настоящее время уже существуют различные приложения на основе искусственного интеллекта, которые непосредственно влияют на права человека, даже его жизнь и здоровье.
Так, например, «Тои^кт» - международный проект, который представлен чат-ботом с искусственным интеллектом по имени «Wysa» для определения и лечения депрессии. Приложение реализует своим пользователям функции управляемой и неуправляемой медитации, напоминания через сообщение и отслеживания прогресса; «Элли» -популярный психотерапевт с искусственным интеллектом. Данный чат-бот был разработан для лечения людей, страдающих от посттравматического стрессового расстройства (ПТСР). Элли может тщательно проанализи-
ОБРАЗОВАНИЕ И ПРАВО № 7 • 2022
ровать выражение лица, жесты головы, движения глаз и звук голоса, чтобы распознать те показатели, которые обычно связаны с депрессией; платформа «X2A», содержащая сразу несколько сервисов: «Карим» - арабоязычная платформа для помощи сирийским беженцам; «Эмма» - виртуальный психолог на голландском языке, созданный для помощи людям с легкой тревогой и страхом; «Nema» - виртуальный терапевт для оказания педиатрической помощи при диабете (на английском языке).
В Китае разработана система, в которую вносится персонифицированная информация пациента, жалобы и симптомы, искусственный интеллект в случае необходимости просит уточнить информацию. На основе полученных данных искусственный интеллект может подтвердить или опровергнуть диагноз. После постановки диагноза система дает рекомендации по лечению конкретного пациента, учитывая его пол, возраст, состояние здоровья, стадию заболевания.
С очевидностью возникает один вопрос: кто именно несет юридическую ответственность за неправильную постановку диагноза и неправильно назначенное лечение? При использовании подобных приложений возникает ситуация, при которой человек, взаимодействуя с приложением, воспринимая данные, которые он предлагает, самостоятельно отвечает за результат такого взаимодействия. Что, безусловно, недопустимо в контексте защиты права человека на охрану здоровья.
Вероятно, юридическую ответственность в данном случае должен нести разработчик приложения, должен быть предусмотрен правовой механизм, согласно которому пациент смог бы обратиться с соответствующим требованием (например, о выплате компенсации за лечение или компенсации морального вреда) именно к разработчику, данные о которым должны обязательно быть представлены в самом приложении.
В настоящее время на базе искусственного интеллекта также возможна технология виртуального оживления умерших и изучение его феномена появились благодаря индустрии «Death Tech», основа этой теоретической концепции — сохранение цифровой личности человека.
По существу, речь идет о специальном программном обеспечении (приложении), которое позволяет на основе данных о человеке (его голосе, внешности по фотографическим изображениям, записях в социальных сетях) воссоздать образ человека после его смерти на базе технологии виртуальной реальности (virtual reality, VR). Виртуальная реальность обеспечивает полное погружение в компьютерную среду, окружающую пользователя и реагирующую на его действия
естественным образом. Виртуальная реальность конструирует новый искусственный мир, передаваемый человеку через его ощущения: зрение, слух, осязание и др. Человек может взаимодействовать с трехмерной, компьютеризированной средой, а также манипулировать объектами или выполнять конкретные задачи.
Однако, как представляется, технология воссоздания умершего человека, общения с ним, вызывает большие вопросы с точки зрения этики, кто будет отвечать в случае, если человек после общения с такой цифровой копией умершего родственника получит психо-эмоциональную травму? В данной конструкции так же, как и в конструкции «цифрового доктора» возникает ситуация, когда человек сам полностью отвечает за использование той или иной технологии.
При обсуждении вопроса юридической ответственности индивидуальных субъектов права, связанной с использованием искусственного интеллекта, высказываются различные подходы к принципам установления ответственности за действия искусственного интеллекта, в т.ч.: полное освобождение кого-либо от ответственности за действия искусственного интеллекта (по аналогии с обстоятельствами непреодолимой силы); частичное освобождение от ответственности (освобождение конкретного лица от какой-либо ответственности и одновременная выплата пострадавшим компенсации вреда из различных источников); ответственность по вине, наступающая только в зависимости от вины конкретного субъекта, например производителя, разработчика, лица, ответственного за обучение искусственного интеллекта, владельца, пользователя и т.д.; безвиновная ответственность (определенное лицо (скорее всего, производитель) по общему правилу считается ответственным за действия системы искусственного интеллекта); личная ответственность искусственного интеллекта при условии наделения роботов правосубъектностью (правами и обязанностями, статусом электронной личности).
Однако утверждение автономности робота и искусственного интеллекта способно привести к тому, что, по сути, он просто сможет избежать юридической ответственности за совершенное преступление, более того, непонятна мера такой ответственности: вряд ли в данном случае могут «сработать» уже предусмотренные современным действующим законодательством меры юридической ответственности.
Известно, что для назначения юридической ответственности необходимо установить не просто субъекта права, но и субъективную сторону правонарушения, т.е. отношение субъекта к совершенному противоправному деянию, направ-
ленность его воли. В случае с искусственным интеллектом правоприменитель не сможет установить субъективную сторону, отношение робота к деянию, поскольку он просто не обладает свободной волей для формирования собственного отношения к тому или иному деянию. На сегодняшний день уровень развития техники позволяет разрабатывать искусственный интеллект, задавать ему определенные возможности, алгоритмы, цели. И тогда тот, кто задает эти параметры, т.е. тот, кто создает искусственный интеллект, как представляется, отвечает за потенциальные неблагоприятные последствия, нарушение права.
Идея абсолютной автономии робота и, как следствие, признание его правосубъектности, способности нести юридическую ответственность, превращает робота из объекта, зачастую являющегося источником повышенной опасности, в бесконтрольного и безответственного субъекта права (разве ставим мы вопрос о самостоятельной ответственности автомобиля, созданного на автоконцерне?).
При исследовании вопросов уголовной ответственности за совершение преступлений с использованием искусственного интеллекта ученые не признают конструкцию соучастия (при которой искусственный интеллект стал бы равным человеку субъектом), однако утверждают, что «в обозримом будущем можно говорить о потенциальной возможности приобретения искусственным лицом уголовной правосубъектности в связи с развитием его эмоциональной сферы» [6, с. 73].
Необходимо отметить следующее, усложнение современных технологий, применяемых при создании автомобилей, внедрение в работу автомобиля сложной электроники не заставило нас поставить вопрос о правосубъектности автомобилей. Безусловно, все эти объекты находятся в разной плоскости, да, в настоящее время наука и техника развиваются, технология искусственного интеллекта становится всё более сложной и совершенной, создаются обучаемые системы, способные выполнять достаточно сложные алгоритмы и даже заменять тем самым человека, однако, даже относясь крайне оптимистично к развитию технологии искусственного интеллекта, надо определить, что искусственный интеллект и человек не могут быть равны друг другу по всем своим характеристикам и способностям, следовательно, для обеспечения правовой определенности необходимо закрепить искусственный интеллект в качестве объекта права, что позволит, в свою очередь, определиться с особенностями по владению, пользованию и распоряжению им, разработать конструкцию юридической ответственности за действия искусственного интеллекта.
ОБРАЗОВАНИЕ И ПРАВО № 7 • 2022
Как представляется, за основу может быть взята конструкция, закрепленная в действующем законодательстве применительно к владельцу источника повышенной опасности. Если мы исходим из того, что мы не полностью познали потенциал искусственного интеллекта, то тем более необходимо определиться с его институционали-зацией и начать разработку правового регулирования отношений по созданию и использованию искусственного интеллекта, а не откладывать это определение на будущее и ждать того момента, когда технические возможности искусственного интеллекта станут нам понятны в их пределе.
Внимание к искусственному интеллекту правовой науки обусловлено, в частности, потенциальными (а иногда и вполне реальными) рисками противоправного поведения искусственного интеллекта, которое очень сложно контролировать и пресекать, в частности, технологии искусственного интеллекта могут использоваться для незаконных действий. Как представляется, необходимо исходить из того, что ответственность за действия искусственного интеллекта в конечном счете всегда будет нести конкретное лицо, ситуации, когда ответственность не несет никто и ситуации, когда искусственный интеллект становится субъектом юридической ответственности, опасны и не способствуют обеспечению и защите прав и свобод индивидуальных субъектов права.
Необходимо отделить искусственный интеллект от человека как субъекта права и опираться на идею, что первый выступает в качестве объекта правоотношений и, исходя из этой посылки, выстраивать систему правового регулирования, не пытаясь ставить на один уровень субъектов права и объектов права.
Как представляется, на сегодняшний день уже нет возможности ждать дальнейшего развития науки и техники для определения полного объема возможностей искусственного интеллекта и цифровых технологий, необходимо определиться окончательно с тем, что именно человек - субъект права, его воля, интересы, потребности, возможности являются определяющими и при этом требуют правовой защиты. Социальная роль права — регулировать общественные отношения, в конечном счете защищать именно человека от негативного воздействия новых технологий.
Следовательно, в первую очередь сегодня необходимо разработать правовую основу, определяющую искусственный интеллект, цифровые профили, аватары в качестве объектов цифровых правоотношений.
Список литературы:
[1] Нечкин А.В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее // Lex russica (Русский закон). -2020. - № 8. - С. 78-85.
[2] Дремлюга И.Р., Дремлюга О.А. Искусственный интеллект — субъект права: аргументы за // Правовая политика и правовая жизнь. - 2019.
- № 2. - С. 120-125.
[3] Серова О.А. Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право. - 2018. - № 3.
- С.22-24.
[4] Гусарова Н.Ф. Введение в теорию искусственного интеллекта. - СПб: Университет ИТМО, 2018. - 62 с.
[5] Самохвалова И.В. Предполагает ли машинное творчество возможность машинного вдохновения? // Философия искусственного интеллекта: материалы Всеросс. междисципли-нар. конф., г. Москва, МИЭМ, 17-19 янв. 2005 г. -М.: ИФ РАН, 2005. - С. 62-65.
[6] Букалерова Л.А., Уторова Т.Н., Сизов Д.О. К вопросу о значении искусственного интеллекта в уголовном праве // Пенитенциарная наука. - 2020.
- Т. 14. - № 1. - С. 70-75.
Spisok literatury:
[1] Nechkin A.V. Konstitucionno-pravovoj status iskusstvennogo intellekta v Rossii: nastoyashchee i budushchee // Lex russica (Russkij zakon). - 2020. -№ 8. - S. 78-85.
[2] Dremlyuga I.R., Dremlyuga O.A. Iskusstven-nyj intellekt — sub"ekt prava: argumenty za // Pravo-vaya politika i pravovaya zhizn'. - 2019. - № 2. - S. 120-125.
[3] Serova O.A. Roboty kak uchastniki cifrovoj ekonomiki: problemy opredeleniya pravovoj prirody // Grazhdanskoe pravo. - 2018. - № 3. - S. 22-24.
[4] Gusarova N.F. Vvedenie v teoriyu iskusstvennogo intellekta. - SPb: Universitet ITMO, 2018. -62 s.
[5] Samohvalova I.V. Predpolagaet li mashin-noe tvorchestvo vozmozhnost' mashinnogo vdohno-veniya? // Filosofiya iskusstvennogo intellekta: mate-rialy Vseross. mezhdisciplinar. konf., g. Moskva, MIEM, 17-19 yanv. 2005 g. - M.: IF RAN, 2005. - S. 62-65.
[6] Bukalerova L.A., Utorova T.N., Sizov D.O. K voprosu o znachenii iskusstvennogo intellekta v ugolovnom prave // Penitenciarnaya nauka. - 2020. -T. 14. - № 1. - S. 70-75.
ОБРАЗОВАНИЕ И ПРАВО № 7 • 2022
