Будущее искусственного интеллекта: объект или субъект права? Текст научной статьи по специальности «Право»

Научная статья

УДК 34.023:34.025:004.8

EDN: https://elibrary.ru/immoam

DOI: https://doi.org/10.21202/jdtl.2023.15

з

%

Check for updates

Будущее искусственного интеллекта: объект или субъект права?

Ирина Анатольевна Филипова м

Национальный исследовательский Нижегородский государственный университет

имени Н. И. Лобачевского

г. Нижний Новгород, Российская Федерация;

Самаркандский государственный университет

г. Самарканд, Республика Узбекистан

Вадим Дмитриевич Коротеев 0

Национальный исследовательский Нижегородский государственный университет

имени Н. И. Лобачевского

г. Нижний Новгород, Российская Федерация

Ключевые слова

Генеративная модель, интеллектуальная система, искусственный интеллект, квазисубъект права, киберфизическая система, право,

правосубъектность, робот,

цифровые технологии, электронное лицо

Аннотация

Цель: выявление проблем, связанных с правовым регулированием общественных отношений, в которых используются системы искусственного интеллекта, и рациональное осмысление обсуждаемой правоведами возможности наделения таких систем статусом субъекта права. Методы: методологической основой исследования являются общенаучные методы анализа и синтеза, аналогии, абстрагирования и классификации. Среди преимущественно применяемых в работе юридических методов - формально-юридический, сравнительно-правовой и системно-структурный, а также методы толкования права и правового моделирования.

Результаты: представлен обзор состояния развития искусственного интеллекта и его внедрения на практике ко времени проведения исследования. Рассмотрено нормативно-правовое регулирование в данной области и разобраны основные из существующих концепций наделения искусственного интеллекта правосубъектностью (индивидуальная, коллективная и градиентная правосубъектность искусственного интеллекта). При этом дана оценка каждого из подходов и сделаны выводы о наиболее предпочтительных вариантах внесения изменений

н Контактное лицо © Филипова И. А., Коротеев В. Д., 2023

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.Org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

в действующее законодательство, которое перестает соответствовать реалиям. Растущее несоответствие связано с ускоряющимся развитием искусственного интеллекта и его распространением в различных секторах экономики, социальной сферы, а в ближайшей перспективе и в государственном управлении. Все это свидетельствует о повышении риска разрыва правовой материи с изменяющейся социальной реальностью.

Научная новизна: классифицированы научные подходы к наделению искусственного интеллекта правосубъектностью. В рамках каждого из подходов выделены ключевые моменты, использование которых позволит в дальнейшем создавать правовые конструкции на основе комбинирования, уходя от крайностей и соблюдая баланс интересов всех сторон. Оптимальным вариантом определения правового статуса искусственного интеллекта может стать внесение интеллектуальных систем в перечень объектов гражданских прав, но с дифференциацией правового регулирования искусственного интеллекта в качестве объекта права и «электронного агента» как квазисубъекта права. Линия разграничения должна проходить в зависимости от функциональных различий интеллектуальных систем, причем «электронным агентом» может быть признан не только робот, но и виртуальная интеллектуальная система.

Практическая значимость: материалы исследования могут быть применены в работе, связанной с подготовкой предложений по внесению изменений и дополнений в действующее законодательство, а также при разработке учебных курсов и написании учебных пособий по тематике, имеющей отношение к регулированию использования искусственного интеллекта.

Для цитирования

Филипова, И. А., Коротеев, В. Д. (2023). Будущее искусственного интеллекта:

объект или субъект права? Journal ofDigital Technologies and Law, 7(2), 359-386.

https://doi.org/10.21202/jdtl.2023.15

Содержание

Введение

1. Правовой статус искусственного интеллекта: истоки проблемы

1.1. Уровень и темп развития искусственного интеллекта

1.2. Распространение технологий искусственного интеллекта на практике

1.3. Система искусственного интеллекта как объект права

2. Основные концепции правосубъектности искусственного интеллекта

2.1. Концепция индивидуальной правосубъектности искусственного интеллекта

2.2. Концепция коллективной правосубъектности искусственного интеллекта

2.3. Концепция градиентной правосубъектности искусственного интеллекта

Выводы

Список литературы

Введение

Сегодня человечество находится в периоде трансформации общества, связанном со сменой одного технологического уклада на другой, «умные» машины и программы достаточно быстро обучаются, растет способность систем искусственного интеллекта заменять людей во многих сферах деятельности. Одним из вопросов, все чаще поднимаемых в связи с совершенствованием технологий искусственного интеллекта, является вопрос о признании искусственных интеллектуальных систем субъектами права ввиду достижения такими системами уровня принятия полностью автономных решений и потенциального проявления «субъективной воли». Как гипотетический этот вопрос был сформулирован еще в XX в. (McNally & Inayatullah, 1988; Solum, 1992). В XXI в. градус научной дискуссии неуклонно повышается, достигая очередных экстремумов с каждым внедрением новых моделей искусственного интеллекта на практике, к примеру, с появлением беспилотных автомобилей на улицах или с представлением широкой публике роботов, обладающих новым набором функций (Bertolini & Episcopo, 2022).

Правовая проблема определения статуса искусственного интеллекта носит общетеоретический характер, что обусловлено объективной неспособностью предсказания всех возможных результатов разработки новых моделей искусственного интеллекта. Однако уже на данный момент системы искусственного интеллекта (ИИ-системы) фактически являются участниками некоторых общественных отношений, что требует расстановки «реперных точек», т. е. разрешения базовых вопросов в этой области с целью фиксации в законодательстве и тем самым уменьшения доли неопределенности в прогнозировании развития отношений, в которых задействованы системы искусственного интеллекта, на будущее.

Вынесенный в заглавие статьи вопрос о предполагаемой субъектности искусственного интеллекта в качестве предмета исследования, разумеется, охватывает не любые системы искусственного интеллекта, среди которых много «электронных ассистентов», не претендующих на правосубъектность в силу ограниченного набора функций и представляющих собой узкий (слабый) искусственный интеллект. Речь идет об «умных машинах» (киберфизических интеллектуальных системах) и генеративных моделях виртуальных интеллектуальных систем, чем дальше, тем больше приближающихся по своим возможностям к общему (сильному) искусственному интеллекту, сопоставимому с человеческим, а в перспективе и превосходящему его.

1. Правовой статус искусственного интеллекта: истоки проблемы 1.1. Уровень и темп развития искусственного интеллекта

Говорить об уровне развития искусственного интеллекта на сегодняшний день можно лишь условно, так как скорость его развития увеличивается, и то, что было актуальным на момент написания статьи, достаточно быстро устаревает. Особенно это касается наиболее быстро развивающегося направления в сфере искусственного интеллекта - искусственных нейронных сетей. Мультимодальные нейросети, например ChatGPT, DALL-e и т. д., интеллектуальные способности которых совершенствуются за счет наращивания числа параметров (воспринимаемых модальностей, включая недоступные человеку), а также использования для обучения огромных объемов

данных, которые человек не способен обработать физически, к началу 2023 г. подняли остроту вопроса о создании сильного искусственного интеллекта. К примеру, мультимодальные генеративные модели нейросетей способны создавать картины, литературные и научные тексты так, что далеко не всегда можно определить, сделано это человеком или системой искусственного интеллекта.

IT-эксперты говорят о двух качественных скачках: скачке скорости (периодичности появления качественно новых моделей), которая стала измеряться не годами, а максимум месяцами, и скачке непредсказуемости (невозможности точно спрогнозировать, что может произойти в сфере искусственного интеллекта даже до конца текущего года)1. Модель ChatGPT-3 (третье поколение алгоритма обработки естественного языка от компании OpenAI) появилась в 2020 г. и могла обрабатывать текст, модель следующего поколения - ChatGPT-4, представленная компанией-разработчиком в марте 2023 г., умеет «работать» не только с текстами, но и с изображениями, в то время как модель последующего поколения уже обучается и будет способна на большее.

Если еще несколько лет назад о предполагаемом моменте технологической сингулярности, когда развитие машин становится фактически неуправляемым и необратимым, в корне меняя человеческую цивилизацию, упоминали как о времени, которое наступит минимум через несколько десятилетий, то сегодня увеличивается число исследователей - сторонников версии, что это может произойти гораздо быстрее2. Имеется в виду появление так называемого сильного искусственного интеллекта, который будет демонстрировать возможности, сопоставимые с интеллектом человека, и способен решать аналогичный или даже более широкий круг задач. В отличие от слабого искусственного интеллекта сильный искусственный интеллект будет обладать сознанием, а одним из необходимых условий возникновения сознания у интеллектуальных систем является именно возможность осуществлять мультимо-дальное поведение с интеграцией данных из различных сенсорных модальностей (текст, изображение, видео, звук и т. д.), «привязывая» информацию разных модальностей к окружающей реальности с построением полноценных связных «образов мира», как это свойственно людям3.

В марте 2023 г. более тысячи исследователей, IT-специалистов и предпринимателей в области искусственного интеллекта подписали открытое письмо, опубликованное на сайте американского научно-исследовательского центра Future of Life Institute4, специализирующегося на изучении экзистенциальных рисков для человечества. В письме содержался призыв приостановить обучение новых генеративных мультимодальных нейросетевых моделей в связи с тем, что отсутствие общих протоколов безопасности и правовой вакуум существенно повышают риски, ведь

Карелов, С. (2023, 5 апреля). Телеграм-канал «Малоизвестное интересное». https://t.me/s/ theworldisnoteasy

David Shapiro (expert on artificial cognitive architecture) predicts. «AGI within 18 months». (2023, 28 марта). https://www.reddit.eom/r/singularity/comments/1254azr/david_shapiro_expert_on_artificial_cognitive/

Колонин, А. (2021, 8 декабря). О глубине, прозрачности и «силе» ИИ в текущем моменте. https:// russiancouncil.ru/analytics-and-comments/analytics/o-glubine-prozrachnosti-i-sile-ii-v-tekushchem-momente/

Pause Giant AI Experiments: An Open Letter. (2023, March 22). https://futureoflife.org/open-letter/pause-giant-ai-experiments/

1

2

3

4

скорость развития технологий искусственного интеллекта резко повысилась из-за «ChatGPT революции». Отмечено также появление у моделей искусственного интеллекта не предвиденных их разработчиками способностей, не находящих объяснения, и, вероятно, постепенное повышение доли таких способностей. Кроме того, подобная технологическая революция резко стимулирует создание интеллектуальных гаджетов, которые получат распространение, и новые поколения, сегодняшние дети, выросшие в постоянном общении с искусственными интеллектуальными помощниками, будут колоссально отличаться от предыдущих поколений.

Можно ли затормозить развитие искусственного интеллекта, чтобы человечество успело подстроиться под новые условия? Теоретически да, если все государства будут способствовать этому через национальные законодательства. Будут ли они это делать? Исходя из опубликованных национальных стратегий - нет, наоборот, каждым государством ставится задача выиграть конкуренцию (сохранить лидерство или сократить отставание). В Российской Федерации задача ускоренного развития технологий искусственного интеллекта поставлена в Национальной стратегии развития искусственного интеллекта до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации»5 (далее - Национальная стратегия). Согласно пункту 24 Национальной стратегии, среди основных направлений заявлены: поддержка исследований для обеспечения опережающего развития искусственного интеллекта, разработка интеллектуального программного обеспечения, повышение доступности данных, необходимых для развития технологий искусственного интеллекта, и создание комплексной системы регулирования отношений, возникающих в связи с развитием и использованием искусственного интеллекта. В пункте 30 Национальной стратегии предусматривается, что для развития российских технологий необходимо поддерживать научные исследования, направленные на создание принципиально новых результатов, в том числе на создание сильного искусственного интеллекта. Аналогичная задача поставлена и в национальных стратегиях развития искусственного интеллекта других стран мира.

1.2. Распространение технологий искусственного интеллекта на практике

Возможности искусственного интеллекта привлекают предпринимателей, поэтому бизнес-структуры инвестируют огромные средства в новые разработки, и успех каждой новой модели стимулирует этот процесс. Объемы ежегодных инвестиций, учитывая, что в разработки вкладываются как частные компании, так и государства, растут, глобальный рынок решений в области искусственного интеллекта измеряется уже сотнями миллиардов долларов, а к 2030 г., по прогнозам, в частности содержащимся в Резолюции Европарламента от 3 мая 2022 г. «Об искусственном интеллекте в цифровую эпоху», вклад искусственного интеллекта в мировую экономику превысит 11 трлн евро6.

О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации от 10 октября 2019 года № 490. (2019). Собрание законодательства Российской Федерации, № 41. Ст. 5700.

European Parliament Resolution of 3 May 2022 on Artificial Intelligence in a Digital Age (2020/2266(INI)). https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_EN.html

5

6

Практико-ориентированность бизнеса влечет внедрение технологий искусственного интеллекта во все отрасли экономики. Искусственный интеллект используется как в добывающей, так и в обрабатывающей промышленности (металлургия, топливная и химическая промышленность, машиностроение, металлообработка и т. д.). Он применяется для прогнозирования эффективности разрабатываемых продуктов, автоматизации сборочных линий, снижения количества брака, улучшения логистики и предотвращения простоев.

Использование искусственного интеллекта в транспортной сфере включает как собственно автономные транспортные средства, так и оптимизацию маршрутов с учетом прогнозирования транспортных потоков, обеспечение безопасности вождения за счет предупреждения опасных ситуаций. Выпуск беспилотных автомобилей на дороги общего пользования - вопрос, активно обсуждаемый в парламентах разных стран мира. В Российской Федерации в 2021 г. Министерством транспорта также был подготовлен законопроект «О высокоавтоматизированных транспортных средствах и о внесении изменений в отдельные законодательные акты Российской Федерации»7, а годом позже Постановлением Правительства РФ от 29 декабря 2022 г. № 2495 утверждена «Программа экспериментального правового режима в сфере цифровых инноваций по предоставлению транспортных услуг с использованием высокоавтоматизированных транспортных средств на территориях отдельных субъектов Российской Федерации»8. На стыке транспортной сферы и сельского хозяйства растет применение автономных комбайнов, причем в сельскохозяйственном секторе процесс идет еще быстрее, так как там отсутствуют строгие нормативно-правовые ограничения, касающиеся автомобильного транспорта на дорогах общего пользования.

В банковской сфере ИИ-системы почти полностью заменили людей при оценке кредитоспособности заемщиков, все шире они используются для разработки новых банковских продуктов, повышения безопасности банковских операций.

Технологии искусственного интеллекта «захватывают» не только бизнес, но и социальную сферу: здравоохранение, образование, занятость. Применение искусственного интеллекта в медицине позволяет усовершенствовать диагностику, разработку новых лекарственных средств, проводить хирургические операции с использованием робототехники, в сфере образования - индивидуализировать уроки, автоматизировать оценку знаний обучающихся и профессиональных навыков учителей.

Сфера занятости сегодня все больше видоизменяется благодаря экспоненциальному росту платформенной занятости. Доля лиц, выполняющих работу с помощью платформ цифрового труда, дополненных искусственным интеллектом, по данным

Проект Федерального закона «О высокоавтоматизированных транспортных средствах и о внесении изменений в отдельные законодательные акты Российской Федерации» № 02/04/06-21/00116763. https://base.garant.ru/56880577/

Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по предоставлению транспортных услуг с использованием высокоавтоматизированных транспортных

средств на территориях отдельных субъектов Российской Федерации: Постановление Правитель-

ства Российской Федерации от 29.12.2022 № 2495. (2022, 30 декабря). Официальный интернет-портал правовой информации. http://publication.pravo.gov.ru/Document/View/0001202212300090

7

8

Международной организации труда, неуклонно повышается во всем мире9. Платформенная занятость не единственная составляющая трансформации сферы труда, серьезное влияние на нее оказывает увеличение уровня роботизации производства. По информации Международной федерации робототехники, рост числа промышленных роботов продолжается в общемировом масштабе, наиболее быстрые темпы роботизации присутствуют в странах Азии, в первую очередь в Китайской Народной Республике и Японии10. Россия значительно отстает в этой области, но именно на сокращение отставания рассчитан новый федеральный проект по развитию отечественной робототехники, который будет предусматривать правовые, налоговые и иные условия для развития производства и внедрения промышленных роботов. Этот федеральный проект, согласно поручению Президента Российской Федерации, должен быть подготовлен летом 2023 г. Проект будет включать перечень мер государственной поддержки производства и внедрения промышленных роботов «с учетом обеспечения ежегодного сокращения отставания количества таких роботов на 10 тысяч производственных рабочих в стране от среднемирового уровня»11. Кроме того, идет работа по подготовке проекта Указа Президента Российской Федерации о внесении в Национальную стратегию развития искусственного интеллекта изменений, «направленных на повсеместное внедрение технологий искусственного интеллекта в отраслях экономики и социальной сферы и в системе государственного управления»12.

Действительно, возможности искусственного интеллекта по анализу данных, используемые для управления производством, диагностической аналитики и прогнозирования, вызывают серьезную заинтересованность государств. Искусственный интеллект начинают внедрять в публичное управление. Сегодня активно ведется работа по созданию цифровых платформ для оказания государственных услуг, автоматизации многих процессов, связанных с выработкой решений государственными органами.

В публичном дискурсе все чаще применяются понятия «искусственная личность», «искусственная социальность», это свидетельствует о том, что разработка и реализация интеллектуальных систем перешли из чисто технической плоскости в область исследования многообразных способов их применения в гуманитарной и социокультурной сферах человеческой деятельности (Алексеев и др., 2023).

С учетом всего перечисленного можно утверждать, что искусственный интеллект глубже и глубже проникает в жизнь людей. Присутствие систем искусственного интеллекта в нашей жизни в ближайшие годы станет более заметным, оно увеличится как в рабочей среде, так и в общественном пространстве, сфере услуг и дома.

9 Перспективы занятости и социальной защиты в мире: Роль платформ цифрового труда в трансформации сферы труда. (2021). Группа технической поддержки по вопросам достойного труда и Бюро МОТ для стран Восточной Европы и Центральной Азии. Москва: МОТ.

10 World Robotics R&D Programs. (2023). https://ifr.org/downloads/papers/Executive_Summary_-_World_ Robotics_RD_Programs_V02.pdf

Перечень поручений Президента Российской Федерации по итогам конференции «Путешествие в мир искусственного интеллекта» (23-24 ноября 2022 года). (2023, 29 января). Пр-172, п. 1, подп. «е». http://www.kremlin.ru/acts/assignments/orders/70418 (дата обращения: 20.04.2023)

Перечень поручений Президента Российской Федерации по итогам конференции «Путешествие вмир искусственного интеллекта» (23-24 ноября 2022 года). (2023, 29 января). Пр-172, п. 5. http://www.kremlin.ru/acts/assignments/orders/70418

11

12

Чем дальше, тем больше искусственный интеллект будет обеспечивать повышение эффективности в достижении результатов через интеллектуальную автоматизацию различных процессов, создавая новые возможности и одновременно неся новые угрозы для людей, сообществ и государств.

С ростом уровня интеллекта ИИ-системы неизбежно становятся неотъемлемой частью общества, людям придется сосуществовать с ними. Подобный симбиоз будет включать сотрудничество людей и «умных» машин, а это, по словам нобелевского лауреата в области экономики Дж. Стиглица, приведет к трансформации цивилизации (Stiglitz, 2017). Уже сегодня, по мнению некоторых правоведов, «в целях повышения уровня благосостояния людей право не должно проводить различий между деятельностью людей и деятельностью искусственного интеллекта, когда люди и искусственный интеллект выполняют одни и те же задачи» (Abbott, 2020). Нужно учитывать и то, что развитие роботов-гуманоидов, приобретающих все более похожую на человеческую физиологию, вызовет выполнение ими среди прочего тендерных ролей в обществе в качестве партнеров (Karnouskos, 2022).

Государства вынуждены адаптировать законодательство к меняющимся общественным отношениям: количество законов, направленных на регулирование отношений, в которых в том или ином качестве задействованы системы искусственного интеллекта, в мире быстро растет. Согласно докладу Стэнфордского университета «Индекс искусственного интеллекта - 2023»13, если в 2016 г. был принят всего один закон, то в 2018 г. их было уже 12, в 2021 г. - 18, а в 2022 г. - 37 законов. Это подтолкнуло Организацию Объединенных Наций к формированию позиции по этике использования искусственного интеллекта на глобальном уровне. В сентябре 2022 г. появился документ, содержащий принципы этического использования искусственного интеллекта14 и основанный на Рекомендации по этике искусственного интеллекта, принятой годом ранее Генеральной конференцией ЮНЕСКО15. Тем не менее темпы развития и внедрения технологий искусственного интеллекта значительно превосходят скорость соответствующих изменений в сфере права.

Развитие технологий искусственного интеллекта запустило процесс создания машиночитаемого права, которое могут понимать ИИ-системы, более того, речь можно вести не только о машиночитаемости правовых норм, но также об их машино-проектируемости и машиноисполнимости. Применение в юридической деятельности ИИ-систем для качественной правовой аналитики и формулирования машинных рекомендаций для юристов - уже свершившийся факт (Ashley, 2017). Работы по созданию машиночитаемого права сегодня активно ведутся во многих странах мира, в 2021 г. комиссией по цифровому развитию при Правительстве РФ была утверждена российская концепция развития технологий машиночитаемого права16.

13 AI Index Report 2023. (2023). https://aiindex.stanford.edu/report/

14 Principles for the Ethical Use of Artificial Intelligence in the United Nations System. (2022, 20 сентября). https://unsceb.org/principles-ethical-use-artificial-intelligence-united-nations-system

15 Recommendation on the Ethics of Artificial Intelligence. (2021, 25 ноября). https://unesdoc.unesco.org/ ark:/48223/pf0000373434

16 Концепция развития технологий машиночитаемого права, утверждена Правительственной комиссией по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 15.09.2021 № 31. КонсультантПлюс. http://www.consultant.ru/document/cons_doc_LAW_396491/

1.3. Система искусственного интеллекта как объект права

В настоящее время системы искусственного интеллекта не обладают правосубъектностью и признаются объектами гражданских прав - это данность для любой, а не только для российской, национальной правовой системы. Независимо от достигнутого уровня развития искусственного интеллекта ИИ-система - это чье-то имущество. Соответственно, как виртуальная, так и киберфизическая ИИ-системы (две существующие разновидности искусственного интеллекта по форме его воплощения) - это то, по поводу чего возникают правоотношения.

Рассмотрим правовой режим искусственного интеллекта как объекта по российскому законодательству. В соответствии со статьей 128 Гражданского кодекса Российской Федерации17 (далее - ГК РФ) объектами права могут быть вещи, иное имущество, в том числе имущественные права, охраняемые результаты интеллектуальной деятельности, нематериальные блага и т. д.

Киберфизический по форме, т. е. обладающий «телом», искусственный интеллект (как правило, это робот) действующим законодательством признается вещью, но оно не устанавливает каких-то особенностей правового режима таких вещей и не ограничивает их оборотоспособность (Соменков, 2019). Представляется допустимой характеристика роботов по аналогии с неделимыми вещами в соответствии со статьей 133 ГК РФ, поскольку попытка отделения собственно искусственного интеллекта (в смысле программного обеспечения) от «тела» робота как оболочки влечет неизбежное изменение его назначения или вообще разрушение.

В международной частноправовой практике киберфизические ИИ-системы тоже имеют статус вещи в общем смысле и статус товара в коммерческом отношении. Так, Международная классификация товаров и услуг для регистрации знаков (МКТУ) прямо называет специфический вид товара: «Роботы человекоподобные с искусственным интеллектом» (класс 09, базовый № 090778)18.

Искусственный интеллект в виртуальной форме в Российской Федерации также не имеет особого правового положения и на данный момент фактически регулируется нормами, содержащимися в части 4 ГК РФ, относясь к непоименованным объектам авторских прав. Однако для эффективной юридической защиты такого объекта гражданских прав виртуальные ИИ-системы приходится признавать компьютерными программами, чтобы положения статьи 1259 ГК РФ, устанавливающие правовую охрану программ для ЭВМ, аналогичную литературным произведениям, распространялись и на них.

Определение самого понятия «искусственный интеллект» можно обнаружить в Федеральном законе от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте

17 Гражданский кодекс Российской Федерации. (1994, 5 декабря). Собрание законодательства Российской Федерации. № 32. Ст. 3301.

18 Международная классификация товаров и услуг для регистрации знаков (МКТУ) (11-я редакция, изд. 1-е). Правовая система «Кодекс». https://docs.cntd.ru/document/420273241

Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»»19:

«Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру (в том числе информационные системы, информационно-телекоммуникационные сети, иные технические средства обработки информации), программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений».

Исходя из процитированного фрагмента закона, можно заключить, что ИИ-система не соответствует определению программы для ЭВМ, содержащемуся в статье 1261 ГК РФ, такие системы не ограничены лишь совокупностью данных и команд, предназначенных для функционирования ЭВМ, т. е. имеют не только программную составляющую, поэтому ИИ-систему в целях дальнейшей правовой охраны следовало бы признать сложным объектом интеллектуальной собственности, предусмотренным статьей 1240 ГК РФ (Василевская и др., 2021).

Здесь нужно отметить, что если ранее любую систему искусственного интеллекта 1Т-специалисты определяли как программно-аппаратный комплекс, то сегодня аппаратная часть в виртуальных интеллектуальных системах может считаться отсутствующей и тогда проблема снимается. Так, к примеру, в определении искусственного интеллекта, данном в Коммюнике Европейской комиссии, упоминается, что виртуальная интеллектуальная система может вовсе не иметь собственной аппаратной части: «Искусственный интеллект (ИИ) относится к системам, которые демонстрируют разумное поведение, анализируя окружающую среду и предпринимая действия -с некоторой степенью автономии - для достижения определенных целей. Системы на основе ИИ могут быть чисто программными, действующими в виртуальном мире (например, голосовые помощники, программное обеспечение для анализа изображений, поисковые системы, системы распознавания речи и лиц) или ИИ может быть встроен в аппаратные устройства (например, роботы, дополненные искусственным интеллектом, автономные автомобили, дроны или приложения интернета вещей)» 20.

Отнесение ИИ-систем к объектам права не исключает возможности в дальнейшем установления законом особенностей их правового регулирования в зависимости от формы искусственного интеллекта - виртуальной или киберфизической, а также с учетом разницы в уровне искусственного интеллекта. Так, некоторые исследователи предлагают выделять в особую категорию продвинутые киберфизические

19 О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»: Федеральный закон от 24.04.2020 № 123-Ф3. (2020). Собрание законодательства РФ. № 17. Ст. 2701.

20 Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions. Artificial Intelligence for Europe, Brussels, 25.04.2018 COM (2018) 237 final. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/ ?uri=CELEX:52018DC0237&from=EN

системы, полагая, что влияние «умных» роботов на общество будет гораздо значительней, чем виртуальных систем, в силу сочетания нескольких факторов, в том числе наличия «тела» и эмерджентности, т. е. появления у системы свойств, не присущих ее компонентам (Calo, 2015).

Аргументированным можно признать мнение о необходимости применения к ИИ-системам правового режима, установленного для источников повышенной опасности. Сегодня суд при рассмотрении конкретного дела вправе самостоятельно определять, относится тот или иной объект к категории «источник повышенной опасности» или нет (Лаптев, 2019). Искусственный интеллект из-за возможности принятия автономных решений, отличных от изначально заложенной в него программы, соответствует определению источника повышенной опасности. Уточним, сказанное выше должно касаться не любых систем с элементами искусственного интеллекта, к которым можно отнести многие приложения из смартфона, а лишь продвинутых моделей. В этом ключе не лишено смысла выдвинутое В. В. Архи-повым и В. Б. Наумовым предложение признать такие ИИ-системы имуществом особого рода, подробно урегулировав их правовой режим через закрепление статуса «имущества, способного действовать автономно» (Архипов, Наумов, 2017), особенно с учетом того, что, чем совершеннее становятся модели искусственного интеллекта, тем больше контрольных функций будет на них возлагаться (Greenstein, 2022).

Нельзя не упомянуть, что признание искусственного интеллекта объектом права предоставляет весьма ограниченный выбор вариантов решения ряда вопросов, важность которых со временем будет только расти. Среди этих вопросов:

1. Кто понесет ответственность за вред, причиненный действиями ИИ-систем, с учетом того, что они становятся все более самостоятельными?

2. За кем следует признавать права на результаты интеллектуальной деятельности творческого характера (принимая в расчет то, что уровень результатов становится все выше, а участие человека, даже опосредованное, фактически может сводиться к нулю)?

В ответах на эти вопросы пока фигурирует только человек - производитель, владелец или пользователь. Сохранится ли это положение в будущем? Применительно к ответственности за вред, причиненный ИИ-системой, «если раньше считалось, что не потребуется кардинальных изменений в регулировании института юридической ответственности, то сегодня оснований так говорить с абсолютной уверенностью уже нет. Причиной стало повышение степени автономности систем искусственного интеллекта при расширении спектра возможностей их применения» (Харитонова и др., 2022). Опять краеугольным камнем встает проблема растущей автономии ИИ-систем от человека, таким образом, изменение законодательства - вопрос времени и это изменение станет отражением нового «баланса интересов» (McCarty, 2017).

2. Основные концепции правосубъектности искусственного интеллекта

2.1. Концепция индивидуальной правосубъектности искусственного интеллекта

Переходя к рассмотрению концепций потенциального наделения искусственных интеллектуальных систем правосубъектностью, следует признать, что реализация любого из подобных подходов потребует фундаментального переустройства

сложившейся общей теории права и изменения ряда положений отдельных отраслей права. Примечательно, что приверженцы различных взглядов нередко используют термин «электронное лицо», поэтому использование данного наименования само по себе не позволяет установить, сторонником какой именно концепции является автор конкретного труда без ознакомления непосредственно с содержанием его работы.

Наиболее радикальным и, что закономерно, наименее популярным среди представителей научного сообщества подходом является концепция индивидуальной правосубъектности искусственного интеллекта. Сторонниками данного подхода выдвинута идея «полной инклюзивности» (extreme inclusivism), предполагающая наделение ИИ-систем аналогичным человеку правовым статусом с признанием за ними собственных интересов (Mulgan, 2019) и учетом их социальной значимости или социальной валентности (social valence). Последняя связана с тем, что «физическое воплощение робота имеет тенденцию заставлять человека относиться к движущемуся объекту так, как если бы он был живым. Это еще более заметно, когда робот имеет антропоморфные характеристики, поскольку сходство с человеческим телом заставляет людей проецировать эмоции, чувства удовольствия, боли и заботы, а также желание строить отношения» (Avila Negri, 2021). Проецирование человеческих эмоций на неодушевленные предметы не является чем-то новым, исходя из истории человечества, но применительно к роботам оно влечет за собой многочисленные последствия (Balkin, 2015).

В качестве предпосылок правового закрепления данной позиции обычно называются:

- достижение ИИ-системами уровня, сопоставимого с когнитивными функциями человеческого мышления;

- возрастающая степень сходства роботов и людей;

- гуманность, защита интеллектуальных систем от потенциальных «страданий».

Как видно из перечня предпосылок, все они имеют большую степень теорети-

зации и субъективной оценки. В частности, тенденция к созданию антропоморфных роботов (андроидов) вызвана обыденными психологическими и социальными потребностями людей, для которых комфортно ощущать себя в «обществе» похожих на них субъектов. Некоторые современные роботы обладают иными конструктивными особенностями из-за выполняемых ими функций, сюда можно отнести «многоногих» роботов-курьеров, для которых в первую очередь важна прочность конструкции и эффективное распределение веса перевозимого груза. В этом случае «включается» последняя из упомянутых выше предпосылок, вызванная формированием эмоциональных связей с роботами в человеческом сознании, аналогичных эмоциональным связям между домашним животным и его хозяином (Гринь, 2018).

Идея «полной инклюзивности» правового статуса ИИ-систем и человека отражена в работах некоторых исследователей-правоведов. Поскольку положения Конституции (например, положения глав 1 и 2 Конституции Российской Федерации21), а равно отраслевого законодательства не дают легального определения личности, само по себе понятие «личность» в конституционно-правовом смысле теоретически допускает расширительное толкование. В таком случае к личностям можно относить любых носителей интеллекта, чьи когнитивные способности будут признаны

21 Конституция Российской Федерации. https://base.garant.ru/10103000

развитыми на достаточном уровне. Как отмечает А. В. Нечкин, логика данного подхода заключается в том, что сущностное отличие человека от всех остальных живых существ состоит как раз в его особом высокоразвитом интеллекте (Нечкин, 2020). Признание прав за ИИ-системами представляется очередным шагом эволюции правовой системы, постепенно расширившей юридическое признание на ранее подвергавшихся дискриминации людей, а теперь открывающей доступ и нечеловеческим существам (Gellers, 2021).

При наделении ИИ-систем подобным правовым статусом сторонникам рассматриваемого подхода видится обоснованным предоставление таким системам не буквальных прав граждан в устоявшемся конституционно-правовом понимании, а их аналогов и отдельных прав граждан с некоторыми изъятиями. Эта позиция основывается на объективных биологических различиях человека и робота. Так, не имеет смысла признание за ИИ-системой права на жизнь, поскольку она не живет в биологическом смысле. Права, свободы и обязанности систем искусственного интеллекта должны быть вторичными по отношению к правам граждан, данное положение закрепляет в правовом плане производность самого искусственного интеллекта в качестве творения человека.

Среди потенциальных конституционных прав и свобод искусственных интеллектуальных систем называются: право быть свободным, право на самосовершенствование (обучение и самообучение), право на неприкосновенность (защиту программного кода от произвольного вмешательства третьих лиц), свобода слова, свобода творчества, признание за ИИ-системой авторских прав и ограниченное право собственности. Также можно выделить и особенные права искусственного интеллекта, например, право на доступ к источнику электроэнергии.

В отношении обязанностей ИИ-систем предлагается конституционное закрепление трех знаменитых законов робототехники, сформулированных А. Азимовым: непричинение вреда человеку, а равно недопущение своим бездействием его причинения; повиновение всем приказам, отдаваемым человеком, кроме направленных на причинение вреда другому человеку; забота о собственной безопасности, за исключением предыдущих двух случаев (Наумов, Архипов, 2017). Еще ряд обязанностей в этом случае найдут отражение в нормах гражданского и административного права.

Концепция индивидуальной правосубъектности искусственного интеллекта имеет весьма небольшие шансы на свое нормативное закрепление сразу по нескольких основаниям.

Во-первых, критерий признания правосубъектности по наличию сознания и самосознания абстрактен, он допускает возможность многочисленных правонарушений, злоупотреблений правом и провоцирует социальные, политические проблемы в качестве дополнительного повода для расслоения общества. Данный тезис детализирован в работе С. Чопра и Л. Уайта, указывающих, что сознание и самосознание не являются необходимым и (или) достаточным условием для признания ИИ-систем в качестве субъекта права (Chopra & White, 2004). В правовой реальности полностью сознательные индивиды, например дети (или рабы в римском праве), лишены или ограничены в правосубъектности. В то же время люди, имеющие тяжелые психические расстройства, в том числе признанные недееспособными, или находящиеся в состоянии комы, т. е. при объективной невозможности проявления сознания, в первом случае остаются субъектами права (пусть и в ограниченной форме), а во втором имеют всю ту же полную правосубъектность, никак глобально не меняясь в своем

правовом статусе. При потенциальном же закреплении упомянутого выше критерия сознания и самосознания граждан можно будет в произвольном порядке лишать правосубъектности.

Во-вторых, ИИ-системы не смогут в устоявшемся правовом понимании осуществлять свои права и обязанности, поскольку действуют на основании изначально написанной программы, а принятие юридически значимых решений должно основываться на субъективном, нравственном выборе лица (Морхат, 20186), его прямом волеизъявлении. Все моральные установки, чувства и желания такого «лица» становятся производными от человеческого интеллекта (Ужов, 2017). Автономность ИИ-систем в смысле способности принимать решения и реализовывать их самостоятельно, без внешнего антропогенного контроля или умышленного воздействия человека (Мусина, 2023), не является полноценной. Сегодня искусственный интеллект способен принимать только «квазинезависимые решения», так или иначе основанные на представлениях и моральных установках людей. В данном контексте можно рассматривать только «действие-операцию» ИИ-системы, исключая возможность реальной нравственной оценки поведения искусственного интеллекта (Петев, 2022).

В-третьих, признание за искусственным интеллектом правосубъектности индивидуального лица (тем более в форме приравнивания к статусу физического лица), влечет за собой разрушительное изменение сложившегося правопорядка и правовых традиций, формировавшихся со времен римского права, и провоцирует поднятие целого ряда фундаментально неразрешимых философских и правовых вопросов в области прав человека. Право как система социальных норм и социальное явление создано с учетом способностей человека и для обеспечения его интересов. Устоявшаяся антропоцентрическая система нормативных правил, международный консенсус в области концепции естественного права в случае закрепления подхода «полной инклюзивности» юридически и фактически будут признаны недействительными (Дремлюга, Дремлюга, 2019). Тем самым предоставление ИИ-системам, в частности «умным» роботам, правосубъектности может стать не решением существующих проблем, а ящиком Пандоры, обостряющим социальные и политические противоречия (Solaiman, 2017).

Еще один момент: в работах сторонников данной концепции упоминаются обычно лишь роботы, т. е. киберфизические системы искусственного интеллекта, которые будут взаимодействовать с людьми в физическом мире, а виртуальные системы остаются «за рамками», хотя сильный искусственный интеллект в случае его появления сможет найти воплощение и в виртуальной форме.

Исходя из всей совокупности приведенных выше аргументов, концепцию индивидуальной правосубъектности систем искусственного интеллекта следует рассматривать как юридически нереалистичную при сложившемся правопорядке.

2.2. Концепция коллективной правосубъектности искусственного интеллекта

Концепция коллективных лиц применительно к искусственным интеллектуальным системам нашла значительную поддержку среди сторонников самой допустимости признания подобной правосубъектности. Главное достоинство этого подхода заключается в исключении из юридической техники абстрактных понятий и оценочных суждений (сознание, самосознание, разумность, мораль и т. д.), подход базируется

на использовании юридической фикции в отношении искусственного интеллекта. Применительно к юридическим лицам уже существуют «передовые методы регулирования, которые можно было бы адаптировать для решения дилеммы правового статуса искусственного интеллекта» (Нагв, 2022).

Данная концепция не предполагает реального наделения ИИ-систем правосубъектностью физического лица, а является лишь расширением действия существующего института юридических лиц, предлагая создание новой категории юридических лиц - кибернетических «электронных организмов»22 (Мусина, 2023). В контексте данного подхода юридическое лицо целесообразнее рассматривать не в соответствии с современным узким понятием, в частности, закрепленным в статье 48 Гражданского кодекса РФ (как организацию, которая имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права, нести гражданские обязанности, быть истцом и ответчиком в суде), а в более широком смысле, представляющем юридическое лицо в качестве любой отличной от физического лица правовой конструкции, которая в установленной законом форме наделяется правами и обязанностями. Тем самым сторонники данного подхода предлагают рассматривать юридическое лицо как субъект-сущность (идеальную сущность) по римскому праву (Санфилиппо, 2007).

Сходство ИИ-систем и юридических лиц видят в способе наделения их правосубъектностью - через обязательность государственной регистрации юридических лиц. Лишь после прохождения установленной процедуры регистрации юридическое лицо наделяется правоспособностью и дееспособностью, т. е. становится субъектом права. Такая модель удерживает рассуждения о правосубъектности ИИ-систем в рамках правового поля, исключая возможность признания правосубъектности по иным (неюридическим) основаниям, без естественных на это предпосылок, в то время как человек по праву своего рождения признается субъектом права.

Достоинством данной концепции является распространение на искусственные интеллектуальные системы требования о внесении сведений в соответствующие государственные реестры по аналогии с единым государственным реестром юридических лиц (Попова, 2018) как необходимого условия для придания им правосубъектности. Такой метод реализует значимую функцию систематизации всех юридических лиц и создания единой базы данных, необходимой как для органов государственной власти в целях осуществления контроля и надзора (к примеру, в налоговой сфере), так и для потенциальных контрагентов такого лица.

Объем прав юридических лиц в любой юрисдикции, как правило, меньше, чем физических лиц, тем самым использование данной конструкции для придания правосубъектности искусственному интеллекту не сопряжено с наделением его рядом прав, предлагаемых сторонниками предыдущей концепции.

При использовании приема юридической фикции в отношении юридических лиц предполагается, что за действиями юридического лица стоит объединение физических лиц, которое через органы управления юридическим лицом формирует

22 Не следует путать их с «юридическими электронными лицами» - децентрализованными автономными организациями, в которых координация деятельности участников происходит в соответствии с заранее согласованным набором правил с автоматическим контролем их выполнения (функционирующими на основе блокчейна).

его «волю» и осуществляет «волеизъявление». Иными словами, юридические лица являются искусственными (абстрактными) образованиями, призванными удовлетворять интересы физических лиц, которые выступили их учредителями или осуществляют управление ими. Так же и искусственные интеллектуальные системы создаются для удовлетворения потребностей конкретных лиц - разработчиков, операторов, владельцев. Физическое лицо при использовании ИИ-систем, их программировании руководствуется своими интересами, которые во внешнем мире такая система и представляет.

При теоретической оценке подобной модели регулирования не стоит забывать, что полная аналогия положения юридических лиц и ИИ-систем невозможна. Как уже было отмечено ранее, за всеми юридически важными действиями юридических лиц стоят лица физические, которые эти решения непосредственно и принимают. Воля, исходящая от юридического лица, всегда обусловлена и полностью контролируется волей физических лиц (Шуткин, 2020). Следовательно, без волеизъявления физических лиц невозможно осуществление деятельности лиц юридических, а применительно к ИИ-системам уже встает объективная проблема их автономности, возможности принятия решений без вмешательства физического лица после момента непосредственного создания такой системы (Ладенков, 2021).

Необходимо учитывать и то, что ИИ-системы не отвечают формальному признаку организационного единства, обязательного для юридических лиц. Правовой статус юридического лица вырабатывался на протяжении нескольких веков и так же, как и право в целом, обладает чертами «правового консерватизма». С другой стороны, действующее законодательство о юридических лицах сильно ограничивает возможности для наделения правами и обязанностями ИИ-системы, при попытке применить эту конструкцию следствием станет необоснованное законодательное препятствование инновациям (Понкин, Редькина, 2018), недопустимое исходя из содержания упоминавшихся ранее документов стратегического характера, нацеленных на скорейшее внедрение технологий искусственного интеллекта в различных отраслях экономики, социальной сфере и государственном управлении.

Таким образом, концепция коллективных лиц применительно к ИИ-системам пусть и обладает определенным потенциалом, не отвечает сложившимся юридическим традициям. Если же исходить из того, что «хотя вопрос о личности является бинарным» (признание лицом или непризнание таковым), однако «содержание этого статуса представляет собой спектр» возможных вариантов (Chesterman, 2020), то речь должна идти скорее о градиентной правосубъектности искусственного интеллекта, о которой будет подробнее рассказано в следующем разделе.

2.3. Концепция градиентной правосубъектности искусственного интеллекта

В связи с неустранимыми ограничениями рассмотренных выше концепций значительным числом исследователей предлагаются свои подходы к решению вопроса о правовом положении искусственных интеллектуальных систем. Условно можно отнести их к различным вариациям концепции «градиентной правосубъектности», по выражению исследователя из Левенского университета Д. М. Мокану, которая подразумевает под этим ограниченную или частичную правоспособность и дееспособность ИИ-систем с оговоркой: термин «градиент» используется потому, что речь

идет не просто о включении или невключении каких-то прав и обязанностей в правовой статус, но о формировании их набора с минимально допустимым порогом, а также о признании такой правосубъектности только для определенных целей (Мосапи, 2021). Тогда к двум основным вариациям этой концепции можно отнести подходы, обосновывающие:

1) придание ИИ-системам особого правового статуса и включение в правопорядок «электронных лиц» как абсолютно новой категории субъектов права;

2) наделение ИИ-систем ограниченной правоспособностью и дееспособностью в рамках гражданско-правовых отношений через создание категории «электронных агентов».

Позиция сторонников различных подходов внутри данной концепции может быть объединена, исходя из того, что пока отсутствуют онтологические причины, по которым искусственный интеллект следует рассматривать в качестве субъекта права, тем не менее в конкретных ситуациях уже наличествуют функциональные причины для наделения ИИ-систем конкретными правами и обязанностями, что «кажется лучшим способом поощрения индивидуальных и общественных интересов, которые закон призван защищать», наделяя эти системы «ограниченными и узкими формами правосубъектности» (Ве^оПт & Episcopo, 2022).

Придание системам искусственного интеллекта особого правового статуса через создание отдельного правового института «электронных лиц» главным своим достоинством имеет детальное прояснение и урегулирование отношений, возникающих:

- между юридическими или физическими лицами и ИИ-системами;

- между ИИ-системами и их разработчиками (оператором, владельцем);

- между третьей стороной и ИИ-системами в гражданско-правовых отношениях23.

При подобной правовой конструкции ИИ-система будет контролироваться

и управляться отдельно от ее разработчика, владельца или оператора (Морхат, 2018б). Приводя определение «электронного лица», П. М. Морхат акцентирует внимание на использовании уже упомянутого приема юридической фикции и функциональной направленности конкретной модели искусственного интеллекта: «электронное лицо» - это технико-юридический образ (обладающий некоторыми признаками юридической фикции по аналогии с юридическим лицом), отражающий и воплощающий условно специфическую правосубъектность системы искусственного интеллекта, отличающуюся в зависимости от ее функционально-целевого назначения и возможностей (Морхат, 2018а).

Как и концепция коллективных лиц в отношении ИИ-систем, данный подход предусматривает ведение специальных реестров «электронных лиц». Детальное и четкое изложение прав и обязанностей «электронных лиц» является основой для дальнейшего контроля со стороны государства и владельцев подобных ИИ-систем. Точно определенный круг полномочий, суженный объем правоспособности и дееспособности «электронных лиц» позволят отслеживать, не зашло ли данное «лицо» за рамки собственной программы вследствие потенциального принятия автономных решений и постоянного самообучения.

23 Schrijver, S. de (2018, January 5). The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots. Who's Who Legal. https://whoswholegal.com/features/the-future-is-now-legal-consequences-of-electronic-personality-for-autonomous-robots

Формально-юридически эта модель представляет из себя аналог наделения юридических лиц, к примеру в форме унитарных предприятий, ограниченной (специальной) правоспособностью по смыслу пункта 2 статьи 48 ГК РФ. Выдвигается и предложение о лицензировании отдельных видов «электронных лиц» в зависимости от осуществляемой ими деятельности по аналогии с лицензированием, предусмотренным Федеральным законом от 4 мая 2011 года № 99-ФЗ «О лицензировании отдельных видов деятельности»24. При данном подходе искусственный интеллект, на стадии его создания являющийся объектом интеллектуальной собственности разработчиков программного обеспечения, после соответствующей сертификации, государственной регистрации может быть наделен правосубъектностью, но правоспособность и дееспособность «электронного лица» будут носить специальный характер (Вавилин, 2022).

Введение принципиально нового института для устоявшегося правопорядка повлечет за собой серьезные правовые последствия, необходимость глобального реформирования законодательства как минимум в области конституционного и гражданского права. Исследователи справедливо отмечают, что при введении понятия «электронного лица» необходимо проявлять осторожность, учитывая проблемы введения новых лиц в праве, поскольку расширение понятия «лицо» в юридическом смысле может потенциально происходить за счет ограничения прав и законных интересов уже существующих субъектов правоотношений (В^оп et б!., 2017). Учет таких аспектов представляется реально невозможным, так как правосубъектность физических лиц, юридических лиц, публично-правовых образований - это следствие многовековой эволюции теории государства и права.

Второй подход в рамках концепции градиентной правосубъектности - правовой концепт «электронных агентов», он связан в первую очередь с повсеместным распространением ИИ-систем как средств коммуникации между контрагентами и как инструментов онлайн-торговли. Данный подход можно назвать компромиссным, он признает невозможность наделения ИИ-систем статусом полноценных субъектов права, в то же время закрепляя за искусственным интеллектом отдельные (социально значимые) права и обязанности. Иными словами, концепция «электронных агентов» является легализацией квазисубъектности искусственного интеллекта. Под квазисубъектом права следует понимать определенное правовое явление, за которым на официальном либо доктринальном уровне признаются отдельные элементы правосубъектности при невозможности закрепления статуса полноценного субъекта права (Чаннов, 2022).

Сторонники данного подхода отмечают функциональные особенности ИИ-систем, позволяющие им выступать как в форме пассивного инструмента, так и в форме активного участника правоотношений, потенциально способного самостоятельно создавать юридически значимые для владельца такой системы соглашения. Именно поэтому ИИ-системы можно условно рассматривать в рамках отношений агентирования (Морхат, 2018б). При создании (или регистрации) ИИ-системы инициатор деятельности «электронного агента» заключает с ним фактический односторонний агентский договор, в результате чего «электронный агент» наделяется рядом полномочий, при осуществлении которых он может осуществлять юридические действия, значимые для принципала.

24 О лицензировании отдельных видов деятельности: Федеральный закон от 04.05.2011 № 99-ФЗ (ред. от 29.12.2022). (2011). Собрание законодательства РФ, 2011. № 19. Ст. 2716.

Положения об агентировании отношений с ИИ-системами в России впервые прозвучали в связи с разработкой законопроекта «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники», подготовленного в 2016 г. Этот проект получил неформальное наименование «Закон Гришина» по фамилии Д. Гришина - основателя инвестиционного фонда Grishin Robotics и председателя совета директоров Mail.Ru Group. По смыслу законопроекта «электронным агентом» должен быть признан робот, который по решению собственника и в силу конструктивных особенностей предназначен для участия в гражданском обороте. Робот-агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. В случаях, установленных законом, робот-агент может выступать в качестве участника гражданского процесса. Результатом одобрения данного законопроекта стала бы легализация ИИ-систем в качестве участников правоотношений в России.

В контексте «электронных агентов» наиболее проблемным является вопрос об обладании такими лицами обособленным имуществом, что дало бы возможность привлекать их к ответственности по приобретенным гражданско-правовым обязательствам. Авторы - разработчики законопроекта постарались учесть функциональную специфику разных видов искусственного интеллекта, предложив разделить ИИ-системы25 на два типа:

- ИИ-системы (в проекте - роботы) как особая форма имущества, для которых потенциально возможна аналогия с животными и иными объектами права (ИИ-системы первого типа - объекты права);

- ИИ-агенты как участники гражданских правоотношений, обладающие особой правосубъектностью (ИИ-системы второго типа - квазисубъекты права).

Стоит отметить, что о возможном правовом статусе виртуальных систем как еще одной формы искусственного интеллекта авторы законопроекта 2016 г. не упоминали, указав лишь, что «Положения гражданского законодательства о роботах не применяются к программам для ЭВМ, которые, хотя и способны действовать, определять свои действия и оценивать их последствия без полного контроля со стороны человека по результатам обработки информации, поступающей из внешней среды, при этом не являются частью информационной системы обособленного устройства, предназначенного полностью или в части для осуществления фактических действий в автономном режиме»26. В настоящее время достигнутый уровень разработок в области искусственного интеллекта вполне допускает предположение, что сильный искусственный интеллект сможет иметь и виртуальную форму, при этом управлять интеллектуально более слабыми киберфизическими системами, подчинив их себе.

25 В проекте закона упоминается лишь о роботах, подобная неполнота формулировки была свойственна не только создателям данного проекта, но, например, и европейским разработчикам текста Резолюции ЕС от 16 февраля 2017 г. относительно норм гражданского права о робототехнике (European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics 2015/2013(INL), позднее в резолюциях ЕС 2020 года данная неточность была устранена.

26 Дмитрий Гришин представил проект регулирования правового статуса роботов в России. (2016, 17 декабря). https://robotrends.ru/pub/1650/dmitriy-grishin-predstavil-proekt-regulirovaniya-pravovogo-statusa-robotov

Подходы к наделению ИИ-систем элементами правосубъектности в рамках концепции, рассматриваемой в данном разделе, можно сравнить с конструктором, позволяющим выстроить новое, используя имеющийся материал из концепций, раскрытых в предыдущих разделах статьи, путем комбинирования, учета функциональных характеристик ИИ-систем и круга задач, для решения которых конкретная модель искусственного интеллекта предназначена. Исходя из этого, стоит считать градиентную концепцию имеющей наибольшие шансы на реализацию в рамках существующего правопорядка.

Выводы

Определение правового статуса искусственных интеллектуальных систем - вопрос, вызывающий с течением времени все более оживленные дискуссии в среде правоведов. Можно согласиться с У Пагалло, одним из наиболее углубившихся в эту тему исследователей, что вряд ли в ближайшие годы будут найдены решения «для всех сложных случаев и дилемм», связанных с искусственным интеллектом, тем не менее, предотвращая «поляризацию сегодняшних дебатов, методы правовой гибкости и прагматического экспериментирования» позволяют рационально решить даже такие сложные задачи (Рада!!о, 2018).

Рассмотрев сформулированные до настоящего момента основные концепции наделения ИИ-систем правосубъектностью, следует констатировать как минимум юридическую нецелесообразность признания за искусственным интеллектом статуса субъекта права в классическом понимании теории права, но равно и чем дальше, тем меньшую возможность сохранения правового режима объекта права в существующем варианте. В современных технологических, экономических, социальных, политических и юридических реалиях, скорее всего, придется использовать комбинированный подход для определения правового статуса искусственного интеллекта. Оптимальным вариантом может стать внесение ИИ-систем в перечень объектов гражданских прав, но с дифференциацией правового регулирования искусственного интеллекта в качестве объекта права и «электронного агента» как квазисубъекта права. Линия разграничения должна проходить в зависимости от функциональных различий ИИ-систем, причем «электронным агентом» может быть признан не только робот, но и виртуальная интеллектуальная система. «Электронный агент» наделяется отдельными правами и способен выполнять некоторые юридические обязанности, а в конечном счете ответственность за его действия должен нести человек. Признание ИИ-систем «электронными лицами» представляется преждевременным как минимум до появления сильного искусственного интеллекта.

В перспективе, с учетом начавшейся трансформации права, при условии, что уже тестируются ИИ-системы для машиночитаемого права и ИИ-системы поддержки принятия решений в области публичного управления, невозможно исключить вероятность постепенного увеличения влияния искусственного интеллекта на сферу права, что будет способствовать усилению позиций искусственного интеллекта на пути к признанию статуса субъекта права и к полной «перекройке» материи права с его участием или даже под его руководством, как бы фантастично это ни звучало на первый взгляд.

Список литературы

Алексеев, А. Ю., Алексеева, Е. А., Емельянова, Н. Н. (2023). Искусственная личность в социально-политической коммуникации. Искусственные общества, 78(1), 1. https://doi.org/10.18254/ S207751800024370-6

Архипов, В. В., Наумов, В. Б. (2017). О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности. Закон, 5, 157-170.

Вавилин, Е. В. (2022). Статус искусственного интеллекта: от объекта к субъекту правовых отношений. Вестник Томского государственного университета. Право, 45, 147-158. https://doi. org/10.17223/22253513/45/10

Василевская, Л. Ю., Подузова, Е. Б., Тасалов, Ф. А. (2021). Цифровизация гражданского оборота: правовая характеристика «искусственного интеллекта» и «цифровых» субъектов (цивилистическое исследование) (В 5 т. Т. 3). Москва: Проспект.

Гринь, С. Н. (2018). Эмансипация роботов: элементы правосубъектности в конструкции искусственного интеллекта. Бизнес. Общество. Власть, 7(27), 233-242.

Дремлюга, Р. И., Дремлюга, О. А. (2019). Искусственный интеллект - субъект права: аргументы за и против. Правовая политика и правовая жизнь, 2, 120-125.

Ладенков, Н. Е. (2021). Модели наделения искусственного интеллекта правосубъектностью. Вестник Балтийского федерального университета им. И. Канта. Серия: Гуманитарные и общественные науки, 3, 12-20.

Лаптев, В. А. (2019). Понятие искусственного интеллекта и юридическая ответственность за его работу. Право. Журнал Высшей школы экономики, 2, 79-102. https://doi.org/10.17323/2072-8166.2019.2.79.102

Морхат, П. М. (2018a). Правосубъектность юнита искусственного интеллекта: некоторые гражданско-правовые подходы. Вестник КГУ, 3, 280-283.

Морхат, П. М. (2018b). Юнит искусственного интеллекта как электронное лицо. Вестник МГОУ. Серия: Юриспруденция, 2, 61-73. https://doi.org/10.18384/2310-6794-2018-2-61-73

Мусина, К. С. (2023). Идентификация правосубъектности искусственного интеллекта: кросснациональный анализ законодательств зарубежных стран. Вестник Российского университета дружбы народов. Серия: Юридические науки, 27(1), 135-147. https://doi.org/10.22363/2313-2337-2023-27-1-135-147

Наумов, В. Б., Архипов, В. В. (2017). Проект Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники». В сб.: Н. А. Шевелёва (ред.), Право и информация: вопросы теории и практики: сборник материалов VII Международной научно-практической конференции. Сер. «Электронное законодательство», 7 (с. 220-226). Санкт-Петербург: Президентская бибилиотека.

Нечкин, А. В. (2020). Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее. Lex Russica, 8(165), 78-85. https://doi.org/10.17803/1729-5920.2020.165.8.078-085

Петев, Н. И. (2022). Экзистенциальная, правовая и этическая проблемы искусственного интеллекта. Векторы благополучия: экономика и социум, 2(45), 55-70. https://doi.org/10.18799/26584956/2022 /2/1159

Понкин, И. В., Редькина, А. И. (2018). Искусственный интеллект с точки зрения права. Вестник Российского университета дружбы народов. Серия: Юридические науки, 7, 91-109. https://doi.org/10.22363/2313-2337-2018-22-1-91-109

Попова, А. В. (2018). Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании. Журнал российского права, 7 7(263), 14-24. https://doi. org/10.12737/art_2018_11_2

Санфилиппо, Ч. (2007). Курс римского частного права: учебник (пер. с итал. И. И. Маханькова, под общ. ред. Д. В. Дождева). Москва: Норма, 2007.

Соменков, С. А. (2019). Искусственный интеллект: от объекта к субъекту?. Вестник Университета имени О. Е. Кутафина, 2(54), 75-85.

Ужов, Ф. В. (2017). Искусственный интеллект как субъект права. Пробелы в российском законодательстве, 3, 357-360.

Харитонова, Ю. С., Савина, В. С., Паньини, Ф. (2022). Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы. Вестник Пермского университета. Юридические науки, 58, 683-708. https://doi.org/10.17072/1995-4190-2022-58-683-708

Чаннов, С. Е. (2022). Робот (система искусственного интеллекта) как субъект (квазисубъект) права. Актуальные проблемы российского права, 77(12), 94-109. https://doi.org/10.17803/1994-1471.2022.145.12.094-109

Шуткин, С. И. (2020). Возможна ли правосубъектность искусственного интеллекта. Труды

по интеллектуальной собственности, 35(1-2), 90-137. Abbott, R. (2020). The Reasonable Robot. Artificial Intelligence and the Law. Cambridge University Press. Ashley, K. D. (2017). Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age.

Cambridge University Press. Avila Negri, S. M. C. (2021). Robot as Legal Person: Electronic Personhood in Robotics and Artificial Intelligence.

Frontiers in Robotics and AI, 8, Art. 789327. https://doi.org/10.3389/frobt.2021.789327 Balkin, J. M. (2015). The Path of Robotics Law. California Law Review, 6, 45-60.

Bertolini, A., & Episcopo, F. (2022). Robots and AI as Legal Subjects? Disentangling the Ontological and Functional Perspective. Frontiers in Robotics and AI, 9, Art. 842213. https://doi.org/10.3389/frobt.2022.842213 Bryson, J. J., Diamantis, M. E., & Grant, Th. D. (2017). Of, For, and By the People: The Legal Lacuna of Synthetic

Persons. Artificial Intelligence and Law, 25, 273-291. Calo, R. (2015). Robotics and the Lessons of Cyberlaw. California Law Review, 703(3), 513-563. Chesterman, S. (2020). Artificial Intelligence and the Limits of Legal Personality. International & Comparative

Law Quarterly, 69, 819-844. https://doi.org/10.1017/s0020589320000366 Chopra, S., & White, L. (2004). Artificial Agents - Personhood in Law and Philosophy. In Proceedings of the 76th Eureopean Conference on Artificial Intelligence, ECAI'2004, including Prestigious Applicants of Intelligent Systems, PAIS 2004 (pp. 635-639). Valencia: IOS Press. Gellers, J. C. (2021). Rights for Robots. Artificial Intelligence, Animal and Environmental Law. London: Routledge. Greenstein, S. (2022). Preserving the rule of law in the era of artificial intelligence (AI). Artificial Intelligence and Law, 30, 291-323.

Hars, A. (2022). AI and international law - Legal personality and avenues for regulation. Hungarian Journal

ofLegal Studies, 62(4), 320-344. https://doi.org/10.1556/2052.2022.00352 Karnouskos, S. (2022). Symbiosis with artificial intelligence via the prism of law, robots, and society. Artificial

Intelligence and Law, 30, 93-115. McCarty, L. T. (2017). Finding the Right Balance in Artificial Intelligence and Law. In Research Handbook on the Law

of Artificial Intelligence (Chapter 3, pp. 55-87). Edward Elgar Publishing. McNally, Ph., Inayatullah, S. (1988). The Rights of Robots: Technology, Culture and Law in the 21st Century.

Futures, 20(1), 119-136. https://doi.org/10.1016/0016-3287(88)90019-5 Mocanu, D. M. (2021). Gradient Legal Personhood for AI Systems - Painting Continental Legal Shapes Made to Fit Analytical Molds. Frontiers in Robotics and AI, 8, Art. 788179. https://doi.org/10.3389/frobt.2021.788179 Mulgan, T. (2019). Corporate Agency and Possible Futures. Journal of Business Ethics, 754, 901-916. https://

doi.org/10.1007/s10551-018-3887-1 Pagallo, U. (2018). Apples, oranges, robots: four misunderstandings in today's debate on the legal status of AI systems. Philosophical Transactions of the Royal Society, 376(2133), Art. 20180168. https://doi.org/10.1098/ rsta.2018.0168

Solaiman, S. M. (2017). Legal Personality of Robots, Corporations, Idols and Chimpanzees: A Quest for Legitimacy. Artificial Intelligence and Law, 25(2), 155-179. https://doi.org/10.1007/s10506-016-9192-3 Solum, L. B. (1992). Legal Personhood for Artificial Intelligences. North Carolina Law Review, 70(4), 1231-1287. Stiglitz, J. E. (2017). The coming great transformation. Journal of Policy Modeling, 39(4), 625-638. https://doi. org/10.1016/j.jpolmod.2017.05.009

Сведения об авторах

Филипова Ирина Анатольевна - кандидат юридических наук, доцент, доцент кафедры трудового и экологического права, Национальный исследовательский Нижегородский государственный университет имени Н. И. Лобачевского; руководитель Центрально-Азиатского исследовательского центра регулирования искусственного интеллекта, Самаркандский государственный университет Адрес: 603922, Российская Федерация, г. Нижний Новгород, проспект Гагарина, 23; 140104, Республика Узбекистан, г. Самарканд, Университетский бульвар, 15 E-mail: [email protected] ORCID ID: https://orcid.org/0000-0003-1773-5268

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57327205000 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/R-1375-2016 Google Scholar ID: https://scholar.google.com/citations?user=opJc7fcAAAAJ РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=461586

Коротеев Вадим Дмитриевич - студент 4-го курса юридического факультета, Национальный исследовательский Нижегородский государственный университет имени Н. И. Лобачевского

Адрес: 603922, Российская Федерация, г. Нижний Новгород, проспект Гагарина, 23 E-mail: [email protected] ORCID ID: https://orcid.org/0009-0004-4182-2411 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/IAP-5405-2023 РИНЦ Author ID: https://www.elibrary.ru/author_profile.asp?id=1198439

И. А. Филипова осуществляла формулирование идеи, исследовательских целей и задач; разработку методологии; анализ и обобщение литературы; интерпретацию общих результатов исследования; критический пересмотр и редактирование текста рукописи; формулировку ключевых выводов, предложений и рекомендаций; утверждение окончательного варианта статьи.

В. Д. Коротеев осуществлял составление черновика рукописи и его критический пересмотр с внесением ценных замечаний интеллектуального содержания; участие в научном дизайне; проведение сравнительного анализа; сбор литературы; подготовку и редактирование текста статьи; интерпретацию частных результатов исследования; оформление рукописи.

Конфликт интересов

И. А. Филипова является заместителем главного редактора журнала, статья прошла рецензирование на общих основаниях.

Финансирование

Исследование не имело спонсорской поддержки.

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: OM / Law

Рубрика ГРНТИ: 10.07.45 / Право и научно-технический прогресс Специальность ВАК: 5.1.1 / Теоретико-исторические правовые науки

История статьи

Дата поступления - 23 апреля 2023 г. Дата одобрения после рецензирования - 8 мая 2023 г. Дата принятия к опубликованию - 16 июня 2023 г. Дата онлайн-размещения - 20 июня 2023 г.

Вклад авторов

Research article

DOI: https://doi.org/10.21202/jdtl.2023.15

3

%

Check for updates

Future of the Artificial Intelligence: Object of Law or Legal Personality?

Irina A. Filipova H

National Research Lobachevsky State University of Nizhny Novgorod Nizhny Novgorod, Russian Federation; Samarkand State University Samarkand, Republic of Uzbekistan

Vadim D. Koroteev ©

National Research Lobachevsky State University of Nizhny Novgorod Nizhny Novgorod, Russian Federation

Keywords

Abstract

Artificial intelligence, cyberphysical system, digital technologies, electronic person, generative model, intellectual system, law,

legal personality, quasi subject of law, robot

Objective: to reveal the problems associated with legal regulation of public relations, in which artificial intelligence systems are used, and to rationally comprehend the possibility of endowing such systems with a legal subject status, which is being discussed by legal scientists.

Methods: the methodological basis of the research are the general scientific methods of analysis and synthesis, analogy, abstraction and classification. Among the legal methods primarily applied in the work are formal-legal, comparative-legal and systemic-structural methods, as well as the methods of law interpretation and legal modeling.

Results: the authors present a review of the state of artificial intelligence development and its introduction into practice by the time of the research. Legal framework in this sphere is considered; the key current concepts of endowing artificial intelligence with a legal personality (individual, collective and gradient legal personality of artificial intelligence) are reviewed. Each approach is assessed; conclusions are made as to the most preferable

H Corresponding author © Filipova I. A., Koroteev V. D., 2023

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

amendments in the current legislation, which ceases to correspond to the reality. The growing inconsistency is due to the accelerated development of artificial intelligence and its spreading in various sectors of economy, social sphere, and in the nearest future - in public management. All this testifies to the increased risk of a break between legal matter and the changing social reality.

Scientific novelty: scientific approaches are classified which endow artificial intelligence with a legal personality. Within each approach, the key moments are identified, the use of which will allow in the future creating legal constructs based on combinations, avoiding extremes and observing the balance between the interests of all parties. The optimal variant to define the legal status of artificial intelligence might be to include intellectual systems into a list of civil rights objects, but differentiating the legal regulation of artificial intelligence as an object of law and an "electronic agent" as a quasi subject of law. The demarcation line should be drawn depending on the functional differences between intellectual systems, while not only a robot but also a virtual intellectual system can be considered an "electronic agent".

Practical significance: the research materials can be used when preparing proposals for making amendments and additions to the current legislation, as well as when elaborating academic course and writing tutorials on the topics related to regulation of using artificial intelligence.

For citation

Filipova, I. A., Koroteev, V. D. (2023). Future of the Artificial Intelligence: Object of Law or Legal Personality? Journal ofDigital Technologies and Law, 7(2), 359-386. https://doi.org/10.21202/jdtl.2023.15

References

Abbott, R. (2020). The Reasonable Robot. Artificial Intelligence and the Law. Cambridge University Press.

Alekseev, A., Alekseeva, E., & Emelyanova, N. (2023). Artificial Personality in socio-political communication. Artificial Societies, 78(1). (In Russ.). https://doi.org/10.18254/s207751800024370-6

Arkhipov, V. V., & Naumov, V. B. (2017). On certain issues of theoretic grounds for development of robotics legislation: the aspects of will and legal personality. Statute, 5, 157-170. (In Russ.).

Ashley, K. D. (2017). Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age. Cambridge University Press.

Avila Negri, S. M. C. (2021). Robot as Legal Person: Electronic Personhood in Robotics and Artificial Intelligence. Frontiers in Robotics and AI, 8, Art. 789327. https://doi.org/10.3389/frobt.2021.789327

Balkin, J. M. (2015).The Path of Robotics Law. California Law Review, 6, 45-60.

Bertolini, A., & Episcopo, F. (2022). Robots and AI as Legal Subjects? Disentangling the Ontological and Functional Perspective. Frontiers in Robotics and AI, 9, Art. 842213. https://doi.org/10.3389/frobt.2022.842213

Bryson, J. J., Diamantis, M. E., & Grant, Th. D. (2017). Of, For, and By the People: The Legal Lacuna of Synthetic Persons. Artificial Intelligence and Law, 25, 273-291.

Calo, R. (2015). Robotics and the Lessons of Cyberlaw. California Law Review, 703(3), 513-563.

Channov, S. E. (2022). Robot (Artificial Intelligence System) as a Subject (Quasi-Subject) of Law. Actual Problems of Russian Law, 77(12), 94-109. (In Russ.). https://doi.org/10.17803/1994-1471.2022.145.12.094-109

Chesterman, S. (2020). Artificial Intelligence and the Limits of Legal Personality. International & Comparative

Law Quarterly, 69, 819-844. https://doi.org/10.1017/s0020589320000366 Chopra, S., & White, L. (2004). Artificial Agents - Personhood in Law and Philosophy. In Proceedings of the 16th European Conference on Artificial Intelligence, ECAI'2004, including Prestigious Applicants of Intelligent Systems, PAIS 2004 (pp. 635-639). Valencia: IOS Press. Dremliuga, R. I., & Dremliuga, O. A. (2019). Artificial intelligence - a legal person: the arguments for and against.

Pravovaya politika i pravovaya zhizn, 2, 120-125. (In Russ.). Gellers, J. C. (2021). Rights for Robots. Artificial Intelligence, Animal and Environmental Law. London: Routledge. Greenstein, S. (2022). Preserving the rule of law in the era of artificial intelligence (AI). Artificial Intelligence and Law, 30, 291-323.

Grin, S. N. (2018). Robots' emancipation: elements of legal personhood in the construct of artificial intelligence.

Biznes. Obshchestvo. Vlast, 7(27), 233-242. (In Russ.). Hars, A. (2022). AI and international law - Legal personality and avenues for regulation. Hungarian Journal

ofLegal Studies, 62(4), 320-344. https://doi.org/10.1556/2052.2022.00352 Karnouskos, S. (2022). Symbiosis with artificial intelligence via the prism of law, robots, and society. Artificial

Intelligence and Law, 30, 93-115. Kharitonova, Yu. S., Savina, V. S., & Pagnini, F. (2022). Civil liability in the development and application of artificial intelligence and robotic systems: basic approaches. Perm University Herald. Juridical sciences, 4(58), 683-708. (In Russ.). https://doi.org/10.17072/1995-4190-2022-58-683-708 Ladenkov, N. S. (2021). Models of endowing artificial intelligence with legal personality. Vestnik IKBFU. Humanities

and Social Sciences, 3, 12-20. (In Russ.). Laptev, V. A. (2019). Artificial Intelligence and Liability for its Work. Pravo. Zhurnal Vysshey Shkoly Ekonomiki,

2, 79-102. (In Russ.). https://doi.org/10.17323/2072-8166.2019.2.79.102 McCarty, L. T. (2017). Finding the Right Balance in Artificial Intelligence and Law. In Research Handbook on the Law

of Artificial Intelligence (Chapter 3, pp. 55-87). Edward Elgar Publishing. McNally, Ph. & Inayatullah, S. (1988). The Rights of Robots: Technology, Culture and Law in the 21st Century.

Futures, 20(1), 119-136. https://doi.org/10.1016/0016-3287(88)90019-5 Mocanu, D. M. (2021). Gradient Legal Personhood for AI Systems - Painting Continental Legal Shapes Made to Fit Analytical Molds. Frontiers in Robotics and AI, 8, Art. 788179. https://doi.org/10.3389/frobt.2021.788179 Morkhat, P. M. (2018a). Artificial intelligence unit as electronic personality. Bulletin of the Moscow State Regional

University (Jurisprudence), 2, 61-73. (In Russ.). https://doi.org/10.18384/2310-6794-2018-2-61-73 Morkhat, P. M. (2018b). Legal personality of artificial intelligence unit: some civil-legal approaches. Bulletin

ofKostroma State University, 3, 280-283. (In Russ.). Mulgan, T. (2019). Corporate Agency and Possible Futures. Journal of Business Ethics, 154, 901-916. https://

doi.org/10.1007/s10551-018-3887-1 Musina, K. S. (2023). Theoretical aspects of identifying legal personality of artificial intelligence: cross-national analysis of the laws of foreign countries. RUDN Journal of Law, 27(1), 135-147. (In Russ.). https://doi. org/10.22363/2313-2337-2023-27-1-135-147 Naumov, V. B., & Arkhipov, V. V. (2017). Draft Federal law "On amendments to the Civil Code of the Russian Federation in improving the legal regulation of relations in the field of robotics". In N. A. Sheveleva (Ed.), Law and Information: the Questions of Theory and Practice: Collection of works of international scientific and practical conference. Saint Petersburg: The Presidential Library. (In Russ.). Nechkin, A. V. (2020). Constitutional and Legal Status of Artificial Intelligence in Russia: Present and Future.

Lex Russica, 8, 78-85. (In Russ.). https://doi.org/10.17803/1729-5920.2020.165.8.078-085 Pagallo, U. (2018). Apples, oranges, robots: four misunderstandings in today's debate on the legal status of AI systems. Philosophical Transactions of the Royal Society, 376(2133), Art. 20180168. https://doi. org/10.1098/rsta.2018.0168 Petev, N. I. (2022). Existential, legal and ethical problems of artificial intelligence. Journal of Wellbeing Technologies,

2(45), 55-70. (In Russ.). https://doi.org/10.18799/26584956/2022/2Z1159 Ponkin, I. V., & Redkina A. I. (2018). Artificial Intelligence from the Point of View of Law. RUDN Journal of Law,

22(1), 91-109. (In Russ.). https://doi.org/10.22363/2313-2337-2018-22-1-91-109 Popova, A. V. (2018). New Subjects of the Information Society and the Knowledge Society: To the Question of Legal Regulation, Journal of Russian Law, 6(11), 14-24. (In Russ.). https://doi.org/10.12737/art_2018_11_2 Sanfilippo, Ch. (2007). Course in Roman private law: tutorial (transl. by I. I. Makhankov, D. V. Dozhdev (Ed.)). Moscow: Norma. (In Russ.).

Shutkin, S. I. (2020). Is legal personhood of AI possible? Works on Intellectual Property, 35(1 -2), 90-137. (In Russ.). Solaiman, S. M. (2017). Legal Personality of Robots, Corporations, Idols and Chimpanzees: A Quest for Legitimacy.

Artificial Intelligence and Law, 25(2), 155-179. https://doi.org/10.1007/s10506-016-9192-3 Solum, L. B. (1992). Legal Personhood for Artificial Intelligences. North Carolina Law Review, 70(4), 1231-1287. Somenkov, S. A. (2019). Artificial intelligence: from object to subject? Courier of the Kutafin Moscow State Law

University, 2(54), 75-85. (In Russ.). Stiglitz, J. E. (2017). The coming great transformation. Journal of Policy Modeling, 39(4), 625-638. https://doi.

org/10.1016/j.jpolmod.2017.05.009 Uzhov, F. V. (2017). Legal personality of artificial intelligence. Gaps in Russian Legislation, 3, 357-360. (In Russ.). Vasilevskaya, L. Yu., Poduzova, E. B., & Tasalov, F. A. (2021). Digitalization of civil turnover: legal characteristics of"artificial intelligence"and "digital"subjects (civilistic research) (In 5 vol. Vol. 3). Moscow: Prospect. (In Russ.). Vavilin, E. V. (2022). The status of artificial intelligence: from object to the subject of legal relations. Vestnik Tomskogo Gosudarstvennogo Universiteta. Pravo, 45, 147-158. (In Russ.). https://doi.org/10.17223/22253513/45/10

Authors information

Irina A. Filipova - Candidate of Sciences in Jurisprudence, Associate Professor, Associate Professor of the Department of Labor Law and Environmental Law, National Research Lobachevsky State University of Nizhny Novgorod, Head of Central Asia research center for artificial intelligence regulation, Samarkand State University Address: 23 prospekt Gagarina, Nizhniy Novgorod 603922, Russian Federation; 15 Universitetskiy boulevard, Samarkand 140104, Republic of Uzbekistan E-mail: [email protected] ORCID ID: https://orcid.org/0000-0003-1773-5268

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57327205000 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/R-1375-2016 Google Scholar ID: https://scholar.google.com/citations?user=opJc7fcAAAAJ RSCI Author ID: https://www.elibrary.ru/author_items.asp?authorid=461586

Vadim D. Koroteev - 4th year student of Law Faculty, National Research Lobachevsky State University of Nizhny Novgorod

Address: 23 prospekt Gagarina, Nizhniy Novgorod 603922, Russian Federation

E-mail: [email protected]

ORCID ID: https://orcid.org/0009-0004-4182-2411

Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/IAP-5405-2023 RSCI Author ID: https://www.elibrary.ru/author_profile.asp?id=1198439

Authors' contributions

Irina A. Filipova formulated the research idea, goals and objectives; elaborated the methodology; analyzed and summarized literature; interpreted general research results; critically reviewed and edited the manuscript text; formulated the key conclusions, proposals and recommendations; approved the final variant of the article. Vadim D. Koroteev compiled the manuscript draft and critically reviewed it, adding valuable comments on the intellectual content; participated in scientific design; performed comparative analysis; selected literature; prepared and edited the manuscript text; interpreted the specific research results; finalized the manuscript.

Conflict of interests

I. A. Filipova is a Deputy Editor-in-Chief of the Journal; the article has been reviewed on general terms.

Funding

The research was not sponsored.

Thematic rubrics:

OECD: 5.05 / Law PASJC: 3308 / Law WoS: OM / Law

Article history

Date of receipt - April 23, 2023 Date of approval - May 8, 2023 Date of acceptance - June 16, 2023 Date of online placement - June 20, 2023