CC BY
75
УДК 34.023
Н. Е. Ладенков
12
МОДЕЛИ НАДЕЛЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРАВОСУБЪЕКТНОСТЬЮ
Изучены некоторые проблемы, связанные с наделением искусственного интеллекта правосубъектностью. Рассмотрены понятие искусственного интеллекта и его юридически значимые признаки, соотношение искусственного интеллекта и робота. Цель исследования — анализ основных моделей наделения искусственного интеллекта правосубъектностью. Использованы сравнительный, аналитический и исторический методы. Показано, что первая модель из выявленных отрицает возможность наделения искусственного интеллекта правосубъектностью, в ее рамках он рассматривается в качестве не субъекта, а объекта права. Вторая модель сводится к созданию юридической фикции по аналогии с юридическими лицами. Использование данной модели выглядит наиболее обоснованным, так как у искусственного интеллекта и юридических лиц в значительной степени совпадают экономически значимые характеристики; кроме того, данная модель чаще всего применяется для нетипичных субъектов. В рамках третьей модели осуществляется отождествление правосубъектности искусственного интеллекта с человеческой. Однако данная позиция вызывает затруднения идеологического характера. Четвертая модель предлагает наделить искусственный интеллект особой правосубъектностью, однако в доктрине отсутствует точное описание данной модели.
The article discusses some problems related to the legal personality of artificial intelligence. The concept of artificial intelligence and its legally significant features, the ratio of artificial intelligence and robot are investigated. The purpose of the study is to analyze the main models of granting legal personality to artificial intelligence. The following research methods are used: comparative, analytical and historical. Results: The first model denies the possibility of granting artificial intelligence legal personality, within its framework artificial intelligence is not considered as a subject, but is considered as an object of law, which does not take into account the essential features of artificial intelligence. The second model boils down to creating a legal fiction by analogy with legal entities. The use of this model looks the most reasonable, since artificial intelligence and legal entities largely have economically significant characteristics, in addition, this model is most often used for atypical subjects. Within the framework of the third model, the identification of the legal personality of artificial intelligence with human is carried out. However, this position rests on significant ideological problems. The fourth model proposes to endow artificial intelligence with its own special legal personality, but there is no precise description of this model in the doctrine.
Ключевые слова: искусственный интеллект, правосубъектность, робот, цифровые технологии, электронное лицо, субъект права, нетипичные субъекты
© Н. Е. Ладенков, 2021
Вестник Балтийского федерального университета им. И. Канта. Сер.: Гуманитарные и общественные науки. 2021. № 3. С. 12 — 20.
Keywords: artificial intelligence, legal personality, robot, digital technologies, electronic person, subject of law, atypical subjects
Введение
Развитие технологий привело к появлению сущностей, которые действуют внешне самостоятельно. Они начинают играть все более значительную роль во взаимодействиях, прежде всего цифровых, что актуализирует, как никогда прежде, вопрос об их правовом статусе. В частности, возможность наделения их правосубъектностью проявилась в нормах концепции законопроекта 2017 г. о наделении правосубъектностью официально зарегистрированных роботов-агентов (см.: [6]). Несмотря на то что данный законопроект не был принят парламентом к рассмотрению, сам факт его разработки показывает, что вопрос о правосубъектности роботов уже вышел из сугубо теоретических рамок и приобрел практическую актуальность.
Для ответа на вопрос о правосубъектности роботов необходимо определиться с понятием робот, уточнить его соотношение с искусственным интеллектом, а также признаки правосубъектности. ГОСТ Р ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения» [4] закрепляет понятие робота («Приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению») и определяет виды роботов. Основное внимание в документе сконцентрировано на физических признаках робота. Обратим внимание на то, что физические характеристики робота не влияют на его характеристику как субъекта общественных отношений, а определяют его функциональную роль. Поэтому нам необходимо рассмотреть прежде всего «программную начинку» робота, благодаря который он и способен действовать. Как раз ее и стоит трактовать в качестве искусственного интеллекта при наличии ряда признаков.
13
Понятие и признаки искусственного интеллекта
В современной науке выделяют различные вицы искусственного интеллекта. Так, он может быть централизованным или децентрализованным, а также направленным на решение частных задач (слабый искусственный интеллект) или широкого спектра задач (сильный искусственный интеллект) [8, с. 43]. Однако независимо от вида искусственного интеллекта набор основных признаков остается неизменным. Среди них необходимо выявить именно юридически значимые признаки. Основная сложность же связана с определением их перечня.
В Национальной стратегии развития искусственного интеллекта на период до 2030 г. [10] искусственный интеллект определен как комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Однако в этой дефиниции акцент также сделан не на юридических, а на функциональных признаках.
14
Таким образом, необходимо доктринальное осмысление юридически значимых признаков искусственного интеллекта.
Сложность заключается в том, что общее понимание искусственного интеллекта пока не сложилось. В современной науке есть несколько основных дефиниций: (1) система, способная выполнять все функции человеческого разума; (2) система, способная выполнять только часть функций человеческого разума; (3) система, способная выполнять недоступные для человеческого разума задачи.
Поскольку нас интересует возможность искусственного интеллекта быть участником правоотношений, такие свойства человеческого разума, как эмоции, чувства и т. п. для нас не имеют значения. Следовательно, первый подход неактуален. А так как пределы возможностей человеческого разума до конца не ясны, третий подход не представляется возможным к использованию.
В рамках второго подхода интересным выглядит определение, данное А. В. Понкиным и А. И. Редькиной: «Искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия» [11, с. 94]. Авторы приписывают искусственному интеллекту следующие способности: выступать в качестве субъекта, воспринимать большой объем информации, самостоятельно принимать решения и исполнять их на основе предыдущего опыта, адаптироваться к внешней среде, выполнять творческие задачи, а также способности к самосовершенствованию, самообучению, саморазвитию и самосознанию [11, с. 95].
В рамках данного подхода иное заслуживающее внимание определение предложил П. М. Морхат:
Искусственный интеллект — это полностью или частично автономная самоорганизующаяся компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/обладающая способностями и возможностями:
• антропоморфно-разумных мыслительных и когнитивных действий;
• самореферентности, саморегулирования, самоадаптирования под изменяющиеся условия, самоограничения;
• самоподдержания себя в гомеостазе;
• генетического поиска, накопления информации и опыта;
• обучения и самообучения;
• самостоятельной разработки и самостоятельного применения алгоритмов самоомологации;
• самостоятельной разработки тестов под собственное тестирование, самостоятельного проведения самотестирований и тестирований компьютерной и, при возможности, физической реальности;
• антропоморфно-разумного самостоятельного (в том числе творческого) принятия решений и решения задач и проблем [8, с. 69].
А. А. Васильев, Д. Шпоппер и М. Х. Матвеева, в свою очередь, сделали попытки обобщить имеющиеся в доктрине позиции и вывести наиболее общие признаки:
• наличие технического устройства (киберфизической системы), способного воспринимать информацию и передавать ее;
• определенная степень автономной работы без человеческого участия (субъектность) при отсутствии жизни такой системы;
• способность к анализу, обобщению информации, выработке интеллектуальных решений на основе изученных данных (мышление), самосознанию;
• способность к обучению, самостоятельному поиску информации и принятию на основе этой информации решений [2, с. 43].
Некоторые исследователи также обоснованно указывают, что специфической чертой искусственного интеллекта является самообучение. Данная черта отличает его от иных компьютерных программ. Таким образом искусственный интеллект способен модифицировать свои алгоритмы при выполнении задач, аналогичных уже решенным, достигая тем самым большей эффективности и открывая новые методы [12].
Помимо доктрины попытки вывести юридически значимые признаки искусственного интеллекта были сделаны и в зарубежном законодательстве. Однако их едва ли можно назвать достаточно успешными. В резолюции Европарламента от 16 февраля 2017 г. была указана необходимость выработать общие понятия, связанные с искусственным интеллектом. Впоследствии данное понятие так и не было закреплено. Хотя резолюция не содержала дефиниции, там были отмечены наиболее значимые признаки искусственного интеллекта: автономность; обмен данными; самообучение; минимальная поддержка со стороны человека; адаптация к внешней среде; отсутствие жизни.
Приведенные выше позиции в значительной степени перекликаются между собой. Можно обобщить, что искусственный интеллект должен автономно принимать сравнительно уникальные решения на основе собственного опыта. Г. А. Гаджиев отмечает, что в случае возникновения реальных предпосылок наличия интеллекта у роботов, то есть сознания и воли в их юридической, а не психологической интерпретации, роботов можно признать квазисубъектами права [3, с. 24]. Сознание и воля объективируются в самостоятельных решениях. За счет самообучения искусственного интеллекта такие решения становятся в значительной степени уникальными. Однако это не дает ответа на вопрос, являются ли такие решения проявлением самостоятельной воли искусственного интеллекта или же это автоматизированная воля иного лица? Данная проблема затрагивалась еще в 1983 г. Маршалом Уилликом, отмечавшим, что по мере развития технологий возможно размытие границ между инструментом (в качестве которого выступает как раз искусственный интеллект) и управляющим им оператором [19]. Развитие современных технологий искусственного интеллекта, особенно в части машинного обучения, во многих случаях уже не позволяет определить искусственный интеллект как безвольный инструмент.
Таким образом, существенными юридическими признаками искусственного интеллекта выступают:
1. Воля, объективируемая в сравнительно уникальных самостоятельных решениях, вырабатываемых на основании собственного приобретенного опыта.
15
16
2. Способность вступать в социальные взаимодействия как с себе подобными, так и с людьми путем совершения юридически значимых действий.
3. Автономность от оператора, достигаемая с помощью способности к самоподдержанию в работоспособном состоянии.
4. Отсутствие жизни.
На основании предложенных признаков можно выделять компьютерные программы, являющиеся искусственным интеллектом. Однако они сами по себе не позволяют определить юридическую природу искусственного интеллекта и его место в системе субъектов права.
Модели правосубъектности
Для решения данной проблемы доктрина выработала несколько позиций. Первая из них заключается в том, что искусственный интеллект рассматривается в качестве не субъекта, а объекта. Так, Е. Ф. Евсеев предлагает определять роботов, наделенных искусственным интеллектом в качестве одушевленной вещи, по аналогии с животными так как у тех и других есть своя воля и автономность [5]. Подобный подход использовался в отношении рабов в правопорядках прошлого. Косвенно данный подход можно подтвердить тем, что все они не могут быть адекватно привлечены к самостоятельной юридической ответственности. Однако, как справедливо отмечают В. В. Архипов и В. Б. Наумов, роботы не являются живыми существами, а следовательно, их ни в коем случае нельзя назвать одушевленными. Тем не менее эти авторы также склоняются к тому, что роботы — это имущество, способное действовать автономно [1]. И действительно, едва ли кто-то поспорит с тем, что одушевленным может быть только живой объект, а машины не отличаются признаками жизни (в их биологической интерпретации). Данная позиция, впрочем, не учитывает возможность искусственного интеллекта развиваться и принимать относительно уникальные решения, действуя тем самым помимо воли оператора. Справедливости ради отметим, что такая же ситуация могла относиться и к рабу в рамках древнеримского государства, и к животному в современном мире. Некоторые государства уже признают правосубъектность за отдельными видами животных — например, Аргентинский суд наделил правами орангутанов, назвав их нечеловеческими личностями и тем самым частично признав их человеческую правосубъектность [13, с. 225]. Таким образом, причисление подобных существ к объектам, а не субъектам права в большей степени определяется экономической целесообразностью, нежели волей.
Вторая позиция сводится к созданию юридической фикции по аналогии с юридическими лицами с той поправкой, что лицо искусственно конструируется в цифровом мире. Как воля юридического лица формируется его учредителями, так и воля искусственного интеллекта формируется его оператором. А. В. Попова отмечает, что искусственный интеллект может по аналогии с юридическими лицами выступать в качестве субъекта права при внесении его в специальный реестр [14]. Но стоит отметить, что юридическое лицо не способно совершать юридически значимые действия непосредственно и самостоятельно, а искусственный
интеллект может, пусть и в электронной форме. Это отличие представляется существенным. Кроме того, некоторые исследователи указывают, что юридические лица существуют для удовлетворения человеческих интересов, а искусственный интеллект — нет. С данным тезисом сложно согласиться, так как последний создается для решения тех или иных задач, изначально поставленных людьми, а следовательно, отвечающих их интересам.
В рамках следующей позиции осуществляется отождествление правосубъектности искусственного интеллекта с человеческой. В этом случае не только затрагиваются юридически значимые аспекты, но и поднимается более глубокий вопрос мировоззренческого порядка: является ли искусственный интеллект личностью, подобной человеку [2, с. 39]. При положительном ответе на него будут распространяться не только правосубъектность, но и естественные права человека. Если исходить из того, что человеческая правосубъектность проистекает из принадлежности к человеческому роду, мы возвращаемся к давнему философскому вопросу, что делает человека человеком. С биологической точки зрения что вполне очевидно, искусственный интеллект не является человеком, представителем вида Homo sapiens. С психологической точки зрения нам важны свойства человеческой личности. О юридически значимых свойствах говорилось выше, что же касается остальных, важных для межличностного общения, рассматривать их не представляется необходимым, так как они затрагивают сферы жизни, чаще всего не урегулированные правом. С морально-религиозной точки зрения искусственный интеллект не может иметь таких признаков человека, как душа, чувства, интернациональность, интересы и многие другие [11, с. 96]. Однако подобная аргументация неприменима в правовой сфере, так как отражает представления только отдельных религий или философских направлений, а не интересы всего общества. В современном мире человеческая правосубъектность определяется прежде всего через способность к сложному мышлению и коммуникации [15]. Между тем соответствующие способности напрямую обусловлены процессами, происходящими в мозге человека. Данные процессы еще не до конца изучены, но предполагается, что они могут быть смоделированы на компьютере, а следовательно, выстроены и в цифровой среде. Другими словами, если сознание может быть продуктом нейронов, то почему оно не может быть продуктом транзисторов [17]? В таком случае следует сравнить искусственный интеллект и человека без высшей когнитивной функции. Без сомнения, такой человек будет живым и правосубъектным, но при этом он может явно меньше, чем искусственный интеллект [19].
Сторонники четвертой позиции предлагают наделить искусственный интеллект своей собственной особой моделью правосубъектности, отличной от уже известных юридической науке. С одной стороны, с этим можно согласиться, так как искусственный интеллект существует в цифровой среде — новой для права. Как следствие, существующие теоретические модели правосубъектности не учитывают ее специфику. Но, с другой стороны, в литературе так и не была предложена внятная трактовка данной специфики и отличий такой «особой» правосубъектности
17
от уже известных. Можно предположить, что появление новой модели правосубъектности будет следствием развития цифровой подсистемы права [7]. И пока она окончательно не сформировалась, невозможно выделить существенные черты будущих цифровых субъектов права. Однако без выявления этих черт создание новой модели правосубъектности выглядит как беспричинное умножение сущностей.
18
Выводы
Ни одну из обсуждавшихся выше позиций нельзя назвать однозначно верной. На данном этапе технологического развития искусственный интеллект только зарождается, и нельзя с уверенностью спрогнозировать, какое место — помощника или партнера — он займет в жизни человека. Очевидно, что юридический статус будет зависеть от цели, уровня сложности и функциональных возможностей конкретной программы. Представляется, что искусственный интеллект, вступающий в различные экономические взаимодействия с людьми и юридическими лицами, должен обладать какой-либо правосубъектностью. При этом необходимо учитывать, что изменения, в рамках которых признается правосубъектность новых субъектов, как правило, связаны с изменениями культурных и экономических реалий, а не являются результатами какого-либо предварительного планирования [9, с. 281]. У всех вышеперечисленных позиций есть определенные недостатки. Так, определение искусственного интеллекта в качестве объекта права не учитывает его способность действовать самостоятельно, развиваться и принимать относительно уникальные решения, что существенно отличает его от иных объектов права. Отождествление правосубъектности искусственного интеллекта с человеческой упирается в проблемы философского и мировозренческо-го характера, которые едва ли будут преодолены в обозримом будущем, так как предлагаемые решения вступают в противоречие с большинством доминирующих религий. Придание искусственному интеллекту новой модели правосубъектности на данный момент не обосновано, так как в научной литературе отсутствуют четкие критерии, по которым можно отличить ее от остальных.
Наиболее обоснованной выглядит позиция, предлагающая распространить модель правосубъектности юридического лица на искусственный интеллект. Стоит обратить внимание на нетипичных субъектов. Некоторые законодатели придали правосубъектность юридического лица некоторым «традиционным объектам права». Так, принятый в Новой Зеландии в 2017 г. закон признал статус юридического лица за рекой Уонгануи [18]; в Индии основной священный текст сикхов Гуру Грантх Сахиб получил статус юридического лица [16]. Таким образом, сложившаяся практика приравнивает нетипичных субъектов, к которым относится и искусственный интеллект, к юридическим лицам в части их правового статуса. Однако обратим внимание, что в случае с рекой и текстом это однозначно юридическая фикция, а не реальная правосубъектность. Тем не менее модель правосубъектности юридического лица для искусственного интеллекта вполне соответствует его природе. Он, как и
юридическое лицо, не существует в материальном мире, он также создается для удовлетворения человеческих интересов (прежде всего, экономических). Кроме того, виды ответственности, применяемые к юридическому лицу, также могут быть применены к искусственному интеллекту в случае законодательного закрепления последнего в качестве субъекта права. В отношении искусственного интеллекта также можно использовать и систему учета по аналогии с юридическими лицами.
Можно предположить, что никакой новой модели правосубъектности не появится, а в случаях, когда искусственный интеллект участвует в обороте, будет осуществляться наделение его правосубъектностью по модели юридического лица, так как от человека, орангутана, дельфина и иных животных его отличает отсутствие жизни с биологической точки зрения.
19
Список литературы
1. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157—170.
2. Васильев А. А., Шпоппер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7—8. С. 35—44.
3. Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1. С. 15 — 30.
4. ГОСТ Р 60.0.0.4-2019/ИС0 8373:2012 «Роботы и робототехнические устройства. Термины и определения». М., 2019.
5. Евсеев Е. Ф. О соотношении понятий «животное» и «вещь» в гражданском праве // Законодательство и экономика. 2009. № 2. С. 16 — 20.
6. Залоило М. В., Пашенцев Д. А. Национальный правопорядок России в условиях цифровизации // Вестник СПбГу. Сер. 14: Право. 2019. № 2. С. 196 — 209.
7. Ладенков Н. Е. Трансформация правовой системы под влиянием цифровизации: причины и тенденции // Философия права. 2021. № 1 (96). С. 164 — 168.
8. Морхат П. М. Искусственный интеллект: правовой взгляд. М., 2017.
9. Морхат П. М. Правосубъектность юнита искусственного интеллекта: некоторые гражданско-правовые подходы // Вестник Костромского государственного университета. 2018. № 3. С. 280—283.
10. О развитии искусственного интеллекта в Российской Федерации : указ Президента РФ от 10 октября 2019 г. № 490 // Собрание законодательства РФ. 11.10.2019. № 41, ст. 5700.
11. Понкин А. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Сер.: Юридические науки. 2018. С. 91 — 109.
12. Попова А. В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал российского права. 2018. № 11 (263). С. 14—24.
13. Саффо П. Каким будет место человека? Что мы думаем о машинах, которые думают о нас. М., 2017.
14. Cerka P., Grigiene J., Sirbikyte G. Liability for Damages Caused by Artificial Intelligence // Computer Law & Security Review. 2015. Vol. 31, № 3. Р. 376 — 389.
20
15. Hubbard F. P. «Do androids dream?»: personhood and intelligent artifacts // Temple Law Review. 2011. Vol. 83. P. 405-474.
16. March 29, 2000, the Supreme Court of India. URL: https://www.thehindu. com/2000/04/03/stories/01030005.htm (дата обращения: 21.11.2021).
17. Solum L. B. Legal Personhood for Artificial Intelligences // North Carolina Law Review. 1992. Vol. 70, № 4. Р. 1231-1287.
18. Te Awa Tupua (Whanganui River Claims Settlement) Act 2017. URL: http:// www.legislation.govt.nz/act/public/2017/0007/latest/whole.htm! (дата обращения: 21.11.2021).
19. Willick M. S. Artificial intelligence: Some Legal Approaches and Implications // AI Magazine. 1983. Vol. 4, № 2. P. 5-16.
Об авторе
Никита Евгеньевич Ладенков — ст. преп., Международный банковский институт им. Анатолия Собчака; асп., Северо-Западный институт управления — филиал РАНХиГС, Россия.
E-mail: [email protected]
The author
Nikita S. Ladenkov, Senior Lecturer, International Banking Institute named Ana-toliy Sobchak; PhD Student, North-West Institute of Management — RANEPA Branch, Russia.
E-mail: [email protected]
