CC BY
0Научная статья УДК 343.97
АНАЛИЗ ПОДХОДОВ К ПРОБЛЕМЕ ПРАВОСУБЪЕКТНОСТИ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ДИНАМИЧНО РАЗВИВАЮЩЕМСЯ
ЦИФРОВОМ ОБЩЕСТВЕ
Кобец Петр Николаевич
Всероссийский научно-исследовательский институт МВД России, Москва,
Россия
pkobets37@rambler.ru
Аннотация. Актуальность настоящей работы вызвана развитием технологий искусственного интеллекта, ставящих перед обществом ряд проблем, среди которых основополагающей является проблематика правосубъектности этих систем. В процессе анализа различных точек зрения и подходов отечественных и зарубежных правоведов и экспертов по данному вопросу убедительно доказано, что пока не имеется серьёзных оснований по признанию правосубъектности робототехники, функционирующей на основе указанных технологий. В заключение делается вывод о том, что в настоящее время искусственный интеллект не может быть наделён правосубъектностью.
Ключевые слова: новые технологии, робототехника, цифровое общество, правовое регулирование, правосубъектность, законодательные основы, противоправная деятельность, законотворчество, юридическая ответственность.
Для цитирования: Кобец П. Н. Анализ подходов к проблеме правосубъектности систем искусственного интеллекта в динамично развивающемся цифровом обществе // Научный вестник Орловского юридического института МвД России имени В. В. Лукьянова. 2024. № 2(99). С. 81-87.
ANALYSIS OF APPROACHES TO THE PROBLEM OF LEGAL PERSONALITY OF ARTIFICIAL INTELLIGENCE SYSTEMS IN A DYNAMICALLY DEVELOPING DIGITAL SOCIETY
Peter N. Kobets
National Research Institute of the Ministry of Interior Affairs of Russia, Moscow,
Russia
pkobets37@rambler.ru
Abstract. The relevance of this work is caused by the development of artificial intelligence technologies, which pose a number of problems to society, among which the fundamental problem is the legal personality of these systems. In the process of analyzing the various points of view and approaches of domestic and foreign legal scholars and experts on this issue, it has been convincingly proved that so far there are no serious grounds for recognizing the legal personality of robotics operating on the basis of these technologies. In conclusion, it is concluded that artificial intelligence cannot currently be endowed with legal personality.
Keywords: new technologies, robotics, digital society, legal regulation, legal personality, legislative framework, illegal activities, lawmaking, legal liability.
For citation: Kobets P. N. Analysis of approaches to the problem of legal personality of artificial intelligence systems in a dynamically developing digital society // Scientific
Bulletin of the Orel Law Institute of the Ministry of Internal Affairs of Russia named after V. V. Lukyanov. 2024. № 2(99). Р. 81-87.
Бурно развивающаяся четвёртая промышленная революция требует особого внимания к вопросам применения вновь возникающих информтехнологий в деятельности общества и государства [1, с. 221]. Эти новые технологии, заметно выделяющиеся среди остальных, активно внедряются во многие сферы человеческой жизнедеятельности, в том числе актуализируют экзистенциальные вопросы, связанные с ролью робототехники в современном мироустройстве. Также немаловажно, что в процессе формирования современного цифрового общества происходит динамичное развитие технологий искусственного интеллекта (далее - ИИ), быстро преобразующих социальную реальность, которые, в свою очередь, вызывают необходимость адаптировать к этим процессам все правоприменительные и правоохранительные системы [2, с. 115]. Ещё не так давно подобные проблемы выглядели как плод воображения фантастов, став сегодня абсолютно реальными и, более того, требующими ответов на многие непростые вопросы.
По большей части это обусловлено тем, что развитие рассматриваемых технологий определило перед обществом ряд проблем, среди которых особое место занимают вопросы, связанные с их правовым регулированием и правовой охраной, ну и, конечно же, юридической ответственностью в процессе деятельности и принимаемых решений системами, использующими в своей работе технологии ИИ. Причём основополагающим вопросом, требующим научной проработки, является проблематика правосубъектности этих систем. И как показал предварительный анализ данного предмета обсуждения, специалистами уже собран серьёзный эмпирический материал для дальнейшего исследования имеющих место непростых вопросов с целью оценки разнообразных правовых последствий, которые могут возникнуть при внедрении робототехники, использующей рассматриваемые технологии.
Анализируя научную проработанность указанной проблематики, хотелось бы отметить, что в настоящее время эти вопросы всё чаще отражаются в трудах российских и зарубежных правоведов и исследователей. Особенно интересными среди немалого массива проработанных источников нам показались научные работы следующих специалистов: Д. С. Аулова, Е. В. Ананевич, А. В. Афанасьевской, А. П. Васильева, Ю. С. Балалаевой, И. Р. Бегишева, Е. Д. Борулевой, О. С. Болотаевой, О. В. Брянцевой, И. И. Брянцева, П. С. Бусыгиной, Н. И. Бурак, Д. В. Булатова, С. А. Грипич, Ю. Д. Денисова, Н. В. Дулатовой, Ю. В. Забайкина, А. И. Звягиной, Д. Д. Зубцова, И. Р. Иблаева, А. М. Игитова, В. П. Камышанского, В. В. Коленцовой,
A. В. Кокина, А. Х. Кунаева, О. М. Куницкой, Т. В. Ковалева, Д. А. Лунькина,
B. Д. Матеровой, Д. А. Матанцева, А. И. Медведева, П. М. Морхата, А. И. Муртазина, П. В. Несмачной, А. Д. Померанца, Г. А. Решетниковой, Е. А. Рыжковой, П. А. Рустамова, А. Л. Савенка, В. С. Савиной, А. В. Степановой, Ж. У. Тлембаевой, Н. И. Турлыгина, Ю. С. Харитоновой, А. В. Шуляк, С. И. Шуткина и т. д.
Сегодня немало в отечественной и зарубежной литературе разнообразных точек зрения и о правосубъектности технических устройств, использующих данные технологии. Рассматривая обозначенную проблему, часть экспертов склонна полагать, что «искусственный интеллект возможно определять в качестве электронного лица в виде децентрализованных автономных организаций, которые управляются при помощи умных контрактов (smart contracts)» [3, с. 38]. Другие же специалисты определяют носителей искусственного интеллекта как «электронных лиц, обладающих разумом и способностями по принятию осознанных и не основанных на заложенном создателем такой машины, робота, программы алгоритме решений и в силу этого наделённым рядом прав и обязанностей» [4, с. 358]. Отдельные учёные идут ещё дальше и утверждают, что роботы могут быть определены в качестве цифровых личностей, при этом отмечая, что следует делать различие между электронными
лицами и электронными индивидами, и, по их мнению, они должны рассматриваться в качестве базовой составляющей электронных лиц [5, с. 87].
При этом некоторые исследователи полагают, что к правам электронных лиц необходимо отнести право на жизнь, для этого электронному лицу следовало бы разработать ряд специальных критериев, которые бы могли гарантировать это право. И уж совсем необычной является позиция исследователей, размышляющих о том, что «электронные лица должны будут претендовать на защиту от различных модификаций и нарушений целостности информации в хранилище данных и программном коде, которые могут привести к деформации личности или уничтожению искусственного интеллекта» [6, с. 71].
У ещё одних экспертов на данную проблему совершенно противоположная, но заслуживающая особого внимания точка зрения, с которой мы полностью солидарны. В частности, они уверены, что правосубъектность электронных лиц нельзя сопоставлять с правосубъектностью людей, поскольку электронные лица не могут обладать интернациональностью, способностями ощущения на себе последствий собственного действия либо бездействия. Кроме того, они не могут руководствоваться в своей деятельности моральными и этическими догмами, поэтому их нельзя привлекать к различным видам ответственности. И поскольку они не могут нести самостоятельную ответственность за причинённый вред, в соответствии с действиями электронных лиц ответственность может возлагаться на разработчика программного обеспечения ИИ или же на производителя [7, с. 49].
Важнейшим аспектом рассматриваемой проблематики являются действия робототехники, причинившие смерть человеку. Рост автоматизации производства увеличивает число фактов причинения вреда человеку со стороны робототехники, в том числе и его гибели. Подобные факты случаются все регулярнее и вызваны нарушением корректной работы робототехники вопреки заданным настройкам. Как правило, такие инциденты квалифицируются как несчастные случаи без привлечения к уголовной ответственности разработчиков, создателей и владельцев данной робототехники. Смертельные случаи на объектах промышленных предприятий, в которых виновна робототехника, свидетельствуют об определённом уровне автономизации этих систем, при котором не существует абсолютного контроля за их работой, поэтому и исключены все виды ответственности лиц, их разрабатывающих либо являющихся собственниками. Вследствие этого сегодня так остро стоит на повестке вопрос, связанный с необходимостью установления виновных в совершении правонарушений, а также возложения необходимых мер ответственности за сбои в работе интеллектуальных систем.
Совершенно очевидно, что в скором будущем задачей учёных и правоведов, конечно же, будут являться вопросы, связанные с мерами юридической ответственности исследуемых технологий. Во многом сложившееся положение дел в указанной области обусловлено перспективными проблемными ситуациями, связанными с субъектами ответственности в случае нарушения правоотношений в сфере ИИ. Поэтому, анализируя данную проблематику, следует согласиться с большинством исследователей, полагающих, что по мере развития самостоятельных систем, основанных на рассматриваемых технологиях, неизбежно должно происходить перераспределение полноты ответственности с субъектов - участников отношений в сфере ИИ.
Кроме того, следует отметить, что отечественными экспертами по вопросам привлечения к различным мерам и видам ответственности в данной сфере высказываются разнообразные позиции, в частности относительно того, кого необходимо привлекать за причинение вреда в случае инцидентов, связанных с робототехникой, использующей новые технологии: владельца системы, работающей на основе этих технологий, её разработчиков, пользователей либо иных лиц. И как отмечают отечественные специалисты, и с этим, конечно же, сложно не согласиться,
происшествия, случающиеся с техническими устройствами, работающими на основе данных технологий, как правило, на сегодняшний день во многом связаны с несовершенными алгоритмами, требующими своей доработки для дальнейшего бесперебойного и безаварийного их использования. В этой связи, по мнению специалистов, логично привлекать к различным мерам ответственности лиц, разрабатывающих указанные системы [8, с. 468].
Одним словом, мы солидарны с позицией учёных, которые придерживаются общего понимания сложившихся в теории уголовного права подходов к субъектам преступлений и соответствующих положений технических нормативных правовых актов по применению техники, использующей технологии ИИ. Мы также полностью разделяем научную точку зрения отечественных специалистов, которыми акцентируется внимание на том, что в современных условиях чрезвычайно сложно говорить о возможности рассматривания ИИ субъектом преступления [9, с. 156].
В этой связи также важно отметить, что правоспособность имеет прямую взаимосвязь с дееспособностью субъектов права. Отечественные учёные различают специальную, ограниченную и отсутствие дееспособности. Ими также отмечается, что дифференциация дееспособности носителей ИИ предполагает некое техническое регулирование и их классификацию в зависимости от того, насколько развиты их нейросети [11, с. 45]. Кроме того, часть экспертов уверена в том, что ИИ как минимум необходимо относить не к субъектам, а к квазисубъектам права, так как роботизированные системы не могут являться субъектами права: они не имеют воли, не обладают собственными интересами в правовом смысле, не способны к формированию субъективных отношений к совершаемым действиям, не несут юридической ответственности, поскольку у них нет чувства вины [12, с. 68]. Одним из критериев отечественные правоведы также считают потенциальные возможности воплощения в жизнь субъективных прав и юридических обязанностей, а также совершения законных и противоправных поступков.
Определяя правосубъектность ИИ, нельзя не учитывать и личностный аспект, поэтому следует согласиться с позицией относительного того, что робототехника не может быть признана субъектом права, поскольку она не может являться личностью [13, с. 85]. Между тем ряд исследователей, рассуждая по данному вопросу, убедительно утверждают, что «определение правового статуса робототехники и юридических лиц очень схоже, поскольку их правовой статус, в сущности, является юридической фикцией» [14, с. 23].
Некоторые специалисты, пытаясь обосновать точку зрения по поводу признания правоспособности робототехники, утверждают, что юридические лица являются имуществом, правоспособность которых признана законодательно, и в этой связи необходимо наделение робототехники статусом субъекта права [15, с. 15]. Среди исследователей данной проблематики также распространена позиция относительно того, что рассматриваемые технологии «автономны и могут посредством своих действий приобретать субъективные права и юридические обязанности» [16, с. 52]. Указанное утверждение высказывается авторами в связи с важностью мер по контролю над функционированием ИИ, который способен действовать автономно.
Ряд отечественных исследователей также полагает, что правоспособность робототехники, функционирующей на основе рассматриваемых технологий, в первую очередь определяется возможностью её функционально-целевого назначения. И поэтому технологии, работающие на основе ИИ, могут быть в пределах правового пространства как в качестве объектов права, так и как электронные лица, которые наделены полной правосубъектностью [17, с. 168].
Авторами также отмечается, что технологии, работающие на основе ИИ, в обязательном порядке должны быть под контролем их собственников, пользователей, которые воплощают в жизнь субъективные права и юридические обязанности и при этом могут совершать не только правомерные, но и противоправные действия. Поэтому
как пользователи, так и собственники могут приобретать различные права и обязанности робототехники, функционирующей на основе исследуемых технологий [18, с. 58].
Подытоживая проведённое исследование, важно отметить, что субъекты права должны иметь собственные правовые интересы, устремления, притязания. Робототехника, функционирующая при помощи ИИ, чтобы реализовывались её правовые интересы, в обязательном порядке должна обладать собственной автономной правовой волей, определяющей и формирующей её интересы. В то же время её наличие не признаётся на законодательном уровне; не признаёт наличия правовой воли у робототехники также и правовое сообщество, а механизмы по её формированию пока что сложно определить. Кроме того, чтобы утвердить самостоятельную правовую заинтересованность в данном вопросе, в первую очередь следовало бы разграничить интересы всех субъектов рассматриваемой сферы, среди которых разработчики, собственники и владельцы интеллектуальных систем. И вообще, существует ли необходимость защиты интересов робототехники, работающей на основе ИИ, от правовых интересов её разработчиков и производителей? Пока что не имеется серьёзных оснований по признанию правосубъектности данной робототехники, поскольку она не способна к самостоятельному определению того, что именно является социально-правовыми ценностями.
Таким образом, можно с уверенностью указать на то, что в настоящее время ИИ никак не может быть наделён правосубъектностью. Не исключено, что в какой-то далёкой перспективе со временем его и наделят возможностями участия в отдельных правоотношениях в интересах человека при условиях, когда у него будут способности и возможности волеизъявления, позволяющие стать полноправным участником правоотношений. А пока что нет никаких технических, юридических, а также этических оснований, чтобы наделять его правосубъектностью.
1. Батоев В. Б. Использование технологии искусственного интеллекта в судебной деятельности: оперативно-розыскной аспект // Научный вестник Орловского юридического института МВД России имени В.В. Лукьянова. 2023. № 1(94). С. 220-228.
2. Кобец П. Н. Совершенствование правового регулирования в сфере использования технологий искусственного интеллекта // Философия права. 2023. № 3(106). С. 112-118.
3. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права Российской академии наук. 2018. Т. 13. № 2. С. 36-55.
4. Ужов Ф. В. Искусственный Интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. С. 357-360.
5. Хабриева Т. Я., Черногор Н. Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1(253). С. 85-102.
6. Котлярова В. В., Шемякина М. А. Права искусственного интеллекта // Дневник науки. 2019. № 5(29). С. 71.
7. Морхат П. М. Ответственность третьих лиц за совершение юнитами искусственного интеллекта, причиняющих вред // Государственная служба и кадры. 2018. № 3. С. 47-49.
8. Мосечкин И. Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10. № 3. С. 461-476.
9. Савенок А. Л. Причинение вреда беспилотным автомобилем: проблемы квалификации // Вестн. Академии МВД Респ. Беларусь. 2018. № 2. С. 153-156.
10. Павлова Л. В. Научно-технические достижения и вопросы правового регулирования с учетом ценностных оснований (постановка проблемы на примере уголовно-правовой охраны общественных отношений) // Право.Ьу. 2020. № 2 (64).
С. 63-69.
11. Камышанский В. П., Корецкий А. В. Понятие и правовой статус носителей искусственного интеллекта // Власть Закона. 2019 . № 1(37). С 42-50.
12. Пономарева E. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения: дис ... канд. юрид. наук. Eкатеринбург, 2019..208 с.
13. Филипова И. А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право. 2018. № 9. С. 79-88.
14. Серова О. А. Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право. 2018. № 3. С. 22-24.
15. Ибрагимов Р., Сурагина E. Право машин. Как привлечь робота к ответственности // Корпоративный юрист 2017. № 11. С 10-17.
16. Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИ РАН. 2017. Т. 6. № 55 . С 46-62.
17. Mорхат П. M. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис . ... докт. юрид. наук. M. , 2018. 420 с.
18. Пономарева E. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения: дис ... канд. юрид. наук. Eкатеринбург, 2019. 208 с.
1. Batoev V. B. Ispol'zovanie texnologii iskusstvennogo intellekta v sudebnoj deyatel'nosti: operativno-rozy'sknoj aspekt // Nauchny'j vestnik Orlovskogo yuridicheskogo instituta MVD Rossii imeni V.V. Luk'yanova. 2023. № 1(94). S. 220-228.
2. Kobecz P. N. Sovershenstvovanie pravovogo regulirovaniya v sfere ispol'zovaniya texnologij iskusstvennogo intellekta // Filosofiya prava. 2023. № 3(106). S. 112-118.
3. Yastrebov O.A. Pravosub''ektnost' e'lektronnogo licza: teoretiko-metodologicheskie podxody' // Trudy' Instituta gosudarstva i prava Rossijskoj akademii nauk. 2018. T. 13. № 2. S. 36-55.
4. Uzhov F. V. Iskusstvenny'j Intellekt kak sub''ekt prava // Probely' v rossijskom zakonodatel'stve. 2017. № 3. S. 357-360.
5. Xabrieva T. Ya., Chernogor N. N. Pravo v usloviyax cifrovoj real'nosti // Zhurnal rossijskogo prava. 2018. № 1(253). S. 85-102.
6. Kotlyarova V. V., Shemyakina M. A. Prava iskusstvennogo intellekta // Dnevnik nauki. 2019. № 5(29). S. 71.
7. Morxat P. M. Otvetstvennost' tret'ix licz za sovershenie yunitami iskusstvennogo intellekta, prichinyayushhix vred // Gosudarstvennaya sluzhba i kadry'. 2018. № 3. S. 47-49.
8. Mosechkin I. N. Iskusstvenny'j intellekt i ugolovnaya otvetstvennosf: problemy' stanovleniya novogo vida sub''ekta prestupleniya // Vestnik Sankt-Peterburgskogo universiteta. Pravo. 2019. T. 10. № 3. S. 461-476.
9. Savenok A. L. Prichinenie vreda bespilotny'm avtomobilem: problemy' kvalifikacii // Vestn. Akademii MVD Resp. Belarus'. 2018. № 2. S. 153-156.
10. Pavlova L. V. Nauchno-texnicheskie dostizheniya i voprosy' pravovogo regulirovaniya s uchetom cennostny'x osnovanij (postanovka problemy' na primere ugolovno-pravovoj oxrany' obshhestvenny'x otnoshenij) // Pravo.'u. 2020. № 2 (64). S. 63-69.
11. Kamy'shanskij V. P., Koreczkij A. V. Ponyatie i pravovoj status nositelej iskusstvennogo intellekta // Vlast' Zakona. 2019 . № 1(37). S 42-50.
12. Ponomareva E. V. Sub''ekty' i kvazisub''ekty' prava: teoretiko-pravovy'e problemy' razgranicheniya: dis ... kand. yurid. nauk. Ekaterinburg, 2019..208 s.
13. Filipova I. A. Pravovoe regulirovanie iskusstvennogo intellekta: regulirovanie v Rossii, inostranny'e issledovaniya i praktika // Gosudarstvo i pravo. 2018. № 9. S. 79-88.
14. Serova O. A. Roboty' kak uchastniki cifrovoj e'konomiki: problemy' opredeleniya pravovoj prirody' // Grazhdanskoe pravo. 2018. № 3. S. 22-24.
15. Ibragimov R., Suragina E. Pravo mashin. Kak privlech' robota k otvetstvennosti // Korporativnyj yurist 2017. № 11. S 10-17.
16. Arxipov V. V., Naumov V. B. Iskusstvenny'j intellekt i avtonomny'e ustrojstva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototexnike // Trudy' SPII RAN. 2017. T. 6. № 55 . S 46-62.
17. Morxat P. M. Pravosub''ektnost' iskusstvennogo intellekta v sfere prava intellektual'noj sobstvennosti: grazhdansko-pravovy'e problemy': dis . ... dokt. yurid. nauk. M. , 2018. 420 s.
18. Ponomareva E. V. Sub''ekty' i kvazisub''ekty' prava: teoretiko-pravovy'e problemy' razgranicheniya: dis ... kand. yurid. nauk. Ekaterinburg, 2019. 208 s.
Сведения об авторе
Петр Николаевич Кобец. Главный научный сотрудник Центра организационного обеспечения научной деятельности. Доктор юридических наук, профессор. Всероссийский научно-исследовательский институт МВД России. 121069, Россия, г. Москва, ул. Поварская, д. 25, стр. 1.
Information about the author
Peter N. Kobets. Chief Researcher of the center for organizational support of scientific activities. Doctor of Juridical Sciences, professor.
National Research Institute of the Ministry of Interior Affairs of Russia. 121069, Russia, Moscow, Povarskaya str., b. 1, 25.
Статья поступила в редакцию 23.11.2023; одобрена после рецензирования 05.04.2024; принята к публикации 23.05.2024.
The article was submitted November 23, 2023; approved after reviewing April 5, 2024; accepted to the writing of the article for publication May 23, 2024.
