CC BY
11DOI 10.47643/1815-1337_2023_7_48
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ДИСКУРС О ПРАВОВОЙ КВАЛИФИКАЦИИ И ПЕРСПЕКТИВАХ ПРИМЕНЕНИЯ В ПРАВОВОЙ СФЕРЕ Artificial intelligence: a discourse on legal qualifications and prospects of application in the legal sphere ГЛОБЕНКО Оксана Александровна,
кандидат юридических наук, доцент, заместитель директора по научной работе Института кибербезопасности и цифровых технологий
ФГБОУ ВО «МИРЭА-Российский технологический университет», адвокат Адвокатской палаты г. Москвы. 119454, Россия, г. Москва, пр-т Вернадского, д. 78. E-mail: lexy347@mail.ru;
ПОРТНАЯ Елизавета Борисовна,
кандидат социологических наук, доцент кафедры «Правовое обеспечение национальной безопасности» Института кибербезопасности и цифровых технологий
ФГБОУ ВО «МИРЭА-Российский технологический университет», адвокат Адвокатской палаты г. Москвы. 119454, Россия, г. Москва, пр-т Вернадского, д. 78. E-mail: portnaya.elizaveta@list.ru;
Globenko Oksana Aleksandrovna,
Candidate of Legal Sciences, Associate Professor, Deputy Director for Research at the Institute of Cybersecurity and Digital Technologies
MIREA-Russian Technological University, lawyer of the Moscow Chamber of Advocates. 78 Vernadsky Ave., Moscow, 119454, Russia. E-mail: lexy347@mail.ru;
Portnaya Elizaveta Borisovna,
Candidate of Sociological Sciences, Associate Professor of the Department "Legal Support of National Security" of the Institute of Cybersecurity and Digital Technologies
MIREA-Russian Technological University, lawyer of the Moscow Chamber of Advocates. 78 Vernadsky Ave., Moscow, 119454, Russia. E-mail: portnaya.elizaveta@list.ru
Краткая аннотация: Степень вовлеченности современного социума в процесс цифровой трансформации, масштабы и динамика этого явления с неизбежностью свидетельствуют о системности этого явления. С уверенностью можно утверждать: последствия цифровой трансформации права - не казуистичные изменениях в отдельных отраслевых институтах и даже не появление новой отрасли права, это, безусловно, изменение номоса, парадигмы правосознания, новый этап в эволюции права, соизмеримый с появлением письменности, книгопечатания, компьютеризации. В связи с чем неопределенность правовой квалификации ряда цифровых феноменов, в первую очередь, категорий «искусственный интеллект», «автономный интеллектуальный агент», правового статуса в системе правоотношений, критерия допустимости их применения в праве, способны фатальным образом сказаться на системности эволюции права. Отдельный аспект -важность определения методологии исследования правовой природы таких феноменов и моделирования правовой регламентации, где особая роль отводится междисциплинарному методу, позволяющему избежать ошибок при построении модельной структуры правоотношений.
Abstract: The scale and dynamics of the digitalization of modern society allow us to speak not about casual changes in individual sectoral institutions, the emergence of a new branch of law, but about a change in the nomos, the paradigm of legal awareness, the digitalization of law as a phenomenon representing a stage in the evolution of law commensurate with the advent of writing, printing, computerization. In this connection, the uncertainty of the legal qualification of a number of digital phenomena, primarily the categories "artificial intelligence", "autonomous intellectual agent", the legal status in the system of legal relations, the criteria for the admissibility of their application in law, can fatally affect the systematic evolution of law. A separate aspect is the importance of determining the methodology for studying the legal nature of such phenomena and modeling legal regulation, where a special role is given to an interdisciplinary method that allows avoiding mistakes in constructing a model structure of legal relations.
Ключевые слова: цифровизация права, цифровые феномены в праве, искусственный интеллект в правовой среде, правовой статус автономного интеллектуального агента, метод междисциплинарных исследований.
Keywords: digitalization of law, digital phenomena in law, artificial intelligence in the legal environment, legal status of an autonomous intellectual agent, method of interdisciplinary research.
Для цитирования: Глобенко О.А., Портная Е.Б. Искусственный интеллект: дискурс о правовой квалификации и перспективах применения в правовой сфере//Право и государство: теория и практика. 2023. № 7(223). С. 48-50. http://doi.org/10.47643/1815-1337_2023_7_48.
For citation: Globenko O.A., Portnaya E.B. Artificial intelligence: a discourse on legal qualifications and prospects of application in the legal sphere // Law and state: theory and practice. 2023. No. 7(223). pp. 48-50. http://doi.org/10.47643/1815-1337_2023_7_48.
Статья поступила в редакцию: 29.05.2023
Несомненно, новые явления и процессы, вызванные цифровой трансформацией социума требуют правовой квалификации, регламентации возникающих по поводу цифровых феноменов отношений. Достаточно логично вживляются в правовую доктрину и практику новеллы, затрагивающие формы совершения юридически значимых действий при заданных условиях, совершаемых программой автономно, новые форматы хранения юридически значимой информации, технология «Больших данных», формы хранения новых объектов, например, цифровых активов, не меняя сущностных конструкций права. Более сложно, коллизионно положение институтов, не только меняющих ставшие традиционными правовые доктрины, но и создающие предпосылки для революционных изменений в процессе реализации права. К таковым, безусловно, относится правовой статус автономного интеллектуального агента, как высокоинтеллектуальной программы с возможностью принимать автономные решения, используемой в различных сферах: от медицинской до обеспечения режима безопасности.
Острые доктринальные дискуссии провоцирует, в первую очередь, высокий уровень автономности принятия решений интеллектуальным агентом, детерминирующий вопрос о возможности субъекте ответственности при совершении такого выбора. С позиций права, это, в первую очередь, вопрос о наделении программы статусом субъекта. В 2017 году в Резолюции Европарламента от 16 февраля 2017 г. 2015/2013(INL) в разделе «ответственность» в п.59 п.п. f поднимался вопрос о наделении в перспективе роботов особым правовым статусом: «по меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех
Теоретико-исторические правовые науки
случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами»1.
В российском правовом поле сложилось несколько подходов к разрешению этой дилеммы. В цивилистике альтернативой наделения автономного интеллектуального агента усеченным статусом субъекта может стать применение правовой конструкции эксплуатации источника повышенной опасности, когда риски материального характера возлагаются на собственника, изначально осознающего риски, сопряженные с деятельностью высокоинтеллектуальной программы. Однако, в сфере уголовно-правовой эта конструкция вызывает ряд вопросов, поскольку уголовно-правовая ответственность максимально персонифицирована. На фоне нормативного определенных приоритетов ускоренного внедрения цифровых технологий (указ Президента Российской Федерации от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации до 2024 года»), указанная проблема приобретает особую значимость.
В разрешении этой правовой коллизии исследователи уделяют первостепенное значение степени интенции и свободы воли искусственного интеллекта. В этой связи показательно исследование группы ученых в составе: А. Незнамов (руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта, советник Dentons (крупнейшей юридической компании, сопровождающей трансграничные сделки), М.В. Карлюк (научный сотрудник Института права и развития ВШЭ-Сколково, Е. Побрызгаева (сотрудник Dentons), презентованное на конференции МГЮА «Информационное пространство: обеспечение информационной безопасности и право». Системно исследовав правовой режим автономных интеллектуальных агентов, его оценку в российских и зарубежных доктринальных источниках и российские доктринальные источники, авторы выявили три сложившихся подхода к этой проблеме: интеллектуальный автономный агент квалифицируется как объект идентификации интеллектуальной собственности, но объект способный «к автономному действию помимо воли создателя», в этом случае возникает проблема безвинной ответственности собственника и автора, приемлемая, как представляется в гражданско-правовой сфере, как выше говорилось, в силу существующего института эксплуатации объектов повышенной опасности, открытым остается вопрос об ответственности уголовно-правовой, следует ли ее возлагать на владельца, умыслом которого не охватывалась потенциальная возможность причинения вреда, или относить такую потенциальную опасность к конструкции казуса; другой подход - идентификация автономного интеллектуального агента в качестве особого вида объектов собственности по аналогии с животными, в этом случае, бремя ответственности лежит на владельце.
Третий подход - наиболее дискуссионный по своей революционной природе, состоит в возможности распространить на статус юридического лица на автономного агента. Однако, в отличие от общепринятой доктрины фикции юридического лица, определяющего последнее как правовую фикцию, автономный агент - не правовая фикция, а «реальный субъект» с реально автономной волей. В результате рассуждений авторы приходят к выводу о необходимости введения ответственности автономных агентов2, той же позиции придерживаются В.В. Архипов и В.Б. Наумов3
Действительно, если проанализировать эволюцию доктринальных подходов к определению правового статуса автономных интеллектуальных агентов, искусственного интеллекта, очевидной становится тенденция приближения их статуса к категории субъекта. В 2011 году исследователи анализируют «командное поведение автономных объектов» (возможность выбирать стратегию решения задачи, поставленной извне)4, в 2018 году общеупотребимым становится понятие «квази-личность»5, в 2019 году В.А. Лаптев, прогнозируя генезис правовой регламентации искусственного интеллекта, говорит о возможности и желательности в контексте долгосрочной перспективы принятия «кодифицированного нормативного правового акта, определяющего правовое положение субъектов», в том числе, искусственного интеллекта, «и содержание киберфизических отношений, юридические факты и механизмы привлечения к юридической ответственности»6, что потребует расширения понятийно-категориального аппарата, например, разработки такой правовой категории как аутентификация деяния искусственного интеллекта, критерии оценки его действия (бездействия) для которых с высокой долей вероятности не подойдет сложившийся в теории правонарушений традиционный подход, направленный на анализ субъективной стороны поведения субъекта как человеческой личности. В этом контексте интересно предложение использовать систему распределенного реестра данных, основанную на технологии блокчейн, что позволит последовательно фиксировать действия искусственного интеллекта, как предлагает ряд авторов, в том числе В.А. Лаптев7 и С. Накомото8, это особенно показательно в таких сферах, как здравоохранение и военное дело, где принципиально разграничение ошибки производителя, оператора и, собственно, искусственного интеллекта и правовой квалификации этой ошибки.
В этом контексте возникает еще одна проблема - разграничения понятий «робот» и «искусственный интеллект», которое, как представляется, возможно корректно провести только при комплексном научном исследовании специалистами в области 1Т и права. На текущий момент большинство авторов в правовых исследованиях используют эти понятия как тождественные, в том числе, по той причине, что категория усеченной правосубъектности должна иметь физический носитель. С другой стороны, признание рядом правопорядков категории юридического лица в качестве субъекта уголовно-правовых отношений, иллюстрирует и противоположную возможность.
Наверное, одной из самых сложных проблем правовой квалификации в области искусственного интеллекта представляется регламента-
1 Резолюция Европарламента от 16 февраля 2017 г. 2015/2013(INL) P8_TA-PROV(2017)0051 // «Робоправо»: исследовательский центр проблем регулирования робототехники и искусственного интеллекта. URL: http://robopravo.ru/riezoliutsiia_ies, дата обращения: 19.05.2023)
2 Незнамов А., Побрызгаева Е., Карлюк М.В. Теоретические начала ответственности автономных агентов // Информационное пространство: обеспечение информационной безопасности и право: сборник научных трудов / под ред. Т.А. Поляковой, В.Б. Наумова, А.В. Минбалеева. - М.: ИГП РАН, 2018. - С. 256-263
3 Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России Закона о робототехнике. // Труды СПИИ РАН. - 2017. - Вып. 6. - С. 46-62.
4 Городецкий В.И., Серебряков С.В., Троцкий Д.В. Средства спецификации и инструментальной поддержки командного поведения автономных агентов. // Известия ЮФУ. Технические науки. - 2011.- № 3 (116). - С. 23-41.
5 Гришин Е.А. Автономный виртуальный объект как квази-личность. // Искусственные общества. - 2018. - Т. 13. - № 4. - С. 5.
6 Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу. // Право. Журнал Высшей школы экономики. 2019. - № 2. - С. 99.
7 Там же: Администратором данного реестра должен выступить на начальном этапе владелец искусственного интеллекта, а впоследствии — сам робот, но при условии соблюдения достоверности. По крайней мере в случае признания за роботом свойств субъекта права, компетентные государственные органы должны обладать технической возможностью установления фактически совершенных действий, даже при поломке робота (аналог «черного ящика»).
8 Nakamoto S. Bitcoin: A Peer-to-Peer Electronic Cash System. // URL: https://bitcoin.org/bitcoin.pdf (дата обращения: 19.05.2023)
ция пределов его применения в правовой деятельности, в первую очередь, судебной. Причиной тому - высокая степень динамики архитектоники и содержания современного права, его имплицитности, при этом основная нагрузка легла на судебную систему, которая никогда не была энтропийным явлением, как форпост, первый встречающий и разрешающий сложности квалификации (как говорили в постнаполеоновскую эпоху - silence (молчание закона) не дает право отказать в правосудии). По мысли Карла Ллевеллина, судебная деятельность - это ядро права, основа его определения, ибо не границы, а ядро права определяют его сущность и вектор его развития, как постоянно меняющегося феномена, если право стагнирует, оно перестает жить1. Доказательство тому - цитата из выступления председателя Кассационного суда Франции Балло-Бопре в 1904 г. по случаю столетия кодекса Наполеона: «если текст имеет императивный характер, ясен и точен, не вызывает сомнении, судья обязан склониться перед ним и подчиниться ему... Но если в тексте обнаруживаются неясности, появляются сомнения в смысле и пределах действия нормы, а при сопоставлении ее с другой нормой она будет в какой-то мере противоречить ей ... то я полагаю, что в этих случаях судья уполномочен на самое широкое толкование»2. Сегодня степень динамики права на порядок выше и судья, реализующему механизм судебной дискреции, приходится разрешать правовой спор, определяя тенденции развития нормативной регламентации на будущее. Подчас судье приходится, опережая время, сделать интеллектуальное усилие, изменить направление не только практики, но и правовой идеологии, изменить не только правовое, но и социальное сознание.
Богата революционными решениями российская судебная практика, достаточно вспомнить знаковое постановление Девятого арбитражного апелляционного суда от 15.05.2018 г. о включении криптовалюты в конкурсную массу должника. Использование программ поддержки принятия решений для оптимизации деятельности сотрудников аппарата суда только приветствуется, способствует освобождению от рутиной работы, но при прогнозировании допустимости цифровизации именно правосудной деятельности в узком смысле слова, и не частичной генерации элементов искусственного интеллекта, доктрина сталкивается с целым рядом дилемм. Например, программа Аликперова «Электронные весы правосудия», где речь отнюдь не об неисковых производствах, а об участии искусственного интеллекта в вынесении приговоров по уголовным делам. Дискурс складывается вокруг критерия допустимости принятия решения искусственным интеллектом, либо с участием искусственного интеллекта (как при привлечении ресурса программ поддержки принятия решений). Самый совершенный интеллектуальный автономный агент не способен на «революцию» в праве, границы допустимости его использования определяются вспомогательной, обеспечивающей деятельностью (систематизация источников по специфике квалификации, например, приказное производство). Да и сам термин «искусственный интеллект в правосудии» - спорен в этой связи, более корректно говорить об «искусственном интеллекте в судебной деятельности». В конечном счете, не стоит забывать о сложности трансдисциплинарных исследований, сопряженных с различным подходом к пониманию содержания ряда терминов. Искусственный интеллект в контексте его восприятия специалистами, исследующими IT-технологии, не коррелируется с общефилософским пониманием категории «интеллект», как мыслительной способностью, способной генерировать новые идеи, способной понимать оценочные категории в праве.
Не менее судьбоносный для практики вопрос - вопрос интерпретации машиночитаемого права. Как понимает правоприменитель телеологический смысл права, с опытом практической деятельности, нравственно-этическими критериями, некоторой апостериорностью, выраженной в принципе справедливости, этот язык вряд ли понятен искусственному интеллекту, как его переложить право в доступную искусственному интеллекту форму и можно ли? Можно ли объяснить смысл двойного теста при применении доктрины поднятой корпоративной вуали? От решения этой задачи зависит вектор развития цифровизации права, возможность хотя бы частичного, использования искусственного интеллекта в правосудии. В этом случае, наверное, наибольшую сложность представляют решения, приговоры с элементами судебной дискреции ad hoc. Ситуация осложняется и активной экспансией процессуальных и материальных доктрин в судебную практику (только за прошедший год арбитражными судами вынесено значительное число решений с применением доктрины эстоппель). Эти коллизии и пробелы с очевидностью демонстрируют уникальность потенциальных междисциплинарных исследований как необходимого механизма, определяющего вектор эволюции цифровой трансформации права.
Библиогра фия:
1. Незнамов А., Побрызгаева Е., Карлюк М.В. Теоретические начала ответственности автономных агентов // Информационное пространство: обеспечение информационной безопасности и право: сборник научных трудов / под ред. Т.А. Поляковой, В.Б. Наумова, А.В. Минбалеева. - М.: ИГП РАН, 2018. - С. 256-263
2. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России Закона о робототехнике. //
Труды СПИИ РАН. - 2017. - Вып. 6. - С. 46-62.
3. Городецкий В.И., Серебряков С.В., Троцкий Д.В. Средства спецификации и инструментальной поддержки командного поведения автономных агентов. // Известия ЮФУ. Технические науки. - 2011.- № 3 (116). - С. 23-41.
4. Гришин Е.А. Автономный виртуальный объект как квази-личность. // Искусственные общества. - 2018. - Т. 13. - № 4.
5. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. - № 2. - С. 79-102.
6. Llewellyn K. N. A Realistic Jurisprudence — The Next Step // Columbia Law Review. Columbia Law Review Association. 1930. Vol. 30. № 4. P. 431 -465; Ллевеллин
К.Н. Реалистическая юриспруденция - следующий шаг. // Правоведение, 2015, № 4 (321). - С. 154-191.
7. Nakamoto S. Bitcoin: A Peer-to-Peer Electronic Cash System. // URL: https://bitcoin.org/bitcoin.pdf (дата обращения: 19.05.2023)
8. Карапетов А.Г. Борьба за признание судебного правотворчества в европейском и американском праве. - М.: Статут, 2011. - 308 с.
References:
1. Neznamov A., Pobryzgaeva E., Karlyuk M.V. Theoretical principles of responsibility of autonomous agents // Information space: information security and law: collection of scientific papers / edited by T.A. Polyakova, V.B. Naumova, A.V. Minbaleeva. - M.: IGP RAS, 2018. - pp. 256-263
2. Arkhipov V.V., Naumov V.B. Artificial intelligence and autonomous devices in the context of law: on the development of the first Law on robotics in Russia. // Proceedings of the SPII RAS. - 2017. - Issue 6. - pp. 46-62.
3. Gorodetsky V.I., Serebryakov S.V., Trotsky D.V. Means of specification and instrumental support of command behavior of autonomous agents. // News of the SFU. Technical sciences. - 2011.- № 3 (116). - Pp. 23-41.
4. Grishin E.A. Autonomous virtual object as a quasi-personality. // Artificial societies. - 2018. - Vol. 13. - No. 4.
5. Laptev V.A. The concept of artificial intelligence and legal responsibility for its work. // Right. Journal of the Higher School of Economics. 2019. - No. 2. - pp. 79-102.
6. Llewellyn K. N. A Realistic Jurisprudence — The Next Step // Columbia Law Review. Columbia Law Review Association. 1 930. Vol. 30. No. 4. P. 431 -465; Llewellyn K.N. Realistic jurisprudence - the next step. // Jurisprudence, 2015, № 4 (321). - Pp. 154-191.
7. Nakamoto S. Bitcoin: A Peer-to-Peer Electronic Cash System. // URL: https://bitcoin.org/bitcoin.pdf (accessed: 05/19/2023)
8. Karapetov A.G. The struggle for the recognition of judicial lawmaking in European and American law. - M.: Statute, 2011. - 308 p.
1 Llewellyn K. N. A Realistic Jurisprudence — The Next Step // Columbia Law Review. Columbia Law Review Association. 1930. Vol. 30. № 4. P. 431 -465; Ллевеллин К.Н. Реалистическая юриспруденция - следующий шаг. // Правоведение, 2015, № 4 (321). - С. 154-191.
2 Карапетов А.Г. Борьба за признание судебного правотворчества в европейском и американском праве. - М.: Статут, 2011. - 308 с.
