DOI: 10.24412/2076-1503-2024-2-472-476 NIION: 2018-0076-2/24-178 MOSURED: 77/27-023-2024-2-178
ДАНИЕЛЯН Армен Сергеевич,
Кандидат юридических наук, «Центр правовой поддержки Веритас», Гзнеральный директор г. Краснодар, e-mail: armen1992@mail.ru
К ВОПРОСУ О ПРЕИМУЩЕСТВАХ И РИСКАХ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЮРИСПРУДЕНЦИИ
Аннотация. Статья исследует вопросы применения искусственного интеллекта (далее - ИИ) в области права. В работе рассматриваются достоинства и проблемы, связанные с использованием ИИ в правовых процессах, а также принципы его применения.
Анализируются достоинства применения систем принятия решений на основе ИИ в правовом поле, рассматриваются проблемы при их применении и выводятся предложения по их решению.
Подытоживается, что решение проблем, связанных с применением и приемлемостью ИИ в юридической деятельности, требует междисциплинарной синергии юристов, программистов и представителей общественности.
Ключевые слова: искусственный интеллект, право, юридическая деятельность, цифровизация, машинное обучение, цифровые технологии, электронное правосудие.
DANIELYAN Armen S.,
Candidate of Legal Sciences, CEO Legal support center "Veritas"
ON THE QUESTION OF THE ADVANTAGES AND RISKS OF USING AI IN LAW
Annotation. The article explores the use of artificial intelligence (hereinafter - AI) in the field of law. The work examines the advantages and problems associated with the use of AI in legal processes, as well as the principles of its application.
The advantages of using Al-based decision-making systems in the legal field are analyzed, problems in their application are considered and proposals are made for their solution.
It is concluded that solving problems associated with the use and acceptability of AI in legal practice requires interdisciplinary synergy of lawyers, programmers and members of the public.
Key words: artificial intelligence, law, legal activity, digitalization, machine learning, digital technologies, e-justice.
В рамках данной статьи мы не будем погружаться в семантические, герменевтические дебри рассмотрения категории «искусственный интеллект», т.к. этот вопрос, с одной стороны, не входит непосредственно в предмет нашего исследования, а с другой стороны является весьма многогранным и существенным [4, р. 1-2; 6, р. 189; 9, с. 21; 10, с. 4; 13, с. 95; 16, с. 30-31; 18, с. 94-95], чтоб довольствоваться всего лишь несколькими абзацами, а посему ограничимся изложением понятия, взятого за ориентир в рамках исследования: искусственный интеллект - это технология, определяющая способность некой информационной системы без непосредственного участия человека правильно интерпретировать внешние данные (внешнюю
информацию), уточнять базу (базы) данных с их учетом, извлекать уроки из допущенных ошибок и использовать полученные знания для достижения конкретных целей, решения конкретных задач посредством гибкой адаптации в условиях плохо определенной ситуации [22].
Реперными точками исследуемого вопроса обозначим: 1) прикладную ценность ИИ для достижения правовых целей и решения задач правовой регламентации; 2) результаты (последствия) его применения в праве.
Итак, утилитарность ИИ в практической юриспруденции в целом носит поливариативный характер:
- улучшает скорость и точность анализа юридических документов;
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2024
- оперативно проверяет и классифицирует документы, выделяет в них правовые акты и нормативные положения;
- способствует релевантному поиску дополнительной информации по заданной тематике.
- обнаруживает и исправляет ошибки и несоответствия в правовых нормах, что сокращает риски и повышает качество работы с документами [7].
В свою очередь, судьи видят потенциал цифровых технологий в решении следующих задач правосудия:
- ускорение и упрощение процесса разрешения споров;
- расширение доступа к правосудию;
- обучение участников судебного процесса использованию цифровых технологий;
- упрощение смысла правовой информации для граждан [15].
Также внедрение ИИ в правовую сферу может повлиять на необходимость освоения новых компетенций и изменения учебных программ юридической направленности.
Обобщая, можно постулировать, что применение ИИ в области права влечет ряд положительных последствий для развития государства как политико-правового института посредством повышения эффективности его правовой системы, а также сокращением расходов на оплату юридических услуг и ростом их доступности, что, вкупе, позитивно отразится на социальном климате.
Однако, как и у любого начинания и явления, у систем принятия решений на основе ИИ существует ряд проблем и нерешенных вопрос. Не даром говорится, что наши недостатки - продолжение наших достоинств. В полной мере данная сентенция относится и к системам ИИ, последствиям его развития и применения, в т.ч. в правовой среде.
Современные "цифровые" реалии ставят перед человечеством новые этические вызовы и дилеммы, в частности [21, с. 53-55]:
- проблема безопасности ИИ;
- проблема усиления общественного неравенства;
- риск «дегуманизации» общества;
- риск утраты антропоцентризма обществом;
- проблема статуса «умных» роботов;
- риск предвзятости ИИ;
- проблема безработицы и исчезновения ряда профессий.
Хотелось бы немного остановиться на двух наиболее обсуждаемых в социосфере болевых точках из вышеперечисленных - предвзятости
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2024
(несправедливости) систем ИИ и перспективы профессиональной невостребованности в связи с их распространением.
Говоря о проблеме предвзятости (несправедливости) систем ИИ, стоит заметить, что в настоящее время существует ряд методов для её обнаружения в обучающих данных. Первый метод заключается в использовании метрик, которые измеряют разницу в предсказаниях, сделанных на основе данных, отражающих существующие предубеждения, и данных, отражающих идеализированный мир. Второй метод заключается в использовании метода предсказания следующего действия, позволяющий выявлять аномалии в данных, которые могут указывать на наличие предвзятости. Например, если система предсказывает, что следующий документ в деле будет иск, но вместо этого поступает ходатайство, это может указывать на то, что данные были предвзяты в пользу исков. Третий метод для минимизации предвзятости в алгоритмах машинного обучения - использование концепции групповой справедливости, презюмирующей паритет принимаемого решения для всех социальных слоев [11].
Касаемо же пункта, посвященного проблематике безработицы и исчезновения ряда юридических специальностей, то в профессиональной среде не сформировалось единого мнения. Так, Л. Лессиг уверен, что ИИ вытеснит огромную часть юридической практики. При этом неминуемая грядущая смерть - по мнению одного из зачинателей движения за свободную информацию -юридической профессии рассматривается в положительном ключе, т.к. приведет к удешевлению судебного разбирательства и, соответственно, упрощению доступа к правосудию [14, с. 17]. «Это не значит, что судьи будут не нужны. Все эти соглашения существуют только тогда, когда они подключаются к правовой системе. В любой цепочке, ... есть звено, к которому можно обратиться. ... Поэтому судьи всегда будут нужны» [14, там же]1.
С другой стороны, высказывается точка зрения, что ИИ пока не собирается отнимать хлеб у юристов. ИИ - это инструмент, «по истине великолепный, опытный и знающий инструмент, который учится выполнять юридические задачи и делает их хорошо с потрясающей скоростью» [1].
При это подчеркнем, в противовес лагерю т.н. «алармистов», что судебное разбирательство и использование искусственного интеллекта неразрывно связаны с присутствием судьи-чело-
1 Что делать (и что кушать) остальным представителям юридической профессии, для которых не хватило мантий, профессором Лоуренсом Лессигом, увы, не уточняется.
века. Существующие технологии искусственного интеллекта не способны самостоятельно и полностью принимать «машинные решения» в судебных делах. Вопросы права и юридической квалификации не могут быть полностью переданы ИИ без оценки со стороны судьи-человека.
Также важно помнить о необходимости учёта опыта отраслевого саморегулирования и использования механизмов этического регулирования при разработке концептуальных правовых документов в области применения ИИ [19, с. 29]. В качестве ориентира здесь может служить Кодекс этики в сфере ИИ, который был разработан и принят в 2021 году [12].
В контексте философского дискурса учеными отмечается, что системы ИИ, выполняя значимую, творческую часть работы человека, способны отчуждать его от непосредственной производительной деятельности, что негативно влияет на родовую сущность человека как производящего существа, единственного в мире субъекта приро-допреобразующей деятельности, направленной на адаптацию, приспособление мира к удовлетворению потребностей человека, занимающего главное, центральное положение в известной и доступной ему реальности [8, с. 98].
Еще одну "ахиллесову пяту" выявили А. Раджкомар, Дж. Дин и И. Коэн, заявившие, что основной проблемой для разработчиков при построении модели машинного обучения является использование разнообразного, непротиворечивого и репрезентативного набора данных [3]. При этом утверждается, что создать такие наборы данных в медицине возможно, но, увы, в юриспруденции это гораздо более сложная задача [5], т.к. доступен гораздо меньший объем «чистых данных». Таким образом, использование машинного обучения в юридической сфере вряд ли когда-либо сможет конкурировать с его использованием в медицине.
Отдельными авторами заявляется, что реагирование на «вмешательство» искусственного интеллекта в область юриспруденции может быть направлено на признание роботов в качестве партнеров [20, с. 356]. Не согласимся с такой концепцией, т.к. партнерство по своей природе предполагает определенный паритет, равенство его участников. Наделяя «машину» статусом идентичным человеку, мы, таким образом, наделяем её правами (в частности, правом решать). А где права, там, следовательно, и обязанности. О каких обязанностях, обязательствах и ответственности может идти речь касаемо компьютерной программы, в особенности в настоящий период, когда технологии внедрения решений на основе ИИ ещё далеки от наделения их правосубъектностью, юридико-антропологическими характери-
стиками? Робот может быть помощником, эффективной утилитой, но никак не партнером. Последнее слово и ответственность лежит на человеке, по крайней мере на сегодняшний день.
Разумно подмечено А.И. Овчинниковым и И.А. Хакимовым, что в рамках научной дискуссии игнорируется краеугольный юридико-эпистемоло-гический вопрос, а именно - препарирование специфики интеллектуального процесса подведения общей нормы к частному случаю как творческой деятельности [17, с. 481]. В качестве примера авторами приводится аксиологическая неспособность систем ИИ достичь контекстуальности принципов права, являющейся первостепенной в процессе правоприменения. Программирование контекстуальных интеллектуальных процедур в ИИ невозможно, т.к. взаимосвязь между нормой и контекстом её толкования требует преодоления герменевтического круга, где норма является частью и контекст нормы (принципы отрасли) является целостным [17, с. 482].
Важно, чтоб стратегия развития юридического образования в качестве приоритетов включала: 1) изучение передовых информационно-коммуникационных технологий; 2) подготовку специалистов, объединяющих навыки юристов и 1Т-специалистов для целей минимизации рисков ИИ в «экосистеме» права [20, с. 356].
Придерживаемся позиции, что применение ИИ в правовой сфере, включая роботов-юристов и электронные суды, может привести к кардинальной трансформации отрасли и облегчить доступ к судебной системе для большего числа людей. Однако, для обеспечения этичного использования ИИ в правовой системе, необходимо решить проблемы, связанные с предвзятостью, прозрачностью и ответственностью.
Красноречивы в этой связи результаты исследования, проведенного совместно учёными Школы права Гарварда и Массачусетского технологического института, по итогам которого проанализированы более трёх десятков документов, регулирующих принципы применения ИИ, что позволило выделить восемь ключевых аспектов, которые могут стать основой для будущих отраслевых норм [2]:
1) конфиденциальность - данный принцип наличествует в 97% документов в наборе данных;
2) подотчетность - 97%;
3) охрана и безопасность - 81%;
4) прозрачность и объяснимость - 94%;
5) справедливость и недискриминация -100%;
6) человеческий контроль над технологией - 69%;
7) профессиональная ответственность -
78%;
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2024
8) пропаганда общечеловеческих ценностей - 69%.
Итак, в заключении подчеркнем, что решение проблем, связанных с применением ИИ в юридической деятельности, требует: обеспечение обучения специалистов в области ИИ и права; прозрачность алгоритмов ИИ; учёт социальных ценностей при использовании ИИ; разработку правовых норм для ИИ; ограничений для принятия юридически значимых решений с использованием ИИ.
Достижение же кумулятивного эффекта указанных мер требует их реализации в русле междисциплинарного сотрудничества и кооперации -юристов (как практиков, так ученых-правоведов), программистов и представителей общественности.
Список литературы:
[1] Murray Michael D. Artificial Intelligence and the Practice of Law Part 1: Lawyers Must be Professional and Responsible Supervisors of AI (June 14, 2023) [Электронный ресурс] - URL: https://ssrn.com/abstract=4478588 (дата обращения: 24.01.2024)
[2] Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI. URL: https://cyber.harvard.edu/ publication/2020/principled-ai (дата обращения: 24.01.2024).
[3] Rajkomar A., Dean J., Kohane I. Machine learning in medicine // The New England Journal of Medicine. 2019. Vol. 380. № 24. P. 1347-1358.
[4] Russell Stuart J., Norvig P. Artificial intelligence: a modern approach. 3rd ed. Upper Saddle River, NJ, Prentice Hall. 2010. 1132 p.
[5] Schmitz A., Zeleznikow J. Intelligent Legal Tech to Empower Self-Represented Litigants // Columbia Science and Technology Law Review. 2021. Vol. 23. № 1. P. 142-190.
[6] Verheij B. Artificial intelligence as law Presidential address to the seventeenth international conference on artificial intelligence and law // Artificial Intelligence and Law. 2020. Vol. 28. P. 181-206.
[7] Zarsky T. Z. The trouble with algorithmic decisions: An analytic road map to examine efficiency and fairness in automated and opaque decision making // Science, Technology, & Human Values. 2016. 41(1). P. 118-132.
[8] Бадмаева М. Х. Социально-философские проблемы и принципы применения систем искусственного интеллекта : дисс. ... канд. философ. наук. Улан-Удэ, 2023. 237 с.
[9] Бахтеев Д.В. Искусственный интеллект: этико-правовые основы. М., 2023. 176 с.
[10] Гаспарян Д.Э., Стырин Е.М. Прикладные проблемы внедрения этики искусственного интел-
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2024
лекта в России: отраслевой анализ и судебная система. М., 2020. 112 с.
[11] Даниелян А.С., Михалевич Ю.С. Перспективы и риски использования искусственного интеллекта в гражданском судопроизводстве // Современное право. 2023. № 5. С. 68-72.
[12] Кодекс этики в сфере искусственного интеллекта [Электронный ресурс]. - URL: https:// ethics.a-ai.m/assets/ethics_files/2023/05/12/%D0%9 A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_ %D1%8D%D1%82%D0%B8%D0%BA%D 0%B8_20_10_1.pdf (дата обращения: 28.01.2024)
[13] Кубрак В.С. Правовое понимание искусственного интеллекта и проблемы определения единого понятия // Вестник Российской правовой академии. 2021. № 3. С. 92-96.
[14] Лессиг Л. Искусственный интеллект вытеснит широкий пласт юристов // Закон. 2019. № 5. С. 8-30.
[15] Момотов В.В. Пространство права и власть технологий в зеркале судебной практики: современный взгляд // Журнал российского права. 2023. № 2. С. 112-123.
[16] Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дисс. ... д-ра юрид. наук. М., 2018. 420 с.
[17] Овчинников А.И., Хакимов И.А. Правоприменение, искусственный интеллект и контекстуальное значение принципов права // Юридическая техника. 2020. № 14. С. 481-484.
[18] Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91-109.
[19] Приоритетные направления правового регулирования цифровой трансформации в Российской Федерации. Внедрение в нормотворчество системы оценки гуманитарного воздействия (2022-2025 годы) : докл. к XXIII Ясинской (Апрельской) междунар. науч. конф. по проблемам развития экономики и общества, Москва, 2022 г. / М. В. Якушев (рук. авт. кол.), М. С. Журавлёв, Р. С. Ибрагимов, А. В. Майоров; Нац. исслед. ун-т «Высшая школа экономики». М.: Изд. дом Высшей школы экономики, 2022. 67 с.
[20] Соколова А. А. Искусственный интеллект в юриспруденции: риски внедрения // Юридическая техника. 2019. №13. С. 350-356.
[21] Филипова И.А. Правовое регулирование искусственного интеллекта: учебное пособие, 2-е изд., обновл. и доп. Нижний Новгород, 2022. 275 с.
[22] Черногор Н.Н. Искусственный интеллект и его роль в трансформации современного правопорядка // Журнал российского права. 2022. № 4. С. 5-15.
Spisok literatury:
[1] Murray Michael D. Artificial Intelligence and the Practice of Law Part 1: Lawyers Must be Professional and Responsible Supervisors of AI (June 14, 2023) [Электронный ресурс] - URL: https://ssrn. com/abstract=4478588 (дата обращения: 24.01.2024)
[2] Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI. URL: https://cyber.harvard.edu/ publication/2020/principled-ai (дата обращения: 24.01.2024).
[3] Rajkomar A., Dean J., Kohane I. Machine learning in medicine // The New England Journal of Medicine. 2019. Vol. 380. № 24. P. 1347-1358.
[4] Russell Stuart J., Norvig P. Artificial intelligence: a modern approach. 3rd ed. Upper Saddle River, NJ, Prentice Hall. 2010. 1132 p.
[5] Schmitz A., Zeleznikow J. Intelligent Legal Tech to Empower Self-Represented Litigants // Columbia Science and Technology Law Review. 2021. Vol. 23. № 1. P. 142-190.
[6] Verheij B. Artificial intelligence as law Presidential address to the seventeenth international conference on artificial intelligence and law // Artificial Intelligence and Law. 2020. Vol. 28. P. 181-206.
[7] Zarsky T. Z. The trouble with algorithmic decisions: An analytic road map to examine efficiency and fairness in automated and opaque decision making // Science, Technology, & Human Values. 2016. 41(1). P. 118-132.
[8] Badmaeva M. Kh. Sotsial'no-filosofskie problemy i printsipy primeneniia sistem iskusstven-nogo intellekta : diss. ... kand. filosof. nauk. Ulan-Ude, 2023. 237 s.
[9] Bakhteev D.V. Iskusstvennyi intellekt: etiko-pravovye osnovy. M., 2023. 176 s. (In Russ.)
[10] Gasparian D.E., Styrin E.M. Prikladnye problemy vnedreniia etiki iskusstvennogo intellekta v Rossii: otraslevoi analiz i sudebnaia sistema. M., 2020. 112 s. (In Russ.)
[11] Danielian A.S., Mikhalevich Iu.S. Perspek-tivy i riski ispol'zovaniia iskusstvennogo intellekta v grazhdanskom sudoproizvodstve // Sovremennoe pravo. 2023. № 5. S. 68-72. (In Russ.)
[12] Kodeks etiki v sfere iskusstvennogo intellekta [Elektronnyi resurs]. - URL: https://ethics.a-ai.ru/ assets/ethics files/2023/05/12/%D0%9A%D0%BE%
D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1 %82%D0%B8%D0%BA%D0%B8_20_10_1.pdf (data obrashcheniia: 28.01.2024)
[13] Kubrak V.S. Pravovoe ponimanie iskusstvennogo intellekta i problemy opredeleniia edinogo poniatiia // Vestnik Rossiiskoi pravovoi akademii. 2021. № 3. S. 92-96. (In Russ.)
[14] Lessig L. Iskusstvennyi intellekt vytesnit shirokii plast iuristov // Zakon. 2019. № 5. S. 8-30. (In Russ.)
[15] Momotov V.V. Prostranstvo prava i vlast' tekhnologii v zerkale sudebnoi praktiki: sovremennyi vzgliad // Zhurnal rossiiskogo prava. 2023. № 2. S. 112-123. (In Russ.)
[16] Morkhat P. M. Pravosub"ektnost' iskusstvennogo intellekta v sfere prava intellektual'noi sobst-vennosti: grazhdansko-pravovye problemy : diss. ... d-ra iurid. nauk. M., 2018. 420 s. (In Russ.)
[17] Ovchinnikov A.I., Khakimov I.A. Pravo-primenenie, iskusstvennyi intellekt i kontekstual'noe znachenie printsipov prava // Iuridicheskaia tekhnika. 2020. № 14. S. 481-484. (In Russ.)
[18] Ponkin I.V., Red'kina A.I. Iskusstvennyi intellekt s tochki zreniia prava // Vestnik Rossiiskogo universiteta druzhby narodov. Seriia: Iuridicheskie nauki. 2018. T. 22. № 1. S. 91-109. (In Russ.)
[19] Prioritetnye napravleniia pravovogo reg-ulirovaniia tsifrovoi transformatsii v Rossiiskoi Fed-eratsii. Vnedrenie v normotvorchestvo sistemy otsenki gumanitarnogo vozdeistviia (2022-2025 gody) : dokl. k XXIII Iasinskoi (Aprel'skoi) mezhdu-nar. nauch. konf. po problemam razvitiia ekonomiki i obshchestva, Moskva, 2022 g. / M. V. Iakushev (ruk. avt. kol.), M. S. Zhuravlev, R. S. Ibragimov, A. V. Maiorov; Nats. issled. un-t «Vysshaia shkola ekonomiki». M.: Izd. dom Vysshei shkoly ekonomiki, 2022. 67 s. (In Russ.)
[20] Sokolova A. A. Iskusstvennyi intellekt v iurisprudentsii: riski vnedreniia // Iuridicheskaia tekhnika. 2019. №13. S. 350-356. (In Russ.)
[21] Filipova I.A. Pravovoe regulirovanie iskusstvennogo intellekta: uchebnoe posobie, 2-e izd., obnovl. i dop. Nizhnii Novgorod, 2022. 275 s. (In Russ.)
[22] Chernogor N.N. Iskusstvennyi intellekt i ego rol' v transformatsii sovremennogo pravopori-adka // Zhurnal rossiiskogo prava. 2022. № 4. S. 5-15. (In Russ.)
ОБРАЗОВАНИЕ И ПРАВО № 2 • 2024