СУДЕБНАЯ ВЛАСТЬ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПРАВОВЫЕ АСПЕКТЫ ВЗАИМОДЕЙСТВИЯ Текст научной статьи по специальности «Право»

УДК 340; 343

DOI: 10.31249/rgpravo/2021.01.11

УМНОВА-КОНЮХОВА И.А.1 СУДЕБНАЯ ВЛАСТЬ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПРАВОВЫЕ АСПЕКТЫ ВЗАИМОДЕЙСТВИЯ. (Обзор).

Аннотация. В обзоре рассматриваются правовые проблемы влияния ИИ на судебную власть. Обсуждаемые вопросы разнообразны: от доктринальных аспектов трансформации права в условиях цифровизации до конкретных институциональных проблем, связанных с судебной защитой прав человека, ответственности судебной власти за вынесение справедливого и юридически обоснованного решения.

Ключевые слова: искусственный интеллект; суды; робо-судьи; справедливое решение; «черный ящик»; судебная власть; нравственность.

UMNOVA-KONYUHOVA I.A. The judiciary, and artificial intelligence: the legal aspects of inter action. (Review).

Abstract. The review examines the legal problems of AI's influence on the judiciary. The issues discussed are diverse: from doctrinal aspects of the transformation of law in the context of digitalization, to specific institutional problems related to the judicial protection of human rights, the responsibility of the judiciary for making a fair and legally sound decision

Keywords: artificial intelligence; courts; robo-judges; fair decision; «black box»; judicial power; morality.

1 И.А. Умнова-Конюхова, ведущий научный сотрудник Отдела правоведения ИНИОН РАН, руководитель конституционно-правовых исследований РГУП, д-р юрид. наук, профессор.

В последнее десятилетие заметно выросло число исследований, посвященных анализу правовых проблем влияния ИИ на судебную власть. Обсуждаемые вопросы разнообразны: от доктри-нальных аспектов трансформации права и государственного строя до конкретных институциональных проблем, связанных с судебной защитой прав человека, ответственности судебной власти за вынесение справедливого и юридически обоснованного решения.

В правовой литературе отмечается, что развитие методов анализа данных, вычислительной мощности и машинного обучения привело к тому, что все ветви власти стали передавать полномочия машинам в выполнении государственных функций: социальное обеспечение, правоохранительные органы и, самое главное, -суды. Сложные статистические алгоритмы и инструменты ИИ используются для автоматизации процесса принятия решений и оказывают значительное влияние на права и обязанности отдельных лиц [4, р. 123]. В вопросах допустимости использования ИИ к процессу вынесения судебного решения мнение ученых разделилось на сторонников, противников и умеренных.

В статье Эндрю С. Майклса, профессора права Правового центра Хьюстонского университета «Искусственный интеллект, правовые изменения и разделение властей» поднимаются актуальные вопросы о правовой допустимости подмены судей ИИ для вынесения судебных решений [6]. Автор статьи полемизирует с профессором Евгением Волохом и другими сторонниками вынесения судебных решений робосудьями. По мнению профессора Е. Воло-ха, если автоматизированная система надежно выдает решение, которое считаем обоснованным, то мы должны принять его [10, р. 1135, 1138]. Э.С. Майклс считает, что судебное решение должны выносить люди, так как судебная власть - это больше, чем просто фабрика мнений, и важное значение имеет именно участие человека в процессе принятия решения. Э.С. Майклс присоединяется к позиции Тим Ву, который подчеркивает, что судебный процесс способствует справедливости, он ведет к более глубокому общественному признанию результата и легитимности судебной системы [11, р. 2001-2003).

Если профессор Е. Волох акцентирует внимание на способности робосудьи формулировать убедительное мнение, то Э.С. Майклс обращает внимание на важность внутренней убеж-

денности судьи в вынесении обоснованного решения. Для того чтобы быть убедительным, важно учитывать множество факторов, в том числе тот факт, что применяемый закон является коллективным общественным творением [6].

Э.С. Майклс отмечает, что, участвуя в процессе спора и выстраивая юридические аргументы перед судьей, которые потенциально влияют на исход, человеческое юридическое сообщество играет определенную роль в формировании права. По его мнению, человеческое судебное решение - отражение коллективного по природе мнения, а робосудья, или судья искусственного интеллекта, гораздо больше похож на черный ящик, не поддающийся убеждению [6].

Введение ИИ в правосудие поднимает серьезную доктри-нальную проблему, касающуюся реализации принципа разделения властей. Э.С. Майклс отмечает, что роль судебной власти заключается не только в разработке и применении закона, но и в обеспечении контроля над двумя другими ветвями власти [6]. Судебное решение служит сдерживающим фактором для других властей и получает общественный отклик на беззаконие, например, в исполнительной власти. При внедрении судебной системы искусственного интеллекта две другие ветви власти, по всей вероятности, могут в значительной степени контролировать судебные решения. В нынешней системе судьи, хотя и расходятся во мнении, но применяют закон более или менее одинаково, по крайней мере в идеале закон не должен зависеть от судьи.

Сторонники закона об искусственном интеллекте видят три основных преимущества ИИ: эффективность, последовательность и доступ к правосудию. Что касается эффективности, то судебная система сравнительно не так уж и дорога, и это похоже на деньги, хорошо потраченные за сохранение интересов людей в законе. Автоматизированная судебная система могла бы работать быстрее, но юридические разногласия могут быть действительно полезны для общества, поскольку они вовлекают правовое сообщество в длительные дискуссии о различных сторонах важных правовых проблемах.

Один из ключевых аргументов сторонников робосудьи - его непредвзятость при вынесении решения. Другое потенциальное преимущество ИИ, по мнению Е. Волоха, заключается в том, что

более низкая стоимость юридических услуг улучшит доступ к правосудию [10, р. 1147]. Э.С. Майклс отмечает, что предвзятость в судебной системе - это проблема, но, по его мнению, лучшим способом борьбы с предвзятостью судей-людей является диверсификация, т.е. специализация судебной системы, позволяющая принимать более адаптированные к практике решения [6]. Способом борьбы с предвзятостью судей может быть также сокращение дискреционных полномочий судей (например, при вынесении уголовных приговоров) [1].

В заключение Э.С. Майклс пишет, что аргументы в пользу судьи - искусственного интеллекта недооценивают человеческие аспекты права. Если у судей искусственного интеллекта и есть преимущества, то они вполне могут быть перевешены существенными недостатками, которые включают сомнительную способность динамично адаптироваться к меняющимся обстоятельствам и пагубные последствия в отношении разделения властей. К этим недостаткам судебной системы ИИ стоит отнестись серьезно, их следует рассмотреть и устранить до того, как будет введен в действие какой-либо план продвижения автоматизации судебной системы [6].

Прогноз развития ИИ в системе правосудия и оценка возможности достижения при этом справедливости всесторонне представлены в статье научных сотрудников Школы права Калифорнийского университета в Лос-Анджелесе Ричарда М. Ре и Алисии Солоу-Нидерман «Развитие искусственного интеллекта правосудия» [9]. Авторы констатируют тот факт, перспектива «робосудей» кажется не только правдоподобной, но даже неизбежной. По их мнению, судебное разбирательство с помощью ИИ окажет глубокое влияние на судебные ценности справедливого судебного разбирательства, которым придерживаются субъекты права, а также общественность в целом. Ре и Солоу-Нидерман предполагают, что воздействие роботизации правосудия будет наиболее значительным в таких областях, как уголовное правосудие и принятие апелляционных решений, где «справедливое правосудие» или дискреционное моральное суждение часто считаются первостепенными [9, р. 244-246].

В юриспруденции уже сейчас судьи все чаще полагаются на алгоритмический анализ при принятии решений о залоге и услов-

но-досрочном освобождении, которые затрагивают свободу многих тысяч людей каждый год [2]. Ученые начали размышлять также о перспективах с помощью искусственного интеллекта устанавливать вину, ответственность или санкции [2, р. 137; 10, р. 1135], учитывая преимущества беспристрастности. В то же время принятие решений с помощью искусственного интеллекта породит целый ряд проблем, в том числе тенденцию формирования непонятной правовой системы, основанной на данных, отчуждающихся от человеческой нравственности [9, р. 245-247].

В статье утверждается, что растущее использование ИИ может поднять фундаментальные вопросы о природе и цели судебного разбирательства; изменить сложившиеся представления о структуре правовой системы и о том, какие процедуры требует правосудие. Наиболее существенно то, что судебное решение с помощью ИИ, вероятно, повлияет как на непрофессиональные, так и на профессиональные взгляды на закон [9, р. 248-252].

Решение искусственного интеллекта будет способствовать повороту к «кодифицированной справедливости», т.е. к парадигме судебного разбирательства, которая предпочитает стандартизацию судейского усмотрения. ИИ вводит то, что, по сути, является новым видом суждения, когда машины производят корреляции между огромными объемами данных без построения объяснительной или причинной модели [9, р. 250-256]. Эта формирующаяся модель уже заметна, поскольку правительства во всем мире стремятся к технологическим средствам повышения эффективности, доступности и последовательности своих судов [7; 8]. Такая перспектива вызывает ряд взаимосвязанных проблем.

Наиболее очевидным является риск того, что принятие юридических решений станет непонятным и что сам закон будет адаптироваться к использованию богатых источников данных в ущерб относительно не поддающимся количественной оценке ценностям, таким как милосердие.

Растущее использование ИИ также будет способствовать отчуждению непрофессионалов и даже профессионалов от права, поскольку судебное разбирательство все больше будет переходить в исключительную компетенцию технических специалистов.

Ричард М. Ре и Алисия Солоу-Нидерман отмечают, что существует несколько вариантов объединения судей-людей и ИИ в

рамках одного судебного процесса. Однако, чтобы максимально повысить шансы на сохранение роли справедливого правосудия, реформаторы должны принять ряд взаимосвязанных мер, каждая из которых может частично компенсировать недостатки других [9, р. 278-285].

Наряду с обсуждением концептуальных вопросов достижения справедливого правосудия и реализации принципа разделения властей озабоченность у исследователей вызывает проблема судьи -искусственного интеллекта как своеобразного черного ящика. Группа ученых: Хань-Вэй Лю (преподаватель Университета Мо-наша), Цзин-Фу Линь (доцент кафедры права Национального университета Цин Хуа) и Юй-Цзе Чэнь (аспирант Института юриспруденции Академии Тайваня) в своей статье «За пределами: Штат против Лумиса: искусственный интеллект, правительство алгоритмизации и подотчетность» обращают внимание на возникновение противоречий относительно непрозрачного характера искусственного интеллекта, неясности правовых, социальных и этических последствий его применения [4, р. 122-124]. Известное дело «государство против Лумиса» в Соединенных Штатах хорошо демонстрирует, как безудержный и бесконтрольный аутсорсинг государственной власти машинам может подорвать права человека и верховенство закона.

При рассмотрении этого дела авторами раскрываются вопросы «юридического черного ящика» и «технического черного ящика» для выявления рисков, связанных с безудержной «алгоритмизацией» государственных функций в отношении надлежащей правовой процедуры, равной защиты и прозрачности. Поскольку системы ИИ используются в различных юрисдикциях, для нахождения оптимальных институциональных структур, обеспечивающих баланс между выгодами и издержками алгоритмизации, необходимы технологически обоснованные модели управления, считают Хань-Вэй Лю, Цзин-Фу Линь, Юй-Цзе Чэнь. Авторы отмечают, что США находятся на переднем крае применения методов, основанных на данных: финансовые учреждения извлекают выгоду из больших данных для оценки структуры транзакций и рисков клиентов; компании электронной коммерции используют данные для создания автоматизированных систем, которые рекомендуют продукты, музыку и услуги; фитнес-трекеры отслежива-

ют личные данные о здоровье и мотивируют пользователей заниматься большей деятельностью; обрабатывающая и сельскохозяйственная промышленность могут использовать новые технологии для повышения эффективности и производительности [4, р. 122, 126-127].

В то время как многие стремятся к преимуществам больших данных и алгоритмов, автоматизированные системы могут нанести вред. В рассматриваемом деле «штат против Лумиса» Верховный суд штата Висконсин поддержал решение суда низшей инстанции о вынесении приговора, основанное на оценке риска с помощью компьютера, и отклонил апелляцию ответчика по защите права на надлежащую правовую процедуру. Авторы дают критическую оценку решения по указанному делу, утверждая о неспособности суда понять работу имеющегося в его распоряжении инструмента оценки рисков, а также о негативном воздействии на основные права при игнорировании необходимой процедуры защиты [4, р. 129-132].

Затрагивая более широкие последствия подхода, основанного на данных, в правовых процессах в Соединенных Штатах и за их пределами, ученые отмечают, что довольно много стран внедрили или готовятся к внедрению ИИ путем передачи процессов принятия решений автоматизированным системам. При этом, к примеру, для Австралии или ЕС характерно более тщательное обеспечение этики разработчиков алгоритмов и привлечение их к ответственности, а само использование ИИ предполагает длительное обсуждение с участием многих заинтересованных сторон.

Авторы отмечают различные подходы в США, ЕС и Австралии к свободной информации, обязательному раскрытию информации, праву на объяснение, механизмам принятия или отказа от автоматизированного принятия решений и другим процедурным гарантиям, которые могут быть полезны при решении проблем, связанных с расширяющейся алгоритмизацией. Поиск технологически обоснованной и социально приемлемой модели управления в эпоху больших данных может быть плодотворным только при вовлечении многих заинтересованных сторон в конструктивные дебаты и диалог [4, р. 135-141].

Все большее число исследователей выступают за комбинирование человеческого мнения и искусственного интеллекта.

Фрэнк Фаган - адъюнкт-профессор права в бизнес-школе EDHEC (Франция) и Сол Левмор - заслуженный профессор права в Юридической школе Чикагского университета в своей статье «Влияние искусственного интеллекта на правила, стандарты и практику судебного усмотрения» в общем плане показывают, что сочетание человек - искусственный интеллект может быть лучше, чем искусственный интеллект, действующий в одиночку [3]. Авторы пишут, что точно так же, как сегодняшние судьи отвергают ошибки и устаревшие прецеденты, завтра будет разумно отвергать ИИ в правовых областях, где присутствуют нерешенные проблемы измерения. Ф. Фаган и С. Левмор предполагают, что в юриспруденции, где огромные массивы данных редкость, ИИ не должен превзойти человека [3, р. 3-10].

В статье объясняется, почему ИИ, работающий в одиночку, имеет свои недостатки. В этом контексте приводятся примеры досудебного освобождения под залог, условно-досрочного освобождения и вынесения приговоров, применения законов о деликтах, контрактах, банкротстве и корпорациях. Авторы обосновывают, что закон и данные в их сочетании могут играть значительную роль в оценке эффективности правовой нормы, ее правоприменении или даже функционирования правовой системы в целом [3, р. 3-34]. Они считают, что ИИ может помочь использовать имеющиеся данные для оценки влияния правовых норм на такие данные, как распределение богатства, уровень преступности, уровень занятости и национальный доход. Использование ИИ позволит оценить влияние даже незначительных изменений в законодательстве об интеллектуальной собственности, налоговом законодательстве и экологических нормах [3, р. 3-6].

Ф. Фаган и С. Левмор показывают влияние ИИ на архитектуру права в целом. Они предполагают, что в условиях применения ИИ правила, вероятно, станут более подробными, и в результате произойдет резкое изменение соотношения правил и стандартов. С развитием ИИ законодатели и судьи станут уделять больше внимания масштабу и точности сбора данных [3, р. 20-21]. Вопрос будущего, по их мнению, состоит не в том, совершенны ли машины, а в том, может ли человечество определить задачи, в которых машины, объединенные с людьми или действующие в одиночку после получения инструкций, превосходят людей, которых в

настоящее время прославляют как судей, законодателей и исполнителей [3, p. 34-35].

Список литературы

1. Berman E. A government of laws and not of machines // Boston univ. law review. -2018. - N 98. - Mode of access : https://papers.ssrn.com/sol3/papers.cfm?abstract_ id=3098995 (дата обращения: 10.11.2020).

2. Brennan-Marquez K., Henderson S.E. Artificial intelligence and role-reversible iudgment // Journal of criminal law and criminology. - 2019. - Vol. 109, N 2. -P. 137-164.

3. Fagan F., Levmore S. The impact of artificial intelligence on rules, standards, and judicial discretion // Southern California law review. - 2019. - Vol. 93, N 1. - P. 135. - Mode of access: https://papers.ssrn.com/sol3/papers.cfm?abstract_id= 3362563 (дата обращения: 10.11.2020).

4. Han-Wei Liu, Ching-Fu Lin, Yu-Jie Chen. Beyond State v Loomis: artificial intelligence, government algorithmization and accountability // International journal of law and information technology. - Oxford, 2019. - Vol. 27, N 2. - P. 122-141.

5. Kehl D., Priscilla Guo P., Kessler S. Algorithms in the criminal justice system: Assessing the use of risk assessments in sentencing. - Harvard : Harvard University's DASH. - Mode of access: https://dash.harvard.edu/bitstream/handle/ 1/33746041/2017-07_responsivecommunities_2.pdf (дата обращения: 10.11.2020).

6. Michaels A.C. Artificial intelligence, legal change, and separation of powers // University of Cincinnati law review. - 2019. https://papers.ssrn.com/sol3/papers. cfm?abstract_id=3459069 (дата обращения: 10.11.2020).

7. Niiler E. Can AI be a fair judge in court? Estonia thinks so. - 2019. - Mode of access: https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/ (дата обращения: 10.11.2020).

8. Peng Shеn. Adoption of AI in ^mese courts paves the way for greater efficiencies and judicial consistency. - 2018. - Mode of access : https://www.lexology.com/ library/detail.aspx?g=02b0a616-b3f6-4c11-8fd9-74f0076c51e8 (дата обращения: 10.11.2020).

9. Re R.M., Solow-Niederman A. Developing artificially intelligent justice // Stanford technology law review. - 2019. - N 242. - P. 242-289.

10. Volokh E. Chief justice robots // Duke law journal. - 2019. - N 68. - P. 11351192.

11. Wu T. Will artificial intelligence eat the law? The rise of Hybrid social ordering systems // Columbia law review. - 2019. - N 119. - Р. 2001-2029. - Mode of access : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3492846 (дата обращения: 10.11.2020).