CC BY
92УДК 347.97/99 DOI: 10.31249/rgpravo/2022.03.08
ИВАНОВА А.П.1 ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ОСУЩЕСТВЛЕНИИ ПРАВОСУДИЯ: НОВЫЕ ВОЗМОЖНОСТИ И НОВЫЕ ПРОБЛЕМЫ. (Обзор).
Аннотация. Внедрение искусственного интеллекта в судебную систему обсуждается уже довольно давно. Однако, как отмечают юристы, использование судьями искусственного интеллекта может привести не только к процессуальным, но и к ценностным изменениям в правовой системе. В обзоре рассматриваются новые возможности и новые риски, которые может повлечь за собой использование искусственного интеллекта в сфере осуществления правосудия.
Ключевые слова: искусственный интеллект; судебный процесс; судебная система; информационное право.
IVANOVA A.P. Artificial intelligence in the administration of justice: new opportunities and new challenges. (Review).
Abstract. The implementation of AI in the judicial system has been discussed for quite a long time. However, as lawyers note, the use of AI judges can lead not only to procedural, but also to value changes in the legal system. The review examines new opportunities and new risks that AI may entail in the field of justice.
Keywords: artificial intelligence; judicial process; judicial system; information technology law.
Для цитирования. Иванова А.П. Искусственный интеллект в осуществлении правосудия: новые возможности и новые проблемы: (Обзор) // Социальные и гуманитарные науки. Отечественная и зарубежная
1 Иванова Ангелина Петровна, младший научный сотрудник отдела правоведения ИНИОН РАН.
литература : ИАЖ. Сер. 4: Государство и право. - 2022. - № 3. - С. 89-98. DOI: 10.31249/rgpravo/2022.03.08
В юриспруденции, как и во многих других областях, искусственный интеллект (далее - ИИ) обещает помочь, изменить и заменить процесс принятия решений человеком. Уже сейчас судьи все чаще полагаются на алгоритмический анализ при вынесении решений об освобождении под залог и условно-досрочном освобождении, которые ежегодно влияют на свободу многих тысяч людей. ИИ больше не является предвестником будущего. Некоторые страны начали внедрять технологии, основанные на ИИ, в свои судебные процессы. Например, Эстония разрабатывает судью-робота, способного выносить решения по небольшим искам на сумму менее 7 тыс. фунтов стерлингов, а в Китае уже есть цифровые суды [2, p. 1].
Тем временем ученые уже начали размышлять о перспективах, связанных с внедрением судей-роботов, которые устанавливают вину, ответственность или санкции. Этот образ настолько распространен, что даже в The Daily Show появился сегмент под названием «Разрушение правовой системы с помощью роботов». Тем не менее остается неясным, как принятие решений ис-скуственным интеллектом изменит суды, профессию юриста и в конечном счете сам закон.
Существует много споров и разногласий по поводу термина «исскуственный интеллект». Если с прилагательным «искусственный» все вполне очевидно: оно в целом воспринимается как антоним прилагательного «естественный», - то с существительным «интеллект» все не так просто. Разные люди определяют интеллект по-разному, что делает этот термин предметом жарких споров среди философов, психологов и других ученых. Интеллект - это способность рассуждать абстрактно, логически и последовательно, обнаруживать, выстраивать и видеть взаимосвязи, решать проблемы, находить правила в кажущемся беспорядочным материале, решать новые задачи, гибко адаптироваться к новым ситуациям и учиться самостоятельно, без необходимости прямого и полного обучения [3, p. 2]. Как отмечает M. Шерер, в существующей литературе по ИИ термин «интеллект» обсуждается в широком смысле, и за основу часто берется человеческий интеллект [2, p. 3]. Определение возможностей компьютера для достижения интел-
лекта и проведение границ между искусственным и человеческим интеллектом имеют решающее значение при ответе на вопрос о том, может ли судья с ИИ адекватно вынести решение по спору и защитить законные права.
Независимо от предмета рассмотрения работа судов и судей заключается в обработке информации; стороны передают информацию в суд, в ходе процедуры происходят преобразования, и результатом также является информация. При этом не вся эта обработка информации является сложной. Лишь ограниченная доля дел, с которыми приходится иметь дело судебной власти, являются сложными, противоречивыми делами. Нельзя не подчеркнуть, что процесс и, следовательно, потребность в информационных технологиях неодинаковы для всех случаев.
В административных и гражданских делах (включая дела районных и местных судов по мелким искам) способ рассмотрения дел зависит главным образом от (а) сложности информации по делу и (б) степени предсказуемости результата. Относительно большая доля обычных дел имеет ожидаемый исход. В этих случаях судебное решение представляет собой документ, подготовленный в основном в автоматическом режиме на основе предоставленных данных. Ввиду этого обработка обращений может быть частично или даже полностью автоматизирована с использованием ИИ именно потому, что результат в значительной степени или полностью определен.
В менее рутинных случаях регулярно заключаются мировые соглашения в рамках примирительных процедур. Для осуществления внесудебного урегулирования споров существует программное обеспечение, способное анализировать точки зрения сторон и представлять оптимальный результат на основе позиций сторон. Только в тех случаях, которые не были прекращены посредством мирового соглашения, конечным результатом судебного разбирательства является судебное решение в строгом смысле этого слова.
Во всех сложных делах, где судья или коллегия должны вынести решение, чтобы довести дело до конца, потребность в информационных технологиях в основном является потребностью в передовых системах, делающих юридические источники легкодоступными, и цифровом досье, которое может представить большие объемы информации в понятной форме.
ИИ также является информационной технологией, и, следовательно, ИИ также может по-разному использоваться в разных случаях, отмечает А. Рейлинг [3, р. 3], к примеру: 1) организация данных. Распознавание шаблонов в текстовых документах и файлах может быть полезно, например, при сортировке большого количества обращений или в сложных случаях, содержащих много информации. Примером является сервис обнаружения электронных данных (eDiscovery) в США, который представляет собой автоматизированное исследование электронной информации до начала судебной процедуры. В eDiscovery используется ИИ, определяющий посредством машинного обучения, какой алгоритм наилучшим образом способен извлекать соответствующие части из большого объема информации. Практика показала, что этот метод исследования документов быстрее и точнее, чем ручное исследование файлов; 2) консультативная работа. ИИ, способный консультировать, может быть полезен людям и потенциальным сторонам судебного дела, ищущим решение своей проблемы, но еще не знающим, что они могут сделать; 3) прогнозирование. ИИ, способный предсказывать судебные решения, вызывает большой интерес. Можно смело считать общеизвестным, что трудно последовательно предсказать исход разрешения того или иного дела в суде. Термин, которым лучше всего описываются эти ситуации, -правовая неопределенность. Правовую неопределенность обычно считают причиной подрыва как верховенства права в целом, так и способности закона достигать конкретных целей, таких как сдерживание антиобщественного поведения или поощрение торговли и инвестиций [1, р. 47]. По мере усложнения дела с увеличением объема информации и количества проблем правовая неопределенность лишь возрастает. Это одна из причин такого большого интереса к ИИ, поскольку его использование может снизить такую непредсказуемость.
В целях исследования возможностей ИИ в области правосудия Р. Ре и А. Солоу-Нидерман выделяют две стилизованные модели судебного правосудия: справедливое правосудие и кодифицированное правосудие. Они отмечают: «Хотя судебное решение по ИИ может показаться поразительно новым, оно связано с давними дискуссиями о природе и целях права - в частности, о желательности юридического усмотрения» [4, р. 252].
Справедливое правосудие предполагает как размышление о ценностях, установленных правовой системой, так и обоснованное применение этих ценностей в контексте конкретного дела. В отличие от разработки политики или нормотворчества, справедливое правосудие готово отказаться от общих моделей правоприменения в пользу уникальных обстоятельств. Эта дискреционная власть требует легитимации: предоставления подробных разъяснений по конкретным случаям, которые ограничиваются правовыми принципами, применяемыми в рамках судебного процесса, и фактами дела.
Кодифицированное правосудие относится к рутинному применению стандартизированных процедур к набору фактов. Со временем судьи смогут применять эти типовые процедуры, представляющие собой набор правил - или некомпьютерный «юридический алгоритм», - к большому числу дел. В целом кодифицированное правосудие стремится заранее установить полный набор юридически значимых переменных, не учитывая при этом другие факты и обстоятельства, которые можно обнаружить в ходе индивидуального разбирательства. Основная цель такой стандартизации состоит в том, чтобы уменьшить пространство для усмотрения человека при вынесении судебных решений, тем самым уменьшая возможности для произвола, предвзятости и расточительства, одновременно повышая эффективность, последовательность и прозрачность [4, р. 254].
Таким образом, кодифицированное правосудие видит пороки дискреции, тогда как справедливое правосудие видит ее достоинства. В той или иной форме компромиссы между справедливым и кодифицированным правосудием присутствуют в любой судебной системе. Обе судебные парадигмы имеют привлекательность, и вопрос о балансе между дискрецией и стандартизацией в любом конкретном контексте является спорным.
Однако судебное разбирательство с использованием ИИ и его тенденция содействовать кодифицированному правосудию вызывают особые опасения, утверждают Р. Ре и А. Солоу-Нидерман. Судебное разбирательство с использованием ИИ, отмечают они, создаст новые возможности, информацию и стимулы, которые будут способствовать кодифицированному правосудию за счет справедливого правосудия [4, р. 255]. Иными словами, судебное разби-
рательство с использованием ИИ будет иметь тенденцию к тому, чтобы изменять ценности закона, а не только его правила. Этот процесс повлияет не только на обжалование судебного решения по ИИ, но и на его форму [4, р. 255].
Вынесение решений с использованием ИИ также создаст новые мощные стимулы и возможности для критики дискреции, присущей справедливому правосудию и, в более общем плане, принятию решений человеком. С постоянно растущими доказательствами того, что судьи-люди действительно могут проявлять дискриминацию и когнитивную предвзятость, судьи-роботы могут обеспечивать более беспристрастный и прозрачный подход при осуществлении правосудия. И даже когда последние терпят неудачу, их разработчики могут настаивать на более глубоких исследованиях и усовершенствованиях, вселяя надежду на достижение идеала судебного решения, которое не может предложить ни один судья-человек [4, р. 258].
Вместе с тем связь между судебным разбирательством с использованием ИИ и кодифицированным правосудием является случайной, а не неизбежной. Судебное разбирательство с использованием ИИ может - вопреки здравому смыслу - сохранить или даже способствовать справедливому правосудию. Суды могли бы осуществлять некоторое количество процессов принятия решений с использованием ИИ наряду с человеческими размышлениями и обсуждениями с целью высвободить больше времени для лиц, принимающих решения, для осуществления дискреционных полномочий. Что еще более важно, позиционирование судей-роботов как кодифицированных, а людей - как справедливых было бы чрезмерно упрощенным [4, р. 259].
Вынесение решения по ИИ вызовет по меньшей мере четыре вида проблем: отсутствие прозрачности, датафикацию, разочарование и отчуждение. Каждая проблема связана с особым аспектом человеческого суждения, а именно - с пониманием, адаптацией, доверием и участием. Судебное разбирательство с использованием ИИ нарушит каждое из этих привычных действий, предложив новые технологии принятия решений, позволяющие решать юридические вопросы способом, качественно отличным от привычных способов человеческого познания [4, р. 262].
1. Отсутствие прозрачности. Возможно, наиболее широко оцененный риск принятия решений ИИ заключается в том, что он может функционировать способами, которые трудно или невозможно понять людям. Доминирующий в настоящее время такой метод ИИ, как машинное обучение, опирается на массовые корреляции внутри больших данных для вывода сложных статистических моделей. Путь от входных данных ИИ к выходным часто настолько сложен, что его невозможно понять.
2. Датафикация. Вынесение решений с использованием ИИ обещает существенное повышение эффективности, а также повышение единообразия, что позволит искоренить человеческую предвзятость и произвол. Однако для работы ИИ необходимы большие данные. Так, Л. Джулия, один из создателей цифрового помощника Siri, подчеркивал: «Чтобы машина могла распознать кошку с 95% уверенностью, нам нужно было около 100 тыс. фотографий кошек» [3, р. 2]. Однако датафикация, или акцент на доступных данных и их использовании, может нежелательно повлиять на работу правовой системы.
Акцент судебного разбирательства с использованием ИИ на наблюдаемых данных может оградить правовую систему от законной критики, тем самым позволяя процветать предвзятости. Наиболее часто обсуждаемые примеры включают использование данных о преступлениях, которые отражают ранее существовавшие расовые предубеждения в правоохранительных органах. В той мере, в какой решение по ИИ основывается на таких предвзятых данных, оно будет воссоздавать или даже усугублять ранее существовавшие предубеждения. В то же время используемые данные, какими бы предвзятыми они ни были, будут служить основой для принятия решений по умолчанию до тех пор, пока не будут выявлены их недостатки, что сделать непросто.
3. Разочарование. Разработка и использование решений с использованием ИИ уже побуждает к скептическому пересмотру существующей практики [4, р. 272]. Сторонники вынесения решений по ИИ - особенно фирмы, ориентированные на получение прибыли, которые разрабатывают технологии ИИ, - будут иметь стимул к тому, чтобы критиковать традиционные способы человеческого суждения, включая его связь со справедливым правосудием, и возвышать использование судей-роботов, работающих по
принципам кодифицированного правосудия [4, р. 273]. И эти мотивированные критические замечания часто будут иметь место, если учесть, что на самом деле существует множество серьезных (и часто игнорируемых) недостатков в работе судей-людей.
Даже если судебное решение, вынесенное с использованием ИИ, также кажется ошибочным и проблематичным, его относительная привлекательность все равно может вызвать разочарование в традиционном человеческом суждении, снижая его предполагаемую эффективность, демократическую легитимность, престиж и неотъемлемую ценность. Другими словами, судебное разбирательство с использованием ИИ может пролить яркий свет на человеческое судебное разбирательство - и людям может не понравиться то, что они увидят [4, р. 273].
Безусловно, разочарование может быть желательным, особенно там, где оно отражает более глубокое понимание истины. Уважение, испытываемое в настоящее время к человеческому суждению, может быть результатом того факта, что других доступных средств для вынесения решений нет. Тогда разочарование можно было бы рассматривать как необходимый первый шаг к реформированию, включая, возможно, более широкое использование ИИ.
Однако разочарование по своей природе разрушает предшествующую конструкцию правосудия, в которую была вложена вера. И здесь затраты на поднятие судебного занавеса могут быть существенными, особенно если нынешние процедуры и нормы судебной системы обеспечивают некоторую меру инструментальной легитимности правовой системы.
4. Отчуждение. По мере того как судьи с ИИ будут играть все большую роль в правовой системе, участие людей изменится и в некоторых отношениях уменьшится. Это повысит вероятность отчуждения и даже потери интереса людей к системе правосудия и ее деятельности. Можно вообразить крайние формы отчуждения, такие как полностью автономная правовая система, которая действовала бы без какого-либо участия человека вообще. Но гораздо более реалистичные и скромные сценарии также создают риски отчуждения [4, р. 275].
Со временем судьи-роботы, вероятно, считают Р. Ре и А. Солоу-Нидерман, станут способны выполнять множество от-
дельных задач, в настоящее время возлагаемых на юристов-людей, таких как приведение юридических аргументов, проверка достоверности показаний свидетелей и определение формы и строгости наказания. Результатом будет тенденция к отходу от общественного обсуждения, знаменующего справедливое правосудие, и переходу к кодифицированной системе, в которой участвуют преимущественно специалисты по информатике, а не юристы или общественность. В настоящее время, по крайней мере, некоторые теории процессуального правосудия рассматривают участие общественности в судебном процессе как неотъемлемое благо, превышающее любые инструментальные выгоды, так что отчуждение подорвет нормативную легитимность правовой системы [4, р. 276].
Технология - это одно, но то, как желательно и необходимо работать с ней на практике, все еще активно обсуждается. Так, рабочая группа по качеству при Комиссии по эффективности правосудия Совета Европы разработала этические принципы использования ИИ при отправлении правосудия и приняла их в декабре 2018 г. [3, р. 6]. Среди указанных принципов можно выделить следующие: уважение основных прав человека; равное обращение; безопасность данных; прозрачность; ИИ под контролем пользователя.
Все более широкое использование судебного решения с использованием ИИ, по мнению Р. Ре и А. Солоу-Нидерман, коренным образом изменит практические возможности людей в осуществлении правосудия, институциональные стимулы, властные отношения и в конечном счете ценности как юристов, так и обычных граждан. Вероятным результатом будет возвышение идеалов и принципов, связанных с кодифицированным правосудием. И это развитие, в свою очередь, будет способствовать дальнейшему использованию судебного разбирательства с использованием ИИ [4, р. 289].
Поскольку все более широкое использование ИИ в судебной системе делает кодифицированное правосудие более привлекательным в других контекстах, его недостатки, скорее всего, также будут воспроизведены. Поиск путей продвижения вперед потребует внимания не только к технологиям и праву, но и к влиянию технологий на концепции правосудия как в его человеческой форме, так и в форме ИИ.
Список литературы
1. Are judges more transparent than black boxes? A scheme to improve judicial decision-making by establishing a relationship with mathematical function maximization / W.D. Mulder, P. Valcke, G. Vanderstichele, J. Baeck // Law and contemporary problems. - Durham, 2021. - Vol. 84, N 3. - P. 46-67.
2. Kasap G.H. Can artificial intelligence («AI») replace human arbitrators? Technological concerns and legal implications // Journal of dispute resolution. -Columbia, 2021. - Vol. 2021, N 2. - P. 1-46.
3. Reiling A.D. Courts and artificial intelligence // International journal for court administration. - Williamsburg, 2020. - Vol. 11, N 2. - P. 1-10.
4. Re R.M., Solow-Niederman A. Developing artificially intelligent justice // Stanford technology law review. - Stanford, 2019. - Vol. 22, N 2. - P. 242-289.
