CC BY
44УДК 340 DOI: 10.31249/rgpravo/2021.01.04
ЗАХАРОВ ТВ.1 ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РАЗВИТИЕ ЭФФЕКТИВНЫХ ПРАВОВЫХ ТЕХНОЛОГИЙ. (Обзор).
Аннотация. В обзоре дан анализ некоторых публикаций зарубежных исследователей, касающихся проблем эффективности новых правовых технологий в юридической практике и работе юристов, построения администрирования системами ИИ, способности систем машинного обучения оперировать текстами нормативно-правовых, правоприменительных и иных, имеющих правовое значение актов, как объектов данных, разработки механизмов обучения ИИ и условий транспарентности его выводов и решений.
Ключевые слова: право; юридическая практика; искусственный интеллект; машинное обучение.
ZAKHAROV T.V. Аrtificial intelligence and the development of efficient legal technology. (Review).
Abstract. The review analyzes some publications of foreign researchers concerning the effectiveness of new legal technologies in legal practice and the work of lawyers, the construction of AI systems administration, the ability of machine learning systems to operate with texts of regulatory, law enforcement and other legal acts as data objects, the development of AI training mechanisms and conditions for transparency of its conclusions and decisions.
Keywords: law; legal practice; artificial intelligence; machine learning.
1 Т.В. Захаров, научный сотрудник Отдела правоведения ИНИОН РАН.
41
Современное состояние правовых технологий характеризуется тем, что все ветви государственного управления используют информационные технологии для предоставления государственных услуг настолько эффективно, насколько это возможно. К примеру, отмечает доцент Департамента искусственного интеллекта Университета Гронингена (Нидерланды), заполнить формы ежегодной налоговой декларации в Нидерландах стало очень просто. Ваши доходы, банковские счета, сбережения, размеры выплат по кредитам, стоимость имущества и т.п. уже находятся в базах данных налоговых органов [3, p. 185].
Несмотря на то что, с одной стороны, многие страны все еще только борются за развитие эффективных государственных систем правовых технологий, а с другой - мы наблюдаем существенные провалы некоторых проектов, как, например, провал онлайн циф-ровизации системы учета населения в Нидерландах, информационные правовые технологии стремительно развиваются. Технологический индекс, применяемый Центром правовой информатики Стэнфордского университета (США), включает девять категорий: рынок правового программного обеспечения; автоматизация документооборота; административное управление; правовые исследования; правовое образование; онлайн разрешение споров; цифровой поиск и предоставление электронных документов; цифровая аналитика; цифровой надзор [3, p. 184, 186].
Сообщество специалистов в данной области Нидерландов представило манифест, выделив три основные проблемы развития искусственного интеллекта. Искусственный интеллект должен быть: во-первых, социальным, допускающим адекватное взаимодействие с человеком; во-вторых, объяснимым; в-третьих, ответственным, т.е. подчиняться правилам, нормам и законам общества [3, p. 185].
Рынок информационных правовых технологий в настоящее время оценивается в несколько сотен миллионов долларов США. В течение нескольких ближайших лет его прогнозируемый рост достигнет уже 1,2 млрд. [Ibid., p. 186]. В то же время большинство современных информационных правовых технологий не связано с искусственным интеллектом. [Ibid., p. 186] Причиной является то, что взаимодействие сфер искусственного интеллекта и права является крайне сложным. Уже в 1988 г. Е. Риссланд (E. Rissland) вы-
делил в рецензии на новаторскую в то время книгу А. Гарднера «Подход искусственного интеллекта к построению правовых заключений» (Gardner A., An AI approach to legal reasoning) четыре основные проблемы: 1) нормы составляют основу правового автоматизированного вывода, но не диктуют его; 2) правовые термины открыты для толкования; 3) правовые вопросы изначально допускают несколько решений, наиболее обоснованное из которых должно быть своевременно принято; 4) обоснованность решения правового вопроса может со временем меняться [3, p. 188].
Таким образом, традиционная квалификационная модель права (subsumption model of law) (разрешение дела посредством квалификации фактов согласно действующим нормам), заложенная в алгоритмы искусственного интеллекта, может дать ложный результат. Б. Верхей полагает необходимым альтернативный взгляд на построение правового заключения ИИ как на процесс конструирования и проверки теории, серии гипотез, последовательно выдвигаемых и тестируемых в критической дискуссии [Ibid.].
Надлежащее развитие технологий ИИ в праве подразумевает подчинение данных технологий юридической технике. Среди метафор, применяемых к пониманию того, что есть искусственный интеллект, Б. Верхей выделяет следующие. Искусственный интеллект, как:
- математика, сфокусированная на формальных системах;
- технология, сосредоточенная на конфигурации систем;
- психология, сконцентрированная на умственной деятельности;
- социология, в центре внимания которой сообщества агентов [Ibid.].
Данные метафоры могут быть также применены и к праву. Говоря о математике, мы фокусируемся на формальности процедурных норм. Говоря о технологии - на искусстве правотворчества. Если речь идет о психологии - на процессах принятия судом решения или на судебной дискреции, о социологии - на роли критической дискуссии в правотворчестве, правоприменении и судопроизводстве [Ibid., p. 190-191]. Б. Верхей предлагает метафору «искусственный интеллект как право», где ИИ рассматривается как система гибридной критической дискуссии, обеспечивающей
процесс построения и оценки множества гипотетических предположений до момента отыскания надлежащего решения [3, p. 191].
Исследования, по мнению ученого, должны быть направлены на решение следующих проблем: 1) построение искусственным интеллектом заключений; 2) введение в программы ИИ необходимых ему знаний; 3) разработку механизмов обучения искусственного интеллекта и условий транспарентности его выводов); 4) создание языка искусственного интеллекта, обеспечивающего согласованность в толковании естественного языка и языка машинных кодов [Ibid.].
Профессор права Университета Колорадо (University of Colorado) (США) Г. Сурдер рассматривает применение в праве технологий машинного обучения, которое оперирует признаками и шаблонами данных. Многие аспекты права тоже могут рассматриваться через призму данных, т.е. работа с правовой материей поддается методам машинного обучения. С точки зрения применения технологий машинного обучения в праве обобщенно их можно классифицировать в виде двух типов задач - прогнозирование и автоматизация. Важной характеристикой машинного обучения является способность алгоритма поступательно совершенствовать выполнение поставленных перед ним задач [2, p. 1, 4]. Развитие технологий ИИ показало, что человек и алгоритм могут приходить к одинаковым выводам, однако достигается это принципиально разными средствами [Ibid., p. 5].
Термин «обучение» в выражении «машинное обучение» не является аналогией обучения человеком. Он отсылает к набору отличительных технологических подходов (нейронные сети, глубокое обучение, наивная классификация Байеса, логистическая регрессия и т.п.). В отличие от алгоритма, применяющего статистический анализ, человек способен принимать во внимание подразумеваемое значение слов, используя когнитивные навыки чтения, лингвистической апперцепции, контекстуализации и абстрактного восприятия, ситуализируя слово в его более широком социальном, лингвистическом и семантическом окружении. Современное машинное обучение неспособно изучать или понимать слова или абстрактные концепции подобным человеку образом, а лишь идентифицирует статистические зависимости, обнаруженные в данных, производя полезный, выглядящий «разумным» (intelligent) резуль-
тат. Г. Сурден использует выражение «разумный результат без разума» [2, р. 1-2, 5].
Неспособность систем машинного обучения оперировать лингвистическими значениями и абстрактными концепциями будет являться ключевым препятствием его использования в праве, считает Х. Сурден [Ibid., р. 5]. Другим препятствием является то, что системы машинного обучения эффективны лишь в строго ограниченных условиях, когда данные доступны для исчисления и содержат необходимые признаки и эти признаки доступны для выявления и категоризации. Необходимой является возможность простого деления на «плохо» - «хорошо», «верно - неверно», в отличие от проблем, требующих абстрактного понимания и суждения. В отличие от человека, системы машинного обучения ограничены ситуационными параметрами, в пределах которых они разрабатывались. Правовые же проблемы требуют гибкости в восприятии их конкретных обстоятельств, взаимосвязи с комплексом иных затрагиваемых проблем. Они нуждаются в адаптивности к новеллам, способности переключения от одной проблемной сферы к совершенно иному контексту [Ibid.].
Существенную проблему представляет способность или глубина способности систем машинного обучения оперировать текстами нормативно-правовых, правоприменительных и иных, имеющих правовое значение актов, как объектами данных. Необходимо проводить различие между подходами к текстам с точки зрения включенных в них знаковых данных и с точки зрения вложенного в них абстрактного содержания. Следует обратить внимание как на вариативность в толковании отдельного правового термина, так и на допустимость лингвистической вариативности терминологического определения одной и той же правовой концепции уже в пределах одного естественного языка. Что не менее важно, следует учитывать, что семантический и социальный контексты любой правовой концепции являются открытыми. Таким образом, алгоритмы по большому счету являются непригодными для использования в условиях, требующих понимания абстрактных правовых концепций или высокого уровня восприятия и правовой аргументации [Ibid., р. 7-8].
Профессор права и финансов факультета права Оксфордского университета Дж. Армор, научный сотрудник школы бизнеса
им. В. Саида (Said business school) Оксфордского университета Р. Парнхам и профессор менеджмента школы бизнеса им. В. Саида Оксфордского университета М. Сако рассматривают применение систем ИИ в юридической практике. Понимание того, как ИИ повлияет на юридическую практику, требует изучения двух взаимосвязанных аспектов: того, как изменится содержание осуществляемых юридических действий, и того, как будут организованы правовые службы, координирующие данные действия. По мнению авторов, следует учитывать не только технические возможности, но и экономику, и логистику предполагаемых процессов [1, p. 4].
В контексте юридической практики встает вопрос ограниченности средств ИИ. Машинное обучение хорошо работает с задачами, имеющими заданные параметры оценки, но в отсутствие в задаче классифицирующих признаков оно неэффективно. Естественное для человека так называемое «трансферное обучение» (transfer learning), когда изученная в определенном контексте концепция заимствуется для применения в новом контексте, недоступно для ИИ [Ibid., p. 18].
Однако, несмотря на то что мы еще далеки от какого бы то ни было вида «общего» искусственного интеллекта - всесторонне равного человеку, следует учитывать современное стремительное технологическое развитие. Во избежание спекуляций, следует учитывать технологическую ограниченность ИИ лишь в отношении «современного» ИИ, отражающего состояние технологий на ближайшие несколько лет [Ibid., p. 14, 15].
Применение систем ИИ в юридической практике вызовет позитивные изменения в работе юристов. Во-первых, технологии заменят человека в выполнении задач, решение которых средствами искусственного интеллекта доступно и экономически выгодно. В свою очередь, во-вторых, автоматизация решения части задач увеличит возможности и продуктивность юристов. Она позволит им сфокусироваться на решении задач, не допускающих автоматизации. В-третьих, разработка и функционирование в юридической практике систем ИИ ставят новые самостоятельные задачи. Системы ИИ должны быть сконструированы, установлены, настроены. Их функционирование должно поддерживаться и контролироваться. Таким образом, появляются новые роли человека в «автоматизированной» юридической практике, в том числе роль
правовой экспертизы алгоритмов и выводов данных систем, дополняющей, в свою очередь, технологию. Применение ИИ требует переосмысления роли юриста в целом [1, p. 4, 5, 13-14].
Для функционирования в юридической практике систем ИИ необходим особый новый канал коммуникаций. Его удобно представить в виде последовательности шагов. Ждущие решения задачи должны изначально уточняться и классифицироваться. Должны быть собраны, проверены и оценены необходимые данные. И лишь затем система будет производить соответствующие аналитические исчисления. Впоследствии выводы систем должны регулярно проверяться экспертами [Ibid., p. 5].
Для функционирования системы требуется различная компетенция: правовые знания о соответствующей задаче и значении ее решения; коммерческое понимание затрат ее решения соответствующими средствами; статистическое понимание природы имеющих значение данных, их целостности и достоверности, погрешностей в их интерпретации; знания в области системной инженерии; и т.п. Отдельную проблему, по мнению исследователей, представляет подбор, мотивация и управление персоналом неправовых специальностей [Ibid., p. 8].
Проблему представляет и построение администрирования системами ИИ - оно требует совместного участия специалистов в таких сферах, как статистика и обработка данных, разработка и управление проектами, дизайн и т.п., а также, безусловно, юристов. Юристы будут не только самостоятельно решать наиболее специализированные и нестандартные правовые задачи, но и обеспечивать состоятельность всей применяемой системы искусственного интеллекта.
Наиболее эффективным, по мнению авторов, будет объединение специалистов в межотраслевые команды (multi-disciplinary team, MDT). Управление системами искусственного интеллекта исключительно юристами малоэффективно. Работа юристов в межотраслевых командах будет существенно отличаться от традиционного понимания юридической практики [Ibid., p. 5, 8].
Список литературы
1. Armour J., Parnham R., Sako M. Augmented lawyering (August 21, 2020). - Mode of access: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3688896 (дата обращения: 20.11.2020)
2. Surden H. Machine learning and law: an overview // Research handbook on big data law: Forthcoming chapter. - Mode of access: https://papers.ssrn.com/sol3/ papers.cfm?abstract_id=3686055 (дата обращения: 20.11.2020)
3. Verheij B. Artificial intelligence as law. Presidential address to the seventeenth international conference on artificial intelligence and law // Artificial Intelligence and Law. - N.Y. ; Berlin : Springer, 2020. - Vol. 28, N 2. - P. 181-206.
