CC BY
110
УДК 340.1, 342.9
Вестник СПбГУ Право. 2021. Т. 12. Вып. 4
Искусственный интеллект и правовые экспертизы в государственном управлении*
Э. В. Талапина
Российская академия народного хозяйства и государственной службы при Президенте РФ, Российская Федерация, 119571, Москва, пр. Вернадского, 82
Для цитирования: Талапина, Эльвира В. 2021. «Искусственный интеллект и правовые экспертизы в государственном управлении». Вестник Санкт-Петербургского университета. Право 4: 865-881. https://doi.org/10.21638/spbu14.2021.404
Правовое осмысление искусственного интеллекта (ИИ), несмотря на историю его практического применения, находится на начальной стадии. Целью исследования является оценка возможностей использования ИИ для проведения правовых экспертиз в государственном управлении. Общая правовая экспертиза улучшает качество нормативного правового акта, антикоррупционная — служит сокращению его корруп-циогенности. Для этого потребуется нормативное регулирование процедуры использования ИИ, а также создание прозрачной системы сертификации. Автор выделяет реперные точки при урегулировании использования ИИ в ходе правовых экспертиз в государственном управлении: режим обработки персональных данных должен учитывать специфику каждого применения ИИ, т. е. быть дифференцированным; транспарентность использования ИИ в государственном управлении должна быть непререкаема; отдельным и очень сложным аспектом регулирования выступает обучение ИИ; разным видам экспертиз корреспондирует неодинаковый состав заинтересованных лиц и используемых данных. Привлечение ИИ к проведению антикоррупционной экспертизы нормативных правовых актов наиболее эффективно в отношении проектов таких актов. Искусственный интеллект способен внести значимый вклад в правовую определенность акта, а обучение ИИ антикоррупционной экспертизе сократит количество участников этого процесса. Для реализации данного прогноза необходимо учесть три обстоятельства. Во-первых, возможность обработки больших массивов данных дает шанс обучить ИИ прогнозированию коррупционных нарушений, что крайне важно для антикоррупционной экспертизы, основанной на смоделированном предположении. Во-вторых, особого внимания требует обучение экспертным тонкостям в оценке правовой определенности. В-третьих, алгоритм антикоррупционной оценки необходимо совместить с существующими в нормативной сфере классификаторами — классификатором правовых актов, глоссариями. Антикоррупционная экспертиза с использованием ИИ позволяет минимизировать субъективизм, унифицировать подходы к толкованию коррупционных факторов, повысить общее качество нормативных правовых актов и соответствие юридико-техническим требованиям, но только при условии строгой регламентации процессов обучения и использования ИИ.
Ключевые слова: экспертиза, искусственный интеллект, коррупциогенность, правовая определенность, цифровизация, государственное управление.
* Статья подготовлена в рамках выполнения научно-исследовательской работы государственного задания Российской академии народного хозяйства и государственной службы при Президенте РФ.
© Санкт-Петербургский государственный университет, 2021
1. Введение
История искусственного интеллекта (далее — ИИ) насчитывает уже около 70 лет. Отправной точкой считается состоявшийся летом 1956 г. в британском Дартмуте научный семинар по вопросам ИИ, в ходе которого была высказана уверенность: в ближайшее время станет возможным с такой точностью описать процесс человеческого мышления и другие аспекты человеческого интеллекта, что этого будет достаточно для моделирования данного процесса и обучения ему машины. В 1980-1990-е годы прогресс в области информационных технологий (далее — ИТ) привел к разработке экспертных систем, что вызвало очередной всплеск интереса к ИИ. Ричард Сасскинд определяет экспертные системы как ИТ-приложения, которые, обладая знаниями и опытом, используемыми для решения проблем, предлагают юридические консультации или выполняют ряд задач точно так же, как это сделал бы человек (Susskind 2010). При этом нужно иметь в виду, что экспертные системы довольно ограничены: с одной стороны, они применимы только в очень узких областях, с другой — их производительность основана на знаниях людей-операторов. Поставленные перед ними проблемы экспертные системы способны решать только путем применения логических правил к ранее загруженным знаниям.
Сегодня возникла новая волна интереса к ИИ, связанная с цифровой трансформацией. Сфера применения ИИ постоянно расширяется: сначала он использовался для шахмат и игры в го, в наше время в данную сферу входят и автоматизированные транспортные средства, и синхронный перевод, и распознавание лиц, и массовое наблюдение (тотальная слежка). Этому поспособствовало возрастание возможностей обработки данных: доступность производственных мощностей, технологии больших данных и машинное обучение. Системы, использующие ИИ, принимают решения, базируясь на моделях, созданных на основе данных. Таким образом, хотя ИИ известен сравнительно давно, революционным стало соединение алгоритмов с большими данными (Big Data). По свидетельствам специалистов, уже сейчас алгоритмы, стоящие за ботами Big Data, могут найти закономерности и связи, отыскание которых было бы практически невозможным для человека (Wrigley 2018, 188).
Как известно, алгоритмы основаны на идее правил и логики. Однако современный ИИ выходит за пределы аналогового порядка, базирующегося на связывании анализируемых элементов. Он сталкивается со сложными проблемами (распознаванием лиц, звука, принятием решений), которые возникают в результате взаимодействия с большим количеством переменных, а переменные не отрегулировать правилами. Путем постоянного агрегирования этих переменных ИИ приходит к наиболее вероятному решению, причем невозможно понять, почему информационная система приняла именно это решение, а не иное. Ответы искусственного интеллекта — результат агрегирования многих показателей, что гораздо ближе к аналогии, нежели к логике и правилам.
Описанная ситуация стала возможной благодаря машинному обучению. Методы машинного обучения отличаются от классических алгоритмов тем, что происходит переход от логики программирования к логике обучения, т. е. компьютеры не программируют, а обучают (в этом смысле наступает конец кода, которому прочили место закона). Функционирование алгоритма машинного обучения сравни-
вают с когнитивным развитием ребенка — правила воспроизводятся через наблюдение и анализ, без их точного объяснения (Villani et al. 2018, 26).
Однако все не так просто. По утверждениям нейроспециалистов, несмотря на описанный прогресс, нейронные сети сейчас учатся только автоматической классификации. Они пока не могут выстроить иерархию таким образом, чтобы получить общие принципы, логику, объяснения (Dehaene 2018). Следовательно, главный недостаток ИИ на сегодняшний день можно сформулировать следующим образом: системы не способны понять суть вещи. То, что человек делает автоматически и не задумываясь, у ИИ требует некоторого количества сложных итераций с не всегда предсказуемым результатом1.
В таких обстоятельствах, хотя системы ИИ еще совсем не готовы к полной замене человека, они уже активно применяются, например в правоохранительной деятельности, где ИИ повышает эффективность систем информационного обеспечения и, как утверждается, усиливает коэффициент полезного действия от уже внедренных в правоохранительную деятельность технологий (Барчуков 2020). В ходе противодействия пандемии коронавируса во всем мире ИИ используется для медицинской диагностики, для поддержания карантинных мер, изоляции заболевших, отслеживания контактов с зараженными. В общем, практика развивается в опережающем порядке по отношению к теории. Но любое применение ИИ непосредственно влияет на основные права человека, которые признаны высшей ценностью. Поэтому, оценивая возможности использования ИИ в какой бы то ни было сфере, нужно прежде всего оценить риски нарушения прав человека. Кроме того, если понятие еще не стало правовым, если его нормативное регулирование не сложилось, трудно вести речь об ответственности за различные девиации, о возмещении ущерба и пр. Все это — аргументы в пользу скорейшего развития правовой доктрины в данной области.
Даже краткое погружение в нормативный аспект проблемы дает понять: четкого определения ИИ не сложилось, что, безусловно, связано с междисциплинар-ностью данного феномена. Например, в Национальной стратегии развития искусственного интеллекта на период до 2030 г.2 ИИ определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе то, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. В документах Европейского союза использован более широкий подход: ИИ — это системы, характеризующиеся интеллектуальным поведением за счет анализа окружающей среды и принятия мер с определенной степенью автономности и для
1 Из многочисленных иллюстраций сошлемся на пример «обмана» ИИ, способного отличить одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово STOP, то некоторые нейросети переведут эту картинку из категории «лица» в категорию «дорожные знаки» (Поздышев 2019).
2 Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Здесь и далее все ссылки на российские нормативные правовые акты приводятся по СПС «КонсультантПлюс». Дата обращения 31 января, 2021. http://www.consultant.ru.
достижения конкретных целей3. Возможно, именно такая широта подхода обязывает к выработке в первую очередь этических принципов использования ИИ. Важным документом, определяющим основные принципы функционирования искусственного интеллекта на уровне Совета Европы, стала принятая 04.12.2018 Европейская этическая хартия использования искусственного интеллекта в судебной и правоохранительной системах4.
Приведенные примеры свидетельствуют о начальной стадии правового осмысления ИИ. В рамках настоящей статьи мы не ставили перед собой задачу включиться в подробный понятийный разбор с теоретической точки зрения, хотя и этим следует заняться. Но иногда, чтобы сформировать искомое общее, стоит идти от обратного, анализируя конкретный пример в условиях отсутствия сложившегося общего понимания. В нашем случае речь идет об осмыслении возможностей применения ИИ в государственном управлении при проведении правовых экспертиз.
2. Основное исследование
2.1. Правовые экспертизы в государственном управлении: применимость искусственного интеллекта
Если исходить из того, что основной результат государственного управления формализуется в действиях и решениях органов власти, нормативного или индивидуального характера, то значение правовых экспертиз, которым подвергаются проекты актов, издаваемых органами власти, вполне понятно. Именно экспертиза актов становится обязательным этапом на пути их создания, от прохождения которого напрямую зависит качество акта, да и его судьба в целом, что наиболее ярко видно на примере законопроектной деятельности.
Каким образом в подобных экспертизах может использоваться ИИ, и является ли он достойной заменой юристу? Преимущества ИИ очевидны: многозадачность, обработка огромных массивов данных, идеальная память, аналитические возможности и др. Эти качества позволяют отсканировать массив нормативных правовых актов (далее — НПА) всех уровней юридической иерархии, обнаружить повторы, пробелы, противоречия, по заданным параметрам провести систематизацию, унифицировать терминологию. Все это способен сделать обычный юрист, но с большими трудозатратами и рисками ошибок, невнимательности, недостаточной компетентности.
Пожалуй, наибольший потенциал содержит применение ИИ именно на стадии предварительной подготовки акта, позволяя более выверенно и шаблонизиро-ванно оформить предмет акта, составить пояснительную записку, финансов о-эко-номическое обоснование, которое будет действительно опираться на конкретные данные, факты, статистику (известно, что такое обоснование зачастую разрабатывается либо сугубо формально, либо даже в отрыве от сути акта). В этом смысле
3 L'intelligence artificielle pour l'Europe. Communication de la Commission Européenne. 25.04.2018. Дата обращения 1 февраля, 2021. https://ec.europa.eu/transparency/regdoc/rep/1/2018/FR/C0M-2018-237-F1-FR-MAIN-PART-1.PDF.
4 Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях. 2018. Дата обращения 1 февраля, 2021. https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4.
ресурс ИИ целесообразно использовать и для социологического обеспечения процесса разработки нормативных правовых актов (Соколова 2019, 355). Обоснованность регулирования в той или иной сфере может стать математически зависимой от социологически подкрепленных ожиданий и интересов будущих адресатов акта; более того, это бесспорно усилит прогнозную функцию в государственном управлении, поскольку ИИ может спрогнозировать реальный эффект от действия закона или иного нормативного правового акта, основываясь на обработке огромных массивов данных, что вряд ли под силу человеку, во всяком случае одному. Обработка социологических и статистических данных, количественный анализ, математические способы прогнозирования последствий этих решений, выстраивание цифровых аргументов и алгоритмов, позволяющих выявлять тенденции, спрятанные внутри огромных массивов информации, — все это входит в сферу возможных применений искусственного интеллекта.
Таким образом, потенциал использования ИИ в правовых экспертизах очевиден. Напомним, что в современном экспертократическом обществе экспертизы стали одним из значимых каналов осуществления власти и исполнения государственных функций. Разнообразие экспертиз поражает: правовая (юридическая), юридико-лингвистическая, технико-юридическая, антикоррупционная, экологическая, экономическая, финансово-экономическая; регулирующего и фактического воздействия нормативных правовых актов на регулируемые общественные отношения; нормативных правовых актов; решений (действий) исполнительной власти в рамках общественной экспертизы; государственная, негосударственная, государственно-общественная, общественная; метрологическая и санитарно-эпидемиологическая; обязательная, инициативная, добровольная; комплексная, научная и пр. Как навести порядок в этом бесконечном списке? И возможен ли он?
Некоторые исследователи высказывают мнения о различии правовой и юридической экспертиз: если первая является более широкой и анализируемый текст проверяется на соответствие не только законодательству, но и праву как социальному регулятору, то вторая концентрируется на строго формальном анализе юридических элементов. Считают, что правовая экспертиза — специальное исследование, проводимое для оценки законопроекта на предмет его совместимости с Конституцией РФ, федеральным законодательством и международными договорами РФ, а также для установления качества законопроекта с точки зрения примененных правил законодательной техники. Юридическая же экспертиза заключается в правовой оценке формы акта, его целей и задач, предмета правового регулирования, компетенции органа, принявшего акт, содержащихся в нем норм, порядка принятия, обнародования (опубликования) на предмет соответствия требованиям Конституции РФ и федерального законодательства (Дементьев, Дементьева, Бондарь 2020). На наш взгляд, это очередной пример чрезмерной увлеченности российских юристов детальными буквальными толкованиями, уводящими от сути. Нам представляется, что и правовая, и юридическая экспертиза — одно и то же.
Если оставить за скобками экспертную деятельность не в интересах государственного управления, то, ориентируясь на принцип законности (за неимением закона, определяющего принципы функционирования исполнительной власти), можно заключить, что в государственном управлении могут осуществляться лишь те экспертизы, необходимость проведения которых нормативно закреплена.
Так, в ст. 112 Регламента Государственной Думы РФ5 установлена обязательная правовая экспертиза, проверяющая законопроект на соответствие Конституции РФ, федеральным конституционным законам, федеральным законам, основным отраслевым законодательным актам. Помимо этого, осуществляется проверка перечня актов федерального законодательства, подлежащих признанию утратившими силу, приостановлению, изменению или принятию в связи с принятием данного законопроекта (этот вид экспертизы не получил отдельного названия), а также юридико-техническая экспертиза законопроекта. Поскольку Государственная Дума РФ — ключевой игрок в производстве законодательных актов, методика осуществления правовой экспертизы достаточно отработана и часто заимствуется или берется за основу другими органами.
Приказом Минюста России от 31.05.2012 № 87 утверждены Методические рекомендации по проведению правовой экспертизы нормативных правовых актов субъектов РФ. Установлено, что проводится правовая оценка формы правового акта, его целей и задач, предмета правового регулирования, компетенции органа, принявшего правовой акт, содержащихся в нем норм, порядка принятия, обнародования (опубликования) на предмет соответствия требованиям Конституции РФ и федеральных законов, а также оценка соответствия правового акта требованиям юридической техники (в том числе проверка наличия необходимых реквизитов). Кроме того, Минюст рекомендует изучить состояние правового регулирования в соответствующей сфере правоотношений.
В качестве примера экспертизы, носящей комплексный характер, можно упомянуть оценку регулирующего воздействия6.
Очевидно, что упомянутые экспертизы проводятся субъектами разного уровня, а ведомственное нормотворчество в реальности масштабнее законодательной деятельности. Оно разнообразно, подчас запутано, очень специализировано, требует глубоких экспертных познаний. Все это позволяет назвать ведомственное нормотворчество одним из формирующихся направлений для использования ИИ в государственном управлении, тем более что такая работа уже начата, и выражается она в проекте по созданию единой онлайн-платформы ведомственного нормотворчества.
Исследователи рассматривают онлайн-платформу в широком и узком смысле слова. Под единой онлайн-платформой по вопросам ведомственного нормотворчества в широком смысле понимается цифровая площадка, функционирующая с использованием технологий искусственного интеллекта, обрабатывающая большой массив информации с возможностью машинного обучения и использованием баз знаний при подготовке, согласовании и принятии ведомственных нормативных правовых актов. В узком смысле единая онлайн-платформа по вопросам ведомственного нормотворчества — это процесс межведомственного взаимодействия,
5 Регламент Государственной Думы РФ, принят Постановлением Государственной Думы РФ от 22.01.1998 № 2134-11 ГД.
6 Постановление Правительства РФ от 17.12.2012 № 1318 «О порядке проведения федеральными органами исполнительной власти оценки регулирующего воздействия проектов нормативных правовых актов и проектов решений Евразийской экономической комиссии, а также о внесении изменений в некоторые акты Правительства РФ»; Приказ Минэкономразвития России от 26.03.2014 № 159 «Об утверждении Методических рекомендаций по организации и проведению процедуры оценки регулирующего воздействия проектов нормативных правовых актов субъектов РФ и экспертизы нормативных правовых актов субъектов РФ».
основанного на программном коде и/или искусственном интеллекте, осуществляемый на цифровой платформе, отвечающей уровням технологического развития (Залоило, Гвоздецкий 2019, 167).
Применение ИИ многослойно, и от уровня поставленных перед ним задач зависят конкретные процедуры и этапы, нуждающиеся в использовании интеллектуального помощника. Отдельное и весьма существенное значение обретает регламентация использования ИИ.
2.2. Использование искусственного интеллекта в государственном управлении: наброски к регламентации
Нормативное регулирование процедуры использования ИИ крайне важно в целом и для государственного управления в особенности. Этот сложный нормативный блок еще предстоит выстроить. Попытаемся обозначить его элементы.
Прежде всего, для использования ИИ необходимо провести предварительную работу с действующим нормативным массивом. С учетом технической специфики обработки данных искусственным интеллектом и в целях оперативности обработки и повышения ее качества необходимо перевести всю нормативно-правовую базу Российской Федерации в машиночитаемый вид. Назовем это техническим условием, которое поможет сделать использование ИИ при проведении правовых экспертиз более эффективным. О переводе нормативного массива в машиночитаемый вид уже немало написано (Савельев 2018); утверждается, что, рассматривая сложную сеть законов как данные, законодательство можно формализовать (и визуализировать) как математический объект, иерархически организованную структуру, содержащую язык и явную взаимозависимость между положениями (Трунцевский 2019, 66). При этом цель проведения правовой экспертизы либо не выделяется, либо упоминается вскользь.
Для выстраивания гармоничной системы регулирования использования ИИ необходимо определить те принципы, на которых основывается такое использование. Именно от них зависит выбор, сделанный государством, — насколько далеко может зайти ИИ в его замене человеческому труду. Ориентиром может служить вышеупомянутая Европейская этическая хартия использования ИИ в судебных системах 2018 г. В ней выделяются пять принципов: 1) соблюдения фундаментальных прав (использование ИИ должно быть разработано и реализовано при обеспечении совместимости с основными правами); 2) недискриминации; 3) качества и безопасности (обработка судебных данных и решений может осуществляться только в безопасной среде); 4) транспарентности, нейтральности и интеллектуальной целостности (ИИ не должен быть «черным ящиком» и угрожать исчезновению главных характеристик судебной системы); 5) управления со стороны пользователя. Думается, что перечисленные принципы в полной мере распространяются на использование ИИ в государственном управлении.
С точки зрения проведения правовых экспертиз в государственном управлении и связывания при этом ИИ общими правилами целесообразно иметь в виду следующее.
Во-первых, важно определить пределы распространения на ИИ норм по обработке персональных данных. Поскольку ИИ производит сбор персональных дан-
ных (даже если это не является его целью), постольку необходимо соблюдать правила их обработки. Здесь мы снова сталкиваемся с противоречием между аналоговым информированным согласием на обработку данных и цифровой технологией обработки больших данных. Как его разрешить, думается, зависит от конкретного использования ИИ: если ИИ принимает персонализированное решение в отношении лица и реализации его права, то в принятии такого решения обязательно участвует человек, за ним признается статус обработчика персональных данных. Во всяком случае, это необходимо на первом этапе привлечения ИИ. При проведении правовых экспертиз ИИ по большей части будет иметь дело с деперсонализированными данными (например, статистическими) либо с персональными, но общедоступными. Таким образом, режим обработки персональных данных должен учитывать специфику каждого применения ИИ, т. е. быть дифференцированным.
Во-вторых, транспарентность использования ИИ в государственном управлении непререкаема. Это значит, что использование алгоритмов презюмируется прозрачным и, главное, понятным. Вопрос состоит в том, как сделать алгоритм понятным и объяснимым. К сожалению, нейронные сети и другие формы машинного обучения не являются полностью прозрачными даже для их разработчиков. В соответствии с текущим научным пониманием, обоснование решения, принимаемого такой системой, не может быть точно объяснено (ИапоЫ 2018, 143). Праву необходимо учесть технические наработки и снабдить их арсеналом традиционных средств реагирования (в числе которых, например, судебное оспаривание).
В-третьих, отдельный и очень сложный аспект представляет собой обучение ИИ, в нашем случае — обучение проведению правовой экспертизы. Нужно создать сопутствующее регулирование и определить условия. Так, поскольку данные выступают основой цифровых технологий, в том числе ИИ, первоочередной задачей является правовое регулирование оборота данных (добротное и комплексное). Иными словами, ИИ входит в уже существующее правовое пространство, со сложившимися правилами, с которыми нужно считаться. Оцифровка данных, кодирование закона — также условия для организации обучения ИИ. Но самое главное — отбор тех данных, на основе которых будет проводиться обучение. От их состава, полноты, достоверности, качества напрямую зависит результат экспертизы. Очевидно, в категорию данных для обучения войдут законодательные акты, комментарии и правовые исследования, судебные решения, статистика правонарушений. Трудно представить, как поведет себя ИИ, если эти данные будут противоречивыми, недостаточно подтвержденными, сфальсифицированными. И главное: как навести порядок в массиве данных и запустить процесс контроля за их отбором? Пожалуй, для полноценной работы ИИ при экспертизе нормативных правовых актов необходимо «вычистить» (возможно, с привлечением технологий) законодательство уже действующее, как минимум с точки зрения унификации терминологии, устранения дублирования. Наконец, как бороться с нехваткой данных и, если их недостаточно, насколько возможно привлечение иностранного опыта, практики международных судов, на каком исходном языке будут представлены все эти данные? В любом случае, необходимо организовать прозрачную систему сертификации систем ИИ при использовании их для целей государственного управления.
В-четвертых, разным видам экспертиз корреспондирует неодинаковый состав заинтересованных лиц и используемых данных. Стадия создания проекта НПА не
так проста, она состоит из определения предмета регулирования будущего нормативного правового акта, его задач, а также ожидаемого результата; поиска оптимальных правовых решений по конкретным вопросам регулирования; учета полученных предложений при создании нормативного правового акта (Залоило, Базы-кин 2019, 45). Для обоснования принятия нормативного акта крайне важно учесть мнение общества по его поводу еще до его создания.
Несмотря на некоторые успехи в этой сфере, канал взаимодействия с обществом в целях разработки и принятия НПА в условиях использования ИИ еще предстоит наладить. С одной стороны, использование ИИ облегчает кропотливое следование всем необходимым этапам и требованиям экспертизы, включая содержательные, но с другой — представляет угрозу для участия граждан в управлении, поскольку эта связь опосредуется через ИИ. Получается некое нагромождение: ИИ использует предложения граждан при разработке проекта НПА, и сохраняется возможность общественного обсуждения проекта НПА, созданного при помощи ИИ. Так или иначе, предложение использовать технологию краудсорсинга в совершенствовании государственного управления (Залоило, Базыкин 2019, 44) при всей привлекательности должно быть тщательно обдумано и структурировано.
Нам представляется эффективным использование ИИ на этапе привлечения граждан до создания проекта нормативного правового акта, т. е. для обработки собранных предложений. Остается открытым вопрос, насколько ИИ может использовать идеи, высказанные иными способами (в интернете, в отдельных предложениях, выступлениях в СМИ). Вероятно, предлагаемые гражданам для обсуждения темы должны совпадать с предметами регулирования, заложенными в алгоритм для создания этого НПА. А это уже требование к согласованию классификаций, используемых алгоритмом.
Наконец, если во многих областях вопрос организации юридической ответственности за действия ИИ стоит довольно остро, то в проведении экспертиз эта проблема не столь явная, особенно если оставить конечный контроль за человеком (а мы убеждены, что так и следует поступить). Таким образом, на данном этапе мы рассматриваем ИИ в качестве помощника при проведении правовой экспертизы с оформлением заключения экспертизы ответственным государственным служащим.
2.3. Перспективы применения искусственного интеллекта в антикоррупционной экспертизе
Специализированным видом правовой экспертизы является антикоррупционная экспертиза нормативных правовых актов. Сам факт оформления данного типа экспертизы в нашем законодательстве стоит оценить положительно, ибо это редкий случай внешнего вмешательства в нормотворческий процесс, да еще с превентивной антикоррупционной целью. Правда, в процессе правоприменения экспертиза обрела преимущественно ведомственный характер, что в немалой степени нивелирует позитивные ожидания.
Напомним, что официализация антикоррупционной экспертизы и методики ее проведения произошла далеко не сразу, а спустя несколько лет апробации разработчиками (Талапина 2007). Теперь, когда действуют Федеральный закон от 17.07.2009 «Об антикоррупционной экспертизе нормативных правовых актов
и проектов нормативных правовых актов» и Постановление Правительства РФ от 26.02.2010 № 96 «Об антикоррупционной экспертизе нормативных правовых актов и проектов нормативных правовых актов», эта деятельность, казалось бы, унифицирована. Но за формализацией антикоррупционной экспертизы ее смысл во многом потерялся. Предложенная нами методика экспертизы (Талапина 2007) предусматривает гораздо более объемный анализ, нежели официальные акты. Приведем простую арифметику. Авторская методика содержит 22 коррупционных фактора. В Постановлении Правительства РФ 2009 г. их было 17, а в действующем осталось всего 12. И дело не только в цифрах. Стремление к упрощению вполне объяснимо. Сокращение количества коррупционных факторов облегчает проведение экспертизы, создает потенциал ее массовости. Естественно, что в версию методики, утвержденную Правительством, не вошли самые трудные для обнаружения факторы, прежде всего факторы системного характера. Для их выявления недостаточно прочесть норму в отрыве от всего остального текста, здесь требуется серьезный анализ. Так, для выявления коррупционного фактора «ложные цели и приоритеты» анализируется весь текст нормативного акта с точки зрения поставленных целей и приоритетов. Этот критерий появился не сразу, а в результате нескольких лет апробации первичной методики. Кажется, что цели принятия акта весьма очевидны — их можно понять из названия, найти во вводных положениях, иногда (если речь идет о проекте акта) в пояснительной записке. Но коррупционный фактор не здесь. Дело в том, что цели принятия нормативных актов могут быть неочевидными или существенно отличаться от продекларированных. В ряде случаев целесообразность принятия нормативного акта вообще отсутствует, регулирование вопроса оказывается избыточным, излишним, ставит дополнительные административные барьеры, предъявляет заведомо неисполнимые требования и т. д. Другими словами, без такого акта вполне можно обойтись. В ряде случаев разработка «надуманного» акта способна напрямую закреплять коррупционные схемы. Например, принятие нормативного акта, излишне регулирующего ту или иную сферу деятельности либо запрещающего определенный вид деятельности, может не просто спровоцировать единичные случаи коррупции, а сделать коррупцию нормой для отношений в целой сфере. Этот вопрос обсуждался в Центре стратегических разработок в связи с проектом закона о государственном регулировании деятельности по организации и проведению азартных игр. Высказывался аргумент, что если законодательно запретить игорный бизнес вообще, он станет теневым, спровоцировав коррупцию в контролирующих и правоохранительных органах. Нетрудно догадаться, что ложность целей и приоритетов — это смертный приговор нормативному акту, поскольку «ловятся» коррупционные замыслы.
Другой фактор, не вошедший в официальную методику, — нарушение баланса интересов. Здесь для выявления данного проявления коррупциогенности от эксперта также требуется системный подход к содержанию нормативного правового акта в целом. Следует принимать во внимание и основные принципы отраслевого регулирования. Так, гражданское законодательство основывается на признании равенства участников регулируемых им отношений, неприкосновенности собственности, свободы договора, недопустимости произвольного вмешательства кого-либо в частные дела, необходимости беспрепятственного осуществления гражданских прав, обеспечения восстановления нарушенных прав, их судебной за-
щиты (ст. 1 ГК РФ). Соответственно, при принятии нормативного правового акта по вопросу гражданского законодательства не должны ущемляться права и законные интересы какой-либо из сторон. Если анализ акта свидетельствует о том, что в результате его принятия выигрывает только одна группа субъектов гражданского права (например, страховые организации, крупный бизнес), сама разработка данного акта могла стать следствием незаконного лоббирования интересов, давления этой группы, ущемляющего права других лиц.
И вот именно эти — системные — факторы исчезли из официальной версии методики. Бесспорно, они трудны для обнаружения, требуют от эксперта высокой квалификации. Но ведь от этого зависит качественный результат экспертизы.
Справедливости ради отметим, что Постановлением Правительства РФ от 18.07.2015 № 732 «О внесении изменений в некоторые акты Правительства РФ по вопросам проведения антикоррупционной экспертизы» в методику был возвращен коррупционный фактор «нормативные коллизии», отнесенный нами к факторам системного характера. Действительно, трудно объяснить смысл экспертизы, если она позволяет пройти мимо противоречий между нормами (в том числе внутренних), создающих для государственных органов, органов местного самоуправления или организаций (их должностных лиц) возможность произвольного выбора норм, подлежащих применению в конкретном случае.
Какие аспекты антикоррупционной экспертизы важны с точки зрения использования ИИ? Выделим несколько моментов.
Во-первых, период жизни НПА, в который антикоррупционная экспертиза обнаруживает наибольшую эффективность. Опыт и здравый смысл показывают, что экспертиза на стадии разработки и принятия проекта нормативного правового акта всегда является наиболее действенной с точки зрения устранения выявленных недостатков, а также наименее затратной. Правовая экспертиза всегда способствует повышению качества нормативного акта в целом, устранению пробелов и противоречий. Антикоррупционная экспертиза как ее разновидность преследует более узкие и специальные цели: оценить возможности применения норм в процессе деятельности органов публичной власти с точки зрения потенциальных коррупционных возможностей для недобросовестных государственных (муниципальных) служащих.
Во-вторых, антикоррупционная экспертиза — это часть большой работы над текстом НПА, направленной на достижение правовой определенности. В условиях отсутствия закона о нормативных правовых актах требование правовой определенности по отношению к НПА долгое время оставалось не сформулированным. Оно появилось в Федеральном законе от 31.07.2020 № 247-ФЗ «Об обязательных требованиях в Российской Федерации» применительно к содержанию обязательных требований (которые есть не что иное, как нормативный текст) и поясняется через ясность, логичность, понятность как правоприменителю, так и иным лицам; содержание обязательных требований также должно быть согласованным с целями и принципами законодательного регулирования той или иной сферы и правовой системы в целом.
В-третьих, экспертизу проводит специалист. Изначально предполагалось, что антикоррупционная экспертиза будет осуществляться независимо, сторонними по отношению к государственным органам субъектами. В таком взгляде со стороны
всегда есть большой смысл и польза. Но — желание государства все контролировать перевесило, и экспертиза ушла в ведомства. Закон отдал ее прокуратуре, Министерству юстиции и самим органам власти — разработчикам НПА. Независимая антикоррупционная экспертиза при этом попала в частокол требований — сначала об обязательной аккредитации экспертов в Минюсте (предполагалось, что это просто некий учетный фильтр для потенциальных экспертов), затем появились требования к личности независимого эксперта (экспертами не могут быть граждане, имеющие неснятую или непогашенную судимость, международные и иностранные организации, некоммерческие организации, выполняющие функции иностранного агента, и др.). И это притом что экспертиза проводится за собственный счет, заключение носит рекомендательный характер и в общем-то ни к чему органы власти не обязывает. Неудивительно, что особой активности антикоррупционных экспертов не наблюдается.
Изложенное позволяет сформулировать исходные позиции для применения ИИ в антикоррупционной экспертизе, к которым относятся осуществление экспертизы в отношении проектов НПА, оценка ИИ правовой определенности акта. Наконец, обучение антикоррупционной экспертизе ИИ сократит количество участников этого процесса.
Безусловно, антикоррупционную экспертизу не стоит идеализировать. В оценке нормативного текста всегда будет присутствовать субъективизм эксперта, будут чувствоваться его опыт и приоритеты. Необходимо выяснить, справится ли с этим недостатком ИИ.
2.4. Внедрение искусственного интеллекта в проведение антикоррупционной экспертизы
На основании изложенного надлежит оценить возможности внедрения ИИ в проведение антикоррупционной экспертизы. Представляется, что ИИ определенно способен стать помощником в деле проведения качественной антикоррупционной экспертизы. Целесообразно предусмотреть два этапа внедрения ИИ в антикоррупционную экспертизу: 1) связанный с оценкой наиболее формализованных критериев коррупциогенности; 2) связанный с расширенной оценкой исключенных из правительственной методики факторов, о которых мы упоминали выше.
Остановимся на том, что, на наш взгляд, стоит учесть при внедрении ИИ в проведение антикоррупционной экспертизы.
Во-первых, возможность обработки больших массивов данных дает шанс обучить ИИ прогнозированию коррупционных нарушений, что для антикоррупционной экспертизы, основанной на смоделированном предположении, крайне важно. Основой обучения ИИ должны стать не только нормативные тексты и правила, но и правоприменительная практика, статистика (в том числе судебная), данные социологических опросов, доктрина. Здесь крайне важно, чтобы для обучения были отобраны действительно лучшие практики (возможно, лучшие заключения состоявшихся антикоррупционных экспертиз); иными словами, отбор данных для обучения является ключевым залогом успешного обучения.
Во-вторых, особого внимания требует обучение экспертным тонкостям в оценке правовой определенности. Вообще, неопределенность выступает неотъ-
емлемым элементом языка права, а возможности уточнения неопределенных контекстов явно имеют свои пределы (Блинова, Белов 2020, 803). Кроме того, любая экспертиза субъективна, и во многом в силу того, что любое понятие или категория неоднозначны и могут толковаться различно. В этом смысле даже формулировки коррупционных факторов, допускающие вариации в толковании, сами являются коррупциогенными. Необходимо, с одной стороны, обучить ИИ единообразному толкованию, а с другой — оставить некоторый простор, не позволяющий свести ИИ до уровня простого алгоритма. В противном случае возникает опасность сужения поля деятельности ИИ, а следовательно, выхолащивания смысла антикоррупционной экспертизы.
В-третьих, основным орудием алгоритма служит четкая классификация. Алгоритм антикоррупционной оценки должен быть совмещен с существующими в нормативной сфере классификаторами — классификатором правовых актов, глоссариями общими и отраслевыми. Это поможет достичь более четкой структуры и содержания нормативных текстов, ясной терминологии (особенно если включить в перечень задач, поставленных перед ИИ, не только выявление коррупционных факторов, но и формулировку исправлений нормативного текста, с тем чтобы он перестал быть коррупциогенным).
Наверняка отыскание формализованных коррупционных факторов не составит особого труда для ИИ, а человеку значительно сократит время на поиски. Так, определение компетенции по формуле «вправе» обнаруживается даже на уровне экспертных систем, также легко можно найти чрезмерную свободу ведомственного нормотворчества (бланкетные и отсылочные нормы), принятие НПА за пределами компетенции органа, дефекты административных процедур, нормативные коллизии. Более сложными для обнаружения могут оказаться широта дискреционных полномочий, выборочное изменение объема прав, наличие завышенных требований, т. е. ситуации, в которых требуется уже не только формальная оценка самого акта и его места в системе законодательства, но и моделирование возможных коррупционных ситуаций, которые возникают на основе «подозрительных» норм. В антикоррупционной экспертизе, проводимой человеком, обнаружение таких факторов требует достаточно высокой квалификации эксперта, солидного опыта, непредвзятости — всего того, что вызывает критику ввиду субъективности заключений экспертиз, неизбежно носящих на себе отпечаток личности эксперта. Думается, избавление от субъективизма антикоррупционной экспертизы является самой значимой задачей, оправдывающей использование ИИ.
Пока нельзя утверждать с достоверностью, что ИИ не станет растиражированным субъективным экспертом, но определенные предпосылки для избавления от субъективизма имеются. Сейчас, если экспертиза проводится независимым экспертом, всегда существует возможность упрекнуть его в предвзятости, к тому же его заключение не носит официального и обязательного характера. Экспертиза, проводимая внутри ведомства, — поточная, обнаруживающая часто лишь самые очевидные недостатки, различимые и при обычной правовой экспертизе. К тому же нельзя исключать фактор ведомственной заинтересованности в прохождении акта. Вернуть антикоррупционную экспертизу в поле общественного контроля способны два шага: 1) сделать заключение антикоррупционной экспертизы, проведенной хорошо обученным ИИ, полностью транспарентным и открыто публи-
куемым; 2) обязать ответственного государственного служащего давать объяснения по каждому выявленному ИИ коррупционному фактору (т. е. пояснять, почему этот фактор не будет учтен в окончательном экспертном заключении, кстати, также открыто публикуемом). Соответственно, важно детально регламентировать функционирование не только ИИ как помощника, но и государственного служащего, ставящего свою подпись под заключением, и тем самым подчинить его деятельность принципам прозрачности и подконтрольности.
Получается, что антикоррупционная экспертиза с использованием ИИ позволяет минимизировать субъективизм, унифицировать подходы к толкованию коррупционных факторов, повысить общее качество НПА и соответствие юридико-техническим требованиям. Но все это — при условии строгой регламентации процессов обучения и использования ИИ для целей антикоррупционной экспертизы.
3. Выводы
Потенциал использования ИИ для целей государственного управления, в частности при проведении антикоррупционных экспертиз проектов НПА, очевиден. Преимущества ИИ, такие как многозадачность, обработка огромных массивов данных, идеальная память, аналитические возможности и др., составляют значимую конкуренцию самому квалифицированному юристу.
Нормативные акты, прошедшие антикоррупционную экспертизу с использованием ИИ, способны создать основу для стройной системы законодательства, состоящего из непротиворечивых и очищенных с точки зрения коррупциогенности норм. Более того, такая экспертиза служит унификации правоприменения, а это значит, что вольные толкования нормативных текстов могут остаться в прошлом. Избавление от избирательности применения закона — гарантия правового государства.
Описанные перспективы вполне реальны, но при условии продуманного нормативного регулирования процедуры использования ИИ. Еще более важны регламентация процесса обучения ИИ и сертификация используемых информационных систем. Только тогда можно будет создать ИИ, который станет умным и беспристрастным антикоррупционным экспертом.
Библиография
Барчуков, Вадим К. 2020. «Использование искусственного интеллекта в деятельности правоохранительных органов зарубежных стран». Международное публичное и частное право 5: 19-21. Блинова, Ольга В., Сергей А. Белов. 2020. «Языковая неоднозначность и неопределенность в русских
правовых текстах». Вестник Санкт-Петербургского университета. Право 4: 774-812. Дементьев, Александр Н., Ольга А. Дементьева, Вадим Н. Бондарь. 2020. Экспертиза нормативных правовых актов в сфере реализации промышленной политики в Российской Федерации. М.: Норма.
Залоило, Максим В., Аркадий Ю. Базыкин. 2019. «Новейшие технологии общественного конструирования и редактирования текста юридического документа (проекта нормативного правового акта): современное состояние и тенденции развития». Язык правотворчества в условиях циф-ровизации общественных отношений, под общ. ред. Дмитрия А. Пашенцева, Максима В. Зало-ило, 44-52. М.: Институт законодательства и сравнительного правоведения, ИНФРА-М. Залоило, Максим В., Дмитрий С. Гвоздецкий. 2019. «Влияние цифровых технологий на язык права
в ведомственном нормотворческом процессе». Язык правотворчества в условиях цифровиза-ции общественных отношений, под общ. ред. Дмитрия А. Пашенцева, Максима В. Залоило, 165-170. М.: Институт законодательства и сравнительного правоведения, ИНФРА-М. Поздышев, Василий. 2019. «Даже самую сложную нейросеть можно взломать». Дата обращения
31 января 2021. https://1prime.ru/finance/20191218/830703374.html. Савельев, Денис А. 2018. «О создании и перспективах использования корпуса текстов российских правовых актов как набора открытых данных». Право. Журнал Высшей школы экономики 1: 26-44.
Соколова, Алла А. 2019. «Искусственный интеллект в юриспруденции: риски внедрения». Юридическая техника 13: 350-356. Талапина, Эльвира В. 2007. «Об антикоррупционной экспертизе». Журнал российского права 5: 5266.
Трунцевский, Юрий В. 2019. «Закон как данные в эпоху цифровизации». Язык правотворчества в условиях цифровизации общественных отношений, под общ. ред. Дмитрия А. Пашенцева, Максима В. Залоило, 66-73. М.: ИЗиСП, ИНФРА-М. Dehaene, Stanislas. 2018. Apprendre! Les talents du cerveau, le défi des machines. Paris: éd. Odile Jacob. Hanold, Stefanie. 2018. "Profiling and automated decision-making: Legal implications and shortcomings". Robotics, AI and the future of law, eds Marcelo Corrales Compagnucci, Mark Fenwick, Nikolaus Forgo, 123-153. New York: Springer. Susskind, Richard. 2010. The end of lawyers? Rethinking the nature of legal services. New York: Oxford University Press.
Villani, Cédric, Marc Schoenauer, Yann Bonnet, Charly Berthet, Anne-Charlotte Cornut, François Levin, Bertrand Rondepierre. 2018. "Donner un sens à l'intelligence artificielle: Pour une stratégie nationale et européenne". Accessed February 3, 2021. https://www.researchgate.net/publication/330179947_ Donner_un_sens_a_l'intelligence_artificielle_Pour_une_strategie_nationale_et_europeenne. Wrigley, Sam. 2018. "Taming artificial intelligence: "Bots," the GDPR and regulatory approaches". Robotics, AI and the future of law, eds Marcelo Corrales Compagnucci, Mark Fenwick, Nikolaus Forgo, 183-208. New York: Springer.
Статья поступила в редакцию 9 февраля 2021 г.; рекомендована в печать 2 сентября 2021 г.
Контактная информация:
Талапина Эльвира Владимировна — д-р юрид. наук, д-р права (Франция); [email protected]
Artificial intelligence and legal expertise in public administration*
E. V. Talapina
Russian Academy of National Economy and Public Administration
under the President of the Russian Federation,
82, pr. Vernadskogo, Moscow, 119571, Russian Federation
For citation: Talapina, Elvira V. 2021. "Artificial intelligence and legal expertise in public administration". Vestnik of Saint Petersburg University. Law 4: 865-881. https://doi.org/10.21638/spbu14.2021.404 (In Russian)
The legal comprehension of artificial intelligence (AI) is at an initial stage, despite its history and practical applications. The purpose of the study is to assess the capacity of using AI for
* The article was written on the basis of the Russian Academy of National Economy and Public Administration under the President of the Russian Federation state assignment research program.
legal expertise in public administration. General legal expertise improves the quality of a normative legal act, anti-corruption expertise serves to reduce the propensity for corruption. The implementation of AI must be regulated, and a transparent certification system should be created. In public administration among the reference points for regulating AI, it is noted that the personal data-processing mode should take into consideration the specific features of each application of AI; the mode should be differentiated. The transparency of using AI should be indisputable. A particular complex issue for regulation is AI learning. Different types of expertise correspond to different lists of stakeholders and data-in-use. The application of AI for anti-corruption expertise will be most effective in relation to draft regulatory legal acts. AI is able to contribute to the legal certainty of an act, and AI anti-corruption expertise learning will reduce the number of participants in the process. To implement this, it is important to consider the following circumstances. Firstly, the ability to process big data affords the opportunity to "teach" AI in predicting corruption violations, which is important for anti-corruption expertise based on a modeled assumption. Secondly, special attention is required for AI learning in terms of expert subtleties in assessing legal certainty. Thirdly, the anti-corruption evaluation algorithm must be combined with existing classifiers of legal acts, glossaries. Anti-corruption expertise using AI makes it possible to minimize subjectivity, unify approaches in interpreting corruption factors, increase the overall quality of normative legal acts and meet legal and technical requirements under the condition of strict regulation of AI learning and usage.
Keywords: expertise, artificial intelligence, corruption, legal security, digitalization, public administration.
References
Barchukov, Vadim K. 2020. "The use of artificial intelligence in operations of law enforcement authorities of
foreign countries". Mezhdunarodnoe publichnoe i chastnoe pravo 5: 19-21. (In Russian) Blinova, Olga V., Sergei A. Belov. 2020. "Linguistic ambiguity and vagueness in Russian legal texts". Vestnik
of Saint Petersburg University. Law 4: 774-812. (In Russian) Dehaene, Stanislas. 2018. Apprendre!Les talents du cerveau, le défi des machines. Paris, éd. Odile Jacob. Dement'ev, Aleksandr N., Ol'ga A. Dement'eva, Vadim N. Bondar'. 2020. Examination of regulatory legal acts in the field of implementation of industrial policy in the Russian Federation. Moscow, Norma Publ. (In Russian)
Hanold, Stefanie. 2018. "Profiling and automated decision-making: Legal implications and shortcomings". Robotics, AI and the future of law, eds Marcelo Corrales Compagnucci, Mark Fenwick, Nikolaus Forgo, 123-153. New York, Springer. Pozdyshev, Vasilii. 2019. "Even the most complex neural network can be hacked". Accessed January 31, 2021.
https://1prime.ru/finance/20191218/830703374.html. (In Russian) Savel'ev, Denis A. 2018. "About creation and the prospects of use of corpus of the Russian legal acts as set of
open data". Pravo. Zhurnal Vysshei shkoly ekonomiki 1: 26-44. (In Russian) Sokolova, Alla A. 2019. "Artificial intelligence in jurisprudence: the risks of implementation". Iuridicheskaia
tekhnika 13: 350-356. (In Russian) Susskind, Richard. 2010. The end of lawyers? Rethinking the nature of legal services. New York, Oxford University Press.
Talapina, Elvira V. 2007. "On anti-corruption expertise". Zhurnal rossiiskogo prava 5: 52-66. (In Russian) Truntsevskii, Iurii V. 2019. "Law as data in the age of digitalization". Iazyk pravotvorchestva v usloviiakh tsifrovizatsii obshchestvennykh otnoshenii, eds Dmitrii A. Pashentsev, Maksim V. Zaloilo, 66-73. Moscow, IZiSP, INFRA-M Publ. (In Russian) Villani, Cédric, Marc Schoenauer, Yann Bonnet, Charly Berthet, Anne-Charlotte Cornut, François Levin, Bertrand Rondepierre. 2018. "Donner un sens à l'intelligence artificielle: Pour une stratégie nationale et européenne". Accessed February 3, 2021. https://www.researchgate.net/publication/330179947_ Donner_un_sens_a_l'intelligence_artificielle_Pour_une_strategie_nationale_et_europeenne.
Wrigley, Sam. 2018. "Taming artificial intelligence: 'Bots', the GDPR and regulatory approaches". Robotics, AI and the future of law, eds Marcelo Corrales Compagnucci, Mark Fenwick, Nikolaus Forgo, 183-208. New York, Springer.
Zaloilo, Maksim V., Arkadii Iu. Bazykin. 2019. "New technologies of public construction and editing of the text of a legal document (draft normative legal act): current state and trends of development". Iazyk pravotvorchestva v usloviiakh tsifrovizatsii obshchestvennykh otnoshenii, eds Dmitrii A. Pashentsev, Maksim V. Zaloilo, 44-52. Moscow, Institut zakonodatel'stva i sravnitel'nogo pravovedeniia Publ., INFRA-M Publ. (In Russian) Zaloilo, Maksim V., Dmitrii S. Gvozdetskii. 2019. "The impact of digital technologies on the language of law in the departmental law-making process". Law-making language within the context of digitalization of social relations: collection of scientific articles, eds. Dmitrii A. Pashentsev, Maksim V. Zaloilo, 165-170. Moscow, Institut zakonodatel'stva i sravnitel'nogo pravovedeniia Publ., INFRA-M Publ. (In Russian)
Received: February 9, 2021 Accepted: September 2, 2021
Author's information:
Elvira V. Talapina — Dr. Sci. in Law, J. D. (France); [email protected]
