CC BY
17
Проблемы правового регулирования и применения искусственного интеллекта в антикоррупционной экспертизе нормативно-правовых актов
Абоян Агавни Арменаковна,
магистрант Юридической школы образовательной программы «Юридическое сопровождение деятельности органов власти» ДВФУ
E-mail: aboian.aa@dvfu.ru Парин Дмитрий Витальевич,
магистрант Юридической школы образовательной программы «Юридическое сопровождение деятельности органов власти» ДВФУ
E-mail: parin.dv@dvfu.ru
В связи с созданием в 2022 году первой тестовой модели искусственного интеллекта, позволяющей частично автоматизировать процесс проведения антикоррупционной экспертизы актов, сегодня активно обсуждается вопрос полноценного делегирования «роботам» функций субъектов, осуществляющих данную экспертизу. Настоящая статья посвящена анализу правового регулирования общественных отношений, возникающих в связи с применением искусственного интеллекта в обозначенной области деятельности, а также выявлению проблем такого применения. Для раскрытия данных вопросов автор использует классические общенаучные методы исследования, а также такие частно-научные методы (формально-юридический метод, метод моделирования). В результате автор приходит к выводам о том, что правовое осмысление процесса автоматизации антикоррупционной экспертизы актов находится сегодня на «предначальной стадии» и нуждается в оперативном развитии в целях недопущения возникновения негативных последствий в виде нарушения основных прав и свобод граждан. В выводах автор также указывает о недопустимости полноценной передачи в руки «роботов» функций экспертов и необходимости применения искусственного интеллекта на всех стадиях антикоррупционной экспертизы актов по принципу «управляет человек», предполагающему принятие окончательного решения людьми.
Ключевые слова: Антикоррупционная экспертиза актов, искусственный интеллект, проблемы применения, правовое регулирование, коррупциогенный фактор, стадии правотворчества.
S2
со см о см см
Введение
В современных условиях наблюдается тенденция к развитию информационных технологий, оцифровыванию практически всех сфер жизнедеятельности человека с целью улучшения качества жизни. При этом сферы применения цифровых технологий, в частности искусственного интеллекта, находятся в постоянном расширении.
Результатом бурного развития научно-технического прогресса становится, в числе прочего, активное использование искусственного интеллекта в деятельности органов государственной власти. Опыт России и зарубежных стран свидетельствует о том, что внедрение цифровых технологий в обозначенную сферу способно оказать существенное влияние на реализацию многих функций государства.
В частности, сегодня активно обсуждается вопрос внедрения искусственного интеллекта в процесс проведения антикоррупционной экспертизы нормативно-правовых актов с целью повышения качества данной процедуры, снижения издержек и увеличения эффективности её проведения, создания дополнительных барьеров для лоббирования и коррупционных проявлений [8; с. 865].
Сам институт антикоррупционной экспертизы, созданный в России в недалёком 2009 году и представляющий собой один из важнейших этапов правотворческого процесса, в настоящее время испытывает ряд трудностей, обусловленных сочетанием низкой активности независимых экспертов и отдельных антикоррупционных экспертиз с высокой нагрузкой по проведению последних, накладывающейся на органы прокуратуры и Министерство юстиции [3; с. 34]. Одним из путей развития и совершенствования процедуры антикоррупционной экспертизы является автоматизация данного процесса как раз посредством применения искусственного интеллекта.
Уже сегодня активно ведутся разработки модели искусственного интеллекта, позволяющей частично автоматизировать процесс проведения антикоррупционной экспертизы. В частности, впервые подобная модель была разработана Проектно-учебной лабораторией антикоррупционной политики (ПУЛАП) НИУ ВШЭ и Отделом методологии противодействия коррупции Института законодательства и сравнительного правоведения при Правительстве РФ [6]. В функции данной модели ИИ входят возможность загрузки файлов нормативных актов для анализа, выявление в них признаков коррупциогенности на основании алгоритмов
машинного обучения и получение подробного отчёта с перечнями элементов акта и признаков кор-рупциогенности, последовательно увеличивающимися по мере дополнения и расширения доступных баз данных.
В свою очередь, как было указано заместителем министра юстиции Максимом Бесхмельницы-ным в рамках X Петербургского международного юридического форума, Министерство юстиции Российской Федерации тестирует искусственный интеллект при регистрации правовых актов ведомств и может сделать выводы о том, что последний «успешно проверяет их на соответствие юридической технике, проводит антикоррупционную экспертизу, делает полный комплекс проверки» [4].
Исследователи также полагают, что система искусственного интеллекта в настоящий момент позволяет проводить антикоррупционную экспертизу разрабатываемых актов, осуществлять первичный анализ на соответствие действующему законодательству Российской Федерации [2; с. 86].
Наряду с этим существует ряд опасений, касающихся внедрения искусственного интеллекта в процесс проведения антикоррупционной экспертизы, в числе которых, как представляется, низкий уровень правового осмысления данного вопроса, а также сама невозможность проведения системой всесторонней качественной проверки актов и полноценного перекладывания на неё роли эксперта.
В связи с указанным задачами настоящего исследования являются проведение анализа правового регулирования в области общественных отношений, возникающих в связи с использованием искусственного интеллекта в области антикоррупционной экспертизы, а также выявление проблем, связанных с таким использованием и вызванных самой природой права как социального регулятора.
Настоящее исследование структурно состоит из двух частей: в первой части приводится обзор законодательства в области антикоррупционной экспертизы и анализируется возможность его применения к отношениям, возникающим в связи с использованием искусственного интеллекта в данной области - делается вывод о низком уровне правового осмысления данного вопроса, о невозможности применения к указанным отношениям действующего законодательства, а также о необходимости оперативного обновления данного законодательства в связи с быстро развивающимися общественными отношениями в указанной области; во второй части анализируется потенциальная возможность применения искусственного интеллекта в обозначенной сфере, описываются конкретные способности системы, которые могут быть успешно использованы в процессе экспертизы нормативных актов, а также анализируется возможность выявления системой коррупциоген-ных факторов - делается вывод о недопустимости полноценного проведения антикоррупционной экспертизы искусственным интеллектом единолично и о необходимости функционирования системы под контролем эксперта.
Обзор законодательства в области использования искусственного интеллекта в антикоррупционной экспертизе нормативно-правовых актов
Использование искусственного интеллекта в той или иной сфере, включая область проведения антикоррупционной экспертизы правовых актов, обусловливает необходимость решения множества вопросов, связанных с правовым режимом функционирования первого: правосубъектность искусственного интеллекта, ответственность за его действие (бездействие), взаимоотношения искусственного интеллекта с человеком, информационная безопасность, проблемы использования и обработки искусственным интеллектом персональных данных и многое другое.
Анализ нормативной базы, направленной на урегулирование использования искусственного интеллекта в сфере антикоррупционной экспертизы правовых актов, имеет особо важную роль, поскольку результаты данного процесса оказывают впоследствии непосредственное влияние на дальнейшую судьбу общественных отношений, на регламентирование которых направлен тот или иной нормативно-правовой акт.
В соответствии с Национальной стратегией развития искусственного интеллекта к 2030 году в Российской Федерации должна функционировать гибкая система нормативно-правового регулирования в области искусственного интеллекта, гарантирующая безопасность населения, соблюдение прав, свобод и законных интересов человека и гражданина [5]. Однако сегодня правовое регулирование рассматриваемого вопроса значительно отстаёт от стремительно развивающихся общественных отношений, порождая определённые риски для общества в целом.
Принятые в области применения цифровых технологий нормативно-правовые акты немногочисленны. В области применения искусственного интеллекта в антикоррупционной экспертизе правовых актов специализированное законодательство сегодня отсутствует вовсе.
В настоящее время в российском правовом поле существует ряд нормативных актов, регулирующих процесс проведения антикоррупционной экспертизы в целом, но вопрос о возможности применения положений, содержащихся в данных актах, к искусственному интеллекту является спорным.
Основным нормативным актом в области антикоррупционной экспертизы является Федеральный закон от 17 июля 2009 г. № 172-ФЗ «Об антикоррупционной экспертизе нормативных правовых актов и проектов нормативных правовых актов». Данный закон устанавливает порядок проведения антикоррупционной экспертизы и круг субъектов, обладающих компетенцией по её проведению, среди которых фигурирует прокуратура РФ, Министерство юстиции РФ, а также органы, организации и их должностные лица в порядке, установленном нормативными правовыми актами соответ-
5 -о
сз ж
■с
ствующих федеральных органов исполнительной власти, иных государственных органов и организаций, органов государственной власти субъектов РФ, органов местного самоуправления. Кроме того, в соответствии с пунктом 4 Правил проведения антикоррупционной экспертизы нормативных правовых актов и проектов нормативных правовых актов, утверждённых Постановлением Правительства РФ от 26 февраля 2010 г. № 96, юридическими и физическими лицами, аккредитованными Министерством юстиции РФ в качестве экспертов по проведению независимой антикоррупционной экспертизы может осуществляться такого рода экспертиза. При этом, как следует из Приказа Министерства юстиции РФ от 29 марта 2019 г. № 57, лицами, изъявившими желание получить аккредитацию на проведение в качестве независимых экспертов, могут являться граждане Российской Федерации, имеющие высшее образование и стаж работы по специальности не менее 5 лет, а также юридические лица, имеющие в своём штате не менее 3 работников, удовлетворяющих установленным в данном Приказе требованиям.
Таким образом, ни в одном из приведённых актов в настоящий момент искусственный интеллект не установлен в качестве самостоятельного субъекта, осуществляющего антикоррупционную экспертизу. Более того, поскольку на территории России искусственный интеллект в принципе не наделён правосубъектностью в отличии, например, от Саудовской Аравии, вопрос о потенциальном наделении искусственного интеллекта правомочием по проведению таковой экспертизы не может ставиться вовсе. Отдельные авторы задаются вопросом о наделении робота как носителя искусственного интеллекта неполной гражданской правосубъектностью, но этот вопрос является самостоятельным предметом исследований, не подлежащим рассмотрению в рамках данной работы.
Из указанного выше следует, что на сегодня использование систем искусственного интеллекта в области антикоррупционной экспертизы правовых актов представляется возможным исключительно в том случае, если такие системы будут являться вспомогательными средствами, способствующими деятельности основных экспертов. Но даже при таком ходе событий действующее законодательство об антикоррупционной экспертизе не содержит никаких предпосылок, допускающих внедрение цифровых технологий в данный процесс. Однако урегулирование данного вопроса является необходимым, поскольку процесс внедрения искусственного интеллекта в антикоррупционную экспертизу правовых актов остаётся нерегла-ментированным: неясен статус тех заключений, которые могут быть даны системой эксперту, будут ли они подлежать обязательному учёту послед-5= ним или будут представлять собой обязательные — для принятия экспертом во внимание акты; оста-^ ётся непонятным, кто будет нести ответственность ^ за те нарушения, которые могут быть допущены Ц системой - эксперт, под чьим руководством нахо-
дилась система, или разработчик (производитель) данной системы; актуальным является и установление перечня правовых актов, ответственность за проверку которых будет лежать на искусственном интеллекте; отдельного внимания требует урегулирование вопроса взаимодействия эксперта и системы - будет ли он представлять собой тандем, где эксперт является неким итоговым «фильтром» для тех выводов, что были сделаны искусственным интеллектом, или же наподобие китайской системы робот-правосудия искусственный интеллект будет необходим в качестве осуществления контроля над деятельностью эксперта и некого сдерживающего механизма, не допускающего принятия субъективных решений экспертами.
Таким образом, сегодня практика развивается в опережающем порядке по отношению к теории. Но стоит помнить, что любое применение искусственного интеллекта непосредственно влияет на основные права человека, которые признаны высшей ценностью. Поэтому, оценивая возможности использования ИИ в какой бы то ни было сфере, нужно прежде всего оценить риски нарушения прав человека. Кроме того, если понятие ещё не стало правовым, если его нормативное регулирование не сложилось, трудно вести речь об ответственности за различные девиации. Всё это является аргументами в пользу скорейшего развития правовой доктрины в данной области.
Проблемы практического применения искусственного интеллекта в антикоррупционной экспертизе нормативно-правовых актов
Отсутствие соответствующей нормативной базы, допускающей применение технологий искусственного интеллекта в антикоррупционной экспертизе нормативных актов, является не единственным камнем преткновения в реализации такой задумки. Практическая возможность применения искусственного интеллекта в области проверки нормативных актов сама по себе вызывает ряд вопросов с точки зрения специфики права и юридической деятельности в целом, формирования правовой мысли.
Сегодня возможности нейронной сети не являются безграничными. Разработки в области искусственного интеллекта действительно позволяют применять его в рамках антикоррупционной экспертизы для обнаружения коллизий и пробелов, дублирований, выявления несоответствия предлагаемого регулирования актам более высокой юридической силы, расхождения в терминологии с действующими актами, сопоставления проекта с международными актами, то есть именно в оценке правовых актов с формальной точки зрения, а также на соответствие их юридико-техническим требованиям. Безусловно, это позволит повысить скорость и эффективность оценки проектируемого акта, однако формальные нарушения являются отнюдь не единственными и главными при проведении антикоррупционной экспертизы нормативных актов.
Большой проблемой для искусственного интеллекта может стать так называемая «открытая текстура» юридического языка, уходящая своими корнями к концепции «открытой текстуры» естественного языка Фридриха Вайсмана [9; с. 321]. Выражение правовой мысли в нормативных актах с использованием особенностей юридического языка зачастую таит в себе неустранимую и вынужденную неопределённость, например, когда речь идёт о необходимости установления открытого перечня смягчающих обстоятельств в уголовном законе с целью защиты прав осужденных или преднамеренного и умышленного с точки зрения законодателя употребления категорий оценочного характера. Выявление правовой неопределённости в положениях нормативных актов отнюдь нельзя отнести к возможной функции искусственного интеллекта, поскольку сама особенность принципа правовой определённости заключается в его абсолютной неопределённости [1; с. 6]. Система искусственного интеллекта основана на определённом алгоритме, заложенном в его программном обеспечении разработчиком, однако сегодня не представляется возможным создание такого алгоритма, который мог бы обнаружить правовые нюансы положений нормативного акта, связанные с выявлением в них неопределённости. Язык в целом является живым организмом, которому свойственно постоянное изменение и развитие, в свою очередь, юридический язык - представляет собой особую материю, которую зачастую невозможно объективизировать. Рассмотрим конкретный пример.
Основную роль в процессе проведения антикоррупционной экспертизы нормативных актов играет выявление соответствующими органами и лицами коррупциогенных факторов, установленных в Постановлении Правительства РФ от 26 февраля 2010 г. № 96 «Об антикоррупционной экспертизе нормативных правовых актов и проектов нормативных правовых актов», к которым относится, в частности, такой фактор как определение компетенции по формуле «вправе». Если выявление такого фактора будет вложено в алгоритм искусственного интеллекта, то каждый раз, встречая слово «вправе» в тексте того или иного нормативного акта, система будет фиксировать выявление нарушения. Однако многие нормативно-правовые акты сегодня определяют компетенцию государственного органа и/или должностного лица при помощи диспози-тивных установок, поскольку право и обязанность связаны неразрывно и образуют единое полномочие. Наличие рассматриваемого коррупциогенного фактора не означает, что у государственного органа, государственного служащего и/или должностного лица вообще не может быть прав, которые возможно было бы использовать по усмотрению. Такие права есть, просто они приобретают характер исключения и находятся в строгой зависимости от определённых, законодательно установленных условий (например, право задержания подозреваемого в совершении преступления, право сотрудника полиции лично или в составе подразделения
(группы) применять специальные средства). Поэтому выявление такого рода коррупциогенных факторов требует особой субъективной оценки, как и выявление нарушения принципа правовой определённости.
Вместе с тем важно отметить и то обстоятельство, что искусственный интеллект в отличие от человека не способен оценивать качество и содержание нормативных актов с учётом всех политических, экономических, социальных, культурных и иных факторов, выявлять слабые места проекта нормативного правового акта с точки зрения тех последствий, которые могут быть в связи с его принятием, оценивать риски его принятия, поэтому вопрос о внедрении цифровых технологий в процесс проведения антикоррупционной экспертизы актов может ставится, как представляется, только при условии тандема искусственного интеллекта и живого человека, контролирующего его применение, по принципу «управляет человек», предполагающему принятие окончательного решения людьми [7; с. 595].
Заключение
Таким образом, следует учитывать, что применение искусственного интеллекта в любой сфере не является не является универсальным решением всех проблем, существующих в антикоррупционной экспертизе актов, или некой «панацеей от всех бед». Как было обозначено в настоящем исследовании, в определённых случаях искусственный интеллект может приводить к некорректным выводам и ошибкам, обозначая в качестве коррупциогенного фактора то, что таковым не является. В конечном счёте каждая ошибка, допустимая системой на стадии проведения экспертизы правового акта, может повлечь негативные последствия в результате применения такого акта, отражающиеся на реализации основных прав и свобод лиц, на регулирование отношений которых направлен тот или иной нормативный акт. В связи с чем при внедрении искусственного интеллекта в рассматриваемую область деятельности необходимо учитывать всевозможные риски и предпринимать ряд шагов, гарантирующих их избежание.
В связи с указанным выше применение искусственного интеллекта в антикоррупционной экспертизе влечёт также необходимость создания комплексного правового регулирования отношений, возникающих в связи с таким применением, необходимость разработки того правового массива, который позволит с точностью определить юридическую силу и статус решений, выносимых системой, регламентировать процесс принятия системой решений, круг актов, по которым он может 5 осуществлять экспертизу и многие другие вопро- д сы, связанные с возникновением рассматривае- Ч мых общественных отношений. К
Аргументы, приведённые в настоящей рабо- § те, свидетельствует о необходимости оператив- А ного развития правового регулирования в такой А
области применения искусственного интеллекта, как антикоррупционная экспертиза нормативно-правовых актов, а также о том, что сегодня полноценное перекладывание роли эксперта на искусственный интеллект является преждевременным.
Литературa
1. Бершицкий Э.Е. Правовая определённость и оценочные категории. М.: М-Логос, 2021. 154 с.
2. Залоило М.В., Гвоздецкий Д.С. Цифровизация ведомственного нормотворчества: тенденции и перспективы / Статья в сборнике научных трудов «Трансформация правовой реальности в цифровую эпоху» / под общей ред. Д.А. Па-шенцева, М.В. Залоило. М., 2019. 213 с.
3. Искусственный интеллект в профилактике правовых рисков и противодействии коррупции: доклад к XXIII Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества / Е.А. Арте-менко, А.М. Волкова, Р.О. Долотов и др.; под науч. ред. Д.В. Крыловой. М., 2022. 48 с.
4. Минюст в тестовом режиме использует ИИ при регистрации НПА. [Электронный ресурс] -URL: https://news.myseldon.com/ru/news/in-dex/270295930 (дата обращения: 10.03.2023).
5. О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации от 10 октября 2019 г. № 490 // Доступ из справоч.-правовой системы «Гарант».
6. Проектная группа «IT-решение в сфере антикоррупционной экспертизы нормативно-правовых актов, регламентирующих поддержку предпринимательства: аспекты правового регулирования и машинного обучения». Высшая школа экономики. [Электронный ресурс] -URL: https://pravo.hse.ru/anticorrupt_it/ (дата обращения: 10.03.2022).
7. Разумова Т.О., Артамонова М.В. Эволюция социально-трудовых отношений и новая роль социального партнёрства в эпоху глобальных перемен / Статья в сборнике научных трудов по итогу XIX Международных Лихачевских научных чтений «Мировое развитие: проблемы предсказуемости и управляемости». СПб, 2019. 632 с.
8. Талапина Э.В. Искусственный интеллект и правовые экспертизы в государственном управлении // Вестник Санкт-Петербургского университета. Серия: Право. 2021. № 4. С. 865-881.
9. Ястребов О.А. Искусственный интеллект в правовом пространстве // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 3. С. 315-321.
ЕЕ S2
со см о см см
PROBLEMS OF LEGAL REGULATION AND APPLICATION OF ARTIFICIAL INTELLIGENCE IN ANTICORRUPTION EXAMINATION OF REGULATIONS
Aboyan A.A., Parin D.V.
FEFU
In connection with the creation in 2022 of the first test model of artificial intelligence, which allows partially automating the process of conducting an anti-corruption examination of acts, the issue of fully delegating the functions of subjects carrying out this examination to "robots" is being actively discussed today. This article is devoted to the analysis of the legal regulation of public relations arising in connection with the use of artificial intelligence in the designated field of activity, as well as the identification of problems of such application. To disclose these issues, the author uses classical general scientific research methods, as well as such private scientific methods (formal legal method, modeling method). As a result, the author comes to the conclusion that the legal understanding of the process of automating the anti-corruption examination of acts is currently at the "initial stage" and needs operational development in order to prevent the occurrence of negative consequences in the form of violations of fundamental rights and freedoms of citizens. In the conclusions, the author also points out the inadmissibility of fully transferring the functions of experts into the hands of "robots" and the need to use artificial intelligence at all stages of the anti-corruption examination of acts on the principle of "human control", which presupposes the final decision by people.
Keywords: Anti-corruption expertise of acts, artificial intelligence, problems of application, legal regulation, corruption factor, stages of law-making.
References
1. Bershitsky E.E. Legal certainty and evaluation categories. M.: M-Logos, 2021. 154 p.
2. Zaloilo M.V., Gvozdetsky D.S. Digitalization of departmental rulemaking: trends and prospects / Article in the collection of scientific papers «Transformation of legal reality in the digital age» / under the general editorship of D.A. Pashentsev, M.V. Zaloilo. M., 2019. 213 p.
3. Artificial intelligence in the prevention of legal risks and combating corruption: report to the XXIII Yasinskaya (April) International Scientific Conference on problems of economic and social development / E.A. Artemenko, A.M. Volkova, R.O. Dolotov et al.; edited by D.V. Krylova, M., 2022. 48 p.
4. The Ministry of Justice uses AI in a test mode when registering an NPA. [Electronic resource] - URL: https://news.my-seldon.com/ru/news/index/270295930 (date of application: 03.10.2023).
5. On the development of artificial intelligence in the Russian Federation: Decree of the President of the Russian Federation № 490 dated October 10, 2019 // Access from the legal system «Garant».
6. The project group «IT solution in the field of anti-corruption expertise of normative legal acts regulating business support: aspects of legal regulation and machine learning». Higher School of Economics. [Electronic resource] - URL: https://pravo.hse.ru/ anticorrupt_it / (date of access: 03.10.2022).
7. Razumova T.O., Artamonova M.V. The evolution of social and labor relations and the new role of social partnership in the era of global change / Article in the collection of scientific papers on the results of the XIX International Likhachev scientific readings «World development: problems of predictability and managea-bility». St. Petersburg, 2019. 632 p.
8. Talapina E.V. Artificial intelligence and legal expertise in public administration // Bulletin of St. Petersburg University. Series: Law. 2021. № 4. pp. 865-881.
9. Yastrebov O.A. Artificial intelligence in the legal space // Bulletin of the Peoples' Friendship University of Russia. Series: Legal Sciences. 2018. № 3. pp. 315-321.
