CC BY
32
СРАВНИТЕЛЬНОЕ ПРАВО
DOI: 10.17803/1994-1471.2023.150.5.181-185
А. Р. Атабеков*
Области реализации публичных функций искусственным интеллектом в России и мире
Аннотация. В статье исследуется феномен применения технологий искусственного интеллекта (ИИ) в сфере публичных правоотношений зарубежных стран, затрагиваются основные проблемы в правовом поле с точки зрения развертывания системы, касающиеся как обеспечения прозрачности принятия решения, так и недискриминационного характера проводимой алгоритмической обработки данных, и ее использования в отношении поднадзорного сегмента на базе принципов предиктивного преследования и оказания упреждающего комплекса государственных услуг гражданам. Рассматривается эффективность интеграции технологии в сферу публичных правоотношений и точность предлагаемых решений в выборке различных сегментов применения в контексте подотраслей административного права. По мнению автора, для реализации предложенных в статье конструкций интеграции ИИ в публичную сферу уже сейчас необходимо определение основных уровней допуска ИИ к информации в рамках контрольно-надзорной деятельности: выявление идентифицирующих признаков для разработчиков ИИ для целей органов власти с предоставлением расширенных преференций и санкций с учетом эффекта масштаба правоотношений; определение экспериментальных режимов для ряда правоотношений в целях тестирования ИИ в контексте предоставления прав и реализации системы административного надзора и преследования.
Ключевые слова: искусственный интеллект; электронное лицо; предиктивное право; публичные правовые науки; административное право; правоотношения; публичные правоотношения; баланс интересов; экспериментальные режимы; мониторинг; безопасность.
Для цитирования: Атабеков А. Р. Области реализации публичных функций искусственным интеллектом в России и мире // Актуальные проблемы российского права. — 2023. — T. 18. — № 5. — С. 181-185. — DOI: 10.17803/1994-1471.2023.150.5.181-185.
Areas for Public Functions Implementation by Artificial Intelligence in Russia and the World
Atabek R. Atabekov, Cand. Sci. (Economics), Associate Professor, Department of Administrative and Financial Law, Institute of Law, RUDN University ul. Miklukho-Maklaya, d. 6, Moscow, Russia, 117198 [email protected]
Abstract. The paper examines the phenomenon of the use of artificial intelligence (AI) technologies in the field of public relations in foreign countries. It also touches upon the main problems in the legal field in terms of deploying
© Атабеков А. Р., 2023
* Атабеков Атабек Рустамович, кандидат экономических наук, доцент кафедры административного и финансового права Юридического института Российского университета дружбы народов ул. Миклухо-Маклая, д. 6, г. Москва, Россия, 117198 [email protected]
the system, concerning both ensuring the transparency of decision-making and the non-discriminatory nature of the ongoing algorithmic data processing, and its use in in relation to the supervised segment based on the principles of predictive prosecution and the provision of a proactive set of public services to citizens. The effectiveness of technology integration into the sphere of public legal relations and the accuracy of the proposed solutions in a selection of various application segments in the context of sub-branches of administrative law are considered. According to the author, in order to implement the constructions of AI integration into the public sphere proposed in the paper, it is already necessary to determine the main levels of AI access to information in the framework of control and supervisory activities. These include finding identifying features for AI developers for the purposes of authorities with the provision of extended preferences and sanctions, taking into account scale effect of legal relations, determination of experimental regimes for a number of legal relations in order to test AI in the context of granting rights and implementing a system of administrative oversight and prosecution. Keywords: artificial intelligence; electronic person; predictive law; public legal sciences; administrative law; legal relations; public relations; balance of interests; experimental modes; monitoring; security. Cite as: Atabekov AR. Oblasti realizatsii publichnykh funktsiy iskusstvennym intellektom v Rossii i mire [Areas for Public Functions Implementation by Artificial Intelligence in Russia and the World]. Aktual'nye problemy rossijskogo prava. 2023;18(5):181-185. DOI: 10.17803/1994-1471.2023.150.5.181-185. (In Russ., abstract in Eng.).
Вопрос развития искусственного интеллекта (ИИ) и его становления в обществе является одним из наиболее актуальных и значимых вопросов современности. Президент России неоднократно упоминал значимость указанной технологии для целей нашей страны1. Научным сообществом на уровне соответствующих диссертационных исследований прорабатываются подходы в изучении природы ИИ2.
Отдельно следует выделить позицию О. А. Ястребова, который отмечает необходимость выработки подходов к регулированию ИИ для целей публичных правоотношений3.
Говоря о национальных целях России в отношении ИИ, стоит отметить распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусствен-
ного интеллекта и робототехники на период до 2024 года»4. Данный документ определяет в том числе секторальный блок вопросов и потенциальные правовые вопросы, требующие решения в горизонте до 2024 г.
Вопрос внедрения ИИ в госсекторе возлагается на Национальный центр развития искусственного интеллекта5, который сопровождает национальный портал в сфере ИИ, выступающий «входной воронкой» по отбору технологических решений для государства, в том числе осуществляет экспертизу документов, регламентирующих деятельность ИИ, и ведение индекса готовности технологии в том числе для нужд органов власти. При этом выделить практически реализованные ИИ-проекты в сегменте органов власти на текущий момент представляется затруднительным.
Президент принял участие в основной дискуссии международной конференции по искусственному интеллекту и машинному обучению Artificial Intelligence Journey 2022 на тему «Технологии искусственного интеллекта для обеспечения экономического роста» // URL: http://kremlin.ru/events/president/news/69927 (дата обращения: 10.12.2022).
Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. М., 2018. 420 с.
Ястребов О. А., Аксенова М. А. Влияние искусственного интеллекта на административно-правовой режим
противодействия легализации доходов, полученных преступным путем, и финансированию терроризма:
вопросы права // Правовая политика и правовая жизнь. 2022. № 3. С. 84-109.
URL: https://www.garant.ru/products/ipo/prime/doc/74460628/ (дата обращения: 10.12.2022).
При Правительстве России начал работать Национальный центр развития искусственного интеллекта //
URL: http://government.ru/news/46479/ (дата обращения: 10.12.2022)
2
3
Рассматривая опыт зарубежных стран по интеграции ИИ в публичный сегмент правоотношений, нельзя не отметить, что уже сейчас возникает определенная специализация ряда сегментов, где ИИ показывает максимальную эффективность, а именно:
1. Комплаенс и верификация данных ИИ В Аргентине для целей верификации данных потенциального получателя пенсионных начислений (в части объема взносов) используется ИИ «Лаура», которая синхронизирует данные получателя с единой базой данных ANSES6.
В Колумбии используется программа KBoot, которая решает проблему проведения проверочных процедур в отношении реализуемых продаж на электронных площадках без декларирования соответствующих доходов в рамках налогового законодательства7. Данный алгоритм сопоставлял данные конечных бенефициаров с данными, представленными на площадке (Instagram), и выявил более 2 тыс. человек, которые вели незадекларированную коммерческую деятельность, которую впоследствии перевели в правовое поле путем включения их в программу развития МСП8.
В Нидерландах была разработана система SyRi для выявления мошенничества в сфере социального обеспечения9. Однако алгоритм, используемый данным ИИ, не раскрывал исходный принцип анализа данных, и обоснован-
ность выданных рекомендаций была впоследствии оспорена в Гааге.
В Испании применяют ИИ VeriPol для выявления фактов подготовки фальшивых полицейских отчетов10, используя инструменты анализа и классификации человеческого языка, машинного обучения и т.д. В рамках указанной работы ИИ определил основные критерии, позволяющие идентифицировать фиктивные отчеты, представляемые полицейскими, а его эффективность в 2019 г. составила 80 % анализируемой выборки.
Алгоритм MiDAS, используемый Штатом Мичиган (США), столкнулся с аналогичной проблемой прозрачности функционирования системы и дискриминационным характером анализа выборки потенциальных получателей пособия по безработице11. Данная система не давала однозначного ответа, почему тот или иной получатель средств не соответствует критериям. Кроме того, указанный алгоритм, по сути, был и первой, и последней инстанцией при принятии решения (оспаривать процедуру в рамках органа власти не представлялось возможным). Впоследствии данный алгоритм и его порядок работы были оспорены в суде.
2. Анализ большого массива данных
Одним из критичных сегментов для экономической стабильности страны является риск возникновения картельных сговоров. Для Бра-
6 AI for social good In Latin America and The Caribbean: The Regional Landscape and 12 Country Snapshots // URL: https://publications.iadb.org/publications/english/document/Artificial-Intelligence-for-Social-Good-in-Latin-America-and-the-Caribbean-The-Regional-Landscape-and-12-Country-Snapshots.pdf (дата обращения: 10.12.2022).
7 Tracking potential tax evaders on Instagram // OECD. URL: https://oecd-opsi.org/innovations/tracking-potential-tax-evaders-on-instagram (дата обращения: 10.12.2022).
8 Crecer Es Posible Puerto Colombia // URL: https://www.camarabaq.org.co/crecer-es-posible-puerto-colombia/ (дата обращения: 10.12.2022).
9 SyRI legislation in breach of European Convention on Human Rights // URL: https://www.rechtspraak.nl/ Organisatie-en-contact/Organisatie/Rechtbanken/Rechtbank-Den-Haag/Nieuws/Paginas/SyRI-legislation-in-breach-of-European-Convention-on-Human-Rights.aspx (дата обращения: 10.12.2022).
10 Artificial intelligence tool used to catch people who lie to the police // URL: https://www.telegraph.co.uk/ news/2019/01/07/artificial-intelligence-tool-used-catch-people-lie-police/ (дата обращения: 10.12.2022).
11 Michigan's MiDAS Unemployment System: Algorithm Alchemy Created Lead, Not Gold // URL: https://spectrum. ieee.org/michigans-midas-unemployment-system-algorithm-alchemy-that-created-lead-not-gold#toggle-gdpr (дата обращения: 10.12.2022) ; Cahoo v. SAS Analytics Inc. Nos. 18-1295/1296. URL: https://casetext.com/ case/cahoo-v-sas-analytics-inc (дата обращения: 10.12.2022).
зилии в лице Административного совета по экономической защите12 была определена необходимость внедрения усовершенствованной практики алгоритмического анализа рынка газа и его ценообразования13.
Эстония использует ИИ SATIKAS14 для проведения дистанционного контроля сельскохозяйственных угодий получателей субсидий. В рамках контрольной деятельности подразумевалась необходимость проведения выездных проверочных процедур с фотовидеофиксацией полей. С учетом ограниченного количества служащих и масштабного объема территорий данная работа велась до внедрения ИИ сегментарно и неэффективно (5 % от общего объема выборки)15. Впоследствии ИИ, используя снимки, поступающие со спутников, смог выдавать достоверное заключение об эффективности использования территорий и вложенных государственных средств.
3. Предиктивное реагирование ИИ
ИИ Лаура в Бразилии осуществляет дистанционный мониторинг пациентов с сепсисом и в случае отклонения показателей, считываемых телеметрией, отправляет выездную бригаду врачей на место дислокации пациента16. Указанная технология позволяет спасать 12 человек ежегодно в рамках сигнализируемых обязательств ИИ.
ИИ БАНД, который используется в Китае, является одной из наиболее интересных и прорывных технологий, которая влияет на все
составные элементы дорожного движения (выполняя функции регулятора дорожного движения)17. Данный регулятор также может отсекать нарушителя автомобильного потока, выписывать автоматически штрафы или осуществлять уголовное преследование нарушителя18.
Таким образом, замещение ряда функций, выполняемых госслужащими различных ведомств, с учетом развития ИИ технологий в указанных сегментах является неизбежной составляющей, требующей формализации прав и обязанностей всех участников, обеспечивающих процесс функционирования ИИ (в том числе в контексте его прозрачности, подотчетности и предсказуемости).
Для России опыт зарубежных стран может также показать необходимость выработки градированного подхода в отношении информации, используемой ИИ для целей осуществления контрольно-надзорной деятельности. Важно обеспечить однозначность и прозрачность принятых ИИ решений. Кроме того, возможное частично автономное предиктивное преследование или предоставление позитивных прав позволит существенным образом преобразовать исполнительскую власть (с учетом опыта Бразилии и Китая).
Для реализации указанных конструкций интеграции ИИ в публичную сферу уже сейчас необходимо:
1. Определение основных уровней допуска ИИ к информации в рамках контрольно-надзорной деятельности.
12 Administrative Council for Economic Defense — CADE // URL: https://www.gov.br/cade/en/access-to-information/about-us (дата обращения: 10.12.2022).
13 OECD (2019), «Using digital technologies to improve the design and enforcement of public policies», OECD Digital Economy Papers, No. 274, OECD Publishing, Paris. URL: https://doi.org/10.1787/99b9ba70-en (дата обращения: 10.12.2022).
14 European Association of Remote Sensing Companies Sentinels Benefits Study (SeBS). A Case Study Grassland Monitoring in Estonia (2021) // URL: https://earsc.org/sebs/wp-content/uploads/2021/05/Grassland-Monitoring-in-Estonia_vfinal.pdf (дата обращения: 10.12.2022).
15 Misuraca G., van Noordt C. Overview of the use and impact of AI in public services in the EU. Luxembourg : Publications Office of the European Union, 2020.
16 URL: https://www.laura-br.com/ (дата обращения: 10.12.2022).
17 Solum L. B. Artificial meaning // Wash. L. Rev. 2014. Т. 89. P. 69.
18 China's Xi'an deploys AI-based intelligent traffic management system // URL: https://enterpriseiotinsights. com/20200729/smart-cities/china-xian-deploys-ai-based-intelligent-traffic-management-system (дата обращения: 10.12.2022) ; Big Data, AI help manage traffic in east China city // URL: https://www.chinadaily.com. cn/a/201812/27/WS5c24f1c7a310d91214051564.html (дата обращения: 10.12.2022).
2. Выявление идентифицирующих признаков для разработчиков ИИ для целей органов власти с предоставлением расширенных преференций и санкций с учетом эффекта масштаба правоотношений.
3. Определение экспериментальных режимов для ряда правоотношений в целях тестирования ИИ в контексте предоставления прав и реализации системы административного надзора и преследования.
4. Разработка систем интерактивных систем мониторинга действий ИИ с учетом их надежности, безопасности и эффективности.
5. Выработка компенсирующих мероприятий со стороны госслужащих (людей — должностных лиц) в целях поддержания баланса интересов участников правоотношений при принятии ИИ решений, учитывающих соблюдение принципов прозрачности, достоверности, равноправия и недискриминационного режима.
БИБЛИОГРАФИЯ
1. Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы : дис. ... д-ра юрид. наук. — М., 2018. — 420 с.
2. Ястребов О. А., Аксенова М. А. Влияние искусственного интеллекта на административно-правовой режим противодействия легализации доходов, полученных преступным путем, и финансированию терроризма: вопросы права // Правовая политика и правовая жизнь. — 2022. — № 3. — С. 84-109.
3. Solum L. B. Artificial meaning // Wash. L. Rev. — 2014. — Т. 89.
Материал поступил в редакцию 10 декабря 2022 г.
REFERENCES (TRANSLITERATION)
1. Morkhat P. M. Pravosubektnost iskusstvennogo intellekta v sfere prava intellektualnoy sobstvennosti: grazhdansko-pravovye problemy: dis. ... d-ra yurid. nauk. — M., 2018. — 420 s.
2. Yastrebov O. A., Aksenova M. A. Vliyanie iskusstvennogo intellekta na administrativno-pravovoy rezhim protivodeystviya legalizatsii dokhodov, poluchennykh prestupnym putem, i finansirovaniyu terrorizma: voprosy prava // Pravovaya politika i pravovaya zhizn. — 2022. — № 3. — S. 84-109.
3. Solum L. B. Artificial meaning // Wash. L. Rev. — 2014. — T. 89.
