CC BY
9Научная статья Original article
УДК 349
DOI 10.33184/pravgos-2024.3.10
ПОЛЯКОВА Татьяна Анатольевна
Институт государства и права РАН, Москва, Россия, e-mail: [email protected], https://orcid.org/0000-0003-3791-2903
POLYAKOVA Tatyana Anatolyevna
Institute of State and Law of the Russian Academy of Sciences, Moscow, Russia.
ТРОЯН Наталья Анатольевна
Институт государства и права РАН, Москва, Россия e-mail: [email protected], https://orcid.org 0000-0003-1572-8902
TROYAN Natalia Anatolyevna
Institute of State and Law of the Russian Academy of Sciences, Moscow, Russia.
ПРАВОВЫЕ ВОПРОСЫ ИСПОЛЬЗОВАНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ИНФОРМАЦИОННОМ ОБЩЕСТВЕ И В ГОСУДАРСТВЕННОМ УПРАВЛЕНИИ
LEGAL ISSUES OF THE USE OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN THE INFORMATION SOCIETY AND IN PUBLIC ADMINISTRATION
Аннотация. Цель: рассмотреть отдельные вопросы, связанные с обеспечением правового, экономического и социального развития России в условиях цифровой трансформации и использования технологий искусственного интеллекта, проблемы, возникающие в связи с применением технологий искусственного интеллекта в сфере публичного управления. Методы исследования: работа выполнена с использованием методов диалектики и системного анализа, позволяющих комплексно исследовать процессы цифровизации как на федеральном уровне, так и на уровне субъектов Российской Федерации, а также в рамках единой системы публичной власти. Результаты: выделены приоритетные задачи по формированию эффективных правовых механизмов поддержки и развития экономики данных, включая сбор и передачу данных, развитию систем связи, обеспечению технологического суверенитета инфраструктуры для вычислений и хранения данных внутри страны (отечественные облачные платформы и т. д.), разработке национальных стандартов и протоколов работы с данными, в том числе связанными с использованием технологий искусственного интеллекта. Обоснована их роль в развитии многосторонних связей в условиях перехода к многополярности, особенно в рамках региональных объединений, а также системного правового обеспечения задач научно-технологического развития Российской Федерации на основе соблюдения баланса национальных экономических интересов и необходи-
Abstract. Purpose: to consider certain issues related to ensuring legal, economic and social development of Russia in the context of digital transformation and the use of artificial intelligence technologies, as well as some problems arising from the application of artificial intelligence technologies in public administration. The article considers legal problems related to the use of artificial intelligence technologies in the field of public administration. Research methods: the work is carried out using the methods of dialectics and system analysis, allowing for a comprehensive study of digitalization processes both at the federal level and at the level of the constituent entities of the Russian Federation, as well as within the unified system of public power. Results: the work highlights priority tasks for the formation of effective legal mechanisms to support and develop the data economy, including data collection and transmission, communication systems development, ensuring technological sovereignty of infrastructure for computing and data storage within the country (national cloud platforms, etc.), developing national standards and protocols for working with data, including those related to the use of artificial intelligence technologies. The paper substantiates their role in the development of multilateral relations in the transition to multipolarity, especially within the framework of regional associations, as well as systemic legal support for the tasks of scientific and technological development of the Russian Federation, based on the balance of national economic interests
© Полякова Т.А., Троян Н.А., 2024
85
мости защиты прав, свобод и законных интересов пользователей информационных систем.
Ключевые слова: информационная сфера, сквозные технологии, квантовые технологии, цифровые технологии, технологии искусственного интеллекта, персональные данные, государственное управление, информационное общество
Финансирование. Статья подготовлена в рамках выполнения Государственного задания FMUZ-2024-0035 «Обеспечение цифрового суверенитета и информационной безопасности правовыми средствами».
Для цитирования: Полякова ТА. Правовые вопросы использования технологий искусственного интеллекта в информационном обществе и в государственном управлении / ТА. Полякова, Н.А. Троян. -DOI 10.33184/pravgos-2024.3.10 // Правовое государство: теория и практика. - 2024. - № 3. - С. 85-93.
and the need to protect the rights, freedoms and legitimate interests of information systems users.
Keywords: information sphere, cross-cutting technologies, quantum technologies, digital technologies, artificial intelligence technologies, personal data, public administration, information society
Financing. The article is written within the framework of State Assignment FMUZ-2024-0035 «Ensuring digital sovereignty and information security by legal means».
For citation: Polyakova T.A., Troyan N.A. Legal Issues of the Use of Artificial Intelligence Technologies in the Information Society and in Public Administration. Pravovoe gosudarstvo: teoriya i praktika = The Rule-of-Law State: Theory and Practice, 2024, no. 3, pp. 85-93. (In Russian). DOI 10.33184/pravgos-2024.3.10.
Введение
Вопросы активизации использования технологий и систем искусственного интеллекта (далее - ИИ) сегодня все больше привлекают внимание, в первую очередь в связи с необходимостью выработки государственной политики и реализации стратегических задач в этой области в условиях продолжающихся дискуссий о правосубъектности и ответственности ИИ, что особенно важно при усилении вызовов и угроз их использования в противоправных целях. Согласно глобальной и национальной государственной информационной политике применение технологий ИИ должно стать драйвером для реализации приоритетных направлений развития информационного общества, цифровой экономики, цифрового государственного управления и информационной безопасности. ИИ оценивается как движущий фактор четвертой научно-технической революции и основой седьмой промышленной революции на базе концепции Индустрия 7.0, поскольку открывает новые возможности наряду с технологиями промышленного Интернета, биотехнологиями, генно-инженерными технологиями [1, с. 11].
Следует признать, что сегодня ИИ широко используется в самых разных областях жизни общества и государственного управления: об-
разовании, медицинском обслуживании, пенсионном обеспечении, охране окружающей среды, государственном управлении, правоохранительной деятельности, нормотворчестве, военной сфере, ритейле, рекламе, маркетинге, транспорте, 1Т-сфере и др. Нельзя отрицать позитивные тенденции и усиливающуюся динамику научно-технологического развития, которая повлечет за собой значительные изменения в области государственного управления и оказания услуг социальной стабильности (социально-бытовых, социально-медицинских, социально-психологических, социально-трудовых, социально-правовых и т. д.)1, а также глобального управления на мировом уровне. Неоспорима притягательность и интерес во всем мире к ИИ в свете его новых возможностей, революционных решений в самых разных областях, создания преобразующего потенциала эффективности и уникальных инноваций. Однако полагаем, что сегодня особого внимания и научного осмысления заслуживают прогнозы рисков и новых угроз для национальной безопасности, включая
1 ГОСТ Р 52143-2021. Национальный стандарт Российской Федерации. Социальное обслуживание населения. Основные виды социальных услуг (утв. и введен в действие приказом Росстандарта от 10.06.2021 № 531-ст) [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru
(дата обращения: 21.07.2024).
86
практически все ее виды (информационную, экономическую, транспортную, экологическую и др.). Следует также иметь в виду проблемы не только технического и технологического, но и правового характера, поскольку это вызовы праву, которые могут разрушить саму ткань человеческой цивилизации, если их не контролировать2.
Подходы к пониманию искусственного интеллекта и проблемы развития законодательства России в этой области
Развитие ИИ вызывает определенный алармизм в обществе, так как уже есть немало примеров разрушительного воздействия ИИ, использования его в противоправных целях. Эта технология с весьма широким спектром воздействий может вызвать такие проблемы, как изменение структуры занятости, роль правового и этического регулирования, неприкосновенность частной жизни и др. [1, с. 50]. В этой связи, как справедливо отмечает Г.Г. Ка-малова и ряд других ученых, цифровые технологии и их внедрение влечет «во многом еще недостаточно осознанные риски, угрозы и вызовы, значительная часть которых затронет и изменит не только общество и государство, но и самого человека, включая особенности реализации его прав, свобод и обязанностей» [2, с. 19].
Одной из главных проблем развития законодательства в области ИИ надо признать недостаточно проработанное правовое регулирование в мировом сообществе морально-нравственных основ в виде устоявшихся обычаев и этических ценностей. Поэтому в процессе цифровой трансформации создаются угрозы и риски как для реализации и соблюдения прав, свобод и интересов человека и гражданина, так и для государственного суверенитета [3, с. 76]. В этой связи представляется необходимой разработка перспективных рекомендаций по их предотвращению и ограничению, а также минимизации рисков в целях обеспечения безопасности, надежности и контроля ИИ [1, с. 50]. Следует отметить,
2 Опасности искусственного интеллекта [Электронный ресурс]. URL: https://vc.ru/u/700022-evgenii-vilkov/10396l4-opasnosti-iskusstvennogo-intellekta-12-ekzistencialnyh-riskov?ysclid=lyunz7ko63538320025 (дата обращения: 20.07.2024).
что сегодня технологии ИИ поднимают весьма сложные проблемы экзистенциального характера. Например, как согласовать цели системы ИИ с нашими собственными задачами без сопутствующих потенциальных катастрофических последствий. Важными также представляются этические правила использования ИИ и других технологий. Этические стандарты являются важнейшей основой для формирования в будущем саморегулирования в различных областях [1, с. 72].
Историографические исследования
в информационной сфере показывают, что термин «искусственный интеллект» был введен еще в 1956 г. Джоном Маккартни (Dartmouth College), Марвином Мински (Harvard University), Натаниелем Рочестером (IBM) и Клаудимом Шенноном (Bell Telephone Laboratories). Ими была предпринята попытка выяснить, каким образом можно научить машины использовать «язык, формировать абстракции и концепции, решать проблемы, которые сейчас решаются людьми, и в конечном счете самосовершенствоваться. Для выполнения указанных функций задача ИИ состоит в том, чтобы заставить машину вести себя таким образом, чтобы можно было назвать ее действия разумными, как если бы человек вел себя так»3.
Сегодня имеются различные определения ИИ, как на уровне теоретических и нормативно-правовых подходов, так и регламентации порядка применения ИИ. Полагаем, что несомненный интерес представляет позиция И.В. Понкина и А.И. Редьки-ной, рассматривающих ИИ как «новое явление, которое по ряду позиций недостаточно изучено. Искусственный интеллект отличается от обычных компьютерных алгоритмов тем, что он способен обучать себя на основе накопления опыта. Эта уникальная функция позволяет ИИ действовать по-разному в аналогичных ситуациях, в зависимости от ранее выполненных действий. Поэтому в большинстве случаев эффективность и потенциал искусственного интеллекта довольно неясны» [4, с. 94]. В работе И.В. Понкина и А.И. Редь-
3 Press G. Top 10 hot artificial intelligence (AI) technologies [Электронный ресурс]. URL: https://www.forbes.com/sites/ gilpress/2017/0l/23/top10-hot-artificial-intelligence-ai-technologies (дата обращения: 20.07.2024).
87
киной также содержатся определения «субъ-ектности» когнитивной и адаптационной автономности, пространственно-кинетической автономности, автономности программно-энергетического управления, предпринята попытка их осмысления.
Близкую позицию по данному вопросу занимает П.М. Морхат [5]. Однако, по мнению профессора А.В. Минбалеева, необходимо конструирование легального определения понятия «искусственный интеллект», которое должно строиться на основе общелогических методов, а также диалектического развития. Предлагается рассматривать ИИ как «совокупность информационных, в том числе цифровых технологий, в связи с чем при развитии законодательства об ИИ важно осуществлять и развитие общего законодательства об информационных технологиях, а также формирование понятийного аппарата в сфере особой их разновидности - цифровых технологий» [1, с. 43]. С позиций системного анализа ИИ - это совокупность технологий, интегрированных в единый механизм, подчиненный определенным целям и задачам, которые определены заказчиком и разработчиком. Благодаря диалектическому методу можно проследить эволюцию легального определения ИИ от исключительно технического подхода, который во многом используется в современном определении ИИ, к более универсальному, учитывающему цели не только его использования в техническом регулировании и вопросах стандартизации, правового и этического регулирования [1, с. 43-44].
Г.Г. Камалова и В.Б. Наумов считают, что «со времени введения в научный оборот и по сегодняшний день определение базового понятия "искусственный интеллект" строится на дихотомии с понятием "естественный интеллект". Это позволяет выявить их взаимосвязь и преодолеть недостаточность формально-логического подхода в области права, а также непротиворечиво отразить в теоретическом построении диалектические основы регулирования» [6, с, 85]. Следует признать, что термин «искусственный интеллект» достаточно прочно вошел и в повседневную жизнь, и в научную литературу, однако в силу чрезвычайного многообразия ИИ он стал объектом для широких дискуссий.
Стратегические направления правового регулирования искусственного интеллекта в Российской Федерации
Общество в процессе цифровой трансформации встало на путь технологического развития, способствующего формированию современных инструментов, что, в свою очередь, определяет актуальность ключевых вопросов применения технологий ИИ. В этой связи возникает множество нерешенных проблем, например, об определении правосубъектности ИИ в правоотношениях, ответственности и т. д. Дискуссионные вопросы, связанные с использованием технологий ИИ, включая системы слежения и распознавания лиц, вызывают обоснованную обеспокоенность граждан в связи с возможностью тотального контроля со стороны государства. При этом основным аргументом является то, что обработка персональных данных при использовании ИИ4 повысит риск посягательства на неприкосновенность частной жизни, причем необходимо учитывать, что разрабатываемые системы ИИ могут содержать технические ошибки [7, с. 36], что способствует возникновению негативных последствий и рисков.
Сегодня в России вырабатываются правовые нормы, которые регулируют общественные отношения в сфере разработки, внедрения и использования систем ИИ, в рамках актов стратегического планирования. Так, в этой сфере важное значение имеет российский акт стратегического планирования - Национальная стратегия развития искусственного интеллекта на период до 2030 г., утвержденная Указом Президента РФ от 10 октября 2019 г.5 Ранее в программе «Цифровая экономика Российской Федерации» ИИ был отнесен к сквозным цифровым
4 О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» : Федеральный закон от 24.04.2020 № 123-Ф3 // Собрание законодательства РФ. 2020. № 17, ст. 2701.
5 О развитии искусственного интеллекта в Россий-
ской Федерации : Указ Президента РФ от 10.10.2019
№ 490 // Собрание законодательства РФ. 2019. № 41, ст. 5700.
88
технологиям, применяющимся в различных сферах общественной жизни6. При этом следует отметить, что изменения на современном этапе затрагивают не только правовое регулирование отдельных видов общественных отношений, складывающихся под влиянием цифровых технологий, - претерпевают изменения целые институты права и отрасли. В этой связи очевидна актуальность и необходимость правового регулирования ИИ в обществе. В рамках реализации федерального проекта «Цифровые технологии» утверждены дорожные карты - их порядка семи - по различным направлениям «сквозных» цифровых технологий: нейротехнологии и ИИ, робототехника и сенсорика, системы распределенного реестра, квантовые технологии, новые производственные технологии, технологии беспроводной связи, виртуальной и дополненной реальности. Поэтому кластер этих семи направлений называется сквозными цифровыми технологиями7.
Необходимо отметить, что в настоящее время развитие технологий ИИ и их реализация - одна из ключевых задач цифровой экономики, особенно в условиях агрессивной санкционной политики западных государств. В этой связи 15 декабря 2022 г. Президент РФ на заседании Совета по стратегическому развитию и национальным проектам отметил, что продолжение развития нашей страны, происходящее невзирая на внешнее давление, требует перехода на более высокий технологический уровень, а также укрепления технологического суверенитета России. Это способствует необходимости открытости и восприимчивости к современным прак-
6 Программа «Цифровая экономика Российской Федерации» (утв. распоряжением Правительства РФ от 28.07.2017 № 1632-p) [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http:// www.pravo.gov.ru (дата обращения: 21.07.2024) ; Паспорт национальной программы «Цифровая экономика Российской Федерации» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 24.12.2018 № 16) // Доступ из справ.-правовой системы «КонсультантПлюс».
7 Паспорт федерального проекта «Цифровые технологии» (утв. Президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9) [Электронный ресурс]. URL: https:digital.gov.ru (дата обращения: 21.07.2024).
тикам и подходам, к новейшим технологиям и методам работы8.
В 2024 г. Президентом РФ в Послании Федеральному Собранию была отмечена ключевая роль применения ИИ во взаимодействии граждан, бизнеса и государства9. Этот стратегический аспект применения ИИ в публичном управлении отражен в п. 8 Указа Президента РФ от 7 мая 2024 г. № 309, где достижение национальной цели «цифровая трансформация государственного и муниципального управления, экономики и социальной сферы» к 2030 г. связано с достижениЕм «цифровой зрелости» государственного и муниципального управления, ключевых отраслей экономики и социальной сферы на основе данных с учетом ускоренного внедрения технологий обработки больших объемов данных, машинного обучения и ИИ10. Очевидно, что развитие института цифровой зрелости будет опираться на практическую реализацию законодательно закрепленных моделей. В этой связи нельзя отрицать целесообразность экспериментов по внедрению данных показателей на уровне отдельных субъектов для апробации и выявления перспективной модели развития. Сегодня представляет интерес развитие этого института сквозь призму оценки практической реализации и выполнения показателя «цифровая зрелость» при проведении процессов цифровой трансформации как на федеральном уровне, так и на уровне субъектов Российской Федерации, а также в рамках единой системы публичной власти [8, с. 116].
Министерством цифрового развития, связи и массовых коммуникаций РФ к осени 2024 г. запланировано формирование плана нормативно-правового обеспечения нового национального проекта «Экономика данных»
8 Материалы заседания Совета по стратегическому развитию и национальным проектам [Электронный ресурс] // Президент РФ : сайт. URL: http:// www.kremlin.ru/events/president/transcripts/70086 (дата обращения: 30.07.2024).
9 Послание Президента РФ Федеральному Собранию от 29.02.2024 [Электронный ресурс]. URL: http://kremlin.ru/events/presid ent/news/73 58 5 (дата обращения: 20.07.2024).
10 О национальных целях развития Российской
Федерации на период до 2030 года и на перспекти-
ву до 2036 года : Указ Президента РФ от 07.05.2024 № 309 [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru
(дата обращения: 21.07.2024).
89
на период 2024-2026 гг.11 Важной на современном этапе представляется выработка свыше 300 законодательных инициатив (включая предложения бизнеса), направленных на развитие интернета вещей, цифровых платформ в государственном управлении, ИИ, импорто-замещение в ИТ-сфере и повышение кибербез-опасности12. Необходимо признать, что национальный проект «Экономика данных», по сути, является продолжением завершающегося национального проекта «Цифровая экономика». В число основных направлений входит формирование к 2030 г. цифровых платформ во всех ключевых отраслях экономики и социальной сферы13. Планируется создание и платформы ИИ, а также не менее 30 отдельных ИИ-реше-ний14. В качестве основных векторов развития экономики данных обозначены такие категории, как сбор данных, квантовые сенсоры, передача данных, развитие систем связи и суверенной инфраструктуры для вычислений и хранения данных внутри страны - отечественных облачных платформ и центров обработки данных, безопасность данных, в том числе с использованием квантовых коммуникаций и квантового шифрования, суверенные и национальные стандарты и протоколы данных, включая в области ИИ, а также отечествен-
11 Экономика данных и цифровая трансформация государственного управления [Электронный ресурс]. URL: https://www.tadviser.ru/mdex.php/Статья:Эконо-мика_данных_и_цифровая_трансформация_государства_ (национальный_проект) (дата обращения: 21.07.2024).
12 Там же.
13 Об утверждении Концепции создания и функционирования национальной сети интеллектуальных транспортных систем на автомобильных дорогах общего пользования : распоряжение Министерства транспорта РФ от 30.09.2022 № АК-247-р [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024) ; О внесении изменений в Федеральный закон «Об охране окружающей среды» и отдельные законодательные акты Российской Федерации : Федеральный закон от 25.12.2023 № 622-Фз [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024) ; Об утверждении дополнительных требований к программам для электронных вычислительных машин и базам данных, сведения о которых включены в реестр российского программного обеспечения, и внесении изменений в Правила формирования и ведения единого реестра российских программ для электронных вычислительных машин и баз данных : постановление Правительства РФ от 23.03.2017 № 325 [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024).
14 Экономика данных и цифровая трансформация государственного управления.
ное программное обеспечение, отечественные платформы и сервисы15, что позволит сформировать новые технологические механизмы и рынки. Очевидна при этом необходимость создания эффективной правовой основы, поиск современных инструментов для поддержки и развития экономики, многосторонних связей не только в режиме реального времени, но и в информационном пространстве. Отмечается интерес бизнеса к этому вопросу. Так, МТС выступила одним из инициаторов проработки концепции развития интернета вещей16.
В ближайшей перспективе в Российской Федерации запланирован ряд масштабных проектов, связанных с данной темой. Следует выделить проект «Цифровое государственное управление» программы «Цифровая экономика Российской Федерации»17, направленный на внедрение инновационных технологий в цифровые публичные сервисы и технологическую трансформацию инфраструктуры правительства. Также активно прорабатывается проект создания цифрового профиля как совокупности сведений о гражданах и юридических лицах, содержащихся в информационных системах, посредством регистров, реестров, кадастров и перечней персонифицированной информации. Приоритетным направлением является цифровая трансформация публичного сектора посредством формирования единого федерального информационного ре-сурса18, а также единого федерального информационного регистра сведений о населении19, системы идентификации и аутентификации
15 Пленарное заседание Форума будущих технологий [Электронный ресурс]. URL: http://www.kremlin.ru/events/ president/news/73454 (дата обращения: 21.07.2024).
16 Там же.
17 Паспорт национального проекта «Национальная программа "Цифровая экономика Российской Федерации"», утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 № 7 [Электронный ресурс]. URL: https:digital.gov.ru (дата обращения: 21.07.2024).
18 Об утверждении концепции и плана мероприятий («дорожной карты») по формированию и ведению единого федерального информационного ресурса, содержащего сведения о населении РФ : распоряжение Правительства РФ от 04.06.2017 № 1418-р // Собрание законодательства РФ. 2017. № 29, ст. 4390.
19 О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации : Федеральный закон от 08.06.2020 № 168-ФЗ [Электронный ресурс] // Офиц. интернет-портал правовой информации URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024).
90
на основе биометрических данных20 и др. Правительством РФ 20 февраля 2021 г. была утверждена Концепция цифровой и функциональной трансформации социальной сферы, относящейся к сфере деятельности Министерства труда и социальной защиты Российской Федерации, на период до 2025 года21 в целях оптимизации деятельности государственных внебюджетных фондов (за исключением Федерального фонда обязательного медицинского страхования) и федеральных учреждений медико-социальной экспертизы, взаимодействия с гражданами при получении ими социальной поддержки. В настоящее время, на наш взгляд, необходимо решение проблемы более эффективного процесса реализации технологии ИИ при оказании публичных услуг и преодоление барьера «информационного отличия» различных субъектов. Возникает потребность формирования определенного баланса интересов публичных органов и общества в контексте внедрения и использования технологий ИИ, что, в свою очередь, должно сформировать механизмы адаптации регулирования ИИ на перспективный период. В рамках применения ИИ в сфере публичного управления возможно, например, формирование механизмов предиктивного реагирования на действия субъекта(-ов) в рамках контрольно-надзорной деятельности, которое должно учитывать набор конкретно-индивидуальных правил, применяемых к конкретному каталогизированному типу лиц, сформированному на базе большого массива данных [9, с. 88]. Отдельного внимания, как уже отмечалось, заслуживают такие основные элементы цифрового публичного управления, как безопасность и надежность.
20 Об осуществлении идентификации и (или) аутентификации физических лиц с использованием биометрических персональных данных, о внесении изменений в отдельные законодательные акты Российской Федерации и признании утратившими силу отдельных положений законодательных актов Российской Федерации : Федеральный закон от 29.12.2022 № 572-ФЗ [Электронныйресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024).
21 Концепция цифровой и функциональной трансформации социальной сферы, относящейся к сфере деятельности Министерства труда и социальной защиты Российской Федерации, на период до 2025 года : распоряжение Правительства РФ от 20.02.2021 № 431-р [Электронный ресурс] // Офиц. интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 21.07.2024).
Таким образом, появилась необходимость обязательного лицензирования и сертификации технологий ИИ при использовании контроля в государственном секторе, способствующего обеспечению безопасности.
Очевидно, что внедрение технологий ИИ в государственное управление - комплексная задача, для решения которой необходим не только технический потенциал автоматизации (цифровизации), но и ряд таких факторов, как политические, экономические, нормативные, демографические, социальной приемлемости [10] и др. Кроме того, важным представляется развитие информационного права и законодательства. Это ключевая стратегическая задача, решение которой должно основываться на развитии информационно-правовой доктрины и реализации политики обеспечения информационной безопасности как одного из приоритетных направлений национальной безопасности [11, с. 56].
Заключение
Исследование показало, что одним из актуальных вопросов в настоящее время следует признать разработку и принятие закона об ИИ, в котором, на наш взгляд, должны найти отражение: четкая регламентация сферы действия этого закона, закрепление хорошо разработанного и научно обоснованного на основе междисциплинарных подходов понятийного аппарата, система принципов и порядок территориального действия указанного закона при использовании технологий ИИ, требования, ограничения, а также должны быть решены вопросы этического регулирования. Все это связано, прежде всего, с достижением Россией стратегического приоритета развития технологий ИИ не только на национальном, но и на мировом уровне. Кроме того, важна корреляция и достаточная определенность при соотнесении информационно-правового понятийного аппарата с цифровым (цифровые данные, оборот цифровых данных, цифровые технологии, цифровые платформы и др.).
Актуальной проблемой также является регулирование правоотношений, возникающих при использовании ИИ. Происходит стремительное замещение труда человека на машинный или частично машинный труд.
91
Между тем необходимо признать, что человеческий фактор в принятии решений пока еще остается определяющим. Но для машинного обучения именно человек является определяющим и важным. Кроме того, при машинном обучении возможны ошибки, риски и искажения, что может привести к нарушению прав даже при соблюдении принципа юридической ответственности. В этой связи возрастает роль взаимодействия органов публичной власти при использовании ИИ на основе мониторинга в системе. Необходимы новые концептуальные подходы к определению ИИ, областей его применения, соответствующих норм и практик, поиски современных инструментов, влияющих на оценку и выдачу рекомендаций при использовании технологий в публичной сфере, а также в разных правовых системах и национальных законодательствах, что обеспечит интегральную реализацию герменевтического, аксиологического, антропологического концептуального подходов к изучению практики правового регулирования ИИ в публичной сфере. Необходимо изучение
вопросов правового регулирования ИИ в сфере публичного управления, что позволит выявить специфику и новые подходы на уровне субъектов законодательной практики, а также объектов ее правоприменения и создать новые конструкции правоотношений, способствующие образованию современных регла-ментаций с учетом технологической природы ИИ. И конечно, нельзя оставить без внимания вопросы философско-этического характера, которые активно обсуждаются научным сообществом на различных площадках.
Полагаем, что требуется развитие доктрины информационного права и переосмысление существующих подходов к формированию концептуальной модели будущего права ИИ, выраженного в правовой политике в данной области, на основе анализа формирующейся практики и наработанного опыта, а также развития теории информационного права по правовому регулированию информационных технологий и систематизации и кодификации информационного законодательства [12, с. 35].
Список источников
1. Перспективные направления правового регулирования искусственного интеллекта : монография / под ред. А.М. Минбалеева. - Саратов : ООО «Ами-рит», 2023. - 442 с.
2. Правовые и этические аспекты, связанные с разработкой и применением систем искусственного интеллекта и робототехники: история, современное состояние и перспективы развития : монография / В.В. Архипов, Г.Г. Камалова, В.Б. Наумов и др. ; под общ. ред. В.Б. Наумова. - Санкт-Петербург : НП-Принт, 2020. - 260 с.
3. Троян Н.А. Принцип достоверности при распространении и предоставлении информации с использованием искусственного интеллекта / Н.А. Троян, О.В. Петровская // Правовая информатика. - 2023. -№ 2. - С. 75-81.
4. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права / И.В. Понкин,
A.И. Редькина // Вестник Российского университета дружбы народов. Серия: Юридические науки. - 2018. -№ 1. - С. 91-109.
5. Морхат П.М. Искусственный интеллект: правовой взгляд : монография / П.М. Морхат. - Москва, 2017. - 257 с.
6. Наумов В.Б. Вопросы построения юридических дефиниций в сфере искусственного интеллекта /
B.Б. Наумов, Г.Г. Камалова // Труды Института государства и права РАН. - 2020. - Т. 15, № 1 - С. 82-92.
7. Комплексное исследование правовых и этических аспектов, связанных с разработкой и применением систем искусственного интеллекта и робототехники : монография / под ред. В.Б. Наумова. - Санкт-Петербург : НП-Принт, 2022. - 336 с.
References
1. Minbaleev A.M. (ed.). Promising Directions of Legal Regulation of Artificial Intelligence. Saratov, Amirit Publ., 2023. 442 p.
2. Arkhipov V.V., Kamalova G.G., Naumov V.B. et al.; Naumov V.B. (ed.) Legal and Ethical Aspects Related to the Development and Application of Artificial Intelligence and Robotics Systems: History, Current State and Development Prospects. Saint Petersburg, NP-Print Publ., 2020. 260 p.
3. Troian N., Petrovskaia O. The reliability Principle in Disseminating and Providing Information Using Artificial Intelligence. Pravovaya informatika = Legal Informatics, 2023, no. 2, pp. 75-81. (In Russian).
4. Ponkin I.V., Redkina A.I. Artificial Intelligence from the Point of View of Law. Vestnik Rossijskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki = RUDN Journal of Law, 2018, no. 1, pp. 91-109. (In Russian).
5. Morhat P.M. Artificial Intelligence: Legal View. Moscow, 2017. 257 p.
6. Naumov, V.B., Kamalova, G.G. Problems of the Formation of the Conceptual App a ratus in the Field of Artificial Intelligence. Trudy Instituta gosudarstva i prava RAN = Proceedings of the Institute of State and Law of the RAS, 2020, vol. 15, no. 1, pp. 82-92. (In Russian).
7. Naumov V.B. (ed.). Comprehensive Study of Legal and Ethical Aspects Related to the Development and Application of Artificial Intelligence and Robotics Systems. Saint Petersburg, NP-Print Publ., 2022. 336 p.
8. Polyakova T.A., Minbaleev A.V. The Concept and Legal Nature of Digital Maturity. Gosudarstvo i pravo = State and Law, 2021, no. 9, pp. 107-116. (In Russian).
92
8. Полякова Т.А. Понятие и правовая природа «цифровая зрелости» / Т.А. Полякова, А.В. Минбалеев // Государство и право. - 2021. - № 9. - С. 107-116.
9. Атабеков А.Р. Концептуальные подходы и практика правового регулирования искусственного интеллекта в публичной сфере: сравнительно-правовое исследование : дис. ... д-ра юрид. наук : 5.1.2 / А.Р. Атабеков. -Москва, 2024. - 486 с.
10. Галицкая Н.В. Государственное регулирование демографической безопасности в России / Н.В. Галицкая // Административное право и процесс. - 2020. -№ 3. - С. 20-23.
11. Полякова Т.А. Проблемы формирования правовой политики в сфере применения технологии искусственного интеллекта / Т.А. Полякова, Г.Г. Ка-малова // Правовая политика и правовая жизнь. - 2023. -№ 1. - С. 28-36.
12. Полякова Т.А. Ценностные изменения развития информационного права России / Т.А. Полякова, Г.Г. Ка-малова // Правовое государство: теория и практика. -2023. - № 2 (72). - С. 53-58.
9. Atabekov A.R. Conceptual Approaches and Practice of Legal Regulation of Artificial Intelligence in the Public Sphere: Comparative Legal Study. Doct. Diss. Moscow, 2024. 486 p.
10. Galitskaya N.V. State Regulation of Demographic Security in Russia. Administrativnoe pravo i process = Administrative Law and Procedure, 2020, no. 3, pp. 20-23. (In Russian).
11. Polyakova T.A., Kamalova G.G. Problems of Formation of Legal Policy in the Field of Application of Artificial Intelligence Technology. Pravovaya politika i pravovaya zhizn' = Legal Policy and Legal Life, 2023, no. 1, pp. 28-36. (In Russian).
12. Polyakova T.A., Kamalova G.G. Value Changes in the Development of Information Law in Russia. Pravovoe gosudarstvo: teoriya i praktika = The Rule-of-Law State: Theory and Practice, 2023, no. 2, pp. 53-59. (In Russian).
Информация об авторах
Полякова Татьяна Анатольевна - доктор юридических наук, профессор, главный научный сотрудник, исполняющая обязанности заведующей сектором информационного права и международной информационной безопасности;
Троян Наталья Анатольевна - кандидат юридических наук, старший научный сотрудник сектора информационного права и международной информационной безопасности.
Information about the Authors
Polyakova Tatyana Anatolievna - Doctor of Law, Professor, Chief Researcher, Acting Head of the Information Law and International Information Security Sector;
Troyan Natalia Anatolyevna - Candidate of Sciences (Law), Senior Researcher of the Information Law and International Information Security Sector.
Статья поступила в редакцию 23.07.2024; одобрена после рецензирования 05.08.2024; принята к публикации 05.08.2024. The article was submitted 23.07.2024; approved after reviewing 05.08.2024; accepted for publication 05.08.2024.
93
