CC BY
9
в
Соколов И. А. _ _ _
УНИВЕРСИТЕТА Теоретические и практические аспекты участия прокурора о.Е.кутафина(мгюА) в обеспечении информационной безопасности государства...
Теоретические и практические аспекты участия прокурора в обеспечении информационной безопасности государства в сфере использования искусственного интеллекта
Аннотация. В статье анализируются ключевые аспекты содержания надзорной и ненадзорной деятельности органов прокуратуры в области внедрения, применения и использования искусственного интеллекта: предмет и объект такой деятельности. На основе анализа имеющихся концепций в области придания субъектности искусственному интеллекту автором выделяются категории объектов прокурорской деятельности в рассматриваемой сфере, при этом делается вывод, что сам по себе комплекс технологических решений, имитирующих и воспроизводящих когнитивные человеческие функции, не может являться объектом такой деятельности. В качестве актуальной проблемы при осуществлении практической деятельности прокуратуры в сфере использования искусственного интеллекта автором указывается на отсутствие единых подходов к определению ее методических и организационных основ, при этом отмечается, что органы прокуратуры с 2022 г. начали информационно-аналитическое и цифровое переформатирование с учетом имеющейся необходимости использования технологий искусственного интеллекта в своей деятельности. Ключевые слова: прокуратура, закон, прокурорский надзор, деятельность органов прокуратуры, информационная безопасность государства, информация, информационно-коммуникационные технологии, искусственный интеллект.
Илья Александрович СОКОЛОВ,
мировой судья судебного участка
№ 336 Балашихинского судебного района Московской области, аспирант Университета имени О.Е. Кутафина (МГЮА)
125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
DOI: 10.17803/2311-5998.2024.118.6.101-108
Ilya A. SOKOLOV, justice of the 3eace of the judicial district No. 336 of the Balashikha Judicial District of the Moscow Region, Postgraduate student of the Department of organization of judicial and prosecutorial working of the Kutafin Moscow State Law University (MSAL), [email protected] 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993 Theoretical and Practical Aspects of the Prosecutor's Participation in Ensuring the Information security of the State in the field of Artificial Intelligence Abstract. The article analyzes the key aspects of the content of supervisory and non-supervisory activities of the prosecutor's office in the field of the introduction, application and use of artificial intelligence: the subject and
© Соколов И. А., 2024
в М УНИВЕРСИТЕТА
™ и мени О. Е. Кугафи на (МПОА)
object of such activities. Based on the analysis of existing concepts in the field of subjectivity of artificial intelligence, the author identifies categories of objects of prosecutorial activity in the field under consideration, while concluding that the complex of technological solutions imitating and reproducing cognitive human functions by itself cannot be the object of such activity. As an urgent problem in the implementation of the practical activities of the prosecutor's office in the field of the use of artificial intelligence, the author points out the lack of unified approaches to determining its methodological and organizational foundations, while noting that the prosecutor's office has begun its information-analytical and digital reformatting since 2022, taking into account the existing need to use artificial intelligence technologies in their activities. Keywords: prosecutor's office, law, prosecutor's supervision, activities of the prosecutor's office, information security of the state, information, information and communication technologies, artificial intelligence.
Вопрос развития искусственного интеллекта (ИИ) с 2019 г. с принятием Национальной стратегии развития искусственного интеллекта на период до 2030 года1 вышел на государственный уровень.
Сама же полемика о результатах и перспективах внедрения, применения ИИ в любой из сфер общественных отношений не только не стихает, но и разгорается с большей силой. Под прицелом находятся как проблемы технологического2, этического3 свойства, так и множество возникающих вопросов юридического характера в тех или иных отраслях правовых наук4.
На положительный эффект от внедрения ИИ в жизнь и деятельность людей неоднократно обращалось внимание как в многочисленных научных работах, посвященных изучению данного феномена, так и на нормативном уровне (в частности, в разд. II Национальной стратегии развития искусственного интеллекта). Одновременно с этим ряд субъектов ставит ИИ на службу выполнения явно не тех задач и достижения не тех целей, для которых такой комплекс технологических
1 Указ Президента РФ от 10.10.2019 № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года) // СЗ РФ. 2019. № 41. Ст. 5700.
2 Минбалеев А. В. Проблемы использования технологий искусственного интеллекта в спортивной сфере и правовые ограничения // Человек. Спорт. Медицина. 2020. Т. 20. № S2. С. 114—119.
3 Смирнов С. А. Пределы этики для искусственного интеллекта // Человек.ш. 2023. № 18. С. 40—54.
4 См., например: Алексеева М. М. Актуальные проблемы правового регулирования искусственного интеллекта в Российской Федерации // Юридический мир. 2022. № 10. С. 25— 29 ; Гарбер В. Ю. Проблемы авторского права в цифровую эпоху: вызовы и решения // Современная наука: вызовы, проблемы, решения — взгляды молодежи : сборник материалов Международной научно-практической конференции, Биробиджан, 17—18 октября 2023 года. Биробиджан, 2023. С. 450—455.
"7^ЕСТНИК Соколов И. А.
я УНИВЕРСИТЕТА Теоретические и практические аспекты участия прокурора
имени o.e. кугафина(мгюА) в обеспечении информационной безопасности государства...
решений предназначался. Зачастую формы использования ИИ приобретают очевидно противоправный характер.
В сети Интернет с определенной периодичностью появляются сообщения об использовании злоумышленниками с помощью ИИ клонированного голоса или имитации образа живого человека (так называемый дипфейк) для обмана граждан при помощи телефонных разговоров5. В западных странах подобное использование свойств нейросети уже привело к появлению нового термина — «кража личности» (англ. identity theft)6.
Беспилотные летательные аппараты (БЛА) активно применяются без непосредственного участия человека не только при контрабанде запрещенных товаров, распространении наркотических средств, но и при совершении террористических актов, в том числе на территории Российской Федерации7. В области национальной безопасности с началом использования ИИ появились информационные угрозы принципиально иного характера: генерирование заведомо недостоверных новостей (фейкньюс), интернет-распространение экстремистской и террористической пропаганды, автоматизированные спам-атаки и др.8
В условиях таких новых информационных вызовов особая ответственность ложится на лиц, которые обладают правовыми и административными полномочиями по прогнозированию, обнаружению, сдерживанию, предотвращению, отражению информационных угроз и ликвидации последствий их проявления (на субъектов информационной безопасности).
В последнее время ведущую роль в качестве такого субъекта все более играют органы прокуратуры РФ. Так, после страшной трагедии, связанной с нападением террористов на мирных граждан в торговом центре «Крокус Сити Холл», по требованию Генеральной прокуратуры РФ оперативно были удалены недостоверные, а также непроверенные сведения о случившемся более чем с 200 ресурсов (социальных сетей, средств массовой информации), на постоянной основе надзор- Л ным ведомством принимаются решения о признании нежелательными на терри- Р тории Российской Федерации деятельности неправительственных организаций9.
Среди исключительных функций прокуратуры в сфере информационной без- Ат
опасности в настоящее время можно выделить: Ир
т
— направление требования о принятии мер по ограничению доступа к информационным ресурсам, распространяющим такую информацию; р Ч
>П
5 Россиян начали обманывать при помощи искусственного интеллекта // URL: https://1prime.
1] m и У
ru/20230704/840984945.html (дата обращения: 31.03.2024). □ А С
Young O. R. Meeting cyber age needs for governance in a changing global order // у И ^
Sustainability (Switzerland). 2020. Vol. 12 (14). Art. no. 5557. □ С А
СК возбудил дело о терракте после украинского удара по Белгороду // URL: https:// ПрО
readovka.news/news/181265 (дата обращения: 31.03.2024). КО§
См., например: Зорькин В. Д. Providentia или о праве будущего в эпоху цифровизации // й-у ЕЕ
Р
Государство и право. 2020. № 6. С. 7—19 ; Розенко С. В. Цифровые технологии как Е;>О
средство развития террористической идеологии в Российской Федерации: проблемы ЯУН
противодействия и наказуемости // Oeconomia et Jus. 2023. № 3. С. 96—103. трО
Л U_ гп
Краснов рассказал о фейковой информации о теракте в «Крокусе» // URL: https://ria. ¡T^tT
ru/20240325/feyki-1935772509.html (дата обращения: 31.03.2024). НОСТИ
6
7
3
9
— инициирование проведения внеплановой проверки в области обеспечения безопасности значимых объектов критической информационной инфраструктуры;
— объявление предостережения о недопустимости осуществления экстремистской деятельности;
— обращение в суд по результатам надзорной деятельности с исковыми заявлениями (заявлениями) о признании информации, распространяемой на территории Российской Федерации, запрещенной к распространению; признании распространяемых материалов экстремистскими;
— принятие решения о признании владельца сетевого ресурса причастным к нарушениям основополагающих прав и свобод человека и гражданина Российской Федерации.
Оценивая в целом задачи и цели деятельности органов прокуратуры в сфере обеспечения информационной безопасности, следует обратить внимание на комплексность такой деятельности, которая не ограничивается только осуществлением надзора, а включает уголовное и административное преследование, обеспечение участия прокурора в гражданском и административном судопроизводстве, координацию деятельности правоохранительных органов, организацию внутриведомственной информационной безопасности надзорного органа, а также осуществление иной ненадзорной деятельности.
Осуществление прокуратурой своих полномочий в сфере обеспечения информационной безопасности, как и любой другой вид деятельности, имеет свое содержание, т.е. предмет, объект, функции и пределы такой деятельности.
С учетом общих теоретических концепций о содержании деятельности органов прокуратуры под предметом деятельности прокуратуры по обеспечению информационной безопасности можно понимать соблюдение правовых норм, регулирующих указанную сферу, лицами, чья деятельность относится к объектам прокурорского надзора и иных видов прокурорской деятельности, соответствие правовых и иных актов таких лиц, изданных в сфере информационной безопасности.
С предметом деятельности прокуратуры тесно связано понятие объекта такой деятельности. Разделяя позицию О. Н. Коршуновой, согласно которой объект деятельности прокурора в целом должен формулироваться с учетом подходов к определению объектов деятельности прокурора по реализации полномочий надзорного и ненадзорного характера10, предлагаем под объектом деятельности прокуратуры по обеспечению информационной безопасности понимать поднадзорные органы, а также иных участников правоотношений, связанных с обеспечением информационной безопасности, вытекающим из исполнения законов и соблюдения прав и свобод человека и гражданина в сфере защищенности национальных интересов государства от внешних и внутренних информационных угроз.
Применительно к осуществлению надзорной и ненадзорной деятельности органов прокуратуры в сфере обеспечения информационной безопасности, связанной с внедрением и применением ИИ, просматриваются сложности с
10 Коршунова О. Н. Категория объекта в теории прокурорской деятельности: теоретический и прикладной аспекты // Право. Журнал Высшей школы экономики. 2021. № 1. С. 62—79.
УНИВЕРСИТЕТА
О.Е. КупнЬина ГМПОА1
"7^ЕСТНИК Соколов И. А. ЛПК
я УНИВЕРСИТЕТА Теоретические и практические аспекты участия прокурора I^J^J
имени o.e. кугафина(мгюА) в обеспечении информационной безопасности государства...
определением предмета и объектов такой деятельности, обусловленные феноменом рассматриваемого комплекса технологических решений. Изложенное обстоятельство, в свою очередь, влияет на возможность установления лиц, в отношении которых должны быть осуществлены проверочные и профилактические мероприятия, применены меры прокурорского реагирования в случае выявления правонарушений в сфере информационной безопасности.
Анализ работ, посвященных оценке использования ИИ при совершении различного рода правонарушений, показывает, что в настоящее время сложилось два основных подхода при установлении ответственных лиц:
1) возможность определения ИИ в качестве субъекта правонарушения и исключение (либо минимизация) ответственности конкретных лиц за действия ИИ;
2) установление ответственности конкретного лица за действия ИИ в связи с невозможностью придания последнему признаков правосубъектности11. Представляется, что следование первой из названных концепций в конечном
счете сделает невозможным определение объектов прокурорской деятельности в изучаемой сфере, а следовательно, такая деятельность будет сводиться только к выявлению и пресечению информационных правонарушений, связанных с использованием ИИ, оставляя за рамками функционал по предупреждению и предотвращению таких правонарушений, а также привлечению виновных лиц к юридической ответственности (вопрос привлечения к ответственности нейросе-ти вообще выходит за рамки сложившихся к настоящему времени воззрений об юридической ответственности).
Кроме того, такой подход исключает необходимость выявления причин и условий совершенных ИИ действий, установления причинно-следственных связей между деятельностью разработчиков программы, лиц, осуществляющих усовершенствование технологии (так называемого обучения ИИ), лиц, применяющих эту технологию, и последствиями, связанными с использованием ИИ в объективной реальности. При таких обстоятельствах говорить о полноценной и исчерпывающей реализации органами прокуратуры своих полномочий, на наш взгляд, не представляется возможным. Ат
Таким образом, принимая в качестве данности возможность (и необходит
мость!) установления конкретных лиц, относящихся к объектам деятельности прокуратуры в рассматриваемой сфере, ответственных в той или иной мере за последствия использования результатов ИИ, в целях определения степени и вида А С
юридической ответственности, направленности действий по профилактике и предотвращению правонарушений, имеет смысл классифицировать данные объекты ОЗт
ii
1] т и
Л
..........и>И
прокурорской деятельности по основаниям их вовлеченности в создание и дея- п
тельность ИИ. Это будут органы, организации, а также иные лица:
п
5 р т
См., например: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные
устройства в контексте права: о разработке первого в России закона о робототехнике // ЯУН
Труды СПИИРАН. 2017. № 6. С. 46—62 ; Васильев А. А., Шпоппер Д., Матаева М. Х. тРО
Л и_ гп
Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрис- тиЫ
лингвистика. 2018. № 7—8. С. 35—44. НОСТИ
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
1) ответственные за разработку, создание тех или иных технологических решений, обладающих признаками ИИ (а также лица, инициирующие их разработку и создание);
2) осуществляющие модернизацию ИИ (разработку сопутствующего программного обеспечения, дополнительную алгоритмизацию и т.д.);
3) осуществляющие внедрение или распространение конечного продукта (а также результатов деятельности ИИ);
4) являющиеся конечными пользователями ИИ.
5) ответственные за соблюдение требований информационной безопасности, профилактику и предотвращение информационных угроз (полагаем допустимым к указанной группе в качестве объектов деятельности относить в том числе сотрудников органов прокуратуры, ответственных за обеспечение внутриведомственной информационной безопасности). Следовательно, деятельность таких лиц по соблюдению правовых норм, регламентирующих весь цикл создания и использования ИИ, законность принятых ими решений, можно определить в качестве предмета прокурорской деятельности в изучаемой сфере.
С нашей точки зрения, несмотря на всю практическую сложность, именно установление всей цепочки указанных лиц, предметный анализ их деятельности на соответствие требованиям федерального законодательства, выявление нарушений и принятие исчерпывающего комплекса мер прокурорского реагирования будут свидетельствовать о надлежащем осуществлении деятельности надзорным органом на рассматриваемом направлении.
В настоящее время из-за «молодости» института использования ИИ, а также незавершенности формирования нормативной правовой базы, регулирующей правоотношения, связанные с ИИ, устоявшаяся прокурорская практика на данном направлении не сложилась, еще только предстоит определить методические и организационные основы осуществления такой деятельности. Однако уже сейчас можно констатировать, что надзорное ведомство начинает оперативно реагировать на фактическое формирование нового направления деятельности по обеспечению информационной безопасности государства.
Так, в 2022 г. в Генеральной прокуратуре РФ появился специализированный отдел по надзору за исполнением законов в сфере информационных технологий и защиты информации в структуре Главного управления по надзору за исполнением федерального законодательства, к компетенции которого отнесены12:
1) надзор за соблюдением законодательства при реализации национального проекта «Цифровая экономика» и других государственных программ (включая федеральные целевые и ведомственные) в области развития информационных технологий;
2) надзор за соблюдением законодательства при реализации государственных контрактов, опытно-конструкторских работ в информационной области на всех стадиях — от научной разработки до внедрения в производство и патентной регистрации;
12 Положение о Главном управлении по надзору за исполнением федерального законодательства Генеральной прокуратуры Российской Федерации» (утв. Генеральным прокурором РФ 25.01.2022) // СПС «КонсультантПлюс».
"7^ЕСТНИК Соколов И. А.
я УНИВЕРСИТЕТА Теоретические и практические аспекты участия прокурора |U/
имени o.e. кугафина(мгюА) в обеспечении информационной безопасности государства.
3) надзор за исполнением законодательства в области внедрения ИИ в деятельность органов государственной власти.
Кроме того, сама цифровая модернизация органов прокуратуры предполагает широкое использование технологий ИИ в информационно-аналитической и непосредственно надзорной деятельности, в том числе для содействия в выполнении стоящих перед надзорным ведомством задач по обеспечению информационной безопасности государства13. На необходимость такого использования ИИ уже неоднократно указывалось теоретиками прокурорской деятельности14. Однако надо отметить, что до настоящего времени, несмотря на имеющиеся разработки в данном направлении (например, АИС компании «СЕУСЛАБ»), использование ИИ в органах прокуратуры централизованно не внедрено.
Выводы
Подводя итог, необходимо отметить, что ИИ — объективная действительность, в которой уже существует наше общество, это результат цивилизационного прогресса, отрицание и непринятие которого сродни борьбе с «ветряными мельницами». Одновременно с этим ИИ — это очень эффективный инструмент, от направленности использования которого в настоящее время зависят не только экономическое, технологическое и социальное развитие, но национальная (в том числе и информационная) безопасность.
Установление содержания деятельности органов прокуратуры как важнейшего звена системы субъектов обеспечения информационной безопасности государства в области использования ИИ, определение механизмов организации такой деятельности являются ключевыми факторами для надлежащего выполнения
надзорным ведомством поставленных целей и задач на рассматриваемом на- Л
правлении. р
Предпринятая попытка раскрыть существенные характерные черты содержания этой деятельности не может считаться завершенной в силу того, что в целом А т
общественные отношения, связанные с применением ИИ, сформированы недав- И р
т
но. Необходимость дальнейшего исследования указанного вопроса обусловливается стремительным развитием новых форм внедрения и использования ИИ рЧ и вряд ли в обозримом будущем потеряет актуальность. А С
ПИИ
т
т
рИР п тА
13 Приказ Генпрокуратуры России от 14.09.2017 № 627 «Об утверждении Концепции цифровой трансформации органов и организаций прокуратуры до 2025 года» // Законность. 2017. № 12.
9УЫ
т Р т
См., например: Глибовец И. С. Деятельность органов прокуратуры по профилактике экс- Е А°
тремизма в сети Интернет // Вестник Университета прокуратуры Российской Федерации. ЯУН
2022. № 3 (89). С. 57—64 ; Теория и практика современных информационных технологий гт!рО
Л и_ гп
при реализации функции органов прокуратуры : монография / под ред. Т. И. Отческой, ¡иЫ
Н. В. Мишаковой. М. : Блок-Принт, 2023. С. 33. НОСТИ
14
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
БИБЛИОГРАФИЯ
1. Алексеева М. М. Актуальные проблемы правового регулирования искусственного интеллекта в Российской Федерации // Юридический мир. — 2022. — № 10. — С. 25—29.
2. Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. — 2017. — № 6. — С. 46—62.
3. Васильев А. А., Шпоппер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. — 2018. — № 7—8. — С. 35—44.
4. Гарбер В. Ю. Проблемы авторского права в цифровую эпоху: вызовы и решения // Современная наука: вызовы, проблемы, решения — взгляды молодежи : сборник материалов Международной научно-практической конференции, Биробиджан, 17—18 октября 2023 г. — Биробиджан : Приамурский государственный университет имени Шолом-Алейхема, 2023. — С. 450—455.
5. Глибовец И. С. Деятельность органов прокуратуры по профилактике экстремизма в сети Интернет // Вестник Университета прокуратуры Российской Федерации. — 2022. — № 3 (89). — С. 57—64.
6. Зорькин В. Д. Providentia или о праве будущего в эпоху цифровизации // Государство и право. — 2020. — № 6. — С. 7—19.
7. Коршунова О. Н. Категория объекта в теории прокурорской деятельности: теоретический и прикладной аспекты // Право. Журнал Высшей школы экономики. — 2021. — № 1. — С. 62—79.
8. Минбалеев А. В. Проблемы использования технологий искусственного интеллекта в спортивной сфере и правовые ограничения // Человек. Спорт. Медицина. — 2020. — Т. 20. — № S2. — С. 114—119.
9. Розенко С. В. Цифровые технологии как средство развития террористической идеологии в Российской Федерации: проблемы противодействия и наказуемости // Oeconomia et Jus. — 2023. — № 3. — С. 96—103.
10. Смирнов С. А. Пределы этики для искусственного интеллекта // Человек.ш. — 2023. — № 18. — С. 40—54.
11. Теория и практика современных информационных технологий при реализации функции органов прокуратуры : монография / под ред. Т. И. Отческой, Н. В. Мишаковой. — М. : Блок-Принт, 2023. — 136 с.
12. Young O. R. Meeting cyber age needs for governance in a changing global order // Sustainability (Switzerland). — 2020. — Vol. 12 (14). — Art. no. 5557.
