CC BY
77
АДМИНИСТРАТИВНОЕ И ФИНАНСОВОЕ ПРАВО
DOI: 10.12737/jrl.2020.120
О правовых принципах применения искусственного интеллекта при осуществлении органами исполнительной власти контрольно-надзорной деятельности*
МАРТЫНОВ Алексей Владимирович, директор Института открытого образования, заведующий кафедрой административного и финансового права юридического факультета Национального исследовательского Нижегородского государственного университета им. Н. И. Лобачевского, доктор юридических наук, профессор
Россия, 603950, г. Нижний Новгород, пр-т Гагарина, 23
E-mail: avm@unn.ru
БУНДИН Михаил Вячеславович, заместитель директора Института открытого образования, доцент кафедры административного и финансового права юридического факультета Национального исследовательского Нижегородского государственного университета им. Н. И. Лобачевского, кандидат юридических наук
Россия, 603950, г. Нижний Новгород, пр-т Гагарина, 23
E-mail: mbundin@mail.ru
Технологии искусственного интеллекта активно внедряются в государственно-управленческую деятельность, в том числе при осуществлении контрольно-надзорных мероприятий, что ставит закономерный вопрос о необходимости формирования системы основополагающих принципов применения указанных технологий в этой сфере.
Цель исследования — разработка и обоснование на основе анализа международного и национального права и существующих научных представлений системы таких основополагающих правовых принципов, которые позволили бы обеспечить эффективность контрольно-надзорной деятельности и в то же время гарантировать безопасность и защиту прав и законных интересов физических и юридических лиц. В связи с этим основной задачей исследования является анализ международного и национального опыта правового регулирования (стратегических и программных документов) внедрения технологий искусственного интеллекта в различные сферы деятельности, а также современных научных представлений о правовых и этических принципах использования искусственного интеллекта, в том числе в публичном управлении.
Методы исследования: общенаучные методы анализа и синтеза, формально-юридический и сравнительно-правовой методы.
В качестве основных принципов применения технологий искусственного интеллекта в контрольно-надзорной деятельности предлагается рассматривать законность, целесообразность, безопасность, прозрачность (открытость), подконтрольность, стабильность, моделирование и экспертную оценку. Указанные принципы следует закрепить в нормативных правовых актах, регламентирующих контрольно-надзорную деятельность органов исполнительной власти, в частности в базовом федеральном законе о государственном контроле (надзоре) и муниципальном контроле.
Ключевые слова: искусственный интеллект, государственный контроль и надзор, публичное управление, цифровая экономика, правовое регулирование информационных технологий.
Для цитирования: Мартынов А. В., Бундин М. В. О правовых принципах применения искусственного интеллекта при осуществлении органами исполнительной власти контрольно-надзорной деятельности // Журнал российского права. 2020. № 10. С. 59—75. DOI: 10.12737/jrl.2020.120
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-011-00584.
Активное внедрение современных информационных технологий в контрольно-надзорную деятельность предполагает разработку серьезной теоретическо-правовой основы для их применения в государственно-управленческой деятельности. Следует признать правоту ученых, указывающих, что «цифровизация — это здесь и сейчас, и для того, чтобы не оказаться в аутсайдерах, нужны кардинальные перемены сразу в нескольких областях общественного развития: технологиях, методах управления, менталитете»1.
Одной из самых сложных и неоднозначных в социальном восприятии является технология искусственного интеллекта (далее также — ИИ). Председатель Совета судей РФ В. В. Момотов высказал опасения, что «у искусственного интеллекта свои законы и свой язык, отсутствие глубокого понимания которых у человека делает решения нейросетей непредсказуемыми»2.
По мнению Ли Дитриха, «надо быть очень осторожным при использовании искусственного интеллекта, потому что даже если нет никакого риска с точки зрения законодательства, то негативные заголовки в новостях могут привести к репутаци-онному ущербу»3.
Ряд авторов считают, что «искусственный интеллект подвержен риску не только хакерских атак,
1 Трансформация правовой реальности в цифровую эпоху: сб. науч. трудов / под общ. ред. Д. А. Пашенцева, М. В. Залоило. М., 2019. С. 75.
2 Выступление председателя Совета судей РФ В. В. Момотова на пленарном заседании по теме «Перспективы использования искусственного интеллекта в судебной системе Российской Федерации». Катар, 26 февраля 2020 г. URL: http://www.ssrf.ru/ news/lienta-novostiei/36912 (дата обращения: 31.03.2020).
3 Искусственный интеллект для юристов: чем он полезен и опасен. URL: https://pravo. ru/news/218237/?desc_search= (дата обращения: 31.03.2020).
но и других сбоев, которые крайне сложно предугадать, а зачастую и невозможно предотвратить или затруднительно остановить, поскольку роботы за доли секунды могут принять неправильные решения, которые охватят своими негативными или даже опасными последствиями огромное количество людей, тогда как последствия неправильных решений живого человека редко бывают такими одномоментными и массовыми»4.
Такие опасения в отношении искусственного интеллекта высокого уровня (сильный ИИ) имеют серьезные основания. Если рассуждения о том, что новая коронавирусная инфекция (COVID-19) имеет рукотворный характер5, верны, то вполне возможно, что искусственный интеллект способен создать даже более смертоносный вирус.
На существование серьезных правовых рисков применения искусственного интеллекта в различных сферах указывают многие ученые-юристы6. Общественная польза от применения технологии ИИ также неоспорима. М. и С. Абламенко справедливо отмечают, что с помощью ИИ можно выполнять те действия, которые человек не может или не
4 Юридическая концепция роботизации: монография / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М., 2019. С. 46.
5 См.: Нобелевский лауреат заявил об искусственном происхождении коронавируса. URL: https://ria.ru/20200417/1570213902.html (дата обращения: 18.04.2020).
6 См.: Кашкин С. Ю. Правовое регулиро-
вание применения технологий искусствен-
ного интеллекта и робототехники как фор-
мирующаяся новая комплексная отрасль права в наиболее репрезентативных государствах и международных интеграционных объединениях: постановка проблемы //
Вестник Российского нового университета. Серия: Человек и общество. 2019. № 3. С. 134—144; Серобян Г. А. Правовое регулирование систем искусственного интеллекта: за или против // Право и государство: теория и практика. 2019. № 10 (178). С. 89—91.
хочет делать (робот — для тушения лесного пожара). Искусственный интеллект может также существенно сократить затраты на логистику, помочь в предсказании и раскрытии преступлений, выявлении опасных ситуаций7. По мнению других ученых, ИИ «может применяться для выделения неочевидных или труднопознаваемых зависимостей и закономерностей там, где для человека это является сложной или невыполнимой задачей, а также для выполнения рутинных интеллектуальных операций, трудоемких преобразований информации»8. Использование ИИ крайне эффективно при чрезвычайных ситуациях (эпидемиях и пандемиях). Например, российская система ИИ нашла среди уже существующих препаратов 10, которые теоретически могут подавлять размножение коронавируса нового типа в клетках человека9.
Большинство авторов справедливо отмечают слабую правовую основу для применения технологии ИИ. Так, В. Б. Наумов указывает, что «нормативное описание цифровых процессов (включая — ИИ) значительно отстает от фактического развития цифровых институтов»10. И. В. Понкин и А. И. Редькина еще более критичны в оценке ситуации: «Правовое регулирование в этой сфере не просто не поспевает, но уже на сегодняшний день
7 См.: Абламенко М, Абламенко С. Правовое регулирование взаимодействия систем искусственного интеллекта и человека // Наука и инновации. 2020. № 1 (203). С. 40—44.
8 Доклад «Искусственный интеллект. К выбору стратегии», подготовленный Центром подготовки руководителей цифровой трансформации. М., 2019. С. 5.
9 См.: Нейросеть нашла лекарства, которые потенциально блокируют размножение коронавируса. URL: https://nauka.tass.ru/ nauka/8084101 (дата обращения: 31.03.2020).
10 Наумов В. Б. Право в эпоху цифровой трансформации: в поисках решений // Российское право: образование, практика, наука. 2018. № 6 (108). С. 4—11.
безнадежно отстало от технологического развития»11. И. С. Бойченко подчеркивает существенную проблему отсутствия понятий, принципов и правого регулирования нейронных технологий12.
Отмеченные проблемы нормативно-правового регулирования применения искусственного интеллекта фактически решаются как минимум тремя путями:
1) принятие стратегических и концептуальных основ применения ИИ в различных отраслях и сферах жизнедеятельности. Как верно отмечает Т. А. Полякова, стратегическое планирование включает прогнозирование, а национальные стратегии и доктрины «в значительной степени определяют сегодня цели, задачи, приоритетные направления, силы, средства и меры по реализации внутренней и внешней политики государств, развития информационной сферы, информационного общества, формирования цифровой экономики, общества знания, обеспечения национальных интересов и реализации стратегических приоритетов»13.
По такому пути идут в большинстве стран мира, в которых принимаются и действуют стратегические и программные документы в области ИИ14.
11 Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 105.
12 См.: Бойченко И. С. Формирование правового регулирования нейронных сетей // Формирование системы правового регулирования обеспечения информационной безопасности в условиях больших вызовов в глобальном информационном обществе. Вторые Бачиловские чтения: сб. науч. трудов / под ред. Т. А. Поляковой, В. Б. Наумова, А. В. Минбалеева. М., 2019. С. 218—223.
13 Полякова Т. А. Трансформация права и приоритетные направления научных исследований в информационной сфере // Там же. С. 21.
14 См.: Тихомиров Ю. А., Крысенкова Н. Б.,
Нанба С. Б., Маргушева Ж. А. Робот и чело-
В США за последние несколько лет принят ряд стратегических документов в рассматриваемой области15, последним и наиболее сейчас обсуждаемым из которых стала принятая в 2019 г. Национальная стратегия в области искусственного интеллекта, предусматривающая обеспечение американского лидерства в этой сфере16.
В европейских странах также активно разрабатываются различного рода стратегические и программные документы в области ИИ. В 2018 г. правительством ФРГ была утверждена Национальная стратегия по развитию искусственного интеллекта «ИИ — сделано в Германии» (англ. AI Made in Germany)17. Во Франции в 2018 г. была анонсирована Национальная стратегия «ИИ для человечества» (англ. AI for Humanity)18 и Национальная стратегия поддержки исследований в области искуствен-ного интеллекта19. В Великобритании
век: новое партнерство? // Журнал зарубежного законодательства и сравнительного правоведения. 2018. № 5 (72). С. 5—10.
15 См., например: National Robotics Initiative 2.0: Ubiquitous Collaborative Robots (NRI-2.0) // The National Science Foundation. URL: https:// www.nsf.gov/pubs/2017/nsf17518/nsf17518. htm (дата обращения: 11.04.2020); Roadmap for US Robotics from Internet to Robotics (2016 edition) // Jacobs School. URL: http:// jacobsschool.ucsd.edu/contextualrobotics/docs/ rm3-final-rs.pdf (дата обращения: 11.04.2020).
16 См.: Executive Order 13859 of February 11, 2019 On Maintaining American Leadership in Artificial Intelligence // Federal Register. URL: https://www.federalregister.gov/ documents/2 019/02/14/2 019-02 5 44/ maintaining-american-leadership-in-artificial-intelligence (дата обращения: 11.04.2020).
17 См.: National Strategy for Artificial Intelligence — "AI Made in Germany". URL: https://www.ki-strategie-deutschland.de/ home.html (дата обращения: 11.04.2020).
18 См.: AI for Humanity. URL: https://www. aiforhumanity.fr/ (дата обращения: 11.04.2020).
19 См.: La stratégie nationale de recherche en intelligence artificielle // Ministère de l'Enseignement supérieur, de la Recherche
Правительственной цифровой службой (англ. Government Digital Service) активно разрабатываются методические рекомендации по использованию технологий ИИ в различных сферах: Руководство по использованию технологий ИИ в публичном секторе20, Руководство по этике и безопасности ИИ21.
Страны Азии уделяют не меньшее внимание разработке аналогичных документов. В Китае важными документами в этой области стали: План развития робототех-нической промышленности 2016— 2020 (2016)22; План развития нового поколения технологий ИИ (2017)23; Глобальная государственная программа развития «Сделано в Китае — 2025» ("Made in China 2025")24; Белая книга по стандартизации искусственного интеллекта (20 1 8)25; Пекинские принципы ИИ (20 1 9)26.
et de ¡'Innovation. URL: https://www.
enseignementsup-recherche.gouv.fr/cid136649/
la-strategie-nationale-de-recherche-en-intelligence-artificielle.html (дата обращения:
11.04.2020).
20 См.: Guidance on building and using artificial intelligence in the public sector. URL: https://www.gov.uk/government/publications/ a-guide-to-using-artificial-intelligence-in-the-public-sector (дата обращения: 11.04.2020).
21 См.: Guidance how to use artificial intelligence ethically and safely. URL: https:// www.gov.uk/guidance/understanding-artificial-intelligence-ethics-and-safety (дата обращения: 11.04.2020).
22 URL: http://www.ndrc.gov.cn/zcfb/ zcfbghwb/201604/t20160427_799898.html (дата обращения: 11.04.2020).
23 URL: http://www.gov.cn/zhengce/ content/2017-07/20/content_5211996.htm (дата обращения: 11.04.2020).
24 URL: https://www.uschamber.com/sites/ default/files/final_made_in_china_2025_ report_full.pdf (дата обращения: 11.04.2020).
25 URL: http://www.cesi.ac.cn/images/edi tor/20180118/20180118090346205.pdf (дата обращения: 11.04.2020).
26 См.: Beijing AI Principles. URL: https:// www.baai.ac.cn/blog/beijing-ai-principles (дата обращения: 11.04.2020).
В Японии в 2017 г. принята Стратегия развития технологий ИИ27, а в 2019 г. — Стратегия ИИ28 с акцентом на его внедрение в современное японское общество. Южная Корея в 2019 г. анонсировала принятие новой Национальной стратегии искусственного интеллекта, ориентированной на упрощение доступа к этим технологиям для бизнеса29. В Сингапуре с 2017 г. действует национальный план «ИИ — Сингапур» (англ. AI Singapore), направленный на превращение страны к 2030 г. в «умную нацию» (англ. smart nation)30.
В Объединенных Арабских Эмиратах в 2017 г. принята «Стратегия ОАЭ в области искусственного интеллекта»31. В Канаде с 2017 г. действуют Общеканадская стратегия развития ИИ32 и Монреальская декларация об ответственном развитии искусственного интеллекта33.
27 См.: Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). URL: https://www.nedo.go.jp/ content/100865202.pdf (дата обращения: 11.04.2020).
28 См.: AI Strategy 2019. AI for Everyone: People, Industries, Regions and Governments. URL: https://www8.cao.go.jp/cstp/english/ humancentricai.pdf (дата обращения: 11.04.2020).
29 См.: Korean Government Announces National AI Strategy to Bolster the Economy & Improve Living Standards by 2030. URL: https://www.lexology.com/library/detail. aspx?g=5fd281af-bb6e-4366-a577-d00b9822bf6c (дата обращения: 11.04.2020).
30 См.: AI Singapore. URL: https://www. aisingapore.org/ (дата обращения: 11.04.2020).
31 См.: UAE Strategy for Artificial Intelligence. URL: https://u.ae/en/about-the-uae/strategies-initiatives-and-awards/ federal-governments-strategies-and-plans/ uae-strategy-for-artificial-intelligence (дата обращения: 11.04.2020).
32 См.: CIFAR Pan-Canadian Artificial Intelligence Strategy. URL.: https://www.cifar. ca/ai/pan-canadian-artificial-intelligence-strategy (дата обращения: 11.04.2020).
33 См.: The Montreal Declaration for
Responsible Development of Artificial
Не отстает от других стран и Россия. В конце 2019 г. Президентом РФ была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 г.34 (далее — Национальная стратегия развития ИИ). Предполагается, что ее положения должны в обязательном порядке учитываться при реализации иных стратегических и программных документов (Стратегии развития информационного общества в Российской Федерации на 2017—2030 гг., Национальной программы «Цифровая экономика Российской Федерации», планов мероприятий («дорожных карт») Национальной технологической инициативы и др.). В Национальной стратегии развития ИИ впервые в российском законодательстве сформулирован ряд ключевых понятий в рассматриваемой сфере: «искусственный интеллект», «технологии искусственного интеллекта», «перспективные методы искусственного интеллекта», «смежные области использования искусственного интеллекта», «набор данных», «разметка данных», «открытая библиотека искусственного интеллекта», «технологическое решение» и др.
Вместе с тем согласимся с В. К. Андреевым, отмечающим, что несмотря на принятие Национальной стратегии развития ИИ, пока рано говорить о создании «цифрового права» как регулятивной среды наряду с правом классическим, а процесс внедрения искусственного интеллекта в различные сферы деятельности следует считать органическим включением в хозяйственную жизнь новых технологических решений35;
Intelligence. URL: https://www. montrealdeclaration-responsibleai.com/the-declaration (дата обращения: 11.04.2020).
34 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации».
35 См.: Андреев В. К. Динамика правового регулирования искусственного интел-
2) принятие прогностического или опережающего законодательства. Многими учеными отмечается, что «природа цифровых отношений обусловливает необходимость использования большого набора регуляторов — организационных, технических, этических, саморегулирования и сорегулиро-вания, национального регулирования и наднациональных регуляторов. Четко определить, какими будут эти регуляторы, какую роль они будут играть, на настоящий момент невозможно в силу недостаточного развития соответствующих технологий. Дискретность предполагает, что со временем набор регуляторов может меняться в зависимости от характера развития цифровых технологий»36. Научная общественность постоянно ведет разработку научных концепций, где представлен правовой прогноз развития всей системы права, системы законодательства, отдельных его отраслей37. Так, М. В. Баранова определяет опережающее правотворчество как «особую относительно самостоятельную разновидность юридического нормо-созидания, состоящего в процедурно-организационном механизме инновационного конструирования различных форм правовой реальности (юридических норм, идей и концепций законопроектов, базовых законов по предмету, ранее не подвергавшемуся регламентации)»38.
«Опережающее нормотворчество» нами рассматривается в позитивном смысле как вынужденная или спро-
лекта // Журнал российского права. 2020. № 3. С. 58—68.
36 Трансформация правовой реальности в цифровую эпоху. С. 46.
37 См.: Ладейнова О. С. Правовая природа программно-стратегических документов // Образование и право. 2019. № 3. С. 20.
38 Баранова М. В. Опережающее правотворчество в правовой системе современности // Вестник Саратовской государственной юридической академии. 2016. № 1 (108). С. 43.
гнозированная необходимость правового регулирования будущих социально-экономических явлений, а не в негативном смысле39. Отчасти плохим примером отсутствия в мире и России прогностического или опережающего законодательства стала ситуация, сложившаяся с пандемией коронавируса, когда для установления режима самоизоляции граждан в законодательстве отсутствовали соответствующие правовые механизмы, что вызвало непонимание и недоверие к органам власти со стороны общества.
Таким образом, Национальная стратегия развития ИИ вполне может быть отнесена к актам прогностического или опережающего правотворчества40, направленного на адаптацию нормативного регулирования в части, касающейся взаимодействия человека с искусственным интеллектом, и выработку соответствующих этических норм. При этом избыточное регулирование в этой сфере может существенно замедлить темп развития и внедрения технологических решений41. К 2030 г. в России уже должна функционировать гибкая система нормативно-правового регулирования в области ИИ42;
3) разработка и закрепление в праве универсальных принципов применения ИИ на международном и на национальном уровнях. Так, Европейским парламентом в 2017 г. приняты «Нормы гражданского права о робототехнике»43, ко-
39 См.: Мамчун В. В. Культура риска в юридической деятельности // Юридическая техника. 2016. № 10. С. 400—406.
40 См.: Баранова М. В. К вопросу о системе специально-юридических принципов опережающего правотворчества // Юридическая техника. 2020. № 14. С. 557—562.
41 См. п. 48 Национальной стратегии развития ИИ.
42 См. п. 51 Национальной стратегии развития ИИ.
43 European Parliament resolution of
16 February 2017 with recommendations
торые предлагают установление понятной, строгой и эффективной системы этических принципов развития, разработки, производства, использования и модификации роботов. Акцент делается на принципе прозрачности — любое принятое с помощью ИИ решение должно быть обеспечено рациональным объяснением в форме, понятной человеку. Среди других этических принципов упоминаются: «делай благо» и «не навреди», автономность и справедливость, уважение человеческого достоинства, равноправие, справедливость, недискриминация и др. В целом документ ориентирован на сферу робототехники и затрагивает вопросы создания компенсационного страхового механизма, аналогичного механизму страхования ответственности за причинение вреда транспортным средством, а также установления специального правового статуса и ответственности за действия роботов (электронного лица / электронной личности)44.
В 2018 г. в Брюсселе 25 государств — членов Европейского Союза подписали Декларацию о сотрудничестве в области искусственного интеллекта45, содержащую ряд базовых принципов: 1) рациональность и надежность основанных на искусственном интеллекте решений; 2) сохранение за человеком ключевой роли в процессе развития, применения и принятия решений в отношении ИИ; 3) необходимость обмениваться мнениями относительно
to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL.: https:// www.europarl.europa.eu/doceo/document/ TA-8-2017-0051_EN.html (дата обращения: 11.04.2020).
44 См.: Юридическая концепция роботизации / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. С. 91—92.
45 См.: Communication Artificial Intelligence for Europe. URL: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (дата обращения: 11.04.2020).
последствий развития ИИ для рынков труда и обеспечения социальной стабильности46.
В апреле 2018 г. Европейская комиссия представила Коммюнике «Искусственный интеллект для Европы»47, в разд. 3.3 которого закреплены этические принципы применения ИИ: справедливость, безопасность, социальная интеграция, алгоритмическая прозрачность, конфиденциальность, достоинство личности, защита прав потребителей, недискриминация и др. Главное при этом — обеспечить высокий уровень безопасности и эффективный механизм возмещения для потерпевших (пострадавших) от действий ИИ. Потребители должны получать своевременную и достоверную информацию о продуктах с применением ИИ и обладать возможностью контролировать данные (сведения, информацию, результаты), полученные с их помощью48.
Другим заслуживающим внимания документом является принятая в 2018 г. Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях49. В ней зафиксированы пять ключевых принципов: 1) уважение фундаментальных (основополагающих)
46 Перевод выполнен экспертами АНО «Робоправо».
47 Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe. URL: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (дата обращения: 11.04.2020).
48 Перевод документа выполнен авторами настоящей статьи.
49 См.: European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment // Council of Europe. URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c (дата обращения: 11.04.2020).
прав; 2) отказ от дискриминации; 3) качество и безопасность; 4) прозрачность, беспристрастность и достоверность; 5) контроль пользователя50.
Отметим еще один документ на международном уровне — «Азило-марские принципы ИИ»51. Они разработаны и приняты по итогам конференции разработчиков и исследователей в 2017 г. в Азиломаре, США. В разделе «Этика и ценности» приведен ряд принципиальных положений, касающихся применения ИИ: 1) безопасность; 2) прозрачность неудачи; 3) прозрачность правосудия; 4) ответственность; 5) схожесть ценностей; 6) человеческие ценности; 7) конфиденциальность личных данных; 8) свобода и неприкосновенность частной жизни; 9) совместная выгода; 10) совместное процветание; 11) человеческий контроль; 12) устойчивость52.
В связи с этим важнейшим достижением российского законодательства является полноценное закрепление общих принципов развития и применения искусственного интеллекта в Национальной стратегии развития ИИ (п. 19): 1) защита прав и свобод человека; 2) безопасность; 3) прозрачность; 4) технологический суверенитет; 5) целостность инновационного цикла; 6) разумная бережливость; 7) поддержка конкуренции.
При использовании вышеуказанных принципов применительно к контрольно-надзорной деятельности следует учитывать существующие принципы для этого вида государственно-управленческой деятельности. В частности, в
50 См.: Совет Европы принял хартию о судебном применении искусственного интеллекта. URL: http://rapsinews.ru/ international_news/20181204/292074043.html (дата обращения: 11.04.2020).
51 Asilomar AI Principles. URL: https:// futureoflife.org/ai-principles/ (дата обращения: 11.04.2020).
52 Перевод выполнен экспертами АНО «Робоправо».
ст. 3 Федерального закона от 26 декабря 2008 г. № 294-ФЗ «О защите прав юридических лиц и индивидуальных предпринимателей при осуществлении государственного контроля (надзора) и муниципального контроля» такими принципами являются: а) преимущественно уведомительный порядок начала осуществления отдельных видов предпринимательской деятельности; б) презумпция добросовестности юридических лиц, индивидуальных предпринимателей; в) открытость и доступность информации о контрольно-надзорной деятельности (содержании обязательных требований, организации и проведении проверочных мероприятий, результатах проверок, принятых мерах т. д.); г) проведение проверок в соответствии с полномочиями контрольно-надзорного органа, их должностных лиц; д) недопустимость проверок исполнения одних и тех же обязательных требований разными контрольно-надзорными органами; е) недопустимость требования о получении разрешений, заключений и иных документов, необходимых для начала осуществления предпринимательской деятельности, за исключением случаев, предусмотренных федеральными законами; ж) ответственность органов и их должностных лиц за нарушение законодательства РФ при проведении мероприятий по контролю и надзору; з) недопустимость взимания контрольно-надзорными органами платы за проведение мероприятий по контролю (надзору); и) финансирование за счет средств соответствующих бюджетов проверок и мероприятий по контролю; к) разграничение полномочий федеральных органов исполнительной власти и органов государственной власти субъектов РФ по контролю и надзору.
В настоящее время активно идет работа над проектом федерального закона «О государственном контроле (надзоре) и муниципальном контроле» (далее — законопроект
№ 850621-7)53. В связи с этим вызывают обоснованный интерес те принципы государственного контроля (надзора), муниципального контроля, которые предлагается в нем закрепить: а) законность при организации и осуществлении государственного контроля (надзора), муниципального контроля; б) стимулирование добросовестности; в) соразмерность вмешательства в деятельность контролируемых лиц; г) охрана прав и законных интересов контролируемых лиц; д) недопустимость злоупотребления правом; е) уважение достоинства личности, деловой репутации; ж) соблюдение охраняемой законом тайны; з) недопустимость множественного государственного контроля (надзора), муниципального контроля; и) результативность и эффективность государственного контроля (надзора), муниципального контроля; к) объективность государственного контроля (надзора), муниципального контроля; л) открытость и доступность информации об организации и осуществлении государственного контроля (надзора), муниципального контроля; м) оперативность при осуществлении государственного контроля (надзора), муниципального контроля.
Важно отметить, что принципы применения ИИ в контрольно-надзорной деятельности должны не только не противоречить основным принципам осуществления государственного контроля и надзора, но и согласовываться с ними, служить важным дополнением, направленным на улучшение и совершенствование деятельности контрольно-надзорных органов и их должностных лиц, и обеспечивать права и законные интересы физических и юридических лиц, в отношении ко-
53 См.: Законопроект № 850621-7 «О государственном контроле (надзоре) и муниципальном контроле». URL: https://sozd. duma.gov.ru/bill/850621-7 (дата обращения: 15.04.2020).
торых проводятся контрольно-надзорные мероприятия.
Таким образом, при разработке принципов применения ИИ при осуществлении государственного контроля и надзора необходимо прежде всего учитывать следующие специфику и особенности контрольно-надзорной деятельности, в которую будет внедряться искусственный интеллект:
1) предмет государственного контроля и надзора строго ограничен правовыми рамками (обязательными требованиями). Проверка с применением ИИ не должна выходить за рамки предмета проверки, осуществляемой должностными лицами контрольно-надзорных органов. При этом нужно предусмотреть такую ситуацию, при которой искусственный интеллект может обнаружить нарушение (например, угрожающее безопасности работы предприятия), которое не входило в предмет проверки. Не реагировать на такое нарушение контрольно-надзорные органы не имеют права. Сейчас они фиксируют такое правонарушение в ином — юрисдикци-онном порядке, но наделять искусственный интеллект такими полномочиями пока будет неправильным. В то же время ИИ может передать необходимую информацию иным компетентным органам для принятия юридически значимых решений;
2) при проведении контрольно-надзорных мероприятий должно обеспечиваться безопасное функционирование подконтрольного (поднадзорного) объекта. При их проведении требуется в полной мере обеспечить безопасность всех происходящих процессов на этом объекте или в определенной деятельности человека (не причинять ему вреда). Если же в ходе применения ИИ не может быть обеспечено такое состояние безопасности, то его применение нецелесообразно;
3) при осуществлении государственного контроля и надзора имеет большое значение гласность прово-
68
Journal of Russian Law, 2020, no. 10
димых проверочных мероприятий, т. е. размещение информации на открытых интернет-сайтах контрольно-надзорных органов и специализированном информационном ресурсе (для внеплановых поверок не менее чем за 24 часа до начала ее проведения). Существует и негласное проверочное мероприятие — контрольная закупка54. По нашему мнению, применение ИИ возможно только при осуществлении гласных проверочных мероприятий. Такая информация должна быть предоставлена подконтрольному (поднадзорному) лицу заблаговременно и получено его добровольное согласие на применение ИИ.
Что касается негласных мероприятий, то на первоначальном этапе использование ИИ маловероятно, так как со стороны подконтрольных (поднадзорных) лиц могут высказываться вполне обоснованные претензии о возможной провокации нарушений в результате автоматизированной проверки с помощью ИИ, что не исключает возможность его применения в будущем;
4) учитывая, что по результатам контрольно-надзорных мероприятий могут применяться меры административного принуждения, важное значение приобретают защита прав и законных интересов граждан и организаций, которая может быть обеспечена в том числе путем перепроверки сведений и результатов, полученных с применением ИИ, и предоставление открытого доступа всех заинтересованных лиц к такой информации. Тем самым будет реализован принцип объективности государственного контроля (надзора), закрепленный в ст. 16 законопроекта № 850621-7, согласно которому «решения контрольно-надзорного органа, дей-
54 См. ч. 72 ст. 9, ст. 161 Федерального закона «О защите прав юридических лиц и индивидуальных предпринимателей при осуществлении государственного контроля (надзора) и муниципального контроля».
ствия должностных лиц контрольно-надзорного органа должны быть объективны и подтверждаться фактическими данными и документами, содержащими достоверную информацию». Необходимость открытости и прозрачности результатов проверочных мероприятий объясняется также необходимостью профилактики и предупреждения нарушений обязательных требований. В этом смысле подконтрольному лицу важно знать, какое было нарушение, в чем его причины и как предотвратить подобные нарушения в дальнейшем;
5) при осуществлении государственного контроля и надзора важно обеспечивать сохранность и конфиденциальность информации, когда этого требует закон (персональные данные, коммерческая тайна, служебная тайна и т. п.). Во время проведения и после контрольно-надзорных мероприятий информация должна быть надежно защищена и обеспечен безопасный способ ее хранения либо она должна в последствии уничтожаться;
6) серьезной проблемой государственного контроля и надзора является его независимость. В контрольно-надзорной деятельности всегда присутствуют серьезные коррупционные риски. Случается, что излишнее «рвение» контрольно-надзорных органов в погоне за высокими показателями создает «обвинительный» уклон их деятельности и препятствия для развития предпринимательской деятельности в России. Важно исключить какое-либо несанкционированное и противоправное вмешательство в работу систем ИИ проверяемых лиц, органов контроля и надзора и третьих лиц (злоумышленников);
7) несмотря на предполагаемую объективность, независимость и достоверность, существует достаточно высокий уровень административного усмотрения. Речь идет о моментах, связанных с выявленными нарушениями, которые не пред-
ставляют непосредственной угрозы жизни и здоровью людей, причинения вреда имуществу третьих лиц или объектам природной среды — фиксация которых остается на усмотрение должностных лиц контрольно-надзорных органов. В этом смысле технологии ИИ остаются исключительно инструментом (способом) осуществления проверочных мероприятий.
Таким образом, можно сформулировать следующие основные принципы применения ИИ при осуществлении контрольно-надзорной деятельности органов исполнительной власти и их должностных лиц:
1) законность. Искусственный интеллект в контрольно-надзорной деятельности должен применяться только в предусмотренных законом случаях и только при осуществлении определенных видов государственного контроля и надзора, установленных нормативными правовыми актами, регламентирующими контрольно-надзорную деятельность. Все случаи применения технологий ИИ должны четко регламентироваться положениями об осуществлении определенных видов государственного контроля и надзора и соответствующими административными регламентами осуществления государственных функций по контролю и надзору определенными органами исполнительной власти;
2) целесообразность. Применение искусственного интеллекта не должно являться обязательным условием осуществления контрольно-надзорной деятельности органов исполнительной власти и их должностных лиц. Технологии ИИ должны рассматриваться как инструмент, способствующий более эффективному осуществлению государственного контроля и надзора, направленный на сокращение временных, материальных и организационных затрат на проведение контрольно-надзорных мероприятий, а в определенных случаях — методом проведения контроля и надзора,
обеспечивающим большую безопасность сотрудников этих органов;
3) безопасность. Применение искусственного интеллекта должно быть безопасным, т. е. исключаются угрозы причинения вреда жизни и здоровью человека, имуществу третьих лиц, объектам природной среды, лицу, в отношении которого осуществляются контрольно-надзорные мероприятия. При применении ИИ не допускается какое-либо вмешательство в технологические процессы на проверяемом объекте, должно оказываться минимально возможное влияние на его хозяйственную деятельность. Значительное внимание должно уделяться обеспечению информационной безопасности, а установленные меры защиты должны обеспечивать корректную работу ИИ, исключающую манипуляции и вмешательство в его работу третьих лиц. Все случаи манипуляции или вмешательства в работу искусственного интеллекта должны фиксироваться, подлежать тщательному расследованию контрольно-надзорных органов (внутренняя проверка) и правоохранительных органов. Информация о неправомерном вмешательстве, манипулировании или некорректной работе ИИ должна быть незамедлительно доведена до сведения проверяемого лица, а результаты контрольно-надзорных мероприятий признаны недействительными;
4) прозрачность (открытость). Принцип прозрачности в полной мере раскрыт в Национальной стратегии развития ИИ, и смысл его заключается в том, что должна быть «объяснимость работы искусственного интеллекта и процесса достижения им результатов». В контрольно-надзорной деятельности это важно по причине как возможного несогласия подконтрольного (поднадзорного) лица с результатами проверки, так и необходимости получить полную информацию о допущенных нарушениях и иметь возможность их исправить, а также
улучшить работу, чтобы не допустить подобных нарушений в будущем. Объяснимость работы искусственного интеллекта и процесса достижения им результатов является необходимым и обязательным условием для предоставления возможности проверяемому лицу обжаловать результаты контрольно-надзорной деятельности либо требовать в установленном порядке их пересмотра;
5) подконтрольность. В обязательном порядке должен осуществляться человеческий контроль или контроль пользователя за работой ИИ. Уполномоченное должностное лицо или технический специалист контрольно-надзорного органа должны иметь возможность в любой момент контролировать производство операций искусственным интеллектом при проведении проверки, а при необходимости незамедлительно отключить его полностью или частично;
6) стабильность. Обеспечение стабильности в работе искусственного интеллекта является важным фактором его применения. Выбор в качестве основного инструмента технологии ИИ не должно ставить в неравные условия других проверяемых лиц. Кроме того, стабильность связана с бесперебойной и корректной работой программного обеспечения. Это предполагает приоритетность использования отечественного оборудования и программного обеспечения для технологий ИИ;
7) моделирование. Искусственный интеллект может применяться не только при непосредственном контакте с подконтрольным (поднадзорным) субъектом,
но и опосредованным образом. Например, создание цифровых двойников — эта технология в промышленности основана на реализации единой интегрированной постоянно обновляющейся шестислой-ной модели, включающей: нормативно-справочную информацию, проектно-сметную документацию в электронном виде, графический слой представления объектов, инженерные данные, математические модели и онлайн-данные, получаемые от автоматизированных систем управления технологическими процессами55;
8) экспертная оценка. Результативность и эффективность применения искусственного интеллекта в контрольно-надзорной деятельности должны подлежать экспертной оценке со стороны технических специалистов, программистов, ученых. Это позволит получить объективную оценку результатов применения ИИ и в будущем усовершенствовать или скорректировать его работу.
Вышеназванные принципы применения искусственного интеллекта в контрольно-надзорной деятельности должны получить закрепление в нормативных правовых актах, регламентирующих контрольно-надзорную деятельность органов исполнительной власти, в частности в «базовом» федеральном законе о государственном контроле (надзоре) и муниципальном контроле.
55 См.: Семенов П. В., Семишкур Р. П., Дя-ченко И. А. Концептуальная модель реализации технологии «цифровых двойников» для предприятий нефтегазового комплекса // Газовая промышленность. 2019. № 7 (787). С. 24—30.
Библиографический список
AI for Humanity. URL: https://www.aiforhumanity.fr/ (дата обращения: 11.04.2020). AI Singapore. URL: https://www.aisingapore.org/ (дата обращения: 11.04.2020). AI Strategy 2019. AI for Everyone: People, Industries, Regions and Governments. URL: https://www8.cao.go.jp/cstp/english/humancentricai.pdf (дата обращения: 11.04.2020).
Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). URL: https://www.nedo.go.jp/content/100865202.pdf (дата обращения: 11.04.2020).
Asilomar AI Principles. URL: https://futureoflife.org/ai-principles/ (дата обращения: 11.04.2020).
Beijing AI Principles. URL: https://www.baai.ac.cn/blog/beijing-ai-principles (дата обращения: 11.04.2020).
CIFAR Pan-Canadian Artificial Intelligence Strategy. URL.: https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy (дата обращения: 11.04.2020).
Communication Artificial Intelligence for Europe. URL: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (дата обращения: 11.04.2020).
Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe. URL: https://ec.europa.eu/digital-single-market/en/news/ communication-artificial-intelligence-europe (дата обращения: 11.04.2020).
European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment // Council of Europe. URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c (дата обращения: 11.04.2020).
Executive Order 13859 of February 11, 2019 On Maintaining American Leadership in Artificial Intelligence // Federal Register. URL: https://www.federalregister.gov/ documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence (дата обращения: 11.04.2020).
Guidance how to use artificial intelligence ethically and safely. URL: https://www.gov.uk/ guidance/understanding-artificial-intelligence-ethics-and-safety (дата обращения: 11.04.2020).
Guidance on building and using artificial intelligence in the public sector. URL: https://www. gov.uk/government/publications/a-guide-to-using-artificial-intelligence-in-the-public-sector (дата обращения: 11.04.2020).
Korean Government Announces National AI Strategy to Bolster the Economy & Improve Living Standards by 2030. URL: https://www.lexology.com/library/detail.aspx?g=5fd281af-bb6e-4366-a577-d00b9822bf6c (дата обращения: 11.04.2020).
La stratégie nationale de recherche en intelligence artificielle // Ministère de l'Enseignement supérieur, de la Recherche et de l'Innovation. URL: https://www.enseignementsup-recherche. gouv.fr/cid136649/la-strategie-nationale-de-recherche-en-intelligence-artificielle.html (дата обращения: 11.04.2020).
National Robotics Initiative 2.0: Ubiquitous Collaborative Robots (NRI-2.0) // The National Science Foundation. URL: https://www.nsf.gov/pubs/2017/nsf17518/nsf17518.htm (дата обращения: 11.04.2020).
National Strategy for Artificial Intelligence — "AI Made in Germany". URL: https://www. ki-strategie-deutschland.de/home.html (дата обращения: 11.04.2020).
Roadmap for US Robotics from Internet to Robotics (2016 edition) // Jacobs School. URL: http://jacobsschool.ucsd.edu/contextualrobotics/docs/rm3-final-rs.pdf (дата обращения: 11.04.2020).
The Montreal Declaration for Responsible Development of Artificial Intelligence. URL.: https://www.montrealdeclaration-responsibleai.com/the-declaration (дата обращения: 11.04.2020).
UAE Strategy for Artificial Intelligence. URL: https://u.ae/en/about-the-uae/strategies-initiatives-and-awards/federal-governments-strategies-and-plans/uae-strategy-for-artificial-intelligence (дата обращения: 11.04.2020).
Абламенко М., Абламенко С. Правовое регулирование взаимодействия систем искусственного интеллекта и человека // Наука и инновации. 2020. № 1 (203).
Андреев В. К. Динамика правового регулирования искусственного интеллекта // Журнал российского права. 2020. № 3.
Баранова М. В. К вопросу о системе специально-юридических принципов опережающего правотворчества // Юридическая техника. 2020. № 14.
Баранова М. В. Опережающее правотворчество в правовой системе современности // Вестник Саратовской государственной юридической академии. 2016. № 1 (108).
Бойченко И. С. Формирование правового регулирования нейронных сетей // Формирование системы правового регулирования обеспечения информационной безопасности в условиях больших вызовов в глобальном информационном обществе. Вторые Бачилов-ские чтения: сб. науч. трудов / под ред. Т. А. Поляковой, В. Б. Наумова, А. В. Минбалеева. М., 2019.
Выступление председателя Совета судей РФ В. В. Момотова на пленарном заседании по теме «Перспективы использования искусственного интеллекта в судебной системе Российской Федерации». Катар, 26 февраля 2020 г. URL: http://www.ssrf.ru/news/lienta-novostiei/36912 (дата обращения: 31.03.2020).
Доклад «Искусственный интеллект. К выбору стратегии», подготовленный Центром подготовки руководителей цифровой трансформации. М., 2019.
Искусственный интеллект для юристов: чем он полезен и опасен. URL: https://pravo.ru/ news/218237/?desc_search= (дата обращения: 31.03.2020).
Кашкин С. Ю. Правовое регулирование применения технологий искусственного интеллекта и робототехники как формирующаяся новая комплексная отрасль права в наиболее репрезентативных государствах и международных интеграционных объединениях: постановка проблемы // Вестник Российского нового университета. Серия: Человек и общество. 2019. № 3.
Ладейнова О. С. Правовая природа программно-стратегических документов // Образование и право. 2019. № 3.
Мамчун В. В. Культура риска в юридической деятельности // Юридическая техника. 2016. № 10.
Наумов В. Б. Право в эпоху цифровой трансформации: в поисках решений // Российское право: образование, практика, наука. 2018. № 6 (108).
Нейросеть нашла лекарства, которые потенциально блокируют размножение коронави-руса. URL: https://nauka.tass.ru/nauka/8084101 (дата обращения: 31.03.2020).
Нобелевский лауреат заявил об искусственном происхождении коронавируса. URL: https://ria.ru/20200417/1570213902.html (дата обращения: 18.04.2020).
Полякова Т. А. Трансформация права и приоритетные направления научных исследований в информационной сфере // Формирование системы правового регулирования обеспечения информационной безопасности в условиях больших вызовов в глобальном информационном обществе. Вторые Бачиловские чтения: сб. науч. трудов / под ред. Т. А. Поляковой, В. Б. Наумова, А. В. Минбалеева. М., 2019.
Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1.
Семенов П. В., Семишкур Р. П., Дяченко И. А. Концептуальная модель реализации технологии «цифровых двойников» для предприятий нефтегазового комплекса // Газовая промышленность. 2019. № 7 (787).
Серобян Г. А. Правовое регулирование систем искусственного интеллекта: за или против // Право и государство: теория и практика. 2019. № 10 (178).
Совет Европы принял хартию о судебном применении искусственного интеллекта. URL: http://rapsinews.ru/international_news/20181204/292074043.html (дата обращения: 11.04.2020).
Тихомиров Ю. А., Крысенкова Н. Б., Нанба С. Б., Маргушева Ж. А. Робот и человек: новое партнерство? // Журнал зарубежного законодательства и сравнительного правоведения. 2018. № 5 (72).
Трансформация правовой реальности в цифровую эпоху: сб. науч. трудов / под общ. ред. Д. А. Пашенцева, М. В. Залоило. М., 2019.
Юридическая концепция роботизации: монография / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М., 2019.
on the Legal Principles of Exploiting Artificial Intelligence in Executing Control and Supervisory Activities by Executive Authorities*
A. V. Martynov, M. V. Bundin
Institute of Open Education, National Research Lobachevsky State University of Nizhny Novgorod, Nizhny Novgorod 603950, Russian Federation
E-mail: avm@unn.ru; mbundin@mail.ru
DOI: 10.12737/jrl.2020.120
Currently artificial intelligence technologies are being actively introduced into public administration, including in the implementation of state control and supervisory powers. The latter raises a legitimate question about the need to form a set of fundamental principles for the use of artificial intelligence technologies in this area.
The main goal of this research is to suggest and ground, based on the analysis of international and national law and existing scientific concepts, the set of fundamental legal principles. They must ensure, on the one hand, the effectiveness of control and supervision activities, and, on the other, guarantee the safety and protection of the rights and legitimate interests of individuals and legal entities. In this regard, the authors consider the main task of the study to be the analysis of international and national experience of legal regulation (strategic and program documents), which introduces artificial intelligence technologies in various spheres of activity, as well as modern scientific concepts about the legal and ethical principles of using artificial intelligence, including those in public administration.
Research methods are general scientific methods of analysis and synthesis, as well as formal legal and comparative legal methods.
It is suggested to consider as the main principles of applying artificial intelligence technologies into state control and supervisory activities the following: legality, rationality, security, transparency (openness), human control, stability, modeling and expert evaluation. These principles are proposed to be included in the legal acts, which regulate state control and supervisory activities of the Executive, in particular, in the "basic" federal law on state control (supervision) and municipal control.
Keywords: artificial intelligence, state control and supervision, public administration, digital economy, legal regulation of information technologies.
For citation: Martynov A. V., Bundin M. V. On the Legal Principles of Exploiting Artificial Intelligence in Executing Control and Supervisory Activities by Executive Authorities. Zhurnal rossijskogo prava = Journal of Russian Law, 2020, no. 10, pp. 59—75. DOI: 10.12737/jrl.2020.120 (In Russ.)
References
Ablamenko M., Ablamenko S. Legal Regulation of the Artificial Intelligence Systems Interaction. Nauka i innovatsii, 2020, no. 1 (203), pp. 40—44. (In Russ.)
AI for Humanity. Available at: https://www.aiforhumanity.fr/ (accessed 11.04.2020).
AI Singapore. Available at: https://www.aisingapore.org/ (accessed 11.04.2020).
AI Strategy 2019. AI for Everyone: People, Industries, Regions and Governments. Available at: https://www8.cao.go.jp/cstp/english/humancentricai.pdf (accessed 11.04.2020).
Andreev V. K. Dynamics of Regulating Artificial Intelligence. Zhurnal rossijskogo prava = Journal of Russian Law, 2020, no. 3, pp. 58—68. DOI: 10.12737/jrl.2020.030 (In Russ.)
Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). Available at: https://www.nedo.go.jp/content/100865202.pdf (accessed 11.04.2020).
Asilomar AI Principles. Available at: https://futureoflife.org/ai-principles/ (accessed 11.04.2020).
Baranova M. V. Anticipatory Law-Making in the Legal System of Modernity. Vestnik Saratovskoy gosudarstvennoy yuridicheskoy akademii, 2016, no. 1 (108), pp. 43—45. (In Russ.)
Baranova M. V. K voprosu o sisteme spetsial'no-yuridicheskikh printsipov operezhayushchego pravotvorchestva. Yuridicheskaya tekhnika, 2020, no. 14, pp. 557—562.
* Funding: The reported study was funded by RFBR, project number 20-011-00584.
Beijing AI Principles. Available at: https://www.baai.ac.cn/blog/beijing-ai-principles (accessed 11.04.2020).
Boychenko I. S. Formation of Legal Regulation of Neural Networks. Formirovanie sistemy pravovogo regulirovaniya obespecheniya informatsionnoy bezopasnosti v usloviyakh bol'shikh vyzovov v global'nom informatsionnom obshchestve. Vtorye Bachilovskie chteniya. Ed. by T. A. Polyakova, V. B. Naumov, A. V. Minbaleev. Moscow, 2019. Pp. 218—223.
CIFAR Pan-Canadian Artificial Intelligence Strategy. URL.: https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy (accessed 11.04.2020).
Communication Artificial Intelligence for Europe. Available at: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (accessed 11.04.2020).
Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe. Available at: https://ec.europa.eu/digital-single-market/ en/news/communication-artificial-intelligence-europe (accessed 11.04.2020).
Doklad "Iskusstvennyy intellekt. K vyboru strategii", podgotovlennyy Tsentrom podgotovki rukovoditeley tsifrovoy transformatsii. Moscow, 2019. 104 p.
European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. Council of Europe. Available at: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c (accessed 11.04.2020).
Executive Order 13859 of February 11, 2019 On Maintaining American Leadership in Artificial Intelligence. Federal Register. Available at: https://www.federalregister.gov/ documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence (accessed 11.04.2020).
Guidance how to use artificial intelligence ethically and safely. Available at: https://www. gov.uk/guidance/understanding-artificial-intelligence-ethics-and-safety (accessed 11.04.2020).
Guidance on building and using artificial intelligence in the public sector. Available at: https:// www.gov.uk/government/publications/a-guide-to-using-artificial-intelligence-in-the-public-sector (accessed 11.04.2020).
Iskusstvennyy intellekt dlya yuristov: chem on polezen i opasen. Available at: https://pravo. ru/news/218237/?desc_search= (accessed 31.03.2020).
Kashkin S. Yu. Legal Regulation of Application of Artificial Intelligence and Robotics Technologies as a Forming New Complex Branch of Law in Most Representative States and International Integration Associations: Problem Statement. Vestnik Rossiyskogo novogo universiteta. Seriya: Chelovek i obshchestvo, 2019, no. 3, pp. 134—144. (In Russ.)
Korean Government Announces National AI Strategy to Bolster the Economy & Improve Living Standards by 2030. Available at: https://www.lexology.com/library/detail. aspx?g=5fd281af-bb6e-4366-a577-d00b9822bf6c data obrashcheniya: 11.04.2020).
La stratégie nationale de recherche en intelligence artificielle. Ministère de l'Enseignement supérieur, de la Recherche et de l'Innovation. Available at: https://www.enseignementsup-recherche.gouv.fr/cid136649/la-strategie-nationale-de-recherche-en-intelligence-artificielle. html (accessed 11.04.2020).
Ladeynova O. S. Legal Nature of Program and Strategic Documents. Obrazovanie i pravo, 2019, no. 3, pp. 19—24. (In Russ.)
Legal Concept of Robotization. Ed. by Yu. A. Tikhomirov, S. B. Nanba. Moscow, 2019. 240 p. DOI: 10.31085/9785392305650-2019-240 (In Russ.)
Mamchun V. V. Kul'tura riska v yuridicheskoy deyatel'nosti. Yuridicheskaya tekhnika, 2016, no. 10, pp. 400—406.
National Robotics Initiative 2.0: Ubiquitous Collaborative Robots (NRI-2.0). The National Science Foundation. Available at: https://www.nsf.gov/pubs/2017/nsf17518/nsf17518.htm (accessed 11.04.2020).
National Strategy for Artificial Intelligence — 'AI Made in Germany". Available at: https:// www.ki-strategie-deutschland.de/home.html (accessed 11.04.2020).
Naumov V. B. Law in the Epoch of Digital Transformation: in Search of Solutions. Rossiyskoe pravo: obrazovanie, praktika, nauka, 2018, no. 6 (108), pp. 4—11. (In Russ.)
Neyroset' nashla lekarstva, kotorye potentsial'no blokiruyut razmnozhenie koronavirusa. Available at: https://nauka.tass.ru/nauka/8084101 (accessed 31.03.2020).
Nobelevskiy laureat zayavil ob iskusstvennom proiskhozhdenii koronavirusa. Available at: https://ria.ru/20200417/1570213902.html (accessed 18.04.2020).
Polyakova T. A. Transformation of Law and Priority Directions of Scientific Research in the Information Sphere. Formirovanie sistemy pravovogo regulirovaniya obespecheniya informatsionnoy bezopasnosti v usloviyakh bol'shikh vyzovov v global'nom informatsionnom obshchestve. Vtorye Bachilovskie chteniya. Ed. by T. A. Polyakova, V. B. Naumov, A. V. Minbaleev. Moscow, 2019. Pp. 10—22. (In Russ.)
Ponkin I. V., Red'kina A. I. Artificial Intelligence from the Point of View of Law. Vestnik Rossiiskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki = RUDN Journal of Law, 2018, vol. 22, no. 1, pp. 91—109. (In Russ.)
Roadmap for US Robotics from Internet to Robotics (2016 edition). Jacobs School. Available at: http://jacobsschool.ucsd.edu/contextualrobotics/docs/rm3-final-rs.pdf (accessed 11.04.2020).
Semenov P. V., Semishkur R. P., Dyachenko I. A. Conceptual Model of Digital Twin Technology Implementation for Oil and Gas Industry. Gazovaya promyshlennost', 2019, no. 7 (787), pp. 24— 30. (In Russ.)
Serobyan G. A. Legal Regulation of Artificial Intelligence Systems: For or Against. Pravo i gosudarstvo: teoriya i praktika, 2019, no. 10 (178), pp. 89—91. (In Russ.)
Sovet Evropy prinyal khartiyu o sudebnom primenenii iskusstvennogo intellekta. Available at: http://rapsinews.ru/international_news/20181204/292074043.html (accessed 11.04.2020).
The Montreal Declaration for Responsible Development of Artificial Intelligence. URL.: https://www.montrealdeclaration-responsibleai.com/the-declaration (accessed 11.04.2020).
Tikhomirov Yu. A., Krysenkova N. B., Nanba S. B., Margusheva Zh. A. Robot and Human: A New Partnership? Zhurnal zarubezhnogo zakonodatel'stva i sravnitel'nogo pravovedeniya = Journal of Foreign Legislation and Comparative Law, 2018, no. 5 (72), pp. 5—10. (In Russ.)
Transformation of Legal Reality in the Digital Age. Ed. by D. A. Pashentsev, M. V. Zaloilo. Moscow, 2019. 213 p. (In Russ.)
UAE Strategy for Artificial Intelligence. Available at: https://u.ae/en/about-the-uae/ strategies-initiatives-and-awards/federal-governments-strategies-and-plans/uae-strategy-for-artificial-intelligence (accessed 11.04.2020).
Vystuplenie predsedatelya Soveta sudey RF V. V. Momotova na plenarnom zasedanii po teme "Perspektivy ispol'zovaniya iskusstvennogo intellekta v sudebnoy sisteme Rossiyskoy Federatsii". Katar, 26 February 2020. Available at: http://www.ssrf.ru/news/lienta-novostiei/36912 (accessed 31.03.2020).
