CC BY
71
Егорова М.А., Дюфло А., Минбалеев А.В., Пономарева Д.В.
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ОПЫТ РОССИИ И ФРАНЦИИ
Цель: Исследование правового регулирования искусственного интеллекта в Российской Федерации и Франции и основных тенденций развития законодательства об искусственном интеллекте с учетом передовой зарубежной нормотворческой практики.
Методология: В статье использованы исторический, сравнительно-правовой и формально-юридический методы исследования.
Результаты: Статья посвящена анализу правового регулирования искусственного интеллекта в Российской Федерации и Франции. Авторы предприняли попытку дать обзор основных нормативных правовых актов в обозначенной сфере правового регулирования, принятых за последние два года (2019-2020 гг.). Кроме того, в статье сформулированы тенденции развития законодательства об искусственном интеллекте с учетом передовой зарубежной нормотворческой практики.
Новизна/оригинальность/ценность: Статья обладает высокой научной ценностью, поскольку в ней глубоко проанализированы последние тенденции развития законодательства об искусственном интеллекте как принципиально новой сферы правового регулирования.
Ключевые слова: искусственный интеллект, правовое регулирование, технологии искусственного интеллекта, стратегия, концепция, робототехника.
Egorova M.A., Duflot A., Minbaleev A.V., Ponomareva D.V.
LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES: THE EXPERIENCE OF RUSSIA AND FRANCE
Purpose: The study of the legal regulation of artificial intelligence in the Russian Federation and France and the main trends in the development of legislation on artificial intelligence, taking into account the best foreign standardsetting practice.
Methodology: The authours had used historical, comparative legal and formal legal research methods. Results: The article analyzes the legal regulation of artificial intelligence in the Russian Federation and France. The authors attempted to give an overview of the main regulatory legal acts in the designated area of legal regulation adopted over the past two years (2019-2020). In addition, the article outlines trends in the development of legislation on artificial intelligence, taking into account the best foreign standard-setting practice.
Novelty/originality/value: The article has a high scientific value, since it thoroughly analyzes the latest trends in the development of legislation on artificial intelligence as a fundamentally new sphere of legal regulation.
Keywords: artificial intelligence, legal regulation, artificial intelligence technologies, strategy, concept, robotics.
В современном информационном пространстве расширение сфер применения искусственного интеллекта (ИИ) обусловливает необходимость дифференцированного подхода к правовому регулированию. Дифференцированный подход предполагает правовое регулирование работы с данными, использования нейротехнологий, робототехники, разработки и внедрения инноваций на основе ИИ, защиты интеллектуальных прав. Развитие технологий ИИ генерирует новые вызовы для российской правовой системы, в том числе и создание правовых условий стимулирования развития инновационных технологий ИИ. Создание регуляторной среды необходимо осуществлять с учетом обеспечения баланса интересов заинтересованных сторон - государства, высокотехнологичных компаний-разработчиков, общества, институтов развития, потребителей услуг. Правовое регулирование ИИ направлено на технологический суверенитет России, поддержку конкурен-
ции и развитие инноваций, поддержку инновационного цикла от разработки до внедрения инновационного продукта (услуги), реализацию государственной политики научно-технологического развития [8]. В 2019 году к числу государств, принявших собственную национальную стратегию по развитию искусственного интеллекта, присоединилась Российская Федерация. Указом Президента Российской Федерации от 10 октября 2019 г. № 490 утверждена Национальная стратегия по развитию искусственного интеллекта на период до 2030 года (далее - Стратегия).
Основа для принятия Стратегии была заложена еще в 2016 году с утверждением Стратегии научно-технологического развития Российской Федерации. В данном документе в качестве приоритета научно-технологического развития Российской Федерации обозначены направления, которые, в числе прочего, обеспечат в ближайшие 10-15 лет переход к передовым цифровым, интел-
лектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта. Кроме того, искусственный интеллект отмечен в качестве направления развития российских информационных и коммуникационных технологий в Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы, утвержденной Указом Президента Российской Федерации от 09.05.2017 № 203.
В Российской Федерации основные принципы нормативного регулирования ИИ разработаны и содержатся в Концепции правового регулирования искусственного интеллекта и робототехники, утвержденной 24 августа 2020 года [7]. Это первый документ, формирующий правовые рамки в области ИИ. В нем определены основные подходы к трансформации системы нормативного регулирования в Российской Федерации для развития технологий искусственного интеллекта и робототехники (ИИ и РТ) в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Содержание концепции состоит из пяти смысловых блоков.
Первый - общие положения (цели и задачи регулирования ИИ, принципы регулирования и проблемы, а также направления регулирования ИИ и РТ) [6].
Второй - общеотраслевые вопросы: оборот данных, юридическая ответственность в случае применения систем ИИ и РТ, экспорт систем ИИ и РТ, страховые институты, безопасность (в том числе информационная), термины и определения в сфере ИИ и РТ, разработка международных документов в сфере ИИ и РТ.
Третий - отраслевые направления совершенствования регулирования применения технологий ИИ и РТ, такие как медицина, промышленность, транспорт, государственное и муниципальное управление, градостроительство, космическая деятельность и финансовое законодательство.
Четвертый - регуляторные меры для финансового стимулирования развития отрасли, в том числе механизм государственно-частного партнерства.
Пятый - механизмы реализации концепции, способствующие созданию комфортной регуля-торной среды для развития ИИ и РТ.
С 1 июля 2020 года в Москве проводится эксперимент по установлению правового режима разработки и внедрения технологий искусствен-
ного интеллекта (Федеральный закон от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» [5]). Экспериментальный правовой режим (ЭПР) установлен на пять лет. Правительство Москвы наделено полномочиями по определению условий и порядка разработки и реализации технологий искусственного интеллекта, а также использования результатов его применения. Участниками эксперимента могут быть юридические лица или индивидуальные предприниматели, которые зарегистрированы на территории г. Москвы, планирующие реализацию деятельности по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта. Статус участника ЭПР устанавливается со дня включения ЮЛ или ИП в реестр. Координационный совет, созданный для формирования стратегических направлений и мониторинга экспериментального правового режима, по результатам проведения эксперимента должен будет представить в Правительство РФ предложения о целесообразности либо нецелесообразности внесения изменений в российское законодательство в области регулирования ИИ и РТ. Таким образом, Москва становится экспериментальной площадкой для проверки технологий ИИ и реализации концепции «умного города». Особенно это актуально в условиях противодействия распространению новой коронавирусной инфекции, предупреждения правонарушений, развития экономики и транспортной инфраструктуры мегаполиса.
С января 2021 года должны быть более широко запущены экспериментальные правовые режимы в области ИИ и РТ - «цифровые песочницы», позволяющие гибко подходить к регулированию в данных сферах.
В правовом регулировании искусственного интеллекта и робототехники также важен этический аспект, это необходимо учитывать при проведении эксперимента. Именно этические аспекты сейчас становятся наиболее обсуждаемыми, когда речь идет о технологиях ИИ и РТ. В целом, комплексное правовое регулирование ИИ позволит не только активизировать разработки в этой области и обеспечить технологический прорыв России на международной арене, но также снизить административные барьеры внутреннего
EURASIAN
> 4 (47) 2020 <
ADVOCACY
высокотехнологичного производства, обеспечить решение важных социальных проблем и задач государства.
Сегодня становится очевидным слияние правового пространства, центром которого раньше являлись традиции и ценности прошлых лет, и новейших технологий, которые развивают и формируют в современном мире новую правовую систему. Технологии движутся беспрерывно и прогрессивно, приобретают интеллектуальный характер. ИИ начинает охватывать собой правовую систему.
«Code is low» - это знаменитое правило наслоения Лоуренса Лессига, которое позволяет привнести живой интерес в политику построения юридических баз данных. Можно абсолютно точно утверждать, что ИИ принесет с собой много изменений, и юристам придется столкнуться с ними лицом к лицу. Главной задача - сделать так, чтобы юристы воспользовались возможностями ИИ, а не наоборот.
Популярные системы Legaltech, известные стартапы в юридической сфере, являются первопроходцами в преобразовании правового сектора в цифровую форму. Первостепенная цель создателей системы Legaltech - приоритетное использование информационных технологий и специальных программ для оказания юридических услуг. Legaltech смогла изменить суть самого права, манеру, подачу и выстроить новый современный механизм его использования [1, 2].
На примере Machine Learning видно, как ИИ может воздействовать на такую древнюю науку, как юриспруденция, и на правовую систему в целом. Автоматическое изучение - понятие изучаемого ИИ, которое совершенствует свои лучшие качества в решении задач без явного программирования. В юридической системе не существует ни одного специального руководства по применению ИИ. Все будет зависеть от окончательно разработанных алгоритмов, которые будут внедрены в работу.
Впрочем, для того чтобы алгоритмы Machine Learning начали функционировать на основе training set, зачастую требуются данные персонального характера. Таким образом, появляется необходимость создания безопасной документальной базы данных при помощи такого приложения, как RGPD. Ответственный за обработку правовой информации должен самостоятельно сделать так, чтобы правовые нормы соответствовали действующему законодательству. Таким образом, стоит определить, как и в каком объеме правовая система будет использовать ИИ, какое
реальное влияние будет оказывать ИИ на законодательную отрасль [3, 4].
Нам требуется изучить воздействие ИИ на все правовые специальности, на работу судебной системы и постараться ответить на вопросы, насколько, с юридической точки зрения, этичным будет применять данные технологии, основываясь на нормах.
Пристатейный библиографический список
1. Dressel J., Farid H. The accuracy, fairness, and limits of predicting recidivism // Science advances. 2018. № 4(1). Р. 5580.
2. Besse P., Castets-Renard C., Garivier A. Loyauté des décisions algorithmiques. Contribution au débat public initié par la CNIL. Éthique et numérique, 2017.
3. Besse P., Castets-Renard C., Garivier A., Loubes J.M., L'IA du quotidien peut-elle être éthique, 2018.
4. Barocas S., Hardt M., Narayanan A. Fairness in machine learning. NIPS Tutorial, 2017.
5. Федеральный закон от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» [Электронный ресурс]. URL: https:// rg.ru/2020/04/28/tehnologii-dok.html.
6. Министерство экономического развития РФ. Правительство утвердило Концепцию регулирования технологий ИИ и робототехники [Электронный ресурс]. URL: https://www.economy.gov.ru/material/ news/pravitelstvo_utverdilo_koncepciyu_regulirovaniya_ tehnologiy_ii_i_robototehniki.html.
7. Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г. [Электронный ресурс]. URL: https://www.garant. ru/products/ipo/prime/doc/74460628/.
8. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») [Электронный ресурс]. URL: http://www.consultant.ru/ document/cons_doc_LAW_335184/.
References (transliterated)
1. Dressel J., Farid H. The accuracy, fairness, and limits of predicting recidivism // Science advances. 2018. № 4(1). R. 5580.
2. Besse P., Castets-Renard C., Garivier A. Loyauté des décisions algorithmiques. Contribution au débat public initié par la CNIL. Éthique et numérique, 2017.
3. Besse P., Castets-Renard C., Garivier A., Loubes J.M., L'IA du quotidien peut-elle être éthique, 2018.
4. Barocas S., Hardt M., Narayanan A. Fairness in machine learning. NIPS Tutorial, 2017.
5. FederaFny"] zakon ot 24.04.2020 № 123-FZ «O prove-denii e'ksperimenta po ustanovleniyu special'nogo regu-lirovaniya v celyax sozdaniya uslovij dlya razrabotki i vne-dreniya texnologij iskusstvennogo intellekta v sub""ekte Rossijskoj Federacii - gorode federal'nogo znacheniya Moskve i vnesenii izmenenij v stat"i 6 i 10 Federal'nogo zakona «O personal"ny"x danny'x» [E"lektronny"j resurs]. URL: https://rg.ru/2020/04/28/tehnologii-dok.html.
6. Ministerstvo e'konomicheskogo razvitiya RF. Pravitel'stvo utverdilo Koncepciyu regulirovaniya texnologij II i robototexniki [E"lektronny"j resurs]. URL: https://www.economy.gov.ru/material/news/pravitel-stvo_utverdilo_koncepciyu_regulirovaniya_tehnologiy_ ii_i_robototehniki.html.
7. Rasporyazhenie Pravitel'stva RF ot 19 avgusta 2020 g. № 2129-r Ob utverzhdenii Koncepcii razvitiya regu-lirovaniya otnoshenij v sfere texnologij iskusstvennogo in-tellekta i robototexniki na period do 2024 g. [E"lektronny"j resurs]. URL: https://www.garant.ru/products/ipo/prime/ doc/74460628/.
8. Ukaz Prezidenta RF ot 10.10.2019 № 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» (vmeste s «Nadonarnoj strategiej razvitiya iskusstvennogo intellekta na period do 2030 goda») [E~lektronny~j resurs]. URL: http://www.consultant.ru/document/cons_doc_ LAW_335184/.
шшртшШтмШ мжмш пгешшвш прана
УВАЖАЕМЫЕ ЧИТАТЕЛИ!
Мы рады представить вашему вниманию ЕВРАЗИЙСКИЙ НАУЧНО-ИССЛЕДОВАТЕЛЬСКИЙ ИНСТИТУТ ПРОБЛЕМ ПРАВА
Деятельность нашего института направлена на разработку актуальных проблем юридической науки в евразийском правовом пространстве. Институт проводит фундаментальные и прикладные исследования в области государственно-правовых наук, международного права, адвокатуры и нотариата, социологии права, политологии, интерэкоправа, изучает закономерности правотворческой, правоприменительной и правоохранительной деятельности, разрабатывает на этой основе практические рекомендации, принимает участие в разработке законопроектов, содействует повышению профессионального уровня юристов, организует и участвует в проведении научных мероприятий, оказывает консультационные услуги в области права, а также редакционно-издательские услуги.
Приглашаем вас к сотрудничеству!
Контактная информация Website: www.eurasniipp.ru e-mail: info@eurasniipp.ru Тел: +7-917-40-61-340
