CC BY
80
НАУЧНЫЙ ПОИСК
ТЕНДЕНЦИИ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В РОССИЙСКОЙ ФЕДЕРАЦИИ И ВО ФРАНЦУЗСКОЙ РЕСПУБЛИКЕ
Аннотация. В статье рассмотрены особенности правовой регламентации технологий искусственного интеллекта в Российской Федерации с учетом влияния передовой мировой практики. Значительное внимание в статье уделено развитию понятия искусственного интеллекта в зарубежной и российской доктрине. Авторы рассматривают генезис правового регулирования искусственного интеллекта в России, отмечают влияние европейской практики на становление и развитие законодательства об искусственном интеллекте в России. Ключевые слова: правовое регулирование, искусственный интеллект, международное право, национальное право, стратегия, этика.
DOI: 10.17803/2311-5998.2020.73.9.223-229
Ален ДЮФЛО,
основатель адвокатского бюро «Дюфло и партнеры», преподаватель Университета Лион III имени Жана Мулена, [email protected] 69008, Франция, Лион, Cours Albert Thomas, 6
Мария Александровна ЕГОРОВА,
начальник Управления международного сотрудничества, профессор кафедры конкурентного права Университета имени О.Е. Кутафина (МГЮА),
доктор юридических наук, профессор
125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
Алексей Владимирович МИНБАЛЕЕВ,
заведующий кафедрой информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА), доктор юридических наук, доцент
125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
Дарья Владимировна ПОНОМАРЕВА,
заместитель заведующего кафедрой практической юриспруденции Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук ponomard@ yandex.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
© А. Дюфло, М. А. Егорова, А. В. Минбалеев, Д. В. Пономарева, 2020
га™ Ii I ■ Lil/Hf
224 НАУЧНЫЙ ПОИСК ероктега
BL М^ и мени O.E. Кугафина (МПОА)
A. DUFLOT,
an expert practitioner in the field of law, founder of the law firm «Duflot & Partners», Lecturer at the Jean Moulin Lyon 3 University, France,
[email protected] 69008, France, Lyon, Cours Albert Thomas, 6
M. A. YEGOROVA,
Head of the Department of international cooperation, Professor of the Department of competition law of the Kutafin Moscow State Law University (MSAL), Dr. Sci. (Law), Professor [email protected] 125933, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9
A. V. MINBALEEV,
Head of the Department of Information Law and Digital Technologies of the Kutafin Moscow State Law University (MSAL), Dr. Sci. (Law), Associate Professor, the expert RAS
125993, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9
D. V. PONOMAREVA,
Deputy Head of the Department of Practical Law of the Kutafin Moscow State Law University (MSAL),
Cand. Sci. (Law) ponomard@ yandex.ru 125993, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9
TRENDS IN THE LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE IN THE RUSSIAN FEDERATION AND THE FRENCH REPUBLIC
Abstract. The article discusses the features of the legal regulation of artificial intelligence technologies in the Russian Federation, taking into account the influence of the best world practice. Considerable attention is paid to the development of the concept of artificial intelligence in foreign and Russian doctrine. The authors examine the genesis of the legal regulation of artificial intelligence in Russia, note the influence of European practice on the formation and development of the legislation of the Russian Federation on artificial intelligence.
Keywords: legal regulation, artificial intelligence, international law, national law, strategy, ethics
в
I-I
ЕСТНИК Дюфло А., Егорова М. А., МинВалеев А. В., Пономарева Д. В. _ _
УНИВЕРСИТЕТА Тенденции правового регулирования искусственного интеллекта ^¿^¿^Э
имени o.e. кугафина(мгюА) в Российской Федерации и во Французской Республике
Проблема правового регулирования искусственного интеллекта (ИИ) и определения его понятия для решения технических и гуманитарных задач заложена в самой природе искусственного интеллекта. Вместе с тем необходимо отметить, что современная наука не выработала единообразного понимания искусственного интеллекта. Сегодня мы можем говорить о множестве определений искусственного интеллекта, поскольку области его применения весьма широки.
Искусственный интеллект можно определить как систему, включающую в себя как аппаратные, так и программные компоненты, которые могут относиться к роботу, программе, выполняемой на одном компьютере, программе, выполняемой на сетевых компьютерах, или любому другому набору компонентов, в которых размещен искусственный интеллект1.
Актуальным остается вопрос, является результат, произведенный технологией ИИ, порождением интеллектуальной деятельности машины или же запрограми-рованных алгоритмов и команд?
Всемирная организация интеллектуальной собственности выделяет несколько типов систем искусственного интеллекта: экспертные системы, языковые системы и системы восприятия2. Безусловный интерес представляют экспертные системы, направленные на решение задач, связанных, например, с медицинской диагностикой, предоставлением рекомендаций лечения, геологоразведкой и т.д. Данные системы также активно используются при создании полезных объектов и промышленных образцов.
Российская Федерация уделяет значительное внимание развитию технологий искусственного интеллекта. В 2017 г. Президент РФ Владимир Владимирович Путин высказал свое мнение, что страна, которая первой освоит технологии ИИ, станет «управлять этим миром»3. Вместе с тем первоначально усилия Российской Федерации по развитию инфраструктуры искусственного интеллекта и соответствующего нормативного регулирования были нацелены на повышения обороноспособности страны.
В 2019 г. Российской Федерацией была принята Национальная стратегии по развитию искусственного интеллекта на период до 2030 года, утвержденная Указом Президента РФ от 10 октября 2019 г № 4904 (далее — Стратегия). Принятие Национальной стратегии по развитию искусственного интеллекта — «долгожданное событие, которое предопределяет вектор экономического и научно-технологического развития Российской Федерации на ближайшее десятилетие. Документ носит программный характер, изобилует акцентами на общих подходах, однако,
См.: Любимов А. П., Пономарева Д. В., Барабашев А. Г. Основные понятия искусственного интеллекта. М., 2019. 116 с. URL: https://www.wipo.int/portal/ru.
'Whoever Leads in AI Will Rule the World': Putin to Russian Children on Knowledge Day, Russia today (Sept. 1, 2017) // URL: https://www.rt.com/news/401731-ai-rule-world-putin/, ;>
archived at https://perma.cc/2ST6-YHDL. Ч
Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта Ы
в Российской Федерации» (вместе с Национальной стратегией развития искусственного й
интеллекта на период до 2030 года) // СПС «КонсультантПлюс». ПОИСК
>
2
3
4
226
НАУЧНЫЙ ПОИСК
"Т^ЕСТНИК
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кутафи на (МПОА)
в отличие от подобных стратегий, принятых в ряде зарубежных государств, включает и вполне конкретные, четко сформулированные понятия. В частности, Стратегия отвечает на вопрос, что следует понимать под искусственным интеллектом, достаточно подробно и обстоятельно формулирует задачи, которые стоят перед публичным и частным сектором в области развития технологий искусственного интеллекта. Общность российской и зарубежных Стратегий выражается в обозначении этической проблематики в качестве ключевой при решении вопроса о разработке нормативно-правового регулирования, а также признании необходимости объединения усилий государства и бизнеса для достижения целевых показателей, упомянутых в Стратегии»5.
Стратегия выделяет три ключевых направления использования технологий искусственного интеллекта:
«а) повышение качества услуг в сфере здравоохранения (включая профилактические обследования, диагностику, основанную на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизацию и точность хирургических вмешательств);
б) повышения качества услуг в сфере образования (включая адаптацию образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизацию оценки качества знаний и анализа информации о результатах обучения);
в) повышения качества предоставления государственных и муниципальных услуг, а также снижения затрат на их предоставление»6.
Правоведов должны заинтересовать положения Стратегии, затрагивающие «основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта». В числе таких направлений, которые необходимо учитывать при разработке соответствующего нормативно-правового регулирования, названы следующие:
«а) обеспечение благоприятных правовых условий (в том числе посредством создания экспериментального правового режима) для доступа к данным, преимущественно обезличенным, включая данные, собираемые государственными органами и медицинскими организациями;
б) обеспечение особых условий (режимов) для доступа к данным, включая персональные, в целях проведения научных исследований, создания технологий искусственного интеллекта и разработки технологических решений на их основе;
в) создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права
5 Указ Президента РФ от 10 октября 2019 г. № 490.
6 Указ Президента РФ от 10 октября 2019 г. № 490.
в
I-I
ЕСТНИК Дюфло А., Егорова М. А., МинВалеев А. В., Пономарева Д. В. _
УНИВЕРСИТЕТА Тенденции правового регулирования искусственного интеллекта имени o.e. кугафина(мгюА) в Российской Федерации и во Французской Республике
и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства);
г) устранение административных барьеров при экспорте продукции (работ, услуг) гражданского назначения, созданной на основе искусственного интеллекта;
д) создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества Российской Федерации по вопросам стандартизации и обеспечение возможности сертификации продукции (работ, услуг), созданной на основе искусственного интеллекта;
е) стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий искусственного интеллекта, а также предоставления целевой финансовой поддержки организациям, осуществляющим деятельность по развитию и внедрению технологий искусственного интеллекта (при условии, что внедрение таких технологий повлечет за собой существенные позитивные эффекты для отраслей экономики Российской Федерации);
ж) разработка этических правил взаимодействия человека с искусственным интеллектом».
Дальнейшее развитие нормативно-правового регулирования использования систем ИИ предполагает внесение значительных изменений в действующее российское законодательство, в частности в Федеральный закон «О персональных данных»7. Генезису российской нормативной основы регулирования искусственного интеллекта может способствовать позитивный опыт Европейского Союза.
Регламент Европейского парламента и Совета Европейского Союза 2016/679 от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ ЕС (так называеый Общий Регламент о защите персональных данных — General Data Protection Regulation (GDPR))8 предусмотрел право на принятие или пересмотр решения, основанного исключительно на автоматизированной обработке (алгоритме), физическим лицом, а не компьютером. Учитывая, что системы ИИ будут активно внедрятся в управленческие процессы, потребуется отражение такого правомочия в российском законодательстве.
Особенностью Стратегии является включение в ее текст основных периодов, на которые должен ориентироваться законодатель при разработке соответствующего нормативно-правового регулирования ИИ. К 2024 г. планируется создание необходимых правовых условий для достижения целей, решения задач и реализации мер, предусмотренных Стратегией, к 2030 г. предусмотрено создание самой системы нормативно-правового регулирования в области ИИ.
7 Федеральный закон от 27 июля 2006 г № 152-ФЗ «О персональных данных» // СЗ РФ.
2006. № 31 (ч. I). Ст. 3451. >
8 European Parliament Resolution of 16 February 2017 with Recommendations to the 4 Commission on Civil Law Rules on Robotics (2015/2103(INL), doc. No. P8_TA(2017)0051 // Ы URL: http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017- § 0051&language=EN&ring=A8-2017-0005, archived at http://perma.cc/VEG4-GZGR. ПОИСК
>
228
НАУЧНЫЙ ПОИСК
"Т^ЕСТНИК
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кутафи на (МПОА)
Кроме того, Стратегия подчеркивает необходимость учета таких основных принципов развития и использования технологий искусственного интеллекта, как защита прав и свобод человека, безопасность, прозрачность, технологический суверенитет, целостность инновационного цикла, разумная бережливость, поддержка конкуренции. Особое значение приобретает поиск разумного баланса между защитой прав человека и обеспечением безопасности, который не всегда удается соблюсти в пользу обеспечения защиты прав и свобод человека в том смысле, который придается этому принципу основополагающими актами международного права9.
Заинтересованность в развитии законодательства об искусственном интеллекте проявляет все большее число государств. Примечательным, на наш взгляд, является опыт Французской Республики. Развитие искусственного интеллекта представляет собой одну из наиболее актуальных междисциплинарных тем исследований во Франции. Пандемия COVID-19, которая охватила всю Францию, заставляет еще больше задуматься об искусственном интеллекте как о явлении, пронизывающем все основные сферы общественной жизни: здравоохранение, образование, оборону, обеспечение внутренней безопасности, экономику и право.
Использование ИИ в правовой сфере — новое явление во Франции. 27 марта 2020 г вышел Декрет об обработке и использовании персональной информации в юридической базе данных Datajust. База данных была создана в ответ на пандемию в целях обеспечения поиска нужной информации об органах управления в сфере здравоохранения, ответственных за организацию работы с пострадавшими от ^УЮ-19. Данный документ также призван сориентировать французскую судебную систему на принятие определенных решений, а иные органы государственной власти — на общепринятую шкалу системы выплат населению или предприятиям, которые понесли потери во время кризиса, вызванного эпидемиологической ситуацией во Франции.
База Datajust помогает с помощью системы ИИ проанализировать конкретные ситуации, корректно применить правовые нормы, определить размер ущерба и при необходимости реформировать законодательство, учитывая результаты анализа системы ИИ. Указанный Декрет принят в соответствии и на основании другого наднационального документа — Регламента ЕС № 2016/679 от 27 апреля 2016 г о систематизированной обработке и использовании персональных данных при помощи системы ИИ в ЕС.
Необходимо отметить, что Франция еще не адаптировала полностью алгоритм применения ИИ в юридических системах, поскольку сегодня все государства — члены ЕС находятся в ожидании принятия нового Регламента в 2021 г. Не секрет, что ИИ является одним из трех приоритетов стратегического влияния
9 В данном случае речь идет о таких актах, как Устав ООН (1945 г.), Женевские конвенции (1949 г.), Всеобщая декларация прав и свобод человека (1948 г), Международный пакт о гражданских и политических правах (1966 г.), Международный пакт об экономических, социальных и культурных правах (1966 г.), Свод принципов защиты всех лиц, подвергаемых задержанию или заключению в какой бы то ни было форме (1988 г.), Европейская конвенция по правам человека (1950 г).
™^ЕСТНИК
в Я УНИВЕРСИТЕТА
/-имени О. Е. Кутафина (МГЮА)
Дюфло А., Егорова М. А., Минбалеев А. В., Пономарева Д. В.
Тенденции правового регулирования искусственного интеллекта в Российской Федерации и во Французской Республике
229
ЕС, что обуславливает необходимость скорейшего внесения изменений в наднациональное законодательство.
Обновленные французские нормативные акты должны обладать достаточной гибкостью и готовностью к постоянному внесению изменений, чтобы национальный законодатель смог с достаточной определенностью отразить технологические инновации ИИ в юридической системе, не забывая о деонтологии и необходимости учета этических требований. Не стоит забывать, что защита и уважение прав и свобод каждого человека являются приоритетом во Франции.
Сегодня французский Парламент разрабатывает Устав этических норм в системе ИИ, который будет интегрирован в преамбулу Конституции V Республики — документ, равный по значению Декларации о правах человека. Приоритет прав человека должен превалировать в системе правового регулирования ИИ, в частности в области защиты интеллектуальных прав. Именно человек (физическое лицо) стоит у истоков создания алгоритмов и является владельцем прав на интеллектуальную собственность и ее результаты. Ответственность за надлежащее использование систем ИИ возлагается на юридических лиц.
БИБЛИОГРАФИЯ
1. Любимов А. П., Пономарева Д. В., Барабашев А. Г. Основные понятия искусственного интеллекта. — М., 2019. — 116 с.
