CC BY
243
) УНИВЕРСИТЕТА
L-—имени О. Е. Кугафи на (МПОА)
Правовое регулирование искусственного интеллекта
Андрей Владимирович НЕЗНАМОВ,
исполнительный директор Центра компетенций по обработке данных для государственных органов ПАО Сбербанк, основатель Исследовательского центра «Робоправо», старший научный сотрудник сектора информационного права и международной информационной безопасности Института государства и права РАН, кандидат юридических наук [email protected] 119019, Россия, г. Москва, ул. Знаменка, д. 10
ПРАВОВЫЕ АСПЕКТЫ РЕАЛИЗАЦИИ НАЦИОНАЛЬНОЙ СТРАТЕГИИ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДО 2030 ГОДА1
Аннотация. Автор в статье анализирует принятую Указом Президента РФ Национальную стратегию развития искусственного интеллекта на период до 2030 года. Этот нормативный правовой акт ознаменовал важную веху в развитии регулирования данной сквозной цифровой технологии. Автор классифицирует все стратегии в сфере искусственного интеллекта, принятые в мире, на три модели. Национальная стратегия России относится к первой модели, согласно которой документы стратегического планирования играют основную роль, нормы непосредственного действия имеют минимальный «вес». Анализируются новый понятийный аппарат в сфере искусственного интеллекта, основные направления развития его использования в России.
Ключевые слова: искусственный интеллект, робототехника, национальная стратегия, правовое регулирование.
DOI: 10.17803/2311-5998.2019.64.12.082-088
A. V. NEZNAMOV, Executive Director of the competence Center for data processing for government agencies of Sberbank, founder of the «Robopravo» Research center, Senior Researcher of the information law and international information security sector of the Institute of State and Law of the Russian Academy of Sciences, Ph. D. [email protected]. 119019, Russia, Moscow, ul. Znamenka, 10 LEGAL ASPECTS OF THE IMPLEMENTATION ОF THE NATIONAL STRATEGY FOR THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE UNTIL 2030 Abstract. The author analyzes The National strategy for the development of artificial intelligence for the period up to 2030 adopted by the decree of the President of the Russian Federation. This normative legal act marked
1 Во избежание сомнений подчеркнем, что положения настоящей статьи являются личным экспертным мнением автора и не могут восприниматься как официальная позиция © А. В. Незнамов, 2019 ПАО Сбербанк.
тз
L-—^ i,
an important milestone in the development of regulation of this end-to-end digital technology. The author classifies all strategies in the field of artificial intelligence adopted in the world into three models. The National strategy of Russia refers to the first model, according to which the documents of strategic planning play a major role, the norms of direct action have a minimum «weight». A new conceptual approach in the field of artificial intelligence, the main directions of its use in Russia are analyzed. Keywords: artificial intelligence, robotics, National strategy, legal regulation.
Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года (далее — Стратегия). Этот нормативный правовой акт ознаменовал важную веху в развитии регулирования данной сквозной цифровой технологии.
Приняв участие в создании этого документа в качестве соразработчика, мы хотели бы обратить внимание на некоторые теоретические и практические правовые аспекты его последующей реализации.
Прежде всего отметим, что Россия является далеко не первой на пути создания документов стратегического планирования в сфере искусственного интеллекта (ИИ). В целом ряде стран не только приняты национальные стратегии развития технологий ИИ, но также стали появляться первые полноценные нормативные правовые акты с нормами непосредственного действия2.
Сопоставление векторов регулирования технологий искусственного интеллекта позволяет, на наш взгляд, даже выделить три модели регулирования технологий ИИ3.
В первой модели документы стратегического планирования играют основную роль, нормы непосредственного действия имеют минимальный «вес». Сюда можно отнести, на наш взгляд, Китай, а также целый ряд европейских стран. Две из приведенного выше ряда стран — Китай и Франция — являются классическим примером этой модели.
Во второй модели регулирования больший вес имеют нормы непосредственного действия, регулирующие общественные отношения в связи с использованием технологий ИИ. Через нормы непосредственного действия, как правило, осуществляется регулирование конкретных видов систем ИИ, но прослеживают-
ПШ
Уа
2 Регулирование робототехники: введение в «робоправо» : Правовые аспекты развития ¡^Ш робототехники и технологий искусственного интеллекта / В. В. Архипов [и др.] ; под ред. П гп
А. В. Незнамова. М. : Инфотропик-Медиа, 2018. С. 232. См. также подробно об актах ШЕ
[Т1'
в сфере ИИ: Новые законы робототехники. Регуляторный ландшафт. Мировой опыт ре- н у
гулирования робототехники и технологий искусственного интеллекта / В. В. Бакуменко, Ш И
A. Д. Волынец, А. В. Незнамов, Е. П. Побрызгаева, К. М. Смирнова, Е. В. Тытюк ; под Д р
и п
ред. А. В. Незнамова. М. : Инфотропик-Медиа, 2018. иш
3 См. подробно: Модели правового регулирования создания, использования и распро- ПН странения роботов и систем с искусственным интеллектом : монография / под общ. ред. Л Т
B. Б. Наумова. СПб. : НП-Принт, 2019. 252 с. ЛЕ КТА
□
) УНИВЕРСИТЕТА
L-—имени О. Е. Кугафи на (МПОА)
ся и попытки создать комплексное управление отраслью. В этой модели могут существовать и документы стратегического планирования, однако акты непосредственного действия играют более значимую роль по сравнению с первой моделью. Ко второй модели можно отнести ряд стран, где нет документов стратегического планирования вообще, но есть законы о конкретных видах продуктов с применением систем ИИ, например, о правовом регулировании беспилотных автомобилей или беспилотных летательных аппаратов. Флагманом такого принципа управления является, на наш взгляд, Южная Корея.
Третья, гибридная, модель является своеобразной комбинацией обоих векторов правового управления и, соответственно, первых двух моделей. К этой модели сейчас тяготеют, на наш взгляд, США и ЕС. Причем на их примере мы видим два разных подхода: точечного и комплексного регулирования соответственно. Идеальным примером комплексного подхода в гибридной модели регулирования является ЕС.
Принятие Стратегии ознаменовало постепенную реализацию первой модели регулирования технологий ИИ. В условиях практически полного отсутствия нормативных актов, специализированно регламентирующих технологии ИИ, приверженность нашей страны этой базовой модели представляется понятной.
Поэтому так важно, что одним из ключевых движущих факторов Стратегии названа регуляторика.
В итоговую версию раздела «Создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта» попали следующие направления:
а) обеспечение благоприятных правовых условий (в том числе посредством создания экспериментального правового режима) для доступа к данным, преимущественно обезличенным, включая данные, собираемые государственными органами и медицинскими организациями;
б) обеспечение особых условий (режимов) для доступа к данным, включая персональные, в целях проведения научных исследований, создания технологий искусственного интеллекта и разработки технологических решений на их основе;
в) создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства);
г) устранение административных барьеров при экспорте продукции (работ, услуг) гражданского назначения, созданной на основе искусственного интеллекта;
д) создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества Российской Федерации по вопросам стандартизации и обеспечение возможности сертификации продукции (работ, услуг), созданной на основе искусственного интеллекта;
73
L-—^ Ii
е) стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий искусственного интеллекта, а также предоставления целевой финансовой поддержки организациям, осуществляющим деятельность по развитию и внедрению технологий искусственного интеллекта (при условии, что внедрение таких технологий повлечет за собой существенные позитивные эффекты для отраслей экономики Российской Федерации);
ж) разработка этических правил взаимодействия человека с искусственным интеллектом.
В Стратегии отмечается, что для стимулирования развития и использования технологий искусственного интеллекта необходимы адаптация нормативного регулирования в части, касающейся взаимодействия человека с искусственным интеллектом, и выработка соответствующих этических норм. При этом избыточное регулирование в этой сфере может существенно замедлить темп развития и внедрения технологических решений.
Между тем по тексту Стратегии важно отметить ряд иных положений, имеющих отношение, на наш взгляд, к фактору регуляторики.
Во-первых, мы обращаем внимание на то, что в Стратегии содержится определение некоторых терминов, ранее не имевших никакого нормативного упоминания. Это прежде всего определение самого термина ИИ как комплекса технологических решений, позволяющего имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе то, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. Однако подчеркнем, что этот термин определен таким образом исключительно для целей Стратегии и не задумывался как универсальный.
Во-вторых, это, безусловно, принципы Стратегии (п. 19): а) защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой
интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта;
технологический суверенитет: обеспечение необходимого уровня самостоятельности Российской Федерации в области искусственного интеллекта, в том
□
экономики; иА
б) безопасность: недопустимость использования искусственного интеллекта Пш в целях умышленного причинения вреда гражданам и юридическим лицам, <Ш а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта; Ш Т
в) прозрачность: объяснимость работы искусственного интеллекта и процесса НУ достижения им результатов, недискриминационный доступ пользователей нл продуктов, которые созданы с использованием технологий искусственного
Ш ИШ
Um
ЛЕКТА
) УНИВЕРСИТЕТА
L-—имени О. Е. Кугафи на (МПОА)
числе посредством преимущественного использования отечественных технологий искусственного интеллекта и технологических решений, разработанных на основе искусственного интеллекта;
д) целостность инновационного цикла: обеспечение тесного взаимодействия научных исследований и разработок в области искусственного интеллекта с реальным сектором экономики;
е) разумная бережливость: осуществление и адаптация в приоритетном порядке существующих мер, направленных на реализацию государственной политики в научно-технической и других областях;
ж) поддержка конкуренции: развитие рыночных отношений и недопустимость действий, направленных на ограничение конкуренции между российскими организациями, осуществляющими деятельность в области искусственного интеллекта.
Все обозначенные выше принципы имеют явно выраженный правовой характер и определяют не только идеологию Стратегии, но и окажут влияние на принимаемые в порядке ее исполнения нормативные правовые акты.
В-третьих, это отдельные направления реализации Стратегии, напрямую не относящиеся к движущим факторам. Реализация этих направлений может в том числе, на наш взгляд, потребовать корректировок законодательства, например:
— увеличение количества результатов интеллектуальной деятельности в области искусственного интеллекта, которые прошли государственную регистрацию либо учтены иным способом в соответствии с общепринятой мировой практикой и применяются в промышленности как показатель роста предложения услуг на основе ИИ (п. 27);
— стимулирование привлечения инвестиций юридических и физических лиц в разработку технологий искусственного интеллекта и реализация различных мер государственной поддержки в этой сфере, например, в части, касающейся создания и производства программно-аппаратных комплексов с использованием преимущественно отечественной электронной компонентной базы и оптических элементов (п. 32, 42);
— повышение эффективности оценки научных работников (исследователей) посредством применения новых критериев результативности их деятельности (помимо научных публикаций), в том числе признание успешного участия специалистов в создании открытых библиотек искусственного интеллекта в качестве научного достижения (п. 32, 34);
— введение упрощенного режима реализации пилотных проектов, необходимых для развития технологий искусственного интеллекта (п. 34);
— обеспечение условий для создания открытых библиотек искусственного интеллекта (п. 34);
— разработка единых стандартов в области безопасности (в том числе отказоустойчивости) и совместимости программного обеспечения, эталонных архитектур вычислительных систем и программного обеспечения, а также определение критериев сопоставления программного обеспечения и критериев эталонных открытых тестовых сред (условий) в целях определения качества и эффективности программного обеспечения (п. 34);
73
L-—^ ь
— разработка унифицированных и обновляемых методологий описания, сбора и разметки данных, а также механизма контроля за соблюдением указанных методологий (п. 38);
— создание (модернизация) общедоступных платформ для хранения наборов
данных, соответствующих методологиям описания, сбора и разметки данных (п. 38);
— хранение наборов данных (в том числе звуковых, речевых, медицинских, метеорологических, промышленных данных и данных систем видеонаблюдения) на общедоступных платформах для обеспечения потребностей организаций — разработчиков в области искусственного интеллекта (п. 38);
— установление приоритетного доступа российских государственных органов и организаций к общедоступным платформам (п. 38);
— создание нормативно-правовой базы, предусматривающей обеспечение защиты данных, полученных при осуществлении экономической и научной деятельности, в том числе их хранение преимущественно на территории Российской Федерации, а также установление приоритетного доступа российских государственных органов и организаций к таким данным (п. 39);
— поддержка создания и развития специальных центров коллективного пользования в целях разработки прототипов перспективных элементов электронной компонентной базы, их тестирования и сборки готовых изделий (п. 42);
— разработка и внедрение образовательных модулей в рамках образовательных программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки (п. 45);
— стимулирование (в том числе материальное) работодателей к принятию мер, направленных на приобретение сотрудниками компетенций в области искусственного интеллекта и в смежных областях его использования (п. 45);
— обеспечение простоты и удобства соблюдения иностранными специалистами требований российского трудового и миграционного законодательства, в том числе при получении гражданства Российской Федерации и разрешений на работу (п. 45).
При формировании направлений Стратегии была проведена большая подготовительная работа, в том числе проведены консультации со значительным количеством экспертов. К сожалению, с точки зрения юридической науки проблематика регулирования систем ИИ на отечественном уровне практически не исследована. Это обусловлено, на наш взгляд, относительной новизной обще- иА
ственных отношений, связанных с использованием роботов и ИИ. Большинство П ш
правовых публикаций либо являются публицистическими, либо посвящены от- <Ш
дельным правовым проблемам, возникающим в разных отраслях права в связи с развитием робототехники. Хочется верить, что принятие Национальной стра- Шт
тегии существенно изменит эту ситуацию и привлечет максимально широкий НУ
□
круг ученых-правоведов к исследованию нормативных проблем применения X Л
технологий ИИ.
ГИ □ Р
ИШ НА Т1 ЕИ НЕ
ЛЕКТА
) УНИВЕРСИТЕТА
L-—имени О. Е. Кугафи на (МПОА)
БИБЛИОГРАФИЯ
1. Ли Кай-Фу. Сверхдержавы искусственного интеллекта : Китай, Кремниевая долина и новый мировой порядок. — М. : МИФ, 2019. — 346 с.
2. Модели правового регулирования создания, использования и распространения роботов и систем с искусственным интеллектом : монография / под общ. ред. В. Б. Наумова. — СПб. : НП-Принт, 2019. — 252 с.
3. Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта / В. В. Ба-куменко, А. Д. Волынец, А. В. Незнамов [и др.] ; под ред. А. В. Незнамова. — М. : Инфотропик-Медиа, 2018. — 220 с.
4. Регулирование робототехники: введение в «робоправо» : Правовые аспекты развития робототехники и технологий искусственного интеллекта / В. В. Архипов [и др.] ; под ред. А. В. Незнамова. — М. : Инфотропик-Медиа, 2018. — 226 с.
