CC BY
77
оригинальная статья
УДК 34.096;34.07;346.1;004.89(045)
© Казанцев Д. А., 2022
Анализ тенденций становления правового регулирования искусственного интеллекта и роботов
Дмитрий Андреевич Казанцев, аспирант факультета экономики и бизнеса, Финансовый университет, Москва, Россия
Dmitry A. Kazantsev, graduate student, Faculty of Economic and Business, Financial
University, Moscow, Russia
kazantsevdma@yandex.ru
аннотация
В статье рассматриваются основные тенденции развития правового регулирования технологий искусственного интеллекта (ИИ) и робототехники, как в Российской Федерации, так и в зарубежных государствах. Анализируются этические аспекты регулирования процесса разработки, внедрения и применения роботов и систем искусственного интеллекта, оценивается возможная этическая база такого регулирования. Предоставляется обзор правовых проблем, связанных со становлением правового регулирования в области автоматизированных транспортных средств, а также систем ИИ, применяемых в сфере государственного управления и в медицинских целях. Автор приходит к выводу, что приоритетным способом правового регулирования таких систем ИИ и роботов в ближайшее время будет установление экспериментальных правовых режимов. В статье содержится обзор правовых мер, направленных на стимулирование разработок в области искусственного интеллекта и робототехники, а также указывается на возможность выбора в дальнейшем правотворческими органами различных государств иного направления развития правового регулирования искусственного интеллекта и роботов - установление «налога на роботов».
Ключевые слова: искусственный интеллект; робототехника; робот; экспериментальный правовой режим; «регуляторная песочница»; «налог на роботов»; автоматизированное транспортное средство; персональные данные; профессиональная тайна
Для цитирования: Казанцев д. А. Анализ тенденций становления правового регулирования искусственного интеллекта и роботов. Научные записки молодых исследователей. 2022;10(1):66-76.
Научный руководитель: Лапина М.А., доктор юридических наук, профессор, профессор департамента международного и публичного права, Финансовый университет, Москва, Россия /Scientific supervisor: Lapina М.А., Dr. Sci. (Law), Professor, Department of International and Public Law, Financial University, Moscow, Russia.
original paper
Analysis of Trends in the Formation of Legal Regulation of Artificial Intelligence and Robots
abstract
The paper discusses the major trends in the development of the legal regulation of artificial intelligence (AI) technologies and robotics, both in the Russian Federation and in foreign countries. The author analyses ethical aspects of regulating the process of development, implementation, and application of robots and artificial intelligence systems, as well as evaluates the possible ethical basis for such regulation. The research summarizes the legal problems associated with the formation of legal regulation in automated vehicles, as well as AI systems used in public administration and for medical purposes. The author concludes that the establishment of experimental legal regimes will be the priority way for the legal regulation of such AI systems and robots in the near future. The study provides the overview of legal measures aimed at stimulating developments in artificial and robotics, and also indicates the possibility of choosing in the future by regulatory bodies of various states a different direction for the development of the legal regulation of artificial intelligence and robots-the establishment of a "robot tax".
Keywords: artificial intelligence; robotics; robot; experimental law regime; regulatory sandbox; robot tax; automated transport vehicle; personal data; professional confidentiality
For citation: Kazantsev D. A. Analysis of trends in the formation of legal regulation of artificial intelligence and robots. Nauchnye zapiski molodykh issledovatelei = Scientific notes of young researchers. 2022;10(1):66-76.
Введение
Расширение сферы применения технологий искусственного интеллекта и робототехники требует соответствующей реакции правотворческих органов. Несмотря на предпринятые рядом стран меры по нормативно-правовому (и в том числе законодательному) регулированию процесса применения искусственного интеллекта и роботов (преимущественно касающиеся использования беспилотных транспортных средств), среди большинства областей, где уже находят свое применение технологии ИИ и робототехники, наблюдается правовой вакуум (например, в банковской сфере, в области рынка ценных бумаг, в медицинской сфере). Более того, перспективы развития искусственного интеллекта и робототехники сулят только увеличение данной правовой неопределенности. Реагируя на имеющиеся вызовы и предупреждая будущие, представители юридических наук и правотворческих органов выдвигают различные концепции регулирования искусственного интеллекта и роботов. Не подвергая сомнению саму необходимость правового регулирования
указанных технологий, в научной среде дискутируется вопрос о масштабе такого регулирования. В частности, стоит ли ограничиться модернизацией действующих законодательных актов (а возможно их расширительным толкованием) или необходимо введение новой отрасли законодательства для данной сферы. Представители первого подхода указывают на необходимость избежания ситуации излишней заурегулиро-ванности технологий, мешающей их развитию. В качестве примера они ссылаются на историю становления сети Интернет, отсутствие регулирование которой позволило ей в полной мере развить свой потенциал (хотя стоит отметить, что история сети Интернет, видимо, подошла к такой своей отметке, дальше которой ее свободное от регулирования развитие становится невозможным в силу столкновения интересов транснациональных технологических корпораций и государств) [1]. Представители противоположного подхода обосновывают свою позицию спецификой систем искусственного интеллекта, требующей принятия нового законодательства [2, 3].
становление правового регулирования роботов и систем искусственного интеллекта в российской Федерации
Необходимость модернизации национального законодательства под потребности времени закреплена во многих документах стратегического планирования в области искусственного интеллекта и робототехники различных стран мира. Так, Стратегия по искусственному интеллекту (Artificial Intelligence Strategy, 2018) Германии предполагает пересмотр существующей нормативно-правовой базы с целью выяснения того, охватывает ли она все аспекты, связанные с решениями, продуктами или услугами, основанными на алгоритмах и искусственном интеллекте1. План развития искусственного интеллекта следующего поколения (Next Generation Artificial Intelligence Development Plan, 2017) Китайской народной республики предусматривает создание нормативной и этической базы, которая позволит обеспечить «благотворное развитие» ИИ2. Целесообразность адаптации нормативного регулирования и выработки этических норм обозначена и в Национальной стратегии развития искусственного интеллекта на период до 2030 года Российской Федерации3. Особый интерес с точки зрения анализа тенденций развития правового регулирования технологий искусственного интеллекта и робототехники в Российской Федерации представляет утвержденная распоряжением Правительства Российской Федерации от 19.08.2020 № 2129-р Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года4. Концепция, в частности, содержит базовые этические
1 Germany: Artificial Intelligence Strategy. European Commission. 2019. URL: https://knowledge4policy.ec.europa. eu/publication/germany-artificial-intelligence-strategy_en (дата обращения: 29.09.2021).
2 Regulation of Artificial Intelligence: East/South Asia and the Pacific. The Law Library of Congress. 2019. URL: https://www. loc.gov/law/help/artificial-intelligence/asia-pacific.php (дата обращения: 15.04.2021).
3 О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации от 10.10.2019 № 490. Официальный интернет-портал правовой информации. URL: http://publication.pravo.gov.ru/Document/ View/0001201910110003.
4 Об утверждении Концепции развития регулирования отно-
шений в сфере технологий искусственного интеллекта и ро-
бототехники на период до 2024 года: распоряжение Правительства РФ от 19.08.2020 № 2129-р. Официальный интернет-портал правовой информации. URL: http://publication. pravo.gov.ru/Document/View/0001202008260005.
нормы, на основе которых должно происходить развитие технологий искусственного интеллекта и робототехники:
• «приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод;
• запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники;
• подконтрольность человеку;
• проектируемое соответствие закону, в том числе требованиям безопасности;
• недопущение противоправной манипуляции поведением человека»5.
Кроме того, Концепцией также предусматривается запрет на использование систем искусственного интеллект и роботов, «представляющих явную угрозу обороне страны и безопасности государства»5.
Представляется возможным, что вышеперечисленные этические принципы развития технологий искусственного интеллекта и робототехники вкупе с положениями Стратегии развития искусственного интеллекта могут лечь в основу указанных в Концепции этических кодексов разработки, внедрения и применения искусственного интеллекта и роботов, принимаемых на уровне субъектов предпринимательской деятельности или саморегулируемых организаций. Более того, в Российской Федерации уже есть пример саморегулирования использования технологий ИИ. В марте 2021 года Сбербанк объявил об утверждении принципов «этики разработки и применения технологий искусственного интеллекта (ИИ) в своей экосистеме»5. В числе данных принципов перечисляются: «контролируемость и управляемость систем ИИ, прозрачность и предсказуемость функционирования технологий ИИ, стабильность и надежность систем ИИ, ответственное применение ИИ, непредвзятый ИИ»6. В сообщении Сбербанка, посвященном введению указанных принципов, говорится о том, что принципы разработаны «с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года»6.
Рассматривая направления развития правового регулирования технологий искусственного интеллекта и робототехники, наиболее актуальным
5 «Сбер» одним из первых в России утвердил принципы этики искусственного интеллекта. ТАСС. 2021. URL: https://tass. ru/ekonomika/10802757 (дата обращения: 29.09.2021).
в Российской Федерации видится развитие нормативно-правовой базы для эксплуатации автоматизированных транспортных средств на российских дорогах. Отсутствие законодательного регулирования данной сферы тормозит развитие российской робототехнической отрасли. В частности, по мнению представителя компании «Яндекс», «в будущем беспилотные автомобили станут внедряться в первую очередь в тех регионах, где для этого уже будет создана полноценная регуляторная база» [4]. Однако решение вопроса отсутствия законодательного регулирования использования автономных транспортных средств является трудной задачей, в первую очередь из-за того, что Конвенция о дорожном движении 1968 года (участником которой является и Россия) фактически запрещает допуск к дорожному движению полностью автоматизированных транспортных средств, требуя присутствия человека за рулем6. Для устранения указанного правового препятствия Российская Федерация в феврале 2021 г. вместе с Бельгией, Люксембургом, Португалией, Францией, Финляндией, Швейцарией и Швецией инициировала пересмотр Конвенции, однако даже в случае одобрения изменений другими участниками Конвенции процесс внесения поправок в Конвенцию о дорожном движении может занять полтора-два года [5, 6].
В отсутствие законодательного урегулирования процесса допуска к дорожному движения автоматизированных транспортных средств единственным способом развития робототехнической отрасли остается установление экспериментального правового режима. Возможность корректировки общеобязательных правил в рамках экспериментального правового режима предусмотрена Федеральным законом от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»7.
При этом институт экспериментальных правовых режимов возможно применять не только в отношении автоматизированных транспортных средств, но
6 Конвенция о дорожном движении. Справочно-правовая система «КонсультантПлюс». 2014. URL: http://www.consultant.ru/ cons/cgi/online.cgi?req=doc&base=LAW&n=136493&dst=0&md= 3F6AF837FE 015A70F38C 1838547B 728B#09430506492511361 (дата обращения: 29.09.2021).
7 Об экспериментальных правовых режимах в сфере циф-
ровых инноваций в Российской Федерации: Федеральный
закон от 31.07.2020 № 258-ФЗ. Собрание законодательства РФ. 2020. № 31 (часть I). Ст. 5017.
и многих других систем искусственного интеллекта. Дело в том, что как для правового регулирования беспилотных автомобилей проблемным вопросом является допуск их к дорожному движению, так и для аналитических систем искусственного интеллекта камнем преткновения является допуск к охраняемым законом данным, в первую очередь к персональным данным. Вопрос допуска к персональным данным является критичным для аналитических систем ИИ, так как не прошедшая обучение на достаточно объемном и достоверном массиве данных система ИИ не сможет функционировать должным образом. А если речь идет о системах искусственного интеллекта, применяемых, например, в медицинской сфере или сфере банковских услуг, то в данном случае их обучение осуществляется к тому же на основе данных, охраняемых отдельными режима профессиональной тайны (в данном случае, врачебной тайны и банковской тайны). Здесь, как и в случае допуска автоматизированных транспортных средств на общественные дороги, вопрос будет решаться, видимо, в рамках особых правовых режимов, позволяющих обрабатывать персональные данные при условии принятия мер по их защите (в частности, обезличивания). Об этом говорится в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники, которая указывает на необходимость адаптации законодательства Российской Федерации в целях обеспечения «особых условий (режимов) для доступа к данным, включая персональные данные (при условии принятия мер для защиты интересов субъектов персональных данных, включая обезличивание), в целях проведения научных исследований, обучения искусственного интеллекта и разработки технологических решений на их основе»8. Стоит также отметить, что, кроме установления особых правовых режимов, для получения доступа к персональным данным дополнительным вариантом решения проблемы обучения систем искусственного интеллекта является обеспечение доступа к данным, содержащимся «в информационных ресурсах органов и организаций государственного сектора, а также
8 Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года: распоряжение Правительства РФ от 19.08.2020 № 2129-р. Официальный интернет-портал правовой информации. URL: http://publication. pravo.gov.ru/Document/View/0001202008260005.
в информационных ресурсах, созданных в целях реализации полномочий органов и организаций государственного сектора»5. В связи с этим стоит ожидать разработку регуляторных механизмов, предоставляющих доступ разработчикам систем ИИ к данным, содержащимся в государственных информационных системах и иных информационных системах государственных органов и организаций. Данное предложение содержится, в частности, в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники16. Также в «Перечне поручений по итогам конференции по искусственному интеллекту», утвержденном Президентом РФ 31.12.2020, Правительству РФ предписывается обеспечить внесение в законодательство Российской Федерации изменений, «предусматривающих предоставление (при условии обеспечения защиты персональных данных) организациям, разрабатывающим технологические решения на основе искусственного интеллекта, доступа к наборам данных, содержащимся в том числе в государственных информационных системах»9.
В целом стоит отметить, что институт экспериментальных правовых режимов (так называемых «регуляторных песочниц») является удобным средством преодоления правовых барьеров в условиях, когда установление постоянного нормативно-правового регулирования невозможно в силу отсутствия консенсуса в отношении такого, а также необходимости выработки на практике или апробации регуляторных механизмов. Институт особых правовых режимов позволяет использовать на практике инновационные технологии в ограниченном режиме в условиях ослабленных ограничений, а также отработать варианты регулирования процесса применения данных технологий. Однако характерной чертой данного института является временной характер. В связи с этим главные трудности, связанные с внедрением данного режима, стоит ожидать на этапе перехода от режима правового эксперимента к режиму постоянного правового регулирования (особенно в случае, если за время проведения эксперимента так и не будут выработаны устойчивые и согласованные с участниками
9 Перечень поручений по итогам конференции по искусственному интеллекту (утв. Президентом РФ 31.12.2020 № Пр-2242). Справочно-правовая система «Консультант-Плюс». 2020. URL: http://www.consultant.ru/document/cons_ doc_LAW_373298/ (дата обращения: 19.09.2021).
экспериментов и иными заинтересованными сторонами регуляторные механизмы). В силу этого некоторые эксперты с определенным скептицизмом относятся к данному институту. В частности, главный аналитик ассоциации «Цифровой транспорт и логистика» Андрей Ионин отмечает по этому поводу, что «никто не задается вопросом, что будет с этими инновациями после выхода из "песочницы", не исключено, что в стандартном режиме они окажутся неработоспособными, а изменения действующего законодательства - нереальными» [7]. Однако представители компаний - разработчиков систем ИИ и автоматизированных транспортных средств положительно оценивают введение экспериментальных правовых режимов как необходимый шаг к выработке законодательного регулирования [7, 8].
Экспериментальные правовые режимы являются не единственным способом стимулирования развития технологий искусственного интеллекта и робототехники. Экспериментальные правовые режимы позволяют облегчить регуляторные требования для участников эксперимента, но не предоставляют прямых экономических стимулов ни для действующих, ни для потенциальных участников. В связи с этим следует выделить еще одно направление развития правового регулирования процесса создания и применения систем ИИ и роботов - предоставление налоговых льгот разработчикам и пользователям таких систем. Так, о разработке поправок в Налоговый кодекс, предполагающих налоговые вычеты для компаний, разрабатывающих и внедряющих технологии искусственного интеллекта, еще в феврале 2020 г. сообщало информационное агентство «РИА-Но-вости»10. А в октябре 2020 г. газета «Ведомости» писала о переданном в Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации предложении рабочей группы «Искусственный интеллект» при АНО «Цифровая экономика» относительно введения налогового вычета по налогу на доходы физических лиц (НДФЛ) для 1Т-специалистов, участвующих в разработке и внедрении ИИ [9]. Также стоит отметить, что, кроме установления налоговых льгот, дополнительным способом финансового стимулирования роста отрасли искусственного интеллекта и робо-
10 Разработчики ИИ получат налоговые льготы на десять лет. РИА Новости. 2020. URL: https://ria.ru/20200221/1565040094. html (дата обращения: 15.04.2021).
тотехники является развитие института государственно-частного партнерства11.
Однако существует и противоположное мнение относительно развития налогового регулирования процесса внедрения роботов и систем ИИ. Так, согласно опросу, проведенному компаниями PWC, IDC, КРОК и нетворкинг-платформой Digital Leader, менеджеры IT-компаний, консалтинга и подразделений, занимающихся внедрением и разработкой инноваций, считают вероятным появление к 2030 г. в Российской Федерации «налога на искусственный интеллект» [10]. Как предполагается, данный налог должен стать ответом государства на замещение сотрудников компаний роботами и система ИИ с целью перераспределения полученной такими компаниями прибыли (которая, как ожидается, вырастет в случае замены человеческого персонала на роботов и искусственный интеллект) в пользу потерявших работу сотрудников, чтобы предоставить им возможность освоить новые квалификации. Также за счет введения такого налога предлагается возместить выпадающие поступления сокращенных в результаты внедрения систем ИИ и роботов работников по НДФЛ, взносам в страховые и пенсионные фонды. Более того, о разработке предложений по введению в России «налога на роботов» в июле 2020 г. сообщала газета «Известия» [11]. Инициатива, с которой в Министерство финансов Российской Федерации обратился Институт прогрессивного образования, включала в себя предложение по введению сопоставимого с НДФЛ «налога на роботов», заменяющих человеческий персонал. Кроме введения налога на замещающих живых сотрудников роботов, некоторыми экспертами отмечается возможность изменения правил начисления налогов и таможенных сборов в отношении автоматизированных транспортных средств в силу большей дороговизны и сложности последних при сравнении с обычными автомобилями [4]. Данные предположения можно отнести скорее к делу более отдаленного будущего. В настоящее время технологии искусственного интеллекта и робототехники только начинают внедряться в различные отрасли экономики и потому усилия государства (в силу экономического потенциала
11 Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года: распоряжение Правительства РФ от 19.08.2020 № 2129-р. Официальный интернет-портал правовой информации. URL: http:// publication.pravo.gov.ru/Document/View/0001202008260005.
данных технологических решений) будут направлены, скорее, на стимулирование развития данных технологий, нежели на установление дополнительных препятствий их внедрению. Хотя в будущем, при расширении сферы применения технологий ИИ и робототехники, начале их широкой эксплуатации, переходе от экспериментальных правовых режимов к постоянному правовому регулированию, не стоит исключать возможности повышения (или установления отдельных) налоговых обязательств для компаний, осуществляющих деятельность в сфере разработки, продажи и применения систем искусственного интеллекта и роботов.
направления развития правового регулирования технологий искусственного интеллекта и робототехники в зарубежной практике
Большинство из вышеприведенных направлений развития правового регулирования технологий искусственного интеллекта и робототехники, несомненно, имеют место не только в Российской Федерации, но и в ряде других государств. Так, этическим вопросам процесса разработки и применения роботов и ИИ были посвящены опубликованные еще в апреле 2019 г. Руководящие этические принципы доверенного искусственного интеллекта Комиссии Европейского союза. Однако на этом тема этического регулирования систем ИИ и роботов в Европейском союзе не была исчерпана. 20 октября 2020 г. Европейский парламент принял резолюцию с рекомендациями для Европейской комиссии по этическим аспектам искусственного интеллекта, робототехники и связанных с ними технологий (European Parliament resolution of 20 October 2020 with recommendations to the Commission on a framework of ethical aspects of artificial intelligence, robotics and related technologies)12. В предлагаемых резолюцией положениях указывается на необходимость разработки, внедрения и применения любых технологий искусственного интеллекта, робототехники и связанных с ними технологий в соответствии с законодательством ЕС и при полном уважении человеческого достоинства, автономии и безопасности, а также иных фундаментальных прав. В доку-
12 Framework of ethical aspects of artificial intelligence, robotics and related technologies. European Parliament. 2020. URL: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_EN.html#title1 (дата обращения: 29.09.2021).
менте подчеркивается необходимость обеспечения прозрачности и подотчетности систем ИИ. Указывается, что такие системы не должны быть предвзятыми и дискриминационными. Согласно позиции Европарламента дифференцированное обращение к различным персонам или группам лиц может допускаться только в случае наличия объективной, разумной и законной цели, которая будет являться соразмерной и необходимой. Также в резолюции содержится предложение по введению для высокорискового искусственного интеллекта и роботов оценки соответствия установленным требованиям и, в случае успешного прохождения такой оценки, выдачу уполномоченным национальным органом Европейского сертификата этического соответствия (European certificate of ethical compliance).
При раскрытии понятия высокорискового искусственного интеллекта в резолюции содержится отсылка к опубликованной в феврале 2020 г. Комиссией ЕС Белой книге по искусственному интеллекту (White Paper on Artificial Intelligence), содержащей предложения Европейской комиссии по регулированию искусственного интеллекта13. Данный документ представлял собой предварительный вариант законопроекта Еврокомиссии, окончательная версия которого была опубликована 21 апреля 2021 г.14 В проекте закона об искусственном интеллекте (Artificial Intelligence Act) к высокорисковым ИИ-системам относятся системы, используемые:
• для биометрической идентификации и категоризации физических лиц;
• для управления и обслуживания критической инфраструктуры (в том числе, системы ИИ, применяемые в сфере дорожного движения, водоснабжения, газоснабжения, отопления и подачи электроэнергии);
• в образовании или профессиональной переподготовке, которые могут определять доступ к образованию или чей-либо профессиональный курс (например, для оценки результатов экзамена);
13 White Paper on Artificial Intelligence - A European approach to excellence and trust. European Commission. 2020. URL: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (дата обращения: 29.09.2021).
14 Proposal for a Regulation laying down harmonised rules
on artificial intelligence (Artificial Intelligence Act). European Commission. 2021. URL: https://digital-strategy.ec.europa.eu/ en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence (дата обращения: 29.09.2021).
• в области трудоустройства, управления работниками и доступа к самозанятости (например, для сортировки резюме в рамках рекрутинговых процедур);
• для доступа и пользования основными частными услугами, а также государственными услугами и льготами (например, в целях кредитного скоринга для определения целесообразности предоставления гражданам кредитов);
• в правоприменительных целях (в том числе, для оценки достоверности доказательств);
• в сфере миграции, предоставления убежищ и пограничного контроля (например, для проверки подлинности проездных документов);
• для отправления правосудия (включая системы, предназначенные для помощи судебному органу в исследовании и интерпретации фактов и закона, а также для целей применения закона к конкретному набору фактов).
Комиссия Европейского союза предлагает применять по отношению к высокорисковым ИИ-системам строгие ограничения и жесткий контроль до момента их выхода на рынок. Так, по отношению к данным системам предполагается применять «адекватные системы оценки рисков и минимизации последствий», ведение журнала активности высокорисковой системы ИИ для обеспечения про-слеживаемости результатов, надлежащие меры надзора со стороны человека15.
Отдельное внимание Европейская комиссия уделяет системам удаленной биометрической идентификации. Еврокомиссия предлагает запретить использование таких систем в онлайн-режиме в общедоступных местах. Исключение из данного правила возможно только в строго определенных целях (в том числе, для поиска пропавшего ребенка, предотвращения конкретной террористической угрозы, для розыска лица, подозреваемого в совершении преступления) с разрешения судебного или иного независимого органа с соответствующими ограничениями по времени, географическому охваты и базам данных, в которых осуществляется поиск.
Стоит отметить, что «регуляторные песочницы» (особые правовые режимы, предполагающие установление для их участников определенных
15 Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. European Commission. 2021. URL: https:// ec.europa.eu/commission/presscorner/detail/en/IP_21_1682 (дата обращения: 29.09.2021).
исключений из общих правил) нашли широкое применение за рубежом. В частности, «песочницы» используются для тестирования финансовых технологий в Великобритании16, Китае17, Сингапуре18 и Южной Корее19. В Соединенном королевстве в январе 2020 г. заявлялось о планах создать регуляторную песочницу для систем искусственного интеллекта, применяемых в сфере здравоохранения20. Возможность установления экспериментальных правовых режимов предусмотрена и законодательством ФРГ (например, Закон о перевозке пассажиров содержит положения, позволяющие лицензирующим органам устанавливать в отдельных случаях исключения из требований данного закона, а также требований актов, принятых на основе данного закона, в целях тестирования новых видов транспорта не более чем на четырехлетний срок)21. В 2018 г. в Германии была создана регуляторная песочница для тестирования технологий в сфере автоматизированного транспорта в рамках Баден-Вюртембергского испытательного стенда автономного вождения (Baden-Württemberg Autonomous Driving Testbed)22. Сообщалось также о планах ФРГ запустить регуляторные песочницы для испытаний самоуправляемых микроавтобусов,
16 Woolard C. The future of regulation: AI for consumer good. Financial Conduct Authority. 2019. URL: https://www.fca.org. uk/news/speeches/future-regulation-ai-consumer-good (дата обращения: 29.09.2021).
17 China to Trial 11 New Fintech Projects in 'Regulatory Sandbox'. Caixin. 2020. URL: https://www.caixinglobal. com/2020-06-03/china-to-trial-11-new-fintech-projects-in-regulatory-sandbox-101562708.html (дата обращения: 29.09.2021).
18 Overview of Regulatory Sandbox. Monetary Authority of Singapore. URL: https://www.mas.gov.sg/development/fintech/ regulatory-sandbox (дата обращения: 29.09.2021).
19 Financial Regulatory Sandbox. Overview. Sandbox Korea. 2021. URL: https://sandbox.fintech.or.kr/financial/overview. do?lang=en (дата обращения: 29.09.2021).
20 Regulatory sandbox for AI needed to test and build systems, NHSX says. Digital Health. 2020. URL: https://www. digitalhealth.net/2020/02/regulatory-sandbox-for-ai-needed-to-test-and-build-systems-nhsx-says/ (дата обращения: 29.09.2021).
21 Regulatory Sandboxes - Testing Environments for Innovation and Regulation. Federal Ministry for Economic Affairs and Energy. 2019. URL: https://www.bmwi.de/ Redaktion/EN/Dossier/regulatory-test-beds-testing-environments-for-innovation-and-regulation.html (дата обращения: 29.09.2021).
22 Making space for innovation. The handbook for regulatory
sandboxes. Federal Ministry for Economic Affairs and Energy.
2019. URL: https://www.bmwi.de/Redaktion/EN/Publikationen/
Digitale-Welt/handbook-regulatory-sandboxes.pdf?__
blob=publicationFile&v=2 (дата обращения: 29.09.2021).
применяемых для перевозки пассажиров, и автоматизированных судов31. Регуляторные песочницы, предназначенные для опытной эксплуатации автоматизированных автомобилей и судов, имеются также и в Сингапуре [12, 13].
В США особое внимание уделяется вопросу расширения доступа к данным, необходимым для обучения систем искусственного интеллекта, которые содержатся в информационных системах федеральных государственных органов. Об этом, в частности, упоминается в датирующейся октябрем 2016 г. Национальном стратегическом плане по исследованиям и разработкам в области искусственного интеллекта (The National Artificial Intelligence Research and Development Strategic Plan)23, а также в указе президента США № 13859 от 11.02.2019 «Поддержание американского лидерства в сфере искусственного интеллекта» (Maintaining American Leadership in Artificial Intelligence)24 и в изданном Управлением научно-технической политики (Office of Science and Technology Policy) аппарата президента США Руководстве по регулированию приложений искусственного интеллекта (Guidance for Regulation of Artificial Intelligence Applications)25. Так, вышеупомянутый указ Президента США подчеркивает необходимость расширения со стороны органов государственной власти доступа к «высококачественным и полностью отслеживаемым федеральным данным», используемым в рамках исследований и разработок в области искусственного интеллекта, при условии обеспечения защищенности таких данных и их приватности37. В свою очередь, в Руководстве по регулированию приложений искусственного интеллекта органам государственной власти предлагается пересмотреть существующие протоколы раскрытия данных, чтобы определить
23 The National Artificial Intelligence Research and Development Strategic Plan. National Science and Technology Council. 2016. URL: https://www.nitrd.gov/PUBS/national_ai_ rd_strategic_plan.pdf (дата обращения: 29.09.2021).
24 Executive Order No. 13,859, Maintaining American Leadership in Artificial Intelligence. Federal Register. 2019. URL: https://www.federalregister.gov/ documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence (дата обращения: 29.09.2021).
25 Memorandum for The Heads of Executive Departments and Agencies, Guidance for Regulation of Artificial Intelligence Applications. The White House. 2020. URL: https://www. whitehouse.gov/wp-content/uploads/2020/01/Draft-0MB-Memo-on-Regulation-of-AI-1-7-19.pdf (дата обращения: 29.09.2021).
НОВЫЕ ТЕХНОЛОГИИ / NEW TECHNOLOGIES
целесообразность раскрытия большего объема данных, а также предоставления данных в более детализированном, а не обобщенном виде38.
Содержатся в упомянутом указе президента США и положения, предписывающие устранять препятствия к использованию технологий искусственного интеллекта, при этом защищая экономическую и национальную безопасность США, гражданские свободы и американские ценности. Данные предписания находят свое продолжение в Руководстве по регулированию приложений искусственного интеллекта, в котором указывается, что органам государственной власти следует избегать правотворческих и иных действий, которые в отсутствие такой необходимости препятствуют инновациям и развитию искусственного интеллекта. Также подчеркивается, что возможность принятия новых регулятивных требований по отношению к системам ИИ следует рассматривать только после решения вопроса о необходимости установления соответствующего нормативно-правового регулирования. Руководство содержит в себе и ряд «нерегуляторных» подходов по отношению к искусственному интеллекту, которые следует применять, когда издержки от установления новых нормативных предписаний перевешивают их преимущества. К таким подходам относятся разработка государственными органами руководств и планов, установление особых правовых режимов (по сути, тех же регуляторных песочниц), а также создание и внедрение участниками рынка добровольных стандартов.
В странах, активно занимающихся вопросом развития технологий искусственного интеллекта и робототехники, также уделяется внимание и налоговому стимулированию такого развития. В частности, предоставление налоговых льгот для организаций, разрабатывающих системы ИИ, предусматривается Планом развития искусственного интеллекта следующего поколения Китая26. Налоговые льготы в отношении доходов, полученных в результате внедрения технологий и приложений ИИ в рамках социально значимых проектов, рассматриваются и в датированных мартом 2018 г. рекомендациях к правительству Индии Рабочей группы по использованию искусственного интеллекта для экономического преобразования Индии
26 Regulation of Artificial Intelligence: East/South Asia and the Pacific. The Law Library of Congress. 2019. URL: https://www. loc.gov/law/help/artificial-intelligence/asia-pacific.php (дата обращения: 15.04.2021).
(Task Force on AI for India's Economic Transformation), сформированной при Министерстве промышленности и торговли (Ministry of Industry and Commerce) Индии27. Кроме того, установление стимулирующей банковские инвестиции в развитие технологий искусственного интеллекта налоговой системы предлагается в Позиции Европейской банковской федерации (международной организации, состоящей из 32 европейских национальных банковских ассоциаций) по искусственному интеллекту в банковской отрасли (EBF position paper on AI in the banking industry), опубликованной в июле 2019 г.28 С точки зрения налогового стимулирования развития технологий ИИ и робототехники интересный пример являет собою Республика Корея, в которой установлен налоговый вычет на корпоративный налог для компаний, осуществляющих инвестиции в автоматизацию производства. При этом в 2017 г. правительство Южной Кореи приняло решение уменьшить данный налоговый вычет, что было охарактеризовано в некоторых СМИ, как первый шаг к «налогу на роботов» [14].
Выводы
В целом, обобщая вышеперечисленные тенденции становления правового регулирования искусственного интеллекта и роботов, можно выделить следующие направления развития такого регулирования в Российской Федерации и зарубежных государствах:
• разработка этических кодексов и иных механизмов этического регулирования процесса разработки, внедрения и использования технологий ИИ и робототехники, осуществляемая как централизованно государством,так и децентрализованно в рамках саморегулирования;
• расширение практики применения регуляторных песочниц с целью допуска автоматизированных транспортных средств (воздушных, наземных, водных), а также иных систем ИИ, применяемых в критически важных областях (например, в медицинской сфере), к эксплуатации в опытном
27 Report of The Artificial Intelligence Task Force. Department for Promotion of Industry and Internal Trade, Ministry of Commerce and Industry. 2018. URL: https://dipp.gov.in/sites/ default/files/Report_of_Task_Force_on_ArtificialIntelligence_2 0March2018_2.pdf (дата обращения: 29.09.2021).
28 EBF position paper on AI in the banking industry. European Banking Federation. 2019. URL: https://www.ebf.eu/wp-content/uploads/2020/03/EBF_037419-Artificial-Intelligence-in-the-banking-sector-EBF.pdf (дата обращения: 29.09.2021).
режиме (с последующей полной легализацией их эксплуатации);
• повышение возможностей разработчиков и пользователей систем ИИ по допуску к охраняемым законом данным, используемым для обучения систем ИИ (в том числе, путем предоставления такого доступа в рамках регуляторных песочниц, а также развития практики предоставления информации, содержащейся в информационных системах государственных органов, с обеспечением защищенности и обезличенности таких данных);
• налоговое стимулирование развития технологий ИИ и робототехники посредством установления соответствующих налоговых льгот (с возможностью уменьшения в дальнейшем по мере расширения практики применения технологий ИИ и робототехники данных льгот и перехода к противоположному подходу - налогообложению предприятий, использующих роботов и ИИ).
В качестве еще одного перспективного направления развития правового регулирования можно выделить обеспечение правовой охраны результатов интеллектуальной деятельности систем ИИ как еще один способ стимулирования развития
инновационных технологий. Об этом, в частности, упоминается в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники Российской Федерации29, Плане развития искусственного интеллекта следующего поколения Китайской народной республики30 и Резолюции Европейского парламента от 20.10.2020 о праве интеллектуальной собственности в рамках развития технологий искусственного интеллекта (European Parliament resolution of 20 October 2020 on intellectual property rights for the development of artificial intelligence technologies)31.
29 Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года: распоряжение Правительства РФ от 19.08.2020 № 2129-р. Официальный интернет-портал правовой информации. URL: http:// publication.pravo.gov.ru/Document/View/0001202008260005.
30 Regulation of Artificial Intelligence: East/South Asia and the Pacific. The Law Library of Congress. 2019. URL: https://www. loc.gov/law/help/artificial-intelligence/asia-pacific.php (дата обращения: 15.04.2021).
31 Intellectual property rights for the development of artificial intelligence technologies. European Parliament. 2020. URL: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0277_EN.html (дата обращения: 29.09.2021).
2.
4.
6.
Описок источников
Straub J. Does regulating artificial intelligence save humanity or just stifle innovation? The Conversation. 2017. URL: https://theconversation.com/does-regulating-artificial-intelligence-save-humanity-or-just-stifle-innovation-85718 (дата обращения: 29.09.2021).
Буркова А. Ю. Использование искусственного интеллекта: нужно ли регулирование? Право и экономика. 2018;(9):5-8.
Михалева Е. С., Шубина Е.А. Проблемы и перспективы правового регулирования робототехники. Актуальные проблемы российского права. 2019;(12):26-35.
Клевошин П., Кодачигов В. СП Сбербанка заморозило проект создания беспилотных автомобилей. Ведомости. 2021. URL: https://www.vedomosti.ru/technology/articles/2021/02/09/857334-cognitive-pilot?utm_campaign=vedomosti_public&utm_content=857334-cognitive-pilot&utm_medium=social&utm_ source=telegram_ved (дата обращения: 29.09.2021).
Гайва Е. За рулем - автомат. Российская газета. 2021. URL: https://rg.ru/2021/02/19/rossiia-predlozhila-peresmotret-konvenciiu-o-dorozhnom-dvizhenii.html (дата обращения: 29.09.2021).
Кодачигов В., Чеберко И. Россия инициировала пересмотр Конвенции о дорожном движении. Ведомости. 2021. URL: https://www.vedomosti.ru/business/articles/2021/02/18/858574-rossiya-initsiirovala (дата обращения: 29.09.2021).
Кодачигов В., Исакова Т. Беспилотникам закон написан. Ведомости. 2021. URL: https://www.vedomosti.ru/ technology/articles/2021/02/11/857651-bespilotnikam (дата обращения: 29.09.2021).
Устинова А., Гаврилюк А. Машинное мнение: программе доверят сбор данных о российских пациентах. Известия. 2020. URL: https://iz.ru/1052067/anna-ustinova-anastasiia-gavriliuk/mashinnoe-mnenie-programme-doveriat-sbor-dannykh-o-rossiiskikh-patcientakh (дата обращения: 29.09.2021).
Кинякина Е., Бордюг Т. Искусственный интеллект придумал новые льготы. Ведомости. 2020. URL: https://www. vedomosti.ru/technology/articles/2020/10/15/843486-iskusstvennii-intellekt (дата обращения: 29.09.2021).
1.
3.
5.
8.
10. Скрынникова А. В PwC предсказали введение налога на искусственный интеллект. РБК. 2020. URL: https://www.rbc.ru/technology_and_media/19/06/2020/5eeb5bda9a7947386c779ebd (дата обращения: 29.09.2021).
11. Перевощикова М. Искусный интеллект: в России хотят ввести подоходный налог на роботов. Известия. 2020. URL: https://iz.ru/1038879/mariia-perevoshchikova/iskusnyi-intellekt-v-rossii-khotiat-vvesti-podokhodnyi-nalog-na-robotov (дата обращения: 29.09.2021).
12. Dean P., Walters T., Goulding J., Clack H. Autonomous ships: a pandemic vaccine? HFW. 2020. URL: https://www. hfw.com/Autonomous-Ships-A-Pandemic-Vaccine-September-2020# (дата обращения: 29.09.2021).
13. Razdan R. Singapore And Autonomous Vehicles - Interesting Lessons In Governance, Planning, And Safety. Forbes. 2020. URL: https://www.forbes.com/sites/rahulrazdan/2020/03/01/singapore-and-autonomous-vehicles— interesting-lessons-in-governance-planning-and-safety/?sh=77e5b6705fe2 (дата обращения: 29.09.2021).
14. Yoon Sung-won B. Korea takes first step to introduce 'robot tax'. The Korea Times. 2017. URL: https://www. koreatimes.co.kr/www/news/tech/2017/08/133_234312.html (дата обращения: 29.09.2021).
References
1. Straub J. Does regulating artificial intelligence save humanity or just stifle innovation? The conversion. 2017. URL: https://theconversation.com/does-regulating-artificial-intelligence-save-humanity-or-just-stifle-innovation-85718 (accessed on 29.09.2021).
2. Burkova A. Yu. The use of artificial intelligence: Is regulation needed? Law and economics. 2018;(9):5-8. (In Russ.).
3. Mikhaleva E. S., Shubina E. A. Problems and prospects of legal regulation of robotics. Actual problems of Russian law. 2019;(12):26-35. (In Russ.).
4. Klevoshin P., Kodachigov V. The joint venture of Sberbank frozed the project of creating unmanned vehicles. Vedomosti. 2021. URL: https://www.vedomosti.ru/technology/articles/2021/02/09/857334-cognitive-pilot?utm_campaign=vedomosti_public&utm_content=857334-cognitive-pilot&utm_medium=social&utm_ source=telegram_ved (accessed on 29.09.2021). (In Russ.).
5. Gaiva E. Behind the wheel - automatic. Russian newspaper. 2021. URL: https://rg.ru/2021/02/19/rossiia-predlozhila-peresmotret-konvenciiu-o-dorozhnom-dvizhenii.html (accessed on 29.09.2021). (In Russ.).
6. Kodachigov V., Cheberko I. Russia initiated the revision of the Convention on Road Traffic. Vedomosti. 2021. URL: https://www.vedomosti.ru/business/articles/2021/02/18/858574-rossiya-initsiirovala (accessed on 29.09.2021). (In Russ.).
7. Kodachigov V., Isakova T. The law has been written for drones. Vedomosti. 2021. URL: https://www.vedomosti.ru/ technology/articles/2021/02/11/857651-bespilotnikam (accessed on 29.09.2021). (In Russ.).
8. Ustinova A., Gavrilyuk A. Machine opinion: The program will be trusted to collect data on Russian patients. News. 2020. URL: https://iz.ru/1052067/anna-ustinova-anastasiia-gavriliuk/mashinnoe-mnenie-programme-doveriat-sbor-dannykh-o-rossiiskikh-patcientakh (accessed on 29.09.2021). (In Russ.).
9. Kinyakina E., Bordyug T. Artificial intelligence came up with new benefits. Vedomosti. 2020. URL: https://www. vedomosti.ru/technology/articles/2020/10/15/843486-iskusstvennii-intellekt (accessed on 29.09.2021). (In Russ.).
10. Skrynnikova A. PwC predicted the introduction of a tax on artificial intelligence. RBC. 2020. URL: https://www.rbc. ru/technology_and_media/19/06/2020/5eeb5bda9a7947386c779ebd (accessed on 29.09.2021). (In Russ.).
11. Perevoshchikova M. Artful intelligence: They want to introduce an income tax on robots in Russia. News. 2020. URL: https://iz.ru/1038879/mariia-perevoshchikova/iskusnyi-intellekt-v-rossii-khotiat-vvesti-podokhodnyi-nalog-na-robotov (accessed on 29.09.2021). (In Russ.).
12. Dean P., Walters T., Goulding J., Clack H. Autonomous ships: A pandemic vaccine? HFW. 2020. URL: https://www. hfw.com/Autonomous-Ships-A-Pandemic-Vaccine-September-2020# (accessed on 29.09.2021).
13. Razdan R. Singapore and autonomous vehicles - Interesting lessons in governance, planning, and safety. Forbes. 2020 URL: https://www.forbes.com/sites/rahulrazdan/2020/03/01/singapore-and-autonomous-vehicles— interesting-lessons-in-governance-planning-and-safety/?sh =77e5b6705fe2 (accessed on 29.09.2021).
14. Yoon Sung-won B. Korea takes first step to introduce 'robot tax'. The Korea Times. 2017. URL: https://www. koreatimes.co.kr/www/news/tech/2017/08/133_234312.html (accessed on 29.09.2021).
