CC BY
811
УДК 342 ББК Х401
DOI: 10.14529/law180414
ПРОБЛЕМЫ РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
А. В. Минбалеев
Институт государства и права РАН, г. Москва, Южно-Уральский государственный университет, г. Челябинск
Использование искусственного интеллекта становится важнейшим фактором развития цифровой экономики любого государства. Однако неопределенность в развитии искусственного интеллекта, возможные угрозы от его использования, порождают вопросы и требуют правовых гарантий безопасного функционирования систем искусственного интеллекта.
В статье анализируются отдельные законодательные инициативы в Российской Федерации и за рубежом по регулированию искусственного интеллекта. Автор приходит к выводу, что анализ законодательных инициатив различных стран мира свидетельствует о постановке задач государствами как по решению отдельных, наиболее актуальных вопросов, связанных с применением искусственного интеллекта и робототехники, так и по глобальному определению перспектив системного анализа и регулирования использования искусственного интеллекта в различных сферах общественной жизни, а также обеспечения системы безопасности личности, общества и государства от возможных угроз выхода искусственного интеллекта из под контроля человека.
В статье представлены основные проблемы правового регулирования искусственного интеллекта, которые требуют своего осмысления и законодательного решения.
Ключевые слова: искусственный интеллект, робототехника, беспилотные транспортные средства, цифровая экономика.
В условиях активного развития цифрови-зации общества и формирования цифровой экономики явно наблюдается недостаточность и неэффективность традиционных правовых механизмов регулирования использования современных цифровых технологий1. Сегодня не только и не столько право влияет на развитие отношений в сфере использования цифровых технологий, сколько последние вынуждают право трансформироваться и взаимодействовать с другими регуляторами, использовать цифровые технологии для собственных целей саморазвития на различных уровнях «жизни». Одной из таких технологий является искусственный интеллект. Сегодня практически все экономически развитые страны мира рассматривают развитие искусственного интеллекта как важнейшую стратегию повыше-
1 Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 1829-16014 «Место и роль правового регулирования в развитии цифровых технологий, правовое регулирование и саморегулирование, в том числе с учетом особенностей отраслей права».
ния национальной конкурентоспособности в мире и обеспечения национальной безопасности. Искусственный интеллект широко используется в сфере образования, медицинского обслуживания, пенсий, охраны окружающей среды, осуществления государственного управления и в правоприменительной деятельности. Технология искусственного интеллекта может точно воспринимать, прогнозировать и предупреждать основные тенденции в инфраструктуре и операциях социального обеспечения. Использование искусственного интеллекта становится важнейшим фактором развития цифровой экономики любого государства. Однако неопределенность в развитии искусственного интеллекта, возможные угрозы от его использования порождают вопросы и требуют правовых гарантий безопасного функционирования систем искусственного интеллекта.
Искусственный интеллект - это и разрушительная технология с весьма широким спектром воздействий, которая может вызвать такие проблемы, как: изменение структуры
занятости, роль правового и этического регулирования, неприкосновенность частной жизни и т.п. Развитие искусственного интеллекта будет иметь далеко идущие последствия для государственного управления, экономической безопасности и социальной стабильности, а также для глобального управления во всем мире. При стремительном развитии искусственного интеллекта необходимо придавать большее значение возможным рискам и угрозам безопасности, разработать перспективные рекомендации по их предотвращению и ограничению, минимизировать риски и обеспечить безопасную, надежную и контролируемую разработку искусственного интеллекта.
Активное использование искусственного интеллекта и робототехники привело к необходимости правового осмысления данных технологий. «Роботовызовы» и «роботоугро-зы» ставят вопрос о необходимости правового регулирования ряда отношений возникающих в связи с использованием искусственного интеллекта и робототехники.
В 2008 г. одним из первых в мире в Южной Кореи был принят Закон «О развитии и распространении умных роботов». Анализ мирового опыта свидетельствует, что пока проявляются тенденции «точечного», конкретного регулирования вопросов, связанных с использованием роботов. Так в 2017 году в Эстонии были приняты нормы об использовании роботов-курьеров, которые в пределах определенного пространства доставляют различную корреспонденцию и покупки.
В Германии 12 мая 2017 году Бундестагом внесены изменения в Закон о дорожном движении Германии (81ха88епуегкеЬ^е8е12), согласно которым с 21 июня 2017 г. официально допускается эксплуатация автомобиля посредством значительно или полностью автоматизированной функции вождения, если эта функция используется по назначению. Под такими автомобилями в п. 1 ст. 1 Восьмого закона о внесении изменений в Закон о дорожном движении от 16 июня 2017 г. немецкий законодатель понимает «имеющие техническое оснащение, которое: 1) после активации может управлять автомобилем для выполнения задачи вождения, включая продольное и боковое управление; 2) при значительно или полностью автоматизированном управлении автомобилем способно соблюдать правила дорожного движения, относящиеся к вождению; 3) может быть в любое время вручную
перехвачено или деактивировано водителем автомобиля; 4) способно распознавать ситуации, когда управление автомобилем должно осуществляться самим водителем; 5) может визуально, акустически, тактильно или иным образом уведомлять водителя о необходимости взять на себя управление автомобилем с достаточным запасом времени до момента передачи управления; 6) сигнализирует об использовании, противоречащем справочному руководству» [1]. Водитель, в соответствии с новыми правилами, может отвлекаться и переходить на автоматизированное управление транспортом, но при этом он должен сохранять достаточную внимательность и перейти к управлению транспортным средством, если «значительно или полностью автоматизированная система предлагает ему сделать это, или если он признает или должен признать на основании очевидных обстоятельств, что условия целевого применения значительно или полностью автоматизированных функций вождения больше не существуют» [1]. С пяти до десяти миллионов евро увеличена предельная сумма возмещения вреда, которая может быть потребована, если вред, при наличии смерти или травмирования одного или нескольких людей, причинен в результате ДТП с участием автомобиля посредством значительно или полностью автоматизированной функции вождения.
Регулирование аналогичных транспортных средств имеется в Дании, где с 1 июля 2017 года вступили в силу изменения в Закон о дорожном движении и разрешены испытания беспилотного автотранспорта на дорогах общего пользования. При этом во время самого испытания внутри салона автомобиля обязательно присутствие человека, который должен иметь возможность во время испытания взять контроль над управлением автотранспортного средства [2]. Согласно пояснительной записке к данному закону, его основная цель - разрешить испытания беспилотных (самоходных) транспортных средств в Дании, когда это безопасно по соображениям безопасности дорожного движения. При этом создана экспериментальная схема, которая станет основой для различных испытаний с самоходными двигателями. Процедуры испытаний не ограничивают возможности определения в законодательстве в области дорожного движения того, какие транспортные средства или дороги могут быть охвачены. Однако в
разрешении на проведение испытаний беспилотных транспортных средств будет определено, какие средства будут одобрены для подобных испытаний в соответствии с требованиями ЕС и национально одобренным перечнем транспортных средств, а также конкретные участки дорог и, при необходимости, время, когда подобные испытания разрешены.
В Канаде принят ряд общих документов, рекомендующих национальному законодателю ряд позиций, которые необходимо учитывать при регулировании автоматизированных транспортных средств; на уровне провинций и регионов разрабатываются и принимаются регламентные положения об испытании беспилотных транспортных средств, в частности в провинции Онтарио (Регламент № 306/15 от 16 сентября 2015 г. «Пилотный проект - Автоматизированные транспортные средства», принятый в соответствии с Законом о дорожном движении, который вступил в силу 13 октября 2015 года [5].
В Российской Федерации также готовится ряд проектов по регулированию использования беспилотных транспортных средств, разработаны проекты внесения изменения в транспортные кодексы и Правила дорожного движения Российской Федерации. В Министерстве промышленности и торговли разрабатываются правила для проведения испытаний в России беспилотных автомобилей, согласно которым тестирование беспилотных автомобилей предполагается проводить на дорогах общего пользования в Татарстане и Москве с 1 марта 2019 г. по 1 марта 2022 г. Также предполагается создание и введение специального реестра беспилотных транспортных средств.
Как и в Российской Федерации, в ряде государств были приняты концептуальные государственные документы, заложившие основу для регулирования отношений в сфере использования искусственного интеллекта и робототехники, а также принятия ряда специальных законов. Например, Государственный совет КНР 8 июля 2017 года принял План развития технологий искусственного интеллекта нового поколения. Данный План содержит три основных этапа развития технологий искусственного интеллекта. На первом этапе к 2020 году общая технология и применение искусственного интеллекта должны прийти к мировым стандартам. Индустрия искусственного интеллекта станет новой важной точкой
экономического роста. Применение технологий искусственного интеллекта станет новым способом улучшения средств к существованию людей и эффективной поддержки вступления и внедрения инновационных стран. Второй шаг - добиться крупного прорыва в основной теории искусственного интеллекта к 2025 году. Искусственный интеллект должен стать главной движущей силой для модернизации промышленности и экономических преобразований в Китае. Новое поколение искусственного интеллекта должно широко использоваться в таких областях, как интеллектуальное производство, интеллектуальная медицинская помощь, умные города, умное сельское хозяйство и национальное оборонное строительство. Должно быть обеспечено внедрение законов и положений об искусственном интеллекте, этических норм и систем формирования оценки и контроля безопасности искусственного интеллекта. Третий шаг -к 2030 году теория искусственного интеллекта, технологии и приложения должны стать ведущими в мире, а Китай должен стать инновационным центром искусственного интеллекта, умной экономикой, умным обществом. Должна быть создана целая промышленная цепочка и высококлассный кластер промышленности, охватывающий основные технологии, ключевые системы, поддерживающие платформы и интеллектуальные приложения. Должен быть сформирован реестр ведущих мировых инновационных технологий в области искусственного интеллекта, а также созданы более полные законы, нормы, этические нормы и системы обеспечения безопасности искусственного интеллекта [4].
Таким образом, Китай нацелен на планомерное развитие искусственного интеллекта и основные правовые, этические и технические нормы, направленные на регулирование использования систем искусственного интеллекта и обеспечения их безопасного функционирования, предполагается принять только к 2025 году. Сегодня в Китае происходит активное развитие отдельных технологий искусственного интеллекта, появляются первые законопроекты об использовании беспилотного транспорта и автоматизации процессов управления транспортной системой в стране.
Многие страны сегодня вполне оправданно осознают, что правовое регулирование вряд ли можно рассматривать в качестве единственного или основного механизма ре-
гулирования данной сферы. В мире наблюдается также тенденция на отраслевое регулирование отношений в сфере робототехники. Так, 16 февраля 2017 г. Парламентом Европейского Союза принята резолюция № 2015/2103(ГКЬ) «Нормы гражданского права о робототехнике». Несмотря на отражение в названии данного документа гражданско-правового характера регулирования отношений, резолюция содержит в себе достаточно большое количество положений, регулирующих и иные отношения, что характеризует данный документ как комплексный. В нем рассматриваются «в том числе: общие принципы робототехники со ссылкой на законы А. Азимова, а также основные предпосылки и положения, которые предшествовали и способствовали принятию Резолюции; уточненное определение роботов; подходы к проблеме ответственности за причиненный роботами вред; предложение о создании Европейского агентства по робототехнике и искусственного интеллекта; предложение о создании единых критериев для создания тестовых зон; базовые правила регулирования по категориям роботов; предложение о системе регистрации умных роботов; Устав роботов и Этические кодексы производителей; предложение подумать над особым статусом «электронных личностей» [3].
Среди основных тенденций в регулировании использования искусственного интеллекта можно выявить следующие:
- сочетание различных механизмов социального регулирования использования искусственного интеллекта (правового, этического, технического, локального и иных механизмов регулирования, саморегулирования и сорегу-лирования, а также их синтез; создание принципиально новых синтезированных механизмов регулирования, основанных на многоуровневой командной системе действия норм);
- обязательность обеспечения безопасности человека и его прав при использовании искусственного интеллекта, исключение рисков уничтожения человечества;
- сочетание концептуального регулирования всестороннего использования искусственного интеллекта и регулирование наиболее острых, требующих немедленного решения проблем по отдельным технологиям искусственного интеллекта (беспилотный транспорт, использование роботов в сфере услуг, телеме-
дицина, обработка больших данных, навигация и др.);
- неоднозначность восприятия систем искусственного интеллекта и роботов с позиции права (начиная от использования режима «рабов человека» и до приравнивания прав роботов к правам человека и созданию электронных лиц как субъектов права). Как рассматривать робота - в качестве субъекта или объекта права? Использование приема юридической фикции позволяет рассматривать его как субъекта права, наделяемого специальной правосубъектностью. Зарубежный опыт свидетельствует о возможности наделения робота статусом гражданина (подданного), например, человекоподобный робот-женщина (гиноид) София, который был разработан гонконгской компанией Hanson Robotics и получивший в октябре 2017 года подданство Саудовской Аравии. Резолюция Европейского Союза № 2015/2103(INL) «Нормы гражданского права о робототехнике» свидетельствует о возможности наделения роботов статусом электронных личностей по аналогии с юридическими лицами. Такой подход активно поддерживается многими корпорациями в мире, которые стремятся избежать юридической ответственности за действия роботов, используемых в процессе осуществления предпринимательской деятельности. Роботы также рассматриваются и как объект права, поскольку представляют собой сложные объекты интеллектуальной собственности, включающие в себя программы для ЭВМ, базы данных, иные объекты авторского и смежных прав, объекты патентного права, секреты производства (ноу-хау). Неопределенность правовой природы роботов, их сложная организационная структура обуславливают проблему выработки единых правовых понятий в сфере правового регулирования искусственного интеллекта и решения этических проблем использования искусственного интеллекта и робототехники.
Таким образом анализ законодательных инициатив Российской Федерации и других стран мира, свидетельствует о постановке задач государствами как по решению отдельных, наиболее актуальных вопросов, связанных с применением искусственного интеллекта и робототехники, так и по глобальному определению перспектив системного анализа и регулирования использования искусственного интеллекта в различных сферах общественной жизни, а также необходимости обеспечения
системы безопасности личности, общества и государства от возможных угроз выхода искусственного интеллекта из под контроля человека.
Литература
1. Восьмой закон о внесении изменений в Закон о дорожном движении от 16 июня 2017 г. (неофициальный перевод Исследовательского центра проблем регулирования робототехники и искусственного интеллекта (Робоправо). URL: http://robopravo.ru/ initsiativy_frantsii_v_sfierie_robototiekhniki_20 13_2.
2. Закон о внесении изменений в Закон о дорожном движении Дании (Разрешение на установление правил и авторизацию испытаний для беспилотных автомобилей). URL: http://www.ft.dk/ripdf/samling/20161/lovforslag/ l120/20161_l120_som_fremsat.pdf .
3. Незнамов, А. В. Вопросы развития законодательства о робототехнике в России и в мире / А. В. Незнамов, В. Б. Наумов // Юридические исследования. - 2017. - № 8. -С.14-25.
4. План развития искусственного интеллекта нового поколения. Принят Государственным советом КНР от 8 июля 2017 г. URL: http://www.gov.cn/zhengce/content/2017-07/20/ content_5211996.htm.
5. Pilot project - automated vehicles. Ontario regulation 306/15 made under the Highway traffic act. Made: September 16, 2015. Filed: October 13, 2015. Published on e-laws: October 13, 2015. Printed in the Ontario gazette: October 31, 2015. URL: https://www.ontario.ca/ laws/ regula-tion/r15306?search=automated+vehicles&_ga=2. 144974324.1301777102.1517500856954929160.1517500856.
Минбалеев Алексей Владимирович - доктор юридических наук, ведущий научный сотрудник сектора информационного права и международной информационной безопасности, Институт государства и права РАН; профессор кафедры конституционного и административного права, Южно-Уральский государственный университет, г. Челябинск. E-mail: [email protected].
Статья поступила в редакцию 20 ноября 2018 г.
DOI: 10.14529/law180414
PROBLEMS OF REGULATING ARTIFICIAL INTELLIGENCE
A. V. Minbaleev
Institute of State and Law of the Russian Academy of Sciences, Moscow, South Ural State University, Chelyabinsk, Russian Federation
The use of artificial intelligence is becoming the most important factor in the development of the digital economy of any state. However, the uncertainty in the development of artificial intelligence, the possible threats from its use raise questions and require legal guarantees for the safe functioning of artificial intelligence systems.
The article analyzes individual legislative initiatives in the Russian Federation and abroad on the regulation of artificial intelligence. The author comes to the conclusion that the analysis of legislative initiatives of various countries of the world testifies to the formulation of tasks by states both on resolving individual, most pressing issues related to the use of artificial intelligence and robotics, and on the global definition of the prospects for system analysis and regulation of the use of artificial intelligence in various fields. public life, as well as ensuring the security system of the individual, society and the state from possible threats of artificial intelligence EKTA of human control.
The article presents the main problems of the legal regulation of artificial intelligence, which require their own understanding and legislative solutions.
Keywords: artificial intelligence, robotics, unmanned vehicles, digital economy.
References
1. Vos'moy zakon o vnesenii izmeneniy v Zakon o dorozhnom dvizhenii ot 16 iyunya 2017 g. (neofitsial'nyy perevod Issledovatel'skogo tsentra problem regulirovaniya robototekhniki i iskusstvennogo intellekta (Robopravo) [The Eighth Law on Amendments to the Law on Road Traffic of June 16, 2017 (unofficial translation of the Research Center for the Problems of Regulation of Robotics and Artificial Intelligence (Robopravo)] Available at: www.robopravo.ru/initsiativy_ frantsii_v_sfierie_ robototiekhniki_2013_2.
2. Zakon o vnesenii izmeneniy v Zakon o dorozhnom dvizhenii Danii (Raz-resheniye na ustanovleniye pravil i avtorizatsiyu ispytaniy dlya bespilotnykh avtomobiley) [The Law on Amendments to the Danish Road Traffic Act (Permission to establish rules and authorize tests for unmanned vehicles)]. Available at: http://www.ft.dk/ripdf/samling/20161/lovforslag/l120/20161_l120_ som_fremsat.pdf .
3. Neznamov A. V., Naumov V. B. [Issues of development of legislation on robotics in Russia and in the world]. Yuridicheskie issledovaniya [Legal Studies] 2017, no. 8, pp. 14-25 (in Russ.)
4. Plan razvitiya iskusstvennogo intellekta novogo pokoleniya. Prinyat Gosudarstvennym sovetom KNR ot 8 iyulya 2017 g. [The plan for the development of artificial intelligence of a new generation. Adopted by the State Council of the PRC on 07/08/2017]. Available at: www.gov.cn/ zhengce/content/2017-07/20/content_5211996.htm.
5. Pilot project - automated vehicles. Ontario regulation 306/15 made under the Highway traffic act. Made: September 16, 2015. Filed: October 13, 2015. Published on e-laws: October 13, 2015. Printed in the Ontario gazette: October 31, 2015. Available at: www.ontario.ca/laws/ regula-tion/r15306?search=automated+vehicles&_ga=2.144974324.1301777102.1517500856.954929160.151 7500856.
Aleksey Vladimirovich Minbaleev - Doctor of Law, Leading Researcher of the Information Law and international information security Sector, Institute of State and Law of the Russian Academy of Sciences; Professor of Constitutional and Administrative Law Department, South Ural State University, Chelyabinsk, Russian Federation. E-mail: [email protected].
Received 20 November 2018.
ОБРАЗЕЦ ЦИТИРОВАНИЯ
Минбалеев, А. В. Проблемы регулирования искусственного интеллекта / А. В. Минбалеев // Вестник ЮУрГУ. Серия «Право». - 2018. - Т. 18, № 4. - С. 8287. БО!: 10.14529/^180414.
FOR CITATION
Minbaleev A. V. Problems of regulating artificial intelligence. Bulletin of the South Ural State University. Ser. Law, 2018, vol. 18, no. 4, pp. 82-87. (in Russ.) DOI: 10.14529/law180414.
