CC BY-NC
63Административное и муниципальное право
Правильная ссылка на статью:
Лапина М.А. — Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений // Административное и муниципальное право. - 2019. - № 5. - С. 7 - 14. DOI: 10.7256/2454-0595.2019.5.30567 URL: https ://nbpubMLcom/fcary_read_article.php?id=30567
Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений
Лапина Марина Афанасьевна
доктор юридических наук
профессор, Департамент правового регулирования экономической деятельности, Финансовый
университет при Правительстве Российской Федерации
109456, Россия, г. Москва, пр-д 4-Й вешняковский, 4, ауд.406 И [email protected]
Статья из рубрики "Актуальный вопрос"
Аннотация.
Предметом исследования является международное и зарубежное законодательство, законодательство Российской Федерации, а также стратегические документы и проекты становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений. Объект исследования -общественные отношения, способствующие разработке и внедрению технологий искусственного интеллекта в социальную сферу государственного управления. В статье приведен анализ возможных областей социальных отношений, в которых уже сейчас применимы технологии искусственного интеллекта и объекты робототехники, выявлены терминологические проблемы, не позволяющие единообразно подходить к правовому регулированию искусственного интеллекта, роботов и объектов робототехники, сформулированы предложения по развитию законодательства в области технологий искусственного интеллекта. Методологическую основу статьи основные методы научного познания: экспертный и событийный анализ, правовые методы, а также структурный анализ. Автор приходит к выводу, что в силу существенного расхождения в терминологии и разновидностях искусственного интеллекта, роботов и объектов робототехники необходимо идти по пути разработки лишь основных принципов правового регулирования, применимых ко всем видам искусственного интеллекта и объектам робототехники. Развитие правового регулирования отдельных разновидностей искусственного интеллекта и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств.
Ключевые слова: правовое регулирование, искусственный интеллект, робот, робототехника, социальные отношения, принципы, техническое нормирование, слабый искусственный интеллект, цифровая экономика, цифровое государственное управление
DOI:
10.7256/2454-0595.2019.5.30567
Дата направления в редакцию:
19-08-2019
Дата рецензирования:
19-08-2019
Дата публикации:
24-08-2019
Статья подготовлена по результатам исследований, выполненных за счет бюджетных средств по государственному заданию Финуниверситета
В данной статье мы рассмотрим основные вопросы и выявим правовые проблемы, связанные с возможностью интеграции технологических инноваций на базе искусственного интеллекта (далее - ИИ) и робототехники в область социальных отношений благодаря деятельности органов государственного управления, а также обоснуем необходимость правового регулирования указанных процессов. Данная тема слабо освещена в отечественной научной литературе. Наиболее системно правовые основы технологий искусственного интеллекта раскрыты в 2017 г. П. М. Морхатом в
монографии «Искусственный интеллект: правовой взгляд» 1231. Одну из первых попыток рассмотреть вопросы правосубъектности киберфизических систем, основания, содержание и правовые перспективы понятия «электронного лица» была предпринята
проф. О. А. Ястребовым [28,29]. Однако можно с полной определенностью говорить о взятом Россией курсе на развитие информационного общества и повышение эффективности деятельности органов государственной власти посредством интеграции определенных достижений развития цифровых технологий и И И уже сейчас в развивающемся информационном обществе.
Следует отметить, что в отечественной научной и учебной литературе по административному и информационному праву многогранно рассматривается понятие
«Информационное общество» [22,27], в том числе как часть общества социального: «это наиболее заметно на области социальных отношений граждан с органами публичной власти... Гражданин и его законные действия в системе государственного управления ныне рассматривается не как объект управления, а как полноправный субъект общественных отношений, актор гражданского общества, включая и область
государственного управления и местного самоуправления» I181. Указом Президента РФ от 9 мая 2017 г. № 203 была утверждена Стратегия развития информационного общества
в Российской Федерации на 2017-2030 гг.111. Данная Стратегия направлена на дальнейшее развитие информационного общества, формирование национальной цифровой экономики, обеспечение национальных интересов и реализацию стратегических национальных приоритетов. Становление и дальнейшее развитие информационного общества не возможно без использования ИИ и робототехники в
различных социальных отношениях. В Послании главы государства Федеральному Собранию Российской Федерации от 1 марта 2018 г. отмечалось, что «в кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных. Причем такая нормативная база должна постоянно обновляться, строиться на гибком
подходе к каждой сфере и технологии» -t21.
В соответствии с реализацией Послания Президента Федеральному Собранию от 20 февраля 2019 г. запущены масштабные программы национального уровня в области
ИИ^311. Так должна в 2019 г. была быть разработана национальная стратегия в области
ИИШ
В большинстве развитых стран мира на внедрение технологий ИИ в различные социальные сферы органы публичного управления также запускают государственные проекты и принимают программы развития. Согласно докладу американского Центра Общественного Воздействия (Centre for Public Impact) «Destination Unknown: Exploring
the impact of Artificial Intelligence on Government»J311, ИИ может быть применен в области предикативного анализа, обнаружения, компьютерного наблюдения, анализа естественных языков. Технологии искусственного интеллекта и роботизация способны кардинально ускорить переход к информационному обществу. Однако имеющиеся юридические проблемы могут препятствовать применению современных технологий ИИ и робототехники в области социальных отношений.
Основы правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений прежде всего должны содержать конкретно определенный понятийный аппарат. Однако, понятия «искусственный интеллект» и «робот» имеют множество определений. Наиболее подробный тезаурус на
русском языке рассматриваемых понятий представлен в работе П. М. Морхата Г241. При широком подходе, приведенном в Большой российской энциклопедии, ИИ определен как «раздел информатики, в котором разрабатываются методы и средства компьютерного решения интеллектуальных задач, традиционно решаемых человеком» I251.
В нормативно-технической документации, а именно:
в ГОСТ Р 43.0.8-2017 и ГОСТ Р 43.0.7-2011 ИИтрактуется как «моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека»
Г10.121.
/
в ГОСТ Р 60.0.0.2-2016 «Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация» со ссылкой на ИСО 8373:2012 (ISO 8373:2012) «Роботы и робототехнические системы. Словарь (Robots and robotic devices -Vocabulary)» робот (robot) определен весьма конкретно как «исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач» J-111.
Как видим, нормативно-технические трактовки понятий ИИ и робота имеют существенные различия. Так, ИИ определен на основе компьютерного моделирования весьма широко, а понятие робота не позволяет охватить широкий спектр категорий роботов, которые имеют существенные различия.
К примеру, Комитет Японии по политике в сфере робототехники еще ранее 2007 года предложил классифицировать роботы нового поколения на такие разновидности, как:
1 ) Промышленные роботы, которые управляются людьми или работают наравне с людьми;
2) Обслуживающие роботы, которые выполняют домашнюю уборку, могут ухаживать за детьми и другими социально незащищенными категориями граждан, служить для целей обеспечения безопасности и другие виды работ, то есть в целом поддерживать
жизнедеятельность офисов и домохозяйств I32!.
Исходя из приведенных терминов ИИ и роботов, можно утверждать, что подходы к правовому регулированию ИИ, роботов и объектов робототехники в области социальных отношений могут быть весьма различными и обладать определенными особенностями в зависимости от специфики отдельных сфер их применения. По этой самой причине возможно разработать только основные принципы правового регулирования, применимые ко всем видам ИИ и робототехники. А непосредственно правовое регулирование отдельных разновидностей ИИ и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств. Именно по этому пути пошли страны ЕС в развитии европейской роботизированной промышленности, исходя из смысла содержания
Резолюции Европейского Парламента (далее - Резолюция)^13!. В Резолюции содержатся рекомендации по установлению критериев классификации роботов; по необходимости прохождения специальной регистрации и об обязательности оснащения роботов «черным ящиком», в котором записываются данные по каждой выполняемой операции, включая логику принятия решений; обоснование разработки правил тестирования новых роботов в реальных условиях; обоснование необходимости внедрения обязательного страхования для определенных видов роботов.
В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. предполагается принятие национальных планов развития ИИ, создание фондов для финансирования стартапов для развития технологий ИИ. Резолюцией Европейского парламента о всеобъемлющей европейской промышленной политике в области ИИ и робототехники, опубликованной в феврале 2019 г., установлены общие положения рекомендательного характера. К примеру, в резолюции рекомендуются такие сферы применения технологий И И в области социальных отношений, как транспорт, энергетика, промышленность, здравоохранение.
Важным документом для возможностей применения технологий ИИ является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать как: делать добро, не навредить и работать прозрачно. Предполагается, что перечисленные принципы позволят устойчиво развивать технологии ИИ и робототехники. Руководством установлены общие правила разработки таких технологий: они должны быть безопасными, подотчётными, не носить дискриминационного характера, быть поднадзорными человеку.
Перечисленные документы ЕС по сути являются базовым юридическим фундаментом правового регулирования ИИ, роботов и объектов робототехники в области социальных отношений. Предлагаемый в государствах ЕС начальный путь развития правового регулирования закономерен, но не учитывает возникающих в результате такой деятельности рисков 12И. Описывая идею преимущества искусственного сверхразума,
Ник Бостром в своей научно-популярной книге «Искусственный интеллект: этапы, угрозы, стратегии» предупреждает, что следует учитывать риски, связанные с самоуправством сверхразумных машин, которые способны причинить необратимый ущерб
человеческой цивилизации или, вообще, к гибели человечества J381.
Весьма интенсивно технологии ИИ применяются в такой сфере социальных отношений, как здравоохранение. Уже имеются на вооружении у врачей медицинские роботы различных типов (например, хирургическая система да Винчи и Хоспи). В сфере здравоохранения технологии ИИ применяются при диагностике заболеваний и прогнозировании, сборе данных, для выявления пациентов с высоким риском развития заболеваний, при разработке лекарств. Наиболее перспективно использование ИИ в телемедицине и системе диагностики I261. По мнению некоторых исследователей, электронное здравоохранение стало одним главных «драйверов» всей отрасли J201.
Согласно Паспорту федерального проекта «Цифровые технологии» 171 запланировано к концу 2024 года утроить финансирование развития так называемых затраты на развитие
«сквозных»111 цифровых технологий.Паспортом федерального проекта «Нормативное регулирование цифровой среды» 181 национальной программы «Цифровая экономика Российской Федерации»определено, что создание системы правового регулирования цифровой экономики должно быть основано на гибком подходе в каждой сфере общественных отношений с обязательным участием бизнес-сообщества. Согласно п. 1.8 паспорта проекта запланировано формирование отраслевого регулирования правоотношений в сфере робототехники и применения технологий ИИ; п.1.12 -реализация комплекса мер по совершенствованию механизмов стандартизации; п. 1.16 -обеспечение законодательного регулирования вопросов создания и функционирования особых правовых режимов в условиях цифровой экономики («регуляторных песочниц»).
Для обеспечения ускоренного внедрения цифровых технологий в экономику и социальные отношения за счет использования цифровых технологий и платформенных решений в сферах государственного управления утвержден Паспорт федерального
проекта «Цифровое государственное управление» В частности, он содержит цель доведения доли приоритетных государственных услуг, предоставляемых без необходимости личного посещения государственных органов, до 100 % к концу 2024 г. Безусловно, анализируемый паспорт федерального проекта «Цифровое государственное управление» является лишь первым шагом на пути внедрения технологий И И в практику деятельности органов государственного управления и не охватывает множества направлений деятельности, которые можно было бы оптимизировать благодаря имеющимся разработкам в области ИИ и робототехники. К примеру, учёные РАН С. И. Борталевич, А. В. Лапин и С.С. Харитонов в статье «Искусственный интеллект в системе обеспечения экономической безопасности» выявили отсутствие на федеральном уровне нормативно установленной возможности использования ИИ в целях обеспечения экономической безопасности государства. Авторы статьи предлагают включить
технологии ИИ в качестве элемента экономической безопасности России -ti^i.
Вопросы интеграции ИИ в процессы государственного управления социальной сферой отношений рассматриваются и в рамках правительственных документов в других зарубежных странах. Например, данным вопросам уделяется место в немецком Обзоре стратегии федерального правительства в области ИИ Г141, в рамках канадской Pan-Canadian Artificial Intelligence Strategy1151, индийской National Strategy for AI.
Discussion-Paper^16!, японского Базового плана научно-технического развития-^17!.
Таким образом, интеграция слабых ИИ-технологий в деятельность государственных органов, осуществляющих управленческие функции в области социальных отношений, является неизбежным явлением, которое в настоящий момент не имеет достаточной степени осмысления в актуальном нормотворчестве и научной литературе.
[1] «Сквозные» цифровые технологии - это технологии ИИ, робототехники, больших данных, промышленного интернета, беспроводной связи, виртуальной и дополненной реальностей и др.
Библиография
1. Указ Президента Российской Федерации от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы» // СЗ РФ. 15.05.2017. № 20. Ст. 2901.
2. Послание Президента РФ Федеральному Собранию от 01.03.2018 «Послание Президента Федеральному Собранию» // Российская газета. № 46. 02.03.2018.
3. Послание Президента РФ Федеральному Собранию от 20.02.2019 «Послание Президента Федеральному Собранию» // Российская газета. № 38. 21.02.2019.
4. Постановление Правительства РФ от 02.03.2019 № 234 «О системе управления реализацией национальной программы «Цифровая экономика Российской Федерации» (вместе с «Положением о системе управления реализацией национальной программы «Цифровая экономика Российской Федерации») // СЗ РФ. 18.03.2019. № 11. Ст. 1119.
5. Приказ Минэкономразвития России от 04.06.2019 № 308 «Об утверждении Положения о Департаменте правовых основ цифровой экономики Министерства экономического развития Российской Федерации» // Документ опубликован не был. - СПС «КонсультантПлюс».
6. Перечень поручений по реализации Послания Президента Федеральному Собранию (утв. Президентом РФ 27.02.2019 № Пр-294) // http://www.kremlin.ru/
7. Паспорт федерального проекта «Цифровые технологии» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9) // https://digital.gov.ru по состоянию на 09.07.2019.
8. Паспорт федерального проекта «Нормативное регулирование цифровой среды» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 N 9) // https://digital.gov.ru по состоянию на 09.07.2019.
9. Паспорт федерального проекта «Цифровое государственное управление» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 N 9) // https://digital.gov.ru по состоянию на 09.07.2019.
10. ГОСТ Р 43.0.7-2011«Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человеко-информационное взаимодействие. Общие положения» (утв. и введен в действие Приказом Росстандарта от 13.12.2011 N 1242-ст) // М.: Стандартинформ, 2013.
11 ГОСТ Р 60.0.0.2-2016 «Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация» (утв. и введен в действие Приказом Росстандарта от 29.11.2016 N 1842-ст) // М.: Стандартинформ, 2016.
12. ГОСТ Р 43.0.8-2017. Национальный стандарт Российской Федерации. Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения. (утв. и введен в действие Приказом Росстандарта от 27.07.2017 N 757-ст) // М.: Стандартинформ, 2018.
13. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html7redirect
14. Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz [Электронный ресурс] // официальный сайт федерального правительства ФРГ-Режим доступа: https ://www.bmwi.de/Redaktion/DE/Downloads/E/eckpunktepapier-ki.pdf?
__blob = publicationFile, свободный.
15. CIFAR Pan-Canadian Artificial Intelligence Strategy [Электронный ресурс] // официальный сайт Канадского института перспективных исследований-Режим доступа: https ://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy, свободный.
16. Национальная стратегия Искуственного Интеллекта Индии [Электронный ресурс] // официальный сайт NITI Aayog (Национального Института Трансформации Индии)-
Р е ж им дос тупа :
https ://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-AI-Discussion-Paper.pdf, свободный.
17. Government of Japan. The 5th Science and Technology Basic Plan, january 22, 2016 [Электронный ресурс] // официальный сайт аппарата Праваительства Японии-Режим доступа: https ://www8.cao.go.jp/cstp/english/basic/5thbasicplan.pdf, свободный.
18. Актуальные проблемы информационного права : учебник / коллектив авторов ; под ред. И.Л. Бачило, М.А. Лапиной. — 2-е изд., перераб. — Москва : ЮСТИЦИЯ, 2019. — 594 с. — (Магистратура и асприрантура). ISBN 978-5-4365-2987-5 С.34
19. Борталевич С.И., Лапин А.В., Харитонов С.С. Искусственный интеллект в системе обеспечения экономической безопасности [Электронный ресурс] // Вестник МИРБИС. 2019. № 2 (18). С. 18-26. DOI: 10.25634/MIRBIS.2019.2.3
20. Грищенко Г.А. Искусственный интеллект в государственном управлении // Российский юридический журнал. 2018. № 6. С. 27-31.
21. Лапина М.А. Теоретико-правовые аспекты управления рисками // Государство и право. 2015. № 2. С. 35-44.
22. Лапина М.А. Государственное управление в переходный период к информационному обществу // Социодинамика. 2016. № 1. С.1-12. DOI: 10.7256/24099144.2016.1.17529. URL: http://e-notabene. ru/pr/article_17529.html
23. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография // РОО «Институт государственно-конфессиональных отношений и права». - М.: Буки Веди, 2017.-257 с.
24. Морхат П.М. Право и искусственный интеллект: Тезаурус // РОО «Институт государственно-конфессиональных отношений и права».-М.: Буки Веди, 2019.-52 с.
25. Осипов Г.С., Величковский Б.М. Искусственный интеллект [Электронный ресурс] // онлайн ресурс Большой Российской Энциклопедии-Режим доступа:
https ://bigenc.ru/mathematics/text/2022537, свободный.
26. Понкин И.В., Понкина А.А., Лаптев В.С. Концепты электронного здравоохранения и электронного здоровья человека // Наркология. 2014. № 6. С. 34-40.
27. Современная стратегия развития государственного управления: Монография / Лапина М.А., Попова Н. Ф. — Финуниверситет, 2017. — 245 с.
28. Ястребов О.А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1. С. 189-204.
29. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: Сб. матер. к XII Ежегод. науч. чтениям памяти С.Н. Братуся. - М.: Институт законодательства и сравнительного правоведения при Правительстве РФ; Статут, 2017. С. 271-283.
30. Bostrom N. Superintelligence: Paths, Dangers, Strategies // Oxford University Press Keith Mansfield.-2014.-352 р. ISBN 978-0-19-967811-2.
31. Joel Tito and others. Destination unknown: Exploring the impact of Artificial Intelligence on Government. Working paper.-Centre for Public Impact. 2017.-74 р. [Электронный ресурс! // официальный сайт организации Centre for Public Impact-Р е ж им дос тупа :
https ://resources.centreforpublicimpact.org/production/2017/09/Destination-Unknown-AI-and-government.pdf, свободный.
32. Weng Y.H., Chen C.H., Sun C.T. The legal crisis of next generation robots: on safety intelligence // Proceedings of the 11th international conference on Artificial intelligence and law.-2007.-p. 205-209.
