CC BY
48ИНФОРМАЦИОННОЕ ПРАВО
УДК 340.14
DOI: 10.23683/2313-6138-2020-7-2-13
Мишина Наталья Вячеславовна,
доктор политических наук, доцент, профессор кафедры теории и истории государства и права, Московский международный университет, 125040, г. Москва, Ленинградский пр., д. 17, e-mail: [email protected]
Mishina, Natalia V.,
Doctor of Political Sciences, Associate Professor,
Professor of the Department of Theory
and History of State and Law,
Moscow International University,
17 Leningradsky Ave., Moscow,
125040, Russian Federation,
e-mail: [email protected]
ВЛИЯНИЕ ПАНДЕМИИ COVID-19 НА ФОРМИРОВАНИЕ ПРАВА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
♦
INFLUENCE OF THE COVID-19 PANDEMIC ON FORMATION OF THE RIGHT OF ARTIFICIAL
INTELLIGENCE
АННОТАЦИЯ. Автор данной статьи рассматривает некоторые аспекты правового регулирования искусственного интеллекта, в том числе в период пандемии коронавируса. На основе теоретических методов исследования, таких как аксиоматический метод, анализ и синтез, систематизация, моделирование и прогнозирование, автором сделан вывод, что вызванная пандемией коронавируса трансформация картины мира с неизбежностью приведет к смене юридического ландшафта. Первостепенной становится задача правового регулирования условий гармоничного сосуществования человека и искусственного интеллекта. Правовое регулирование должно быть комплексным, последовательным, системным и перспективным, т.е. способным к урегулированию отношений в сфере разработки и функционирования систем искусственного интеллекта в будущем.
КЛЮЧЕВЫЕ СЛОВА: правовое регулирование; картина мира; право искусственного интеллекта; искусственный интеллект; робототехника; отрасль права; робоправо; AI-технологии.
ОБРАЗЕЦ ЦИТИРОВАНИЯ:
Мишина Н.В. Влияние пандемии COVID-19 на формирование права искусственного интеллекта // Вестник Юридического факультета Южного федерального университета. 2020. Т. 7, № 2. С. 98-102. DOI: 10.23683/2313-6138-2020-7-2-13
ABSTRACT. The author of the article proper considers several aspects of an artificial intellect being regulated in a legal way on a daily basis as well as during the period of the coronavirus pandemic. Based on the theoretical research methods such as the axiomatic method, analysis and synthesis, systematisation, modelling and forecasting, the author inferred that, caused by the coronavirus pandemic, the transformation of the world picture will inevitably lead to the alteration of the law landscape. The task of primary importance does become the legal regulation of the harmonic co-existence between the human and the artificial intellect. The legal regulation shall be complex, consistent, systemic and perspective, that is, capable of regulating relationships in the domain of artificial intellect system development and operation in future.
KEYWORDS: legal regulation; picture of the world; artificial intelligence law; artificial intelligence; robotics; branch of law; Robot Law; AI technology.
FOR CITATION:
Mishina, N.V. Influence of the COVID-19 pandemic on formation of the right of artificial intelligence. Bulletin of the Law Faculty, SFEDU. 2020. Vol. 7, No. 2. P. 98-102 (in Russian). DOI: 10.23683/2313-6138-2020-7-2-13
© Н.В. Мишина, 2020
Сущностные изменения, которые внесла пандемия СОУГО-19 в современную картину мира, с неизбежностью затронут и национальную правовую систему, и юридический ландшафт. Новые вызовы, связанные с пандемией, открывают и новые возможности, приводящие к трансформации системы права, в частности. Убежденность в том, что мир может быть устроен совсем иначе в сущностном порядке, вынуждает нас ответственно подойти к определению вектора ее дальнейшего развития. Более изощренное и гибкое пользование техническими средствами, внедрение систем искусственного интеллекта, цифровизация образования, автоматизация предоставления государственных и муниципальных услуг, медицинское диагностирование и лечение, имплантация искусственных органов, генная модификация, роботизация, — все это требует соответствующего комплексного правового регулирования.
Бесспорно, что вводимые в качестве временных мер и узаконенные в упрощенном порядке действия властей, сохраняются и в постпандемический период. Следовательно, первостепенной задачей правового регулирования становится создание соответствующей правовой базы, целостной, комплексной системы законодательства, позволяющей создавать и развивать системы искусственного интеллекта, применять новейшие интеллектуальные технологии в рамках единого правового поля. В этом смысле пандемия выступает в роли своеобразного драйвера правового регулирования отношений, связанных с разработкой, внедрением и функционированием систем, основанных на технологиях искусственного интеллекта (далее — А1-технологии).
«Искусственный интеллект, возникший в 1950-х гг. как научное направление, связанное с разработкой методов решения сложных задач на основе моделирования психической деятельности человека, решающего подобные задачи, дал возможность создавать интеллектуальные системы, основанные на знаниях» [13, с. 7]. Как отмечает С.И. Родзин, «теоретической базой искусственного интеллекта является работа со знаниям: это модели знаний; методы, средства и системы представления знаний и баз знаний; методы извлечения и обработки знаний (поиск, вывод, верификация, систематизация знаний,
аргументация и объяснение на основе знаний)» [12, с. 180]. Основными направлениями, по которым ведутся прикладные разработки, являются: решение отдельных интеллектуальных задач; интеллектуальное программирование; проектирование интеллектуальных систем и то, что связано с робототехникой и искусственным интеллектом.
Сегодня нейросети понимают человеческую речь, распознают владельца смартфона по лицу даже в темноте, автоматически сортируют фотоснимки, по их содержанию запоминают вас, если вы часто меняете имидж, совершают до 60 млрд операций в секунду.
В последнее десятилетие человек все больше своих функций делегирует электронным устройствам, доступность беспроводного соединения с интернетом позволяет получать любую информацию из множества источников, при этом подбор информации уже осуществляется при помощи технологий искусственного интеллекта [12, с. 41]. По словам Г. Грефа, «вскоре вокруг нас не останется ни одной индустрии, начиная от индустрии государственного управления, которые бы лишены были тех или иных технологий искусственного интеллекта» [3]. Вскоре приобретение соответствующих компетенций в сфере искусственного интеллекта потребуется всем специалистам, чья деятельность связана с принятием значимых решений.
В зарубежной юридической литературе появился новый термин КоЬоЬа№ — «робоправо», или «право роботов» (или «право о роботах»), которым обозначают урегулированные нормами права отношения, возникающие по поводу эксплуатации роботов и систем искусственного интеллекта в отдельных сферах. Сначала такие нормы формируется как минимум в отдельную исследовательскую область, и постепенно выделяются в самостоятельную межотраслевую подотрасль права. По мере того, как роботы все более активно применяются в различных сферах общественных отношений, правовые исследования становятся более глубокими и детально проработанными. На наш взгляд, формирование соответствующего законодательства следует осуществлять в рамках новой отрасли права — «права искусственного интеллекта» [5-7].
Искусственный интеллект в отличие от робота, наделенного алгоритмами человеческого
100
Н.В. МИШИНА. ВЕСТНИК ЮРИДИЧЕСКОГО ФАКУЛЬТЕТА ЮФУ 2020. Т. 7, № 2. С. 98-102
происхождения, способен сам генерировать собственные алгоритмы, обучаться, самосовершенствоваться и приспосабливаться к сложившимся условиям. И именно такую способность искусственного интеллекта законодатель должен ограничить рамками правового поля, чтобы избежать негативных последствий. Поэтому мы убеждены, что именно термин «право искусственного интеллекта», как наиболее четко отражающий исследуемый предмет правового регулирования, и следует использовать в юридической науке.
В ходе своего саморазвития и самообучения искусственный интеллект принимает и осознает свои собственные решения, анализирует опыт, познает мир, адаптируется к окружающей среде. Учитывая, что способности искусственного интеллекта обрабатывать огромные массивы информации за считанные секунды, получая на их основе новые данные, в результате чего человеческие способности станут неконкурентоспособными как в сфере инноваций, так и во многих традиционных сферах жизнедеятельности человека, данные обстоятельства создают определенные риски замены человека роботами и массовой безработицы, риски утраты контроля над роботами и возникновения определенных волнений в обществе.
Искусственный интеллект способен адаптироваться к окружающей среде. Принцип работы искусственного интеллекта основан не столько на логических рассуждениях и (или) умозаключениях, сколько на обработке информации искусственными нейронами, построении нейросетей, способных к самообучению. Поэтому на выходе мы не можем гарантировать конкретный результат без каких-либо отклонений, если предварительно не установим обязательные ограничения в виде «табу». Иначе, помимо ожидаемой пользы от деятельности искусственного интеллекта, мы можем получить негативное влияние его на общество.
В таких условиях трех законов Айзека Азимова [1], заключающихся в недопущении роботу причинения вреда человеку своим действиями или бездействием, необходимости исполнять все приказы человека с соблюдением первого условия и осуществлении собственной безопасности, не противореча первым двум законам, уже оказывается не достаточным.
Как отмечают И.В. Понкин и А.И. Редьки-на, «общемировой сегодня является проблема практически полного отсутствия нормативного правового регулирования и нормативного технического регулирования основ, условий и особенностей разработки, запуска в работу, функционирования и деятельности, интеграции в другие системы и контроля применения технологий искусственного интеллекта» [10, с. 93].
В то же время следует заметить, что во многих странах мира уже принимаются нормативные правовые акты в данной сфере [8]. Там имеется большое количество эмпирического материала для исследования, а уровень развития А1-технологий позволяет оценить правовые последствия внедрения роботов на конкретных примерах. За 2017-2019 гг. в более чем 35 странах появились национальные стратегии развития искусственного интеллекта. В России делаются первые попытки в разработке основных положений «Кодекса этики разработчика и пользователя системы искусственного интеллекта» [2].
Следует заметить, что «в целях обеспечения ускоренного развития искусственного интеллекта в Российской Федерации, проведения научных исследований в области искусственного интеллекта, повышения доступности информации и вычислительных ресурсов для пользователей, совершенствования системы подготовки кадров в этой области» Президентом Российской Федерации 10 октября 2019 г. была утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [14]. В ней уже заложена задача обеспечения превосходства человека искусственным интеллектом по широкому спектру вопросов к 2030 году.
Следует также заметить, что в Москве с наступлением пандемии стали широко применяться А1-технологии распознавания лиц при сканировании проходящих в метро пассажиров, фиксации номеров автомобилей при перемещении по городу, измерение тепловизорами эпидемиологического контроля температуры людей в местах с большим пассажиропотоком, выдача цифрового пропуска на передвижение по городу с присвоением специального кода, пакетное предоставление социальных выплат в автоматическом режиме, используя новые механизмы реализации принципа адресности
социального обеспечения через Пенсионный фонд и органы социальной защиты населения. Используя Big Data, получаемые из различных интернет-сервисов, GPS-навигаторов и других агрегаторов, AI-технологии позволяют рассчитывать так называемый «индекс самоизоляции», на основе которого законодатель устанавливает, ужесточает или ослабляет различные витальные режимы.
Следует отметить, что «сами по себе большие данные, несмотря на их очевидную полезность, не содержат интеллектуального компонента и не могут быть, в силу их объема, использованы человеком индивидуально. Большие данные при этом позволяют искусственной нейронной сети накапливать опыт и минимизировать количество совершаемых ошибок» [2].
Так, Правительством Москвы в качестве экспериментальной площадки для внедрения технологий искусственного интеллекта в борьбе с COVID определен Единый медицинский референс-центр лучевой диагностики (далее — медцентр). Данный медцентр стал центром по выявлению COVID-пневмонии. 45 поликлинических центров работают с компьютерной томографией (далее — КТ) в круглосуточном режиме, и все снимки поступают в единый радиологический центр, в котором обрабатываются КТ, проводятся консультации, даются экспертные заключения. В дополнение к этому запущен еще один сервис — искусственный интеллект на основе «компьютерного зрения» [9].
Технология работает таким образом: как только на аппарате получен снимок КТ, он автоматически передается в референс-центр. Эксперт видит оригинальное исследование и результат обработки искусственным интеллектом, т.е. машина подсказывает, где обнаружена патология. Машинная обработка снимка занимает пять минут и, конечно, перепроверяется экспертами. Точность исследований искусственного интеллекта — выше 90 %. В связи с тем, что доступ к новому сервису имеют врачи всех московских поликлиник, использование такой обработки снижает риск ошибки, связанной с огромной нагрузкой у врачей. Такая работа в текущей реальности является наиболее важной и дает колоссальный результат.
Для внедрения революционной по своей сути технологии создана соответствующая правовая база. 24 апреля 2020 г. принят закон
об экспериментальной разработке и внедрении искусственного интеллекта [15] — он определяет цели, задачи и основные принципы установления экспериментального правового режима, а также регулирует отношения, возникающие в связи с его установлением. Таким образом, с 1 июля 2020 г. в Москве будет проводиться эксперимент по установлению правового режима, связанного с разработкой и внедрением технологий искусственного интеллекта. Экспериментальный правовой режим (далее — ЭПР) устанавливается сроком на пять лет.
Правительство Москвы наделено полномочиями, в том числе по определению условий и порядка разработки и реализации технологий искусственного интеллекта, а также порядка использования результатов его применения. В частности, определено, что участниками эксперимента могут быть юридические лица или индивидуальные предприниматели без образования юридического лица, зарегистрированные на территории Москвы, которые осуществляют или планируют осуществлять деятельность по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта. Лицо приобретает статус участника экспериментального правового режима со дня включения его в реестр, который ведется уполномоченным органом.
В целях формирования стратегических направлений и мониторинга ЭПР, создается координационный совет, который по результатам проведения эксперимента должен будет представить предложения о целесообразности или нецелесообразности внесения изменений в законодательство.
Однако Мэр Москвы С.С. Собянин на рабочем совещании Президента Российской Федерации с главами регионов, состоявшимся 28 апреля 2020 г., отметил, что «получив первый серьезный опыт, мы доложим Вам (Путину В.В. — Н.М), министерству здравоохранения, правительству, чтобы можно было распространить этот опыт и возможности на другие регионы» [4]. Тем самым презюмирует-ся возможность распространения опыта внедрения искусственного интеллекта на основе «компьютерного зрения» на территорию всей страны, не дожидаясь пятилетнего срока, так как борьба с пандемией не терпит промедлений, а требует оперативного реагирования.
102
Н.В. МИШИНА. ВЕСТНИК ЮРИДИЧЕСКОГО ФАКУЛЬТЕТА ЮФУ 2020. Т. 7, № 2. С. 98-102
Как справедливо отмечает В.Б. Наумов, «представляется актуальным разработать основы законодательства о робототехнике и искусственном интеллекте, в которых будут определены терминология и принципы регулирования, раскрыт статус основных участвующих в правоотношениях субъектов, установлены основы государственной политики и система функций уполномоченных органов власти» [11, с. 5].
Таким образом, первостепенной становится задача правового регулирования условий гармоничного сосуществования человека и искусственного интеллекта. Правовое регулирование должно быть комплексным, последовательным, системным и перспективным, т.е. способным к урегулированию отношений в сфере разработки и функционирования систем искусственного интеллекта в будущем.
Вызванная пандемией COVID-19 трансформация картины мира ускоряет процессы внедрения технологий искусственного интеллекта в сферу общественных отношений, в систему государственного и муниципального управления, что приводит к необходимости обеспечения соответствующего правового регулирования, что с неизбежностью приведет к смене юридического ландшафта. К тому времени, когда наступит переломный момент и искусственный интеллект превзойдет человеческий, наш мир безвозвратно изменится, и мы должны быть готовы к этому вызову, создав соответствующую правовую базу. При этом своеобразным толчком для ускорения процесса формирования права искусственного интеллекта выступает, как мы видим, пандемия ко-ронавируса.
ЛИТЕРАТУРА
1. Азимов А. Хоровод // Astounding Science Fiction. 1942 [Электронный ресурс] // Википедия. URL: https:// ru.wikipedia.org.
2. Бахтеев Д.В. Риски и этико-правовые модели использования систем искусственного интеллекта // Юридические исследования. 2019. № 11. С. 1-11.
3. Игнатова О. Греф назвал профессии будущего [Электронный ресурс] // Российская газета. URL: https:// rg.ru/2020/03/04/gref-nazval-professii-budushchego.html.
4. Интерфакс: международная информационная группа [Электронный ресурс] // URL: https://www. interfax.ru/moscow/706492.
5. Мишина Н.В. К вопросу о формировании новой отрасли права — право искусственного интеллекта // Fundamental and applied sciences today XXII: Proceedings of the Conference. North Charleston, 20-21.04.2020. Morrisville, NC, USA: Lulu Press, Inc. 2020. Р. 140, 136-138.
6. Мишина Н.В. Право искусственного интеллекта как новая сфера правового регулирования или новая отрасль права // Евразийский союз ученых (ЕСУ). 2020. № 3 (72). Ч. 5. С. 62-65.
7. Мишина Н.В. Право искусственного интеллекта как новая учебная дисциплина и отрасль права // Труды 17-й Международной научно-практической конференции «Преподаватель высшей школы в XXI веке». Сборник 17. Ростов н/Д: Ростовский государственный университет путей сообщения, 2019. 275 c.
8. Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта: монография / В.В. Бакуменко [и др.]; под ред. А.В. Незнамова. М.: Ин-фотропик Медиа, 2018. 220 с.
9. Официальная страница Мэра Москвы в Instagram [Электронный ресурс] // URL: https://www.instagram. com/p/B_kmcnyqcOZ/?utm_source=ig_web_ copy_link.
10. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91-109.
11. Регулирование робототехники: введение в «ро-боправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта: монография / В.В. Архипов, В.В. Бакуменко, А.Д. Волынец и др.; под ред. А.В. Незнамова. М.: Инфотропик Медиа, 2018. 232 с.
12. Родзин С.И. Искусственный интеллект: учебное пособие. Таганрог: Изд-во ТТИ ЮФУ, 2009. 200 с.
13. Станкевич Л.А. Интеллектуальные системы и технологии: учебник и практикум для среднего профессионального образования. М.: Издательство Юрайт, 2020. 397 с.
14. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
15. Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"» // Российская газета. 2020. № 92. 28 апр.
