CC BY
151
ред. от 02.08.2019 г.) // Собрание законодательства РФ. 2001. № 11. Ст. 1001.
7. Федеральный закон от 29.12.2017 г. № 442-ФЗ «О внеуличном транспорте и о внесении изменений в отдельные законодательные акты Российской Федерации» // Собрание законодательства РФ. 2018. № 1 (Часть I). Ст. 26.
8. Гражданский кодекс Российской Федерации часть вторая от 26 января 1996 г. № 14-ФЗ (в ред. от 18.03.2019 г., с изм. от 03.07.2019 г.) // Собрание законодательства РФ. 1996. № 5. Ст. 410.
9. Молчанов В.В. Нормативно-правовое регулирование воздушных перевозок // Законодательство. № 4. 2006. С. 9-15.
10. Троицкая О.Н., Симаненко А.М. Комментарий к Воздушному кодексу РФ. М.: Волтерс Клувер, 2007. - 191 с.
11. Ефремов Е.А. Договор воздушной перевозки: дис. ... канд. юрид. наук. Волгоград, 2006. - 191 с.
12. Остроумов Н.Н. Об ответственности воздушного перевозчика за несохранность груза и багажа // Государство и право. 2005. № 2. С. 26-35.
УДК 340.14
ГРНТИ 10.07.45
13. Солдатенко О.М. Гражданско-правовое регулирование ответственности за вред, причиненный источником повышенной опасности: дис. ... канд. юрид. наук. Саратов, 2002. - 186 с.
14. Трунов И.Л. Борьба с терроризмом: необходима адекватная компенсация вреда его жертвам // Журнал российского права. 2004. № 5. С. 44-50.
15. Федеральный закон «О противодействии терроризму» от 6 марта 2006 г. № 35-ФЗ (в ред. от 18.03.2020 г.) // Собрание законодательства РФ. 2006. № 11. Ст. 1146.
16. Трунов И.Л. Возмещение вреда, причиненного в результате террористического акта // Профессионал. 2003. № 1 (51). С. 8-10.
17. Конвенция для унификации некоторых правил международных воздушных перевозок (Заключена в г. Монреале 28.05.1999 г.) // Собрание законодательства РФ. 2017. № 37.
18. Бордунов В.Д. Международное воздушное право: Учебное пособие. М.: НОУ ВКШ «Авиабизнес»; «Научная книга», 2006. -464 с.
ПРАВО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА КАК НОВАЯ СФЕРА ПРАВОВОГО РЕГУЛИРОВАНИЯ ИЛИ НОВАЯ ОТРАСЛЬ ПРАВА
Мишина Наталья Вячеславовна
Доктор политических наук, профессор кафедры теории и истории государства и права,
магистр техники и технологий АНОВО «МОСКОВСКИЙМЕЖДУНАРОДНЫЙ УНИВЕРСИТЕТ»,
г. Москва, Ленинградский пр., д. 17.
ARTIFICIAL INTELLIGENCE LAW AS A NEW AREA OF LEGAL REGULATION OR A NEW
BRANCH OF LAW
АННОТАЦИЯ
В статье обосновывается необходимость правового регулирования в сфере функционирования искусственного интеллекта и формирования новой отрасли права - права искусственного интеллекта. На основе проведённого исследования с применением методов исторической ретроспективы, анализа и синтеза, прогнозирования, систематизации и аналогии, автором сделан вывод, что правовое регулирование должно быть последовательным, системным и перспективным, способным предотвратить возможные негативные последствия от деятельности искусственного интеллекта. Новая отрасль права призвана обеспечить ликвидацию правовых пробелов в сфере искусственного интеллекта, а также устранить барьеры для научно-технического развития в области создания, функционирования и совершенствования систем искусственного интеллекта.
ABSTRACT
The article substantiates the need for legal regulation in the field of artificial intelligence and the formation of a new branch of law - the law of artificial intelligence. Based on the research conducted using the methods of historical retrospect, analysis and synthesis, forecasting, systematization and analogy, the author concludes that legal regulation should be consistent, systematic and promising, able to prevent possible negative consequences from the activities of artificial intelligence. The new branch of law is designed to ensure the elimination of legal gaps in the field of artificial intelligence, as well as to eliminate barriers to scientific and technological development in the field of creating, functioning and improving artificial intelligence systems.
Ключевые слова: право искусственного интеллекта, искусственный интеллект, робототехника, отрасль права, робоправо.
Keyword: the right artificial intelligence, artificial intelligence, AI, robotic technology, RT, branch of law, robolow.
Формирование новых отраслей права, также как и появление новых правовых институтов, обусловлено объективной необходимостью и происходит по мере развития общественных отношений на протяжении всего существования человечества. Актуальность данного исследования детерминирована большим скачком в научно -техническом развитии, приведшем к внедрению в общественную жизнь новых автоматизированных систем, основанных на технологии искусственного интеллекта, который способен к самообучению, созданию собственных алгоритмов,
приспособлению к окружающей среде, к превосходству над человеческим интеллектом и, в конечном итоге, к его замещению. В последние годы учёные-юристы обеспокоены отсутствием должного нормативно-правового регулирования названных процессов, что и побудило нас к исследованию вопроса формирования новой отрасли права.
В эпоху Древнего мира деления права на отрасли не существовало, но фактически регулировались такие общественные отношения, которые мы можем отнести к сфере гражданского права, выделяя при этом отношения, связанные с правом собственности и обязательственным правом, регулирование брачно-семейных отношений составляли институты семейного и наследственного права, формировалось уголовное право и процессуальное право. В период Средневековья также деления права на отрасли не было, но основную роль играли правовые системы - римское право, каноническое право, городское право, ленное право, где выделялись уже сформированные ранее правовые институты названных отраслей и появились инквизиционное право, международное торговое право, значительное развитие получил теоретико-познавательный аппарат юридической науки, углубилось понимание её предмета и методологии, проанализированы содержание правовых норм и их действие. В Новое время, с появлением и затем воплощением идей конституционализма в первых конституциях, начало складываться
конституционное (государственное) право, более интенсивно стало развиваться международное право. Новейшее время XX столетия отмечено появлением трудового права, финансового права, земельного права, административного права, хозяйственного (предпринимательского) права и других отраслей права.
С развитием науки и техники, с появлением ЭВМ, дальнейшим совершенствованием научно -технического прогресса, с появлением беспроводной связи и сети Internet, с появлением большого массива законодательства в различных сферах возникла необходимость в выделении новых отраслей права с их подотраслями и институтами, стали формироваться комплексные отрасли права и законодательства. В частности, появились медицинское право, спортивное право, транспортное (железнодорожное, автомобильное, трубопроводное и пр.) право, экологическое право, атомное право, право интеллектуальной
собственности, служебное право, бюджетное право, парламентское право, компьютерное право и многое другое. В настоящее время насчитывается более 30 отраслей права и более 100 подотраслей.
Несмотря на то, что в юридической науке продолжаются дискуссии по поводу оснований выделения новых отраслей права, можно констатировать, что разные авторы выделяют разные критерии, среди которых называют предмет правового регулирования, метод правового регулирования, большой массив законодательства, наличие специального закона, юридическую ответственность. В современной юридической науке также отмечается, что не все отрасли права имеют «свою» юридическую ответственность, так же как и не все отрасли имеют свой собственный метод правового регулирования. Юридическая практика показывает, что фактически для выделения новой отрасли права становится достаточным появления нового предмета правового регулирования и наличие большого массива законодательства, регулирующего соответствующие предмету правоотношения. Такие отрасли права сначала воспринимаются с большой осторожностью, - некоторыми юристами отрицается, другими приветствуется, - но со временем на практике новые отрасли приживаются и занимают своё место в национальной системе права.
Однако, на наш взгляд, возникла необходимость выделения новой отрасли права, хотя соответствующего правового регулирования ещё нет, его предстоит создать. Необходимость урегулирования новой сферы общественных отношений, которые ещё только начинают возникать, заставляет законодателей работать на перспективу. Можно назвать этот случай уникальным.
В зарубежной юридической литературе появился новый термин RoboLaw - «робоправо», или "право роботов" (или "право о роботах"), которым обозначают урегулированные нормами права отношения, возникающие по поводу эксплуатации роботов и систем искусственного интеллекта в отдельных сферах. Сначала такие нормы формируется как минимум в отдельную исследовательскую область, и постепенно выделяются в самостоятельную межотраслевую подотрасль права. По мере того, как роботы всё более активно применяются в различных сферах общественных отношений, правовые исследования становятся более глубокими и детально проработанными.
В этой связи следует отметить, что отсутствие профильного законодательства сдерживает развитие робототехники и искусственного интеллекта. С другой стороны, формирование такого законодательства следует осуществлять в рамках новой отрасли права - «право искусственного интеллекта». Нам представляется целесообразным ввести в научный оборот именно термин «право искусственного интеллекта», взамен термина «робоправо», так как искусственный интеллект составляет функциональную основу
интеллектуальных систем и устройств, в том числе и роботов. Роботы не всегда могут наделяться искусственным интеллектом, роботы могут являться автоматизированными системами, выполняющими те алгоритмы, которые заложены человеком. Искусственный интеллект в отличие от робота, наделённого алгоритмами человеческого происхождения, способен сам генерировать собственные алгоритмы, обучаться,
самосовершенствоваться и приспосабливаться к сложившимся условиям. И именно такую способность искусственного интеллекта законодатель должен ограничить рамками правового поля, чтобы избежать негативных последствий. Поэтому именно термин «право искусственного интеллекта», как наиболее чётко отражающий предмет правового регулирования, и следует использовать в юридической науке.
«Искусственный интеллект, возникший в 1950-х гг. как научное направление, связанное с разработкой методов решения сложных задач на основе моделирования психической деятельности человека, решающего подобные задачи, дал возможность создавать интеллектуальные системы, основанные на знаниях»[1, с. 7]. Как отмечает Родзин С.И., «теоретической базой искусственного интеллекта является работа со знаниям: это модели знаний; методы, средства и системы представления знаний и баз знаний; методы извлечения и обработки знаний (поиск, вывод, верификация, систематизация знаний, аргументация и объяснение на основе знаний)»[2, с. 180]. Основными направлениями, по которым ведутся прикладные разработки, являются: решение отдельных интеллектуальных задач;
интеллектуальное программирование;
проектирование интеллектуальных систем и то, что связано с робототехникой и искусственным интеллектом.
Сегодня нейросети понимают человеческую речь, распознают владельца смартфона по лицу даже в темноте, автоматически сортируют фотоснимки, по их содержанию запоминают вас, если вы часто меняете имидж, совершают до 60 млрд. операций в секунду.
По словам Г.Грефа, «искусственный интеллект, является ключевой долгосрочной технологией, которая будет драйвером всех остальных технологий, без исключений. Владеть технологией искусственного интеллекта должен каждый человек, чем бы он ни занимался»[3]. Он совершенно справедливо отмечает, что «вскоре вокруг нас не останется ни одной индустрии, начиная от индустрии государственного управления, которые бы лишены были тех или иных технологий искусственного интеллекта»[3]. Вскоре приобретение соответствующих компетенций в сфере искусственного интеллекта потребуется всем специалистам, чья деятельность связана с принятием значимых решений.
Как отмечают Понкин И.В. и Редькина А.И., «общемировой сегодня является проблема практически полного отсутствия нормативного правового регулирования и нормативного
технического регулирования основ, условий и особенностей разработки, запуска в работу, функционирования и деятельности, интеграции в другие системы и контроля применения технологий искусственного интеллекта»[4, с. 93].
В то же время, следует заметить, что во многих странах мира уже принимаются нормативные правовые акты в данной сфере[5]. Там имеется большое количество эмпирического материала для исследования, а уровень развития технологий позволяет оценить правовые последствия внедрения роботов на конкретных примерах. За 2017-2019 годов в более чем 35 странах появились национальные стратегии развития искусственного интеллекта. В России делаются первые попытки в разработке основных положений «Кодекса этики разработчика и пользователя системы искусственного интеллекта»[6].
По итогам совещания 30.03.2019 Президентом Российской Федерации был утверждён перечень поручений по разработке национальной стратегии развития искусственного интеллекта[7]. Здесь, помимо задач «создания принципиально новых фундаментальных заделов, математических методов, принципов работы искусственного интеллекта, в том числе по аналогии с человеческим мозгом; наращивания нашего кадрового, интеллектуального потенциала, сохраняя свои таланты и привлекая лучших специалистов со всего мира; обеспечения широкого цифрового просвещения, запуска программ переобучения, прежде всего по востребованным направлениям», Президент отметил два аспекта нормативно-правового регулирования в сфере развития искусственного интеллекта.
Один из них - это «снять законодательные, административные барьеры для технологического первопроходчества, при этом обеспечив безопасность государства и общества, безусловное соблюдение прав граждан», а второй -«сформировать эффективное правовое регулирование оборота данных, передовую инфраструктуру для их обработки и хранения, а также предложить взвешенные решения, которые позволят использовать данные для создания алгоритмов искусственного интеллекта»[7].
Таким образом, «в целях обеспечения ускоренного развития искусственного интеллекта в Российской Федерации, проведения научных исследований в области искусственного интеллекта, повышения доступности информации и вычислительных ресурсов для пользователей, совершенствования системы подготовки кадров в этой области» Президентом Российской Федерации 10 октября 2019 г. была утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года»[8]. В ней уже заложена задача обеспечения превосходства человека
искусственным интеллектом по широкому спектру вопросов к 2030 году.
Как справедливо отмечает Наумов В.Б., «представляется актуальным разработать основы законодательства о робототехнике и
искусственном интеллекте, в которых будут определены терминология и принципы регулирования, раскрыт статус основных участвующих в правоотношениях субъектов, установлены основы государственной политики и система функций уполномоченных органов власти»[9, с. 5].
В последнее десятилетие человек всё больше своих функций делегирует электронным устройствам, доступность беспроводного соединения с интернетом позволяет получать любую информацию из множества источников, при этом подбор информации уже осуществляется при помощи технологий искусственного интеллекта[2, с. 41].
С точки зрения авторского права и абсолютного творчества, машина автором не является. Однако, вложенные в неё первоначальные данные и определённы алгоритмы, машина обрабатывает уже без участия человека. Искусственный интеллект способен
адаптироваться к окружающей среде[4, с. 94-95]. Принцип работы искусственного интеллекта основан не столько на логических рассуждениях и (или) умозаключениях, сколько на обработке информации искусственными нейронами, построении нейросетей, способных к самообучению. Поэтому на выходе мы не можем гарантировать конкретный результат без каких-либо отклонений, если предварительно не установим обязательные ограничения в виде «табу». Иначе, помимо ожидаемой пользы от деятельности искусственного интеллекта, мы можем получить негативное влияние его на общество.
В ходе своего саморазвития и самообучения искусственный интеллект принимает и осознаёт свои собственные решения, анализирует опыт, познаёт мир, адаптируется к окружающей среде. Учитывая, что способности искусственного интеллекта обрабатывать огромные массивы информации за считанные секунды, получая на их основе новые данные, в результате чего человеческие способности станут
неконкурентоспособными как в сфере инноваций, так и во многих традиционных сферах жизнедеятельности человека, данные
обстоятельства создают определённые риски замены человека роботами и массовой безработицы, риски утраты контроля над роботами и возникновения определённых волнений в обществе.
В таких условиях трёх законов Айзека Азимова[10], заключающихся в недопущении роботу причинения вреда человеку своим действиями или бездействием, необходимости исполнять все приказы человека с соблюдением первого условия и осуществлении собственной безопасности, не противореча первым двум законам, уже оказывается не достаточным.
Первостепенной становится задача правового регулирования условий гармоничного
сосуществования человека и искусственного интеллекта. Правовое регулирование должно быть последовательным, системным и перспективным, т.е. способным к урегулированию отношений в сфере деятельности искусственного интеллекта в будущем, гарантирующая безопасность населения и направленная на стимулирование развития технологий искусственного интеллекта. Развитие новой сферы правового регулирования с неизбежностью приведёт к формированию новой отрасли права - право искусственного интеллекта.
Список литературы:
Станкевич Л. А. Интеллектуальные системы и технологии : учебник и практикум для среднего профессионального образования. М.: Издательство Юрайт, 2020. 397 с. // Официальный сайт ЭБС Юрайт. URL: http://biblio-
online.ru/bcode/457149/p.7.
Родзин С.И. Искусственный интеллект: Учебное пособие. Таганрог: Изд-во ТТИ ЮФУ, 2009. 200 с.
Игнатова О. Греф назвал профессии будущего // URL: https://rg.ru/2020/03/04/gref-nazval-professii-budushchego.html.
Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. 91109.
Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта / В.В. Бакуменко [и др.]; под ред. А.В. Незнамова. М.: Инфотропик Медиа, 2018. 220 с.
Бахтеев Д.В. Риски и этико-правовые модели использования систем искусственного интеллекта // Юридические исследования. 2019. № 11. С. 1-11. URL:
https://nbpublish.com/library_read_article.php?id=313
33.
Перечень поручений по итогам совещания по вопросам развития технологий в области искусственного интеллекта // Официальный сайт Президента России. URL:
http://www.kremlin.ru/acts/assignments/orders/page/4
Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / В.В. Архипов, В.В. Бакуменко, А.Д. Волынец и др.; под ред. А.В. Незнамова. М.: Инфотропик Медиа, 2018. 232 с.
Азимов А. Хоровод. 1942 // Википедия. URL: https://ru.wikipedia. org/.
