CC BY
259
ПРОБЛЕМЫ ЧАСТНОГО ПРАВА
УДК 347
Б01: 10.17223/22253513/41/11
Т.Т. Алиев
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И РОБОТИЗАЦИИ: КОНЦЕПЦИИ И ПЕРСПЕКТИВЫ
Промышленная революция изменила в сознании масс само понятие о способах и средствах производства таким образом, что процесс роботизации и внедрения искусственного интеллекта в различные сферы жизни стал неизбежным. Перед российским законодательством встала задача правовой оценки природы искусственного интеллекта и регламентации порядка его использования. В статье приведен анализ возможных путей раскрытия понятия «искусственный интеллект» как правовой категории и соотношения его с понятием «робот», рассматриваются вопросы юридической ответственности за выполнение работы искусственным интеллектом, изучается возможность признания у обладающего искусственным интеллектом робота признаков субъекта права. Ключевые слова: искусственный интеллект; робот; робототехника; права роботов; правосубъектность; электронное лицо; правовой статус искусственного интеллекта; ответственность роботов.
Вступление
Формирование основ правового регулирования вновь появляющихся общественных отношений, которые возникают вследствие разработки и применения систем с искусственным интеллектом, а также создания и использования роботов, снятия правовых ограничений, которые препятствуют разработке и применению указанных систем, представляют собой цель правового регулирования технологий искусственного интеллекта и робототехники. Процессы развития искусственного интеллекта и роботизации требуют особого внимания со стороны правовой системы Российской Федерации. Это обусловлено тем, что существуют определенная степень автономности действий систем искусственного интеллекта в поставленных задачах и неспособность прямо воспринимать этические и правовые нормы, а также принимать их во внимание при исполнении каких-либо операций.
На современном этапе развития законодательства Российской Федерации специальные нормы, регулирующие специфику применения технологий искусственного интеллекта и робототехники, отсутствуют. В то же время, как показывает мировая практика, применение правового регулирования
в области искусственного интеллекта и робототехники нашло свое отражение в целом ряде стран.
Правовое регулирование основывается на необходимости развития технологий, последующего создания среды, которая была бы удобной для их формирования и внедрения в повседневную жизнь, базирующейся на балансе интересов как общества в целом, так и государства, отдельных компаний, производящих систем, а также потребителей их товаров, работ и услуг.
Понятие искусственного интеллекта
На современном этапе ученые разных специальностей не пришли к общему выводу о том, существует ли единое понятие искусственного интеллекта, так как одни из них считают ее полностью изученной, а другие -дискуссионной научной категорией.
Очевидно, что искусственному интеллекту противопоставляются человек и другие животные организмы с их естественным интеллектом. Но нельзя утверждать, что каждый робот обладает искусственным интеллектом, так как именно он допускает возможность обучения, рассуждения, принятия самостоятельных решений. Стоит учесть и тот факт, что на начальном уровне развития роботизации все роботы производили действия лишь по заданным программным алгоритмам, и только в ходе дальнейшего развития в этой сфере усовершенствованные цифровые технологии и программные комплексы достигли возможности создания и развития именно искусственного интеллекта. Отграничение робота от киберфизической системы весьма справедливо, так как ее существование представляется в виде компьютерной программы, которая работает на базе процессора соответствующей ЭВМ.
Существование искусственного интеллекта отдельно от робота возможно исключительно в цифровом виде, т.е. в виде киберфизической системы либо иных искусственных систем, которые позволяют смоделировать надлежащие действия. Хотя изначально предполагалось, что робот будет выполнять действия исключительно по заданным программой алгоритмам, впоследствии стало ясно, что искусственный интеллект является следующей стадией развития робототехники и особой части программирования, и он будет наделять робота способностью принимать решения самостоятельно, в том числе такие решения, которые не были изначально заложены в его программе.
Чтобы подтвердить сказанное, приведем в пример ГОСП Р ИСО 83732014 «Роботы и робототехнические устройства. Термины и определения» с выделенными категориями «разумный робот» и «робот с элементами искусственного интеллекта». Такой робот выполняет работу путем считывания данных из окружающей его среды, а также с помощью взаимодействия с внешними источниками и адаптации своего поведения (п. 2.28 ГОСП Р ИСО 8373-2014).
Регулирование искусственного интеллекта в Российской Федерации, иностранные исследования
Возможности создания в современном обществе систем искусственного интеллекта, обладающих достаточно широким функционалом, послужил достигнутый уровень развития технологий. Порядка 10 лет работоспособность роботов заключалась лишь в исполнении весьма узконаправленных функций «помощников» для человека в физическом труде или сборе и анализе обширных объемов информации. Но уже к середине 2010-х гг. стал заметен четко выраженный прогресс развития искусственного интеллекта.
Выдающимся примером такого развития является распространение нейронных сетей. Искусственная нейронная сеть подобна человеческой нервной системе: она моделирует ее работу и способность к обучению, а также учитывает прошлый опыт, в связи с чем совершает меньшее количество ошибок.
На сегодняшний день нейронные сети позволяют быстро и эффективно охватывать и разрешать довольно обширный круг различных задач. К ним можно отнести распознавание лиц, подготовку документов, перевод, обучение людей и машин и т.п. Но и эти достижения не являются завершением внедрения роботизации в жизнь людей. В настоящий момент роботы уже становятся неотъемлемой частью производственной и повседневной жизни. Их использование активно развито как в погрузочных работах (роботы-погрузчики), так и в домашнем обиходе (роботы-пылесосы, «умные дома»). Также начаты разработка и выпуск автомобилей, которые не требуют управления человеком, а летательные аппараты-беспилотники и вовсе вошли в повседневность.
Но существует еще несколько проблем, требующих особого внимания при разработке и использовании искусственного интеллекта. Одной из них является отсутствие специализированного правового регулирования. Сегодня робот представляет собой объект, ответственность за действия которого лежит на плечах его владельца.
Вопросом о необходимости формирования специальной законодательной базы задается не только Российская Федерация, но и США, страны Европейского союза, Япония, Южная Корея, Китай и т.д. Известный изобретатель и предприниматель Илон Маск, являющийся главой компаний Tesla и Space X, обеспокоен данной проблемой и считает искусственный интеллект «основной угрозой для человечества, которая может привести к замене людей на искусственные алгоритмы» [1]. В связи с этим И. Маск уже в 2015 г. совместно с рядом инвесторов основал некоммерческую организацию OpenAI, целью которой стало исследование безопасного развития технологий искусственного интеллекта.
Великобритания и США разработали отдельные правовые нормы, регулирующие правоотношения в сфере робототехники. Также существуют и отдельные международные стандарты, например, технический стандарт ISO 13482:2014 Robots and robotic devices. Safety requirements for personal
care robots, который затрагивает роботов, осуществляющих деятельность личных помощников. Данный стандарт утвержден Международной организацией по стандартизации, членами которой являются 164 государства, в том числе и Российская Федерация. Но человечество не останавливается на достигнутом и продолжает упорные поиски максимально безопасного внедрения искусственного интеллекта в повседневную жизнь. Важнейшей составляющей в этом деле является как раз правовое регулирование.
Существует ряд проблем и вопросов, которые необходимо решить для нормального формирования и претворения в жизнь закона, регулирующего взаимоотношения робота и человека. Одной из таких проблем является отсутствие в науке общепринятого определения понятия «робот», при этом теория предлагает определение понятия, которое после фиксации в законе не будет способствовать достижению поставленных целей правового регулирования из-за его неопределенности и двойственности.
Еще одной проблемой для действия закона представляется расплывчатость границ между ответственностью владельца и робота. Зачастую возникает вопрос: будет ли подпадать тот или иной факт под действие законодательства или же его можно считать «поломкой» системы, с помощью которой робот осуществляет те или иные действия? Ярким примером вышесказанного будет представляться беспилотный автомобиль. «Беспилот-ник» является технически сложным устройством, которое способно самостоятельно принимать решения. И не всегда эти решения остаются без негативных последствий, что, безусловно, накладывает своеобразный отпечаток на сознание людей, готовых его использовать.
Возложение на роботов ответственности за возмещение причиненного ущерба позволит разграничить действия, совершенные ими, от действий человека. Решение подобных вопросов является необходимым в связи с тем, что развитие робототехники с большой степенью вероятности затронет весьма значительную часть общества. В таком случае появляется необходимость создания фонда, из которого будут выплачиваться компенсации пострадавшим в авариях с беспилотниками. Учитывая вышесказанное, мы приходим к заключению, что возникнет необходимость внесения поправок в Венскую конвенцию о дорожном движении и в Гаагскую конвенцию о праве, применимом к дорожно-транспортным происшествиям.
Делая вывод, уместно сказать о том, что все вышеперечисленные аспекты создают трудности для разработки закона о робототехнике.
Но в чем причина столь быстрого и неотложного формирования этой законодательной базы? Почему его нельзя отложить на неопределенный срок?
Ответ здесь крайне прост. Уже в настоящее время существует важный фактор, который указывает на обязательное наличие законодательного воздействия в этой области, - начавшееся распространение нейропротезов -медицинских имплантов, вживляемых в нервную систему с целью восстановления у людей двигательных или чувствительных функций.
Многие страны мира активно ведут исследования в области развития искусственного интеллекта и правового регулирования его использования.
Крупнейшие университеты запустили соответствующие учебные курсы и выпустили первые учебные пособия по «праву роботов», например Robot Law группы специалистов из университетов Вашингтона, Майами и Оттавы [2], The Laws of Robots профессора Туринского университета У. Пагал-ло [3] и др.
Стоит понять, что исчерпывающий перечень вопросов и проблем, которые могут возникнуть в процессе развития искусственного интеллекта и требовать урегулирования, в том числе и нормами права, предусмотреть просто невозможно. К примеру, в 2017 г. стал известен довольно удивительный факт: система искусственного интеллекта, которая была задействована в работе социальной сети Facebook, смогла самостоятельно создать свой собственный программный язык и больше не применяет английский, хотя фразы, получающиеся при его использовании и составленные из английских букв и слов, кажутся совершенно бессмысленными человеку, но понятны ботам - «роботизированным агентам», которые обмениваются ими между собой [4].
Таким образом, изучая исследования, которые посвящены темам социальных последствий развития искусственного интеллекта и его правового регулирования, отчетливо видно, что они еще не достигли необходимого уровня для решения стоящих перед учеными вопросов. Многие юристы придерживаются мнения, что не стоит торопиться с созданием специальных правовых норм, которые будут регулировать правоотношения в области искусственного интеллекта. Тем не менее необходимость создания в Российской Федерации закона о робототехнике признается бесспорной, особенно учитывая уровень развития искусственного интеллекта в ведущих странах, что кардинально изменяет устройство общества в мире в целом. Неменьшего внимания в этом вопросе заслуживает и то, что в июле 2017 г. Правительством РФ была утверждена Программа «Цифровая экономика Российской Федерации», что означает стремление нашего государства к развитию в этой области на уровне других стран. При принятии закона о роботизации на законодателе будет лежать ответственность по учету всевозможных проблем и вопросов, которые могут возникнуть при работе с роботом. Этот закон должен будет обеспечить безопасное использование искусственного интеллекта и роботов в окружающей человека среде, которая, вероятно, будет совершенно преобразована.
Концепция регулирования искусственного интеллекта и роботизации
Цель Концепции регулирования искусственного интеллекта и роботизации состоит в формировании основ правового регулирования вновь создающихся общественных отношений, которые возникают в связи с активной разработкой и применением систем с искусственным интеллектом и роботизации. Столь стремительное развитие технологий в указанной области представляется некой проблемой для правовой системы Российской Федерации, ведь они представляются как автономно действующие про-
граммы при решении поставленных задач и неспособны к восприятию этических и правовых норм.
Как уже освещалось ранее, в Российской Федерации не существует специального законодательства, которое регулировало бы такие взаимоотношения с учетом специфики применения искусственного интеллекта и робототехники. Концепция состоит в том, что для правильного развития и применения таких технологий необходимо создание регуляторной среды, которая была бы благоустроена для их развития и внедрения. Она должна быть основана на балансе интересов как общества, государства и компаний-разработчиков таких систем, так и потребителей их товаров, работ и услуг.
Сама Концепция учитывает положения Национальной стратегии развития искусственного интеллекта на период до 2030 г., которая утверждена Указом Президента Российской Федерации от 10.10.2019 № 490, и программы «Цифровая экономика Российской Федерации». Учитывая динамику развития правоотношений в области создания, развития и использования искусственного интеллекта и роботизации, отмеченные в Концепции положения определены с перспективой на период до 2023 г.
Современное общество еще не достигло достаточной степени доверия к системам искусственного интеллекта и роботам, что является довольно значимым препятствием для расширения объемов их применения. Причиной этого являются повышенная степень автономии, сниженный контроль со стороны человека за процессом их применения, а также непрозрачная логика принятия решений. Кроме того, существует целый ряд проблем, которые не имеют единого решения, особенно в отношении регулирования данных систем. Среди таких концептуальных проблем выделяются: предмет и границы регулирования искусственного интеллекта и роботов; самоидентификация системы при взаимоотношениях с человеком; правовое делегирование решений искусственным интеллектом и роботом; ответственность за причинение вреда с использованием указанных систем и др.
Особенного внимания заслуживают вопросы применения систем искусственного интеллекта и роботов в гражданско-правовых отношениях, а также вопрос ответственности за вред, который такие системы могут причинить. Но и вопрос охраноспособности результатов интеллектуальной деятельности с применением вышеупомянутых технологий остается открытым.
Чтобы гарантировать эффективное и справедливое распределение ответственности в случаях причинения вреда системами искусственного интеллекта и роботами, необходимо проработать законодательную базу, учитывая все возникающие в связи с этим вопросы.
Результаты
Итогом рассмотрения актуальных проблем в правовом регулировании искусственного интеллекта и роботизации будут следующие выводы.
Отсутствие нормативно-правовой базы по данному вопросу приводит к ряду проблем (выделим основные):
1. Отсутствие общепринятого понятия искусственного интеллекта.
2. Существующие правоотношения между человеком и системой искусственного интеллекта и роботом не урегулированы.
3. Ответственность сторон не возникает в связи с отсутствием рамок запрета действий и невозможностью установления формы вины.
Необходимость принятия закона «Об искусственном интеллекте и роботизации» обусловлена динамичным развитием института искусственного интеллекта и роботизации. Следует отметить, что в июле 2017 г. Правительством РФ была утверждена Программа «Цифровая экономика Российской Федерации», а позднее вышел Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Принятие такого закона на современном этапе является необходимым, потому что стремительное развитие технологий искусственного интеллекта и роботизации ясно видно, а обусловленные в законе права и обязанности субъектов правоотношений смогут регулировать их и обеспечить им всестороннее развитие, не нарушая права третьих лиц.
Заключение
Вопросы детального правового регулирования искусственного интеллекта и роботизации в настоящее время приобретают все больший приоритет. С каждым днем количество правоотношений с участием технологий искусственного интеллекта и роботов растет, что требует скорейшего создания нормативно-правовой базы, регулирующей такие отношения. Отсутствие ответственности за действия технологий приводит к возникновению вопросов и проблем, которые порождают массу дилемм между субъектами правоотношений: человеком и владельцем искусственного интеллекта и робототехники.
Необходимо урегулировать деятельность создателей и пользователей технологий, так как именно они осуществляют контроль за действиями своего продукта; следует возложить на них определенные обязанности по регулированию, ограничению, обеспечению безопасности использования указанных технологий.
Литература
1. Higgins T. Elon Musk Lays Out Worst-Case Scenario for AI Threat // The Wall Street Journal. 2017. July 15.
2. Robot Law / ed. by R. Calo, A.M. Froomkin, I. Kerr. Cheltenham, MA, 2016.
3. Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media, 2013.
4. Walker J. Researchers shut down AI that invented its own language. 2017. 21 July. URL: http://m.digitaljournal.com/tech-and-science/technology/astep-closer-to-skynet-ai-invents-a-language-humans-can-tread/article/498142 (accessed: 14.10.2020).
Aliyev Tigran T., Russian State Academy of Intellectual Property (Moscow, Russian Federation) LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE AND ROBOTICS: CONCEPTS AND PERSPECTIVES
Keywords: artificial intelligence, robot, robotics, robot rights, legal personality, electronic person, legal status of artificial intelligence, robot liability.
DOI: 10.17223/22253513/41/11
More recently, the idea of a robot among laypeople was at the level of an "exhibition piece" that had little or no connection to real life, but rather was part of a theoretically possible future. But with the passage of time and the development of technology, artificial intelligence has been introduced into people's everyday lives: smartphones, robots that help and facilitate human life, electronic assistants in various kinds of services. At the same time, the relationship between robots and humans is still largely unregulated by law. The probability of unpredictable consequences is growing exponentially. In order to reduce the risk of such adverse consequences, the need for legal regulations plays a key role, the content of which is being reviewed and developed by leading lawyers and engineers.
The Industrial Revolution changed the very notion of the ways and means of production in the minds of the masses in such a way that the process of robotisation and the introduction of artificial intelligence into various spheres of life became inevitable. Later on it was understood that human influence on production process began to decrease noticeably and was replaced by programs, which with the help of digital algorithms determined behavior of robots and character of artificial intellect thinking. Russian legislation faced the task of legal assessment of the nature of artificial intelligence and regulation of its use.
The article analyzes possible ways of disclosing the concept "artificial intelligence" as a legal category and its correlation to the concept "robot", deals with questions of legal responsibility for the work of artificial intelligence, studies the possibility of recognition of a robot possessing artificial intelligence as a subject of law.
Purpose of work is to propose ways of legislation development in conditions of digitalisa-tion and introduction of artificial intelligence in everyday life. The topic of legal regulation of artificial intelligence and robotics is investigated on a scientific basis. The scientific basis of this article was formed on the basis of scientific works of foreign scientists (Higgins T., Musk I., Calo R., Frumkin A.M., Kerr I., Pagallo W., Walker J.). The scientific development of the content of this article was based on general scientific methods: analysis, synthesis, generalization, statistics, induction and deduction, interpretation, classification and comparative methods.
References
1. Higgins, T. (2017) Elon Musk Lays Out Worst-Case Scenario for AI Threat. The Wall Street Journal. 15th July.
2. Calo, R., Froomkin, A.M. & Kerr, I. (eds) (2016) Robot Law. Cheltenham, MA.
3. Pagallo, U. (2013) The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media.
4. Walker, J. (2017) Researchers shut down AI that invented its own language. 21st July. [Online] Available from: http://rn.digi1aljournal.com/tech-and-science/technology/astep-closer-to-skynet-ai-invents-a-language-humans-can-tread/article/498142 (Accessed: 14th October 2020).
