CC BY
49
АКТУАЛЬНЫЕ ВОПРОСЫ ПРИВЛЕЧЕНИЯ К ЮРИДИЧЕСКОЙ ОТВЕТСТВЕННОСТИ ПРИ ИСПОЛЬЗОВАНИИ ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА
Д.Е. Волков, студент
Национальный исследовательский университет Высшая школа экономики (Россия, г. Москва)
DOI:10.24412/2500-1000-2022-9-1-174-178
Аннотация. В данной работе рассматривается вопрос законодательного регулирования юридической ответственности за нарушение прав при использовании искусственного интеллекта. Автор указывает на необходимость разработки соответствующих нормативно-правовых актов, регулирующих применение технологии искусственного интеллекта для дальнейшего развития данной отрасли. В результате исследования автор приходит к выводу о необходимости законодательного разграничения ответственности субъектов, применяющих искусственный интеллект в правоотношениях, а также разработчиков, собственников и операторов системы искусственного интеллекта в случае причинения вреда, а также определить возможные способы возмещения такого вреда посредством таких способов, как создание компенсационных фондов, дополнительное страхование ответственности и т.д.
Ключевые слова: искусственный интеллект, юридическая ответственность, сделки с использованием искусственного интеллекта, правовое регулирование, причинение вреда.
Одной из важных задач в правовом регулировании создания и использования технологий искусственного интеллекта является развитие и законодательное определение института юридической ответственности.
Совершенствование правового регулирования деятельности искусственного интеллекта невозможно без установления мер ответственности субъектов правоотношений.
Как указано в Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники, утверждённой распоряжением Правительства РФ от 19.08.2020 № 2129-р 21, «.. .реальный уровень развития технологий искусственного интеллекта и робототехники не предполагает кардинальных изменений в регулировании института юридической ответственности, однако требует постепенной доработки его отдельных элементов...» [2, 4].
Так, рассматривая ответственность субъектов правоотношений, необходимо учитывать не только общие положения гражданского законодательства, но и спе-
циальных правил, таких как «три закона робототехники» А. Азимова:
1) Действия (бездействия) робота должны быть безопасны для человека;
2) Подчинение робота командам человека при условии соблюдения первого закона;
3) Забота робота о своей безопасности при условии соблюдения первого и второго законов.
Такие принципы легли в основу правовой оценки поведения робота.
Как указывает, С. Наделла, «искусственный интеллект разработан с целью помощи человечеству, уважая при этом достоинство последнего, а не для его замены» [9].
Стоит отметить, что в научной литературе существуют различные подходы к возможности привлечения к ответственности за работу искусственного интеллекта.
Так, П.М. Морхат выделяет три вида ответственности, такие как:
- ответственность разработчика программного обеспечения робота;
- ответственность пользователя робота;
- ответственность самого интеллектуального робота [8].
Нельзя не согласиться с мнением исследователя, так как разграничение ответственности лиц в данных правоотношениях должно носить взаимный характер.
Однако, на сегодняшний день разделять ответственность искусственного интеллекта и лиц, являющихся разработчиками либо пользователями программы в правоотношениях нецелесообразно, поскольку система искусственного интеллекта не является субъектом гражданских правоотношений, а значит, не обладает не право- не дееспособностью.
При этом, на современном этапе развития правового регулирования искусственного интеллекта формирование института юридической ответственности.
Стоит отметить, что применение мер гражданско-правовой ответственности допускается при отсутствии вины субъектов в случаях, если она предусмотрена нормами законодательства, а также условиями договора. Немаловажным фактором является сама возможность применения различных форм ответственности, таких как:
- ответственность производителя перед потребителем за качество товара (услуги)
- ответственность за вред, причиненный деятельностью, создающей повышенную опасность для окружающих
- смешанная ответственность при совместном причинении вреда;
Вышеуказанные конструкции возможно применять при установлении правового регулирования правоотношений с применением систем искусственного интеллекта.
В научной литературе выделяют преддоговорную, договорную и внедоговорную ответственность.
Применительно к искусственному интеллекту, в целях установления причинно-следственных связей и понимания предсказуемости действий в сложных сценариях на современном этапе активно совершенствуется внедоговорная ответственность.
Причинение вреда возникает при неопределенности правового положения системы искусственного интеллекта, при делегировании самостоятельного участия в обороте, в непредсказуемости принятых решений.
По мнению, Лаптева учитывая вышеуказанные обстоятельства, возможно выделить условия, при соблюдении которых к лицу подлежит применение ответственности: риск, принятие недостаточных мер предосторожности при создании, владении и использовании систем искусственного интеллекта [7].
В связи с тем, что искусственный интеллект при заключении сделок применяется сторонами правоотношений добровольно и только как инструмент, а не самостоятельный субъект правоотношений, то именно стороны подлежат юридической ответственности в случае правонарушений. В частности, при заключении сделок должны быть соблюдены требования законодательства о форме, существенных условиях сделки [5].
Относительно применения специальных норм, регулирующих гражданско-правовую ответственность, то в отношении лиц, применяющих искусственный интеллект, применяются общие положения о действительности и недействительности сделок, общие положения об обязательствах.
Так, заключение сделки с помощью искусственного интеллекта, равно как и любой другой сделки не должны нарушать требования ст.10, ст.168 ГК РФ, а также специальных законов, таких как Закон об ООО, об АО, о банкротстве и др.
Международный опыт правового регулирования юридической ответственности предлагает концепцию применения ответственности за вред, причинённый искусственным интеллектом.
Так, в рамках концепции ЕС предлагается дифференцированный подход к ответственности, зависящий от типа ИИ: безвиновная ответственность для высокорисковых систем искусственного интеллекта и виновная - для всех иных [6]. По критерию возможности применения имеющегося нормативного правового регулирования к случаям вреда, причиненного системами искусственного интеллекта возможны следующие подходы:
- ответственность за вред, причиненный источником повышенной опасности;
- ответственность за причинение вреда вследствие недостатков (дефектов) продукта;
- безвиновная ответственность за вред, причиненный чрезвычайно опасной деятельностью;
- применение по аналогии норм об ответственности за вред, причиненный животными.
В частности, между роботами и животными можно обнаружить некоторое сходство. Например, и роботы. и животные могут действовать независимо от своих владельцев, воспринимать окружающую обстановку и осуществлять действия в зависимости от нее.
- применение по аналогии норм об ответственности за вред, причиненный работниками.
Кроме того, предлагается вводить модель дополнительного и обязательного страхования для тех случаев, когда лицо, привлекаемое к ответственности определить сложно. Например, когда вред причинён в режиме автопилотирования беспилотным автомобилем. В таких случаях обязательное страхование позволяет позволяет компенсировать ущерб, причиненный пострадавшей стороне.
Одним из примеров, иллюстрирующих возможный подход к разрешению вопросов ответственности за вред, причиненный системами искусственного интеллекта, является дело об аварии беспилотного автомобиля компании Uber, поскольку оно представляет интерес правовыми последствиями для компании Uber и водителя (оператора).
Так, высокоавтоматизированный автомобиль компании Uber, во время совершения поездки в автономном режиме в темное время суток, допустил наезд на пешехода, в результате которого пешеход скончался. На компанию Uber не были возложены какие-либо меры ответственности, однако в отношении оператора в настоящее время ведется расследование [10].
Так, например, если система искусственного интеллекта является контролируемой и человек обязан осуществлять контроль ее действий, то в случае причинения вреда в результате халатных и не-
правомерных действий оператора, допустимо привлекать к ответственности производителя, разработчика или иных лиц, участвовавших в создании системы искусственного интеллекта, именно оператора.
Стоит согласиться с мнением Лаптева В.А., который указывает, что ответственным лицом за работу искусственного интеллекта должен признаваться его владелец.
При этом также в перечень лиц, привлекаемых к ответственности необходимо включать лиц, фактически причинивших вред.
В частности, по аналогии с п.2 ст.1079 ГК РФ владелец искусственного интеллекта может доказать, что объект выбыл из его обладания в результате противоправных действий других лиц.
В таком случае ответственность возлагается на лицо, противоправно завладевшее им.
В случае виновного поведения владельца в противоправном изъятии этого источника из его обладания ответственность может быть возложена как на владельца, так и на лицо, противоправно завладевшее источником повышенной опасности. То есть дается правовая оценка поведению каждого участника правоотношения.
Вместе с тем, в отношении предпринимательское деятельности, привлечение к ответственности не должно зависеть от виновности лиц.
В предпринимательской деятельности участников рынка с использованием искусственного интеллекта наступление ответственности не должно зависеть от наличия либо отсутствия вины. Речь идет о предпринимательско-правовой ответственности (п. 3 ст. 401 ГК РФ).
Освобождение субъектов предпринимательской деятельности от ответственности за работу искусственного интеллекта может быть только в случаях наступления обстоятельств непреодолимой силы.
Стоит отметить, что устройства, обладающие системой искусственного интеллекта, в силу ст. 139 ГК РФ признаются движимым имуществом.
Однако в силу п. 38 постановления Пленума Верховного Суда РФ от
23.06.2015 № 25 «О применении судами некоторых положений раздела I части первой Гражданского кодекса Российской Федерации» допускается признание недвижимостью ряда машин, прочно связанных с землей, перемещение которых без несоразмерного ущерба их назначению невозможно [3].
В спорных ситуациях на квалификацию будут оказывать влияние качественно-технические характеристики объекта.
Данное обстоятельство является существенным при установлении владельца и пользователя искусственным интеллектом. Вероятно, робот сможет иметь как учетный номер (движимое имущество), так и быть в структуре кадастрового номера недвижимого имущества.
Вместе с тем, к лицам, привлекаемым к ответственности, ввиду случающегося отсутствия технической возможности владельца осуществлять воздействие на искусственный интеллект, а также предугадывать его поведение, необходимо относить создателей конкретной искусственного интеллекта.
В данном вопросе можно использовать аналогию с некачественной продукцией, в частности - искусственного интеллекта. Так, в силу ст. 1095 ГК РФ вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юридического лица вследствие конструктивных, рецептурных или иных недостатков робота либо программного комплекса ЭВМ, а также вследствие недостоверной или недостаточной информации об искусственном интеллекте, подлежит возмещению: 1) продавцом или 2) изготовителем, независимо от их вины и от того, состоял потерпевший с ними в договорных отношениях или нет [1].
Выбор ответственного лица, к которому будут предъявляться претензии, остается за потерпевшим (п. 1 ст. 1096 ГК РФ, п. 35 Постановления Пленума Верховного Суда РФ от 28.06.2012 № 17 «О рассмотрении судами гражданских дел по спорам о защите прав потребителей».
Таким образом, можно выделить следующую систему принципов для последующего правового регулирования ответ-
ственности в сфере искусственного интеллекта:
- ответственность за причинение вреда системами с искусственного интеллекта должны нести «традиционные» субъекты права.
- основным ответственным должно являться то лицо, с кем ассоциирован риск операционного использования, или лицо, являющееся непосредственным выгодоприобретателем от использования системы.
- пользователь системы искусственного интеллекта подлежит ответственности за выбор технологии, не соответствующей задаче, а также за нарушение правил по использованию, контролю и техническому обслуживанию системы.
- производитель несет ответственность за вред, причиненный недостатками системы искусственного интеллекта, полученными во время производства системы.
- разработчик и производитель обязаны обеспечивать соответствие проекта и правил разработки задачам, полное раскрытие информации о системе искусственного интеллекта, недопустимость рекламы или распространения иной информации, вводящей в заблуждение потенциальных пользователей.
- при использовании системы возможно применение ответственности без вины в тех случаях, когда такая система с искусственным интеллектом может квалифицироваться как источник повышенной опасности и когда это не противоречит природе отношений.
- высокая степень автономности искусственного интеллекта не может служить основанием для уменьшения ответственности разработчиков, производителей.
- если разработчик обладает большей степенью контроля над функционированием системы, чем производитель, собственник или пользователь данной системы, это должно увеличивать ответственность разработчика за причинение вреда.
- технологии должны предусматривать доступ к операционным данным системы искусственного интеллекта, которые позволяют установить причину инцидента и ответственное лицо.
Библиографический список
1. Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 № 51-ФЗ (ред. от 28.06.2021, с изм. от 26.10.2021) // Собрание законодательства РФ. 1994. № 32. Ст. 3301.
2. Федеральный закон «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» от 24.04.2020 № 123-Ф3 // Собрание законодательства РФ. 2020. № 17. Ст. 2701.
3. Постановление Пленума Верховного Суда РФ от 23.06.2015 N 25 «О применении судами некоторых положений раздела I части первой Гражданского кодекса Российской Федерации» // Бюллетень Верховного Суда РФ, № 8, 2015.
4. Распоряжение Правительства РФ от 19.08.2020 N 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» // Собрание законодательства РФ. 2020. № 35. Ст. 5593.
5. Калятин В.О. Доклад НИУ ВШЭ Проблема машинного творчества в системе права: регулирование создания и использования результатов интеллектуальной деятельности с применением искусственного интеллекта, зарубежный опыт и российские перспективы»
6. Лапаев Д.Н., Морозова Г.А. Искусственный интеллект: за и против // Развитие и безопасность. - 2020. - №3 (7). - С. 70-77.
7. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. - 2019. - №2. - С. 79-102.
8. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация ... доктора юридических наук: 12.00.03. - М., 2019.
9. Рябов И. 10 законов искусственного интеллекта от Сатьи Наделлы 2017. - [Электронный ресурс]. - Режим доступа: http://droider.ru/post/10-zakonov-dlya-lyudey-i-ii-ot-sati-nadellyi-30-06-2016/
10. Прокуратура сняла с Uber ответственность за гибель пешехода в ДТП с беспилот-ником». - [Электронный ресурс]. - Режим доступа: https://www.vedomosti.ru/auto/news/2019/03/06/795806-uber
TOPICAL ISSUES OF BRINGING TO LEGAL RESPONSIBILITY WHEN USING
ARTIFICIAL INTELLIGENCE
D.E. Volkov, Student
National Research University Higher School of Economics (Russia, Moscow)
Abstract. This paper discusses the issue of legislative regulation of legal liability for violation of rights when using artificial intelligence. The author points out the need to develop appropriate legal acts regulating the use of artificial intelligence technology for the further development of this industry. As a result of the article, the author comes to the conclusion that it is necessary to legally delineate the liability of subjects using artificial intelligence in legal relations, as well as developers, owners and operators of the artificial intelligence system in case of harm, and also to determine possible ways to compensate for such harm through such methods as creating compensatory funds, additional liability insurance, etc.
Keywords: artificial intelligence, legal liability, transactions with the use of artificial intelligence, legal regulation, causing harm.
