CC BY
5
кационная сеть «Интернет» и хранящаяся в них информация являются предметом совершения преступления.
Однако нередко злоумышленники используют сеть, компьютеры и информацию в качестве средства совершения преступления, то есть киберпространство носит вспомогательный, а не определяющий характер.
По мнению Ю. В. Гаврилова и Л. В. Смирнова, сущность кибертерроризма заключается в оказании противоправного воздействия на информационные системы, совершённого в целях создания опасности причинения вреда жизни, здоровью или
имуществу неопределённого круга лиц путём создания условий для аварий и катастроф техногенного характера либо реальной угрозы такой опасности [3].
Отсутствие единообразного определения понятия «кибертерроризм» влечёт определённые трудности не только в доктринальном смысле, но и на законодательном уровне и уровне правоприменения. Таким образом, необходимо, учитывая многообразие форм преступных проявлений террористической направленности, определить понятие кибер-терроризма как в доктрине, так и на законодательном уровне.
Библиографический список
1. Weimann G. Cyberterrorism: How Real Is the Threat? URL: https://www.usip.org/sites/default/files/sr119.pdf (дата обращения: 11.11.2023).
2. Denning D. Cyberterrorism Testimony before the Special Oversight Panel on Terrorism, Committee on Armed Services, U.S. House of Representatives, 23 May 2000, Terrorism Research Center. URL: http://www.terrorism.com/documents/denning-testimony.shtml (дата обращения: 11.11.2023).
3. Гаврилов Ю. В., Смирнов Л. В. Современный терроризм: сущность, типология, проблемы противодействия. М.: ЮИ МВД РФ, 2003. 66 с.
© Далгалы Т. А., 2023
УДК 340.3:004.8
ОТВЕТСТВЕННОСТЬ ЗА ВРЕД, ПРИЧИНЁННЫЙ В РЕЗУЛЬТАТЕ ИСПОЛЬЗОВАНИЯ ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПРОБЛЕМЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ
Загвозкин Василий Дмитриевич,
студент
Научный руководитель — В. Н. Козлова, старший преподаватель кафедры гражданско-правовых и уголовно-правовых дисциплин Хакасский государственный университет им. Н. Ф. Катанова (г. Абакан)
В статье рассматриваются проблемы правового регулирования ответственности за деятельность с использованием технологии искусственного интеллекта и за вред, причинённый в результате такой деятельности. Анализируя формирующуюся в Российской Федерации законодательную базу и опираясь на международный опыт, автор предлагает дополнить Гражданский кодекс Российской Федерации нормой о возложении ответственности за вред, причинённый в результате действий с использованием технологии искусственного интеллекта, на его разработчика, а если технология используется с противоправными целями, то непосредственно на пользователя. Отмечается, что подобное правовое регулирование будет способствовать формированию единообразной правоприменительной практики и устранит пробел правового регулирования рассматриваемых вопросов в российском законодательстве.
Ключевые слова: искусственный интеллект, технология искусственного интеллекта, ответственность, гражданско-правовая ответственность, разработчик, пользователь.
LIABILITY FOR HARM CAUSED AS A RESULT OF THE USE OF ARTIFICIAL INTELLIGENCE TECHNOLOGY: PROBLEMS OF LEGAL REGULATION
Zagvozkin Vasily Dmitrievich,
student
Scientific supervisor — V. N. Kozlova, Senior Lecturer of the Civil and Criminal Law Disciplines Department Katanov Khakass State University (Abakan)
The article discusses the problems of legal regulation of liability for activities using artificial intelligence technology and for harm caused as a result of such activities. Analyzing the legislative framework that is forming in the Russian Federation and relying on international experience, the author proposes to supplement the Civil Code of the Russian Federation with a provision imposing liability for harm caused as a result of actions using artificial intelligence technology on its developer, and if the technology is used for illegal purposes — then directly to the user. It is noted that such legal regulation will contribute to the formation of uniform law enforcement practice and will eliminate the gap in legal regulation of the issues under consideration in Russian legislation.
Key words: artificial intelligence, artificial intelligence technology, liability, civil liability, developer, user.
В последние годы искусственный интеллект всё более активно внедряется в нашу повседневную жизнь. Он находит применение не только в сфере высоких технологий, но и в различных аспектах нашей жизни. Искусственный интеллект приносит значительные выгоды, помогая экономить время людей, выполнять опасные работы, которые могут нанести вред их здоровью, анализировать значительные объёмы информации и т. д.
Однако искусственный интеллект далеко не идеален. Это достаточно новая технология, которая постоянно совершенствуется. Ошибки и недостатки в программном обеспечении встречаются довольно часто. Учитывая популярность и всеобъемлющее использование такой технологии, мы должны осознавать значительный риск того, что искусственный интеллект может нанести вред. Например, в последнее время активно тестируется искусственный интеллект в системе автоматического управления транспортным средством, благодаря которому не будет требоваться водитель. Возникает вопрос о том, кто будет нести ответственность в случае, если такой автомобиль создаст ДТП и травмирует человека.
Развитие искусственного интеллекта в последние годы уже привело к осознанию необходимости правового регулирования данной области, включающего вопросы юридической ответственности за действия, совершённые с
применением такой технологии. Во многих странах, включая Россию, уже приняты стратегические документы по развитию искусственного интеллекта, которые позволят дальнейшее развитие и уточнение правового положения таких технологий. Также разрабатываются нормы, которые регулируют создание и эксплуатацию роботов и искусственного интеллекта.
Участие множества субъектов в разработке и использовании искусственного интеллекта (разработчиков, провайдеров данных, создателей, пользователей и т. д.) приводит к сложности определения того, кто должен нести ответственность за возможный вред, вызванный искусственным интеллектом. Возникает множество проблематичных вопросов, связанных с определением субъекта ответственности, которые требуют учёта следующих факторов:
1) был ли нанесён ущерб при использовании искусственного интеллекта и соблюдались ли пользователем инструкции? Существуют ли какие-либо общие или конкретные ограничения в системе искусственного интеллекта и были ли они переданы пользователю? Ответы на эти вопросы определят степень вины пользователя или владельца технологии в случае инцидента;
2) если ущерб был нанесён во время обучения системы искусственного интеллекта, кто несёт ответственность - разработчик или поставщик данных?
3) можно ли проследить ущерб до стадии разработки или производства системы искусственного интеллекта? Это позволит определить ответственность дизайнера или производителя и т. д.
Одной из главных правовых проблем, связанных с юридической ответственностью искусственного интеллекта и связанных с ним технологий, является вопрос о распределении ответственности за действия искусственного интеллекта между задействованными субъектами - разработчиком, владельцем, непосредственным пользователем и другими.
В последние годы многие страны начали активно разрабатывать правовые нормы для регулирования действий искусственного интеллекта. В Европе, например, предложено модернизировать существующие правила строгой ответственности производителей за дефектную продукцию (включая цифровые продукты), чтобы создать правовую определённость, которая позволит производителям вкладывать в инновационные продукты и одновременно обеспечивать справедливую компенсацию для пострадавших от дефектных продуктов.
Целенаправленная гармонизация национальных правил ответственности за вред, нанесённый при использовании искусственного интеллекта, стала вторым шагом в развитии «закона Евросоюза об искусственном интеллекте» [2]. Эти новые правила призваны облегчить получение компенсации жертвами ущерба, связанного с искусственным интеллектом, и обеспечить им такие же стандарты защиты, как при причинении вреда в любых других случаях.
Сами правила находятся в стадии завершения процедуры принятия: их проект был опубликован Европейской комиссией в апреле 2021 года. Закон об искусственном интеллекте придаёт особое значение выполнению обязательств поставщика, т. е. лица, размещающего систему искусственного интеллекта на рынке
или вносящего в неё существенные изменения. Дистрибьюторы или импортёры системы искусственного интеллекта несут обязательства по её проверке перед выпуском на рынок.
Помимо этого, пользователи системы искусственного интеллекта также должны подчиняться требованиям ответственного проектирования, разработки, развёртывания и мониторинга. Они обязаны обеспечивать качество данных, мониторинг и протоколирование системы, а также соблюдать процедуры аудита, требования прозрачности и поддерживать систему, способную управлять рисками искусственного интеллекта.
В России также активно разрабатывается правовое регулирование для действий искусственного интеллекта. Указом президента РФ от 10 октября 2019 года были определены базовые термины и установлены принципы использования искусственного интеллекта: безопасность и технологический суверенитет [3]. Внимание также уделяется прозрачности и защите гражданских прав и свобод.
Необходимо отметить также распоряжение Правительства Российской Федерации от 19 августа 2020 года, посвящённое развитию регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года [4]. Документ затрагивает вопросы регулирования оборота данных и юридической ответственности при использовании искусственного интеллекта, а также обсуждает информационную безопасность и возможности применения искусственного интеллекта в различных сферах жизни, таких как транспорт, космическая деятельность, медицина и другие.
Подписанный в 2021 году кодекс этики в сфере искусственного интеллекта [5] фактически является рекомендательным, однако он стал весьма значимым шагом в формировании единого правового регулирования для развития искусственного интеллекта в России. Важными принципами, которым отводится перво-
степенное значение при внедрении и использовании ИИ, являются ответственность, конфиденциальность и безопасность.
Параллельно с введением кодекса в России также устанавливаются различные экспериментальные правовые режимы с целью создания необходимых условий для разработки и применения искусственного интеллекта, что способствует развитию правовой базы для инноваций. Например, обсуждается законопроект о беспилотных автомобилях, который должен регулировать вопросы ответственности как компаний, разрабатывающих такие технологии, так и владельцев транспортных средств.
В различных секторах также разрабатываются специальные правила для борьбы с рисками, связанными с использованием систем искусственного интеллекта. Например, в Великобритании предлагается введение правил, согласно которым основную ответственность за аварии, вызванные автономными транспортными средствами, несут страховщики. Кроме того, рассматривается возможность создания специальных компенсационных фондов в качестве альтернативного инструмента для возмещения вреда.
В целом в мире наблюдается тенденция к созданию правил, регулирующих новые технологии, которые позволяют использовать
науку и прогресс в интересах человека, сохраняя одновременно безопасность и защищая интересы отдельных лиц и общества в целом. Важным является закрепление норм, регулирующих ответственность за вред, причинённый в результате использования технологии искусственного интеллекта, в особых статьях гражданского законодательства. Например, представляется целесообразным добавить в Гражданский кодекс РФ статью 1079.1 [6], которая определит, что компания или организация, занимавшаяся разработкой технологии искусственного интеллекта, должна возмещать причинённый вред.
Однако если пользователь применяет технологию искусственного интеллекта для незаконных действий, например для изготовления взрывчатых веществ или совершения террористических актов, то ответственность за такой вред должна лежать на самом пользователе. Это также следует закрепить в предлагаемой статье Гражданского кодекса РФ.
Принятие предложенной нормы позволит установить единый подход к вопросу ответственности за деятельность, связанную с использованием технологии искусственного интеллекта, включая случаи, когда технология используется не по назначению или возникают системные ошибки или технические сбои.
Библиографический список:
1. Апостолова Н. Н. Ответственность за вред, причинённый искусственным интеллектом // Северо-Кавказский вестник. 2021. № 1. С. 112-119.
2. Европарламент одобрил закон об искусственном интеллекте [Электронный ресурс]. URL: https://pravo.ru/news/247025/ (дата обращения: 20.11.2023).
3. О развитии искусственного интеллекта в Российской Федерации: Указ Президента РФ: от 10 окт. 2019 г. № 490. URL: http://www.pravo.gov.ru [Официальный интернет-портал правовой информации] (дата обращения: 20.11.2023).
4. Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.: Распоряжение Правительства РФ от 19 авг. 2020 г. № 2129-р. URL: http://www.pravo.gov.ru [Официальный интернет-портал правовой информации] (дата обращения: 20.11.2023).
5. Кодекс этики в сфере искусственного интеллекта. URL: https://a-ai.ru/wp-content/uploads/2021/10/Кодекс_ этнки_в_сфере_ИИ_финальный^£ (дата обращения: 20.11.2023).
6. Гражданский кодекс Российской Федерации, часть первая от 26 янв. 1996 г. № 14-ФЗ: в ред. Федер. закона от 24 июля 2023 г. № 339-ФЗ // Собр. законодательства Рос. Федерации. 1996. № 5. Ст. 410; Рос. газ. 1994. 08 дек.; 2023. 31 июля.
© Загвозкин В. Д., 2023
