CC BY
17
Формирование представлений о возможностях регулирования деятельности генеративных нейросетей в правовом дискурсе
Михаленко Никита Алексеевич,
аспирант, ФГАОУ ВО «Самарский государственный экономический университет» E-mail: bote2018@gmail.com
В статье автор предлагает ознакомиться с исследованием правового регулирования генеративных нейросетей, теоретической базой которого послужили работы российских правоведов, а также работы китайских ученых, опубликованные на русском языке. Для достижения поставленной цели автором анализируется нормативная основа в сфере регулирования искусственного интеллекта и даётся характеристика правовых последствий его применения. Для получения примеров использовались нейросети, находящиеся в открытом доступе в русскоязычном сегменте сети Интернет. Поскольку в ближайшем будущем возможно расширение сфер применения генеративных нейросетей, вопрос их правового регулирования является актуальным.
Ключевые слова: генеративные нейросети, дипфейки, генерирование контента, субъект права, правовое регулирование.
Введение
Технологии искусственного интеллекта, в том числе искусственные нейросети, стали широко распространяться во всех сферах жизни общества. Ввиду их новизны законодательство оказалось не готовым к их регулированию. На практике было установлено, что отношения с использованием нейросетей представляют собой принципиально новые правоотношения, для регулирования которых нужны специальные нормы.
Существующие в настоящее время генеративные нейросети способны создавать (генерировать) тексты, изображения, а также аудио и видеопроизведения на основе обучающих данных. Сфера их применения разнообразна: они применяются в обучении, медицине, работе правоохранительных органов -везде, где необходима обработка большого объема данных. Также они применяются в творческой сфере.
Кроме того, нейросетями могут создаваться не только созданные по запросу пользователя изображения или аудиопроизведения, но и так называемые дипфейки, в основе которых лежит изучение нейросетью внешности или голоса человека с последующим его «оживлением» в виде аудио-произведения1, что в настоящее время представляет угрозу национальной безопасности2.
Целью исследования является изучение правового регулирования генеративных нейросетей. Объектом выступают генеративные нейросети. Предметом - правовое регулирование генеративных нейросетей.
Теоретической основой исследования послужили работы российских правоведов, а также работы китайских ученых, опубликованные на русском языке, среди которых: Н. Гу, А.С. Киселёв, А.Ю. Копылов, В.А. Лаптев, Морхат, Ревинский, В.С. Савина, В.Н., Синельникова, Ю.С. Харитонова, Б. Чэнь, Ц. Юань.
Методологическую основу исследования составляет диалектико-материалистический метод научного познания, а также формальнологический, сравнительно-правовой, классификации, аналогии, синтеза, моделирования.
Основная часть
В Российской Федерации основным нормативным актом, регулирующим сферу искусственного ин-
1 Киселёв А.С. О необходимости правового регулирования в сфере искусственного интеллекта: дипфейк как угроза национальной безопасности // Московский юридический журнал. 2021. № 3. С. 57.
2 Указ Президента РФ от 02.07.2021 № 400 «О Стратегии национальной безопасности Российской Федерации» // Собрание законодательства РФ. 2021. № 27 (часть II). Ст. 5351.
5 -а
сз
<
теллекта, является Национальная стратегия развития искусственного интеллекта1. На формирование основ правового регулирования рассматриваемой сферы нацелена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г..2
Попытка решить вопрос о признании нейросети субъектом права была предпринята П.М. Морхар-том, которым был предложен новый субъект права - электронное лицо, в котором сочетались бы элементы правоспособности как физического, так и юридического лица3. Полагаем, что в настоящее время реализация подобной концепции может породить проблемы в правоприменении, а также потребовать существенного реформирования законодательства.
Произведение, созданное нейросетью, не относится к охраняемым результатам интеллектуальной деятельности, потому что нейросеть не является человеком. Вопрос признания за нейросетью возможности быть автором произведения является дискуссионным.
Так, В.А. Лаптев предлагает признавать нейросети первоначальным субъектом интеллекту-
4
альных прав на сгенерированное произведение . Данная позиция обосновывается с точки зрения косвенного участия человека, который только формирует необходимый запрос, и дальнейшей самостоятельной деятельности нейросети.
В.Н. Синельниковой была высказана точка зрения, согласно которой авторские права на результаты деятельности нейросети возникают у ее разработчика, поскольку сама нейросеть является результатом интеллектуальной деятельности разработчика, и чем подробнее проработан код программы, тем лучше результат она может предоставлять по запросу непосредственного пользователя5.
В связи с ростом популярности использования генеративных нейросетей для создания произведений Ю.С. Харитонова предлагает создать специальный реестр, в котором будут регистрироваться произведения, созданные нейросетями6. Она полагает, что наличие такого реестра, основанного на объединении объектов по признаку использо-
1 Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
2 Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» // Собрание законодательства РФ. 2020. № 35. Ст. 5593.
3 Морхат П.М. Правосубъектность юнитов искусственного интеллекта. Гражданско-правовое исследование. Москва: ЮНИТИ-ДАНА, 2018. С. 311.
4 Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 92.
" 5 Синельникова В.Н., Ревинский О.В. Права на результаты Л искусственного интеллекта // Копирайт.2017. № 4. С. 25.
О 6
ем Харитонова Ю.С., Савина В.С. Технология искусственно-
го интеллекта и право: вызовы современности // Вестник Перм-^ ского университета. Юридические науки. 2020. № 49. С. 537.
вания нейросети при их создании, выполняющего информационно-справочную функция, позволит решить ряд проблем, связанных с применением нейросетей для создания произведений.
А.Ю. Копылов в целях разграничения результатов деятельности человека и нейросети для признания его объектом авторского права предлагает использовать критерий творчества7.
Поскольку понятие творчества и признаки творческой деятельности законодательно не закреплены, вопрос о творческом характере создания того или иного произведения решается судами при рассмотрении споров индивидуально для каждого из них. Так, Судебная коллегия по гражданским делам Верховного Суда РФ в определении о направлении дела на новое апелляционное рассмотрение указала, что при отнесении объекта к результатам интеллектуальной деятельности к ним можно отнести только результат, который создан творческим трудом. При этом любой результат интеллектуальной деятельности предполагается созданным творческим трудом до тех пор, пока не будет доказано обратное8.
Многие произведения, находящие в открытом доступе, не известны широкому кругу лиц, в связи с чем результат, в котором, например, по сравнению с оригиналом, пользующимся правовой защитой, изменена цвета, пользователем будет восприниматься как что-то уникальное. Заказчик, которому впоследствии будет предоставлен такой результат, также может не знать о нарушении прав автора произведения, которое нейросеть взяла за основу, а его использование в коммерческой деятельности может повлечь привлечение к ответственности. Таким образом, пользователь должен обладать достаточной компетентностью в своей сфере, чтобы идентифицировать полученный результат генерации как неуникальный.
Поскольку для обучения нейросетей используются открытые данные, находящиеся в сети Интернет, которые не всегда являются достоверными, имеются риски получения от нейросетей ложной информации. Даже в случае, когда обрабатываемая нейросетью информация получена из достоверных источников, не исключен риск генерирования ложной информации в результате алгоритмической интеграции данных. Это может быть связано и с тем, что в базовой структуре данных для нейросетей преобладает англоязычный сегмент, в котором искажены сведения о других странах,
9
что оказывает влияние на результаты генерации . Примечательно, что нейросеть, интегрированная в Яндекс, не генерирует ответы на подобные запросы.
7 Копылов А.Ю. Творчество как условие охраноспособности произведения // Имущественные отношения в РФ. 2019. № 12 (219). С. 60. .
8 Определение Судебной коллегии по гражданским делам Верховного Суда Российской Федерации от 27.06.2023 № 5-КГ23-51-К2 // СПС КонсультантПлюс.
9 Юань Ц. Исследование способность ответственности генеративного искусственного интеллекта // Восточное право. 2023. № 3. С. 23.
Китайские исследователи указывают, что наличие в ответах нейросети ценностных предубеждений способно создать угрозу подрыва национального суверенитета1. В настоящее время КНР стремится к инновациям в области регулирования использования искусственного интеллекта путем совершенствования алгоритмов для качественной фильтрации контента2. При этом отмечается, что в управлении технологиями искусственного интеллекта в виду их сложности должно участвовать не только государство, но и граждане и организа-ции3. Можно провести аналогию с проектом, запущенным Минцифры России в феврале 2023 г., когда безопасность портала Госуслуг была проверена «белыми хакерами», которые искали уязвимости и баги системы4. Также отмечается, что более действенными полагаются требования о соблюдении при разработке технологий искусственного интеллекта этических норм, нежели наложение строгих запретов и ограничений, поскольку последние могут существенно тормозить прогресс в этой области.
Помимо угроз национальной безопасности, применение генеративных нейросетей в отсутствии их четкого правового регулирования влечет за собой проблемы правового характера. Использование нейросетей предполагает сбор всех данных, которые вводят пользователи, их сбор, анализ и дальнейшее использование для обучения нейросети и генерации результатов в дальнейшем. Кроме того, существуют технологии сбора персональных данных, которые размещены в открытом доступе (например, в социальных сетях, справочниках и т.д.), в том числе захвата данных со связанных аккаунтов. Вместе с тем, Верховный Суд РФ указал, что данные, размещенные пользователем в своих социальных сетях, не относятся к общедоступным, и нельзя осуществлять их сбор и обработку без получения согласия.
Заключение
Вопросы правового регулирования генеративных нейросетей являются актуальными для всех стран мира, и их решение во многом зависит от внутренней и внешней политики того или иного государства. Помимо угроз национальной безопасности, применение генеративных нейросетей в отсутствии их четкого правового регулирования влечет за собой проблемы правового характера. Технологии искусственного интеллекта активно будут развиваться
1 Чэнь Б. Основа верховенства права для достоверного развития генеративного искусственного интеллекта // Вестник Шанхайского института политики и права. 2023. № 4. С. 14.
2 Гу Н. Эмерджентная способность, регулирование рисков и промышленная координация генеративного искусственного интеллекта // Цзиньчу правоведение. 2023. № 3. С. 83.
3 Ван Я., Янь Х. Итерация рисков и регуляторные инновации генеративного искусственного интеллекта - на примере СГ^РТ // Ежемесячная теория. 2023. № 6. С. 21.
4 Госуслуги прошли проверку «белыми хакерами»: Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации. https://digital.gov.ru/ru/ вуег^з/44375/ (дата обращения: 12.01.2024).
в дальнейшем, также будет расширяться и сфера их применения.
Нормативное регулирование как сферы искусственного интеллекта в общем, так и генеративных нейросетей в частности, существующее в Российской Федерации в настоящее время, не позволяет решать актуальные вопросы, возникающие в общественных отношениях, связанных с применением генеративных нейросетей. Для их решения полагаем возможным использовать опыт зарубежных стран, а также принять меры, позволяющие на время нивелировать негативные последствия отсутствия правового регулирования генеративных нейросетей:
1. Необходимо считать автором произведения, созданного при помощи искусственного интеллекта, пользователя, по запросу которого было сгенерировано произведение, до тех пор, пока не будет доказано обратное.
2. В случае возникновения спора лицо, считающееся автором произведения, в обоснование своей позиции должно предоставить доказательства, свидетельствующие о надлежащей переработке исходного произведения, полученного путем использования нейросетей.
3. В договорах, по которым заказчику важна творческая составляющая предмета договора, полагаем необходимым отдельно указывать на возможность использования искусственного интеллекта.
4. Установить законодательный запрет на применение технологий искусственного интеллекта в сферах, связанных с охраняемой законом тайной, либо обязать использовать такие нейросети, которые специально разработаны специально для этих сфер деятельности и являются «закрытыми» (по примеру автоматизированных информационно-поисковых систем, используемых в деятельности по раскрытию преступлений).
Полагаем, что предложенные меры позволят осуществлять правовое регулирование генеративных нейросетей до момента разработки и принятия специального законодательства.
Реформирование действующего законодательства под новые технические реалии является необходимым для устойчивости правового регулирования общественных отношений и минимизации рисков, связанных с ситуациями, не урегулированными законодательно.
Литература
1. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
2. Указ Президента РФ от 02.07.2021 № 400 «О Стратегии национальной безопасности Российской Федерации» // Собрание законодательства РФ. 2021. № 27 (часть II). Ст. 5351.
5 -о
сз
<
3. Определение Судебной коллегии по гражданским делам Верховного Суда Российской Федерации от 27.06.2023 № 5-КГ23-51-К2 // СПС КонсультантПлюс.
4. Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» // Собрание законодательства РФ. 2020. № 35. Ст. 5593.
5. Гу Н. Эмерджентная способность, регулирование рисков и промышленная координация генеративного искусственного интеллекта // Цзиньчу правоведение. 2023. № 3. С. 70-83.
6. Киселёв А.С. О необходимости правового регулирования в сфере искусственного интеллекта: дипфейк как угроза национальной безопасности // Московский юридический журнал. 2021. № 3. С. 54-64.
7. Копылов А.Ю. Творчество как условие охраноспособности произведения // Имущественные отношения в РФ. 2019. № 12 (219). С. 56-62.
8. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79-102.
9. Морхат П.М. Правосубъектность юнитов искусственного интеллекта. Гражданско-правовое исследование. Москва: ЮНИТИ-ДАНА, 2018. 420 с.
10. Синельникова В.Н., Ревинский О.В. Права на результаты искусственного интеллекта // Копирайт.2017. № 4. С. 17-27.
11. Харитонова Ю.С., Савина В.С. Технология искусственного интеллекта и право: вызовы современности // Вестник Пермского университета. Юридические науки. 2020. № 49. С. 524549.
12. Чэнь Б. Основа верховенства права для достоверного развития генеративного искусственного интеллекта // Вестник Шанхайского института политики и права. 2023. № 4. С. 13-27.
13. Юань Ц. Исследование способность ответственности генеративного искусственного интеллекта // Восточное право. 2023. № 3. С. 1833.
14. Госуслуги прошли проверку «белыми хакерами»: Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации. URL: https://digital.gov.ru/ru/events/44375/ (дата обращения: 12.01.2024).
FORMATION OF IDEAS ABOUT THE POSSIBILITIES OF REGULATING THE ACTIVITIES OF GENERATIVE NEURAL NETWORKS IN THE LEGAL DISCOURSE
Mikhalenko N.A.
Samara State University of Economics
In the article, the author suggests familiarizing yourself with the study of the legal regulation of generative neural networks, the theoretical basis of which was the work of Russian legal scholars, as well as the works of Chinese scientists published in Russian. To achieve this goal, the author analyzes the regulatory framework in the field of regulation of artificial intelligence and characterizes the legal consequences of its use. To obtain examples, we used neural networks that are publicly available in the Russian-I anguage segment of the Internet. Since in the near future it is possible to expand the scope of application of generative neural networks, the issue of their legal regulation is relevant.
Keywords: generative neural networks, deepfakes, content generation, subject of law, legal regulation.
References
1. Decree of the President of the Russian Federation dated October 10, 2019 No. 490 "On the development of artificial intelligence in the Russian Federation" (together with the "National strategy for the development of artificial intelligence for the period until 2030") // Collection of legislation of the Russian Federa-tion2019. No. 41. Art. 5700.
2. Decree of the President of the Russian Federation dated July 2, 2021 No. 400 "On the National Security Strategy of the Russian Federation" // Collection of legislation of the Russian Federation. 2021. No. 27 (part II). Art. 5351.
3. Determination of the Judicial Collegium for Civil Cases of the Supreme Courtofthe Russian Federation dated June 27, 2023 No. 5-KG23-51-K2 // SPS ConsultantPlus.
4. Order of the Government of the Russian Federation dated August 19, 2020 No. 2129-r "On approval of the Concept for the development of regulation of relations in the field of artificial intelligence and robotics technologies until 2024" // Collection of legislation of the Russian Federation. 2020. No. 35. Art. 5593.
5. Gu N. Emergent ability, risk regulation and industrial coordination of generativeartificial intelligence // Jinchu Law. 2023. No. 3. P. 70-83.
6. Kiselev A.S. On the need for legal regulation in the field of artificial intelligence: deepfake as a threat to national security // Moscow Legal Journal. 2021. No. 3. P. 54-64.
7. Kopylov A. Yu. Creativity as a condition for the protection of a work // Propertyrelations in the Russian Federation. 2019. No. 12 (219). pp. 56-62.
8. Laptev V.A. The concept of artificial intelligence and legal responsibility for its work // Law. Journal of the Higher School of Economics. 2019. No. 2. P. 79-102.
9. Morkhat P.M. Legal personality of artificial intelligence units. Civil research.Moscow: UNITY-DANA, 2018. 420 p.
10. Sinelnikova V.N., Revinsky O.V. Rights to the results of artificial intelligence//Copyright.2017. No. 4. pp. 17-27.
11. Kharitonova Yu.S., Savina V.S. Artificial intelligence technology and law: challenges of our time // Bulletin of Perm University. Legal sciences. 2020.No. 49.pp. 524-549.
12. Chen B. The basis of the rule of law for the reliable development of generativeartificial intelligence // Bulletin of the Shanghai Institute of Politics and Law. 2023. No. 4. pp. 13-27.
13. Yuan Q. Study of the responsibility ability of generative artificial intelligence//Eastern law. 2023. No. 3. P. 18-33.
14. Public services have been checked by "white hackers": the Ministry of Digital Development, Communications and Mass Media of the Russian Federation. URL: https://digital.gov.ru/ru/ events/44375 / (date of access: 12.01.2024).
