На пути к правовому регулированию генеративного ИИ в творческой индустрии Текст научной статьи по специальности «Право»

Научная статья

УДК 34:004:34.096:347.211:004.8

EDN: https://elibrary.ru/wxwsvu

DOI: https://doi.org/10.21202/jdtl.2023.38

з

%

Check for updates

На пути к правовому регулированию генеративного ИИ в творческой индустрии

Наталья Игоревна Шумакова м ф

Южно-Уральский государственный университет (национальный исследовательский университет) г. Челябинск, Российская Федерация

Джордан Дж. Ллойд ®

Компания «Unseen History» г. Эссекс, Великобритания

Елена Викторовна Титова 0

Южно-Уральский государственный университет (национальный исследовательский университет) г. Челябинск, Российская Федерация

Ключевые слова

Аннотация

авторское право, генеративный искусственный интеллект, интеллектуальная собственность, искусственный интеллект, международное право, нейронная сеть, объект авторского права, субъект авторского права, творческая индустрия, цифровые технологии

Цель данной статьи - ответить на следующие вопросы: 1. Может ли генеративный искусственный интеллект быть субъектом авторского права? 2. К каким рискам может привести нерегулируемое использование систем генеративного искусственного интеллекта? 3. Какие правовые пробелы необходимо закрыть для минимизации таких рисков? Методы: сравнительно-правовой анализ, социологический метод, частно-социологический метод, количественный и качественный анализ данных, статистический анализ, метод кейсов, индукция, дедукция. Результаты: авторы выявили ряд рисков, возникающих при нерегулируемом использовании генеративного искусственного интеллекта в творческой индустрии, среди которых нарушение авторского и трудового права, нарушение прав потребителей и рост недоверия населения к власти. Авторы полагают, что оперативная разработка новых правовых норм может минимизировать эти риски. В заключение констатируется, что государства уже начали осознавать опасность игнорирования негативного влияния генеративного искусственного интеллекта на творческую индустрию, что обусловливает разработку аналогичных правовых норм в государствах с совершенно разными режимами.

н Контактное лицо

© Шумакова Н. И., Ллойд Дж. Дж., Титова Е. В., 2023

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

Научная новизна: в работе проведено комплексное исследование влияния генеративного искусственного интеллекта на творческую индустрию с двух точек зрения: с позиции права и с позиции индустрии. Эмпирическую базу составляют два международных исследования и экспертное мнение представителя отрасли. Такой подход позволил авторам повысить объективность исследования и получить результаты, которые могут быть использованы для поиска практического решения выявленных рисков. Проблема непрерывного развития и роста популярности систем генеративного искусственного интеллекта выходит за рамки вопроса «кто автор?», поэтому ее необходимо решать путем внедрения иных, нежели уже существующих, механизмов и правил. Данная точка зрения подтверждается не только результатами проведенных исследований, но и анализом текущих судебных исков к разработчикам систем генеративного искусственного интеллекта.

Практическая значимость: полученные результаты могут быть использованы для ускорения разработки универсальных правовых норм, правил, инструментов и стандартов, отсутствие которых в настоящее время представляет угрозу не только для прав человека, но и для ряда отраслей творческой индустрии и других областей.

Для цитирования

Шумакова, Н. И., Ллойд, Дж. Дж., Титова, Е. В. (2023). На пути к правовому регулированию генеративного ИИ в творческой индустрии. Journal of Digital Technologies and Law, 7(4), 880-908. https://doi.org/10.21202/jdtl.2023.38

Содержание

Введение

1. Голос закона

2. Голос индустрии

2.1. Генеративный ИИ как субъект авторского права, продукты генеративного ИИ как объекты авторского права

2.2. Плагиат, нарушение авторских прав и другие риски

2.3. Маркировка продуктов генеративного ИИ

2.4. Голос индустрии услышан Заключение

Список литературы

Введение

В 2023 г. даже те, кто никогда не проявлял интереса к разработке систем генеративного искусственного интеллекта (далее - ИИ), столкнулись с результатами их негативного влияния на творческую индустрию. Причиной послужили забастовки Гильдии киноактеров и Американской федерации артистов телевидения и радио (SAG-AFTRA) и Гильдии сценаристов Америки (WGA), которые привели к задержке

выпуска долгожданных работ1 и, как утверждается, могут в обозримом будущем изменить всю индустрию2.

Можно с уверенностью сказать, что названные забастовки повлияли на отношение ученых и практиков в области юриспруденции к использованию генеративного ИИ: от попыток выяснить, можно ли рассматривать генеративный ИИ в качестве автора и как защитить продукты, созданные искусственным интеллектом (Wan & Lu, 2021), они перешли к изучению его влияния на материальное положение представителей творческих профессий (Sparkes, 2022) и обсуждению требований к ответственности систем генеративного ИИ (Díaz-Rodríguez et al., 2023).

Принимая во внимание результаты предыдущих исследований, авторы данной статьи выявили необходимость проведения всестороннего анализа возможных рисков, связанных с нерегулируемым использованием генеративного ИИ. Чтобы выяснить, действительно ли он представляет собой экзистенциальную угрозу3 для творческой индустрии, был использован ряд междисциплинарных методов, проведено два опроса по этике использования генеративного ИИ в творческой индустрии и области культуры и получено мнение по данному вопросу представителя творческой индустрии. Все это определило тему данного исследования.

Статья состоит из двух глав: «Голос закона» и «Голос индустрии» - и отражает результаты проведенных опросов, статистику, результаты сравнительно-правового анализа, применения метода кейсов и т. д.

В заключение авторы констатируют, что, несмотря на отсутствие в настоящее время международного правового регулирования использования генеративных систем искусственного интеллекта в творческой индустрии, государства уже разрабатывают достаточно схожие между собой законодательные проекты, конечной целью которых является повышение ответственности компаний, производящих и/или владеющих генеративными системами искусственного интеллекта; при этом ключевыми моментами являются своевременные принятие и применение таких норм с целью снижения выявленных рисков и предотвращения возможного ущерба.

1. Голос закона

Попытки изобрести робота, способного создавать что-либо, не новы. Фактически первые роботы, имитирующие творческий процесс, появились более 500 лет назад, и сразу же возник вопрос, смогут ли они заменить настоящего человека4. В XVIII в. их называли автоматами и они были очень популярны; именно тогда Пьер Жаке-Дро создал свои знаменитые автоматы, которые рисовали картины, играли на музыкальных инструментах и развлекали публику другими способами, действуя по

Kelley, S. (2023, September 19). All the major movies and TV shows delayed by the strikes. Los Angeles Times. https://clck.ru/36n37w

Belloni, M., & Shaw, L. (2023, September 18). The Strike's Permanent Damage: Who Will Suffer the Most? The Ringer. https://clck.ru/36n38d

We're Fighting for the Survival of Our Profession. SAG-AFTRA Strike. https://clck.ru/36n39G

Marvellous machines: early robots. (2018, November 20). Science Museum. https://goo.su/Scuk

1

2

заложенной в них программе5. Будет справедливо сказать, что системы генеративного ИИ функционируют примерно так же, как те ранние роботы, - они делают то, на что их запрограммировали, применяя различные техники для создания продукта на основе данных, использованных во время их обучения. Тем не менее уже многие годы ученые задаются вопросом, не сильно отличающимся от того, что был задан три столетия назад: «Может ли генеративный ИИ быть творцом?» (Соменков, 2019). Как правило, за этим вопросом сразу же следует другой - «Могут ли продукты генеративного ИИ быть объектом прав интеллектуальной собственности и авторского права?» (Агибалова, Перекрёстова, 2020). Ответить на эти вопросы можно по-разному. Но уже одно это свидетельствует о том, что современный правовой статус генеративных систем ИИ остается неопределенным (Stokel-Walker, 2023). Здесь мы скорее согласны с той точкой зрения, что важнее решить вопрос взаимоотношений человека и машины в творческом процессе, а также вопрос о меняющемся характере круга заинтересованных сторон, вовлеченных в этот процесс, поскольку ответы на них можно найти в действующем законодательстве большинства стран (Fenwick & Jurcys, 2023). При этом стоит отметить, что есть и исключения, например, Китай и Новая Зеландия. Если посмотреть на иски и судебные решения в Китае, то можно заметить, что в этой стране практикуется неоднозначный подход к признанию объекта авторского права. Так, в работе Wan & Lu (2021) приводятся два примера: 1) в деле Beijing Film Law Firm vs. Beijing Baidu Netcom Science & Technology Co Ltd Пекинский интернет-суд пришел к выводу, что объект спора был полностью сгенерирован искусственным интеллектом и, следовательно, не может охраняться авторским правом; 2) в деле Shenzhen Tencent Computer System Co Ltd vs. Shanghai Yingxun Technology Co Ltd суд района Наньшань г. Шэньчжэнь проанализировал действия реального человека в процессе генерации объекта спора и постановил, что его результат подлежит охране в соответствии с Законом об авторском праве Китая. Новая Зеландия, в свою очередь, избрала совершенно иной подход. Согласно разделу «Интерпретация» Закона об авторском праве (1994 г.), «понятие 'созданное компьютером' применительно к произведению означает, что произведение создано компьютером в условиях, при которых человек как автор произведения отсутствует»6, поэтому теоретически по логике этой нормы генеративный ИИ может быть субъектом авторского права, а его продукты - объектами авторского права. Однако ст. 5 «Значение авторства» не включает его в список возможных авторов; более того, в ней говорится, что «автором произведения является лицо, его создавшее»7, что опять же вызывает неопределенность правового статуса генеративного ИИ.

В России пока не разработано специального правового регулирования использования генеративного ИИ в творческой индустрии, но для целей данного исследования важно изучить рекомендации и комментарии юристов и экспертов по вопросам защиты генерируемых продуктов. Одни специалисты настаивают на необходимости разработки новых механизмов и институтов, позволяющих контролировать

5 DNA. Jaquet Droz. https://clck.ru/36nqDJ

6 Copyright Act 1994 No. 143. Version as at 31 May 2023. (2023). Parliamentary Council Office. https://clck. ru/36n3Ds

7 Там же.

генеративные системы искусственного интеллекта8; другие считают существующие правовые нормы достаточными для ответа на новые вызовы, связанные с развитием названных технологий и их использованием9. Имеющиеся открытые источники также дают интересные рекомендации для бизнеса по использованию генеративных систем искусственного интеллекта. Так, А. Семенов (IT Moscow Digital School) считает, что продукты, генерируемые искусственным интеллектом, не являются объектами авторского права, а значит, могут свободно использоваться в коммерческих целях10. Ю. Брисов (Digital & Analogue Partners) представляет противоположную точку зрения и рекомендует внимательно изучать условия, установленные создателями конкретной системы генеративного ИИ, поскольку, согласно им, субъектами авторского права могут быть не пользователи, а владельцы или создатели такой системы, и это относится не только к использованию российских генеративных систем ИИ11. Например, YandexArt ограничивает любое коммерческое использование изображений и текстов, сгенерированных с помощью их системы; кроме того, продукты, сгенерированные в приложении «Шедеврум», могут быть использованы в коммерческих целях самой компанией12. При этом, как ни странно, в пресс-релизе упомянутого приложения такой информации нет, более того, он производит прямо противоположное впечатление13.

Юристы из США и Великобритании также высказывали свое мнение по этому вопросу. Юридическая фирма Джозефа Савери на своей официальной странице утверждает, что продукты, созданные с использованием Stable Diffusion, DreamStudio, DreamUp и Midjourney, «нарушают права тысяч художников и творцов» и фактически накладывают «финансовую нагрузку»14. Это мнение совпадает с комментарием D. Lee (BDB Pitmans), в котором он подчеркивает, что даже отсутствие адекватной терминологии в случае использования генеративных систем ИИ может нанести вред. Юрист также указывает, что может быть «непросто» продемонстрировать конкретный вред из-за специфики процесса обучения таких систем. Кроме того, он предполагает, что использование генеративных систем искусственного интеллекта может нарушать права авторов, на произведениях которых эти системы обучались, поскольку «несанкционированное использование их произведений искусственным интеллектом может изменить их смысл, тем самым нанеся ущерб их репутации или художественной ценности произведения» (право оспаривать уничижительное обращение с произведением). Автор также добавляет, что в соответствии с действующим

8 Reshetnikova, A. (2019, October 29). Творец или инструмент в руках автора? Advokatskaya Gazeta. https://clck.ru/36n3Ge

9 Головоломка: взгляд юристов на искусственный интеллект. (2023, April 20). Advokatskaya Gazeta. https://clck.ru/36n3HJ

10 Kildyushkin, R. (2022, July 13). Стало известно, кому принадлежат авторские права на созданные нейросетями картинки. Gazeta.ru. https://goo.su/ER4l

11 Brisov, Yu. (2023, May 25). Можно ли использовать творчество нейросетей в бизнесе? Bisnes Secrety. https://clck.ru/36n3KB

12 Terms of us of Shedevrum. Yandex. https://clck.ru/3663j8

13 YandexArt. Ya.ru. https://clck.ru/36n3L9

14 AI Image Generator - Copyright Litigation. Joseph Savery Law Firm. https://clck.ru/36n3LZ

законодательством использование материалов, защищенных авторским правом, для обучения генеративного ИИ может рассматриваться как «правомерное»15.

Особое мнение имеет Бюро по авторским правам США. Согласно их решению от 21 февраля 2023 г., произведения, созданные искусственным интеллектом, не могут быть объектом авторского права. Более того, они отменили первоначальную регистрацию произведения, созданного с использованием Midjourney (комикс Кристины Каштановой), и признали объектом авторского права только его текст и «отбор, согласование и расположение текста, созданного автором», но не сгенерированные изображения16. Апелляционный суд Великобритании занимает аналогичную позицию. Согласно его недавнему решению, генеративные системы искусственного интеллекта не могут быть изобретателями и, следовательно, их продукты не могут считаться объектами патентного права17.

Нельзя обойти вниманием и позицию Австралии по отношению к использованию генеративных систем ИИ. Так, правительство Э. Албанезе считает генеративные системы ИИ экзистенциальной угрозой из-за их способности создавать «дип-фейки», распространять дезинформацию и влиять на демократические процессы другими способами, поэтому в последнее время обсуждается вопрос об их запрете или постановке под контроль18. Между тем, согласно недавнему исследованию, проведенному компанией BlackBerry Limited, 93 % австралийских компаний в настоящее время вводят или рассматривают возможность введения запрета на использование систем генеративного ИИ на рабочих местах, поскольку считают их угрозой как для безопасности, так и для репутации19. В своем исследовании20 BlackBerry Limited также показала, что эта тенденция является глобальной и 75 % компаний по всему миру разделяют точку зрения австралийцев на подобные цифровые технологии, хотя и признают, что они могут быть полезным инструментом.

Чтобы понять возможные негативные последствия использования генеративных систем ИИ, два комитета Палаты общин провели комплексные расследования, результаты которых были представлены в начале этого года21, 22. В обоих была выявлена реальная возможность нарушения авторских прав, прав интеллектуальной собственности, трудового законодательства, а также угроза массового производства дезинформации, дипфейков и другого противоправного контента, в случае если в ближайшее время не будут устранены существующие правовые пробелы,

15 AI authors - what a US lawsuit could mean for UK IP law. (2023, August 10). The Trademark Lawyer. https://clck.ru/36n3PR

16 Re: Zarya of the Dawn (Registration # VAu001480196). (2023, February 21). United States Copyright Office. https://clck.ru/36n3Pk

17 Neutral Citation Number: [2021] EWCA Civ 1374 Case No: A3/2020/1851. British and Irish Legal Information Institute. https://clck.ru/36n3Qb

18 Safe and responsible AI. (2023, June 1). Ministry for Industry and Science. https://goo.su/rs4z

19 Organisations in Australia set to ban ChatGPT and generative AI apps on work devices. APDR - Asia-Pasific Defense Reporter. (2023, August 14). https://clck.ru/36KzWP

20 Why Are So Many Organizations Banning ChatGPT? (2023, August 8). BlackBerry. https://clck.ru/36n3S4

21 UK Parliament. (2023). Connected tech: AI and creative technology: Eleventh Report of Session 2022-23. https://clck.ru/36n3Sf

22 UK Parliament. (2023). The governance of artificial intelligence: interim report: Ninth Report of Session 2022-23. https://clck.ru/36n3TN

в том числе в абстрактной терминологии. В целом рекомендации, представленные в первом отчете23, совпадают с рекомендациями британского Агентства по вопросам интеллектуальной собственности - необходимо изменить законодательство Великобритании, чтобы адекватно реагировать на вызовы, связанные с развитием цифровых технологий24. По результатам названных исследований был сформулирован перечень социальных издержек, к которым может привести нерегулируемое использование генеративных систем ИИ. Среди таких ущербов назовем деградацию информационной среды, дезорганизацию рынка труда, предвзятость и репутационные издержки25.

Тем не менее на сегодняшний день Китай является единственной страной, которая уже регулирует использование генеративных систем искусственного интеллекта, что обусловливает важность анализа подходов к их использованию. Документ «Временные меры по управлению сервисами генеративного искусственного интеллекта», вступивший в силу этом году, в ст. 7 обязывает обучать системы генеративного искусственного интеллекта только на данных, полученных с соблюдением этики, чтобы предотвратить возможное нарушение авторских прав или прав интеллектуальной собственности, а в ст. 12 обязывает поставщиков услуг генеративного искусственного интеллекта ставить на свои продукты соответствующую маркировку26. Китайские юристы поясняют, что, согласно новым правилам, провайдеры также обязаны маркировать данные, используемые в процессе исследований и разработок27, и утверждают, что при разработке этих мер было учтено мнение общественности28. А для того чтобы введенные правила заработали, Национальный технический комитет по стандартизации информационной безопасности выпустил «Руководство по стандартной практике сетевой безопасности - метод идентификации контента сервисов генеративного искусственного интеллекта», в котором подробно описано, как должны маркироваться продукты генеративного искусственного интеллекта и зачем это нужно делать29. Таким образом, можно утверждать, что Китай является пионером в области правового регулирования использования систем генеративного искусственного интеллекта.

2. Голос индустрии

Анализ современных попыток регулировать использование генеративных систем искусственного интеллекта показывает, что Великобритания и Китай стараются учитывать голос индустрий (как творческих, так и кибернетических) и потребителей их продукции. Действительно, голос человека-творца в последнее время стал слышен настолько

23 UK Parliament. (2023). Connected tech: AI and creative technology: Eleventh Report of Session 2022-23. https://clck.ru/36n3Sf

24 IPO Transformation programme: second consultation. (2023, August 22). GOV.UK. https://clck.ru/36n3zQ

25 AI safety summit. Department For Science, Innovation and Technology. https://clck.ru/36n3zq

26 ot 1994 № 143 // S^S^Nis!^^. (2023). - ^15^ 10.07.2023. https://goo.su/fbbG

27 Regulatory and legislation: China's Interim measures for the Management of Generative Artificial Intelligence Services officially implemented. (2023, August). https://clck.ru/36n43s

28 Cai, R., & Zhu, W. (2023, July 14). Comparative Analysis of China's New Generative AI Regulations. Zhong Lun. https://clck.ru/36n44e

29 - 2023 № TC260-PG-20233A. (2023). ^SÍB

https://goo.su/Gl6Shf1

громко, что даже Сенат США был вынужден к нему прислушаться30. Судебные иски, слушания в Конгрессе и, конечно, забастовки - все это можно считать признаками растущего общественного, а точнее политического, недоверия. И действительно, когда граждане той или иной страны чувствуют неуверенность в своем будущем (Kugukkomurler & Ozkan, 2022), ощущают, что их «бросили» (Stroppe, 2023), или считают, что их правительство не в состоянии предпринять соответствующие правовые действия для снижения рисков, которые эти граждане рассматривают как возможную угрозу, тогда они склонны к таким действиям, как забастовки, протесты и митинги (Torres & Bellinger, 2014). Не способствует разрешению ситуации и то, что такие медиагиганты, как Time, публикуют информацию о лоббировании «смягчения европейских правил в области ИИ»31 такими корпорациями, как OpenAI, и успехе этого лоббирования32. Более того, создается впечатление, что обычные переговорщики, вся цель существования которых заключается в представлении законных интересов творческой индустрии, поступают прямо противоположным образом33. Кроме того, лидеры мнений, такие как Алекс Винтер, также публично выражают свое политическое недоверие, обвиняя правительство в том, что оно «захвачено BigTech», и называя The People's Summit34 более важным, чем AI Safety Summit35, который, по их мнению, только ухудшит ситуацию, поскольку правительства «не могут защитить своих граждан»36. Отсюда вытекает важность изучения мнений представителей творческой индустрии и потребителей ее продукции. В данной статье представлены результаты двух международных опросов, проведенных одним из соавторов - Джорданом Дж. Ллойдом (далее его текст выделен курсивом).

Опросы проводились в социальных сетях и мессенджере Telegram с 11 июля по 11 октября 2023 г.

География опросов:

103 из 117 англоязычных респондентов предоставили информацию о своем месте жительства. Судя по ответам, они представляют 21 страну: США, Великобританию, Аргентину, Канаду, Бельгию, Германию, Францию, Норвегию, Нидерланды, Турцию, Данию, ЮАР, Чили, Чехию, Сербию, Австралию, Австрию, Италию, Ирландию, Новую Зеландию, Швецию (рис. 1). Абсолютное большинство из них работает в творческой индустрии - 85,5 %, и только 14,5 % англоязычных респондентов являются потребителями ее продукции (рис. 2).

30 Artificial Intelligence and Intellectual Property - Part II: Copyright. Subcommittee on intellectual property. https://clck.ru/36n3aE

31 Big Tech Is Already Lobbying to Water Down Europe's AI Rules. Time. https://clck.ru/36n3ak

32 Exclusive: OpenAI Lobbied the E.U. to Water Down AI Regulation. Time. https://clck.ru/36n3bJ

33 We're Fighting for the Survival of Our Profession. SAG-AFTRA Strike. https://clck.ru/36n39G

34 The People's AI Summit - The citizens. YouTube. https://clck.ru/36n3cb

35 AI Safety Summit: introduction. GOV.UK. https://clck.ru/36n4AB

36 AI's threat to democracy and labour looms large. UK's 'doomsday' AI summit is poised to make things worse. Big Issue. https://clck.ru/36n3dx

Необязательный вопрос: Из какой Вы страны? 103 ответа

20

15

10

0

Аргентина Чехия Италия ЮАР ... США Соединенные Штаты, N......

Бельгия Франция Норвегия Турция Великобритания Чили

Рис. 1

Г Л

Являетесь ли Вы представителем культурных/творческих профессий? (художник/ переводчик/музыкант/журналист/актер/писатель/дизайнер/копирайтер/другое) 117 ответов

Да Нет

Рис. 2

31 из 36 русскоязычных респондентов также предоставили такую информацию, и, судя по их ответам, они представляют четыре страны: Россию - 90,4 %, Молдову -3,2 %, Польшу - 3,2 % и Латвию - 3,2 %, причем абсолютное большинство из них также заняты в творческой индустрии - 72,2 %, а 27,8 % русскоязычных респондентов являются потребителями ее продукции.

Этика проведения опросов: опросы были анонимными; все респонденты были проинформированы о возможном использовании их ответов в научных целях.

2.1. Генеративный ИИ как субъект авторского права, продукты генеративного ИИ как объекты авторского права

В предыдущей главе мы установили, что ни у ученых, ни у законотворцев нет универсального понимания того, можно ли считать генеративный ИИ творцом. Г-н Ллойд излагает здесь свою точку зрения, согласно которой генеративный ИИ не может рассматриваться в качестве творца: «Законодательство об авторском праве в его нынешнем виде распространяется на произведения, созданные в результате человеческой

5

деятельности. Как отмечалось, создание запросов основано на человеческом воображении, но происходящий в результате этого процесс и созданный продукт таковыми не являются, поэтому не могут быть защищены авторским правом, если придерживаться преобладающей точки зрения. Я сравниваю генеративный ИИ с азартной игрой, такой как игровой автомат в казино. Вращение барабанов создает варианты, где вы можете зафиксировать определенные варианты, которые вам нравятся, а затем снова вращать барабан, чтобы достичь более желаемого результата. Примерно так же работают запросы при использовании генеративного ИИ». Вопрос, который всегда возникает при обсуждении правового статуса генеративного ИИ, заключается в том, можно ли защищать созданные с его помощью продукты как объекты авторского права и права интеллектуальной собственности. Опять же, как мы установили ранее, по букве закона в ряде стран это возможно. Но вопрос в том, следует ли это делать? «Нет, или, по крайней мере, следует создать новую форму системы защиты авторских прав/интеллектуальной собственности (ИС), чтобы включить активы, созданные ИИ, как отдельный объект, отличный от объекта существующего авторского права. Действующая система авторского права не идеальна, но она хорошо отлажена и приносит пользу как авторам, так и компаниям, занимающимся ИС. Защита и возмещение, предлагаемые существующей системой, конечно, находятся под угрозой из-за наплыва активов, созданных искусственным интеллектом. Я где-то читал, что всего девять месяцев потребовалось для создания такого количества 'новых' произведений искусства, которое было создано за всю историю человечества. Очевидно, что законодательство в области авторского права и ИС должно действовать быстро, чтобы защитить авторов оригинальных произведений».

Эти вопросы были заданы в ходе опросов, и их результаты явно свидетельствуют о том, что творческая индустрия и потребители ее продукции придерживаются единого мнения: 65 % англоязычных респондентов не считают, что продукты генеративного ИИ должны охраняться Законом об авторском праве (рис. 3), и столько же из них не считают, что продукты ИИ должны охраняться правами интеллектуальной собственности (рис. 4), тогда как 11,1 % ответили, что продукты, созданные с использованием ИИ, должны охраняться Законом об авторском праве (рис. 3), а 9,4 % предполагают, что такие продукты должны охраняться правами интеллектуальной собственности (рис. 4).

Должны ли работы, сгенерированные ИИ, быть защищены авторским правом? 117 ответов

23,9 %

11,1%

Да Нет

Не уверен

Должны ли работы, сгенерированные ИИ, быть защищены правами интеллектуальной собственности? 117 ответов

25,6 %

9,4 %

Да Нет

Не уверен

J V

Рис. 3

Русскоязычные респонденты отвечали на те же вопросы, и 61,1 % из них считают, что такие продукты не должны охраняться ни законом об авторском праве (рис. 5), ни правами интеллектуальной собственности (рис. 6). Однако 25 % русскоязычных респондентов считают, что продукты генеративного ИИ должны охраняться как объекты авторского права (рис. 5), и столько же полагают, что продукты генеративного ИИ должны охраняться правами интеллектуальной собственности (рис. 6).

Г Л

Должны ли работы, сгенерированные ИИ, быть защищены авторским правом?

117 ответов

3,9 %

15 %

Да Нет

Затрудняюсь ответить

Должны ли работы, сгенерированные ИИ, быть защищены правами интеллектуальной собственности? 117 ответов

13,9 %

25 %

Да Нет

Затрудняюсь ответить

Рис. 5

Рис. 6

Другой вопрос, на который еще предстоит ответить как создателям, так и потребителям: обладают ли созданные продукты художественной и культурной ценностью? И могут ли они на самом деле цениться так же высоко, как продукты творческого самовыражения человека? «Это очень хороший вопрос. Для меня проблема заключается в том, что обычный человек скоро не сможет отличить одно от другого. Творческая деятельность зависит от личных предпочтений и мнений. Для меня сейчас гораздо важнее процесс создания произведения, добавление контекста и человеческого воображения при работе с ним, и умные авторы будут включать видеозаписи процесса создания произведения в качестве маркера подлинности для своей аудитории. Даже самый недобросовестный 'художник по запросам' не сможет этого сделать. А они, конечно, пытались». Свое мнение высказывают и искусствоведы: некоторые из них сравнивают произведения искусства, созданные системами искусственного интеллекта, с произведениями, созданными обезьянами, поскольку и тем и другим не хватает «интенциональности» (Фадеева, 2023); другие считают смешение цифровых технологий и традиционного искусства новой реальностью (Степанов, 2022; Быльева, Краснощеков, 2023), а третьи утверждают, что использование таких технологий - не что иное, как очередной шаг к дегуманизации, и доказывают, что обычный человек не всегда понимает, какое произведение искусства создано человеком, а какое искусственным интеллектом (Пантелеев, 2023).

2.2. Плагиат, нарушение авторских прав и другие риски

Еще два вопроса, которые необходимо обсудить, - может ли генеративный ИИ вызвать недобросовестную конкуренцию и действительно ли представители индустрии считают, что производители и владельцы систем генеративного ИИ нарушают авторские права37.

«Да, по обоим пунктам. Как свидетельствуют многочисленные иски и судебные разбирательства, поданные в этом году, разработчики этих платформ в той или иной степени знали о том, что их базы данных для ИИ содержат огромное количество материалов, защищенных авторским правом. Это острая, но тщательно избегаемая проблема. Без преувеличения, масштабы использования материалов, защищенных авторским правом, настолько велики и беспрецедентны, что представляют собой почти абстракцию; в некоторых случаях это затрудняет доказательство, но доказательства, безусловно, есть.

Другая сторона уравнения - компенсация. Творческих работников просто заменяют на ИИ. Примеров слишком много, чтобы их перечислять, но они оказывают существенное воздействие на творческую индустрию, которая традиционно недостаточно оплачивается и в значительной степени опирается на модель меценатства. Я всегда считал, что творческие работники - это, так сказать, канарейки в угольной шахте. Если ИИ не контролировать и не регулировать, то будут существенно затронуты многие отрасли.

Здесь следует отметить несколько моментов: во-первых, это популистское представление о том, что творческие люди - это луддиты, которые выступают против технологий. Я ни на секунду не верю в эту риторику. Проблема не в технологиях, а в злоупотреблении ими, как я уже отмечал ранее. Автоматизация на производстве, вероятно, необходима, поскольку повторяющиеся задачи в определенных условиях представляют опасность для жизни. Но этого нельзя сказать об автоматизации культуры, которую мы все считаем священной и которая, как и любой другой инструмент, может быть использована в неблаговидных целях. Таким образом, речь идет не только об авторском праве, но и о том, как технология влияет на нас в повседневной жизни».

Все вышесказанное подтверждается требованиями забастовок SAG-AFTRA38 и WGA39, Гильдии сценаристов40, а также судебными исками против производителей генеративных систем искусственного интеллекта, такими как: 1) коллективный иск Sarah Andersen's, Kelly McKernan's and Karla Ortiz' class action vs. STABILITY AI LTD, Delaware corporation and DEVIANTART41; 2) иск Гильдии сценаристов против OpenAI Inc., где наиболее известная претензия состоит в том, что OpenAI даже не отрицает, что обучает свои системы на материалах, защищенных авторским правом42.

С этим коррелирует и мнение англоязычных респондентов: 72,5 % из них согласны с тем, что производители генеративных систем ИИ нарушают авторские права, а 11,1 % с этим не согласны (рис. 7). Еще больше - 76,9 % респондентов - считают,

37 Case updates. Stable Diffusion litigation. (2023, October 31). https://clck.ru/36n4fM

38 We're Fighting for the Survival of Our Profession. SAG-AFTRA Strike. https://clck.ru/36n39G

39 WGA Contract 2023. Summary of the 2023 WGA MBA. https://clck.ru/35shcD

40 Artificial Intelligence. The Authors Guild. https://clck.ru/36n4h8

41 United States District Court Northern District of California San Francisco Division. Stable Diffusion litigation. https://clck.ru/36n4hr

42 Authors Guild v. OpenAI Inc. (1:23-cv-08292). Court Listener. https://clck.ru/36n4mC

что такие компании нарушают права интеллектуальной собственности, однако 14,5 % высказывают противоположное мнение (рис. 8).

Согласны ли Вы, что производители систем, генерирующих изображения/ тексты/видео/аудио, нарушают авторские права? 117 ответов

Да Нет

Не уверен

Согласны ли Вы, что производители систем, генерирующих изображения/ тексты/видео/аудио, нарушают права интеллектуальной собственности? 117 ответов

Да Нет

Не уверен

У V

Рис. 7

Рис. 8

Русскоязычная аудитория продемонстрировала противоположную тенденцию -50 % из нее не считают, что производители генеративных систем искусственного интеллекта нарушают авторские права (рис. 9), а 58,3 % не согласны с мнением о том, что такие компании нарушают права интеллектуальной собственности (рис. 10). Только 19,4 % русскоязычных респондентов разделяют точку зрения своих зарубежных коллег на нарушение авторских прав производителями генеративных систем искусственного интеллекта (рис. 9) и только 16,7 % поддерживают мнение о нарушении прав интеллектуальной собственности такими компаниями (рис. 10). В обоих случаях большая доля респондентов не уверена в своей позиции - 30,6 % (рис. 9) и 25 % (рис. 10) соответственно.

Считаете ли Вы, что создатели ИИ, генерирующего тексты/видео/аудио/ изображения, нарушают авторские права?

36 ответов

Да Нет

Затрудняюсь ответить

Рис. 9

Считаете ли Вы, что создатели ИИ, генерирующего тексты/видео/аудио/ изображения, нарушают права интеллектуальной собственности?

36 responses

Да Нет

Затрудняюсь ответить

Забастовка SAG-AFTRA ясно дала понять: участники считают искусственный интеллект экзистенциальной угрозой для своей профессии, поэтому лозунг «Мы боремся за выживание нашей профессии» означает, что благодаря генеративным системам искусственного интеллекта студии могут нанимать актера на один рабочий день, платить ему минимальную зарплату, но затем воспроизводить образ и голос этого актера, когда и как им вздумается43. Отсюда возникает другой вопрос: переживет ли творческая индустрия влияние такого массового использования генеративных систем искусственного интеллекта? Или это реальная угроза, которую нельзя игнорировать, пока не стало слишком поздно?

«В своей работе я видел, как люди берут хорошие деньги за то, чтобы быстро пропустить фотографии через фильтры искусственного интеллекта, и называют это готовым результатом. В попытке приспособиться к ситуации я обратился к совершенствованию процессов и контекстуализации работы как к основным генераторам ценности, поскольку именно это является подлинно человеческой деятельностью.

Сейчас угроза уже миновала, моя нишевая отрасль подготовлена. Однако, как гласит пословица, вы получаете то, за что платите. В моей конкретной области всегда будет существовать спрос на курирование, восстановление и контекстуализацию, осуществляемые человеком, и это привело к некоторым интересным разработкам в области получения дохода за счет использования своих сильных сторон, а не компенсации слабых. Генеративный ИИ просто не сможет повторить многие из тех процессов, которые мы наладили. Мы будем спокойно заниматься своими делами и оставим все как есть», - прокомментировал г-н Ллойд.

Мнения англоязычных респондентов несколько менее оптимистичны - 60,7 % считают, что генеративный ИИ представляет реальную угрозу для представителей творческой индустрии, 18,8 % с ними не согласны, 17,9 % не уверены, а 2,6 % утверждают, что их уже заменил генеративный ИИ (рис. 11).

В русскоязычной аудитории наблюдается прямо противоположная тенденция: 75 % респондентов не видят в генеративном ИИ угрозы для отрасли, 16,7 % видят такую угрозу, 8,3 % не уверены, и никто из респондентов не считает, что генеративный ИИ заменил его на рабочем месте (рис. 12).

Считаете ли Вы, что ИИ заменит собой культурные/творческие профессии? 117 ответов

17,9 %

Да Нет

Не уверен

ИИ уже заменил собой мою профессию

Считаете ли Вы, что ИИ заменит собой культурные/творческие профессии? 36 ответов

6,7 %

Да Нет

Не уверен ИИ уже заменил собой мою профессию

J V

Рис. 11

Рис. 12

43

We're Fighting for the Survival of Our Profession. SAG-AFTRA Strike. https://clck.ru/36n39G

Стоит отметить, что ответы русскоязычной аудитории коррелируют с общим взглядом российской креативной индустрии на эти технологии - в них склонны видеть только инструмент и философски комментировать, что инструменты не имеют души и, следовательно, не могут быть творцами, т. е. никогда не смогут заменить твор-цов-людей44. Но значит ли это, что использование генеративного ИИ в качестве инструмента в творческой индустрии может принести пользу? «Прежде всего, важно различать некоторые понятия, которые сегодня смешиваются в дискуссиях об ИИ. В целом, являясь вспомогательным средством или инструментом в конкретной области приложения, ИИ делает возможным то, что раньше было невозможно, если брать конкретные рабочие процессы. В моей работе с архивными визуальными материалами - например, со сканами фотографий, - масштабирование до большего разрешения возможно только с использованием ИИ. Существуют и другие узкоспециализированные рабочие процессы, где применение ИИ в качестве инструмента или вспомогательного средства является просто частью более длительного технического процесса.

Проблема возникает, когда пользователи путают идею 'помощи' или 'инструмента' с созданием нового материала, будь то картина в стиле реального художника или рассказ, сгенерированный по нескольким текстовым запросам. Такое 'генеративное' использование ИИ отличается от того, которое я описал выше. На мой взгляд, оно не является вспомогательным средством для создания производного или преобразующего произведения. На мой взгляд, здесь речь идет не о помощи в создании производного или трансформированного произведения, а лишь о подражании чему-то, уже созданному кем-то другим.

Другими словами, это разница между 'употреблением'и 'злоупотреблением'. Я много обсуждал использование генеративного искусственного интеллекта с творческими людьми. Я знаю одного художника, который использует М'^'ригпеу для того, чтобы сгенерировать несколько различных композиций с предметом, а затем выбирает одну из них в качестве визуального образца для полностью оригинальной работы, выполненной вручную. Я понимаю, что это экономит время для соблюдения сроков заказчика, и, на мой взгляд, это приемлемое использование технологии.

Также мне известна ситуация, когда автор самодеятельного издания выиграл приз за его обложку, а затем узнал, что художник получил большой гонорар за то, что собрал коллаж из нескольких рисунков, сгенерированных искусственным интеллектом. Сгенерированное изображение вряд ли можно считать производным или трансформированным произведением, поскольку в соответствии с законодательством Великобритании подобное произведение должно 'само по себе являться оригинальным произведением, созданным с использованием навыков, труда и суждений'. Кроме того, 'незначительные изменения, не меняющие существенно оригинал, не учитываются'.

В случае с художником обложки книги можно утверждать, что единственным творческим актом было окончательное расположение композиции созданных объектов. В случае с моим знакомым художником процесс создания был полностью делом рук и воображения человека.

Что касается генеративного ИИ, единственный возможный способ этичного использования, который я могу себе представить, - это если бы база данных содержала

44

На «Горький fest» обсудили проблему участия нейросетей в кино. Bulleten Kinoprokatchika. https:// clck.ru/36n4pf

только оригинальные работы, которые вы предоставили или взяли из фонда общественного достояния. К сожалению, как мы все знаем, это не так».

Все сказанное подтверждают и результаты расследований, проведенных Палатой общин в этом году. Участвовавшие в них эксперты выразили обеспокоенность по поводу злоупотреблений технологиями генеративного ИИ, которые становятся возможными из-за выявленных правовых пробелов и включают рост плагиата, замену людей-творцов генеративным ИИ и нарушения других прав. Однако при этом они предложили поощрять использование технологий ИИ (не только генеративных) в индустрии из-за их огромного потенциала, но только при условии, что такие технологии будут использоваться этично45, 46.

В качестве еще одного примера злоупотребления генеративными технологиями ИИ можно привести недавний и довольно скандальный российский судебный процесс Алены Андроновой против банка «Тинькофф». Будучи актрисой дубляжа, она записала свой голос для нужд банка, но затем он был синтезирован и использован третьей стороной для дубляжа нескольких видов нелегального контента, в результате чего, как утверждается, она потеряла несколько контрактов47.

С какими еще рисками сталкивается творческая индустрия в связи с массовым использованием технологий генеративного ИИ? «Как уже отмечалось, недобросовестные лица просто хотят нажиться на небольшой, но постоянно вызывающей большой интерес у публики отрасли. Многие историки справедливо обеспокоены деконтек-стуализацией исторического материала и отсутствием атрибуции. В этом отношении я с ними согласен. Я не совсем понимаю, каким может быть выход из сложившейся ситуации, но уверен, что отрасль достаточно мала, чтобы не впасть в коллапс из-за внедрения ИИ. Специалисты-практики должны осознавать свою этическую ответственность при выполнении своей работы».

2.3. Маркировка продуктов генеративного ИИ

Анализируя китайский подход к правовому регулированию генеративного ИИ, можно сделать вывод, что маркировка ИИ рассматривается как мера защиты авторов и пользователей систем генеративного ИИ48. Недавно несколько компаний начали делать то же самое49, 50 - наносить этикетки «создано с использованием ИИ», чтобы повысить прозрачность и способствовать ответственному использованию систем генеративного ИИ. По их утверждению, такое простое действие, как нанесение этикетки «создано с использованием ИИ», может предотвратить злоупотребление этими технологиями.

45 Connected tech: AI and creative technology: Eleventh Report of Session 2022-23. (2023). UK Parliament. https://clck.ru/36n3Sf

46 The governance of artificial intelligence: interim report. Ninth Report of Session 2022-23. (2023). UK Parliament. https://clck.ru/36n3TN

47 Информация по первичному документу № М-6609/2023. Oficialniy Portal Sudov Moskvy. https://clck. ru/36KzHu

48 1994. No. 143. (2023). Ш15Ц. https://goo.su/ fbbG

49 AI Nutrition Facts. Twilio. https://clck.ru/36n4xc

50 Open Ethics Label: AI nutrition labels. Open Ethics. https://clck.ru/36n4yq

Как показывает мониторинг новостей, политики51 и эксперты по цифровой безопасности52 поддерживают эти заявления. Более того, они считают, что такая маркировка должна быть обязательной, поскольку в противном случае мы не сможем предотвратить постоянное распространение дезинформации и дипфейков. Это также крайне важно, учитывая тот факт, что правительство Великобритании уже связало их с такой опасной угрозой, как терроризм53.

Но согласны ли представители отрасли с тем, что эта мера может быть настолько эффективной, как утверждают поставщики услуг54, 55 по ИИ-маркировке? «Я очень сомневаюсь в этом, хотя такое требование закона было бы крайне желательным. Как уже отмечалось выше, я сравниваю это с любой другой формой рекламы. Потребители должны знать, что то, что они видят или читают, создано искусственным интеллектом, и придерживаться тех же стандартов регулирования, что и рекламодатели со своей продукцией. В области 'ложной рекламы' действует хорошо отлаженный процесс регулирования. Снова и снова, когда маркетинговый отдел какой-либо компании обвиняют в использовании продуктов, созданных искусственным интеллектом, они сначала все отрицают, потом обычно недовольно соглашаются и делают заявление о необходимости скорректировать свои методы работы».

В ответах на вопрос «Должны ли продукты генеративного ИИ быть помечены как таковые?» респонденты практически единодушно ответили утвердительно: 88 % англоязычных респондентов поддерживают эту идею и только 7,7 % считают ее излишней (рис. 13), а среди русскоязычных респондентов 80,6 % считают, что маркировка ИИ-продуктов должна быть обязательной, и только 13,9 % не одобряют эту идею (рис. 14).

Г Л

Нуждаются ли работы, сгенерированные ИИ, в специальной маркировке? 117 ответов

Да Нет

Не уверен

r

, 88 % J

L. Л

Г Л

Нуждаются ли работы, сгенерированные ИИ, в специальной маркировке?

36 ответов

13,9 %

^80,6 % A

F

Да Нет

Не уверен

J V.

Рис. 13

Рис. 14

51 AI generated content should be labelled, EU Commissioner Jourova says. Reuters. https://clck.ru/36n5B8

52 Минцифры предложили ввести маркировку контента, созданного с помощью нейросетей. (2023, May 15). TASS. https://clck.ru/34RfkG

53 AI safety summit. Department For Science, Innovation and Technology. https://clck.ru/36n3zq

54 AI Nutrition Facts. Twilio. https://clck.ru/36n4xc

55 Open Ethics Label: AI nutrition labels. Open Ethics. https://clck.ru/36n4yq

Следует добавить, что технологически можно эффективно маркировать, или, как говорят другие исследователи, «ставить водяной знак» на всевозможные данные, включая цифровое аудио (Patil & Shelke, 2023), и даже делать это при необходимости незаметно (Liu et al., 2022). Кроме того, можно создать водяной знак, сохраняющийся на фотографиях (Cao et al., 2023). Различные методы нанесения водяных знаков могут помочь в аутентификации контента (Yuan et al., 2024), его защите и даже восстановлении (M. Swain & D. Swain, 2022). Однако другие исследования показывают, что водяной знак в нейронных сетях, например, не следует рассматривать как панацею, поскольку он может быть удален (Aiken et al., 2021).

2.4. Голос индустрии услышан

«Интеллектуальная собственность, от научных исследований до художественного творчества, вносит большой вклад в экономику Великобритании. Как и во многих других странах, финансирование культуры и доступ к ней всегда представляли непростую задачу, и появление генеративного ИИ, безусловно, усугубит некоторые негативные аспекты этого процесса. Я считаю, что в интересах развития нашей законодательной базы необходимо как можно быстрее урегулировать эту проблему».

Один из вопросов нашего исследования касался того, считают ли наши респонденты, что действующее законодательство их страны способно защитить их как профессионалов от негативного воздействия генеративного ИИ. Полученные данные подтверждают мнение о том, что неспособность государств адекватно и своевременно отвечать на запросы своих граждан является причиной политического недоверия населения к власти. Так, 72,6 % англоязычных респондентов не доверяют в этом вопросе действующим законодательным органам своих стран; 3,4 % считают, что их могут защитить существующие правовые нормы; 13,7 % не уверены, а 10,3 % являются потребителями продукции креативной индустрии, поэтому данный вопрос не предназначался для них (рис. 15).

Русскоязычная аудитория вновь демонстрирует более оптимистичный настрой, однако 50 % опрошенных не доверяют действующим в их странах законам о защите от генеративного ИИ, 16,7 % считают, что они уже достаточно защищены, а 33,3 % затруднились с ответом (рис. 16).

Считаете ли Вы, что текущее законодательство Вашей страны в достаточной мере защищает Вас как представителя своей профессии от негативного влияния генеративного ИИ? 117 ответов

Да Нет

Не уверен Я не являюсь представителем культурной / творческой профессии

Считаете ли Вы, что текущее законодательство Вашей страны в достаточной мере защищает Вас как представителя своей профессии от негативного влияния генеративного ИИ? 117 ответов

i

10,7 %

Да

Нет

Затрудняюсь ответить

Рис. 15

И все же голос индустрии определенно не остался без внимания, по всему миру появляются многочисленные законодательные проекты, конечная цель которых -защитить как представителей творческой индустрии, так и потребителей ее продукции, а также повысить прозрачность и ответственность при использовании генеративных систем искусственного интеллекта.

Например, Гильдия сценаристов США (WGA) в сентябре прекратила свою забастовку - соглашение было достигнуто и ждет ратификации. Согласно ему: 1) ИИ не может писать или переписывать литературные произведения, а сгенерированный ИИ материал не будет считаться исходным материалом согласно Минимальному базовому соглашению, что означает, что сгенерированный ИИ материал не может быть использован для снижения оплаты или ущемления отдельных прав сценаристов; 2) сценарист может использовать ИИ при выполнении работы, если компания дает на это согласие и при условии, что сценарист следует применимым политикам компании, но компания не может требовать от сценариста использовать программное обеспечение ИИ (например, ChatGPT) при выполнении работ; 3) компания должна сообщить сценаристу, если какие-либо материалы, переданные ему, были полностью или частично сгенерированы искусственным интеллектом; 4) WGA оставляет за собой право утверждать, что использование материалов сценаристов для обучения искусственного интеллекта запрещено Минимальным базовым соглашением или другим актом56.

Мнение Алены Андроновой также было услышано, несмотря на то, что суд оставил ее дело без движения57. После того как она совместно с Союзом дикторов и другими пострадавшими, чьи голоса «были украдены»58, попыталась доказать, что человеческий голос является биометрической информацией, которую нельзя собирать без согласия лица, Совет Федерации принял решение о защите человеческого голоса от негативного воздействия генеративного ИИ и технологий глубокого синтеза и о мерах по предотвращению дальнейших правовых коллизий59.

Сенат США также прислушался к представителям индустрии; он разработал аналогичный российскому законодательный акт, который в настоящее время известен как Закон против фейков и призван обеспечить правовую защиту «образа, голоса и визуального сходства» человека на весь период жизни и в течение 70 лет после смерти человека60.

Европейский парламент, по-видимому, вдохновился китайским подходом61 к регулированию генеративного ИИ, поскольку теперь он выдвигает следующие требования к производителям цифровых систем ИИ: 1) раскрывать информацию о том, что контент был сгенерирован искусственным интеллектом; 2) разрабатывать модель таким

56 WGA contract 2023. Summary of the 2023 WGA MBA. https://clck.ru/35shcD

57 Информация по первичному документу № М-6609/2023. Oficialniy Portal Sudov Moskvy. https://clck. ru/36KzHu

58 Andronova, A. (2023, August 30). Просим защитить наши голоса от воровства и мошенничества!. CHANGE ORG. https://clck.ru/36KzMK

59 В Совфеде предложили охранять голос человека и его синтез. PRAVO.RU. https://clck.ru/36j2Sy

60 Senate Legislative Counsel Draft Copy of EHF23968 GFW - To protect the image, voice, and visual likeness of individuals, and for other purposes. Senate GOV. https://clck.ru/36nut

61 ^mWrtfrfc. 1994. No. 143. (2023). 5^. https://goo.su/fbbG

образом, чтобы она не генерировала нелегальный контент; 3) публиковать сводки данных, защищенных авторским правом, которые использовались для обучения ИИ62.

Кроме того, такие корпорации, как Microsoft63, Adobe64 и Google65, приняли решение о защите пользователей своих генеративных систем искусственного интеллекта от исков, связанных с авторским правом и интеллектуальной собственностью, и даже пообещали выплачивать в таких случаях компенсацию. Microsoft поясняет, что новые меры также помогут представителям творческих профессий «сохранить контроль над своими правами в соответствии с законом об авторском праве и получать достойную прибыль от своих творений»66.

Заключение

Проведенное исследование показало, что в настоящее время отсутствует универсальное понимание того, можно ли считать генеративный ИИ субъектом авторского права, а его продукты - объектами авторского права или прав на интеллектуальную собственность. Не существует также международной правовой базы, которая могла бы регулировать массовое использование таких технологий. Если такое регулирование не будет разработано в кратчайшие сроки, то неизбежен ущерб творческой индустрии, а через нее - экономике государств. Среди рисков, которые несет в себе нерегулируемое использование генеративных систем искусственного интеллекта, наш анализ выделил следующие: 1) нарушение авторских прав и прав интеллектуальной собственности; 2) нарушение моральных прав; 3) нарушение трудовых прав; 4) нарушение рынка труда; 5) нарушение прав потребителей; 6) массовое производство нелегального контента; 7) кризис оригинальности; 8) недобросовестная конкуренция; 9) недоверие общества к власти; 10) общественные беспорядки; 11) экстремизм и терроризм.

Для минимизации обозначенных рисков важно оперативно разработать новую международную и национальную правовую базу, которая позволит повысить подотчетность производителей, владельцев и пользователей систем генеративного ИИ и возложить на них ответственность за злоупотребление этими технологиями: «Прежде всего, разработчики этих ИИ-сервисов должны быть открыты для контроля, не полагаться на техническую завуалированность и нести ответственность за свои обучающие данные. Ни у кого не возникло бы проблем, если бы разработчики просто придерживались принципов открытого доступа к материалам и участия по подписке. Во-вторых, необходимы более справедливые правила вознаграждения авторов, чьи работы попали в обучающие базы данных. Если у нас есть средства для массового сбора данных, то должны быть и средства для справедливого признания роли творческих работников и соответствующей оплаты их труда. В-третьих, коммерческое использование должно быть формализовано и регламентировано. Хорошим примером служит индустрия стоковой фотографии. Она процветает и хорошо себя зарекомендовала, при этом злоупотреблений этой системой сравнительно немного, что коммерчески обосновано и выгодно как

62 EU AI Act: first regulation on artificial intelligence. EU Parlaiment. https://clck.ru/36n5Lv

63 Microsoft announces new Copilot Copyright Commitment for customers. Microsoft. https://clck.ru/36n5MQ

64 Adobe offers copyright indemnification for Firefly Al-based image app users. Computer World. https:// clck.ru/36n5Mx

65 Shared fate: Protecting customers with generative Al indemnification. Google. https://clck.ru/36n5NP

66 Microsoft announces new Copilot Copyright Commitment for customers. Microsoft. https://clck.ru/36n5MQ

владельцам платформ, так и творческим работникам, которые предоставляют им свои работы. Я не вижу причин, по которым не может быть реализовано соглашение о подписке на использование генеративного искусственного интеллекта в той или иной форме, чтобы остановить безудержное злоупотребление им. В-четвертых, необходимо особенно бдительно следить за тем, как поисковые системы представляют материалы, созданные искусственным интеллектом. Как это достигается на техническом уровне, я сказать не берусь, но, повторюсь, это возможно».

Можно также констатировать, что в странах с различными режимами начали приниматься более или менее схожие меры, близкие к тем, что применяются в Китае67, которые включают: 1) прозрачность данных, используемых для обучения; 2) маркировку продуктов генеративных систем ИИ; 3) ответственность за нарушение авторских прав и прав интеллектуальной собственности; 4) защиту образа, голоса и визуального сходства человека. По нашему мнению, в обозримом будущем использование генеративных систем ИИ будет регулироваться аналогичными мерами и на международном уровне.

В заключение хотелось бы подчеркнуть, что вопрос этичности использования генеративного ИИ выходит далеко за рамки вопроса «кто автор?» и затрагивает не только творческую индустрию. Он также оказывает влияние на экономику государств и даже на сами демократические институты, что, как показал наш анализ, обусловливает необходимость восполнения существующих правовых пробелов, включая такую простую, на первый взгляд, проблему, как отсутствие соответствующей терминологии.

Список литературы

Агибалова, Е. Н., Перекрёстова, Е. А. (2020). Право авторства на произведения, созданные искусственным

интеллектом. Эпоха науки, 24, 124-126. https://doi.org/10.24411/2409-3203-2020-12424 Быльева, Д. С., Краснощеков, В. В. (2023). Оригинал и копия: технологический вызов искусству. Вестник Московского государственного областного университета. Серия: Философские науки, 2, 77-91. https://doi.org/10.18384/2310-7227-2023-2-77-91 Пантелеев, А. Ф. (2023). Проблема сравнительной оценки картин, созданных художником и сгенерированных нейросетью. Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика, 23(3), 326-330. https://doi.org/10.18500/1819-7671-2023-23-3-326-330

Соменков, С. А. (2019). Искусственный интеллект: от объекта к субъекту? Вестник Университета имени

О. Е. Кутафина, 2(54), 75-85. https://doi.org/10.17803/2311-5998.2019.54.2.075-085 Степанов, М. А. (2022). Деавтономия постчеловеческого воображения: новые направления в теории искусства. В сб: Актуальные проблемы теории и истории искусства (№ 12, с. 663-673). http://dx.doi. org/10.18688/aa2212-07-53 Фадеева, Т. Е. (2023). «Союз» художника с нечеловеческим агентом - утопия или рабочая модель художественного производства? Известия Самарского научного центра Российской академии наук. Социальные, гуманитарные, медико-биологические науки, 25, 1(88), 108-115. https://doi. org/10.37313/2413-9645-2023-25-88-108-115 Aiken, W., Kim, H., Woo, S. S., & Ryoo, J. (2021). Neural network laundering: Removing black-box backdoor watermarks from deep neural networks. Computers & Security, 106, 102277. https://doi.org/10.1016/j. cose.2021.102277

Cao, F., Wang, T., Guo, D., Li, J., & Qin, C. (2023). Screen-shooting resistant image watermarking based on lightweight neural network in frequency domain. Journal of Visual Communication and Image Representation, 94, 103837. https://doi.org/10.1016/j.jvcir.2023.103837 Díaz-Rodríguez, N., Del Ser, J., Coeckelbergh, M., De Prado, M. L., Herrera-Viedma, E., & Herrera, F. (2023).

67 ШЛАХШЖШттгШ. 1994. No. 143. тжштшм^ш. (2023). Ш15^. https://goo.su/fbbG

Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, 101896. https://doi.org/10.1016/j. inffus.2023.101896

Fenwick, M., & Jurcys, P. (2023). Originality and the future of copyright in an age of generative AI. Computer Law

& Security Review, 105892. https://doi.org/10.1016/j.clsr.2023.105892 KuQukkomurler, S., & Ozkan, T. (2022). Political interest across cultures: The role of uncertainty avoidance and trust. International Journal of Intercultural Relations, 91, 88-96. https://doi.org/10.10167j.ijintrel.2022.09.004 Liu, G., Xiang, R., Liu, J., Pan, R., & Zhang, Z. (2022). An invisible and robust watermarking scheme using convolutional neural networks. Expert Systems With Applications, 210, 118529. https://doi.org/10.10167j. eswa.2022.118529

Patil, A. P., & Shelke, R. (2023). An effective digital audio watermarking using a deep convolutional neural network with a search location optimization algorithm for improvement in Robustness and Impercepetibility. High-Confidence Computing, 100153. https://doi.org/10.1016Zj.hcc.2023.100153 Sparkes, M. (2022). AI copyright. New Scientist, 256(3407), 17. https://doi.org/10.1016/s0262-4079(22)01807-3 Stokel-Walker, C. (2023). ChatGPT's knowledge of copyrighted novels highlights legal uncertainty of AI. New

Scientist, 258(3438), 13. https://doi.org/10.1016/s0262-4079(23)00837-0 Stroppe, A. (2023). Left behind in a public services wasteland? On the accessibility of public services and political

trust. Political Geography, 105, 102905. https://doi.org/10.1016/j.polgeo.2023.102905 Swain, M., & Swain, D. (2022). An effective watermarking technique using BTC and SVD for image authentication

and quality recovery. Integration, 83, 12-23. https://doi.org/10.1016/j.vlsi.2021.11.004 Torres, G. & Bellinger, N. (2014). The Public Trust: The Law's DNA. Cornell Law Faculty Publications. Paper 1213.

http://scholarship.law.cornell.edu/facpub/1213 Wan, Y., & Lu, H. (2021). Copyright protection for AI-generated outputs: The experience from China. Computer

Law & Security Review, 42, 105581. https://doi.org/10.1016/j.clsr.2021.105581 Yuan, Z., Zhang, X., Wang, Z., & Yin, Z. (2024). Semi-fragile neural network watermarking for content authentication and tampering localization. Expert Systems With Applications, 236, 121315. https://doi.org/10.1016/j. eswa.2023.121315

Информация об авторах

Шумакова Наталья Игоревна - доцент кафедры конституционного и административного права, Южно-Уральский государственный университет (национальный исследовательский университет)

Адрес: 454080, Российская Федерация, г. Челябинск, пр. Ленина, 76

E-mail: shumakovani@susu.ru

ORCID ID: http://orcid.org/0009-0004-6053-0650

РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=1211522

Ллойд Джордан Дж. - Шеффилдский университет; креативный директор, компания «Unseen History»

Адрес: Хоуес Фарм, Доддингхерст Роуд, Брентвуд, Эссекс, CM15 0SG, Великобритания

E-mail: jordan@unseenhistories.com

ORCID ID: https://orcid.org/0009-0007-8733-7261

Титова Елена Викторовна - доктор юридических наук, доцент, директор Юридического института, заведующий кафедрой конституционного и административного права, Южно-Уральский государственный университет (национальный исследовательский университет)

Адрес: 454080, Российская Федерация, г. Челябинск, пр. Ленина, 76

E-mail: titovaev@susu.ru

ORCID ID: http://orcid.org/0000-0001-9453-3550

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57201640405 Google Scholar ID: https://scholar.google.ru/citations?user=Pqj6OiQAAAAJ РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=451302

Вклад авторов

Идея статьи является совместной и принадлежит Н. И. Шумаковой и Дж. Дж. Ллойду. Н. И. Шумакова осуществляла формулирование идеи; выполняла составление черновика и чистовика рукописи; разработала дизайн методологии; организовала проведение социологических опросов; осуществляла сбор и анализ литературы и законодательства; сформулировала ключевые выводы, предложения и рекомендации.

Дж. Дж. Ллойд составил, обработал и предоставил свое экспертное мнение по ключевым положениям статьи; провел выборку публикаций в медиа; осуществлял интерпретацию общих результатов исследования.

Е. В. Титова осуществляла анализ законодательства; рассмотрела с точки зрения проявления публичного/политического недоверия процессы, происходящие в творческой индустрии; провела частичный сбор и анализ научной литературы.

Конфликт интересов

Авторы сообщают об отсутствии конфликта интересов.

Финансирование

Исследование не имело спонсорской поддержки.

Благодарность

Авторы выражают благодарность редакции Journal of Digital Technologies and Law за помощь в проведении социологического опроса в телеграм-канале журнала https://t.me/JournalDTL

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: OM / Law

Рубрика ГРНТИ: 10.41.91 / Авторское право и смежные права в отдельных странах Специальность ВАК: 5.1.2 / Публично-правовые (государственно-правовые) науки

История статьи

Дата поступления - 31 октября 2023 г. Дата одобрения после рецензирования - 20 ноября 2023 г. Дата принятия к опубликованию - 30 ноября 2023 г. Дата онлайн-размещения - 15 декабря 2023 г.

Research article

DOI: https://doi.org/10.21202/jdtl.2023.38

3

%

Check for updates

Towards Legal Regulations of Generative AI in the Creative Industry

Natalia I. Shumakova 0

Law Institute, South Ural State University (national research university) Chelyabinsk, Russia

Jordan J. Lloyd 0

Unseen History Essex, United Kingdom

Elena V. Titova 0

Law Institute, South Ural State University (national research university) Chelyabinsk, Russia

Keywords

Abstract

artificial intelligence, copyright law, creative industry, digital technologies, generative artificial intelligence, intellectual property, international law, neural network, object of copyright law, subject of copyright law

Objective: this article aims to answer the following questions: 1. Can generative artificial intelligence be a subject of copyright law? 2. What risks the unregulated use of generative artificial intelligence systems can cause? 3. What legal gaps should be filled in to minimize such risks? Methods: comparative legal analysis, sociological method, concrete sociological method, quantitative data analysis, qualitative data analysis, statistical analysis, case study, induction, deduction.

Results: the authors identified several risks of the unregulated usage of generative artificial intelligence in the creative industry, among which are: violation of copyright and labor law, violation of consumers rights and the rise of public distrust in government. They suggest that a prompt development of new legal norms can minimize these risks. In conclusion, the article constants that states have already begun to realize that the negative impact of generative artificial intelligence on the creative industry must not be ignored, hence the development of similar legal regulations in states with completely different regimes.

0 Corresponding author © Shumakova N. I., Lloyd J. J., Titova E. V., 2023

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

Scientific novelty: the article provides a comprehensive study of the impact of generative artificial intelligence on the creative industry from two perspectives: the perspective of law and the perspective of the industry. The empirical basis of it consists of two international surveys and an expert opinion of a representative of the industry. This approach allowed the authors to improve the objectivity of their research and to obtain results that can be used for finding a practical solution for the identified risks. The problem of the ongoing development and popularization of generative artificial intelligence systems goes beyond the question "who is the author?" therefore, it needs to be solved by introduction of other than the already existing mechanisms and regulations - this point of view is supported not only by the results of the surveys but also by the analysis of current lawsuits against developers of generative artificial intelligence systems.

Practical significance: the obtained results can be used to fasten the development of universal legal rules, regulations, instruments and standards, the current lack of which poses a threat not only to human rights, but also to several sectors within the creative industry and beyond.

For citation

Shumakova, N. I., Lloyd, J. J., & Titova, E. V. (2023). Towards Legal Regulations of Generative AI in the Creative Industry. Journal of Digital Technologies and Law, 7(4), 880-908. https://d0i.0rg/l 0.21202/jdtl.2023.38

References

Agibalova, E. N., & Perekrestova, E. A. (2020). Copyright for the works created by artificial intelligence. Ehpokha nauki, 24, 124-126. (In Russ.). https://doi.org/10.24411/2409-3203-2020-12424

Aiken, W., Kim, H., Woo, S. S., & Ryoo, J. (2021). Neural network laundering: Removing black-box backdoor watermarks from deep neural networks. Computers & Security, 106, 102277. https://doi.org/10.1016/j. cose.2021.102277

Bylieva, D., & Krasnoschekov, V. (2023). The original and a copy: a technological challenge to art. Bulletin oftheMoscow Region State University. Series: Philosophy, 2, 77-91. (In Russ.). https://doi. org/10.18384/2310-7227-2023-2-77-91

Cao, F., Wang, T., Guo, D., Li, J., & Qin, C. (2023). Screen-shooting resistant image watermarking based on lightweight neural network in frequency domain. Journal of Visual Communication and Image Representation, 94, 103837. https://doi.org/10.1016/j.jvcir.2023.103837

Diaz-Rodriguez, N., Del Ser, J., Coeckelbergh, M., De Prado, M. L., Herrera-Viedma, E., & Herrera, F. (2023). Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, 101896. https://doi.org/10.1016/j. inffus.2023.101896

Fadeeva, T. E. (2023). "Union" of an artist with a non-human agent: utopia or a working model of artistic production? Izvestiya of the Samara Science Centre of the Russian Academy of Sciences. Social, Humanitarian, Biomedical Sciences, 25(88), 108-115. (In Russ.). https://doi.org/10.37313/2413-9645-2023-25-88-108-115

Fenwick, M., & Jurcys, P. (2023). Originality and the future of copyright in an age of generative AI. Computer Law & Security Review, 105892. https://doi.org/10.1016/j.clsr.2023.105892

KuQukkSmurler, S., & Ozkan, T. (2022). Political interest across cultures: The role of uncertainty avoidance and trust. International Journal of Intercultural Relations, 91, 88-96. https://doi.org/10.1016/j.ijintrel.2022.09.004

Liu, G., Xiang, R., Liu, J., Pan, R., & Zhang, Z. (2022). An invisible and robust watermarking scheme using convolutional neural networks. Expert Systems With Applications, 210, 118529. https://doi.org/10.1016/j. eswa.2022.118529

Panteleev, A. F. (2023). The problem of comparative evaluation of paintings created by an artist and generated by a neural network. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 23(3), 326-330. (In Russ.). https://doi.org/10.18500/1819-7671-2023-23-3-326-330 Patil, A. P., & Shelke, R. (2023). An effective digital audio watermarking using a deep convolutional neural network with a search location optimization algorithm for improvement in Robustness and Impercepetibility. High-Confidence Computing, 100153. https://doi.org/10.1016Zj.hcc.2023.100153 Somenkov, S. A. (2019). Artificial intelligence: from object to subject? Courier of the Kutafin Moscow State Law

University, 2(54), 75-85. (In Russ.). https://doi.org/10.17803/2311-5998.2019.54.2.075-085 Sparkes, M. (2022). AI copyright. New Scientist, 256(3407), 17. https://doi.org/10.1016/s0262-4079(22)01807-3 Stepanov, M. A. (2022). De-Autonomy of Post-Human Imagination: New Directions in the Theory of Art. Actual Problems of Theory and History of Art (No.12, pp. 663-673). (In Russ.). http://dx.doi.org/10.18688/aa2212-07-53

Stokel-Walker, C. (2023). ChatGPT's knowledge of copyrighted novels highlights legal uncertainty of AI. New

Scientist, 258(3438), 13. https://doi.org/10.1016/s0262-4079(23)00837-0 Stroppe, A. (2023). Left behind in a public services wasteland? On the accessibility of public services and political

trust. Political Geography, 105, 102905. https://doi.org/10.1016/j.polgeo.2023.102905 Swain, M., & Swain, D. (2022). An effective watermarking technique using BTC and SVD for image authentication

and quality recovery. Integration, 83, 12-23. https://doi.org/10.1016/j.vlsi.2021.11.004 Torres, G. & Bellinger, N. (2014). The Public Trust: The Law's DNA. Cornell Law Faculty Publications. Paper 1213.

http://scholarship.law.cornell.edu/facpub/1213 Wan, Y., & Lu, H. (2021). Copyright protection for AI-generated outputs: The experience from China. Computer

Law & Security Review, 42, 105581. https://doi.org/10.1016/j.clsr.2021.105581 Yuan, Z., Zhang, X., Wang, Z., & Yin, Z. (2024). Semi-fragile neural network watermarking for content authentication and tampering localization. Expert Systems With Applications, 236, 121315. https://doi.org/10.1016/j. eswa.2023.121315

Authors information

Natalia I. Shumakova - Associate professor of law, Department of constitutional and administrative law, Law Institute, South Ural State University (national research university), Chelyabinsk, Russia

Address: 76 Lenin Str., 454080 Chelyabinsk, Russian Federation

E-mail: shumakovani@susu.ru

ORCID ID: http://orcid.org/0009-0004-6053-0650

RSCI Author ID: https://www.elibrary.ru/author_items.asp?authorid=1211522

Jordan J. Lloyd - Creative Director, Unseen History

Address: Howes Farm, Doddinghurst Road, Brentwood, Essex, CM15 0SG, United Kingdom

E-mail: jordan@unseenhistories.com

ORCID ID: https://orcid.org/0009-0007-8733-7261

Elena V. Titova - Dr. Sci. (Law), Associate Professor, Department of Constitutional and Administrative Law, Law Institute, South Ural State University (National Research University)

Address: 76 Lenin Str., 454080 Chelyabinsk, Russian Federation

E-mail: titovaev@susu.ru

ORCID ID: http://orcid.org/0000-0001-9453-3550

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57201640405 Google Scholar ID: https://scholar.google.ru/citations?user=Pqj6OiQAAAAJ РMНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=451302

Authors' contributions

The idea of the article is joint and belongs to Natalia I. Shumakova and Jordan J. Lloyd. Natalia I. Shumakova formulated the idea; drafted the manuscript; developed the methodology; organized sociological surveys; collected and analyzed literature and legislation; formulated key conclusions, proposals and recommendations.

Jordan J. Lloyd drafted, processed and presented his expert opinion on the key provisions of the article; sampled media publications; interpreted the overall results of the study.

Elena V. Titova analyzed legislation;considered the processes occurring in the creative industry from the viewpoint of public/political distrust manifestation; partially collected and analyzed scientific literature.

Conflict of interest

The authors declares no conflict of interest.

Financial disclosure

The research had no sponsorship.

Acknowledgements

The authors are grateful to the Editorial Office of the Journal of Digital Technologies and Law for their assistance in conducting a sociological survey in the Journal's Telegram channel at https://t.me/JournalDTL

Thematic rubrics

OECD: 5.05 / Law PASJC: 3308 / Law WoS: OM / Law

Article history

Date of receipt - October 31, 2023 Date of approval - November 20, 2023 Date of acceptance - November 30, 2023 Date of online placement - December 15, 2023