CC BY
10
Определение статуса искусственного интеллекта в правовой системе
Григорян Анна Арменовна,
магистрант, Юридический институт, Сибирский федеральный
университет
E-mail: 418104@mail.ru
Михайлинский Глеб Олегович,
магистрант, Юридический институт, Сибирский федеральный университет
E-mail: gmikhaylinskiy-yy19@stud.sfu-kras.ru
В статье анализируются основные научные и законодательные подходы к статусу искусственного интеллекта в правовой системе. Актуальность данной темы связана с тем обстоятельством, что в условиях масштабной цифровизации и информатизации общества наблюдается явное несоответствие правового регулирования правоотношений в цифровой сфере тем вызовам, которые стоят перед обществом. В частности, в исследовании рассматривается актуальный на сегодняшний день вопрос о том, может ли искусственный интеллект (нейросеть) быть субъектом авторских и иных прав на результаты интеллектуальной деятельности. Производится обобщение основных тенденций и закономерностей развития законодательства об искусственном интеллекте, предлагаются пути наиболее эффективного и гармоничного совершенствования правового регулирования в данной сфере. Наиболее важными представляются вопросы обеспечения баланса между инновационным развитием и интересами общества, а также обеспечения безопасного развития искусственного интеллекта. Делаются выводы о большой социальной значимости вопросов, связанных с развитием инновационных технологий в сфере искусственного интеллекта их комплексном морально-правовом характере, значительных перспективах и не менее серьёзных рисках, связанных с данным явлением.
Ключевые слова: искусственный интеллект, цифровизация, вещные права, авторские права, патентные права, результаты интеллектуальной деятельности.
Современное развитие технологий искусственного интеллекта (далее - ИИ) ставит на повестку дня сложный и фундаментальный вопрос о признании системы ИИ как личности? Центральным вопросом данной дискуссии является вопрос о праве собственности на творческие произведения, созданные машинами. Интересно, что в рамках таких обсуждений неявно или явно присутствует предположение: если бы аналогичное творчество было выполнено человеком, то он владел бы им самостоятельно.
У данной тематики есть предыстория. Ранние фотографии, например, не подпадали под защиту авторских прав, поскольку простой акт захвата света через объектив камеры-обскуры не рассматривался как проявление истинного авторства. Этот вопрос о правах на творческие произведения, созданные механическими средствами, стал особенно актуальным, когда знаковая фотография Оскара Уайльда [1 ] дошла до Верховного суда Соединенных Штатов. В конечном итоге, авторские права были признаны в отношении произведений, созданных машинами.
Однако сегодня вопрос стоит еще более остро: может ли фотограф «владеть» изображением, которое было пассивно снято машиной, и кто может владеть новыми работами, активно созданными системами ИИ? Сегодня системы ИИ способны создавать телепередачи, сочинять музыку и рисовать картины, что вызывает вопросы о распространении на них закона об авторских правах.
Данная проблематика представляет собой значительный вызов для современного общества, правопорядка и этики. В данной статье мы рассмотрим основные аспекты этой проблематики, проведем анализ плюсов и минусов признания систем ИИ как личности, а также рассмотрим возможные пути решения данного вопроса.
Перед законодательством ряда стран, стоит важный вопрос об определении авторство и право собственности в контексте машинного творчества, обсуждаемый в ряде стран.
Например, согласно позиции Бюро авторских прав США, правовая охрана распространяется только на «оригинальные авторские произведения», созданные человеком, и не будет регистрировать произведения, «созданные машиной или просто механическим процессом, который действует случайным образом или автоматически без какого-либо творческого вклада или вмешательства со стороны автора-человека» [2]. Критерием выступает уровень участия человека, необходимый претензии на авторство.
Этот вопрос о праве собственности и авторстве приобретает новый смысл в свете того, что «систе-
мы ИИ становятся все более способными к самостоятельному творчеству» [3]. Примером служит история чернохохлатой макаки, сфотографировавшей себя с помощью камеры, установленной фотографом Дэвидом Слейтером. После опубликования этих фото, возник вопрос о том, имеют ли обезьяны больше прав на авторство фотографий, чем фотограф. В данном случае закон подтвердил права фотографа, но эта история поднимает важные вопросы об определении авторства и права в подобных ситуациях [4].
Подходы к вопросам авторских прав и ИИ различны. Например, в Китае авторские права на созданные с использованием ИИ произведения раньше не подлежали защите. Однако в декабре 2019 года окружной суд Китая принял решение, что «статья, созданная алгоритмом, не может быть скопирована без разрешения» [5]. Это отражает важность защиты первоначальных инвестиций в творческие процессы, а не обязательно авторства самой системы ИИ.
В ЕС также обсуждается вопрос о расширении авторских прав на произведения, созданные с использованием ИИ, признание их «эквивалентами» результатов интеллектуальной деятельности. При этом предложено передавать права собственности «человеку, который подготавливает и публикует произведение на законных основаниях, при условии, что разработчик технологии прямо не оставил за собой право использовать произведение таким образом» [6].
Небезынтересен также опыт Японии, где в 2016 году была принята Стратегическая программа по интеллектуальной собственности [7]. В частности, данный документ предусматривает «создание системы интеллектуальной собственности нового поколения, адаптированной к дид-житализации и сетевому взаимодействию». Также в программе говорится о необходимости выработки системы критериев для отнесения произведений, созданных нейросетью, к результатам интеллектуальной деятельности в целях предоставления им соответствующей правовой защиты.
Несмотря на быстрые темпы развития инновационных технологий и общую перспективность такого направления, в доктринальной среде нередко встречаются и критические позиции по поводу отнесения ИИ к субъектам авторских и смежных прав. Одним из основных аргументов здесь является отсутствие у подобных программ когнитивных способностей и ключевая роль человека в разработке алгоритмов, на основании которых нейросе-тями и создаются произведения [8]. Однако здесь можно привести контрдовод о том, что даже не самые продвинутые нейросети по одинаковым запросам всегда выдают разные изображения, что само по себе предполагает некоторую степень автономности их работы при создании произведения. Дискуссионным здесь может быть вопрос только о степени такой автономности.
Проблема определения того, может ли ИИ владеть авторскими правами или правами на патенты,
вызывает серьезные дебаты и вызывает вопросы о будущем интеллектуальной собственности и законодательства в этой области.
По указанию Симона Чизмана, «патентное и авторское законодательство в разных странах обычно предполагает, что «изобретатель» или «автор» должны быть физическими лицами, и это создает сложности, когда речь идет о системах ИИ, которые могут создавать произведения и изобретения самостоятельно» [9].
Необходимо соблюдение баланса между поощрением инноваций и предоставлением временно ограниченной монополии в обмен на обязательное публичное раскрытие информации и сохранением роли человека в творческом процессе. Существующее законодательство ограничивает системы ИИ в этом отношении, поскольку они не могут удовлетворить требованиям наличия физического лица-изобретателя или автора.
По мере развития ИИ и усовершенствования его способностей и возможностей появляются новые вызовы для существующего законодательства. Возможно, будет необходимо адаптировать законы и устанавливать новые нормы, которые будут учитывать реальность машинного творчества. Ответ на вопрос о том, может ли ИИ владеть авторскими правами или патентами, будет зависеть от того, как законодатели и правоприменители будут реагировать на эти изменения и какие компромиссы будут достигнуты между поощрением инноваций и защитой прав человека.
Другим важным аспектом в дебатах о правах ИИ является вопрос об интересах и целях, преследуемых законодательством об ИИ. Можно выделить следующие аспекты, подлежащие реформированию:
• Поощрение инноваций. Вопрос заключается в том, как обеспечить эту цель в контексте ИИ, учитывая его способность генерировать новые идеи и решения самостоятельно.
• Защита интересов человека. При преобразовании законодательства важен учёт прав и интересов людей, работающих с ИИ, а также морально-этических аспектов авторства и владения.
Важно, чтобы обсуждения и реформы в области законодательства оправдывали интересы и цели как создателей, так и пользователей систем искусственного интеллекта, а также общества в целом. Это сложная задача, решение которой потребует участия многих субъектов, включая юристов, законодателей, технических экспертов и общественности, чтобы разработать законы, которые будут отвечать вызовам современных технологий и обеспечивать справедливое и эффективное управление ими. р Важно учитывать потенциальные опасности Д и возможные позитивные аспекты развития ИИ. Е Рассмотрим две основные стратегии управления К этими рисками: ё 1. Ограничение возможностей ИИ, которое мо- у жет включать создание технических ограничений А
для предотвращения чрезмерного развития ИИ. Также можно разработать меры безопасности для экстренного отключения ИИ при угрозе.
2. Установление ценностей и целей систем ИИ, соответствующих человеческим. Это может включать в себя работу над этическими стандартами и кодами поведения для ИИ, а также создание механизмов для обеспечения действия ИИ согласно этим стандартам.
Хороший пример второй стратегии - Законы робототехники Айзека Азимова [10], представляющие собой попытку определить этические рамки для действий роботов и ИИ во избежание причинения вреда людям. Однако важно понимать, что разработка и применение этических норм и стандартов для ИИ представляет собой сложную и эволюционирующую задачу, поскольку темпы научно-технического прогресса вообще и развития ИИ как одного из проявлений данного прогресса на сегодняшний день весьма впечатляющие.
Обсуждение этих вопросов - важный шаг на пути к обеспечению безопасного и ответственного развития этой технологии. В будущем возможно изменение правового статуса ИИ с учётом изменений в технологической и социальной сферах.
Симон Чизман отмечает сложность и важность развития стратегий и механизмов для управления сверхинтеллектом [9]. Для разрешения данных вопросов необходимо масштабное сотрудничество на самых разных уровнях, в том числе в законотворческой, научной и общественной среде. Борьба с рисками, порождёнными развитием ИИ, включает в себя следующие аспекты:
• Мультидисциплинарный подход к решению вопросов, международное сотрудничество с участием специалистов в области ИИ, философии, этики, социологии и т.д. Это важно, поскольку рассматриваемая проблема носит глобальный характер и не может решаться какими-либо субъектами обособленно.
• Прозрачный и открытый характер исследований и разработок в области ИИ, что является необходимым условием понимания принципов работы и управления системами искусственного интеллекта.
• Повышение цифровой грамотности общества, которое может осуществляться путём улучшения уровня образования в сфере ИИ и информирования населения о новейших достижениях в данной сфере.
• Формирование общественного мнения о морально-этических аспектах развития искусственного интеллекта путём обсуждений актуальных вопросов инновационного развития на всех уровнях общества. Разработка и реализация этих стратегий требует согласованных усилий со стороны всех участнике ков, и решение данной задачи будет представлять ^ собой серьёзный вызов в ближайшие десятилетия. § Нам остаётся надеяться, что соблюдение принци-^ пов безопасности и обеспечение соответствия ИИ Ц интересам человечества позволит сделать его раз-
витие более безопасным и продуктивным. «Социализация» ИИ, приведение его в соответствие на соответствие с ценностями и интересами человечества, является одним из важных аспектов достижения данной цели.
Одним из способов управления рисками и направлениями безопасного развития технологий искусственного интеллекта является формирование чёткой и ясной системы ценностей и приоритетов, закладываемых в алгоритмы их функционирования [11]. Разумеется, это осуществимо только при условии критического подхода к дальнейшим усовершенствованиям саморазвивающихся систем ИИ. С учетом быстрого развития технологий ИИ и инновационных систем, эти вопросы становятся все более актуальными, и обсуждение и поиск их решений играют важную роль в обеспечении безопасного и этичного развития этих технологий.
Постановка вопроса о правосубъектности ИИ предполагает всестороннее рассмотрение проблемы обеспечения баланса прав и интересов других субъектов гражданско-правового оборота, определения границ правосубъектности «умных» машин. При проведении исследований в этой области необходимо тщательно оценивать потенциальные риски и преимущества, при этом требуется учитывать морально-этические аспекты разработки и использования ИИ. Бесспорно, разработка ИИ может привести к разнообразным последствиям, в том числе и нежелательным. Постановка вопросов о целесообразности создания «умных» машин, а также о том, что они могут принести обществу, является важным аспектом этических обсуждений в области ИИ.
В заключение можно прийти к выводу о сложном и многоаспектном характере развития ИИ, ставящего перед человечеством множество вопросов технического и нравственных плана. Для их оптимального разрешения необходимы адекватные и продуманные стратегии управления и регулирования правоотношений, связанным с «умными» технологиями. С учётом быстрых темпов научно-технического прогресса, актуальность этих вопросов будет возрастать параллельно с усилением роли ИИ в нашей жизни.
Литература
1. Литографическая компания Берроу-Джайлза против Сарони, 111 US 53 (1884 г.). А. Норде-манн, «Германия» в И. Жандро, А. Нордеманне и Р. Эше (редакторы), авторские права и фотографии. Международный обзор (Kluwer 1999), с. 15.
2. Кодекс законов США, § 102 - Объект авторского права: В общем.п. 80.
3. См. DJ Gervais, «Машина как автор» (2020) 105 lowaLRev (готовится к печати) (предлагает тест на «аузацию оригинальности»). п. 39.
4. К. Чизман, «Фотограф сходит с ума из-за сел-фи с обезьяной: кому принадлежат авторские права?» Фотограф-любитель (7 августа 2014 г.). п. 50.
5. Shenzhen Tencent Computer System Co., Ltd. Shanghai Yingxun Technology Co Ltd] (24 декабря 2019 г.) Шэньчжэньский районный народный суд Наньшань. Суд постановил, что статья, написанная искусственным интеллектом, имеет авторские права» China Daily (9 января 2020 г.). Чжан Янфэй.п. 20.
6. С. Сежурне, Проект отчета о правах интеллектуальной собственности для развития технологий искусственного интеллекта (Европейский парламент, Комитет по правовым вопросам, 2020/2015 (INI), 24 апреля 2020 г. 125 там же, Пояснительное заявление.) с. 9-10.
7. Стратегическая программа по интеллектуальной собственности на 2016, 2016. 79 с.
8. Дэвис Р. Интеллектуальная собственность и программное обеспечение: предположения нарушены / Массачусетский технологический институт, лаборатория искусственного интеллекта // А.И. Памятка N 1328. - 1991 г., ноябрь. - 20 р.
9. Саймон Честерман, Искусственный интеллект и пределы правосубъектности, 2020. с. 15.
10. И. Азимов, Поразительная научная фантастика «Хождение» (март 1942 г.). п. 5.
11. Э. Юдковский, «Сложные системы ценностей в дружественном искусственном интеллекте» в Дж. Шмидхубере, К.Р. Ториссоне и М. Лук-се (ред.), Искусственный общий интеллект (Springer 2011), стр. 11. 388.
DETERMINING THE STATUS OF ARTIFICIAL INTELLIGENCE IN THE LEGAL SYSTEM
Grigoryan A.A., Mikhailinsky G.O.
Siberian Federal University
The article analyzes the main scientific and legislative approaches to the status of artificial intelligence in the legal system. The relevance of this topic is due to the fact that in the context of large-scale digitalization and informatization of society, there is a clear discrepancy between the legal regulation of legal relations in the digital sphere and the challenges facing society. In particular, the
study examines the current issue of whether artificial intelligence (neural network) can be the subject of copyright and other rights to the results of intellectual activity. A generalization is made of the main trends and patterns in the development of legislation on artificial intelligence, and ways of the most effective and harmonious improvement of legal regulation in this area are proposed. The most important issues seem to be ensuring a balance between innovative development and the interests of society, as well as ensuring the safe development of artificial intelligence. Conclusions are drawn about the great social significance of issues related to the development of innovative technologies in the field of artificial intelligence, their complex moral and legal nature, significant prospects and no less serious risks associated with this phenomenon.
Keywords: artificial intelligence, digitalization, property rights, copyrights, patent rights, results of intellectual activity.
References
1. Burrow-Giles Lithographic Co v Sarony, 111 US 53 (1884). A Nordemann, 'Germany' in Y Gendreau, A Nordemann and R Oesch (eds), Copyright and Photographs. An International Survey (Kluwer 1999) p. 15.
2. US Code of Laws, § 102 - Subject matter of copyright: In gener-al.p. 80.
3. See DJ Gervais, 'The Machine as Author' (2020) 105 lowaLRev (forthcoming) (proposing a test of 'originality ausation'). p. 39.
4. C Cheesman, 'Photographer Goes Ape over Monkey Selfie: Who Owns the Copyright?' Amateur Photographer (7 August 2014). p. 50.
5. Shenzhen Tencent Computer System Co., Ltd. Shanghai Yingx-un Technology Co Ltd] (24 December 2019) Shenzhen Nan-shan District People's Court. Court Rules Al-Written Article Has Copyright' China Daily (9 January 2020). Zhang Yangfei.p. 20.
6. S Séjourné, Draft Report on Intellectual Property Rights for the Development of Artificial Intelligence Technologies (European Parliament, Committee on Legal Affairs, 2020/2015(INI), 24 April 2020. 125 ibid, Explanatory Statement.) p. 9-10.
7. Intellectual Property Strategic Program 2016, 2016. 79 p.
8. Davis R. Intellectual Property and Software: The Assumptions are Broken / Massachusetts Institute of Technology, Artificial Intelligence Laboratory // A.I. Memo N 1328. - 1991, November. -20 p.m.
9. Simon Chesterman, Artificial intelligence and the limits of legal personality, 2020. p. 15.
10. I Asimov, 'Runaround' Astounding Science Fiction (March 1942). p. 5.
11. E Yudkowsky, 'Complex Value Systems in Friendly AI' in J Schmidhuber, KR Thorisson and M Looks (eds), Artificial General Intelligence (Springer 2011) p. 388.
