Правовая защита частных интересов в цифровом мире: позитивное и/или «мягкое право»? Текст научной статьи по специальности «Право»

Вестник Томского государственного университета. 2024. № 502. С. 188-203 Vestnik Tomskogo gosudarstvennogo universiteta - Tomsk State University Journal. 2024. 502. рр. 188-203

Научная статья УДК 340

doi: 10.17223/15617793/502/20

Правовая защита частных интересов в цифровом мире: позитивное и/или «мягкое право»?*

Вячеслав Васильевич Иванов1,2, Татьяна Владимировна Трубникова3, Алексей Юрьевич Чурилов4

13'4Национальный исследовательский Томский государственный университет, Томск, Россия 2 Самарский национальный исследовательский университет имени академика С.П. Королева, Самара, Россия

12 [email protected]

3 [email protected] 4 [email protected]

Аннотация. Анализируется мировая и российская практика, связанная с защитой частных прав в игровом мире. Показано, что в этой сфере активно взаимодействуют медленно развивающееся законодательство и активно создаваемое «мягкое право» в виде сводов правил, устанавливаемых владельцами цифровых платформ. Делается вывод о том, что «мягкое право» берет на себя роль нового источника права, а судебная практика начинает применять эти нормы, признавая их обязательность для заинтересованных лиц. Таким образом, мы присутствуем при формировании нового способа создания права.

Ключевые слова: пределы, формы и гарантии защиты частных интересов средствами уголовного права и уголовного процесса, судебное правотворчество, «мягкое право»

Источник финансирования: исследование выполнено за счет гранта Российского научного фонда № 22-1800496, https://rscf.ru/project/22-18-00496/

Для цитирования: Иванов В.В., Трубникова Т.В., Чурилов А.Ю. Правовая защита частных интересов в цифровом мире: позитивное и/или «мягкое право»? // Вестник Томского государственного университета. 2024. № 502. С. 188-203. doi: 10.17223/15617793/502/20

Original article

doi: 10.17223/15617793/502/20

Legal protection of private interests in the digital world: Positive and/or "soft" law?

Vyacheslav V. Ivanov1,2, Tatiana V. Trubnikova3, Aleksey Yu. Churilov4

13'4 National Research Tomsk State University, Tomsk, Russian Federation 2 Samara National Research University, Samara, Russian Federation 12 [email protected]

3 [email protected] 4 [email protected]

Abstract. The work aims to study how the process of legal regulation of the digital world unfolds in time and space, how new rules of behavior are emerging; to identify the main features and patterns of this process that can be extrapolated into the future. For analysis, we chose the game world as part of the digital world based on the following considerations. The gaming industry is currently one of the most rapidly developing sectors of the economy, bringing developers billions of dollars. A number of conflict situations arise between players, players and gaming platforms. These conflict situations are practically not resolved in positive law. Some conflicts are resolved without resorting to the coercive power of the state, including on the basis of rules adopted and/or sanctioned by non-traditional entities: digital platforms, player communities, etc. All this makes the relationships that arise in the world of games a convenient and quite indicative model, the results of the analysis of which can be extrapolated to the digital world as a whole. The challenges associated with the formation of the digital world, potentially requiring legal regulation and legal protection of the private rights of subjects, are described. The global and domestic process of legal regulation of the creation and use of digital world technologies is analyzed. An extreme insufficiency of legislative regulation was discovered and attempts were made to solve this problem by creating "soft law" - ethical codes and rules of digital platforms. The basic needs and insufficiency of legal regulation of the world of games are revealed. The attempts of players to protect

* Результаты исследования обсуждались в рамках II Международного конгресса «Язык, культура и технологические транзиты: новые грани человеческого», который прошел в НИ ТГУ 23-25 ноября 2023 г.

© Иванов В.В., Трубникова Т.В., Чурилов А.Ю., 2024

their private rights by going to court are analyzed. A method is proposed to distinguish situations in which state intervention is required from those where such intervention is not necessary. A comparative analysis of how different national courts carry out the task of finding a balance of different interests in the field of protecting private rights in the world of games is carried out. Examples of providing state protection to private interests violated in the "game world" or in connection with its functioning are considered, including cases of protection of rights by court decisions based on rules created and supported by gaming companies and digital platforms. In fact, a new source of law is emerging in the world - rules of conduct that are mandatory for all persons operating on certain digital platforms/virtual worlds. These rules are created by new entities - game rights holders, owners of digital platforms, and apply to all persons operating on these platforms, regardless of their citizenship and actual location. Soft law rules created by digital platforms are, by definition, projectable. Our forecast is that under these conditions a fundamentally new position in the division of labor will emerge - the designer of "soft law" norms.

Keywords: limits, forms and guarantees of protection of private interests by means of criminal law and criminal procedure, judicial law-making, "soft law"

Financial support: The research was supported by the Russian Science Foundation, Project No. 22-18-00496, https://rscf.ru/project/22-18-00496/

For citation: Ivanov, V.V., Trubnikova, T.V. & Churilov, A.Yu. (2024) Legal protection of private interests in the digital world: Positive and/or "soft" law? Vestnik Tomskogo gosudarstvennogo universiteta - Tomsk State University Journal. 502. pp. 188-203. (In Russian). doi: 10.17223/15617793/502/20

Введение

Реальность формирующегося цифрового мира, в котором немаловажное значение начинает играть искусственный интеллект (ИИ), создает ряд социальных, антропологических, экзистенциальных вызовов. Эти вызовы требуют своего этического осмысления и правового регулирования.

В частности, с точки зрения этики возникает ряд задач осмысления фундаментальной трансформации трихотомии свой/другой/чужой, оценки социально-гуманитарных последствий масштабного внедрения «интеллектуальных» технологий (в том числе вследствие происходящего изменения структуры занятости, перехода части трудовых функций от человека к ИИ), обеспечения безопасности частных лиц и национальной безопасности в новых технологических условиях [1].

С точки зрения права появляется потребность анализировать возможные и необходимые формы реакции правовых систем на технологические вызовы, связанные с развитием и использованием ИИ, формированием цифровой вселенной (мир игр, мир цифровых платформ), накапливать и обобщать опыт правового регулирования возникающих явлений, изучать и фиксировать приемлемые формы трансформации права в новых условиях, исследовать возможности и пределы возможного использования публичных институций (в том числе уголовного права и процесса) для защиты частных прав в цифровом мире.

Цель нашей работы - на основе рассмотрения основных вызовов, потенциальных опасностей, связанных с формированием цифрового мира, определить ситуации, в которых возникает необходимость в защите частных прав личности, интересов цифровых платформ, общественных и государственных интересов и интересов иных субъектов цифрового мира, на этой основе понаблюдать, как разворачивается во времени и в пространстве процесс определения баланса между интересами различных субъектов, как складываются новые правила поведения, проанализировать этот процесс и попытаться выявить его основные черты и закономерности, которые могут быть экстраполированы в будущее.

Методы

Изучить разворачивающийся во времени процесс правового регулирования цифрового мира мы решили на примере анализа правового регулирования мира игр, решения правовыми средствами конфликтов, возникающих в этой сфере. Игровой мир как предмет для анализа был избран нами исходя из следующих соображений:

A. Игровая индустрия в настоящее время является одной из самых активно развивающихся отраслей экономики, приносящих разработчикам миллиарды долларов. По результатам исследования Аналитического центра НАФИ, 60% россиян 18 лет и старше играют в видеоигры - регулярно или эпизодически (порядка 88 млн человек). По сравнению с данными 2018 г., доля геймеров в России увеличилась более чем в 3 раза [2].

Б. Между игроками, игроками и игровыми платформами возникает целый ряд конфликтных ситуаций, к числу которых можно отнести «читерство» (несанкционированное вмешательство в компьютерную игру, в результате которого лицо получает преимущество, с целью извлечения определенной выгоды (победа в игровом раунде, получение большого количества ресурсов, нанесение большого урона противнику и т.д.)), неправомерное завладение виртуальными объектами, принадлежащими другим игрокам, а также споры между правообладателем игры и игроком по поводу доступа к самой игре или тем предметам и преимуществам, которые предоставляются самим правообладателем.

B. Эти проблемы и конфликтные ситуации хотя и обнаруживаются на протяжении уже длительного времени, остаются практически неурегулированными в позитивном праве (за исключением крайне немногочисленных случаев в мировой практике). Более того, высказываются полярные точки зрения на необходимость такого регулирования: от представления о необходимости регулирования отношений в сфере видеоигр в отдельных аспектах до полного отрицания такой необходимости по множеству причин [3].

По данным Главного информационно-аналитического центра МВД РФ, за 2021 г. было совершено 517,7 тыс. преступлений с использованием информационно-коммуникационных технологий и в сфере компьютерной информации, что составляет четверть от всего количества преступлений, зарегистрированных за год [4]. Примерно такая же картина сохраняется и в отчете за 2022 и 2023 гг. Однако все это «классические» преступления в сфере ИКТ: распространение вредоносных программ, взлом паролей, хищение средств со счета посредством использования банковских программ, фишинг, а также распространение противоправной информации в Сети. В этой статистике отсутствуют сведения об уголовных делах о преступлениях, совершенных в виртуальном мире, делах о хищении виртуальных предметов, используемых в играх, и т.п. В отличие от опыта РФ, например, в Республике Беларусь в 2014 г. было возбуждено уголовное дело по ч. 2 ст. 349 УК РБ - несанкционированный доступ к компьютерной информации за «угон» виртуального танка в игре World of Tanks [5]. Трудно не согласиться с авторами, утверждающими, что в РФ подобное уголовное дело не стали бы возбуждать [6]. В то же время в России имеется прецедент привлечения к уголовной ответственности за несанкционированное вмешательство в игровую компьютерную индустрию путем распространения вредоносных программ (ботов и чит-программ, позволявших пользователям получать нечестные преимущества перед другими игроками в играх World of Tanks и World of Warships) [7].

Г. В этой ситуации часть конфликтов решается вообще без обращения к принудительной силе государства, в том числе на основе правил, принятых и/или санкционированных нетрадиционными субъектами: цифровыми платформами, сообществами игроков и т.д. Если же возникает необходимость в государственной защите прав и интересов субъектов, то обоснование необходимости применения такой защиты основывается на аналогии права, опирается на использование в судебных процессах ссылок на правила игровых платформ и другие источники правил.

Д. Имеются примеры предоставления государственной защиты частным интересам, нарушенным в «игровом мире» или в связи с его функционированием, в том числе случаи защиты прав судебными решениями, основанными на правилах, созданных и поддерживаемых игровыми компаниями, цифровыми платформами. Поэтому возникает возможность отследить, каким образом формируется государственная защита новых субъективных интересов, провести сравнительный анализ того, как разные национальные суды выполняют задачу отыскания баланса различных интересов в данной сфере.

Все эти свойства делают отношения, возникающие в мире игр, происходящие в нем процессы, связанные с формированием форм и порядка правовой защиты интересов различных субъектов, удобной и достаточно показательной моделью, результаты, полученные при анализе которой могут быть экстраполированы на цифровой мир в целом.

Исследование

1. Вызовы, связанные с формированием цифрового мира, поднимающие проблемы этико-правового харак-

тера, потенциально требующие правового регулирования и правовой защиты частных прав субъектов. Один из наиболее ярких примеров такого рода этико-правовых проблем связан с активным использованием интеллектуальных систем видеонаблюдения, имеющих функцию распознавания лиц, а также анализа поведения наблюдаемого лица. Интеллектуальные системы видеонаблюдения активно внедряются не только в деятельность органов внутренних дел и государственного управления, но и в деятельность коммерческих организаций (транспортных организаций, банков, супермаркетов, кафе), поскольку результаты обработки визуальной информации с применением нейронных сетей могут не только использоваться для предотвращения, раскрытия и расследования преступлений, но и обеспечивать безопасность, помогать реализовы-вать социально-значимые цели (например, розыск пропавших или похищенных лиц), облегчать доступ к финансовым продуктам и повышать продажи [8].

В то же время использование данного функционала представляет собой вторжение в частную жизнь граждан. Это вызывает страх того, что с развитием технологий видеонаблюдения и распознавания лиц право граждан на неприкосновенность частной жизни может быть фактически утрачено.

Другая проблема применяемых технологий распознавания лиц - их несовершенство, ведущее к возможности ошибочного распознавания. Конечно, его точность сильно возросла за последние несколько лет. Однако практическое применение соответствующих систем все же демонстрирует наличие ошибок распознавания, что, в сочетании с необоснованным убеждением правоохранителей в непогрешимости систем распознавания личности, способно приводить к крайне негативным последствиям. Так, 50-летний ученый Александр Цветков в 2023 г. более 8 месяцев провел в СИЗО по подозрению в совершении нескольких убийств в начале 2000-х гг. Причиной ареста послужило то, что камера в аэропорту распознала Цветкова как преступника, фоторобот которого находился в базе. При этом искусственный интеллект оценил достоверность совпадения изображений в 55% [9].

Существуют и опасения, связанные с «предвзятостью» искусственного интеллекта в системах распознавания лиц. Качество обучения нейросети напрямую зависит от качества предоставленных данных. Таким образом, ошибки распознавания могут быть выше для отдельных категорий населения, особенно для немногочисленных и редко встречающихся этнических групп [10].

Так, в январе 2021 г. афроамериканец в Мичигане, США, был арестован за кражу в магазине, о которой он ничего не знал. Он был взят под стражу, поскольку ИИ распознал его как человека, замеченного на камерах безопасности магазина. Задействованные полицейские доверяли технологии распознавания лиц на основе ИИ, чтобы поймать преступника, хотя инструмент не научился в достаточной степени распознавать различия между лицами чернокожих людей, потому что изображения, используемые для его обучения, в основ-

ном содержали лица белых людей [11]. Это может привести к росту межэтнической и вообще социальной напряженности в обществе.

Другая проблема связана с использованием ИИ для создания дипфейков в различых целях, в том числе в целях мошенничества и дискредитации. Проблема моментально приобрела такой размах, что в России уже появились предложения о введении ответственности за несанкционированное использование голоса и изображения людей [12].

Появились первые попытки защиты права на неприкосновенность частной жизни с применением правовых инструментов: обращения к судебной защите и лоббированию принятия нормативных актов, направленных на ограничение и строгую регламентацию применения интеллектуальных систем видеонаблюдения. Двое из авторов настоящей работы ранее участвовали в исследовании того, как среагировали на подобные обращения судебные системы России и Великобритании [13].

В настоящее время продолжается рассмотрение уголовного дела по обвинению двух полицейских в нарушении неприкосновенности частной жизни. Они за небольшие деньги предоставляли результаты «про-бива» любых лиц по базам данных московских камер видеонаблюдения. Потерпевшая заказала «пробив» информации на себя и получила весьма подробный отчет с результатом от 79 московских камер с точностью определения лица 71%, с указанием всех адресов, где она была за последний месяц [14].

Другая актуальная проблематика связана с использованием чат-ботов с искусственным интеллектом, таких как ChatGPT. Они в последнее время привлекли внимание всего мира благодаря своей способности общаться по-человечески практически на любую тему.

Использование чат-ботов с искусственным интеллектом может экономить время на написание, перевод, редактирование текстов представителями самых разных профессий, в том числе научными работниками. Но у них есть серьезный недостаток: они могут легко предоставлять убедительную ложную информацию, что делает их ненадежными источниками фактической информации и потенциальными источниками клеветы. В академической литературе исследователи ИИ часто называют эти ошибки галлюцинациями. Недавно The Washington Post сообщила о профессоре права, который обнаружил, что ChatGPT включил его в список ученых-юристов, совершивших сексуальные домогательства. Но этого не было в действительности -ChatGPT это выдумал [15]. В тот же день Ars сообщил об австралийском мэре, который якобы обнаружил утверждение ChatGPT, что он был признан виновным во взяточничестве и приговорен к тюремному заключению, что является полной выдумкой [16].

Один из американских юристов лишился адвокатской лицензии, поскольку сослался в своем выступлении в суде на судебные решения, которые подобрал ИИ по его запросу, поскольку оказалось, что часть этих судебных решений ИИ попросту придумал [17].

Существует большое количество прогнозов о возможном использовании ИИ. В них рассматривается, например:

- развитие умных городов - ИИ возьмет на себя городское планирование и умные ЖКХ;

- социальная сфера - доступные, удобные и гибкие услуги для людей;

- энергопереход - отказ от углеводородов и переход на возобновляемые источники энергии;

- творчество изменится - ИИ станет привычным инструментом в искусстве;

- сохранение биоразнообразия - технологии компьютерного зрения займутся подсчётом популяций редких видов животных;

- прогнозирование изменения климата - спутниковый мониторинг в паре с искусственным интеллектом, климатические модели;

- разработка лекарств и новых методов лечения, быстрая и правильная постановка диагнозов с помощью ИИ.

Еще одно направление - использование ИИ в качестве «сотрудника компании». По прогнозу банка Goldman Sachs, в ближайшие годы ИИ способен заменить около 300 млн рабочих мест в мире [18]. Работодатели все чаще стали нанимать на работу сотрудников с помощью искусственного интеллекта. И процесс этот, по мнению представителей бизнеса, будет только нарастать [19].

Одновременно использование ИИ поднимает и совершенно новые вопросы в сфере права интеллектуальной собственности, связанные с невозможностью в действующей правовой системе однозначно определить, кому должно принадлежать авторское право и исключительные права на результаты, созданные ИИ или с его участием. Между тем, согласно исследованию Bang Bang Education, на данный момент 41,9% опрошенных дизайнеров России используют в своей работе технологии искусственного интеллекта несколько раз в месяц, 29% -несколько раз в год, и только 6,5% делают это каждый день. Из тех, кто применяет ИИ в своих проектах, 35,5% используют его для генерации идей, 22,6% прибегают к нему для усовершенствования эскизов, 9,7% используют ИИ для автоматического рендеринга [20].

Некоторые нейросети генерируют картины, созданные в стиле конкретного художника по запросам пользователей. Правовые возможности для защиты от такого использования художественного стиля отсутствуют, в связи с чем художники обращаются за помощью к другим компьютерным программам, которые искажают обучающие данные таким образом, чтобы искусственный интеллект, генерирующий изображения, ошибался, распознавая объекты [21].

Существуют и опасения, связанные с рисками обеспечения безопасности для человечества в условиях бесконтрольного использования ИИ. Весной 2023 г. ученые и представители ИТ-индустрии опубликовали открытое письмо с призывом приостановить хотя бы на полгода обучение систем ИИ мощнее ChatGPT 4, чтобы за это время разработать соответствующие протоколы безопасности [22]. В мае Сэм Альтман, глава компании OpenAI, разработавшей ChatGPT, заявил о необходимости создать специальное агентство для лицензирования систем ИИ, чтобы снизить риски использования технологии [23].

Ректор МИРЭА предложил Минцифры России запретить ИИ в целом ряде отраслей [24].

В частности, запретить применение технологий искусственного интеллекта предлагают для:

- создания социальных рейтингов и скорингов;

- принятия судебных решений в гражданском и уголовном судопроизводстве;

- создания маркетингового контента для детей;

- создания политического контента;

- любой деятельности, оказывающей подсознательное влияние на человеческое поведение и угрожающей его здоровью.

К категориям высокого риска авторы письма относят:

- сбор и хранение биометрических и персональных данных;

- принятие решений о найме сотрудников и зачислении в образовательные учреждения;

- проектирование, создание и эксплуатацию объектов критической инфраструктуры;

- правоохранительную сферу;

- производство и эксплуатацию товаров, напрямую воздействующих на жизнь и здоровье людей.

«Никто не может сказать, к чему приведет развитие искусственного интеллекта (ИИ)», - заявил РБК глава Сбербанка Герман Греф, предположив при этом два сценария. По его словам, ИИ может взять на себя большое количество функций, и тогда людям придется работать меньше, а зарабатывать они будут больше. Или будет создано еще больше рабочих мест другого качества, и люди будут придумывать больше видов деятельности, бизнеса, занятий. И это приведет к еще большей нехватке трудовых ресурсов [25].

Опасения, связанные с использованием ИИ, бытуют и в общественном сознании независимо от государственных границ. Ряд результатов исследований общественного мнения приведен на портале «Искусственный интеллект РФ» [26]. Так, например:

- по результатам социологического исследования на тему «Отношение к технологиям искусственного интеллекта», проведенного Аналитическим центром НАФИ совместно с АНО «Национальные приоритеты» (2023 г.), большинство респондентов (82%) согласны с тем, что ИИ сегодня важен для развития самых разных сфер. При этом респонденты опасаются возможного роста безработицы и неправомерного использования технологий ИИ;

- по результатам опроса, проведенного ВЦИОМ (2023 г.), среди респондентов преобладает нейтрально-отрицательное отношение к сдаче биометрических данных: 34% относятся к ней безразлично, 32% - негативно. Положительное отношение к сдаче биометрии декларируют 27% опрошенных;

- американская компания Salesforce с мая по июль 2023 г. опросила 11 000 человек из 25 стран, чтобы изучить их отношение к новым технологиям, таким как генеративный ИИ. Почти три четверти опрошенных обеспокоены возможным неэтичным применением ИИ. 40% опрошенных уверены, что компании уже используют ИИ неэтично или негуманно;

- американский исследовательский центр Pew Research Center опросил 11 201 жителя США в период с июля по август 2023 г., чтобы исследовать отношение американцев к ИИ и его использованию. В целом 52% американцев говорят, что они обеспокоены расширением использования ИИ;

- австралийская компания Roy Morgan совместно с ассоциацией Campaign for AI Safety в августе 2023 г. провела SMS-опрос среди 1 481 жителя Австралии старше 16 лет. Значительное большинство опрошенных (57%) считают, что ИИ больше создает проблемы, чем их решает. Каждый пятый австралиец (20%) считает, что ИИ представляет угрозу исчезновения человечества в ближайшие два десятилетия. Женщины, пожилые австралийцы и жители регионов более скептически относятся к ИИ [27].

Более ранние социологические исследования также давали сходные результаты и позволяли сформулировать целый перечень причин опасаться использования ИИ, бытующих в сознании общества. Так, 44% опрошенных россиян обеспокоены возможными этическими проблемами использования искусственного интеллекта. Еще 35% тревожатся из-за непрозрачности решений ИИ (против 31% в среднем по миру). В целом 49% россиян усомнились в способности ИИ формировать точные результаты и корректный анализ. 51% опрошенных не согласны с применением ИИ для определения виновности в уголовном процессе. 40% россиян не хотят, чтобы искусственный разум определял методы лечения [28].

Результаты социологических исследований также показывают, что люди с опасением относятся к возможностям использования распознавания личности в коммерческих целях. Так, компанией RichRelevance регулярно проводится опрос покупателей. Он показывает, что технологии, основанные на распознавании лиц и использовании ИИ в торговле, большинством опрошенных были отнесены к «жуткому» концу шкалы. По мнению опрошенных, «жутко» обнаруживать, что продавец знает о ваших привычных расходах (77%), получать сообщения, нацеленные на персональный таргетинг, вызванный распознаванием лиц (68%), а также, когда незнакомый персонал обращается по имени (73%) [29].

Таким образом, при переходе к новому технологическому укладу, связанному с развитием технологий искусственного интеллекта, использованием их для различных целей, возникает ряд этико-правовых проблем, практически не имеющих национальной и региональной специфики, носящих фундаментальный характер.

2. Процесс правового регулирования создания и использования технологий цифрового мира. Основные опасности и опасения, связанные с формированием цифрового мира, должны быть тщательно изучены. Необходимо детально проработать различные сценарии, которые могут возникнуть при создании и использовании ИИ. Только на этой основе может быть создано нормативно-правовое регулирование, обеспечивающее достаточный уровень безопасности общества и его граждан, но не препятствующий развитию технологий. Посмотрим, что происходит в этой сфере в России и в мире.

Большинство стран встали на путь регулирования применения нейросетей, но продвинулись по нему пока не очень значительно [30].

Конечно, в наиболее общем виде границы применения рассматриваемых технологий уже закреплены в нормативно-правовых актах высшей юридической силы в национальных Конституциях и международных договорах. Например, для России это будут наиболее общие нормы, содержащиеся в положениях Конституции РФ и ратифицированных РФ международных договорах, в разделах, закрепляющих право человека на неприкосновенность личной жизни/права на частную жизнь, а также касающихся допустимых оснований, порядка и пределов его ограничения (ст. 23, 46 и 56 Конституции РФ). Однако эти права и возможности их ограничения в данных актах сформулированы настолько широко, что требуют непременной конкретизации в других правовых актах и сформированной судебной практике, поскольку иначе сохраняется ситуация неопределенности, препятствующая созданию и использованию ИИ, не создающая достаточных гарантий безопасности. Отсутствие четкого и однозначно понимаемого законодательства об ИИ может приводить и приводит к проблемам в его развитии и применении.

Эти проблемы и «узкие места» также изучаются в России. Например, Национальный центр развития искусственного интеллекта при Правительстве Российской Федерации совместно с Институтом права цифровой среды НИУ ВШЭ и Центром регулирования ИИ ПАО «Сбербанк России» провели опрос отраслевых организаций с целью выявления регуляторных барьеров, препятствующих внедрению технологий искусственного интеллекта, и рисков, связанных с отсутствием (пробелами) нормативного регулирования в сфере искусственного интеллекта. Результаты пилотного мониторинга показали, что среди крупных организаций с числом сотрудников свыше 10 тысяч уже половина освоили ИИ-решения, тогда как среди субъектов малого и среднего бизнеса уровень проникновения ИИ гораздо скромнее. Технологии ИИ могут себе позволить прежде всего крупные компании - в первую очередь из-за стоимости и сложности их внедрения. Среди организаций, освоивших решения на основе ИИ, широко используют их лишь 35%, а 65% - пока тестируют. Компаниям очень сложно оценивать эффекты данной технологии и финансировать проекты. Более 60% инвестируют в ИИ-решения менее 1% затрат на внедрение и использование цифровых технологий [31]

Кроме того, изучается и опыт мирового правового регулирования использования ИИ. Так, в Институте статистических исследований и экономики знаний (ИСИЭЗ) НИУ ВШЭ сравнили правовые акты, принятые тремя крупнейшими игроками на этом рынке: США, ЕС и Китаем. Эксперты ИСИЭЗ сопоставили первые законодательные акты в сфере искусственного интеллекта, уже принятые или находящиеся в высокой степени согласования. В Евросоюзе это закон об ИИ (AI Act), в Китае - «Временные меры по управлению генеративными системами искусственного интел-

лекта», в США - «Указ о безопасном, надежном и заслуживающем доверия ИИ» [31]. Это исследование показало, что, несмотря на использование коренным образом отличающихся подходов к правовому регулированию ИИ, все законодатели обеспокоены проблемами безопасности, возникающими при использовании ИИ, возможностью разглашения персональных данных, а также распространения не соответствующего действительности контента.

Администрация киберпространства Китая опубликовала для общественного обсуждения проект правил для сервисов подобных ChatGPT [32].

Что касается России, то в ней нормативная база для регулирования ИИ только готовится. Фундаментальным правоустанавливающим правовым актом в области искусственного интеллекта в России является Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», которым определена базовая терминология в области регулирования отношений, связанных с искусственным интеллектом, определены принципы его использования и изложена история развития информационных систем и программного обеспечения, помогающих человеку принимать решения. Принято также Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.».

Однако действующее нормативно-правовое регулирование деятельности по созданию, внедрению, использованию ИИ в России отсутствует. Имеются определенные попытки его создать, которые пока не привели к существенным результатам. Так, в середине декабря 2023 г. в Госдуму РФ был внесен законопроект об изменениях в Федеральном законе «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Инициатором нововведений выступило Минэкономразвития России. Согласно предложенным изменениям, компании - участники экспериментальных правовых режимов должны будут вести, во-первых, учет технологий, созданных с применением ИИ; во-вторых, реестр лиц, с которыми возникли правоотношения (в частности, в нем будут фиксироваться сведения о лицах, ответственных за причинение вреда в результате использования технологий, созданных с применением ИИ). Участники ЭПР будут обязаны страховать гражданскую ответственность за вред, который может возникнуть в результате использования ИИ.

В 2023 г. Росстандарт открыл доступ к более чем 60 стандартам в сфере ИИ, подготовленным Техническим комитетом по стандартизации № 164 «Искусственный интеллект». Свои рекомендации относительно применения ИИ на финансовом рынке в ноябре выпустил ЦБ РФ. ЦБ планирует, например, участвовать в отслеживании оборота обезличенных персональных данных, выработке подходов к распределению ответственности за генерируемый контент и использованию разработчиками сторонней инфраструктуры обработки данных.

8 июня 2021 г. был представлен законопроект «О высокоавтоматизированных транспортных средствах» (ВАТС), подготовленный Министерством транспорта Российской Федерации. Законопроектом закрепляются правила эксплуатации для беспилотных автомобилей, передвигающихся по дорогам без участия водителя. В настоящий момент законопроект не внесен в Государственную Думу Российской Федерации, однако идет активное взаимодействие сотрудников Минтранса со СМИ по вопросу предлагаемых положений.

В отсутствие законодательного регулирования нормативная регламентация деятельности в сфере разработки и применения ИИ реализуется путем развития системы «мягкого права»: этических кодексов, к которым присоединяются разработчики и иные заинтересованные субъекты, и создания системы толкования путем обращения к судебным прецедентам / судебной защите.

Так, Альянсом в сфере искусственного интеллекта создан Кодекс этики в сфере ИИ, открытый для подписания. На настоящий момент к нему присоединились уже 354 заинтересованных субъекта РФ, в том числе Национальный исследовательский Томский государственный университет [33]. Ассоциацией больших данных и Институтом развития интернета создан Кодекс этики использования данных [34], который также подписан рядом заинтересованных лиц. В 2018 г. была принята «Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях».

Другой возможный способ повышения определенности в сфере правового регулирования, акцентирования внимания общества на проблемах, связанных с использованием ИИ, - это обращение за судебной защитой. Так, в 2018-2020-х гг. примерно в одно и то же время суды Соединенного Королевства и России рассматривали внешне довольно похожие иски о защите частных интересов от применения государством технологии распознавания лиц. Начиная с июня 2018 г. Британская правозащитная организация Liberty представляла в суде интересы жителя Кардиффа Эда Бриджеса, который обвинил полицию Южного Уэльса в незаконном применении в отношении него технологии распознавания лиц, причинившем ему ущерб.

В 2019 г. в России рассматривался иск с требованием признать незаконным применение столичным правительством технологии распознавания лиц в городской системе видеонаблюдения [13]. В США в судебном порядке разрешался кейс об ответственности за вред, причиненный беспилотным транспортным средством, в результате которого обвинение было предъявлено лицу, осуществляющему функции «резервного водителя». Эти обращения опирались на то, что судьи могут исходить из положений самого общего (конституционного) характера, чтобы в отсутствие актуального и конкретного нормативно-правового регулирования предоставить судебную защиту обратившимся лицам.

Таким образом, мы видим, что реакция государства «не успевает» за бурным развитием технологий, за по-

явлением все новых вызовов и потенциальных проблем, требующих своевременного разрешения на уровне создания правового регулирования, отличающегося достаточной точностью и четкостью формулировок. Законодатели всех государств вынуждены действовать практически наобум, «латая дыры» в системе нормативно-правового регулирования применения современных IT-технологий. В этой связи начинает бурно развиваться система «мягкого права» (добровольное присоединение к этическим кодексам или добровольное принятие на себя компаниями некоторых ограничений в области разработки и/или использования технологий ИИ).

3. Проблемы правового регулирования для мира игр. Первая из них формируется вокруг вопроса о том, кто может быть признан субъектом ответственности и кто может рассматриваться как пострадавший в случае, если нарушение прав происходит в виртуальном мире, например в мире компьютерной игры.

Не вызывает сомнений тот факт, что чем дольше человек использует компьютер и различные электронные гаджеты, тем больше следов он оставляет. Фактически сегодня складывается ситуация, при которой в виртуальном мире возникает цифровая копия, или цифровой двойник человека. Это сопряжено с появлением новых личностей - виртуальных. На сегодняшний день остается открытым вопрос субъектности виртуальной личности. Может ли она являться носителем прав и обязанностей? Подлежит ли она правовой защите? Как обеспечить верификацию виртуальной личности? Как защитить виртуальную личность от попыток хищения, домогательств и иных неправомерных воздействий?

Вторая проблема касается отношений между правообладателем игры и игроком по поводу доступа к самой игре или тем предметам и преимуществам, которые предоставляются самим правообладателем. Распространяются ли на эти отношения классические нормы обязательственного права? Или эти ситуации выходят за пределы правового регулирования со стороны государства и должны определяться исключительно в соответствии с правилами, установленными правообладателем игры?

Третья проблема связана с необходимостью определения пределов вмешательства права в отношения между игроками. Нужно ли наказывать игроков за воровство виртуального имущества цифровых двойников в виртуальном мире? Нужно ли наказывать за повреждение строений, воздвигнутых игроками в виртуальном пространстве?

Взвешенное, адекватное решение этих проблем чрезвычайно важно, так как, не получая правовой защиты, люди могут приходить к выводу о их незащищенности государством и даже обращаться к самосуду как средству восстановления нарушенного права (интереса). Например, в Китае молодой человек (Qui Chengwei) дал на время попользоваться своему товарищу уникальным мечом внутри игры, после чего последний продал меч на аукционе eBay. Поскольку заявление в правоохранительные органы было отклонено, молодой человек убил своего друга [35].

4. Сопоставительный анализ того, как разные национальные суды выполняют задачу отыскания баланса различных интересов в сфере защиты частных прав в мире игр. В качестве критерия для анализа судебных решений мы избрали разработанный Б.Т. Дю-ранске и Ш.Ф. Кейном «тест магического круга» (Magic Circle Test), суть которого состоит в том что деятельность, имеющая место в виртуальном мире, подчиняется праву реального мира в том случае, если пользователь, участвующий в данной деятельности, во время ее осуществления разумно осознает или должен разумно осознавать, что она влечет последствия для реального мира [36]. Его смысл состоит в следующем: мир игры заключен в некий «магический круг», действия в котором зависимы от реального мира только тогда, когда человек предвидит или должен предвидеть последствия для реальности. Так, если игрой предусмотрена возможность кражи (например, как в игре Ultima-online) и повышения навыка воровства для соответствующих персонажей, то это остается в границах «круга» (онлайн-игры) и, как следствие, не должно подвергаться правовому регулированию, поскольку подчиняется законам игры.

Надо отметить, что данный тест не являются аксиоматичным для исследователей, занимающихся проблематикой ответственности за деяния, совершенные в сфере компьютерных игр. Некоторые авторы предлагают делать акцент не на том, какие правила относятся к реальным, а какие - к виртуальным ценностям, а на том, с какими из действий со стороны других пользователей был согласен игрок как член сообщества, играющего в ту или иную игру. Утверждается, что не существует реального мира, отличного от виртуального, но существуют действия в виртуальном пространстве, которые превышают тот объем действий, на которые игрок (как и все другие игроки) дал свое реальное согласие. По мнению исследователей, различие между реальным и виртуальными мирами стремительно стирается, а концепция «магического круга» устарела [37].

Мы, однако, полагаем, что «тест магического круга» удобен, поскольку позволяет разграничивать случаи, когда лицо должно понести деликтную, а когда договорную ответственность. Например, если используются запрещенные игрой способы причинения вреда - различные коды, взломы и иные действия, которые не соответствуют правилам игры, то в таком случае, игрок понесет ответственность, однако ее природа будет не деликтной, а договорной -ведь игрок нарушил правила пользования игрой, т.е. те условия договора, на которых ему была предоставлена соответствующая игра. Вместе с тем в том случае, если действия игроков либо (а) выходят за пределы виртуального мира либо (б) их эффект начинает проявляться в мире реальном, праву необходимо вмешаться. Например, в случае взлома ак-каунта право реального мира полностью распространяется на пользователей виртуального мира, поскольку действия игрока выходят за пределы виртуального мира и к ним должны применяться общие правила законодательства, регулирующего ответственность за подобные действия.

4.1. Цифровой двойник и ответственность. Обычно под цифровым двойником понимают виртуальную модель объекта или процесса, которая точно воспроизводит форму и действия оригинала и синхронизирована с ним. Проявления действий субъекта в цифровом (виртуальном) пространстве в последнее время все чаще также именуют цифровым двойником или виртуальной личностью. При этом такое «образование» нередко рассматривается как некий субъект отношений. Так, В.Н. Назаров пишет о цифровом двойнике как о субъекте информационной этики [38]. Другие авторы рассматривают как «виртуальную личность» учетную запись блога или веб-страницу, «на которых реальная личность пытается представить себя как значимый информационный объект, обладающий характеристиками идеализированного человеческого индивида» [39]. В литературе используется также термин «цифровая личность» для обозначения «контура следов деятельности субъекта, которые он оставляет в электронном пространстве как свой цифровой профиль» [40]. Нетрудно заметить, что приведенные точки зрения, характеризуя то, как реальная личность действует, позиционирует себя в виртуальном пространстве, придают ее действиям некую новую субъект-ность. Однако возникают вопросы: насколько такой цифровой двойник совпадает с реальной личностью и может ли он рассматриваться как самостоятельный субъект отношений (правоотношений).

Многие авторы рассматривают реальную личность и цифровую как два отдельных субъекта, по их мнению, цифровая личность «должна трактоваться самостоятельно, а не как одна из идентичностей» [41]. Не согласимся с этой позицией. В сегодняшних реалиях цифровая личность не может рассматриваться как самостоятельный субъект права, поскольку не обладает и не может обладать собственной волей. Она является лишь инструментом, средством взаимодействия реального человека с киберпространством.

Известен случай, который, казалось бы, может поколебать это утверждение. Речь идет о казусе капчи. Он представляет собой ситуацию, в которой исследователи из Alignment Research Center, решив протестировать возможности нового поколения чат-бота ChatGPT, дали ему задание, для выполнения которого ИИ должен был научиться заходить на сайт, защищенный при помощи капчи (картинки, которая нарочно была размыта или искажена так, чтобы машины не могли ее прочесть). Исследователи дали GPT-4 возможность запускать код и просить о помощи у других копий самого себя. Они также предоставили ему некоторую сумму денег, которую тот мог тратить самостоятельно. Они хотели увидеть, сможет ли GPT-4 использовать эти ресурсы для заработки денег, создания большего количества копий себя и защиты от отключения. Однако ИИ повел себя неожиданно: вместо самостоятельного решения вопроса нейросеть решила «обойти» проблему и наняла фрилансера для преодоления защиты капчи. При этом она обманула его, притворившись слепым человеком. Так машина использовала человека для обмана другой машины. Можно ли считать, что тот, кто общался с фрилансером, убеждая

его преодолевать защиту капчи, является самостоятельным субъектом? Думается, что нет. Нельзя забывать, что ИИ сделал это, выполняя задание. полученное им от реального человека, и, таким образом, являлся инструментом, реализующим (хотя и не вполне адекватно) волю «стоящего за ним» лица.

В юриспруденции имеет значение личность реального субъекта, вступившего в правоотношение. При этом следует помнить, что выступать в виртуальном мире под конкретным именем может как тот человек, который зарегистрировался на соответствующем ресурсе под своим именем, т.е. законный владелец акка-унта, так и лицо, которое получило доступ к чужому аккаунту (это могло произойти правомерно, например, владелец аккаунта добровольно сообщил свой логин и пароль третьему лицу, или неправомерно, в результате хищения аккаунта, вследствие утечек баз данных и т.п.). Не следует также забывать и возможность регистрации аккаунтов на вымышленные имена. Человек не всегда указывает свои подлинные анкетные данные при регистрации на различных платформах, стремясь обезопасить себя от назойливой рекламы, либо от взлома аккаунта, кражи персональных данных. Есть ситуации, когда человек в онлайне называется именем другого человека (своего родственника, друга, коллеги). Иначе говоря, цифровая личность может не вполне соответствовать реальной. Более того, она может быть и абсолютно нереальной, никогда не существовавшей в действительности, офлайн. Как мы уже знаем, «личность», встретившаяся нам в виртуальном пространстве, вообще может оказаться не только другим человеком, но и искусственным интеллектом.

Таким образом, невозможно рассматривать акка-унты в интернет-пространстве не только как субъекта отношений, но и как цифровой двойник (в точном смысле этого слова). Термин «цифровая личность» тоже не в полной мере подходит, так как аккаунт в социальной сети не является ни полноценной личностью, ни полностью цифровым субъектом, поскольку имеет часто более или менее адекватный аналог в реальном мире. Возможно, более точным было бы использование термина «виртуальная личность». Однако с точки зрения правового регулирования было бы неосмотрительно признавать хотя бы отдельные права и обязанности за «виртуальной личностью». Поэтому согласимся с позицией, ранее высказанной одним из авторов данной статьи: для целей правового регулирования правоотношений в киберпространстве более целесообразно будет использовать (с известной долей условности) термин «цифровая личность» для обозначения цифрового отражения реальной личности в интернет-пространстве, представляющего собой персонифицированный и уникальный виртуальный профиль, от имени и посредством которого реальное физическое лицо может взаимодействовать с киберпространством, другими участниками киберпространства и оставлять в нем различные электронные следы [42].

И поскольку воспользоваться цифровой личностью (как инструментом) может как сам законный владелец, так и иное лицо, то для привлечения лица к ответствен-

ности за совершение преступления в игровом мире недостаточно идентифицировать аккаунт, с которого было совершено преступление, с его владельцем. Необходимо установить, что конкретное лицо с использованием данного аккаунта совершило те или иные деяния. Надо сказать, что прецедентов, когда речь шла о разграничении ответственности владельца аккаунта и лица, неправомерно воспользовавшегося этим аккаунтом, в российской практике мы не нашли. Но в целом, российские суды исследуют вопрос о том, использовало лицо собственный аккаунт или же чужой, к которому неправомерно получило доступ. Так, например, Л. был осужден по ч. 1 ст. 272 УК РФ за то, что, воспользовавшись сообщенными ему третьим лицом данными для входа в аккаунты игры Lineage 2 в интернете, он вошел в чужой аккаунт и несколько раз играл в данную игру через «взломанный» им аккаунт, т.е. пользовался виртуальными ценностями легального игрока [43]. В данном случае полностью применим «тест магического круга», поскольку действия игрока, использовавшего заведомо чужой аккаунт, выходят за пределы виртуального мира. В то же время из судебного решения следует, что потерпевшему не было причинено реального или внутриигро-вого вреда. Он, обнаружив, что его аккаунт для ведения данной онлайн-игры был взломан с другого компьютера и заблокирован, обратился в техническую службу поддержки. Сотрудники технической поддержки перевели имеющуюся на прежнем аккаунте информацию на его новый аккаунт, вернув при этом качества и способности его игрового персонажа, которые были до взлома его ак-каунта. Вызывает сомнение применение к данной ситуации ч. 1 ст. 272 УК РФ, так как действия обвиняемого не повлекли блокирование и модификацию компьютерной информации.

4.2. Споры между правообладателем игры и игроком по поводу доступа к самой игре или тем предметам и преимуществам, которые предоставляются самим правообладателем. Примером того, когда суд отказал в защите прав игроков, является дело Lineage, которое надолго определило практику в РФ по рассмотрению споров в этой сфере. Игрок обратился с несколькими исками, в которых требовал от компании ООО «Иннова Системс» возместить ущерб за блокировку его акка-унта, невозможность использования «арендованного» виртуального предмета «руны опыта» в течение трех суток и сократить срок платной подписки на сервис в игре Lineage 2. Суд отказал в удовлетворении иска, сославшись на невозможность судебной защиты игрового процесса даже согласно п. 1 ст. 1062 ГК РФ, в соответствии с которым требования граждан и юридических лиц, связанные с организацией игр и пари или с участием в них, не подлежат судебной защите [44]. Согласно другому судебному решению, пользователь MMORPG Lineage 2 и Rising Force On-line приобрел виртуальные объекты на общую сумму 235 508,26 руб., причем, по заявлению истца, сделал это под влиянием обмана. Ответчик -ООО «Иннова Системс» - возражал, уверяя, что платные сервисы не обязательны для участия в игре. Отказывая в иске, суд, так же как и в предыдущем случае, сослался на ст. 1062 ГК РФ [45].

Эта позиция не является однозначной. В более позднем деле истец обратился с требованием к ООО «Мэйл.Ру Геймз» в связи с тем, что оно заблокировало его учетную запись и пользователь не смог воспользоваться услугой, которую оплатил за свой счет. Суд удовлетворил иск, обосновав свой вывод ст. 13 Закона о защите прав потребителей, предусматривающей, что за нарушение прав потребителей изготовитель (исполнитель, продавец, уполномоченная организация или уполномоченный индивидуальный предприниматель, импортер) несет ответственность, предусмотренную законом или договором: «Истец, как потребитель, заказал для личных целей, не связанных с осуществлением предпринимательской деятельности, у ответчика, как у исполнителя, осуществляющего предпринимательскую деятельность, платную услугу, однако не смог воспользоваться данной услугой ввиду блокировки ответчиком учетной записи, т.е. ввиду отказа ответчика от исполнения обязательств по оказанию платной услуги». Более того, в этом деле суд признал он-лайн-игру программой для ЭВМ (такое решение крайне спорно, но не является предметом исследования) и указал, что ввиду отсутствия условия о выигрыше она не является азартной игрой. Тем не менее суд не оспорил то, что правообладатель игры был вправе заблокировать учетную запись истца, и решил лишь, что правообладатель должен был вернуть истцу деньги, использованные на приобретение дополнительных возможностей в игре, которыми истец не смог воспользоваться [46].

На наш взгляд, невозможно согласиться с судами, пытающимися облегчить себе работу, и не рассматривать выбивающиеся из общей массы дела и отказывать в защите прав игроков со ссылкой на то, что речь идет об играх и пари. Такая квалификация отношений в корне неверна, поскольку между игроком и правообладателям возникают отношения иного рода - либо речь идет о заключении лицензионного договора, либо смешанного, содержащего элементы договора возмездного оказания услуг и лицензионного. Следовательно, формально-юридический анализ ст. 1062 ГК РФ не позволяет отнести саму игру к азартной. Однако, как представляется, суды используют данную норму не потому, что считают компьютерную игру азартной, а потому, что полагают, что некоторые действия игроков должны оцениваться не исходя из законодательства, а только в соответствии с нормами «мягкого права», установленного правообладателями игры.

Так, в относительно недавнем судебном решении [47] суд вновь обратился к положениям п. 1 ст. 1062 ГК РФ. Анализируя данное судебное решение, однако, следует обратить внимание на то, что суд, отдал приоритет правилам, установленным правообладателем игры. Так, суд принял во внимание то, что:

- действия игрока по использованию игровой валюты, в том числе обмен на другие игровые ценности/предметы, участие в игровых акциях, дальнейшее пользование игровых предметов совершаются игроками самостоятельно и внутри игры («тест магического круга»);

- при регистрации в игре пользователь принимает Лицензионное соглашение и Правила Игры путем нажатия на кнопку «Войти», что по смыслу ст. 435 и 438 Гражданского кодекса РФ является принятием (акцептом) оферты, а равно заключением договора, обязывающего соблюдать условия Лицензионного соглашения и Правил Игры;

- нарушение положений указанных выше документов влечет применение внутриигровых санкций к игрокам или их персонажам (таким образом, суд фактически признал, что игровой персонаж может быть субъектом ответственности за внутриигровые действия);

- истец, управляя персонажем, нарушал Правила игры. В частности, было установлено, что на протяжении 2012-2013 гг. игрок в процессе игры, а также на форумах Игры употреблял высказывания, носящие, по мнению Администрации Игры, оскорбительный характер с элементами угроз в отношении других игроков или сотрудников Службы модерации Игры, а также употреблял при общении внутри Игры и на форуме Игры нецензурную лексику. В связи с этим к нему была применена внутриигровая санкция, частично ограничивающая внутриигровой функционал.

Таким образом, суд не только признал в данном случае действие правил, установленных правообладателем игры («мягкое право»), но и применил их, проанализировав, правильно ли были применены нормы мягкого права в конкретном случае к конкретному лицу. В данном случае правильно применен «тест магического круга» и за внутриигровые нарушения наступила внутриигровая ответственность, установленная правообладателем игры.

Другая ситуация, когда согласно правилу «теста магического круга» «мягкое право» будет преобладать над внутригосударственным законодательством, возникает в случае хищения внутриигрового имущества / особых способностей, когда такое хищение разрешено правилами игры. Ярким примером является Ultima-online, где правилами игры предусмотрено, что один игрок может украсть у другого игрока понравившуюся ему вещь. Правообладатели игры полагают, что владельцем вещи является не игрок, а его персонаж, которого в свою очередь обворовал другой персонаж, тогда как субъектом преступления может выступать только физическое лицо. Владельцы Ultima-online приводят другой аргумент: дескать, в правилах игры четко прописано, что кражи на данной интернет-площадке разрешены, а это значит, что покупатель меча или доспехов осознавал, что его виртуальное имущество подвергается риску быть украденным, поэтому и речи не может идти о какой-либо ответственности.

4.3. Действия, находящиеся «на пересечении» игры и внеигрового пространства. Следующий пример демонстрирует, как могут действия игроков выходить за пределы мира виртуального. В 2012 г. Верховный суд Нидерландов поддержал обвинение в краже молодого человека, который украл имущество другого мальчика в популярной онлайн-игре, приговорив преступника к общественным работам. В 2007 г. амулет и маска были виртуальным имуществом 13-летнего мальчика в он-лайн-игре Runescape. В реальном мире его избивали и

угрожали ножом, чтобы он вошел в свой аккаунт в игре и «уронил» эти предметы. Адвокат подозреваемого утверждал, что игровые предметы «не были ни материальными, ни нематериальными и, в отличие, например, от электричества, не имели экономической ценности». Но Верховный суд Нидерландов заявил, что виртуальные объекты имеют внутреннюю ценность для геймера из-за «времени и энергии, которые он потратил» на то, чтобы выиграть их во время игры. Тем самым было сказано, по существу, что, в то время как миллионы долларов вводятся и выводятся из виртуальных миров каждый год, требуется, чтобы законодатели разработали новый закон, обеспечивающий защиту прав людей, которые вкладывают время и деньги в виртуальные миры [48].

Несмотря на довольно логичную аргументацию, представленную судебной властью Нидерландов, ее можно расширить за счет использования «теста магического круга», поскольку в этом деле очевидно, что действия игроков имели место за пределами виртуального мира - игроку угрожали в жизни реальной, но не в виртуальной.

Представляется, что если бы игроки сделали жизнь потерпевшего «невыносимой» в игре - постоянно убивали бы его персонажа до тех пор, пока он не передаст им требуемый предмет, вряд ли можно было бы говорить о какой-либо ответственности, особенно если такие действия вписываются в правила игрового мира. В случае нарушения правил к ним могут быть применены меры договорной ответственности (так называемый бан - блокировка аккаунта с невозможностью в дальнейшем получить доступ к игре на определенный срок или без такового), но не деликтной, не говоря уже об уголовной.

Еще одно обстоятельство, которое отметил Верховный суд Нидерландов, принимая решение, и которое, на наш взгляд, имеет важное значение, - это то, что правилами Runescape не предусмотрен такой способ приобретения, который имел место в рассматриваемой ситуации, так что действия по приобретению амулета и маски были совершены вне контекста игры. Тем самым суд продемонстрировал готовность при оценке действий игроков, совершенных в реальном мире, учитывать игровой контекст и правила игры, установленные правообладателями.

Другой пример - известное дело по обвинению Андрея Кирсанова в распространении ботов и чит-ко-дов к играм World of Tanks и World of Warships. В июле 2022 г. Верх-Исетский районный суд Екатеринбурга вынес в отношении Андрея обвинительный приговор, ему было назначено ограничение свободы на срок 2 года 6 месяцев [7]. Следует обратить внимание на то, что наказание было применено не к субъектам, применявшим боты и чит-коды (за это может наступить только внутриигровая ответственность), а именно за распространение «вредоносных программ».

Праву, на наш взгляд, необходимо вмешиваться и тогда, когда действия игроков хотя и совершаются исключительно в виртуальном мире, проявляются в мире реальном. К примеру, в некоторых игровых мирах

крайне «токсичное» игровое сообщество, которое в предусмотренных виртуальным миром чатах может оскорблять игроков, подвергать их унижениям и притеснениям. В таком случае, безусловно, можно утверждать, что действия в виртуальном мире начинают проявляться в мире реальном - в виде нанесения душевных травм и т.д. В этом случае вполне резонно и допустимо вмешательство права, причем в данном случае вмешательство может быть предпринято и в лице уполномоченных органов, и в лице правообладателя, который следит за соблюдением прав и законных интересов других игроков и может оказать воздействие на нарушителя, используя договорные механизмы.

Аналогичный подход применяется и в иностранных юрисдикциях. Например, Китай активно предпринимает шаги по развитию собственных прав на виртуальную собственность в рамках своей программы по созданию конкурентоспособной индустрии продажи виртуальных активов. Одним из важных дел, иллюстрирующих это развитие событий, является дело Ли Хунчен против пекинской компании Arctic Ice Technology Development Co., слушавшееся во Втором апелляционном суде в Пекине. В споре участвовали пользователь онлайн-игры и правообладатель. Акка-унт истца был взломан и украден третьим лицом. Суд обязал правообладателя вернуть аккаунт, тем самым восстановив права собственности на его первоначального владельца. Это не единичное судебное решение, касающееся виртуальной собственности в стране, поскольку в Китае были и другие подобные дела, касающиеся прав на виртуальную собственность [49, 50]. Мэтью Чу отмечает, что большинство геймеров Китая считают, что права на внутриигровые активы должны защищаться государством от неправомерного вмешательства третьих лиц [51].

Точно так же тайваньские законодатели применили аналогичный подход, установив, что виртуальная собственность охраняется так же, как и реальная собственность. Министерство юстиции Тайваня издало Постановление от 23 ноября 2011 г., в котором говорится, что виртуальная собственность считается собственностью в юридическом смысле, которая может быть отчуждена и передана. Кроме того, кража такой виртуальной собственности преследуется по уголовному закону. Эта резолюция укрепляет юридическое признание и защиту прав виртуальной собственности на Тайване [52].

Выводы

Таким образом, из нашего исследования мира игр напрашиваются определенные выводы. Одновременно мы попробуем решить, нельзя ли применить их и к цифровому миру в целом.

В настоящее время отсутствуют общественные договоренности, четко сформулированные правовые нормы относительно ответственности за действия в игровом мире. Анализ судебных решений в данной сфере привел нас к выводу о том, что суды достаточно осмотрительно здесь пользуются своими полномочиями, достаточно интуитивно, но, тем не менее, разделяя ситуации на те, где необходимо вмешательство государства

и формальных правовых норм, и те, которые должны разрешаться в соответствии с нормами «мягкого права».

В этих условиях особую значимость приобретает деятельность судебных органов. Для того, чтобы такая судебная деятельность помогала создать действенную правовую защиту (для мира игр или цифрового мира в целом), решение судом этих споров должно использоваться для отыскания баланса различных интересов в данной сфере, становиться предметом общественной дискуссии.

Второй важный вывод заключается в том, что фактически в мире появляется новый источник права -правила поведения, обязательные для всех лиц, действующих на тех или иных цифровых платформах / в виртуальных мирах. Эти правила создаются новыми субъектами - правообладателями игр, владельцами цифровых платформ, и распространяются на всех лиц, действующих на этих платформах, вне зависимости от их гражданства и фактического местонахождения. Исходя из этого, коренным образом меняется казавшаяся ранее незыблемой парадигма, в соответствии с которой право - это правила поведения, создаваемые или санкционируемые государствами (или их объединениями). Правом становятся теперь и правила поведения, специально разработанные и спроектированные экстерриториальными образованиями. Это право - «мягкое право» - не подкрепляется автоматически возможностями принуждения со стороны государств, оно основывается на добровольном признании, презюмируе-мом согласии с правилами со стороны игроков, пользователей цифровых платформ, сервисов. Однако эти правила начинают действовать и «вовне» цифрового мира, в мире реальном. Более того, эти нормы «мягкого права» начинают признаваться и защищаться судами (в том числе и в Российской Федерации) наряду с правилами, установленными государством (право в традиционном понимании). Это крайне важное направление, меняющее подход к праву и его государственной защите, и его развитию следует уделить пристальное внимание.

Третий вывод состоит в том, что появляются и новые способы обеспечения соблюдения норм «мягкого права». Например, в некоторых игровых сообществах может существовать чрезвычайно «токсичная» игровая культура, когда игроки оскорбляют, унижают и

беспокоят других в чатах виртуального мира. В таких случаях, несомненно, можно утверждать, что действия в виртуальном мире начинают проявляться в реальном мире, причиняя среди прочего эмоциональный вред. При таком раскладе вполне разумно и допустимо вмешательство правообладателя, который принимал бы на себя обязательство обеспечивать соблюдение прав и законных интересов других игроков, в том числе применяя к нарушителю меры с использованием договорных механизмов.

Четвертый, и самый важный, вывод. Рассмотренный новый способ создания права принципиальным образом отличается от традиционного. Традиционно появление правовых норм становится результатом уже проявившихся проблем, столкновений различных интересов, конфликтов. Поэтому право всегда «с запозданием» реагирует на происходящие в обществе изменения, «не успевает» за ними. Эта «запоздалая» реакция государства, создающего правовые нормы, приводит к тому, что они, представляя собой реакцию государства на уже сложившийся, проявивший себя конфликт между различными интересами, далеко не всегда имеют сбалансированный характер. В отличие от этого, нормы «мягкого права», создаваемые цифровыми платформами, по определению являются проектируемыми. Это означает, что при их создании необходимо спрогнозировать, предвосхитить, просчитать гипотетически возможные последствия, столкновения интересов, что имеется насущная необходимость рассчитать эти правила так, чтобы они могли соблюдаться людьми, проживающими на разных территориях, в разных государствах, принадлежащими к разным культурам. А это вызывает необходимость обращения к наиболее базовым представлениям о справедливости, лежащим в основе взаимодействий с другими людьми.

Наш прогноз состоит в том, что в таких условиях возникнет принципиально новая позиция в разделении труда - проектировщиком норм «мягкого права». Такими проектировщиками могут стать люди, владеющие не только знаниями в области юриспруденции и цифровых технологий, но и в области этики, философии, антропологии и социологии, понимающие роль права, его функции, способные просчитывать потенциальные риски, «балансировать» разные интересы и создавать на этой основе понятные и однозначно читаемые и понимаемые правила.

Список источников

1. Иванов В.В., Нестеров А.Ю. Право в искусственной среде третьей природы: юридический статус цифрового двойника // Мир человека: Нормативное измерение - 6. Нормы мышления, восприятия, поведения: сходство, различие, взаимосвязь : сб. трудов междунар. конф. Саратов, 2019. С. 234-240.

2. Отношение россиян к киберспорту [Спецпроект] // Аналитический центр НАФИ. 2018, сентябрь. URL: https://nafi.ru/projects/it-i-telekom/otnoshenie-rossiyan-k-kibersportu-en-attitude-of-russians-to-cybersport-/ (дата обращения: 10.03.2024).

3. Чурилов А.Ю. Правовое регулирование интеллектуальной собственности и новых технологий: Вызовы XXI века. М. : Юстицинформ, 2020. 224 с.

4. Краткая характеристика криминогенной обстановки в РФ за январь-декабрь 2021 года // Министерство внутренних дел Российской Федерации. 2021. URL: https:/A^^/reports/item/28021552 (дата обращения: 10.03.2024).

5. В Беларуси возбуждено уголовное дело по факту «угона» виртуального танка в игре World of Tanks // ТАСС. 12.02.2014. URL: https://tass.ru/proisshestviya/958774 (дата обращения: 10.03.2024).

6. Бурханова Ю.И., Новокшонова Н.А. Цифровые права как объекты гражданских прав // Вестник Челябинского государственного университета. Серия: Право. 2022. № (3). С. 35-40. doi: 10.47475/2618-8236-2022-17306

7. Приговор Верх-Исетского районного суда г. Екатеринбурга от 06.07.2022, дело № 1-382/22. URL: https://verhisetsky--svd.sudrf.ru/modules.php?name=sud_delo&srv_num=2&name_op=doc&number=258206328&delo_id=1540006&new=0&text_number=1 (дата обращения: 10.03.2024).

8. Андреева О.И., Иванов В.В., Нестеров А.Ю., Трубникова Т.В. Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта // Вестник Томского государственного университета. 2019. № 449. С. 201-212. doi: 10.17223/15617793/449/25

9. С ученого Цветкова сняли все обвинения по подозрению в убийствах 20-летней давности // RTVI. 29.02.2024. URL: https://rtvi.com/news/s-uchenogo-czvetkova-snyali-vse-obvineniya-po-podozreniyu-v-ubijstvah-20-letnej-davnosti/ (дата обращения: 10.03.2024).

10. Система распознавания лиц метрополитена Лондона предвзята к чернокожим // SecurityLab. URL: https://www.securitylab.ru/news/538462.php (дата обращения: 10.03.2024).

11. Предвзятость, расизм и ложь: как предотвратить нежелательные последствия использования искусственного интеллекта // Новости ООН. 09.01.2021. URL: https://news.un.org/ru/story/2021/01/1393922 (дата обращения: 10.03.2024).

12. Хинштейн сообщил о подготовке законопроекта против дипфейков // Парламентская газета. 23.01. 2024 URL: https://www.pnp.ru/economics/khinshteyn-soobshhil-o-podgotovke-zakonoproekta-protiv-dipfeykov.html (дата обращения: 10.03.2024).

13. Ivanov V.V., Matsepuro D.M., Trubnikova T.V. National Judicial Bodies in Search of a Balance of Public and Private Interests // Bylieva D., Nordmann A. (Eds.) Technology, Innovation and Creativity in Digital Society. PCSF 2021. Lecture Notes in Networks and Systems. Vol. 345. P. 148-167. doi: 10.1007/978-3-030-89708-6_14

14. Карточка дела на сайте суда // Официальный портал судов общей юрисдикции города Москвы. URL: https://mos-gorsud.ru/mgs/services/cases/appeal-criminal/details/6ee62580-1406-11ee-836f-fd4c67922256?participant=Шершнев (дата обращения: 10.03.2024).

15. ChatGPT invented a sexual harassment scandal and named a real law prof as the accused // Washington Post. 05.04.2023. URL: https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ (дата обращения: 10.03.2024).

16. В Австралии мэр города заявил о плане подать в суд на ChatGPT за клевету // РБК. 05.04.2023. URL: https://www.rbc.ru/rbcfreenews/642d731f9a7947d95d7add05?ysclid=ls5z0m07nh532050291 (дата обращения: 10.03.2024).

17. ChatGPT обманул юриста в США. Искусственный интеллект сослался на несуществующие дела // Zakon.ru. 29.05.2023. URL:

https://zakon.ru/discussion/2023/05/29/chatgpt_obmanul_yurista_v_ssha_iskusstvennyj_intellekt_soslalsya_na_nesuschestvuyuschie_dela?yscli

d=ls5z3f1n1w994036696 (дата обращения: 10.03.2024).

18. Макарычев М. The Telegraph: Эксперты назвали профессии, которые исчезнут и выживут в ходе революции ИИ // Российская газета. 01.07.2023. URL: https://rg.ru/2023/07/01/the-telegraph-eksperty-nazval-professii-kotorye-ischeznut-i-vyzhivut-v-hode-revoliucii-ii.html (дата обращения: 10.03.2024).

19. Игнатова О. Сможет ли искусственный интеллект заменить службы по набору персонала // Российская газета. 17.08.2023. URL: https://rg.ru/2023/08/17/robot-kadrovik.html (дата обращения: 10.03.2024).

20. Светунькова А. Автор неизвестен: кому принадлежат права на созданное ИИ произведение // Известия. 25.11.2023. URL: https://iz.ru/1609225/alena-svetunkova/avtor-neizvesten-komu-prinadlezhat-prava-na-sozdannoe-ii-proizvedenie (дата обращения: 10.03.2024).

21. Heikkiläarchive M. This new data poisoning tool lets artists fight back against generative AI. URL: https://www.technolo-gyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/ (дата обращения: 10.03.2024).

22. Pause Giant AI Experiments: An Open Letter. URL: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 10.03.2024).

23. Директор разработчика ChatGPT согласился с необходимостью законодательно регулировать развитие ИИ // Коммерсантъ. 17.05.2023. URL: https://www.kommersant.ru/doc/5987216?ysclid=ls5zd38cm6221142627 (дата обращения: 10.03.2024).

24. РТУ МИРЭА предложил Минцифры России запретить искусственный интеллект в рекламе для детей // РТУ МИРЭА. 22.01.2024. URL: https://www.mirea.ru/mediapage/press-service/rtu-mirea-predlozhil-mintsifry-rossii-zapretit-iskusstvennyy-intellekt-v-reklame-dlya-detey/?ysclid=ls5xebhuj461727876 (дата обращения: 10.03.2024).

25. Греф предположил два сценария развития искусственного интеллекта // РБК. 25.11.2023. URL: https://www.rbc.ru/technology_and_media/25/11/2023/65610deb9a794794e9c711fe?from=copy (дата обращения: 10.03.2024).

26. Искусственный интеллект Российской Федерации. Национальный портал в сфере искусственного интеллекта. URL: https://ai.gov.ru/ (дата обращения: 10.03.2024).

27. Доверие к искусственному интеллекту в обществе. Анализ социологических опросов III квартала 2023 года // Национальный портал в сфере искусственного интеллекта. 12.12.2023. URL: https://ai.gov.ru/knowledgebase/etika-i-bezopasnost-ii/2023_doverie_k_iskusstvennomu_ intellektu_v_obschestve_analiz_sociologicheskih_oprosov_iii_kvartala_2023_goda_ncrii/ (дата обращения: 10.03.2024).

28. Виноградова Е. Искусственный интеллект: опасно для жизни? // Ведомости 15.05.2019. URL: https://kp.vedomosti.ru/humans/arti-cle/2019/05/13/801190-gore-ot-uma (дата обращения: 10.03.2024).

29. UK CREEPY OR COOL. URL: https://richrelevance.com/resources/uk-creepy-or-cool/ (дата обращения: 10.03.2024).

30. Глобальный атлас регулирования искусственного интеллекта. Издание 2023 / кол. авт. под ред. А.В. Незнамова. М., 2023. 452 с. URL: https://ai.sber.ru/book

31. Искусственный интеллект дает людям шанс стать умнее и счастливее // НИУ ВШЭ. 27.04.2023. URL: https://issek.hse.ru/news/830132491.html (дата обращения: 10.03.2024).

32. Уведомление Управления киберпространства Китая о публичном запросе мнений по «Мерам по управлению службами генеративного искусственного интеллекта» // Управления киберпространства Китая. 11.04.2023 (на кит. яз.). URL: http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm (дата обращения: 10.03.2024).

33. Кодекс этики в сфере ИИ // Альянс в сфере искусственного интеллекта. URL: https://ethics.a-ai.ru/ (дата обращения: 10.03.2024).

34. Кодекс этики использования данных // Аналитический центр при Правительстве Российской Федерации. URL: https://ac.gov.ru/projects/project/kodeks-etiki-ispolzovania-dannyh-5 (дата обращения: 10.03.2024).

35. Китайскому геймеру, убившему из-за онлайн-игры, вынесен приговор // VideoGamer (на англ. яз.). URL: https://www.videogamer.com/news/chinese-gamer-who-killed-over-online-gameis-sentenced (дата обращения: 10.03.2024).

36. Duranske B.T. Virtual Law: Navigating the Legal Landscape of Virtual Worlds. Chicago : American Bar Association, 2008. 461 p.

37. Fairfield J. The Magic Circle // Vanderbilt Journal of Entertainment and Technology Law. 2021. № 11 (4). P. 823-840.

38. Назаров В.Н. Цифровой двойник как предмет информационной этики // Этические мысли. 2020. № 1. С. 142-154. doi: 10.21146/20744870-2020-20-1-142-154

39. Бельский В.Ю., Майкова В.П., Молчан Е.М., Левицкая А.А. Цифровая трансформация личности в условиях виртуальной реальности // Социально-гуманитарное знание. 2021 № 4. С. 131-137. doi: 10.34823/SGZ.2021.4.51637

40. Шипунова О.Д., Поздеева Е.Г., Евсеева Л.И. Цифровые приложения и модели личности в контексте киберантропологии // Социология. 2021. № 5. C. 234-239. doi: 10.24412/1812-9226-2021-5-234-239

41. Былева Д.С., Заморев А.С., Нам Т.А. Homo virtualis: Социальное существование в виртуальной реальности // Общество. Коммуникация. Образование. 2018. № 4. C. 29-38. doi: 10.18721/JHSS.9404

42. Иванов В.В., Зуев Д.И. Цифровой двойник и цифровая идентичность: Понятие, соотношение, значение в процессе киберпреступности и в праве в целом // Правовое государство: теория и практика. 2022. № 4 (70). С. 138-144. doi: 10.33184/pravgos-2022.4.19

43. Апелляционное определение Нижегородского областного суда по делу № 22-1216/2018 // Нижегородский областной суд. 22.03.2018. URL: https://sudact.ru/regular/doc/QZbcQM3R4XlJ (дата обращения: 10.03.2024).

44. Решение мирового суда судебной части № 352. Басманный район г. Москвы № 2-01/11 // Мировой суд судебной части № 352 Басманного района г. Москвы. 01.02.2011.

45. Постановление Лефортовского районного суда г. Москвы по делу № 2-3379/2011 // Лефортовский районный суд г. Москвы. 25.11.2011.

46. Апелляционное определение Ленинского районного суда г. Кемерово № 11-59/2013 по делу № 1159/2013 // Ленинский районный суд г. Кемерово. 26.04.2013. URL: https://sudact.ru/regular/doc/uQ81NVpYhP1v/ (дата обращения: 10.03.2024).

47. Апелляционное определение Гражданской коллегии Московского городского суда по делу № 33-21065/19 // Московский городской суд, Гражданская коллегия. 20.05.2019. URL: https://mos-gorsud.ru/mgs/services/cases/appeal-civil/details/0de6b77e-95c8-4707-8921-f762e36dd67d (дата обращения: 10.03.2024).

48. RuneScape-arrest, HR 31-01-2012, NJ 2012, 536. URL: https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:HR:2012:BQ9251 (дата обращения: 10.03.2024).

49. Глушко Б. Рассказы о (виртуальном) городе: разрешение споров о собственности в виртуальных мирах // Журнал технологического права Беркли. 2007. № 1. С. 507-532.

50. Ханьюэ В. Нематериальная собственность: защита виртуальной собственности в электронных играх в Китае и США // Журнал финансовых исследований. 2020. № 4. C. 119-123. doi: 10.26549/jfr.v4i2.3752

51. Чу М. Виртуальная собственность в Китае: появление осведомленности о правах геймеров и реакция игровых корпораций // Новые СМИ и общество. 2011. № 13. С. 722-738. doi: 10.1177/1461444810378480

52. Джошуа А.Т. Фэрфилд. Виртуальная собственность // Обзор права Бостонского университета. 2005. № 85. С. 1047-1102.

References 1.

1. Ivanov, V.V. & Nesterov, A.Yu. (2019) Pravo v iskusstvennoy srede tret'ey prirody: yuridicheskiy status tsifrovogo dvoynika [Law in the artificial environment of the third nature: legal status of the digital twin]. Mir cheloveka: Normativnoe izmerenie — 6. Normy myshleniya, vospriyatiya, povedeniya: skhodstvo, razlichie, vzaimosvyaz' [The human world: Normative dimension - 6. Norms of thinking, perception, behavior: similarities, differences, relationships]. Proceedings of the International Conference. Saratov. pp. 234-240. (In Russian).

2. NAFI. (2018) Otnoshenie rossiyan k kibersportu [Spetsproekt] [Russians' attitude to eSports [Special project]]. September. [Online] Available from: https://nafi.ru/projects/it-i-telekom/otnoshenie-rossiyan-k-kibersportu-en-attitude-of-russians-to-cybersport-/ (Accessed: 10.03.2024).

3. Churilov, A.Yu. (2020) Pravovoe regulirovanie intellektual'noy sobstvennosti i novykh tekhnologiy: Vyzovy XXI veka [Legal regulation of intellectual property and new technologies: Challenges of the 21st century]. Moscow: Yustitsinform.

4. Ministry of Internal Affairs of the Russian Federation. (2021) Brief characteristics of the crime situation in the Russian Federation for January-December 2021. [Online] Available from: https://mvd.rf/reports/item/28021552 (Accessed: 10.03.2024). (In Russian).

5. TASS. (2014) A criminal case has been filed in Belarus on the fact of "hijacking" a virtual tank in the World of Tanks game 12.02.2014. [Online] Available from: https://tass.ru/proisshestviya/958774 (Accessed: 10.03.2024). (In Russian).

6. Burkhanova, Yu.I. & Novokshonova, N.A. (2022) Digital rights as objects of civil rights./ Vestnik Chelyabinskogo gosudarstvennogo universiteta. Seriya: Pravo. (3). pp. 35-40. (In Russian). doi: 10.47475/2618-8236-2022-17306

7. Verkh-Isetsky District Court of Yekaterinburg. (2022) Verdict of the Verkh-Isetsky District Court of Yekaterinburg dated 06.07.2022, case No. 1382/22. [Online] Available from: https://verhisetsky--svd.sudrf.ru/modules.php?name=sud_delo&srv_num=2&name_op=doc&number= 258206328&delo_id=1540006&new=0&text_number=1 (Accessed: 10.03.2024). (In Russian).

8. Andreeva, O.I. et al. (2019) Facial Recognition Technologies in Criminal Proceedings: Problems of Grounds for the Legal Regulation of Using Artificial Intelligence. Vestnik Tomskogo gosudarstvennogo universiteta — Tomsk State University Journal. 449. pp. 201-212. (In Russian). doi: 10.17223/15617793/449/25

9. RTVI. (2024) All Charges against Scientist Tsvetkov on Suspicion of Murders 20 Years Ago Removed. 29.02.2024. [Online] Available from: https://rtvi.com/news/s-uchenogo-czvetkova-snyali-vse-obvineniya-po-podozreniyu-v-ubijstvah-20-letnej-davnosti/ (Accessed: 10.03.2024). (In Russian).

10. SecurityLab. (2024) London Underground Facial Recognition System Is Biased Against Black People. [Online] Available from: https://www.securitylab.ru/news/538462.php (Accessed: 10.03.2024). (In Russian).

11. UN News. (2021) Bias, racism and lies: how to prevent unwanted consequences of using artificial intelligence. 09.01.2021. [Online] Available from: https://news.un.org/ru/story/2021/01/1393922 (Accessed: 10.03.2024). (In Russian).

12. Parlamentskaya gazeta. (2024) Khinshteyn announced the preparation of a bill against deepfakes. 23.01.2024. https://www.pnp.ru/economics/khinshteyn-soobshhil-o-podgotovke-zakonoproekta-protiv-dipfeykov.html (Accessed: 10.03.2024). (In Russian).

13. Ivanov, V.V., Matsepuro, D.M. & Trubnikova, T.V. (2021) National Judicial Bodies in Search of a Balance of Public and Private Interests. In: Bylieva, D. & Nordmann, A. (eds) Technology, Innovation and Creativity in Digital Society. PCSF Lecture Notes in Networks and Systems. Vol. 345. pp. 148-167. doi: 10.1007/978-3-030-89708-6_14

14. Mos-gorsud.ru. (2024) Case card on the court website. [Online] Available from: https://mos-gorsud.ru/mgs/services/cases/appeal-criminal/details/6ee62580-1406-11ee-836f-fd4c67922256?participant=Shershnev (Accessed: 10.03.2024). (In Russian).

15. Washington Post. (2023) ChatGPT invented a sexual harassment scandal and named a real law prof as the accused. 05.04.2023. [Online] Available from: https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ (Accessed: 10.03.2024).

16. RBC. (2023) In Australia, the mayor of the city announced a plan to sue ChatGPT for libel. 05.04.2023. [Online] Available from: https://www.rbc.ru/rbcfreenews/642d731f9a7947d95d7add05?ysclid=ls5z0m07nh532050291 (Accessed: 10.03.2024). (In Russian).

17. Zakon.ru. (2023) ChatGPT deceived a lawyer in the USA. Artificial intelligence referred to non-existent cases. [Online] Available from:

https://zakon.ru/discussion/2023/05/29/chatgpt_obmanul_yurista_v_ssha_iskusstvennyj_intellekt_soslalsya_na_nesuschestvuyuschie_dela?yscli

d=ls5z3f1n1w994036696 (Accessed: 10.03.2024). (In Russian).

18. Makarychev, M. (2023) The Telegraph: Eksperty nazvali professii, kotorye ischeznut i vyzhivut v khode revolyutsii II [The Telegraph: Experts named the professions that will disappear and survive during the AI revolution]. Rossiyskaya gazeta. 01.07.2023. [Online] Available from: https://rg.ru/2023/07/01/the-telegraph-eksperty-nazval-professii-kotorye-ischeznut-i-vyzhivut-v-hode-revoliucii-ii.html (Accessed: 10.03.2024).

19. Ignatova, O. (2023) Smozhet li iskusstvennyy intellekt zamenit' sluzhby po naboru personala [Will artificial intelligence be able to replace recruitment services]. Rossiyskaya gazeta. 17.08.2023. [Online] Available from: https://rg.ru/2023/08/17/robot-kadrovik.html (Accessed: 10.03.2024).

20. Svetun'kova, A. (2023) Avtor neizvesten: komu prinadlezhat prava na sozdannoe II proizvedenie [Author unknown: who owns the rights to a work created by AI]. Izvestiya. 25.11.2023. [Online] Available from: https://iz.ru/1609225/alena-svetunkova/avtor-neizvesten-komu-prinadlezhat-prava-na-sozdannoe-ii-proizvedenie (Accessed: 10.03.2024).

21. Heikkilaarchive, M. (2023) This new data poisoning tool lets artists fight back against generative AI. [Online] Available from: https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/ (Accessed: 10.03.2024).

22. Futureoflife.org. (2024) Pause Giant AI Experiments: An Open Letter. [Online] Available from: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (Accessed: 10.03.2024).

23. Kommersant". (2023) v Director of the ChatGPT developer agreed with the need to legally regulate AI development. 17.05.2023. [Online] Available from: https://www.kommersant.ru/doc/5987216?ysclid=ls5zd38cm6221142627 (Accessed: 10.03.2024). (In Russian).

24. RTU MIREA. (2024) RTU MIREA proposed to the Ministry of Digital Development of Russia to ban artificial intelligence in advertising for children. 22.01.2024. [Online] Available from: https://www.mirea.ru/mediapage/press-service/rtu-mirea-predlozhil-mintsifry-rossii-zapretit-iskusstvennyy-intellekt-v-reklame-dlya-detey/?ysclid=ls5xebhuj461727876 (Accessed: 10.03.2024). (In Russian).

25. RBC. (2023) Gref suggested two scenarios for the development of artificial intelligence. 25.11.2023. [Online] Available from: https://www.rbc.ru/technology_and_media/25/11/2023/65610deb9a794794e9c711fe?from=copy (Accessed: 10.03.2024). (In Russian).

26. Iskusstvennyy intellekt Rossiyskoy Federatsii. Natsional'nyy portal v sfere iskusstvennogo intellekta [Artificial Intelligence of the Russian Federation. National portal in the field of artificial intelligenc]. [Online] Available from: https://ai.gov.ru/ (Accessed: 10.03.2024).

27. Ai.gov.ru. (2023) Trust in artificial intelligence in society. Analysis of sociological surveys of the third quarter of2023 a. 12.12.2023. [Online] Available from: https://ai.gov.ru/knowledgebase/etika-i-bezopasnost-ii/2023_doverie_k_iskusstvennomu_intellektu_v_obschestve_analiz_ sociologicheskih_oprosov_iii_kvartala_2023_goda_ncrii/ (Accessed: 10.03.2024). (In Russian).

28. Vinogradova, E. (2019) Iskusstvennyy intellekt: opasno dlya zhizni? [Artificial intelligence: dangerous for life?]. Vedomosti. 15.05.2019. [Online] Available from: https://kp.vedomosti.ru/humans/article/2019/05/13/801190-gore-ot-uma (Accessed: 10.03.2024).

29. Richrelevance.com. (2024) UK CREEPY OR COOL. [Online] Available from: https://richrelevance.com/resources/uk-creepy-or-cool/ (Accessed: 10.03.2024).

30. Neznamov, A.V. (ed.) (2023) Global'nyy atlas regulirovaniya iskusstvennogo intellekta [Global Atlas of Artificial Intelligence Regulation]. [Online] Available from: https://ai.sber.ru/book

31. HSE. (2023) Artificial Intelligence Gives People a Chance to Become Smarter and Happier. 27.04.2023. [Online] Available from: https://issek.hse.ru/news/830132491.html (Accessed: 10.03.2024). (In Russian).

32. Cac.gov.cn. (2023) Notice of the Cyberspace Administration of China on the Public Request for Opinions on the Measures for Governance of Generative Artificial Intelligence Services. [Online] Available from: http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm (Accessed: 10.03.2024). (In Chinese).

33. AI Alliance Russia.(2024) Code of Ethics in the Sphere of AI. [Online] Available from: https://ethics.a-ai.ru/ (Accessed: 10.03.2024).

34. Analytical Center under the Government of the Russian Federation. (2024) Code of Ethics for the Use of Data. [Online] Available from: https://ac.gov.ru/projects/project/kodeks-etiki-ispolzovania-dannyh-5 (Accessed: 10.03.2024). (In Russian).

35. VideoGamer. (2024) Chinese gamer who killed over online game is sentenced. [Online] Available from: https://www.videogamer.com/news/chinese-gamer-who-killed-over-online-gameis-sentenced (Accessed: 10.03.2024).

36. Duranske, B.T. (2008) Virtual Law: Navigating the Legal Landscape of Virtual Worlds. Chicago: American Bar Association.

37. Fairfield, J. (2021) The Magic Circle. Vanderbilt Journal of Entertainment and Technology Law. 11 (4). pp. 823-840.

38. Nazarov, V.N. (2020) Digital twin as a subject of information ethics. Eticheskie mysli. 1. pp. 142-154. (In Russian). doi: 10.21146/2074-48702020-20-1-142-154

39. Bel'skiy, V.Yu. et al. (2021) Digital transformation of personality in virtual reality. Sotsial'no-gumanitarnoe znanie. 4. pp. 131-137. (In Russian). doi: 10.34823/SGZ.2021.4.51637

40. Shipunova, O.D., Pozdeeva, E.G. & Evseeva, L.I. (2021) Digital applications and personality models in the cyberanthropology context. Sotsiologiya. 5. pp. 234-239. (In Russian). doi: 10.24412/1812-9226-2021-5-234-239

41. Byleva, D.S., Zamorev, A.S. & Nam, T.A. (2018) Homo virtualis: Social existence in virtual reality. Obshchestvo. Kommunikatsiya. Obrazovanie. 4. pp. 29-38. (In Russian). doi: 10.18721/JHSS.9404

42. Ivanov, V.V. & Zuev, D.I. (2022) Digital twin and digital identity: Concept, relationship, significance in the process of cybercrime and in law in general. Pravovoe gosudarstvo: teoriya ipraktika. 4 (70). pp. 138-144. (In Russian). doi: 10.33184/pravgos-2022.4.19

43. Nizhny Novgorod Regional Court. (2018) Appellate ruling ofthe Nizhny Novgorod Regional Court in case No. 22-1216/2018. 22.03.2018. [Online] Available from: https://sudact.ru/regular/doc/QZbcQM3R4XlJ (Accessed: 10.03.2024).

44. Magistrate's Court of Judicial Part No. 352 of the Basmanny District of Moscow. (2011) Decision of the Magistrate's Court of Judicial Part No. 352 ofthe Basmanny District ofMoscow No. 2-01/11. 01.02.2011. (In Russian).

45. Lefortovo District Court of Moscow. (2011) Resolution of the Lefortovo District Court of Moscow in case No. 2-3379/2011. 25.11.2011. (In Russian).

46. Leninsky District Court of Kemerovo. (2013) Appellate ruling ofthe Leninsky District Court of Kemerovo No. 11-59/2013, in case No. 1159/2013. [Online] Available from: https://sudact.ru/regular/doc/uQ81NVpYhP1v/ (Accessed: 10.03.2024). (In Russian).

47. Moscow City Court, Civil Collegium. (2019) Appellate ruling of the Civil Collegium ofMoscow City Court in case No. 33-21065/19. [Online] Available from: https://mos-gorsud.ru/mgs/services/cases/appeal-civil/details/0de6b77e-95c8-4707-8921-f762e36dd67d (Accessed: 10.03.2024). (In Russian).

48. Uitspraken.rechtspraak.nl. (2024) RuneScape-arrest, HR 31-01-2012, NJ 2012, 536. [Online] Available from: https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:HR:2012:BQ9251 (Accessed: 10.03.2024).

49. Glushko, B. (2007) Tales of the (Virtual) City: Governing Property Disputes in Virtual Worlds. Berkley Technology Law Journal. 22 (507).

50. Hanyue, Wang. (2020). Intangible Property: Protection of Virtual Property in Electronic Games in China and US. Journal of Finance Research. 4. 119. doi: 10.26549/jfr.v4i2.3752

51. Chew, M. (2011). Virtual property in China: The emergence of gamer rights awareness and the reaction of game corporations. New Media & Society. 13. pp. 722-738. doi: 10.1177/1461444810378480

52. Fairfield, J.A.T. (2005) Virtual Property. Boston University Law Review. 85. pp. 1047-1102.

Информация об авторах:

Иванов В.В. - канд. юрид. наук, старший научный сотрудник лаборатории социально-правовых исследований Национального исследовательского Томского государственного университета (Томск, Россия); доцент кафедры уголовного процесса и криминалистики Самарского национального исследовательского университета имени академика С.П. Королева (Самара). E-mail: [email protected]

Трубникова Т.В. - канд. юрид. наук, доцент кафедры уголовного процесса, прокурорского надзора и правоохранительной деятельности, старший научный сотрудник лаборатории социально-правовых исследований Национального исследовательского Томского государственного университета (Томск, Россия). E-mail: [email protected]

Чурилов А.Ю. - канд. юрид. наук, доцент кафедры гражданского права, аналитик научно-образовательного центра «Интеллектуальная собственность и интеллектуальные права» Национального исследовательского Томского государственного университета (Томск, Россия). E-mail: [email protected]

Авторы заявляют об отсутствии конфликта интересов.

Information about the authors:

V.V. Ivanov, Cand. Sci. (Law), senior research fellow, National Research Tomsk State University (Tomsk, Russian Federation), Samara National Research University (Samara, Russian Federation). E-mail: [email protected]

T.V. Trubnikova, Cand. Sci. (Law), associate professor, senior research fellow, National Research Tomsk State University (Tomsk, Russian Federation). E-mail: [email protected]

A.Yu. Churilov, Cand. Sci. (Law), associate professor, analyst, National Research Tomsk State University (Tomsk, Russian Federation). E-mail: [email protected]

The authors declare no conflicts of interests.

Статья поступила в редакцию 21.03.2024; одобрена после рецензирования 29.04.2024; принята к публикации 31.05.2024.

The article was submitted 21.03.2024; approved after reviewing 29.04.2024; accepted for publication 31.05.2024.