CC BY
93
001: 10.17803/1729-5920.2020.164.7.127-136
А. Ж. Степанян*, Т. С. Заплатина**
Правовое регулирование роботов и искусственного интеллекта в странах Латинской Америки, проблема прав человека и ИИ1
Аннотация. В настоящее время мы переживаем новую революцию, которая связана с Интернетом, на-нотехнологиями, биотехнологиями и робототехникой. Искусственный интеллект основан на интеллектуальных алгоритмах или алгоритмах обучения, подобных человеческому интеллекту, технологии позволяют компьютерным системам приобретать самостоятельность, самоадаптируемую реконфигурацию. Чем больше автономия ИИ, роботов и андроидов, тем меньше они зависят от производителей, владельцев и пользователей.
Факт того, что новое поколение роботов будет сосуществовать с людьми, должен быть учтен в законодательстве, оно должно адаптироваться и регулировать вопросы, имеющие большое юридическое значение, а именно: кто принимает на себя ответственность за действия или бездействие интеллектуальных роботов? Каков их правовой статус? Должны ли они иметь особый режим прав и обязанностей? Как решить этические конфликты, связанные с их поведением?
Анализ законодательства и доктрины стран Латинской Америки выявил некоторые тенденции использования ИИ.
1. Применение ИИ в различных сферах общественной жизни вызывает правовые проблемы в части гарантии права человека, о чем свидетельствует анализ конституций Бразилии, Мексики и Аргентины. Например, статья 8 Американской конвенции о правах человека гласит: «Каждый человек имеет право на слушание его дела с надлежащими гарантиями и в течение разумного периода времени в компетентном, независимом и беспристрастном суде, заранее созванном по закону в обоснование любого обвинения уголовного характера, выдвинутого против него или для определения его прав или обязательств гражданского, трудового, финансового или любого иного характера».
2. Сходство ИИ и человеческого интеллекта ставит вопрос правосубъектности ИИ, наделения ИИ правами. Гражданский и коммерческий кодекс Аргентинской нации отходит от категории «человеческая личность» и устанавливает термин «юридические лица»: «все лица, которым правовая система предоставляет способность приобретать права, являются юридическими лицами для выполнения своего предназначения и обязательств».
Граница между вещами и людьми становится все более размытой, технологии и более чуткий взгляд на других живых существ приводят к сомнению, является ли человек единственным субъектом права.
1 Работа выполнена при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16150.
© Степанян А. Ж., Заплатина Т. С., 2020
* Степанян Армен Жоресович, кандидат юридических наук, доцент кафедры интеграционного и европейского права Московского государственного юридического университета имени О.Е. Кутафина (МГЮА)
Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 [email protected]
** Заплатина Татьяна Сергеевна, кандидат юридических наук, преподаватель кафедры интеграционного и европейского права Московского государственного юридического университета имени О.Е. Кутафина (МГЮА)
Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993 [email protected]
Ключевые слова: искусственный интеллект; страны Латинской Америки; Бразилия; Мексика; Аргентинская Республика; Республика Чили; Республика Перу; права человека; Американская конвенция о правах человека; правосубъектность искусственного интеллекта; машинное обучение; ISO 8373:1994; Гражданский и коммерческий кодекс Аргентинской нации.
Для цитирования: Степанян А. Ж., Заплатина Т. С. Правовое регулирование роботов и искусственного интеллекта в странах Латинской Америки, проблема прав человека и ИИ // Lex russica. — 2020. — Т. 73. — № 7. — С. 127—136. — DOI: 10.17803/1729-5920.2020.164.7.127-136.
Armen Zh. Stepanyan, Cand. Sci. (Law), Associate Professor of the Integration and European Law Department, Kutafin Moscow State Law University (MSAL) ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993 [email protected]
Tatyana S. Zaplatina, Cand. Sci. (Law), Lecturer of the Integration and European Law Department,
Kutafin Moscow State Law University (MSAL)
ul. Sadovaya-Kudrinskaya, d. 9, Moscow, Russia, 125993
Abstract. We are currently experiencing a new revolution, which is related to the Internet, nanotechnology, biotechnology and robotics. Artificial intelligence is based on intelligent algorithms or learning algorithms similar to human intelligence, technologies make it possible for computer systems to acquire independence, self-adaptive reconfiguration. The greater the autonomy of AI, robots, and androids, the less they depend on manufacturers, owners, and users.
The fact that the new generation of robots will coexist with humans should be taken into account in legislation, it should adapt and regulate issues of great legal significance, namely: who takes responsibility for the actions or inaction of intelligent robots? What is their legal status? Should they have a special regime of rights and obligations? How to resolve ethical conflicts related to their behavior?
The analysis of legislation and doctrine in Latin America has revealed some trends in the use of AI.
1. The use of AI in various spheres of public life causes legal problems in terms of guaranteeing human rights, as evidenced by the analysis of the constitutions of Brazil, Mexico and Argentina. For example, article 8 of the American Convention on Human Rights states: "Everyone has the right to have his case heard, with appropriate guarantees and within a reasonable period of time, before a competent, independent and impartial court convened in advance by law in support of any criminal charge brought against him or to determine his rights or obligations of a civil, labour, financial or any other nature."
2. The similarity of AI and human intelligence raises the question of legal personality of AI, granting AI rights. The civil and commercial code of Argentina departs from the category of "human person" and establishes the term "legal persons": "all persons to whom the legal system grants the ability to acquire rights are legal persons for the purpose of fulfilling their purpose and obligations".
The line between things and people is becoming more blurred, technology and a more sensitive view of other living beings lead to doubt whether man is the sole subject of law.
Keywords: artificial intelligence; Latin American countries; Brazil; Mexico; Argentine Republic; Republic of Chile; Republic of Peru; human rights; American Convention on Human Rights; legal personality of artificial intelligence; machine learning; ISO 8373:1994; Civil and Commercial Code of Argentina.
Cite as: Stepanyan AZh, Zaplatina TS. Pravovoe regulirovanie robotov i iskusstvennogo intellekta v stranakh Latinskoy Ameriki, problema prav cheloveka i II [Legal Regulation of Robots and Artificial Intelligence in Latin America, the Problem of Human Rights and AI]. Lex russica. 2020;73(7):127-136. DOI: 10.17803/17295920.2020.164.7.127-136. (In Russ., abstract in Eng.).
2 The reported study was funded by RFBR according to the research project № 18-29-16150.
Legal Regulation of Robots and Artificial Intelligence in Latin America, the Problem of Human Rights and AI
2
Рассматривая вопросы технологического развития, мы обычно говорим о трех крупных промышленных революциях:
1) первая связана с развитием железной дороги и паровой машины для механизации производства;
2) вторая связана с электроэнергией и развитием массового производства;
3) третья революция основана на появлении электроники, компьютеров и информационных технологий для автоматизации производства.
В настоящее время мы переживаем новую революцию, которая связана с Интернетом, на-нотехнологиями, биотехнологиями и робототехникой. Наиболее разрушительным явлением этой революции является продукт развития искусственного интеллекта (далее — ИИ), который представлен как инновация, связанная с технологическими достижениями, обработкой информации и данных (также в этой области представлены другие изобретения прошлого века, такие как компьютер, Интернет, поисковые системы и т. д.). Четвертая промышленная революция характеризуется увеличением объемов хранения и скорости обработки информации и данных3.
Новая волна интеллектуальной автоматизации уже вызывает рост благодаря ряду особых функций ИИ. Первая особенность — это способность автоматизировать сложные задачи физического мира, которые требуют адаптивности, ловкости и обучения. Исследователи из Национального университета инженерии Перу разработали четырехколесный робот, который самостоятельно исследует шахту для обнаружения метана, углекислого газа и аммиака.
Второй отличительной чертой ИИ является способность решать проблемы в различных отраслях и сферах деятельности — в отличие от традиционных технологий автоматизации, применение которых является специфическим для каждой задачи. Например, обслуживание клиентов чат-ботами, то есть виртуальными помощниками, которые помогают людям на их родном языке. В настоящее время эти роботы
используют компании в Аргентине, Колумбии и Бразилии (бразильская платформа электронной коммерции Shop Fácil).
Третья характеристика ИИ — самообучение. Чилийский стартап The Not Company (или NotCo) разработала алгоритм Giuseppe, который анализирует пищевые продукты на основе белков животного происхождения и генерирует рецепты для вегетарианцев.
Термин «интеллект» происходит от латинского intelligere и может быть определен как «способность понимать взаимосвязь между фактами и вещами». Следовательно, можно утверждать, что понимание и коммуникабельность являются основными чертами интеллекта. Таким образом, человек с большим интеллектом может более эффективно использовать знания, необходимые для решения проблемы. Необходимо отличать этот термин от других, которые часто путают в повседневном использовании, такие как «мудрость» или «культура». Эти понятия относятся к совокупности знаний, которые накапливает человек. Следовательно, человек с большим количеством накопленных знаний будет мудрым или образованным, что зависит от субъективного нюанса, который мы именуем термином «культура», но это не обязательно означает, что такие знания связаны с интеллектом этого человека.
Не следует путать понятие интеллекта с памятью, поскольку это мнемоническая способность запоминать большое количество данных, так что человек может иметь возможность запомнить много данных, но не иметь достаточно интеллекта, чтобы использовать эти данные для решения проблемы. Однако есть исследователи, которые утверждают, что существует несколько типов интеллекта и каждый из них независим от других: так, человек может иметь лингвистический или логико-математический интеллект4.
Что касается роботов, то в зависимости от области их применения они могут быть классифицированы как промышленные или служебные. В соответствии с ISO 8373:1994 промышленный робот — это «программируемый,
3 Corvalán J. G. Artificial intelligence: challenges and opportunities — Prometea: the first artificial intelligence of Latin America at the service of the Justice System // Rev. Investig. Const. Vol. 5 No. 1 Curitiba Jan. /Apr. 2018. URL: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S2359-56392018000100295 (дата обращения: 01.03.2020).
4 Álvaro Pascual D., Vázquez Rojas M. del С. Inteligencia Artificial: Un Panorama de Algunos de sus desafíos Éticos y Jurídicos / Universitat de Girona // URL: https://dugi-doc.udg.edu/bitstream/handle/10256/14950/ alvaro-pascual.pdf?sequence=1&isAllowed=y (дата обращения: 24.02.2020).
перепрограммируемый и многофункциональный манипулятор на трех или более осях, автоматически управляемый и используемый в автоматических промышленных приложениях». Служебные роботы, обозначающие базовый интеллект, предназначены для поддержки, сопровождения и ухода за людьми, обмена с человеческой средой и принятия решений при выполнении поставленных задач5. Они делятся на три класса: роботы класса 1 заменяют людей на тяжелых, опасных и утомительных работах; роботы класса 2 работают в тесном сотрудничестве с людьми, помогая например, при транспортировке пациентов; роботы класса 3 могут работать на людей, как в случае с медицинскими роботами, используемыми в диагностике, хирургии, терапии и реабилитации. Хотя изначально роботы были созданы для выполнения простых задач, в настоящее время они все чаще включают в себя когнитивные функции, полученные из искусственного интеллекта.
ИИ может быть слабым и сильным. Слабый ИИ относится к тем машинам, которые в своем анализе или ответах зависят от программного обеспечения, разработанного для решения конкретной проблемы. Они не демонстрируют сознательного поведения, в основном представляют собой машины, которые решают проблемы в ограниченном объеме действий (таких как распознавание текстов и изображений, экспертные системы и компьютеры, способные играть в шахматы). Напротив, сильный ИИ относится к гипотетической машине, которая демонстрирует поведение, по крайней мере такое же квалифицированное и гибкое, как и у людей. Относительные преимущества роботов и интеллектуальных машин связаны с их способностью выполнять различные движения и «мыслить». При разработке роботов акцент в настоящее время делается на их способности приспосабливаться к определенным шаблонам поведения, поэтому они обычно являются узкоспециализированными машинами. В недалеком будущем это изменится — появятся роботы, способные решать более широкий круг задач, а также подражать людям. Частично эта
разработка станет возможной благодаря увеличению объема памяти роботов и приложений ИИ, что позволит получить доступ к большим объемам данных для использования роботов в различных рабочих задачах.
Из рассмотренных концепций интеллекта (социальный интеллект, лингвистический (или музыкальный) интеллект, логико-математический интеллект, межличностный и внутриличностный или эмоциональный интеллект и др.) следует, что его общим элементом является способность обрабатывать информацию для достижения целей6. То есть интеллект неразрывно связан с обработкой информации. Важно уточнить, что речь идет об информации в широком смысле как потоке информации о среде, который обрабатывается, кодируется, организуется, отбирается, хранится и извлекается через сенсорные системы и т. д. Человеческий интеллект связан с рядом относительно автономных когнитивных способностей или качеств, которые обычно классифицируются как «интеллектуальные профили» или «множественные интеллекты». По сути, наш мозг контролирует способность обрабатывать информацию из окружающей среды и из нашего разума7, которая используется для оценки и выбора будущих действий.
При помощи человеческого интеллекта были разработаны многочисленные и разнообразные технологические инновации. Искусственный интеллект основан на интеллектуальных алгоритмах или алгоритмах обучения, которые, среди многих других целей, используются для выявления экономических тенденций, прогнозирования преступлений, диагностики заболеваний, прогнозирования цифрового поведения и т. д. Алгоритм может быть определен как точный набор инструкций или правил, как методическая последовательность шагов, которые можно использовать для выполнения расчетов, решения проблем и принятия решений8. В течение последних десятилетий для разработки алгоритмов, использующих большие объемы данных и информации, использовались различные методы (такие как нейронные сети, генетические алгоритмы, обучение и др.).
5 Una Revisión Sobre El Futuro Del Trabajo: La Robótica // URL: https://osha.europa.eu/es/publications/future-work-robotics (дата обращения: 24.02.2020).
6 Corvalán J. G. Op. cit.
7 Desde un punto de vista biológico, el ADN es un portador esencial de la información genética / M. Gerard, G. E. Gerald. Madrid : Ilus Books, 2015. P. 354.
8 Domingos P. The master algorithm: how the quest for the ultimate learning machine will remake our world. New York : Basic Books, 2015. P. XVI, 1 y ss.
По сути, выясняется, что применение технологий ИИ позволяет компьютерным системам приобретать в том числе самостоятельность, самоадаптируемую реконфигурацию. Все это подразумевает использование различных методов, основанных на распознавании образов для решения проблем9, максимизирование цели и оптимизация обработки информации.
В случае с системами, которые создают музыку, рисуют картины, распознают лица, объекты, предсказывают успешные компании на фондовом рынке, обнаруживают болезни, помогают защищать окружающую среду и многое другое, возникает ряд проблем в правовом поле, например: как защититься от интеллектуальных алгоритмов, которые заменяют и превосходят человека в различных видах деятельности? Как использовать системы искусственного интеллекта и не потерять контроль над ними? Здесь технология радикально подрывает реализацию определенных прав человека и в то же время представляет собой качественный скачок в способах управления организациями и их отношениями с гражданами.
Чем больше автономия ИИ, роботов и андроидов, тем меньше они зависят от производителей, владельцев и пользователей. Факт того, что новое поколение роботов будет сосуществовать с людьми, должен быть учтен в законодательстве, оно должно адаптироваться и регулировать вопросы, имеющие большое юридическое значение. Кто принимает на себя ответственность за действия или бездействие интеллектуальных роботов? Каков их правовой статус? Должны ли они иметь особый режим прав и обязанностей? Как решить этические конфликты, связанные с их поведением? И наконец, должны ли быть установлены организационные, технические и юридические меры для минимизации рисков безопасности, которым подвергается ИИ и роботы? Регулирование является ключевым аспектом существования более безопасного и более мирного общества и поэтому должно быть адаптировано к тому, каким является человечество сегодня и каким мы хотим, чтобы оно было в будущем.
В настоящее время существует множество проблем в части совместимости ИИ с внутренним законодательством государств и действующим международным правом. В этой связи следует отметить некоторые аспекты, которые необходимо учитывать. В первую очередь нужно знать, как эта технология работает. Нельзя говорить об адекватном регулировании, игнорируя динамику объекта, который предполагается регулировать. Поскольку системы искусственного интеллекта растут в геометрической прогрессии, важно постоянно получать информацию о новых методах, используемых ИИ, важно рассмотреть методы, используемые ИИ (IBM Watson, Alexa, Quid, Siri и многие другие), т.е. разобраться, как ИИ оценивает и взвешивает данные и информацию, которую обрабатывает10. Так, большое значение имеет обеспечение принципов равенства и недопущения дискриминации, например некоторые ИИ основаны на исходном коде, который учитывает различия расы и пола, что является неприемлемой алгоритмической структурной дискриминацией. Например, в деле «Государство против Лумис»11 заявитель утверждал, что интеллектуальный алгоритм неправильно использовал гендерные оценки, т.е. такой интеллектуальный алгоритм не может использоваться для того, чтобы помогать судьям принимать решения в рамках действующей конституционной системы государства. Эти краткие примеры подчеркивают правовые сложности в вопросе нормативного регулирования при определении ИИ; необходимо, чтобы ИИ был совместим с «моделью прав человека».
Так, ст. 8 Американской конвенции о правах человека гласит: «Каждый человек имеет право на слушание его дела с надлежащими гарантиями и в течение разумного периода времени в компетентном, независимом и беспристрастном суде, заранее созванном по закону в обоснование любого обвинения уголовного характера, выдвинутого против него или для определения его прав или обязательств гражданского, трудового, финансового или любого иного характера»12. Предположим, приговор был вынесен ИИ-судьей, который про-
9 Serrano García A. Inteligencia artificial. Madrid : RC, 2016. P. 5, 9.
10 James V. B. Nuestra invención final. Madrid : Planeta Publishing, 2015. P. 92.
11 Corte Suprema de Wisconsin, «Estado de Wisconsin v. Eric L. Loomis», 13 de julio de 2016 // URL: https:// www.wicourts.gov/sc/opinion/DisplayDocument.pdf?content=pdf&seqNo=171690.
12 Американская конвенция о правах человека. Принята Межамериканской конференцией по правам человека 22 ноября 1969 г. в Сан-Хосе. Вступила в силу 18 июля 1978 г. // URL: https://www.refworld.org.ru/ pdfid/561292294.pdf (дата обращения: 28.02.2020).
киберпространство
cyberspace
анализировал факты, однако не говорит, как он их оценил. В данной ситуации имеет место случай произвольного решения. В этой связи использование интеллектуальных алгоритмов для вынесения решений по уголовным делам противоречит конституционной системе защиты прав человека.
Рассмотрим конституции некоторых латиноамериканских государств. В статье 19 Конституции Чили закреплено положение о том, что «никто не может быть осужден специальными комиссиями, только законно созданным судом за совершение противоправного деяния. Решение органа, осуществляющего юрисдикцию, должно основываться на справедливом юридическом процессе. Законодатель будет всегда устанавливать гарантии справедливой и рациональной процедуры и расследования»13, т.е. вынесение решений ИИ-судьей, основанным на интеллектуальных алгоритмах, приводящих к произвольности решений, противоречит конституционным нормам Чили.
Конституция Бразилии14 в п. LШ ст. 5 устанавливает, что «никто не может быть осужден, кроме как компетентным органом». В статье 18 Конституции Аргентины закреплено: «Никто не может быть наказан без предварительного судебного разбирательства на основании закона, или осужден специальными комиссиями, или оставлен без суда, назначенного в соответствии с законом, до фактического рассмотрения дела»15.
В Конституции Мексики также закреплен ряд положений, не в полной мере совместимых с ИИ в части прав человека:
— статья 13: «Никто не может быть судим специальными судами»;
— статья 16: «Каждый человек имеет право на защиту своих персональных данных». «Судебные полномочия контролируются
надзорными судьями, которые разрешают запросы о мерах предосторожности и методах расследования, которые требуют судебного контроля, гарантируя права обвиняемого»; — статья 17: «Каждый человек имеет право на то, чтобы правосудие отправлялось беспристрастными судами, которые установлены законом»16.
В пакте Сан-Хосе (Коста-Рика) также перечислены конкретные судебные гарантии: ст. 8 устанавливает положения о том, что «каждый человек имеет право быть заслушанным с должными гарантиями и в разумные сроки компетентным, независимым и беспристрастным судьей»17.
Рассматривая вопросы совместимости ИИ с «моделью прав человека», Хуан Густаво Кор-валани говорит о применении ряда правовых принципов, позволяющих решить некоторые проблемы правового регулирования ИИ.
Первый такой принцип — принцип предосторожности, аналогичный принципу в экологическом праве. Принцип предосторожности в отношении ИИ связан с уверенностью в отсутствии рисков при его использовании. Этот принцип заключается в необходимости действовать до причинения ущерба. То есть, когда предполагается использовать искусственный интеллект, который влияет на основные права людей (здоровье, свобода, равенство и недискриминация, безопасность), системы ИИ не могут использоваться, если возникают следующие обстоятельства:
О закрытый исходный код или существование системы, в которой введенные данные обрабатываются без определения четкой процедуры («черный ящик»); ¡¡) отсутствие алгоритмической прослеживае-мости;
13 Constitución Política de la República de Chile, Santiago, 17 de septiembre de 2005 // URL: https://www.oas. org/dil/esp/constitucion_chile.pdf (дата обращения: 07.03.2020).
14 Constitución Política de la República Federativa del Brasil, 1988 // URL: https://www.acnur.org/fileadmin/ Documentos/BDL/2001/0507.pdf (дата обращения: 07.03.2020).
15 Constitucion de la Nacion Argentina, Ley N° 24.430. Ordénase la publicación del texto oficial de la Constitución Nacional (sancionada en 1853 con las reformas de los años 1860, 1866, 1898, 1957 y 1994). Sancionada: Diciembre 15 de 1994 // URL: http://servicios.infoleg.gob.ar/infolegInternet/anexos/0-4999/804/norma.htm (дата обращения: 07.03.2020).
16 Constitución Política de los Estados Unidos Mexicanos, Última reforma publicada DOF 20.12.2019 // URL: https://mexico.justia.com/federales/constitucion-politica-de-los-estados-unidos-mexicanos/ (дата обращения: 07.03.2020).
17 Convengo Americana De Direitos Humanos (1969) (Pacto De San José Da Costa Rica) // URL: http://www.pge. sp.gov.br/centrodeestudos/bibliotecavirtual/instrumentos/sanjose.htm (дата обращения: 07.03.2020).
iii) неспособность обеспечить «кнопку выключения» или безопасный механизм сдерживания ИИ;
iv) когда на любом этапе — проектирование, разработка или применение — система основана на различиях, которые нарушают принцип равенства и недискриминации18.
Принцип самоопределения и свободного развития личности, основанный на гарантировании права выбора, связанного со свободой информации. Самоопределение является фундаментальным правом, которое вытекает из права на человеческое достоинство19. Речь идет об обеспечении «свободного развития личности», основанного на признании информативного самоопределения, направленного на гарантирование права выбора, связанного со свободой информации; исходя из этого, государства и международное сообщество должны прилагать все возможные усилия, с тем чтобы человеческое самоопределение могло быть гарантировано в условиях использования интеллектуальных алгоритмов ИИ.
Принцип прозрачности и беспристрастности важен в ситуации использования ИИ в области здравоохранения, свободы, безопасности, правосудия и других основных прав; проектирование, разработка и использование искусственного интеллекта должны гарантировать, что в ИИ исключены сбои, он должен быть прозрачным в своих решениях, что означает «логичное объяснение» критериев, на которых он основан. Неслучайно Закон Аргентины Digital 27.078 (ст. 1 и 2) провозглашает развитие информационных и коммуникационных технологий (ИКТ) общественным интересом, это говорит о гарантировании права человека на связь, телекоммуникацию, а также доступ к услугам ИКТ.
В то же время, будучи системой, предназначенной для максимизации результатов и оптимизации обработки информации и данных, ИИ должен соответствовать определенным процессам качества, чтобы результаты были такими, как ожидалось, и не были получены любой ценой, т.е. должен быть беспристрастным. Важно, чтобы государственные органы вмешивались в процесс и юридически обязывали ИИ пройти процесс валидации.
Проблема совместимости ИИ с внутренним законодательством может возникать не только в части прав человека. Так, если рассматривать область интеллектуальных прав, можно обнаружить некое противоречие в части определения субъекта авторских прав. Весьма вероятно, что в будущем роботы, управляемые искусственным интеллектом, будут субъектами авторского права. Тем не менее в данный момент законодательство ряда латинских стран пока не предусматривает положений о правосубъектности ИИ в вопросе авторских прав. Например, в Мексике только физические лица могут быть создателями произведений и объектов охраны интеллектуальной собственности20. Мексиканский эксперт в этой области доктор юридических наук Хесус Паретс Гомес отмечает, что «только человек может создавать произведения, охраняемые авторским правом, потому что он обладает способностью создавать произведения различной природы, которые становятся подвержены правовой защите, и это является частью процесса интеллектуального творчества».
Согласно Глоссарию Всемирной организации интеллектуальной собственности (ВОИС), опубликованному в Женеве, Швейцария, в 1980 г., «авторское право» относится к физическим лицам, которые создают литературное или художественное произведение. В этом смысле произведения, созданные роботами, не были задуманы человеком, следовательно, речь не идет о произведении, поскольку нет автора.
В Бразилии использование ИИ породило правовые проблемы в следующих областях: ¡) трудовые консультации, оказываемые ИИ: такие консультации, согласно бразильскому статуту, относятся к исключительной деятельности профессионалов, квалифицированных для осуществления практики по вопросам профессий; ¡¡) реализация действий через социальные сети, что также запрещено Кодексом этики и дисциплины (Moraes, 2003: 519); с) передача компенсации по контрактам компаний, перевод долга, внесудебное решение конфликта.
Так, перевод долга является формой передачи обязательства, предусмотренного в ст. 286
18 Corvalán J. G. Op. cit.
19 Rodotá S. El derecho a tener derechos. Madrid : Trotta, 2014. P. 182.
20 Inteligencia Artificial Y El Derecho De Autor: Bots... ¿Estructuras Autónomas? // URL: http://en.uhthoff.com. mx/articles/inteligencia-artificial-y-el-derecho-de-autor-bots-estructuras-autonomas/ (дата обращения: 01.03.2020).
киберпространство
cyberspace
Гражданского кодекса Бразилии. Лицо, занимающееся переводом, должно получить права работника, оно ведет административные переговоры и нанимает адвокатов для возбуждения уголовного дела против должников. Таким образом, все юридические процедуры или процедуры, связанные с судебной системой, адвокатской деятельностью, осуществляются отделами, специализирующимися на конкретном предмете. Применение в них роботов, использование технологических инноваций может быть неправильно понято и может вызывать некоторые противоречия с точки зрения правоприменения21.
Продолжая анализ правового регулирования ИИ, следует отметить, что проблемы не ограничиваются только лишь применением ИИ в общественных отношениях, соблюдением прав человека при использовании алгоритмов интеллекта, подобного человеческому. Сходство ИИ с человеческим интеллектом ставит также проблему правосубъектности ИИ.
Человек является центром множества текущих или возможных правовых отношений22. Верховный суд Аргентины указал, что личность — это не естественное качество, то, что существует или может существовать до любой правовой системы и независимо от этого, это чисто юридическое качество, то, что закон конструирует для своих конкретных целей. Такое определение личности как простого юридического ресурса подразумевает, что личность может быть предоставлена. Гражданский и коммерческий кодекс Аргентинской нации отходит от категории человеческой личности и устанавливает термин «юридические лица»: «все лица, которым правовая система предоставляет способность приобретать права, являются юридическими лицами для выполнения своего предназначения и обязательств». Аргентинская юриспруденция в отдельных реше-
ниях стремилась придать животным характер субъектов права. Первое постановление, добившееся значительного влияния в средствах массовой информации, было вынесено Федеральной палатой по уголовным делам, в нем орангутанг Сандра была признана «субъектом нечеловеческого права» или «нечеловеком»23. Национальная уголовная кассационная палата указала: «Поскольку право динамично и не имеет статического юридического толкования, необходимо признать животное субъектом прав, поскольку субъекты, не являющиеся животными, являются правообладателями, их защита заложена в соответствующей сфере компетенции»24.
Суд в автономном городе Буэнос-Айрес заявил, что животные имеют характер «нечеловеческой личности» и, как следствие, имеют «права, присущие этой категории субъектов права», среди которых права вести достойную жизнь, без физических или психических ограничений25. Суд Мендосы заявил, что признание обезьян субъектами прав является лучшим «актом вовлечения безвольных субъектов в область права»26.
Спор по этому вопросу остается открытым, как следует из судебного прошлого, для тех, кто проводит различие между «разумными» и «нечувствительными» существами, людьми и «нелюдьми», пытаясь признать субъективные права животных. С другой стороны, существуют так называемые теории благосостояния животных, которые отстаивают защиту животных и защиту окружающей среды, в которой они развиваются. Например, в Аргентине был принят Закон № 27330, который устанавливает запрет на гонки собак на национальных территориях.
Такой подход может быть рассмотрен и в отношении роботов. Луис Даниэль Крови отмечает, что ИИ все труднее отличить от человека: являются ли роботы искусственными или
21 Pessoa R. M. Revista chilena de derecho y tecnología // Rev. chil. derecho tecnol. Vol. 8 No. 1 Santiago jun. 2019. URL: https://scielo.conicyt.cl/scielo.php?pid=S0719-25842019000100167&script=sci_arttext (дата обращения 01.03.2020).
22 Orgaz A. Personas individuales. Córdoba, 1961. P. 10.
23 LL Online: AR/JUR/10085/2015.
24 CApel. Penal, Contravencional y de Faltas de la Ciudad Autónoma de Buenos Aires, Sala I, 25-11-15, G. B., R. s. inf. Ley 14346, JA 2016-II-326.
25 CApel. Penal, Contravencional y de Faltas de la Ciudad Autónoma de Buenos Aires, Sala III, 01-03-17, L. P. D. y otros s. art. 14346, JA 2017-II, fascículo № 10, P. 69.
26 Tercer Juzgado de Garantías de Mendoza, 03/11/2016, Presentación efectuada porA.F.A.D.A respecto del chimpancé Cecilia, exp. No P-72.254/15.
автономными объектами?27 Робота обычно определяют как автономное или полуавтономное устройство, которое выполняет свои задачи под непосредственным человеческим контролем, частичным контролем и человеческим наблюдением или полностью автономно. Автономия отличается от автоматичности, она подразумевает свободу решать, а не только делать. С новыми роботами человечество переходит от автоматического к автономному, что имеет последствия во всех областях. Машины уже превосходят людей во многих измерениях и аспектах и будут делать это еще больше в ближайшие годы.
Подводя итог проведенному анализу особенностей правового регулирования ИИ в Латинской Америке, следует отметить, что функционирование ИИ, его автономность, алгоритмы по обработке данных, умение учиться и принимать решения для достижения поставленных целей, сходство ИИ и человеческого интеллекта поднимают ряд правовых проблем при его применении в общественных отношениях. Участие ИИ в общественных отношениях вызывает вопрос совместимости автономии ИИ с правами человека в части возможности причинения автономным роботом вреда человеку
при его использовании в различных сферах общественной жизни, например при отправлении правосудия ИИ-судьей. Отсутствие прогнозиру-емости в таких вопросах может нанести урон правам человека, в частности праву на справедливое судебное разбирательство.
Более того, в законодательстве и доктрине ряда стран Латинской Америки намечаются тенденции к наделению ИИ правосубъектностью. Граница между вещами и людьми становится все более размытой, технологии и более чуткий взгляд на других живых существ приводят к сомнению, является ли человек единственным субъектом права, возможно ли наделить ИИ правами как субъекта права, способного не только иметь права, но и нести обязанности. Судебная практика ряда латинских стран свидетельствует о необходимости расширения понятия «субъект права», однако вопрос распространения таких норм на ИИ пока не решен, использование ИИ в сферах, затрагивающих права человека, пока тоже не нашло четкой правовой регламентации в части принципов, норм и правил применения, что еще больше усиливает проблематику правового регулирования ИИ в общественных отношениях.
БИБЛИОГРАФИЯ
1. Álvaro Pascual D., Vázquez Rojas M. del С. Inteligencia Artificial: Un Panorama de Algunos de sus desafíos Éticos y Jurídicos / Universitat de Girona // URL: https://dugi-doc.udg.edu/bitstream/handle/10256/14950/ alvaro-pascual.pdf?sequence=1&isAllowed=y (дата обращения: 24.02.2020).
2. Corvalán J. G. Artificial intelligence: challenges and opportunities — Prometea: the first artificial intelligence of Latin America at the service of the Justice System // Rev. Investig. Const. — 2018. — Vol. 5 no.1 Curitiba Jan./Apr. — URL: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S2359-56392018000100295 (дата обращения: 01.03.2020).
3. Crovi L. D. Los animales y los robots frente al Derecho // Revista Venezolana de Legislación y Jurisprudencia. — 2018. — № 10.
4. Desde un punto de vista biológico, el ADN es un portador esencial de la información genética / M. Gerard, G. E. Gerald. — Madrid : Ilus Books, 2015.
5. Domingos P. The master algorithm: how the quest for the ultimate learning machine will remake our world. — New York : Basic Books, 2015.
6. Inteligencia Artificial Y El Derecho De Autor: Bots... ¿Estructuras Autónomas? // URL: http://en.uhthoff.com. mx/articles/inteligencia-artificial-y-el-derecho-de-autor-bots-estructuras-autonomas/ (дата обращения: 01.03.2020).
7. James V. B. Nuestra invención final. — Madrid : Planeta Publishing, 2015.
8. OrgazA. Personas individuales. — Córdoba, 1961.
9. Pessoa R. M. Revista chilena de derecho y tecnología // Rev. chil. derecho tecnol. — Vol. 8. — No. 1.
10. Rodotá S. El derecho a tener derechos. — Madrid : Trotta, 2014.
27 Crovi L. D. Los animales y los robots frente al Derecho // Revista Venezolana de Legislación y Jurisprudencia. 2018. № 10.
LEX IPS»
11. Serrano García A. Inteligencia artificial. — Madrid : RC, 2016.
12. Una Revisión Sobre El Futuro Del Trabajo: La Robótica // URL: https://osha.europa.eu/es/publications/future-work-robotics (дата обращения: 24.02.2020).
Материал поступил в редакцию 31 марта 2020 г.
REFERENCES
1. Álvaro Pascual D., Vázquez Rojas M. del S. Inteligencia Artificial: Un Panorama de Algunos de sus desafíos Éticos y Jurídicos. Universitat de Girona. [cited 2020 February 24]. Available from: https://dugi-doc.udg.edu/ bitstream/handle/10256/14950/alvaro-pascual.pdf?sequence=1&isAllowed=y (In Sp.)
2. Domingos P. The master algorithm: how the quest for the ultimate learning machine will remake our world. New York: Basic Books; 2015. (In Eng.)
3. Serrano García A. Inteligencia artificial. Madrid: RC; 2016. (In Sp.)
4. Corvalán JG. Artificial intelligence: challenges and opportunities. Prometea: the first artificial intelligence of Latin America at the service of the Justice System. Rev. Investig. Const. [Internet]. Curitiba Jan./Apr 2018. [cited 2020 March 01];5(1). Available from: http://www.scielo.br/scielo.php?script=sci_arttext&pid =S2359-56392018000100295 (In Sp.)
5. Crovi LD. Los animales y los robots frente al Derecho. Revista Venezolana de Legislación y Jurisprudencia. 2018;10. (In Sp.)
6. Gerard M, Gerald GE. Desde un punto de vista biológico, el ADN es un portador esencial de la información genética. Madrid: Ilus Books; 2015. (In Sp.)
7. Inteligencia Artificial Y El Derecho De Autor: Bots... ¿Estructuras Autónomas? [cited 2020 March 01]. Available from: http://en.uhthoff.com.mx/articles/inteligencia-artificial-y-el-derecho-de-autor-bots-estructuras-autonomas/ (In Sp.)
8. James VB. Nuestra invención final. Madrid: Planeta Publishing; 2015. (In Sp.)
9. Orgaz A. Personas individuales. Córdoba; 1961. (In Sp.)
10. Pessoa RM. Revista chilena de derecho y tecnología. Rev. Chil. Derecho Tecnol. 8(1). (In Sp.)
11. Rodotá S. El derecho a tener derechos. Madrid: Trotta; 2014. (In Sp.)
12. Una Revisión Sobre El Futuro Del Trabajo: La Robótica. [cited 2020 February 24]. Available from: https://osha. europa.eu/es/publications/future-work-robotics (In Sp.)
