CC BY
28
Сравнительно- правовой анализ регулирования применения технологий ИИ в странах БРИКС и ЕС
Багирян Анна Гариковна,
студентка кафедры гражданского права и процесса, СевероКавказский Федеральный университет E-mail: [email protected]
Заиченко Екатерина Александровна,
студентка кафедры теории государства и права, СевероКавказский Федеральный университет E-mail: [email protected]
Каграманян Арутюн Артурович,
студент кафедры теории государства и права, СевероКавказский Федеральный университет E-mail: [email protected]
Туко Адам Русланович,
студент кафедры теории государства и права, СевероКавказский Федеральный университет E-mail: [email protected]
Искусственный интеллект представляет собой цифровую автономную систему, обладающую способностью решать интеллектуальные задачи и достигать при этом результатов, недоступных человеку на уровне его когнитивных способностей. Цель данного исследования - провести сравнительный анализ нормативных правовых актов и действий, предпринятых в области регулирования ИИ странами БРИКС и Европейским союзом, а также влияния ИИ на правовые системы данных стран. В статье исследуется вопрос правового регулирования искусственного интеллекта, а также его применения в судебной практике. Освещаются последние инициативы и законодательные акты, регулирующие ИИ в этих регионах, с акцентом на защиту данных, автономию и ответственность. Статья также затрагивает этические аспекты использования ИИ в правовой сфере, включая вопросы прозрачности и недискриминации. В заключение, статья предлагает рекомендации по гармонизации правовых норм в области ИИ, что может способствовать сотрудничеству и инновациям между странами БРИКС и ЕС. Эта работа представляет интерес для исследователей юридических наук, политологов и экспертов в области ИИ и всех, кто занимается вопросами правового регулирования технологий.
Ключевые слова: искусственный интеллект, правовое регулирование, БРИКС, Европейский союз, международная безопасность, уголовное судопроизводство.
сч о см
Введение
Искусственный интеллект - система технологических решений, выполняющая функции и задачи, которые ранее могли быть реализованы людьми. В XXI веке происходит стремительное развитие цифровых технологий не только среди общества, но и в правовых системах различных государств. В данной статье мы разберем основные аспекты влияния искусственного интеллекта в странах БРИКС и Европейского Союза, а также некоторые проблемы его использования и пути их решения.
Основная часть
По мнению многих экспертов, страны БРИКС являются самыми быстрорастущими и развивающимися рынками в мире.
Для того, чтобы страны БРИКС могли продолжать интенсивное развитие и укреплять свои позиции в качестве лидеров на мировой арене, они должны активно стимулировать и поддерживать инновационные процессы в пределах своих территорий. Это особенно значимо в контексте текущего перехода мирового сообщества к глобальной цифровизации, что делает инновационное развитие ключевым фактором в достижении и поддержании конкурентоспособности на международном уровне.
В рамках стратегического плана по цифровому развитию, страны БРИКС последовательно осуществляли законодательные инициативы, закрепляющие ключевые элементы цифровизации. Это отражает признание тем фактом, что инновации являются основой для прогресса в современном мире. Указанные законодательные акты задают основные векторы развития в области инноваций и формирования цифровой экономики.
В 2015 году странами БРИКС был принят Меморандум о взаимопонимании по сотрудничеству в области науки, технологий и инноваций между правительствами Федеративной Республики Бразилия, Российской Федерации, Республики Индия, Китайской Народной Республики и ЮжноАфриканской Республики. [5]
Данный Меморандум содержит в себе основные понятия ИИ, принципы, цели и задачи, а также план сотрудничества стран-участниц БРИКС. Цели:
- Разработка плана инновационного сотрудничества между странами БРИКС - является ключевым элементом для укрепления их взаимодействия;
- Решение проблем с помощью цифровых технологий и инноваций как на международном, так и на национальном уровне;
- Коллективное создание новых знаний и инновационных продуктов, услуг и процессов с применением адекватных финансовых и инвестиционных механизмов, способствующих ускорению научно-технического прогресса в странах БРИКС.
В 2019 году БРИКС принял решение о создании совместного альянса стран-участниц для развития технологий на основе ИИ. Его создание позволяет объединить усилия для развития ИИ за счет внедрения единых стандартов членами БРИКС.
Стратегия экономического партнерства БРИКС - еще один важный нормативный акт, который утвержден странами БРИКС в 2020 году. Данный акт устанавливает стратегические ориентиры, которые способствуют усилению экономического развития и повышению уровня конкурентоспособности национальных экономик стран БРИКС на глобальном уровне. Цифровая инновационная экономика выступает как одно из ключевых направлений их сотрудничества, что подчеркивает стремление к интеграции современных технологий в экономическую сферу. Согласно стратегическим положениям, страны БРИКС обязаны инициировать формирование рабочей группы, которая будет заниматься вопросами сотрудничества в области информационных и коммуникационных технологий. Эта группа будет анализировать возможные пути и мероприятия по развитию и углублению сотрудничества в области информационно-коммуникационных технологий, а также по укреплению систематического сотрудничества на министерском и других официальных уровнях. Кроме того, предполагается, что страны БРИКС также будут разрабатывать образовательные программы, способствующие развитию человеческих ресурсов в области информационно-коммуникационных технологий.
Это также включает в себя обмен знаниями и опытом в сфере политики и программ, связанных с информационным обществом, что должно способствовать равномерному распределению преимуществ, получаемых от новейших технологий и услуг. [1]
Характерной особенностью исследуемых стран является то, что первые меры на государственном уровне были предприняты сравнительно недавно, когда были созданы первые отчеты в области искусственного интеллекта и привлечены специальные фонды для исследований, образования и подготовки кадров. Прошло совсем немного времени, поэтому общей чертой всех стран БРИКС является то, что ни в одной из них нет правовых норм, регулирующих область искусственного интеллекта.
В настоящее время повышенный интерес государств к аспектам, связанным с искусственным интеллектом, усиливается за счет достижений, демонстрируемых другими национальными и международными субъектами. В докладах национальных
агентств отмечается, что в процессе разработки законодательных инициатив и организации соответствующих мероприятий будет осуществляться ориентация на, среди прочего, принципы, предложенные Организацией экономического сотрудничества и развития, в сфере искусственного интеллекта. [2]
Таким образом, проанализировав вышесказанное, можно отметить, что странам БРИКС необходимо направить силы для разработки более нового правового регулирования искусственного интеллекта, так как он развивается каждый день, а также разработке единого пути развития в сфере правового регулирования ИИ. В дополнение к этому, актуальным является разработка согласованной правовой основы, регламентирующей деятельность в данной области.
Предлагается также, чтобы БРИКС определили компетентные органы, организации и ассоциации для участия в создаваемой рабочей группе. Эта группа будет заниматься разработкой общих рекомендаций по созданию и применению технологической платформы, основанной на искусственном интеллекте, в государствах-членах БРИКС. При этом особое внимание следует уделить учету мнений не только регуляторов, но и представителей бизнеса и конечных пользователей.
Развернутые дискуссии, вызванные искусственным интеллектом в отношении принципов и ценностей, которые должны лежать в основе его разработки и применения, подчеркивают неотложность формирования адекватных этических принципов. Эти принципы предстоит воплотить в систему правового регулирования, регламентирующую деятельность субъектов, основанных на искусственном интеллекте.
В марте 2018 года Европейская комиссия по этике в науке и новых технологиях (EGE) представила комплекс принципов, которые опираются на основополагающие ценности, закрепленные в основных договорах Европейского Союза и Хартии основных прав. Эти принципы ставят человеческий фактор в эпицентр технологического прогресса. Особое внимание заслуживают три этических принципа, укорененных в фундаментальных правах, соблюдение которых является необходимым условием для гарантирования надежности процессов разработки, имплементации и эксплуатации систем искусственного интеллекта:
1. Уважение к автономии личности должно быть основано на неотъемлемых правах человека на честь, достоинство и свободу. По этой причине, предлагается осуществлять разработку моделей искусственного интеллекта таким образом, чтобы минимизировать риск всевозможных форм ограничения, принуждения или доминации над человеком со стороны искусственного интеллекта. Помимо прочего, важно придерживаться основной цели создания искусственного интеллекта, заключающейся в совершенствовании социальных, когнитивных и культурных возможностей человечества.
5 -о
сз ж
■с
см о см
2. Принципы справедливости, солидарности и честности при отправлении правосудия предполагают равный доступ к любым средствам правовой защиты, а также пресекают всяческие ограничения в использовании этих средств теми или иными участниками производства по делам. Возможность гарантировать, что отдельные лица или, выделяемые по любым признакам, социальные группы не станут объектами дискриминации или проявления неравенства при отправлении правосудия, является важнейшей задачей законодателя.
3. Принципы открытости и гласности являются неотъемлемой частью процесса по формированию доверительного отношения к системам искусственного интеллекта со стороны мирового сообщества. Он заключается в обеспечении прозрачности деятельности искусственного интеллекта, в познании пользователями его функций, задач и внутреннего устройства, а также в возможности осуществлять общественный контроль, с целью понимания причин, стоящих за теми или иными принятыми ИИ решениями.
Особую роль в правовом регулировании отношений в сфере искусственного интеллекта стало создание в июне 2018 года Группы ведущих экспертов по искусственному интеллекту в составе Европейской комиссии (А1 HLEG). Она призвана поддерживать внедрение систем искусственного интеллекта и оказывать содействие при претворении стратегии Евросоюза в области ИИ. Она осуществляет разработку рекомендаций по правовым, общественным и этическим вопросам, связанным с ИИ. Результатом деятельности группы стало издание Руководства по этике для искусственного интеллекта в апреле 2019 года. [4] Положения акта закрепляют три фундаментальных критерия, которым должен соответствовать искусственный интеллект:
а) Законность: Искусственный интеллект функционирует не иначе как в соответствии с действующими нормами, установленными законодательными актами.
б) Этичность. ИИ разрабатывается и используется исключительно с учётом и при соблюдении правил этики в этой сфере.
в) Надёжность. Искусственный интеллект должен быть исправен, а риск технического сбоя должен сводится к минимуму. Также, надежность ИИ должна обеспечиваться и с точки зрения его программных установок во избежание возможного непреднамеренный вреда, ставшего последствием его решения.
Помимо прочего, Руководство по этике для искусственного интеллекта регламентирует перечень основных требований, которым должна соответствовать система искусственного интеллекта для обеспечения её надежности. - Человеческая автономия и контроль: Через механизмы человеческого контроля не допускается ограничении человеческой автономии системами искусственного интеллекта.
- Конфиденциальность и управление данными: Гарантия конфиденциальности и сохранности информации на жизненном цикле системы искусственного интеллекта. Данное требование включает в себя защиту данных на этапах сбора, обработки и хранения любых форм данных.
- Ответственность: Руководство по этике для искусственного интеллекта указывает на важность разработки системы отчётности за работой искусственного интеллекта, как на этапе разработки ИИ, так и после непосредственного его внедрения в практическую деятельность. 21 апреля 2021 года Европейская комиссия
представила Закон об искусственном интеллекте (А1А). Тем не менее, детальный анализ указывает на потребность в доработке предложения в различных аспектах. [3]
Статья 2 Закона об искусственном интеллекте (А1А) определяет субъектов его применения следующим образом:
- Поставщики, которые предлагают системы ИИ на рынке или вводят их в эксплуатацию в пределах Европейского Союза, вне зависимости от места их учреждения, будь то внутри Союза или в третьей стране.
- Пользователи систем ИИ, находящиеся на территории Европейского Союза.
- Поставщики и пользователи систем искусственного интеллекта, находящиеся в третьих странах, в случаях, когда продукция, созданная с помощью этих систем, используется внутри Европейского Союза.
Из этого следует, что А1А не распространяется на частных конечных пользователей, поскольку определение пользователя исключает использование систем ИИ в контексте личной и непрофессиональной деятельности. Следует отметить, что А1А не предусматривает каких-либо прав со стороны субъектов данных или других лиц, затронутых системами ИИ. А1А не признает никаких механизмов обеспечения соблюдения физических лиц, таких как процессуальные права, право оспаривать или добиваться возмещения ущерба или даже механизмы подачи жалоб. [6] Кроме того, коллективное воздействие ИИ на общество в целом не отражается на правах общественности или групп гражданского общества на информацию или участие. Таким образом, несмотря на то, что регламент призван защищать основные права, в нем отсутствуют средства правовой защиты, с помощью которых отдельные лица могли бы добиваться возмещения ущерба за нарушение регламента. В частности, проект не предусматривает какого-либо механизма, облегчающего обращение физических лиц против принятия решений, основанных на ИИ. [7] Сравнение упомянутых выше межгосударственных объединений мы предлагаем сделать на примере одной из систем права - уголовного судопроизводства. Использование технологий ИИ, таких как ви-деоконференцсвязь, дистанционная электронная подача документов в суд, проверка доказательств, моделирование поведения человека и прочее, при-
водит к повышению эффективности расследования преступления, что в свою очередь становится следствием вынесением справедливого судебного решения.
Основной тенденцией использования цифровых технологий в уголовном судопроизводстве стран БРИКС и Европейского Союза является представление электронных доказательств, помощь в работе следователей, судей и других участников уголовного процесса. Благодаря искусственному интеллекту значительно повысится эффективность деятельности органов государственной власти, объективность и достоверность доказательств, а также сведение субъективных ошибок участников уголовного судопроизводства к минимуму. Как же искусственный интеллект влияет на уголовное судопроизводство в некоторых странах БРИКС и ЕС? В чем сходства и отличия? [8]
С 2016 года в Китае наблюдается активная цифровизация судебной системы. Шанхайский суд начал разработку передовой цифровой системы для обширного анализа и точного соблюдения основных принципов к правам и свободам человека на всех этапах расследования уголовного дела. Это также приводит к автоматизации и снижению нагрузки работников суда в процессе сбора, проверки и анализа доказательств. Внедрение так называемых «умных судов» позволило осуществлять подачу документов, представление доказательств, проведение судебных заседаний, вынесение решений и процедуры по пересмотру судебных актов в онлайн-формате. С 2019 года в Китае реализуется программа, которая обеспечивает всем гражданам упрощенный доступ к судопроизводству независимо от ее стадии. Как показала практика, цифровая система «умные суды» действительно упростили работу как суду, так и гражданам, а также повысили эффективность и своевременность вынесения решения. Однако на этом Китай не планирует останавливаться, а наоборот ставит перед собой цель усовершенствовать судебную систему полностью и повысить ее потенциал. [9, 10]
Несмотря на множество положительных аспектов искусственного интеллекта, многие ученые склоняются к необходимости ограничения влияния цифровых технологий на правовые системы государств, входящих в состав БРИКС и Европейского Союза. К примеру, опасность может заключаться в необоснованности многих решений «судей», что будет сказываться на понимании вердиктов иными участниками судопроизводства. В данном случае, важно четкое правовое регулирование внедрение искусственного интеллекта во все области различных стран. Благодаря стремительному развитию ИИ в современном мире, рассматриваемые межгосударственные сообщества могут прийти к совершенствованию как государства в целом, так и отдельных сфер. Он может иметь влияние не только на уголовное судопроизводство, а также на экономику страны, медицинскую сферу и общественную жизнь. Для регулирования такого значимого института государствам необходимо принять ряд
нормативно-правовых актов, которые будут регулировать все возникающие вопросы и проблемы.
Литература
1. Аристов Е. В., Беликова К.М. Конституционно-правовое измерение искусственного интеллекта в странах БРИКС (на примере Индии) // NOMOTHETIKA: Философия. Социология. Право. - 2022. - Т. 47. - № . 2. - С. 238-250.
2. БРИКС сформирует общую структуру управления ИИ. Сайт ИИ РФ/ZURL: https://ai.gov.ru/me-diacenter/briks-sformiruet-obshchuyu-strukturu-upravleniya-ii-chto-zhdet-stran-uchastnits-/ (дата обращения: 22.06.24)
3. Вейл М., Зейдервин Боргезиус Ф. Демистификация проекта Закона ЕС об искусственном интеллекте - анализ хороших, плохих и неясных элементов предлагаемого подхода // Международное компьютерное правовое обозрение. 2021. Т.22.№ . 4. С. 97-112.
4. Понкин И. В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. № 1. С. 91109.
5. Распоряжение Правительства Российской Федерации от 14 марта 2015 г. N 434-р «О подписании Меморандума о сотрудничестве в сфере науки, технологий и инноваций между Правительством Федеративной Республики Бразилии, Правительством Российской Федерации, Правительством Республики Индии, Правительством Китайской Народной Республики и Правительством Южно-Африканской Республики» // СПС «КонсультантПлюс».
6. Сурден Х. Искусственный интеллект и право: обзор // Юридический обзор Университета штата Джорджия. 2019. Т. 35. С. 19-22.
7. Харитонова Ю. С., Савина В.С. Технология искусственного интеллекта и право: вызовы современности //Вестник Пермского университета. Юридические науки. 2020. № . 49. С. 524549.
8. Цветкова И. Искусственный интеллект в суде, боты-юристы и краудфандинг правовых споров - как начинается LegalTech-революция. // URL: https://rb.ru/opinion/legaltech/ (дата обращения: 30.05.2024).
9. Creemers R., Webster, G., & Triolo, P. Cybersecu-rity Law of the People's Republic of China. Stanford University, 2019. 712 p.
10. Provisions on the Management of Algorithmic Recommendations in Internet Information Services. China Law Translate, 2023. 100 p.
COMPARATIVE LEGAL ANALYSIS OF REGULATION p OF THE USE OF AL TECHNOLOGIES IN THE BRICS Д COUNTRIES AND THE EU Ч
m
C3
Bagiryan A.G., Zaichenko E.A., Kagramanyan H.A., Tuko A.R. А
North Caucasus Federal University ^
Artificial intelligence is a digital autonomous system that has the К ability to solve intellectual problems and achieve results that are in- >
accessible to humans at the level of their cognitive abilities. The purpose of this study is to conduct a comparative analysis of regulations and actions taken in the field of AI regulation by the BRICS countries and the European Union, as well as the impact of AI on the legal systems of these countries.
The article examines the issue of legal regulation of artificial intelligence, as well as its application in judicial practice. Covers the latest initiatives and legislation governing AI in these regions, with an emphasis on data protection, autonomy and responsibility. The article also touches on the ethical aspects of using AI in the legal sphere, including issues of transparency and non-discrimination. In conclusion, the article offers recommendations for harmonizing legal norms in the field of AI, which can promote cooperation and innovation between the BRICS countries and the EU. This work will be of interest to legal scholars, political scientists and AI experts, and anyone involved in the legal regulation of technology.
Keywords: artificial intelligence, legal regulation, BRICS, European Union, international security, criminal proceedings.
References
1. Aristov E. V., Belikova K.M. Constitutional and legal measurement of artificial intelligence in the BRICS countries (on the example of India) //NOMOTHETIKA: Philosophy. Sociology. Right. - 2022. - T. 47. - No. 2. - pp. 238-250.
2. BRICS will form a common AI governance structure. Website of the Russian AI //URL: https://ai.gov.ru/mediacenter/briks-sformiruet-obshchuyu-strukturu-upravleniya-ii-chto-zhdet-stran-uchastnits-/ (accessed: 22.06.24)
3. Weil M., Seiderveen Borgesius F. Demystifying the draft EU Law on Artificial Intelligence - analysis of the good, bad and unclear elements of the proposed approach // International Computer Legal Review. 2021. T. 22. no. 4. pp. 97-112.
4. Ponkin I.V., Redkina A.I. Artificial intelligence from the point of view of law // Bulletin of RUDN University. Series: Legal sciences. 2018. No. 1. pp. 91-109.
5. Order of the Government of the Russian Federation dated March 14, 2015 N 434-r "On the signing of a Memorandum of Cooperation in the field of science, technology and innovation between the Government of the Federative Republic of Brazil, the Government of the Russian Federation, the Government of the Republic of India, the Government of the People's Republic of China and the Government of the South -African Republic" // SPS "ConsultantPlus".
6. Surden H. Artificial intelligence and law: a review // Law Review of the University of Georgia. 2019. T. 35. pp. 19-22.
7. Kharitonova Yu. S., Savina V.S. Artificial intelligence technology and law: challenges of our time // Bulletin of Perm University. Legal sciences. 2020. no. 49. pp. 524-549.
8. Tsvetkova I. Artificial intelligence in court, bot lawyers and crowdfunding of legal disputes - how the LegalTech revolution begins. // URL: https://rb.ru/opinion/legaltech/ (access date: 05/30/2024).
9. Creemers, R., Webster, G., & Triolo, P. Cybersecurity Law of the People's Republic of China. Stanford University, 2019. 712 p.
10. Provisions on the Management of Algorithmic Recommendations in Internet Information Services. China Law Translate, 2023. 100 p.
CM
o
CM
