CC BY
2
A UNiVERSUM:
№ 10 (120)_экономика и юриспруденция_октябрь. 2024 г.
ИНФОРМАЦИОННОЕ ПРАВО
DOI - 10.32743/UniLaw.2024.120.10.18320
ПРАВА ЧЕЛОВЕКА В ЭПОХУ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПРАВОВЫЕ ГАРАНТИИ КОНФИДЕНЦИАЛЬНОСТИ И БЕЗОПАСНОСТИ
Мирзаев Рустам
магистр права, соискатель Ташкентского государственного юридического университета,
Республика Узбекистан, г. Ташкент E-mail: infolaw.uz@gmail com
HUMAN RIGHTS IN THE AGE OF ARTIFICIAL INTELLIGENCE: LEGAL SAFEGUARDS FOR PRIVACY AND SECURITY
Rustam Mirzayev
Master of Law, researcher of Tashkent State Law University, Uzbekistan, Tashkent
АННОТАЦИЯ
В этой статье рассматриваются сложные правовые проблемы, возникающие в связи с технологиями искусственного интеллекта (ИИ) в отношении прав на конфиденциальность и безопасность, а также оценивается реакция международного юридического сообщества на эти проблемы. Поскольку системы ИИ становятся все более распространенными в различных аспектах повседневной жизни, от алгоритмов социальных сетей до приложений национальной безопасности, потенциал как улучшения, так и нарушения прав человека растет экспоненциально. В этом исследовании изучается сложное взаимодействие между достижениями ИИ и устоявшимися рамками прав человека, с особым акцентом на конфиденциальность и безопасность. Анализируя международные договоры, прецедентное право и роли различных международных организаций, это исследование направлено на выявление правовых пробелов, выделение новых тенденций и предложение рекомендаций по укреплению гарантий конфиденциальности в эпоху ИИ. В статье подчеркивается острая необходимость в глобальном сотрудничестве в разработке всеобъемлющих и адаптивных правовых рамок для защиты прав человека в условиях быстро развивающихся технологий ИИ.
ABSTRACT
This article analyzes the intricate legal issues presented by artificial intelligence (AI) technology regarding privacy and security rights, and assesses the worldwide legal community's response to these issues. As AI systems become more ubiquitous in daily life, ranging from social media algorithms to national security applications, the potential for both the advancement and violation of human rights has significantly increased. This paper examines the complex relationship between AI breakthroughs and existing human rights frameworks, emphasizing privacy and security. This research seeks to identify legal deficiencies, illuminate emerging trends, and make ideas for enhancing privacy protections in the age of AI through the analysis of international treaties, case law, and the functions of various international bodies. The article emphasizes the urgent necessity for international collaboration in formulating comprehensive and flexible legal frameworks to safeguard human rights amid the swift advancement of AI technology.
Ключевые слова: искусственный интеллект, права человека, конфиденциальность, безопасность, международное право, защита данных, наблюдение.
Keywords: Artificial Intelligence, human rights, privacy, security, international law, data protection, surveillance
Появление искусственного интеллекта открыло новую эру технологических возможностей, обещая беспрецедентные достижения в областях от здравоохранения до международной безопасности. Однако эта технологическая революция также принесла с собой множество сложных проблем для давно
устоявшихся представлений о правах человека, особенно в сферах конфиденциальности и безопасности. Поскольку системы ИИ становятся все более сложными и повсеместными, они обладают потенциалом как защищать, так и нарушать основные права человека способами, которые едва ли можно было себе представить всего несколько десятилетий назад.
Библиографическое описание: Рустам М. ПРАВА ЧЕЛОВЕКА В ЭПОХУ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПРАВОВЫЕ ГАРАНТИИ КОНФИДЕНЦИАЛЬНОСТИ И БЕЗОПАСНОСТИ // Universum: экономика и юриспруденция : электрон. научн. журн. 2024. 10(120). URL: https://7universum.com/ru/economy/archive/item/18320
№ 10 (120)
октябрь, 2024 г.
Роль ИИ в международной безопасности стала предметом пристального внимания и дебатов. С одной стороны, технологии ИИ обещают улучшенное обнаружение угроз, более эффективное распределение ресурсов и улучшенные процессы принятия решений в операциях по обеспечению безопасности. Алгоритмы предиктивной полиции, системы распознавания лиц и автономное оружие — вот лишь несколько примеров приложений ИИ, которые меняют ландшафт национальной и международной безопасности. Однако эти же технологии поднимают глубокие вопросы о слежке, конфиденциальности и потенциальном злоупотреблении властью.
Влияние ИИ на права на неприкосновенность частной жизни особенно существенно. Огромные возможности сбора и анализа данных в системах ИИ могут подорвать личную конфиденциальность в беспрецедентных масштабах. От социальных сетей, которые используют ИИ для адаптации контента и рекламы, до инициатив умных городов, которые используют ИИ для городского управления, всепроникающий характер этих технологий означает, что люди постоянно генерируют данные, которые можно собирать, анализировать и потенциально использовать не по назначению. Этот ландшафт, управляемый данными, представляет собой фундаментальный вызов традиционным концепциям конфиденциальности и защиты данных.
По мере углубления в эту сложную тему автор исследует, как международное право справляется с этими новыми вызовами. Автор рассмотрит ключевые международные договоры и конвенции, защищающие права на неприкосновенность частной жизни, и проанализирует, как эти правовые инструменты интерпретируются и применяются в контексте технологий ИИ. Автор также изучит правовые пробелы, существующие в текущих структурах, и рассмотрит, как эти пробелы можно устранить, чтобы обеспечить адекватную защиту прав на неприкосновенность частной жизни и безопасность в эпоху ИИ.
В ходе этого исследования автор рассмотрел этические последствия инструментов безопасности на основе ИИ, проанализировал примечательные судебные прецеденты, которые сформировали правовой ландшафт, и сравнил различные национальные подходы к регулированию ИИ в отношении прав на неприкосновенность частной жизни. Критически изучая эти вопросы, автор стремился внести свой вклад в продолжающийся диалог о том, как лучше всего защищать права человека в эпоху, когда границы между цифровым и физическим мирами все больше размываются.
Приступая к этому анализу, крайне важно признать, что проблемы, которые создает ИИ для прав на конфиденциальность и безопасность, не ограничиваются национальными границами. Глобальный характер технологий ИИ и потоки данных, которые они обеспечивают, требуют скоординированного международного ответа. Поэтому в этой статье будет подчеркнута важность глобального сотрудничества в разработке и внедрении правовых гарантий, которые
могут эффективно защищать права человека в условиях быстрых технологических изменений.
Анализ и результаты исследования. Пересечение искусственного интеллекта и прав человека представляет собой одну из самых острых правовых и этических проблем нашего времени. Чтобы в полной мере оценить сложность этой проблемы, необходимо сначала четко понять основополагающие принципы прав человека, закрепленные в международном праве.
Права человека, кодифицированные в различных международных договорах и декларациях, являются универсальными, неотъемлемыми, неделимыми, взаимозависимыми и взаимосвязанными. Основой современного международного права в области прав человека является Всеобщая декларация прав человека (ВДПЧ), принятая Генеральной Ассамблеей Организации Объединенных Наций в 1948 году [1]. Хотя сама по себе ВДПЧ не является юридически обязательной, она вдохновила многочисленные юридически обязательные международные договоры по правам человека и была включена во многие национальные конституции.
Среди прав, признанных во Всеобщей декларации прав человека, право на неприкосновенность частной жизни имеет особое значение в контексте технологий искусственного интеллекта. Статья 12 Всеобщей декларации прав человека указывает, что «Никто не может подвергаться произвольному вмешательству в его личную и семейную жизнь, произвольным посягательствам на неприкосновенность его жилища или корреспонденции или посягательствам на его честь и репутацию» [1]. Этот принцип получил дальнейшее развитие в последующих международных договорах, в частности в Международном пакте о гражданских и политических правах (МПГПП) 1966 года [2].
Влияние ИИ на права на неприкосновенность частной жизни глубокое и многогранное. Системы ИИ по своей природе полагаются на огромные объемы данных для эффективного функционирования. Этот информационный голод привел к беспрецедентным уровням сбора, хранения и анализа личной информации. Хотя эта обработка данных может дать значительные преимущества с точки зрения персонализированных услуг и улучшенного принятия решений, она также создает существенные риски для личной конфиденциальности.
Одной из самых существенных проблем, которую ИИ создает для прав на неприкосновенность частной жизни, является потенциальная возможность наблюдения и профилирования в больших масштабах. Например, системы распознавания лиц на основе ИИ способны отслеживать перемещения и действия людей в общественных местах с такой степенью точности и эффективности, которая ранее была невозможна. Дело Бриджес против полиции Южного Уэльса в Соединенном Королевстве выявило правовые сложности, связанные с использованием таких технологий. В этом знаменательном деле Апелляционный суд постановил, что использование автоматизированной технологии распознавания лиц полицией Южного Уэльса было незаконным, сославшись на недостаточные гарантии и неспособность
№ 10 (120)
октябрь, 2024 г.
должным образом оценить влияние технологии на права на неприкосновенность частной жизни [3].
Ключевые международные договоры, защищающие права на неприкосновенность частной жизни, с трудом поспевают за быстрым развитием технологий ИИ. Вышеупомянутый МПГПП, а также региональные инструменты, такие как Европейская конвенция о правах человека (ЕКПЧ), обеспечивают важные правовые основы для защиты частной жизни. Однако эти договоры были составлены в эпоху, когда нынешние возможности ИИ едва ли можно было себе представить.
Конвенция Совета Европы о защите лиц при автоматизированной обработке персональных данных (Конвенция 108), первоначально принятая в 1981 году и модернизированная в 2018 году, представляет собой одно из наиболее всеобъемлющих международных усилий по защите данных в цифровую эпоху [4]. Модернизированная Конвенция 108+ открыто признает проблемы, связанные с алгоритмическим принятием решений, и направлена на обеспечение того, чтобы использование ИИ уважало права человека, в частности право на неприкосновенность частной жизни.
Несмотря на эти усилия, сохраняются значительные правовые пробелы в защите конфиденциальности в контексте технологий ИИ. Одной из наиболее острых проблем является отсутствие четких международных стандартов прозрачности и объяснимости ИИ. Многие системы ИИ, особенно те, которые используют методы глубокого обучения, работают как «черные ящики», что затрудняет понимание людьми того, как принимаются решения, затрагивающие их права. Эта непрозрачность представляет собой серьезную проблему для принципов прозрачности и подотчетности, которые являются основополагающими для права прав человека.
Роль ИИ в повышении или угрозе безопасности — еще одна область интенсивных правовых и этических дебатов. С одной стороны, технологии ИИ предлагают потенциал для значительного улучшения мер безопасности, от более точного обнаружения угроз до расширенных возможностей реагирования на кризисы. Например, инструменты предик-тивной полиции на базе ИИ были развернуты в различных юрисдикциях с целью предотвращения преступлений до их совершения. Однако эти же технологии вызывают обеспокоенность по поводу нарушения конфиденциальности, потенциальной предвзятости и подрыва презумпции невиновности.
Использование ИИ в контексте национальной безопасности представляет собой особенно сложные правовые проблемы. Например, развертывание автономных систем вооружения поднимает глубокие вопросы о человеческом контроле, ответственности и потенциале ИИ принимать решения о жизни или смерти. Международное юридическое сообщество еще не достигло консенсуса о том, как регулировать такие системы, и дебаты продолжаются на таких форумах, как Конвенция Организации Объединенных Наций о некоторых видах обычного оружия [5].
Начали появляться заметные судебные решения, касающиеся вопросов конфиденциальности при использовании ИИ, формируя правовой ландшафт в этой быстро развивающейся области. В дополнение к делу Bridges, упомянутому ранее, решение Европейского суда по правам человека в деле S. и Marper против Соединенного Королевства имеет значительные последствия для практики сбора и хранения данных с использованием ИИ. В этом деле Суд постановил, что бессрочное хранение профилей ДНК лиц, арестованных, но не осужденных за преступления, нарушает их право на неприкосновенность частной жизни в соответствии со статьей 8 ЕКПЧ [6]. Это решение подчеркивает необходимость соразмерности и ограничения цели при сборе и хранении биометрических данных, принципов, которые весьма актуальны для систем наблюдения с использованием ИИ.
Международные организации играют решающую роль в защите прав на неприкосновенность частной жизни в эпоху ИИ. Совет ООН по правам человека находится в авангарде усилий по решению проблем, связанных с последствиями ИИ для прав человека, принимая резолюции, призывающие государства обеспечить, чтобы разработка и использование технологий ИИ уважали права человека [7]. Организация экономического сотрудничества и развития (ОЭСР) также активно работает в этой области, разрабатывая принципы ИИ, в которых подчеркивается необходимость соблюдения прав человека и демократических ценностей системами ИИ [8].
Этические проблемы, связанные с инструментами безопасности на основе ИИ, многочисленны и сложны. Потенциал предвзятости в системах ИИ, особенно в контексте правоохранительных органов и национальной безопасности, стал предметом пристального внимания. Исследования показали, что системы распознавания лиц могут демонстрировать расовые и гендерные предубеждения, что может привести к дискриминационным результатам в приложениях безопасности [9]. Эти проблемы поднимают важные вопросы о совместимости определенных технологий ИИ с основополагающими принципами прав человека: недискриминацией и равенством перед законом.
Сравнительный анализ национальных правовых рамок в области ИИ и конфиденциальности выявляет значительные различия в подходах. Общий регламент по защите данных (GDPR) Европейского союза представляет собой одну из наиболее всеобъемлющих попыток регулирования защиты данных в цифровую эпоху, включая положения, специально посвященные автоматизированному принятию решений и профилированию [10]. Напротив, Соединенные Штаты приняли более отраслевой подход к регулированию конфиденциальности, не имея всеобъемлющего федерального закона о конфиденциальности, эквивалентного GDPR. Этот фрагментарный подход привел к призывам к более унифицированному федеральному законодательству для решения проблем конфиденциальности, создаваемых технологиями ИИ.
№ 10 (120)
Подход Китая к регулированию ИИ резко контрастирует с западными моделями, с большим акцентом на использование ИИ для социального контроля и национального развития. Система социального кредита страны, которая использует ИИ для оценки благонадежности людей на основе широкого спектра точек данных, подверглась критике со стороны защитников прав человека как потенциальный инструмент для массового наблюдения и социальной инженерии [11].
Будущие тенденции в области защиты прав на конфиденциальность, связанных с ИИ, скорее всего, будут сосредоточены на разработке более надежных фреймворков для алгоритмической прозрачности и подотчетности. Растет понимание необходимости «алгоритмических оценок воздействия» для оценки потенциальных последствий систем ИИ для прав человека до их развертывания. Кроме того, набирает популярность концепция «конфиденциальности по замыслу», подчеркивающая необходимость встраивать защиту конфиденциальности в системы ИИ с нуля, а не в качестве второстепенной мысли.
Рекомендации по улучшению международных гарантий конфиденциальности в эпоху ИИ многочисленны. Во-первых, необходимо более тесное согласование международных правовых стандартов, регулирующих ИИ и конфиденциальность. Это может потенциально принять форму нового международного договора, специально посвященного последствиям технологий ИИ для прав человека. Во-вторых, необходимо усилить механизмы независимого надзора и аудита систем ИИ для обеспечения соответствия стандартам прав человека. В-третьих, существует настоятельная необходимость в увеличении инвестиций в цифровую грамотность и просвещение общественности о технологиях ИИ и их последствиях для прав на конфиденциальность.
Кроме того, следует отдать приоритет разработке технических стандартов прозрачности и объ-яснимости ИИ. Это может включать создание международно признанных процессов сертификации для систем ИИ, которые соответствуют определенным стандартам конфиденциальности и прав человека. Наконец, необходимо усилить международное сотрудничество в решении трансграничных проблем, создаваемых технологиями ИИ, особенно в областях обмена данными и сотрудничества правоохранительных органов.
октябрь, 2024 г.
Быстрое развитие технологий искусственного интеллекта представляет как беспрецедентные возможности, так и значительные проблемы для защиты прав человека, особенно в сферах конфиденциальности и безопасности. Автор рассмотрел в этой статье, сложное взаимодействие между ИИ и правами человека требует всеобъемлющей и адаптивной правовой базы, которая может защищать основные права, одновременно способствуя инновациям и прогрессу.
Важность глобального сотрудничества в укреплении прав на неприкосновенность частной жизни в эпоху ИИ невозможно переоценить. Транснациональный характер технологий ИИ и потоков данных означает, что односторонние или фрагментарные подходы к регулированию, скорее всего, будут неэффективны. Международное сотрудничество необходимо не только для разработки гармонизированных правовых стандартов, но и для обеспечения их эффективной реализации и соблюдения.
Глядя в будущее, становится ясно, что защита прав человека в эпоху ИИ потребует постоянной бдительности, адаптации и инноваций в правовом мышлении. Стремительный темп технологических изменений означает, что правовые рамки должны быть достаточно гибкими, чтобы решать возникающие проблемы, оставаясь при этом основанными на фундаментальных принципах прав человека.
Более того, защита прав на конфиденциальность и безопасность в эпоху ИИ — это не только юридическая проблема, но и многогранная задача, требующая участия технологов, политиков, гражданского общества и частного сектора. Междисциплинарное сотрудничество будет иметь решающее значение в разработке целостных решений, которые могут эффективно сбалансировать преимущества технологий ИИ с императивом защиты прав человека.
Таким образом, хотя проблемы, создаваемые ИИ для прав на конфиденциальность и безопасность, значительны, они не являются непреодолимыми. Способствуя глобальному сотрудничеству, укрепляя правовые гарантии и продвигая этическую разработку ИИ, полагает автор, можем работать над будущим, в котором преобразующий потенциал ИИ будет реализован, а основные права человека будут надежно защищены. Путь вперед потребует постоянных усилий, креативности и непоколебимой приверженности принципам человеческого достоинства и свободы, которые лежат в основе международной системы прав человека.
Список литературы:
1. Организация Объединенных Наций. (1948). Всеобщая декларация прав человека. URL: https://www.consultant.ru/document/cons_doc_LAW_120805/ (дата обращения 26.09.2024).
2. Организация Объединенных Наций. (1966 г.) Международный пакт о гражданских и политических правах. URL: https://www.un.org/ru/documents/decl_conv/conventions/pactpol.shtml (дата обращения 26.09.2024).
3. R (Bridges) v Chief Constable of South Wales Police [2020] EWCA Civ 1058. URL: https://privacylawbarrister.com/2020/08/28/r-bridges-v-the-chief-constable-of-south-wales-police-2020-ewca-civ-1058/ (дата обращения 26.09.2024).
№ 10 (120)
UNIVERSUM:
ЭКОНОМИКА И ЮРИСПРУДЕНЦИЯ
• 7universum.com
октябрь, 2024 г.
4. Council of Europe. (2018). Convention 108+: Convention for the protection of individuals with regard to the processing of personal data. URL: https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMIT-TEES/LIBE/DV/2018/09-10/Convention_108_EN.pdf (дата обращения 26.09.2024).
5. United Nations Office for Disarmament Affairs. (2021). Background on LAWS in the CCW. URL: https://disarma-ment.unoda.org/the-convention-on-certain-conventional-weapons/background-on-laws-in-the-ccw/ (дата обращения 26.09.2024).
6. S. and Marper v. The United Kingdom [2008] ECHR 1581. URL: https://counterterrorlaw.info/assets/downloads/S_and_Marper_v._United_Kingdom_%282008%29_.pdf (дата обращения 26.09.2024).
7. United Nations Human Rights Council. (2021). The right to privacy in the digital age. A/HRC/48/L.9/Rev.1.
8. Organization for Economic Co-operation and Development. (2019). OECD Principles on AI. URL: https://oecd.ai/en/ai-principles (дата обращения 26.09.2024).
9. Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 81, 77-91.
10. European Union. (2016). General Data Protection Regulation. URL: https://eur-lex.europa.eu/eli/reg/2016/679/oj (дата обращения 26.09.2024).
11. Liang, F., Das, V., Kostyuk, N., & Hussain, M.M. (2018). Constructing a data-driven society: China's social credit system as a state surveillance infrastructure. Policy & Internet, 10(4), 415-453.
12. Cath, C., Wachter, S., Mittelstadt, B., Taddeo, M., & Floridi, L. (2018). Artificial Intelligence and the 'Good Society': The US, EU, and UK approach. Science and Engineering Ethics, 24(2), 505-528.
13. Raso, F.A., Hilligoss, H., Krishnamurthy, V., Bavitz, C., & Kim, L. (2018). Artificial intelligence & human rights: Opportunities & risks. Berkman Klein Center Research Publication, (2018-6).
14. Fjeld, J., Achten, N., Hilligoss, H., Nagy, A., & Srikumar, M. (2020). Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI. Berkman Klein Center Research Publication, (2020-1).
15. Yeung, K., Howes, A., & Pogrebna, G. (2020). AI governance by human rights-centred design, deliberation and oversight: An end to ethics washing. The Oxford Handbook of AI Ethics, 77-106.
