CC BY
79
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
Антон Александрович ЖУРКОВ,
заместитель начальника Управления по внеучебнойи воспитательной работе Университета имени О.Е. Кутафина (МГЮА), соискатель кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА) [email protected] 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
Этические аспекты использования систем искусственного интеллекта: международно-правовой опыт1
Аннотация. За последнее десятилетие в условиях цифровой трансформации всех сфер общества возросло практическое применение технологий искусственного интеллекта, внедряемых во всех секторах экономики и государственного управления, а также в повседневную жизнедеятельность человека. В этой связи усилились действия национальных правительств, различных международных организаций, международных неправительственных организаций, крупных транснациональных корпораций по формированию универсальных и общепризнанных правил, содержащих нормы, которые ориентированы на правовое регулирование разработки, внедрения и использования различных систем ИИ, а также на обеспечение этических основ применения таких систем в целях недопущения нарушения прав человека. Принимая во внимание огромные возможности технологий ИИ, которые могут оказывать всестороннее воздействие на права человека, правовые и иные последствия от принятых решений будут иметь не локальный, а глобальный характер. Автор статьи описывает некоторые примеры, характеризующие деятельность международных организаций за последние годы в данной сфере, а также обозначает приоритетные вопросы участия Российской Федерации в процессе выработки международно-правовых норм и позиций с учетом национальных интересов и в соответствии с отечественными доктри-нальными правовыми актами.
Ключевые слова: ИКТ, искусственный интеллект, международные организации, международное право, правовое регулирование, ответственность, этические нормы, цифровые технологии, цифровизация.
DOI: 10.17803/2311-5998.2022.92.4.186-194
1 Исследование выполнено в рамках программы стратегического академического лидер© А. А. Журк^ 2022 ства «Приоритет-2030».
ЕСТНИК журков А.А
УНИВЕРСИТЕТА Этические аспекты использования систем |Q/
УНИВЕРСИТЕТА Этические аспекты использования систем имени o.e. кутафина(мгюА) искусственного интеллекта: международно-правовой опыт
ANTON A. ZHURKOV,
Deputy Head of the Department for Extracurricular and Educational Work of the Kutafin Moscow State Law University (MSAL), competitor of the Department of information law and digital technologies of the
Kutafin Moscow State Law University (MSAL) [email protected] 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993
Ethical Aspects of the Use of Artificial Intelligence Systems:
International Legal Experience
Abstract. In the context of the digital transformation of all spheres of society, the practical application of artificial intelligence (AI) technologies introduced in all sectors of the economy and public administration, as well as in the daily life of a person, has increased over the past decade. In this regard, the actions of national Governments, various international organizations, international non-governmental organizations, large transnational corporations have intensified to form universal and universally recognized rules containing norms that are focused on the legal regulation of the development, implementation and use of various AI systems, as well as to ensure the ethical foundations of the use of such systems in order to prevent human rights violations. Taking into account the enormous possibilities of AI technologies that can have a comprehensive impact on human rights, the legal and other consequences of the decisions taken will have not only a local, but even a global character for the entire world community. The author of the article describes some examples characterizing the activities of international organizations in recent years in this area, and also identifies priority issues of the participation of the Russian Federation in the process of developing international legal norms and positions, taking into account national interests and in accordance with domestic doctrinal legal acts.
Keywords: ICT, artificial intelligence, international organizations, international law, legal regulation, responsibility, ethical standards, digital technologies, digitalization.
В настоящее время в условиях масштабной и всесторонней цифровиза-ции, активного применения высоких технологий при реализации не только отдельно взятых государственных и общественно значимых задач, но и внедрения передовых информационно-телекоммуникационных технологий в повседневную жизнедеятельность человека все большее внимание со стороны экспертного сообщества, межправительственных организаций и отдельно взятых государств уделяется вопросам правового регулирования различных систем искусственного интеллекта (далее — ИИ).
Дальнейшие процессы цифровизации общественной жизни, несомненно, приведут к наполнению информационной правосубъектности новым содержанием. Уже сегодня настоятельно требуют решения вопросы, связанные с совершением
И I
В
□
Р
А
Ц
Ор
X m X §
ЦХ
ИР
ВГ
"О
□i шИ
ХР
Xo
ТВ m > XI НИ □ Я
ЛОГИЙ
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
юридически значимых действий программно-аппаратными комплексами, реализацией концепции интернета вещей, появлением самообучаемых программ (например, чат-ботов) и систем искусственного интеллекта2.
В указанных условиях консолидация мирового сообщества и разработка концептуального международного документа, посвященного принципам и базовым началам регулирования ИИ и робототехники, представляются как никогда актуальными3.
Вопросы международно-правового регулирования систем искусственного интеллекта во многом ориентированы на инициативы ООН, которая является основной площадкой для межгосударственного общения по самым разным повесткам и где неоднократно проводились мероприятия, направленные на сближение позиций государств по наиболее проблемным вопросам в сфере развития и применения систем ИИ, а также их нормативного регулирования.
В течение продолжительного времени формирование правовой базы для целей установления этических принципов регулирования ИИ было одним из важных векторов в сфере становления каркаса международно-правового регулирования ИИ. К концу 2021 г. во всем мире принято более сотни различных актов, посвященных ИИ и этике использования данной технологии.
Во всех документах нашли отражение преимущественно следующие принципы: безопасность, недискриминация, конфиденциальность, подконтрольность, а в ряде случаев и ответственность. Все международные документы в основном содержат сведения о текущем уровне развития технологий ИИ, ключевых этапах дальнейшего развития и об ожиданиях возможных результатов, а в ряде случаев происходит констатация проблемных вопросов и обозначается возможность финансовой поддержки.
Одним из самых важных документов являются «Азиломарские принципы ИИ» (2017)4.
Вопросами, связанными с правовым регулированием и этическими вопросами применения различных систем ИИ, в последнее время стали активно заниматься в ООН. Так, в 2018 г. позиция относительно воздействия ИИ на права человека впервые была озвучена в докладе специального докладчика Генеральной Ассамблее ООН «Об ИИ и его влиянии на свободу мнений и их свободное выражение»5. В документе сообщается, что государствам при формировании национальных программ и стратегий следует проявлять гибкость, чтобы не создать слабое правовое регулирование, способное сократить преимущества внедрения ИИ в повседневную жизнедеятельность и ограничить развитие данной технологии.
2 Чубукова С. Г. Информационная правосубъектность: цифровая трансформация // Информационное право. 2019. № 3 (61). С. 27.
3 Бегишев И. Р. Международно-правовые основы регулирования искусственного интеллекта и робототехники // Международное публичное и частное право. 2021. № 1. С. 37—40.
4 Азиломарские принципы ИИ // URL: https://futureoflife.org/2017/08/11/ai-principles/7cn-reloaded=1 (дата обращения: 10.01.2022).
5 Доклад ООН «Поощрение и защита прав человека: вопросы прав человека, включая альтернативные подходы в деле содействия эффективному осуществлению прав человека и основных свобод». A/73/348. 2018 // URL: https://undocs.Org/ru/a/73/348 (дата обращения: 10.01.2022).
УНИВЕРСИТЕТА Этические аспекты использования систем имени o.e. кугафина(мгюА) искусственного интеллекта: международно-правовой опыт
В докладе обращено внимание на вопросы предвзятости и дискриминации в процессе предоставления услуг, в то время как право на свободу мнений и их свободное выражение часто не обсуждается в общественных дискуссиях и политических дебатах, что является существенным упущением. Докладчиком подчеркнуто, что разнообразные этические установки не подменяют собой права человека, которые каждое государство обязано соблюдать, а этические рамки должны помочь в определении конкретного содержания и обеспечения прав человека в конкретных условиях, в том числе прав человека на приватность и конфиденциальность личной информации6.
В сентябре 2021 г. Верховный комиссар ООН по правам человека Мишель Бачелет обозначила необходимость введения моратория на продажу и использование систем ИИ, которые представляют серьезную угрозу для прав человека, до тех пор пока не будут приняты надлежащие гарантии. Верховный комиссар также призвала запретить приложения ИИ, которые не могут быть использованы в соответствии с международным правом в области прав человека7.
Верховным комиссаром было обращено внимание, что в соответствии со ст. 2 и 17 Международного пакта о гражданских и политических правах8 на государствах лежит не только обязанность не нарушать фундаментальное право человека на неприкосновенность частной жизни — так называемая «негативная» обязанность, но в то же время и «позитивная» обязанность — защищать человека от таких посягательств, а также от дискриминации, в пределах своей юрисдикции закрепить юридические гарантии и инструменты для эффективной реализации этого права. В докладе также отмечается и то обстоятельство, что ИИ могут обострить вмешательство в частную жизнь человека, а также отмечается опасная тенденция, исходящая от представителей бизнес-сообщества и связанная с расширяющейся политикой по сбору персональных данных физических лиц.
Справедливо утверждение Е. В. Холодной, что многочисленные этические инициативы направлены прежде всего на выработку рефлексии профессионального поведения разработчиков, производителей, пользователей и иных субъектов сферы технологий ИИ9. 0
Над решением задачи, связанной с защитой прав человека в цифровой среде, Р
в настоящее время работает Экспертная группа ЮНЕСКО по выработке реко- А
мендаций этических принципов разработки и использования ИИ. Так, в 2018 г. в
ООН был подготовлен специальный доклад, в котором обозначались вопросы о °Р
н и
ЫБ
6 Морхат П. М. Искусственный интеллект и права человека: теоретико-правовое исследование // Право и образование. 2018. № 3. С. 35—44.
7 Бачелет М. Риски искусственного интеллекта для конфиденциальности требуют сроч- Ц — ных действий // Сайт Управления Верховного комиссара ООН по правам человека. q m URL: https://www.ohchr.org/en/newsevents/pages/displaynews.aspx?newsid=27469&langid=e 0 Л (дата обращения: 10.01.2022). Ш И
Р
8 Международный пакт о гражданских и политических правах (принят 16.12.1966 Резолюцией 2200 (XXI) на 1496-м пленарном заседании Генеральной Ассамблеи ООН) //
Ведомости Верховного Совета СССР 1976. № 17. Ст. 291. XJ
Холодная Е. В. Этические стандарты и регулирование искусственного интеллекта //
□ Я
Информационное право. 2020. № 3 (65). С. 43. ЛОГИЙ
>
Э
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
влиянии ИИ на права человека в информационной среде. Подобные проблемы также изучаются в рамках профильных комиссий Экономического и социального совета (ЭКОСОС), а также Конференции ООН по торговле и развитию (ЮНКТАД), которая реализует ряд инициатив по модерированию разноформатных дискуссий по передаче цифровых данных и увязанных с данным процессом цифровых рисков для государств, отстающих в развитии ИКТ.
Основной целью доклада стало ускорение создания транспарентной среды, направленной на формирование свободного и широкого доступа к информации о релевантном состоянии сферы развития ИИ и ее влиянии на права человека. Так, обращают на себя внимание положения доклада, связанные с рекомендациями для правительств и частных компаний, разрабатывающих ИИ. При оценке воздействия ИИ на права человека национальным правительствам рекомендуется проводить на системной основе общественные слушания, а также своего рода аудиторские проверки, ориентированные на выявление нарушений в работе систем ИИ, в целях предотвращения нарушения прав человека, определенных основными международно-правовыми актами.
Более того, рекомендуется устанавливать в национальных законодательствах регуляторные механизмы и системы оценок воздействия ИИ на фундаментальные права человека, в том числе в связи важностью введения секторального регулирования конкретных приложений ИИ в качестве необходимой и единственной эффективной меры защиты прав человека. Здесь речь идет о персональных и биометрических данных человека, а также любой иной информации, связанной с частной жизнью физического лица. Принимая во внимание вышеизложенное, политика государств должна быть сфокусирована на создании эффективных и гибких правовых норм регулирования использования ИИ. Здесь интересны механизмы мягкого права, которые уже применяются международным сообществом при формировании наднационального правового регулирования.
ЮНЕСКО обращает внимание международного сообщества на то обстоятельство, что накопление данных о поведении индивида и применение ИКТ для их обработки порождает все новые вопросы в плане соблюдения прав человека, свободы обмена информацией и доступности качественного образования. Ключевой целью политики ЮНЕСКО в сфере применения ИИ является использование возможностей современных и в то же время доступных в финансовом плане технологий для создания «общества знаний», достижения целей устойчивого развития с учетом принципов ROAM (права человека, открытость, доступность, участие всех заинтересованных групп).
Более того, в ЮНЕСКО отмечают приверженность принципу гендерного равноправия, прав социальных меньшинств, преодоления цифрового неравенства между странами. В данной международной организации действует экспертная Всемирная комиссия по этике научных знаний и технологий (COMEST)10.
Важным обстоятельством в связи с оцениванием негативного воздействия ИИ на отношения в обществе стало признание нарастающего тренда, связанного с
10 Федоров М. Искусственный интеллект: международно-правовые коллизии и этические нормы // Международная жизнь. Апрель 2020. URL: https://interaffairs.ru/virtualread/ia_ rus/42020/files/assets/downloads/publication.pdf (дата обращения: 10.01.2022).
ЕСТНИК журков а. а. лол
УНИВЕРСИТЕТА Этические аспекты использования систем |91
УНИВЕРСИТЕТА Этические аспекты использования систем имени o.e. кугафина(мгюА) искусственного интеллекта: международно-правовой опыт
передачей юридическим лицам (IT-компаниям) возможности принимать решения по все более сложным задачам и вопросам, относящимся к контролю использования ИИ. Однако важно принимать во внимание и то обстоятельство, что ООН предостерегает национальные правительства от перекладывания столь непростых вопросов на частные компании и ссылается на рекомендацию Совета Европы о том, что «решение вопросов, касающихся управления с помощью алгоритмов, и/или разработка нормативных положений являются прерогативой государственной политики и не должны отдаваться в распоряжение только частных субъектов»11.
Среди всех международных организаций своего рода лидером в данной сфере является Совет Европы. Только за последние несколько лет различными экспертными комитетами данной организации был разработан целый ряд важных документов. В настоящее время в рамках Совета Европы функционирует Специальный комитет по ИИ (Ad Hoc Committee on AI, CAHAI)12, в состав которого входит группа по правовым основам (Legal framework group), ведущая работу по созданию имеющей обязательную юридическую силу международной конвенции по ИИ. Для Российской Федерации представляют интерес следующие принятые акты:
1) Алгоритмы и права человека — исследование правозащитных аспектов автоматизированных методов обработки данных и возможных нормативных последствий (2018)13;
2) Европейская этическая хартия по использованию ИИ в судебных системах (2018)14;
3) Руководство по этике для надежного ИИ (2018)15;
4) Декларация Комитета министров СЕ о манипулятивных возможностях алгоритмических процессов (2019)16;
5) Руководство по защите данных при использовании ИИ (2019)17;
11
I
--n
Algorithms and Human Rights. Study on the human rights dimensions of automated data °
processing techniques and possible regulatory implications // URL: https://rm.coe.int/algorithms-
15
TJ
and-human-rights-en-rev/16807956b5 (дата обращения: 10.01.2022). > Официальный сайт Совета Европы. URL: https://www.coe.int/en/web/artificial-intelligence/
cahai (дата обращения: 10.01.2022). □ р
URL: https://edoc.coe.int/en/internet/7589-algorithms-and-human-rights-study-on-the-human- т Б
rights-dimensions-of-automated-data-processing-techniques-and-possible-regulatory-im- Х Е plications.html (дата обращения: 10.01.2022).
Европейская этическая хартия об использовании искусственного интеллекта в судеб- Ц —
ных системах и окружающих их реалиях // URL: https://rm.coe.int/ru-ethical-charter-en- q m version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения: 10.01.2022).
URL: https://ethics.cdto.ranepa.ru/3_8#link211 (дата обращения: 10.01.2022). Ш И
Р
16 URL: https://www.coe.int/en/web/data-protection/-/declaration-by-the-committee-of-ministers- х° on-the-manipulative-capabilities-of-algorithmic-processes 16809860f4 (дата обращения:
10.01.2022). Хт
17 URL: https://rm.coe.int/guidelines-on-artificial-intelligence-and-data-protection/168091f9d8 0 Я (дата обращения: 10.01.2022). ЛОГИЙ
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
6) рекомендации «Распаковка ИИ. 10 шагов к защите прав человека»18
(2019).
При рассмотрении вопроса об этической стороне применения технологий ИИ обращает на себя внимание Монреальская декларация об ответственном развитии ИИ19, разработанная Монреальским университетом при поддержке Квебекского института искусственного интеллекта Mila. Документ содержит десять принципов, которые необходимо соблюдать в целях соблюдения прав человека и безопасного развития ИИ. Сфера действия этой декларации, переведенной на несколько языков, распространяется не только на Монреаль или другие города Канады, но и на все заинтересованные стороны, которые хотят применять ИИ в соответствии с изложенными в ней принципами.
Летом 2019 г. на саммите лидеров стран «Группы двадцати» (G20) была утверждена Осакская декларация20, в которой лидеры заявили «о своей приверженности подходу к ИИ, ориентированному на интересы человека», и обозначили «не имеющие обязательной юридической силы Принципы "Группы двадцати" в области развития ИИ, разработанные на основе рекомендации ОЭСР по ИИ».
В Европейском Союзе также формируются долгосрочные стратегии по развитию систем ИИ и их практическому применению. Так, Европейским Парламентом и Советом ЕС утверждена программа развития до 2030 г «Путь к цифровому десятилетию» (Path to a Digital Decade)21. Один из ключевых целевых показателей программы — к 2030 г. не менее чем в 75 % всего европейского бизнеса должны регулярно применяться технологии ИИ, анализ больших данных и системы облачных вычислений.
В июле 2021 г. Европейский экономический и социальный комитет (EESC) опубликовал исследовательское заключение (Exploratory Opinion) по вопросам цифровизации экономики с акцентом на развитие технологий ИИ — использование экономических и социальных возможностей цифровизации и улучшение цифровой трансформации экономики, особенно малых и средних предприятий, с акцентом на ИИ и большие данные, ориентированные на человека22. Особый интерес этот документ вызывает в связи с проведенным анализом проекта закона
18 URL: https://www.coe.int/en/web/commissioner/-/unboxing-artificial-intelligence-10-steps-to-protect-human-rights (дата обращения: 10.01.2022).
19 Официальный сайт Монреальской декларации об ответственном развитии ИИ. URL: https://5da05b0d-f158-4af2-8b9f-892984c33739.filesusr.com/ugd/ebc3a3_28b2dfe7e e13479caaf820477de1b8bc.pdf?index=true (дата обращения: 10.01.2022).
20 Осакская декларация лидеров стран «Группы двадцати» // URL: http://kremlin.ru/ supplement/5425 (дата обращения: 10.01.2022).
21 Официальный сайт Европейской комиссии. URL: https://ec.europa.eu/info/strategy/ priorities-2019-2024/europe-fit-digital-age/europes-digital-decade-digital-targets-2030_en (дата обращения: 10.01.2022).
22 Официальный сайт Европейского экономического и социального комитета. URL: https:// www.eesc.europa.eu/en/our-work/opinions-information-reports/opinions/exploiting-economic-and-social-opportunities-digitalisation-and-improving-digital-transformation-economy-especially-smes (дата обращения: 10.01.2022).
УНИВЕРСИТЕТА Этические аспекты использования систем имени o.e. кугафина(мгюА) искусственного интеллекта: международно-правовой опыт
об управлении данными (Data Governance Act)23, в отношении которых также сформулированы позиции и рекомендации Комитета.
Так, утверждается, что этот закон установит новую коллективную модель управления большими данными, которая будет способствовать снижению коллективной зависимости от доминанты технологических компаний, которые пытаются монополизировать этот рынок, а также уходу от современной бизнес-модели, при которой бизнес ориентирован на постоянное наращивание накопления большого объема данных и начинает рассматривать их как свою собственность, что, по мнению исследователей, является недопустимым.
Таким образом, можно отметить широкую вариативность обсуждаемых на международном уровне вопросов, связанных с развитием систем ИИ, и большую вовлеченность ряда стран, в первую очередь имеющих доступ к IT-технологиям, в том числе и Российской Федерации, которая последовательно отстаивает свои стратегические цели, определенные Президентом РФ24, в сфере развития систем ИИ.
В то же время более чем обоснованной является позиция А. В. Минбалеева, которая заключается в том, что такие понятия, как «искусственный интеллект», «блокчейн», «облачные технологии», «киберфизические системы» и т.п., должны формироваться изначально на уровне технического регулирования, и право как механизм правового воздействия не должно ставить перед собой задачу урегулировать технические объекты25.
Принимая во внимание все вышеизложенное, можно констатировать, что важное значение для Российской Федерации при отстаивании своих национальных интересов в данной сфере при осуществлении межгосударственного общения и ведения деятельности в международных организациях имеют следующие вопросы:
1) актуализация различных сведений в рамках понятийного аппарата ИИ, применяемого различными государствами и международными межправительственными организациями, в том числе цели и задачи различных форм междуна- i родно-правового регулирования (конвенции, хартии, договоры, рекомендации, S резолюции, кодексы и др.); Р
2) выработка предельно ясной позиции в отношении этической стороны вопроса
ческих компаний. В частности, такие действия могут выражаться в произвольной интерпретации понятий вследствие низкого уровня юридической техники
применения ИИ, что напрямую связано с потенциальными неблагоприятными последствиями, которые могут лечь в основу деятельности высокотехнологи-
и «размытости» понятий. Для организации качественного регулирования
23
24
Ц
р
ХЕ И §
имеющихся и перспективных систем ИИ важно включать в международные акты и акты национального законодательства рестриктивные формулировки: ф Г
"О
Официальный сайт Европейской комиссии. URL: https://digital-strategy.ec.europa.eu/en/ Ш И
ГГ Р
policies/data-governance-act (дата обращения: 10.01.2022).
SP
хо
Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в ЧШ
Российской Федерации» // СЗ РФ. 2019. № 41. Ст. 5700. X 1
25 Механизмы и модели регулирования цифровых технологий : монография / под ред.
А. В. Минбалеева. М., 2020. С. 13. ЛОГИЙ
>
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
«невозможно», «запрещается», «необходимо» и др. Формирование качественной нормативной базы в рамках как национального, так и международного регулирования позволит выстроить устойчивую систему, которая будет предельно ясно определять место этических вопросов в данной системе координат;
3) вопрос соблюдения общественных интересов на основе принципа предосторожности или баланс известных преимуществ, недостатков/рисков и возможностей использования систем ИИ. Потенциально отказ от принципа предосторожности может привести к невозможности возложить ответственность на глобальные корпорации за непредвиденные последствия широкого внедрения решений ИИ. Вопросы ответственности за ущерб, например, в случае использования ИИ в системах управления, также могут иметь чрезвычайно значимые социально-экономические последствия;
4) формирование гибкой правовой среды, позволяющей системно и без сбоев отвечать на новые вызовы и постоянную технологическую трансформацию. Правовое регулирование должно быть максимально приближено к реальности и охватывать не только сегодняшние системы, но и закладывать базовые регуляторные правила для будущего. Этот аспект будет иметь определяющее значение для конкурентоспособности и развития российского рынка в сфере технологий ИИ.
БИБЛИОГРАФИЯ
1. Бегишев И. Р. Международно-правовые основы регулирования искусственного интеллекта и робототехники // Международное публичное и частное право. — 2021. — № 1. — С. 37—40.
2. Механизмы и модели регулирования цифровых технологий : монография / под ред. А. В. Минбалеева. — М., 2020.
3. Морхат П. М. Искусственный интеллект и права человека: теоретико-правовое исследование // Право и образование. — 2018. — № 3. — С. 35—44.
4. Федоров М. Искусственный интеллект: международно-правовые коллизии и этические нормы // Международная жизнь. — Апрель 2020.
5. Холодная Е. В. Этические стандарты и регулирование искусственного интеллекта // Информационное право. — 2020. — № 3 (65).
6. Чубукова С. Г. Информационная правосубъектность: цифровая трансформация // Информационное право. — 2019. — № 3 (61).
