CC BY
11ГРАЖДАНСКОЕ ПРАВО; ПРЕДПРИНИМАТЕЛЬСКОЕ ПРАВО; СЕМЕЙНОЕ ПРАВО; МЕЖДУНАРОДНОЕ _ЧАСТНОЕ ПРАВО_
НОРМАТИВНОЕ И ЭТИЧЕСКОЕ РЕГУЛИРОВАНИЕ ОТНОШЕНИЙ С ИСПОЛЬЗОВАНИЕМ ЭЛЕМЕНТОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА и щЖ^
Галимбекова Дана Айратовна - специалист государственной программы ФГБУВНИР Академия имени Маймонида РГУим. А.Н. Косыгина г.Москва
Аннотация: в статье проводиться различие между нормативным и этическим регулированием в сфере искусственного интеллекта ИИ. Анализ материала проводится на богатом источниковедческом материале. Автор анализирует нормативно-этическое законодательство в отношении с ИИ на различных уровнях. В статье сравниваются системы регулирования в сфере этических и правовых норм для (ИИ) в КНР, ЕС, России и США. Приходит к выводу, гармоничное сочетание нормативно- этического регулирования ИИ на разных уровнях приведет к развитию правовой сферы в отношении ИИ в необходимом для человечества русле. Ключевые слова: искусственный интеллект, нормативное регулирование, этическое регулирование, норма права, стандартизация, регулирование.
УДК 34.01
DOP 10.24411/2412-8228-2024-10101
Этическое законодательство по отношению к искусственному интеллекту (ИИ) строится по аналогии с общем законодательством, но в дальнейшем приобретает свою специфику. В статье анализируется нормативное и этическое регулирование отношений с применением ИИ.
Нормативное регулирование обладает юридической силой, имеет форму законов и регуляций государственными органами, ориентировано на четкие и конкретные требования и ограничения. Более жесткое и менее гибкое по сравнению с этическим регулированием. В случае нормативного регулирования, имеющего защитную функцию, поведение субъекта права контролируется.
Этическое регулирование - установление правил поведения для сообщества, через общественное мнение и корпоративную культуру, обеспечивается не государством, а сообществом. Средства регулирования - различные нормы, кроме действующих правовых, это могут быть корпоративные нормы, нормы морали, обычаи и т.д. Регулирование в виде закрепления основополагающих принципов и общих правил, рассчитано на сообщество граждан юридических лиц. Подразумевает саморегулирование со стороны организаций и индивидуумов. «Нарушение моральных норм может влечь за собой помимо моральных санкций санкции иного рода (дисциплинарные или предусмотренные нормами общественных организаций)» [2, с. 8].
Необходимость нормативного-этического регулирования ИИ на международном уровне появляется из-за нахождения его в интернет -пространстве, которое имеет трансграничную природу, именно поэтому необходимо также рассмотреть нормативное регулирование на международном уровне. Так как оно в каждой стране
зависит от этического регулирования, которое, в свою очередь, имеет в свои особенности, зависящие от ментальности, ценностей, культуры, обычаев, традиций и других аспектов, то следует рассмотреть этическое и нормативное для каждой страны регулирование в балансе этических и правовых норм в сфере регулирования ИИ.
Сегодня в режиме экономической, политической и культурной глобализации, нами проведен анализ между этическими и правовыми нормами регулирования в КНР, ЕС, России и США - в странах, которые в условиях многополярной глобализации имеют наибольшее влияние в гонке за то, кто создаст более мощный ИИ и вложит в него именно свои данные, свои ценности.
Позиция России подтверждается положениями национальной стратегии развития ИИ на период до 2030 года, где говорится то, что технологии ИИ являются областью международной конкуренции. В настоящее время разработка сильного ИИ будет определять технологическое лидерство страны на международной арене, поэтому в нашей стране необходимо сделать сильный ИИ.
С точки зрения использования ИИ в рамках правового регулирования, следует выделить два особых случая. Первый случай - Автономное регулирование - имеет место тогда, когда субъекты права сами устанавливают для себя или для неопределенного круга лиц правила поведения и следуют им, например, заключают индивидуальный или нормативный правовой договор. Второй случай -Саморегулирование, когда ИИ регулирует себя сам. В этом случае развитие ИИ способствует всеобщей глобализации, так, что для контроля его необходимо совершенствовать международное право в сфере ИИ, с учётом нормативного и этического регулирования всех стран, с учетом их интересов, ментальностей, ценностей, традиций, культуры и обычаев. В первом случае имеет место нормативное правовое регулирование (автономное), во втором —индивидуальное правовое регулирование [3].
К настоящему времени более 60 стран разработали и утвердили собственные национальные стратегии развития ИИ. Но пока повсеместно во всех странах законодательная база отстает от темпов развития самого ИИ, хуже всего обстоят дела с международным правом.
Сравним системы регулирования ИИ во всем мире.
В США в 2018 г. ИИ был закреплен в Стратегии национальной обороны [1], где он описан «как одна из технологий, которые изменят характер войны и дадут все более изощренные возможности нашим противникам, включая негосударственных субъектов». Кроме того, автономные системы, которые включают в себя ИИ и машинное обучение, указываются в качестве одной из основных областей, в которых требуется модернизация ключевых возможностей.
В рамках нормативного, даже в большей степени этического регулирования в США в октябре 2022 года опубликован проект Билля о правах в области ИИ (Blueprint for an AI Bill of Rights). Который напоминает об отказе США от жесткого регулирования сферы ИИ.
Цель проекта оградить от вредных последствий влияния ИИ, а не запретить его. В документе изложены основные принципы этики ИИ, обнародованные компаниями, некоммерческими организациями, демократическими правительствами и даже католической церковью: безопасные и эффективные системы; защита от алгоритмической дискриминации; при создании и использовании ИИ нужно учитывать конфиденциальность данных; уведомление и объяснение; человеку должен быть предоставлен выбор (альтернатива) отказа от автоматизированных систем в пользу человеческих услуг, где это уместно [4].
Что касается регулирования в России - в 2019 году (в феврале 2024 года внесены изменения и дополнения) была принята Национальная стратегия развития ИИ до 2030 года, где уделяется внимание вопросам правового регулирования этой области.
Уже в 2021 г. Россия находилась на 16 месте по изобретениям в сфере ИИ (согласно рейтингам Всемирной организации интеллектуальной собственности).
Также в 2021 году вступил в силу закон о добровольной регистрации «проводников автономного транспорта», некоторые зачатки правового регулирования использования ИИ заложены в Стратегии развития автомобильной промышленности Российской Федерации на период до 2025 года и в программе «Цифровая экономика Российской Федерации» [5].
По итогам 2023 года Правительство РФ утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года [6]. Данная концепция является первым документом в РФ, который сформировал основы нормативного регулирования технологий ИИ и робототехники.
Российский кодекс этики был принят на I Международном форуме «Этика ИИ: начало доверия» в 2021 году [7].
По состоянию на 2023 год к Кодексу присоединилось: 354 организации, 44 ФОИВ и 16 РОИВ, 26 зарубежных организаций.
Создана Комиссия по реализации Кодекса этики в сфере ИИ и определены уполномоченные по этике в каждой организации.
Одной из элементов административного регулирования является создание системы сертификации решений в области ИИ, являющейся добровольной для организаций и индивидуальных предпринимателей и обязательной для субъектов критической информационной инфраструктуры Российской Федерации.
Таким образом, российское законодательство в сфере ИИ развивается довольно быстрыми темпами.
Регулирование ИИ в Китае начато в рамках обнародованной в 2015 г. программы «Сделано в Китае - 2025» - с задачей уменьшения зависимости страны от иностранных технологий и превращения Китая из «мировой фабрики» в мировой центр инноваций, в том числе и разработки в сфере ИИ.
В 2017 году китайское руководство опубликовало «Программу развития ИИ нового поколения».
Одна из причин, по которой Китай так быстро развивается в области ИИ, является активное использование технологий ИИ, и как инструмента - экспертной системы, в том числе для судебной системы, таки в части признания авторских прав у ИИ, в том числе за счет огромного объема данных, которые генерируют его пользователи [8].
Но в тоже время, пока в Китае отсутствует единый документ, регламентирующий вопросы использования ИИ в отличие от других государств, в которых характерно принятие специальных нормативных актов [9].
В результате ряда бюрократических реорганизаций было создано Управление по вопросам киберпространства, которую возглавляет генеральный секретарь партии и председатель КНР Си Цзиньпин), наделённое юридическими полномочиями формулировать правила, внедрять их и обеспечивать их соблюдение во всё более широком спектре деятельности, связанной с цифровизацией и управлением данными.
Пока в КНР ждут финального текста закона о регулировании генеративного ИИ, вопрос, как быть сейчас с такими продуктами, крайне актуален. Компания Baidu начала разработку чат-бота Ernie еще в 2019 году. По своей сути он похож на ChatGPT и другие технологии, которые создают и понимают текстовую информацию [Ошибка! сточник ссылки не найден.].
Важной тенденцией является международное правовое регулирование в рамках как глобально для мира, так и для отдельных межгосударственных блоков.
Первые попытки создания правовых рамок для регулирования ИИ в Евросоюзе начались с работ различных международных организаций, национальных правительств и независимых экспертов, включая создание Европейской комиссии по этике ИИ в 2016 году, занимающейся разработкой этических рекомендаций для ИИ.
6
Составленная ей евро дорожная карта является важным шагом развития и правовой регламентации использования ИИ для заявленных стран.
В декабре 2022 года Совет Европейского Союза принял общую позицию (А Common Position on Artificial Intelligence Rulebook) по проекту закона об искусственном интеллекте (AI Act). Законопроект демонстрирует консервативный подход, который предусматривает полный запрет отдельных систем ИИ, а для ряда других их категорий предполагает сложный механизм регулирующего воздействия.
Депутаты Европарламента настаивают на том, чтобы системы ИИ были под человеческим контролем и оставались надежными, прозрачными, отслеживаемыми, недискриминационными и сохраняющими окружающую среду, а также на введении единого определения для понятия «ИИ», которое можно будет использовать по отношению к уже действующим и будущим системам.
Примечательно, что в Резолюции Европарламента № 2020/2015 о правах интеллектуальной собственности для разработки технологий ИИ различают два вида произведений: созданных человеком при помощи ИИ и созданных ИИ автономно. Но, второй вид произведений не охраняются авторским правом. В указанной Резолюции подчеркивается отрицательное отношение к наделению ИИ правосубъектностью по причине возможности негативного воздействия на стимулирование человеческого творчества [11].
В Европе, в отличие от Китая, преобладает «жесткое регулирование правоотношений с ИИ». Европарламент и представители 27 стран Евросоюза согласовали положения закона об искусственном интеллекте.
Документ предусматривает разделение всех использующих ИИ систем по уровню риска — от низкого до неприемлемого. Закон предусматривает жесткое регулирование генеративного ИИ — в частности, чат-ботов, таких как ChatGPT, например, требуя раскрытия информации о том, какие защищенные авторским правом книги, музыкальные произведения, картины и прочее использовались при обучении ИИ, что должно помочь бороться с нарушением авторского права и плагиатом. В соответствии с законом за нарушение указанных норм будет грозить штраф на сумму до €30 млн, или 6% годовой глобальной выручки компании.
Согласно документу, системы на основе ИИ будут разделены на четыре категории по риску: минимальный (или его отсутствие), ограниченный, высокий и неприемлемый. К категории с высоким уровнем риска Европарламент отнес любые технологии, которые работают с персональными данными граждан в сферах правосудия, бюрократии, здравоохранения, образования, транспорта и трудоустройства. Такие технологии не будут применяться до прохождения всех этапов проверки и получения разрешения на их внедрение в любой государственный орган стран — государств ЕС.
Технологии вроде социального рейтинга, которые тестируются и применяются в Китае, будут запрещены как угроза безопасности. Это одно из ключевых отличий — технологии, запрещенные в ЕС, останутся и продолжат развиваться в КНР.
Спорный пункт затрагивает юридическую ответственность за контент, созданный при помощи ИИ. Согласно черновой формулировке, компаниям придется отвечать за любое изображение, аудиофайл, текст и любые другие материалы, которые получатся от взаимодействия пользователя с программой. Более того, регулятор может потребовать от компаний, чтобы итоговый контент был «правдивым и точным», а также чтобы они приняли меры «для предотвращения генерации ложной информации» [12].
По мнению ряда экспертов, четкое и всеобъемлющее регулирование сферы ИИ в ЕС может стать хорошим примером для других правительств, работающих над этой проблемой.
Другим блоком, выступившим с подходами к правовому регулированию ИИ является БРИКС. На саммите в Йоханнесбурге (ЮАР) с 22 по 24 августа председатель
7
КНР Си Цзиньпии определил общую систему управления ИИ, подчеркнув риски и необходимость единой политики в этой сфере. Он также сообщил о начале совместных исследований ИИ странами БРИКС. По его мнению, ИИ — это новая область, которая может принести риски странам, входящим в саммит. Поэтому здесь необходимо создать единый подход к использованию и контролю технологий. Во время саммита был официально учрежден исследовательский комитет, который будет заниматься достижениями в области ИИ. Альянс БРИКС, в который входят Россия, Бразилия, Индия, Китай и ЮАР будут работать над наблюдением и анализом ИИ сообща. Эта инициатива направлена на стимулирование инноваций в области ИИ во всех
Комитет будет оценивать наработки на основе ИИ и давать заключение по отраслям и аудитории использования решений на основе ИИ. По мнению А. Крюкова, руководителя 1Т кадрового агентства ЯесгшЦТ под полный запрет попадут системы, созданные для влияния на подсознание людей. А также системы биометрического распознавания, работающие в режиме реального времени. Если будет создана согласованная и прозрачная структура, то перспективы - безграничны. Начиная от технологического развития каждой страны, до экономического роста всех стран БРИКС, заканчивая отменой визовых ограничений между странами.
В рамках председательства Российской Федерации в объединении БРИКС в 2024 г. Президент России утвердил перечень поручений по итогам конференции «Путешествие в мир ИИ», состоявшейся 24 ноября 2023 г., в котором, в частности, предусмотрено сотрудничество в формате БРИКС. Правительству Российской Федерации совместно с МИДом России поручено: обеспечить включение вопросов, касающихся формирования этических стандартов в области ИИ, сбалансированного регулирования и научно-технического сотрудничества в указанной области, в повестку дня заседаний объединения БРИКС в рамках председательства Росси в объединении в 2024 г [13].
Если говорить о глобальном правовом регулировании - в 2019 году Организация Объединенных Наций (ООН) начала обсуждение вопросов регулирования автономного оружия, что также можно рассматривать как часть усилий по созданию правовых рамок для ИИ.
По предложению США, сделанному в соавторстве с 123 государствами - членами ООН, Генеральная Ассамблея ООН 21 марта 2024 года приняла на консенсусной основе первую в истории резолюцию о продвижении "безопасных и заслуживающих доверия" систем ИИ.
Элементы этического регулирования заявлены в докладе Всемирной комиссии ЮНЕСКО «Об этике робототехники» от 2017 года: называется четыре основные характеристики современного робота: мобильность, интерактивность, коммуникативность, автономность, позволяющая анализировать и самостоятельно принимать решения и осуществлять действия без вмешательства и контроля со стороны человека [11].
Рекомендация определяется ЮНЕСКО как инструмент «мягкого права» и не носит обязательный характер. В документе определены ценностные установки и принципы деятельности в сфере ИИ, которые должны соблюдаться всеми заинтересованными сторонами на протяжении всего жизненного цикла систем ИИ (СИИ) и поощряться путем внесения изменений в действующее законодательство, принятия новых нормативных актов, а также руководящих принципов предпринимательской деятельности [11].
Таким образом, анализируя Нормативное и этическое регулирование отношений с использованием элементов ИИ по отношению с ИИ можно выделить внутреннее законодательство отдельных стран. Региональное, на уровне различных сообществ, и международное -общее. Необходимость международного регулирования диктуется трансгенной природой ИИ. И именно гармоничное сочетание нормативно- этического
регулирования ИИ на разных уровнях приведет к развитию правовой сферы в отношении ИИ в необходимом для человечества русле.
Список литературы
1. Бирюков П.Н. Деятельность США в сфере использования искусственного интеллекта. //Вестник ВГУ. Серия: Право. 2019. № 3.
2. Пироеа Р.Н. «Профессиональная этика юриста» [Электронный ресурс]. Режим доступа: https://dgunh.ru/content/glavnay/ucheb_deyatel/uposob/up-tgp-fgos-16.pd.
3. Правовое регулирование: понятие, предмет, виды [Электронный ресурс]. Режим доступа: https://studfile.net/preview/7034567/page:28/ (Дата обращения 15.05.24).
4. Проект Билля о правах искусственного интеллекта. [Электронный ресурс]. Режим доступа: https://ai.gov.ru/knowledgebase/normativnoe-regulirovanie-ii/2022_proekt_billya_o_pravah_iskusstvennogo (Дата обращения 15.05.24)
5. «Цифровая экономика РФ» [Электронный ресурс]. Режим доступа: https://digital.gov.ru/ru/activity/directions/858/ (Дата обращения 15.05.24)
6. Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р. Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, разработанная Минэкономразвития России: [Электронный ресурс]. Режим доступа: https://www.garant.ru/products/ipo/prime/doc/74460628/ (Дата обращения 15.05.24
7. «Кодекс этики ИИ» [Электронный ресурс]. Режим доступа: https://ethics.a-ai.ru (Дата обращения 15.05.24)
8. Денисов И.Е. Китайская стратегия «больших данных»: реформа управления, инновации и глобальная конкуренции. Доклад Москва, 2023 г. - стр. 6 [Электронный ресурс]. Режим доступа: https://mgimo.ru/library/publications/china-big-data-strategy/?ysclid=lx9u493bpo766726230&utm_sour (Дата обращения 15.05.24)
9. Тушканчиков В. Китайский пятилетний план: общий вид [Электронный ресурс] URL https://cyberleninka.rU/article/n/pravovoy-status-iskusstvennogo-intellekta (Дата обращения 15.05.24).
10. «Супердракон», укрощающий наводнение: почему... [Электронный ресурс]. Режим доступа: https://ru.valdaiclub.eom/a/highlights/superdrakon-ukroshchayushchiy" navodnenie/?ysclid=lxjtfe5xma657585088 (дата обращение 15.05.24).
11. Правосубъектность искусственного интеллекта: возможно ли. [Электронный ресурс]. Режим доступа: https://zakon.ru/blog/2023/10/17/pravosubektnost_ iskusstvennogointellekta (дата обращение 23.05.2024).
12. Дипфейки, репетиторы и запрещенные слова [Электронный ресурс]. Режим доступа: https://www.forbes.ru/tekhnologii/492571 -dipfejki-re
13.«БРИКС сформирует общую структуру управления. [Электронный ресурс] https://ai.gov.ru/mediacenter/briks-sformiruet-obshchuyu-strukturu-upravleniya-ii-chto-гМе^гап-исЬав^в-^последнее обращение 23.05.2024).
