Научная статья на тему 'ФОРМИРОВАНИЕ В ЕС НОРМАТИВНО-ПРАВОВОЙ БАЗЫ, РЕГУЛИРУЮЩЕЙ ОТНОШЕНИЯ ПО ИСПОЛЬЗОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА'

ФОРМИРОВАНИЕ В ЕС НОРМАТИВНО-ПРАВОВОЙ БАЗЫ, РЕГУЛИРУЮЩЕЙ ОТНОШЕНИЯ ПО ИСПОЛЬЗОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Текст научной статьи по специальности «Право»

CC BY
281
71
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / РОБОТОТЕХНИКА / ЕВРОПЕЙСКИЙ СОЮЗ / ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ

Аннотация научной статьи по праву, автор научной работы — Таран К. К.

. В Европейском союзе активно развивается регулирование отношений по созданию, внедрению и использованию технологии искусственного интеллекта. Нормативная правовая база в настоящее время является достаточно обширной. Также большое значение придается проекту регламента Европарламента и Совета ЕС, закрепляющему гармонизированные правила в отношении искусственного интеллекта (закон об искусственном интеллекте) и вносящему изменения в соответствующие законодательные акты Союза.Цель статьи - провести комплексное исследование основных нормативных правовых актов ЕС и уделить особое внимание положениям закона об искусственном интеллекте ЕС. Методологическую основу составляют методы анализа и синтеза. Исследованы основные нормативные правовые акты ЕС в указанной сфере, выделены наиболее важные вопросы регулирования. К последним относятся: фрагментация цифрового рынка, риски при использовании технологии, этическая основа, сертификация, контроль за использованием технологии, ответственность за нарушение нормативной правовой основы.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

CONSTITUTING A REGULATORY FRAMEWORK IN THE EU THAT REGULATES RELATIONS ON THE USING ARTIFICIAL INTELLIGENCE

There is an active development of regulation of creating, implementing and using artificial intelligence technology in the European Union. The regulatory legal framework is currently quite extensive. The Regulation of the European Parliament and of the Council laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts will take leading place. Purpose: to conduct a comprehensive study of the main EU legal acts and pay special attention to the provisions of the Artificial Intelligence Act. The methodological basis is the analysis and synthesis. Results: main legal acts of the EU are researched; the most important regulatory issues are highlighted. Conclusions: the most important issues are fragmentation of the digital market, risks in the using technology, ethical basis, certification, control over the use of technology, liability for violation of the regulatory legal framework.

Текст научной работы на тему «ФОРМИРОВАНИЕ В ЕС НОРМАТИВНО-ПРАВОВОЙ БАЗЫ, РЕГУЛИРУЮЩЕЙ ОТНОШЕНИЯ ПО ИСПОЛЬЗОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

УНИВЕРСИТЕТА

O.E. Кугафина (МПОА)

Кира Кирилловна ТАРАН,

ассистент кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина МГЮА, эксперт Центра цифровой экономики и финансовых инноваций МГИМО (У) МИД России taran.kira@yandex.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9

Формирование в ЕС нормативно-правовой базы, регулирующей отношения по использованию

искусственного интеллекта

Аннотация. В Европейском союзе активно развивается регулирование отношений по созданию, внедрению и использованию технологии искусственного интеллекта. Нормативная правовая база в настоящее время является достаточно обширной. Также большое значение придается проекту регламента Европарламента и Совета ЕС, закрепляющему гармонизированные правила в отношении искусственного интеллекта (закон об искусственном интеллекте) и вносящему изменения в соответствующие законодательные акты Союза. Цель статьи — провести комплексное исследование основных нормативных правовых актов ЕС и уделить особое внимание положениям закона об искусственном интеллекте ЕС. Методологическую основу составляют методы анализа и синтеза. Исследованы основные нормативные правовые акты ЕС в указанной сфере, выделены наиболее важные вопросы регулирования. К последним относятся: фрагментация цифрового рынка, риски при использовании технологии, этическая основа, сертификация, контроль за использованием технологии, ответственность за нарушение нормативной правовой основы. Ключевые слова: искусственный интеллект, робототехника, Европейский союз, информационные технологии.

DOI: 10.17803/2311-5998.2023.102.2.080-089

© Таран К. К., 2023

KIRA K. TARAN, Assistant of the Department of information law and digital technologies of the Kutafin Moscow State Law University (MSAL), Expert of the Center for Digital Economy and Financial Innovations of the MGIMO University taran.kira@yandex.ru 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993 Constituting a regulatory framework in the EU that regulates relations on the using artificial intelligence Abstract. There is an active development of regulation of creating, implementing and using artificial intelligence technology in the European Union. The regulatory legal framework is currently quite extensive. The Regulation of the European Parliament and of the Council laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain

УНИВЕРСИТЕТА Формирование в ЕС нормативно-правовой базы, регулирующей 0|

имени o.e. кугафина(мгюА) отношения по использованию искусственного интеллекта

Union Legislative Acts will take leading place. Purpose: to conduct a comprehensive study of the main EU legal acts and pay special attention to the provisions of the Artificial Intelligence Act. The methodological basis is the analysis and synthesis. Results: main legal acts of the EU are researched; the most important regulatory issues are highlighted. Conclusions: the most important issues are fragmentation of the digital market, risks in the using technology, ethical basis, certification, control over the use of technology, liability for violation of the regulatory legal framework. Keywords: artificial intelligence, robotics, European Union, information technologies.

В настоящее время на международном уровне и уровне государств активно ведется разработка нормативной правовой базы регулирования отношений по использованию искусственного интеллекта (ИИ). Данная технология является крайне перспективной и может быть использована в различных сферах общественной жизни: в государственном управлении, медицине, транспорте, сельском хозяйстве, образовании и т.д. Технология ИИ является инновационным, научным и высокотехнологичным продуктом, который комплексно затрагивает различные сферы общественной жизни, безопасность и т.д. В связи с этим важными представляются вопросы формирования правовой основы регулирования данной технологии, экспериментальных правовых режимов, создания технологических стандартов, правил, которые исключат возможность нанесения вреда человеку, обществу, государству и окружающей среде.

На международном уровне уже существуют документы, которые регулируют различные правовые вопросы, возникающие при разработке, внедрении и использовании ИИ, в том числе:

— Рекомендация по искусственному интеллекту, принятая Советом Организации экономического сотрудничества и развития 22 мая 2019 г.;

— Записка секретариата Комиссии ООН по праву международной торговли «Правовые вопросы, касающиеся цифровой экономики, искусственного интеллекта» A/CN.9/1012/Add.1/ (53-я сессия ГА ООН, 6—17 июля 2020 г.);

— Рекомендация ЮНЕСКО об этических аспектах ИИ, принятая на 41-й сессии Генеральной конференции ЮНЕСКО 9—24 ноября 2021 г.;

— Отчет Международного союза электросвязи «Исследование МСЭ^ потенциальных направлений развития региона СНГ в период 2022—2025. Направление — Кибербезопасность» (7 апреля 2021 г.) и др.

Данные документы являются руководящей правовой основой для государств в сфере развития законодательства, регулирующего вопросы использования информационных технологий (ИТ) и ИИ.

П

п

Т

ш

В Европейском союзе (ЕС) с 2017 г. ведется серьезная научная работа по изучению вопросов регулирования отношений по использованию ИИ. Формирование правовой основы на уровне регионального образования поможет государствам в создании гармонизированной правовой основы. ЕС развивает правовую основу для функционирования единого цифрового рынка, чтобы противодействовать фрагментации, которая может выражаться в различии требований к продуктам

ИНТЕЛЛЕКТ

>

в М УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на (МПОА)

и услугам в сфере ИИ в государствах ЕС, в том числе к их использованию, ответственности в этой сфере, надзору со стороны государственных органов; в снижении правовой определенности как для поставщиков, так и для пользователей систем, оснащенных ИИ (далее — системы ИИ).

Основные правовые проблемы, которые возникают при разработке, развитии и использовании данной технологии, связаны с возможным развитием правосубъектности у роботов, оснащенных ИИ; с определением ответственного лица за действия, которые осуществляются системой ИИ; определением лица, которому будут принадлежать авторские права на те результаты (научные, технические выборки, произведения и т.д.), которые получены ИИ или при помощи ИИ; с разработкой технических стандартов, учетом и сертификацией устройств с ИИ и др.

При анализе правовых проблем, которые возникают в связи с развитием, внедрением и использованием ИИ, помимо кибербезопасности, Е. В. Холодная выделяет также трансформацию рынка труда, социальный раскол в обществе в связи с сокращением среднего класса, важность разработки этических фильтров (на уровне правовых норм) для сохранения достоинства личности и т.д.1 Данные проблемы являются актуальными для стран ЕС и для других государств, которые занимаются развитием рассматриваемой технологии.

Правовую основу регулирования отношений в сфере создания, использования и внедрения ИИ составляют следующие документы.

Резолюция Европарламента для Европейской комиссии относительно норм гражданского права о робототехнике от 16 февраля 2017 г.2 Она является комплексным документом, в котором изучаются вопросы признания за сложными роботами статуса электронного лица. Предполагается, что такие сложные роботы смогут принимать решения. Данный документ создает предпосылки для возложения на роботов ответственности в случае причинения ущерба. В документе рассматриваются основные принципы развития робототехники и ИИ для гражданского использования, этические принципы, стандартизация и безопасность таких устройств; использование автономных транспортных средств, дронов; роботов для ухода за пожилыми людьми; роботов, применимых в медицине, и др.

Декларация о сотрудничестве в области искусственного интеллекта от 10 апреля 2018 г.3 Декларация подписана представителями 25 европейских стран, включая Великобританию и Норвегию. Согласно документу государства-участники решают задачи по развитию технологии ИИ, инновационных бизнес-моделей, ускорению экономического роста, созданию новых высоковалифицированных профессий и трансформации рынка труда, созданию правовой и технической

1 Холодная Е. В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12 (64). С. 93—94.

2 European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2013(INL) // URL: https://www.europarl.europa.eu/doceo/ document/TA-8-2017-0051_EN.html (дата обращения: 17 января 2023 г.).

3 Declaration of cooperation on Artificial Intelligence, 2018 // URL: https://ec.europa.eu/jrc/ communities/sites/default/files/2018aideclarationatdigitaldaydocxpdf.pdf (дата обращения: 17 января 2023 г.).

основы для использования соответствующей технологии, а также по проведению научных исследований в данной сфере, созданию научных центров и обмену национальным опытом.

Коммюнике «Искусственный интеллект для Европы» от 25 апреля 2018 г.4 Документ содержит примеры использования ИИ в различных сферах. Цель документа — технологическое и индустриальное использование ИИ в частном и публичном секторе; проведение подготовительных работ для социоэкономиче-ских изменений в области образования, в сфере труда и т.д.; развитие этической и правовой основы в Союзе на основе ценностей, закрепленных в правовой базе Союза. Документ рассматривает конкурентную позицию ЕС с такими государствами, как США и Китай, в которых успешно осуществляются инвестиции в сфере ИИ. В документе содержится информация о проектах по использованию ИИ.

Руководство по этике для надежного искусственного интеллекта от 8 апреля 2019 г.5 Данный документ является основой для разработки, внедрения и использования такой технологии ИИ, которая будет характеризоваться как вызывающая доверие, надежная. В документе закрепляются основные этические принципы, такие как уважение человеческой автономии, предотвращение вреда, справедливость и объяснимость. Руководство по этике для надежного искусственного интеллекта содержит семь основных требований, которые должны выполняться по отношению к системе ИИ: подконтрольность человеку, надзор; техническая безопасность; неприкосновенность частной жизни, конфиденциальность и управление данными; прозрачность; отсутствие дискриминации и справедливость; общественное и экологическое благополучие; подотчетность.

Политические и инвестиционные рекомендации для надежного искусственного интеллекта от 26 июня 2019 г.6 Данный документ направлен на то, чтобы ИИ приносил пользу людям и обществу в целом, частному сектору, публичному сектору, был востребован при проведении исследований в Европе, при работе с данными (включая вопросы доступности), в сферах образования, управления и регулирования,создания фондов и инвестиций.

Для ЕС крайне важной является сфера кибербезопасности, в связи с этим существенную роль играет Регламент ЕС 2019/881 Европарламента и Совета ЕС об ENISA (Агентство ЕС по кибербезопасности) и сертификации по кибербезопасности информационных и коммуникационных технологий от 17 апреля 2019 г., который отменяет действие Регламента 526/2013 (Закон о кибербезопасности)7. Данный Регламент будет применяться по отношению к ИИ, так как

4 Communication from the Commission Artificial Intelligence for Europe, 2018 // URL: https:// eur-lex.europa.eu/legal-content/en/txt/?uri=com%3a2018%3a237%3afin (дата обращения:

17 января 2023 г).

П К

Ethics guidelines for trustworthy AI, 2019 // URL: https://ec.europa.eu/futurium/en/ai-alliance-

consultation.l.html (дата обращения: 17 января 2023 г). П

Policy and investment recommendations for trustworthy Artificial Intelligence, 2019 // ш

URL: https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-

trustworthy-artificial-intelligence (дата обращения: 17 января 2023 г.). Ы

Regulation (EU) 2019/881 of the European Parliament and of the Council of 17 April й

2019 on ENISA (the European Union Agency for Cybersecurity) and on information and ИНТЕЛЛЕКТ

>

5

3

7

в М УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на (МПОА)

использование данной технологии может быть связано с высоким уровнем риска в области кибербезопасности.

Одним из ведущих документов является Стратегическая программа «Цифровая Европа» на 2021—2027 годы8, в которой рассматриваются вопросы развития ИИ и робототехники.

Нормативная правовая база ЕС отличается высоким уровнем развития механизмов, которые разработаны для регулирования отношений в сфере создания, использования и внедрения ИИ. А. И. Филипова утверждает, что в Европе региональное регулирование является наиболее разработанным, при этом она рассматривает также документы Совета Европы и региональное регулирование ИИ техническими стандартами9.

Б. С. Шталь, Р. Родригес, Н. Сантьяго, К. Мэкниш считают, что и регулирование, и технология ИИ не могут быть сведены к одной географической области или юрисдикции, так как по своей природе данная технология носит трансграничный характер. Ученые рассматривают механизмы, создаваемые на уровне ЕС, как наиболее эффективные, позволяющие учесть использование соответствующей технологии на территории нескольких государств10.

М. Б. Добробаба отмечает, что «правовое регулирование ИИ отличается междисциплинарным подходом, поскольку имеет конституционно-правовые, гражданско-правовые, административно-правовые, уголовно-правовые, трудоправовые и другие аспекты»11.

В 2021 г. был подготовлен проект регламента Европарламента и Совета ЕС, содержащий гармонизированные правила в отношении искусственного интеллекта (закон об искусственном интеллекте) и вносящий изменения в соответствующие законодательные акты Союза (com/2021/206 final)12 (далее — Проект). Документ достаточно объемный и состоит из основной части и приложений.

communications technology cybersecurity certification and repealing Regulation (EU) No 526/2013 (Cybersecurity Act) (Text with EEA relevance) // URL: https://eur-lex.europa.eu/ legal-content/en/txt/?uri=uriserv:OJ.L_.2019.151.01.0015.01.eng (дата обращения: 17 января 2023 г.).

8 The Digital Europe programme for the period 2021—2027 / European Comission // URL: https:// digital-strategy.ec.europa.eu/en/activities/digital-programme (дата обращения: 17 января 2023 г.).

9 Филипова И. А. Правовое регулирование искусственного интеллекта : учебное пособие, 2-е изд., обновл. и доп. Н. Новгород : Нижегородский госуниверситет, 2022. С. 75—79.

10 Stahl B. C., Rodrigues R., Santiago N., Macnish K. A. European Agency for Artificial Intelligence: Protecting fundamental rights and ethical values / Computer Law & Security Review. 12 March 2022. Vol. 45 (Cover date: July 2022). Article 105661 // URL: https://www. sciencedirect.com/science/article/pii/s0267364922000097?via%3dihub. P. 2. (дата обращения: 25 декабря 2022 г.).

11 Добробаба М. Б. Искусственный интеллект: объект или субъект права? // Новеллы Конституции Российской Федерации и задачи юридической науки : материалы конференций в рамках X Московской юридической недели : в 5 ч. М., 2021. С. 304.

12 Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) and amending certain

Проект содержит информацию о том, как велась работа, какие документы были изучены.

Проект был подготовлен в целях:

— обеспечить, чтобы системы ИИ, размещенные и используемые на рынке Союза, были безопасными и соответствовали действующему законодательству об основных правах и ценностях Союза;

— гарантировать правовую определенность для содействия инвестициям и инновациям в области ИИ;

— усовершенствовать управление, правоприменение и исполнение требований безопасности, применимых к системам ИИ;

— способствовать развитию единого рынка для приложений ИИ и предотвратить фрагментацию рынка.

Проект направлен на регулирование всего жизненного цикла ИИ. С учетом того, что использование данной технологии связано с высоким уровнем риска, после принятия документ будет дополняться положениями Общего регламента по защите данных (Регламент (ЕС) 2016/679), Директивы по обеспечению правопорядка (Директива (ЕС) 2016/680), Директивы об электронной коммерции 2000/31/ЕС, инициативными предложениями и др.

Комиссия ЕС рассматривала различные варианты регулирования указанных вопросов с точки зрения экономики, права и социальных последствий для функционирования единого цифрового рынка и пришла к выводу, что наиболее предпочтительным является создание нормативной базы только для систем ИИ с высоким уровнем риска. Проект содержит обязательные требования в отношении данных, документации, прослеживаемости действий системы ИИ, предоставления информации, прозрачности, надзора. Введение кодексов поведения для невы-сокорисковых систем ИИ компании могут осуществлять на добровольной основе.

Использование систем ИИ с высоким риском в сложных сферах (машиностроение, медицинские устройства и др.) потребует создания новой правовой основы для данных сфер. Старый подход к регулированию, который использовался по отношению к источникам повышенной опасности, например таким, как автомобиль, воздушное судно, будет применяться не напрямую.

Рассмотрим основные положения Проекта. Сфера применения Проекта достаточно широкая (ст. 2), распространяется на:

a) поставщиков (провайдеров), размещающих на рынке или вводящих в эксплуатацию системы ИИ в Союзе, независимо от того, учреждены они на территории ЕС или в третьем государстве;

b) пользователей систем ИИ, расположенных на территории Союза;

c) провайдеров и пользователей систем ИИ, расположенных в третьем государстве, если произведенные системой результаты используются в ЕС.

В Проекте устанавливается экстерриториальность, аналогичная закрепленной в Регламенте ЕС 2016/679 (General Data Protection Regulation)13.

Т

ш

I

Union Legislative Acts COM/2021/206 final // URL: https://eur-lex.europa.eu/legal-content/en/

txt/?uri=celex%3a52021pc0206 (дата обращения: 25 декабря 2022 г.). Ы

13 Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 й

on the Protection of Natural Persons with regard to the Processing of Personal Data and on ИНТЕЛЛЕКТ

>

в Я УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на (МПОА)

Как уже отмечалось, Проект был ориентирован на высокорисковые системы ИИ, документ построен на основе риск-ориентированного подхода и устанавливает несколько уровней риска.

Запреты на использование системы ИИ. Статья 5 Проекта устанавливает запреты на использование ИИ, если:

— используются методы, которые выходят за пределы сознания человека и лицу может быть причинен физический или психологический вред;

— система использует уязвимости определенной группы лиц (возраст, физическая или умственная неполноценность), тем самым лицу может быть причинен физический или психологический вред;

— введение систем ИИ государственными органами или от их имени для оценки или классификации благонадежности физических лиц на протяжении определенного периода времени на основе их социального поведения или известных, прогнозируемых личностных характеристик.

Относительно биометрической идентификации ст. 5 Проекта предусматривает принятие индивидуального решения на основе предварительного разрешения, выданного судебным органом или независимым административным органом государства-члена. При этом в экстренной ситуации использование системы может быть начато без разрешения.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Сферы использования с наибольшими рисками. В приложении 3 к Проекту устанавливается перечень сфер, в которых проявляются высокие риски при использовании технологии:

1) биометрическая идентификация и распределение физических лиц на категории;

2) управление и эксплуатация критической инфраструктуры (планируется использование в следующих сферах: дорожное движение, водо-, газо-, электроснабжение, отопление);

3) образование и профессиональная подготовка;

4) занятость, управление сотрудниками и доступ к информации о самозанятых (использование ИИ для отбора сотрудников, оценки кандидатов, принятия решений о повышении в должности, прекращении трудовых договоров, распределении задач и др.).

5) доступ к основным услугам, предоставляемым частными лицами, и государственным услугам, пользование ими (использование ИИ для оценки кредитоспособности; определения права на получение льгот, государственной помощи и т.д., определение приоритета при работе служб (пожарной, медицинской) и др.).

6) правоприменение (проверка рисков совершения правонарушения, ИИ как детектор лжи, оценка достоверности доказательств, прогнозирование рецидивов преступлений, проведение расследований, работа с наборами данных и др.).

7) управление миграцией, вопросами предоставления убежища и пограничным контролем (ИИ для оценки рисков безопасности, подлинности документов, рассмотрения заявлений на предоставление визы, вида на жительство и др.).

the Free Movement of such Data, and repealing Directive 95/46/EC (General Data Protection Regulation) (Text with EEA relevance) // URL: https://eur-lex.europa.eu/legal-content/en/txt/ pdf/?uri=celex:32016r0679&from=en (дата обращения: 25 ноября 2022 г.).

8) организация правосудия и демократических процессов (ИИ для помощи судебным органам в исследовании, толковании фактов и законов и др.). Данный перечень рисков будет пополняться согласно положениям регламента и установленным в нем критериям (ст. 7).

Управление рисками. Для противодействия рискам высокого уровня Проект предусматривает создание системы управления рисками, которая будет регулярно обновляться. Оценка рисков будет осуществляться на протяжении всего жизненного цикла системы ИИ при выполнении следующих видов работ (ст. 9 Проекта):

— идентификация и анализ известных и предвидимых рисков;

— оценка рисков, которые могут возникнуть в связи с неправильным использованием системы ИИ;

— оценка рисков, которые могут быть основаны на данных;

— одобрение подходящих мер по управлению рисками.

Риски высокого уровня, связанные с данными, могут быть снижены путем их подготовки для работы с ИИ, включая их аннотирование, отметку, очистку, дополнение и агрегирование (объединение), проведение предварительной оценки доступности количества наборов данных и т.д. В случае возникновения инцидентов регламент обязывает провайдеров систем ИИ с высоким уровнем риска сообщать о них, а также сообщать о неправильной работе системы (ст. 62 Проекта).

Статья 69 Проекта призывает государства ЕС разработать кодексы поведения по использованию невысокорисковых систем ИИ. При использовании систем ИИ с ограниченным риском (голосовые помощники и т.п.) человек должен быть проинформирован, что взаимодействует с технологией ИИ. Проект не затрагивает регулирование систем ИИ с минимальным риском в части прав и безопасности граждан.

Меры по противодействию рискам высокого уровня включают ведение технической документации (ст. 11 Проекта), постоянное протоколирование и фиксацию операций, которые совершает Система ИИ (ст. 12 Проекта), предоставление полной и прозрачной (транспарентной) информации пользователю о том, как пользоваться системой (ст. 13 Проекта), контроль со стороны человека для предотвращения или минимизации рисков здоровью, безопасности и нарушения фундаментальных прав, которые могут возникнуть при неправильном использовании высокорисковых систем ИИ (ст. 14 Проекта). Высокорисковые системы ИИ должны функционировать для выполнения определенных целей, для которых они созданы, при этом проводимые операции должны характеризоваться точностью, надежностью, должны соблюдаться меры по обеспечению кибербезопасности (ст. 15 Проекта).

Проект регламента устанавливает обязанности по отношению к провайдерам систем ИИ, изготовителям, импортерам, дистрибьютерам, пользователям и третьим лицам.

П

ш

Предполагается, что высокорисковые системы ИИ, которые соответствуют гармонизированным стандартам или их частям, ссылки на которые были опубликованы в Официальном журнале Европейского союза (Official Journal of the European Union), соответствуют требованиям, изложенным в главе 2 Проекта.

Высокорисковые системы ИИ могут подлежать сертификации, в том числе по кибербезопасности. Согласно ст. 44 Проекта сертификат будет выдаваться

ИНТЕЛЛЕКТ

>

в М УНИВЕРСИТЕТА

L-—и мени О. Е. Кугафи на (МПОА)

уполномоченным органом государства ЕС на официальном языке ЕС. Срок действия сертификата не должен превышать пяти лет. Более того, прежде чем система ИИ с высоким уровнем риска будет размещена на рынке, она должна быть зарегистрирована в базе данных ЕС.

Проект регламента указывает на необходимость создания «регуляторных песочниц», т.е. системы должны тестироваться согласно всем техническим и правовым требованиям, включая обработку персональных данных, ограниченный период времени до размещения на рынке либо до запланированного запуска. Согласно ст. 54 документа персональные данные, которые были на законном основании собраны для других целей, могут обрабатываться и использоваться для тестирования в рамках «регуляторной песочницы» при соблюдении установленных условий.

Проект предусматривает создание европейского совета по ИИ (European Artificial Intelligence Board), который будет содействовать работе Комиссии ЕС. В его состав войдут представители (руководители) национальных органов. Планируется создание внутригосударственных органов, которые будут контролировать соблюдение положений регламента.

За нарушение положений регламента предусматривается штраф до 30 000 000 евро. Данный штраф предусматривается в случае нарушений ст. 5 Проекта регламента, в которой содержится запрет ряда ИИ систем с неприемлемым уровнем риска, и ст. 10 документа — при нарушении требований к системам ИИ с высоким уровнем риска.

Интеграция использования сервисов, оснащенных ИИ, будет осуществляться согласно Регламенту Европарламента и Совета ЕС от 19.10.2022 о едином рынке цифровых услуг (Закон о цифровых услугах), изменяющему Директиву ЕС 2000/31/EC14. Данный документ обязывает предоставлять сведения об оказании цифровых услуг, регулирует деятельность провайдеров, распространение незаконной информации и др.

Уровень развития права и технологий в ЕС является достаточно высоким, создание нормативной базы позволяет объединению и состоящим в нем государствам быть конкурентоспособными наряду с такими ведущими ИТ-державами, как США и КНР. Вопросы развития отношений по созданию, внедрению и использованию ИИ являются сложными и в настоящий момент не могут быть урегулированы в ЕС одним документом.

Предложение по Регламенту Европейского парламента и Совета ЕС, закрепляющему гармонизированные правила об искусственном интеллекте (закон об искусственном интеллекте) и внесении изменений в соответствующие законодательные акты Союза (com/2021/206 final) является проработанным документом, который включает в себя наиболее важные вопросы, связанные с использованием данной технологии: определение сфер, в которых проявляются наибольшие риски; определение рисков и их мониторинг на всех этапах использования

14 Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market for Digital Services and amending Directive 2000/31/EC (Digital Services Act) (Text with EEA relevance) // URL: https://eur-lex.europa.eu/eli/reg/2022/2065/oj (дата обращения: 17 января 2023 г.).

J^ECTHHK

Таран К. К.

Формирование в ЕП нормативно-правовой базы, регулирующей отношения по использованию искусственного интеллекта

89

технологии, сертификация, контроль за использованием технологии, ответственность за нарушение положений документа.

Не менее важными вопросами являются фрагментация цифрового рынка, развитие этической основы регулирования, применение технологии в различных сферах, финансирование и инвестирование. Документы ЕС в данной сфере могут быть использованы различными государствами в целях изучения опыта для дальнейшего развития собственного законодательства.

1. Добробаба М. Б. Искусственный интеллект: объект или субъект права? // Новеллы Конституции Российской Федерации и задачи юридической науки : материалы конференций в рамках X Московской юридической недели : в 5 ч. — М., 2021. — С. 303—308.

2. Филипова И. А. Правовое регулирование искусственного интеллекта : учебное пособие. — 2-е изд., обновл. и доп. — Н. Новгород : Нижегородский госуниверситет, 2022. — 275 с.

3. Холодная Е. В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). — 2019. — № 12 (64). — С. 89—96.

4. Stahl B. C., Rodrigues R., Santiago N., Macnish K. A. European Agency for Artificial Intelligence: Protecting fundamental rights and ethical values // Computer Law & Security Review. 12 March 2022. Vol. 45 (Cover date: July 2022) Article 105661. URL: https://www.sciencedirect.com/science/article/pii/ S0267364922000097?via%3Dihub (дата обращения: 25.12.2022).

БИБЛИОГРАФИЯ

i Надоели баннеры? Вы всегда можете отключить рекламу.