CC BY
47УДК 342.4
DOI: 10.17277/pravo.2020.04.pp.125-129
В настоящее время происходит рост применения технологий искусственного интеллекта в разных сферах жизни общества. В связи с этим деятельность правительств, международных организаций по внедрению и нормативному регулированию систем искусственного интеллекта активизировалась. Рассмотрены вопросы участия стран Евросоюза в процессе выработки нормативной регуля-торики в области искусственного интеллекта. Анализ инициатив в правовом регулировании систем искусственного интеллекта в Евросоюзе показывает, что многие проблемы, которые возникают с развитием и применением систем искусственного интеллекта носят однотипный характер и должны решаться совместными усилиями всех стран мира с применением существующих практических навыков других у каждого государства во внедрении систем искусственного интеллекта и соответственно заимствования опыта и достижений друг друга. Автором сделаны выводы, что необходимо учитывать все риски в области применения искусственного интеллекта, закрепление в нормативных актах четкого правового контроля человека над искусственным интеллектом. В связи с чем процедура правового регулирования должна идти при поиске оптимальных решений между цифровым миром, законодателем, обществом и искусственным интеллектом.
Ключевые слова: искусственный интеллект; стратегия; цифровая программа; экосистема передового опыта; экосистема доверия.
Елена Сергеевна Шуршалова, канд. юрид. наук, доцент, кафедра конституционного права им. профессора И. Е. Фарбера, ФГБОУ ВО «Саратовская государственная юридическая академия»,
Саратов, Россия; shurshalova_elen@mail.ru
СТРАТЕГИЯ ЕВРОСОЮЗА В ОБЛАСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПЕРСПЕКТИВЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ *
Искусственный интеллект является одним из трендовых направлений, которым охвачены все развитые государства мира. Более 30 стран разработали национальные стратегии развития искусственного интеллекта (Канада, Сингапур, Китай, Кения, Дания, Франция и т.д). Потенциальная экономическая отдача искусственного интеллекта (ИИ) огромна: согласно исследованию PwC, к 2030 году она составит около 16 трлн долл. США [1].
Не остался в стороне от глобальных процессов и Европейский Союз. Политика в области искусственного интеллекта и робототехники в ЕС развивается с 2016 года, когда была принята Резолюция «О нормах гражданского права в робототехнике». В 2017 году был предложен «Европейский подход» к проблеме искусственного интеллекта и робототехники и только в середине 2018 года между государствами участниками ЕС было достиг -
* Исследование выполнено при поддержке РФФИ, проект № 20-011-00765.
нуто согласие в сотрудничестве по внедрению искусственного интеллекта. В 2019 году была разработана программа «Digital Europe (2021 - 2027)» Согласно программе, ЕС будет инвестировать в 5 приоритетных направлений: высокопроизводительные вычисления - 2,7 млрд евро; в сфере искусственного интеллекта планируется активное использование разработок в экономике и обществе - 2,5 млрд евро; кибербезопасность, а именно защита цифровой экономики, общества и демократии - 2 млрд евро; навыки работы с цифровыми технологиями, предполагает внедрение образовательных программ по приобретению современных навыков в области IT-технологий на курсах и стажировках - 700 млн евро; обеспечение широкого использования цифровых технологий в экономике и обществе -1,3 млрд евро, что обеспечит цифровую трансформацию государственного управления.
Так, комиссар по вопросам цифровой экономики и общества Мария Габриэль отметила, что «Проведение первой общеевропейской цифровой программы является важным шагом для укрепления мирового лидерства Европы в цифровой трансформации. Мы будем инвестировать в ключевые стратегические цифровые мощности, такие как искусственный интеллект, высокопроизводительные вычисления и кибербезопасность, и, как и во всех наших цифровых инициативах, европейские граждане будут оставаться в центре этой программы. Одним из основных направлений этой программы является инвестирование в наших граждан для приобретения передовых цифровых навыков, необходимых им для получения доступа к новейшим цифровым технологиям и их использования» [2].
Искусственный интеллект (ИИ) - стратегическая технология, которая предлагает множество преимуществ для граждан, компаний и общества в целом, при условии, что она ориентирована на человека, этична, устойчива и уважает основные права, свободы и ценности. Внедрение систем ИИ позволит повысить эффективность и производительность труда, тем самым укрепит конкурентоспособность европейских компаний; повысит благосостояние граждан; позволит решить насущные социальные проблемы, включая борьбу с изменением климата и окружающей средой; позволит более эффективно бороться с преступностью.
На фоне жесткой глобальной конкуренции Европа, опираясь на европейскую стратегию развития искусственного интеллекта, в феврале 2020 г. приняла Стратегию об искусственном интеллекте. Данный документ дополняет ранее принятые акты в области ИИ и является частью инициатив по цифровой трансформации Европы. Это первый нормативно-правовой акт, который регулирует сферу контроля человека над искусственным интеллектом в вопросах применения этих разработок.
Основными задачами Стратегии является, во-первых, разработка нормативно-правовых актов в области развития искусственного интеллекта, как на европейском, так и на национальном и региональном уровнях, что позволит государству и бизнесу мобилизировать свои ресурсы для создания «экосистемы передового опыта», и позволит в каждой стране-члене ЕС создать центры цифровых инноваций, обладающих высокой степенью специализации на ИИ.
Во-вторых, разработка нормативной базы для искусственного интеллекта создаст так называемую «экосистему доверия», направленную на обеспечение соблюдения фундаментальных прав и потребительских прав при использовании систем ИИ. Построение такой экосистемы позволит создать регуляторную базу для ИИ и повысить уровень доверия граждан к системам ИИ, так как они опасаются, что останутся бессильными в защите своих прав и безопасности в условиях, когда решения будут приниматься с участием алгоритмов.
«Мы хотим гарантировать, чтобы при развитии искусственного интеллекта в центре внимания стояли потребности человека, особенно в таких отраслях, как рынок труда, медицина, правоохранительная сфера. Человек всегда должен контролировать все критические решения с высокой степенью риска. Любые системы искусственного интеллекта, которые потенциально могут затрагивать права человека [включая право на жизнь], должны быть тщательно испытаны и сертифицированы», -отметила председатель Европейской комиссии (ЕК) Урсула фон дер Ляйен [3].
Все это привело к необходимости внесения изменений и совершенствования существующего законодательства ЕС при применении ИИ в области регулирования прав человека, здравоохранении, промышленности, правоохранительных органах и других отраслях. В связи с чем перед ЕК поставлена задача о создании регуляторных и сертификационных норм для разных систем ИИ в зависимости от потенциального риска, который эти системы могут представлять при их применении. Для этого ЕК были организованы публичные консультации, в ходе которых все заинтересованные лица и организации высказались о предложениях по новым нормам в сфере развития систем ИИ.
Полученные в процессе общественного обсуждения замечания содержат опасения использования технологии сбора и обработки биометрических данных, а также недоверие к программам, которые обеспечивают принятие решений на основе ИИ [4].
Например, международная общественная организация по защите прав человека в Интернете «Европейские цифровые права» (БОШ) призвала к полному запрету некоторых технологий прогнозирования с использованием искусственного интеллекта для реализации предупредительных правоохранительных мер и защиты населения, а именно программного обеспечения на базе ИИ, предназначенного для предиктивного контроля со стороны полиции.
Учитывая то огромное влияние, которое ИИ может оказать на общество, важно, чтобы ИИ был основан на приоритетных ценностях и основных правах, таких как человеческое достоинство, неприкосновенность частной жизни, а также четкого и строгого правового контроля человека над искусственным интеллектом. И при соблюдении всех прав и правил Европейский союз потенциально может возглавить развитие человекоцентрич-ного ИИ, подтвердив свои ценности и предоставив адекватные гарантии прав.
С учетом вышесказанного, ЕК необходимо уделить внимание эффективному применению и обеспечению соблюдения действующего законо-
дательства ЕС и национального законодательства; обеспечить большую прозрачность законодательства; при внесении изменений учитывать риски в области безопасности применения систем искусственного интеллекта; построение алгоритма четкого и строгого правового контроля человека над искусственным интеллектом; определить субъекты ответственности за действия или бездействия систем ИИ.
Список литературы
1. The global economy will be $16 trillion bigger by 2030 thanks to AI [Электронный ресурс] // World Economic Forum. URL: https://www.weforum.org/agenda/2017/06/the-global-economy-will-be-14-bigger-in-2030-because-of-ai/ (дата обращения: 01.07.2020).
2. EU budget: Commission proposes €9.2 billion investment in first ever digital programme [Электронный ресурс] // European Commission website. URL: https://ec.europa.eu/commission/
presscorner/detail/en/IP_18_4043 (дата обращения: 01.07.2020).
3. ЕК приняла цифровую стратегию ЕС, включающую правовые нормы для искусственного интеллекта [Электронный ресурс]. URL: https://tass.ru/ekonomika/ 7797081 (дата обращения: 01.07.2020).
4. ЕС против применения искусственного интеллекта в контроле полиции за людьми [Электронный ресурс]. URL: https://regnum.ru/news/polit/ 2997914.html (дата обращения: 01.07.2020).
References
1. The global economy will be $16 trillion bigger by 2030 thanks to AI (World Economic Forum), available at: https://www.weforum.org/agenda/2017/06/the-global-economy-will-be-14-bigger-in-2030-because-of-ai/ (accessed July 01, 2020).
2. EU budget: Commission proposes €9.2 billion investment in first ever digital programme (European Commission website), available at: https://ec.europa.eu/ commission/presscorner/detail/en/IP_18_4043 (accessed July 01, 2020).
3. EC adopts EU digital strategy including legal provisions for artificial intelligence, available at: https://tass.ru/ekonomika/7797081 (accessed July 01, 2020). (In Russ.)
4. EU against the use of artificial intelligence in police control of people, available at: https://regnum.ru/news/polit/2997914.html (accessed July 01, 2020). (In Russ.)
The EU Strategy in the Field of Artificial Intelligence: Prospects for Legal Regulation
E. S. Shurshalova, Cand. Sci. (Law), Associate Professor, Department of Constitutional Law named after Professor I. E. Farber, Saratov State Law Academy, Saratov, Russia;
shurshalova_elen@mail.ru
Currently, there is an increase in the use of artificial intelligence technologies in
various spheres of society. In this regard, the activities of governments,
international organizations on the implementation and regulation of artificial
intelligence systems have intensified. The article discusses the issues of
participation of the EU countries in the development of regulatory frameworks in the field of artificial intelligence. An analysis of initiatives in the legal regulation of artificial intelligence systems in the European Union shows that many problems that arise with the development and application of artificial intelligence systems are of the same type and should be solved by joint efforts of all countries of the world by using the existing practical skills in the implementation of artificial intelligence systems and, accordingly, borrowing the experience and achievements of each other. The author draws the conclusion that it is necessary to take into account all the risks in the field of artificial intelligence application, to consolidate clear legal control of a person over artificial intelligence in normative acts. In this connection, the procedure of legal regulation should go in the search for optimal solutions between the digital world, the legislator, society and artificial intelligence.
Keywords: artificial intelligence; strategy; digital program; an ecosystem of excellence; ecosystem of trust.
© Е. С. Шуршалова, 2020 Статья поступила в редакцию 07.07.2020
При цитировании использовать:
Шуршалова Е. С. Стратегия Евросоюза в области искусственного интеллекта: перспективы правового регулирования // Право: история и современность. 2020. № 4(13). С. 125 - 129. doi: 10.17277/pravo.2020.04.pp.125-129
