CC BY
126
ВЕКТОР ЮРИДИЧЕСКОЙ НАУКИ
Марио АНТИНУЧЧИ,
адвокат по уголовным делам в Риме, профессор уголовного процесса в Школе специализации по юридическим профессиям, факультет юридических, философских и экономических исследований, Римский университет Сапиенца lab.kkonkpr@msal.ru 00185, Рим, Италия, пьяццале Альдо Моро, 5
Вопросы правового регулирования в сфере инноваций
ЭТИЧЕСКАЯ ХАРТИЯ ЕС ПО ИСПОЛЬЗОВАНИЮ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СУДЕБНОЙ СИСТЕМЕ И ЗАКОНОДАТЕЛЬСТВО, РЕГУЛИРУЮЩЕЕ БЛОКЧЕЙН, КАК «ТРОЯНСКИЙ КОНЬ» БОРЬБЫ
С КОНТРАФАКЦИЕЙ В ГЛОБАЛЬНОЙ ПЕРСПЕКТИВЕ
Аннотация. В 2018 г. использование систем искусственного интеллекта (ИИ) в европейских судебных учреждениях оставалось преимущественно коммерческой инициативой частного сектора, нацеленной на страховые компании, юридические отделы, частнопрактикующих юристов и физических лиц. Европейская комиссия по эффективности правосудия (CEPEJ) Совета Европы 4 декабря 2018 г. приняла первый европейский акт, устанавливающий этические принципы, касающиеся использования искусственного интеллекта (ИИ) в судебных системах. Хартия заложила систему базовых принципов, которыми могут руководствоваться органы исполнительной власти, законодатели и представители судебных органов, если речь идет об использовании динамично развивающихся технологий ИИ в национальных судебных системах. Не принимая во внимание преимущества, связанные с отслеживанием соблюдения авторских прав и управления ими, блокчейн также может стать центральным средством защиты цифровых активов и предоставить правообладателю возможность использовать гражданские и уголовные средства правовой защиты. Форум Blokathon (Блокатон), одной из направленностей которого является борьба с контрафакцией, в 2018 г. продвигает проекты по использованию блокчейна для совместного создания будущей инфраструктуры ЕС по борьбе с контрафакцией. Сможет ли блокчейн справиться с этой задачей? Любое будущее решение в данной сфере должно соответствовать Регламенту (ЕС) № 608/2013 Европейского Парламента и Совета ЕС от 12 июня 2013 г. о таможенном контроле в отношении прав интеллектуальной собственности, а также Этической хартии, разработанной CEPEJ в 2018 г.
Ключевые слова: Этическая хартия CEPEJ 2018, Форум Blokathon (Блокатон) по борьбе с контрафакцией 2018 г., блокчейн, смарт-контракты, защита авторских прав, надлежащая правовая процедура: уведомление и изъятие.
© М. Антинуччи, 2020 DOI: 10.17803/2311-5998.2020.66.2.036-042
)УНИВЕРСИТЕТА
имени О.Е. Кутафина (МГЮА)
Амтимуччи М. ^
Этическая хартия ЕС по использованию технологий искусственного ^Э.7
интеллекта в судебной системе и законодательство.
M. ANTINUCCI,
EU Ethical Charter on the Use of Artificial Intelligence in Judicial Systems with a part of the law being established on Blockchain as a trojan horse anti-counterfeiting
in a Global perspective mario.antinucci1@uniroma1.it 00185, Rome, Italy, Piazzale Aldo Moro, 5
EU ETHICAL CHARTER ON THE USE OF ARTIFICIAL INTELLIGENCE IN JUDICIAL SYSTEMS WITH A PART OF THE LAW BEING ESTABLISHED ON BLOCKCHAIN AS A TROJAN HORSE ANTI-COUNTERFEITING IN A GLOBAL PERSPECTIVE
Abstract. In 2018 the use of artificial intelligence (AI) algorithms in European judicial systems remains primarily a private-sector commercial initiative aimed at insurance companies, legal departments, lawyers and individuals. The European Commission for the Efficiency of Justice (CEPEJ) of the Council of Europe in the 4 of the december 2018 has adopted the first european text setting out ethical principles relating to the use of artificial intelligence (AI) in judicial systems. The Charter provides a framework of principles that can guide policy makers, legislators and justice professionals when they grapple with the rapid development of AI in national judicial processes. Aside from the benefits for copyright traceability and management, blockchain can also become a central means for protecting digital assets and provide the rightholder with the ability to pursue civil and criminal remedies. The Anti-Counterfeiting Blokathon Forum on 2018 takes forward its works on using blockchain to co-create the future EU anti-counterfeiting infrastructure. Could blockchain live up to the challenge? Any future anti-counterfeiting blockchain solution must comply with Regulation (EU) No 608/2013 of the European Parliament and of the Council of 12 June 2013 concerning customs enforcement of intellectual property rights, and with Ethical Charter made from CEPEJ in the 2018. Keywords: ethical charter from CEPEJ 2018, Anti-Counterfeiting Blokathon Forum 2018, blockchain, smart contracts and copyright enforcement, due process of law: notice and "take down" procedure.
I
Европейская комиссия по эффективности правосудия (CEPEJ) Совета Европы 4 декабря 2018 г приняла первый европейский акт, устанавливающий этические принципы, касающиеся использования искусственного интеллекта (ИИ) в судебных системах. Хартия заложила систему принципов, которыми могут руководствоваться органы исполнительной власти, законодатели и представители судебной власти, если речь идет об использовании быстро развивающихся систем ИИ в национальных судебных системах:
1] m и У Л И Р
АО НР
Ир
В С
ш у
ер
гпъ
еВ
Иш
HR
О ш
ВАЦИЙ
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
— принцип уважения основных прав — обеспечение того, чтобы разработка и внедрение систем искусственного интеллекта были совместимы с основными правами;
— принцип недискриминации — целенаправленно предотвращать развитие или усиление любой дискриминации между отдельными лицами или группами лиц;
— принцип обеспечения качества и безопасности — в отношении обработки и анализа судебных решений и данных использовать сертифицированные источники и нематериальные данные совместно с моделями, разработанными мультидисциплинарным способом, в безопасной технологической среде;
— принцип прозрачности, беспристрастности и справедливости — сделать методы обработки данных доступными и понятными, разрешить внешние аудиты;
— принцип подотчетности (подконтрольности) пользователю — исключить предписывающий подход и обеспечить, чтобы пользователи были информированными субъектами и контролировали сделанный выбор.
II
Стратегия ЕС в области технологий искусственного интеллекта на едином цифровом рынке нацелена на укрепление доверия к человечески ориентированному искусственному интеллекту, и 8 апреля 2019 г. Европейская комиссия приступает к работе над руководящими принципами этики, представленными группой экспертов высокого уровня. Этот документ является отправной точкой для обсуждения вопроса о «надежном ИИ для Европы» и содержит три компонента, которые должны соблюдаться на протяжении всего жизненного цикла системы:
— система должна быть законной и соответствовать всем применимым законам и нормативным актам;
— должна соответствовать требованиям этики, обеспечивать соблюдение этических принципов и ценностей;
— должна быть надежной как с технической, так и с социальной точки зрения, поскольку даже при наличии благих намерений системы искусственного интеллекта могут причинить непреднамеренный вред.
Цель состоит в том, чтобы стимулировать трансграничное сотрудничество и мобилизовать всех участников для увеличения государственных и частных инвестиций по меньшей мере до 20 млрд евро ежегодно в течение следующего десятилетия. Еврокомиссия удвоила свои инвестиции в ИИ в рамках программы «Горизонт 2020» (Horizon 2020) и планирует ежегодно инвестировать 1 млрд евро от программы «Горизонт Европа» (Horizon Europe) и программы «Цифровая Европа» (Digital Europe), в частности в поддержку общих информационных пространств в области здравоохранения, транспорта и производства, а также крупных экспериментальных объектов, таких как «умные» больницы и инфраструктуры для автоматизированных транспортных средств и стратегической программы исследований.
Союз основан на таких ценностях, как уважение человеческого достоинства, свобода, демократия, равенство, верховенство закона и уважение прав челове-
в
ЕСТНИК Антинуччи м.
УНИВЕРСИТЕТА Этическая хартия ЕС по использованию технологий искусственного ^Э^Э
имени o.e. кугафина(мгюА) интеллекта в судебной системе и законодательство...
ка, включая права лиц, принадлежащих к меньшинствам. Эти ценности являются общими для всех государств-членов, в которых преобладают плюрализм, недискриминация, толерантность, справедливость, солидарность и равенство. Кроме того, Хартия основных прав ЕС объединяет (в едином тексте) личные, гражданские, политические, экономические и социальные права, которыми пользуются люди в Евросоюзе. Союз располагает мощной нормативно-правовой базой, которая устанавливает мировой стандарт для ориентированного на человека ИИ.
III
Обработка (анализ) судебных решений системами ИИ, по мнению их разработчиков, в гражданских, коммерческих и административных спорах, скорее всего, будет способствовать повышению предсказуемости правоприменения и согласованности судебных решений при условии соблюдения изложенных ниже принципов. В отношении уголовных дел использование систем ИИ должно осуществляться с определенными оговорками, с тем чтобы предотвратить дискриминацию, основанную на уязвимых данных, в соответствии с гарантиями справедливого судебного разбирательства. Независимо от того, разработана ли система ИИ с целью предоставления юридической помощи, подготовки проектов документов, оказания содействия в принятии решений или консультирования пользователя, важно, чтобы обработка осуществлялась с соблюдением требований прозрачности, беспристрастности и справедливости, что подтверждено внешней и независимой экспертной оценкой.
Использование систем искусственного интеллекта в отношении уголовных дел создает особые проблемы, поскольку их применение может отражать некоторые текущие общественные дебаты о предполагаемой предсказуемости преступного поведения. Однако эта дискуссия, по-видимому, была полностью исчерпана в ряде европейских государств в течение примерно 30 лет. Например, в Италии п. 2 ст. 220 Уголовно-процессуального кодекса прямо запрещает ссылаться на экспертное заключение для установления привычных или профессиональных признаков преступника, склонности к совершению преступления, характера и личности обвиняемого и в целом психологических качеств обвиняемого, независимо от патологических оснований.
Этот подход разделяется рядом европейских институтов, сосредоточенных на осуществлении политики в уголовной сфере и сконцентрированных на задачах перевоспитания и реабилитации правонарушителей (ЕСПЧ, Большая палата, «Винтер и другие против Соединенного Королевства», пункты 114—118). Кро- Ир
ме того, в настоящее время в европейском и международном праве существует принцип, согласно которому всем осужденным, включая тех, кто отбывает пожизненное заключение, должны быть предоставлены возможность реабилита- фр ции и перспектива освобождения, если цели реабилитации будут достигнуты. Инструменты, используемые следственными органами до начала уго-
1] m и
ловного судопроизводства. Инструменты, описываемые как «прогностический
надзор» (до судебного процесса или до передачи дела в суд), уже довольно быстрыми темпами набирают популярность и становятся известными широкой
НГ □ □
ВАЦИЙ
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
общественности (в качестве примера стоит привести список «no fly», который на самом деле представляет собой приложение для анализа больших данных, собирающее и исследующее сведения о потенциальных террористах с целью предотвращения совершения терактов, или системы, используемые для выявления мошенничества или отмывания денег). К первой категории относятся инструменты «превентивной полицейской деятельности», которые используются для предупреждения определенных видов правонарушений с учетом регулярности их совершения, таких как кражи со взломом, уличное насилие, кражи с/из транспортных средств.
Инструменты, используемые во время уголовного процесса. Использование прогностических инструментов судьями в уголовном судопроизводстве в Европе встречается очень редко.
IV
Контрафакция как мировое явление: форум Blokathon (Блокатон) по борьбе с контрафакцией 2018 г. С глобальной точки зрения рынок поддельных лекарств в настоящее время несет ответственность за примерно 1 млн смертей в год. При этом речь идет об отрасли, оцениваемой в 75 млрд долл. США ежегодно. На самом деле, по различным оценкам, производство поддельных лекарственных средств растет в два раза быстрее, чем производство легальных фармацевтических препаратов. Как заявил Кристоф Циммерман, координатор по борьбе с контрафакцией и пиратством Всемирной таможенной организации, «это делает контрафактный бизнес в 25 раз более прибыльным, чем мировая наркоторговля».
В рамках форума Blokathon (Блокатон) по борьбе с контрафакцией 2018 г. были представлены проекты по использованию блокчейна для совместного создания будущей инфраструктуры ЕС по борьбе с контрафакцией. Управление интеллектуальной собственности Европейского Союза заявило, что токен (криптовалюта) — это уникальное воспроизведение в цифровой форме любой применяемой меры отслеживания или идентификации, используемой в конечном продукте для отличия этого продукта от других. Токенизация — это технический процесс производства токена.
Аутентичность — ключевое понятие в рамках рассмотрения дела о борьбе с контрафактной продукцией, в котором существует необходимость доказать, что те или иные товары являются подлинными. Правообладатели получают доступ к специализированному блокчейну через портал Blockchain Access. Такой доступ предоставляет возможность создавать токены в блокчейне, представляющие реальные товары. По желанию правообладатель может использовать тот же портал для идентификации других сторон, таких как производители, которые могут создавать товарные токены. У них также есть возможность указывать линейки продуктов, управляемые через блокчейн. При токенизации товаров для отслеживания на блокчейне необходимо связать идентичность блокчейна с реальными товарами, используя характеристики и идентификаторы товаров, их маркировку или упаковку (например, штрих-коды, QR-коды, отпечатки пальцев). Любой пользователь, в частности транспортные компании, правоохранительные
в
ЕСТНИК Антинуччи м.
УНИВЕРСИТЕТА Этическая хартия ЕС по использованию технологий искусственного имени o.e. кугафина(мгюА) интеллекта в судебной системе и законодательство.
органы или конечный потребитель, могут сканировать товар для проверки его аутентичности (подлинности).
Сможет ли блокчейн справиться с этой задачей? Любое будущее решение в данной области должно соответствовать Регламенту (ЕС) № 608/2013 Европейского Парламента и Совета ЕС от 12 июня 2013 г. о таможенном контроле в отношении прав интеллектуальной собственности.
V
Блокчейн, смарт-контракты и защита авторских прав. Даже если применение блок-чейна для регистрации авторских прав на данный момент не столь широко распространено, внедрение блокчейн-реестров в долгосрочной перспективе можно считать успешным, если учесть преимущества, которые дает такая регистрация в отношении других категорий собственности, в том числе интеллектуальной собственности. Например, компания Kodak планирует использовать блокчейн для создания платформы управления цифровыми правами на фотографические изображения. Фотографы будут регистрировать свои фотографии на платформе KodakOne, а покупатели будут приобретать права с помощью криптовалюты KodakCoin. Принимая во внимание взаимосвязь с авторским правом, блокчейн представлен как возможность повысить эффективность и прозрачность рынка. Тем не менее все еще существуют определенные противоречия между дизайном технологии и правовой архитектурой, относящимися к авторскому праву.
VI
Блокчейн и надлежащая правовая процедура: уведомление и процедура изъятия. По всей вероятности, в скором времени человечество станет свидетелем крип-тореволюции (вслед за цифровой революцией), но для того, чтобы обозначить потенциальные возможности блокчейна, первоначально необходимо организовать эффективную дискуссию в политико-правовом поле, а также сформулиро- р вать общий набор стандартов, которые будут признаны во всем мире в целях обеспечения баланса технологического прогресса и желаний и намерений общества и конкретных индивидов. В глобальной перспективе колоссальное значение приобретает единый цифровой рынок ЕС1. □
В совокупности с законодательством о блокчейне мы должны корректно рас- А □
сматривать процедуру уведомления и изъятия, которая представляется нам «тро- Ир
янским конем» борьбы с контрафакцией в глобальной перспективе. Ограниче- о С
ние ответственности за нарушение авторских прав в Интернете в виде процедур уведомления и изъятия было введено Директивой ЕС об электронной торговле фр
(2000), в частности статьей 14. Директива имплементирована в итальянское за- рв
и В
1 Резолюция ЕС об авторском праве и едином цифровом рынке от 26 марта 2019 г. Статья 11/15 (link tax) и статья 13/17 (фильтр загрузки) против интернет-гигантов (Google
и Facebook, Youtube и др.). ВАЦИЙ
>
в Я УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
конодательство Декретом № 70/20 032. Может ли блокчейн справиться с проблемой ограничения ответственности за нарушение авторских прав в Интернете? Любое будущее решение по борьбе с контрафакцией должно соответствовать европейской Этической хартии по использованию искусственного интеллекта в судебной системе, принятой Европейской комиссией по эффективности правосудия (CEPEJ) Совета Европы в 2018 г.
БИБЛИОГРАФИЯ
1. Antinucci M. Global aspetcts of conunterfiting and criminal strategy // Law and Modern Economy : International Scientific-Practical Conference of the Law Faculty. — April 5th, 2018. — Saint Petersburg State University of Economics, UNECON Press, 2018. — URL: www.lfacademy.ru.
2. Antinucci M. Destruction of illegal things and devices to contrast the counterfeiting, 2/2016/117-140. — URL: http://iliriapublications.org/index.php/iir/article/view/266.
3. Antinucci M. Life sentence penalty and extradition under article 3 of the ECHR: A leading case of the European Court of Human Rights, 1/2017/119-127. — URL: http://iliriapublications.org/index.php/iir/issue/view/18.
4. Antinucci M. The new Public Procurement Code within international relations and anti-corruption policy // Vestnik of Sanit Petersburg University. — Series 14 : Law Issue. — 2017. — No. 4. — URL: http://vestnik.spbu.ru/html17/s14/s14v1/04.pdf.
5. URL: https://ec.europa.eu/digital-single-market/en/news/artificial-intelligence-ai4eu-project-launches-1-january. 2019.
6. URL: https://ec.europa.eu/futurium/en/system/files/ged/consultation_feedback_ on_draft_ai_ethics_guidelines_4. pdf.com.
7. Saint Petersburg state University of Economics, UNECON Press, 2018. — URL: www.lfacademy.ru.
2 См.: Декрет «Об упрощении» (законодательный Декрет от 14 декабря 2018 г. № 135, преобразованный в Закон актом от 11 февраля 2019 г. № 12. Статья 8 // Правовая база ЕС по блокчейну и смарт-контрактам. Итальянское право.
