CC BY
63
УДК 343.1 ББК 67.411
DOI 10.24412/2414-3995-2021-2-240-243 © О.В. Химичева, А.В. Андреев, 2021
Научная специальность 12.00.09 - уголовный процесс
НЕКОТОРЫЕ ЗАМЕЧАНИЯ О ПРИНЦИПАХ ИСПОЛЬЗОВАНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В УГОЛОВНОМ СУДОПРОИЗВОДСТВЕ РОССИИ
Ольга Викторовна Химичева,
начальник кафедры уголовного процесса, доктор юридических наук, профессор, заслуженный работник высшей школы Российской Федерации Московский университет МВД России имени В.Я. Кикотя (117997, Москва, ул. Академика Волгина, д. 12)
E-mail: olga-him@mail.ru;
Алексей Владимирович Андреев, старший преподаватель кафедры уголовного процесса, кандидат юридических наук
Московский университет МВД России имени В.Я. Кикотя (117997, Москва, ул. Академика Волгина, д. 12)
E-mail: andreev68rus@yandex.ru
Аннотация. Развитие технологий искусственного интеллекта требует рассмотрения вопроса о возможности их внедрении в отечественное уголовное судопроизводство. В статье анализируется Европейская этическая хартия по использованию искусственного интеллекта в судебных системах и их окружении 2018 г., в которой сформулированы основные принципы применения технологий искусственного интеллекта в судопроизводстве. Авторы приходят к выводу, что указанные общие принципы должны быть скорректированы с учетом специфики производства по уголовным делам.
Ключевые слова: искусственный интеллект, внедрение искусственного интеллекта, направления развития уголовного судопроизводства, COMPAS, Европейская этическая хартия по использованию искусственного интеллекта, принципы использования искусственного интеллекта.
SOME REMARKS ON THE PRINCIPLES OF USING ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN CRIMINAL PROCEEDINGS IN RUSSIA
Ol'ga V. Khimicheva,
Head of the Department of Criminal Procedure, Doctor of Legal Sciences, Professor, Honored Worker of Higher Education of the Russian Federation Moscow University of the Ministry of Internal affairs of Russia named after V.Ya. Kikot' (117997, Moscow, ul. Akademika Volgina, d. 12);
Alexey V. Andreev, Senior Lecturer of the Department Criminal Proceedings, Candidate of Legal Sciences
Moscow University of the Ministry of Internal affairs of Russia named after V.Ya. Kikot' (117997, Moscow, ul. Akademika Volgina, d. 12)
Abstract. The development of artificial intelligence technologies requires consideration of the possibility of their implementation in domestic criminal proceedings. The article analyzes the European ethical Charter on the use of artificial intelligence in judicial systems and their environment 2018, which sets out the basic principles of the use of artificial intelligence technologies in judicial proceedings. The authors conclude that these General principles should be adjusted to take into account the specifics of criminal proceedings.
Keywords: artificial intelligence, introduction of artificial intelligence, directions of development of criminal proceedings, COMPAS, European ethical Charter on the use of artificial intelligence, principles of using artificial intelligence.
Citation-индекс в электронной библиотеке НИИОН
Для цитирования: Химичева О.В., Андреев А.В. Некоторые замечания о принципах использования технологий искусственного интеллекта в уголовном судопроизводстве России. Вестник экономической безопасности. 2021;(2):240-3.
Внедрение технологий искусственного интеллекта во все сферы государственной и общественной жизни нашей страны получило мощный импульс благодаря утверждению в октябре 2019 года Национальной стратегии развития искусственного интеллекта на период до
240_ - Вестник экономии
2030 года1. Этот документ носит не только программный характер, в нем достаточно обстоятельно
1 Национальная стратегия развития искусственного интеллекта на период до 2030 года. Утв. Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства Российской Федерации, 2019. № 41. Ст. 5700.
:кой безопасности - № 2 / 2021
определены исходные понятия, обозначены цели и основные принципы развития искусственного интеллекта в Российской Федерации.
Принято считать, что термин «искусственный интеллект» появился благодаря американскому информатику Джону Маккарти (John McCarthy), который совместно с коллегами (Minsky, Newell, и Simon) заложил основы комплексного научного исследования проблем его использования1.
Конечно, в первое время (с 1956 года) вычислительные мощности компьютеров не позволяли воплотить все возможности искусственного интеллекта. Но во втором десятилетии XXI века ситуация кардинально изменилась: современные смартфоны по вычислительным мощностям в тысячи раз превосходят первые компьютеры. Развитие информационной техники и технологий вывели на новый уровень внедрение технологий искусственного интеллекта в повседневную жизнь. Так, уже обыденными стали различные редакторы текста, которые исправляют ошибки, контекстная реклама (искусственный интеллект анализирует запросы пользователя и предлагает рекламу, которая может заинтересовать пользователя), сервисы по поиску маршрутов или информации в сети Интернет и другие случаи применения искусственного интеллекта.
Однако такое стремительно вторжение искусственного интеллекта в повседневную жизнь общества не может не вызывать резонных вопросов: как с помощью этих технологий усовершенствовать практическую деятельность и какие риски это может повлечь.
Уголовное судопроизводство было и остается одной из самых консервативных отраслей юриспруденции. Так, статья 434 Гражданского кодекса Российской Федерации2 позволяет заключать договоры в электронной форме; часть 2 статьи 93 Налогового кодекса Российской Федерации3 закрепляет переда-
чу документов в электронной форме. Действующий уголовно-процессуальный закон не предусматривает возможности составления процессуальных документов в электронной форме, а изъятие значимой для уголовного дела информации строго связано с материальным носителем (ст. 164.1 Уголовно-процессуального кодекса Российской Федерации4 (далее - УПК РФ)). И хотя есть положительные примеры информатизации уголовного судопроизводства (например, возможность допроса в суде с использованием системы видеоконференц-связи (ст. 278.1 и ч.2 ст.389.12 УПК РФ), очевидно, что в целом внедрение 1Т-технологий проходит точечно и очень осторожно, при внимательном рассмотрении и изучении законодателем всех возможных рисков.
Технологии искусственного интеллекта видятся перспективным направлением совершенствования производства по уголовным делам. Они могут освободить следователя от составления многих процессуальных документов, ускорить процесс собирания, проверки и оценки доказательств, стать полезным средством поддержки принятия процессуальных решений, эффективным помощником судьи, следователя, дознавателя. Но компьютерная программа не заменит человека! Именно в этом ключе законодатель сформулировал понятие «искусственный интеллект» - как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека5.
Очевидно, что внедрение указанных технологий предполагает их тщательную уголовно-про-
1 Hayes, Patrick J.; Leora Morgenstern. On John McCarthy's 80th Birthday, in Honor of his Contributions (англ.) // AI Magazine : journal. 2007. Vol. 28, no. 4. / https://www.researchgate.net/ publication/220605264_0n_John_McCarthy's_80th_Birthday_in_ Honor_of_His_Contributions.
2 Гражданский кодекс Российской Федерации от 30 ноября 1994 года № 51-ФЗ // Справочная правовая система «Кон-сультантПлюс» / http://www.consultant.ru/document/cons_doc_ LAW_5142.
3 Налоговый кодекс Российской Федерации от 31 июля
1998 года № 146-ФЗ // Справочная правовая система «Консультант-
Плюс» / http://www.consultant.ru/document/cons_doc_LAW_19671.
4 Уголовно-процессуальный кодекс Российской Федерации от 18 декабря 2001 года № 174-ФЗ // Справочная правовая система «КонсультантПлюс» / http://www.consultant.ru/ document/cons_doc_LAW_34481.
5 Федеральный закон от 24 апреля 2020 года № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»» // Справочная правовая система «КонсультантПлюс» / http://www.consultant.ru/document/ cons doc LAW 351127.
цессуальную регламентацию, которая в настоящий момент отсутствует.
Представляется, что преодоление «правового вакуума» в вопросе использования искусственного интеллекта в уголовном процессе следует начать с формулировки основных положений (принципов) применения этих технологий.
Первым в данной области международным актом стала Европейская этическая хартия по использованию искусственного интеллекта в судебных системах и их окружении, утвержденная 4 декабря 2018 года Европейской комиссией по эффективности правосудия Совета Европы1, в которой сформулированы основные принципы использовании технологий искусственного интеллекта в судопроизводстве: а) уважение основных прав человека; б) отсутствие дискриминации; в) качество и безопасность обработки судебных решений; г) прозрачность, беспристрастность и справедливость; д) возможность для властей или независимых экспертов проводить внешние проверки («под контролем пользователя»). Европейская этическая хартия рекомендует национальному законодателю руководствоваться этими положениями.
Полагаем, что указанные принципы вряд ли могут быть инкорпорированы в отечественный уголовно-процессуальный закон, они требует значительной трансформации с учетом не только специфики уголовного судопроизводства, существенным образом отличающегося от иных видов судопроиз-водств, но и особенностей отечественной правовой системы в целом. Данная проблема требует серьезной научной проработки, в связи с чем выскажем лишь самые общие замечания.
Весьма важно, что Европейская этическая хартия в числе первых закрепила принципы уважения основных прав человека и отсутствие дискриминации, что отражает гуманистическую сущность технологий искусственного интеллекта.
Действительно, в компьютерной программе можно указать основные права человека, и она их будет соблюдать, искусственный интеллект, скорее всего, решит и проблему дискриминации (если не будет программных ошибок). Однако возникает во-
1 European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment (Strasbourg, 3-4 December 2018) // https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c.
242_ - Вестник экономич
прос о том, какие именно права, свободы, законные интересы будут заложены в данную программу? Так, в п. 19 Национальной стратегии развития искусственного интеллекта на период до 2030 года совершенно иначе изложен данный принцип: защита прав и свобод человека представлена как обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики. Представляется, что при внедрении технологий искусственного интеллекта в уголовное судопроизводство важно не только уважать права участников, но и обеспечивать их реализацию, что должно найти отражение в содержании данного принципа.
Потребует серьезной трансформации при включении в отечественный уголовно-процессуальный закон принцип прозрачности, беспристрастности и справедливости и не только потому, что в нем (в редакции, предложенной указанной выше Европейской этической хартией) объединены весьма разнородные понятия.
Так, заявляя о транспарентности технологий искусственного интеллекта, нужно разрешить ряд вопросов.
Во-первых, требует осмысления проблема соотношения «прозрачности» этих технологий и гласности уголовного судопроизводства, а также необходимость соблюдения тайны предварительного расследования.
Во-вторых, если программный код искусственного интеллекта будет открытым, то злоумышленники получат возможность вмешиваться в принимаемое решение.
В-третьих, при закрытом характере программного обеспечения возникает противоречие с другим принципом использования технологий искусственного интеллекта - возможностью для властей или независимых экспертов проводить внешние проверки.
С негативными примерами разработки неподконтрольных «закрытых» технологий искусственного интеллекта мировая практика уголовного процесса уже сталкивалась. Например, в США функционирует программное обеспечение СOMPAS, которое
жой безопасности - № 2 / 2021
помогает судьям избирать меры пресечения в отношении обвиняемых. Анализ принимаемых данной программой решений, по мнению британского средства массовой информации «The Guardian», показывает наличие серьезных программных ошибок, которые приводят к расовой дискриминации при избрании мер пресечения. При этом разработчики данной программы отказываются раскрывать ее исходный код, приводящий к ошибкам1.
Беспристрастность и справедливость принимаемых решений также не всегда может быть обеспечена при использовании технологий искусственного интеллекта. Так, профессор Гарвардского университета Kosuke Imai, проанализировав решения, принимаемые судьями при помощи программного обеспечения и без такового, пришел к выводу, что искусственный интеллект Public Safety Assessment (PSA) (применяется в штате Нью-Джерси США) увеличивает гендерную предвзятость: при одинаковых обстоятельствах программа применяет более строгую меру пресечения к мужчинам2.
Кроме того, требование о прозрачности, беспристрастности и справедливости использования технологий искусственного интеллекта должно быть дополнено основополагающим положением об обеспечении независимости и самостоятельности правоприменителя (судьи, следователя, дознавателя) при принятии процессуального решения на основе рекомендаций, данных компьютерной программой.
Предположим, что разработан программный комплекс, призванный анализировать обстоятельства уголовного дела и рекомендовать судье избрание определенной меры пресечения. Возникает
1 Rise of the racist robots - how AI is learning all our worst impulses // «The Guardian» от 08 августа 2017 года / https://www. theguardian.com/inequality/2017/aug/08/rise-of-the-racist-robots-how-ai-is-learning-all-our-worst-impulses.
2 Kosuke Imai Experimental Evaluation of Algorithm-Assisted Human Decision Making: Application to Pretrial Public Safety Assessment // Harvard University December 2, 2020 / https:// imai.fas.harvard.edu/talk/files/Harvard20IQSS.pdf.
вопрос: если все фактические данные корректно загружены в программу, и она дала «рекомендацию» избрать, например, меру пресечения в виде домашнего ареста, то обязан ли судья следовать этой рекомендации, может ли он избрать иную меру пресечения? Не сложится ли ситуация, что избрание любой другой меры пресечения вне рекомендации программы станет поводом для обжалования сторонами решения судьи ввиду его предвзятости? Есть опасения, что в большинстве случаев такая «рекомендация» искусственного интеллекта превратится в обязательное для исполнения требование и уничтожит самостоятельность правоприменителя.
Также полагаем, что в качестве самостоятельного принципа использования технологий искусственного интеллекта в уголовном судопроизводстве должна быть закреплена актуальность программного обеспечения. Указанные технологии могут стать действительно эффективным средством поддержки принятия процессуальных решений лишь в случае полного соответствия программного обеспечения актуальному состоянию законодательной базы, правовым позициям Конституционного Суда Российской Федерации, правоприменительной практике судебных органов и т.д. Разработка программ потребует совместной работы экспертов не только в области информационных технологий, но и юриспруденции, которые в условиях постоянно меняющегося законодательства, будут корректировать программу, чтобы обеспечить выполнение закрепленного в ст. 4 УПК РФ требования о действии уголовно-процессуального закона во времени.
Как видим, в настоящий момент активное применение технологий искусственного интеллекта в уголовном судопроизводстве блокируется неразре-шенностью многих правовых, теоретических и правоприменительных вопросов, требующих внимания как ученых-процессуалистов, так и практиков.
