CC BY
94
Научная статья С.89-93
УДК 343.10
ПЕРСПЕКТИВЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ДОСУДЕБНОМ ПРОИЗВОДСТВЕ
Оксана Витальевна Овчинникова
Южно-Уральский государственный университет (НИУ), Челябинск, Россия ovcinnikova-ov@yandex.ru, https://orcid.org/0000-0002-8032-2952
Аннотация. В статье анализируются вопросы повышения эффективности и доступности уголовного судопроизводствапосредством использования систем с искусственным интеллектом. Автором рассматриваются вопросы цифровизации уголовного процесса в зарубежных странах, анализируются различные подходы к применению алгоритмов в уголовно-процессуальной деятельности. Изучается опыт США, где алгоритмы используются при принятии судебных решений об избрании меры пресечения, размере наказания и других. Автор исследует проблемы, возникающие при применении искусственного интеллекта для совершения юридически значимых действий, рассматривает позицию Совета Европы по данному вопросу, определяющую необходимость ограничения пределов использования алгоритмов в судопроизводстве. В качестве примера разумного подхода к применению искусственного интеллекта изучается опыт Республики Казахстан, проводящей интенсивную цифровизацию уголовного судопроизводства, однако поручающей искусственному интеллекту сервисные функции, повышающие качество и доступность правосудия. Автор полагает, что внедрение в российское досудебное производство технологий искусственного интеллекта необходимо начинать с прикладных программ. Анализируются варианты использования чат-ботов для сопровождения приема заявления о преступлении и предоставления заявителю информации о ходе проверки заявления, разъяснению его прав в ходе досудебного производства. Предлагается использование алгоритмов для автоматического распределения уголовных дел между следственными органами и следователями, что существенно снизит коррупционные риски, соответственно повысит объективность расследования. В статье также анализируется возможность получения показаний участников уголовного судопроизводства в ходе их взаимодействия с искусственным интеллектом, приводятся данные научных исследований, подтверждающие эффективность такого взаимодействия. Автор полагает, что взаимодействие с искусственным интеллектом позволит исключить психологическое воздействие на допрашиваемого, а также может создать для него максимально комфортную среду, обеспечивающую полное восстановление информации, воспринятой им в связи с совершенным преступлением.
Ключевые слова: искусственный интеллект, досудебное производство, цифровизация расследования, компьютерные алгоритмы, доступность правосудия
Для цитирования: Овчинникова О. В. Перспективы применения искусственного интеллекта в досудебном производстве // Правопорядок: история, теория, практика. 2022. № 1 (32). С. 89-93.
© О. В. Овчинникова
Original article
PROSPECTS FOR THE USE OF ARTIFICIAL INTELLIGENCE
IN PRE-TRIAL PROCEEDINGS
Oksana V. Ovchinnikova
South Ural State University, Chelyabinsk, Russia ovcinnikova-ov@yandex.ru, https://orcid.org/0000-0002-8032-2952
Abstract. The article analyzes the issues of increasing the efficiency and accessibility of criminal proceedings through the use of artificial intelligence systems. The author examines the issues of digitalization of the criminal process in foreign countries, analyzes various approaches to the use of algorithms in criminal procedural activities. The experience of the USA is being studied, where algorithms are used in making court decisions on the election of a preventive measure, the amount of punishment and others. The author explores the problems that arise when using artificial intelligence to perform legally significant actions, considers the position of the Council of Europe on this issue, which determines the need to limit the limits of the use of algorithms in legal proceedings. As an example of a reasonable approach to the use of artificial intelligence, we study the experience of the Republic of Kazakhstan, which conducts intensive digitalization of criminal proceedings, but entrusts artificial intelligence with service functions that improve the quality and accessibility of justice. The author believes that the introduction of artificial intelligence technologies into Russian pre-trial proceedings should begin with application programs. As an example, the options for using chatbots to accompany the receipt of a criminal complaint and provide the applicant with information about the verification of the application, explaining his rights during pre-trial proceedings are considered. It is proposed to use algorithms for the automatic distribution of criminal cases between investigative bodies and investigators, which will significantly reduce corruption risks and, accordingly, increase the objectivity of the investigation. The article also analyzes the possibility of obtaining the testimony of participants in criminal proceedings during their interaction with artificial intelligence, provides scientific research data confirming the effectiveness of such interaction. The author believes that interaction with artificial intelligence will eliminate the psychological impact on the interrogated, and can also create for him the most comfortable environment, providing full recovery of information perceived by him in connection with the crime committed.
Keywords: artificial intelligence, pre-trial proceedings, digitalization of investigation, computer algorithms, accessibility of justice
For citation: Ovchinnikova O. V. Prospects for the use of artificial intelligence in pre-trial proceedings. Pravoporyadok: istoriya, teoriya, praktika [Legal and Order: History, Theory, Practice]. 2022;(1):89-93. (In Russ.)
Введение
Технологии искусственного интеллекта все чаще используются правоохранительными органами. Наиболее распространенным способом является их применение для охраны общественного порядка. Так, с 2020 г. в камеры видеонаблюдения г. Москвы интегрирована система распознавания лиц, которая до 10 раз увеличила скорость обработки полицией видеоархива, и помогла найти 50 % преступников, находившихся в розыске несколько лет. Аналогичные технологии используются в Китае, Сингапуре и ряде других стран. условиях повсеместной компьютеризации неизбежной является модернизация системы осуществления правосудия, в том числе досудебного производства. Эффективное обеспечение
прав и свобод граждан в информационном обществе невозможно без применения информационных технологий и искусственного интеллекта, которые могут создать комфортную цифровую среду для лиц, пострадавших от преступления, а также незаинтересованных участников уголовного процесса, что повысит эффективность досудебных процедур, и увеличит доверие граждан к органам расследования.
Описание исследования
Применение искусственного интеллекта в уголовно-процессуальной деятельности широко используется в Соединенных Штатах Америки. При этом, алгоритмам поручаются не только вспомогательные функции,
но и принятие юридически значимых решений. Повсеместной практикой является применение алгоритмов для определения возможности повторного совершения преступления. На основании выводов искусственного интеллекта судья назначает более строгое наказание, избирает меру пресечения, связанную с лишением свободы, определяет возможность освобождения под залог.
Программа учитывает все возможные статистические факторы, информацию о которых можно получить из дела, и помогает определить, может ли обвиняемый скрыться от суда и представляет ли он опасность для общества. Алгоритм рассматривает 49 характеристик совершенного преступления (например, связанных с оружием), и 15 характеристик обвиняемого (например, пол, возраст, предыдущие аресты). Считается, что применения компьютерного алгоритма существенно повышает объективность принимаемого решения и исключает человеческую предвзятость [1].
Тем не менее, проведенные исследования показывают, что при создании алгоритма он нагружается ценностной ориентацией разработчика, например, определяет подозреваемых с темным цветом кожи как более склонных к совершению повторных преступлений [2]. Соответственно, передача компьютеру права на принятие окончательного решения может привести как к дискриминации, таки к попыткам решить с помощью алгоритмов сиюминутные политические задачи (уменьшение или увеличение количества заключенных, уменьшение рецидивной преступности и т. д.).
В этой связи, 4 декабря 2018 г. Совет Европы принял Европейскую этическую Хартию CEPEJ об использовании искусственного интеллекта в судебных системах и их окружающей среде. В данном документе указывается на повышенную ответственность при внедрении алгоритмов в правосудие, а также недопустимость передачи искусственному интеллекту окончательного решения1.
Кроме очевидных этических проблем, полной автоматизации правосудия мешает необходимость радикального изменения уголовно-процессуального законодательства, что невозможно осуществить в сжатые сроки. При этом, существенно повысить качество и эффективность досудебного производства
1 Европейская этическая хартия CEPEJ об использовании искусственного интеллекта (ИИ) в судебных системах и их среде от 4 декабря 2018. URL: https:// rm.coe.int/presentation-note-en-for-publication-4-december-2018/16808f699d (дата обращения: 31.08.2021).
возможно без коренного слома существующей системы, используя искусственный интеллект в качестве сервисной функции.
Это направление представляется наиболее перспективным и имеющим реальные шансы на реализацию.
Прежде всего необходимо предусмотреть возможность подачи заявления в полицию онлайн через специализированный электронный сервис. Здесь целесообразно использовать положительный опыт Республики Казахстан, где организован специальный портал Qamqor (qamqor.gov.kz) с правовыми сервисами. Сервис подачи заявления о преступлении состоит из 5 шагов — авторизации, выбора органа уголовного преследования, указания личных данных, описания самой жалобы и получения уведомления о состоянии заявления [3]. Авторизация заявителя предусмотрена через электронный цифровой портал либо номер мобильного телефона. Полагаем, что сейчас уже можно добавить идентификацию по биометрическим данным, широко распространённую в банковском секторе.
Практический интерес представляет опыт Казахстана и в части осуществления досудебного производства как бумажном, так и в электронном формате. Выбор формата производится лицом, осуществляющим производство по делу. В случае невозможности дальнейшего ведения уголовного судопроизводства в электронном формате осуществляется переход на бумажный формат. Эта идея легко реализуема и не требует существенных материальных затрат, поскольку в большинстве правоохранительных органов уже имеется СЭД (система электронного документооборота), которая в настоящее время используется для служебной переписки.
Кроме того, для исключения коррупционной составляющей, при распределении уголовных дел между следователями целесообразно использовать системы случайной выборки для распределения уголовных дел на основе специализации и загруженности судей. Уже сейчас такие системы успешно используются для распределения дел в судах, а также для выбора защитника по назначению.
При взаимодействии с потерпевшими можно использовать чат-боты, которые при наличии запроса уведомят его о принятых решениях, разъяснят порядок действий в часто встречающихся ситуациях, а также права и обязанности. Это поможет потерпевшему находиться в курсе проводимого расследования, а также реализовать свои права в полном объеме без дополнительных материальных и временных затрат.
Возможно использование искусственного интеллекта и для повышения качества следственных действий. При производстве допросов могут применяться дополненная и виртуальная реальность, что существенно повысит качество показаний. Кроме того, проведенные исследования показывают, что получение показаний путем взаимодействия с виртуальным персонажем снижает напряженность участников, создает ощущение беспристрастности [4]. Для повышения доверия возможно изменение формы и дизайна виртуального персонажа.
При этом максимальный эффект имеет общение с виртуальным персонажем в форме офицера полиции. 67.2 % респондентов отметили, что это позволяет им чувствовать себя защищенными. Имеются данные о том, что использование искусственного интеллекта в качестве дознавателя при допросе обвиняемых предотвращает проявление предвзятости и отказ от сотрудничества, минимизирует риск ложного признания. Установление сотрудничества может быть обусловлено программируемым сходством. Для этого при разработке алгоритма необходимо запланировать способность имитировать расовое, этническое и/или культурное сходство с подозреваемым. Виртуальный персонаж должен быть разработан таким образом, чтобы он мог вызывать и передавать социальные чувства, поскольку восприятие большинства людей выходит за рамки физической интерпретации [5]. Человек, пострадавший от преступления, сможет доверять искусственному интеллекту только в том случае, если он будет демонстрировать эмоции. В этом случае искусственный интеллект может не только получить необходимую информацию, но и оказать моральную поддержку.
Лица, имеющие интеллектуальные нарушения, при проведении допроса офицером полиции имеют высокие риски ложного признания вины в совершении преступления. Допрос
методу по методу Рейда «предназначен для того, чтобы вызвать определенные поведенческие (вербальные, невербальные и пара-лингвистические) реакции», с целью установить, правдивы или лживы подозреваемые [6]. Дефицит интеллекта и адаптивных функций делает указанных лиц чрезмерно внушаемыми, и ведет к ложному признанию. К наиболее уязвимым группам относятся молодежь, лица с психологическими расстройства (например, аутизм, гиперактивность) [7]. Применение искусственного интеллекта при первичных допросах подозреваемых может защитить их от ложных показаний. При этом алгоритм может быть разработан с использованием машинного обучения, без вмешательства человека, что исключит обвинения в предвзятости. Искусственный интеллект сможет точно установить невербальные признака лжи, к которым относятся определенные движения кистей, пальцев, ног и ступней. Система технического зрения, использующая как высокоуровневые, так и низкоуровневые визуальные функции, значительно лучше предсказывает обман по сравнению с людьми [8].
Выводы
Вышеуказанные средства позволяют вывести на совершенно иной качественный уровень взаимодействие органов расследования и участников уголовного процесса. Внедрение цифровых технологий для обеспечения сервисных и вспомогательных функций не изменяет порядка досудебного производства, но существенно повышает его эффективность и доступность.
Несомненно, применение искусственного интеллекта при производстве досудебных процедур влечет появление определенных факторов риска. Однако международный опыт использования таких систем демонстрирует возможность выявления таких рисков и их успешного преодоления.
Список источников
1. Jung J., Concannon C., Shroff R., Goel Sh., Goldstein D. Simple Rules for Complex Decisions // Working paper, Stanford University. 2017. 2 Apr. URL: https://arxiv.org/pdf/1702.04690.pdf (дата обращения: 02.02.2022).
2. Kirsten M. Ethical Implications and Accountability of Algorithms // Journal of Business Ethics. 2018. Vol. 160. Р. 835-850. DOI: 10.1007/s10551-018-3921-3
3. Qamqor. URL: https://egov.kz/cms/ru/articles/legal_relations/zayavlenie_v_policiuy (дата обращения: 02.02.2022).
4. Pollina D. A., Barretta A. The effectiveness of a national security screening interview conducted by a computer-generated agent // Computers in Human Behavior. 2014. Vol. 39. P. 39-50. DOI: 10.1016/j. chb.2014.06.010
5. Noriega M. The application of artificial intelligence in police interrogations: An analysis addressing the proposed effect AI has on racial and gender bias, cooperation, and false confessions. Futures. 2020. Vol. 117. Р. 102510. URL: https://doi.org/10.1016/j.futures.2019.102510 (дата обращения: 02.02.2022).
6. Villalobos J. G., Davis D. Interrogation and the Minority Suspect: Pathways to True and False Confession // In: Miller M., Bornstein B. (eds) Advances in Psychology and Law. 2016. Vol. 1. Р. 1-41. URL: https://doi. org/10.1007/978-3-319-29406-3_1 (дата обращения: 02.02.2022).
7. Samson J., Schatz J. D. Interrogated with Intellectual Disabilities: The Risks of False Confession // Stanford Law Review. 2018. Vol. 70. Р. 643-690. URL: https://law.stanford.edu/wp-content/uploads/2018/11/ Samson-Schatz-Interrogated-with-Intellectual-Disabilities-The-Risks-of-False-Confession.pdf (дата обращения: 02.02.2022).
8. Ulatowska М. Indicators of deception in different lie scenarios // Roczniki Psychologiczne / Annals Of Psychology. 2013. Vol. XVI, No. 1. P. 127-146.
References
1. Jung J, Concannon C, Shroff R, Goel Sh, Goldstein D. Simple Rules for Complex Decisions. Working paper, Stanford University. 2017, 2 Apr. Available from: https://arxiv.org/pdf/1702.04690.pdf (date of application: 02.02.2022).
2. Kirsten M. Ethical Implications and Accountability of Algorithms. Journal of Business Ethics. 2018;160:835-850. URL: 10.1007/s10551-018-3921-3
3. Qamqor. Available from: https://egov.kz/cms/ru/articles/legal_relations/zayavlenie_v_policiuy (date of application: 02.02.2022).
4. Pollina DA, Barretta A. The effectiveness of a national security screening interview conducted by a computer-generated agent. Computers in Human Behavior. 2014;39:39-50. DOI: 10.1016/j.chb.2014.06.010
5. Noriega M. The application of artificial intelligence in police interrogations: An analysis addressing the proposed effect AI has on racial and gender bias, cooperation, and false confessions. Futures. 2020;117:102510. Available from: https://doi.org/10.1016/j.futures.2019.102510 (date of application: 02.02.2022).
6. Villalobos JG, Davis D. Interrogation and the Minority Suspect: Pathways to True and False Confession. In: Miller M, Bornstein B. (eds) Advances in Psychology and Law. 2016;1:1-41. Available from: https://doi. org/10.1007/978-3-319-29406-3_1 (date of application: 02.02.2022).
7. Samson J, Schatz JD. Interrogated with Intellectual Disabilities: The Risks of False Confession. Stanford Law Review. 2018;70:643-690. Available from: https://law.stanford.edu/wp-content/uploads/2018/11/ Samson-Schatz-Interrogated-with-Intellectual-Disabilities-The-Risks-of-False-Confession.pdf (date of application: 02.02.2022).
8. Ulatowska М. Indicators of deception in different lie scenarios. Roczniki Psychologiczne/Annals Of Psychology. 2013;XVI(1):127-146.
Дата поступления статьи / Received: 15.02.2022. Дата рецензирования статьи / Revised: 28.02.2022. Дата принятия статьи к публикации / Accepted: 09.03.2022.
