CC BY
131
УДК 343.1 DOI 10.24411/2073-0454-2020-10135
ББК 67.411 © О.В. Мичурина, 2020
Научная специальность 12.00.09 — уголовный процесс
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ПРОТИВ ВНУТРЕННЕГО УБЕЖДЕНИЯ: ВЗГЛЯД В БУДУЩЕЕ УГОЛОВНОГО СУДОПРОИЗВОДСТВА
Оксана Валерьевна Мичурина, профессор кафедры уголовного процесса, доктор юридических наук, профессор, Московский университет МВД России имени В.Я. Кикотя (117997, Москва, ул. Академика Волгина, д. 12) E-mail: okmich@inbox.ru
Аннотация. В современном научном пространстве все активнее исследуются потенциальные сферы использования искусственного интеллекта. Ведутся полемики о перспективах и рисках его применения в различных областях судопроизводства и, как следствие, возможности замены компьютерной программой внутреннего убеждения в уголовном судопроизводстве. Основываясь на мнениях ученых и практиков, а также уже накопленном отечественном и зарубежном опыте использования современных технологий в сфере правоприменения, взвесив все аргументы за и против, автор статьи представила свой взгляд на будущее обозначенной проблемы.
Ключевые слова: искусственный интеллект, OOMPAS, алгоритм оценки рисков, надлежащая процедура, внутреннее убеждение, оценка доказательств, допустимость доказательств, процессуальное решение, будущее уголовного судопроизводства, права и законные интересы.
ARTIFICIAL INTELLIGENCE VS INTERNAL PERSUASION: VIEW ON THE FUTURE OF CRIMINAL PROCEEDINGS
Oksana V. Michurina, Professor of Criminal Procedure, Doctor of Legal Sciences, Professor Moscow University of the Ministry of Internal affairs of Russia named after V.Ya. Kikot' (117997, Moscow, ul. Akademika Volgina, d. 12) E-mail: okmich@inbox.ru
Abstract. In the modern scientific space, the potential areas of the use of artificial intelligence are increasingly being investigated. There are debates about the prospects and risks of its use in legal proceedings and, as a consequence, the possibility of replacing the internal conviction in criminal proceedings by a computer program. Based on the opinions of scientists and practitioners, as well as the already accumulated domestic and foreign experience in using modern technologies in the field of law enforcement, the author of the article tried, having weighed all the arguments for and against, to present her view on the future of the indicated problem.
Keywords: artificial intelligence, СOMPAS, risk assessment algorithm, due process, internal persuasion, assessment of evidence, admissibility of evidence, procedural decision, future of criminal proceedings, rights and legitimate interests.
Citation-индекс в электронной библиотеке НИИОН
Для цитирования: Мичурина О.В. Искусственный интеллект против внутреннего убеждения: взгляд в будущее уголовного судопроизводства. Вестник Московского университета МВД России. 2020;(3):65-68.
То, что сегодня выглядит фантастическим, завтра вполне может стать реальным. Технологии стремительно совершенствуются и мир вокруг нас меняется. К примеру, современный мобильный телефон уже решает не только задачи в области связи, но и навигации, развлечений, а также получения информации. Да и доступ к информации, а также ее фиксация значительно упростились. Теперь технологии не только дополняют человеческую память, но и заменяют ее. На волне последних технологических достижений заметно вырос интерес к искусственному интеллекту и потенциальным сферам его применения, в том числе в судопроизводстве. И, если в рамках гражданского судопроизводства искусственный интеллект уже прогнозируем, то замена им внутрен-
него убеждения в отечественном уголовном судопроизводстве видится нам пока несколько иллюзорной. Попытаемся, взвесив все аргументы за и против, представить свой взгляд на будущее обозначенной проблемы.
Уголовно-процессуальный закон упоминает о внутреннем убеждении в контексте с принципом свободы оценки доказательств, когда судья, присяжные заседатели, а также прокурор, следователь, дознаватель могут оценивать доказательства по своему внутреннему убеждению, основанному на совокупности имеющихся в уголовном деле доказательств, руководствуясь законом и совестью (ч. 1 ст. 17 УПК РФ).
Стоит напомнить, что оценка доказательств — неотъемлемая составляющая процесса доказывания,
№ 3 / 2020
Вестник Московского университета МВД России
65
итоговая его часть, без которой не обходится принятие ни одного решения по уголовному делу. Таким образом, оценка является еще и этапом вынесения процессуального решения. Она бывает промежуточной, когда оценивается отдельно взятое доказательство и окончательной, когда оценке подвергается вся совокупность доказательств. В последнем случае главная проблема оценки заключается в неизбежности возникающих противоречий между доказательствами. При свободной оценке противоречия снимает внутреннее убеждение лица, ведущего производство по уголовному делу. Мы доверяем ему? Не всегда. Обусловлено это тем, что, с одной стороны, внутреннее убеждение, основываясь на всестороннем исследовании доказательств, стремится быть объективным, с другой стороны, оно остается субъективным, так как напрямую связано с сознанием человека, его воззрением, жизненным опытом, воспоминаниями, эмоциями и пр.
В случае с искусственным интеллектом вопрос устранения противоречий в доказательствах исключает субъективный аспект. Но, что такое искусственный интеллект? Ни в одном официальном документе не содержится его нормативного определения, хотя сам термин активно используется. Такое положение отдельные исследователи объясняют отсутствием единого правового подхода к установлению его сущностных характеристик, отсюда и невозможностью дать точную дефиницию [1, с. 197-206].
Тогда допустимо ли использовать искусственный интеллект при принятии процессуальных решений в уголовном судопроизводстве? Опыт отдельных стран уже имеет подобную практику оптимизации процедуры оценки доказательств, исходя из заложенного в компьютерную программу алгоритма. Какие риски и преимущества с ним связаны? Чтобы понять их, необходимо разобраться с рисками и преимуществами традиционного метода оценки доказательств, основанного на внутреннем убеждении.
Так, при принятии любого судебного решения, от меры пресечения в виде заключения под стражу до постановления приговора, берутся в расчет не только полнота собранных доказательств на предмет установления обстоятельств, подлежащих доказыванию, но и вероятность повторного правонарушения лицом. Вывод судьи об этом основывается на его мнении, которое он делает исходя из существа уголовного дела, личности обвиняемого (подсуди-
мого) и других собранных по уголовному делу доказательств. Традиционно считается, что такой подход имеет высокую степень уязвимости в связи с обвинением в предвзятости. Даже, несмотря на то, что убеждение это формируется самостоятельно, а не навязывается извне.
Аналогичным образом вырабатывает внутреннее убеждение дознавателя (следователя) перед составлением обвинительного заключения (обвинительного акта или обвинительного постановления). Ведь руководствуясь законными основаниями, он может принять совсем иное решение, допускающее, к примеру, в отдельных случаях прекращение уголовного дела и уголовного преследования при совершении преступления лицом впервые. Или же усматривая необходимость избрания той или иной меры пресечения в отношении подозреваемого, обвиняемого в совершении преступления, следователь (дознаватель) выбирает ту, которая позволила бы обеспечить надлежащее производство по уголовному делу и пресечь возможность продолжить заниматься им преступной деятельностью. Тут тоже учитываются определенные обстоятельства: тяжесть преступления, сведения о личности подозреваемого, обвиняемого, его возраст, состояние здоровья, семейное положение, род занятий и др.
Вместе с тем, оценка доказательств и, как ее результат, внутреннее убеждение, — это не безотчетное чувство. Не может быть итогом оценки доказательств догадка, предположение. Им становится только убеждение в наличии или отсутствии каких-либо обстоятельств, подлежащих доказыванию, а также иных обстоятельств, имеющих значение для уголовного дела.
Оценка доказательств должна быть основана на рассмотрении совокупности имеющихся в уголовном деле доказательств. В их системе значение каждого отдельного взятого доказательства возрастает, а совокупность всех доказательств усиливает значение каждого из них. Именно на этой совокупности и основывается конечный вывод по уголовному делу. Признав, что необходимые следственные действия произведены и объем собранных доказательств достаточен для обоснования вывода, следователь (дознаватель), а также судья составляют итоговое процессуальное решение.
При оценке доказательств судья, присяжные заседатели, прокурор, следователь, дознаватель руко-
водствуются законом и совестью. Закон служит непосредственным основанием для признания доказательства допустимыми или недопустимым. К примеру, если фактические данные получены из не указанного в законе источника или с нарушением установленного порядка получения доказательств. Требование руководствоваться совестью отражает внутренний критерий соблюдения правил, обеспечивающих свободу при выражении своего убеждения, зависит от конкретного человека, качеств и свойств личности. Мы не ставим под сомнение необходимость упоминания в УПК РФ совести при оценке доказательств, но это понятие должно получить более конкретное правовое оформление, понятное для правоприменителя. Что же касается искусственного интеллекта, то руководство совестью к нему вообще не применимо в силу того, что это морально-нравственная категория, представляющая собой чувство человека, ответственного за свое поведение (решение) перед отдельными людьми и всем обществом. Выражение нравственного самосознания невозможно заложить в компьютерную программу. Поэтому такое решение никак не соотносится с совестью.
В этой связи закономерно встает вопрос о возможности принятия решения не по своему внутреннему убеждению, а когда уже имеется четко заданный алгоритм действий. Проведенное нами исследование показало, что отдельные правоприменители хотели бы осуществлять свою деятельность именно таким образом. Пусть их и не большинство, но 25,7% опрошенных респондентов высказались за необходимость осуществления процессуальной деятельности исключительно по четким правилам, которые им предписывал бы определенный сценарий, как необходимо поступать в той или иной ситуации. При этом больше половины из них ратуют за возможность принимать решения исходя из заложенного в компьютерную программу алгоритма. В качестве основного аргумента почти у всех 25,7% опрошенных фигурировало, что тем самым упрощается их работа. И лишь единицы объясняли исключением в ходе такой процедуры субъективного аспекта. Справедливости ради следует отметить, что 74,3% практических работников не считают необходимым использовать в своей профессиональной деятельности подобный алгоритм действий. Иными словами, исследование демонстрирует, что хотя мнения практиков и разделились, однако возмож-
ность автоматического принятия решения некоторыми из них вполне допускается.
Такая точка зрения представляет определенный научный интерес, однако к ее реализации следует подходить очень осторожно. Безусловно, позицию практиков и их аргументы можно понять. Между тем, там, где присутствует четкий алгоритм получения вывода и, соответственно, принятия решения, говорить о внутреннем убеждении уже не приходится.
В истории уголовного процесса господствовала когда-то теория формального доказывания. В развитом виде она имела отношение только к инквизиционному процессу и давно изжила себя. Ей на смену пришла новая система, являющаяся полным ее антиподом — теория свободной оценки доказательств по внутреннему убеждению. Конечно, формальный способ оценки доказательств тоже обладает рядом преимуществ, сводя к минимуму, если не исключая полностью, ошибки, но верен он будет лишь при точности алгоритма. Нам думается, что создать такой алгоритм для уголовного судопроизводства почти невозможно.
В обоснование этого обратимся к опыту США, где давно ведутся дискуссии о надлежащей правовой процедуре, касающейся алгоритмов прогнозирования, в частности, оценки рисков. Многие американские суды, полицейские органы и пенитенциарные учреждения используют машинные алгоритмы для определения уровня различных рисков, начиная от вероятности того, что обвиняемый совершит еще одно преступление и заканчивая риском того, что он не явится на судебное заседание. Судьи используют алгоритмы для принятия решений об освобождении под залог, назначении наказания и условно-досрочном освобождении. Тем не менее, ни сами судьи, ни другие государственные органы не пишут эти программы, а покупают их у частных компаний. Яркий пример тому система COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Компания, разработавшая это программное обеспечение, считает пол важным фактором, влияющим на принятие решения в уголовном судопроизводстве. По мнению разработчиков, мужчины гораздо чаще становятся рецидивистами, а значит, их с меньшей вероятностью порекомендуют для освобождения. Таким образом, женщины чаще, чем мужчины освобождаются от уголовной ответственности. Кроме того, именно мужчины получают более стро-
№ 3 I 2020
Вестник Московского университета МВД России
67
гие виды уголовных наказаний и большие сроки лишения свободы. Как влияют эти данные на такие решения и насколько важен именно пол при их вынесении? Компания разработчик не дает ответа на этот и подобные вопросы, прикрываясь законами о коммерческой тайне, чтобы скрыть свой код от контроля. Поэтому проверить алгоритмы на предмет корректной работы не представляется возможным. Невозможно это сделать и по причине нормативного пробела в силу отсутствия на текущий момент законов или каких-либо стандартов, их устанавливающих.
Неудачный опыт применения искусственного интеллекта в уголовном судопроизводстве уже имеет реальные последствия. Показателен в этой связи пример с неким Эриком Лумисом, который Верховным Судом штата Висконсин (США) был признан виновным в том, что скрывался от полиции и находился за рулем автомобиля без разрешения хозяина машины. Во время допроса Лумис ответил на ряд вопросов, и его ответы были введены в программу для оценки рисков COMPAS. Программа оценила риски Лумиса как высокие, в результате судья назначил ему максимально возможное наказание — шесть лет лишения свободы.
Лумис попытался оспорить приговор на том основании, что у него не было возможности оценить механизм принятия решений алгоритмом. Его адвокаты также утверждали, что права и законные интересы Лумиса были нарушены, так как этот алгоритм принимает во внимание пол и расовую принадлежность подсудимого. Тем не менее, Верховный Суд штата вынес решение против Лумиса, постановив, что знание итогового решения алгоритма уже подразумевает достаточный уровень прозрачности1.
Позже Верховный Суд США отказался пересмотреть вынесенное по делу Эрика Лумиса судебное решение.
Таким образом, по причине закрытости кода подобных алгоритмов обвиняемые (подсудимые) не могут знать, почему именно они были классифицированы в определенную группу и какими критериями руководствуется искусственный интеллект при оценке рисков, а значит отсутствует обоснованность таких выводов. Существуют серьезные про-
блемы и относительно того, что даже если код программы был написан грамотно, в нем могут отразиться некоторые предубеждения писавших его людей, пусть и неосознанные. Можно ли считать допустимой процессуальную процедуру, использовавшую такое программное обеспечение? С нашей точки зрения, вряд ли.
Нами не оспаривается вывод, что оценка доказательств по внутреннему убеждению не лишена недостатков, так как она напрямую связана с субъективным моментом. Но и искусственный интеллект не показал себя достойной альтернативой по причине того, что оказался тоже необъективен. Едва ли стоит надеяться, что когда-нибудь будет создан алгоритм оценки, который полностью исключит субъективный момент, ведь в любом случае он создается человеком, его сознанием. И никакого универсального алгоритма, который был бы пригоден на все случаи доказывания, не существует. В связи с этим, выводы наши не обнадеживающие: можно сколь угодно «изобретая велосипед» придумывать новые способы оценки доказательств в уголовном судопроизводстве, но основным останется внутреннее убеждение лица, осуществляющего производство по уголовному делу. Оно будет таковым столько, сколько предполагается существовать человеку как сознательному существу.
Литература
1. Шеста В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13. № 2.
References
1. Shestak V.A., Volevodz A.G. Sovremennye po-trebnosti pravovogo obespecheniya iskusstvennogo in-tellekta: vzglyad iz Rossii // Vserossiyskiy kriminolo-gicheskiy zhurnal. 2019. T. 13. № 2.
1 Решение Верховного Суда штата Висконсин от 2016 г. по делу «Штат Висконсин против Эрика Лумиса (апеллянта)» [State of Wisconsin v. Eric L. Loomis / Decision of the Supreme Court of Wisconsin No. 2016 WI 68 of 2016] // URL://http://www.scotusblog.-com/wp-content/uploads/2017/02/16-6387-op-bel-wis.pdf
