М. С. СТРОГОВИЧ И "ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ": О СОВРЕМЕННОЙ РЕИНКАРНАЦИИ СТАРЫХ ТЕОРИЙ И ИХ ЭТИЧЕСКОЙ НИЧТОЖНОСТИ Текст научной статьи по специальности «Право»

УДК 343

Л. В. Головко

М. С. СТРОГОВИЧ И «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ»: О СОВРЕМЕННОЙ РЕИНКАРНАЦИИ СТАРЫХ ТЕОРИЙ И ИХ ЭТИЧЕСКОЙ НИЧТОЖНОСТИ

Модные теории об имплементации так называемого «искусственного интеллекта» в правосудие по уголовным делам есть не что иное, как реинкарнация (с некоторым терминологическим ребрендингом) идей более чем полувековой давности. Профессор М. С. Строгович блестяще показал в свое время их не только техническую, но прежде всего этическую ничтожность. Его аргументация остается крайне важной для нас сегодня.

К л ю ч е в ы е с л о в а: «искусственный интеллект», правосудие, уголовный процесс, этическая ничтожность.

M. S. STROGOVITCH AND THE «ARTIFICIAL INTELLIGENCE»: ABOUT THE CONTEMPORARY REINCARNATION OF THE OLD THEORIES AND THEIR ETHICAL NULLITY

The trendy theories about the implementation of the so-called «artificial intelligence» in the criminal justice are nothing more than a reincarnation (with some terminological rebranding) of the more than half a century old ideas. Professor M. S. Strogovitch brilliantly demonstrated in the day their not only technical, but also essentially ethical nullity. His argumentation remains very important for us today.

K e y w o r d s: «artificial intelligence», justice, criminal procedure, ethical nullity.

Поступила в редакцию 11 октября 2021 г.

Новейшая правовая литература испещрена разнообразными публикациями о внедрении, использовании, применении в правосудии в целом и уголовном судопроизводстве в частности, включая следственную деятельность, так называемого «искусственного интеллекта»1. Однако в них по совершенно непонятным причинам нигде не упоминается специальный параграф «О применении средств кибернетики в оценке доказательств» прекрасно известной и вышедшей полвека назад под редакцией М. С. Строговича монографии «Проблемы судебной этики», который был написан самим М. С. Строговичем и не только имеет непосредственное отношение к модной сегодня проблематике, но и выглядит чрезвычайно актуально. Попробуем сопоставить позицию выдающегося процессуалиста с современными рассуждениями, для чего прежде необходимо сделать два методологических уточнения.

1 См., например: Лаптев В. А. Искусственный интеллект в суде (judicial AI) : правовые основы и перспективы его работы // Российская юстиция. 2021. № 7. С. 10 ; Цветков Ю. А. Искусственный интеллект в управлении следственными органами // Российский следователь. 2021. № 9. С. 29 ; Его же. Искусственный интеллект в правосудии // Закон. 2021. № 4. С. 91 ; и др. (Этот перечень составлен навскидку, путем элементарного и сугубо выборочного просмотра оглавлений нескольких оказавшихся под рукой юридических научных журналов за 2021 г.)

© Головко Л. В., 2021

Во-первых, в дискурсе об «искусственном интеллекте» следует различать два измерения: реальное и, условно говоря, «футурологическое». Реальность понятна - под «искусственным интеллектом» понимается использование в правосудии, следственной деятельности, уголовном судопроизводстве и т. п. программирования (говоря «старым» и научно абсолютно корректным отечественным языком эпохи М. С. Строговича, электронных вычислительных машин - ЭВМ), т. е. достижений кибернетики. Здесь ничего нового нет, по крайней мере, с середины ХХ столетия, если не считать сугубо терминологические инновации, когда ЭВМ, компьютерная программа и прочие отлично известные явления превращаются в загадочный «интеллект», пусть и «искусственный». Иначе говоря, соревнования в образности сравнений, когда «суперкомпьютер» становится столь мощным, что позволяет с некоторой долей восторженности назвать его «управленческим мозгом»2, нас не интересуют. Это экзерсисы от литературы, а не качественные инновации от науки.

Футурология также понятна: на каком-то этапе машина (компьютерная программа) должна преобразоваться в «искусственную когнитивную систему, приближенную по своему строению и способностям к мозгу человека»3, т. е. «очеловечиться». Однако предъявить такого рода «искусственный интеллект» никто пока не в состоянии: все разговоры, что речь идет о «нашем настоящем, а не будущем»4, остаются лишь словами. Но когда речь доходит до конкретики, то выясняется, что искусственный интеллект «еще не создан», до его появления «должно пройти немало времени», для чего потребуется «кропотливая работа инженеров-программистов»5 и т. п. Мы не собираемся спорить по данному поводу и увлеченно рассуждать о том, сколько времени (10, 50 или 500 лет) понадобится для «очеловечивания» машины, одновременно ставя задачи «инженерам-программистам», которым юристы в целом и процессуалисты в частности вряд ли чем-то могут помочь. Для нас данное измерение «искусственного интеллекта» является футурологическим в сугубо методологическом смысле, поскольку существует лишь в прогнозах (т. е. в будущем времени), к тому же чаще всего исходящих от специалистов в совершенно другой области, в чьей компетентности в плане опытов по «скрещиванию» человеческого мозга и компьютерной программы можно усомниться. Во всяком случае производство судебной экспертизы по данной проблеме мы им вряд ли бы доверили, поскольку никакими специальными познаниями по ней они не обладают.

Итак, все футурологические аспекты проблемы «искусственного интеллекта» мы отвергаем методологически, после чего он полностью становится равен ЭВМ или компьютерной программе, пусть и, если кому-то угодно, с сугубо количественной приставкой «супер» (мощной, качественной, современной и т. п.).

Во-вторых, во всех приводимых примерах реальной возможности применения программирования в правосудии, следственной деятельности, уголовном процессе четко прослеживаются два аспекта: а) непроцессуальный и

2 См.: Цветков Ю. А. Искусственный интеллект в управлении следственными органами. С. 32.

3 Лаптев В. А. Указ. соч. С. 10.

4 Там же.

5 Там же. С. 11.

б) процессуальный, причем с явным перевесом в пользу первого. Непроцессуальным иллюстрациям успешного применения программной техники, которую авторы сообразно своему вкусу иногда скрывают за эффектной аббревиатурой AI (artificial intelligence, т. е. в русском просторечии все тот же «искусственный интеллект»), в правосудии несть числа: это и цифровое протоколирование, и распределение дел между судьями, и выдача цифровых исполнительных листов6, и многое другое. Специалисты по следственной деятельности дополняют данный список прорывными технологиями по «составлению графиков отпусков следователей и руководителей, формированию заявок в ведомственные вузы на определенное количество выпускников»7 и т. п. Мы можем добавить к этому, например, новейшие возможности руководителей следственных органов вызывать своих подчиненных не только через нарочных или по банальному служебному телефону, но и с помощью «цифровых технологий» (по электронной почте, посредством мессенджеров и т. п.). Возможности «искусственных интеллектов» (сиречь компьютерных программ) в этом смысле действительно впечатляют.

Вопрос в другом: какое все это имеет процессуальное значение? Например, аудиозапись хода судебного заседания (если говорить об упомянутом «цифровом протоколировании») останется для нас аудиозаписью независимо от того, выполнена она на катушечном магнитофоне образца 1960-х гг. или на современном цифровом записывающем устройстве. В процессуальном смысле важно, вправе ли стороны судебного разбирательства прослушать ее при подаче жалобы и в каких пределах, обязан или нет воспроизводить ее суд апелляционной или кассационной инстанции и т. д. Но причем здесь носитель? Он, конечно, важен, но не правоведам, а, скажем так, «завхозам», закупающим для судов соответствующую технику, выясняющим их цену, думающим, где размещать эту технику в зале суда и т. п. Встроенное в компьютер записывающее устройство во многих аспектах, конечно, удобнее громоздкого катушечного магнитофона. Но если мы будем увлеченно подменять юридические проблемы хозяйственными, то о праве в стране можно будет забыть со всеми вытекающими последствиями.

Поэтому непроцессуальные аспекты применения в деятельности судебных и следственных органов компьютерной техники, программирования и прочего «искусственного интеллекта» мы также методологически оставляем в стороне. Они важны исключительно для «функции делопроизводства», как справедливо отмечают апологеты английских аббревиатур (AI и т. п.)8. Но судопроизводство и делопроизводство - это далеко не одно и то же. Подменять первое вторым недопустимо.

Если отбросить две методологически лишние линии анализа (футуроло-гическую и непроцессуальную), оставаясь в строгом русле уголовно-процессуальной материи, то вопрос об «искусственном интеллекте» в правосудии и в более широком плане в уголовном судопроизводстве сводится к проблеме допустимости применения при оценке доказательств и принятии уголов-

6 См.: Там же.

7 Цветков Ю. А. Искусственный интеллект в управлении следственными органами. С. 32.

8 См.: Лаптев В. А. Указ. соч. С. 10.

но-процессуальных решений, включая приговор, компьютерных программных алгоритмов, т. е. программирования. В каком-то смысле речь вновь идет о формализации оценки доказательств, когда она осуществляется по заранее обозначенным программным алгоритмам (только на этот раз автоматизированным с учетом современных кибернетических технологий), а не по внутреннему убеждению судьи. Формализованное вновь противопоставляется личностному, как и несколько столетий назад (в эпоху расцвета теории формальных доказательств), с той лишь разницей, что теперь формализация технологически реализуется посредством конструирования не законодательных норм (законодательные алгоритмы), а автоматизированных компьютерных программ ( программные алгоритмы ).

И здесь ситуация абсолютно идентична той, с которой профессор М. С. Стро-гович столкнулся примерно полвека назад - на волне бурного расцвета кибернетики. По сути, речь идет о реинкарнации не только старых процессуальных теорий наподобие теории формальных доказательств (в долгосрочной исторической ретроспективе), но и много более новых научных дискуссий (в среднесрочной исторической ретроспективе), которые бурно велись в 1960-е - начале 1970-х гг., поскольку именно тогда создание программ ЭВМ по оценке доказательств, индивидуализации наказаний и т. п., т. е. осуществлению «машинного правосудия», перестало представлять какую-либо технологическую сложность. Иначе говоря, проблема уже тогда являлась правовой, а не технологической - технологические возможности программирования ни у кого сомнений не вызывали, причем в плоскости не футурологической, а реальной. Так что нынешние «инновационные рассуждения» в точности копируют в сугубо научном смысле (о других смыслах поговорим далее) позиции советских радикальных кибернетиков-инноваторов 1960-х гг. (включая юристов), современником которых был М. С. Строгович. Ничего нового в них нет, о чем сторонники «искусственного интеллекта» почему-то предпочитают не упоминать.

Поражают совпадения даже в деталях. Так, сегодня известна прогрессист-ски-компромиссная точка зрения, отвергающая возможность полной передачи функции правосудия машине, но допускающая так называемое «предсказательное правосудие», когда компьютерная программа лишь помогает человеку-судье, прогнозируя исход уголовных дел, составляя проекты уголовно-процессуальных решений9 и т. п. Точно такой же подход отмечал в свое время и М. С. Строгович: «Есть и более умеренная точка зрения: выводы электронно-вычислительной машины о виновности и ответственности должны рассматриваться в качестве рекомендации, консультации, а окончательное решение принадлежит судьям в соответствии с их внутренним убеждением»10. И здесь ничего нового.

Существовала в ту эпоху и футурология, также почти полностью идентичная футурологии нынешней. На нее М. С. Строгович также обращал внимание: «Некоторые авторы, возражая против <...> использования электронно-вы-

9 См. об этом в критическом ключе: Коновалов С. Г. Дискуссии о «цифровизации» производства по уголовному делу // Курс уголовного процесса / под ред. Л. В. Головко. Изд. 3-е. М., 2021. С. 98.

10 Проблемы судебной этики / под ред. М. С. Строговича. М., 1974. С. 112-113.

числительной машины в следственной и судебной деятельности, считают, что этого нельзя делать сейчас, так как кибернетика еще не достигла необходимого уровня развития, но в будущем (здесь и далее выделено нами. -Л. Г.) можно ожидать, что машина окажется способна решать вопрос о виновности и ответственности лиц, обвиняемых в совершении преступления»11. Прошло около пятидесяти лет, будущее наступило, М. С. Строговича с нами уже нет, машина по-прежнему осталась машиной со всеми своими несовершенствами и недостатками, но мы вновь ждем «светлого будущего», когда появятся абсолютно идеальные компьютерные программы, да еще и наделенные человеческими свойствами, достойные гордого словосочетания «искусственный интеллект». Видимо, страсть к футурологии неистребима, разве что пятьдесят лет назад она была все-таки немного более рациональна и менее оторвана от реальности.

Итак, методологически и сущностно дискуссия времен М. С. Строговича ничем не отличается от нынешней, включая даже нюансы и «компромиссные» варианты. Немного изменилась разве что терминология, когда вместо ЭВМ («машин») и даже более поздних «компьютеров» и «программ» говорят уже об «искусственном интеллекте», а наиболее продвинутые авторы щеголяют заменой скучноватого, видимо, в их глазах русского (или иногда обрусевшего) технологического языка «инновационными» английскими аббревиатурами (А/ и т. п.). Но для процессуальной сути обсуждаемых проблем все эти терминологические модификации, интересные, быть может, в других ракурсах (символическом, маркетинговом и т. п.)12, значения, разумеется, не имеют. Речь идет не более чем о новой волне или, используя ранее употребленное выражение, реинкарнации старых теорий и, следовательно, старых дискуссий.

Поэтому позиция М. С. Строговича абсолютно актуальна, в ней не устарело и не могло устареть ничего, поскольку она акцессорна по отношению к выдвигавшимся тезисам и предлагавшимся концепциям (является ответом на них). И если данные тезисы и концепции пятьдесят лет спустя выдвигаются вновь, пусть и под другим словесным «брендом» («искусственный интеллект»), то устареть способны лишь они сами, а не совершенно корректная научная реакция на них полувековой давности со стороны выдающегося процессуалиста. Самостоятельно вступить в новую волну дискуссии он уже по понятным причинам не может. Но мы можем воспроизвести его аргументы тем, кто сегодня старается о них не вспоминать.

Какова же была позиция М. С. Строговича по поводу возможности и допустимости использования кибернетических (программных) алгоритмов в процессуальной судебной и следственной деятельности? Была она жесткой и бескомпромиссной, резюмируясь в самом общем виде в двух важнейших высказываниях.

В одном из них М. С. Строгович однозначно отверг «кибернетический взгляд» на оценку доказательств, назвав это не техническим, а этическим вопросом: «<...>применение научно-технических средств не должно вно-

11 Там же. С. 113.

12 К ним мы еще кратко вернемся.

сить в судопроизводство механизацию тех процессов исследования доказательств, которые требуют строго индивидуального подхода, выявления и учета всего своеобразия и всех особенностей каждого дела. Стремление внести шаблон и трафарет в расследование и разрешение дела должно быть исключено, какими бы соображениями оно не аргументировалось»13.

Другими словами, нельзя возвращаться к мрачным временам полной формализации доказывания (пусть и с претензией на новый «технологический виток»), так как ни следователь, ни судья ни при каких условиях не вправе, разведя руками, сказать обвиняемому, что дескать он по-человечески верит в его невиновность, похоже, обвиняемый говорит правду, но, увы, «машина выдала такой алгоритм», поэтому придется несчастному отбыть наказание, допустим, в виде 5, 10 или 15 лет лишения свободы. Такое следствие и такое правосудие не только абсурдны, но и полностью аморальны.

И далее еще одна важнейшая, быть может центральная, мысль М. С. Стро-говича: во всех утверждениях, что «"прямое использование математических методов оценки судебных доказательств невозможно и нецелесообразно во всяком случае теперь и в обозримом будущем", и поэтому невозможно применение счетно-вычислительных машин непосредственно для оценки доказательств», «вызывает возражение только оговорка о невозможности применения таких приемов лишь в настоящее время или в "обозримом будущем" - такие способы невозможны вообще (выделено М. С. Строгови-чем. - Л. Г.), принципиально, методологически»14 и, безусловно, этически, так как мы уже выяснили, что для М. С. Строговича это прежде всего этический вопрос.

Добавим от себя, что невозможны они еще и политически, поскольку общество никогда не примет априорной несправедливости, даже под флагом «инноваций» и «искусственного интеллекта». Поэтому любая власть, отправляющая людей в места лишения свободы на основании «алгоритмов», рано или поздно теряет в глазах населения какую-либо легитимность со всеми вытекающими из этого не всегда приятными и не сразу уловимыми последствиями. Политическое измерение уголовного судопроизводства, олицетворяющего образ власти в глазах общества при применении самых жестких форм юридической ответственности, также никогда нельзя сбрасывать со счета.

Актуальность мыслей и выводов М. С. Строговича сомнений не вызывает. Как мы уже отметили, в научно-техническом и уголовно-процессуальном смыслах не изменилось ничего. Но в более широком плане отличия все-таки есть. Связаны они с общим политико-экономическим контекстом, в котором вел свою полемику М. С. Строгович, и тем контекстом, в котором находимся мы. Контекст действительно стал иным, на что также нельзя не обратить внимание.

Профессор М. С. Строгович жил и работал в условиях «холодной войны», когда не было никакой глобализации. Он вел свой диалог исключительно с конкретным государством, которое обладало полнотой власти решать, ка-

13 Проблемы судебной этики / под ред. М. С. Строговича. С. 110.

14 Там же. С. 114-115.

ким должно быть уголовное судопроизводство на его территории. По сути, М. С. Строгович обращался к нему и только к нему, доказывая нецелесообразность и опасность «алгоритмизации» уголовного правосудия. Государство услышало авторитетного процессуалиста. Советские опыты (которые, к слову, очень активно велись на самом высоком научном уровне, никак не уступающем уровню нынешнему) по внедрению ЭВМ в оценку доказательств, назначение наказания и т. п. фактически прекратились. Государство обратилось к человеку, после чего начались прямо противоположные процессы: гуманизации, индивидуализации, защиты прав личности и т. п. О механизации правосудия и «алгоритмах» надолго забыли - М. С. Строгович свою полемику выиграл.

Сегодня мы живем в эпоху «экономической глобализации» с ее всеохватным маркетингом, когда регулирующая роль государства заметно снизилась. Поэтому у любой якобы сугубо научной идеи всегда имеется «экономическое дно». Оно просматривается, на первый взгляд, даже в лишенном смысла терминологическом «ребрендинге», когда ЭВМ становится «компьютерной программой», а последняя превращается в «искусственный интеллект». Научного смысла здесь действительно нет - кибернетика остается кибернетикой. Но маркетинговый смысл очевиден, он как раз есть, поскольку за любым «переименованием» стоят крупные экономические (чаще всего транснациональные) игроки, для которых новый термин - это новый бренд, т. е. новый товар, для удачного продвижения которого необходима «мода» как явление, как правило, иррациональное, понижающее способность критического восприятия реальной потребности в соответствующем товаре, затуманивающее разницу между научным открытием и чисто коммерческим «ребрендингом». Кроме того, для глобальных экономических акторов нет лучшего клиента, чем государство, и лучшего рынка, чем сфера государственных закупок, в том числе для нужд уголовного судопроизводства. В результате давление в рамках полемики об «искусственном интеллекте» становится неизмеримо сильнее и назойливее, так как ощущается со всех сторон по «сетевому принципу», причем глобально. Мы это на своем локальном уровне видим в рамках российской юридической науки на примере бесчисленных типовых и очень похожих друг на друга статей об «искусственном интеллекте», чьи авторы, разумеется, не имеют никакого отношения к стоящим за новым брендом экономическим интересам, став всего лишь своеобразной жертвой очередной волны глобальной «моды», с виртуозным мастерством разогнанной специалистами по маркетингу.

Ясно также, что это еще более подчеркивает и усиливает этическую ничтожность разнообразных теорий о компьютерной «алгоритмизации» правосудия (под каким бы новым «брендом» они не выдвигались), поскольку ценности правосудия не должны становиться заложником агрессивного маркетинга и чьих-то экономических интересов. Никакой новый (или псевдоновый) «экономический уклад» не может служить оправданием несправедливого осуждения человека по обвинению в преступлении и назначения ему не соответствующего содеянному наказания.

В целом, с одной стороны, мы оказались сегодня в чем-то даже в более сложной ситуации, чем М. С. Строгович полвека назад, поскольку с агрессивным экономическим маркетингом он не сталкивался. Нужды противостоять

такому маркетингу и восстанавливать «смыслы» у него не было. М. С. Строго-вич вел свою полемику в сугубо научном пространстве, прямо или косвенно апеллируя лишь к политическому здравомыслию властей. С другой стороны, нам много проще потому, что в рамках новой волны попыток «программирования» правосудия мы можем уже опираться на безупречную аргументацию М. С. Строговича, на опыт предыдущей дискуссии, из которой он вышел бесспорным победителем. И этот опыт сейчас бесценен.

Юридический факультет МГУ имени М. В. Ломоносова Головко Л. В., доктор юридических наук, профессор, заведующий кафедрой уголовного процесса, правосудия и прокурорского надзора

Faculty of Law of Lomonosov Moscow State University Golovko L. V., Doctor of Legal Sciences, Professor, Head of the Criminal Process, Justice and Prosecutor's Supervision Centre E-mail: leonidgolovko@gmail.com