CC BY
3
УНИВЕРСИТЕТА Дискреционные решения в государственном управлении имени o.e. кутафина(мгюА) на основе машинной аналитики: проблемы и риски
Дискреционные решения в государственном управлении на основе машинной аналитики: проблемы и риски
Аннотация. Статья посвящена проблемам и рискам машинной аналитики и других цифровых технологическим ресурсов при принятии управленческих решений в государственном управлении. Автор поднимает сложный вопрос о том, что на фоне громких победных реляций о массовых мероприятиях по цифровой трансформации в государственном управлении где-то затерялись робкие здравые голоса, спрашивающие: а может ли так быть, чтобы все было идеально и без изъянов? Никакие технологические узлы и решения на сегодня не работают со 100-процентной надежностью. То же справедливо сказать и об организациях людей. Никто и ничто не идеально. А потому дефекты, дисфункции, дисбалансы, ошибки в государственном управлении были ранее, есть ныне и будут в будущем. Проблема в том, что цифровые технологии, помогая бороться с одними из таких дефектов, дисфункций, дисбалансов и ошибок в государственном управлении, другие загоняют очень глубоко, третьи — во множестве создают. И мы пока не научились все это диагностировать. В статье приведено несколько красноречивых примеров нанесения большого вреда из-за сбоев машинной аналитики в обеспечение принятия государственно-управленческого решения. Автор показывает типовые проблемы цифровизации в государственном управлении, делая, однако, вывод, что эти проблемы вполне решаемы. Ключевые слова: государственно-управленческое решение, административное усмотрение, цифровизация в государственном управлении, государственное управление, административное право.
Игорь Владиславович ПОНКИН,
профессор кафедры административного права и процесса Университета имени О.Е. Кутафина (МГЮА),
доктор юридических наук,
профессор
125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
DOI: 10.17803/2311-5998.2024.117.5.125-133
Igor V. PONKIN, Professor of the Department of Administrative Law and Procedure of the Kutafin Moscow State Law University (MSAL), Dr. Sci. (Law), State Professor [email protected] 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993 Discretionary Decisions in Public Administration Based on Machine Analytics: Challenges and Risks Abstract. The article is devoted to the problems and risks of machine analytics and other digital technological resources in making managerial decisions in public administration. The author raises the difficult question of the fact that against the background of loud victory speeches about mass measures
© Понкин И. В., 2024
в Я УНИВЕРСИТЕТА
™ и мени О. Е. Кугафи на (МПОА)
of digital transformation in public administration, some timid and sensible voices have been lost, asking: can everything be perfect and without flaws? No technological nodes and solutions today work with 100 per cent reliability. The same is true of human organisations. No one and nothing is perfect. Therefore, defects, dysfunctions, imbalances, and errors in public administration have been in the past, are now, and will be in the future. The problem is that digital technologies, while helping to combat some of these defects, dysfunctions, imbalances, and errors in public administration, drive other defects, imbalances, and errors in public administration very deeply into the ground and create third ones. And we have not yet learnt how to diagnose all this. The article gives some eloquent examples of great harm caused by failures of machine analytics to support public administration decision-making. The author shows typical problems of digitalisation in public administration, but concludes that these problems are solvable. Keywords: public administration decision, administrative discretion, digitalisation in public administration, public administration, administrative law.
Введение
Цифровизация в государственном управлении оказывает огромное влияние на планирование, программирование, реализацию управленческих решений, их оценку, государственный надзор и контроль за ними, понуждая все это адаптировать к новым реалиям. Все эти процессы не новы, и даже простейший библиографический анализ показывает, что о них писали и 10, и 20, и 30, и 40 лет назад, но в последние годы, действительно, мы переживаем виток интенсивного внедрения технологий в государственное управление, оказывающего сильнейшее влияние на тактики и стратегии работы и управления человеческими, временными и финансово-экономическими ресурсами.
Сегодня мы переживаем в определенной степени исторический момент, когда мир использует инновации в области измерений, сбора и анализа данных в беспрецедентных масштабах. Никогда прежде мир не мог составить более богатую картину реалий государственно-управленческого сектора. Вопрос для каждого чиновника, менеджера и руководителя государственного сектора заключается в том, что они собираются делать с этой революцией в прикладной аналитике. От того, как правительства собирают, анализируют и используют микроданные для улучшения управления государством, будет зависеть эффективность их работы в этом новом мире1.
Однако цифровизация в государственном управлении по-прежнему серьезно страдает проблемами слабой подтверждаемости всех тех преимуществ, которые ей приписывают. Но незнание и игнорирование недостатков, побочных эффектов
1 The Government Analytics Handbook: Leveraging Data to Strengthen Public Administration / edited by Daniel Rogger and Christian Schuster. Washington (D. C., USA) : International Bank for Reconstruction and Development / The World Bank, 2023. XIX. P. 4.
УНИВЕРСИТЕТА Дискреционные решения в государственном управлении имени o.e. кугафина(мгюА) на основе машинной аналитики: проблемы и риски
и проблем — это всегда продуцирует дополнительные ненужные риски. А потому вопрос об этом остается открытым.
Цифровую трансформацию неосновательно позиционировать только как безусловно позитивный и созидающий процесс (хотя и отрицать частично, в определенной мере, было бы бессмысленно). Важно понимать, что цифровая трансформация может быть и разрушительным процессом, продуцировать специфические риски для процесса принятия управленческих решений в государственном управлении.
Таким образом, в проектировании и тестировании обеспечительных цифровых инноваций в государственном управлении на первый план выходит принципиальный вопрос об информированном административном (государственно-управленческом) усмотрении2 в принятии соответствующих управленческих решений.
Этим вопросам и посвящена настоящая статья.
Понятие аналитики в государственном управлении
Что понимается под аналитикой в государственном управлении? Это повторное использование административных данных и данных опросов внутри правительства для улучшения его работы. Она использует микроданные для диагностики вводимых ресурсов, практики управления, процессов, результатов или итогов деятельности организаций государственного сектора, подразделений внутри таких организаций и (или) органов государственного управления в целом. Такая диагностика позволяет точно определить, насколько эффективно функционирует правительство или нет.
Микроданные предоставляют информацию о характеристиках отдельных людей или организаций, таких как отдельные чиновники или ведомственные подразделения применительно к правительству, или домохозяйства, коммерческие предприятия или фермы применительно к частному сектору. Такие данные позволяют измерять и изучать взаимосвязи между явлениями в очень подробном масштабе, например, как управленческая практика отдельных руководителей государственных служб влияет на производительность их коллективов3.
В функциональной-целевой нагрузке, задействуемой в государственном управлении прикладной аналитике, сфокусированной на управленческих решениях, выделяются следующие направления:
а) реализуемая во обеспечение разработки, принятия и реализации управлен-
ческого решения:
Т
р
2 Здесь понимается административное усмотрение сообразно отраженному в подходе Т П. П. Серкова и Ю. П. Соловья. См.: Серков П. П., Соловей Ю. П. Административное
усмотрение: вопросы и ответы. Ч. 1 // Сибирское юридичское обозрение. — 2022. — Т. 19. № 4. С. 374—383 ; Их же. Административное усмотрение: вопросы и ответы. Ч. 2 // Там Е
же. 2023. Т. 20. № 1. С. 6—24 ; Их же. Административное усмотрение: вопросы и ответы. Ч. 3 // Там же. 2023. Т. 20. № 3. С. 224—271.
3 The Government Analytics Handbook: Leveraging Data to Strengthen Public Administration. □
P. 4. РЕНИЕ
>
в Я УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
— базо-данновая (в том числе реестровая и кадастровая), экспертная, статистическая и архивно-документарная аналитика;
— правовая аналитика;
— планировочная предиктивная (прогностическая) и прескриптивная (оперирующая предписаниями) аналитика;
— финансово-экономическая, бюджетная, кадровая, иная ресурсная аналитика;
— организационно-функциональная аналитика, включая аналитику межведомственного и межуровневого взаимодействия;
б) проектировочно-моделирующая аналитика реализации, поддержки и сопровождения разработки управленческого решения;
в) оценочно-аудиторская, контрольно-учетная, девиантологическая (дефектологическая) аналитика управленческих решений.
Вся обеспечительная аналитика в государственном управлении (производимая машинами или по старинке людьми) сводима к нескольким вопросам:
— Что может произойти в будущем?
— Если это негативное событие, можно ли его как-то избежать, редуцировать риски и защититься от него, или, на худой конец, заранее снизить негативные последствия?
— Если это позитивное событие, можно ли его как-то использовать в своих интересах и целях, стимулировать и развить?
— Какие шаги необходимы для достижения целей? И как для достижения целей применить минимум ресурсов?
Проблема в том, что машина (компьютерно-программная модель) может понимать эти вопросы иначе, чем мы.
В прикладной аналитике государственного управления для выработки управленческого решения задействуются самые разные инструментарии — от элементарных о наисложнейших.
Отличить политическое содержание от технического никогда не бывает просто. Большинство решений в государственном секторе — это политические решения, различаются здесь лишь степень и тип политики. Решения и принятие решений настолько важны для человеческой деятельности, что, возможно, полезно в их оценивании прибегнуть к приблизительным мерам, даже если мы признаем, что аналитические рамки и количественные исследования никогда не смогут охватить важные аспекты решений4. Так что применимы и аналитические инструменты нечеткой логики.
Но, учитывая, что цели управленческого решения в государственном управлении не сводимы только к экономическим целесообразности и эффективности, то машина, оценивающая эффективность управленческого контроля как процесса, посредством которого достигается оценка эффективности и результативности распоряжения полученными под определенные цели ресурсами, может не понять, почему мы человечность, достоинство, заботу, справедливость ставим выше экономических расчетов в государственных делах, и выдать не те результаты,
4 Bozeman B., Pandey S.K. Public Management Decision Making: Effects of Decision Content // Public Administration Review. 2004. Vol. 64. № 5. P. 555.
УНИВЕРСИТЕТА Дискреционные решения в государственном управлении имени o.e. кугафина(мгюА) на основе машинной аналитики: проблемы и риски
которые будут для данных конкретных условий релевантными. У машины вообще очень много пределов понимания того, что для нас общепонятно и обыденно.
Пределы применимости технологий машинной аналитики в государственном управлении
Однако никакие технологии больших данных никогда не заменят человекопроиз-водимую аналитику, тем более в системе государственного управления.
Надуманная антропоморфизация искусственного интеллекта (по сути — просто сложного алгоритма), надуманное приписывание ему свойств человека и нагнетание страхов перед ним (вместо того, чтобы разбирать реальные опасности) не снимает проблемы ограниченности задействования машинных технологий и неспособности замены ими человека во многих сферах человеческой деятельности, в том числе и во многих вопросах практики государственного управления.
В 2008 г. журнал Wired опубликовал статью Криса Андерсона «Конец теории: Наводнение данных делает научный метод устаревшим», где утверждалось: «Это мир, в котором огромные объемы данных и прикладная математика заменяют все остальные инструменты, которые могут быть использованы. Прочь все теории человеческого поведения, от лингвистики до социологии. Забудьте о таксономии, онтологии и психологии. Кто знает, почему люди делают то, что делают? Главное, что они это делают, а мы можем отследить и измерить это с беспрецедентной точностью. При наличии достаточного количества данных цифры говорят сами за себя»5.
Нет, нельзя просто так вывалить на стол кучу необработанных данных, нажать кнопку, после чего их значение появится, — говорит Кристиан Керстинг. Любое открытие, основанное на данных, начинается со сбора, обработки, очистки, хранения, управления, анализа и визуализации данных, и только потом появляются результаты критической аналитической обработки. Каждый шаг в этом цикле включает в себя много работы и делает предположения о данных и их ценности6.
По словам Кенна Стейфа, совершенно ожидаемо эта идея Криса Андерсона вызвала решительный отпор со стороны ученых, которые генерируют доказательства путем приложения и проверки теории. Одна из критических точек зрения заключалась в том, что модели машинного обучения основаны на корреляции, а не на причинно-следственных связях, и если последнее требует теории, то первое — нет7.
И
I
5 Anderson C. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete [Ко- С нец теории: Наводнение данных делает научный метод устаревшим] // Wired Magazine. Р 23.06.2008.
6 Kersting K. No End of Theory in AI! Artificial Intelligence thrives on assumptions, theories, and data [Теориям в тематике искусственного интеллекта нет конца! Искусственный интеллект
процветает благодаря предположениям, теориям и данным] // URL: https://ml-research.
□ m
github.io/papers/kersting2022welt_theory.pdf.
Steif K. Public Policy Analytics: Code and Context for Data Science in Government [Аналитика государственной политики: Кодифицированный и контекстный подход для науки о
данных в правительстве]. Boca Raton (FL, USA): CRC Press, 2022. XXI. P. 197. РЕНИЕ
>
7
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
Когда машина становится врагом человека, уповающего на государство
Но основная проблема заключается не в абстрактных спорах о том, может или не может чисто технически что-то из машинных ресурсов сотворить в интересах планирования и реализации управленческого решения. Проблема в том, что это именно не абстрактные экзерсисы, а решения, реально определяющие судьбы и благополучие людей, тысяч людей, сотен тысяч людей.
Двигаться быстро и «агрессивно» к реализации/внедрению того, что предусматривает государственно-управленческое решение, или двигаться медленнее, обстоятельнее и, если можно так выразиться, консервативнее, — все это является индивидуальным выбором конкретного должностного лица, вырабатывающего государственно-управленческое решение, руководствуясь своим личным управленческим стилем и обстоятельствами обстановки.
Подмена в императивном порядке даже части этого продуманного процесса машиной, возможно, экономит время и средства, но далеко не факт, что продвигает процесс в публичных интересах.
Существует множество наглядных примеров сбоев машинной аналитики, задействованной в обеспечении органов государственного управлении при принятии конкретных управленческих решений, что имело печальные последствия. Карен Ён кратко описывает три таких примера (мы просто совершенно вынуждены привести эту обширную красноречивую цитату).
В 2013 г. налоговые органы Нидерландов начали использовать алгоритмическую систему, в которой использовались «самообучающиеся элементы», для раннего выявления мошенничества с пособиями. Она создавала автоматические профили рисков для выявления лиц, подозреваемых в мошенничестве с пособиями, и была сконфигурирована как система «черного ящика» (в которой можно увидеть входы и выходы, но нельзя увидеть внутреннюю работу и логику), развернутая без значимого человеческого надзора. Система была настроена на исключительно жесткий режим работы, так что, например, заявители, действовавшие добросовестно и случайно допустившие незначительные административные ошибки или совершившие несвоевременный или неполный платеж, обвинялись в мошенничестве, что влекло за собой суровое наказание, требующее возврата всех полученных ими до этого пособий. В результате десятки тысяч родителей и воспитателей, в основном из малообеспеченных семей, были ложно обвинены в мошенничестве. От этих вымогательских долгов в непропорционально большой степени пострадали представители этнических меньшинств, несколько жертв покончили жизнь самоубийством, а более тысячи детей были взяты под опеку.
Аналогичный случай произошел в Австралии после того, как в 2016 г. австралийское налоговое управление начало использовать автоматизированную систему сопоставления данных для определения того, правильно ли люди платят и получают налоги и пособия. Из-за несоответствия между базовыми предположениями, на основе которых производились расчеты, и тем, как люди получали доход в течение определенного времени, почти полмиллиона человек получили незаконные автоматические уведомления о задолженности с требованием вернуть излишне выплаченные пособия, в том числе инвалиды, психически больные,
У) УНИВЕРСИТЕТА Дискреционные решения в государственном управлении имени o.e. кугафина(мгюА) на основе машинной аналитики: проблемы и риски
и многие из них были отчаянно бедны, что привело по меньшей мере к трем случаям самоубийства.
Аналогичным образом, автоматизация оценки пособий по инвалидности с помощью алгоритмической системы, используемой Департаментом социального обеспечения штата Арканзас, привела к ряду очевидно порочных решений. Например, человек с ампутированной ногой классифицировался как «не имеющий проблем с ногой» и, следовательно, нуждающийся в меньшей, а не в большей помощи. В результате пациенты с тяжелыми формами инвалидности часами напролет оставались без еды, туалета и лекарств, что негативно сказалось на половине получателей программы Medicaid в штате.
Это лишь несколько известных примеров, демонстрирующих человеческие жертвы, вызванные делегированием правительством якобы рутинных оперативных задач цифровым машинам. Эти примеры не только подчеркивают опасность такого делегирования, но и показывают, как обращение к цифровым машинам для выполнения государственных задач может изменить порядок осуществления, распределения и восприятия государственной власти таким образом, что государственная власть может осуществляться незаконно и произвольно, оказывая серьезное и разрушительное воздействие на жизнь людей, причем делать это в масштабах, но без значимой прозрачности и практических возможностей для обращения тех, кому компьютер говорит «нет»8.
Негативные последствия цифровизации внутри системы государственного управления
Мы не отрицаем всех преимуществ, детерминируемых привнесением цифровых технологических решений и ресурсов в государственное управление, но есть и «обратная сторона медали».
Цифровизация весьма нередко делает многочисленные сбои и ошибки, обусловливает проблемы внутри системы органов государственного управления, где выявляются следующие обобщенные проблемы (это «болезни» всех государств мира в той или иной степени):
— проблемность и затруднительность подтверждаемости заявлений и суждений о том, что цифровизация в государственном управлении так уж сильно экономит затрачиваемые публичные финансовые ресурсы, столь уж сильно
улучшает предоставляемые публичные услуги, так уж эффективно проявля- I
ется в борьбе с коррупцией и т.д.; С
— избыточные закрытость и сопротивление различных органов государственного управления обменам данными при чрезмерном мотивировании сообра- А
И
ш
I
□
m
С
8 Yeung K. The New Public Analytics as an Emerging Paradigm in Public Sector Administration
[Новая публичная аналитика как новая парадигма в секторе публичного управления] // □
Tilburg Law Review. 2022. Vol. 27. № 2. P. 2—3. РЕНИЕ
жениями конфиденциальности и безопасности, которые в действительности не обеспечиваются должным образом;
>
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
— рассогласование в размерностях цифровой технологизированности и технических стандартах и протоколах цифровой технологической оснащенности процессов и «узлов» государственного управления на разных уровнях, в разных ветвях и в разных элементах вневетвевой совокупности органов государственной власти, в разных структурных подразделениях одного органа государственного управления;
— рассогласование между требуемыми (ожидаемыми) данными и возможностями, обеспечиваемыми цифровыми ресурсами (в том числе и исходя из введения в заблуждение ложной рекламой), и реальными возможностями таких ресурсов;
— рассогласование между реально возможным получением данных и предоставлением возможностей, обеспечиваемых цифровыми ресурсами, и реальными возможностями, детерминированными низкими компетентностями, квалификацией и способностями сотрудников органов государственного управления;
— рассогласование между высшими управленцами, принимающими государственно-управленческие решения, которые в редких случаях разбираются в специфике технологического цифрового оснащения в государственном управлении, исполнителями-операторами этого оснащения;
— рассогласование между интересами проекта и ожиданиями в отношении обмена данными, в том числе в силу реально ничтожно малых объемов оцифрованных на сегодня документов и материалов из госархивов, кадастров, реестров;
— конфликт между публичным интересом к реально эффективно работающим ресурсам цифровизации системы и процесса государственного управления и частными коммерческими интересами крупных технологических гигантов — разработчиков и поставщиков таких ресурсов, откровенно воспринимающих такого рода госконтракты как долговременные богатейшие «золотоносные клондайки» или «нефтяные скважины» для бесконечного «выдаивания» государства и соответствующего безразмерного собственного обогащения. При этом они не берут на себя должную ответственность за качество и безопасность разрабатываемых, поставляемых, обеспечиваемых или сопровождаемых цифровых ресурсов в государственном управлении, за сохранность и безопасность оперируемых персональных и иных защищаемых законом данных в государственном управлении;
— проблема пределов дозволяемого нами (людьми) юнитам и технологиям искусственного интеллекта вмешательства в проектирование и реализацию государственно-управленческих решений, затрагивающих сколько-нибудь большие группы людей, их права, свободы и законные интересы;
— проблемы конфликтов между машиннопризводимыми и человекопроизводи-мыми прогнозами, экспертными оценками и управленческими решениями в государственном управлении.
Мы набросали те проблемы, которые, как говорится, лежат на поверхности, чтобы не усложнять настоящую статью. А есть еще и глубинные проблемы, которые не то что решаются, их и формулировать-то приходится в нечеткой логике.
И как бы это странно ни звучало, но машинная прикладная аналитика в государственном управлении во всех этих спорах — на стороне машинных ресурсов в государственном управлении, а вовсе не людей.
™^ЕСТНИК
в Я УНИВЕРСИТЕТА
/-имени О. Е. Кутафина (МГЮА)
Понкин И. В.
Дискреционные решения в государственном управлении на основе машинной аналитики: проблемы и риски
133
Заключение
Какими бы средствами прогностической аналитики мы ни обладали, будущее неопределенно и несет с собой неопределенные и плохо с позиций сегодняшнего дня прогностически определяемые проблемы.
Изложенные в настоящей статье сложности ни в коей мере не свидетельствуют в пользу того, чтобы отказаться от цифровизации в государственном управлении, и в частности от машинной аналитики, при разработке и формулировании (проектировочном задании) государственно-управленческого решения. Речь идет о том, что эти технологии следует применять взвешенно и продуманно, без излишней поспешности и преждевременных победных реляций. Нужно научиться диагностировать проблемы и риски, с этим связанные.
БИБЛИОГРАФИЯ
1. Серков П. П., Соловей Ю. П. Административное усмотрение: вопросы и ответы. Ч. 1—3 // Сибирское юридическое обозрение. — 2022. — Т. 19. — № 4. — С. 374—383 ; 2023. — Т. 20. — № 1. — С. 6—24 ; № 3. — С. 224—271.
2. Anderson C. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete [Конец теории: Наводнение данных делает научный метод устаревшим] // Wired Magazine. — 23.06.2008.
3. Bozeman B, Pandey S.K. Public Management Decision Making: Effects of Decision Content [Принятие решений в области государственного управления: Влияние содержания решения] // Public Administration Review. — 2004. — Vol. 64. — № 5. — P. 553—565.
4. The Government Analytics Handbook: Leveraging Data to Strengthen Public Administration [Справочник по правительственной аналитике: Использование данных для укрепления государственного управления] / edited by Daniel Rogger and Christian Schuster. — Washington (D. C., USA) : International Bank for Reconstruction and Development / The World Bank, 2023. — XIX. — 760 p.
5. Kersting K. No End of Theory in AI! Artificial Intelligence thrives on assumptions, theories, and data [Теориям в тематике искусственного интеллекта нет конца! Искусственный интеллект процветает благодаря предположениям, теориям и данным] // URL: https://ml-research.github.io/papers/kersting2022welt_theory. pdf.
6. Steif K. Public Policy Analytics: Code and Context for Data Science in Government [Аналитика государственной политики: Кодифицированный и контекстный подход для науки о данных в правительстве]. — Boca Raton (FL, USA): CRC Press, 2022. — XXI. — 206 p.
7. Yeung K. The New Public Analytics as an Emerging Paradigm in Public Sector Administration [Новая публичная аналитика как новая парадигма в секторе публичного управления] // Tilburg Law Review. — 2022. — Vol. 27. — № 2. — P. 1—32.
