CC BY
3
УДК 35
DOI: 10.55959/MSU2070-1381-104-2024-162-180
Риски организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта
Кузнеченко Илья Михайлович
Начальник отдела проектного управления Департамента стратегического развития и корпоративной политики, SPIN-код РИНЦ: 5107-5993, ORCID: 0000-0001-6832-6435, Ilya.kuznechenko@yandex.ru
Министерство промышленности и торговли Российской Федерации, Москва, РФ.
Аннотация
В последнее время все актуальнее становится поиск дополнительных инструментов, обеспечивающих качество организации процесса принятия решений и его реализации должностными лицами в системе государственного и муниципального управления. Традиционные подходы, основанные на официальной статистике, дают лишь «слепок реальности», то есть не всегда данных официальной статистики достаточно для понимания объективной ситуации. Такие достижения технологического прогресса на современном этапе, как аналитика больших данных и искусственный интеллект, позволяют пересмотреть научный метод познания, на практике предлагая дополнительные инструменты поддержки процесса принятия решений. Для реализации возможностей этих технологий необходимо преодолеть ряд проблем, в том числе связанных с организацией и реализацией процесса принятия решений. В исследовании предлагается к рассмотрению общая проблема неравномерного использования больших данных и искусственного интеллекта в государственном секторе с концентрацией внимания на том, как использование технологий влияет на процессы принятий решений. Отмечается определенное отставание государственного сектора от частного сектора в вопросах внедрения технологий больших данных и искусственного интеллекта и широкие возможности государства в области генерации данных по сравнению в другими хозяйствующими субъектами. В исследовании используется метод анализа научной литературы и метод кейс-стади. По результатам исследования предлагается система рисков организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта, которая вносит свой вклад в формирование процедур повышения качества решений в системе государственного управления.
Ключевые слова
Аналитика больших данных, большие данные, государственное управление, искусственный интеллект, принятие решений, система рисков.
Для цитирования
Кузнеченко И.М. Риски организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта // Государственное управление. Электронный вестник. 2024. № 104. С. 162-180. DOI: 10.55959/MSU2070-1381-104-2024-162-180
Risks of Decision-Making Organization and Implementation Based on Big Data Analytics
and Artificial Intelligence
Ilya M. Kuznechenko
Head of the Project Management Department of the Department of Strategic Development and Corporate Policy, ORCID: 0000-0001-6832-6435, Ilya.kuznechenko@yandex.ru
Ministry of Industry and Trade of the Russian Federation, Moscow, Russian Federation.
Abstract
The search for additional tools that ensure the quality of organization and implementation of the decision-making by officials in the system of national and municipal government has become more and more relevant. Traditional approaches based on official statistics provide only a "snapshot of reality," which is not always enough to understand the situation. Such achievements of technological progress, as big data analytics and artificial intelligence (hereinafter referred to as the technologies) make it possible to reconsider the scientific method of cognition that in practice offers additional tools to support the decision-making. To realize the potential of the technologies, it is necessary to overcome a number of problems, including those related to the organization and implementation of the decision-making process. The author considers the overall issue of uneven use of big data and artificial intelligence in the public sector, focusing on how the use of the technologies influences decision-making processes. There is a certain lag between the public sector and the private sector in the implementation of big data and artificial intelligence technologies and the wide opportunities of the government in the field of data generation compared to other economic entities. The research is based on the scientific literature analysis and case study methods. Based on the results of the study, the system of risks for organizing and implementing the decision-making process based on big data analytics and artificial intelligence is developed, which contributes to the formation of procedures for improving the quality of decisions in the system of public administration.
Keywords
Big Data analytics, Big Data, public administration, artificial intelligence, decision-making, risk system. For citation
Kuznechenko I.M. (2024) Risks of Decision-Making Organization and Implementation Based on Big Data Analytics and Artificial Intelligence. Gosudarstvennoye upravleniye. Elektronnyy vestnik. No. 104. P. 162-180. DOI: 10.55959/MSU2070-1381-104-2024-162-180
Введение
Настоящая статья представлена в рамках программы исследования, изложенной в других работах автора [Кузнеченко 2023; Кузнеченко 2024].
Большие данные являются в достаточной мере дискуссионным термином, преимущественно обозначающим массивные, разнообразные и динамичные наборы данных, которые трудно или невозможно обрабатывать традиционными средствами [Kitchin 2013]. Изначально термин использовался в буквальном смысле, но впоследствии появились более сложные онтологические оценки [Boyd, Crawford 2012; Mayer-Schonberger, Cukier 2013].
Большие данные могут рассматриваться как альтернативный источник информации, как отличающиеся от данных, используемых в классической статистике для принятия решений в области государственного управления.
В традиционной статистике процесс сбора и обработки данных проводится по определенной методологии, строгое соблюдение которой является важным условием получения успешных результатов. Таким образом, классические статистические данные, как правило, имеют четкую структуру, но, с другой стороны, основываются и на допущениях, например, в части соответствия отобранной выборки структуре генеральной совокупности. Сам анализ направлен на проверку или опровержение предварительно сформулированных гипотез [Miller 2010], выражающих конкретные, заранее сформулированные вопросы исследователей. В свою очередь, заранее заданная цель анализа устанавливает определенные границы для результата [Kitchin 2014].
Анализ больших данных представляет собой процесс извлечения полезной информации из огромных, разнородных, быстро генерируемых данных, не требующих предварительной структуризации и не имеющих заранее определенной цели сбора, зачастую являющихся «побочным» продуктом операционной деятельности, например транзакций или коммуникаций, поэтому к такому набору данных может применяться множество различных описательных моделей, могут быть подобраны лучшие [Siegel 2013], позволяющие точнее проводить экстраполяцию, что для теории принятия решений может означать более точное прогнозирование развитий событий в связи с принятием того или иного решения.
Некоторые авторы1 утверждают, что большие данные делают научный метод устаревшим, так как содержат закономерности и взаимосвязи, порождающие знания о сложных явлениях без необходимости построения теории: «Ученым больше не нужно делать обоснованные предположения, строить гипотезы и модели, проверять их с помощью экспериментов и примеров, основанных на данных. Вместо этого они могут собирать большие наборы данных для выявления закономерностей, раскрывающих влияние [эффекты], и делать научные выводы без дальнейших экспериментов» [Prensky 2009, 4].
Другими словами, аналитика больших данных обеспечивает совершенно новый эпистемологический подход к осмыслению мира; вместо того, чтобы проверять теорию и получать знания путем анализа данных, аналитика больших данных стремится получить знание, «рожденное из данных» [Kitchin 2014].
Особенностью анализа больших данных является интеграция разрозненных наборов данных и выявление скрытых или неочевидных корреляций, которые человеку сложно интерпретировать [Desouza, Jacob 2014]. В этой связи реальную опасность представляют выводы тех
1 Anderson C. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete // Wired [Электронный ресурс]. URL: https://www.wired.com/2008/06/pb-theory/ (дата обращения: 04.04.2024); Dyche J. Big data 'Eurekas!'don't just happen // Harvard Business Review Blog [Электронный ресурс]. URL: https://hbr.org/2012/11/eureka-doesnt-just-happen (дата обращения: 04.04.2024); Steadman I. Big Data and the Death of the Theorist // Wired [Электронный ресурс]. URL: https://www.wired.com/story/big-data-end-of-theory/ (дата обращения: 04.04.2024).
исследователей и практиков, которые далеки от реалий государственного управления и занимаются обсуждением использования технологических решений без понимания последствий [Barth, Arnold 1999].
Учитывая столь оптимистичные оценки, в том числе данные эмоционально сдержанными представителями научного сообщества, можно лишь предположить влияние подобных возможностей на должностных лиц, когда технологическое развитие позволит принимать сравнительно более точные решения без понимания причинно-следственных связей. Существуют все основания полагать, что «на практике государственные служащие будут широко и безоглядно полагаться на выводы алгоритмов» [Умнова-Конюхова, Ловцова 2020, 168].
В этой связи формирование системы рисков организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта видится актуальным.
Функциональная основа внедрения технологий больших данных и искусственного интеллекта в систему государственного управления
В настоящее время отмечается отставание государственного сектора от частного в вопросах внедрения технологий больших данных и искусственного интеллекта. Тем не менее ни один хозяйствующий субъект, в том числе Google, Amazon или «Яндекс», не обладает такими возможностями генерации данных, как государство: «Будучи одними из крупнейших создателей и сборщиков данных, во многих странах государственные администрации ищут способы использовать технологии больших данных <...>, однако фактическое использование больших данных в государственном секторе остается очень ограниченным» [Guenduez et al. 2020, 1].
Развитие вычислительной техники, аналитических методов, а также снижение стоимости обработки и анализа с учетом возросшей скорости генерации данных являются предпосылками для более интенсивного внедрения и использования технологий больших данных и искусственного интеллекта должностными лицами.
Ученые, осознавая огромный потенциал генерации данных государством, все больше вовлекаются в политическую проблематику, связанную с ограниченным внедрением технологий в бюрократические процессы, в том числе в части принятия решений. В свою очередь, принятие решений на основе технологий больших данных и искусственного интеллекта не является стратегической целью государственного управления на данный момент [Poel et al. 2018; Kaski et al. 2019].
Некоторые исследователи, стремясь расширить область применения технологий, исследуют управленческие типы государственных служащих [Guenduez et al. 2020], выявляют трудности взаимодействия между аналитиками данных и должностными лицами, принимающими решения [Van der Voort et al. 2019], отмечают недостаточность инфраструктуры [Klievink et al. 2017].
Для дальнейшего эффективного внедрения технологий в бюрократические процессы необходимо проводить исследования на уровне конкретных случаев (вариантов использования) для определения того, в каких направлениях государственного сектора преимущества технологий могут быть реализованы (с учетом этических аспектов).
Концентрация исследователей на изучении кейсов [Desouza, Jacob 2014; Van der Voort et al. 2019; Currie 2020] может способствовать совершенствованию процесса внедрения технологий в государственные структуры с минимизацией рисков нежелательных последствий.
Альтернативная статистика
Три фактора способствуют внедрению и использованию технологий больших данных в государственном секторе [Giest 2017]. В первую очередь это организаторский потенциал, который позволяет формировать условия для внедрения технологий больших данных и обеспечивать прикладные решения в ситуациях отсутствия единой структуры данных. Вторым фактором является расширение процессов цифровизации услуг. Применение цифровых технологий позволяет как генерировать данные, так и выстраивать процессы, способствующие более эффективному взаимодействию между существующими массивами данных. Третий фактор — зависимость использования технологий больших данных и аналитики в государственном секторе от изменения политического цикла. Несмотря на доказанный прогресс в использовании преимуществ больших данных и аналитики в государственном секторе [Poel et al. 2018], для использования всех преимуществ технологий требуется значительное изменение политической стратегии [Höchtl et al. 2016].
В политических процессах выделяется процессуальная и содержательная роль больших данных [Giest 2017]. Процессуальная роль заключается в нормативном регулировании, например, в части обеспечения доступа к открытым данным. Содержательная роль связана со сбором данных с целью их дальнейшего использования в политических процессах. Для успешной реализации доказательной политики необходимо учитывать три ключевых элемента управления: продолжающуюся цифровизацию, содержательную и процедурную роль больших данных.
Российская государственная статистика является одним из ключевых элементов информационного обеспечения системы принятия решений на всех уровнях управления обществом, государством и бизнесом [Оксенойт 2018]. Содержательная роль больших данных в государственном управлении может быть рассмотрена в контексте сбора, обработки и использования данных для создания альтернативной статистики.
Формирование альтернативной статистики предусматривает определение преимуществ и недостатков между традиционными статистическими методами и статистикой больших данных. В литературе выделяются четыре основные причины того, почему традиционные статистические методы могут иметь преимущества перед статистикой больших данных [Vydra, Klievink 2019]. Первая связана с широким спектром различных традиционных индикаторов, которые совершенствовались на протяжении длительного периода времени. Вторая заключается в том, что в рамках традиционных методов существует возможность сравнения данных в историческом процессе, что позволяет выявить причинно-следственную связь между конкретными политическими решениями и результатами. Третья причина связана с наличием институционального доверия к данным, полученным в рамках традиционных методов. Здесь же можно отметить и наработанную за десятилетия согласованность интерпретации классических показателей экспертами, политиками, государственными органами и различными организациями, которая позволяет добиться консенсуса в отношении того, как измерять, сравнивать и использовать показатели, в том числе в рамках построения прогнозных моделей. Четвертая причина состоит в том, что традиционные статистические данные могут быть сопоставимы на международном уровне, что обеспечивает возможность сравнения и анализа данных между различными странами и наднациональными структурами. В свою очередь, источники больших данных различны от страны к стране и не могут контролироваться национальными статистическими учреждениями, так как большие данные в массе своей находятся в частной собственности.
Однако, как указано выше, традиционная аналитика предполагает сбор массивов данных под заранее определенную цель (сформированная гипотеза), а потому традиционную статистику можно назвать «слепком действительности». В свою очередь, генерация и последующий анализ
больших данных зачастую происходят в реальном времени, позволяя одновременно использовать десятки различных методов для построения прогнозных моделей.
Несмотря на все трудности, отмечается необходимость совершенствования информационного обеспечения процесса государственного управления с использованием больших данных [Морозов 2018], в том числе посредством создания процессов обеспечения качества генерации больших данных национальными статистическими учреждениями [Dumbacher, Hutchinson 2016; Hackl 2016]. Чаще всего2 большие данные используются в статистике цен, туризма и населения, транспорта и труда [Исаков и др. 2021; Бабкин 2021]. Исследования также подтверждают, что большие данные «умного» города могут использоваться для создания новой официальной статистики [Kitchin, Stehle 2021]. При этом отмечается необходимость сотрудничества между национальными статистическими учреждениями и организациями, генерирующими данные, для внедрения процедур и стандартов, которые обеспечат согласованные долгосрочные (исторически сопоставимые) наборы данных.
Успешная интеграция технологий больших данных в бюрократические процессы даст уникальную возможность мониторинга динамики событий с формированием сценариев развития, особенностью которых можно назвать фиксацию данных, начиная с момента принятия решения (реализации решения) и заканчивая оценкой результатов не только на макроуровне, но и на уровне конкретного хозяйствующего субъекта (мирохозяйственном уровне).
В докладе3 Всемирного банка от 2021 года подчеркивается важность формирования инструментов взаимодействия между поставщиками и потребителями данных, разработчиками и институциональными структурами в целях успешного перехода к экономике, управляемой на основе данных. Структуры управления должны быть адаптированы к конкретным потребностям и уровню зрелости органа власти. Большое внимание должно уделяться вовлеченности первых лиц: «система управления работой с данными должна быть одобрена и поддержана высшим руководством, а также находиться под их постоянным контролем» [Елизаров и др. 2021, 55].
Одним из существенных факторов, препятствующих широкому внедрению технологий больших данных в государственное управление, является скептицизм высших должностных лиц [Guenduez et al. 2020; Tiguint 2021; Ясыченко 2022].
Построение системы рисков принятия решений на основании альтернативных источников информации может служить основанием для формирования процедур обеспечения качества, в том числе для политически чувствительных решений, что благоприятно повлияет на эффективность принимаемых решений и расширит область применения технологий в государственном управлении.
Система рисков организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта
Риск дискриминации и ошибок
При анализе взаимоотношений между человеком и компьютерным алгоритмом в контексте процесса принятия решений исследователи выделяют четыре типа систем в зависимости от выбора доминирующего субъекта взаимоотношений. Система Д. Данэйера (D. Danaher) основывается на степени доминирования алгоритма, в то время как система М. Гала (M. Gal) — на типах предпочтения пользователя [Danaher 2020; Gal 2018]. Обе системы являются важными для понимания процесса принятия решений в условиях современных технологий.
2 Доклад Глобальной рабочей группы по вопросам использования больших данных для целей официальной статистики. С. 5-6 // ООН [Электронный ресурс]. URL: https://unstats.un.org/unsd/statcom/47th-session/documents/2016-6-Big-data-for-official-statistics-R.pdf (дата обращения: 03.04.2024).
3 World Development Report 2021: Data for Better Lives // World Bank [Электронный ресурс]. URL: https ://www.worldbank. org/en/publication/wdr2021 (дата обращения: 14.04.2024).
Средства электронной алгоритмизации управления чувствительны к разным формам социальной дискриминации [O'Neil 2016], однако при разработке алгоритма государственные администрации имеют возможность исключить основные параметры, по которым может проявляться дискриминация, например религию, национальность и расу [Brauneis, Goodman 2017].
Недостаточное взаимопонимание между алгоритмистами, которые, как правило, являются математиками, и гуманитариями может приводить к ошибкам в алгоритмах [Овчинский, Ларина 2018], учет и решение которых предполагает ответы на сложные, неоднозначные вопросы. В рамках теории принятия решений в государственном управлении можно выделить два особенно значимых вопроса. Во-первых, на ком лежит ответственность за неточные решения должностных лиц, вызванные ошибочными выводами алгоритмов? Во-вторых, на ком лежит ответственность за неточные решения должностных лиц при математической корректности выводов алгоритмов?
Формирование процедур обеспечения качества принятия решений начинается с рискориентированного подхода, который включает классификацию факторов, вызывающих ошибки: «ошибки могут вызываться неполноценной индуктивной аргументацией, некорректным выбором и вводом данных, неверной оценкой факторов, сбоями в обеспечивающих работу алгоритма электронно-вычислительных машинах, программном обеспечении, сбоями в самом коде алгоритма и т. п.» [Умнова-Конюхова, Ловцова 2020, 257]. Некорректный сбор и последующий ввод данных для обработки искусственным интеллектом может привести к необъективной картине, созданной таким алгоритмом [Chiao 2019]. Если надзорный орган ошибочно обнаружит, что конкретное лицо подпадает под некую «цифровую модель нарушений», на него могут быть наложены обременения или даже санкции. Ошибочные действия, которые финансируются за счет бюджетных средств, могут привести к дополнительным затратам для тех, кто подозревается в нарушении, из-за недостаточного понимания алгоритмов. Подобные ситуации приводят к высоким социально-экономическим издержкам для граждан и предприятий, пострадавших от необоснованных ограничений, а также к неэффективному расходованию бюджетных средств4. Кроме того, человеку, которого обвиняют в нарушении, может быть трудно доказать5, что выводы алгоритма неверны.
Правоведы и юристы рассматривают данный риск в контексте проблемы источника права в информационных системах [Амелин 2021; Чаннов 2021]. Отмечается, что должностные лица, ответственные за принятие решений, получают все меньше информации для оценки обоснованности своих решений.
Снижение (митигация) риска может рассматриваться в рамках дальнейшего развития норм, аналогичных тем, что изложены в пункте 1 статьи 22 «Общего регламента по защите данных»6 (далее — Общий регламент), предоставляющих лицу право не подпадать под действие решения, основанного исключительно на автоматической обработке, включая профилирование, вследствие чего исключаются существенное воздействие в отношении субъекта данных, приводящее к чувствительным юридическим последствиям. Если лицо все же выразило согласие на автоматизированный процесс принятия решений в отношении него, то, в соответствии с пунктом 3 статьи 22 Общего регламента, данное лицо наделяется правами требовать (в случае необходимости) вмешательства человека (со стороны контролера), а также оспаривать решение и выражать свою точку зрения.
4 Wyludzenie VAT: przedsiebiorcy zloz_yli skarge do Kopacz na fiskusa // Rzeczpospolita [Электронный ресурс]. URL: https://www. rp.pl/podatki/art11493921-wyludzenie-vat-przedsiebiorcy-zlozyli-skarge-do-kopacz-na-fiskusa (дата обращения: 04.04.2024).
5 Bad software sent postal workers to jail, because no one wanted to admit it could be wrong // The Verge [Электронный ресурс]. URL: https://www.theverge.com/2021/4/23/22399721/uk-post-office-software-bug-criminal-convictions-overturned (дата обращения: 16.04.2024).
6 Статья 22. Автоматизированное принятие решений о человеке, в том числе профилирование // GDPR [Электронный ресурс]. URL: https://ogdpr.eu/ru/gdpr-2016-679/glava-3-prava-subekta-dannyh/statya-22-avtomatizirovannoe-prinyatie-reshenij-o-cheloveke-v-tom-chisle-profilirovanie (дата обращения: 16.04.2024).
Классификация всех основанных на искусственном интеллекте систем по уровню риска (от низкого до приемлемого) нашла поддержку Европейского парламента в законе по регулированию искусственного интеллекта7.
Риски невозможности интерпретации данных
Данный риск на текущем этапе трансформации государственного управления часто рассматривается как проблема «черного ящика» (black box), включая вопросы этики искусственного интеллекта и транспарентности. Под «черным ящиком» понимается алгоритм, для которого известны лишь входные и выходные данные, являющиеся неким подобием человеческих выводов [Burrell 2016; Ananny 2016; Pasquale, Frank 2018]. «Черный ящик» в основном наблюдается в нейронных сетях при глубоком машинном обучении на основании больших данных: «Преимущества искусственного интеллекта и, прежде всего, машинного обучения имеют обратную сторону — чрезмерную сложность и неочевидность алгоритмов для человека, а, следовательно, недостаток их транспарентности» [Умнова-Конюхова, Ловцова 2020, 168].
В целях формирования системы рисков мы соглашаемся с необходимостью подразделять проблематику на «технический черный ящик» (technical black box) и «правовой черный ящик» (legal black box) [Liu et al. 2019]. «Правовой черный ящик» будет рассмотрен нами в рамках риска конфиденциальности алгоритмов и моделей, так как ограничения, мешающие пониманию, скорее обуславливаются соблюдением юридических процедур. В свою очередь, в ситуации «технического черного ящика» никто, включая профильных специалистов в области программирования, не может прийти к пониманию того, как искусственный интеллект приходит к конкретному выводу [Stahl 2021].
В настоящее время использование выводов алгоритмов искусственного интеллекта не имеет решающего значения, а необъяснимость алгоритмов в будущем «не станет препятствием для их использования государственными органами» [Coglianese, Lehr 2019, 47]. Однако следует отметить, что данное утверждение не может быть принято как аксиома, поскольку недостаточно исследованы потенциальные риски использования алгоритмов искусственного интеллекта в государственном управлении и не разработаны системы контроля организации процесса принятия решения, в том числе в части определения механизмов ответственности для обеспечения эффективного и надежного функционирования таких систем.
В свою очередь, в условиях отсутствия понимания при «техническом черном ящике» построение систем контроля видится проблематичным и даже нереалистичным. В этом случае можно предложить компромисс, выраженный в замене объекта контроля. Так, в целях принятия того или иного решения система контроля может быть смещена с «технического черного ящика» на верификацию выводов интеллектуальных систем (определения степени доверия), в том числе на основании консенсуса группы должностных лиц.
Риск конфиденциальности алгоритмов и моделей
Под «правовым черным ящиком» понимается ограничение доступа к работе алгоритма, обусловленное необходимостью защиты патентных прав на коды и статистические модели в связи с правовой защитой коммерческой тайны [Liu et al. 2019]. Алгоритм как объект интеллектуальной собственности может быть источником конкурентного преимущества для хозяйствующих субъектов.
Примером высокой степени общественной чувствительности при неблагоприятном стечении обстоятельств является судебное разбирательство в США State vs Loomis8, где на основании
7 Artificial Intelligence Act // European Parliament [Электронный ресурс]. URL: https://www.europarl.europa.eu/doceo/ document/TA-9-2024-0138 EN.pdf (дата обращения: 16.04.2024).
8 State v. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing // Harvard Law Review [Электронный ресурс]. URL: https://harvardlawreview.org/print/vol-130/state-v-loomis/ (дата обращения: 16.04.2024).
заключения системы COMPAS обвиняемый был приговорен к шести годам тюремного заключения вместо ожидаемого условного срока, что вызвало большой общественный резонанс.
Фирма Equivant (Northpointe), являющаяся владельцем системы, не раскрывала механизм работы алгоритма, что затрудняло понимание причины принятого решения и вызвало вопросы о прозрачности и справедливости автоматизированных систем. В результате широкого освещения судебного процесса и исследований, проведенных группой ученых портала Propublica.org, было установлено, что алгоритм, используемый в судебных процессах, снижает вероятность освобождения под залог и условно-досрочного освобождения латиноамериканцев, незаконно проживающих на территории США, а также афроамериканцев с доходом выше прожиточного минимума, но ниже дохода представителей среднего класса. Первое утверждение является достаточным для формирования общественного консенсуса о правильности вывода, в то время как второе суждение вызвало дискуссии, что стало причиной обвинений в дискриминации и временной приостановки использования вышеуказанной системы.
В итоге сформированная независимая группа ученых проанализировала алгоритм и назвала его математически верным, не содержащим ошибок в коде, что вызвало разногласия в научном сообществе: некоторые выступали против дальнейшей критики [Flores et al. 2016]9, в то время как другие продолжали считать алгоритм дискриминационным10.
В связи с исключительной важностью публичных интересов, лежащих в основе государственного управления, предлагается рассмотреть ограничение коммерческой тайны [Liu et al. 2G19] или ее привилегированности в судопроизводстве [Wexler 2017].
Следует отметить, что в Российской Федерации в 2G2G году только 0,8% организаций государственного и муниципального управления, использующих технологии сбора, обработки и анализа больших данных, привлекали для этого сторонние организации [Катин, Хохлов 2021].
Одним из ограничений публичного раскрытия алгоритмов в рамках системы государственного управления является ситуация, когда алгоритмы используются бюрократическим аппаратом для осуществления контрольных функций. При реализации контрольных процедур раскрытие методов и моделей алгоритмов может привести к их неэффективности [Maciejewski 2G17] или преднамеренному манипулированию [Brauneis, Goodman 2017].
Компромиссным решением может быть раскрытие применяемого в государственном управлении алгоритма в рамках круга заинтересованных сторон или экспертного комитета на условиях конфиденциальности [Liu et al. 2019]. Однако правовое закрепление требований к раскрытию алгоритмов не обязательно приводит к их объяснимости [Brauneis, Goodman 2017], переходя в сферу управления риском невозможности интерпретации данных.
Риск подмены понятий при принятии решений
При принятии политиками решений на основе аналитики больших данных существует риск подмены понятий, когда простую корреляцию можно принять за причинно-следственную связь [McAfee, Brynjolfsson 2012]. Опасность такой ситуации заключается в том, что политики могут манипулировать не самими данными и их качеством, а интерпретацией этих данных, оправдывая свои политические решения повесткой дня [Nelkin 1975; Kogan 1999; Walker 2GGG; Marmot 2004]. С учетом роста количества новых источников данных, методов и размера самих данных становится все проще аргументировать практически любое политическое вмешательство как «базирующееся на фактах», что значительно расширяет пространство для «политической игры» [Vydra, Klievink 2019].
story (дата обращения
Невозможно исключить ошибки в процессе принятия решений даже при использовании только достоверной информации, которая бы проясняла состав доступных альтернатив и возможностей государственного реагирования [Howlett 2009].
Сама по себе методология обработки и интерпретации данных человеком несет в себе субъективизм, при котором предубеждения могут влиять на методологию работы с данными [Crawford et al. 2014]. При формулировании алгоритма разработчик может иметь в уме «предполагаемое» решение, отдавая предпочтение одним ценностям и интересам в ущерб другим [Mittelstadt et al. 2016; Liu et al. 2019]. Принятие решений, основанных на идеологии, общественном мнении, ценностях и традициях, считается менее объективным [Sabatier 1991; Holt 2008; Marchi et al. 2016]11. Ситуация, когда политик принимает решения на основе выводов, сделанных в рамках научных исследований, является более предпочтительной, чем принятие решений на основе чувств и эмоций12. Однако и в этом случае существуют риски: ответственное лицо может быть введено в заблуждение, находясь под финансовым или моральным давлением компаний, лоббирующих свои интересы, что влияет на результаты научных исследований и может привести к их преднамеренной фальсификации [Rosenstock, Lee 2002].
Исследования показывают, что большие данные не имеют значительного влияния на легитимацию решений должностных лиц (политиков). Однако «кейс Милана» показывает, что политики склонны манипулировать источниками генерации больших данных для объяснения (оправдания) собственной повестки [Van der Voort 2019]. Кроме того, наблюдается тенденция к тому, что аналитики данных становятся автономными участниками системы государственного управления и влияют на принятие окончательного решения; отмечается рост значения визуализации в интерфейсах и увеличение роли дизайнеров как связующего звена между аналитиками данных и политиками, что позволяет последним лучше усваивать информацию и, соответственно, реагировать на нее.
Риск эмоциональной экзальтации
Социальные сети образуют один из классов13 источников больших данных. Однако семантика текстов в интернет-среде может быть искажена из-за формирования «социальных пузырей» [Балацкий, Екимова 2008]. Существует мнение, что комментарии в сети Интернет часто пишут люди, склонные к эмоциональной экзальтации [Балацкий, Юревич 2018], которые не представляют значительную часть населения. В то же время люди, обладающие более полной информацией, и профессионалы часто не участвуют в интернет-дискуссиях.
При использовании онлайновых публикаций в качестве источника информации для принятия решений необходимо учитывать возможное наличие ложной информации, например ложных отзывов [Муминова 2022], которые могут искажать объективную картину и привести к значительным экономическим и социальным последствиям. Для борьбы с ложными отзывами существуют алгоритмы их выявления [Budhi et al. 2021].
Ослабление риска может быть достигнуто путем построения систем принятий решений, ориентированных на учет множества различных источников генерации больших данных.
11 См. также: Scott C. Measuring up to the Measurement Problem // Paris21 [Электронный ресурс]. URL: https://paris21.org/ sites/default/files/MUMPS-full.pdf (дата обращения: 31.03.2024).
12 Bartlett S.J. The Case for Government by Artificial Intelligence // SSRN [Электронный ресурс]. URL: https://papers.ssrn.com/ sol3/papers.cfm?abstract id=3089920 (дата обращения: 31.03.2024).
13 Доклад Глобальной рабочей группы по вопросам использования больших данных для подготовки официальной статистики // ООН [Электронный ресурс]. URL: https://unstats.un.org/unsd/statcom/doc15/2015-4-BigData-R.pdf (дата обращения: 03.04.2024).
Риск делегирования полномочий и ответственности
Разработка алгоритмического процесса включает несколько сложных этапов: создание моделей для достижения целей на основе анализа исторических данных; программирование алгоритма для реализации модели; сбор данных для ввода в алгоритм; обработка данных с помощью алгоритма; предоставление результатов в виде прогнозов или рекомендаций [Умнова-Конюхова, Ловцова 2020]. Эти этапы требуют соответствующей подготовки специалистов и наличия сложной инфраструктуры, отсутствующей в большинстве органов государственного управления [Zarsky 2013; Kroll et al. 2017; Brauneis, Goodman 2018; Катин, Хохлов 2021], что предопределяет необходимость заключать с частными компаниями контракты на разработку и последующее обслуживание используемых в государственном управлении алгоритмов [Glicksman et al. 2017; Brauneis, Goodman 2018].
В связи с дефицитом квалифицированных кадров рассматривается возможность передачи крупномасштабных задач на аутсорсинг через открытые турниры14. Данные турниры позволяют привлекать недорогие таланты для решения поставленных задач и сформулированных проблем. Однако такой подход не является универсальным решением, поскольку сопряжен с риском снижения эффективности, изначально предполагая дублирование усилий. Турниры наиболее эффективны при спокойном отношении организаторов к проектному риску и при наличии достаточного запаса рабочей силы [Glaeser et al. 2016].
Растущая роль новых субъектов государственного управления, ранее не входивших в «традиционную» штатную численность государственного аппарата, поднимает практические вопросы, связанные с обеспечением качества проведения конкурсных процедур. Стоит также отметить, что совершенно неясно, достаточны ли текущие требования к участникам государственных закупок, которые не предусматривают сравнение результатов работы алгоритмов, предложенных разными поставщиками.
Кроме этических проблем, упомянутых выше, для определения ответственности за последствия принятых решений также возникает необходимость создания системы безопасности, включающей не только защиту от хакерских атак, но и предотвращение неправомерного использования больших данных людьми, имеющими к таким данным законный доступ. Конфликт между ограничением доступа к информации для контроля и вовлечением большего количества участников в процессы управления является базовым конфликтом15, отражающим изменения в процессах принятия решений под влиянием больших данных при усилении сетевых взаимодействий в управлении.
Группа экономических рисков
В исследовании16 Центра стратегических разработок, основанном на опросе 673 должностных лиц из различных сфер социально-экономической жизни 46 субъектов Российской Федерации, в составе системных выводов были определены экономические риски. Под ними подразумевается вероятность неблагоприятного стечения обстоятельств, когда затраты на внедрение искусственного интеллекта не принесут ожидаемого экономического эффекта в краткосрочной и среднесрочной перспективе. Более того, существует мнение, что внедрение искусственного интеллекта может привести к скрытым расходам, которые значительно превысят первоначальные инвестиции и
14 Определены победители хакатона Счетной палаты: лучшие проекты Data Audit // Счетная палата [Электронный ресурс]. URL: https://ach.gov.ru/news/opredeleny-pobediteli-khakatona-schetnoy-palaty-luchshie-proekty-data-audit (дата обращения: 03.04.2024).
15 Schrage M. How the Big Data Explosion Has Changed Decision Making // Harvard Business Review [Электронный ресурс]. URL: https://hbr.org/2016/08/how-the-big-data-explosion-has-changed-decision-making (дата обращения: 03.04.2024).
16 Перспективы и проблемы использования технологий Искусственного интеллекта в регионах Российской Федерации // Центр стратегических разработок [Электронный ресурс]. URL: https://www.csr.ru/upload/iblock/82f/tse64fmdsetwhhpd6e 57a3wjtsud6mdx.pdf (дата обращения: 03.04.2024).
увеличат стоимость проекта на этапах внедрения и эксплуатации. При отсутствии эффекта экономии, например выраженного в снижении организационных, процессных, операционных и иных затрат текущей деятельности государственной организации, может возникнуть ситуация, приводящая к дополнительной нагрузке на бюджет в среднесрочной перспективе.
Учитывая вышеизложенное, можно предположить, что управление рисками связано с мероприятиями, направленными на финансовое обеспечение внедрения и эксплуатации систем, использующих большие данные и искусственный интеллект, с частным выделением вопросов ценности данных и их монетизации.
В 2014 году в отчете17 Управления экономики и статистики Министерства торговли США была отмечена ценность правительственных данных при их объединении с цифровыми платформами частных компаний. Подобное объединение может способствовать инновациям, созданию рабочих мест и принятию решений в секторах, которые активно используют государственные данные в производственных процессах. Сотрудничество университетов, государственного и частного сектора также является необходимым условием для развития технологий искусственного интеллекта [Mikhaylov et al. 2018].
Для более активного внедрения технологий в государственное управление актуальным является поиск и определение подходов к сотрудничеству. Среди подходов, широко обсуждаемых в научной литературе, выделяется государственно-частное партнерство.
Государственно-частное партнерство является важным инструментом для привлечения дополнительных финансовых ресурсов [Medda et al. 2013] в условиях ограниченности государственного финансирования или инвестиций [Cheung et al. 2009]. В свою очередь, основанием для государственных инвестиций является оценка существующих резервуаров данных для изучения и определения типа данных, собираемых государственными организациями [Desouza, Jacob 2014]. Данный шаг позволит определить характеристики организаций, способных генерировать большие данные и извлекать из них ценность, для поддержки различных типов процессов принятия решений. Отмечается возможность извлечения ценности из архивных оцифрованных данных или так называемых вторичных данных18.
Заключение
Таким образом, в настоящем исследовании обозначены влияние технологий больших данных и искусственного интеллекта на научный метод познания, выявлены и охарактеризованы некоторые риски организации и реализации процесса принятия решений на основании аналитики больших данных и искусственного интеллекта.
Выявленные риски принятия решений имеют системный характер. Описание системных взаимосвязей между ними может стать направлением дальнейших исследований автора и основой для формирования процедур обеспечения качества, в том числе для политически чувствительных решений. Это благоприятно повлияет на эффективность принимаемых решений и расширит область применения инновационных технологий в государственном управлении.
Список литературы:
Амелин Р.В. Информационные системы как правовой инструмент воздействия на общественные отношения: анализ российской и мировой практики // Известия Саратовского университета. Новая серия. Серия: Экономика. Управление. Право. 2021. Т. 21. №4. С. 445-452. DOI: 10.18500/1994-2540-2021-21-4-445-452
17 Fostering Innovation, Creating Jobs, Driving Better Decisions: The Value of Government Data // Economics and Statistics Administration, US Department of Commerce [Электронный ресурс]. URL: https://www.commerce.gov/sites/default/files/ migrated/reports/revisedfosteringinnovationcreatingjobsdrivingbetterdecisions-thevalueofgovernmentdata.pdf (дата обращения: 03.04.2024).
18 How States Use Data to Inform Decisions // The Pew Trusts [Электронный ресурс]. URL: https://www.pewtrusts.org/-/media/ assets/2018/02/dasa how states use data report v5.pdf (дата обращения: 03.04.2024).
Бабкин Р.А. Опыт использования данных операторов сотовой связи в зарубежных экономико-географических исследованиях // Вестник Санкт-Петербургского университета. Науки о Земле. 2021. № 66(3). С. 416-439. DOI: 10.21638/spbu07.2021.301
Балацкий Е.В., Екимова Н.А. Прогнозирование настроений населения и идентификация «социальных пузырей» // Мониторинг общественного мнения. 2008. № 1(85). С. 62-71.
Балацкий Е.В., Юревич М.А. Измерение инфляционных ожиданий: традиционные и новаторские подходы // Вестник Санкт-Петербургского университета. Экономика. 2018. Т. 34. № 4. С. 534-552. DOI: 10.21638/spbu05.2018.403
Елизаров А.М., Паджев В.В., Хохлов Ю.Е. Система управления и механизмы финансирования работы с большими данными // Информационное общество. 2021. № 4-5. С. 53-65. DOI: 10.52605/16059921 2021 04 .53
Исаков А., Латыпов Р., Репин А., Постолит Е., Евсеев А., Синельникова-Мурылева Е. Твердые цифры: открытые микроданные о потребительских ценах // Деньги и кредит. 2021. Т. 80. № 1. С. 104-119. DOI: 10.31477/rjmf.202101.104
Катин А.В., Хохлов Ю.Е. Мониторинг использования технологий работы с большими данными в системе государственного управления в России // Информационное общество. 2021. № 4-5. С. 150-165. DOI: 10.52605/16059921 2021 04 150
Кузнеченко И.М. Большие данные и искусственный интеллект в государственном управлении: анализ теории и выделение российских научных сообществ // Информационное общество. 2023. № 4. С. 127-146. DOI: 10.52605/16059921 2023 04 127
Кузнеченко И.М. Большие данные и искусственный интеллект, как факторы трансформации системы государственного управления // Экономическое развитие России. 2024. Т. 31. № 2. С. 113-128.
Морозов А.Н. Альтернативные источники статистической информации как основа принятия политических решений // Вопросы государственного и муниципального управления. 2018. № 2. С. 50-70.
Муминова С.Р. Технологии искусственного интеллекта как инструмент государственного управления в туризме // Среднерусский вестник общественных наук. 2022. Т. 17. № 5. С. 172-182. DOI: 10.22394/2071-2367-2022-17-5-172-182
Овчинский В.С., Ларина Е. Искусственный интеллект: Большие данные. Преступность. М.: Книжный мир, 2018.
Оксенойт Г.К. Цифровая повестка, большие данные и официальная статистика // Вопросы статистики. 2018. Т. 25. № 1. С. 3-16.
Умнова-Конюхова И.А., Ловцова Д.А. Государство и право в новой цифровой реальности. М.: РАН. ИНИОН, 2020.
Чаннов С.Е. Использование цифровых технологий в сфере публичного управления // Известия Саратовского университета. Новая серия. Серия: Экономика. Управление. Право. 2021. Т. 21. № 4. С. 419-428. DOI: 10.18500/1994-2540-2021-21-4-419-428
Ясыченко А.И. Большие данные в сфере электронных государственных и муниципальных услуг // Информационные технологии в управлении и экономике. 2022. № 3(28). С. 30-38.
Ananny M. Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness // Science, Technology, & Human Values. 2016. Vol. 41. Is. 1. P. 93-117. DOI: 10.1177/016224391560652
Barth T., Arnold E. Artificial Intelligence and Administrative Discretion: Implications for Public Administration // The American Review of Public Administration. 1999. Vol. 29. Is. 4. P. 332-351. DOI: 10.1177/0275074992206446
Boyd D., Crawford K. Critical Questions for Big Data. Information // Communication & Society. 2012. Vol. 15. Is. 5. P. 662-679. DOI: 10.1080/1369118X.2012.678878
Brauneis R., Goodman E.P. Algorithmic Transparency for the Smart City // Yale Journal of Law & Technology. 2018. Vol. 20. DOI: 10.2139/ssrn.3012499
Budhi G.S., Chiong R., Wang Z., Dhakal S. Using a Hybrid Content-based and Behavior-based Featuring Approach in a Parallel Environment to Detect Fake Reviews // Electronic Commerce Research and Applications. 2021. Vol. 47. DOI: 10.1016/j.elerap.2021.101048
Burrell J. How the Machine Thinks: Understanding Opacity in Machine Learning Algorithms // Big Data & Society. 2016. Vol. 3. Is. 1. DOI: 10.1177/2053951715622512
Cheung E., Chan A., Kajewski S. Reasons for Implementing Public Private Partnership Projects: Perspectives from Hong Kong, Australian and British Practitioners // Journal of Property Investment and Finance. 2009. Vol. 27. Is. 1. P. 81-95. DOI: 10.1108/1463.578091092668.5
Chiao V. Fairness, Accountability and Transparency: Notes on Algorithmic Decision-making in Criminal Justice // International Journal of Law in Context. 2019. Vol. 15. Special Is. 2. P. 126-139. DOI: 10.1017/S1744552319000077
Coglianese C., Lehr D. Transparency and Algorithmic Governance // Administrative Law Review. 2019. Vol. 71. Is. 1. URL: https://scholarship.law.upenn.edu/cgi/viewcontent.cgi?article=3125&context=faculty scholarship
Crawford K., Gray M., Miltner K. Critiquing Big Data: Politics, Ethics, Epistemology. Special Section Introduction // International Journal of Communication. 2014. Vol. 8. URL: https://ijoc.org/index.php/ ijoc/article/view/2167/1164
Currie M. Data as Performance — Showcasing Cities through Open Data Maps // Big Data & Society. 2020. Vol. 7. Is. 1. DOI: 10.1177/2053951720907953
Danaher J. Freedom in an Age of Algocracy // Oxford Handbook of Philosophy of Technology / ed. by Sh. Vallor Oxford: Oxford University Press, 2020. Р. 250-272. DOI: 10.1093/oxfordhb/9780190851187.013.16
Desouza K., Jacob B. Big Data in the Public Sector: Lessons for Practitioners and Scholars // Administration & Society. 2014. Vol. 49. Is. 7. P. 1043-1064. DOI: 10.1177/0095399714555751
Dumbacher B., Hutchinson R. Enhancing the Foundation of Official Economic Statistics with Big Data // Estadística Española. 2018. Vol. 60. Núm. 197. P. 263-271.
Flores A., Bechtel K., Lowenkamp C. False Positives, False Negatives, And False Analyses: A Rejoinder to "Machine Bias: There's Software Used Across the Country to Predict Future Criminals and It's Biased Against Blacks" // Federal Probation Journal. 2016. Vol. 80. No. 2. URL: https://www.uscourts.gov/sites/default/ files/80 2 6 0.pdf
Gal M. Algorithmic Challenges to Autonomous Choice // Michigan Journal of Law and Technology. 2018. Vol. 25. Is. 1. P. 59-104.
Giest S. Big Data for Policymaking: Fad or Fasttrack? // Policy Sciences. 2017. Vol. 50. P. 367-382. DOI: 10.1007/s11077-017-9293-1
Glaeser E., Hillis A., Kominers S., Luca M. Crowdsourcing City Government: Using Tournaments to Improve Inspection Accuracy // American Economic Review. 2016. Vol. 106. Is. 5. P. 114-118. DOI: 10.1257/aer.p20161027
Glicksman R., Markell D.L., Monteleoni C. Technological Innovation, Data Analytics, and Environmental Enforcement // Ecology Law Quarterly. 2017. Vol. 44. Is. 1. P. 41-88.
Guenduez A., Mettler T., Schedler K. Technological Frames in Public Administration: What do Public Managers Think of Big Data? // Government Information Quarterly. 2020. Vol. 37. Is. 1. DOI: 10.1016/j.giq.2019.101406
Hackl P. Big Data: What Can Official Statistics Expect? // Statistical Journal of the IAOS. 2016. Vol. 32. Is. 1. P. 43-52. DOI: 10.3233/sji-160965
Höchtl J., Parycek P., Schöllhammer R. Big Data in the Policy Cycle: Policy Decision Making in the Digital Era // Journal of Organizational Computing and Electronic Commerce. 2016. Vol. 26. Is. 1-2. P. 147-169. DOI: 10.1080/10919392.2015.1125187
Holt D. Official Statistics, Public Policy and Public Trust // Journal of the Royal Statistical Society Series A. 2008. Vol. 171. Is. 2. P. 323-346. DOI: 10.1111/j.1467-985X.2007.00523.x
Howlett M. Policy Analytical Capacity and Evidence-Based Policy-Making: Lessons from Canada // Canadian Public Administration. 2009. Vol. 52. Is. 2. P. 153-175. DOI: 10.1111/j.1754-7121.2009.00070 1.x
Kaski S., Ailisto H., Suominen A. International AI Experts: Towards the Third Wave of Artificial Intelligence // Leading the Way into the Age of Artificial Intelligence: Final Report of Finland's Artificial Intelligence Programme 2019. Helsinki: Ministry of Economic Affairs and Employment, 2019. P. 28-42.
Kitchin R. Big Data and Human Geography: Opportunities, Challenges and Risks // Dialogues in Human Geography. 2013. Vol. 3. Is. 3. P. 262-267. DOI: 10.1177/2043820613513388
Kitchin R. Big Data, New Epistemologies and Paradigm Shift // Big Data & Society. 2014. Vol. 1. Is. 1. DOI: 10.1177/2053951714528481
Kitchin R., Stehle S. Can Smart City Data Be Used to Create New Official Statistics? // Journal of Official Statistics. 2021. Vol. 37. Is. 1. P. 121-147. DOI: 10.2478/jos-2021-000
Klievink B., Romijn B.-J., Cunningham S., de Bruijn H. Big Data in the Public Sector: Uncertainties and Readiness // Information Systems Frontiers. 2017. Vol. 19. P. 267-283. DOI: 10.1007/s10796-016-9686-2
Kogan M. The Impact of Research on Policy // Speaking Truth to Power: Research and Policy on Lifelong Learning / ed. by F. Coffield. Bristol, UK: Policy Press, 1999. P. 11-18.
Kroll J.A., Huey J., Barocas S., Felten E.W., Reidenberg J.R., Robinson D.G., Yu H. Accountable Algorithms // The University of Pennsylvania Law Review. 2017. Vol. 165. URL: https://scholarship.law.upenn.edu/penn law review/vol165/iss3/3/
Liu H.W., Lin C.F., Chen Y.J. Beyond State v. Loomis: Artificial Intelligence, Government Algorithmization, and Accountability // International Journal of Law and Information Technology. 2019. Vol. 27. Is. 2. P. 122-141. DOI: 10.1093/ijlit/eaz001
Maciejewski M. To Do More, Better, Faster and More Cheaply: Using Big Data in Public Administration // International Review of Administrative Sciences. 2017. Vol. 83. Is. 1 suppl. P. 120-135. DOI: 10.1177/0020852316640058
Marchi G., Lucertini G., Tsoukiàs A. From Evidence-Based Policy-Making to Policy Analytics // Annals of Operations Research. 2016. Vol. 236. Is. 1. P. 15-38. DOI: 10.1007/s10479-014-1578-6 "
Marmot M. Evidence Based Policy or Policy Based Evidence? // BMJ. 2004. Vol. 328. No. 7445. P. 906-907. DOI: 10.1136/bmj.328.7445.906
Mayer-Schonberger V., Cukier K. Big Data: A Revolution that Will Change How We Live, Work and Think. Boston, New York: An Eamon Dolan Book; Houghton Mifflin Harcourt, 2013.
McAfee A., Brynjolfsson E. Big Data: The Management Revolution // Harward Business Review. 2012. Vol. 90. Is. 10. P. 60-66.
Medda F., Carbonaro G., Davis S. Public Private Partnerships in Transportation: Some Insights from the European Experience // IATSS Research. 2013. Vol. 36. Is. 2. P. 83-87. DOI: 10.1016/j.iatssr.2012.11.002
Mikhaylov S.J., Esteve M., Campion A. Artificial Intelligence for the Public Sector: Opportunities and Challenges of Cross-Sector Collaboration // Philosophical Transactions of the Royal Society A. 2018. Vol. 376. Is. 2128. DOI: 10.1098/rsta.2017.0357
Miller H. The Data Avalanche is Here. Shouldn't We Be Digging? // Journal of Regional Science. 2010. Vol. 50. Is. 1. P. 181-201. DOI: 10.1111/j.1467-9787.2009.00641.x
Mittelstadt B., Allo P., Taddeo M., Wachter S., Floridi L. The Ethics of Algorithms: Mapping the Debate // Big Data & Society. 2016. Vol. 3. Is. 2. DOI: 10.1177/20.539.51716679679
Nelkin D. The Political Impact of Technical Expertise // Social Studies of Science. 1975. Vol. 5. Is. 1. P. 35-54.
O'Neil C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy Washington, D.C.: Crown Books, 2016.
Pasquale F. A Rule of Persons, Not Machines: The Limits of Legal Automation // George Washington Law Review. 2019. Vol. 87. Is. 1. URL: https://www.gwlr.org/wp-content/uploads/2019/01/87-Geo.-Wash.-L.-Rev.-1.pdf
Poel M., Meyer E.T., Schroeder R. Big Data for Policymaking: Great Expectations, but with Limited Progress? // Policy & Internet. 2018. Vol. 10. Is. 3. P. 347-367. DOI: 10.1002/poi3.176
Prensky M.H. Sapiens Digital: From Digital Immigrants and Digital Natives to Digital Wisdom // Innovate: Journal of Online Education. 2009. Vol. 5. Is. 3. URL: https://www.learntechlib.org/p/104264/
Rosenstock L., Lee L.J. Attacks on Science: The Risks to Evidence-based policy // American Journal of Public Health. 2002. Vol. 92. Is. 1. P. 14-18. DOI: 10.2105/ajph.92.1.14
Sabatier P. Toward Better Theories of the Policy Process // PS: Political Science & Politics. 1991. Vol. 24. Is. 2. P. 147-156.
Siegel E. Predictive Analytics: The Power to Predict Who Will Click, Buy, Lie, or Die. Hoboken: Wiley, 2013.
Stahl B. Artificial Intelligence for a Better Future: An Ecosystem Perspective on the Ethics of AI and Emerging Digital Technologies. Berlin: Springer Nature, 2021.
Tiguint B. AI and Big Data Strategy in the Public Sector: Toward the State 4.0 // Искусственный интеллект и тренды цифровизации: техногенный прорыв как вызов праву. М.: Российский университет транспорта, 2021. С. 67-81.
Van der Voort H.G., Klievink A.J., Arnaboldi M., Meijer A.J. Rationality and Politics of Algorithms. Will the Promise of Big Data Survive the Dynamics of Public Decision Making? // Government Information Quarterly. 2019. Vol. 36. Is. 1. P. 27-38. DOI: 10.1016/j.giq.2018.10.011
Vydra S., Klievink B. Techno-Optimism and Policy-Pessimism in the Public Sector Big Data Debate // Government Information Quarterly. 2019. Vol. 36. Is. 4. DOI: 10.1016/j.giq.2019.05.010
Walker R. Welfare Policy: Tendering for Evidence // What works? Evidence-Based Policy and Practice in Public Services / ed. by S. Nutley, P. Smith, H. Davies. Bristol: Policy Press, 2000. P. 141-166. DOI: 10.1332/policypress/9781861341914.003.0007
Wexler R. Life, Liberty, and Trade Secrets: Intellectual Property in the Criminal Justice System // Stanford Law Review. 2018. Vol. 70. URL: https://review.law.stanford.edu/wp-content/uploads/sites/3/2018/06/70-Stan.-L.-Rev.-1343.pdf
Zarsky T. Transparent Predictions // University of Illinois Law Review. 2013. Vol. 2013. Is. 4. P. 1503-1569.
References:
Amelin R.V. (2021) Information Systems as a Tool for Regulating Public Relations: Analysis of Russian and World Practice. Izvestiya Saratovskogo universiteta. Novaya seriya. Seriya: Ekonomika. Upravleniye. Pravo. Vol. 21. No. 4. P. 445-452. DOI: 10.18500/1994-2540-2021-21-4-445-452
Ananny M. (2016) Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness. Science, Technology, & Human Values. Vol. 41. Is. 1. P. 93-117. DOI: 10.1177/016224391560652
Babkin R.A. (2021) The Experience of Using the Mobile Phone Data in Economic Geographical Researches in Foreign. Vestnik Sankt-Peterburgskogo Universiteta. Nauki o Zemle. No. 66(3). P. 416-439. DOI: 10.21638/spbu07.2021.301
Balatsky E.V., Ekimova N.A. (2008) Prognozirovaniye nastroyeniy naseleniya i identifikatsiya «sotsial'nykh puzyrey» [Forecasting public sentiment and identifying "social bubbles"]. Monitoring Obshchestvennogo Mneniya. No. 1(85). P. 62-71.
Balatsky E.V., Yurevich M.A. (2018) Measuring Inflation Expectations: Traditional and Innovative Approaches. Vestnik Sankt-Peterburgskogo Universiteta. Ekonomika. 2018. Vol. 34. No. 4. P. 534-552. DOI: 10.21638/spbu05.2018.403
Barth T., Arnold E. (1999) Artificial Intelligence and Administrative Discretion: Implications for Public Administration. The American Review of Public Administration. Vol. 29. Is. 4. P. 332-351. DOI: 10.1177/027.5074992206446
Boyd D., Crawford K. (2012) Critical Questions for Big Data. Information. Communication & Society. Vol. 15. Is. 5. P. 662-679. DOI: 10.1080/1369118X.2012.678878
Brauneis R., Goodman E.P. (2018.) Algorithmic Transparency for the Smart City. Yale Journal of Law & Technology. Vol. 20. DOI: 10.2139/ssrn.3012499
Budhi G.S., Chiong R., Wang Z., Dhakal S. (2021) Using a Hybrid Content-based and Behavior-based Featuring Approach in a Parallel Environment to Detect Fake Reviews. Electronic Commerce Research and Applications. Vol. 47. DOI: 10.1016/j.elerap.2021.101048
Burrell J. (2016) How the Machine Thinks: Understanding Opacity in Machine Learning Algorithms. Big Data & Society. Vol. 3. Is. 1. DOI: 10.1177/2053951715622512
Channov S.E. (2021) The Use of Digital Technology in the Public Administration. Izvestiya Saratovskogo Universiteta. Novaya Seriya. Seriya: Ekonomika. Upravleniye. Pravo. Vol. 21. No. 4. P. 419-428. DOI: 10.18500/1994-2540-2021-21-4-419-428
Cheung E., Chan A., Kajewski S. (2009) Reasons for Implementing Public Private Partnership Projects: Perspectives from Hong Kong, Australian and British Practitioners. Journal of Property Investment and Finance. Vol. 27. Is. 1. P. 81-95. DOI: 10.1108/14635780910926685
Chiao V. (2019) Fairness, Accountability and Transparency: Notes on Algorithmic Decisionmaking in Criminal Justice. International Journal of Law in Context. Vol. 15. Special Is. 2. P. 126-139. DOI: 10.1017/S1744552319000077
Coglianese C., Lehr D. (2019) Transparency and Algorithmic Governance. Administrative Law Review. Vol. 71. Is. 1. Available at: https://scholarship.law.upenn.edu/cgi/viewcontent.cgi?article=3125&context=faculty scholarship
Crawford K., Gray M., Miltner K. (2014) Big Data| Critiquing Big Data: Politics, Ethics, Epistemology. Special Section Introduction. International Journal of Communication. Vol. 8. Available at: https://ijoc.org/index. php/ijoc/article/view/2167/1164
Currie M. (2020) Data as Performance — Showcasing Cities through Open Data Maps. Big Data & Society. Vol. 7. Is. 1. DOI: 10.1177/2053951720907953
Danaher J. (2020) Freedom in an Age of Algocracy. In: Vallor Sh. (ed.) Oxford Handbook of Philosophy of Technology. Oxford: Oxford University Press. P. 250-272. DOI: 10.1093/oxfordhb/9780190851187.013.16
De souza K., Jacob B. (2014) Big Data in the Public Sector: Lessons for Practitioners and Scholars. Administration & Society. Vol. 49. Is. 7. P. 1043-1064. DOI: 10.1177/0095399714555751
Dumbacher B., Hutchinson R. (2016) Enhancing the Foundation of Official Economic Statistics with Big Data. Estadística Española. Vol. 60. Núm. 197. P. 263-271.
Elizarov A.M., Padzhev V.V, Hohlov Yu.E. (2021) Big Data Governance and Financial Support. Informatsionnoye Obshchestvo. No. 4-5. P. 53-65. DOI: 10.52605/16059921 2021 04 53
Flores A., Bechtel K., Lowenkamp C. (2016) False Positives, False Negatives, And False Analyses: A Rejoinder to "Machine Bias: There's Software Used Across the Country to Predict Future Criminals and It's Biased Against Blacks". Federal Probation Journal. 2016. Vol. 80. No. 2. URL: https://www.uscourts.gov/sites/default/ files/80 2 6 0.pdf
Gal M. (2018) Algorithmic Challenges to Autonomous Choice. Michigan Journal of Law and Technology. Vol. 25. Is. 1. P. 59-104.
Giest S. (2017) Big Data for Policymaking: Fad or Fasttrack? Policy Sciences. Vol. 50. P. 367-382. DOI: 10.1007/s11077-017-9293-1
Glaeser E., Hillis A., Kominers S., et al. (2016) Crowdsourcing City Government: Using Tournaments to Improve Inspection Accuracy. American Economic Review. Vol. 106. Is. 5. P. 114-118. DOI: 10.1257/aer.p20161027
Glicksman R., Markell D.L., Monteleoni C. (2017) Technological Innovation, Data Analytics, and Environmental Enforcement. Ecology Law Quarterly. Vol. 44. Is. 1. P. 41-88.
Guenduez A., Mettler T., Schedler K. (2020) Technological Frames in Public Administration: What do Public Managers Think of Big Data? Government Information Quarterly. Vol. 37. Is. 1. DOI: 10.1016/j.giq.2019.101406
Hackl P. (2016) Big Data: What Can Official Statistics Expect? Statistical Journal of the IAOS. Vol. 32. Is. 1. P. 43-52. DOI: 10.3233/sji-160965
Höchtl J., Parycek P., Schöllhammer R. (2016) Big Data in the Policy Cycle: Policy Decision Making in the Digital Era. Journal of Organizational Computing and Electronic Commerce. Vol. 26. Is. 1-2. P. 147-169. DOI: 10.1080/10919392.2015.1125187
Holt D. (2008) Official Statistics, Public Policy and Public Trust. Journal of the Royal Statistical Society Series A. Vol. 171. Is. 2. P. 323-346. DOI: 10.1111/j.1467-985X.2007.00523.x '
Howlett M. (2009) Policy Analytical Capacity and Evidence-Based Policy-Making: Lessons from Canada. Canadian Public Administration. Vol. 52. Is. 2. P. 153-175. DOI: 10.1111/j.1754-7121.2009.00070 1.x
Isakov A., Latypov R., Repin A., Postolit E., Evseev A., Sinelnikova-Muryleva E. (2021) Hard Numbers: Open Consumer Price Database. Den'gi i Kredit. Vol. 80. No. 1. P. 104-119. DOI: 10.31477/rjmf.202101.104
Kaski S., Ailisto H., Suominen A. (2019) International AI Experts: Towards the Third Wave of Artificial Intelligence. Leading the Way into the Age of Artificial Intelligence: Final Report of Finland's Artificial Intelligence Programme 2019. Helsinki: Ministry of Economic Affairs and Employment. P. 28-42.
Katin A., Hohlov Y. (2021) Monitoring the Use of Big Data Technologies in the Russian Public Administration System. Informatsionnoe obshchestvo. No. 4-5. P. 150-165. DOI: 10.52605/16059921 2021 04 150
Kitchin R. (2013) Big Data and Human Geography: Opportunities, Challenges and Risks. Dialogues in Human Geography. Vol. 3. Is. 3. P. 262-267. DOI: 10.1177/2043820613513388
Kitchin R. (2014) Big Data, New Epistemologies and Paradigm Shift. Big Data & Society. Vol. 1. Is. 1. DOI: 10.1177/2053951714528481
Kitchin R., Stehle S. (2021) Can Smart City Data Be Used to Create New Official Statistics? Journal of Official Statistics. Vol. 37. Is. 1. P. 121-147. DOI: 10.2478/jos-2021-000
Klievink B., Romijn B.-J., Cunningham S., de Bruijn H. (2017) Big Data in the Public Sector: Uncertainties and Readiness. Information Systems Frontiers. Vol. 19. P. 267-283. DOI: 10.1007/s10796-016-9686-2
Kogan M. (1999) The Impact of Research on Policy. In: Coffield F. (ed.) Speaking Truth to Power: Research and Policy on Lifelong Learning. Bristol, UK: Policy Press. P. 11-18.
Kroll J.A., Huey J., Barocas S., Felten E.W., Reidenberg J.R., Robinson D.G., Yu H. (2017) Accountable Algorithms. The University of Pennsylvania Law Review. Vol. 165. Available at: https://scholarship.law.upenn.edu/penn law review/vol165/iss3/3/
Kuznechenko I.M. (2023) Big Data and Artificial Intelligence in Public Administration: Analysis of the Theory and Selection of Russian Scientific Communities. Informatsionnoye Obshchestvo. No. 4. P. 127-146. DOI: 10.52605/16059921 2023 04 127
Kuznechenko I.M. (2024) Big Data and Artificial Intelligence as Factors of Transformation of Public Administration. Ekonomicheskoye Razvitiye Rossii. Vol. 31. No. 2. P. 113-128.
Liu H.W., Lin C.F., Chen Y.J. (2019) Beyond State v. Loomis: Artificial Intelligence, Government Algorithmization, and Accountability. International Journal of Law and Information Technology. Vol. 27. Is. 2. P. 122-141. DOI: 10.1093/ijlit/eaz001
Maciejewski M. (2017) To Do More, Better, Faster and More Cheaply: Using Big Data in Public Administration. International Review of Administrative Sciences. Vol. 83. Is. 1 suppl. P. 120-135. DOI: 10.1177/0020852316640058
Marchi G., Lucertini G., Tsoukias A. (2016) From Evidence-Based Policy-Making to Policy Analytics. Annals of Operations Research. Vol. 236. Is. 1. P. 15-38. DOI: 10.1007/s10479-014-1578-6
Marmot M. (2004) Evidence Based Policy or Policy Based Evidence? BMJ. Vol. 328. No. 7445. P. 906-907. DOI: 10.1136/bmj.328.7445.906
Mayer-Schonberger V., Cukier K. (2013) Big Data: A Revolution that Will Change How We Live, Work and Think. Boston, New York: An Eamon Dolan Book; Houghton Mifflin Harcourt.
McAfee A., Brynjolfsson E. (2012) Big Data: The Management Revolution. Harward Business Review. Vol. 90. Is. 10. P. 60-66.
Medda F., Carbonaro G., Davis S. (2013) Public Private Partnerships in Transportation: Some Insights from the European Experience. IATSSResearch. Vol. 36. Is. 2. P. 83-87. DOI: 10.1016/j.iatssr.2012.11.002
Mikhaylov S.J., Esteve M., Campion A. (2018) Artificial Intelligence for the Public Sector: Opportunities and Challenges of Cross-Sector Collaboration. Philosophical Transactions of the Royal Society A. Vol. 376. Is. 2128. DOI: 10.1098/rsta.2017.0357
Miller H. (2010) The Data avalanche is Here. Shouldn't We Be Digging? Journal of Regional Science. Vol. 50. Is. 1. P. 181-201. DOI: 10.1111/j.1467-9787.2009.00641.x
Mittelstadt B., Allo P., Taddeo M., Wachter S., Floridi L. (2016) The Ethics of Algorithms: Mapping the Debate. Big Data & Society. Vol. 3. Is. 2. DOI: 10.1177/2053951716679679
Morozov A.N. (2018) Alternative Sources of Statistical Information as the Basis for Political Decision Making. Voprosy Gosudarstvennogo i Munitsipal'nogo Upravleniya. No. 2. P. 50-70.
Muminova S.R. (2022) Artificial Intelligence as a Tool for Public Management in Tourism. Srednerusskiy Vestnik Obshchestvennykh Nauk. Vol. 17. No. 5. P. 172-182. DOI: 10.22394/2071-2367-2022-17-5-172-182
Nelkin D. (1975) The Political Impact of Technical Expertise. Social Studies of Science. Vol. 5. Is. 1. P. 35-54.
O'Neil C. (2016) Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Washington, D.C.: Crown Books.
Oksenoyt G.K. (2018) Digital Agenda, Big Data and Official Statistics. Voprosy Statistiki. Vol. 25. No. 1. P. 3-16.
Ovchinskiy V.S., Larina Ye. (2018) Iskusstvennyy intellekt: Bol'shiye dannyye. Prestupnost'[Artificial intelligence: Big data. Crime]. Moscow: Knizhnyy Mir.
Pasquale F. (2019) A Rule of Persons, Not Machines: The Limits of Legal Automation. George Washington Law Review. Vol. 87. Is. 1. Available at: https://www.gwlr.org/wp-content/uploads/2019/01/87-Geo.-Wash.-L.-Rev.-1.pdf
Poel M., Meyer E.T., Schroeder R. (2018) Big Data for Policymaking: Great Expectations, but with Limited Progress? Policy & Internet. Vol. 10. Is. 3. P. 347-367. DOI: 10.1002/poi3.176
Prensky M.H. (2009) Sapiens Digital: From Digital Immigrants and Digital Natives to Digital Wisdom. Innovate: Journal of Online Education. Vol. 5. Is. 3. Available at: https://www.learntechlib.org/p/104264/
Rosenstock L., Lee L.J. (2002) Attacks on Science: The Risks to Evidence-based policy. American Journal of Public Health. Vol. 92. Is. 1. P. 14-18. DOI: 10.2105/ajph.92.1.14
Sabatier P. (1991) Toward Better Theories of the Policy Process. PS: Political Science & Politics. Vol. 24. Is. 2. P. 147-156.
Siegel E. (2013) Predictive Analytics: The Power to Predict Who Will Click, Buy, Lie, or Die. Hoboken: Wiley.
Stahl B. (2021) Artificial Intelligence for a Better Future: An Ecosystem Perspective on the Ethics of AI and Emerging Digital Technologies. Berlin: Springer Nature.
Tiguint B. (2021) AI and Big Data Strategy in the Public Sector: Toward the State 4.0. Iskusstvennyy intellekt i trendy tsifrovizatsii: tekhnogennyy proryv kak vyzov pravu. Moscow: Rossiyskiy universitet transporta. P. 67-81.
Umnova-Konyukhova I.A., Lovtsova D.A. (2020) Gosudarstvo i pravo v novoy tsifrovoy real'nosti [State and law in the new digital reality]. Moscow: RAN INION.
Van der Voort H.G., Klievink A.J., Arnaboldi M., Meijer A.J. (2019) Rationality and Politics of Algorithms. Will the Promise of Big Data Survive the Dynamics of Public Decision Making? Government Information Quarterly. Vol. 36. Is. 1. P. 27-38. DOI: 10.1016/j.giq.2018.10.011
Vydra S., Klievink B. (2019) Techno-Optimism and Policy-Pessimism in the Public Sector Big Data Debate. Government Information Quarterly. Vol. 36. Is. 4. DOI: 10.1016/j.giq.2019.05.010
Walker R. (2000) Welfare Policy: Tendering for Evidence. In: Nutley S., Smith P., Davies H. (eds.) What Works? Evidence-Based Policy and Practice in Public Services. P. 141-166. DOI: 10.1332/policypress/9781861341914.003.0007
Wexler R. (2018). Life, Liberty, and Trade Secrets: Intellectual Property in the Criminal Justice System. Stanford Law Review. Vol. 70. Available at: https://review.law.stanford.edu/wp-content/uploads/sites/3/2018/06/70-Stan.-L.-Rev.-1343.pdf
Yasychenko A.I. (2022) Big Data in the Field of Electronic State and Municipal Services. Informatsionnyye Tekhnologii v Upravlenii i Ekonomike. No. 3(28). P. 30-38.
Zarsky T. (2013) Transparent Predictions. University of Illinois Law Review. Vol. 2013. Is. 4. P. 1503-1569. Дата поступления/Received: 06.04.2024
