CC BY
38НАУЧНАЯ СТАТЬЯ / ORIGINAL ARTICLE УДК 004.85
DOI 10.25257/KB.2022.1.5-9
Анализируя новый социальный феномен -алгократия
Analysing new social phenomenon - algocracy
С. П. ФУРС1
1Академия ГПС МЧС России, Москва, Россия
S. P. FURS1
1 State Fire Academy of EMERCOM of Russia, Moscow, Russia
В статье рассмотрены ключевые аспекты распространения в социуме такого феномена как алгократия, раскрыты сущностные черты данного явления. Показаны возможности, которые существуют для алгоритмических механизмов в рамках бюрократической модели по М. Веберу.
Ключевые слова: алгократия, алгоритмическое управление, бюрократическая машина, социальное управление
Abstract: The article discusses the key aspects of algocracy spread in society and also reveals the essential features of this phenomenon. The possibilities for algorithmic mechanisms within the framework of the bureaucratic model according to M. Weber are shown.
Key words: algocracy, algorithmic control, bureaucratic machine, social control
В настоящее время в пространстве научного дискурса все чаще встречается такой термин как «алгократия» - правление алгоритмов [1]. Не являясь научной категорией, он, тем не менее, вызывает определенный резонанс в социальных науках [2], и связано это с тем, что темпы цифрови-зации различных сфер социума продолжают нарастать, а влияние алгоритмов на жизнь общества и отдельного индивида -также увеличивается. Изначально алгоритмы были призваны рационализировать и ускорять различные процессы (преимущественно, вычислительные и технические); в данный момент можно говорить о том, что алгоритмы оказывают воздействие на социум, формируя определенную вычислительно-информационную архитектуру. Алгоритмы не только упрощают и ускоряют, но могут выносить вердикты, предупреждать или прогнозировать (в правовой сфере, бюрократической, делопроизводстве, банковском секторе, здравоохранении). Развитие пандемии Сош^19 привело к усилению роли алгоритмов, особенно в плане разрешаю-ще-запрещающих функций [3]. Все это создает предпосылки для того, что чаще возникают сентенции о «власти алгоритмов».
Сам термин «алгократия» впервые прозвучал в книге американо-индийского социолога А. Аниша «Цифровая миграция: программируя глобализацию» [4]. В этой работе автор делает акцент на том факте, что распространение Интернета, по сути, является технологической революцией, серьезно трансформировавшей рынок труда.
В силу этой революции возник такой социальный феномен, как виртуальный рынок труда, который позволяет работникам, находящимся в одной точке земного шара, трудиться в интересах работодателя совсем из другой локации - государства и даже континента. Однако как это связано с алгократией? По мнению Аниша, ключевым механизмом здесь является «правило кода»: именно оно обеспечивает социальный эффект цифровой революции. Цифровой код благодаря своей доступности и универсальности распространяется в обществе повсюду, становится социальной инновацией, и виртуальный рынок труда -одно из очевидных проявлений данного процесса. При этом виртуальный рынок труда обеспечивает создание экономики качественно нового уровня - построенной не на классических рыночных законах, а целиком на информации, на разных уровнях программируемого кода. Так возникает идея о том, что современная экономика базируется на системе «информационного управления», а социальные процессы постепенно встраиваются в систему - правления алгоритмов.
Здесь необходимо подчеркнуть следующее: хотя технологические новации, способствующие «правлению алгоритмов», -явление новое, тенденция к «механизации» управления имеет определенную историю; достаточно вспомнить работы Макса Вебера и его рассуждения о безупречности работы идеальной бюрократической машины, когда система государственного управления сродни организации производства на заводе или фабрике, с максимально четким разделением функций и ролей и интенцией на достижение максимальной эффективности и качественного результата [5].
Однако надо понимать, что несмотря на общность с прошлым концептуальной схемы и поставленных задач, нынешние перспективы алгоритмического управления стали возможны только в результате стремительного скачка в развитии технологий [6], а именно - машинное обучение
и сбор и обработка данных позволили автоматизировать те процессы, которые ранее были не доступны для автоматизации.
В этом плане важно уточнить, что алгоритмы являются ядром искусственного интеллекта (ИИ), на чем базируется весь спектр технологий ИИ; при этом ИИ без алгоритмических настроек вряд ли возможен, а вот алгоритмы существуют сами по себе и достаточно давно [7]. Если же рассматривать алгоритмы применительно к автоматизации процессов, то здесь обнаружена следующая метаморфоза: ранее преобладали алгоритмы по принципу работы «от общего к частному» - реализующие набор правил, заложенных командой разработчиков; однако теперь в силу распространения машинного обучения при работе алгоритмов часто действует принцип - снизу вверх: то есть ИИ на основе данных и заложенной программы самообучения выстраивает свой алгоритм работы. Именно алгоритмы вот этого вида вызывают множество вопросов и признаны проблемными ввиду отсутствия прозрачности; также они характеризуются все уменьшающейся долей участия человека в их работе.
Когда говорят об алгократии - правлении алгоритмов - преимущественно имеют в виду алгоритмы второго типа. Они являются новой технологической ступенью - алгоритм ическими системами - по сравнению с предыдущим этапом, информационными системами. В этом контексте важно понимать, в чем заключается коренное отличие алгоритмического управления от предшествующих систем обработки данных. Первичные системы ИИ выполняли, по сути, рутинную работу и были нацелены на упрощение, ускорение отдельных процессов. Например, в сфере делопроизводства и управления. Алгоритмические системы уже не являются инструментом, они содержат потенциал внесения изменений в организационный процесс; алгоритмы способны не только упрощать решение задач, но и выдвигать их, кроме того, выносить вердикты,
решения, базируясь на анализе данных. Данная тенденция к усложнению работы алгоритмов, усилению их автономии от человека, диверсификации функций рассматривается отдельными специалистами как путь к идеальной модели управления [8]. Главным преимуществом этой идеальной модели управления является отсутствие «человеческого фактора»: пристрастности, ошибок, неопределенности, а к числу достижений относится абсолютное выполнение поставленных задач. Утверждается, что процесс принятия управленческих решений становится более рациональным. Достаточно очевидно, что это спорное утверждение - то, что ИИ действует полностью рационально; подкрепляющими фактами здесь служит следующая схема рассуждений: так как принятие решения всегда сопряжено с ситуацией некоей неопределенности, то работа ИИ, а именно обращение к большой базе данных и анализ вероятностных результатов, позволяет обеспечить более высокий уровень рациональности при вынесении вердикта. К примеру, инспектор Роспотребнадзора может принять решение о проверке работы конкретного объекта исходя не из интуитивных предпосылок, а основываясь на масштабном анализе данных, проведенном программой на базе ИИ. То есть налицо не просто интенсификация и упрощение рутинной работы, а изменение организационных элементов в бюрократической машине.
Еще раз подчеркнем, что сторонники алгократии, приветствующие вступление в «век алгоритмов», видят в этом практическое воплощение на продвинутом технологическом уровне идей Макса Вебера о необходимости создания идеальной бюрократической машины. В этом контексте закономерно возникают следующие вопросы: каковы ключевые характеристики алгократии и каким образом алгоритмические системы могут трансформировать процесс управления? Отличительными особенностями алгокра-тии являются максимальная автоматизация
и обезличивание процесса управления; роль профессиональных лидеров-управленцев уходит в прошлое, на первое место выдвигаются структуры закодированных правил. Кроме того, по сравнению с предыдущими моделями управления увеличивается скорость принятия решений, усиление организационного контроля и стандартизация; все менее остается возможностей для проявления творческого подхода, принятия нестандартных решений.
Специалисты, не разделяющие восторженное восприятие алгократии как идеального типа социального управления [9], тем не менее, предлагают вполне объективные объяснения усилению роли алгоритмов в обществе. В качестве одного из объективных факторов приводится тенденция кризиса классической модели государственного управления (государственной бюрократии). Подтверждением этой тенденции является тот факт, что повсеместное распространение информационных систем ведет к дисбалансу вертикальной иерархии -одного из главных принципов управленческой машины. То есть встраивание информационной управленческой архитектуры «прокладывает дорогу» правлению алгоритмов. Код и управление кодом становится ключевым элементом управленческой машины. Здесь необходимо уточнение - на микро- и среднем уровне. Частица «кратия» в слове «алгократия» не должна вводить в заблуждение: речь не идет о макроуправлении социумом. Хотя именно наличие этой частицы в неологизме наталкивает на проведение некоторых параллелей: «кратия» - власть посредством кого-то, правление кого-то. Аристократия - «власть лучших», технократия - «власть специалистов» и т. п. Соответственно, алгокра-тия - правление посредством алгоритмов; при сохранении акцента на слове правление, в данном случае понимаются полномочия, управляющие функции, передаваемые системе кодируемых структур в современной жизни. Обращается ли индивид за кредитом в банк, направляем ли он системой
навигации, использует ли приложение, анализирующее состояние здоровья и предоставляющее рекомендации, он действует в системе алгоритмов.
Кроме того, необходимо вспомнить, что управленческие модели не функционируют в вакууме, они встроены и разворачиваются в определенном социальном контексте, часто их трансформации предопределены изменением социальной действительности. В этом плане нынешняя ситуация не является исключением: постиндустриальное общество формирует новые способы управления. Показательно, что социальный прогноз этого прозвучал в работе Дэниела Бэлла в 1973 году: постиндустриальное общество потребует новые интеллектуальные системы управления [10]. То, что можно наблюдать в настоящий момент: если индивид в социуме все более окружен программируемым кодом - система «умный дом», верификации личности, дистанционной работы и обучения, электронной торговли - то не удивительно, что программируемый код наращивает свое присутствие в сфере управления.
Усиление роли алгоритмов в социальном пространстве - это актуальный вопрос в рамках научного дискурса. Для правильного понимания этого процесса социальные мыслители добавляют понятие - «программируемый код» (как базовая структура алгоритма). А далее становятся возможными аллюзии из области философии науки и социальной философии. Например, можно обратиться к тому факту, что код зафиксирован в структуре живого, биологического (достаточно вспомнить структуру ДНК).
Кроме того, из другой области науки -код, язык, информация содержат общее - то, что организует и упорядочивает разные элементы, создает порядок и новую реальность, например, закодированную в знаках.
В рамках социальных наук будем считать, за словом а1досгасу скрывается следующее: это система управления, при которой с помощью компьютерного кода в виде алгоритмических практик происходит
сдерживание, инициализация или влияние на поведение индивидов.
Подводя итог, подчеркнем, что важно не появление нового термина «алгократия» (некоторые специалисты используют - правление алгоритмов, алгоритмическое регулирование [11]), а тот социальный феномен, который за этим неологизмом скрывается. Помимо технологических новаций, которые алгоритмы обеспечивают, они создают ситуацию некоторой социальной неопределенности, особенно в трех измерениях:
1. Относительно независимости и невмешательства в частную жизнь индивидов.
2. В вопросах пристрастности и неравенства [12].
3. В определении степени прозрачности работы и обретении все большей автономии от вмешательства человека. Существуют серьезные опасения, что алгоритмические механизмы, созданные на основе масштабного анализа данных, абсолютны объективны и беспристрастны; схема работы большинства алгоритмов скрыта их разработчиками (и в этом заключается проблема «прозрачности»), а анализ множества данных, многие из которых затрагивают частную сферу, означает вмешательство в частную жизнь. Отсюда можно сделать вывод: воспринимая «правление алгоритмов» как достижение или неизбежное зло - в любом случае необходимо расширять контекст анализа и изучения данного феномена, особенно его действие в социальной сфере. Важно обратить внимание на два аспекта: этический - проблема ответственности за неправильную работу или искаженные практики алгоритмов и то, что, говоря о правлении, имеют в виду преимущественно «человеческий фактор»: действия человека в социальной и политической сфере должны быть проверяемы на предмет законности, легальности и ответственности, чего не скажешь о функционировании алгоритмов; нормативно-правовая сфера в этой области развита очень слабо, и речь о правосубъектности алгоритмов и искусственного интеллекта в данный момент не идет.
ЛИТЕРАТУРА
1. Danaher J. The Threat of Algocracy: Reality, Resistance and Accommodation // Philosophy. Technology (2016) 29. Pp. 245-268. D0I:10.1007/s13347-015-0211-i
2. Доронин А. С. Алгократия - новая система управления в информационном обществе // Философский контекст науки и техники. Сборник научных трудов. Вып. 4. Н. Новгород: ННГАСУ, 2012. C. 54-64.
3. Фурс С. П. Этические аспекты использования и контроля применения технологий искусственного интеллекта в условиях пандемии и чрезвычайных ситуаций // Материалы V Международной научно-практической конференции, посвященной Всемирному дню гражданской обороны «Гражданская оборона на страже мира и безопасности»: в 4 ч. Ч. IV. М.: Академия ГПС МЧС России, 2021. C. 151-156.
4. Aneesh A. Virtual Migration: The Programming of Globalization. Duke University Press, 2006. 208 c.
5. Вебер М. Хозяйство и общество: очерки понимающей социологии: в 4 т. М.: Изд. дом Высшей школы экономики, 2016. Т. 1. Социология. 445 с.
6. Пиковер К. Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей. М., 2021. 250 c.
7. Юрков Н. К., Русяева Е. Ю., Полтавский А. В. Взгляд на теорию алгоритмов с позиций философии // Надежность и качество сложных систем. 2014. № 2(6). С. 40-45.
8. Lorenz L, Maijer A. The algocracy as a new ideal type for government organizations: Predictive policing in Berlin as an empirical case // Information Polity 26(4). Pp. 1-16. DOI:10.3233/IP-200279
9. Tagiew R. What Government by Algorithm Might Look Like [Электронный ресурс]. Режим доступа: https://arxiv.org/pdf/2007.13127.pdf (дата обращения 10.02.2022).
10. BellD. The Coming of Post-Industrial Society: A Venture in Social Forecasting. New York: Basic Books, Inc., Publishers., 1976. 507 с.
11. O'Reilly T. Open Data and Algorithmic Regulation // Beyond Transparency: open Data and the Future of Civic Innovation. Code for America Press, 2013. Pp. 289-300.
12. Фурс С. П. Последствия внедрения технологий искусственного интеллекта для социального института прав человека //
Культура и безопасность. 2021. № 1. С. 20-27. DOI: 10.25257/KB.2021.1.20-27
ИНФОРМАЦИЯ ОБ АВТОРЕ
Светлана Петровна ФУРСя Кандидат политических наук Доцент кафедры философии, Академия ГПС МЧС России, Москва, Российская Федерация БР!Ч-код: 7952-6182 Ди^огЮ: 1106787 0КС10: 0000-0003-4256-0324 н lana_st_furs@mail.ru
Поступила в редакцию 15.02.2022 Принята к публикации 24.02.2022
Для цитирования:
Фурс С. П. Анализируя новый социальный феномен -алгократия // Культура и безопасность. 2022. № 1. С. 5-9. 00!:10.25257/КВ.2022.1.5-9
INFORMATION ABOUT THE AUTHOR
Svetlana P. FURSH PhD in Political Science
Associate Professor of the Department of Philosophy
of State Fire Academy of EMERCOM of Russia,
Moscow, Russian Federation
SPIN-Kog: 7952-6182
AuthorlD: 1106787
ORCID: 0000-0003-4256-0324
13 lana_st_furs@mail.ru
Received 15.02.2022 Accepted 24.02.2022
For citation:
Furs S. P. Analysing new social phenomenon - algocracy. Kultura i bezopasnost (Culture and safety). 2022, no.1, pp. 5-9. D0I:10.25257/KB.2022.1.5-9
