CC BY
3
ВЕСТН. МОСК. УН-ТА. СЕР. 6. ЭКОНОМИКА. 2023. Том 58. № 6
ВОПРОСЫ УПРАВЛЕНИЯ
И. А. Петровская1
МГУ имени М. В. Ломоносова (Москва, Россия)
В. С.Демченко2
МГУ имени М. В. Ломоносова (Москва, Россия)
УДК: 005.32
doi: 10.55959^ШШ-0105-6-58-6-7
АЛГОРИТМИЧЕСКИЙ МЕНЕДЖМЕНТ: ОПЫТ ЭМПИРИЧЕСКОГО ИССЛЕДОВАНИЯ
В статье рассматривается проблема внедрения алгоритмического менеджмента в контексте противоречия между механистической и органической парадигмой организации, а также с позиций социотехнического подхода. Эмпирической базой исследования являются данные, полученные в ходе эксперимента по внедрению алгоритмического менеджмента при мониторинге и оценке работы торговых представителей компании-производителя повседневных товаров. Задачей исследования являлось получение ответа на два вопроса, сформулированных с позиции технической и социальной подсистем организации: во-первых, повлияет ли алгоритмический менеджмент на эффективность работы специалистов; во-вторых, как специалисты будут воспринимать работу алгоритма. Методами исследования являлись глубинное интервью и тематический анализ. В отношении первого вопроса исследования результаты демонстрируют, что эффективность работы специалистов при использовании алгоритмического менеджмента увеличилась по сравнению с прошлым периодом и с контрольной группой, в первую очередь по показателю следования стандартам. Ключевыми темами, которые были выявлены на основе анализа интервью, проведенных для ответа на второй вопрос исследования, стали доверие к алгоритму и восприятие взаимодействия между человеком и алгоритмом. Результаты позволяют заключить, что доверие к алгоритму формируется восприятием алгоритма как инструмента оценки, а не субъекта с собственной волей, а также возможностью апеллировать выставленные им оценки и воспринимаемой прозрачностью его работы. Основные выводы исследования состоят в том, что внедрение алгоритмического менеджмента, потенциально создающего дисбаланс между технической и социальной подсистемами организации, должно рассматриваться не только в плоскости инструментов и целей, которые предполагается достичь с помощью новой технологии, но и с позиций системного понимания предпосылок и убеждений, определяющих формулировку этих целей.
1 Петровская Ирина Александровна — к.э.н., доцент Высшей школы бизнеса, МГУ имени М. В. Ломоносова; e-mail: petrovskaya@mgubs.ru, ORCID: 0000-0002-1674-1714.
2 Демченко Валерия Сергеевна — магистр, Высшая школа бизнеса, МГУ имени М. В. Ломоносова; e-mail: lera33357@yaiidex.m, ORCID: 0000-0002-6708-6502.
© Петровская Ирина Александровна, 2023 [МЁШ^И © Демченко Валерия Сергеевна, 2023 [ММШ^И
LOMONOSOV ECON. JOUR. 2023. VOL. 58. No. 6
Ключевые слова: алгоритм, алгоритмический менеджмент, технологии искусственного интеллекта, управление, парадигма, социотехнический подход, механистическая и органическая организация, качественное исследование.
Цитировать статью: Петровская, И. А., & Демченко, В. С. (2023). Алгоритмический менеджмент: опыт эмпирического исследования. Вестник Московского университета. Серия 6. Экономика, 58(6), 109-132. https://doi.org/10.55959/MSU0130-0105-6-58-6-7.
I. A. Petrovskaya
Lomonosov Moscow State University (Moscow, Russia) V. S. Demchenko
Lomonosov Moscow State University (Moscow, Russia) JEL: M10
ALGORITHMIC MANAGEMENT: AN EMPIRICAL STUDY
The paper addresses algorithmic management within mechanistic and organic organizational paradigms, and discusses problems associated with algorithmic management from the socio-technical perspective. Based on the empirical data collected during the experimental implementation of algorithmic monitoring and evaluation of sales representatives in a FMCG company, the study aims to answer two research questions framed from the perspectives of technical and social sub-system: first, what is the effect of algorithmic management on job performance of sales representatives, and, second, how do they perceive algorithmic management. Methods of data collection and analysis included in-depth interviews and thematic analysis. Concerning the first research question, findings indicate that job performance of experimental groups of algorithmically managed sales representatives has improved as compared to the past period and the control group, primarily in terms of standards compliance. As for the second research question, two main themes were identified: trust in the algorithm and perception of man-algorithm interaction. Our findings indicate that trust in algorithmic assessment depends on whether the algorithm is perceived as an instrument rather than an independent agent; on the ability to appeal algorithmic evaluation; and on the algorithmic transparency. Key conclusion of the study is that algorithmic management creates a potential mismatch between technical and social subsystems of an organization, and its implementation requires that decision-makers keep their focus not just on the tools and anticipated goals, but on the in-depth understanding of the assumptions behind these goals.
Keywords: algorithm, algorithmic management, artificial intelligence, paradigm, socio-technical systems, mechanistic and organic organization.
To cite this document: Petrovskaya, I. A., & Demchenko, V. S. (2023). Algorithmic management: an empirical study. Lomonosov Economics Journal, 58(6), 109-132. https://doi.org/10.55959/ MSU0130-0105-6-58-6-7.
Введение
Алгоритмический менеджмент — это управление, основанное на использовании цифровых алгоритмов (Mohlmann, Zalmanson, 2017) — вычислительных формул, которые автономно принимают решения на основе статистических моделей или правил без явного вмешательства человека (Duggan et al., 2020).
В настоящее время алгоритмический менеджмент в наибольшей степени ассоциируется с цифровыми платформами, такими как агрегаторы такси или доставки. Платформы не являются работодателями, но при этом управляют большим числом независимых исполнителей (так называемых «гиг-работников») — и делают это с помощью технологий искусственного интеллекта. Например, алгоритмы агрегаторов такси распределяют между водителями заказы, вычисляют стоимость поездки, составляют маршрут и могут ограничивать доступ к платформе.
Однако технологии искусственного интеллекта все шире применяются и в управлении наемными работниками, имеющими трудовые отношения с организацией (работодателем). Наиболее известным примером является алгоритм, который управляет работниками складов компании Amazon, определяя нормы выработки и принимая решения об увольнении тех, кто эти нормы не выполняет (Joita, 2019). Исследования показывают, что уже 40% международных компаний используют искусственный интеллект для реализации определенных функций управления персоналом, и эта практика будет расширяться (PWC, 2022).
С точки зрения работодателей, такое «цифровое будущее» в управлении наемными работниками имеет очевидные положительные эффекты: снижение затрат, повышение производительности, а также возможность при принятии решений учитывать такой объем данных, который не могут обрабатывать люди. Однако, как показывает пример Amazon, с точки зрения работников алгоритм оказывается «худшим вариантом начальника» (Medwell, 2022), а обратными сторонами повышения производительности становятся стресс и ухудшение психического и физического здоровья.
Такая ситуация ставит ряд глубоких вопросов о взаимодействии человека и системы, основанной на использовании алгоритмов, в том числе о влиянии алгоритмического менеджмента на восприятие человеком работы, а также о последствиях внедрения технологий использования искусственного интеллекта в управлении людьми. Однако во многом эти вопросы не являются новыми, хотя и возникают в контексте развития новых технологий. С точки зрения парадигм менеджмента, как будет обсуждаться далее, алгоритмический менеджмент можно отнести к инструментам, основанным на преимущественно механистическом взгляде на организа-
цию, характерном для прошлого века. С этой перспективы взаимодействие работников и искусственного интеллекта становится лишь новым полем для противостояния человека и машины — и это противостояние обусловлено именно парадигмальными основами внедрения алгоритмического менеджмента, которые предполагают превосходство машины над человеком.
В данной статье представлены результаты исследования, посвященного одному из аспектов взаимодействия человека и алгоритма — тому, как работники воспринимают алгоритмический менеджмент. В настоящее время исследования, посвященные взаимодействию наемных работников и алгоритмов, внедряемых работодателями, немногочисленны. Тем не менее большинство опубликованных на 2023 г. работ свидетельствует о скорее негативных эффектах алгоритмического менеджмента, таких как деструктивные эмоции, воспринимаемая несправедливость, а также снижение удовлетворенности работой и жизнью (Parent-Rocheleau, Parker, 2021). Сопротивление, которое возникает вследствие этих негативных эффектов (Allen-Robertson, 2017; Mohlmann, Zalmanson, 2017), в сложной организационной системе может в долгосрочном периоде привести не к повышению, а к снижению эффективности. В связи с этим исследования того, как алгоритмический менеджмент воспринимается работниками, необходимы и с практической, и с академической точки зрения.
Парадигмальные основы исследований
алгоритмического менеджмента
Алгоритмический менеджмент — это достаточно недавний термин; по мнению ряда авторов, в академических исследованиях он начал использоваться в 2015 г. (Jabagi et al., 2020; Wood, 2021). Алгоритмический менеджмент отличается от управления с использованием систем поддержки управленческих решений (decision support systems), которые существуют уже достаточно давно. Система поддержки управленческих решений только предоставляет информацию, но само решение принимает «живой» менеджер. В рамках алгоритмического менеджмента система принимает решения сама. Таким образом, алгоритм берет на себя управленческие функции, которые традиционно выполнял человек, такие как планирование, организация и оценка работы.
В настоящее время большинство исследователей занимают две полярные позиции в отношении последствий внедрения алгортимиче-ского менеджмента, которые можно назвать оптимистической и пессимистической (Benlian et al., 2022). «Пессимисты», для которых характерен взгляд на алгоритмический менеджмент с позиции работников, в частности отмечают его негативное воздействие на воспринимаемую
справедливость оценки (Möhlmann, Henfridsson, 2019) и мотивацию. Например, Gagné et al. (2022), рассматривая алгоритмический менеджмент через призму мотивационной теории само-детерминации, обсуждают его отрицательное влияние на возможность удовлетворения трех базовых потребностей, лежащих в основе внутренней мотивации (потребность в автономности, в компетентности и во взаимодействии с другими людьми). Асимметрия информации, которая возникает при передаче алгоритму контроля над работниками, а также непрозрачность принятия решений создают основу для недоверия алгоритмическому менеджменту, восприятия алгоритмических решений как несправедливых и может вести к дискриминации работников (Lepri et al., 2018). Интенсификация и дегуманизация работы также относятся к негативным эффектам алгоритмического менеджмента как цифровой версии тейлоризма (Noponen et al., 2023).
«Оптимисты», рассматривая алгоритмический менеджмент с позиции выгод для организации, фокусируются на его положительных эффектах, таких как рост производительности и качества принятия решений, улучшение координации и расширение возможностей для организационного научения за счет обработки больших объемов данных (Kellog et al., 2020). Кроме того, в отличие от «пессимистов», ряд исследователей видят в алгоритмическом менеджменте потенциал для реализации идеалов справедливости. Например, алгоритмический менеджмент рассматривается через призму не только рационального, но и нормативного контроля (Galiere, 2020), который основан на идеях равноправия и свободного предпринимательства, поскольку платформенные работники имеют равные возможности для работы и получения дохода. Это способствует принятию и восприятию алгоритма как инструмента реализации «гиперравноправия».
Интеграция этих двух противоположностей возможна с позиции соци-отехнического подхода (Trist, 1981), в рамках которого организация рассматривается как состоящая из двух подсистем: технической и социальной. Техническая и социальная подсистемы — это «оборудование и люди» (Trist, 1981, p. 10). Иначе говоря, техническая подсистема — это в первую очередь технологии, используемые для преобразования ресурсов в продукты. Социальная подсистема — это люди, их отношения и взаимодействие. Алгоритм как технология по своей сути относится к технической подсистеме организации. Таким образом, «оптимисты», концентрируясь на положительных эффектах технологий, рассматривают алгоритмический менеджмент с позиции технической подсистемы, тогда как «пессимисты» — с позиции социальной. При этом, несмотря на призывы вернуться к основам социотехнического подхода и рассматривать эти подсистемы во взаимодействии и с позиции их согласованности (Sarker et al.,
2019), большинство исследований по-прежнему отражают приоритет либо технической, либо социальной подсистемы.
Можно предположить, что такая поляризация взглядов на алгоритмический менеджмент связана не только с новизной и междисциплинарным характером этой области исследований (Dolata et al., 2022; Jarrahi et al., 2021), но отражает глубинные, парадигмальные убеждения, лежащие в основе приоритизации социальной или технической подсистемы. Позиция, при которой приоритетной является техническая подсистема, основана на убеждении, что система более рациональна, а значит и более совершенна, чем человек (McAfee et al., 2012). Такое предположение соответствует парадигме менеджмента, которая доминировала в начале и середине прошлого века, и которая отражена в первую очередь в таких подходах, как научный менеджмент (scientific management) и наука управления (management science). Эти направления в развитии менеджмента исходили из предпосылок, для которых характерна вера в рациональное принятие решений, вера в возможность измерить все факторы, влияющие на решение («не умеешь измерять — не умеешь управлять»), а также вера в силу данных и алгоритмов, которые в состоянии найти наилучшее решение, что, в конечном итоге, предполагает превосходство машины (в широком смысле) над человеком.
Противоположностью такой механистической парадигмы является парадигма органическая (см., например: Burns, Stalker, 1961), или парадигма организации как живой системы (Петровская, 2018). Если в рамках механистической парадигмы основной целью организации является производительность, то для живой системы — выживание (Hart, Scott, 1975) и здоровье (Адизес, 2017). При этом нужно отметить, что производительность — это измеримый показатель, тогда как адаптационные и эволюционные процессы, необходимые для выживания, а также здоровье организации, количественно измерить достаточно сложно.
Можно предположить, что существующие исследования, демонстрирующие негативные последствия алгоритмического менеджмента для работников, отражают доминирующий «техноцентричный» подход при его внедрении и реализации (Persson, 2017; Piller, Nitsch, 2022), что свидетельствует о приоритете механистической парадигмы. Иначе говоря, при внедрении и использовании алгоритмического менеджмента цели технической подсистемы часто становятся приоритетными по сравнению с целями социальной подсистемы. Этому способствует и возможность количественно измерить результаты внедрения новых технологий в краткосрочном периоде (Jarrahi, 2018), что удерживает фокус внимания менеджеров на технической подсистеме. Однако при проектировании работы и организации необходимо обеспечить согласованность (goodness of fit) между технической и социальной подсистемами (Trist, 1981, p. 23).
Это обусловливает необходимость исследования алгоритмического менеджмента с двух позиций: механистическая перспектива (результаты использования алгоритмического менеджмента с точки зрения производительности) и органическая (восприятие алгоритмического менеджмента работниками). Эти две перспективы использованы при формулировке вопросов настоящего исследования.
Контекст исследования: эксперимент по внедрению
алгоритмического менеджмента
Настоящее исследование основано на результатах эксперимента по внедрению алгоритмического менеджмента в контексте управления наемными работниками — торговыми представителями компании-производителя повседневных товаров (FMCG). Эксперимент проводился компанией и являлся пилотным тестированием технологии оценки работы торговых представителей (сотрудников компании, работающих в точках розничных продаж) с использованием искусственного интеллекта — самообучающегося алгоритма.
Все торговые представители являлись наемными работниками одной компании, давали клиентам информацию и оказывали услуги, связанные с продукцией, производимой компанией. Их должностные обязанности предполагали как информирование потенциальных клиентов о продуктах, так и обслуживание текущих клиентов, включая продажу сопутствующих товаров и оказание сервисных услуг в торговой точке. В эксперименте участвовали торговые точки в четырех крупных городах Центрального, Северо-Западного и Приволжского федеральных округов.
Помимо объема продаж, важным критерием оценки работы этих сотрудников является соответствие стандартам поведения (таким как запрет на предоставление информации о продукте несовершеннолетним). Несоблюдение этих стандартов, основанных на требованиях законодательства, может привести к штрафам и нанести ущерб репутации компании. Традиционные инструменты оценки работы торговых представителей, такие как тайный покупатель и расчет индекса потребительской лояльности, не обеспечивают полный мониторинг деятельности каждого сотрудника и не позволяют оценить уровень соблюдения установленных стандартов. В частности, при контактах с тайными покупателями, которые ведут аудиозапись своих визитов, иногда возникают технические проблемы. Это не позволяет разрешать спорные моменты, что может негативно повлиять на оценку торгового представителя, даже когда с его стороны нарушений допущено не было. В связи с этим в компании было принято решение провести эксперимент по внедрению аудио- и видеомониторинга всех взаимодействий торговых представителей и обработке полученных дан-
ных с помощью самообучающегося алгоритма. Впоследствии это могло бы позволить отказаться от тайных покупателей как основного метода контроля качества работы сотрудников.
Главной задачей алгоритма в данном эксперименте была обработка данных, получаемых с видеокамер (которые способны идентифицировать покупателей и торговых представителей) и аудиобейджей, осуществляющих запись контакта с момента появления покупателя в точке продаж и до момента выхода этого покупателя из торговой зоны. После получения этой информации алгоритм соотносил контакт как с утвержденными стандартами работы, так и с примером идеального контакта («лучшими практиками»). Поскольку алгоритм имел возможность самообучаться, у него появлялись собственные лучшие практики, которые становились эталоном для работы конкретного торгового представителя, учитывая специфику его подхода к продажам.
В эксперименте участвовали три группы торговых представителей. В первой группе (20 торговых представителей и 3 супервайзера) оценку работы проводил алгоритм, но результаты этой оценки транслировались сотрудникам как оценка супервайзера. Во второй группе (19 торговых представителей и 3 супервайзера) оценка работы проводилась с помощью и алгоритма, и супервайзера: на платформе с результатами сотрудников ждала оценка алгоритма, скорректированная (при необходимости) и прокомментированная супервайзером. Таким образом, во второй группе, в отличие от первой, сотрудники знали, что их оценивает алгоритм. В третьей, контрольной группе (24 торговых представителя и 2 супервайзера) оценка работы торговых представителей осуществлялась супервайзером без участия алгоритма, и для мониторинга сотрудников не использовалось видео- и аудиооборудование. Основным методом контроля качества их работы оставались тайные покупатели. Для всех трех групп стандарты работы и целевые показатели (КР1) были одинаковыми. Необходимо отметить, что оплата работы торговых представителей не была привязана к оценке их эффективности ни алгоритмом, ни супервайзерами.
Эксперимент проводился в течение 7 месяцев. В течение нескольких месяцев до начала эксперимента осуществлялось главное обучение алгоритма на основе уже имевшихся аудио- и видеозаписей. В течение первого месяца проводилась калибровка алгоритма в соответствии со стандартами, алгоритм обучался различать категории покупателей (например, постоянных клиентов и впервые пришедших на точку), и его работа корректировалась при возникновении ошибок. Во время эксперимента торговые представители также могли апеллировать оценки алгоритма: если они замечали ошибку или были не согласны с оценкой, они сообщали об этом супервайзеру. Если была выявлена ошибка алгоритма, в его работу вносились исправления.
По итогам эксперимента группы (первая и вторая) сравнивались по ключевым показателям и их изменению относительно контрольной группы и прошлого периода (до старта эксперимента). На основе этого сравнения делались выводы об эффективности используемой технологии.
Вопросы исследования
Настоящее исследование ставит целью ответить на два основных вопроса. Первый вопрос касается результатов работы при использовании алгоритмического менеджмента. Как упоминалось выше, алгоритм представляет собой часть технической подсистемы организации, для которой ключевым целевым показателем является производительность. Внедрение алгоритмического менеджмента в первую очередь мотивировано стремлением увеличить эффективность работы с обеспечением необходимого уровня качества (Yu et al., 2017). Соответственно, первым вопросом данного исследования является следующий: вырастет ли эффективность работы торговых представителей в тех группах, где оценка проводилась алгоритмом?
Второй вопрос исследования формулируется с точки зрения социальной подсистемы организации, которую представляют сами работники. Как обсуждалось выше, существующие исследования, посвященные преимущественно платформенной работе, отмечают негативное воздействие алгоритмического менеджмента на работников, такие как снижение внутренней мотивации, интенсификация и дегуманизация работы, а также восприятие несправедливости алгоритма. При этом отмечается, что характеристики технологии (прозрачность и надежность работы алгоритма), внутриорганизационная политика (использование алгоритма не столько для прямого контроля, сколько для мониторинга с целью улучшения работы, а также возможность оспорить оценку алгоритма), могут снижать эти негативные эффекты (Gagné et al., 2022; Lyons et al., 2022). При этом необходимо учесть, что платформенная работа и работа по найму предполагают разные условия взаимодействия человека и организации, что также может отражаться и на практике использования, и на восприятии алгоритмического менеджмента.
Кроме того, на восприятие решений алгоритма может влиять тип выполняемой работы: механическая работа, которая требует преимущественно физических навыков, или работа, предполагающая общение с другими людьми (Lee, 2018). В случае механической работы решения алгоритма воспринимаются как объективные, и доверие к ним является высоким. В случае работы с людьми решения алгоритма вызывают меньше доверия, чем решения «живого» менеджера, а также воспринимаются
как менее справедливые (Lee, 2018; Klein et al., 2023). Однако необходимо отметить, что данные результаты получены в ходе экспериментов в искусственной среде, а не в условиях взаимодействия наемных работников и алгоритма в организации. Таким образом, вторым вопросом данного исследования является следующий: как торговые представители будут воспринимать работу алгоритма?
Методы исследования
Сбор данных проводился с помощью глубинных интервью с торговыми представителями трех групп и их супервайзерами. Из общего числа участников эксперимента (71 человек) был проинтервьюирован 21 сотрудник (по 7 респондентов из каждой группы) — 19 торговых представителей и 2 супервайзера (из групп, где в оценке принимал участие алгоритм). Демографические характеристики респондентов представлены в табл. 1.
Таблица 1
Описание выборки (N = 21)
Характеристика Количество респондентов %
Пол
Мужской 12 57,14
Женский 9 42,86
Образование
Высшее 14 66,66
Общее среднее 6 28,57
Возраст
20-29 лет 14 66,66
30-45 лет 6 28,57
Старше 45 лет 1 4,76
Опыт работы в продажах
От 1 года до 3 лет 15 71,42
От 3 до 7 лет 3 14,28
Больше 7 лет 3 14,28
Источник: материалы исследования.
Вопросы интервью можно разделить на три основных блока: 1) знакомство с респондентом и сбор общих социально-демографических данных; 2) сбор информации об условиях работы и процессе оценки этой работы (в том числе о том, как формируется оценка, в какой форме она доводится
до респондента, как респондент представляет себе технологию оценки); 3) актуализация опыта, связанного с оценкой работы этого торгового представителя в период эксперимента (в том числе как изменился процесс получения оценки, как изменилось время получения оценки, как респондент воспринимает эти изменения, технологию и процесс оценки). В процессе самого интервью очередность, а также наличие тех или иных вопросов и их формулировки зависели от общей логики интервью и ответов респондентов. На завершающем этапе проводился дебрифинг, давались ответы на вопросы, а также респондентам были даны контакты исследователя в случае возникновения вопросов или комментариев, касающихся исследования.
Далее для анализа собранной информации был использован тематический анализ в соответствии с рекомендациями В. Брауна и В. Кларка (Braun, Clarke, 2006).
Анализ включал следующие шаги.
1. Ознакомление с данными: транскрибирование интервью, вычитка материала, выделение основных идей.
2. Кодирование основных элементов: присвоение кодов высказываниям, которые повторяются или имеют непосредственное отношение к теме и цели исследования.
3. Поиск тем: синтез имеющихся кодов в общие темы.
4. Перепроверка тем: соотнесение полученных тем с выделенными ранее кодами и данными интервью, составление тематической карты анализа.
5. Определение тем, их наименований: проведение анализа для уточнения специфики каждой полученной темы, присвоение четких определений и названий каждой теме.
6. Описание полученных результатов: выбор наиболее ярких примеров для иллюстрации каждой темы, интерпретация полученных результатов.
Результаты исследования
Первый вопрос исследования: алгоритмический менеджмент
и эффективность работы
Первый вопрос исследования направлен на определение того, приведет ли использование алгоритмического менеджмента к росту эффективности работы торговых представителей. Для оценки эффективности работы сравнения использовались следующие показатели:
• следование стандартам взаимодействия с клиентом, в процентных пунктах: результат подсчитывался в соответствии со сценарными
чек-листами, содержащими в себе обязательные для транслирования клиенту сообщения, и перечнем внутренних регламентов, описывающих то, что делать запрещено. Например, если в чек-листе для конкретной услуги обязательно было озвучить 4 пункта, а торговый представитель озвучивал 3, полученный результат равнялся 75%; если же в процессе взаимодействия с клиентом сотрудником совершалось действие, противоречащее регламенту компании и несущее репутационные риски, торговый представитель получал 0%;
• индекс потребительской лояльности (Net Promoter Score, NPS), собранный с клиентов после осуществления транзакции посредством СМС-опроса;
• коэффициент удержания, собранный по точке и распределенный по торговым представителям по транзакциям;
• выручка (в руб.).
Изменение данных показателей в первой группе (где оценку осуществлял алгоритм, но сотрудники об этом не знали) и второй группе (где оценку осуществлял и алгоритм, и супервайзер) по сравнению с контрольной группой и прошлым периодом (до начала эксперимента) представлено в табл. 2.
Таблица 2
Изменение показателей эффективности работы торговых представителей (%)
Первая группа (только алгоритм) Вторая группа (алгоритм и супервайзер)
к прошлому периоду к контрольной группе к прошлому периоду к контрольной группе
Следование стандартам 15 12 21 16
Индекс потребительской лояльности 5 0,8 8 4
Коэффициент удержания 14 Нет данных 23 Нет данных
Выручка 9 Нет данных 11 Нет данных
Источник: материалы исследования.
Таким образом, эффективность работы обеих групп, где в мониторинге и оценке работы участвовал алгоритм, выросла по сравнению с предыдущим периодом и по сравнению с контрольной группой — в первую очередь по показателю следования стандартам. При этом лучшей по показа-
телям оказалась «гибридная» модель использования алгоритма, в рамках которой алгоритм и супервайзер работают сообща для предоставления оцениваемому обратной связи.
Таким образом, если рассматривать результаты эксперимента с позиции технической подсистемы, то эксперимент по внедрению алгоритмического менеджмента можно считать успешным. Поскольку это был пилотный эксперимент, компания не формировала конкретных ожиданий по целевым значениям количественных показателей. Тем не менее нельзя не отметить, что полученные положительные результаты могут объясняться не только использованием алгоритма как системы, способной более полно и «объективно» отслеживать и через обратную связь корректировать работу торговых представителей, но и рядом других факторов, таких как возможность использовать результаты оценки со стороны алгоритма как обратную связь для улучшения работы, что будет подробно описано при обсуждении результатов. Кроме того, работники второй группы, которые знали о том, что их оценивает алгоритм, могли испытывать интерес к новой технологии и к эксперименту в целом, что также могло положительно отразиться на эффективности их работы (В1епеГеШ й а1., 2023).
Второй вопрос исследования:
восприятие алгоритмического менеджмента работниками
После проведения глубинных интервью с помощью тематического анализа были выделены основные темы, касающиеся взаимодействия работников с алгоритмом и его восприятия. Каждая из тем включает несколько подтем (табл. 3).
Таблица 3
Основные темы и подтемы исследования восприятия алгоритма торговыми представителями
Темы Подтемы
Доверие к алгоритму Знания об алгоритме
Отношение к алгоритму
Взаимодействие с алгоритмом
Необходимость использования алгоритма Справедливость оценки
Время, потраченное на получение оценки
Полезность алгоритма
Источник: материалы исследования.
Доверие к алгоритму. Доверие определяется как «психологическое отношение, включающее когнитивный, эмоциональный и конативный (т.е.
поведенческий) компоненты» (Купрейченко, 2008). Все эти три компонента доверия были отражены в ответах респондентов второй группы, которые знали о том, что оценку их работы проводит алгоритм.
Так, при обсуждении когнитивного и эмоционального компонентов, т.е. знаний об алгоритме и о том, что он представляет собой, а также отношения к нему, торговые представители были склонны упрощать принципы его работы: для них алгоритм являлся автоматом или инструментом, который по заданным вручную критериям и ключевым словам проставлял оценку по количеству выполненных стандартов и нарушений. Один из респондентов второй группы (с гибридной оценкой алгоритмом и человеком) провел такую аналогию:
«Нам когда про систему рассказали, я сразу представила проверку ЕГЭ... знаешь, где там окошки правильные нужно было закрашивать... вот от этой системы такое же впечатление, будто она заполняет по нам бланк и сверяется с правильными ответами.».
Торговые представители, входившие в первую группу (где оценка осуществлялась алгоритмом, но сотрудники об этом не знали, так как оценка транслировалась супервайзером), описывали работу «супервайзера» сходным образом:
«Насколько я понимаю, то теперь наш экзек экономит время на том, чтобы не приезжать в точку, и составляет свою оценку нашей работы по записи видеокамер и бейджей, которые мы носим, а дальше мэтчит увиденное со стандартами и другими нашими регламентами».
Среди опрошенных второй группы также был респондент, который отнесся к вовлечению алгоритма в оценку работы очень скептически:
«Я вообще не понимаю, что это такое и как, если не вручную людьми из [название компании] это все оценивается по аудио и видео... мне страшно думать, что какая-то программа решает, хорошо я выполнила работу или не очень, если я не понимаю, как именно она это делает».
На основе вышеизложенного можно сделать вывод, что доверие к алгоритму складывается ввиду возможности объяснить для себя принципы работы системы «простым языком» и обозначения отсутствия волеизъявления алгоритма, т.е. восприятия алгоритма как инструмента, а не отдельного субъекта.
Подобный вывод подтверждается и рассказом респондентов о взаимодействии с алгоритмом в рамках своей работы. Так, представители второй группы, где оценка давалась алгоритмом и корректировалась супервайзером, описывали свою работу с алгоритмом следующим образом:
«Программа, конечно, очень умная, но все равно нужны модераторы... Бывают случаи, когда ты все отработал классно, а тебе в системе приходит, что ты что-то не сделал, и приходится писать апелляцию просто потому, что программа что-то не так поняла».
«Супервайзеры — наше все, без них было бы совсем не так комфортно работать, особенно в самом начале, когда были разные технические ошибки... Я, например, отработала весь стандарт, но бейдж зацепил клиента коллеги по смене, и пришлось потом разбираться, какие вопросы задавал мне мой клиент, а какие были у нее — система решила, что я ответила не на все вопросы корректно, было бы неприятно, если бы она выставила мне плохую оценку из-за своей ошибки».
Таким образом, возможность апеллировать решения алгоритма является важным фактором формирования доверия к новой технологии.
Необходимость использования алгоритма. В ходе интервью респонденты подробно описывали, насколько им удобно взаимодействовать с новой платформой (где предоставлялись результаты оценки) и новым оборудованием. Это позволило выделить следующие превалирующие подтемы (табл. 2): то, насколько оценка в новом формате представляется соответствующей действительности, т.е. справедливой («справедливость оценки»), и то, насколько она ценна по отношению к тому времени, которое торговые представители теперь тратят на ее получение («время, потраченное на получение оценки»). Здесь необходимо обозначить, каким образом производилась традиционная оценка: супервайзеры дважды в месяц проводили полевые визиты для конкретного торгового представителя, наблюдали за его работой, и по итогу дня проводили сессию обратной связи, где давали рекомендации по улучшению качества работы. Помимо этих полевых визитов, торговые представители также подвергались оценке «тайных покупателей», которая производилась на квартальной основе. Суммарно на обязательную оценку своей работы торговые представители тратили около шести часов в месяц с супервайзером, и еще уделяли около восьми часов в квартал для обсуждения результатов проверки «тайными покупателями» и выработку плана действий до следующей проверки. Эти часы входили в рабочее время. В первые месяцы эксперимента, когда участники только начинали работать с оценкой в новом формате (на платформе), им пришлось затрачивать больше нерабочего времени на анализ результатов оценки (который они поначалу проводили по вечерам), однако впоследствии часы обязательной оценки их работы вернулись в «доэкспериментальные» рамки — они распределились по рабочему времени и уже не были привязаны к ежемесячным и ежеквартальным сессиям.
Кроме того, отдельную подтему сформировали оценки респондентами того, насколько алгоритм помог им в улучшении качества работы («полезность алгоритма»).
Респонденты группы, где оценку работы проводил и алгоритм, и су-первайзер (вторая группа), в целом положительно восприняли такую систему. Приведем слова одного респондента из этой группы:
«Мне очень нравится, что я могу посмотреть на себя со стороны с помощью видео и аудио, и я так сразу могу понять, где я не доработала, а где, наоборот, отработала хорошо... раньше я полагалась только на свою память и на слова своего экзека, и иногда мое мнение не совпадало с тем, что мне говорила [супервайзер], а теперь мы можем сесть и разобрать визит от начала и до конца, как оно было на самом деле».
Так же положительно оценил работу алгоритма и супервайзер данной группы:
«ИИреально приносит пользу и сам по себе, и из-за сопутствующих ему технологий — мы установили камеры и бейджи, и теперь можем смотреть на работу эксперта такой, как она на самом деле происходит, без су-первайзера за спиной... сами ТПбыстрее понимают свои ошибки и их исправляют, когда могут на себя посмотреть со стороны, мое вовлечение в их работу снизилось, они активно прислушиваются к оценке программы».
Помимо озвученной ценности, респонденты этой группы также заметили, что их восприятие справедливости оценки повысилось:
«Яделаю все с полной отдачей, поэтому когда мне говорят, что я где-то не доработала, я прям начинаю раздражаться, особенно когда уделяю изучению всех стандартов и уроков на портале огромное количество времени... А теперь я вижу и оценку ИИ, и [такую же] оценку супервайзера, и могу воспринять ее как правдивую, потому что еще ни разу не было у меня, чтобы система что-то не так посчитала».
Респонденты группы, где оценка транслировалась респондентам как оценка супервайзера, но производилась алгоритмом (первая группа), также отмечали ценность возможности посмотреть на себя «со стороны» и сделать работу над ошибками, имея перед собой примеры своих контактов. В качестве иллюстрации можно привести следующие цитаты.
«После введения аудио и видео кажется, что супервайзеры стали менее предвзятыми, то есть ты получаешь оценку и сразу видишь, почему твой супервайзер ее тебе поставил, то есть ты можешь признать, что "да, там был мой косяк, я вот это забыл", а не думаешь, что у него настроение было плохое».
«Воспринимать оценку я стал легче... из-за своего большого опыта работы в клиентской сфере я знаю, что начальство может быть предвзято, но вот спустя три месяца работы в новом формате я могу сказать, что и мои коллеги по смене, и я сам больше доверяем оценке супервайзера, чем раньше, потому что мы можем увидеть, как она строится».
Таким образом, респонденты первой группы также восприняли оценку как более непредвзятую, поскольку она подкреплялась видео- и аудиома-териалами, и как более справедливую.
В рамках подтемы «полезность алгоритма», отражающей восприятие времени, которое торговые представители теперь тратят на работу с оцен-
кой, и отношение этого времени к ценности оценки, можно заключить, что увеличение времени не сильно сказывается на восприятии ценности, хотя и доставляет определенные неудобства. Так, некоторые респонденты и первой, и второй группы озвучивали, что теперь им приходится выделять дополнительное время на работу с системой, и (особенно в первые недели после запуска) они даже знакомились с результатами оценки вне рабочих часов.
«Супервайзеры нам рекомендовали проводить на платформе не менее двух часов в неделю, и это очень тяжело было, то есть заканчиваешь смену, идешь домой, и дома садишься за платформу разбирать свои ошибки... мы приноровились потом, привыкли к этому, мне сейчас самой интересно посмотреть, как я справляюсь с работой».
На примере другой цитаты из интервью с этим же респондентом также можно видеть, как изменилось восприятие работы с оценкой до внедрения алгоритма и после него:
«Я для себя поняла, что при том, что я теперь трачу больше времени на то, чтобы получить оценку — зайти вечером в систему, посмотреть свои контакты, посмотреть, нужно ли писать апелляции, я стала лучше понимать почему мы используем такие стандарты и стала быстрее исправлять свои ошибки... то есть раньше ты прошел "тайников", отстрелялся и не вспоминаешь о них до следующего чек-листа, а тут нужно всегда быть в картинке, понимать, почему мы теперь что-то делаем по-новому, это дисциплинирует».
Таким образом, можно сделать вывод о том, что респонденты в целом положительно восприняли результаты работы алгоритма. Представители второй группы (где участники знали, что над их оценкой совместно работают алгоритм и супервайзер) отметили положительное влияние использования новой системы оценки, в первую очередь — более высокую объективность. Некоторые опрошенные также озвучили мнение о том, что оценка алгоритма может быть даже более справедливой и понятной, чем оценка супервайзера. Причиной этому может служить восприятие алгоритма как инструмента оценки, а не субъекта с собственной волей, симпатиями и антипатиями, предпочтениями и предрасположенностями. Представители первой группы (где алгоритм «притворялся» супервайзе-ром) также отмечали преимущества новой системы оценки и не высказывали сомнений в релевантности обратной связи.
Обсуждение результатов
В рамках описанного эксперимента работники отнеслись к работе алгоритма положительно, что можно считать неожиданным результатом на фоне исследований, свидетельствующих о скорее негативном вос-
приятии управленческих решений, которые принимает искусственный интеллект. В первую очередь это может быть связано со спецификой эксперимента: это был пилотный проект, результаты оценки не влияли на кадровые решения и размер оплаты, и у работников была возможность апеллировать результаты оценки. Кроме того, при обсуждении полезности алгоритма респонденты, которых оценивал и алгоритм, и супер-вайзер, положительно оценили возможность посмотреть на себя со стороны и получить обратную связь по своей работе из двух источников. Если для работников цифровых платформ оценка формирует рейтинг, который учитывается при распределении заказов, то в описанном эксперименте оценка стала дополнительным источником обратной связи. Такая возможность получения информации, которая позволяет человеку научиться новому и улучшить свою работу, также может способствовать положительному восприятию алгоритмического менеджмента (Gagné et al., 2022).
В целом полученные результаты позволяют предположить, что в ходе описанного эксперимента алгоритм воспринимался не как контролер или судья, а скорее как помощник. Как отмечает Г. Шилдт (Schildt, 2017), алгоритм может играть две различные роли: либо он самостоятельно принимает решения и отдает приказы, которые работник должен исполнять, либо он лишь предоставляет информацию, оставляя свободу решения за работником (Schildt, 2017). Н. Нопонен и др. (Noponen et al., 2023) предлагают рассматривать первую роль как роль контролера, а вторую — как роль ментора или слуги. При этом в контексте традиционных (неплатформенных) организаций работники будут положительно воспринимать алгоритм в роли помощника, поскольку в этом случае не машина контролирует человека, а человек машину (Noponen et al., 2023). В целом полученные результаты подтверждают теоретическое предположение о том, что внутриорганизационная политика в отношении использования алгоритмов для управления работниками может влиять на результаты восприятия алгоритмического менеджмента (Gagné et al., 2022).
Анализ интервью также позволяет сделать дополнительные выводы о проблемах, которые могут возникнуть при внедрении алгоритмического менеджмента. Как отмечалось выше, восприятие решений и оценок алгоритма может различаться в зависимости от того, является ли работа механической или предполагает общение с другими людьми. Можно допустить, что уровень стандартизации работы торговых представителей в описанном эксперименте позволяет отнести ее к категории механических, иначе ее было бы сложно алгоритмизировать. Однако некоторые комментарии респондентов показывают, что в их восприятии работа, наоборот, является скорее «человеческой», чем механической. Это восприятие относится
как к процессу, так и к результатам работы. Приведем комментарий, касающийся процесса работы:
«В целом-то оно [система и стандарты] хорошее, но оно мешает в работе, потому что там есть обязательные пункты, которые нужно проходить, и вот если эти пункты не прошел, то твой процент прохождения уменьшается... а прохождение этих пунктов нужно постоянно в голове держать, и это отвлекает от работы с клиентами очень, то есть ты не клиента слушаешь, а думаешь там про себя, что ты еще не сказал и что можно сказать».
«Я для себя вижу свою эффективность в продаже клиенту: если клиент ушел с покупкой, бесплатной заменой, другим нашим сервисом, значит, я решил его проблему и сделал свое дело. С ним [алгоритмом] не получается полностью погрузиться в проблему клиента и закончить контакт продажей, потому что я совсем не про клиента думаю».
Комментарии некоторых респондентов также указывают на особенности восприятия результатов работы. Если для алгоритма результат — это соблюдение стандартов и факт продажи, то для торговых представителей это еще и эмоциональная связь с клиентом, изменение его состояния:
«Для меня очень важно получить обратную связь от клиента, даже от сложного — увидеть, что я смогла помочь человеку, поймать его эмоцию, почувствовать, что у агрессивно настроенного клиента под конец диалога хорошее настроение... когда мне клиенты улыбаются при прощании, я чувствую, что я сделала свою работу классно».
Такое расхождение в восприятии работы может потенциально повлиять на отношение работников к решениям, которые принимает алгоритм. Это обусловливает необходимость детального изучения влияния алгоритмического менеджмента на дизайн работы, а также использования принципов человеко-ориентированного проектирования (human-centred design) при внедрении технологий искусственного интеллекта для управления работниками.
Выводы и заключение
Настоящее исследование позволяет обозначить потенциальные проблемы, связанные с внедрением алгоритмического менеджмента. Основной из этих проблем является возможный дисбаланс между социальной и технической подсистемами организации (Makarius et al., 2020), который возникает при внедрении новой технологии. Настоящее исследование позволяет предположить, что одним из источников этого дисбаланса могут стать различия в восприятии работы со стороны организации, внедряющей алгоритмический менеджмент, и со стороны самих работни-
ков. Это подтверждает, что алгоритмический менеджмент может влиять на дизайн работы, а значит и на ее результаты (Parent-Rocheleau, Parker, 2021). Однако характер этого влияния (отрицательный или положительный) зависит не только от обеспечения условий, в которых работники будут взаимодействовать с новой технологией (таких как возможность апеллировать решения алгоритма), но и от глубинных, часто неосознаваемых убеждений — в первую очередь убеждений людей, принимающих решения по поводу внедрения и использования алгоритмического менеджмента.
Внедрение любой технологии является не просто выбором из доступного набора инструментов, но и отражением парадигмы, в которой существует организация. Доминирование механистической парадигмы неизбежно приведет к доминированию технологической подсистемы над социальной. Примером осознанного выбора в пользу механистической парадигмы является компания Amazon, где широкое внедрение алгоритмического менеджмента обосновано убеждением Дж. Безоса, что машина принимает решения лучше человека, а значит ошибки системы, которые в том числе ведут к увольнениям работников, являются «необходимым злом», с которым нет смысла бороться (Soper, 2021).
Вряд ли можно предположить, что такое осознание характерно для большинства организаций. Однако убеждение, что работники выступают пассивными объектами внедрения новых (а значит прогрессивных) технологий, является превалирующим в текущей практике (Parker, Grote, 2020). Это ведет к тому, что основные усилия при внедрении информационных технологий приходится направлять на «подстройку» социальной подсистемы к требованиям технической, в том числе чтобы минимизировать сопротивление работников, а не на исходный дизайн самой технологии с учетом специфики работы (Davis et al., 2014).
Таким образом, практическое внедрение алгоритмического менеджмента должно рассматриваться не только в плоскости инструментов и целей, которые предполагается достичь, но и с позиций глубокого понимания предпосылок и убеждений, определяющих выбор этих инструментов и формулировку целей. Как показывает зарубежный опыт внедрения масштабных программ изменений с использованием информационных технологий, исключительно «техноцентричный» подход может быть основной угрозой для реализации видения, которое и обусловило внедрение этих изменений (Clegg, Shepherd, 2007).
В связи с этим дальнейшим направлением исследований в области алгоритмического менеджмента может являться не только воздействие новых технологий на дизайн работы, но и факторы, которые должны быть рассмотрены и учтены до внедрения этих технологий в организации, а также методы выявления и анализа этих факторов. Кроме того, представляется
целесообразным проведение исследований динамики взаимодействия работников, менеджеров и алгоритмов в долгосрочном периоде, что позволит более глубоко оценить восприятие новых практик, которые возникают в процессе самообучения алгоритма. С одной стороны, самообучающиеся алгоритмы могут адаптироваться к новым ситуациям и новым контекстам, что может побуждать менеджеров делегировать им большее количество решений (Leyer, Schneider, 2021). С другой стороны, самообучение предполагает непрозрачность алгоритма (Howard, 2022). Для работников непрозрачность является одним из основных факторов воспринимаемой несправедливости алгоритмических рекомендаций и решений (Morse et al., 2021; Shin, Park, 2019). Непрозрачность также делает невозможным определить причины тех или иных решений и их оспорить (Leyer, Schneider, 2021). Эти эффекты самообучения могут создавать дополнительные сложности в согласовании технической и социальной подсистемы организации, и заслуживают подробного изучения.
Список литературы
Адизес, И. (2017). На пороге управленческой революции. Harvard Business Review Россия, 1, 11-15. https://big-i.ru/management/upravlenie-izmeneniyami/a18761/
Купрейченко, А. Б. (2008). Психология доверия и недоверия. Изд-во «Институт психологии РАН».
Петровская, И. А. (2018). Концепции лидерства в позитивной парадигме организационного поведения. Проблемы теории и практики управления, (8), 85-90.
Allen-Robertson, J. (2017). The Uber game: exploring algorithmic management and resistance. AoIR Selected Papers of Internet Research. https://spir.aoir.org/ojs/index.php/ spir/article/view/10033
Benlian, A., Wiener, M., Cram, W. A., Krasnova, H., Maedche, A., Mohlmann, M., Recker, J., & Remus, U. (2022). Algorithmic management: bright and dark sides, practical implications, and research opportunities. Business & Information Systems Engineering, 64(6), 825-839. https://doi.org/10.1007/s12599-022-00764-w
Bienefeld, N., Kolbe, M., Camen, G., Huser, D., & Buehler, P. K. (2023). Human-AI teaming: leveraging transactive memory and speaking up for enhanced team effectiveness. Frontiers in Psychology, 14. https://doi.org/10.3389/lpsyg.2023.1208019
Braun, V., & Clarke, V. (2006). Using thematic analysis in psychology. Qualitative research in psychology, 3(2), 77-101. http://dx.doi.org/10.1191/1478088706qp063oa Burns, T., & Stalker, G. M. (1961). The management of innovation. Tavistock Clegg, C., & Shepherd, C. (2007). The biggest computer programme in the world... ever!': time for a change in mindset? Journal of Information Technology, 22(3), 212-221. https://doi. org/10.1057/palgrave.jit.2000103
Davis, M. C., Challenger, R., Jayewardene, D. N., & Clegg, C. W. (2014). Advancing socio-technical systems thinking: A call for bravery. Applied ergonomics, 45(2), 171-180. https://doi.org/10.1016Zj.apergo.2013.02.009
Dolata, M., Feuerriegel, S., & Schwabe, G. (2022). A sociotechnical view of algorithmic fairness. Information Systems Journal, 32(4), 754-818. https://doi.org/10.1111/isj.12370
Duggan, J., Sherman, U., Carbery, R., & McDonnell, A. (2020). Algorithmic management and app-work in the gig economy: A research agenda for employment relations and HRM. Human Resource Management Journal, 30(1), 114-132. https://doi.org/10.llll/1748-8583.12258
Gagné, M., Parent-Rocheleau, X., Bujold, A., Gaudet, MC, & Lirio, P. (2022). How algorithmic management influences worker motivation: A self-determination theory perspective. Canadian Psychology/Psychologie canadienne, 63 (2), 247-260. https://psycnet. apa.org/doi/10.1037/cap0000324
Galiere, S. (2020). When food-delivery platform workers consent to algorithmic management: a Foucauldian perspective. New Technology, Work and Employment, 35(3), 357-370. https://doi.org/10.1111/ntwe.12177
Hart, D. K., & Scott, W. G. (1975). The organizational imperative. Administration & Society, 7(3), 259-285. https://journals.sagepub.com/doi/pdf/10.1177/009539977500700301 Howard, J. (2022). Algorithms and the future of work. American Journal of Industrial Medicine, 65(12), 943-952. https://doi.org/10.1002/ajim.23429
Jabagi, N., Croteau, A. M., & Audebrand, L. (2020, January). Perceived organizational support in the face of algorithmic management: a conceptual model. In Proceedings of the 53rd Hawaii International Conference on System Sciences (HICSS 2020), Maui, USA, 4001-4010. https://scholarspace.manoa.hawaii.edu/bitstream/10125/64231/1/0395.pdf
Jarrahi, M. H. (2018). Artificial intelligence and the future of work: Human-AI symbiosis in organizational decision making. Business horizons, 61(4), 577-586. https://doi. org/10.1016/j.bushor.2018.03.007
Jarrahi, M. H., Newlands, G., Lee, M. K., Wolf, C. T., Kinder, E., & Sutherland, W. (2021). Algorithmic management in a work context. Big Data & Society, 8(2), 1-14. https:// doi.org/10.1177/20539517211020332
Joita, B. (2019, April 29). Management by Algorithm: Amazon's Tracking System Can Allegedly Fire Workers Automatically. Techlead. https://techthelead.com/management-by-algorithm-amazons-warehouse-worker-tracking-system-can-allegedly-fire-them-automatically/
Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366-410. https://doi. org/10.5465/annals.2018.0174
Klein, U., Depping, J., Wohlfahrt, L., & Fassbender, P. (2023). Application of artificial intelligence: risk perception and trust in the work context with different impact levels and task types. AI& SOCIETY, 1-12. https://doi.org/10.1007/s00146-023-01699-w
Lee, M. K. (2018). Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management. Big Data & Society, 5(1), 1-16. https:// doi.org/10.1177/2053951718756684
Lepri, B., Oliver, N., Letouzé, E., Pentland, A., & Vinck, P. (2018). Fair, transparent, and accountable algorithmic decision-making processes: The premise, the proposed solutions, and the open challenges. Philosophy & Technology, 31, 611-627. https://doi.org/10.1007/ s13347-017-0279-x
Leyer, M., & Schneider, S. (2021). Decision augmentation and automation with artificial intelligence: Threat or opportunity for managers? Business Horizons, 64(5), 711-724. https:// doi.org/10.1016/j.bushor.2021.02.026
Lyons, H., Wij enayake, S., Miller, T., & Velloso, E. (2022, April). What's the appeal? Perceptions ofreview processes for algorithmic decisions. Proceedings ofthe2022CHIConference on Human Factors in Computing Systems, 1-15. https://doi.org/10.1145/3491102.3517606
Makarius, E. E., Mukherjee, D., Fox, J. D., & Fox, A. K. (2020). Rising with the machines: A sociotechnical framework for bringing artificial intelligence into the organization. Journal of Business Research, 120, 262-273. https://doi.org/10.1016/jjbusres.2020.07.045
McAfee, A., Brynjolfsson, E., Davenport, T. H., Patil, D. J., & Barton, D. (2012). Big data: the management revolution. Harvard business review, 90(10), 60-68. https://hbr. org/2012/10/big-data-the-management-revolution
Medwell, J. (2022, January 30). When the algorithm is your boss. Tribune. https:// tribunemag.co.uk/2022/01/amazon-algorithm-human-resource-management-tech-worker-surveillance
Mohlmann, M., & Henfridsson, O. (2019). What people hate about being managed by algorithms, according to a study of Uber drivers. Harvard Business Review, 30(August), 1-7. https://hbr.org/2019/08/what-people-hate-about-being-managed-by-algorithms-according-to-a-study-of-uber-drivers
Mohlmann, M., & Zalmanson, L. (2017). Hands on the wheel: Navigating algorithmic management and Uber drivers' autonomy. Proceedings of the International Conference on Information Systems (ICIS 2017), December 10—13, Seoul, South Korea, 5375-5391. https://www.proceedings.com/37640.html
Morse, L., Teodorescu, M. H. M., Awwad, Y., & Kane, G. C. (2021). Do the ends justify the means? Variation in the distributive and procedural fairness of machine learning algorithms. Journal of Business Ethics, 1-13. https://doi.org/10.1007/s10551-021-04939-5
Noponen, N., Feshchenko, P., Auvinen, T., Luoma-aho, V., & Abrahamsson, P. (2023). Taylorism on steroids or enabling autonomy? A systematic review of algorithmic management. Management Review Quarterly, 1-27. https://doi.org/10.1007/s11301-023-00345-5
Parent-Rocheleau, X., & Parker, S. K. (2021). Algorithms as work designers: How algorithmic management influences the design of jobs. Human Resource Management Review, 32(3), 100838. https://doi.org/10.1016Zj.hrmr.2021.100838
Parker, S. K., & Grote, G. (2020). Automation, algorithms, and beyond: Why work design matters more than ever in a digital world. Applied Psychology, 71(4), 1171-1204. https://doi. org/10.1111/apps.12241
Persson, J. (2017). A review of the design and development processes of simulation for training in healthcare-A technology-centered versus a human-centered perspective. Applied ergonomics, 58, 314-326. https://doi.org/10.1016/j.apergo.2016.07.007
Piller, F. T., & Nitsch, V. (2022). How Digital Shadows, New Forms of Human-Machine Collaboration, and Data-Driven Business Models Are Driving the Future of Industry 4.0: A Delphi Study. In: Piller, F. T., Nitsch, V., Lüttgens, D., Mertens, A., Pütz, S., Van Dyck, M. (Eds). Forecasting Next Generation Manufacturing. Contributions to Management Science, 1-31. Springer, Cham. https://doi.org/10.1007/978-3-031-07734-0_1
PWC (2022). Artificial Intelligence in HR: a No-brainer. https://www.pwc.at/de/ publikationen/verschiedenes/artificial-intelligence-in-hr-a-no-brainer.pdf
Sarker, S., Chatterjee, S., Xiao, X., & Elbanna, A. (2019). The sociotechnical axis of cohesion for the IS discipline: Its historical legacy and its continued relevance. MIS quarterly, 43(3), 695-720. https://doi.org/10.25300/MISQ/2019/13747
Schildt, H. (2017). Big data and organizational design-the brave new world of algorithmic management and computer augmented transparency. Innovation, 19(1), 23-30. https://doi.or g/10.1080/14479338.2016.1252043
Shin, D., & Park, Y. J. (2019). Role of fairness, accountability, and transparency in algorithmic affordance. Computers in Human Behavior, 98, 277-284. https://doi. org/10.1016/j.chb.2019.04.019
Soper, S. (2021, June 28). Fired by bot at Amazon:'It's you against the machine'. Bloomberg. https://www.bloomberg.com/news/features/2021-06-28/fired-by-bot-amazon-turns-to-machine-managers-and-workers-are-losing-out
Trist, E. L. (1981). The evolution ofsocio-technical systems (Vol. 2). Toronto: Ontario Quality of Working Life Centre. https://www.lmmiller.com/blog/wp-content/uploads/2013/06/The-Evolution-of-Socio-Technical-Systems-Trist.pdf
Wood, A. J. (2021). Algorithmic management consequencesfor work organisation and working conditions (No. 2021/07). JRC Working Papers Series on Labour, Education and Technology. https://www.econstor.eu/handle/10419/233886
Yu, H., Miao, C., Chen, Y., Fauvel, S., Li, X., & Lesser, V. R. (2017). Algorithmic management for improving collective productivity in crowdsourcing. Scientific reports, 7(1), 1-11. https://doi.org/10.1038/s41598-017-12757-x
References
Adizes, I. (2017). On the threshold of a managerial revolution. Harvard Business Review Russia, 1, 11-15.
Kupreychenko, A. B. (2008). Psychology of trust and distrust. Psychology Institute of the Russian Academy of Sciences.
Petrovskaya, I. A. (2018). Leadership theories in the positive organizational behavior paradigm. International Journal of Management Theory and Practice, 8, 85-90.
