CC BY
27ИННОВАЦИИ В РОССИЙСКОМ ОБЩЕСТВЕ
ЕОЭ УДК 316.733 Научная статья
001: 10.19181Zsnsp.2023.11.37 НйЗЙЗ Е01\1: PSIJNC
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
V
И АЛГОРИТМИЧЕСКИЕ РЕШЕНИЯ В СОЦИАЛЬНОЙ СФЕРЕ: ПРЕДСТАВЛЕНИЯ МОЛОДЁЖИ
Михаил Михайлович Назаров
Институт социально-политических исследований ФНИСЦ РАН,
Москва, Россия, vy175867@yandex.ru, ORCID 0000-0003-0200-3785
Для цитирования: Назаров М. М. Искусственный интеллект и алгоритмические решения в социальной сфере: представления молодёжи // Социологическая наука и социальная практика. 2023. Т. 11, № 3. С. 141-158. DOI 10.19181/snsp.2023.11.3.7. EDN PSIJNC.
Аннотация. В последнее десятилетие диффузия цифровых инноваций в социальной группе молодёжи проходила опережающими темпами. В статье представлен анализ отношения молодёжи к идее использования социальных рейтингов как одной из областей применения искусственного интеллекта (ИИ) и практик алгоритмического управления в социальной сфере. Эмпирическим объектом анализа являлись представители студенческой молодёжи в трёх российских городах - Москве, Белгороде, Кызыле. Более половины респондентов во всех регионах указали на то, что влияние технологий ИИ на жизнь людей будет иметь как положительные, так и отрицательные последствия. Анализ модельной ситуации - возможности широкого использования социальных рейтингов - фиксирует, что поддерживали эту идею около трети респондентов во всех регионах. В столице большая часть респондентов идею внедрения алгоритмов социальных рейтингов не поддержали, тогда как в других регионах большая часть опрошенных затруднились с оценкой этого вопроса. Наблюдается рост уровня поддержки и представлений об оценках алгоритмов социальных рейтингов как справедливых по мере удаления от столицы. По всей видимости, общая цифровая продвинутость московского региона сопровождается ростом представлений о неоднозначных социальных последствиях использования ИИ и алгоритмических решений и приводит к большей осторожности респондентов в оценке перспектив этих технологий. Результаты многомерного статистического анализа показывают, что дифференциация поддержки/неподдержки идеи широкого использования социальных рейтингов связана с общими установками по отношению к новым технологиям, особенностями цифрового медиапотребления, ценностными ориентациями, отдельными характеристиками социальной демографии. Неоднозначная оценка перспектив внедрения социальных рейтингов, отношение значительной доли опрошенных к алгоритмическим решениям как несправедливым говорят о необходимости взвешенных управленческих решений, в центре которых должны быть интересы развития человека и гуманистического потенциала общества.
© Назаров М. М., 2023
Ключевые слова: молодёжь, цифровизация, искусственный интеллект, алгоритмическое управление, инновации, система социального рейтинга, цифровой профиль
Исследовательский контекст
Отличительной чертой цифрового технологического уклада является широкое распространение технологий искусственного интеллекта (ИИ). Эти технологии выполняют сложные задачи, изначально требующие приложения интеллекта человеческого уровня. Особенностью инфраструктуры интернета как «естественной» среды современной жизни является её прозрачность и наличие цифровых следов пользователей. Приложение к этим большим данным методов машинного обучения позволили создавать эффективные алгоритмические решения в тех областях, которые ранее были исключительной прерогативой человека Это актуализировало вопрос о взаимосвязи между алгоритмами и обществом.
Для обозначения нового качества, которые приобретают в этих условиях различные стороны жизнедеятельности и социальные отношения, стало использоваться понятие «алгоритмическое общество» [2; 3]. Положительно отмечается, что использование возможностей машинной обработки больших данных для выявления закономерностей и подготовки эффективных алгоритмических решений находят своё практическое применение в самых разных областях [4]. Это оборона и охрана окружающей среды, экономика и потребительское поведение, социальная сфера. К преимуществам алгоритмических решений относят независимость от человеческого фактора, надёжность, высокую производительность, экономичность.
В ряде публикаций авторы привлекают внимание к неоднозначным социальным следствиям, с которыми сопряжено широкое использование алгоритмизации и технологий ИИ [5; 6; 10]. Важно учитывать, что практические приложения алгоритмических решений связаны с автоматическим определением статуса, обязанностей, прав на услуги; оценками вероятностей и рисков при распределении доступа к ресурсам; формированием данных о целевых группах с целью влияния на их будущее поведение. В дискуссиях о социальных следствиях алгоритмических решений ставятся вопросы об отсутствии прозрачности алгоритмов; нарушении ими конфиденциальности и защиты персональных данных; отражении алгоритмами интересов разработчиков и других заинтересованных сторон. Использование алгоритмов в целях социального контроля актуали-
1 Далее мы опираемся на понятие алгоритма как точного предписания о порядке выполнения некоторой системы операций над исходными данными для получения желаемого результата, которое выполняется индивидом или машиной [1, с. 35]. Использование машинных алгоритмов является стержневым элементом платформенного управления, характерного для современного цифрового технологического уклада.
зирует вопрос о необходимости соотнесения технологических инноваций с соблюдением интересов общества и прав граждан [7, с. 5-9].
Алгоритмическое управление предполагает использование разных по своей природе данных и отражает тренд к всеобщей метризации и измерения самых разных сторон социальной жизни. Рост систем измерения является маркером неолиберальной рациональности - метризация является компонентом всеохватной конкуренции. Если говорить шире, всеобъемлющее использование метрик соотносится с темой политики и власти - стремлением измерять, дифференцировать и оценивать. При этом метрики власти оказываются укоренными в самых разнообразных контурах обратной связи - инфраструктурных, организационных, корпоративных, правительственных и др. [8, с. 5,32].
Одна из известных практик алгоритмического управления в социальной сфере связана с внедрением системы социальных кредитов в Китае. Среди целей системы - укрепление социальной искренности, стимулирование взаимного доверия в обществе и уменьшение социальных противоречий. Считается, что это крупнейший на сегодня эксперимент по централизации личной информации и управлению индивидуальным поведением граждан посредством позитивных и негативных стимулов, реализуемых на базе цифровых платформ. Цифровые профили пользователей формируются посредством присвоения им оценок по пяти категориям: личная информация, платёжеспособность, кредитная история, социальные сети и поведение. На основе алгоритмических оценок системой формируется несколько категорий кредитоспособности. Тот или иной тип действий индивида может повысить (или понизить) рейтинг, который увязан с использованием социальных благ, карьерного продвижения и т. п. [9].
Практики алгоритмического управления в немалой степени связаны с политико-экономическими отношениями и социокультурными особенностями общества. Показательной является оценка Ш. Зубофф, автора фундаментальной работы «Эпоха надзорного капитализма», одного из наиболее известных критиков негативных социальных следствий деятельности алгоритмических платформ. По её мнению, китайский проект системы социальных рейтингов следует понимать как результат инстру-ментарной власти, опирающейся на государственные и частные источники данных и контролируемых авторитарным государством. Однако при всех отличиях китайской и западной политико-культурных традиций система социальных рейтингов или её элементы хорошо передают общую логику надзорного капитализма и инструментарной власти. «С каждым их действием китайских пользователей оцифровывают, классифицируют и ставят в очередь на составление прогнозов, и ровно то же самое происходит и с нами. Нас оценивают Uber, eBay, Facebook и многие другие веб-компании, и это только те рейтинги, которые мы видим» [10, с. 506, 511-512]. Добавим, что сбор данных из социальных сетей для формирования кредитных рейтингов заёмщиков является регулярной практикой во многих странах мира, в том числе и в нашей стране. Другим показательным примером яв-
ляется внедрение персональных траекторий в образовании, также построенных в логике алгоритмических решений и рейтингования.
В целом движение в сторону алгоритмического управления является глобальным процессом. Причём оценки социальных следствий широкого внедрения алгоритмов в различные области социального управления далеки от однозначных. Ключевая задача состоит в том, чтобы технологии ИИ, платформенное управление и алгоритмические решения служили интересам граждан, а не наоборот
В последние годы в мировой научно-прикладной практике накоплен опыт эмпирических исследований, посвящённых специальным вопросам восприятия практик алгоритмических решений. На основе общенациональной выборки Нидерландов были определены представления о полезности, справедливости и риске алгоритмических решений для областей медиа, здравоохранения, юриспруденции, влияния в этой связи социальной демографии и прочих факторов [11]. На основе серии онлайн-экспериментов исследователями в области менеджмента было показано, что при разрешении ситуаций, требующих существенной включённости человека, представления об отсутствии интуиции и субъективных возможностей для вынесения суждений способствовали снижению оценок справедливости и достоверности алгоритмических решений [12]. Исходя из задач обеспечения баланса между технологическими инновациями и общественными интересами, изучена роль пользовательских оценок рекомендательных алгоритмов медиа по критериям справедливости, ответственности, прозрачности и объяснимости [13].
Отдельные исследования были посвящены вопросу восприятия системы социальных рейтингов. В рамках проведённого в 2020 году международного сравнительного исследования был определён уровень информированности о системе социальных рейтингов. Доля респондентов, указавших на то, что они слышали об этой системе, была самой высокой в азиатских странах (71% в Китае), тогда как самой низкой информированность об этом была в Австрии и Германии - 13% 2. Согласно данным, репрезентирующим российское население, представления респондентов о том, как введение социальных рейтингов в нашей стране повлияло бы на качество их жизни, оказались следующими: улучшило - 27%, ухудшило - 42%, затруднились ответить - 31%3. Сходную структуру оценок продемонстрировало исследование восприятия практик социального рейтингования в России и Китае [14].
Изложенный выше теоретико-прикладной контекст является основанием для формулировки исследовательских вопросов нашей работы.
1 Цифровая трансформация и защита прав граждан в цифровом пространстве. Доклад Совета при Президенте Российской Федерации по развитию гражданского общества и правам человека. 2021. URL: http://www.president-sovet.ru/docs/doclad_SPCh.docx (дата обращения: 16.03.2023).
2 Social credits and security: embracing the world of ratings. Kaspersky. URL: https://media. kasperskydaily.com/wp-content/uploads/sites/92/2020/05/15101930/Kaspersky-Social-Ratings-Report-2020.pdf (дата обращения: 18.03.2023).
3 Права человека в эпоху цифровизации // НИУ ВШЭ : [сайт]. 2 сентября 2021 г. URL: https://grans.hse.ru/news/501719447.html (дата обращения: 18.03.2023).
Исследовательские вопросы, эмпирическая база и методика исследования
Внедрение технологий ИИ и алгоритмические решения, будучи инновационными процессами, затрагивают социальные группы общества по-разному. В этой связи в фокусе нашего внимания оказались представители студенческой молодежи как группы опережающего поведения в отношении новых технологий. В работе были поставлены следующие исследовательские вопросы:
1. Какими в молодёжной среде являются информированность о технологиях ИИ и распространённость их использования в повседневной жизни?
2. Каким является отношение к идее возможного использования социальных рейтингов как результата алгоритмических решений, определяющих доступ индивидов к различным социальным благам?
3. Существуют ли в пространстве изучаемых эмпирических индикаторов переменные, максимально дифференцирующие респондентов по их принятию/непринятию перспектив широкого использования алгоритмических решений?
Эмпирическую основу работы составляют результаты изучения социальных представлений студенческой молодёжи нескольких регионов России: г. Москвы (N=300), г. Белгорода (N=2001), г. Кызыла, столицы Республики Тыва (N=551) Полевой этап проходил в апреле-мае 2022 г.
В фокусе исследования находились вопросы, касающиеся перспектив использования новых технологий. Известно, что исследования оценок индивидов о тех или иных сторонах их будущей жизнедеятельности имеют особенности, обусловленные спецификой предметной области, ракурсом исследуемой проблемы. Природа оценок перспектив тех или иных явлений также в существенной степени зависит от особенностей социальной среды, в которой индивиды находятся [15, с. 48-58]. Формированию инструментария количественного исследования предшествовало проведение качественных процедур (интервью), уточняющих особенности интерпретации в целевой аудитории понятия ИИ, а также представлений о социальных рейтингах. На этой основе для обеспечения единой системы соотнесения участников количественного исследования изучение представлений об использовании алгоритмов-социальных рейтингов осуществлялось посредством оценки гипотетической ситуации, в которой респондент сталкивается с применением новой технологии в социальной практике.
Инструментарий количественного исследования состоял из нескольких блоков эмпирических индикаторов. Блок 1 - «технологии искусственного интеллекта» (ИИ): уровень информированности, практики использования технологий ИИ в повседневной жизни; направленность вли-
1 Исследование проводилось ИСПИ и ИДИ ФНИСЦ РАН совместно с Белгородским государственным национальным исследовательским университетом, Тувинским государственным университетом.
яния на жизнь широкого использования технологий ИИ в ближайшие 10-20 лет. Блок 2 - «алгоритмические решения»: отношение к широкому внедрению социальных рейтингов; представление о справедливости оценок, формируемых алгоритмическими решениями. Блок 3 - «общие ориентации на включённость в новую цифровую технологическую среду». На основе восьми оценочных суждений формируется индекс уровня технологических ориентаций. Блок 4 - «потребление медиа»: среднесуточная длительность потребления телевидения, Интернет, основных социальных сетей и мессенджеров; рейтинг доверия основных источников социально-политической информации. Блок 5 - «социально-политические и терминальные ценности». Перечень из двенадцати и двадцати шкальных признаков соответственно. Блок 6 - «социально-демографические характеристики»: пол, возраст, образовательная позиция, доход.
Результаты исследования
Общие представления о технологиях ИИ. Рассмотрим сначала вопросы об общем отношении молодёжи к технологиям ИИ. Это, на наш взгляд, в немалой степени формирует контекст восприятия алгоритмов социальных рейтингов. Обратимся сначала к результатам исследования уровня информированности о технологиях ИИ, практиках использования респондентами отдельных технологий ИИ в повседневной жизни (см. табл. 1).
Таблица 1
Информированность и практики использования технологий ИИ в повседневной жизни, %
Варианты ответов Москва Белгород Кызыл
В какой мере вам известно о технологиях искусственного интеллекта?
Знаю об этом достаточно много 27,1 21,5 12,0
Знаю об этом, но немного 65,2 56,1 50,9
Слышал только это название 5,8 7,8 13,7
Ничего об этом не знаю 0,6 5,5 10,1
Затрудняюсь ответить 1,3 9,1 13,3
Всего 100,0 100,0 100,0
Пользовались ли вы какой-либо из перечисленных ниже технологий искусственного интеллекта в своей повседневной жизни?
Голосовые помощники мобильных телефонов (Алиса, Google Ассистент, Siri и др.) 81,3 77,1 73,7
Домашние голосовые помощники (Алиса, Маруся, Alexa, Google и др.) 41,3 30,2 30,1
Устройства для умного дома (системы автоматизации бытовых устройств, например, умный кондиционер, умный пылесос и др.) 27,1 16,1 11,4
Дистанционное управление с голосовой активацией (универсальные голосовые пульты для управления бытовыми устройствами) 21,9 17,1 13,3
Системы автоматических онлайн-переводов 63,2 45,5 28,4
Не пользовался 9,0 13,8 17,7
На период исследования информированность респондентов о технологиях ИИ была относительно невысокой. Порядка две третьих участников исследования в различных регионах указали на то, что знают об этом явлении немного или слышали только его название. Достаточно высокая информированность об ИИ, судя по результатам исследования, оказывается присущей существенно меньшей части опрошенных. Об этом сообщили 27% респондентов в Москве, 21% - в Белгороде, 12% -в Кызыле. Вхождение технологий ИИ в повседневные практики сопряжено, прежде всего, с массовым распространением высокоскоростной мобильной связи, смартфонов и связанных с ними возможностей по выполнению пользователями различных практических задач. Согласно данным, наиболее распространёнными в этой связи было использование голосовых помощников мобильных телефонов, систем автоматических онлайн-переводов, домашних голосовых помощников. Уровень информированности и практики использования технологий ИИ в повседневной жизни оказывается меньшим по мере удаления региона исследования от столицы страны.
В последние годы технологии ИИ стали применять в самых разных областях. Каковы были представления респондентов об общей направленности влияния ИИ на жизнь людей в среднесрочной перспективе? Данные об этом приведены в таблице 2. В каждом из регионов наибольшую долю ответов собрала позиция о разнонаправленном влиянии технологий ИИ на жизнь людей. Считали, что эти технологии будут иметь как положительное, так и отрицательное влияние 58% респондентов в Москве, 41% - в Белгороде, 37% - в Кызыле. Представления о положительном влиянии технологий ИИ на жизнь людей в целом разделяли от 37 до 30% опрошенных по разным регионам; об отрицательном влиянии технологий ИИ заявили от 6 до 3% респондентов.
Таблица 2
Распределение ответов на вопрос: «Какое влияние на жизнь людей окажет широкое использование технологий искусственного интеллекта в ближайшие 10-20 лет?», %
Варианты ответов Москва Белгород Кызыл
Широкое использование технологий ИИ в целом положительно повлияет на жизнь людей. Это поможет решить много проблем в жизни людей 33,5 37,3 29,7
Широкое использование технологий ИИ в целом будет иметь как положительное, так и отрицательное влияние на жизнь людей 58,7 41,0 37,9
Широкое использование технологий ИИ в целом отрицательно повлияет на жизнь людей. Это приведёт к росту проблем в жизни людей 2,6 3,5 6,1
Затрудняюсь ответить 5,2 18,2 26,3
Всего 100,0 100,0 100,0
Отношение к перспективам использования алгоритмов социальных рейтингов. Исследование вопроса об отношении к возможным перспективам широкого использования социальных рейтингов относится к изучению ожидаемых изменений в образе жизни современного человека. В этой связи методика включала описание возможной перспективной ситуации, которую затем предлагалось оценить участнику исследования: «Пожалуйста, подумайте о следующей ситуации... Сейчас многие компании разработали автоматизированные программы, которые собирают информацию из различных источников о поведении и личных характеристиках людей, таких как их привычки в интернете или продукты и услуги, которые они используют. Затем эти программы присваивают людям автоматическую оценку, которая помогает компаниям решать, предлагать ли им кредиты, специальные предложения или другие услуги. В некоторых странах на основе анализа поведения людей программы-алгоритмы могут присваивать людям рейтинг (социальный рейтинг), который влияет на доступ к тем или иным социальным благам».
Наличие приведённого выше описания преследовало целью условного переноса участника исследования в пусть и перспективную, но достаточно реальную ситуацию, что, в свою очередь, являлось условием получения конкретных и интерпретируемых оценок. После этого респондентам предлагалось высказать своё отношение к различным сторонам возможного внедрения результатов таких программ-алгоритмов социальных рейтингов.
Первым в этом ряду был вопрос, касающийся справедливости алгоритмических оценок, формирующих социальные рейтинги. Данные об этом приведены в таблице 3.
Таблица 3
Распределение ответов на вопрос:
«Насколько справедливыми будут для людей оценки, построенные с помощью автоматизированных программ-алгоритмов социальных рейтингов?», %
Варианты ответов Москва Белгород Кызыл
Справедливыми 3,9 8,7 15,5
Скорее справедливыми, чем несправедливыми 36,6 31,4 34,1
Скорее несправедливыми, чем справедливыми 27,5 17,3 11,2
Несправедливыми 11,1 7,3 5,1
Затрудняюсь ответить 20,9 35,3 34,1
Всего 100 100 100
Согласно результатам, представления респондентов о справедливости социальных рейтингов не являются однозначными. Считают такие оценки справедливыми (полностью или частично) 40% представителей студенческой молодёжи в Москве и Белгороде, 49% в Кызыле. Обратную точку зрения, т. е. согласны с несправедливостью подобных оценок, раз-
деляли 38% опрошенных в Москве, 24% - в Белгороде, 16% - в Кызыле. Существенная часть респондентов не дали ответа на вопрос - 20% в Москве, 35 и 34% в Белгороде и Кызыле, соответственно.
Информация об уровне поддержки идеи широкого использования алгоритмов социальных рейтингов показана в таблице 4.
Таблица 4
Распределение ответов на вопрос: «Поддерживаете ли вы широкое использование программ-алгоритмов
социальных рейтингов?», %
Варианты ответов Москва Белгород Кызыл
Поддерживаю 28,3 32,7 37,3
Не поддерживаю 48,7 27,3 20,7
Затрудняюсь ответить 23,0 40,0 42,0
Всего 100 100 100
Уровень поддержки внедрения социальных рейтингов находился в пределах 37-28% по отдельным регионам. Как следует из приведённых данных, большая часть опрошенных в Белгороде и Кызыле не выразили мнения по этому вопросу (40 и 42%, соответственно). Более определённо были настроены опрошенные в Москве, где было зафиксировано 23% затруднившихся ответить. Характерно, что Москва оказалась лидером по сравнению с другими регионами по доле тех, кто высказался не в пользу подобных инициатив (48%).
Существует ли зависимость между поддержкой идеи широкого использования алгоритмов социальных рейтингов и рассмотрением оценок, получаемых с помощью этих алгоритмов, как справедливых? Будем учитывать, что здесь фиксация различий в значениях переменных осуществлялась с помощью порядковых шкал. В этой ситуации адекватным способом ответа на поставленный вопрос является однофакторный дисперсионный анализ Краскэла-Уоллиса. Была проведена проверка модели влияния группирующей переменной - поддержки идеи использования социальных рейтингов на представления о справедливости оценок, которые будут получены с помощью этой технологии 1. В таблице 5 приведены данные о количестве респондентов, принадлежащих каждой из градаций группирующей переменной и средний ранг анализируемой переменной в каждой из групп. Также в таблице показаны результаты проверки статистической гипотезы о том, что средние ранги в каждой из сравниваемой групп равны между собой. Фактически эта гипотеза эквивалентна предположению об отсутствии влияния группирующей переменной на анализируемую переменную.
1 Здесь и далее приводятся результаты статистических процедур применительно к наиболее многочисленному по числу наблюдений массиву Белгорода.
Таблица 5
Проверка модели связи поддержки идеи широкого использования социальных рейтингов с рассмотрением их оценок как справедливых
Группирующая переменная - поддержка идеи широкого использования социальных рейтингов № Средний ранг Статистики теста
Москва
Справедливость оценок, построенных с помощью алгоритмов социальных рейтингов Не поддерживают 148 110,55 Хи-квадрат 81,6
Нейтральны 70 168,27 Значимость 0,000
Поддерживают 86 211,85
Белгород
Справедливость оценок, построенных с помощью алгоритмов социальных рейтингов Не поддерживают 507 558,25 Хи-квадрат 659,4
Нейтральны 740 847,27 Значимость 0,000
Поддерживают 606 1332,87
Кызыл
Справедливость оценок, построенных с помощью алгоритмов социальных рейтингов Не поддерживают 106 194,66 Хи-квадрат 121,0
Нейтральны 215 206,53 Значимость 0,000
Поддерживают 188 344,45
В содержательном плане мы видим, что во всех регионах группирующая переменная обладает уровнем значимости (0,000) применительно к представлению о справедливости оценок, построенных с помощью алгоритмов социальных рейтингов. Это даёт основания отвергнуть исходную гипотезу об отсутствии влияния. Данные таблицы 5 позволяют проследить характер этой зависимости. Напомним, что изучаемые переменные имеют определённый порядок. Соответственно, средний ранг представлений о справедливости оценок социальных рейтингов был наиболее низким в группе тех, кто не поддержал внедрение социальных рейтингов (и наоборот). Иными словами более высокий уровень поддержки социальных рейтингов сопряжён с представлениями о справедливости оценок, которая предлагает эта технология.
В рамках исследования был изучен вопрос о том, какие обстоятельства являются наиболее значимыми с точки зрения дифференциации респондентов по их поддержке (или нет) идеи широкого использования алгоритмов социальных рейтингов. Для этого последовательно применялись статистические процедуры дискриминантного анализа и логистической регрессии.
Возможности дискриминантного анализа предполагают, среди прочего, выявление различий между априорно заданными группами объектов по нескольким переменным одновременно [16]. Применительно к нашему исследованию группирующей являлась дихотомизированная переменная поддержки идеи широкого использования социальных рейтингов. Дискри-минантными переменными, которые использовались для поиска различий между составляющими группирующей (зависимой) переменной, являлись индикаторы содержательных блоков инструментария исследования.
Результаты процедуры пошагового дискриминантного анализа показывают, что существуют восемь переменных, которые значимо разделяют
Таблица 6
Коэффициенты стандартизованной канонической дискриминантной функции
Переменные Функции Переменные Функции
Установки по отношению к новым технологиям Социально-демографические признаки
Индекс включённости в новую цифровую технологическую среду 0,467 Пол - мужской -0,298
Включённость в область ИИ Разделяемые ценности
Уровень информированности о технологиях ИИ 0,235 Самостоятельность (независимость в суждениях, оценках) 0,358
Использование технологий ИИ в повседневной жизни (голосовые помощники) 0,377 Патриотизм (любовь к Родине, благополучие страны и своего народа) -0,402
Длительность медиапотребления Карьера (личный успех, общественное признание, уважение окружающих) 0,271
Среднесуточная длительность использования социальной сети Instagram 0,341 Творчество (возможность творческой деятельности) -0,278
выборочную совокупность респондентов. Тест на значимость различий средних значений дискриминантной функции фиксирует величину показателя «Significance» равное 0,000, что говорит о значимости различий средних величин1. Различение респондентов в связи с поддержкой / избеганием широкого использования социальных рейтингов связано с индикаторами, характеризующими различные стороны жизни людей. К ним относятся установки респондентов по отношению к новым технологиям; включённость в область ИИ; длительность медиапотребления; ценностные ориентации; социальная демография. Подробнее см. таблицу 6.
Для определения того, какие переменные и с каким весом оказывают влияние на зависимую переменную, применялся регрессионный анализ. Использовалась процедура логистической регрессии, позволяющая определить вклад независимых переменных (предикторов) в повышение вероятности того, что индивид будет поддерживать идею использования социальных рейтингов. Результаты логистической регрессии приведены в таблице 7.
Из всего перечня анализируемых переменных приводятся только те предикторы, которые оказываются статистически значимыми. Для каждого предиктора приведён коэффициент «В». Чем большим является значение «В», тем больше вероятность влияния предиктора на зависимую переменную.
1 Анализ коэффициентов корреляции между дискриминирующими переменными говорит об отсутствии связи между ними. При этом относительно невысокие показатели собственного значения и канонической корреляции отражает тот факт, что «различающие» возможности модели не являются ярко выраженными. Вместе с тем, показатель корректности дискриминантной процедуры, т. е. причисления объектов исследования к одной из исследуемых групп (поддерживающих или не поддерживающих идею использования социальных рейтингов) оказывается достаточно высоким: 63,8% исходных сгруппированных наблюдений классифицированы правильно.
Таблица 7
Регрессионная модель - предикторы поддержки широкого использования
алгоритмов социальных рейтингов
Предикторы B Exp (B) Вальд Значимость
Установки по отношению к новым технологиям
Обобщённый Индекс ориентаций 0,489 1,63 26,309 0,000
Включённость в область ИИ
Информированность 0,212 1,236 5,808 0,016
Практики мобильных голосовых помощников 0,674 1,963 15,407 0,000
Потребление медиа в сутки
Instagram 0,146 1,157 8,93 0,003
Ценностные представления
Карьера 0,339 1,404 6,786 0,009
Самостоятельность 0,376 1,457 7,105 0,008
Патриотизм -0,363 0,696 12,309 0,000
Творчество -0,339 0,712 7,111 0,008
Социально-демографические признаки
Пол: мужской -0,455 0,635 11,217 0,001
Константа -1,585 0,205 9,685 0,002
R-квадрат Нэйджелкерка 0,139
Рассчитываемые в ходе процедуры логистического анализа показатели правильности предсказания модели фиксируют её удовлетворительное качество. Общая правильность предсказания - 63,6%. При этом модель правильно предсказывает факт поддержки широкого использования алгоритмов социальных рейтингов в 71,1% случаев; факт не поддержки -в 54,5% случаев.
В связи с результатами регрессионной модели и полученным значениям коэффициентов, обратим внимание на несколько моментов. Наибольшую предсказательную силу в модели имеют предикторы, связанные с использованием в повседневной практике технологий ИИ (мобильных голосовых помощников) и общими установками респондентов по отношению к новым технологиям. При наличии у респондентов этих характеристик вероятность поддержки использования алгоритмов социальных рейтингов возрастает на 64 и 48% соответственно по сравнение с теми, кому такие особенности не присущи. Достаточно высокой величиной обладает предиктор, относящийся к социальной демографии - вероятность поддержки идеи социальных рейтингов оказывается на 45% выше среди мужчин, нежели, чем среди женщин.
Существенной (в рамках этой модели) оказывается роль предикторов, отражающих отдельные составляющие ценностного сознания. Так, среди респондентов, ориентированных на такую ценность, как самостоятельность, т. е. независимость в оценках и суждениях, вероятность поддержки
широкого использования алгоритмов социальных рейтингов является на 37% выше по сравнению с теми, кто эту ценность не разделяет. Также модель отражает, что высокие ориентации на карьерные достижения также повышает вероятность поддержки идеи использования социальных рейтингов (на 33%). Поддержка социальных рейтингов с большей вероятностью оказывается присущей тем, кто не разделяет ценности патриотизма (на 36%) и не рассматривает возможности творческой деятельности в ряду значимых для себя ценностей (на 33%). Зафиксирована также роль длительности суточного медиапотребления. При этом величина коэффициента В оказывается здесь относительно низкой по сравнению с другими предикторами. В этой связи можно говорить о том, что среди респондентов с большим потреблением социальной сети Instagram. может наблюдаться несколько большая поддержка социальных рейтингов (на 14%).
Обсуждение
Исследование показало, что уровень информированности студенческой молодёжи о технологиях ИИ является относительно невысоким. Большая часть респондентов - от половины до двух третей в регионах исследования - указали, что знают об этом явлении, «но немного». Наибольший уровень информированности о технологиях ИИ был присущим опрошенным в Москве, что вполне понятно, с учётом общего уровня технологической про-двинутости и благосостояния населения столицы по сравнению с другими регионами страны. Освоение практических приложений технологий ИИ для большинства респондентов происходит в области цифровых коммуникаций и разнообразных сервисов, которые используются в повседневной жизни. Наиболее распространённым в этой связи является использование голосовых помощников смартфонов. Представления о влиянии широкого использования технологий ИИ на жизнь людей в среднесрочной перспективе не являются однозначными. В целом на положительное влияние этого указали от 37 до 29% респондентов в различных регионах. Большая часть опрошенных во всех регионах отметила, что это влияние будет иметь как положительные, так и отрицательные следствия (от 58 до 37%).
Также неоднозначными оказались мнения респондентов относительно возможности широкого внедрения технологических оценок - алгоритмов социальных рейтингов. Если в Москве большая часть опрошенных (48%) не поддержала эту идею, то в Белгороде и Кызыле большая часть респондентов затруднилась с ответом по этому вопросу (40 и 42% соответственно). Вместе с тем, уровень поддержки внедрения алгоритмов социальных рейтингов находился в пределах (38-30%). Результаты исследования говорят о наличии зависимости между поддержкой социальных рейтингов и рассмотрения их оценок в качестве справедливых. Фиксируется большая осторожность респондентов, представляющих столичный регион, в уровне поддержки и представлений об оценках алгоритмов социальных рейтингов как справедливых. Это может быть обусловлено
тем, что по мере распространения технологий ИИ и погружения людей в эту сферу жизнедеятельности (как на уровне информации, так и реальных практик) респонденты начинают сталкиваться с различными по своей направленности следствиями этих явлений.
В результате применения процедур дискриминантного и регрессионного анализа можно сделать вывод о наличии нескольких групп переменных, влияющих на принятие идеи использования алгоритмов социальных рейтингов.
Поддержка социальных рейтингов присуща респондентам, имеющим высокий обобщённый индекс включенности в цифровые технологии, что предполагает более высокий (чем у других) уровень информированности, активное потребительское поведение в этой области и т. п. Можно предположить, что поддерживающие внедрение алгоритмов социальных рейтингов так или иначе относятся к тем социальным сегментам, в которых диффузии инноваций начинают распространятся ранее, чем в других группах. Это соотносится с тем, что поддержка алгоритмических решений связана с активными практиками использования новых устройств в повседневной жизни, в которых уже реализованы технологии ИИ. Не случайно факт использования голосовых помощников смартфонов (типа Алиса, Google Ассистент, Siri) обладает наибольшим, наряду с обобщённым индексом ориентаций на цифровые технологии, влиянием на принятие идеи использования алгоритмов социальных рейтингов. Также высокую (в рамках регрессионной модели) предсказательную силу в части принятия алгоритмов социальных рейтингов имеет факт принадлежности респондентов к мужчинам.
Регрессионная модель показывает также, что факт поддержки социальных рейтингов оказывается связанным (положительно или отрицательно) с принятием отдельных ценностей. Поддержка алгоритмов социальных рейтингов положительно связана с важностью для респондентов такой ценности, как самостоятельность, понимаемой как независимость в суждениях и оценках. По всей видимости, технологические решения рассматриваются представителями молодёжи в качестве альтернативного инструмента рутинным, бюрократическим практикам оценок, сложившихся в различных областях жизни респондентов. Существует и другая ценность, положительно связанная с вероятностью принятия алгоритмов социальных рейтингов - это ценность карьеры, понимаемой как личный успех, общественное признание, уважение окружающих. Учитывая наличие положительной связи между поддержкой алгоритмов социальных рейтингов и представлений о производимых ими оценках как справедливых, уместно предположить следующее. В условиях широкой распространённости низкого уровня институционального доверия в российском обществе респонденты, поддерживающие алгоритмические решения, рассматривают последние как способ получения независимой и объективной, по их мнению, экспертизы достижений и деятельности людей [17].
Регрессионный анализ фиксирует, что существуют две другие ценности, которые отрицательно коррелируют с поддержкой идеи широкого
использования алгоритмов социальных рейтингов. Первая из них относится к патриотизму, актуальной идеи политико-идеологической сферы современной российской жизни. На наш взгляд, зафиксированный факт отражает общий тренд конца первого - начала второго десятилетия нынешнего века, когда ценности патриотизма среди российской молодёжи, в том числе среди её студенческого сегмента, оказывались менее распространёнными, чем в других возрастных группах общества [18, с. 343346]. Отрицательно связан с поддержкой алгоритмических рейтингов тот факт, что для респондентов оказывается значимой ценность творчества, творческой деятельности. В этом, как представляется, находит своё отражение общее противоречие между рассмотрением полноты всего богатства жизненного мира, которое неотделимо от творческой самореализации в самых разных областях, с одной стороны; и тренда на алгоритмизацию самых разных сторон современной жизни людей - с другой.
Неоднозначная оценка перспектив внедрения социальных рейтингов, трактовка значительной долей опрошенных осуществляемых при этом алгоритмических решений как несправедливых говорит о необходимости взвешенных решений в этой области. Это тем более так, поскольку уровень информированности о технологиях ИИ в молодёжной среде в целом оказывается невысоким. Поддержка идеи социальных рейтингов связана с проявлениями жизнедеятельности, отражающих общую включённость молодёжи в цифровые практики. Причём сопряжённые с этим ценности говорят о том, что алгоритмические решения рассматриваются в качестве альтернативы российской ситуации низкого институционального доверия в целом. Вместе с тем, региональные различия в интерпретации социальных рейтингов как справедливых отражают, по всей видимости, ситуацию, когда более продвинутая цифровая ситуация в регионе (включая в том числе её негативные проявления) приводит к большей осторожности в оценках.
Немаловажно, что современные российские цифровые трансформации, предполагающие, в частности, применение тех или иных форм цифровых рейтингов не являются свободными от целого ряда проблем, о которых говорилось выше. Поэтому при внедрении ИИ и его составляющих в центре должны стоять интересы человека. Если говорить шире, то вопрос, на наш взгляд, стоит не в противодействии техническому прогрессу, а в придании ему «человеческого измерения» - соответствие инноваций ценностям социальной справедливости, рамкам морально-этической легитимности общества.
СПИСОК ИСТОЧНИКОВ
1. Энциклопедия эпистемологии и философии науки. М. : Канон+. 2009. 1247 с. ISBN 978-5-88373-089-3. EDN SAAGNR.
2. Burrell J., Fourcade M. The Society of Algorithms // Annual Review of Sociology. 2021. Vol. 47. P. 213-237. DOI 10.1146/annurev-soc-090820-020800.
3. Walorska A. M. The Algorithmic Society // Redesigning Organizations. Concepts for the Connected Society / D. Feldner (ed.). Cham : Springer Nature Switzerland AG, 2020. P. 149-160. ISBN 978-3-030-27956-1. DOI 10.1007/978-3-030-27957-8_11.
4. Киссинджер Г., Шмидт Э., Хаттенлокер Д. Искусственный разум и новая эра человечества. М. : Альпина ПРО, 2022. 200 с. ISBN 978-5-907534-65-0.
5. Galloway A. Protocol: How Control Exists after Decentralization. Cambridge, MA and London : The MIT Press, 2006. 288 p. ISBN 0-262-07247-5.
6. Pasquale F. The Black Box Society. The Secret Algorithms That Control Money and Information. Cambridge, MA : Harvard Univ. Press, 2015. 311 p. ISBN 9780-674-36827-9.
7. The Algorithmic Society. Technology, Power, and Knowledge / Eds. M. Schuilen-burg, R. Peeters. London : Routledge, 2022. 214 p. DOI 10.4324/9780429261404.
8. Beer D. Metric Power. London : Palgrave Macmillan, 2016. 236 p. ISBN 9781137556486.
9. Leibkuechle P. Trust in the Digital Age - The Case of the Chinese Social Credit System // Redesigning Organizations. Concepts for the Connected Society / D. Feldner (eds). Cham : Springer Nature Switzerland AG, 2020. P. 279-290. DOI 10.1007/978-3-030-27957-8_21.
10. Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М. : Издательство Института Гайдара, 2022. 781 с. ISBN 978-5-93255-613-9.
11. In AI we trust? Perceptions about automated decision-making by artificial intelligence / T. Araujo, N. Helberger, S. Kruikemeier, C. H. de Vreese // AI & Society. 2020. Vol. 35, № 3. P. 611-623. DOI 10.1007/s00146-019-00931-w. EDN EEIWSR.
12. Lee M. K. Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management // Big Data & Society. 2018. № 1. P. 1-16. DOI 10.1177/2053951718756684.
13. Shin D. User Perceptions of Algorithmic Decisions in the Personalized AI System: Perceptual Evaluation of Fairness, Accountability, Transparency, and Ex-plainability // Journal of Broadcasting & Electronic Media. 2020. Vol. 64, № 4. P. 541-565. DOI 10.1080/08838151.2020.1843357.
14. Рувинский Р. З, Рувинская Е. А., Комарова Т. Д. Общественное восприятие практик цифрового профилирования и социального рейтингования: ситуация в России и Китае // Социодинамика. 2021. № 12. С. 56-76. DOI 10.25136/24097144.2021.12.36824. EDN GGVZLL.
15. Прогнозирование в социологических исследованиях. Методологические проблемы / И.В. Бестужев-Лада [и др.] ; отв. ред. И. В. Бестужев-Лада. М. : «Мысль», 1978. 272 с.
16. Бессокирная Г. П. Дискриминантный анализ для отбора информативных переменных // Социология: Методология, методы, математические модели. 2003. № 16. С. 25-35. EDN PEYDBR.
17. Назаров М. М., Иванов В. Н, Кублицкая Е. А. Медиа, институты и доверие российских граждан // Вестник Российского университета дружбы народов. Серия: Социология. 2019. Т. 19, № 2. С. 277-288. DOI 10.22363/2313-22722019-19-2-277-288. EDN WAVOYQ.
18. Российское общество и государство в условиях глобальной многополярности. Социально-политическое положение России в 2022 году / Н. В. Березина, И. Я. Богданов, Н. М. Великая [и др.] ; отв. ред. В. К. Левашов. М. : ФНИСЦ РАН, 2023. 549 с. DOI 10.19181/monogr.978-5-89697-409-3.2023. EDN ORTSAQ.
Сведения об авторе М. М. Назаров
доктор политических наук, главный научный сотрудник AuthorID РИНЦ: 74313
Статья поступила в редакцию 10.04.2023; одобрена после рецензирования 15.05.2023; принята к публикации 09.06.2023.
Original article
DOI: 10.19181/snsp.2023.11.3.7
ARTIFICIAL INTELLIGENCE AND ALGORITHMIC SOLUTIONS IN THE SOCIAL SPHERE: YOUTH ATTITUDES
Mikhail Mikhailovich Nazarov
Institute of Socio-Political Research of FCTAS RAS,
Moscow, Russia, vy175867@yandex.ru, ORCID 0000-0003-0200-3785
For citation: Nazarov M. M. Artificial Intelligence and algorithmic solutions in the social sphere: youth attitudes. Sociologicheskaja nauka i social'naja praktika. 2023;11(3):141-158. (in Russ.). DOI 10.19181/snsp.2023.11.3.7.
Abstract. Over the past decade, the diffusion of digital innovations among the youth has been advancing at an accelerated pace. The article presents an analysis of the youth's attitude towards the idea of using social ratings as one of the applications of artificial intelligence (AI) and algorithmic management in the social sphere. The empirical focus of the analysis was on representatives of student youth in three Russian cities - Moscow, Belgorod, and Kyzyl. More than half of the respondents in all regions indicated that the influence of AI technologies on people's lives would have both positive and negative consequences. The analysis of a model situation - the possibility of widespread use of social ratings - reveals that about one-third of the respondents in all regions supported this idea. In the capital city, the majority of respondents did not support the idea of implementing algorithms for social ratings, while in other regions, the majority of those surveyed were undecided about assessing this issue. There is an increasing level of support and perceptions of fair evaluations of algorithms for social ratings as respondents move away from the capital city. Apparently, the overall digital advancement of the Moscow region is accompanied by an increase in perceptions of the ambiguous social consequences of using AI and algorithmic solutions, leading respondents to be more cautious in assessing the prospects of these technologies. The results of multivariate statistical analysis indicate that the differentiation of support/non-support for the idea of widespread use of social ratings is related to general attitudes towards new technologies, digital media consumption habits, value orientations, and specific characteristics of social demographics. The ambivalent assessment of the prospects of implementing social ratings and the perception of a significant portion of respondents towards algorithmic solutions as unjust highlight the need for balanced management decisions that prioritise human development and the humanitarian potential of society.
Keywords: youth, digitalisation, artificial intelligence, algorithmic management, innovations, social rating system, digital profile
REFERENCES
1. Encyclopedia of epistemology and philosophy of science [E'nciklopediya e'pistemologii i filosofii nauki]. Moscow : Kanon+. 2009. 1247 p. (In Russ.). ISBN 978-5-88373-089-3.
2. Burrell J., Fourcade M. The society of algorithms. Annual Review of Sociology. 2021;(47):213-237. DOI 10.1146/annurev-soc-090820-020800.
3. Walorska A. M. The algorithmic society. In: Redesigning organizations. Concepts for the connected society. D. Feldner (ed.). Cham : Springer Nature Switzerland AG; 2020. P. 149-160. ISBN 978-3-030-27956-1. DOI 10.1007/978-3-030-27957-8_11.
4. Kissinger G., Schmidt E., Hattenlocker D. The age of AI: and our human future. [Iskusstvenny'j razum i novaya e>a chelovechestva] Moscow : Al'pina PRO;
2022. 200 p. (In Russ.). ISBN 978-5-907534-65-0
5. Galloway A. Protocol: How control exists after decentralization. Cambridge, MA and London : The MIT Press; 2006. 288 p. ISBN 0-262-07247-5.
6. Pasquale F. The black box society. The secret algorithms that control money and information. Cambridge, MA : Harvard Univ. Press; 2015. 311 p. ISBN 978- 0-6 74-3 6827-9.
7. Schuilenburg M., Peeters R. (eds.). The algorithmic society. Technology, power, and knowledge. London : Routledge; 2022. 214 p. DOI 10.4324/9780429261404.
8. Beer D. Metric power. London : Palgrave Macmillan; 2016. 236 p. ISBN 978-1137556486.
9. Leibkuechle P. Trust in the digital age - the case of the chinese social credit system. In: Redesigning organizations. Concepts for the connected society. D. Feldner (ed.). Cham : Springer Nature Switzerland AG; 2020. P. 279-290. DOI 10.1007/978-3-030-27957-8_21.
10. Zuboff Sh. The age of surveillance capitalism: The fight for a human future at the new frontier of power. Moscow : IzdateFstvo Instituta Gajdara; 2022. 781 p. (In Russ.). ISBN 978-5-93255-613-9.
11. Araujo T., Helberger N., Kruikemeier S., de Vreese C. In AI we trust? Perceptions about automated decision making by artifcial intelligence. AI & Society. 2021;(35):611-623. DOI 10.1007/s00146-019-00931-w.
12. Lee M. K. Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management. Big Data & Society. 2018;(1):1-16. 16. DOI 10.1177/2053951718756684.
13. Shin D. User perceptions of algorithmic decisions in the personalized AI system: Perceptual evaluation of fairness, accountability, transparency, and explainabili-ty. Journal of Broadcasting & Electronic Media. 2020;(4):541-565. DOI 10.1080 /08838151.2020.1843357.
14. Ruvinsky R. Z., Ruvinskaya E. A., Komarova T. D. Public perception of digital profiling and social rating practices: the situation in Russia and China. So-ciodynamics=Sociodinamika. 2021;(12):56-76. (In Russ.). DOI 10.25136/24097144.2021.12.36824.
15. Bestuzhev-Lada I. V. (ed.). Forecasting in sociological research. Methodological problems [Prognozirovanie v sociologicheskix issledovaniyax. Metodologicheskie problem']. Moscow : My^sP; 1978. 272 p. (In Russ.).
16. Bessokirnaya G. P. Discriminant analysis for the selection of informative variables. Sociology: Methodology, Methods, Mathematical Modeling (Sociology: 4M)=Sociologiya: Metodologiya, metody\ matematicheskie modeli.(Sociologiya 4M). 2003;(16):25-35. (In Russ.).
17. Nazarov M. M., Ivanov V. N., Kublitskaya E. A. Media, institutions, and the Russians' trust. Rudn Journal of Sociology=Vestnik Rossijskogo universiteta druzhby" narodov. Seriya: Sociologiya. 2019;(2):277-288. (In Russ.). DOI 10.22363/23132272-2019-19-2-277-288.
18. Levashov V. K. (ed.). Russian society and the state in the context of global multi-polarity. The socio-political situation of Russia in 2022. Moscow : FNISCz RAN;
2023. 549 p. (In Russ.). DOI 10.19181/monogr.978-5-89697-409-3.2023.
Information about the author M. M. Nazarov
Doctor of Politology, Main Researcher ResearcherID: L-7449-2015
The article was submitted 10.04.2023; approved after reviewing 15.05.2023; accepted for publication 09.06.2023
