CC BY
185
ВСТУПИТЕЛЬНОЕ СЛОВО ПРИГЛАШЕННОГО РЕДАКТОРА
DOI: 10.14515/monitoring.2021.1.1905
А. В. Резаев, Н. Д. Трегубова
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ИСКУССТВЕННАЯ СОЦИАЛЬНОСТЬ:
НОВЫЕ ЯВЛЕНИЯ, ПРОБЛЕМЫ И ЗАДАЧИ ДЛЯ СОЦИАЛЬНЫХ НАУК
Правильная ссылка на статью:
Резаев А. В., Трегубова Н. Д. Искусственный интеллект и искусственная социальность: новые явления, проблемы и задачи для социальных наук//Мониторинг общественного мнения: экономические и социальные перемены. 2021. № 1. С. 4—19. https://doi.org/10.14515/ monitoring.2021.1.1905. For citation:
Rezaev A. V., Tregubova N. D. (2021) Artificial Intelligence and Artificial Sociality: New Phenomena and Challenges for the Social Sciences. Monitoring of Public Opinion: Economic and Social Changes. No. 1. P. 4-19. https://doi.org/10.14515/monitoring.2021.1.1905. (In Russ.)
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ИСКУССТВЕННАЯ СОЦИАЛЬНОСТЬ: НОВЫЕ ЯВЛЕНИЯ, ПРОБЛЕМЫ И ЗАДАЧИ ДЛЯ СОЦИАЛЬНЫХ НАУК
РЕЗАЕВ Андрей Владимирович — доктор философских наук, профессор, руководитель Международной исследовательской лаборатории ТАНДЕМ, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия E-MAIL: rezaev@hotmail.com https://orcid.org/0000-0002-4245-0769
ТРЕГУБОВА Наталья Дамировна — кандидат социологических наук, ассистент кафедры сравнительной социологии, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия E-MAIL: n.tregubova@spbu.ru https://orcid.org/0000-0003-3259-5566
Благодарность. Работа выполнена при поддержке РФФИ в рамках научного проекта № 20-04-60033.
ARTIFICIAL INTELLIGENCE AND ARTIFICIAL SOCIALITY: NEW PHENOMENA AND CHALLENGES FOR THE SOCIAL SCIENCES
Andrey V. REZAEV 1 — Prof. Dr. habil., Director of International Research Laboratory TANDEM E-MAIL: rezaev@hotmail.com https://orcid.org/0000-0002-4245-0769
Natalia D. TREGUBOVA1 — Cand. Sci. (Soc.), Assistant Professor, Chair of Comparative Sociology E-MAIL: n.tregubova@spbu.ru https://orcid.org/0000-0003-3259-5566
1 Saint Petersburg State University, Saint Petersburg, Russia
Acknowledgments. The study was conducted in the framework of the research project supported by RFBR grant No. 2004-60033.
В последние годы мы наблюдаем всплеск дискуссий и публикаций о технологиях искусственного интеллекта (ИИ), которые становятся неотъемлемой частью повседневной жизни общества. Эти дискуссии ставят ряд вопросов, которые оказываются ключевыми для современной социальной науки. На каких основаниях социальные ученые могут/должны принимать участие в экспертной оценке и в общественном обсуждении того, как обеспечить прогресс в области ИИ? Должны ли социологи опираться на абстрактные философские теории или их дело — проводить конкретную эмпирическую работу, фиксирующую текущее положение дел? Следует ли социологам присоединяться к междисциплинарным коллективам? На каком уровне целесообразно проводить критический анализ технологий ИИ? Наконец, каким образом социальные ученые реально могут включиться в дискуссии и исследовательскую работу в области ИИ, которой традиционно занимаются представители других дисциплин?
Данные вопросы становятся еще более актуальными в период пандемии СОУЮ-19. С начала пандемии три характеристики стали решающими для социально-экономического развития современных обществ: а) возвращение опре-
деляющей роли национальному государству в большинстве его функций; б) опора на авторитет науки и на научное понимание того, как справиться с вирусом; в) необходимость включения в повседневную жизнь людей технологий ИИ и он-лайн-культуры. Наиболее важными агентами ИИ для осмысления опыта пандемии COVID-19 являются алгоритмы, анализирующие данные о пользовательской активности в социальных медиа, реконструирующие предпочтения пользователей на основании этих данных и определяющие приоритет показа тех или иных новостей на основании этих предпочтений. Также оказываются важны агенты ИИ, которые действуют в сфере медицины в качестве диагностов и посредников между пациентами и медицинским персоналом. Наконец, появляются алгоритмы, отслеживающие контакты индивида и предупреждающие его/ее о возможном заражении. Таким образом, ситуация с пандемией выявляет разнообразие агентов ИИ, включенных в повседневную жизнь общества, открывая тем самым новое поле исследований для социальных ученых.
Специальный выпуск журнала, который мы представляем читателю, посвящен обсуждению того, как социальные ученые понимают pro etcontra в развитии искусственного интеллекта (ИИ) и искусственной социальности (ИС) в современных обществах.
Следует сделать три замечания о базовых допущениях и общем характере дискуссий, которые читатель найдет в этом номере. Во-первых, мы утверждаем, что в рамках современной социальной аналитики искусственный интеллект, как бы ученые ни трактовали данный термин, следует рассматривать в связке с искусственной социальностью — с реальностью новых форм взаимодействия между людьми и машинами/алгоритмами [Резаев, Трегубова, 2019]. Дистанция между исследованиями в области ИИ и ИС далее будет только сокращаться. Во-вторых, развитие новых технологий и онлайн-культуры сопровождается появлением взаимных «обязательств» между ИИ и ИС, а также «обязательств» ИИ перед обществом. В-третьих, мы полагаем, что сегодня человечество имеет все возможности для того, чтобы ИИ и ИС служили на благо обществу и человеку. Вопрос в том, как сделать так, чтобы не утратить эти возможности.
Статьи в данном выпуске ориентированы на концептуальный и эмпирический анализ технологий ИИ. Специальный выпуск не просто осмысляет практики, связанные с технологиями ИИ, которые явно или скрыто представлены в повседневной жизни людей,—он призывает к дальнейшим исследованиям, где большее внимание будет уделено социальным, этическим, культурным аспектам создания, распространения и использования новых технологий. Чтобы возникли новые формы и методы анализа и оценки развития ИИ, необходимо проводить новые исследования, пересекающие границы дисциплин, исследования, ориентированные на недисциплинарные подходы.
Главная цель специального выпуска проста: мы стремимся понять, что же представляет собой искусственный интеллект, продвинуться в поиске теоретических оснований для социальных ученых, интересующихся проблемами ИИ и ИС, рассмотреть характеристики, от которых другие ученые могли бы отталкиваться, развивая их или обосновывая более аргументированные положения. Иными словами, мы полагаем, что сегодня наиболее продуктивно работать с проблемами ИИ и ИС в формате дискуссии.
Из этого следует два обстоятельства, на которые нам бы хотелось обратить внимание читателя заранее.
Во-первых, многие темы неизбежно остаются за рамками данного выпуска. Поэтому мы приносим извинения читателям, ожидающим найти здесь детальный анализ того, как новые технологии влияют на экономику или как можно работать с социальными и культурными стереотипами агентов ИИ: развернутое обсуждение данных проблем выходит за рамки данного номера. Во-вторых, мы стремились включить в специальный выпуск зарубежные исследования, но достигли в этом лишь ограниченного успеха: в номер входят три статьи исследователей из Великобритании, США, и Японии.
Структура дальнейшего изложения достаточно традиционна. Мы начнем с общего обзора специальной литературы, с тем чтобы определить систему координат или то, что в английском языке называется background. Перейдем от него к формулировке концептуальных допущений, которые, мы полагаем, могут стать путеводной нитью для тех, кто исследует феномены ИИ и ИС. Далее обратим внимание на наиболее важные проблемы, встающие перед социальной аналитикой ИИ. Указывая на аспекты ИИ, представляющие интерес для социального знания, экономики, социологии повседневности, этики, мы надеемся дополнить существующие исследования в компьютерных науках и других дисциплинах, а также проложить дорогу кросс-дисциплинарному взаимодействию. Далее представим краткое описание материалов, включенных в выпуск. В конце мы сделаем несколько заключительных замечаний о специальном выпуске.
Обзор литературы
О различных аспектах развития технологий ИИ и их включении в общество написано уже немало. В рамках вступительной статьи, наверное, нет необходимости представлять глубокий и детальный анализ публикаций по данной проблематике. Мы отсылаем читателя к аналитическим обзорам исследований и разработок ИИ: [Boden, 2016; McCorduck, 1979; Ford, 2018]. Тем, кто ориентирован на профессиональную литературу об ИИ в системе компьютерных наук, рекомендуем фундаментальную работу С. Рассела и П. Норвига [Russel, Norvig, 2016]. Также надеемся, что данный выпуск станет в какой-то мере помощником и проводником в область исследований ИИ тем читателям журнала, для которых данная проблематика не является приоритетной или их специализацией.
В массиве академических публикаций об ИИ сегодня доминирует «большая тройка» — компьютерные науки, когнитивные науки и философия (см. [Резаев, Трегубова, 2019]). В последнее время в западной литературе (особенно в США) к «большой тройке» присоединяются исследования, организованные в рамках гуманитарных дисциплин, в особенности критической теории, которые обсуждают вопросы социальной справедливости и индивидуальной приватности в мире машин и алгоритмов.
Вместе с тем активно заявляют о своем интересе к исследованию ИИ такие уважаемые и признанные области знания, как STS и теория коммуникации. В их рамках появляются перспективные теоретико-методологические подходы [Woolgar, 1985; Collins, 2018; Lee, Larsen, 2019; Ruppert, Law, Savage, 2013; Esposito, 2017b;
Floridi, 2015] и весьма интересные эмпирические исследования (см., например, [Ziewitz, 2016; Beer, 2017; Esposito, 2017a]). При этом нельзя не отметить: каждая из областей, явно или скрыто, претендует на монополию исследования ИИ в рамках социальной науки.
В этой картине место социологии оказывается везде и нигде: везде в той мере, в какой социологи считают STS, исследования коммуникаций и критическую теорию «своими»; нигде, поскольку каждая из этих областей с успехом отмежевывается от социологии и противопоставляет себя ей. Тем не менее начиная с 1990-х годов появляются работы, трактующие проблемы ИИ и ИС с опорой на концептуальные и методологические ресурсы социологической дисциплины [Wolfe, 1993; Joerges, 1990; Carley, 1996; Коллинз, 2004; Couldry, 2015; Etzioni, Etzioni, 2017].
Корпус публикаций об ИИ может быть далее структурирован на основании двух обобщений. С одной стороны, представители компьютерных наук настаивают на «порядке и прогрессе», тогда как исследователи из гуманитарных дисциплин обсуждают «свободу и равенство». С другой стороны, теоретики сосредотачиваются на своих излюбленных теориях, а эмпирики — на том, чтобы все «работало» и подтверждалось собранными данными.
Еще один важный вопрос — соотношение исследований в академии и в рамках бизнес-организаций. Прежде всего, следует понимать, что граница между ними сегодня размыта: корпорации создают мощные исследовательские отделы, производящие в том числе научные публикации; университеты организуют программы аспирантуры и магистратуры вместе с бизнес-организациями; внутри самих университетов происходит дифференциация между коллективами, ориентированными на академическую и на прикладную науку. Причем зачастую и те, и другие считают, что их наука лучше [Hoffman, 2016]. Однако представляется, что в результате данных процессов выигрывают корпорации: в них (вследствие накопления ресурсов разного рода) развиваются и наука, и бизнес. Университеты же — за немногими исключениями (такими как Stanford и MIT),—пытаясь угнаться за корпорациями, не получают ни того, ни другого в сопоставимом объеме и качестве.
Сегодня заметным трендом в развитии исследований ИИ, который в определенной степени объединяет усилия ученых из разных дисциплин, исследователей из академии и бизнес-организаций, становится кристаллизация человеко-ориентированного подхода (human-centered AI). Его основная идея заключается в том, чтобы в центр развития технологий ИИ поставить благо человека и человечества, чтобы подстраивать технологии под людей, а не людей под технологии. В последние годы крупные исследовательские центры человеко-ориентированного ИИ открываются в США 1 и Европе 2.
Наконец, следует сказать несколько слов об исследованиях ИИ, представленных в отечественной литературе. По сути, здесь мы видим все те же тенденции развития, с поправкой на некоторое запаздывание и на местную специфику.
1 Наиболее крупные центры: Stanford Institute for Human-Centered AI (https://hai.stanford.edu/) и MIT Sloan (https:// mitsloan.mit.edu/experts/human-centered-ai-how-can-technology-industry-fight-bias-machines-and-people).
2 См., например: European Network of Human-Centered Artificial Intelligence. URL: https://www.humane-ai.eu/ (дата обращения: 20.02.2021); Human-Centered AI Lab (Holzinger Group). URL: https://human-centered.ai/ (дата обращения: 20.02.2021).
Во-первых, в России наблюдается то же соотношение академических и бизнес-исследований в сфере ИИ. Так, крупнейшая конференция по проблематике ИИ в 2020 г. организована корпорацией 3; академические мероприятия на этом фоне выглядят скромно, хотя вполне достойно 4.
Во-вторых, в русскоязычной науке доминирует та же «большая тройка» дисциплин, оформившаяся еще в рамках советской науки: компьютерные науки / информатика и математика, когнитивные исследования / нейронаука, и философия.
В-третьих, в социальных науках происходит выборочная рецепция идей, подходов и методов, развиваемых в Западной Европе и Северной Америке. При этом особую популярность получают отдельные направления БТБ и акторно-сетевой теории [Утехин, 2012; Земнухова, 2018; Сивков, 2018; Кузнецов, 2020], а также микросоциологические подходы [Хониева, 2017; Максимова, Глазков, 2018; Кловайт, 2018; Корбут, 2018]. Кроме того, появляются публикации, обсуждающие проблематику неравенства в связи с развитием технологий ИИ [Капелюшников, 2017; Ним, 2018], и мы полагаем, что их число будет расти, следуя общему международному тренду.
Инструментальность, экзистенциальность, социальность
Важность человеко-ориентированного подхода к ИИ, противостоящего чисто технологической модернизации, заключается в его способности исследовать, ставить под вопрос и предлагать альтернативы нормативным практикам повседневного использования технологий. Иными словами, смысл включения ИИ в общество не в том, что люди получают новые инструменты, а в том, что они получают их от кого-то, для реализации конкретных целей и в рамках некоторых отношений.
Онл айн-культура 5 — это культура плотных информационно-инструментальных обменов и, одновременно, культура экзистенциальной атомизации и одиночества. Человеческое одиночество в онлайн-активностях только усиливается.
Сформулируем следующую гипотезу: онлайн-культура переводит социальность в инструментальность, а экзистенциальность — в социальность. Онлайн-культура инструментализирует социальные взаимодействия, трактуя их как информационные обмены и как потенциальный источник прибыли. Онлайн-культура сводит экзистенциальное измерение человеческого общения и одиночества к коллективным эмоциям и замыканию внутри «информационных пузырей». Как следствие, в условиях развития технологий ИИ человеческое общение — равно как и возможность побыть одному—все чаще воспринимается как роскошь.
Еще один аспект экзистенциального измерения развития технологий ИИ состоит в том, что искусственный интеллект — наше создание — вступает с нами
3 См.: AI Journey. URL: https://ai-journey.ru/ (дата обращения: 20.02.2021).
4 См., например: От искусственного интеллекта к искусственной социальности: новые проблемы и задачи социологии // ВЦИОМ. 12.11.2020. URL: https://profi.wciom.ru/index.php?id=2287&uid=20 (дата обращения: 20.02.2021); Возможен ли Хайдеггерианский искусственный интеллект? // ЕУ СПб. 04.12.2020. URL: https://eusp.org/events/ vozmozhen-li-khaydeggerianskiy-iskusstvennyy-intellekt (дата обращения: 20.02.2021).
5 Мы рассматриваем развитие онлайн-культуры как логически независимое, но эмпирически взаимосвязанное по отношению к развитию технологий ИИ. Под «онлайн-культурой» мы понимаем «ансамбль (гармоническую совокупность) сетей коммуникаций, технических устройств, алгоритмов, формальных и неформальных правил взаимодействия, паттернов поведения, культурных символов, которые делают возможной и структурируют активность людей в сети интернет и аналогичных сетях, обеспечивающих удаленный доступ к созданию, обмену и получению информации» [Резаев, Трегубова, 2019: 42].
во взаимодействие. Что при этом происходит с человеком? Что каждый из нас узнает о самом себе, взаимодействуя с машинами? Как ИИ отражает в измененном виде то, что получает от человека? 6 По сути, это старая история Пигмалиона и Галатеи, учителя и ученика. Однако старая история развертывается в новых условиях. Мы учим ИИ взаимодействовать с людьми на данных, взятых от людей, накопленных в ходе взаимодействия людей друг с другом. Дальше ИИ учится сам, получает данные от своего взаимодействия с людьми, при этом накапливаются отличия в способах взаимодействия и в том, как они отображаются в данных. Одновременно новые поколения, выросшие в условиях искусственной социальности, взаимодействуют между собой уже по-другому, так как взаимодействуют преимущественно через машины. К чему приводит этот сдвиг? К каким новым типам взаимодействия и социальных отношений? Проблематика искусственной социальности — об этом, а не только о работающих машинах.
Технологии ИИ никогда еще не играли столь разнообразные и столь неоднозначные роли в жизни общества. Современное общество сталкивается с проблемами социального и антисоциального поведения, связанного с использованием технологий ИИ, препятствующего тому, чтобы люди создавали и поддерживали общественные отношения. Дискуссии о том, что искусственный интеллект «должен» и «может» делать, увы, часто концентрируются на структурном и институциональном неравенстве, которое пронизывает отношения между создателями и пользователями технологий.
Одна из задач, стоящих перед учеными, состоит в том, чтобы, организуя исследования, не упускать из виду, как их собственная позиция соотносится с тем сложным и иногда морально неудобным содержанием, которое ИИ привносит в жизнь людей. Человеческий опыт во взаимодействии с агентами ИИ весьма разнообразен, и очевидно, что многим людям такие взаимодействия приносят пользу. Однако это не отменяет необходимость критически исследовать «наплыв» и нерефлективное использование таких технологий, которые приносят не пользу, а вред.
Развитие технологий ИИ идет рука об руку с подъемом онлайн-культуры, и вместе они делают неизбежным будущее под знаком искусственной социальности. Это ставит социальных аналитиков перед необходимостью задавать все новые вопросы о том, для кого и для какой цели предназначены технологии ИИ.
Социальная аналитика под знаком искусственной социальности
В 2018 г. во время конгресса Международной социологической ассоциации (МСА) в Торонто мы задались вопросом: готовы ли социологи к анализу искусственной социальности? [Яе7аеу, ТТ^иЬоуа, 2018]. Тогда мы начали исследования, которые думали и думаем продолжить в рамках форумов МСА. Пандемия нарушила планы, и в данном номере мы не можем представить результаты нового исследования. Тем не менее вопрос не только не утратил своей актуальности, но стал
6 Наиболее интересный пример — Replica, приложение для романтического или дружеского общения, подстраивающееся под взаимодействие с конкретным пользователем и обучающееся во взаимодействии с этим пользователем (https://replika.ai/). Replica создает цифрового двойника, который «отзеркаливает» то, что получает от человека — партнера по взаимодействию.
еще более значимым. Что изменилось за два года? Каковы тенденции развития интересов социальных ученых в отношении проблематики ИИ?
В 2018 г. ответ на вопрос о готовности социологов был отрицательным: интерес социальных ученых к ИИ и ИС был обусловлен скорее особенностями их биографических траекторий, нежели институциональными факторами. Если бы в 2020 г. мы имели возможность провести исследование в рамках форума МСА, мы бы сформулировали следующую гипотезу: интерес социологов к ИИ возрастает, однако это происходит под давлением извне: со стороны прикладных исследований рынков и организаций и со стороны критических исследований угнетения и неравенства. Иными словами, вспоминая «штампы» советского времени, социология — или служанка капитализма, или совсем наоборот.
Пандемия С0УЮ-19 сделала такое положение дел очевидным. К социальным ученым обращаются за рекомендациями по вопросам оптимизации, увеличения эффективности онлайн-взаимодействий, за прогнозами в отношении общественного мнения по поводу использования новых технологий и новых способов регуляции повседневной жизни. В то же время от них ждут критики ошибок, искажений, пристрастных решений алгоритмов, которые, предположительно, приводят к усилению классового, расового, гендерного и иных видов неравенства в условиях современного капитализма.
Если наша гипотеза верна, то текущая ситуация может трактоваться как оптимистично — социологи нужны, так и пессимистично — от социологов хотят то, чего они не хотят или не могут делать.
Здесь мы придерживаемся осторожного оптимизма, с оговоркой: необходимо понимание того, что социальные ученые могут и чего не могут в принципе.
Социальная аналитика сегодня призвана не предсказывать результаты, а формулировать проблемы. В индустриальную эпоху, до развития искусственной социальности социологи были в состоянии, как минимум, предлагать варианты решения проблем. Сейчас это не так, потому что нарушается принцип, происходит сбой: мы не знаем, что вносит машина во взаимодействие с человеком, и не можем предсказать ее действия. Один из способов увидеть это — сказать, что ИИ не понимает экзистенциальные измерения человеческого существования: боль, одиночество, смерть, рождение, радость общения.
Отсюда ключевой вопрос для социальных ученых: как измерить искусственную социальность? Мы должны научиться измерять, чтобы сравнивать и оценивать эффекты воздействия ИС на человеческое общество и общение. Задачи социологов сегодня — в анализе взаимодействий людей с ИИ, а не в попытках старыми способами, опираясь на старый терминологический аппарат исследовать новые феномены ИИ и искусственной социальности. И здесь становится ясной необходимость кросс-дисциплинарного и, в пределе, антидисциплинарного исследования ИИ и ИС.
Как и на каких основаниях это может быть осуществлено? Очевидно, что сейчас мы находимся в самом начале пути. В рамках данного выпуска мы предлагаем 12 тезисов об ИИ и ИС, которые могут стать основанием для дальнейших исследований. Мы также адресуем читателя к обсуждению вопросов об антидисципли-нарности и о новой социальной аналитике ИИ в нашей предыдущей работе (см. [От искусственного интеллекта..., 2020]).
ИИ в повседневных практиках: побочные эффекты капитализма
Одна из наиболее популярных тем в обсуждении проблем искусственной социальности — поиск все новых ошибок и искажений в работе агентов ИИ (см. рецензию в этом номере на работу [О'ИеИ, 2016]). Однако при этом не так много говорится об ошибках и искажениях, связанных с развитием капитализма и рыночной экономики.
Сегодня отношения между ИИ и повседневной жизнью общества определяются формой экономического рационализма, ориентированной на различные варианты потребительской активности. Происходит сдвиг от технологического и культурного к экономическому восприятию ИИ. Товарные ценности сводят ИИ к машине, жестко ориентированной на прибыль. При этом прогресс в технологиях ИИ идет рука об руку с развитием искусственной социальности, которая, в свою очередь, оказывает влияние на общественные отношения и общение.
Идеология конкуренции и потребительство разделяют людей, вместо того чтобы дать им возможность объединиться вокруг общих интересов. Искусственный интеллект, разработанный на основании таких установок, вероятно, принесет больше вреда, чем пользы. Практики, выставляющие эгоизм добродетелью, лишенные всякого понимания общественного блага и общительности, порождающие стыд и отчуждение у обездоленных, не должны стать основанием для разработок в сфере ИИ.
Еще одна опасность состоит в том, что правила, на которых основано взаимодействие ИИ и человека, меняются «по ходу игры». Рынок реагирует на общественный запрос: корпорации вводят квазиэтические ограничения, которые приводят к новым ошибкам и искажениям. Затем цикл повторяется, а прибыль получает тот, кто первым извлек из данных тренды, фиксирующие общественные настроения. При этом в условиях онлайн-культуры важным оказывается не решить проблему, а убедить общественность в том, что она решена 7.
Когда Адам Смит писал о чудесах рынка, он имел в виду рынок, помещенный в рамках морального порядка людей, ориентированных на общество других и чувствительных к нему. Смит полагал, что моральный порядок будет поддерживать благосостояние бедных в рабочей среде. Не понимая, что рыночная экономика может подорвать моральный порядок, Смит предсказывал общество всеобщего материального достатка для всех. Но что происходит с таким видением, когда технологии ИИ разделяют людей по все новым линиям?
Ирония рыночного общества состоит в том, что оно увеличивает разрыв между богатыми и бедными, богатыми и всеми остальными. Более того, в современной рыночной экономике технологии ИИ создают избыточные потребности, одновременно препятствуя удовлетворению потребностей, которые есть у всякого человека: потребностей в регулярном питании, полноценном сне, общении, возможности побыть одному.
7 Здесь можно привести пример с популярной сетью кофеен, описанный в [O'Neil, 2016]. В 2014 г. в New York Times вышла статья о том, что алгоритмы ИИ составляют для сотрудников компании крайне неудобное и непредсказуемое расписание, которое пагубно влияет на их сон, режим питания, а также на возможность совмещать работу с учебой. После скандала, вызванного статьей, представители компании публично пообещали поменять практики составления расписания, так чтобы скорректировать решения алгоритмов. Однако на следующий год оказалось, что практики так и не поменялись, в основном из-за сопротивления младшего управляющего персонала, который должен достигать собственных показателей эффективности.
Содержание номера
Статьи, представленные в специальном выпуске, могут быть сгруппированы по трем основаниям: 1) теоретические/концептуальные и эмпирические; 2) отвечающие на вопросы что и как исследовать, 3) ориентированные на анализ собственно ИИ или онлайн-культуры. Данная классификация, однако, не отражает тематического и методологического разнообразия материалов номера: скорее, она служит для удобства читателя.
В первом разделе представлены статьи на английском языке. Раздел начинается с «Двенадцати тезисов об ИИ и ИС» («Twelve Theses on Artificial Intelligence and Artificial Sociality») А. В. Резаева, которые предлагают определение ИИ в системе координат научного знания, формулируют базовые характеристики и принципы исследования ИИ, призваны обратить внимание читателя на возможность и необходимость осмысления ИИ и ИС на основе человеко-ориентированного подхода, дать общее понимание того, как и почему ИИ становится предметом интереса для социальных ученых. Тезисы определяют основные направления анализа проблем, связанных с включением ИИ в повседневную жизнь общества, и обращают внимание на необходимость соотнесения проблем ИИ с развитием капитализма.
Афина Караджоянни рассматривает проблему ИИ в соотношении с этическими характеристиками и представляет план исследования, где основное внимание уделяется этическим суждениям и практическим рекомендациям, которые используются для осуществления политики в области ИИ в технологических корпорациях, государственных органах и в организациях, представляющих гражданское общество.
Нильс Кловайт и Мария Ерофеева в своей работе обращаются к вопросу о том, как этнометодологические подходы расширяют наши возможности в аналитике ИИ. Авторы соотносят их с исследованиями в области Human-Computer Interaction, чтобы показать «конкурентные преимущества» мультимодального анализа.
Следующие две статьи рассматривают процессы ИС, которые имеют место в рамках организаций и затрагивают интересы и динамику повседневной жизни различных акторов. Нобуко Хосогая анализирует распространение онлайн-коммуникаций в сфере управления персоналом в Японии и последствия этого для данной области как пример развития ИС. Уолтер Аллен с соавторами сосредотачиваются на другом аспекте развития онлайн-технологий — на том, как принимаются решения,— на примере внедрения онлайн-образования в Восточной Африке.
Русскоязычный блок открывает статья А. В. Смирнова, в которой автор стремится ответить на вопрос: в какой мере и в каком смысле Россия является «цифровым обществом»? Ответ на поставленный вопрос дается на основании анализа данных массовых опросов, а также онлайн-данных о населении России. Особое внимание автор уделяет проблематике «цифрового неравенства», его причин и возможных последствий.
Две статьи номера критически анализируют динамику онлайн-культуры и ее социальные и экономические последствия. А. П. Климович рассматривает вопрос о концентрации власти в эпоху цифрового капитализма, сравнивая случаи США и Китая как примеры взаимодействия демократического и авторитарного государства с IT-гигантами. Т. С. Мартыненко и Д. Е. Добринская ставят вопрос о том, как повсеместное распространение алгоритмов влияет на характер «цифрового
разрыва» и как их совместное воздействие меняет структуры социального неравенства в современных обществах.
Далее следуют микросоциологические решения проблемы того, как изучать ИС. А. М. Корбут, используя разные типы данных и разные методы их анализа, исследует, как появление в доме умной колонки меняет повседневность его обитателей. А. М. Давыдова с соавторами анализирует, как пользователи устройств селф-трекинга оценивают свое взаимодействие с ними, в том числе как реагируют на контроль со стороны умных устройств. А. И. Егорова и Н. Кловайт применяют конверсационный анализ для оценки умения современных технологий ИИ вести беседу на примере детального разбора диалога с участием Google Duplex.
Специальный выпуск был подготовлен в период пандемии COVID-19, которая поставила ученых, экспертов и управленцев перед необходимостью лавировать между сохранением жизни граждан своей страны, обеспечением их базовых прав и свобод и стимулированием экономического и социального развития. Статья И. А. Блохина и соавторов характеризует один из аспектов текущей пандемии — использование ИИ в сфере медицины. Авторы обсуждают сильные и слабые стороны ИИ в качестве диагноста в период пандемии и оценивают дальнейшие перспективы использования данной технологии в сходных ситуациях.
Следующие четыре статьи ориентированы на методологическую рефлексию о том, как проводить исследования в условиях развития онлайн-культуры и ИС. Н. Д. Трегубова с соавторами на примере исследования миграционных процессов на пространстве СНГ рассматривает, каким образом в онлайн-исследовании возникает «разделение труда» между людьми и алгоритмами. М. Б. Богданов и И. Б. Смирнов на основании анализа широкого круга специальной литературы выделяют преимущества и ограничения анализа «цифровых следов» в социальных науках. М. Ю. Александрова раскрывает возможности использования методов машинного обучения на примере предсказания частичного неответа респондентов с помощью наивного байесовского классификатора. Н. В. Ярцева представляет собственный опыт проведения исследования на платформе GDELT. Автор характеризует типы данных, возможности их анализа и визуализации, доступные для социальных ученых.
Т. А. Нестик, Н. Н. Седова и Е. Г. Климанова в своей статье характеризуют основные тенденции развития рынка прикладных социологических исследований в России на ближайшие годы. Авторы отмечают, что структура рынка исследований и специализация компаний будут меняться в связи с автоматизацией сбора и анализа данных в онлайн-среде, в том числе за счет развития интернета вещей и алгоритмов ИИ.
Специальный выпуск завершается рецензиями, знакомящими читателя с двумя монографиями, формулирующими ключевые тенденции становления ИС в условиях современного капитализма. А. А. Иванова обсуждает идею «оружия математического поражения» (weapons of math destruction), которую Кэти О'Нил развивает на материалах исследования использования алгоритмов в различных сферах общественной жизни. Д. М. Жихаревич представляет свои размышления о труде Шушаны Зубофф, посвященном концепции «надзорного капитализма» (surveillance capitalism).
Настоящий выпуск — одна из первых попыток обсуждения проблематики ИИ на страницах русскоязычных журналов по социальным наукам. Статьи, которые читатель найдет здесь, представляют модели (парадигмы) для дальнейших исследований ИС и указывают на «проблемные точки» во взаимодействии человека и машины/алгоритма. Выводы, к которым приходят авторы, предполагают разное понимание сущности ИИ и фиксируют разные аспекты вхождения технологий ИИ в повседневную жизнь общества. Мы рассматриваем разнообразие материала в специальном выпуске как преимущество: преждевременное закрытие проблемы не принесло бы пользу никому.
Заключительные замечания
Мы заканчиваем вводное слово к специальному выпуску серией вопросов, которые фиксируют парадоксальную ситуацию в современной социальной науке.
Что современный просвещенный читатель знает об искусственном интеллекте? Что он/она ожидает от специального выпуска журнала по социальным наукам, посвященного искусственному интеллекту? Эти ожидания — ожидания социального ученого или обывателя? Иными словами, каков источник знания и мнения об ИИ? Нужно ли здесь проводить границу между социологом и гражданином? А если нужно, то должен ли социолог знать больше (шире) — или меньше (уже, глубже)?
Мы уверены, что большинство читателей «Мониторинга общественного мнения» имеют некоторое представление о развитии технологий ИИ и об их влиянии на жизнь людей. В повседневной жизни все мы постоянно сталкиваемся как с самими технологиями ИИ, так и с их осмыслением в социальных медиа, СМИ, научно-популярной и художественной литературе, кино и т. п. Вместе с тем как социальные ученые мы оказываемся замкнуты в дисциплинарных рамках, которые, на первый взгляд, на удивление мало могут помочь в осмыслении проблем ИИ и ИС. То, что актуально для социологов, интересующихся ИИ, в конечном счете оказывается заимствовано из критической теории, БТБ (включая акторно-сетевую теорию), исследований коммуникаций или некоторого сочетания данных концептуальных построений. При этом важность социальных проблем, связанных с распространением ИИ, сегодня не вызывает сомнения даже у представителей технических наук.
Представляется, что социальный ученый в исследованиях ИИ сегодня знает, что он не знает, и в этом его сила и слабость. Наша задача — с одной стороны, понять и принять это, с другой — сделать шаг вперед к тому, чтобы знать, от очевидного — к неочевидному.
Несколько лет назад мы писали: что может быть социальнее общения людей друг с другом? Сегодня пришло время задать вопрос: что может быть «социальнее» искусственного интеллекта, понимаемого как источник новых социальных проблем — проблем для социальных наук и проблем для общества? Цель обоих вопросов — в том, чтобы побудить социологов обратиться к игнорируемой ими проблематике. Сегодня эти два вопроса соединяются под рубрикой исследования искусственной социальности.
Мы надеемся, что настоящий выпуск позволит, пусть в малой степени, разобраться в понимании технологий ИИ и последствий их использования и станет
проводником для социальных ученых в мир исследования искусственной социальности. Мы также надеемся, что тем, кто отстаивает гуманистические взгляды, материалы выпуска помогут в осмыслении и в поиске решений проблем, порождаемых нашим высокотехнологичным обществом.
***
В завершение мы хотели бы выразить признательность всем, кто принимал участие в создании специального выпуска и без чьего участия выпуск бы не состоялся.
Прежде всего, мы благодарим членов Международной исследовательской лаборатории СПбГУ ТАНДЕМ за интеллектуальную и эмоциональную поддержку, за точные и здравые суждения, которые очень помогли нам в подготовке специального выпуска.
Особую благодарность мы приносим коллективу журнала «Мониторинга общественного мнения» и лично Анне Кулешовой за профессиональную помощь в самых разных аспектах работы над выпуском. Для нас большая радость—работать с ними.
Наконец, мы благодарим всех авторов, подавших свои статьи в настоящий выпуск. Количество и качество более чем 60 материалов, поступивших на рассмотрение, сделали выбор приглашенного редактора очень непростым. Вместе с тем они отражают рост интереса научного сообщества к проблематике искусственной социальности и повышение общего уровня академической дискуссии.
Список литературы (References)
Земнухова Л. В. Социотехническое в цифровой социологии: методологические возможности и ограничения // Социология власти. 2018. Т. 30. № 3. С. 54—68. https://doi.org/10.22394/2074-0492-2018-3-54-68.
Zemnukhova L. V. (2018) The Sociotechnical in Digital Sociology: Methodological Possibilities and Limitations. Sociology of Power. Vol. 30. No. 3. P. 54—68. https:// doi.org/10.22394/2074-0492-2018-3-54-68. (In Russ.)
Капелюшников Р. И. Технологический прогресс — пожиратель рабочих мест? // Вопросы экономики. 2017. № 11. С. 111—140. https://doi.org/10.32609/ 0042-8736-2017-11-111-140.
Kapeliushnikov R. I. (2017) Is Technological Change a Devourer of Jobs? Voprosy Ekonomiki. No. 11. P. 111—140. https://doi.org/10.32609/0042-8736-2017-11-111-140. (In Russ.)
Кловайт Н. Рефлексивный антропоморфизм: неведение онтологии или невежественная онтология? // Социологический журнал. 2018. Т. 24. № 1. С. 8—33. https:// doi.org/10.19181/socjour.2018.24.1.5711.
Klowait N. (2018) Reflexive Anthropomorphism: Ontological Ignorance, or Ignorant Ontology? Sotsiologicheskiy Zhurnal. Vol. 24. No. 1. P. 8—33. https:// doi.org/10.19181/socjour.2018.24.1.5711. (In Russ.)
Коллинз Р. Может ли социология создать искусственный разум? // Личностно-ориентированная социология / П. Бергер, Б. Бергер, Р. Коллинз. М. : Академический проект, 2004. С. 566—598.
Collins R. (2004) Can Sociology Create an Artificial Intelligence? In: Berger B., Berger R., Collins R. Personality-Oriented Sociology. Moscow: Academic project. P. 566—598. (In Russ.)
Корбут А. «Простите, я никак не могу понять»: способы реагирования на непонимание во взаимодействии человека и робота // Laboratorium: Журнал социальных исследований. 2018. Т. 10. № 3. С. 57—78. https://doi.org/10.25285/2078-1938-2018-10-3-57-78.
Korbut A. (2018) 'Sorry, I Сan Not Understand': Ways of Dealing With Non-Understanding in Human-Robot Interaction. Laboratorium: Russian Review of Social Research. Vol. 10. No. 3. P. 57—78. https://doi.org/10.25285/2078-1938-2018-10-3-57-78. (In Russ.)
Кузнецов А. Г. Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов // Социология власти. 2020. Т. 32. № 2. С. 157—182. https://doi.org/10.22394/2074-0492-2020-2-157-182. Kuznetsov A. G. (2020) Neural Network Nebu^: 'Black Boxes' of Technologies and Object-Lessons From Opacities of Algorithms. Sociology of Power. Vol. 32. No. 2. P. 157—182. https://doi.org/10.22394/2074-0492-2020-2-157-182. (In Russ.)
Максимова А. С., Глазков К. П. (2018) Существует ли цифровая микросоциология? // Социология власти. 2018. Т. 30. № 3. С. 14—37. https://doi.org/10.22394/ 2074-0492-2018-3-14-37.
Maximova A. S., Glazkov K. P. (2018) Is There a Digital Microsociology? Sociology of Power. Vol. 30. No. 3. P. 14—37. https://doi.org/10.22394/2074-0492-2018-3-14-37. (In Russ.)
Ним Е. Г. Селф-трекинг как практика квантификации телесности: концептуальные контуры // Антропологический форум. 2018. № 38. С. 172—192. https:// doi.org/10.31250/1815-8870-2018-14-38-172-192.
Nim E. (2018) Self-Tracking as a Practice of Quantifying the Body: Conceptual Outlines. Antropologicheskij forum. No. 38. P. 172—192. https://doi.org/10.31250/1815-8870-2018-14-38-172-192. (In Russ.)
От искусственного интеллекта к искусственной социальности: новые исследовательские проблемы современной социальной аналитики / под ред. А. В. Резаева. М. : ВЦИОМ, 2020.
Rezaev A. V. (ed.) (2020) Artificial Intelligence on the Way to Artificial Sociality: New Research Agenda for Social Analytics. Moscow: VCIOM.
Резаев А. В., Трегубова Н. Д. «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий // Мониторинг общественного мнения: экономические и социальные перемены. 2019. № 6. С. 35—47. https:// doi.org/10.14515/monitoring.2019.6.03.
Rezaev A. V., Tregubova N. D. (2019) Artificial Intelligence, On-Line Culture, Artificial Sociality: Definition of the Terms. Monitoring of Public Opinion: Economic and Social Changes. No. 6. P. 35—47. https://doi.org/10.14515/monitoring.2019.6.03. (In Russ.)
Сивков Д. Ю. Дигитальная социология: напряжения, неопределенности, нерешенные проблемы // Социология власти. 2018. Т. 30. № 3. С. 8—13. https:// doi.org/10.22394/2074-0492-2018-3-8-13.
Sivkov D. Y. (2018) Digital Sociology: Tensions, Ambiguities, Unsolved Problems. Sociology of Power. Vol. 30. No. 3. P. 8—13. https://doi.org/10.22394/2074-0492-2018-3-8-13. (In Russ.)
Утехин И. Взаимодействие с «умными вещами»: введение в проблематику // Антропологический форум. 2012. № 17. С. 134—156.
Utekhin I. (2012) Interaction With 'Smart Things': Introduction. Antropologicheskij forum. No. 17. P. 134—156. (In Russ.)
Хониева Е. А. Гендер и дисплей: коммуникативные жанры и способы категоризации во взаимодействии с голосовыми ассистентами // Журнал социологии и социальной антропологии. 2017. № 5. С. 95—112. https://doi.org/10.31119/ jssa.2017.20.5.6.
Khonieva E. A. (2017) Gender and the Display: Communicative Genres and Ways of Categorization in Interaction With Voice Assistants. Journal of Sociology and Social Anthropology. No. 5. P. 95—112. https://doi.org/10.31119/jssa.2017.20.5.6. (In Russ.)
Beer D. (2017) The Social Power of Algorithms. Information, Communication & Society. Vol. 20. No. 1. P. 1—13. https://doi.org/10.1080/1369118X.2016.1216147.
Boden M. (2016) AI: Its Nature and Future. Oxford: Oxford University Press.
Carley K. M. (1996) Artificial Intelligence within Sociology. Sociological Methods & Research. Vol. 25. No. 1. P. 3—30. https://doi.org/10.1177/004912419602500 1001.
Collins H. (2018) Artifictional Intelligence: Against Humanity's Surrender to Computers. Madford, MA: Polity Press.
Couldry N. (2015) Researching Social Analytics: Cultural Sociology in the Face of Algorithmic Power. In: Hanquinet L., Savage M. (eds.) Routledge International Handbook of the Sociology of Art and Culture. Routledge International Handbooks. London: Routledge. P. 383—395.
Esposito E. (2017a) Algorithmic Memory and the Right to be Forgotten on the Web. Big Data & Society. Vol. 4. No. 1. P. 1—11. https://doi.org/10.1177/2053951717703996.
Esposito E. (2017b) Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie. Vol. 46. No. 4. P. 249—265. https:// doi.org/10.1515/zfsoz-2017-1014.
Etzioni A., Etzioni O. (2017) Should Artificial Intelligence Be Regulated? Issues in Science and Technology. Vol. 33. No. 4. P. 32—36.
Floridi L. (ed.) (2015) The Onlife Manifesto. Being Human in a Hyperconnected Era. Cham: Springer.
Ford M. (2018) Architects of Intelligence: The Truth About AI From People Building It. Birmingham: Packt Publishing.
Hoffman S. G. (2016) Managing Ambiguities at the Edge of Knowledge: Research Strategy and Artificial Intelligence Labs in an Era of Academic Capitalism. Science, Technology, & Human Values. Vol. 42. No. 4. P. 703—740. https://doi.org/10.1177/ 0162243916687038.
Joerges B. (1990) Images of Technology in Sociology: Computer as Butterfly and Bat. Technology and Culture. Vol. 31. No. 2. P. 203—227. https://doi.org/10.2307/3105658.
Lee F., Larsen L. B. (2019) How Should We Theorize Algorithms? Five Ideal Types in Analyzing Algorithmic Normativities. Big Data & Society. Vol. 6. No. 2. P. 1—6. https:// doi.org/10.1177/2053951719867349.
McCorduck P. (1979) Machines Who Think. San Francisco: W. H. Freeman.
O'Neil C. (2016) Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York, NY: Crown Publishers.
Rezaev A. V., Tregubova N. D. (2018) Are Sociologists Ready for 'Artificial Sociality'? Current Issues and Future Prospects for Studying Artificial Intelligence in the Social Sciences. Monitoring of Public Opinion: Economic and Social Changes. No. 5. P. 91— 108. https://doi.org/10.14515/monitoring.2018.5.10.
Ruppert E., Law J., Savage M. (2013) Reassembling Social Science Methods: The Challenge of Digital Devices. Theory, Culture & Society. Vol. 30. No. 4. P. 22—46. https://doi.org/ 10.1177/0263276413484941.
Russell S., Norvig P. (2016) Artificial Intelligence: A Modern Approach. Harlow, UK: Pearson Education Limited.
Wolfe A. (1993) The Human Difference: Animals, Computers, and the Necessity of Social Science. Berkley: University of California Press.
Woolgar S. (1985) Why not a Sociology of Machines? The Case of Sociology and Artificial Intelligence. Sociology. No. 4. P. 557—572. https://doi.org/10.1177/0038 038585019004005.
Ziewitz M. (2016) Governing Algorithms: Myth, Mess, and Methods. Science, Technology, & Human Values. Vol. 41. No. 1. P. 3—16. https://doi.org/10.1177/0162243915608948.
