CC BY
15
Теория и практика общественного развития. 2022. № 11. С. 53-58. Theory and Practice of Social Development. 2022. No. 11. P. 53-58.
Научная статья УДК 316.77
https://doi.org/10.24158/tipor.2022.11.7
Культура общественно-политической интернет-дискуссии с использованием ботов Лилия Сергеевна Панкратова
Санкт-Петербургский государственный университет, Санкт-Петербург, Россия, l.s.pankratova@spbu.ru, https://orcid.org/0000-0002-7658-1409
Аннотация. Статья посвящена этическим вопросам общественно значимой интернет-дискуссии с использованием ботов. Дискуссия при этом рассматривается в качестве конструктивной многопользовательской коммуникации в социальных сетях, направленной на обмен мнениями, достижение комплексного понимания социально значимых вопросов. На основе анализа и социологической концептуализации материалов обширной информационной базы, которую составили научные публикации по социальным и информационным наукам, определены коммуникативные роли ботов в интернет-дискуссии: саботажник, фасили-татор, участник. Проблематизированы социокультурные аспекты дискуссионного взаимодействия по общественно-политическим вопросам ботов и индивидумов: культурная сензитивность робота; культурные установки бота; наделение бота субъектностью, властью с ее легитимацией, обладание авторитетом в глазах пользователей; автоматизированное управление коммуникацией в условиях остроты и эмоциональности обсуждаемых проблем; общественное мнение о ботах; аффордансы; этика взаимодействия и использования цифровых помощников.
Ключевые слова: социальные боты, чат-боты, дискуссия, интернет, культура дискуссии, общественно-политическая дискуссия, этика коммуникации, цифровые помощники
Для цитирования: Панкратова Л. С. Культура общественно-политической интернет-дискуссии с использованием ботов // Теория и практика общественного развития. 2022. № 11. С. 53-58. https://doi.org/10.24158/tipor.2022.11.7.
Original article
Culture of Socio-political Internet Discussion with the Use of Bots Lilia S. Pankratova
Saint Petersburg State University, Saint Petersburg, Russia, l.s.pankratova@spbu.ru, orcid.org/0000-0002-7658-1409
Abstract. The article focuses on the ethical issues of publicly significant Internet discussion with the use of bots. Discussion is seen as constructive multi-user communication in social networks, aimed at the exchange of views, to achieve a comprehensive understanding of socially significant issues. Based on the analysis and sociological conceptualization of the materials of the vast information base, which consisted of scientific publications on social and information sciences, the communicative roles of bots in Internet discussion were defined: saboteur, facilitator, participant. The socio-cultural aspects of discussion interaction on socio-political issues of bots and individuals are problematized: cultural sensitivity of the robot; cultural attitudes of the bot; endowing the bot with subjectivity, power with its legitimization, having authority in the eyes of users; automated management of communication in the acuteness and emotionality of the problems discussed; public opinion about bots; affordances; ethics of interaction and use of digital assistants.
Keywords: social bots, chatbots, discussion, internet, culture of discussion, socio-political discussion, ethics of communication, digital assistants
For citation: Pankratova, L.S. (2022) Culture of Socio-political Internet Discussion with the Use of Bots. Theory and Practice of Social Development. (11), 53-58. Available from: doi: 10.24158/tipor.2022.11.7. (In Russian)
Современное общество характеризуется как цифровое. Цифровой тип общества означает, что одним из ярких маркеров организации совместной жизни людей является активизация взаимодействия между людьми и цифровыми объектами (например, цифровыми помощниками), между физическими и цифровыми объектами без участия человека (например, интернет вещей). Цифровые объекты приобретают или наделяются агентностью. Эти процессы имеют принципиальную важность для социального воспроизводства.
Наглядным примером взаимодействия человека с цифровыми объектами является коммуникация с чат-ботами. Такое взаимодействие имеет два аспекта: технический и социальный. Первый связан с технологическим обеспечением контакта программы, робота и человека; второй - со
© Панкратова Л.С., 2022
смысловым наполнением коммуникативных действий. В настоящее время задачи перед ботами ставят заказчики (владельцы) и/или создатели (операторы). Интернет-боты осуществляют целенаправленные коммуникативные действия фактически в качестве технических инструментов. Но при этом они способны оказывать влияние на социальные коммуникации и поведение индивидов.
Большой общественный резонанс вызвали случаи использования социальных ботов в целях манипулятивного воздействия на общественное мнение пользователей социальных сетей по острым общественно-политическим вопросам. Например, президентские выборы в США 2016 г., в ходе которых были активно задействованы социальные боты на платформе популярной социальной сети для воздействия на мнение электората.
Социальные боты - это программы, автоматически выполняющие действия в социальных сетях, заданные разработчиком. Социальные боты имитируют людей. Создаются аккаунты, маскирующиеся под обычных пользователей. Ценность социального бота заключается в том, что он может принимать участие и оказывать влияние на интернет-дискуссии. Иначе говоря, это способ вмешательства заинтересованных общественно-политических сил в межличностную сетевую коммуникацию, технология для осуществления управления общественным мнением в интернете.
В связи с этим актуальными становятся вопросы, связанные с необходимостью понимания возможностей и рисков использования ботов в интернет-дискуссии по общественно-политическим вопросам. Как индивиды относятся к ботам? На каких социокультурных принципах должно осуществляться взаимодействие, коммуникация между людьми и ботами? Каким образом и для чего использовать ботов в интернет-обсуждениях? Таким образом, в центре внимания общественно-политической дискуссии в условиях цифровизации оказывается широкий круг аспектов культуры: ценностный, нормативный, поведенческий, когнитивный.
Участию ботов в социальных коммуникациях в интернете посвящены исследования из разных областей научного знания: информатики, социологии, психологии, философии. Значительный пласт научных публикаций акцентирует внимание на негативных для общества действиях (обман, манипуляция) и эффектах использования социальных ботов (Abokhodair, Yoo, McDonald, 2015; Wang, Angarita, Renna, 2018). При этом ряд ученых рассматривает технологию социального бота как нейтральную саму по себе, которая может быть использована социальными агентами для конструктивных целей в рамках гражданской активности по привлечению внимания и разрешению общественно значимых проблем (Василькова, Легостаева, Радушевский, 2019). Интерес представляют исследования по разработке чат-ботов для групповых дискуссий, концептуализации их социальных ролей и функций в обсуждениях (Kim, Eun, Oh, Suh, Lee, 2020; Seering, Luria, 2019). Исследователи отмечают влияние характера, специфики восприятия виртуального собеседника индивидами на коммуникацию между ними (Neff, Nagy, 2018). Поднимаются вопросы этических оснований взаимодействия человека и искусственного интеллекта (Кожевникова, Карпова, 2020). Отдельно проблематизируется культура общественно-политической дискуссии в интернете, но боты как предмет анализа не рассматриваются (Новиков, 2018).
Обзор публикаций выявил, что изучение ботов как субъектов коммуникативных взаимодействий является перспективным направлением. Сложность феномена, продолжающееся развитие бот-технологий и их внедрение в практику приводит к необходимости, во-первых, дальнейшего изучения вопросов об их социокультурном значении; механизмов работы; характерных черт, специфики коммуникации между человеком и цифровым объектом; во-вторых, формулировки новых исследовательских вопросов, призванных расширить понимание существующего и потенциального, возможного в перспективе влияния ботов на взаимодействия между людьми, на их представления. Важно также выявить и обосновать ценностно-нормативные принципы организации интеракций между ботом и человеком. Анализ литературы показал, что интернет-боты рассматриваются как важные инструменты коммуникативного воздействия на пользователей социальных сетей по социально значимым и политическим вопросам. Однако малоизученным остается спектр возможностей их использования в общественно-политических интернет-дискуссиях, их социокультурных ресурсов и оснований для такого рода деятельности. В связи с этим научно и практически значимым представляется социологическая проблематизация и концептуализация культуры общественно-политической дискуссии в интернете с участием ботов, что и является целью данной работы.
В качестве теоретико-методологического основания и концептуального ресурса исследования выступают положения и принципы социокультурного, риторического и критического подходов (концепция публичной сферы и коммуникативного действия Ю. Хабермаса) к изучению социальной коммуникации. Последняя в рамках данной работы понимается как совокупность взаимодействий социальных субъектов по поводу передачи смыслов в знаково-символической форме. Комплементарное сочетание данных традиций позволяет: 1) концептуализировать общественно-политическую интернет-дискуссию как важный инструмент для (вос)производства социального порядка, форму и способ гражданской активности; 2) рассмотреть социокультурные условия и принципы дискуссии, определяющие ее успешность, результативность и эффективность в условиях цифровизации, т. е. реального или перспективного участия в них ботов.
Для достижения поставленной цели автором использовались общенаучные методы познания (анализ, синтез, дедукция, индукция и др.). Информационную базу исследования составили работы по социальным наукам, содержащие результаты эмпирических исследований чат-ботов/социальных ботов; статьи по информационным наукам, а также междисциплинарные исследования (на пересечении социальных, компьютерных и информационных наук), описывающие кейсы разработок и тестирования ботов в коммуникативных ситуациях; официальные порталы социальных сетей; публикации средств массовой информации.
Были отобраны релевантные теме исследования научные публикации на русском и английском языках за последние десять лет (2012-2022 гг.). Проводились теоретический анализ и социологическая концептуализация материалов статей в соответствии с разработанной автором концептуальной моделью культуры общественно-политической интернет-дискуссии. Это позволило сгруппировать материалы следующим образом: актуальные задачи, решаемые с помощью ботов в интернет-дискуссии; потенциальные задачи, для которых разрабатываются боты для использования в дискуссии; существующие и разрабатываемые отдельные функции ботов, которые могут быть задействованы в интернет-дискуссии; устанавливаемые правила и выявленные проблемы встраивания бота в интернет-дискуссию между людьми. Дальнейшая работа заключалась в синтезе и обобщении систематизированных материалов с позиций социологического подхода.
В соответствии с обозначенными теоретико-методологическими рамками исследования конкретизируем понятие дискуссии. Под дискуссией мы понимаем один из жанров деловой коммуникации в форме спора. В основе коммуникативного взаимодействия лежит различие во мнениях, оценках, суждениях, интересах по какому-либо вопросу. От других видов спора (полемика, диспут, дебаты) дискуссию отличает цель - представление разных взглядов на проблему для достижения комплексного, разностороннего понимания ситуации; принятие консенсусного решения; поиск истины. Обязательным условием ведения дискуссии является использование корректных, лояльных способ коммуникации и аргументации. Несомненно, в интернете существуют разнообразные культуры или субкультуры дискуссии, со своими нормами, правила и задачами интеракции. Но мы будем исходить из описанного выше идеально-типического представления об общественно-политической дискуссии как конструктивной коммуникативной технологии, призванной обеспечить возможность для представителей различных социальных групп, индивидов артикулировать, аргументировать, «испытать» (увидеть сильные и слабые стороны) и «продвинуть» (придать значимость) суждения о собственных потребностях, интересах, позицию, предложения по социально значимым (для части или всего населения) управленческим, властным вопросам, событиям; сформировать персональную точку зрения в ходе обсуждения благодаря представленности различных мнений. Как правило, общественно-политические дискуссии проходят по острым, эмоционально заряженным вопросам. В связи с этим целесообразно отметить указанные Ю. Хабермасом следующие условия, культурные принципы ведения дискуссии, определяющие ее результативность и эффективность: экспертность, аргументированность, эгалитар-ность (Хабермас, 2016).
Интернет, с одной стороны, стал агорой для проведения публичных дискуссий, с другой, -благодаря массовой доступности и возможности анонимности обострил вопросы культуры коммуникации, т. е. выработки и соблюдения норм, правил конструктивного спора. Культура интернет-дискуссии концептуализируется нами как совокупность норм, ценностей, правил, образцов поведения, опосредующих коммуникативное взаимодействие в жанре спора между участниками, в том числе и ботами.
Применительно к обсуждению социально-политических вопросов культура интернет-дискуссии фактически формируется на основе конфигурации элементов (ценностей, норм и проч.) политической культуры (например, представления о средствах и способах борьбы за власть; понимание роли дискуссии в политическом процессе); коммуникативной культуры (например, умение вести дискуссию, соблюдение определенных принципов и целей ведения спора; ориентация на коммуникативное сотрудничество или конкуренцию), культуры аргументации (например, допустимость использования уловок, софизмов; способы аргументации: эмоциональное внушение, логическое доказательство); цифровой культуры (например, представления человека о боте, аф-фордансы; установки на способы взаимодействия с цифровыми объектами).
Рассмотрим реальные и потенциальные коммуникативные роли социальных ботов в интернет-дискуссиях по общественно-политическим вопросам, культурные условия и основания их осуществления. Отметим, что основные направления технологического развития - совершенствование искусственного интеллекта, процессов машинного обучения, обработки естественного языка, достижение автономности роботов. В связи с этим мы исходим из позиции, что по мере совершенствования технических возможностей виртуальных помощников речь будет идти, по сути, о вероятности социального взаимодействия между индивидом и чат-ботом / социальным ботом, в котором оба субъекта обладают целями, мотивами, а их действия взаимообусловлены и ориентированы друг на друга.
Социальные роли бота в интернет-дискуссии:
• «Саботажник», «иноагент», «враг» - призваны скрыто или открыто препятствовать дискуссии реальных пользователей.
Например, сеть ботов (ботнет), состоящая из более простой версии социальных ботов, способных только распространять заранее заданный контент, может направить большой поток однотипных комментариев и лайков в ветку дискуссии и тем самым «задавить» обсуждение в кругу реальных пользователей, «засорить эфир», не давать людям контролировать дискуссию. Перед глазами будут однотипные комментарии, которые располагаются «сверху» обсуждения, а к реальным комментариям нужно пробиваться. При этом сами комментарии могут относиться к теме обсуждения и продвигать определенную идею, взгляд, или быть нерелевантными (спам). Такая ситуация, среди прочих причин, вынуждает владельцев каналов в социальных сетях блокировать опцию комментариев пользователей к своим постам на острые, актуальные социально значимые вопросы и проблемы. Ведь вести собственно дискуссию на тему, заданную постом владельца канала, не получается. Отсутствует обмен мнениями, конструктивное и всестороннее обсуждение.
Другой вариант: отдельный социальный бот действует как автоматизированный тролль. Его задача увести дискуссию в сторону от предмета обсуждения, спровоцировать спор, перебранку о постороннем вопросе. В данном случае нормы, правила ведения спора в жанре дискуссии нарушаются, по этой причине становится невозможным ее осуществление. Нарушение культурных норм - это способ прекратить дискуссию, остановить коммуникацию, что соответствует интересам владельца (создателя, заказчика) бота. Данная функция социального бота активно используется в настоящее время в общественно-политических интернет-дискуссиях.
• Фасилитатор, модератор, координатор, помощник: задача способствовать ведению продуктивной дискуссии, помогать участником разговориться, достигнуть консенсуса.
Анализ описанных в научно-исследовательских публикациях кейсов создания и тестирования чат-ботов для групповых дискуссий показал, что они используются активно в качестве технических инструментов, позволяющих автоматизировать ряд функций для облегчения взаимодействия пользователей (Seering, Luria, Kaufman, Hammer, 2019). Например, организовывать голосования, структурировать и архивировать материалы обсуждения. Изучается возможность применения чат-ботов в целях координации, модерирования дискуссий в группах. Боты структурируют письменную дискуссию и способствуют вовлечению в нее участников группы/чата: запускают старт обсуждения, прося пользователей высказать свое мнение; определяют порядок публикаций (по очереди или свободно в течение ограниченного времени); персонально обращаются к неактивным участникам (Kim, Eun, Seering, Lee, 2021). Разработаны боты, которые могут следить за соблюдением определенных норм коммуникации, например распознавать нецензурную лексику перед отправкой сообщений в чат и рекомендовать пользователю ее заменить1. Более продвинутый вариант бота предполагает, что он сможет не только контролировать соответствие поведения людей правилам общения, но и самостоятельно устанавливать нормы коммуникации в конкретном интернет-сообществе на основе изучения и понимания ценностей пользователей (Seering, Luria, Kaufman, Hammer, 2019). В свете рассмотренных кейсов актуализируются социокультурные вопросы о применимости описанного функционала ботов к модерированию и координированию общественно-политических дискуссий: о культурной сензитивности робота; культурной установке бота; наделении бота субъектностью, властью и ее легитимацией, об обладании авторитетом в глазах пользователей; управлении коммуникацией в условиях остроты и эмоциональности обсуждаемых проблем в живой дискуссии.
• Участник: аргументированно представляет мнение, позицию по обсуждаемому вопросу в формате диалога или полилога.
Предполагается использование социальных ботов более сложной конструкции, способных действительно коммуницировать с человеком или симулировать коммуникацию. Они работают на основе искусственного интеллекта, машинного обучения, нейронных сетей, комплексного анализа данных, анализа и синтеза естественного языка. Здесь надо исходить из того, что в настоящее время чат-боты не являются искусственным интеллектом в полном смысле этого слова, поскольку они способны лишь при освоении большого массива данных их (ре)комбинировать, воспроизводить, но не создавать что-то принципиально новое, рождать идеи. Но социальные боты могут быть использованы в качестве инструмента, способа представления аргументированной позиции общества по определенному вопросу, приведения контраргументов. Мы проблема-тизируем следующие социокультурные аспекты дискуссионного взаимодействия между пользователями-индивидами и цифровыми объектами помимо перечисленных в предшествующем пункте «бот-фасилитатор»:
1 Новый российский ИИ-алгоритм «почистит» чаты от нецензурных выражений [Электронный ресурс] // Портал «4PDA». 2022. URL: https://clck.ru/32Y5yR (дата обращения: 10.08.2022).
- Открытость versus манипуляция, обман. Должны ли боты идентифицировать себя как цифровые объекты, а не притворяться реальными людьми? Так, Твиттер уже начал маркировать «полезных» ботов.
- Культура аргументации бота. В настоящее время ведется научно-исследовательская работа по созданию способности цифровых объектов анализировать аргументацию в речи и создавать аргументированные тексты, обмениваться аргументами с пользователями (Galitsky, 2019). Паттерны аргументации, которые боты смогут использовать: доказательство на основе логических аргументов, внушение с помощью эмоциональных средств. Будет ли допустимо использование ботами уловок, некорректных, нелояльных аргументов в манипулятивных целях?
- Представления людей о социальных чат-ботах, аффордансы. Готовы ли люди к интеллектуальному взаимодействию с машиной? Как общество относится к ботам? Согласно опросу общественного мнения, проведенному в США Исследовательским центром Пью (Pew Research Center) в 2018 г.1, 80 % респондентов, слышавших о ботах в социальных медиа, считают, что они в основном используются в плохих целях. Данные других исследований, проведенных в США, демонстрируют тенденцию предпочтения людьми быть осведомленными, проинформированными о взаимодействии с виртуальным помощником при получении консультации по интернету или телефону (Rivas, Holzmayer, Hernandez, Grippaldi, 2018). Приведенные данные не позволяют дать ответ на поставленные вопросы, а призваны продемонстрировать неоднозначное и настороженное отношение населения к взаимодействию с ботами, способам и целям их использования. Требуются эмпирические исследования по данной проблеме, в том числе в России. В данном контексте речь идет о возможности персонификации бота человеком, об отношении к технологии, готовности и возможностях (границах, вариантах) использования.
Проведенный анализ показал, что ключевые вопросы культуры общественно-политической интернет-дискуссии в условиях распространения бот-технологий в социальных сетях по мере их технического совершенствования заключаются: 1) в понимании и разработке нормативных принципов (этических, моральных, правовых) взаимодействия и поведения виртуальных помощников, пользователей социальных сетей, владельцев и разработчиков ботов; 2) изучении изменяющихся социокультурных условий (установки, представления, образцы интеракции, ценности, знания), определяющих коммуникацию между человеком и роботом. Выделенные социокультурные проблемы интеракций индивида и бота целесообразно учитывать при проведении форсайтов, формулировке рекомендаций для научно-исследовательской работы по созданию новых «умных» и коммуникативных цифровых объектов.
Список источников:
Василькова В. В., Легостаева Н. И., Радушевский В. Б. Социальные боты как инструмент развития гражданского участия // Мониторинг общественного мнения: Экономические и социальные перемены. 2019. № 5. С. 19-42. https://doi.org/10.14515/monitoring.2019.5.02.
Кожевникова М., Карпова С. В. Искусственный интеллект: субъект и объект // Этнографическое обозрение. 2020. № 1. С. 80-94. https://doi: 10.31857/S086954150008759-4.
Новиков А. И. Политическая коммуникация в интернете: новое культурное пространство и трансформация практик // Коммуникология. 2018. № 2 (6). С. 74-84. https://doi: 10.21453/2311-3065-2018-6-2-74-84
Хабермас Ю. Структурное изменение публичной сферы. М., 2016. 344 с.
Abokhodair N., Yoo D., McDonald D. W. Dissecting a social botnet: Growth, content and influence in Twitter // Proceedings of the 18th ACM Conference on Computer Supported Cooperative Work and Social Computing (CSCW'15). New York, 2015. С. 839-851. https://doi.org/10.1145/2675133.2675208.
Galitsky B. Enabling a bot with understanding argumentation and providing arguments // Developing enterprise chatbots: Learning linguistic structres. Cham: Springer, 2019. P. 465-532. https://doi. 10.1007/978-3-030-04299-8_13.
Kim S., Eun J., Oh Ch., Suh B., Lee J. Bot in the bunch: Facilitating group chat discussion by improving efficiency and participation with a chatbot // CHI '20: Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems. April 2020. New York, 2020. С. 1-13. https://doi.org/10.1145/3313831.3376785.
Kim S., Eun J., Seering J., Lee J. Moderator chatbot for deliberative discussion: Effects of discussion structure and discussant facilitation // Proceedings of the ACM on Human-Computer Interaction. Vol. 5. Issue CSCW. Article № 87. New York, 2021. С. 1-26. https://doi.org/10.1145/3449161.
Neff G., Nagy P. Agency in the digital age: Using symbiotic agency to explain human-technology interaction // A networked self and human augmentics, artificial intelligence, sentience / ed. by Z. Papacharissi. New York, 2018. С. 113-123.
Rivas P., Holzmayer K., Hernandez C., Grippaldi C. Excitement and concerns about machine-learning based chatbots and talkbots: A survey // 2018 IEEE International Symposium on Technology in Society (ISTAS) Proceedings / ed. by M. Cunningham, P. Cunningham. New York, 2018. С. 156-162.
Seering J., Luria M., Kaufman G., Hammer J. Beyond dyadic interactions: considering chatbots as community members // CHI '19: Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems. New York, 2019. С. 1-13. https://doi.org/10.1145/3290605.3300680.
1 Stocking G., Sumida N. Social media bots draw public's attention and concern [Электронный ресурс] // Pew Research Center. URL: https://www.pewresearch.org/joumalism/2018/10/15/social-media-bots-draw-pubNcs-attention-and-concern/ (дата обращения: 10.08.2022).
Stocking G., Sumida N. Social media bots draw public's attention and concern [Электронный ресурс] // Pew Research Center. URL: https://www.pewresearch.org/journalism/2018/10/15/social-media-bots-draw-publics-attention-and-concern/ (дата обращения: 10.08.2022).
Wang P., Angarita R., Renna I. Is this the era of misinformation yet: Combining social bots and fake news to deceive the masses // Companion Proceedings of the Web Conference 2018 (WWW'18). International World Wide Web Conferences Steering Committee. Geneva, 2018. С. 1557-1561. https://doi.org/10.1145/3184558.3191610.
References:
Abokhodair, N., Yoo, D. & McDonald, D. W. (2015) Dissecting a social botnet: Growth, content and influence in Twitter. In: Proceedings of the 18th ACM Conference on Computer Supported Cooperative Work and Social Computing (CSCW'15). New York, ACM, 839-851. Available from: doi:10.1145/2675133.2675208.
Galitsky, B. (2019) Enabling a bot with understanding argumentation and providing arguments. In: Developing enterprise chatbots: Learning linguistic structres. Cham, Springer, 465-532. Available from: doi:10.1007/978-3-030-04299-8_13.
Habermas, Y. (2016) The structural transformation of the public sphere. Moscow, Ves' Mir. (in Russian)
Kim, S., Eun, J., Oh, Ch., Suh, B. & Lee, J. (2020) Bot in the bunch: Facilitating group chat discussion by improving efficiency and participation with a chatbot. In: CHI '20: Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems. New York, ACM, 1-13. Available from: doi:10.1145/3313831.3376785.
Kim, S., Eun, J., Seering, J. & Lee, J. (2021) Moderator chatbot for deliberative discussion: Effects of discussion structure and discussant facilitation. In: Proceedings of the ACM on Human-Computer Interaction. Vol. 5. Issue CSCW, 87. New York, ACM, 1-26. Available from: doi:10.1145/3449161.
Kozhevnikova, M. & Karpova, S. V. (2020) Artificial intelligence: Subject and object. Ethnographic review, 1, 80-94. Available from: doi: (in Russian)
Neff, G. & Nagy, P. (2018) Agency in the digital age: Using symbiotic agency to explain human-technology interaction. In: Papacharissi, Z. (ed.) A networked self and human augmentics, artificial intelligence, sentience. New York, Routledge, 113-123.
Novikov, A. I. (2018) Political communication online: a new cultural space and the transformation of practices. Communicol-ogy. 6 (2), 74-84. Available from: doi:10.21453 / 2311-3065-2018-6-2-74-84. (in Russian)
Rivas, P., Holzmayer, K., Hernandez, C. & Grippaldi, C. (2018) Excitement and concerns about machine-learning based chatbots and talkbots: A survey. In: Cunningham, M. & Cunningham, P. (eds.) 2018 IEEE International Symposium on Technology in Society (ISTAS) Proceedings. New York, Red Hook, Curran Associates, 156-162.
Seering, J., Luria, M., Kaufman, G. & Hammer, J. (2019) Beyond dyadic interactions: considering chatbots as community members. In: CHI '19: Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems. New York, ACM, 2019, 1-13. Available from: doi:10.1145/3290605.3300680/.
Stocking, G. & Sumida, N. (2018) Social media bots draw public's attention and concern. URL: https://www.pewre-search.org/journalism/2018/10/15/social-media-bots-draw-publics-attention-and-concern/ (accessed 10th August 2022).
Vasilkova, V. V., Legostaeva, N. I. & Radushevsky, V. B. (2019) Social bots as a tool to develop civic engagement. Monitoring of Public Opinion: Economic and Social Changes, 5, 19-42. Available from: doi:10.14515/monitoring.2019.5.02 (in Russian)
Wang, P., Angarita, R. & Renna, I. (2018) Is this the era of misinformation yet: Combining social bots and fake news to deceive the masses. In: Companion Proceedings of the Web Conference 2018 (WWW'18). International World Wide Web Conferences Steering Committee. Geneva, 1557-1561. Available from: doi:10.1145/3184558.3191610
Информация об авторе Л.С. Панкратова - кандидат социологических наук доцент кафедры социологии культуры и коммуникации Санкт-Петербургского государственного университета, Санкт-Петербург, Россия. https://www.elibrary.ru/author_items.asp?authorid=683731.
Information about the author L.S. Pankratova - PhD in Sociology, Associate Professor, Department of Sociology of Culture and Communication, St. Petersburg State University, St. Petersburg, Russia https://www.elibrary.ru/author_items.asp?authorid=683731.
Статья поступила в редакцию / The article was submitted 10.08.2022; Одобрена после рецензирования / Approved after reviewing 31.08.2022; Принята к публикации / Accepted for publication 01.11.2022.
