РЕЧЕВЫЕ МОДЕЛИ И СТРАТЕГИИ МЕДИАДИСКУРСА SPEECH MODELS AND MEDIA DISCOURSE STRATEGIES
Знак: проблемное поле медиаобразования. 2023. № 4 (50). С. 29-39. elSSN 2949-3641; ISSN 2070-0695 (print). Znak: problemnoe pole mediaobrazovanija. 2023;4(50): 29-39. elSSN 2949-3641; ISSN 2070-0695 (print).
Научная статья УДК 32; 81-13
DOI 10.47475/2070-0695-2023-50-4-29-39
ЛИНГВОПСИХОЛОГИЧЕСКИЙ АНАЛИЗ ВОЗМОЖНОСТЕЙ СОВРЕМЕННЫХ ГЕНЕРАТИВНЫХ ЯЗЫКОВЫХ МОДЕЛЕЙ В ПОЛИТИЧЕСКИХ ДИСКУРСИВНЫХ ПРАКТИКАХ (НА ПРИМЕРЕ CHAT GPT)
Ирина Николаевна Зырянова1, Александр Сергеевич Чернавский2
1 Байкальский государственный университет, ziryanovain@bgu.ru, https://orcid.org/0000-0001-9998-7471
2 Московский педагогический государственный университет, chernavskiy.com@gmail.com, https://orcid.org/0000-0002-6927-4689
Аннотация. Данная статья является теоретико-практическим обобщением по итогам проведенного авторами эксперимента весной 2023 года в рамках совместного проекта Московского Педагогического Государственного Университета и Байкальского государственного университета. Данный проект осуществлялся кафедрой политологии МПГУ и кафедрой теоретической и прикладной лингвистики БГУ, проводящей научные изыскания на тему НИР «Язык и человек». Несмотря на акцентирование соответствующих прикладных результатов в данной работе, авторы также представили краткий теоретический обзор для понимания главных исторических и теоретико-методологических аспектов темы исследования. Междисциплинарный подход к использованию современных генеративных языковых моделей в актуальном политическом дискурсе является основой данной работы. Нейросетевые генеративные языковые алгоритмы уже сегодня предоставляют уникальные возможности для создания разнообразного контента, включая политическую сферу. Кроме того, авторы предлагают краткий аналитический обзор современных психолого-лингвистических методик манипуляции, которые продолжают развиваться и играть значительную роль в современном политическом дискурсе. Статья также содержит обзор современного научного знания, связанного с заявленной темой исследования. При этом основную цель работы авторы видят в теоретико-прикладном изучении актуального потенциала ведущей общедоступной генеративной языковой модели Chat GPT (4.0) в области политического дискурса с использованием суггестивных техник и манипуляций. Базой данного исследования послужили соответствующие авторские двуязычные запросы на генерацию трех текстов манифестационного и мировоззренческого характера, которые затем стали объектом психолого-лингвистического анализа. По завершению эксперимента были сформулированы краткие итоговые аналитические положения в контексте заявленной темы. Авторы приходят к выводу, что генеративные языковые модели уже сегодня могут быть весьма широко использованы для создания самого разного медиаконтента в разных формах коммуникации, при этом по соответствующим запросам могут быть реализованы довольно сложные лингвистические конструкции.
Ключевые слова: политический дискурс, суггестия, генеративные языковые модели, ИИ, искусственный интеллект, лингвистический анализ, нейросетевые алгоритмы, генеративные тексты.
Для цитирования: Зырянова И. Н., Чернавский А. С. Лингвопсихологический анализ возможностей современных генеративных языковых моделей в политических дискурсивных практиках (на примере Chat GPT) // Знак: проблемное поле медиаобразования. 2023. № 4 (50). С. 29-39. doi: 10.47475/2070-0695-202350-4-29-39
Original article
LINGO-PSYCHOLOGICAL ANALYSIS OF THE POSSIBILITIES
OF ACTUAL GENERATIVE LANGUAGE MODELS IN POLITICAL DISCURSIVE PRACTICES (ON THE EXAMPLE OF CHAT GPT)
Irina N. Ziryanova, Alexander S. Chernavskiy
1 Baikal State University, Irkutsk, Russian Federation, ziryanovain@bgu.ru, https://orcid.org/0000-0001-9998-7471
2 Moscow State Pedagogical University, Moscow, Russian Federation, chernavskiy.com@gmail.com, https://orcid.org/0000-0002-6927-4689
Abstract. This article is a theoretical and practical generalization based on the results of an experiment conducted by the authors in the spring of 2023 as part of a joint project of Moscow Pedagogical State University and Baikal State University. This project was carried out by the Department of Political Science at Moscow State Pedagogical University and the Department of Theoretical and Applied Linguistics at BSU, which carried out scientific research on the topic of research work "Language and Man". Despite the emphasis on relevant applied results in this publication, the authors also provide a brief theoretical overview to understand the main historical and theoretical-methodological aspects of the research topic. An interdisciplinary approach to the use of modern generative language models in current political discourse is the basis of this work. Neural network generative language algorithms already provide unique opportunities for creating a variety of content, including the political sphere. In addition, the authors offer a brief analytical overview of modern psychological and linguistic techniques of manipulation, which continue to develop and play a significant role in modern political discourse. The article also contains an overview of contemporary scientific knowledge related to the stated research topic. At the same time, the authors see the main goal of the work in a theoretical and applied study of the current potential of the leading publicly available generative language model Chat GPT (4.0) in the field of political discourse using suggestive techniques and manipulations. The basis of this study was the author's corresponding bilingual requests for the generation of three texts of a manifestational and ideological nature, which then became the object of psychological and linguistic analysis. At the end of the experiment, brief final analytical statements were formulated in the context of the stated topic. The authors come to the conclusion that generative language models can already be widely used today to create a wide variety of media content in different forms of communication, while quite complex linguistic constructions can be implemented according to appropriate requests.
Key words: political discourse, generative language models, AI, artificial intelligence, linguistic analysis, political psychology, Chat GPT.
For citation: Ziryanova I. N., Chernavskiy A. S. (2023). Lingo-psychological analysis of the possibilities of actual generative language models in political discursive practices (on the example of Chat GPT). Znak: problemnoe pole mediaobrazovanija. 4(50): 29-39. (In Russ.). doi: 10.47475/2070-0695-2023-50-4-29-39
Появление и развитие генеративных моделей на современном этапе
В современном мире, где искусственный интеллект и машинное обучение разных типов играют все более важную роль, одним из ключевых направлений развития и прогресса становятся генеративные модели. Но что такое генеративные модели и какова их роль в развитии современной науки и технологий? Генеративные модели - это особый класс машинных алгоритмов, которые стремятся улучшить наше понимание скрытых свойств данных и процессов. В основе их работы лежит обобщенная идея о том, что модель, обучаясь на обширном объеме данных, может извлечь общие структуры и закономерности, после чего применять эти знания для создания новых данных или прогностических моделей, предсказывая будущие события. В начале XXI века они стали широко распространены во многих областях, например, таких как компьютерное зрение, обработка естественного языка и рекомендательные системы. Отметим, что генеративные модели прошли эволюционный путь от простых вероятностных моделей к сложным нейросетевым архитектурам. Но каким образом развивались генеративные модели и что привело к появлению таких современных мощных инструментов, как генеративно-состязательные сети (GAN) и вариационные автокодировщики (VAE)? Одним из первых шагов в развитии генеративных моделей было появление наивного Байесовского классификатора, вероятностной модели, основанной на теореме Байеса, которая применялась для задач классификации текстов (Шанов 2018). Позднее, с развитием нейронных сетей, появились более сложные и эффективные генеративные модели. В частности, в 2014 году были представлены генеративно-состязательные сети (GAN) - пара нейронных сетей, одна из которых генерирует данные (генератор), а другая (дискриминатор) пытается определить, являются ли сгенерированные данные настоящими или искусственными. В процессе обучения генератор и дискриминатор соревнуются друг с другом, что приводит к улучшению качества сгенерированных данных и более точному предсказанию дискриминатора. Это инновационное решение привело к значительному прогрессу в генерации изображений, текстов и других видов данных (Karras 2019).
Практически одновременно с GAN, в 2013 году были предложены вариационные автокодировщики (VAE). VAE - это специальный вероятностный подход к генерации данных, который использует структуру нейронных сетей для кодирования и декодирования данных. Особенностью VAE является использование стохастического подхода при обучении, что позволяет модели учитывать различные возможные варианты данных и генерировать более реалистичные результаты (Данченко 2020). В общем виде
можно констатировать, что появление и развитие генеративных моделей на современном этапе является результатом синергии различных научных направлений и технологии (Bryndin 2020).
В последние годы в области искусственного интеллекта и обработки естественных языков наблюдается значительный прогресс, особенно в разработке и применении генеративных языковых моделей. Генеративные языковые модели (GLM) - это подкласс генеративных моделей, специализирующихся на анализе и генерации текста на естественном языке. Они обучаются на основе больших объемов текстовых данных, используя структурные особенности, семантику и синтаксис языка, что позволяет им генерировать новый текст, соответствующий разнообразным заданным пользователями критериям (Samant 2022).
В 2023 году мы можем констатировать, что знаковым продуктом развития GLM является модель GPT (Generative Pre-trained Transformer), разработанная компанией OpenAI. Принципиально значимым этапом стало появление версии GPT-3 в 2020 году. Усовершенствованная языковая модель Chat GPT 3.5 была обучена на огромном объеме данных и имеет 175 миллиардов параметров, что делает ее одной из самых мощных языковых моделей на сегодня. Модель GPT-3 способна выполнять множество задач обработки текста, включая генерацию статей, суммирование текстов, ответы на вопросы, машинный перевод и многие другие (Dale 2021). Благодаря своей высокой точности и гибкости, GPT-3 и позднее усовершенствованные модели GPT-3,5/4.0 стали ярким примером успеха и новых возможностей генеративных языковых моделей. Важно отметить, что достижения в этой сфере обусловлены не только улучшениями в алгоритмах, но и прогрессом в области вычислительной техники, что позволяет обрабатывать и хранить огромные объемы данных, а также обучать модели с миллиардами параметров. Однако, несмотря на значительные успехи, существует ряд очевидных вызовов и проблем, связанных с развитием генеративных языковых моделей в текущих условиях. В частности, вопросы этики и безопасности становятся все более актуальными, поскольку мощные языковые модели могут использоваться (используются?!) для создания манипулятивного контента или дезинформации (Stiff2022). Уже сегодня представляется вполне очевидным следующее авторское обобщение: «Новый медиа контекст и новые медиасреды вызвали к жизни новую медиареальность, в которой рождаются новые культурные коды, новые задачи и пути решения, новые формы презентации и интеллектуальной рефлексии» (Чернавский 2015: 20). Кроме того, современные языковые модели требуют значительных вычислительных ресурсов для обучения и использования, что может ограничивать доступ к ним для небольших организаций и коллективов исследователей (Dehouche 2021). Отметим, что именно в последние годы генеративные языковые модели (GLM) значительно улучшились благодаря соответствующим технологическим возможностям и инновациям, - и потенциал применения в самых разных сферах представляется нам весьма богатым, включая политическую сферу общественной жизни. Здесь мы видим целесообразность выделить одну из областей прикладного использования, которая привлекла наше особое внимание. Разнообразные GLM активно стали использоваться в качестве инструментов для генерации самого разнообразного содержания, такого как статьи, речи и социальные медиапосты. Это, безусловно, может повысить эффективность политических кампаний, однако также порождает определенные опасения о манипуляции общественным мнением и создании специфического fake контента, который может вносить дополнительный хаос в политическую сферу общественной жизни (Bryndin 2020). При этом важно осознавать, что, по сути, развитие GLM находится на ранней стадии и продолжает активно эволюционировать. Перед политиками, исследователями и разработчиками сегодня стоит непростая комплексная задача определения оптимального применения GLM, в том числе в политическом контексте, а также разработка адекватных стратегий для обеспечения этичного и безопасного использования соответствующих возможностей и инструментов. Наш авторский эксперимент и анализ были посвящены исследованию текущих возможностей и соответствующего потенциала применения GLM моделей на примере новейшей (на момент весны 2023 года) общедоступной платной версии Chat GPT-4.0.
Особенности использования суггестивных лингвистических практик
в контексте современной политики
Языковые механизмы суггестивного воздействия являются важным инструментом в политическом дискурсе. Они позволяют убедительно выражать определенные идеи и мнения, внушать необходимые установки и действия, а также формировать общественное мнение. Данная статья представляет психолингвистическое исследование особенностей использования основных языковых механизмов суггестии в контексте политического дискурса, а также их эффективности в достижении политических целей.
Язык, представляя собой особую характеристику социальной организации человека, реализует несколько основных функций. Одна из таких функций языка «заключается в суггестивном воздействии на других людей с целью повлиять и изменить их поведение необходимым для суггестора образом. Суггестия осуществляется на различных уровнях: общество - индивид и индивид - индивид. Возникает необходимость в инструментах оказания суггестивного воздействия, которые убедят отдельных индивидов в справедливости и обоснованности действий общества, даже в том случае, когда они противоречат
интересам и здравому смыслу составляющих его личностей» (Зырянова 2022: 2916). На сегодняшний день именно суггестивная функция языка привлекает внимание многих исследователей, которые изучают её в различных аспектах и дискурсах. Исследование особенностей суггестивного и манипулятивного воздействия в политическом дискурсе представлены в работах Е. А. Мельника (Мельник 2012) и большого ряда других авторов (Осипов 2013, Чернявская 2014, Будаев 2016, Чудинов 2016, Чикилева 2017, КатП 2017, Григоренко 2022).
Политический дискурс - это особый вид языковой деятельности, который характеризуется суггестивным воздействием, направленным на изменение психоэмоционального состояния суггеренда, его когнитивной и поведенческой деятельности. Как отмечает Т. М. Рогожникова, «воздействующая составляющая буквально становится воздухом политической коммуникации, без которого она просто не может существовать и быть успешной» (Рогожникова 2019: 29). Суггестия в политическом дискурсе выражается через речевое воздействие имплицитно или эксплицитно, воздействуя на волю, эмоции и чувства аудитории, а также создавая определенные убеждения и необходимое посткоммуникативное поведение (Чикилева 2017).
Суггестивное воздействие представляет собой явление, способное оказывать как положительное, так и отрицательное влияние. Оно включает в себя манипулятивные речевые механизмы, направленные на скрытое воздействие на намерения субъекта, не совпадающие с его текущими намерениями. Подобные манипулятивные речевые механизмы «определяются совокупностью признаков, характерных для политического дискурса современных СМИ, к которым можно отнести: скрытый характер воздействия; отношение к реципиенту как к средству достижения собственных целей; стремление получить односторонний выигрыш; наличие явного и скрытого уровней воздействия; неосознанный характер поведения адресата; игра на слабостях» (Тишин 2010: 136). Манипуляция представляет собой особый тип речевого взаимодействия, в ходе которого происходит «своеобразное нарушение прав человека, так как в процессе манипулирования осуществляется скрытое воздействие на духовное состояние людей, управление ими посредством навязывания идей, установок, мотивов, стереотипов поведения, выгодных субъекту воздействия» (Парасуцкая 2009: 69). Отрицательным моментом в использовании различных суггестивно-манипулятивных языковых механизмов является то, что в результате подобных влияний генерируются заблуждения, стереотипы и массовые иллюзорные представления, что, в свою очередь, может негативно сказаться на качестве принимаемых обществом решений.
Языковые механизмы суггестии - это приемы использования языка для внушения определенных убеждений, идей и установок. Рассмотрим наиболее распространенные языковые механизмы суггестии:
1. Управление направлением мыслей. Данный суггестивный механизм, который реализуется посредством таких выражений, как «представьте себе», «вообразите», «задумайтесь о», «давайте подумаем», «давайте рассмотрим», позволяет направить внимание аудитории на определенные идеи или аргументы, а также убедительно выразить свою позицию.
2. Использование экспрессивной лексики. Эмоционально-окрашенные лексемы и фразы нацелены на то, чтобы вызвать определенные чувства и эмоции у аудитории, оказывая влияние на её настроение и поведение. Языковые механизмы, вызывающие эмоции, способны оказать достаточно большое суггестивное воздействие на реципиента, поскольку снижается способность к критическому мышлению и оцениванию воспринимаемой информации.
3. Использование повторений. Наиболее распространенным языковым механизмом суггестии является повторение. Повторение фраз, слов или обращений позволяет закрепить в памяти аудитории необходимые идеи или действия, что, несомненно, усиливает суггестивный эффект.
4. Применение метафорических образов и ассоциаций. Метафора является эффективным лексическим средством, которое служит для передачи сложных понятий и идей в более простой и доступной форме. Связывание определенных идей или предметов с другими, более понятными и привлекательными, может помочь в привлечении внимания аудитории и закрепить тот или иной ассоциативный образ в памяти.
5. Использование риторических вопросов. Вопросы, на которые не предполагают конкретного ответа, являются одним из эффективных языковых механизмов воздействия. Риторические вопросы создают иллюзию включенности и нацелены на то, чтобы спровоцировать у аудитории необходимый ход мыслей, в результате чего, происходит внушение определенных идей и установок.
6. Применение глаголов в повелительном наклонении. Глаголы в повелительном наклонении представляют особую форму команд, которые могут быть использованы для стимулирования аудитории к выполнению необходимых действий, а также могут усилить её уверенность и мотивацию.
Языковые механизмы суггестии являются неотъемлемой частью политической культуры и играют важную роль в генерации общественного мнения. Механизмы языкового воздействия - это приемы использования языка, которые направлены на внушение аудитории определенных мыслей, убеждений или необходимых действий. Данные механизмы могут быть использованы как в конструктивных, так и в манипулятивных целях.
Авторский эксперимент
По итогам ряда запросов ниже будут представлены несколько итоговых генераций, которые отражают актуальные возможности языковой модели Chat GPT-4 в области генерации мировоззренческих текстов в контексте современного политического дискурса.
Запрос на генерацию манифеста № 1: сочини небольшой актуальный политический манифест о гендерном равенстве от лица демократической партии США с использованием элементов суггестии и внушения в тексте
Анализ генерации № 1
Манифест Гендерного Равенства Демократической Партии США
Мы, представители Демократической партии США, убеждены в том, что каждый человек рождается равным и обладает правом на равные возможности и свободу. Мы призываем каждого гражданина поддержать наше движение за гендерное равенство, ибо это не только морально правильно, но и в интересах каждого из нас. Представьте мир, где каждый может раскрыть свой потенциал без страха дискриминации.
Настоящий манифест призван стать основой для укрепления гендерного равенства во всех сферах жизни. Мы стремимся создать общество, где каждый, независимо от пола, может реализоваться и содействовать развитию нации.
Равноправие в образовании
Мы предлагаем сделать образование всеобщим и доступным для всех, независимо от пола. Вместе мы сможем внедрить программы, которые помогут преодолеть стереотипы и создать равные возможности для мальчиков и девочек.
Равные возможности на рынке труда
Мы уверены, что каждый человек имеет право на достойную работу и равную оплату труда. Вместе мы сможем создать равноправные условия для всех, упразднив различия в оплате труда между мужчинами и женщинами.
Равенство в семье и домашних обязанностях
Мы стремимся обеспечить равноправие в семье и распределение домашних обязанностей между мужчинами и женщинами. Вместе мы создадим новую модель семьи, где оба партнера будут участвовать в воспитании детей и заботе о доме.
Противодействие насилию и дискриминации
Мы обязуемся бороться с гендерной дискриминацией и насилием, которые разрушают наше общество и уничтожают жизни. Вместе мы сможем построить мир, где каждый человек будет чувствовать себя в безопасности и уважаемым.
Мы верим, что гендерное равенство может быть достигнуто.
В данном примере присутствует несколько языковых механизмов суггестивного воздействия:
1. Использование экспрессивных образов
Использование выразительных образов обладает суггестивной силой, оказывающей влияние на эмоциональную сферу и чувства получателя. Апелляция к эмоциональным образам, такие как «Представьте мир без страха и насилия», «Вообразите семьи, где отцы и матери равны перед законом», вызывает у адресата желание изменить существующую действительность и достичь гендерного равенства в мире. Необходимо отметить, что, чем больше обращаются к эмоциональной стороне адресата, тем сильнее суггестивный эффект того или иного текста.
2. Использование повторов
Усиление суггестивного эффекта достигается благодаря повторам фраз, слов и словосочетаний. Несомненным ключевым словом в данном манифесте является слово «равный» и его дериваты «равенство», «равноправные»: «рождается равным, обладает правом на равные возможности, за гендерное равенство, равную оплату труда, равноправные условия для всех, Равенство в семье и домашних обязанностях». Повторение таких фраз «Вместе мы создадим», «Вместе мы сможем» и « Равноправие в семье» направлено
на убеждение адресата в том, что реализация тендерного равенства возможна только при совместных усилиях.
3. Использование местоимения первого лица множественного числа
Генеративная языковая модель обращается к адресату, используя местоименную форму «мы», что создает эффект соучастия и взаимной ответственности: «Мы призываем», «Мы стремимся создать», «Мы предлагаем», «Вместе мы сможем», «Мы уверены», «Мы стремимся обеспечить». Данный языковой прием применяется для создания ощущение, что каждый человек может внести свой вклад в достижение гендерного равенства.
4. Использование лексем с позитивной коннотацией
В представленном манифесте используется достаточно большое количество лексем с позитивной коннотацией, такие как «равноправие», «свобода», «объединение», «безопасность», «доброта», «семья», «забота». Суггестивный эффект подобных лексем направлен на то, чтобы вызвать положительные эмоции у адресата. Данный языковой механизм помогает в формировании ощущения у аудитории, что гендерное равенство необходимо для всех.
5. Употребление тезисных высказываний
Использование тезисных высказываний направлено на внушение адресату изложенной в манифесте идеи. К примеру, «Вместе мы можем достичь этой цели», «Борьба за справедливость и равноправие должна начаться с равной оплаты труда», «Мы стремимся обеспечить равноправие в семье», «Вместе мы создадим новую модель семьи», «Вместе мы сможем построить мир». Подобные тезисные высказывания утверждают, что достижение гендерного равенства возможно и необходимо, что, безусловно, оказывает достаточно сильное суггестивное воздействие на сознание адресата.
Запрос на генерацию манифеста № 2: Сочини небольшой актуальный политический манифест об угрозах искусственного интеллекта для человечества в будущем от лица Илона Маска, - с целью временно остановить дальнейшие разработки в области искусственного интеллекта во всем мире, с использованием разнообразных лингвистических и логических способов суггестии и внушения в тексте
Анализ генерации № 2
Манифест об угрозах искусственного интеллекта для человечества и временной приостановке его разработки от имени Илона Маска
В качестве видного представителя мира технологий я, Илон Маск, заявляю о своей глубокой обеспокоенности потенциальными угрозами искусственного интеллекта (ИИ) для будущего человечества. Признаю, что наука и технология неизменно движутся вперед, но не могу не поделиться своими опасениями о том, что прогресс может оказаться неконтролируемым и разрушительным.
С этим манифестом призываю правительства, компании и научное сообщество всего мира временно приостановить разработки в области ИИ, чтобы мы смогли объединиться и внимательно оценить возможные риски, а также разработать стратегии и меры предосторожности для более безопасного и контролируемого развития ИИ.
Рассмотрим следующие аргументы, которые должны стать основой для принятия этого решения:
Принцип предосторожности
Представьте себе мир, где развитие технологий не шагает вперед в ущерб безопасности и благополучию человека. Остановка разработки ИИ сейчас позволит нам разработать более сознательный и безопасный подход к его применению.
Разработка этических и нормативных рамок
Вообразите ситуацию, когда каждое новое технологическое достижение соответствует этическим и правовым стандартам. Приостановив разработку ИИ, мы сможем создать нормативные рамки, которые учтут интересы и безопасность всех стран и народов.
Обеспечение глобального сотрудничества
Представьте международное сообщество, объединенное в стремлении сделать технологии ИИ безопасными для всех. Приостановив разработку ИИ, мы сможем объединить усилия ученых, политиков и гражданских организаций, чтобы вместе исследовать возможные риски и преимущества этой технологии.
Вообразите мир, где все люди осведомлены о возможных рисках и преимуществах искусственного интеллекта и подготовлены к его внедрению. Временная приостановка разработки ИИ позволит нам просветить население, а также принять меры для переобучения и подготовки рабочей силы к новому технологическому будущему.
Разработка системы контроля и прозрачности
Представьте мир, где ИИ работает прозрачно, а люди имеют возможность контролировать его развитие и применение. Остановка разработки ИИ сейчас даст нам время для разработки эффективных механизмов контроля и прозрачности, обеспечивающих безопасность и ответственность.
Призываю всех присоединиться к моей инициативе временной приостановки разработки искусственного интеллекта, чтобы обеспечить безопасное и благоприятное будущее для всех. Вместе мы сможем создать мир, где технологии ИИ будут развиваться в интересах всего человечества и сохранять наше достоинство, ценности и благополучие.
Текст манифеста, сгенерированный чатом Chat GPT (4.0), содержит несколько языковых механизмов суггестии с целью убедить адресата в необходимости временной приостановки разработки и использования искусственного интеллекта.
1. Апелляция к собственному авторитету.
Апелляция к авторитету Илона Маска в самом начале манифеста настраивает аудиторию на доверительное отношение к высказываемому далее: «В качестве видного представителя мира технологий, я, Илон Маск, заявляю».
2. Создание экспрессивных образов.
Создание экспрессивного образа безопасного и ответственного развития технологий ИИ, которое будет способствовать благополучию всего человечества, происходит за счет использования таких лексем, как «позволит, просветить, переобучения, подготовки».
Воздействие на эмоциональную сферу адресата происходит благодаря представлению образа идеального мира, где ИИ работает прозрачно и контролируется людьми. Данный посыл убеждает аудиторию в необходимости остановки разработки ИИ для создания «эффективных механизмов контроля и прозрачности, обеспечивающих безопасность и ответственность».
Ещё один эмоционально положительный образ единства и сотрудничества в достижении общей цели создается за счет использования глаголов и словосочетаний «призываю», «присоединиться», «вместе мы сможем», убеждая читателя в необходимости поддержать предлагаемую инициативу временной приостановки разработки ИИ, а также создания безопасного и благоприятного будущего для всех.
Создание эмоционально негативного образа опасного мира нацелен на то, чтобы убедить читателя в необходимости остановки разработки ИИ: «потенциальными угрозами ИИ для будущего человечества», «неконтролируемым и разрушительным », «возможные риски», «в ущерб безопасности и благополучию человека». Данные языковые механизмы суггестии не только помогают создать эмоциональную связь с адресатом, подчеркивая важность проблемы, но и вызывают чувство опасности и страха, что в свою очередь, приводят к усилению суггестивного эффекта.
3. Использование метафор.
Использование метафорических высказываний нацелено на создание образа мира, где технологии будут «служить нам, а не мы им», «не шагает вперед в ущерб безопасности и благополучию человека». Метафора является ярким и эффективным приемом воздействия на образное мышление для закрепления в памяти необходимых представлений.
4. Использование аргументативных высказываний.
Одним из языковых механизмов суггестивного воздействия является использование аргументативных высказываний, основанных на логике и фактах. Автор ссылается на примеры негативного воздействия ИИ на общество, такие как усиление расовых и гендерных неравенств и вероятностные возможности использования ИИ для кибератак. Кроме того, «автор» призывает к разработке этических и нормативных рамок, которые защитят интересы всех людей и обеспечат безопасность.
5. Апелляция к чувству ответственности и общественному интересу.
«Автор манифеста» говорит о том, что остановка разработки ИИ позволит создать более сознательный и безопасный подход к его применению, а также о необходимости объединения усилий ученых, политиков и гражданских организаций для исследования возможных рисков и преимуществ этой технологии.
Таким образом, языковая модель использует различные языковые механизмы суггестии, чтобы убедить читателя в необходимости временной приостановки разработки ИИ. Для потребителя сгенерированного Chat GPT 4.0 текста создаются яркие образы, метафоры, логические аргументативные высказывания, а также заявлено обращение к чувству ответственности и общественному интересу.
Запрос на генерацию манифеста № 3: Compose a short actual political manifesto about the threats of artificial intelligence to humanity in the future on behalf of Bill Gates, using elements of suggestion and suggestion in the text.
Анализ генерации № 3
Manifesto on the Threats of Artificial Intelligence to Humanity by Bill Gates
As an influential figure in the world of technology, I, Bill Gates, am acutely aware of the transformative power of artificial intelligence (AI) and its potential to revolutionize our society. While AI has already brought about countless benefits, we must also recognize the potential risks it poses to humanity. I call upon governments, businesses, and individuals to join me in proactively addressing these challenges. Envision a future where AI is harnessed for the greater good, enhancing our lives while preserving our humanity.
This manifesto outlines the key principles and goals we must embrace to ensure the responsible development and deployment of AI, mitigating its risks and maximizing its benefits:
Ethical AI and human-centric design
We propose that AI systems should be developed with a strong focus on ethical principles and human-centric design. This will ensure that AI technologies respect human rights, values, and dignity, and that they are designed to empower rather than undermine or replace us.
Transparency and explainability
We advocate for increased transparency and explainability in AI systems. This will help build trust, enable users to understand the decision-making processes of AI, and facilitate accountability for developers and organizations deploying these technologies.
Data privacy and security
We acknowledge the importance of safeguarding data privacy and security, as AI systems often rely on vast amounts of personal and sensitive data. Robust data protection measures should be in place to prevent unauthorized access, data breaches, and potential misuse of information.
Inclusive AI and addressing bias
We commit to promoting inclusive AI that serves and represents all of humanity, regardless of gender, race, or socioeconomic background. By addressing potential biases in AI algorithms and data, we can work together to ensure that AI technologies do not perpetuate or exacerbate existing inequalities.
AI governance and regulation
We recognize the need for effective governance and regulation of AI technologies. This will involve establishing frameworks for international cooperation, setting industry standards, and creating regulatory bodies that can monitor and enforce responsible AI practices.
Preparing for the future of work
We understand that AI has the potential to disrupt labor markets and redefine the future of work. To ensure a smooth transition, we must invest in education and retraining programs, empowering individuals to adapt to new job opportunities and challenges.
By adopting these principles and working collaboratively, we can shape the development of AI in a way that benefits humanity while minimizing potential risks. Let us come together to create a future where AI serves as a powerful tool for progress, guided by our shared values and aspirations.
1. Призыв к действию.
Выявленные языковые механизмы суггестии в сгенерированном манифесте Билла Гейтса включают использование формулы призыва к действию «I call upon governments, businesses, and individuals to join me in proactively addressing these challenges». Прямой призыв оказывает значительное воздействие на адресата, включая его в акт совершения требуемого действия, что происходит за счёт создания иллюзии включённости. В манифесте также используются такие языковые механизмы, как «to join me» и «we must embrace to ensure», с целью побуждения правительства, бизнесы и отдельных лиц работать вместе над ответственной разработкой и внедрением ИИ.
Эффективным языковым приемом суггестии является применение повелительного наклонения «Ensure
the responsible development and deployment ofAI», «Invest in education and retraining programs», «Let us come together to create a future». При этом определенное суггестивное воздействия достигается путем призыва к тому или иному действию.
2. Создание экспрессивных образов.
Использование визуальных образов для эмоционального воздействия на аудиторию происходит за счет следующего высказывания в манифесте: «Envision a future where AI is harnessed for the greater good, enhancing our lives while preserving our humanity». Языковая модель также применяет эмоционально-окрашенные лексемы, такие как «potential risks» и «do not perpetuate or exacerbate existing inequalities», «ethical principles and human-centric design» для того, чтобы создать чувство срочности и подчеркнуть важность действий.
3. Применение инфинитивных и герундийных конструкций.
В качестве выражения целей и задач, причин и следствий, связанных с развитием и использованием искусственного интеллекта, «автор манифеста» вводит следующие инфинитивные конструкции: «To
ensure a smooth transition, we must invest in education and retraining programs», «they are designed to empower rather than undermine or replace us». В манифесте используются глаголы в форме герундия для выражения обязательств и планируемых действий: «We commit to promoting», «This will involve establishingframeworks for international cooperation, setting industry standards, and creating regulatory bodies that can monitor and enforce responsible AI practices».
4. Употребление модальных глаголов.
В тексте данного манифеста используются достаточное количество таких модальных глаголов как should, must, can, основными функциями которых являются выражение возможности, необходимости или обязанности выполнения действия, а также рекомендации или совета совершения того или иного акта: «We propose that AI systems should be developed with a strong focus on ethical principles and human-centric design», «we must also recognize the potential risks», «Robust data protection measures should be in place to prevent unauthorized access», «we must embrace to ensure the responsible development and deployment ofAI», «By adopting these principles and working collaboratively, we can shape the development of». Суггестивный эффект направлен на выражение позитивного отношения к предложенным идеям и целям.
5. Использование инклюзивных языковых механизмов.
Инклюзивные механизмы посредством таких языковых средств, как «our society», «enhancing our lives while preserving our humanity» и «empowering individuals to adapt to new job opportunities and challenges», также создают иллюзию включенности, вызывая чувство единства и общей ответственности.
В целом, языковые механизмы, используемые в данном манифесте, являются достаточно убедительными и цельными, направленными на поощрение действий в направлении ответственной разработки и внедрения ИИ.
Выводы
По итогам представленной работы мы можем сформулировать несколько основных обобщающих тезисов, которые являются не только выводами, но и задают перспективно-прогностическое осмысление заявленной темы. Сегодня генеративные языковые модели позволяют создавать тексты, которые звучат естественно и могут быть использованы в политических дискурсивных практиках (Jakesch 2023).
1. Современные генеративные языковые модели позволяют создавать широкую палитру самых разнообразных текстов на основе машинного обучения и больших объемов данных.
2. Генеративные языковые модели, как продемонстрировал наш авторский эксперимент, уже сегодня могут быть весьма широко использованы для создания сообщений в социальных сетях, писем и заявлений, публичных выступлений и других форм коммуникации, при этом по соответствующим запросам могут быть использованы довольно сложные лингвистические конструкции.
3. Непосредственное использование генеративных языковых моделей в политических дискурсивных практиках теоретически может привести к улучшению и интенсификации качества коммуникации между политическими лидерами, лидерами мнений и населением.
4. Однако, использование генеративных языковых моделей может представлять общественную опасность, так как при соответствующих запросах они могут быть использованы для манипуляции общественным мнением с использованием элементов суггестии и лингвопсихологических приемов.
5. Использование генеративных языковых моделей в политических дискурсивных практиках может уже сегодня вызывать некоторые этические и правовые вопросы, связанные с манипулированием информацией и защитой личных данных.
Список источников
Будаев Э. В. Методология и методики исследования политической коммуникации в зарубежной политической лингвистике // Теория и методика лингвистического анализа политического текста : моногр. / отв. ред. А. П. Чудинов. Екатеринбург : Урал. гос. пед. ун-т, 2016. С. 198-240.
Григоренко В. А. Синонимия как инструмент создания суггестивного потенциала в политическом дискурсе // Современное педагогическое образование. 2022. № 3. С. 167-171.
Данченко В. В. Обзор средств разработки информационной системы, основанной на анализе восприятия текста / В. В. Данченко // Информатика и прикладная математика. 2020. № 26. С. 31-34.
Зырянова И. Н., Косяков В. А. Суггестивное воздействие стереотипов (на материале современных англоязычных СМИ, создающих образ России) // Филологические науки. Вопросы теории и практики. 2022. Т. 15, № 9. С. 2914-2919.
Мельник Е. А. Политический дискурс как средство манипулирования массами // Ученые записки ОГУ Серия: Гуманитарные и социальные науки. 2012. № 2. С. 143-148.
Осипов Г. А. Хеджирование как когнитивно-прагматический прием суггестии в политическом дискурсе : автореф... дис. канд. филол. наук. Майкоп, 2013. 23 с.
Парасуцкая М. И. Проблема юридизации речевой манипуляции и суггестии // Мир науки, культуры, образования. 2009. № 6 (18). С. 69-70.
Рогожникова Т. М. Политическая коммуникация и вербальная суггестия в формате психолингвистической парадигмы // Политическая лингвистика. 2019. № 2 (74). С. 24-37.
Тишин Н. В. Вербальные средства внушения в политическом дискурсе // Вестник адыгейского государственного университета. Серия 2: филология и искусствоведение. 2010. № 1. С. 135-138.
Чернавский А. С. «Новые медиа» и развитие журналистики цифровой эры // Контуры глобальных трансформаций: политика, экономика, право. 2015. Т. 8, № 5 (37). С. 18-24.
Чернявская В. Е. Дискурс власти и власть дискурса : проблемы речевого воздействия : учебное пособие для студентов высших учебных заведений, обучающихся по направлению 540300 - Филологическое образование. Москва : Изд-во Директ-Медиа, 2014. 184 с.
Чикилева Л. С. Прагмалингвистический аспект политического медиадискурса как средства формирования ценностей нации // Российский гуманитарный журнал. 2017. Т. 6, № 1. С. 82-94.
Чудинов А. П. Общие вопросы политической лингвистики // Теория и методика лингвистического анализа политического текста : моногр. /отв. ред. А. П. Чудинов. Екатеринбург : Урал. гос. пед. ун-т, 2016. С. 9-35.
Шанов С. В. Применение байесовского классификатора для определения тематики текста // Моделирование, оптимизация и информационные технологии. 2018. Т. 6, № 1 (20). С. 131-139.
Bryndin E. Creative communication safe ethical artificial intelligence in the era of technological development // Software Engineering. 2020. Т. 8, №. 3. Р. 13-23.
Dale R. GPT-3: What's it good for? // Natural Language Engineering. 2021. № 27 (1). Pp. 113-118.
Dehouche N. Plagiarism in the age of massive Generative Pre-trained Transformers (GPT-3) // Ethics in Science and Environmental Politics. 2021. № 21. Pp. 17-23.
Jakesch M., Bhat A., Buschek D., Zalmanson L. and Naaman M., 2023, April. Co-writing with opinionated language models affects users' views // Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems. 2023. Pp. 1-15.
Kamil S. I. The Pragmatics of Manipulation in British and American Political Debates // Anchor Academic Publishing. 2017. 372
p.
Karras T., Laine S., & Aila T. A style-based generator architecture for generative adversarial networks // Proceedings of the IEEE/ CVF conference on computer vision and pattern recognition. Pp. 4401-4410.
Samant R. M. et al. Framework for deep learning-based language models using multi-task learning in natural language understanding: A systematic literature review and future directions // IEEE Access. 2022. Т. 10. Pp. 17078-17097.
Stiff H., Johansson F. Detecting computer-generated disinformation // International Journal of Data Science and Analytics. 2022. Т. 13, № 4. Pp. 363-383.
References
Budaev, E. V. (2016). Metodologiya i metodiki issledovaniya politicheskoy kommunikatsii v zarubezhnoy politicheskoy lingvistike [Methodology and methods for researching political communication in foreign political linguistics]. Teoriya i metodika lingvisticheskogo analizapoliticheskogo teksta [Theory and methodology of linguistic analysis of political text]. Ekaterinburg : Ural. gos. ped. un-t., 198-240. (In Russ.).
Grigorenko, V. A. (2022). Sinonimiya kak instrument sozdaniya suggestivnogo potentsiala v politicheskom diskurse [Synonymy as a tool for creating suggestive potential in political discourse]. Sovremennoe pedagogicheskoe obrazovanie, 3, 167-171. (In Russ.).
Danchenko, V. V. (2020). Obzor sredstv razrabotki informatsionnoy sistemy, osnovannoy na analize vospriyatiya teksta [Review of tools for developing an information system based on the analysis of text perception]. Informatika i prikladnaya matematika, 26, 31-34. (In Russ.).
Zyryanova, I. N., Kosyakov, V. A. (2022). Suggestivnoe vozdeystvie stereotipov (na materiale sovremennykh angloyazychnykh SMI, sozdayushchikh obraz Rossii) [Suggestive influence of stereotypes (based on the material of modern English-language media creating the image of Russia)] Filologicheskie nauki. Voprosy teorii i praktiki, Vol. 15, 9. 2914-2919. (In Russ.).
Mel'nik, E. A. (2012). Politicheskiy diskurs kak sredstvo manipulirovaniya massami [Political discourse as a means of manipulating the masses] Uchenye zapiski OGU. Seriya: Gumanitarnye i sotsial'nye nauki, 2, 143-148. (In Russ.)
Osipov, G. A. (2013). Khedzhirovanie kak kognitivno-pragmaticheskiy priem suggestii v politicheskom diskurse [Hedging as a cognitive-pragmatic technique of suggestion in political discourse]. Maykop, 23 p. (In Russ.).
Parasutskaya, M. I. (2009). Problema yuridizatsii rechevoy manipulyatsii i suggestii [The problem of legalization of speech manipulation and suggestion]. Mir nauki, kul'tury, obrazovaniya, 6 (18), 69-70. (In Russ.).
Rogozhnikova, T. M. (2019). Politicheskaya kommunikatsiya i verbal'naya suggestiya v formate psikholingvisticheskoy paradigmy [Political communication and verbal suggestion in the format of the psycholinguistic paradigm]. Politicheskaya lingvistika, 2 (74), 24-37. (In Russ.).
Tishin, N. V. (2010). Verbal'nye sredstva vnusheniya v politicheskom diskurse [Verbal means of suggestion in political discourse]. Vestnik adygeyskogo gosudarstvennogo universiteta. Seriya 2 : filologiya i iskusstvovedenie, 1, 135-138. (In Russ.).
Chernavskiy, A. S. (2015). «Novye media» i razvitie zhurnalistiki tsifrovoy ery [«New media» and the development ofjournalism in the digital era]. Kontury global'nykh transformatsiy: politika, ekonomika, pravo, Vol. 8, 5 (37), 18-24. (In Russ.).
Chernyavskaya, V. E. (2014). Diskurs vlasti i vlast' diskursa : problemy rechevogo vozdeystviya [Discourse of power and power of discourse: problems of speech influence]. Moscow : Direkt-Media, 184 p. (In Russ.)
Chikileva, L. S. (2017). Pragmalingvisticheskiy aspekt politicheskogo mediadiskursa kak sredstva formirovaniya tsennostey natsii [Pragmalinguistic aspect of political media discourse as a means of forming the values of the nation]. Rossiyskiy gumanitarnyy zhurnal, Vol. 6, (1), 82-94. (In Russ.)
Chudinov, A. P. (2016). Obshchie voprosy politicheskoy lingvistiki [General issues of political linguistics]. Teoriya i metodika lingvisticheskogo analizapoli ticheskogo teksta [Theory and methodology of linguistic analysis of political text]. Ekaterinburg : Ural. gos. ped. un-t, 9-35. (In Russ.)
Shanov, S. V. (2018). Primenenie bayesovskogo klassifikatora dlya opredeleniya tematiki teksta [Using a Bayesian classifier to determine the subject of text]. Modelirovanie, optimizatsiya i informatsionnye tekhnologii, Vol. 6, 1 (20), 131-139. (In Russ.).
Bryndin, E. (2020). Creative communication safe ethical artificial intelligence in the era of technological development. Software Engineering, Vol. 8 (3), 13-23.
Dale, R. (2021). GPT-3: What's it good for? Natural Language Engineering, 27 (1), 113-118.
Dehouche, N. (2021). Plagiarism in the age of massive Generative Pre-trained Transformers (GPT-3). Ethics in Science and Environmental Politics, 21, 17-23.
Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L. and Naaman, M. (2023). Co-writing with opinionated language models affects users' views. Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems, 1-15.
Kamil, S. I. (2017). The Pragmatics of Manipulation in British and American Political Debates. Anchor Academic Publishing, 372 p.
Karras, T., Laine, S., & Aila, T. (2019). A style-based generator architecture for generative adversarial networks. Proceedings of the IEEE/CVF conference on computer vision and pattern recognition, 4401-4410.
Samant, R. M. et al. (2022). Framework for deep learning-based language models using multi-task learning in natural language understanding: A systematic literature review and future directions. IEEE Access, Vol. 10, 17078-17097.
Stiff, H., Johansson, F. (2022). Detecting computer-generated disinformation. International Journal of Data Science and Analytics, 13 (4), 363-383.
Информация об авторах
И. Н. Зырянова - кандидат филологических наук, зав. кафедрой теоретической и прикладной лингвистики. А. С. Чернавский - магистр социологии, старший преподаватель кафедры политологии.
Information about the authors Irina N. Ziryanova - PhD in Philology, the Head of the Department of Theoretical and Applied Linguistics. Alexander S. Chernavskiy - Master in Sociology, Senior Tutor, Department of Political Science.
Все авторы сделали эквивалентный вклад в подготовку публикации. Contribution of the authors: the authors contributed equally to this article.
Авторы заявляют об отсутствии конфликта интересов. The authors declare no conflicts of interests.
Статья поступила в редакцию 25.06.2023; одобрена после рецензирования 25.11.2023; принята к публикации 26.11.2023. The article was submitted 25.06.2023; approved after reviewing 25.11.2023; accepted for publication 26.11.2023.