CC BY
0
ТЕОРЕТИЧЕСКАЯ И ПРИКЛАДНАЯ ЛИНГВИСТИКА THEORETICAL AND APPLIED LINGUISTICS
Научная статья УДК 81'42:316.776.3 EDN WFEHIQ
DOI 10.17150/2500-2759.2023.33(4).762-771
КОГНИТИВНЫЕ ИСКАЖЕНИЯ КАК СРЕДСТВО МАНИПУЛЯЦИИ В НОВОСТНОМ ДИСКУРСЕ В СФЕРЕ ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ
И.А. Якоба1' 2
1 Иркутский национальный исследовательский технический университет, г. Иркутск, Российская Федерация
2 Иркутский государственный университет, г. Иркутск, Российская Федерация
Информация о статье
Дата поступления 19 ноября 2023 г.
Дата принятия к печати 11 декабря 2023 г.
Дата онлайн-размещения 22 декабря 2023 г.
Ключевые слова
Когнитивное искажение; конструирование дискурса; средства массовой информации (СМИ); искусственный интеллект
Аннотация
Цель исследования — выявить когнитивные инструменты, используемые для воздействия на массового медийного адресата. Влияющий потенциал дискурса раскрывается путем навязывания оценочной интерпретации события-аттрактора в средствах массовой информации. Методами исследования являются критический дискурс-анализ, интерпретация в аспекте инференции. В качестве события-аттрактора выбрана тема угроз и рисков искусственного интеллекта. Эмпирический материал составили западные и российские статьи, отобранные по релевантности в сфере информационных технологий. Проанализирована искаженная интерпретация в аспекте навязывания когнитивных ошибок. Среди выявленных лингвокогнитивных механизмов, связанных с искажениями, отмечены: имажинеринг, фокусирование, спин-докторинг, метафоризация, позиционирование, вовлечение, инспирация. За ними скрываются следующие когнитивные искажения: преувеличение, приуменьшение, катастро-физация, селективное восприятие, ментальный фильтр, эффект фокусирования, повествовательная ошибка, синдром упущенной выгоды, эффект присоединения, долженствование, персонализа-ция и обвинение, сверхобобщения, иллюзия частотности, иллюзия контроля, обесценивание, негативный прогноз, каскад доступной информации, cубъективное придание значимости. Делаются выводы, что для манипуляции адресатом чаще всего конструируется негативный сценарий, который преподносится как реальное положение дел, чтобы воздействовать на него с пониженным уровнем критичности и осознанности.
Original article
COGNITIVE DISTORTIONS AS A MEANS OF MANIPULATION IN NEWS DISCOURSE IN THE FIELD OF INFORMATION TECHNOLOGY
Irina A. Iakoba1' 2
11rkutsk National Research Technical University, Irkutsk, the Russian Federation 2 Irkutsk State University, Irkutsk, the Russian Federation
Article info
Received
November 19, 2023
Abstract
The purpose of the study is to identify cognitive tools used to influence the mass media addressee. The influential potential of discourse is revealed by imposing an evaluative interpretation of an attractor
© Якоба И.А., 2023
Accepted December 11, 2023
Available online December 22, 2023
Keywords
Cognitive distortion; discourse construction; media; artificial intelligence
event in the media. The research methods are critical discourse analysis, interpretation in the aspect of inference. The theme of threats and risks of artificial intelligence was chosen as an attractor event. The empirical material consisted of Western and Russian articles selected by relevance in the field of information technology. The distorted interpretation in terms of imposing cognitive errors is analyzed. Among the identified linguocognitive mechanisms associated with distortions, the following are noted: imagining, focusing, spin doctoring, meta-phorization, positioning, involvement, inspiration. The cognitive distortions behind them are: sharpening, minimization, catastrophization, selective perception, mental filter, focusing effect, narrative fallacy, FOMO, bangwagon effect, should statement, personalization and blame, overgeneralization, illusion of frequency, illusion of control, loss of value, negative forecast, available information cascade, subjective attribution of significance. It is concluded that in order to manipulate the addressee, a negative scenario is most often constructed, which is presented as a real state of affairs in order to influence the addressee with a reduced level of criticality and awareness.
Введение
Новостной дискурс насыщен манипуля-тивными средствами воздействия, особенно в ситуациях, когда возникает потребность скрыть важные реальные новости за сконструированными намеренно. Как следствие, виртуальный мир Интернета расширяет свои границы и возможности, впитывая современные достижения теорий эффективной коммуникации, маркетинга, пиара, политики и экономики, при этом «журналистика становится идеологическим маркетингом» [1, с. 21]. Не вызывает сомнений потребность в конструировании все более воздействующего дискурса в СМИ, что стимулирует журналистов находить все новые манипулятивные средства: «Манипуляции как часть технологий власти, результат деятельности политтехнологов требуют от профессионалов значительного мастерства и знаний» [2, с. 443]. В СМИ, особенно подчиняющихся политизированной идеологии власти, «события, факты реконструируются так, что в результате аудитория получает не отраженную, а созданную реальность» [1, с. 21].
Многие исследователи когнитивных процессов, в том числе когнитивных искажений (КИ), отмечают, что «манипуляция сознанием в социальном управлении основывается на свойстве сознания, которое часто непроизвольно воспринимает информацию односторонне, видя в иллюзии или внешней форме сущность того или иного явления» [2, с. 443]. Все более актуальным в современном поляризованном мире становится развитие критического мышления для распознавания воздействующих технологий, популяризация способов противостояния манипуляциям как вербальным, так и суггестивным.
Теоретические основания
Теоретическими основаниями данного исследования послужили труды, положения и концепции, посвященные выявлению деструктивной коммуникации и противостоянию манипулятивным технологиям [1-3]; рационализации коммуникации для достижения эффективности, осуществлению политики «подталкивания» [4]; интерпретации причинно-следственных связей в принятии решений на основе когнитивных эвристик, искажений и предубеждений [5]; выявлению когнитивных предубеждений и искажений в когнитивно-поведенческой терапии [6]; составлению глоссария КИ [7]; уточнению причин феноменов постправды [8], фейковых новостей, толерантности ко лжи [9], ложных новостей [10].
Материал и методы
Методы включают критический дискурс-анализ, позволяющий уточнить политические и идеологические позиции оппонентов; интерпретацию в аспекте инференции, которая дает понимание глубинных когнитивных скрытых идей.
Материалом исследования послужили аналитические и новостные сообщения ведущих западных и российских СМИ, взятые с сайтов: www.theguardian.com, www. safe.ai/ai-risk, www.digitalinformationworld. com, https://www.foxnews.com, https:// www.nytimes.com,https://www.forbes.ru, https://edition.cnn.com, https://skillbox. top, https://www.rbc.ru, https://www. sostav.ru.
Результаты и обсуждение исследования
Начало исследований принятия наиболее эффективных решений в поведенческой экономике на основе выявления и исправ-
ф
п ч
01
И
5<
*
U
л т
п *
о
о
о
д
и ^
п ч я Ф X X
о
ч
ф
р
2 О
м
3
ы
Z
10 р
7
в) —
7 7
ления КИ положили нобелевские лауреаты Р. Талер, Д. Канеман, Р. Шиллер, Д. Дюфло. В целом поведенческая экономика рассматривается как «междисциплинарная область социальных наук, сочетающая в себе экспериментальную экономику и психологию, основывающаяся на признании ограниченной рациональности человека»[4, с.219].
Отметим, что КИ определяется как «ошибочное или неточное мышление, восприятие или убеждение» американской психологической ассоциацией. Негативность часто является определяющей характеристикой. Также КИ рассматриваются как модели мышления, которые мешают жизни людей и отношениям. Указывается, что КИ — это нормальный психологический процесс, который может возникнуть у всех людей в большей или меньшей степени: «это можно показать на примере сверхобобщения, когда такие слова, как «всегда», «никогда», «все» и «ничего», часто используются в ходе мыслей»1.
КИ могут негативно повлиять на: 1) нашу способность принимать решения, ограничивая восприимчивость к новой или противоречивой информации; 2) то, насколько точно мы можем вспомнить происшествия, например событие, очевидцем которого мы были (неточное или неполное воспоминание событий может привести к искажению воспоминаний); 3) уровень нашей тревожности, заставляющий нас сосредотачиваться только на негативных событиях или аспектах нашей жизни; 4) наши отношения с другими людьми, когда мы слишком быстро судим об их личности по одной-единственной черте; 5) наше критическое мышление, приводящее нас к увековечению заблуждений или дезинформации, которые могут нанести вред другим [11].
КИ определяются П. Гринспуном как «внутренние ментальные фильтры, которые усиливают наши страдания, подпитывают нашу тревогу и заставляют нас чувствовать себя плохо». «Наш мозг постоянно обрабатывает большое количество информации. Чтобы справиться с этим, наш мозг ищет кратчайшие пути, позволяющие снизить умственную нагрузку. Иногда эти ярлыки полезны, но в других обстоятельствах (например, в случае с этими бесполезными когнитивными фильтрами) они могут принести больше вреда, чем пользы» [12].
Возникают вопросы: как повысить информационную безопасность в обществе?
1 Cognitive distortions explained with 10 examples.
2015. URL: https://share.upmc.com/2021/05/cogni-
tive-distortions.
как противостоять манипуляциям в СМИ? как повысить собственную эффективность и продуктивность? На наш взгляд, необходимо развивать критическое, креативное, логическое мышление, soft skills, память, скорость реакции; развивать осознанность, понимать и выявлять способы вербального и невербального воздействия, знать и применять антиманипуляторские приемы и технологии, чтобы противостоять манипуляторам; трансформировать негативные когнитивные программы на позитивные на основе понимания работы когнитивных инструментов мозга.
С позиции лингвистической прагматики, теории сил дискурса, теории речевого воздействия, теории эффективной коммуникации данные проблемы могут быть решены в рамках разработанной нами концепции когнитивно-коммуникативной параметризации дискурса, получившей название «Умная настройка дискурса» [13]. Рассматриваемая концепция направлена на моделирование успешной коммуникации посредством выявления и активации сил дискурса (умная — УС, мягкая — МС, жесткая — ЖС), коммуникативных параметров, дискурсивных стратегий, лингвокогнитивных механизмов, задейству-ющих различные когнитивные процессы как суггестивно, так и явно. В рамках технологии «Умная настройка дискурса» можно не только создавать конструктивные практики, способствующие успешной коммуникации по принципу win-win, когда обе стороны выигрывают от общения, но и проводить анализ и деконструировать деструктивные дискур-сивно-коммуникативные практики, выявляя задействованные когнитивные инструменты.
Известно, что деструктивное общение направлено на победу над оппонентом любыми способами, откинув все этические нормы, вооружившись манипуляторскими приемами для достижения корыстного результата. «Деструктивное общение характеризуется осознанно используемыми эмоционально-оценочными элементами языка, а также оперированием разрозненными фактами, вырванными из контекста» [14, с. 369]. Таким образом, коммуниканты, стремящиеся нанести сознательный вред своим оппонентам, особенно в массмедийном интернет-пространстве, стараются задействовать все более изощренные когнитивные инструменты воздействия. К таким инструментам, действующим экспрессивно, вопреки логике и рациональности, направленным на эмоции, воображение, образное мышление и создание стрессовой ситуации, отнесем КИ. Ниже представлены примеры, демонстрирующие,
каким образом КИ встраиваются в новостной дискурс для аксиологического воздействия, смещения внимания от важных реальных проблем к вымышленным, гипотетическим. Созданные КИ основаны на активации глубинных когнитивных механизмов (КМ), выявленных в предыдущих исследованиях автора. Анализ каждого примера включает выявление КИ, оказывающих негативное воздействие на адресата, направленных на изменение его аксиологической картины мира, стоящих за ними лингвокогнитивных механизмов, суггестивно управляющих воздействием. В круглых скобках приведены комментарии, позволяющие определить КИ и КМ.
1. КИ — преувеличение2, повествовательная ошибка3. КМ — спин-докторинг4, позиционирование в виде единения5, вовлечение6, фокусирование7.
Когнитивный хакинг: как искусственный интеллект нас (кого нас?) обманывает и почему мы ему верим (пресуппозиция)8. Искусственный интеллект уже научился давать ответы на важные для человека вопросы, и иногда эти ответы даже можно с пользой применять. Однако проблема в том, что понять, как именно эти ответы появились, зачастую не могут даже разработчики этой системы, имеющие доступ к коду. При этом роботы (какие? или ИИ?) умеют взламывать наше доверие (метафора) и иногда «галлюцинируют», то есть говорят неправду. Forbes публикует отрывок из книги самого известного в мире эксперта (МС, авторитетное мнение? кто так считает и почему?) по кибербез-опасности Брюса Шнайера «Взломать все»
2 Преувеличение (sharpening) — преувеличение фактов, заострение внимания на негативных аспектах.
3 Повествовательная ошибка (narrative fallacy) — психологический феномен склонности сочинять истории и объяснять вымышленные факты на основе чрезмерного фантазирования и самоубеждения в вымысле.
4 Спин-докторинг — основан на намеренном необъективном изложении события или факта. Предположение, подтверждающее желания и надежды адресатов, принимаемое без тщательного доказательства и обоснования.
5 Позиционирование — направлено на установление позиций: свои — чужие, хорошие — плохие и т.п.
6 Вовлечение — вовлекает адресата в коммерческую, рекламную или иную деятельность.
7 Фокусирование — направлено на привлечение внимания к какой-либо части действительности, сопровождается смещением смысловых акцентов, модальности, оценки. Адресант фокусирует внимание адресата на заданном ракурсе рассматриваемого события, факта или явления, избегая иных интерпретаций.
8 Когнитивный хакинг: как искусственный интеллект нас обманывает и почему мы ему верим. URL: https:// www.forbes.ru/tekhnologii/493241-kognitivnyj-haking-kak-iskusstvennyj-intellekt-nas-obmanyvaet-i-pocemu-my-emu-verim.
о том, как это происходит и почему брови помогают искусственному интеллекту нас обманывать (УС, сдвиг внимания на книгу).
2. КИ — синдром упущенной выгоды9, эффект присоединения10, сверхобобщение11. КМ — инспирация12, вовлечение, спин-докторин.
Хайп прошел, а нейросети остались (ат-трактивность сообщения, аллюзия)13. Умение работать с ними — необходимый навык и 100 %-e преимущество при трудоустройстве (пресуппозиция, кто так решил? где доказательства? дворнику тоже нужен этот навык?). Научитесь этому, пока не стало поздно! (поторапливание, эмоциональное иррациональное давление). Смотрите серию прямых эфиров, практикуйтесь вместе со спикерами и создавайте дизайн, видео, тексты и не только с помощью нейросетей (директивы, побуждения к действиям). Нейросети, Л], искусственный интеллект, ML, ИИ — сложные математические модели, которые очень легко использовать (не доказуемо). Они быстро создают картины, тексты и музыку, пишут и тестируют код — и все это непросто отличить от труда человека. А еще нейро-сети вдохновляют (или наоборот, ведут к лени и бездействию?) людей на новые идеи в бизнесе, науке и творчестве и помогают их воплотить! Нейросети прямо сейчас (сверхобобщение) меняют (олицетворение, сами? без программистов?) код, дизайн, маркетинг, медиа и другие индустрии. Разберутся даже те, кто никогда не работал с нейросе-тями (сомнительно, это псевдоупрощение).
3. КИ — сверхобобщение, персонали-
зация и вина1
КМ
имажинеринг в виде
драматизации15, позиционирование в виде единения, метафоризация16.
9 Синдром упущенной выгоды FOMO (fear of missing out) — тревожность, страх пропустить интересное или важное событие; самообман, основанный на потребности быть в курсе дел или чувстве зависти.
10 Эффект присоединения (bangwagon effect) — тип группового мышления, чем больше людей следует чему-то, тем выше вероятность, что к ним присоединятся другие.
11 Сверхобобщение (overgeneralization) — неоправданное обобщение на основе единичного случая.
12 Инспирация — способность вдохновить и мотивировать.
13 URL: https://skillbox.topю.
14 Персонализация и вина (personalization and blame) — обвинение кого-то в ситуации, которая включала множество факторов и находилась вне вашего контроля.
15 Имажинеринг — визуализация для презентации идей при помощи описания ярких образов будущего, настоящего или прошлого, которые способны вызвать эмоции: гнев, страх, гордость, желание подражать и т.д.
16 Метафоризация — позволяет осмыслить одни концепты с опорой на другие, служащие эталоном.
Ф П H
01
S)
5<
*
U
л т
п *
о
о
о
g
S) п
H
H ф
X X
о
H
ф
р M
о
M 3
з
Z
10 р
7
е>
M
7
7
Десятки штатов США обвинили Instagram в кризисе психики у молодежи17. 33 штата США (МС — ссылка на авторитет) связали использование Instagram с бессонницей и тревогой у детей. Владелец Facebook и Instagram использовал «мощные и беспрецедентные технологии», чтобы вызвать зависимость от соцсетей у молодежи (это доказано?), считают истцы. Они отмечают депрессию, тревогу, влияние на учебу и повседневную жизнь детей. «Meta применяла мощные и беспрецедентные технологии, чтобы увлечь и в конечном итоге заманить в ловушку (метафора) молодежь и подростков (намеренно? в какую ловушку? только молодежь?)», — говорится в жалобе; по версии штатов, все это корпорация делает ради получения прибыли (или сами хотят отсудить у Цукерберга денег?). Истцы сослались на исследования (МС — ссылка на анонимный авторитет, не указаны исследования), в которых говорится, что использование соцсетей (всех соцсетей или только Instagram?) сопрягается с «депрессией, тревогой, бессонницей, влиянием на учебу и повседневную жизнь, а также многими другими негативными последствиями» у детей.
4. КИ — обесценивание18, эффект фокусирования19. КМ — имажинеринг в виде драматизации, метафоризация, фокусирование, фреймирование20.
Страх и ненависть в Интернете: кто и где в России боится нейросетей21. 58 % россиян опасаются потерять работу из-за искусственного интеллекта (только в перспективе не менее 10 лет). Искусственный интеллект и нейросети, дипфейки и языковые модели — пока одни видят в технологиях буст для бизнеса, карьерного и личностного роста, другие бегут от них как от огня (метафора). На фоне нарастающей нейрофобии (новый термин привлекает вни-
17 URL: https://www.rbc.ru/technology_and_medi a/24/10/2023/65381df79a794702ceee1354.
18 Обесценивание (depreciation, loss of value) — безосновательное игнорирование, неучитывание позитивных событий, действий, качеств.
19 Эффект фокусирования (focusing effect) — чрезмерная концентрация на одном объекте, событии или аспекте, без учета других объектов и факторов.
20 Фреймирование — представление знаний и мнений об определенной типовой ситуации или явлении в определенных координатах, в структуре определенных рамок. Процесс, в котором акторы одновременно создают значения событий/ситуаций и регулируют свое поведение в данных событиях/ситуациях сообразно присвоенным им значениям.
21 Страх и ненависть в Интернете: кто и где в Рос-
сии боится нейросетей // Sostav. 2023. 6 сент. URL:
https://www.sostav.ru/publication/strakh-i-nenavist-v-
iinternete-62975.html.
мание) агентство (на сайте точных данных о выборке, времени нет) проанализировало, как страхи и тревожность по поводу ИИ распространяются (или их кто-то специально распространяет?) в соцсетях и чего на самом деле боятся россияне. Страх перед ИИ одинаково владеет мужчинами и женщинами. Однако повышенную тревожность в два раза чаще испытывают пользователи без постоянного партнера: 69 % против 31 % среди тех, кто в браке. Возможно (это домыслы или доказано?), это связано с тем, что женатые и замужние люди (смещение внимания) ощущают поддержку и менее склонны драматизировать ситуацию (импликатура — брак дает поддержку и снижает стресс?). Гораздо чаще недоверие к нейросетям испытывают и люди старшего возраста. Так, об опасностях ИИ пишет 71 % пользователей старше 40 лет, однако доля пожилых людей старше 60 лет среди них ниже, чем в возрасте 40—59 лет (32 % против 39 % соответственно) (ограничения рамками). То есть списывать страхи перед нейросетями исключительно на возраст было бы неверно — скорее речь идет о более низком уровне осведомленности о «проблеме» среди возрастных пользователей (почему не приводятся данные об отношении молодежи к ИИ?).
5. КИ — селективное восприятие22, негативный прогноз23. КМ — имажинеринг в виде искривления, вовлечение.
Как корпорации используют страх перед искусственным интеллектом, чтобы ограбить авторов24. Недавно стартап Concept Art Association запустил кампанию по сбору 270 тысяч долларов на защиту творчества от влияния креативных систем ИИ. Как оказалось, эта «защита» (кого и от кого? или вариант заработка?) связана с изменением действующего законодательства об интеллектуальной собственности. Некоторые пользователи уверены, что такая инициатива принесет больше вреда, чем пользы. Вызывают вопросы и неявные
22 Селективное восприятие (selective perception) — склонность воспринимать ту информацию, которая соответствует личным убеждениям, ожиданиям, и игнорировать ту, которая не соответствует.
23 Негативный прогноз (negative forecast) — «раздувание из мухи слона», предсказание и прогнозирование в негативном ключе, увеличение всего до размера катастрофы.
24 Как корпорации используют страх перед искусственным интеллектом, чтобы ограбить авторов // Digital. 2022. 28 дек. URL: https://rg.ru/2022/12/28/ volk-v-ovechej-shkure-kak-korporacii-manipuliruiut-ugrozoj-ii-s-ceMu-izmeneniia-zakonodatelstva-ob-intellektualnoj-sobstvennosti.html.
цели спонсоров (импликатура о наживе) кампании. Вполне вероятно (модализа-ция), что страх перед ИИ в данном случае используется для расширения корпоративного влияния (контроля?) на творческое самовыражение: все фан-арты, ремиксы, фанфики, семплированные композиции в случае изменения законодательства окажутся «вне закона». «Музыкальные исполнители и художники почти наверняка (модализация) переживут все то, что создает ИИ, но не смогут продолжить заниматься творчеством после того, как будет введен новый закон об интеллектуальной собственности» (моделирование негативного будущего)», — заявляет @fractalcounty в одном из своих постов.
6. КИ — катастрофизация, эффект фокусирования. КМ — имажинеринг в виде драматизации, фокусирование, метафоризация.
Risks from AI. An overview of catastrophic AI risks [15]. Artificial intelligence (AI) has recently seen rapid advancements, raising concerns among experts, policymakers, and world leaders about its potential risks. As with all powerful technologies, advanced AI must be handled (модализация, почему должен?) with great responsibility to manage the risks and harness its potential (моделирование негативного сценария будущего, фокусирование только на возможном плохом варианте). While it is unclear how rapidly AI capabilities will progress or how quickly catastrophic risks will grow (пресуппозиция), the potential severity of these consequences necessitates (модализация, кто сказал, что требует?) a proactive approach to safeguarding humanity's future (военная метафора). As we stand on the precipice of an AI-driven future, the choices we make today could be the difference between harvesting the fruits (метафора) of our innovation or grappling with catastrophe (метафора).
7. КИ — катастрофизация25, долженство-
вание26, субъективное придание значимо-
'27 КМ
сти2
позиционирование в виде единения, имажинеринг в виде драматизации, фреймирование.
Hope or horror? The great AI debate dividing its pioneers. AI risk must be treated
25 Катастрофизация (catastrophization) — преувеличение негативных последствий какого-либо события.
26 Долженствование (should statement) — жесткие категоричные убеждения о том, что должно или не должно происходить.
27 Субъективное придание значимости (subjective
attribution of significance) — переоценка важности определенных событий, фактов или данных из-за субъективных предпочтений и убеждений.
as seriously as climate crisis, says Google DeepMind chief [16]. Demis Hassabis calls for greater regulation to quell existential fears over tech with above-human levels of intelligence. The world (это кто конкретно? правительства, он, вы и я? единение всех) must treat (мода-лизация) the risks from artificial intelligence as seriously as the climate crisis (только экология и ИИ являются рисками? — бинарная оппозиция) and cannot afford to delay (почему?) its response, one of the technology's leading figures has warned (негативный конверсив). Speaking as the UK government prepares to host a summit on AI safety, Demis Hassabis said oversight of the industry could start with a body similar to the Intergovernmental Panel on Climate Change (IPCC) (инференция — желание создать новый орган надзора). Hassabis, the British chief executive of Google's AI unit, said the world must act immediately (подразумевая создание органа надзора) in tackling the technology's dangers, which included aiding the creation of bioweapons (только ИИ может его создать? люди этим никогда не занимались разве?) and the existential threat posed by super-intelligent systems.
8. КИ — катастрофизация, каскад доступной информации28. КМ — имажинеринг в виде драматизации, спин-докторинг.
AI dangers must be faced (модализа-ция) 'head on', Rishi Sunak to warn ahead of tech summit. Government document says impossible to rule out technology poses existential threat [17]. Rishi Sunak will refer to the «new opportunities» for economic growth offered by powerful AI systems but will also acknowledge they bring «new dangers» including risks of cybercrime, designing of bioweapons, disinformation and upheaval to jobs... The document adds, however, that many experts consider the risk to be very low (МС, ссылка на мнения экспертов, позитивное моделирование будущего — только одно предложение с позитивным допущением развития событий в статье!). Such a system would need to be given or gain control over weapons or financial systems and then be able to manipulate them while rendering safeguards ineffective (негативное моделирование будущего снова) ... It also warns of a «race to the bottom» by developers where the priority is rapid development of systems while under-investing in safety systems (импликатура, что надо еще больше инвестировать в ИИ).
28 Каскад доступной информации (available information cascade) — коллективная вера во что-либо становится тем сильнее, чем чаще происходит повторение этого факта или утверждения в обществе.
Ф П H
01
S)
5<
*
U
л г
п *
о
о
о
g
S) п
H
H ф
X X
о
H
ф
Р
M
о
M 3
з
Z
10 р
7
е>
M
7
7
9. КИ — преуменьшение29, иллюзия контроля30. КМ — имажинеринг в виде позитива-ции, инспирация, метафоризация.
Five ways AI could improve the world: 'We can cure all diseases, stabilise our climate, halt poverty'31 (стратегия моделирования положительного будущего).
It is not yet clear how the power and possibilities of AI will play out. Here are the best-case scenarios for how it might help (мо-дализация) us develop new drugs, give up dull jobs and live long, healthy lives. We can cure all diseases, stabilise our climate, eliminate poverty, etc. We can flourish (модализация) not just for the next election cycle, but for billions of years. We have been on this planet
29 Преуменьшение (minimization) — негативные выводы из позитивных событий.
30 Иллюзия контроля (control illusion) — тенденция людей верить в то, что они каким-либо образом могут влиять на события, которые объективно от них не зависят или зависят в гораздо меньшей степени.
31 Five ways AI could improve the world: 'We can
cure all diseases, stabilise our climate, halt poverty'. URL:
https://www.theguardian.com/technology/2023/ jul/06/ai-artificial-intelligence-world-diseases-climate-scenarios-experts.
for more than 100,000 years, and most of the time we have been like a leaf blowing around (образное сравнение) in the wind, without much control of our destiny, just trying to not starve or get eaten. Science and technology and human intelligence have made us the captains of our own ship (метафора). I find that inspiring. If we can build and control superintelligence, we can quickly go from being limited by our own stupidity to being limited by the laws of physics. It could be the greatest empowerment moment in human history (модализация, эмотивность). Max Tegmark, a professor of physics and AI researcher at the Massachusetts Institute of Technology.
10. КИ — иллюзия частотности32, селективное восприятие. КМ — вовлечение в бизнес, фреймирование.
Apple announces 'scary fast' October event33. Apple announced its second product
32 Иллюзия частотности (illusion of frequency) — недавно узнанная информация, появляющаяся вновь спустя непродолжительный период времени, воспринимается как необычайно часто повторяющаяся.
33 URL: https://edition.cnn.com/2023/10/24/tech/ apple-october-event-2023/index.html.
Соотношение когнитивных искажений и когнитивных механизмов в сфере информационных технологий
№ Когнитивные искажения Когнитивные механизмы
1 Преувеличение (sharpening) Спин-докторинг, позиционирование в виде единения
Повествовательная ошибка (narrative fallacy) Вовлечение, фокусирование
2 Синдром упущенной выгоды FOMO (fear of missing out) Инспирация
Эффект присоединения (bangwagon effect) Вовлечение
Сверхобобщение (ovegeneralization) Спин-докторинг
3 Сверхобобщение (ovegeneralization) Имажинеринг в виде драматизации
Персонализация и вина (personalization and blame) Позиционирование в виде единения, метафоризация
4 Катастрофизация (catastrophization) Имажинеринг в виде драматизации
Эффект фокусирования (focusing effect) Метафоризация, фокусирование, фреймирование
5 Селективное восприятие (selective perception) Имажинеринг в виде искривления
Негативный прогноз (negative forecast) Вовлечение
6 Катастрофизация (catastrophization) Имажинеринг в виде драматизации
Эффект фокусирования (focusing effect) Фокусирование, метафоризация
7 Катастрофизация (catastrophization) Позиционирование в виде единения
Долженствование (should statement) Имажинеринг в виде драматизации
Субъективное придание значимости (subjective attribution of significance) Фреймирование
8 Катастрофизация (catastrophization) Имажинеринг в виде драматизации
Каскад доступной информации (available information cascade) Спин-докторинг
9 Преуменьшение (minimization) Имажинеринг в виде позитивации, инспирация
Иллюзия контроля (control illusion) Метафоризация
10 Иллюзия частотности (illusion of frequency) Вовлечение в бизнес
Селективное восприятие (selective perception) Фреймирование
event of the season, a month after introducing its new iPhone 15 lineup. New iMacs are likely. The company sent invitations to members of the media for a scheduled keynote on Monday, October 30 at 8:00 p.m. ET/5:00 p.m., later than it typically kicks off events (смещение времени для ассоциации с праздником, который отмечают в ночное время). It will be accessible via livestream only (ограничение присутствия для повышения значимости). Apple usually hosts its product launches both in person and online. The tagline for the event — «scary fast2» — is an apparent nod to the likely unveiling of its next-generation silicon chip, M3, as well as Halloween (привязка к празднику, ассоциация с ключевым словом «пугающий»).
Итак, подведем итоги. В медийном дискурсе в сфере ИТ выявлено 17 КИ в десяти примерах на двух языках. КИ катастрофиза-ции выявлено четырежды, каждый раз они соотносятся с КМ имажинерингом. КИ сверхобобщения, эффект фокусирования, селективное восприятие выявлены дважды, но они соотносятся с разными КМ. В ряду трижды повторяющихся КМ выявлены спин-доктор-инг, вовлечение, фокусирование, фреймиро-вание, имажинеринг в виде драматизации, позиционирование в виде единения. Четырежды использовался КМ метафоризации.
Заключение
В данном исследовании проанализирована искаженная интерпретация ИТ-событий в аспекте навязывания КИ. Среди выявленных лингвокогнитивных механизмов, связанных с КИ, отмечены: имажинеринг, фокусирование, спин-докторинг, метафоризация, позиционирование, вовлечение, инспирация. За ними скрываются следующие КИ: преувеличение, приуменьшение, ката-строфизация, селективное восприятие, эффект фокусирования, повествовательная ошибка, синдром упущенной выгоды FOMO, эффект присоединения, долженствование, персонализация и обвинение, сверхобобщения, иллюзия частотности, иллюзия контроля, обесценивание, негативный прогноз, каскад доступной информации, субъективное придание значимости. Следовательно, существует насущная потребность критически подходить к отбору и восприятию информации, внимательно, осознанно фильтровать медийный дискурс, выявляя КИ, противостоять манипулятивному воздействию. В дальнейшем планируется выявлять КИ в соотношении с КМ в других видах медийного дискурса на материале разных языков для углубления знаний о когнитивных процессах, их вербализации и взаимосвязи с дискурсом.
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ
1. Лозовский Б.Н. Манипулятивные технологии управления средствами массовой информации : учеб. пособие / Б.Н. Лозовский. — Екатеринбург : Изд-во Урал. ун-та, 2008. — 212 с.
2. Кильмашкина Т.Н. Манипуляции сознанием в социальном управлении / Т.Н. Кильмашкина, А.Г. Абдул-лин, И.А. Вишняков. — DOI 10.24412/1999-6241-2021-487-442-450. — EDN WVEEBA // Психопедагогика в правоохранительных органах. — 2021. — Т. 26, № 4 (87). — С. 442-450.
3. Кара-Мурза С.Г. Манипуляция сознанием / С.Г. Кара-Мурза. — Москва : Эксмо, 2001. — 834 с.
4. Истоки и практическое применение поведенческой экономики в организациях / М.Л. Зельдин, О.О. Давыдов, И.В. Пенкина, А.А. Циклинский. — EDN FABOYO // Организационная психология. — 2020. — № 4. — С. 219-242.
5. Tversky A. Judgment under Uncertainty: Heuristics and Biases / A. Tversky, D. Kahneman // Science. New Series. — 1974. — Vol. 185, № 4157. — P. 1124-1131.
6. Beck A.T. A 60-Year Evolution of Cognitive Theory and Therapy / A.T. Beck. — DOI 10.1177/1745691618804187 // Perspectives on Psychological Science. — 2019. — Vol. 14, № 1. — P. 16-20.
7. Korteling J.E. Cognitive biases / J.E. Korteling, A. Toet. — DOI 10.1016/B978-0-12-809324-5.24105-9 // Reference Module in Neuroscience and Biobehavioral Psychology / S. Della Sala. — Amsterdam, 2020. — P. 610-619.
8. Лебедев С.В. Технология воздействия в современных политических коммуникациях: психологические основания / С.В. Лебедев. — DOI 10.26794/2226-7867-2021-11-4-59-65. — EDN ZZSFTO // Гуманитарные науки. Вестник Финансового университета. — 2021. — № 11 (4). — С. 59-65.
9. Фефелов А.Ф. Лексико-семантическое поле post-truth в пространстве от истины до правды / А.Ф. Фе-фелов. — DOI 10.25205/1818-7935-2023-21-1-83-101. — EDN UFEIPX // Вестник НГУ. Сер.: Лингвистика и межкультурная коммуникация. — 2023. — Т. 21, № 1. — С. 83-101.
10. Vosoughi S. The spread of true and false news online / S. Vosoughi, D. Roy, S. Aral. — DOI 10.1126/science. aap9559 // Science. — 2018. — Vol. 359. — P. 1146-1151.
11. Nikolopoulou K. What is Cognitive Bias? | Definition, Types & Examples / K. Nikolopoulou // Scribbr. — 2023. 11 Nov. — URL: https://www.scribbr.com/research-bias/cognitive-bias.
12. Grinspoon P. How to recognize and tame your cognitive distortions / P. Grinspoon // Harvard Health Publishing. — 2022. 4 May. — URL: https://www.health.harvard.edu/blog/how-to-recognize-and-tame-your-cognitive-distortions-202205042738#:~:text=cognitive%20distortions%20are%20internal%20mental,cut%20 down%20our%20mental%20burden.
Ф 0 4
01
И
5<
*
it л г
n *
о
о
о
д ^
п ч я Ф X X
о
ч
ф
Р 2 О
м
3
з
Z
10 р
7
в) —
7 7
13. Якоба И.А. Технология «Умная настройка» как динамическая модель управления медийным дискурсом / И.А. Якоба // Динамика и статика в познании реальности языка: подходы, феномены, способы репрезентации / под общ. ред. Е.Ф. Серебренниковой. — Иркутск, 2021. — С. 163-179.
14. Кириллов А.В. Лингвориторические модели деструктивных текстов в политическом массмедийном дискурсе немецких политиков / А.В. Кириллов. — EDN BOXAPI // Медиалингвистика : материалы VI междунар. науч. конф., Санкт-Петербург, 30 июня — 2 июля 2022 г. / ред. Л.Р. Душкаева, А.А. Малышев. — Санкт-Петербург, 2022. — С. 368-372.
15. Hendrycks D. An Overview of Catastrophic AI Risks / D. Hendrycks, M. Mazeika, Th. Woodside. — URL: https://arxiv.org/pdf/2306.12001.pdf.
16. Milmo D. AI risk must be treated as seriously as climate crisis, says Google DeepMind chief / D. Milmo // The Guardian. — 2023. — 23 Oct. — URL: https://www.theguardian.com/technology/2023/oct/24/ai-risk-climate-crisis-google-deepmind-chief-demis-hassabis-regulation).
17. Milmo D. AI dangers must be faced'head on, Rishi Sunak to warn ahead of tech summit / D. Milmo // The Guardian. — 2023. — 26 Oct. — URL: https://www.theguardian.com/technology/2023/oct/25/ai-dangers-must-be-faced-head-on-rishi-sunak-to-tell-tech-summit.
REFERENCES
1. Lozovskij B.N. Manipulative technologies of media management. Ekaterinburg, Ural Federal University Publ., 2008. 212 p.
2. Kilmashkina T.N., Abdullin A.G., Vishnyakov I.A. Manipulation of Consciousness in Social Management. Psikhopedagogika v pravookhranitel'nykh organakh = Psychopedagogics in Law Enforcement Agencies, 2021, vol. 26, no. 4, pp. 442-450. (In Russian). EDN: WVEEBA. DOI: 10.24412/1999-6241-2021-487-442-450.
3. Kara-Murza S.G. Manipulation by Consciousness. Moscow, Eksmo Publ., 2001. 834 p.
4. Zeldin M.L., Davydov O.O., Penkina I.V., Tsiklinsky A.A. The Roots and Practical Application of the Behavioral Economics for Organizations. Organizacionnaja psihologija = Organizational Psychology, 2020, no. 4, pp. 219242. (In Russian). EDN: FABOYO.
5. Tversky A., Kahneman D. Judgment under Uncertainty: Heuristics and Biases. Science. New Series, 1974, vol. 185, no. 4157, pp. 1124-1131.
6. Beck A.T. A 60-Year Evolution of Cognitive Theory and Therapy. Perspectives on Psychological Science, 2019, vol. 14, no. 1, pp. 16-20. DOI: 10.1177/1745691618804187.
7. Korteling J.E., Toet A. Cognitive Biases. In S. Della Sala. Reference Module in Neuroscience andBiobehavior-alPsychology. Amsterdam, 2020, pp. 610-619. DOI: 10.1016/B978-0-12-809324-5.24105-9.
8. Lebedev S.V. Technology Impact in Modern Political Communications: Psychological Grounds. Gumanitarnye nauki. Vestnik Finansovogo universiteta = Humanities and Social Sciences. Bulletin of the Financial University, 2021, no. 11, pp. 59-65. (In Russian). EDN: ZZSFTO. DOI: 10.26794/2226-7867-2021-11-4-59-65.
9. Fefelov A.F. Lexico-Semantic Field of Post-Truth Through the Prism of its Russian Correspondences Istina and Pravda. Vestnik NGU. Seriya: Lingvistika i mezhkul'turnaya kommunikatsiya = NSU Vestnik Journal, Series: Linguistics andIntercultural Communication, 2023, vol. 21, no. 1, pp. 83-101. (In Russian). EDN: UFEIPX. DOI: 10.25205/18187935-2023-21-1-83-101.
10. Vosoughi S., Roy D., Aral S. The Spread of True and False News Online. Science, 2018, vol. 359, pp. 1146— 1151. DOI: 10.1126/science.aap9559.
11. Nikolopoulou K. What is Cognitive Bias? | Definition, Types & Examples. Scribbr, 2023, November 11. URL: https://www.scribbr.com/research-bias/cognitive-bias.
12. Grinspoon P. How to Recognize and Tame Your Cognitive Distortions. Harvard Health Publishing,
2022, May 4. URL: https://www.health.harvard.edu/blog/how-to-recognize-and-tame-your-cognitive-dis-tortions-202205042738#:~:text=cognitive%20distortions%20are%20internal%20mental,cut%20down%20 our%20mental%20burden.
13. Jakoba I.A. "Smart Tuning" technology as a dynamic model for managing media discourse. In Serebrennikova E.F. (ed.). Dynamics and statics in the knowledge of the reality of language: approaches, phenomena, methods of representation. Irkutsk, 2021, pp. 163-179. (In Russian).
14. Kirillov A.V. Linguistic Models of Destructive Texts in the Political Mass Media Discourse of German Politicians. In Dushkaeva L.R., Malyshev A.A. (eds.). Media Linguistics. Proceedings of the VI International Scientific Conference, Saint Petersburg, June 30 — July 2, 2022. Saint Petersburg, 2022, pp. 368-372. (In Russian). EDN: BOXAPI.
15. Hendrycks D., Mazeika M., Woodside Th. An Overview of Catastrophic AI Risks. URL: https://arxiv.org/ pdf/2306.12001.pdf.
16. Milmo D. AI Risk Must be Treated as Seriously as Climate Crisis, Says Google DeepMind Chief. The Guardian, 2023, October 23. URL: https://www.theguardian.com/technology/2023/oct/24/ai-risk-climate-crisis-goo-gle-deepmind-chief-demis-hassabis-regulation).
17. Milmo D. AI Dangers Must be Faced'head on, Rishi Sunak to Warn Ahead of Tech Summit. The Guardian,
2023, October 26. URL: https://www.theguardian.com/technology/2023/oct/25/ai-dangers-must-be-faced-head-on-rishi-sunak-to-tell-tech-summit.
Информация об авторе Author
Якоба Ирина Александровна — доктор фило- Irina A. Iakoba — D.Sc. in Philology, Ph.D. in So-
логических наук, кандидат социологических наук, ciology, Professor of the Department of Foreign Lan-
профессор кафедры иностранных языков № 1, guages No. 1, Associate Professor of the Department
доцент кафедры английского языка (ВАК), Иркутский национальный исследовательский технический университет; профессор кафедры лингвистики и лингводидактики, Иркутский государственный университет, г. Иркутск, Российская Федерация, e-mail: irina_yakoba@mail.ru, © https://orcid.org/0000-0003-0443-4685.
of English Language, Irkutsk National Research Technical University; Professor of the Department of Linguistics and Linguodidactics, Irkutsk State University, Irkutsk, the Russian Federation, e-mail: irina_yakoba@mail.ru, © https://orcid.org/0000-0003-0443-4685.
Для цитирования
Якоба И.А. Когнитивные искажения как средство манипуляции в новостном дискурсе в сфере информационных технологий / И.А. Якоба. — DOI 10.17150/2500-2759.2023.33(4).762-771. — EDN WFEHIQ // Известия Байкальского государственного университета. — 2023. — Т. 33, № 4. — С. 762-771.
For Citation
Iakoba I.A. Cognitive Distortions as a Means of Manipulation in News Discourse in the Field of Information Technology. Izvestiya Baikal'skogo go-sudarstvennogo universiteta = Bulletin of Baikal State University, 2023, vol. 33, no. 4, pp. 762-771. (In Russian). EDN: WFEHIQ. DOI: 10.17150/2500-2759.2023.33(4).762-771.
