CC BY
101
МЕДИАКОММУНИКАЦИИ И ЖУРНАЛИСТИКА / MEDIA COMMUNICATIONS AND JOURNALISM
DOI: https://doi.org/10.18454/RULB.2024.49.27 ОСОБЕННОСТИ ИСПОЛЬЗОВАНИЯ ТЕКСТОВ НЕЙРОСЕТЕЙ В МЕДИА И ОБРАЗОВАНИИ
Научная статья
Горина Е.В.1' *, Уфимцева С.М.2
1 ORCID : 0000-0001-5927-5023;
1 2 Уральский федеральный университет, Екатеринбург, Российская Федерация
* Корреспондирующий автор (gorina9[at]yandex.ru)
Аннотация
В предлагаемой статье показаны результаты исследования текстов, созданных с помощью нейросети и опубликованных в медиа, а также текстов, сданных студентами под видом самостоятельно выполненных курсовых работ. В качестве методов использовались структурно-стилистический анализ эмпирического материала, интервью с экспертами (сотрудниками медиа), опрос студентов. Цель исследования была выделить особенности использования текстов ChatGPT в медиа и образовательной среде. В результате исследования удалось сформулировать причины привлечения нейросетей к выполнению творческих и учебных работ, выделить языковые, структурные, стилистические признаки текстов искусственного интеллекта, формулировать некоторые отличительные черты, позволяющие увидеть разницу между текстом, написанным студентом, и текстом, созданным с помощью искусственного интеллекта.
Ключевые слова: текст нейросети, ChatGPT, искусственный интеллект, медиатекст, творчество нейросети.
SPECIFICS OF USING NEURAL NETWORK TEXTS IN MEDIA AND EDUCATION
Research article
Gorina E.V.1, *, Ufimtseva S.M.2
1 ORCID : 0000-0001-5927-5023;
1 2 Ural Federal University, Ekaterinburg, Russian Federation
* Corresponding author (gorina9[at]yandex.ru)
Abstract
The proposed article demonstrates the results of the research of texts created with the help of neural network and published in the media, as well as texts submitted by students under the pretence of independently done term papers. The methods used were structural and stylistic analysis of the empirical material, interviews with experts (media employees), and a survey of students. The aim of the study was to highlight the specifics of using ChatGPT texts in media and educational environment. As a result of the research it was possible to formulate the reasons for involving neural networks in creative and educational works, to identify linguistic, structural, stylistic features of artificial intelligence texts, to formulate some distinguishing traits that allow to see the difference between a text written by a student and a text created with the help of artificial intelligence.
Keywords: neural network text, ChatGPT, artificial intelligence, media text, neural network creativity.
Введение
ChatGPT активно используется в современных медиа и образовании, как бы ни оценивали этот факт исследователи и работники медийного рынка. Искусственный интеллект, в частности нейросети, становится частью нашей жизни и оказывает влияние на всех участников коммуникативного процесса [4], [6], [9], [10]. Сложно однозначно оценить это влияние. У большинства (журналистов, преподавателей, представителей пиара и рекламного бизнеса) нейросети и их тексты вызывают сомнение, настороженность и даже страх. В федеральных российских СМИ уже прогремели скандалы, связанные с неконтролируемым использованием нейросетей в процессе образования [2], [5]. В среде журналистов тоже отмечается обеспокоенность включенностью ИИ в процесс подготовки материалов [3], [8], [11]. В связи с этим мы можем обозначить проблемное поле своего исследования довольно широко, поскольку затрагиваем вопросы использования нейросетей в медиа и образовательной среде. С какими же проблемами сталкивается медийное и преподавательское сообщества.
Во-первых, алгоритмы могут создавать недопустимый контент: нейросеть не человек, она не понимает, что слова могут передавать экстремистский, оскорбительный характер и т.п. То есть важно понять, что и как контролировать в текстах нейросетей, чтобы не допустить риски (от смысловых погрешностей в тексте до дезинформации и создания потенциально опасного контента). Во-вторых, может ли вообще нейросеть создавать текст, равный тексту человека? Может ли она действительно заменить человека, полностью или частично, в информационном пространстве. Способна ли нейросеть на творчество, следует ли считать ее продукт творческим? В-третьих, как поступать с текстами нейросетей в образовательной среде? Следует ли и как именно корректировать процедуру оценки студенческих работ, созданных с помощью ChatGPT? Кто автор курсовой работы, которую студент поручил написать ChatGPT? Всегда ли учебная или научная работа, созданная нейросетью, недобросовестная? Следует ли корректировать процесс обучения студентов и вписать в него участие ИИ? Насколько велик риск распространения антинаучных данных, которые может сгенерировать нейросеть? и т.п.
Методы и принципы исследования
Очевидно, что вопросов много, и мы не готовы точно ответить на них. Цель нашего исследования - выделить языковые, структурные, стилистические признаки текстов, созданных с помощью нейросетей. Материалом исследования стали медиатексты и студенческие работы, выполненные с помощью ChatGPT. Всего 8 студенческих работ, авторы которых признали, что использовали нейросеть; 15 медиатекстов, у 6 из которых в качестве автора была указана нейросеть, и 9 текстов имели признаки, на наш взгляд, говорящие, о работе ИИ. И при работе с материалом мы пользовались одними методами: интервью с экспертами, опрос студентов, структурно-стилистический анализ текстов. Опишем результаты исследования.
Основные результаты
В интервью приняли участие Игорь Сергеев, журналист РИА «Европейско-Азиатские Новости», Анатолий Ефремов, руководитель по развитию спецпроектов в городских порталах, Сергей Грудинин, Digital-директор Городских порталов Shkulev Media Holding. Эксперты рассказали, что медиа используют нейросети в следующих целях: конвертация аудиозаписей в текст; поиск ссылок на упомянутые в тексте журналиста имена, факты, названия и т.д.; подбор заголовка на основании big data и предпочтений пользователей; подбор изображений и видео под содержание журналистского текста; корректура и проверка текста на оригинальность, SEO, штампы. Оба эксперта убеждены, что нейросети никогда не заменят человека, так как могут только собрать сведения по заданной теме, сделать обзор, но не создать качественный журналистский текст, отличающийся новизной.
Проведенный анализ медиатекстов от ChatGPT позволил выделить следующие особенности. Нейросеть создает текст с типовой, узнаваемой структурой: тема (чаще всего событие, мероприятие, дата и т.п.), исторический экскурс и нейтральный вывод. Тексты нейросетей отличаются отстраненностью, низкой выразительностью, отсутствием авторского стиля, повторяемостью синтаксических конструкций. Заголовочные комплексы текстов ИИ отличаются заметной одинаковостью, даже клишированностью («Россию предлагают переименовать в Московию. Что это еще за название?», «Меня призывают на военные сборы. Что я там буду делать?», «Советский инженер бесплатно отдал миру хит видеоигр. Подлинная история «Тетриса» и его создателя», «Life in plastic, it's fantastic!» Подлинная история куклы Барби»). Одинаковые заголовки, следующие друг за другом на одной новостной ленте, сложно назвать признаком исключительно нейросетевого текста. Однако во многих информационных агентствах («URA.RU», например) авторов просят изменить формулировки, если между заголовками на ленте есть что-то общее (синтаксический параллелизм, повтор слова, личного имени, указание места и т.п.).
К серьезным недостаткам нейросетевых текстов можно отнести нарушение закона тождества: увлекаясь рассказом об истории какого-либо явления, события, нейросеть может дать такой большой объем сведений, что в итоге создает в тексте второй предмет речи, вторую главную мысль. Кроме того, нейросеть делает некачественный рерайт из открытых источников (уникальность текста от ChatGPT составляет 5-10%, по данным сервиса text.ru). Перевод текстов с иностранного языка содержит массу лексических, грамматических, синтаксических ошибок («Невериятная история как мужчина потратил все свои сбережения, чтобы спасти своего питомца с тяжелым недугом», «Аллу Пугачеву в редкий раз засняли папарацци в Лимассоле, и это наводит на мысли. Пенсионерка выглядит достаточно сухо, хотя старается быть якобы молодой»).
Исследование студенческих работ, созданных с помощью нейросетей, привело к следующим выводам. Опросив студентов (82 человека; гуманитарных (91,5%) и технических (8,5%) специальностей), мы выяснили, что 78,8% из них используют нейросети для учебы. Так с помощью нейросетей 25% писали курсовую работу; 48.8% выполняли домашние задания; 25% писали сочинения; 37.5% собирали фактуру; 10% переводили иностранные тексты; 6.3% заполняли документы; 11.3% создавали презентации; 2.6% генерировали изображения; 2.6% искали идеи; 1.3% писали планы, главы, параграфы работ; 5% опрошенных не указали, с какой целью пользуются нейросетями. Важно, что по мнению студентов, 65% преподавателей не видят разницы между работой, выполненной нейросетью и человеком. И только 10% преподавателей чувствуют разницу.
Анализ студенческих работ показал, что студенты некритично оценивают тексты нейросетей, чрезмерно доверяют ИИ, редко обрабатывают его тексты. В письменных работах, созданных с помощью нейросетей, отмечены следующие признаки.
Во-первых, шаблонность формулировок, бессодержательность, повторы частей текста. В двух работах на одну тему были использованы абсолютно идентичные формулировки, повтор предложений встречается и в одной работе на разных страницах, если нейросеть проводит параллели между описываемыми явлениями.
Во-вторых, упоминание ложных фактов, несуществующих личностей (особенно при обзоре научной литературы). Очень часто в студенческих работах упоминались цитаты, которые отсутствуют в указанных источниках, назывались научные работы, не существующие вовсе, были придуманы эксперименты, которые не проводились указанными авторами и т.п. галлюцинации нейросетей [1], [7], [8]. Существует опасность таких галлюцинаций: таким образом искусственный интеллект для некритически настроенной или необразованной аудитории создает антинаучную реальность, то есть предлагает заведомо не существующие в науке факты.
В-третьих, в студенческих работах, созданных нейросетью, встречается обобщенность там, где требуется детальный анализ по разработанной методике («Сторож на маяке» - метафора, создающая образ героя»). ChatGPT плохо справляется с практической частью студенческих курсовых работ, поскольку не дает развернутый анализ эмпирического материала по требуемой методике анализа. В результате в студенческих работах ярко видна разница между теоретической и практической частью. Здесь же можно указать такой признак, как отсутствие рассуждений по заявленной проблеме («Журналистам стоит помнить, что фразеологизмы могут иметь негативные последствия» -объяснение сути высказанного замечания отсутствует, хотя именно это требуется в курсовой работе).
В-четвертых, редко встречающийся у студентов уровень грамотности. Для наглядности приведем пример.
Начало курсовой работы, написанной студенткой, курсивом и подчеркиванием мы выделили речевые погрешности: «В 21 веке человек окружён всевозможными средствами для быта. Количество услуг, продуктов потребления возрастает, компании придумывают своеобразные товары, чтобы удивить покупателя и завладеть вниманием, но этого не всегда бывает достаточно для того, чтобы человек заинтересовался и решился на покупку продукции. В этом случае каждому производителю очень важна реклама. Это подтверждает исследование Д. Стронгома и Л. Зидлингера в 2003 году, где дети, просмотревшие рекламный ролик, были подвергнуты воздействию на покупку игрушки, в отличии о тех, кто не смотрел его и равнодушно отнёсся к товару».
Начало той же курсовой, созданной нейросетью: «Языковая игра в рекламе используется для стимулирования интереса к рекламируемому продукту или услуге.
В 2003 году американские психологи Д. Стронгом и Л. Зилдингер провели исследование, целью которого было изучение влияния рекламы на продвижение товаров, детских игрушек. Исследователи разделили игрушки на две группы: те, на упаковке которых была размещена реклама, и те, упаковка которых не содержала рекламы. Затем они предложили игрушки детям. Результаты исследования показали, что игрушки с рекламой привлекали внимание детей больше, чем игрушки без рекламы. Это говорит о том, что реклама стимулирует интерес к товару, играет важную роль в продвижении товаров и увеличении продаж».
Среди языковых особенностей текстов нейросетей (в медиа и студенческих работах) мы увидели: несоответствие времени глаголов текущему моменту («эксперимент должен показать...» - об эксперименте, проведенном в 2020 году); смену рода говорящего субъекта («Томпсон отмечала», хотя 6 абзацев выше Томпсон был мужского рода); обибльный синтаксический параллелизм; повтор однотипных фраз, шаблонность формулировок; и многозначные слова, путающие адресата («скелет смысловой структуры текста образует его тело» - метафору «смысловая структура - это скелет текста нейросеть не смогла подать правильно); отсутствие логических связей между абзацами (нейросеть может «прыгать» в рассуждениях: красивый рассказ о видах фразеологизмах внезапно сменяется абзацем об этимологии одного конкретного фразеологизма).
Заключение
Проведенное исследование еще раз убеждает, что ИИ нельзя исключать из работы медиа и процесса образования. Всем нам еще предстоит научиться пользоваться ИИ грамотно и безопасно. Возможно, общество в скором времени выработает некий свод правил использования нейросетей в профессиональной и личностной коммуникации.
Конфликт интересов
Не указан.
Рецензия
Воробьева И.А., Липецкий государственный педагогический университет имени П.П. Семенова-Тян-Шанского, Липецк, Российская Федерация DOI: https://doi.Org/10.18454/RULB.2024.49.27.1
Conflict of Interest
None declared.
Review
Vorobeva I.A., Lipetsk State Pedagogical University named after P.P. Semenov-Tyan-Shansky, Lipetsk, Russian Federation
DOI: https://doi.org/10.18454/RULB.2024.49.27.!
Список литературы / References
1. Бейненсон В.А. Применение роботизированного контента в реализации рекреативных функций массмедиа / В.А. Бейненсон // Знак: проблемное поле медиаобразования. — 2021. — №2 (40).
2. Ивахненко Е.Н. ChatGPT в высшем образовании: угроза или ценный ресурс? / Е.Н. Ивахненко // Высшее образование в России. — 2023. — №4.
3. Крашенинникова М.А. Автоматизированный текст в современной российской медиапрактике / М.А. Крашенинникова // Меди@льманах. — 2022. — №5 (112).
4. Киселев М. Нейросеть имитирует самостоятельные рассуждения / М. Киселев // urfu.ru. — 2023. — URL: https://urfu.ru/ru/news/46796/ (дата обращения: 05.12.2023)
5. Московский студент написал диплом с помощью нейросети. — URL: https://www.m24.ru/news/obrazovanie/01022023/546627?utm_source=CopyBuf (дата обращения: 31.10.23).
6. Нейросеть закрыли через 2 дня после запуска из-за вредных советов. Генератор научных статьей предлагал принимать в пищу стекло. — URL: https://www.rbc.ru/life/news/637b808f9a79471e3fac4373 (дата обращения: 05.12.23).
7. Почему нейросети типа ChatGPT «врут»? — URL: https://vc.ru/flood/691290-pochemu-neyroseti-tipa-chatgpt-vrut (дата обращения: 04.12.23).
8. Сальникова Л.С. Роботы против журналистов: есть ли у журналистики будущее? / Л.С. Сальникова // Вопросы теории и практики журналистики. — 2019. — №4.
9. Скандал в сети: нейросеть начала менять людям расы. — URL: https://hi-tech.mail.ru/news/101674-skandal-v-seti-nejroset-nachala-menyat-lyudyam-rasyi/ (дата обращения: 02.12.23).
10. Скандал с участием ChatGPT: юрист подготовился к суду с помощью нейросети, а та ему соврала. — URL: https://naukatv.ru/news/skandal_s_uchastiem_chatgpt_yurist_podgotovilsya_k_sudu_s_pomoschyu_nejroseti_a_ta_emu_sovra la (дата обращения: 23.11.23).
11. Сорокин Н.С. Роботизированная журналистика в России: есть ли перспектива / Н.С. Сорокин // МНКО. — 2023. — №1 (98).
12. Суходолов А.П. Журналистика с искусственным интеллектом / А.П. Суходолов // Вопросы теории и практики журналистики. — 2019. — №4.
Список литературы на английском языке / References in English
1. Bejnenson V.A. Primenenie robotiziravannogo kontenta v realizatsii rekreativnyh funktsij massmedia [Application of Robotic Content in Realization of Recreational Functions of Mass Media] / V.A. Bejnenson // Sign: the Problem Field of Media Education. — 2021. — №2 (40). [in Russian]
2. Ivahnenko E.N. ChatGPT v vysshem obrazovanii: ugroza ili tsennyj resurs? [ChatGPT in Higher Education: a Threat or a Valuable Resource?] / E.N. Ivahnenko // Higher Education in Russia. — 2023. — №4. [in Russian]
3. Krasheninnikova M.A. Avtomatizirovannyj tekst v sovremennoj rossijskoj mediapraktike [Automated Text in Contemporary Russian Media Practice] / M.A. Krasheninnikova // Medi@lmanac. — 2022. — №5 (112). [in Russian]
4. Kiselev M. Nejroset' imitiruet samostojatel'nye rassuzhdenija [The Neural Network Mimics Autonomous Reasoning] / M. Kiselev // urfu.ru. — 2023. — URL: https://urfu.ru/ru/news/46796/ (accessed: 05.12.2023) [in Russian]
5. Moskovskij student napisal diplom s pomoshh"yu nejroseti [A Moscow student wrote his diploma with the help of a neural network]. — URL: https://www.m24.ru/news/obrazovanie/01022023/546627?utm_source=CopyBuf (accessed: 31.10.23). [in Russian]
6. Nejroset" zakryli cherez 2 dnya posle zapuska iz-za vredny"x sovetov. Generator nauchny"x stat"ej predlagal prinimat" v pishhu steklo [Neural network shut down 2 days after launch due to harmful advice. The generator of scientific articles suggested eating glass]. — URL: https://www.rbc.ru/life/news/637b808f9a79471e3fac4373 (accessed: 05.12.23). [in Russian]
7. Pochemu nejroseti tipa ChatGPT «vrut»? [Why do neural networks like ChatGPT "lie"?] — URL: https://vc.ru/flood/691290-pochemu-neyroseti-tipa-chatgpt-vrut (accessed: 04.12.23). [in Russian]
8. Sal'nikova L.S. Roboty protiv zhurnalistov: est' li u zhurnalistiki buduschee? [Robots vs. Journalists: Does Journalism Have a Future?] / L.S. Sal'nikova // Issues of Journalism Theory and Practice. — 2019. — №4. [in Russian]
9. Skandal v seti: nejroset" nachala menyat" lyudyam rasy" [Online scandal: neural network started changing people's races]. — URL: https://hi-tech.mail.ru/news/101674-skandal-v-seti-nejroset-nachala-menyat-lyudyam-rasyi/ (accessed: 02.12.23). [in Russsian]
10. Skandal s uchastiem ChatGPT: yurist podgotovilsya k sudu s pomoshh"yu nejroseti, a ta emu sovrala [ChatGPT scandal: lawyer prepared for trial with the help of neural network, but it lied to him]. — URL: https://naukatv.ru/news/skandal_s_uchastiem_chatgpt_yurist_podgotovilsya_k_sudu_s_pomoschyu_nejroseti_a_ta_emu_sovra la (accessed: 23.11.23). [in Russian]
11. Sorokin N.S. Robotizirovannaja zhurnalistika v Rossii: est' li perspektiva [Robotic Journalism in Russia: Is There a Prospect?] / N.S. Sorokin // MNKO. — 2023. — №1 (98). [in Russian]
12. Suhodolov A.P. Zhurnalistika s iskusstvennym intellektom [Journalism with Artificial Intelligence] / A.P. Suhodolov // Issues of Journalism Theory and Practice. — 2019. — №4. [in Russian]
