CC BY
270IV Международная научно-практическая конференция
УДК 004
Петрова Э.Н.
Petrova E.N.
Студент ВШЖиМК СПбГУ г. Санкт-Петербург, РФ
Student of the School of Journalism and mass communication of St. Petersburg State
University, Saint Petersburg, Russia
АЛГОРИТМЫ ЗАЩИТЫ ОТ ФЕЙКОВОЙ ИНФОРМАЦИИ
В СОЦИАЛЬНЫХ СЕТЯХ
ALGORITHMS FOR PROTECTION AGAINST FAKE INFORMATION
IN SOCIAL NETWORKS
Аннотация, в статье рассматривается вопрос о возникновении медиафейков и путях защиты от дезинформации в социальных сетях. Автор приводит примеры реальных алгоритмов и их функционирование на популярных площадках в сети Интернет.
Abstract: the article deals with the issue of the emergence of media fakes and ways to protect against disinformation in social networks. The author gives examples of real algorithms and their functioning on popular sites on the Internet.
Ключевые слова, фейк, фактчекинг, дезинформация, Интернет, социальные сети.
Keywords: fake, fact-checking, disinformation, the Internet, social networks.
В современных условиях доступности информации и возможностях её распространения остро стоит вопрос о необходимости фактчекинга, или контроля за информацией, несоответствующей действительности. Последний год показал, что даже на первый взгляд безобидный фейк способен причинить вред человеку. Вспомнить все ложные «лайфхаки» и советы по борьбе с коронавирусной инфекцией, которую якобы можно победить, выпив антисептик, не покупать вещи с «Али» или не есть фрукты, потому что через них вирус «попадает в организм». Люди верят интернет-страшилкам, во многом из-за распространения паники в СМИ и социальных сетях, где фактчекинг практически отсутствует.
«Научные исследования и инновации»
В переводе с английского языка слово «фейк» (fake) дословно переводится как подделка, фальшивка. Из-за интенсивного внедрения Интернета во все сферы нашей жизни, явление фейковых новостей (fake news) приобрело глобальный характер. Сам термин fake news обозначает «сфабрикованные новостные материалы, ложь в которых можно распознать и разоблачить, хотя она и способна ввести аудиторию в заблуждение. Непроверенные новости до широкого распространения Интернета назывались газетными утками и шутками» [1, с.5].
Причины возникновения фейков в социальных сетях сегодня неоднозначны. В их основе не всегда намеренная ложь, встречаются также шутки, вышедшие из-под контроля, заблуждение автора статьи, банальные домыслы пользователей.
В современном медиапространстве встречаются следующие виды фейков:
Обработанные фото (фейком будут считаться лишь те, где намеренно перенесены пиксели с целью искажения действительности);
Постановочные или отредактированные видео, не отражающие действительность;
Fake news в СМИ и социальных сетях;
Фальшивые аккаунты пользователей соцсетей [2, с.44].
С начала 2000-х постепенно возрастала необходимость площадок для фактчекинга. Пожалуй, самые распространённые и широко известные - сайты Snopes, FactCheck, PolitFact, «Фактограф».
Конечно, определить достоверность новости порой сложно, однако журналистами и экспертами выработаны принципы, которыми должен руководиться человек для оценки достоверности сообщения. Хорошие рекомендации по выявлению фейков даёт редакция Full Fact [3]. Чтобы определить плохую или вводящую в заблуждение информацию, они советуют задаться тремя вопросами: откуда информация, чего не хватает и какие чувства она вызывает у читателя.
IV Международная научно-практическая конференция В рамках работы был проведён опрос, состоящий из 6-ти вопросов. Было опрошено 240 человек возрастной группы от 14 до 65 лет. Так, на вопрос «Часто ли Вы встречаете фейковую информацию в соцсетях?» больше половины опрошенных ответили «часто». Всего 3% ответили «никогда». Из всех опрошенных 58% не нажимает кнопку «пожаловаться» на фейковую информацию. При этом 83% считают, что введение отслеживающих алгоритмов необходимо. Интересен и рейтинг доверия опрошенных к соцсетям: Facebook - 38,2% Twitter - 30,9% YouTube - 30,9% Instagram - 25,5% ВКонтакте - 16,4%
80% опрошенных считают, что недостоверная информация способна нанести урон человеку, включая угрозу жизни. Но только 51% слышал об ответственности за распространение фейковых сообщений в Сети.
На основе анализа полученных данных можно сделать вывод, что проблема распространения фейков реальна, пользователи обеспокоены ситуацией, но не предпринимают никаких мер. Также важно отметить, что в лидерах по уровню доверия оказались те социальные сети, где ситуация с отслеживанием фейков налажена лучше.
Крупные Интернет-площадки, такие как Twitter, Facebook, Instagram, YouTube, Яндекс. Дзен анонсируют новые инструменты по борьбе с фейками, однако ни один из них не показал стопроцентного результата.
Пожалуй, самые лучшие результаты показал Twitter. На фоне последних событий с жестокими фейками о коронавирусе, руководство решило ввести маркировку и ужесточить требования к публикациям. Проблема распространения вводящих в заблуждение советов и псевдофактов о вирусе была решена введением этикеток и предупреждений (Рис. 1). Система ярлыков работает таким образом, что пользователь сможет перейти по ссылке на кураторскую страницу Twitter или внешний надёжный источник с
«Научные исследования и инновации» дополнительной проверенной информацией. Руководство приняло решение
разделить сообщения на три категории по степени наносимого вреда: вводящая
в заблуждение информация, спорные утверждения, непроверенные утверждения.
Misleading Information Label Removal
Disputed Claim Label Warning
Unverified Claim No action No action*
Moderate Severe
Propensity for Harm
Рис. 1
Как показало время, система работает выборочно. До сих пор на платформе множество фейков. Регулируются на данный момент только политические новости США и сообщения о СОУГО-19.
Аналогичная ситуация с Facebook. В марте 2020 года на платформе было зарегистрировано 40 млн фейковых сообщений о коронавирусе, к апрелю их стало более 50 млн. Одна из последних значимых новостей - явно ложная информация удаляется модераторами. Также на платформе блокируется реклама, вводящая в заблуждение (например, средства, гарантирующие излечение от СОУГО-19). В добавок компания сотрудничает с 55-ю агентствами, охватывающими 45 языков мира для проверки фактов. Также действует система маркировок. Однако большинство работы по-прежнему осуществляется вручную.
Instagram борьбу с фейками запустил в 2018 году. Тогда были созданы инструменты на основе машинного обучения, которые выделяли профили, пользующиеся приложениями для накрутки подписчиков и лайков. Аккаунты принуждали к смене пароля для того, чтобы закрыть сервисам по накрутке доступ к странице. На данный момент в Instagram есть только функция «пожаловаться», никаких дополнительных действий по фактчекингу платформа не использует. По заявлению компании, пока что сеть полна фальшивых
IV Международная научно-практическая конференция аккаунтов, и пользователи сами дают на них наводку, далее планируется обучить
искусственный интеллект блокировать такие страницы.
YouTube в октябре 2020 объявил, что будет удалять видеоролики, содержащие недостоверные данные о вакцине от коронавируса. Любой контент, содержащий утверждения о вакцинации против COVID-19, которые противоречат экспертному заключению местных органов здравоохранения или ВОЗ, будет удаляться с YouTube. Ранее, в том же 2018 году, YouTube выделил $25 млн на борьбу с фейками. Причём компания заявила, что не в силах остановить поток недостоверной информации в видеохостинге, поэтому они занимаются просвещением пользователей, чтобы они сами отделяли ложь от правды.
Российская сеть ВКонтакте заявила, что правдивость публикуемой информации ими не проверяется. Помимо ручного мониторинга самими пользователями посредством функции «пожаловаться» соцсеть не предпринимает никаких мер. Правда, в связи с обострившейся паникой вокруг COVID-19, удаляются посты с заведомо ложной информацией и рекламой чудодейственных средств от коронавируса.
Яндекс. Дзен - относительно новая площадка для авторов, где можно обмениваться новостями и мнениями, ежедневная аудитория которой составляет 16 млн чел. По статистике каждый пользователь платформы проводит здесь 40 минут в день. Однако это, пожалуй, самый серьёзный распространитель слухов в России сегодня. Компания запустила программу фактчекинга на своей платформе совместно с ТАСС, ИНТЕРФАКС, The bell и ВШЭ.
Конечно, можно сделать вывод, что фактчекингу уделяется достаточно внимания, однако информации настолько много, что пользователь в основном предоставлен сам себе и, исходя из своих знаний, сам должен отделять факт от лжи. Но тенденция такова, что компании готовы развиваться в этом направлении, готовят своих экспертов по фактчекингу и придумывают совместно с компаниями новые пути решения проблемы.
«Научные исследования и инновации»
Чтобы выяснить, возможно ли создать идеальный алгоритм, который сам
будет анализировать информацию и фильтровать данные, мы поговорили с Татьяной Альбертовной Гавриловой, Академическим директором программы подготовки «Искусственной интеллект» Международного научно-методического центра СПбГУ. По мнению эксперта, создание такой системы реально и осуществимо, но потребует серьёзной и кропотливой работы, что не позволит уйти от окраски событий. Поскольку истина для каждого своя, искусственный интеллект (далее - ИИ) не сможет с точностью сказать, где правда, а где ложь, поскольку будет черпать информацию из проверенных СМИ, которые, в свою очередь, интерпретируют события исходя из партийности, идеологии, национальной принадлежности и т.п. Интересно, что подобные кейсы уже существуют в науке и медицине, где есть чёткие границы понимания темы и неоспоримая истина. Однако ИИ не может сам решать степень достоверности, только воспроизводить и отражать имеющуюся картину мира, загруженную в базу. Основная работа по-прежнему будет принадлежать человеку, разум которого не может превзойти машина.
Подводя итог, можно сказать, что ИИ и алгоритмы отслеживания фейков по «стоп-словам» могут являться лишь средством более быстрого мониторинга за информацией, но основная работа по маркировке сообщений на истину и ложь остаётся за человеческим интеллектом, а курс должен быть взят на медиаграмотность пользователей Сети.
Библиографический список:
1. Фейковые новости: Информационная мистификация: Учебное пособие для вузов / С. С. Распопова, E. Н. Богдан — М.: Издательство «Аспект Пресс», 2018.
2. Ильченко, С.Н. Фейковая журналистика. Спецкурс: учебное пособие -Москва; Берлин: Директ-Медиа, 2019
3. Fact checking in the 2019 election: research recommendations [Электронный ресурс] - режим доступа:
IV Международная научно-практическая конференция https://www.google.com/url?client=internal-element-
cse&cx=000027929558458045653:npnixjritkj&q=https://fullfact.oгg/media/uploads/ election-factcheck-briefing.pdf&sa=U&ved=2ahUKEwjq1um04onuAhXQpIsK HQ3zDEE4FBAWMAd6BAgFEAE&usg=AOvVaw1PLwszObN0253vZkk3Z3Bb (дата обращения: 15.10.2020).
© Петрова Э.Н., 2021 © Petrova Е.^, 2021
