CC BY
48УДК: 327.88
йО! 10.34823/802.2021.4.51655
Д.Ю. БАЗАРКИНА доктор политических наук, ведущий научный сотрудник Отдела исследований европейской интеграции Института Европы РАН*
В.Н. ДАМ
кандидат технических наук, преподаватель факультета компьютерных наук НИУ «Высшая Школа Экономики»**
Е.Н. ПАШЕНЦЕВ доктор исторических наук, профессор, ведущий научный сотрудник Института актуальных международных проблем Дипломатической академии МИД РФ***
К.Н.А. ФАН кандидат политических наук, директор Центра японских исследований, Вьетнамская Академия общественных наук****
Д.О. МАТЯШОВА магистрант факультета международных
отношений Санкт-Петербургского
» *****
государственного университета
Угрозы злонамеренного использования искуственного интеллекта против России и Вьетнама в Северо-Восточной Азии1
* Базаркина Дарья Юрьевна, e-mail: bazarkina-icspsc@yandex.ru
** Дам Ван Ньить, e-mail: mrnhich@mail.ru
*** Пашенцев Евгений Николаевич, e-mail: icspsc@mail.ru
**** Фан Као Ньат Ан, e-mail: pcnanh@hotmail.com
***** Матяшова Дарья Олеговна, email: dasham0708@mail.ru 1 Исследование выполнено при финансовой поддержке РФФИ и ВАОН N 21-514-92001.
В статье определены основные угрозы информационно-психологической безопасности в странах Северо-Восточной Азии, обусловленные злонамеренным использованием искусственного интеллекта. Рассмотрен региональный и геополитический контекст этих угроз и вытекающие из них вызовы для национальной безо-пасности России и Вьетнама.
Ключевые слова: искусственный интеллект, злонамеренное использование искусственного интеллекта, общественное сознание, информационно-психологическая безопасность, Северо-Восточная Азия.
D.Yu. BAZARKINA
DSc, Leading Researcher, Department of European Integration Research, Institute of Europe of the Russian Academy of Sciences
V.N. DAM
PhD, Lecturer, Faculty of Computer Science, National Research University "Higher School of Economics"
E.N. PASHENTSEV
DSc, Professor, Leading Researcher, Institute of Contemporary International Studies, Diplomatic Academy, Ministry of Foreign Affairs of the Russian
Federation
C.N.A. PHAN PhD, Director, Center for Japanese Studies, Vietnam Academy of Social Sciences
D.O. MATIASHOVA Masters student, International Relations Faculty, Saint Petersburg State University
Threats of malicious use of artificial intelligence against Russia and Vietnam in Northeast Asia
The article identifies the main threats to psychological security in the countries of Northeast Asia caused by the malicious use of artificial intelligence. The regional and geopolitical context of these threats and the resulting challenges to the national security of Russia and Vietnam are considered.
Keywords: artificial intelligence, malicious use of artificial intelligence, public consciousness, psychological security, Northeast Asia.
1. Введение
Северо-Восточная Азия (СВА) - регион, в котором сохраняется ряд политических конфликтов, отражающихся на общей международной безопасности. В основном конфликты и противоречия в СВА связаны с конкуренцией между находящимся на подъеме Китаем и увеличивающими присутствие в регионе США. Факторами основных противоречий в СВА остаются проблема денуклеаризации Корейского полуострова, территориальные споры в Восточно-Китайском море и проблемы, обусловленные разноречивыми оценками некоторых исторических событий1. Сохраняется напряженность в отношениях материкового Китая и Гонконга, которой пользуются и внешние акторы. С 2020 г. рост конкуренции как между странами СВА, так и между мировыми державами, заинтересованными в усилении влияния в регионе, вызвала пандемия коронавируса.
С обострением глобальной конкуренции и региональных противоречий усиливается и информационно-психологическое противоборство на глобальном и региональном уровнях. В частности, распространение антикитайской риторики в американских и проамериканских СМИ и политических кругах2 сочетается с попытками США и их сторонников в СВА заставить правительства стран региона присоединиться к антикитайским санкциям3. К противоборству в регионе подключаются негосударственные акторы мировой политики.
И в широких информационных кампаниях в регионе, и во все более частых информационно-психологических операциях не исключено применение технологий искусственного интеллекта (ИИ). В мировой практике уже зафиксированы
1 Dö Le Chi. Viet Nam triiöc tac döng cüa cau truc an ninh tai khu vic chau Ä -Thai Binh Diiang. Nha xuat ban Chinh tri Quoc gia Si that, Ha Nöi, 2020.
2 RepublicWorld.Com. COVID-19 originated in a lab in China, science will figure it out: Former CDC chief. URL: https://www.republicworld.com/world-news/china/covid-19-originated-in-a-lab-in-china-science-will-figure-it-out-former-cdc-chief.html; Yahoo!News. GOP congressional candidate on Chinese immigrants: 'I don't want them here at all'. URL: https://news.yahoo.com/gop-congressional-candidate-chinese-immigrants-213933567.html
3 The New York Times. Japan Is Finding It Harder to Stay Quiet on China' s Abuse of Uyghurs. URL: https://www.nytimes.com/2021/04/01/world/asia/japan-uyghurs-xinjiang.htm l
случаи злонамеренного использования глубоких фейков ^ерТакеэ)1, использования ИИ для манипулирования аудиторией при помощи информационной повестки дня и т.д. Подобная практика получает распространение и в СВА. Злонамеренное использование ИИ (ЗИИИ) для воздействия на общественное сознание и дестабилизации международной информационно-психологической безопасности в регионе СВА может негативно отразиться на национальной безопасности ближайших соседей стран региона, среди которых -Россия и Вьетнам.
Данная статья подготовлена в рамках проекта «Злонамеренное использование искусственного интеллекта и вызовы информационно-психологической безопасности в Северо-Восточной Азии», запланированного на 2021-2022 гг. Проект реализуется научными коллективами из России и Вьетнама соответственно на основе грантов Российского фонда фундаментальных исследований и Вьетнамской академии общественных наук. В ходе работы над статьей были использованы первичные и вторичные источники (государственные документы, исследовательская литература и материалы СМИ) на русском, вьетнамском, китайском, японском корейском, монгольском и английском языках. Анализ данных источников выявил растущий интерес официальных кругов, специалистов, а также широкой общественности к рискам использования ИИ, среди них - к информационно-психологическим аспектам ЗИИИ.
Методология исследования, лежащего в основе данной статьи, базируется на системном подходе к оценке политической обстановки в мире и роли ИИ в сфере международной информационно-психологической безопасности с особым вниманием к ЗИИИ. Отдельные элементы сценарного анализа были использованы для прогнозирования осуществимости ряда выявленных угроз. Для исследования конкретных случаев ЗИИИ в странах СВА авторы применяли кейс-анализ.
В рамках данной статьи термин «ЗИИИ» обозначает любое сознательное антисоциальное применение ИИ в интересах государственных и негосударственных акторов.
1 Bazarkina D.Yu, Pashentsev E.N. Malicious Use of Artificial Intelligence: New Psychological Security Risks in BRICS Countries // Russia in Global Affairs, 2020, №4(18), p. 154-177.
2. Неразрешенные конфликты и противоречия в СВА
Проблема Корейского полуострова. За влияние на полуострове конкурируют США, Китай, Россия и Япония. Для обеспечения своих стратегических интересов США создали альянсы с Японией и Южной Кореей, разместив военные базы в этих странах. США стремятся использовать Южную Корею для сдерживания растущего влияния Китая и России, а также сдерживать КНДР, прежде всего, ее ядерный потенциал. КНДР готова к переговорам с США, но не в форме односторонних уступок, а путем поэтапной денуклеаризации полуострова вместе с постепенной отменой введенных Западом санкций. В то время как Дональд Трамп предпочитал вести переговоры с КНДР с позиции силы и превосходства, многие считают, что Джозеф Байден выберет «поэтапный» подход, принятый администрацией Барака Обамы1 сосредоточив больше внимания на сотрудничестве с союзниками (к примеру, на совместных военных учениях) с целью вынудить КНДР саму свернуть свою ядерную программу. Вместе с тем, 25 марта 2021 г. Дж. Байден на пресс-конференции назвал КНДР величайшей угрозой национальной безопасности США2. Это заявление сопровождается призывами к ужесточению курса в отношении КНДР от аналитиков видных американских «фабрик мысли» США3. Таким образом, элиты США вряд ли в ближайшее время прекратят информационно-психологические атаки на КНДР на международной арене.
Стратегическая конкуренция Японии и Китая. Япония и Китай, несмотря на экономические связи, конкурируют в политике и области безопасности4, в частности, продолжается спор о принадлежности аннексированных в 2012 г. Японией спорных островов Сэнкаку/Дяоюйдао. В конкуренции США и
1 ТАСС. Байден: США ответят "надлежащим образом", если КНДР пойдет на эскалацию напряженности. URL: https://tass.ru/mezhdunarodnaya-panorama-/10997761
2 O'Hanlon M. Biden administration needs to get real on North Korea. URL: https://www.brookings.edu/blog/order-from-chaos/2021/03/29/biden-administration-needs-to-get-real-on-north-korea/
3 Shinkman P. North Korea Issues Fiery Threat amid Frustrations with the Biden Administration. URL: https://www.usnews.com/news/world-report/articles/2021 -03-16/north-korea-issues-fiery-threat-amid-frustrations-with-the-biden-administration
4 Zhang Y., Liu J., Wen J. Nationalism on Weibo: Towards a Multifaceted Understanding of Chinese Nationalism // The China Quarterly, 2018, № 235, p. 758-783.
1
Китая японо-американский союз играет важную роль . Синдзо Абэ и Дональд Трамп в начале 2017 г. сделали совместное заявление относительно японо-американского альянса, где определялась обязанность США защищать японские острова Сенкаку2. Во время международных саммитов Япония решительно выступает против территориальных требований Китая. В то же время, распространение антикитайской риторики в американских и проамериканских СМИ и политических кругах3 сочетается с попытками США и их сторонников в СВА заставить правительства стран региона (в том числе Японию)
4
присоединиться к антикитайским санкциям .
Напряженность в отношениях Японии и Южной Кореи. Отношения Японии и Южной Кореи обострились по ряду вопросов5. Здесь и оценка исторических событий (в том числе судьбы «женщин для утешения» - корейских работниц японских полевых борделей времен Второй мировой войны6; принудительного труда в военное время), и территориальные споры вокруг острова Такэсима/Докдо7, и противоречия по
1 NHK News Web. URL:https://www3.nhk.or.jp/news/html/20170211/k10010872651000.html?utm_i nt=news-politics_contents_list-items_008
2 NHK News Web. : URL:http://www3.nhk.or.jp/news/html/20170211/k10010872651000.html?utm_in t=news-politics_contents_list-items_008
3 RepublicWorld.Com. COVID-19 originated in a lab in China, science will figure it out: Former CDC chief. URL: https://www.republicworld.com/world-news/china/covid-19-originated-in-a-lab-in-china-science-will-figure-it-out-former-cdc-chief.html; Yahoo!News. GOP congressional candidate on Chinese immigrants: 'I don't want them here at all'. URL: https://news.yahoo.com/gop-congressional-candidate-chinese-immigrants-213933567.html
4 The New York Times. Japan Is Finding It Harder to Stay Quiet on China 's Abuse of Uyghurs. URL: https://www.nytimes.com/2021/04/01/world/asia/japan-uyghurs-xinjiang.htm l
5 CNBC. China treads a fine line as it seeks to mediate in Japan-South Korea trade dispute. URL: https://www.cnbc.com/2019/08/22/china-seeks-to-mediate-in-japan-south-korea-trade-dispute.html; Tsuchiyama J. The Balance of Power in Korea, and Japan // Japan Review, 2019. Vol. 2, №. 4, p. 29-33.
6 ThiJ thach ngoai giao cüa Thü tiiöng Nhat Ban // Thöng tan xä Viet Nam, Tai lieu tham khao däc biet, 26.09.2017; An ninh Thü do. Mai Phuong - Han Quoc ly giai vi sao khong the giai quyet van de "phu nö mua vui" bang ngoai giao. URL: https://anninhthudo.vn/the-gioi/han-quoc-ly-giai-vi-sao-khong-the-giai-quyet-van-de-phu-nu-mua-vui-bang-ngoai-giao/778471 .antd.
7 Baoquocte.Tokyo vi>a ra Sach Trang, Han Quoc phan doi manh me, trieu tap quan chüc ngoai giao Nhat Ban. URL: https://baoquocte.vn/tokyo-vua-ra-sach-trang-han-quoc-phan-doi-manh-me-trieu-tap-quan-chuc-ngoai-giao-nhat-ban-101808.html
торговым вопросам1, и проблемы безопасности2. В 2020 г. напряженность возросла, когда Южная Корея обратилась во Всемирную торговую организацию с просьбой рассмотреть японские меры ужесточения контроля экспорта в Республику Корея ряда высокотехнологичных материалов3. К прежним противоречиям добавились новые, когда японское правительство решило сбросить более 1 млн тонн радиоактивной воды с атомной электростанции Фукусима в море для ее фильтрации и снижения радиоактивности4. Южная Корея на правительственном уровне последовательно возражает против этого плана.
Противоречия между КНР и западными странами вокруг Гонконга и Синьцзяна. После передачи Гонконга КНР в 1984 г. основное требование, периодически высказываемое в Гонконге, - ввести прямые выборы главы администрации и членов Законодательного собрания5. С этими требованиями в 2004, 2014 и 2019-20 гг. в Гонконге проходили массовые протесты6. Издание Синьхуа, отражающее позиции властей КНР, в частности, писало, что с 2016 г. Законодательное собрание Гонконга действовало неэффективно - в частности, «его работа подрывалась затягиванием принятия законов через филибастер и насильственными действиями»7. Международ-
1 Cuoituan Tuoitre. Sang Ânh. Xung dot thiiang mai Nhât - Hàn: Không phài mot ngày mot bOa. URL: https://cuoituan.tuoitre.vn/tin/20190809/xung-dot-thuong-mai-nhat-han-khong-phai-mot-ngay-mot-bua/1538278.html
2 Vietnam Plus. Nhât Ban hùy chuyén tham cùa môt tàu khu truc dén Hàn Quoc. URL: https://www.vietnamplus.vn/nhat-ban-huy-chuyen-tham-cua-mot-tau-khu-truc-den-han-quoc/551673.vnp
3 NhOng rào can lôn trong quan hê Nhât-Hàn, Thông tan xâ Viêt Nam, Tin tham khao thé giôi 02/11/2020, tr.12-13.
4 Dàng Công san Viêt Nam. Nhât Ban se xa niôc thai nhiem phông xa ra bien. URL: https://dangcongsan.vn/the-gioi/tin-tuc/nhat-ban-se-xa-nuoc-thai-nhiem-phong-xa-ra-bien-565811.html
5 Конституции государств (стран) мира. Конституция специального административного региона Китайской Народной Республики Гонконг. URL: https://worldconstitutions.ru/?p=184
6 T-Salon. Hong Kong: Calls for Universal Sufferage Unabated. URL: http://t-salon.net/2004/10/hong-kong-calls-for-universal.html; Time. Hong Kong's Protesters Are Fighting for Their Economic Future. URL: https://time.com/3444164/hong-kongs-protesters-are-fighting-for-their-economic-future/; Quartz. The hated extradition bill will finally be gone but Hong Kong's protests will keep going. URL: https://qz.com/1701586/hong-kongs-extradition-bill-will-finally-be-withdrawn/
7 Xinhua Global Service. Carrie Lam expects more prosperous Hong Kong with improved electoral system. URL: http://www.xinhuanet.com/english/2021-04/04/c 139858229.htm
ный дискурс присоединения Гонконга к КНР - изначально негативный. В западных СМИ перспективы дальнейшего политического развития Гонконга (понимаемого как поступательное движение к демократии западного типа) рассматриваются как неблагоприятные. Помимо поддержки властей Гонконга, западные элиты и СМИ постоянно проводят кампании, призванные заставить страны СВА признать политику КНР в отношении уйгуров (которая в Пекине оценивается как борьба с ростом религиозного экстремизма) геноцидом. В частности, Дж. Байден призвал мировое сообщество консолидировать усилия в давлении на КНР по вопросам Синьцзян-Уйгурского автономного района1. Таким образом, комплекс противоречий, сложившихся вокруг Гонконга и Синьцзяна, -неиссякаемый источник угроз информационно-психологической безопасности в СВА.
Влияние коронавирусной пандемии на политическую ситуацию в СВА. Ограничения, направленные на борьбу с распространением коронавируса, привели к большим экономическим потерям. По данным Международного валютного фонда, в странах Азиатско-Тихоокеанского региона, где были введены самые жесткие меры, это привело в среднем к 12%-ному снижению (в месяц) промышленного производства (в частности, в Китае снижение составило более 10% в январе-феврале 2020 г., в Японии - 10%)2. МВФ отмечает, что геополитическая напряженность, в особенности между США и Китаем, может серьезно затормозить восстановление мировой экономики3. К росту социальных волнений привело катастрофичное воздействие пандемии на беднейшие и наиболее социально уязвимые слои населения. Все эти и многие другие факторы создают угрозы не только в физической реальности, но и в информационно-психологической сфере.
Можно заключить, что противоречия между странами СВА и вокруг региона в последнее время только растут,
1 CatchNews. Joe Biden administration: Need to bring world together to condemn China over Uyghur repression in Xinjiang. URL: http://www.catch-news.com/world/joe-biden-administration-need-to-bring-world-together-to-condemn-china-over-uyghur-repression-in-xinjiang-214393.html
2 International Monetary Fund. Navigating the Pandemic: A Multispeed Recovery in Asia. October 2020, p. 11. URL: https://www.imf.org/en/Publica-tions/REO/APAC/Issues/2020/10/21 /regional-economic-outlook-apd
3 International Monetary Fund. Navigating the Pandemic: A Multispeed Recovery in Asia. October 2020, p. 1. URL: https://www.imf.org/en/Publica-tions/RE0/APAC/Issues/2020/10/21 /regional-economic-outlook-apd
причем не без участия внешнего актора - Запада в лице США. Это обусловливает рост угроз международной информационно-психологической безопасности в регионе, среди которых может проявиться и ЗИИИ.
3. Основные угрозы ЗИИИ для информационно-психологической безопасности в СВА
Уровни противоречий в СВА. Как мы убедились, политическая ситуация в СВА осложняется серьезными конфликтами на национальном и региональном уровнях и активным внешним вмешательством в дела региона со стороны США. Противостояние акторов мировой политики в СВА носит многоуровневый характер. В регионе наблюдается: а) столкновение ценностей, интересов, целей различных политических сил на национальном уровне; б) трения, напряженность в отношениях между странами разной социально-политической ориентации; в) конфликт интересов между США (с их союзниками по НАТО и ЕС) и Китаем; г) растущее соперничество транснациональных компаний и банков в условиях международной конкуренции, нестабильности на мировых рынках; д) дестабилизирующее воздействие на общественно-политическую и информационно-психологическую обстановку в странах региона со стороны преступных организаций, индивидуумов с преступными намерениями.
Многоуровневому характеру противостояния соответствует и многоуровневая система информационно-психологического противоборства. Вполне логично стремление всех участников этого противоборства по мере возможностей использовать такой новый и все более эффективный компонент, как ИИ.
Обзор технологий ЗИИИ в СВА: Информационно-психологический аспект. Любая технология может быть применена на благо или во вред, и чем мощнее прорыв, тем сильнее это проявляется.
Технология deepfakes («глубокие фейки») — метод синтеза человеческого изображения и/или голоса на основе использования ИИ. Deepfakes стали быстро очень популярными. Более 7 миллионов пользователей Douyin использовали эту технологию для создания видео, и эти видео были просмотрены более 2,7 миллиарда раз. Китай - один из мировых
центров создания deepfakes. Китайские стартапы пытаются получать прибыль за счет таких технологий1.
Управление киберпространства Китая (УКК) 18 марта 2021 г. сообщило, что представители управления и Министерства государственной безопасности встретились с сотрудниками Alibaba Group, Tencent, ByteDance и других компаний, специализирующихся в области информационных технологий, чтобы обсудить потенциальные проблемы с deepfakes. Государственные контрольные органы Китая поручили местным управлениям УКК и органам государственной безопасности усилить оценку безопасности голосового программного обеспечения и deepfakes. Делать это предлагается с учетом «Закона о сетевой безопасности», «Положения об оценке безопасности информационных услуг в Интернете» и других законов и нормативных актов2. Видимо, существуют реальные опасения, что, например, внешне достоверные deepfakes членов руководства КПК могут быть использованы для провоцирования беспорядков. Подобные действия могли бы быть особенно опасны в синхронизированной на разных платформах акции в условиях критического обострения обстановки в стране и мире.
В Японии проблема злонамеренного использования deepfakes проявилась в контексте порнобизнеса, когда был запущен сайт с «умным» поиском, подбирающий похожих друг на друга порноактрис (их фото и видео с их участием на крупном порноресурсе). Помимо этого, deepfakes используют для вымогательства и шантажа. В сентябре 2020 г. два3, а в ноябре 2020 г. три человека были арестованы в Японии по обвинению в клевете с использованием deepfakes (они продавали доступ к видео, в которых лица известных актрис и певиц были присоединены к телам порноактрис). Агентство Ever Green Entertainment (Токио) заявило, что некоторые из актеров
1 Protocol. Chinese deepfakes are going viral, and Beijing is freaking out. URL: https://www.protocol.com/china/chinese-deepfakes-regulators-alibaba-tencent
2 Cyberspace administration of China.
URL: http://www.cac.gov.cn/2021-
03/18/c_1617648089558637. htm
3 Jiji. Two men arrested over deepfake pornography videos // The Japan Times. URL: https://www.japantimes.co.jp/news/2020/10/02/national/crime-legal/two-men-arrested-deepfake-pornography-videos/
1
подверглись в связи с этим издевательствам в Интернете. В конце сентября полиция подтвердила, что около 200 женщин-знаменитостей стали жертвами порно-deepfakes.2 Вместе с тем, судя по открытым источникам3, аспект ЗИИИ в контексте информационно-психологической безопасности практически не затрагивается в важнейших документах японского правительства по проблемам кибербезопасности.
Отчет 2019 г. компании Sensity (ранее Deeptrace) показал, что 96% колоссального объема видео-deepfakes в Интернете - порноконтент. При этом 25% тех, чьи лица были использованы в этих видео, - исполнители K-pop (корейской поп-музыки). В январе 2021 г. в Южной Корее более 375 000 чел. подписали онлайн-петицию на сайте президентского Голубого дома с требованием к правительству принять меры против создания и распространения в социальных сетях порно deepfakes. В 2020 г. в стране были одобрены законодательные меры, устанавливающие за эти действия наказание до пяти лет тюрьмы или штраф до 50 миллионов вон (47 420 евро)4. Несмотря на это, Корейская ассоциация адвокатов указывает, что принятых мер недостаточно, и призывает не только требовать от отечественных и зарубежных интернет-компаний удалять порно deepfakes, но ужесточать наказание для зрителей таких видео5. Таким образом, проблема злонамеренного использования порно deepfakes уже стоит весьма
1 Ryall J. Celebrity deepfake porn cases in Japan point to rise in sex-related cybercrime // MSN. URL: https://www.msn.com/en-xl/news/other/celebrity-deepfake-porn-cases-in-japan-point-to-rise-in-sex-related-cybercrime/ar-BBIbcoUk
2 Jiji. Two men arrested over deepfake pornography videos // The Japan Times. URL: https://www.japantimes.co.jp/news/2020/10/02/national/crime-legal/two-men-arrested-deepfake-pornography-videos/
3 Provisional Translation. Cybersecurity Strategy of Japan. July 27, 2018. URL: https://www.nisc.go.jp/eng/pdf/cs-senryaku2018-en.pdf; The Cybersecurity Policy for Critical Infrastructure Protection (4th Edition) // Cybersecurity Strategic Headquarters, Government of Japan. URL: https://www.nisc.go.jp/eng/pdf/cs_po-licy_cip_eng_v4_r2.pdf
4 Ryall J. Deepfakes send a shiver down South Korea's tech spine. // dtNext.in. URL: https://www.dtnext.in/Lifestyle/Technology/2021/01/25005129/1272795/Deep-fakes-send-a-shiver-down-South-Koreas-tech-spine.vpf; Lee Minji. (News Focus) deepfake-celebrities. URL: https://cboard.net/news_03/314894; 2021.
gAj nhnfl 10ch fe^ A|*^np|-...\ //
URL: http://www.dhfocus.co.kr/news/articleView.html?idxno=8227
5 Lee Minji. (News Focus) Anger mounts over deepfake porn targeting Korean female celebs; more than 330,000 sign petition // Yonhap News Agency. URL: https://en.yna.co.kr/view/AEN20210114006500315
остро в СВА. Есть основания считать, что с углублением кризисных явлений в мире и регионе, а также прогрессом в создании, хранении и распространении deepfakes, она станет еще более серьезной.
Злонамеренное использование ИИ при формировании информационной повестки дня (agenda-setting). Роль СМИ в определении информационной повестки дня оказывает большое влияние на общественную и политическую жизнь. В последние годы в этот процесс все больше вовлекается ИИ. Алгоритмы и автоматизация пронизывают все производство новостей, будь то журналистские расследования с помощью методов машинного обучения и интеллектуального анализа данных, создание новых интерактивных медиа (новостные боты, которые общаются с аудиторией), или оптимизация контента для различных медиаплатформ с помощью тестирования заголовков1. К сожалению, это означает и возможность ЗИИИ практически на всех этапах формирования информационной повестки дня, что проявляется и в СВА.
Одностороннее и однобокое освещение темы Курильских островов, обвинения Китая и КНДР в агрессивности и т. п. поддерживаются в информационном англоязычном пространстве в значительной мере за счет активного применения ИИ в ведущих (американских) поисковиках (Google, Microsoft Bing, Yahoo)2, социальных сетях и мессенджерах (Facebook, YouTube, WhatsApp)3 алгоритмов, которые, если не запрещают, то понижают рейтинг публикаций, не укладывающихся в общую канву антироссийской и антикитайской риторики. Например, так поступили с RT и Sputnik4. Применение ИИ для продвижения в общественное сознание «правильных идей и подходов» в сочетании со способностью ИИ подстраиваться под индивидуального пользователя (что само по себе - очень удобное качество) закрепляет определенные психологические паттерны реагирования пользователей Интернета на рассматриваемые материалы. И поскольку запрос на критичный
1 Diakopoulos N. Automating the News: How Algorithms Are Rewriting the Media. Cambridge, MA, 2019.
2 Chris A. Top 10 Search Engines In The World (2021 Update). URL: https://www.reliablesoft.net/top-10-search-engines-in-the-world/
3 Statista. Most used social media 2021. URL: https://www.statista.com/sta-tistics/272014/global-social-networks-ranked-by-number-of-users/
4 Bazarkina D.Yu, Pashentsev E.N. Malicious Use of Artificial Intelligence: New Psychological Security Risks in BRICS Countries // Russia in Global Affairs, 2020, №4(18), p. 167.
контент о Китае и России велик, то ангажированные публикации на эти темы часто начинают «естественным образом» лидировать в запросах пользователей поисковиков с целью создания требуемого градуса международной напряженности.
Разумеется, Китай как главная мишень информационно-психологических атак США делает все возможное для своей защиты. Используя государственные предприятия, технологические компании и отношения с иностранными партнерами, в том числе западными университетами, КПК строит глобальную систему сбора данных. Когда большие потоки данных объединяются с ИИ, создаются мощные инструменты коммуникации1. Так, китайский поисковик Baidu - четвертый в мире, хотя его некитайская аудитория крайне мала по сравнению с зарубежной аудиторией поисковиков США.
Роль ИИ в формировании повестки дня японских СМИ растет одновременно с напряженностью в отношениях Японии с Китаем, КНДР, Россией, хотя и в разной степени. Соответственно, роль ИИ в японоязычном информационном пространстве растет и в обеспечении психологических операций. Такая возможность следует из роста использования ИИ в информационном секторе и рекламе2 этой страны.
Если некоторые средства влияния на повестку дня уже действуют и угрожают информационно-психологической безопасности стран СВА, то другие технологии еще на подходе. Китайское государственное информационное агентство Синьхуа представило в 2018 г. так называемые композитные продукты ИИ (composite anchors), сочетающие изображение и голос человека с технологией ИИ. Созданные таким образом дикторы новостей, запущенные Синьхуа и поисковой системой Sogou во время Всемирной интернет-конференции в Учжэне, могут передавать новости с тем же эффектом, что и люди, поскольку программа машинного обучения способна синтезировать реалистичную речь, движения губ и мимику.
1 Hoffmann S.. Engineering global consent: The Chinese Communist Party's data-driven power expansion // ASPI, 2019, p. 3.
2 Lundin M, Eriksson S. Artificial Intelligence in Japan (R&D, Market and Industry Analysis). URL: https://www.eubusinessinjapan.eu/sites/default/files/artificial_intelli-gence_in_japan.pdf; Technology Media. Japan Artificial Intelligence (AI) in Media and Entertainment Industry Databook Series (2016-2025) - AI Spending with 15+ KPIs, Market Size and Forecast Across 8+ Application Segments, AI Domains, and Technology (Applications, Services, Hardware). URL: https://www.marketre-search.com/TechInsight360-v4166/Japan-Artificial-Intelligence-AI-Media-12296303/.
В 2020 г. аффилированная с CNN южнокорейская телекомпания MBN ввела первого в стране диктора новостей на основе ИИ. Внешне диктор - точная копия телеведущей Ким Чжу Ха, вплоть до мимики и звука голоса1. В Монголии 22 сентября 2020 г. состоялась официальная презентация технологии «Чимэгэ», которая распознает звуки монгольского языка и переводит речь или аудиофайлы в текст и наоборот через любое цифровое устройство. Саму презентацию проводила машина - первый в Монголии робот-ведущий с ИИ . Так как боты-ведущие пока очень просты и лишены эмоционального интеллекта, опасность их использования в злонамеренных целях в современном мире незначительна. В будущем эта ситуация может измениться. Использование телеведущих на основе ИИ может принять характер злонамеренного в четырех вариантах:
1) в реакционном государстве для продвижения правительственной повестки дня в корыстных интересах правящих элит;
2) в случае перехвата управления над ИИ для трансляции, например, послания террористической организации или иного антисоциального негосударственного актора;
3) в случае перехвата управления над ИИ для трансляции идей иностранного государственного актора, например, накануне или в ходе вторжения с целью дезориентации властей и граждан;
4) для получения сверхприбылей антисоциальными корпоративными структурами, создания паники на бирже и пр. (может пересекаться с первыми тремя вариантами).
Особенно опасным такое использование будет при дальнейшем совершенствовании ИИ, в особенности эмоционального ИИ, прогнозной аналитики и ряда других направлений.
Воздействие на повестку дня тесно связано с использованием чат-ботов. На сайтах многих компаний и организаций используются чат-боты, которые работают с текстом и голосом. Эти боты, способные общаться на любые темы и учи-
1 Tech Times. First AI News Anchor in South Korea: How Does it Compare to China's 'Xinhua'? URL: https://www.techtimes.com/articles/254712/20201203/ai-news-anchor-south-korea-accomplishes-10-000-minutes-reporting.htm
2 ARD. В Монголии создан робот-ведущий с искусственным интеллектом. URL: http://asiarussia.ru/news/25515/; Эглее.мн. ICT EXPO: Монголын анхны хиймэл оюун ухаант хетлегч "Марал" анхны ярилцлагаа хийлээ. URL: https://www.ugluu.mn/433855.html
тывать контекст разговора, обучены на миллиардах бесед пользователей социальных сетей. Организации, которые искусственно продвигают контент, с помощью ботов могут манипулировать повесткой дня: чем чаще люди видят определенный контент, тем более важным они его считают. Например, ущерб репутации, нанесенный с помощью ботов во время политических кампаний, может быть использован злоумышленниками в крупных провокациях, в том числе для организации актов насилия. В начале 2020 г. в Интернете было использовано большое количество ботов для распространения фейков о коронавирусе: «коронавирус - оружие Китая», «коронавирус - оружие против Китая» и др.1
В Южной Корее компания Scatter Lab, создатель чат-бота Lee Luda объявила о приостановке его работы всего через 19 дней после запуска. Бот работал в Facebook Messenger и позволял пользователям вести беседы, которые либо начинал, либо продолжал. Scatter Lab решила придать боту лицо 20-летней девушки (в Республике Корея есть певица с псевдонимом Lee Luda). Технология глубокого обучения, лежащая в основе бота, опиралась на более чем 10 миллиардов сообщений, передаваемых в социальных сетях реальными собеседниками в стране, что позволило боту казаться в беседе естественным и реалистичным. Это помогло Luda привлечь пользовательскую базу около 400 000 человек в течение нескольких недель после запуска.
Проблемы начали возникать почти сразу же после того, как некоторые пользователи-мужчины начали вести с ботом разговоры на темы секса, сообщает Korea Herald. Впоследствии все больше пользователей делились фантазиями о том, как они могли бы превратить Lee Luda в «секс-рабыню». Другие побудили бота делать гомофобные или другие дискриминационные заявления. Scatter Lab принесла извинения за высказывания бота, заявив, что они «не отражают основных ценностей компании», и пообещала найти способы предотвратить подобное в будущем2. Таким образом, налицо проблема антропогенного характера - использование чат-ботов на основе ИИ для распространения «языка вражды». Такие случаи с чат-ботами показывают возможность перехвата управ-
1 НТВ. Топ фейков о коронавирусе COVID-19. URL: https://www.ntv.ru-/cards/4321/
2 DW. 'Deepfakes' rattle South Korea's tech culture. URL: https://www.dw.com/en-/deepfakes-rattle-south-koreas-tech-culture/a-56310213
ления над ними и использования в злонамеренных целях. В случае кризисной, конфликтной ситуации злонамеренное использование чат-ботов особенно опасно из-за чувства паники в обществе и недостатка времени для проверки информации.
Прогностическое оружие. ИИ, машинное обучение и анализ тональности текста позволяют предсказывать будущее путем анализа прошлого. В случае ЗИИИ злоумышленники могут использовать результаты прогнозов известных организаций для воздействия на событие или аудиторию. К примеру, на благо общества японские исследователи используют ИИ для прогнозирования экологической ситуации, в том числе в зависимости от погодных условий. Такие системы могут пригодиться в городах, где размещаются опасные химические производства, чтобы быстро принимать решение об эвакуации людей и мерах устранения ядовитых выбросов1. Однако в случае вброса в такую систему ложных данных (которые с помощью ИИ будет возможно быстро опубликовать в социальных сетях или приложениях) инструменты прогнозной аналитики могут привести к крупной провокации и нанести ущерб репутации страны.
В конце 2020 г. правительство Японии вело переговоры с американской компанией Palantir Technologies Inc. о возможном использовании системы анализа больших данных на основе ИИ, разработанной американской фирмой, для принятия политических решений2. Во-первых, появление нового инструмента ставит перед Японией задачу по отслеживанию производства и закупки соответствующих частей и компонентов. Во-вторых, японское правительство также сталкивается с необходимостью сбора и анализа огромного объема данных о политических событиях, а среди них, как мы видим, в теории могут оказаться и намеренно вброшенные ложные данные.
Перехват контроля над коммерческими системами с участием ИИ. В настоящее время во многих технических системах участвует ИИ, полностью или частично, что вызывает риски злонамеренного перехвата контроля над ними. Объекты инфраструктуры (к примеру, роботизированные
1 VC.ru. Муравьева Е. Как искусственный интеллект меняет жизнь в Японии: примеры трёх проектов. URL: https://vc.ru/future/39478-kak-iskusstvennyy-intellekt-menyaet-zhizn-v-yaponii-primery-treh-proektov
2 ИА Регнум. Искусственный интеллект в Японии будет допущен к политическим решениям. URL:https://regnum.ru/news/society/3l05461 .html
самообучающиеся транспортные системы, управляемые ИИ) могут стать удобной мишенью для высокотехнологичных терактов. Перехват контроля над системой управления транспортом в городах может привести к многочисленным жертвам, вызвать панику и спровоцировать правительства на принятие решений, выгодных злоумышленникам. В 2020 г. китайское правительство выпустило план развития интеллектуальных транспортных средств, чтобы ускорить массовое производство автономных автомобилей к 2025 г.1. Излишне говорить, что злонамеренный перехват управления над подобным ИИ особенно опасен в мегаполисах.
Злонамеренное использование ИИ в видеоиграх. Видеоигры стали важным инструментом информационно-психологического воздействия на людей. Наиболее распространенной ролью ИИ в видеоиграх является управление неигровыми персонажами (non-player characters (NPCs). ИИ был неотъемлемой частью видеоигр с момента их появления в 1950-х годах2. С ростом возможностей обработки естественного языка однажды игроки-люди не смогут точно сказать, управляет ли ИИ или другой игрок-человек персонажем в видеоиграх. В будущем развитие ИИ в видеоиграх, скорее всего, будет сосредоточено на создании не более мощных NPC, а более уникального геймерского опыта3. СВА - мировой центр игрового бизнеса, как по производству видеоигр, так и по количеству пользователей. В Китае больше всего геймеров, чем в любой другой стране мира (в 2020 г. - 665 млн. человек4. Игровой бизнес - важная отрасль японской экономики. В 2018 г. в стране насчитывалось 67,6 миллиона геймеров. Культурный обозреватель New York Times Сет Шизель прокомментировал: «Когда вы смотрите на игры по всему миру, Корея - лидер во многих отношениях...»5. По доходам отрасли три вышеуказан-
1 BBC News. Harper J. Can robotaxis ease public transport fears in China? URL: https://www.bbc.com/news/business-52392366
The New Yorker. E. F. Grant, R. Lardner - It. URL: https://www.newyor-ker.com/magazine/1952/08/02/it
3 Harward University. AI in Video Games: Toward a More Intelligent Game. URL: https://sitn.hms.harvard.edu/flash/2017/ai-video-games-toward-intelligent-game/
4 Statista. Total number of game users in China from 2008 to 2020. URL: https://www.statista.com/statistics/870620/china-number-of-game-users/
The New York Times. The Land of the Video Geek. URL: https://www.nyti-mes.com/2006/10/08/arts/08schi.html?pagewanted=all&_r=0
ные страны СВА вошли в четверку мировых лидеров по итогам 2020 г.1
ЗИИИ в играх связано с формированием и управлением игровым пространством в антисоциальных целях, а также (дискуссионный вопрос) с использованием игр в интересах разведки. Весьма активно пытаются использовать в асимметричном информационно-психологическом противоборстве игры и продвинуть свою политическую повестку определенные круги Тайваня. Тайваньская игровая компания Red Candle Games, чье популярная приключенческая игра ужасов «Преданность» содержала скрытое сравнение китайского президента Си Цзиньпина с Винни-Пухом, извинилась в 2019 г. после того, как геймеры в Китае бойкотировали этот продукт. Но вице-премьер Тайваня Чэнь Чи-май призвал поддержать игру и «творческую свободу»2.
Правительственный опрос 2019 г. в Южной Корее показал, что почти 20% населения (примерно 10 миллионов человек) подвержены риску интернет-зависимости3. Республика Корея объявила зависимость от видеоигр кризисом общественного здравоохранения (более 600 000 детей борются с ней)4. Именно на подверженных игровой зависимости легче всего оказывать злонамеренное воздействие. Таким образом, не в последнюю очередь за счет применения технологий ИИ, повышающих реализм и привлекательность игр, создаются возможности информационно-психологического влияния, в числе злонамеренного, на массовые аудитории.
Угрозы ЗИИИ информационно-психологической безопасности в регионе не ограничиваются направлениями, которые мы рассмотрели. Более того, масштаб и спектр этих угроз постоянно растет, что представляет опасность не только для стран сВа, но и не в последнюю очередь для их непосредственных соседей.
1 PSU. Top Countries of the Gaming Market Leaders Board. URL: https://www.psu.com/news/top-countries-of-the-gaming-market-leaders-board/
YahoolNews. Comparison of Winnie the Pooh with Xi too much for China gamers to bear. URL: https://news.yahoo.com/comparison-winnie-pooh-xi-too-much-china-gamers-114138120.html
3 Sullivan M. South Korea Says About 20% Of Its Population Is At Risk For Internet Addiction. // NPR. Available at: https://www.npr.org/2019/07/30/746687204-/south-korea-says-about-20-percent-of-its-population-is-at-risk-for-internet-addi.
4 HealthyGamer. Video Game Addiction Statistics 2020. URL: https://www.healthy-gamer.gg/video-game-addiction-statistics/.
4. Угрозы злонамеренного использования ИИ в СВА: Информационно-психологические вызовы национальной безопасности России и Вьетнама
Нарастание угроз ЗИИИ в СВА имеет прямое отношение к проблемам национальной безопасности России и Вьетнама. Поскольку часть России входит в этот регион, а Вьетнам соседствует с ним, оба государства имеют там важных партнеров и ярко выраженные интересы к экономическому и политическому сотрудничеству.
Как показал анализ угроз ЗИИИ, уже сегодня наносится заметный ущерб информационно-психологической безопасности, по крайней мере, ряду ведущих стран СВА. Это неизбежно наносит ущерб их политической и экономической стабильности. Потеря стабильности у соседей и партнеров России и Вьетнама неизбежно создаст серьезные проблемы и для последних. Связь между ЗИИИ и политической ситуацией в той или иной стране можно проследить по влиянию угроз ЗИИИ на общество. Например, если, конкретный механизм ЗИИИ (например, злонамеренное использование «глубоких фейков») доступен для широких целевых аудиторий, то он может оказывать постепенно возрастающее негативное воздействие. В свою очередь, это воздействие может быть одним из многих элементов стратегического информационно-психологического противоборства, невзирая на внешнюю невинность и безопасность некоторых своих проявлений. За счет этого может быть достигнута культурная и политическая переориентация граждан. И чем напряженнее существующие в обществе конфликты и противоречия, тем успешнее будет такая переориентация.
Обществу и государственным властям проще реагировать на очевидные расхождения ЗИИИ с законом (такие, как порно deepfakes), чем на более опасные латентные формы информационно-психологического воздействия с помощью ИИ. Внедряемые в сознание мемы будут влиять на мысли, чувства, предпочтения, и, в конечном счете, поведение людей, включая оценку политических реалий и политическую активность. Для России и Вьетнама понимание механизма создания подобных угроз в СВА представляется крайне важным для обеспечения их собственной национальной безопасности.
Нельзя исключить использование ИИ для дискредитации внешнеполитических партнеров стран СВА (включая Россию и Вьетнам), для провоцирования межгосударственных конфлик-
тов и противоречий. Здесь уже используется арсенал разных средств информационно-психологического воздействия с привлечением ИИ.
На острие атаки информационно-психологического воздействия находится молодежь. Она наиболее активно использует современные ИКТ с растущей долей ИИ (социальные сети, голосовых помощников и т. п.). Молодежь в среднем намного больше времени проводит в виртуальном пространстве, чем люди старшего поколения, лучше и разнообразнее использует новые информационные продукты, чаще ведет поиск информации, устанавливает личные контакты с гражданами других стран. Также мировоззрение молодежи еще не устоялось, а в силу ее большей активности в использовании ИКТ, опираясь на современные технологии ИИ, легче проникнуть как в сознание отдельного индивидуума, так и целевой молодежной группы, например, студенчества, чем в сознание более старших поколений. ИИ качественно облегчает работу с большими группами, их дифференциацию по множеству параметров в условиях высокой неопределенности для принятия решений. Отдельные продукты на основе ИИ могут оказать еще более сильное эмоционально-психологическое воздействие на сознание детей и подростков, чем на молодежь (например, видеоигры). Однако, прежде всего молодежь, а не дети, в состоянии серьезно угрожать общественному порядку под влиянием целевых информационных кампаний, в том числе с использованием ИИ. Долговременная практика разжигания волнений в Гонконге с использованием современных ИКТ убедительно это продемонстрировала.
Своевременный учет практики ЗИИИ с целью информационно-психологической и политической дестабилизации молодежной среды в странах СВА представляется весьма важным для России и Вьетнама поскольку они находятся во многом в сходных обстоятельствах, когда некоторые внешние акторы проявляют явный интерес к осложнению внутриполитической ситуации в этих странах руками молодежи.
Проведенный анализ открытых первичных и вторичных источников из всех стран региона (кроме КНДР) показал отсутствие сформированного и научно обоснованного развернутого системного представления об угрозах ЗИИИ в контексте информационно-психологической безопасности. Наиболее далеко в понимании угроз ЗИИИ продвинулся Китай, но там ЗИИИ обсуждается, прежде всего, в контексте
1
военных угроз . Китайские СМИ отмечают вклад двоих авторов данной статьи в выделение угроз ЗИИИ информационно-психологической безопасности в качестве самостоя-
2
тельного предмета изучения .
Однако даже КНР не в полной мере учитывается синер-гетический эффект системного использования ИИ в информационно-психологической сфере (в защите и нападении), в то время как страна подвергается нарастающему давлению с широким спектром применения ИИ. Даже предполагая наличие определенного пласта закрытых исследований в этой области в Китае, первичный анализ ответов страны на новые угрозы говорит об определенном запаздывании принимаемых решений в области защиты от высокотехнологичных угроз информационно-психологической безопасности. Другие страны СВА демонстрируют более низкий уровень защиты от ЗИИИ в этой сфере.
ЗИИИ на сегодня стало значимым, но еще не главным инструментом подрыва информационно-психологической безопасности в СВА, уступая по результативности в целом хорошо известной и изученной совокупности форм и методов традиционной пропаганды (хотя и она все чаще не обходится без ИИ в качестве вспомогательного инструмента). Однако в недалеком будущем, за счет количественного и качественного совершенствования возможностей ИИ, дальнейшего его внедрения в различные сферы общественной жизни, ЗИИИ может выйти на первый план. В этом случае в аспекте негативного информационно-психологического воздействия оно будет уступать лишь реальным делам того или иного государства, которое своим ошибочным или сознательно антисоциальным курсом может стать главным источником угроз как для населения своей страны, так и для других народов. Соответственно, Россия и Вьетнам должны активно развивать ИИ и стратегическое видение его использования с учетом растущих угроз ЗИИИ.
1 Ifl* URL: https://www.cnki.com.cn/Article-/CJFDT0TAL-CINS201908008.htm
2 Dong Y.
(Dong Yingbi. Malicious use of artificial intelligence to threaten public psychological safety // Science and Technology Daily, 2019, November 12). URL: http://digitalpaper.stdaily.com/http_www.kjrb.com/kjrb/html/2019-11/12/content 434578.htm
Все вышесказанное требует диалектического подхода к оценке роли ИИ в СВА. ИИ дает прекрасный шанс для развития общества, что наглядно демонстрирует сегодня, прежде всего, Китай. Однако с развитием этих технологий растут (иногда опережающим образом) и угрозы ЗИИИ, осуществляемого как внутренними, так и внешними акторами. Для преодоления угроз ЗИИИ нужны не столько меры технологического или административного порядка, сколько социального. Единственная технология в мире, которая нацелена на частичную или полную замену человека в различных формах когнитивной деятельности и эмоционально-психологической активности (например, эмоциональный ИИ в работе с инвалидами), будет усиливать угрозы человечеству, если последнее направит свои растущие за счет ИИ возможности не на построение более гармоничного социального строя, а на усиление социальной, национальной или расовой поляризации.
5. Заключение
Для предотвращения антисоциального использования ИИ, помимо мер информационной безопасности (недопущение подобной деятельности в Интернете), видимо, следует создать междисциплинарные группы специалистов по исследованию информационно-психологических аспектов ЗИИИ. Эти группы могли бы, используя методы сценарного анализа и ряд других, создать схемы не только технической диагностики тех же deepfakes, прогностического оружия или других механизмов, но и методы информационно-психологического противодействия с использованием ИИ (к примеру, прогнозной аналитики).
Во всем мире, включая СВА, сегодня налицо запаздывание в оценке угроз информационно-психологической безопасности со стороны ЗИИИ. Это отставание проявляется в отсутствии исследований, базовых разработок, в адаптированной форме доступных для широкого круга лиц. Один лишь узкий круг военных профессионалов такую защиту в принципе обеспечить не может. Как в период накануне второй мировой войны в курсы гражданской самообороны входило обучение навыкам защиты от ядовитых газов при помощи противогаза, так и здесь без курсов информационно-психологической защиты не обойтись.
Разумеется, подобные курсы не имеет смысла организовывать там, где правительство проводит информационно-
психологические операции для защиты корыстных интересов эгоистичных элит в собственной стране. Гармонично и всесторонне развитой индивидуум с навыками критического системного мышления будет практически всегда защищаться от злонамеренного информационно-психологического воздействия, независимо, исходит оно от внешних или внутренних антисоциальных кругов. Реакционные круги, по сути, ведут борьбу за перепрограммирование массового потребителя в корыстных экономических и политических интересах, используя его в своих клановых войнах, но одинаково не допуская гармоничного и всестороннего развития личности, становления гражданского общества.
Россия и Вьетнам, развивая собственные стратегии ИИ, могут объединенными силами обеспечить взвешенный «взгляд со стороны» на происходящее в СВА, чтобы, учитывая позитивный и негативный опыт стран региона, разработать подходы и инструментарий противодействия ЗИИИ в сфере информационно-психологической безопасности. Научное сотрудничество на этом направлении может стать прологом к сотрудничеству практическому.
