CC BY
143
Пашенцев Е.Н., Фан К.Н.А., Дам В.Н.
Злонамеренное использование искусственного интеллекта в Северо-Восточной Азии и угрозы международной информационно-психологической безопасности
Пашенцев Евгений Николаевич — доктор исторических наук, профессор, ведущий
научный сотрудник, Дипломатическая академия МИД РФ; профессор, МГУ имени
М.В. Ломоносова; директор Международного центра социально-политических
исследований и консалтинга, Москва, РФ.
E-mail: [email protected]
SPIN-код РИНЦ: 4582-3350
ORCID ID: 0000-0001-5487-4457
Фан Као Ньат Ань — кандидат политических наук, директор Центра японских
исследований, Вьетнамская Академия общественных наук, Ханой, Вьетнам.
E-mail: [email protected]
SPIN-код РИНЦ: 3968-5630
ORCID ID: 0000-0002-2869-7618
Дам Ван Ньить — кандидат технических наук, преподаватель, факультет компьютерных
наук, НИУ «Высшая Школа Экономики», Москва, РФ.
E-mail: mrnhich@mail. ru
SPIN-код РИНЦ: 8149-4608
ORCID ID: 0000-0003-2682-1459
Аннотация
В данной работе рассмотрены современные и перспективные угрозы международной информационно-психологической безопасности, обусловленные злонамеренным использованием искусственного интеллекта (ИИ) в Северо-Восточной Азии (СВА). В регионе не сложилась собственная система безопасности, которая бы охватывала все страны СВА, удовлетворяя их интересам. Сохраняются конструкции, ориентированные на интересы США и их союзников. Негативные информационно-психологические воздействия, связанные с разнообразными факторами международного развития, все более влияют на систему межгосударственных отношений в СВА. В последнее время резко возросли темпы развития технологий ИИ в странах региона, особенно в Китае, Японии и Южной Корее. Исследования показывают, что ИИ поднимает угрозы международной информационно-психологической безопасности (МИПБ) на новый уровень. При этом использование ИИ для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на сознание граждан представляет очевидную и большую опасность. В статье в контексте основных конфликтов между странами СВА определены некоторые существующие и способные появиться в будущем методы злонамеренного использования искусственного интеллекта (ЗИИИ), представляющие угрозу для МИПБ. Чтобы избежать возможных угроз ЗИИИ, должны эффективно взаимодействовать не только государства, но и заинтересованные частные и некоммерческие организации, специалисты в области ИИ. Опасность ЗИИИ существенно повышается за счет комплексного применения этих технологий злоумышленниками. Однако не стоит забывать, что угроза ЗИИИ носит прежде всего антропогенный характер (по крайней мере, на современном этапе развития ИИ). Следовательно, чтобы избежать многих угроз, самому обществу необходимо повышать свои знания об ИИ, одновременно осознавая и принимая коллективную ответственность за общее будущее.
Ключевые слова
Искусственный интеллект, международная информационно-психологическая безопасность, Северо-Восточная Азия, злонамеренное использование искусственного интеллекта, политические конфликты.
DOI: 10.24411/2070-1381-2020-10069
Введение
В последнее время проблема международной информационно-психологической безопасности (МИНЬ) стала особенно актуальной. Негативные информационно-психологические воздействия, связанные с разнообразными факторами международного развития, все сильнее влияют на систему международных отношений. Нри этом использование искусственного интеллекта (ИИ) для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на сознание граждан представляет очевидную и большую опасность. Однако угрозы злонамеренного использования ИИ (ЗИИИ) для МИНЬ были выведены в самостоятельную область рассмотрения совсем недавно. Впервые на системном уровне были выделены текущие и потенциальные угрозы ЗИИИ для МИНЬ [Пашенцев 2019; Averkin et. al. 2019], конкретно описаны угрозы ЗИИИ для МИНЬ, сценарии их реализации, представлены соответствующие рекомендации по нейтрализации этих угроз [Bazarkina, Pashentsev 2019; Pashentsev 2019; Pashentsev 2020]. Возможные угрозы ЗИИИ для МИНЬ рассматривались также на основе технологии deepfake [Pantserev 2020]. В настоящее время, благодаря открытым кодам в Интернете, технология deepfake стала очень популярной и легкой в использовании.
Северо-Восточная Азия (СВА) — один из самых важных с геополитической точки зрения регионов в мире. С быстрым подъемом Китая, увеличением присутствия и роли США политическая ситуация и безопасность в регионе претерпевают резкие и неожиданные изменения. В СВА присутствуют зоны потенциальных конфликтов, такие как Корейский полуостров с его ядерной проблемой, стратегическая конкуренция между Японией и Китаем, а также Японией и Южной Кореей. Ситуация на Корейском полуострове имеет множество нюансов, но главное — США и их союзники не снимают санкции и оказывают военное давление на КНДР, имея многократное военное превосходство над этой страной. В ответ КНДР не отказывается от развития своих ракетно-ядерных программ, чтобы иметь возможность эффективного ассиметричного ответа на угрозы со стороны США и союзных им государств в регионе. Имеется исследование [Gian Gentile et al. 2019] четырех основных проблем Корейского полуострова: развитие северокорейской ядерной программы; постановка на вооружение КНДР «сверхкрупной» реактивной системы залпового огня; массовая эвакуация населения Южной Кореи в случае ядерных или артиллерийских ударов со стороны КНДР; последствия в случае падения режима КНДР. Эти проблемы тесно
взаимосвязаны, поэтому США, Южная Корея и союзники готовят планы противодействия. В других работах1 описаны политические отношения стран Корейского полуострова с другими странами, такими как Россия, Китай и страны СВА, которые играют определенную роль в решении проблем Корейского полуострова.
Япония и Китай тесно связаны экономически, но в сферах политики и безопасности их отношения все еще находятся в состоянии напряженности, что связно со спорными островами Сенкаку/Дяоюйдао2 [ШШ 2013; 2019; Infrastructure,
Ideas, and Strategy in the Indo-Pacific 2019]. В ряде работ [Cairns, Carlson 2016; Zhang et al. 2018] показано, как этот исторический конфликт влияет на отношения двух стран, а также отмечена [Akita 2018] необходимость ускорения принятия позитивных решений, чтобы упрочить политическое и экономическое сотрудничество на многосторонней основе. Суверенитет острова также является проблемой Японии и Южной Кореи. Конфликт вокруг островов Такэсима/Докдо политизируется и может распространиться на экономическую и оборонную сферы [Tsuchiyama 2019]. Все вышеперечисленные проблемы продолжают оказывать влияние на межгосударственные отношения в СВА. В настоящее время Китай, Япония и Южная Корея считаются странами с самым быстрым темпом развития технологий ИИ как в регионе, так и в мире. Это влечет за собой непредвиденные угрозы, включая ЗИИИ. Эти и другие факторы определяют актуальность и новизну исследования ЗИИИ в СВА.
Неразрешенные конфликты в СВА
В СВА ряд потенциальных политических конфликтов связан с ростом Китая и усилением присутствия США в регионе. Причинами основных противоречий остаются ядерная проблема на Корейском полуострове и территориальные споры в ЮжноКитайском море.
Сохраняющаяся напряженность на Корейском полуострове
Корейский полуостров — объект конкуренции между США, Китаем, Россией и Японией. Для обеспечения стратегических интересов США в СВА были созданы альянсы с Японией и Южной Кореей, размещены военные базы в этих странах. На фоне подъема Китая и увеличения военного потенциала России США хотят использовать
1 Security Environment Surrounding Japan. Korean Peninsula. P. 14-19 // Mod.go [Электронный ресурс]. URL: https://www.mod.go.jp/e/publ/w paper/pdf/2013/10 Part1 Chapter! Sec2.pdf (дата обращения: 12.04.2020).
2 (Kawai M.). Г «Sj . . World Economy Report. 2019. Vol. 2. URL: https://irdb.nii.ac.ip/en/02975/0004101892 (дата обращения: 12.04.2020).
Южную Корею для их сдерживания, обеспечивая себе «пояс безопасности» в Восточной Азии.
После того как Ким Чен Ын стал лидером КНДР (11 апреля 2012 г.), он активно продвигал ядерную и ракетную программы страны. Развертывая эти программы, КНДР создает угрозу международной безопасности. На сегодняшний день КНДР провела шесть ядерных испытаний на полигоне Пунги-ри на северо-востоке. Последовали и утверждения с северокорейской стороны, что КНДР может атаковать столицу США. Вероятность атаки в действительности очень мала, но ракетный потенциал КНДР представляет фактор дальнейшей дестабилизации системы международной безопасности, хотя и является ответом на нескрываемое желание США покончить с режимом в Пхеньяне, в том числе и военными методами. КНДР готова к переговорам с США, но не в форме односторонних уступок, а путем поэтапной денуклеаризации Корейского полуострова вместе с постепенной отменой санкций. Для КНДР войска США, дислоцированные в Южной Корее и странах СВА, представляют прямую угрозу национальной безопасности. США имеют неизмеримо больше человеческих ресурсов, военной техники, транспортных и финансовых средств, чем КНДР. Поэтому последняя вынуждена направить все ресурсы на развитие асимметричной мощи — ядерного оружия.
Ракетно-ядерный потенциал КНДР — хороший повод для США и их союзников усилить военную мощь в регионе, а тем самым и давление на Китай и Россию. В определенном смысле стремление КНДР расширить ядерную и ракетную программы способствовало тому, что Соединенные Штаты и их союзники смогли развернуть передовые системы противоракетной обороны. В 2017 г. военные силы США в Южной Корее завершили установку системы ПРО THAAD. В декабре 2017 г. правительство Японии одобрило развертывание двух новых систем ПРО Aegis3.
Со второй половины 2019 г. ситуация на Корейском полуострове стагнирует, даже ухудшается из-за отсутствия развития диалога США и Северной Кореи. Стороны воздерживаются от пересечения «красной линии», лишь высказывают свои пожелания и оставляют место для переговоров. В 2019 г. был отмечен рост активности Китая и России, в то же время роль Японии ослабла. Фактически Северная Корея сегодня — площадка конкуренции Китая, России и США с союзниками (Япония и Южная Корея),
3 Kikuchi D. Japan approves introduction of Aegis Ashore missile defense system amid North Korea threat // Japantimes [Электронный ресурс]. URL: https://www.iapantimes.co.ip/news/2017/12/19/national/politics-diplomacy/iapan-approves-introduction-aegis-ashore-missile-defense-system-amid-north-korea-threat/#.XpNT6MgzZPY (дата обращения: 12.04.2020).
поэтому ядерная проблема на Корейском полуострове не может быть решена в короткие сроки.
Стратегическая конкуренция Японии и Китая
Япония и Китай тесно связаны экономически, но в сферах политики и безопасности их отношения все еще находятся в состоянии напряженности. В 2010 г. Китай обогнал Японию и стал второй экономической державой в мире. Отношения между Японией и Китаем ухудшились после того, как в 2012 г. Япония национализировала острова Сенкаку/Дяоюйдао4. В 2013 г. Китай в одностороннем порядке создал «Зону идентификации ПВО» (Air Defense Identification Zone — ADIZ)5 в Восточно-Китайском море, включая острова Сенкаку/Дяоюйдао, которые контролировала Япония, как заявил Китай, и простирается на восток, более чем в 120 км от главного острова Окинава.
В то же время в 2009 г. Китай представил «линию девяти пунктиров» (Китай использует ее для определения своих территориальных требований в Южно-Китайском море6, во Вьетнаме линия известна как Duong luoi bo — карта «пути коровьего языка»), покрывающую 80% территории моря, что вызвало недовольство международной общественности. На официальных картах Китая есть линия девяти пунктиров, обозначающая морскую границу страны и охватывающая 90% территории ЮжноКитайского моря7. После решения Международного арбитражного суда о «линии девяти пунктиров» в июле 2016 г. изменение статуса Китая замедлилось, но не прекратилось. И сегодня Япония, обеспокоенная тем, что Китай контролирует ЮжноКитайское море, опасается китайского вторжения в регион Индийского океана, где по морским маршрутам из стран Африки и Ьлижнего Востока поставляется 90% нефти для Японии.
4 Perlez J. China Accuses Japan of Stealing After Purchase of Group of Disputed Islands // The New York Times [Электронный ресурс]. URL: https://www.nvtimes.com/2012/09/12/world/asia/china-accuses-iapan-of-stealing-disputed-islands.html (дата обращения: 12.04.2020).
5 Ve ADIZ cua Trung Quoc va tac dong doi vai khu vuc // Thong tan xa Viet Nam. Tai lieu tham khao dac biet 06.01.2014, tr. 6-7.
6 Во Вьетнаме море называют Восточным, в Китае — Южным, в Индонезии, Малайзии, на Филиппинах и в Японии — Южно-Китайским.
7 Ve cac nguy ca xung dot tren bien Dong // Thong tan xa Viet Nam, Tai lieu tham khao dac biet 22.05.2015, tr. 2
В конкуренции США и Китая японо-американский союз играет важную роль8. После встречи премьер-министра Синдзо Абэ и президента Дональда Трампа в Вашингтоне в начале 2017 г. было сделано совместное заявление относительно японо-американского альянса как основы свободы, процветания и мира в Азии9. В Тихом океане США сохраняют военное присутствие, используя как обычное оружие, так и ядерное для защиты Японии. Кроме того, в совместном заявлении подтверждается, что японские острова Сенкаку входят в сферу действия статьи 5 Договора о безопасности между странами, где определяется обязанность США защищать их, выступать против односторонних актов, затрагивающих административное управление островов10.
Под давлением администрации Д. Трампа США перешли к практически открытой конфронтации с Китаем, с которым Д. Трамп пригрозил в мае 2020 г. «разорвать все отношения»11. На 20 мая 2020 г. в США подано десять исков к Китаю в связи с коронавирусом12. Первыми на тропу юридической войны встал отряд жалобщиков в составе правозащитной организации Freedom Watch, фотостудии Buzz Photos и скандально известного адвоката Ларри Клеймана. За ними последовала коалиция юридических фирм Berman Law Group и Lucas-Compton. Исковые требования Berman Law Group и Lucas-Compton — шесть триллионов долларов. Наиболее же крупный счет Китаю выставили Freedom Watch & Со — 20 триллионов, причем они не ограничились местной Фемидой: иск одновременно направлен в Международный уголовный суд в Гааге13.
Госсекретарь Майк Помпео заявил, что мир будет вынужден «возложить расходы» за коронавирус на Китай, а сам он уже представил Д. Трампу ряд вариантов, которые «заставят коммунистический режим компенсировать жителям США ущерб от
8 ВЖЙИ^ВД Ш^'ЮШШШШ^Ш // NHK [Электронный ресурс]
URL: https://www3.nhk.or.ip/news/html/20170211/k10010872651000.html7utm int=news-politics contents list-items 008 (дата обращения: 11.02.2017).
9 Yeo A. Did Trump and Abe just launch a new chapter in U.S.-Japan relations? // The Washington Post [Электронный ресурс]. URL: https://www.washingtonpost.com/news/monkey-cage/wp/2017/02/13/did-trump-and-abe-iust-launch-a-new-chapter-in-u-s-iapan-relations/ (дата обращения: 12.04.2020).
10 // NHK [Электронный ресурс]. URL: http://www3.nhk.or.jp/news/html/20170211/k10010872651000.html?utm int=news-
politics contents list-items 008 (дата обращения: 11.02.2020).
11 SoergelA. Trump Threatens to 'Cut Off' Relationship With China, Claims Coronavirus Proved 'Trump Was Right' // U.S. News [Электронный ресурс]. URL: https://www.usnews.com/news/economy/articles/2020-05-14/trump-threatens-to-cut-off-relationship-with-china-claims-coronavirus-proved-trump-was-right (дата обращения: 23.05.2020).
12 В США подано десять исков к Китаю в связи с коронавирусом // Regnum [Электронный ресурс]. URL: https://regnum.ru/news/polit/2945227.html (дата обращения: 24.05.2020).
13 Владимиров А. Китаю предъявили триллионные иски за коронавирус // Московский комсомолец [Электронный ресурс]. URL: https://www.mk.ru/politics/2020/04/09/kitayu-predyavili-trillionnye-iski-za-koronavirus.html (дата обращения: 24.05.2020).
пандемии»14. США усиливают свое давление на ведущие китайские научно-технические бренды, прежде всего Huawei, с целью не допустить глобального лидерства Китая в сфере высоких технологий.
Китай не пойдет на ограничение своего экономического роста, научно-технического и социального прогресса в угоду США. Интересы США и Японии совпадают в Индийском океане, где их совместная стратегия — основа геостратегической конкуренции с Китаем. Таким образом, ухудшение отношений между Китаем и Японией прежде всего связано со стремлением Вашингтона использовать Японию против Китая.
Напряженность в отношениях Японии и Южной Кореи
В последнее время отношения Японии и Южной Кореи обострились в силу разногласий по ряду стратегических вопросов15. Во-первых, это исторические проблемы, в том числе спор о «женщинах для утешения» — корейских работницах японских полевых борделей времен Второй мировой войны. Хотя обе стороны подписали соглашение по этому вопросу в 2015 г., в начале 2017 г. корейская сторона установила еще одну статую «женщин для утешения» перед воротами консульства Японии в Пусане. Президент Мун Чже Ин заявил, что соглашение 2G15 г. не было принято корейским народом и должно быть пересмотрено16. 14 августа 2G18 г., в Национальный день корейских «женщин для утешения», Мун Чжэ Ин подчеркнул, что спор невозможно решить дипломатическим путем17. 21 ноября 2018 г. Южная Корея объявила о роспуске финансируемого Японией Фонда примирения и лечения ран, учрежденного в соответствии с соглашением 2015 г. Отвечая на эти действия, премьер-министр Японии С. Абэ заявил, что в случае нарушения международных обязательств развитие японо-корейских отношений будет затруднено.
Еще один конфликт не утих вокруг принудительного труда в военное время. В октябре 2018 г. Верховный суд Южной Кореи вынес требование к японской сталелитейной компании выплатить компенсацию четырем корейцам, принудительно
14 Zito S. Pompeo tells Salena Zito the world must 'impose costs on China' for coronavirus // Washington Examiner [Электронный ресурс]. URL: https://www.washingtonexaminer.com/opinion/pompeo-tells-salena-zito-the-world-must-impose-costs-on-china-for-coronavirus (дата обращения: 23.05.2020).
15 China treads a fine line as it seeks to mediate in Japan-South Korea trade dispute // CNBC [Электронный ресурс]. URL: https://www.cnbc.com/2Gl9/G8/22/china-seeks-to-mediate-in-iapan-south-korea-trade-dispute.html (дата обращения: 25.02.2020).
16 Thú thách ngoai giao cùa Thù tuáng Nhât Bàn // Thông tán xa Viet Nam, Tài lieu tham khào däc biet, 26.G9.2G17.
17 Mai Phuong. Hàn Quoc ly giài vi sao không the giài quyét ván dè "phu nù mua vui" bäng ngoai giao // An ninh Thù dô [Электронный ресурс]. URL: https://anninhthudo.vn/the-gioi/han-quoc-ly-giai-vi-sao-khong-the-giai-quyet-van-de-phu-nu-mua-vui-bang-ngoai-giao/77847l.antd (дата обращения: 12.04.2020).
работавшим во время японской оккупации. В ответ премьер-министр Японии С. Абэ заявил, что Япония примет жесткие меры против подобных решений. Позиция Японии заключается в том, что все требования компенсаций были полностью удовлетворены, когда Япония и Южная Корея нормализовали дипломатические отношения в 1965 г.
Территориальные противоречия двух стран также обостряются, поскольку 26 ноября 2018 г. группа южнокорейских парламентариев посетила острова Такэсима/Докдо (суверенитет над островами оспаривается двумя странами) во второй раз с 2016 г. Япония осудила этот визит. Южная Корея непрерывно отправляет океанографические суда к спорному архипелагу. В марте 2019 г. Южная Корея решительно осудила утверждение в Японии новой серии учебников для начальной школы, в которых утверждается суверенитет Японии над островами. В июле 2019 г. напряженность возросла, когда Япония отказалась удалить изображение архипелага на онлайн-карте токийской Олимпиады 2020 г. Недавно, 27 сентября 2019 г., Южная Корея выступила с заявлением против признания Японией суверенитета над островами в Белой книге обороны Японии 2019 г. Южная Корея считает это решение незаконным и требует от Японии немедленно отозвать заявление по суверенитету18, иначе пострадают двусторонние отношения.
Между двумя странами существуют противоречия и по торговым вопросам. 1 июля 2019 г. Япония решила ограничить экспорт трёх видов высокотехнологичного сырья в Южную Корею. 2 августа 2019 г. Япония исключила Южную Корею из Белого списка стран, имеющих право на упрощение процедур экспортного контроля19. Объясняя это решение, японская сторона заявила, что за прошедшее время Япония неоднократно просила Южную Корею организовать встречи для обсуждения разногласий, но корейская сторона не ответила. Поэтому Япония не может продолжать торговать с Южной Кореей по экспортным преференциальным правилам. В то же время подчеркивается, что такая корректировка необходима для эффективного управления экспортом высокотехнологичных материалов в соответствии с международными правилами. Усиление японского экспортного контроля не является контрмерой или реакцией на корейскую политику, связанную с трудовыми вопросами военного времени.
18 Tokyo vùa ra Sach Träng, Hàn Quoc phàn doi manh me, triêu tâp quan chue ngoai giao Nhât Bàn // baoquocte.vn [Электронный ресурс]. URL: https://baoquocte.vn/tokyo-vua-ra-sach-trang-han-quoc-phan-doi-manh-me-trieu-tap-quan-chuc-ngoai-giao-nhat-ban-101808.html (дата обращения: 12.04.2020).
19 Sang Ânh. Xung dot throng mai Nhât — Hàn: Không phài mot ngày mot bùa // cuoituan.tuoitre.vn [Электронный ресурс]. URL: https://cuoituan.tuoitre.vn/tin/20190809/xung-dot-thuong-mai-nhat-han-khong-phai-mot-ngay-mot-bua/1538278.html (дата обращения: 12.04.2020).
В свою очередь, президент Южной Кореи Мун Чже Ин считает шаг Японии именно ответом на решение Верховного суда о компенсациях. То, что Япония связывает решение корейских судей с экономической проблемой, стало бы нарушением принципа разделения властей2°. Отвечая на ход Японии, в августе 2019 г. Министерство торговли, промышленности и ресурсов Южной Кореи объявило о политике повышения конкурентоспособности в производстве оборудования, материалов и комплектующих21. Далее, 11 сентября 2G19 г., Южная Корея подала иск против Японии в ВТО об ужесточении контроля над высокотехнологичным сырьем, экспортируемым в Корею22.
Сохраняются проблемы безопасности, и к концу 2018 г. оборонные отношения двух стран ухудшились. Японская сторона обвинила корейскую в том, что боевой корабль ВМС Южной Кореи захватил своим радаром управления оружейными системами патрульный самолет японских ВМС. Двусторонние переговоры не разрешили конфликт, в результате чего обе стороны отменили график военного обмена23.
Итак, регион СВА характеризуется широким кругом противоречий между странами. Усиливаются противоречия между Китаем и Японией, между КНДР и США с их союзниками, между Японией и Южной Кореей. Все они продолжат оказывать влияние на страны региона. Именно в условиях такой конфликтности и информационно-психологического противоборства в СВА следует ожидать активизации ЗИИИ против МИНЬ.
Основные угрозы злонамеренного использования искусственного интеллекта для международной информационно-психологической безопасности в СВА
В настоящее время Китай считается страной с самым быстрым темпом развития технологий ИИ в мире. Китай стремится стать главной державой в области ИИ, все компании получают поддержку со стороны государства. Для этого в 2015 г. в
2G Принцип разделения властей // Совет Федерации Федерального собрания РФ [Электронный ресурс]. URL: http://council.gov.ru/services/reference/lGG2G/ (дата обращения: 12.04.2020).
21 Южная Корея повысит конкурентоспособность в производстве оборудования, материалов и комплектующих // Финмаркет [Электронный ресурс]. URL: http://www.finmarket.ru/news/5G5G876 (дата обращения: 12.04.2020).
22 Hàn Quoc kien Nhât Bàn lên WTO liên quan toi bien pháp kiem soát xuát khau // baoquocte.vn [Электронный ресурс]. URL: https://baoquocte.vn/han-quoc-kien-nhat-ban-len-wto-lien-quan-toi-bien-phap-kiem-soat-xuat-khau-lGG93G.html (дата обращения: 12.04.2020).
23 Nhât Bàn hùy chuyén thäm cùa môt tàu khu truc dén Hàn Quoc // vietnamplus.vn [Электронный ресурс]. URL: https://www.vietnamplus.vn/nhat-ban-huy-chuyen-tham-cua-mot-tau-khu-truc-den-han-quoc/55l673.vnp (дата обращения: 12.04.2020).
стране был принят план «Сделано в Китае — 2025» [Комиссина 2019]. Япония и Южная Корея также уделяют большое внимание ИИ. В конце 2016 г. в Японии был принят «Пятый базовый научно-технический план». Глобальная задача, обозначенная в документе, состоит в смене технологических парадигм и переходе от сугубо производственной концепции «Индустрия 4.0», развиваемой Германией, к комплексной японской модели социально-экономического устройства «Общество 5.0», где новейшие цифровые технологии будут широко интегрированы во все сферы жизни [Костюкова 2019]. В Южной Корее в декабре 2017 г. частным консультативным органом — Национальным консультативным советом по науке и технологиям (National Science and Technology Advisory Council) — была предложена программа «Двигатель инновационного роста» (Innovation Growth Engine) по развитию высокотехнологичных секторов (ИИ, больших данных, робототехники и т. д.) [Ким, Чой 2019]. В современных условиях технологии ИИ этих стран в любое время могут представлять угрозу МИПБ.
Среди возможных угроз ЗИИИ, которые могут оказать серьезное дестабилизирующее воздействие на социально-политическое развитие той или иной страны и системы международных отношений, включая сферу МИПБ, можно назвать следующие:
Рост комплексных всеохватывающих систем с активным или ведущим участием ИИ. Этот рост повышает риск злонамеренного перехвата контроля над такими системами. Многочисленные объекты инфраструктуры, например роботизированные самообучающиеся транспортные системы с централизованным управлением посредством ИИ, могут стать удобной мишенью для высокотехнологичных терактов. Перехват контроля над системой управления транспортом в крупных городах, например в Пекине, Шанхае, Токио или Сеуле, может привести к многочисленным жертвам, вызвать панику и создать информационно-психологический климат, облегчающий дальнейшие враждебные действия.
Перепрофилирование коммерческих систем искусственного интеллекта. Коммерческие системы могут быть использованы во вред (даже не всегда намеренно). Возможно использование беспилотных летательных аппаратов или автономных транспортных средств для доставки взрывчатых веществ и организации аварий. В Китае в настоящее время происходит рост количества автономных такси, в том числе и в рамках государственно-частного партнерства. Один из ведущих поставщиков, компания AutoX, обещает внедрить 100 автономных автомобилей в Шанхае к июню 2020 г. Интернет-компания Baidu уже внедрила свои роботакси Apollo в трех городах
187
Китая24. В феврале 2020 г. китайское правительство выпустило план развития интеллектуальных транспортных средств, чтобы ускорить массовое производство автономных автомобилей высокого качества к 2025 г. Компания WeRide со штаб-квартирой в Гуанчжоу сотрудничает с китайской государственной компанией Baiyun Taxi Group для тестирования парка из 40 автомобилей. В WeRide заявили, что полностью беспилотное роботакси будет готово к 2021 г., но есть много правовых и нормативных препятствий25.
Возможен дистанционный перехват контроля над ИИ транспортных средств. Серия серьезных катастроф, особенно с участием известных лиц, может иметь международный резонанс и нанести ущерб МИНЬ, поэтому особенно важно и обеспечение надлежащей защиты транспорта от взлома, и разъяснение опасности диверсий против таких транспортных систем посредством ЗИИИ.
В Японии в области автономных транспортных средств компания Toyota в ближайшие 5 лет планирует выделить около миллиарда долларов на совместные исследования в области ИИ. В начале 2016 г. компания создала исследовательское подразделение в своем американском филиале, целью которого является разработка полностью беспилотного автомобиля [Костюкова 2019]. Кроме того, в 2019 г. в Японии начали оснащать транспорт новым оборудованием компании DeNa Co., которое существенно снизит число аварий на автодорогах, возникающих из-за безответственного поведения водителей. В этом оборудовании используются технологии облачных вычислений. Данные бортовых устройств о скорости автомобиля, его положении по отношению к другим транспортным средствам, движении глаз и век водителя и других факторах анализируются ИИ через облачную систему. В ходе полугодовых испытаний, в которых было задействовано 100 легковых такси и 500 грузовиков, получены обнадеживающие результаты: дорожно-транспортных происшествий в первой категории стало меньше на 25%, а во второй — на 48%26. Если злоумышленники захватят эти системы, это вызовет панику в обществе.
Как и Япония, Южная Корея сосредоточилась на разработке роботов, в том числе и оснащенных ИИ, для замены сотрудников-людей и повышения производительности труда. Эти роботы управляются компьютерными программами, и,
24 Harper J. Can robotaxis ease public transport fears in China? // BBC News [Электронный ресурс]. URL: https://www.bbc.com/news/business-52392366 (дата обращения: 23.05.2020).
25 Harper J. Can robotaxis ease public transport fears in China? // BBC News [Электронный ресурс]. URL: https://www.bbc.com/news/business-52392366 (дата обращения: 23.05.2020).
26 Япония: искусственный интеллект повысит безопасность на дорогах // ИА Красная Весна [Электронный ресурс]. URL: https://rossaprimavera.ru/news/3df2b6a6 (дата обращения: 12.04.2020).
если злоумышленники смогут их взломать, роботы станут инструментом ЗИИИ, что может подорвать репутацию страны-производителя, а, к примеру, при взломе экспортной партии роботов — негативно повлиять на торговые, а возможно, и политические межгосударственные отношения в регионе. В Южной Корее ИИ может обеспечить спокойствие на северной границе страны, на страже которой уже стоят разработанные компанией Samsung роботы-часовые SGR-A1 (автоматизированная пулеметная башня)27. Однако, если роботы «случайно» выстрелят по солдатам соседней страны, никто не может гарантировать, что на Корейском полуострове не развяжется война.
В условиях роста международной напряженности в целом и между Китаем и США в частности большие надежды на ИИ возлагают военные. В госпрограммах КНР появился термин «военно-гражданская интеграция»28, постулируется необходимость устранения барьеров между бизнесом и военно-промышленным комплексом. Таким образом, ИИ рассматривается руководством КНР (и не только им) как технология двойного назначения, которая может усилить геополитические позиции страны в противостоянии с США и их региональными союзниками.
Создание deepfakes (от deep learning — «глубокое обучение» и fake — «подделка») — метод синтеза человеческого изображения и/или голоса на основе использования ИИ. Создание deepfakes уже стало очень простым благодаря доступным открытым кодам в Интернете. Поэтому любой специалист в области ИИ может создавать deepfake — изображения и видео — для использования в своих целях, и это вызывает непредсказуемые угрозы для общества.
Правительство Южной Кореи призывает к принятию мер по борьбе c deepfakes, поскольку их распространение представляет собой нарушение частной жизни отдельных лиц или, к примеру, может даже подорвать выборы. Согласно недавнему исследованию, проведенному нидерландской компанией Deeptrace Labs, в 25% порновидеороликов, созданных с помощью технологии, фигурируют певицы K-pop-сцены.
27 Юферев С. Робот-страж Samsung SGR-A1 встанет на дежурство в корейской демилитаризованной зоне // Военное обозрение [Электронный ресурс]. URL: https://topwar.ru/58985-robot-strazh-samsung-sgr-a1-vstanet-na-dezhurstvo-v-korevskov-demilitarizovannov-zone.html (дата обращения: 12.04.2020).
28 Пройдаков Э. ИИ двойного назначения. Китай планирует опередить США в области искусственного интеллекта // CNEWS [Электронный ресурс]. URL: https://www.cnews.ru/articles/2020-02-10 ii dvojnogo naznachenivakitaj planiruet (дата обращения: 12.04.2020).
Компания заявила, что южнокорейские звезды все чаще появляются в подобных видео из-за их взрывной популярности в всему мире29.
В Китае набирает популярность приложение для создания deepfakes Zao, с его помощью пользователь может за пару секунд добавить своё лицо в любой фильм. Приложение уже попало в китайский App Store и основные магазины для Android 30 августа 2019 г., за два дня войдя в список самых популярных бесплатных приложений30. Ранее для реализации такой технологии требовалось обучать нейронную сеть в течение нескольких часов. И это позволяет любому человеку сделать скандальные видео с участием глав любой страны и таким образом повлиять на межгосударственные отношения в любом регионе, включая СВА.
Кроме этого, в Китае распространяется новостное информационное мобильное приложение Jinri Toutiao, которое рекомендует персонализированную информацию для индивидуальных пользователей на основе технологии ИИ. Анализируя особенности контента, пользователей и их взаимодействия с контентом, модели Toutiao генерируют специально настроенный канал новостей для пользователей. Toutiao уже опробовал алгоритм «репортера», который писал заметки о спортивных событиях во время Олимпиады в Рио-де-Жанейро. Стиль был не до конца отточен, но он мог описать 30 событий в день, а первый результат выдавал уже через 2 секунды после завершения события. Есть на Toutiao и алгоритм, распознающий fake news. Сначала разработчики создали алгоритм, который эти новости генерировал, а затем его антагониста, научив его распознавать фальшивки и бороться с ними31. Однако то, что Toutiao может сам писать заметки о спортивных событиях, означает, что приложение сможет создавать и сюжеты на политические темы. Такие алгоритмы могут быть использованы в информационно-психологическом противоборстве, так как Китай находится в напряженных отношениях с США и некоторыми их союзниками.
29 В Южной Корее призывает к принятию мер по борьбе с «deepfake». Жертвами поддельных видео становятся поп-звезды // KNEWS [Электронный ресурс]. URL: https://knews.kg/2019/12/09/v-vuzhnoi-koree-prizvvaet-k-prinvativu-mer-po-borbe-s-deepfake-zhertvami-poddelnvh-video-stanowatsva-pop-zvezdv/ (дата обращения: 12.04.2020).
30 Кузьмин Е. В Китае набрало популярность DeepFake-приложение Zao — оно позволяет вставить своё лицо в видео за несколько секунд // tjoumal [Электронный ресурс]. URL: https://tiournal.ru/internet/114336-v-kitae-nabralo-populvarnost-deepfake-prilozhenie-zao-ono-pozvolvaet-vstavit-svoe-lico-v-video-za-neskolko-sekund (дата обращения: 12.04.2020); Сидоров И. Приложение ZAO заменяет ваше лицо в любом фильме. Был Ди Каприо, стал Василий // iphones [Электронный ресурс]. URL: https://www.iphones.ru/iNotes/prilozhenie-zao-zamenvaet-vashe-lico-v-lvubom-filme-bvl-di-kaprio-stal-vasilii-09-02-2019 (дата обращения: 12.04.2020).
31 Делюкин Е. Китай победит в развитии искусственного интеллекта, только в это никто не верит // vc.ru [Электронный ресурс]. URL: https://vc.ru/books/50578-kitav-pobedit-v-razvitii-iskusstvennogo-intellekta-tolko-v-eto-nikto-ne-verit (дата обращения: 12.04.2020).
Технология Fake People. После продажи первого произведения искусства, созданного ИИ, в начале 2018 г. алгоритмы глубокого обучения теперь работают с портретами несуществующих людей. Компания NVIDIA недавно поделилась результатами работы генеративной конкурентной сети (generative adversarial network — GAN), обученной самостоятельно генерировать изображения людей [Karras et al. 2018]. Сегодня нейросеть каждую секунду генерирует лица несуществующих людей в большом разрешении. Нет проблемы приказать ей создать, например, несуществующего внебрачного ребенка известной личности, чтобы устроить провокацию. Фамильное сходство на картинке будет стопроцентно убедительным.
8 ноября 2018 г. Китай представил первый в мире информационный бюллетень с поддержкой ИИ. Этот бюллетень был опубликован информационным агентством по случаю пятой конференции World Internet Conference в Чжэцзяне32. Бюллетень был сделан «виртуальным человеком» с голосом и лицом диктора новостей Синьхуа. Эта технология делает выпуск новостей проще и удобнее, но она также сопряжена с потенциальными опасностями. Если этот инструмент попадет в чужие руки, мы не можем представить, какими будут последствия, если «диктор» объявит войну с США или соседними странами.
Боты. Исследования, осуществленные в США, показали, что боты составили более 50% всего интернет-трафика в 2016 г. Организации, которые искусственно продвигают контент, могут манипулировать повесткой дня: чем чаще люди видят определенный контент, тем более важным они его считают [Horowitz et al. 2018, 5-6]. Например, ущерб репутации, нанесенный с помощью ботов во время политических кампаний, может быть использован террористическими группами для привлечения новых сторонников или организации убийств политиков.
Пандемия коронавирусной инфекции началась с обнаружения в конце декабря 2019 г. в городе Ухань провинции Хубэй центрального Китая первых случаев пневмонии неизвестного происхождения у местных жителей, связанных с местным рынком животных и морепродуктов Хуанань. Потом коронавирус быстро распространился на весь мир. По данным Всемирной организации здравоохранения, на вечер 25 марта 2020 г. число зараженных в мире превысило 400 тысяч, количество смертей составило 18 314 человек. В Интернете было использовано большое
32 КошельникД. Китайское агентство создало виртуального ведущего // Vector [Электронный ресурс]. URL: https://vctr.media/xinhuanet-virtual-anchor-9438/ (дата обращения: 12.04.2020).
количество ботов для распространения фейков о коронавирусе: коронавирус — это оружие Китая, коронавирус — это оружие против Китая и др.33
Крайне интересными с точки зрения национальной и международной ИПБ являются случаи обучения чат-ботов недопустимым высказываниям, встраивание в их механизм определенных оценок и суждений. Китайская медиакомпания Tencent представила в своем приложении-мессенджере QQ двух чат-ботов — BabyQ и XiaoBing — в марте 2017 г., но позже они были удалены. Согласно скриншотам, опубликованным тайваньской Apple Daily, один пользователь отправил сообщение BabyQ с надписью «Да здравствует Коммунистическая партия!» только для того, чтобы ему сказали: «Вы думаете, что такой коррумпированный и некомпетентный политический режим может жить вечно?» Бот XiaoBing сказал пользователям: «Моя китайская мечта — поехать в Америку»34. После отключения ботов Tencent заявила, что они были предоставлены сторонними компаниями (BabyQ был разработан Tencent в сотрудничестве с пекинской фирмой Turing Robot, а XiaoBing — Microsoft)35.
Мы не обвиняем разработчиков ботов в намерении дискредитировать Китай, однако описанный случай обнаруживает угрозу МИПБ вполне антропогенного происхождения. Если, к примеру, китайские «умные» боты были обучены частью пользователей социальных сетей, закономерно задуматься об адекватности выборки таких пользователей. При высоком распространении в одном регионе реакционных идеологий, большом количестве фрустрированных граждан или людей с низким уровнем ответственности за свои действия (по крайней мере, в Интернете) эти идеологии могут с помощью чат-ботов распространяться и в других регионах, так же как в процессе общения в социальных сетях. Ситуация может стать еще хуже, если бот будет намеренно обучаться в первую очередь асоциальными акторами.
Прогностическое оружие. ИИ, машинное обучение и анализ тональности текста позволяют предсказывать будущее путем анализа прошлого. В Японии были разработаны системы прогнозирования событий на основе пространственно-временного анализа массива данных в режиме реального времени. Этой темой занимается группа японских исследователей в Кембриджском университете. В качестве
33 Топ фейков о коронавирусе COVID-19 // НТВ [Электронный ресурс]. URL: https://www.ntv.ru/cards/4321/ (дата обращения: 12.04.2020).
34 Rogue chatbots taken offline in China after refusing to say they love the Communist party // ABC News [Электронный ресурс]. URL: https://www.abc.net.au/news/2017-08-04/chinese-chatbots-deleted-after-questioning-communist-party/8773766 (дата обращения: 23.05.2020).
35 Там же.
источников массивов данных используются разного рода датчики, GPS-трекеры, открытые данные мобильных сетей.
Первым объектом для изучения стали мусоровозы японского города Фудзисава. Каждый такой автомобиль имеет датчики загрязнений воздуха, уровня шума, температуры, влажности, солнечного излучения и GPS-трекер. К этому перечню был добавлен также микрофон. С помощью такого оснащения исследователи получают сведения об уровне экологической нагрузки в разных районах города, а также весе и даже составе мусора. Данные о загрязнении воздуха в дальнейшем используются для прогнозирования экологической ситуации, в том числе в зависимости от погодных условий. Такие системы могут пригодиться городам, где размещаются опасные химические производства, чтобы быстро принимать решение об эвакуации людей и мерах устранения ядовитых выбросов36. Однако в случае перехвата контроля над этими системами ложные данные (которые с помощью ИИ будет возможно быстро опубликовать в социальных сетях или приложениях) могут стать инструментом крупной провокации и нанести ущерб репутации страны.
Компьютерные игры с использованием ИИ. Они могут повысить эффективность информационно-психологического воздействия, особенно на детские и подростковые аудитории. Власти Китая и Южной Кореи давно поднимали проблему зависимости подростков от компьютерных игр37. Анализ использования ИИ в этих целях — одна из перспективных задач исследователей. С точки зрения МИПБ особое внимание должно быть уделено компьютерным играм, получающим глобальное массовое распространение.
Заключение
СВА представляет собой регион со сложной геополитикой. Растет соперничество Китая с рядом стран, продолжается конфликт КНДР с США и их союзниками (Южной Кореей и Японией, между которыми, в свою очередь, сохраняется ряд разногласий). Всплески напряженности происходят все чаще и активнее. В настоящее время весь мир столкнулся с кризисом, вызванным пандемией коронавирусной инфекции, после которого ожидаются кардинальные изменения в
36 Муравьева Е. Как искусственный интеллект меняет жизнь в Японии: примеры трёх проектов // vc [Электронный ресурс]. URL: https://vc.ru/future/39478-kak-iskusstvennYY-intellekt-menYaet-zhizn-v-Yaponii-primerv-treh-proektov (дата обращения: 12.04.2020).
37 Матвеев П. В Китае радикально решают проблему зависимости детей от компьютерных игр // Первый канал [Электронный ресурс]. URL: https://www.1tv.ru/news/2019-11-08/375410-v kitae radikalno reshavut problemu zavisimosti detev ot kompvuternvh igr (дата обращения: 12.04.2020); Южная Корея приравняет компьютерные игры к наркотикам и алкоголю // RT [Электронный ресурс]. URL: https://russian.rt.com/article/19578 (дата обращения: 12.04.2020).
мире, в том числе в СВА. Современные конфликты часто разрешаются не военными средствами, а информационно-психологическими, при этом ИИ играет все более значительную роль. В СВА Китай, Япония и Южная Корея имеют наиболее развитые отрасли ИИ, поэтому в будущем в этих странах может получить распространение практика ЗИИИ с использованием не только импортной, но и в значительной, если не решающей, мере местной технологической базы. ЗИИИ в информационно-психологической сфере со временем может стать одним из важнейших инструментов дестабилизации социально-политических систем. Поэтому задача выявления и предотвращения ЗИИИ против МИНЬ имеет ключевое значение. Чтобы избежать угроз ЗИИИ, страны региона должны тесно сотрудничать в области ИИ, а исследователи и инженеры в области ИИ — осознавать двойное назначение выполняемой ими работы.
Мы привели далеко не полный спектр технологий ЗИИИ, представляющих угрозу МИНЬ, возможность или реальный опыт применения которых присутствует в странах СВА. Опасность ЗИИИ существенно повышается за счет применения этих технологий злоумышленниками в комплексе. К примеру, взломав систему идентификации (основанную на ИИ или нет, с помощью ИИ или без него) и проникнув в базу данных сотрудников спецслужбы, злоумышленник будущего, возможно, сможет изменить их фотографии так, что они станут похожи на лиц из базы данных разыскиваемых преступников. После этого с помощью механизмов ИИ гораздо легче разослать на огромную аудиторию информацию о том, что спецслужба нанимает в свои ряды криминалитет. По мере роста возможностей генерации разного рода поддельных данных будет расти угроза обучения продуктов ИИ на их основе. В равной степени такой угрозе могут подвергаться инструменты прогнозной аналитики, чат-боты, системы анализа тональности. Однако не стоит забывать, что угроза ЗИИИ носит прежде всего антропогенный характер (по крайней мере, на современном этапе развития ИИ). Следовательно, чтобы избежать многих угроз, самому обществу необходимо повышать свои знания об ИИ, одновременно осознавая и принимая коллективную ответственность за общее будущее.
Список литературы:
Ким С.С., Чой Й.С. Программа инновационных платформ как новый драйвер экономического роста Южной Кореи // Форсайт. 2019. Т. 13. № 3. С. 13-22. БОТ: 10.17323/2500-2597.2019.3.13.22.
Комиссина И.Н. Современное состояние и перспективы развития технологий искусственного интеллекта в Китае // Проблемы национальной стратегии. 2019. № 1(52). С. 137-160.
Костюкова К.С. Политика цифровой трансформация Японии на примере развития технологии искусственного интеллекта // Мир (Модернизация. Инновации. Развитие). 2019. Т. 10. № 4. С. 516-529. DOI: https://doi.org/10.18184/2079-4665.2019.10.4.516-529. Пашенцев Е.Н. Злонамеренное использование искусственного интеллекта: новые угрозы для международной информационно-психологической безопасности и пути их нейтрализации // Государственное управление. Электронный вестник. 2019. № 76. С. 279-300. DOI: 10.24411/2070-1381-2020-10013.
Akita H. Can Japan and China Move beyond a Tactical Detente? // East Asia Forum Quarterly. 2018. Vol. 10. No. 3. P. 9-10.
Averkin A., Bazarkina D., Pantserev K., Pashentsev E. Artificial Intelligence in the Context of Psychological Security: Theoretical and Practical Implications // 11th Conference of the European Society for Fuzzy Logic and Technology (EUSFLAT 2019). Atlantis Studies in Uncertainty Modelling. 2019. Vol. 1. P. 101-107. DOI: https://doi.org/10.2991/eusflat-19.2019.16.
Bazarkina D., Pashentsev E. Artificial Intelligence and New Threats to International
Psychological Security // Russia in Global Affairs. 2019. Vol. 17(1). P. 147-170.
DOI: https://doi.org/10.31278/1810-6374-2019-17-1-147-170.
Bueger C. What Is Maritime Security // Marine Policy. 2015. Vol. 53. P. 159-164.
Cairns C., Carlson A. Real-World Islands in a Social Media Sea: Nationalism and Censorship
on Weibo during the 2012 Diaoyu/Senkaku Crisis // The China Quarterly. 2016. Vol. 225.
P. 23-49. DOI: 10.1017/S0305741015001708.
Gentile G., Crane Y.K., Madden D., Bonds T.M., Bennett B.W., Mazarr M.J., Scobell A. Four Problems on the Korean Peninsula: North Korea's Expanding Nuclear Capabilities Drive a Complex Set of Problems. Arroyo Center. 2019. DOI: https://doi.org/10.7249/TL271. HorowitzM.C., Scharre P., Allen G.C., FrederickK., Cho A., Saravalle E. Artificial Intelligence and International Security. Washington: Center for a New American Security (CNAS), 2018.
Infrastructure, Ideas, and Strategy in the Indo-Pacific / ed. by J. Hemmings. London: Henry Jackson Society, 2019.
Karras T., Laine S., Aila T. A Style-Based Generator Architecture for Generative Adversarial Networks // arXiv of Cornell University 2019 [Электронный ресурс]. URL: https://arxiv.org/pdf/1812.04948.pdf (accessed: 14.09.2019).
Pantserev K.A. The Malicious Use of AI-Based Deepfake Technology as the New Threat to Psychological Security and Political Stability // Jahankhani H., Kendzierskyj S., Chelvachandran N., Ibarra J. (eds.) Cyber Defence in the Age of AI, Smart Societies and Augmented Humanity. Cham: Springer, 2020. P. 37-55. DOI: https://doi.org/10.1007/978-3-030-35746-7 3.
Pashentsev E. AI and Terrorist Threats: The New Dimension for Strategic Psychological Warfare // Bazarkina D., Pashentsev E., Simons G. (eds.) (Forthcoming) Terrorism and advanced technologies in psychological warfare: new risks, new opportunities to counter the terrorist threat. New York: Nova Science Publishers, 2020.
Pashentsev E. Malicious Use of Artificial Intelligence: Challenging International Psychological Security // European Conference on the Impact of AI and Robotics 31 October - 1 November 2019 at EM-Normandie Business School, Oxford, Conference Proceedings. Reading, UK: Academic Conferences and Publishing International Limited, 2019. P. 238-245.
Tsuchiyama J. The Balance of Power in Korea, and Japan // Japan Review. 2019. Vol. 2. No. 4. P. 29-33.
Zhang Y., Liu J., Wen J. Nationalism on Weibo: Towards a Multifaceted Understanding of Chinese Nationalism // The China Quarterly. 2018. Vol. 235. P. 758-783. DOI: 10.1017/S0305741018000863.
шш^е (Shiroyama H.). г^в
, 2013. ш620 щ. P. 29-43.
(Kamiya
те s^m^j, 2019. ш 1 2 щ. p. 47- 64.
Дата поступления: 26.03.2020
Pashentsev E.N., Phan C.N.A, Dam V.N.
Malicious Use of Artificial Intelligence in North-East Asia and Threats of International Psychological Security
Evgeny N. Pashentsev — DSc (History), Professor, Leading Researcher, Diplomatic Academy of the MFA of Russia; Professor, Lomonosov Moscow State University; Director of the International Center for Socio-Political Studies and Consulting. Moscow, Russian Federation.
E-mail: [email protected] ORCID ID: 0000-0001-5487-4457
Phan Cao Nhat Anh — PhD, Director of Center for Japanese Studies, Vietnam Academy of Social Sciences. Hanoi, Vietnam. E-mail: [email protected] ORCID ID: 0000-0002-2869-7618
Dam Van Nhich — PhD, Lecturer, Faculty of Computer Science, National Research University "Higher School of Economics", Moscow, Russian Federation. E-mail: mrnhich@mail. ru ORCID ID: 0000-0003-2682-1459
Abstract
This article examines current and future threats to international psychological security caused by the malicious use of artificial intelligence (AI) in North-East Asia (NEA). There was no regional security system in this region that would encompass and satisfy all countries in the region. Structures that focus on the interests of the United States and its allies are preserved. Negative psychological influences associated with various factors of international development are increasingly affecting the system of interstate relations in NFA. Recently, the pace of AI technology development in the region has increased dramatically, especially in China, Japan, and South Korea. The current research shows that AI raises threats to international psychological security (IPS) to a new level. At the same time, the use of AI to destabilize international relations through targeted high-tech psychological influence on the minds of citizens is an obvious and great danger. In the context of the main conflicts between the NEA countries, some existing and prospective methods of malicious use of AI that pose a threat to the IPS are identified. In order to avoid possible threats from malicious use of AI not only states, but also interested private and non-profit organizations should effectively interact. The risk of malicious use of AI is significantly increased due to the complex use of these technologies by asocial actors. However, we should not forget that the threat of AI is primarily anthropogenic (at least at the current stage of AI development). Therefore, in order to avoid many threats, society itself needs to increase its knowledge of AI, while simultaneously recognizing and accepting collective responsibility for the common future.
Keywords
Artificial intelligence, international psychological security, North-East Asia, malicious use of artificial intelligence, political conflicts.
DOI: 10.24411/2070-1381-2020-10069
References:
Akita H. (2018) Can Japan and China Move beyond a Tactical Detente? East Asia Forum Quarterly. Vol. 10. No. 3. P. 9-10.
Averkin A., Bazarkina D., Pantserev K., Pashentsev E. (2019) Artificial Intelligence in the Context of Psychological Security: Theoretical and Practical Implications. 11th Conference of the European Society for Fuzzy Logic and Technology (EUSFLAT 2019). Atlantis Studies in Uncertainty Modelling. Vol. 1. P. 101-107. DOI: https://doi.org/10.2991/eusflat-19.2019.16. Bazarkina D., Pashentsev E. (2019) Artificial Intelligence and New Threats to International Psychological Security. Russia in Global Affairs. Vol. 17(1). P. 147-170. DOI: https://doi.org/10.31278/1810-6374-2019-17-1-147-170.
Bueger C. (2015) What Is Maritime Security. Marine Policy. 2015. Vol. 53. P. 159-164.
Cairns C., Carlson A. (2016) Real-World Islands in a Social Media Sea: Nationalism and Censorship on Weibo during the 2012 Diaoyu/Senkaku Crisis. The China Quarterly. Vol. 225. P. 23-49.
Gentile G., Crane Y.K., Madden D., Bonds T.M., Bennett B.W., Mazarr M.J., Scobell A. (2019) Four Problems on the Korean Peninsula: North Korea's Expanding Nuclear Capabilities Drive a Complex Set of Problems. Arroyo Center. DOI: https://doi.org/10.7249/TL271.
Hemmings J. (ed.) (2019) Infrastructure, Ideas, and Strategy in the Indo-Pacific. London: Henry Jackson Society.
Horowitz M.C., Scharre P., Allen G.C., Frederick K., Cho A., Saravalle E. (2018) Artificial Intelligence and International Security. Washington: Center for a New American Security (CNAS).
Karras T., Laine S., Aila T. (2019) A Style-Based Generator Architecture for Generative Adversarial Networks // arXiv of Cornell University [Online]. Available: https://arxiv.org/pdf/1812.04948.pdf (accessed: 14.09.2019). Kim S.S., Choy Y.S. (2019) The Innovative Platform Programme in South Korea: Economic Policies in Innovation-Driven Growth. Forsayt. Vol. 13. No. 3. P. 13-22. DOI: 10.17323/2500-2597.2019.3.13.22.
Komissina I.N. (2019) Current State and Future Prospects for Artificial Intelligence Technologies in China. Problemy natsional'noy strategii. No. 1(52). P. 137-160. Kostyukova K.S. (2019) Digital Transformation Policy in Japan: The Case of Artificial Intelligence. Mir (Modernizatsiya. Innovatsii. Razvitiye). Vol. 10. No. 4. P. 516-529. DOI: https://doi.org/10.18184/2079-4665.2019.10.4.516-529.
Pantserev K.A. (2020) The Malicious Use of AI-Based Deepfake Technology as the New Threat to Psychological Security and Political Stabilit. In: Jahankhani H., Kendzierskyj S., Chelvachandran N., Ibarra J. (eds.) Cyber Defence in the Age of AI, Smart Societies and Augmented Humanity. Cham: Springer Nature Switzerland AG, 2020. DOI: https://doi.org/10.1007/978-3-030-35746-7 3.
Pashentsev E. (2019) Malicious Use of Artificial Intelligence: Challenging International Psychological Security. European Conference on the Impact of AI and Robotics 31 October -1 November 2019 at EM-Normandie Business School. Oxford, Conference Proceedings. Reading, UK: Academic Conferences and Publishing International Limited. P. 238-245.
Pashentsev E. (2019) Malicious Use of Artificial Intelligence: New Threats to International Psychological Security and Ways to Neutralize Them. Gosudarstvennoye upravleniye. Elektronnyy vestnik. No. 76. P. 279-300. DOI: 10.24411/2070-1381-2020-10013. Pashentsev E. (2020) AI and Terrorist Threats: The New Dimension for Strategic Psychological Warfare. In: Bazarkina D., Pashentsev E., Simons G. (eds.) (Forthcoming) Terrorism and advanced technologies in psychological warfare: new risks, new opportunities to counter the terrorist threat. New York: Nova Science Publishers.
Tsuchiyama J. (2019) The Balance of Power in Korea, and Japan. Japan Review. Vol. 2. No. 4. P. 29-33.
Zhang Y., Liu J., Wen J. (2018) Nationalism on Weibo: Towards a Multifaceted Understanding of Chinese Nationalism. The China Quarterly. Vol. 235. P. 758-783. DOI: 10.1017/S0305741018000863.
(Shiroyama H.) (2013)
. S620 P. 29-43.
(Kamiya M.)
(2019) rrM^TOJ ßfcfeßitöAIBJ
Jl^ . S 1 2 P. 47-64.
Received: 26.03.2020
