CC BY
59Технологические разработки в области искусственного интеллекта и сдерживание потенциального агрессора
Полковник запаса А.А. ПРОТАСОВ, доктор военных наук
Полковник А.В. ШИРМАНОВ, кандидат технических наук
С.И. РАДОМАНОВ
АННОТАЦИЯ
ABSTRACT
Проведен анализ современных технологий искусственного интеллекта и их потенциального влияния на решения в области сдерживания потенциального агрессора.
The paper analyzes modern artificial intelligence technologies and their potential impact on decisions in the area of deterring a potential aggressor.
КЛЮЧЕВЫЕ СЛОВА
KEYWORDS
Сдерживание, искусственный интеллект, большие лингвистические (языковые) модели, универсальный (сильный) интеллект, базисные нейросетевые модели, автоматизированные системы военного назначения, логический искусственный интеллект, нейросетевой искусственный интеллект, оценка обстановки, принятие решений, оценка достаточности ядерных и обычных вооружений.
Deterrence, artificial intelligence, large linguistic (language) models, universal (strong) intelligence, basic neural network models, automated military systems, logical artificial intelligence, neural network artificial intelligence, situation assessment, decision making, nuclear and conventional weapons adequacy assessment.
СЕГОДНЯ, в условиях быстро меняющейся международной обстановки, сдерживание имеет первостепенное значение. Это одна из основных стратегических функций любого государства, которая с различной степенью детализации затрагивается при обсуждении вопросов в области обороны и безопасности. Можно привести ряд примеров успешной реализации стратегии сдерживания как из нашей, так и из зарубежной истории, при этом нельзя не отметить, что многие века сдерживание было лишь тенью той абсолютной силы, какую оно обрело с появлением на мировой арене ядерного оружия. После этого, даже когда военные и гражданские аналитики разрабатывали способы применения такого оружия для победы в войнах, благоразумие продолжало возвращать политиков к сдерживанию.
Вместе с тем в последние годы мы наблюдаем значительное наращивание усилий ведущих зарубежных государств в области развития технологий искусственного интеллекта (ИИ), что говорит о том, что эта тема приобретает сверхважное значение. По сути, мы сейчас имеем мировую технологическую гонку в области ИИ. Ряд зарубежных государственных деятелей и предпринимателей даже заявляют о том, что внедрение технологий ИИ в ближайшее десятилетие по своей значимости может быть сопоставимо с распространением электричества в XIX и ХХ вв. Президент России В.В. Путин отметил: «Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира»1.
Как известно, история развития ИИ как комплексного междисциплинарного научно-технологического направления насчитывает более 50 лет с несколькими пиками интенсивности. В последние 10—12 лет наблюдается очередной пик в исследованиях и разработках в области ИИ. Причем на этот раз это значительно более мощный пик, чем в предыду-
щие периоды, как по выделяемым ресурсам, так и по масштабам и интенсивности исследований, а также по вниманию к ИИ высшего руководства и ведущих предпринимателей многих стран в связи с потенциально предполагаемыми огромными возможностями в этой области. Не приведет ли дальнейшее развитие и внедрение технологий ИИ в ближайшее время к ситуации, когда ядерное оружие перестанет быть единственно надежной гарантией защищенности, а целесообразность обладания им будет поставлена под сомнение?
Действительно, развитие технологий ИИ в последнее десятилетие все больше дает основания проводить аналогию с событиями 30—40-х годов прошлого века, когда экспериментальные и теоретические исследования в области радиохимии, а также ядерной, и в частности нейтронной физики, стремительно привели сначала к открытию в 1938 году реакции деления урана, затем в 1942-м — к первой цепной реакции*, и уже в 1945 году (всего лишь спустя 3 года) — к созданию атомной бомбы2'3. Нынешние обсуждения событий в области ИИ также полны тревожных высказываний, в частности с точки зрения этики, исчезновения ряда профессий и других. Однако в большинстве слу-
* «Что было дальше — известно всем. Первый ядерный реактор, спроектированный и сконструированный Энрико Ферми на теннисном корте Чикагского университета. Первая цепная реакция, осуществленная второго января 1942 года. Письмо Альберта Эйнштейна президенту США Теодору Рузвельту. Ман-хэттенский проект, Лос Аламос, бомбежка Хиросимы и Нагасаки, сотни тысяч жертв...»4.
чаев данные опасения принято относить к сравнительно отдаленному будущему, как правило, к 30—40-м годам. Анализ, проведенный автора-
ми, показывает, что уже на горизонте 2025—2030 годов возможно создание так называемого «универсального» (сильного) ИИ, способного кардинально изменить способы ведения современных военных действий и стать наряду с ядерным оружием одним из решающих факторов сдерживания. В статье делается попытка ответить на вопрос: какое будущее ждет использование технологий ИИ в интересах сдерживания, учитывая нынешние знания о текущем состоянии этих технологий? Каковы механизмы функционирования и специфические особенности сдерживания в контексте развития и применения технологий ИИ? Как использование технологий ИИ в военных целях может повлиять на подходы к сдерживанию?
Основные области применения тнологий искусственного интеллекта в интересах решения задач сдерживания
Внедрение технологий ИИ в военную сферу уже сейчас показывает высокую эффективность, особенно когда речь идет о нейросетевых технологиях** и об их применении в автоматизированных системах (подсистемах), где требуется обработка разных типов сенсорных (датчико-вых) данных (изображений, видео-, аудио-, радиолокационных, гидроакустических и др.), получаемых в режиме реального времени со средств
наблюдения (далее — автоматизированные системы (подсистемы) сбора информации, АСПСИ).
Совсем другое положение дел с внедрением технологий ИИ в автоматизированные системы (подсистемы), где преобладает обработка неструктурированной текстовой информации на естественном языке. Такого рода системы (подсистемы) в том числе имеют место в процессах управления войска-
** Здесь и далее авторы используют предложенную ими дихотомию5—8: «логический ИИ» — «нейросетевой ИИ». «Примеры... (первого направления) — это универсальные решатели задач, программы, способные на основании аксиом геометрии доказать все множество теорем школьной программы и, наконец, язык Пролог, экспертные системы и все, что с ними связано: базы знаний, логические модели, продукционные правила, семантические сети. Второе направление развития ИИ — это современные нейросетевые технологии машинного обучения, основанного на примерах, выявлении смыслов и скрытых закономерностей «по аналогии» (индуктивно). Такой искусственный интеллект можно условно назвать «нейросетевым ИИ». Сегодня его принято характеризовать как «слабый ИИ» (Narrow Artificial Intelligence)»9.
ми (силами) различных уровней, информационно-аналитических системах и др. В системах (подсистемах) такого рода (далее — автоматизированных системах (подсистемах) обработки текстов, АСПОТ) применение технологий ИИ сталкивается с серьезными научно-техническими проблемами. Это обусловлено тем, что уровни готовности нейросетевых технологий в АСПСИ, с одной стороны,
• в АСПОТ для создания требуемых текстовых информационных сервисов, таких как смысловое структурирование документов на естественном языке, смысловой поиск и др., технологии компьютерного зрения, разумеется, не применимы. На сегодняшний день уровень готовности нейросетевых технологий обработки естественного языка (Natural Language Processing, NLP) можно оценить лишь как 1—3 уровень, т. е. эти технологии находятся лишь на стадии научно-исследовательских работ.
В то же время именно в АСПОТ следует ожидать тех решающих примеров использования технологий ИИ, которые в обозримом будущем кардинально изменят привычные способы ведения военных действий и, в частности, окажут влияние на сдерживание в различных областях военной деятельности. Они могут в том числе привести к изменениям в планировании и ведении военных действий, сборе и использовании информации о своих силах и средствах, о противнике, об объектах инфраструктуры, о местности и т. п. Кроме того, необходимо учитывать,
и в АСПОТ, с другой, существенно различаются:
• в АСПСИ нейросетевые технологии ИИ применяются чаще всего для распознавания визуальных образов. Уровень готовности таких технологий вышел уже на 6—9* уровни. Один из успешных примеров такого применения — системы самонаведения на некоторых беспилотных барражирующих боеприпасах типа FPV-дронов (First Person View)10'11;
что внедрение этих технологий — это не просто использование конкретного оборудования, аппаратных или программных средств, этот процесс также может существенным образом повлиять на подходы к сдерживанию. Так, технологии ИИ могут изменить результаты расчетов ожидаемых издержек и предполагаемой выгоды, устранив неопределенность оценки обстановки, обеспечив повышенную рациональность принимаемых решений, уменьшив потери в живой силе и технике в ходе военных действий. Они могут изменить баланс между реализуемыми наступательными и оборонительными мерами, а также существенно повлиять на традиционные оценки достаточности как обычных, так и ядерных вооружений для решения задач сдерживания. Технологии ИИ могут обеспечить практически беспристрастное принятие решений на сдерживающие действия, полностью исключающие влияние эмоций человека и других биологических ограничений, предоставить возможность действовать на основе информации, поступающей в действительно реальном масштабе
* Уровень готовности технологий 6—9 (согласно ГОСТам Р 57194.1-201612 и Р 58048-201713) соответствуют стадиям опытно-конструкторских работ от создания модели и прототипа до подготовки к серийному производству.
времени от различных источников. Это, в свою очередь, может привести к повышению точности и решительности стратегий сдерживания, ускоряя процесс перехода от анализа
поступающих данных к принятию политических и военных решений, а затем и непосредственно к самим сдерживающим действиям на глобальном, региональном и локальном уровнях.
Текущее состояние применения технологий искусственного интеллекта в автоматизированных системах (подсистемах) обработки текстов
В настоящее время опыт применения технологий ИИ в АСПОТ только нарабатывается. Серьезным препятствием в этом является отсутствие каких-либо сертифицированных решений, предназначенных для использования в Вооруженных Силах Российской Федерации. В то же время в вооруженных силах иностранных государств такие системы уже применяются и даже апробируются в ходе военных действий в вооруженных силах Украины, например, система ситуационной осведомленности Palantir от компании Palantir Technologies Inc., США14—17. Также в начале июля 2023 года появились сообщения об успешных испытаниях, проводимых американскими военными на базе больших лингвистических моделей (Large Language Models, LLM, далее — БЛМ). «До последнего дня запрос информации в конкретную часть армии мог занимать у сотрудников несколько часов, но в ходе испытаний один из инструментов ИИ выполнил запрос за 10 минут... Не сообщается, какие именно БЛМ участвуют в испытаниях, хотя Scale AI, стартап из Сан-Франциско, утверждает, что его новый продукт Donovan входит в число тестируемых БЛМ-платформ. Долгосрочной целью учений является возможность использовать обработанные с помощью ИИ данные, в том числе с различных датчиков, для принятия решений по применению средств огневого поражения. Десятки компаний, включая Palantir Technologies Inc. и Anduril Industries Inc., разрабатывают платформы для
принятия решений на основе ИИ для Пентагона»18—21.
В то же время в области обработки текстов в последний год обозначились признаки прорыва, который, в свою очередь, является следствием появления около пяти лет тому назад предобученных больших (базисных) нейросетевых моделей (Foundation Models), основанных на архитектуре трансформер (BERT, GPT, Dall-E и других, им подобных), с числом параметров от 100 млрд и выше. Пред-обученные на сверхбольших корпусах текстов, эти нейромодели (рис. 1) стали фундаментом для построения на их основе стремительно расширяющегося дерева «потомков»: больших лингвистических (языковых) моделей (БЛМ) типа всем известного ChatGPT от американской компании OpenAI. Эти нейромодели способны решать самый широкий спектр задач и демонстрируют задатки того универсализма, который принято приписывать так называемому «сильному» ИИ (Artificial General Intelligence, AGI).
Создаются БЛМ, как известно, путем дообучения базисных нейро-сетевых моделей (БНСМ) самыми различными способами, в частности методом подкрепления с обратной связью от тренеров-экспертов (Reinforcement Learning with Human Feedback, RLHF). Все большую популярность приобретает общение с многочисленными «потомками» ChatGPT, такими как: Яндекс. Dialogues, основанным на языковой модели YaLM 2.0. от компании Ян-
Рис. 1. Генезис больших нейросетевых моделей
декс; Mail.ru Агент; SistemmaGPT на русском и английском языках от одноименной кампании Sistemma; Botmother и Chatfuel от одноименных компаний; GigaChat от «Сбера» и другими, а также с «родственниками» ChatGPT, к примеру: с Bingo от Microsoft и генеративными моделями типа Dall-E 2 от OpenAI, Imagen от Google, Stable Diffusion от StabilityAI, Kandinsky 2.1 от Сбербанка, Ше-деврум от Яндекса, Midjourney от одноименной компании и другими, а еще — с сотнями и тысячами других «внучатых» и «пра-правнучатых»
потомков БНСМ, дообучаемых различными группами исследователей. В ближайшее время следует ожидать взрывного роста такого рода «потомков БНСМ и БЛМ» (которых обобщенно относят к классу БЛМ). Все это необозримое семейство ней-ромоделей будет дообучать навыкам и знаниям применительно к самым разным областям и по самым разным методикам силами не только корпораций, но и большого числа частных исследователей-энтузиастов.
События в области технологий ИИ требуют самого серьезного вни-
В АСПОТ для создания требуемых текстовых информационных сервисов, таких как смысловое структурирование документов на естественном языке, смысловой поиск и др., технологии компьютерного зрения, разумеется, не применимы. На сегодняшний день уровень готовности нейросетевых технологий обработки естественного языка (Natural Language Processing, NLP) можно оценить лишь как 1—3 уровень, т. е. эти технологии находятся лишь на стадии научно-исследовательских работ.
мания и анализа не только потому, что уже сейчас создаются те решения, которые способны повысить эффективность действующих автоматизированных систем военного назначения, но еще в большей сте-
пени в связи с тем, что эти события предвещают возможность создания универсального (сильного) ИИ уже в течение 3—5 лет (т. е. даже быстрее, чем ранее прогнозировали авторы в своих публикациях22—25)*.
Переход больших лингвистических моделей на уровень сильного искусственного интеллекта
Опыт общения с БЛМ показывает, что они не только успешно поддерживают текстовый диалог в режиме «вопрос-ответ» (в том числе со ссылками на первоисточники как в Bingo от Microsoft и в Алисе от Яндекс), но и делают первые шаги в решении геометрических и других логических задач, в генерации изображений по текстовому описанию и т. д. Таким образом, нейросетевой ИИ начинает приобретать свойства универсального (сильного) ИИ, способного не только распознавать, структурировать
и «понимать» смысл «прочитанного-увиденного», но и рассуждать и синтезировать новые решения и знания, в том числе в областях, в отношении которых он не был заранее натренирован. При этом следует еще раз обратить внимание, что функционирование очень похожих на осмысленную речь различных современных «гово-рилок» (голосовых ассистентов), применяемых в чат-ботах, не является, строго говоря, «рассудочным сознанием». Полноценная модель «второй сигнальной системы»** только тогда
* Таким образом, задачи внедрения технологий ИИ в АС ОВУ и задачи перехода к универсальному искусственному интеллекту объективно оказываются неразрывно связанными друг с другом, выступают как две стороны одной и той же медали. Такая двойственность является неслучайной, подтверждая еще раз общеизвестный факт, что сознание (в его «сильном» понимании) является результатом функционирования так называемой второй сигнальной системы, образуемой процессами внутреннего (и с участием внешних акторов26) речевого проговаривания, т. е. текстовых преобразований, как это имеет место и в процессах деятельности ОВУ. Таким образом, задачи внедрения технологий ИИ в процессы автоматизации деятельности ОВУ с одной стороны, и задачи создания универсального ИИ, с другой стороны, являются двойственными по причине их текстовой (речевой) природы27. С учетом обострения межгосударственной конкуренции в рассматриваемой области исследований, временной интервал, который отведен для решения перечисленных выше задач (как в контексте автоматизации деятельности ОВУ, так и в процессах создания «универсального ИИ»), следует рассматривать в перспективе 2025—2030 гг. Это значит, что данные задачи требуют концентрации усилий высококвалифицированных специалистов, а также использования нестандартных решений как с технической, так и с организационной точек зрения28.
** «Вторая сигнальная система является специфической особенностью высшей нервной деятельности человека. Она оперирует «словом», которое обозначает конкретный раздражитель, поэтому слово является «сигналом сигналов» (по И.П. Павлову) и отражает действительность (предметы, явления окружающего мира и их отношения) в символьном виде. Слово позволяет человеку отвлечься от конкретных предметов и явлений, являясь основой развития абстрактного мышления»29.
начинает строить различные логические преобразования смыслов и по-настоящему (осмысленно) рассуждать, когда становится способна «осознанно» (логично) оперировать словами (словосочетаниями и т. д.) как символами-названиями, обозначающими смыслы: понятия или экземпляры (именованные сущности).
Таким образом, успехи современных БЛМ в решении логических задач можно рассматривать как полный аналог таких же процессов обучения представителей Homo sapience, когда на смену житейской рассудительности приходят твердо усвоенные законы логики с их применением не только для реше-
ния задач анализа, но и для синтеза новых решений и знаний. Отсюда следует, что успешность и быстрота перехода сегодняшних БЛМ на уровень сильного ИИ будет определяться уже не только (и не столько) мощностью архитектуры БНСМ, лежащих в их основе, сколько в первую очередь эффективностью тех методов, которые будут применяться для их обучения-воспитания. Можно ожидать, что здесь будут во многом востребованы те методы и «школы», которые за последние века были наработаны в области «человеческого» обучения-воспитания, например, в области программируемого обучения и др.
Соединение научно-технического задела логического и нейросетевого искусственного интеллекта
Кроме того, большие перспективы открываются для совместного использования того научно-технического задела, который был накоплен в последние десятилетия как в области логического ИИ, так и в области нейросетевого ИИ. В частности, очевидно, что уже в ближайшее время начнется переход от Reinforcement Learning Human Feedback, т. е. от обучения с участием тренера-человека к обучению Reinforcement Learning Expert System Feedback, т. е. к обучению с участием в качестве тренеров-воспитателей уже экспертных систем, а также с использованием бесчисленного множества других логических моделей, разработанных
человечеством за все годы существования электронных вычислительных машин.
Полученные в результате такого обучения-воспитания «экспертные нейросетевые модели» (ЭНСМ), в отличие от традиционных экспертных систем, будут свободны от упоминаемого авторами30'31'32 «родового изъяна» логического ИИ*: они будут достаточно успешно в автоматическом режиме решать задачу первоначального «узнавания», («познавания» и структурирования) семантических объектов входного потока данных как текстовой, так и других модальностей (изображений, видео-, аудио-, радиолокационной, гидроакусти-
* «Однако у систем «логического (символьного) ИИ» был (и остается до настоящего времени) существенный «родовой» изъян. Все они выдают абсолютно правильные решения-рекомендации, но при одном условии: все слова и словосочетания, поступающие на вход этих систем, должны быть абсолютно точно заменены теми смыслами (например, понятиями), которые дальше предназначаются для подстановки в различные формулы, например, предикатной алгебры»33.
ческой и др.). Кроме того, можно предположить, что, используя логико-понятийные преобразования, ЭНСМ будут безошибочно решать задачи анализа (в том числе дедуктивного) в тех областях знаний, которым они не были предварительно обучены. И, наконец, используя «затравки» в виде имеющихся мульти-модальных образов, ЭНСМ смогут успешно решать задачи синтеза, преодолевая «проклятие размерности» систем логического вывода и достигая способностей инсайта**,
Технологии ИИ (в форме ЭНСМ или в других формах УнСИИ) способны ускорить процесс сбора и оценки данных обстановки, принятия и реализации решений. Это может произойти за счет обработки с использованием технологий ИИ громадных объемов данных, обнаружения даже самых незначительных изменений в действиях противника, автоматизации решения задач управления как в физическом, так и в киберпро-странстве, обеспечения сверхвысокой скорости, точности и надежности, а также отсутствия необходимости в отдыхе. При этом применение технологий ИИ сможет обеспечить зна-
как это уже начинают демонстрировать многие генеративные нейромодели, упомянутые выше. Таким образом, ЭНСМ в недалеком будущем будут способны приобрести те свойства, которыми по определению*** должен обладать универсальный (сильный) ИИ (УнСИИ), т. е. будут способны рассуждать, сами искать книги и собеседников для дальнейшего обучения и, таким образом, решать самостоятельно самый широкий круг задач, объясняя ход своих рассуждений.
чительно более эффективную работу должностных лиц органов военного управления на всех уровнях, в первую очередь помочь аналитикам в обработке данных посредством обнаружения важных и не всегда очевидных связей между отдельными аспектами информации, в выявлении трудно осознаваемых информационных аномалий.
Технологии ИИ обеспечат оперативное соединение разрозненных фрагментов информации в картину ситуационной осведомленности, которая необходима как лицам, принимающим решения, так и военнослужащим непосредственно на поле
** Инсайт — это понятие использовалось Карлом Дункером и Максом Верт-геймером в качестве свойства человеческого мышления, при котором решение достигается путем умозрительного постижения целого, а не в результате подробного анализа. В терминах Я.А. Пономарева34 инсайт представляет собой результат работы интуитивных, неосознаваемых, древних процессов поиска решения35.
*** «.в) перспективные методы искусственного интеллекта — методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы)»36.
боя. Также технологии ИИ смогут аналогичным образом повысить возможности органов военного управления в отношении военного планирования, логистики, коммуникации, комплектования армии, мероприятий оперативной подготовки, развертывания войск (сил) и т. д. Технологии ИИ, которые лучше координируют механизмы подготовки и ведения военных действий, смогут сделать особенно сложные мероприятия в рамках сдерживания более убедительными и осуществимыми. Автоматизация анализа данных предоставит органам военного управления и в целом вооруженным силам выгодное преимущество перед противником.
В совокупности эти факторы могут привести к ситуации, в которой данные будут обрабатываться практически в реальном масштабе времени, предоставляя лицам, принимающим решения, большую осведомленность и больше вариантов действий за гораздо меньший промежуток времени.
Факторы, приводящие к вышеописанной ситуации, могут в дальнейшем привести к способности предвидеть и упреждать следующий шаг противника. В ближайшем будущем предоставление со стороны УнСИИ лицам, принимающим решения, альтернативных вариантов, основанных на всеобъемлющей оценке огромного массива данных на тактическом, оперативном и стра-
тегическом уровнях, может убедить переложить часть важных задач, включая выбор целей, на вычислительные машины. В конечном итоге это может привести к пересмотру текущих гипотез и планов относительно подходов к автоматизации военных действий. В долгосрочной перспективе предоставление лицам, принимающим решения, уникальных советов, вытесняющих сформированные человеком предложения, может способствовать подтверждению ценности УнСИИ в обеспечении ситуативной информированности, а также в ее использовании для прогнозной аналитики. Путем объединения усовершенствованного анализа прошлых действий противника с его настоящими действиями может быть продемонстрирована возможность со стороны УнСИИ прогнозировать следующий шаг оппонента. В этом случае обороняющиеся смогут предпринимать упреждающие меры, влиять на поведение противника и сдерживать его при необходимости. Со временем, когда противник удостоверится, что его оппонент использует УнСИИ в целях предугадывания его поведения, нежелательных действий с его стороны может вовсе не последовать. В результате есть вероятность возникновения чего-то подобного всеобщему сдерживанию или абсолютной стратегической стабильности, усиленной применением технологий ИИ.
Возможные риски при решении задач сдерживания, возникающие в результате использования технологий искусственного интеллекта
Однако необходимо учитывать, что возможен и обратный эффект. Применение технологий ИИ может привести к провалу сдерживания и к стратегической нестабильности по ряду причин.
Так, можно предположить, что на определенном уровне развития тех-
нологий ИИ одна ядерная держава придет к выводу об имеющейся у нее возможности определить местоположение, оперативно нацелить средства поражения и уничтожить все носители ядерного оружия другой державы (что практически невозможно в настоящее время). При этом другая
ядерная держава, также используя технологии ИИ, подтвердит в своих расчетах возможности первой. Тогда уязвимое государство может быть особенно склонно к более быстрому применению имеющегося у него ядерного потенциала, рискуя в принципе его лишиться. Кроме того, это государство может посчитать, что для нейтрализации способности противника обнаружить и уничтожить имеющееся ядерное оружие потребуется иметь у себя гораздо больше такого оружия, что в конечном счете приведет к неконтролируемой гонке вооружений, а в мировом масштабе — к распространению ядерного оружия.
Необходимо иметь в виду, что в условиях, когда техническим
устройствам предоставлена возможность давать оценку развитию событий в ходе военных конфликтов, существует вероятность непреднамеренного увеличения количества незначительных алгоритмических сбоев, которые будут способны привести к непредвиденным и полностью спровоцированным со стороны ИИ (в форме УнСИИ или в любой другой форме) провалам сдерживания*. При этом с того момента как нападающие, так и обороняющиеся начнут полагаться на ИИ для управления поведением, сами системы станут взаимодействовать друг с другом уникальными (и непредвиденными) способами.
* Один из примеров непредвиденного сбоя в работе системы обнаружения стартов средств воздушного нападения и его последствиях приводит Дэниел Эллсберг в книге «Машина судного дня», рассуждая о неопределенности и неоднозначности влияния на сдерживание тактического предупреждения о ракетном нападении.
Так, через некоторое время после ввода в строй радары радиолокационного комплекса BMEWS засекли отраженный от Луны сигнал, когда она всходила над Норвегией и идентифицировали его как неопознанные летающие объекты, приближающиеся к территории США. При этом компьютер системы предупреждения выдал 99,9 %-ную вероятность ракетного нападения на США. Большинство присутствующих на командном пункте NORAD были в полной уверенности, что началась ядерная война. Одно обстоятельство заставило некоторых должностных лиц в NORAD счесть сигнал более неоднозначным, чем компьютерные 99,9 %, — пребывание в Нью-Йорке первых лиц СССР, участвующих в ассамблее ООН.
Следствием такого взаимодействия может стать война, в ходе которой может произойти непреднамеренный обмен ядерными ударами. Такой непреднамеренный конфликт может возникнуть в результате каскадного эффекта автоматизированных процессов и реакций между двумя противоборствующими сторонами, использующими ИИ. Так как принимающие решения лица могут
не успевать оценить риски в условиях кризиса, они могут использовать технологии ИИ в целях решения проблемы дефицита времени, свойственного таким кризисным периодам. Однако в ходе сдерживания необходимо учитывать мысли противника и его мотивацию, поэтому одной из основных причин неудачного сдерживания может быть неспособность понять оппонента. По мере постепенной за-
мены человеческой рациональности беспристрастными холодными вычислениями применение технологий ИИ может привести к трансформации традиционных принципов сдерживания.
Кроме того, необходимо учитывать, что применение технологий ИИ в ходе сбора и обработки информации наверняка приведет к тому, что количество этой информации будет определяться не способностью людей что-то написать, оценить или усвоить, а тактовой частотой процессора. В таких условиях борьба на «машинной скорости» может изменить расчет и обоснование действий. Если принятие решений на основе технологий ИИ даст одной стороне конфликта преимущество в качестве быстрого и решительного реагирования, то другая сторона, если это возможно и целесообразно, будет в итоге подражать этим процессам и полагаться на них. Но по мере того, как обе стороны конфликта начнут полагаться на машины в вопросах принятия решений, качество обоснования этих решений, генерируемых со стороны ИИ, может со временем снизиться, поскольку ИИ одной стороны будет отвечать и реагировать на ИИ другой стороны со скоростью, превышающей возможности человека (или скорость контроля). Другими словами, результаты, генерируемые с помощью технологий ИИ, могут резко стать неактуальными, и возможности качественного превосходства могут быть нивелированы. В этом случае ценность быстрого нанесения удара первым может возобладать над иными возможными вариантами действий, перечеркивая результаты прежних расчетов, например по принуждению или деэскалации.
И наконец, оценка превосходства одной из сторон в отношении ИИ может быть неправильно интерпретирована другой, что приведет
к неверному расчету принудительных действий. Оппонент, находясь в роли наблюдателя, может оказаться не в состоянии правильно оценить мощь противника, когда эта мощь сама по себе является производной от уровня ИИ. По сравнению с традиционными представлениями о потенциале, такими как возможности экономики по выпуску различных видов продукции, тип и количество боевых средств или качество военного руководства, потенциал ИИ в меньшей степени поддается измерению. Если противник не осведомлен о потенциале оппонента, он не может быть мотивирован на отказ от нежелательного поведения. При этом обороняющемуся весьма сложно точно и четко доказать противнику наличие потенциала ИИ, даже если бы он этого захотел. С одной стороны, практически невозможно доказать наличие потенциала, если этот потенциал является программой электронно-вычислительной машины. С другой стороны, не имеет смысла делиться с противником особенно действенным алгоритмом в качестве доказательства.
Таким образом, влияние применения технологий ИИ на перспективы сдерживания носит многогранный и неоднозначный характер.
Технологии ИИ могут предоставить возможность сбора и анализа огромного объема информации, поступающей в реальном масштабе времени из различных источников, ускоряя процесс перехода от анализа данных к принятию решений, а затем к принудительным действиям.
Общий темп действий во всех областях принуждения во время конфликтов, кризисов и войн на глобальном, региональном и локальном уровнях может существенно возрасти.
Технологии ИИ могут изменить представления о размерах предполагаемых издержек и ожидаемых выгод,
о балансе между наступательными и оборонительными мерами, о результатах расчетов в области обычного и ядерного сдерживания, устранив неопределенность в оценке обстановки, обеспечив практически абсолютную беспристрастность политических и военных решений, полностью исключив влияние человеческого фактора.
Перечисленные обстоятельства могут привести к ситуации, в которой обе стороны удостоверятся, что оппонент, используя технологии ИИ, способен предугадывать поведение визави, и, как следствие, в дальнейшем вовсе не последует нежелательных действий ни с одной из сторон. В результате может возникнуть некое подобие всеобщего сдерживания, или абсолютной стратегической стабильности, усиленной технологиями ИИ.
Но эти же обстоятельства могут привести и к более высокому риску непреднамеренной эскалации на почве уверенности в иллюзорно гарантируемом превосходстве и склонности к риску. Кроме того, необходимо учитывать, что оппонента весьма сложно убедить в наличии потенциала сдерживания, основным элементом которого являются технологии ИИ, реализованные в программе для электронно-вычислительной машины.
В целом можно ожидать, что влияние технологий ИИ на сдерживание будет значительным. При этом по мере дальнейшего развития собственно самих технологий, а также подходов к совершенствованию их более масштабного интегрирования в оборонную инфраструктуру, оценки такого влияния целесообразно подкреплять результатами эмпирического анализа.
В части, касающейся развития самих технологий ИИ, следует обратить внимание в первую очередь на ту роль, которую в настоящее время играют высокопроизводительные
электронно-вычислительные машины (далее — суперкомпьютеры). Возвращаясь к аналогии, проведенной во введении к настоящей статье, можно сказать, что роль суперкомпьютеров в развитии современных технологий ИИ и в том числе в развитии больших лингвистических (языковых) моделей и в продвижении к универсальному (сильному) ИИ во многом сходна с темой использования в свое время циклотронов при наработке знаний, необходимых для создания первой атомной бомбы, в частности исследований свойств плутония-9437. Конечно, можно медленно и мучительно нарабатывать необходимый объем экспериментов, обходясь без суперкомпьютеров, так же как в начале 40-х годов прошлого века большинство исследователей ограничивались радио-бериллиевы-ми источниками нейтронов. Однако первыми странами, создавшими ядерное оружие, оказались именно те, которые обладали не только передовой научной школой, но и самыми мощными в то время циклотронами, а именно США и СССР. В связи с этим, опираясь на представленный в данной статье анализ, представляется важным еще раз обратить внимание на необходимость решительного переоснащения лабораторно-экспе-риментальной базы тех организаций Минобороны России, которые проводят и будут дальше проводить исследования в области применения технологий ИИ в автоматизированных системах военного назначения.
Кроме того, для преодоления отставания в рассматриваемой области отечественным предприятиям оборонно-промышленного комплекса необходимо нарабатывать соответствующий опыт применения БЛМ. На первом этапе следует сосредоточиться на решении задач ситуационной осведомленности (в том числе по многочисленным мультимодальным
источникам данных). Одновременно на основании наработанного опыта необходимо будет создать полный
ПРИМЕЧАНИЯ
1 Всероссийский открытый урок «Россия, устремленная в будущее»: стенографический отчет // Президент России [сайт]. URL: http://kremlin.ru/events/ president/news/55493 (дата обращения: 11.08.2022).
2 Собе-Панек М. Цепная реакция открытий // LiveJournal: сайт. 09.10.2012. URL: https://sobe-panek.livejournal.com/205347. html (дата обращения: 06.07.2023).
3 Оглоблин А.А. Циклотрон в атомных проектах // Курчатовский институт. История атомного проекта. 1997. Вып. 12. С. 5—44. URL: http://elib. biblioatom.ru/text/kiae-istoriya-atomnogo-proekta_v12_1997/go,5/ (дата обращения: 06.07.2023).
4 Собе-Панек М. Цепная реакция открытий.
5 Протасов А.А., Ширманов А.В., Ра-доманов С.И. Перспективы развития искусственного интеллекта и задачи разработчиков оборонно-промышленного комплекса в контексте автоматизации деятельности органов военного управления // Сборник докладов X Форума по цифровизации оборонно-промышленного комплекса России ИТОПК. М.: CONNECT, 2021. С. 147—149.
6 Перспективы развития искусственного интеллекта в контексте автоматизации деятельности органов военного управления / А.А. Протасов, А.В. Ширманов, С.С. Захаров [и др.] // Сборник докладов и выступлений научно-деловой программы Международного военно-технического форума «АРМИЯ-2021». М., 2021. С. 412—417.
7 Протасов А.А., Ширманов А.В., Ра-доманов С.И. Современные задачи автоматизации органов военного управления на базе технологий искусственного интеллекта // Военная Мысль. 2022. № 4. С. 79—87.
стек отечественных доверенных решений (инструментальных средств) для работы с БНСМ и БЛМ.
8 Елистратов В.В. и др. Критически важные направления исследований по искусственному интеллекту в части, касающейся автоматизированных систем / В.В. Елистратов, А.А. Протасов, А.В. Ширманов, С.И. Радоманов // Сборник докладов X Форума по цифровиза-ции оборонно-промышленного комплекса России ИТОПК. М.: CONNECT, 2022. С. 143—145.
9 Протасов А.А., Ширманов А.В., Радо-манов С.И. Перспективы развития искусственного интеллекта...
10 В РФ разработали новую систему самонаведения для FPV-дронов // Дзен: сайт. 14.08.2023. URL: https:// dzen.ru/a/ZNmzT2GWijJkTk34?utm_ referer=yandex.ru (дата обращения: 20.08.2022).
11 В России создали новую систему для дронов, повышающую точность атак // РИА. Новости: сайт. 14.08.2023. URL: https://ria.ru/20230814/fpv-dron-1889873833.html (дата обращения: 20.08.2023).
12 ГОСТ Р 57194.1-2016. Трансфер технологий. Общие положения: национальный стандарт Российской Федерации: введен впервые: дата введения:
2017-05-01. М.: Стандартинформ, 2016.
II, 9 с.
13 ГОСТ Р 58048-2017. Трансфер технологий. Методические указания по оценке уровня зрелости технологий: национальный стандарт Российской Федерации: введен впервые: дата введения:
2018-06-01. М.: Стандартинформ, 2018.
III, 37 с.
14 Чуйков А. Palantir разработала новый интернет-продукт, позволяющий артиллерии ВСУ быстро находить цели // Аргументы Недели. Армия: сайт. 18.10.2022. URL: https://argumenti.ru/ army/2022/ 10/794674 (дата обращения: 20.08.2023).
15 Украина обходит Россию «с фланга» благодаря программному обеспечению компании Palantir // Рамблер. Новости: сайт. 27.12.2022. URL: https://news. rambler.ru/weapon/49945651-ukraina-obhodit-rossiyu-s-flanga-blagodarya-programmnomu-obespecheniyu-kompanii-palantir/ (дата обращения: 20.08.2023).
16 ГраничныйЕ. Palantir — меч западной разведки // Дзен: сайт. 28.01.2023. URL: https://dzen.ru/aZY9USXkK8sCRXJbHp (дата обращения: 20.08.2023).
17 О передовых IT-технологиях, которые использует ВСУ в противостоянии на Украине // The Washington Post. 02.02.2023. URL: https://dubna.ru/article/2023/02/o-peredovyh-it-tehnologiyah-kotorye-ispolzuet-vsu-v-protivostoyanii-na-ukraine (дата обращения: 20.08.2023).
18 Американские военные дали искусственному интеллекту доступ к секретным сведениям // RU POSTERS: сайт. URL: https://ruposters.ru/news/06-07-2023/ amerikanskie-voennie-vnedryayut-model-iskusstvennogo-intellekta (дата обращения: 06.07.2023).
19 См. Palantir запускает платформу искусственного интеллекта для ведения войны // TimeAI.RU: сайт. 27.04.2023. URL: https://timeai.ru/palantir-zapuskaet-platformu-iskusstvennogo-intellekta-dlja-vedenija-vojny/ (дата обращения: 20.08.2023).
20 См. Агеев А. Palantir представила искусственный интеллект, способный участвовать в войне // Новости науки и техники. Софт: сайт. 02.05.2023. URL: https://www.techcult.ru/soft/12170-palantir-predstavila-iskusstvennyj-intellekt (дата обращения: 20.08.2023).
21 См. Bruno Macaes. How Palantir Is Shaping the Future of Warfare // Time. Ideas. Technology. 10.07.2023. URL: https://time. com/6293398/palantir-future-of-warfare-ukraine/ (дата обращения: 20.08.2023).
22 Протасов А.А., Ширманов А.В., Радоманов С.И. Перспективы развития искусственного интеллекта и задачи разработчиков оборонно-промышленного
комплекса в контексте автоматизации деятельности органов военного управления // Сборник докладов X Форума по цифровизации оборонно-промышленного комплекса России ИТОПК. М.: CONNECT, 2021. С. 147—149.
23 Перспективы развития искусственного интеллекта в контексте автоматизации деятельности...
24 Протасов А.А., Ширманов А.В., Радоманов С.И. Современные задачи автоматизации.
25 Елистратов В.В. и др. Критически важные направления исследований.
26 Седокова М.Л., Казионова Л.Ф., Томова Т.А. Возрастная анатомия, физиология и гигиена: учебное пособие. 2-е изд., перераб. и доп. // Электронная библиотека Пензенского государственного университета. URL: http://elib.pnzgu. ru/library/1587818557 (дата обращения: 20.03.2022).
27 Протасов А.А., Ширманов А.В., Ра-доманов С.И. Современные задачи автоматизации...
28 Там же.
29 Седокова М.Л., Казионова Л.Ф., Томова Т.А. Возрастная анатомия, физиология и гигиена.
30 Протасов А.А., Ширманов А.В., Радоманов С.И. Перспективы развития искусственного интеллекта.
31 Перспективы развития искусственного интеллекта в контексте автоматизации деятельности.
32 Протасов А.А., Ширманов А.В., Радоманов С.И. Современные задачи автоматизации.
33 Протасов А.А., Ширманов А.В., Радоманов С.И. Перспективы развития искусственного интеллекта.
34 Пономарев Я.А. Психика и интуиция. М.: Издательство политической литературы, 1967. 256 с.
35 Граничный Е. Palantir — меч западной разведки.
36 О передовых IT-технологиях, которые использует ВСУ...
37 Оглоблин А.А. Циклотрон в атомных проектах.
