CC BY-NC-ND
33
Информационная безопасность и защита информации
В.Р. Григорьев
Модели выявления внешних деструктивных управляющих воздействий на социальные сети на основе механизма противоопухолевого иммунитета
В данной статье рассмотрен способ построения модели выявления внешних деструктивных управляющих воздействий на социальные сети (СС) на основе механизма противоопухолевого иммунитета. Исследованы механизмы выявления деструктивных управляющих воздействий на социальные сети, представленные в виде самоорганизующейся динамической среды, и противодействия им средствами внутреннего противоборства. Процесс и способы организации внутреннего противоборства реализованы на основе формализации работы иммунной системы организма человека.
Ключевые слова: сложные динамические системы; модели противоборства; социальные сети; деструктивные управляющие воздействия; иммунология; акторы-деструкторы сети.
Социальные сервисы являются инструментом проведения различных кампаний: маркетинговых, общественно-политических, социальных. В основе успеха вышеперечисленных кампаний лежит производимое ими социальное влияние на аудиторию, представляющую интерес для организаторов проводимой кампании. Под влиянием1 понимается процесс и результат изменения субъектом (субъект влияния) поведения другого субъекта (индивидуального или коллективного объекта влияния), его мнения, установок, намерений, представлений и оценок (а также основывающихся на них действий) в ходе взаимодействия с ним. Известно, что мнение субъекта в социальной сети (СС) в значительной мере определяется мнением других влиятельных для него соседей. Это отражено в таких работах как «Модели информационного влияния и информационного управления в социальных сетях»2, «Обзор онлайновых систем репутации/
© Григорьев В.Р., 2017
доверия»3, «Модели репутации и информационного влияния в социальных сетях»4, «Социальные сети: модели информационного влияния, управления и противоборства»5. Зная это, некто за пределами сети или внутри нее для достижения своих целей, в том числе деструктивных, может попытаться изменить мнения небольшого множества ключевых пользователей популярных сетевых сервисов в нужном для него направлении.
Исследование данного вопроса, ведущегося в ведущих научных центрах как за рубежом, так и у нас в стране, является весьма масштабным и актуальным, так как механизмы такого влияния активно используются террористическими организациями, например ИГИЛ, для распространения своего влияния и своих экстремистских идей в социальных сервисах Интернета, и прежде всего в СС. Известно, что именно социальные сети, объединяющие близких по взглядам и мотивации участников (акторов) информационной среды виртуального общения, стали эффективным инструментом перехвата власти в ряде стран, реализуя на практике стратегию «непрямых действий» по взятию власти «бескровным» путем. Примеры подобных событий описываются в работах А.Г. Караяни6 и Ю.А. Матвиенко7. Математически доказано, что как только число людей с непоколебимыми убеждениями достигает 10%, их убеждения будут с большей долей вероятности со временем приниматься большинством8. СС и являются тем эффективным инструментарием, который позволяет достигнуть этой планки перехода общества в новое состояние в момент, когда оно находится в неустойчивом состоянии, т. е. в так называемой точке бифуркации9.
Целью настоящей работы является построение и анализ модели поведения сложной динамической сети в условиях внешних деструктивных управляющих воздействий и организации внутреннего противоборства им (на примере социальных сетей) на основе формализации механизма противоопухолевого иммунитета.
Социальная сеть - коллектив акторов Понятие коллектива
Под социальной сетью понимается множество акторов (агентов, точек, вершин), которые могут вступать во взаимодействие друг с другом10.
Социальные сети в настоящее время являются эффективным инструментом преобразования общества, распространения
научного и технического знания, формирования коллективов и общественных движений. С другой стороны, события на Ближнем Востоке и в Северной Африке, а также в постсоветских странах (Грузия, Молдавия, Украина, Киргизия и др.) являются достаточно убедительным аргументом в пользу констатации очевидного фактора использования социальных сетей для организации массовых деструктивных «протестных выступлений», заканчивающихся той или иной формой совершения «цветной революции».
Рассмотрим участника СС как модель динамической системы.
Под динамической системой будем понимать систему, в которой, во-первых, определено в каждый момент времени ее состояние и, во-вторых, это состояние изменяется со временем. Если количество элементов системы больше одного, то состояние системы в каждый момент времени представляет собой некоторый конечный набор чисел. Этот набор можно отождествить с точкой линейного пространства соответствующей размерности. Тогда последовательные изменения состояния системы образуют некоторую последовательность точек в этом пространстве. Эта последовательность называется траекторией системы, а само пространство - фазовым пространством системы. Как правило, траекторию системы можно представлять в виде кривой в фазовом пространстве, имеющей начальную точку и бесконечно удлиняющейся. Однако практически в каждой системе существуют элементы, значение которых не меняется со временем. Такое состояние называется равновесным. Свойство равновесных состояний заключается в том, что если начальное состояние системы есть некоторое равновесное, то и все последующие - тоже равновесные состояния, траектория которых не выходит из равновесной точки и называется поэтому стационарной.
Если же в качестве начального состояния системы взято состояние вблизи равновесной точки, то различают три основных возможных варианта развития событий. Первый: каждая такая траектория (выходящая из любой точки, близкой к равновесной) стремится вернуться в близкую к равновесной. Тогда такая равновесная точка (состояние) называется притягивающей. Второй: каждая траектория (выходящая из точки, близкой к равновесной) стремится от нее удалиться. Такая равновесная точка называется отталкивающей. И, наконец, третий: в окрестности равновесной точки наблюдаются оба типа поведения; такая точка называется седловой. В общем, тип точки на траектории поведения системы в фазовом пространстве зависит от значений параметров самой системы.
С практических позиций описанные три возможных типа равновесных точек не равноценны: устойчивость точки на траектории означает, что малые отклонения от равновесного состояния, обусловленные различными внешними причинами, не приводят к «уходу» траектории системы из окрестности данной точки, и система в этом состоянии устойчива. Неустойчивость равновесной точки означает, что малейшая флуктуация состояния системы приведет к уходу траектории из окрестности, т. е. произойдет (быть может) значительное изменение ее состояния. В случае наличия седловой точки случайное отклонение может и не привести к подобным далеко идущим последствиям - если повезет. Однако из общей теории динамических процессов следует, что вероятность такого везения равна нулю (если специально не контролировать смещение из седловой точки). Таким образом, практически можно различать только два типа равновесных точек - устойчивые и остальные.
Будем считать, что на основе различных элементов обращаемой информации (в данном случае каждая категория информации - элемент динамической системы) формируются определенные ценности, такие как, например, отношение к политической ситуации, политические и религиозные взгляды или предпочтения участника СС в данный момент. Под влиянием различных факторов убеждения извне мировосприятие участника СС меняется, так что возникает траектория поведения участника СС как некоего коллектива.
Существует общая теория, принадлежащая А.А. Ляпунову и позволяющая установить характер равновесной точки. Методы теории Ляпунова широко развиты в большом количестве последующих работ. Исходя из методологического аппарата использования теории Ляпунова, мы в данной работе будем рассматривать динамические системы, описываемые дифференциальными уравнениями. Для таких систем, согласно теории, критерием устойчивости равновесного состояния является расположение некоторого конечного множества (спектра линейного приближения) на плоскости. Если все это множество расположено строго слева от мнимой оси - равновесная точка устойчива, если точки по обе стороны мнимой оси - это седло. Если все точки справа от мнимой оси - неустойчивая равновесная точка. Нас интересует поведение траекторий динамических систем вблизи равновесной точки при следующих обстоятельствах. Предположим, что имеется некоторое (как правило, конечное) количество динамических систем, однотипных в том смысле,
что каждая из них представляет собой один и тот же динамический процесс, имеющий, возможно, разные значения параметров. В нашем случае мы рассматриваем различных участников СС. Такие системы в дальнейшем будем называть элементарными, или точечными.
Предположим по аналогии с биофизическими объектами11, что в СС существует некоторая структура попарного обмена информацией (веществом) между динамическими системами этого множества. Такая структура может быть задана указанием списка пар динамических систем, между которыми происходит обмен, контентом (наименованием субстрата) обмена и указанием интенсивности обмена. Исходя из предложенной аналогии с СС, рассмотрим обмен информацией между членами одной СС.
Такую систему - конечный набор динамических систем (моделей) и структуру связи между ними - естественно назвать коллективом и подчеркнуть это определение следующей символической формулой: коллектив = конечный набор объектов + структура связи между объектами.
Далее будет рассмотрен вопрос влияния произвольной структуры связи (внедренного агента для управления СС) на стабильность неподвижной точки системы взаимодействующих элементарных моделей (стабильность коллектива - общее социальное настроение участников СС).
Если хотя бы одна из элементарных систем находится в положении нейтрального равновесия, а остальные в положении устойчивого равновесия, то возникновение структуры связи может, вообще говоря, либо стабилизировать всю систему, либо сделать ее неустойчивой. Более того, даже если все элементарные системы находятся в положении устойчивого равновесия, то возникновение структуры связи может увеличить или уменьшить расстояние между спектром и мнимой осью (расстояние измеряется как расстояние между двумя множествами). В этом случае будем говорить, что структура связи соответственно повышает или понижает устойчивость всего набора элементарных систем. Таким образом, мы можем провести аналогию: при возникновении структуры связи - внедренный агент ^ «рядовой» участник СС возможно изменение устойчивости коллектива (общего настроения всех участников СС). Данное изменение может привести к различного рода последствиям, которых добиваются злоумышленники (социальная нестабильность общества: конфликты на расовой почве, цветные революции и т. д.)
Основные условия стабилизации коллектива
Пусть имеется некоторый двухкомпонентный динамический процесс, состояние которого в каждый момент времени описывается значением двумерного вектора Х = (х, у), а эволюция во времени описывается динамической системой X = /(X, Р), где / = (ф, у) -также двумерная вектор-функция; Р - набор параметров данного процесса, выделяющий его в ряду однотипных. Пусть далее задан конечный набор динамических систем вида
X = / X Р ) i = 1 2 N. О)
Системы, входящие в этот набор, будем называть элементарными.
Этот набор можно рассматривать как единую динамическую систему, однако при отсутствии дополнительных требований к нему эволюция каждой элементарной системы осуществляется независимо от остальных и определяется начальным состоянием Х(0) и значением_набора параметров Р. В этих условиях равновесное состояние XX системы (1) определяется, очевидно, равновесными состояниями элементарных систем, ее составляющих: X = (Х;, ..., Хдт). Аналогично, спектр линейного приближения набора (1) в равновесной точке XX является объединением спектров линейных приближений элементарных систем в соответствующих равновесных точках X, ..., XN. Описанное конечное множество динамических систем не является коллективом в принятом нами смысле. Поэтому назовем эту систему «предколлективом». Далее будем считать, что спектр линейного приближения каждой из элементарных систем не кратен и не содержит нуля.
Положим теперь, что между элементарными системами осуществляется взаимосвязь путем обмена информацией по одноименным компонентам вектора X. По каждой компоненте взаимосвязь между системами определяется списком номеров пар, между которыми производится обмен (с учетом направления потока информации), и значением интенсивности такого обмена для каждой пары (также с учетом направления). Такую структуру удобно описывать с помощью сети Б, представляющей собой, по определению сети, взвешенный граф С = N Г, С), где N - множество вершин (элементарных систем); Г -множество дуг графа, описывающих пути обмена между всевозможными парами элементарных систем; С - набор интенсивностей обмена по каждой дуге уеГ (слово «взвешенный» как раз и означает, что с каждой дугой графа сопоставлено число - «вес» дуги). Таким обра-
зом, если в данной компоненте существует поток информации из 5-й в г-ю элементарную систему, то существуют дуга у.5еГ и положительное число с5е С, отражающее интенсивность этого потока.
Очевидно, что структура обмена в данной компоненте зависит, в частности, от содержательного характера этой компоненты, т. е. различные компоненты могут иметь различные структуры обмена.
Наличие обмена порождает новую динамическую систему (назовем ее О-связной системой), которая в координатной записи имеет вид
X = /и(Х, Рг) - ¿г.. + £ с]X; (2)
V •' у4 г и гг г) IV 4 '
) = 1, 2; г = 1, ..., N
где Гг и Г-1 - множество дуг, соответственно выходящих и входящих в вершину V; сц - суммарный объем информации вытекающей (по данной компоненте) из вершины г во все остальные.
Таким образом, соотношение (2) определяет новую динамическую систему - коллектив элементарных динамических систем. В дальнейшем, описывая общие результаты, будем предполагать, что константы, определяющие интенсивность обмена между системами, достаточно малы. Это предположение удобно по многим причинам. Во-первых, оно позволяет более корректно поставить задачу, поскольку равновесная точка такого коллектива (О-связной системы) получается малым смещением равновесной точки предколлектива (1) и, таким образом, не теряется соответствие между равновесными точками элементарных систем и равновесной точкой коллектива. Во-вторых, для анализа системы в этом случае можно применить технику теории возмущений. Очевидный недостаток такого подхода - отсутствие данных о поведении коллектива при произвольных интенсивностях обмена -можно несколько компенсировать либо мысленным переносом качественных особенностей динамики системы при малых интенсив-ностях на произвольный случай, либо результатами компьютерных экспериментов.
Применение к системе (2) теории возмущений позволяет получить критерий стабилизирующего действия структуры связи. При обмене только по одной компоненте (например, х) в случае комплексного спектра он имеет вид
Ц (сх - £ скх) - Дсй < 0, г = 1, ..., N (3)
5 = 1,
где X - равновесные значения компоненты х; Д - определитель якобиана г-й элементарной системы в равновесной точке (х, у); Цг - скобка Пуассона в точке (х, уг);
О. = Гст., у,,1(х., у, Р.),
I V т Vл 4 V ^ V 1/
где ст; - след указанного якобиана.
Смысл критерия (3) состоит в следующем: если все неравенства (3) удовлетворяются, то коллектив более стабилен, чем пред-коллектив, т. е. структура связи приводит к стабилизации системы. Геометрически факт стабилизации выражается в смещении под действием малых связей исходного спектра влево (рис. 1). Такую структуру будем называть стабилизирующей сетью (или БТ-сетью). Если хотя бы одно из неравенств (3) не удовлетворяется, то коллектив менее стабилен, чем предколлектив, т. е. структура связи в этом случае привела к некоторой дестабилизации системы.
1т
Стабилизация
Дестабилизаци^
Рис. 1. Сдвиг спектра якобиана в неподвижной точке под действием малых связей
В качестве простейшего примера применения описанных в этом пункте понятий приведем конечную систему взаимосвязанных брюсселяторов. Элементарная система в этом случае - модельная биофизическая система, предложенная брюссельской школой И. Пригожина, - имеет (согласно Марри) вид
= 1 - (Ь + 1) X; + ЩХ'2 у1 ,
я = ьх - а х2 у. (4)
Сопоставляя форму записи (4) с записью элементарной системы (1) в общем виде, отметим, что (х, у) — двумерный вектор
состояния элементарной системы, обозначенный в (1) через X, правая часть формулы (4) определяет двумерную вектор-функцию (ф, у), а набор параметров (а, Ь) описан выше как набор Р.
У элементарной системы (4) равновесные состояния равны х{ = 1, у1 = Ь; / а1 и, как нетрудно вычислить, А; = а;, О = 2а2. При обмене только по компоненте х критерий повышения устойчивости (3) принимает вид
(1 - 2а1)о11 + 2аг £ ои > 0, ; = 1, ..., N.
5=1, 5Н
Нетрудно видеть, что при а < 1/2 критерий выполнен и, следовательно, у набора систем с параметрами, подчиненными указанному ограничению, стабильность повышается при любой структуре связи. Если же все ненулевые интенсивности обмена равны между собой, то критерий (3) преобразуется к виду
п+ > пГ [1 - 1/2а;], ; = 1, ..., N
где п- - число дуг, выходящих из вершины г; п+ - число дуг, входящих в вершину ; в графе С.
Из приведенного соотношения ясно, что локально однородный граф связи (в каждую вершину входит и выходит одинаковое количество дуг) повышает устойчивость набора брюсселяторов при любом значении а >0. При нарушении условия однородности за счет выбора значения параметров а{ критерий может нарушаться, т. е. такая связывающая сеть может дестабилизировать систему. Так, например, при а =1/2 обмен по кругу между элементарными системами повышает устойчивость, а добавление хорды приводит к понижению устойчивости (рис. 2).
55(?) (в)??
® (¿1 2 а 5
Рис. 2. Элементарная система - брюсселятор: а - связь по кругу повышает устойчивость; б - появление хорды нарушает устойчивость
Связи и темпераменты
Структура и характер связи между элементарными системами зависят от свойств окружающего пространства и механизма переноса информации. Например, в различных СС каналы обмена информацией различны:
• личные сообщения (текстовое): канал один ^ один;
• сообщения на форуме (текстовое): канал один ^ много;
• видеосообщение: канал один ^ много.
Поэтому важным объектом при описании коллектива выступает структура всех допустимых каналов обмена между системами (участниками СС). Эта структура по существу является объемлющим пространством, внутри которого реализуются различные структуры обмена информацией.
В рассматриваемой модели коллектива топология объемлющего пространства может быть описана заданием некоторого графа, который назовем графом топологии. В этом графе дугой связаны любые две вершины, между которыми при данном свойстве окружающего пространства и механизме переноса информации потенциально возможен обмен информацией, причем дуга ориентирована в направлении этого обмена.
Граф топологии описывает все потенциально возможные варианты обмена между элементарными системами. Однако на практике по тем или иным (в том числе случайным) причинам могут реализоваться не все потенциально возможные пути переноса, а только их часть. При этом возникнет структура связи, которая формально является субграфом исходного графа топологии, т. е. связь между элементарными системами происходит по некоторому подмножеству дуг графа топологии. Такую структуру будем называть допустимой (по отношению к заданному графу топологии).
Потенциально возможная интенсивность переноса вещества в «разрешенных» направлениях, определяемая графом топологии, содержательно определяется свойствами окружающего пространства и заданным механизмом переноса. Иначе говоря, для каждого ребра ( , )) сети заданы неотрицательные верхняя и нижняя границы с )(с ^ > 0), внутри которых находятся значения интенсивности пропускной способности ребра ( , )) данной сети.
Выбранный граф топологии и пространства разрешенных интен-сивностей определяют тип сети. Существуют следующие типы сети.
• Граф топологии - некоторый ориентированный граф, а множество разрешенных интенсивностей - положительная часть единичного куба. По существу в этом случае допустимой
является связывающая сеть, подчиненная заданной топологии, с любой интенсивностью переноса.
Это коллектив в наиболее общем виде, поскольку здесь допустимы любые взаимоотношения между членами коллектива.
• Граф топологии - некоторый ориентированный граф, однако множество разрешенных интенсивностей - одна точка пространства интенсивностей, причем лежащая на диагонали единичного куба. Из этого ясно, что все ненулевые интенсивности в этой сети равны между собой. Этот случай возможен, если интенсивности переноса не зависят от направления переноса (точнее - от ребра сети, вдоль которого идет перенос).
Эту ситуацию можно интерпретировать как предельную - отношения либо есть, либо их нет.
• Граф топологии - некоторый неориентированный граф с одинаковыми или различными интенсивностями переноса. Это модель диффузии (возможно, неизотропной). Свойство диффузии здесь отражено в симметрии обмена (неориентированный граф), неизотропия возникает, если интенсивность обмена неодинакова для всех ребер (т. е. зависит от направления).
Содержательная интерпретация диффузионного взаимодействия может быть различной, в частности это типичная форма взаимодействия в коллективе акторов сети12.
Свойства коллектива, очевидно, зависят не только от структуры связи между членами коллектива, но и от «темперамента» его участников. Нечто аналогичное темпераменту можно применить к элементарным динамическим системам, составляющим коллектив.
Согласно критерию (3) необходимая для оценки устойчивости информация об элементарных системах полностью заключена в значениях величин хи ((, где ( = Д/(. В этих рамках значения равновесных концентраций компоненты х., по которой идет обмен, есть функция на графе, а критерий (3) определяет функциональное соотношение, связывающее значение функции в каждой вершине графа со значениями этой функции в соседних его вершинах. Знак неравенства в этом соотношении как раз и позволяет считать эту функцию суб- (или супер-)гармонической (в вершине) в смысле указанной теории (в которой название также возникло ввиду явной аналогии с непрерывным случаем).
Исходя из этого введем следующие понятия.
Если ( > 0, элементарная система в равновесной точке называется субдоминантной. При этом если х<(, то такую систему
назовем регулярной субдоминантной, а при обратном неравенстве х > 22 - нерегулярной субдоминантной.
Если ( < 0, элементарная система в равновесной точке называется супердоминантной.
Набор (х,0) можно рассматривать как точку двумерного пространства Я2, лежащую в правой полуплоскости (х >0, 22). Элементарные системы, отвечающие одной такой точке, эквивалентны с точки зрения их реакции на одну и ту же сеть. Поэтому в дальнейшем, говоря о выборе некоторого набора элементарных систем, будем иметь в виду выбор точек (х, 22).
Приведенная классификация систем имеет простую физическую интерпретацию: субдоминантные системы повышают свою стабильность при притоке информации, супердоминантные - при оттоке, а регулярные субдоминантные - при оттоке и притоке (рис. 3). Уже из этого ясна роль типов систем при их взаимодействии, что и использовано в дальнейшем анализе.
Рис. 3. Классификация элементарных (точечных) систем: I — субдоминантная регулярная; II — субдоминантная нерегулярная;
III — супердоминантная
Обращаясь к возникающей аналогии, можно наделить систему каждого типа одним из известных темпераментов. Так, субдоминантную регулярную систему уместно сопоставить с темпераментом сангвиника, поскольку эта система демонстрирует поведение в коллективе, «приятное во всех отношениях». С субдоминантной нерегулярной системой сопоставим меланхолический тип - эта система «хороша» в коллективе, когда принимает на себя внешние воздействия. Субдоминантная система, являющаяся в стабильном коллективе источником внешних раздражений, это, очевидно, холерик. А флегматику скорее будет соответствовать случай 22 < 0. Этот случай соответствует заведомо локально неустойчивой системе (Д < 0), которая не корректируется малым обменом информацией, а поэтому здесь не рассматривается.
Однако прежде чем интенсивно использовать введенную классификацию, необходимо доказать принципиальную возможность существования уравнений каждого из трех приведенных типов. Дело в том, что величины х и 2 сложным образом зависят от параметров исходного дифференциального уравнения, и вообще говоря неизвестно, можно ли подобрать эти параметры так, чтобы выполнялись соответствующие неравенства. Рассмотрим систему: х = ах2 + Ьху + су2 - х, у = 2х - у.
Чтобы этой системе соответствовал набор (х, Ц), необходимо представить значения параметров а, Ь и с в следующем виде: а = Ц + 2Д2/х + Д/х; Ь = -Ц - 2Д2/х - 2Д/х; с = 0,25(1/х + Ц + 2Д2/х + 3 Д/х).
Модель внешних деструктивных управляющих воздействий на СС на основе механизма противоопухолевого иммунитета
Проведем аналогию между моделью внедрения внешних деструктивных управляющих воздействий на СС и моделью противоопухолевого иммунитета.
Рассмотрим модель противоопухолевого иммунитета. Основными элементами модели являются группы опухолевых клеток и клетки иммунной системы, находящиеся в областях локализации этих групп и атакующие опухолевые клетки. Такую гетерогенную популяцию клеток называют опухолевым узелком. Клетки иммунной системы передвигаются самостоятельно или пассивно переносятся по сосудистой сети кровью или лимфой и таким образом имеют возможность осуществлять «патрулирование» разных тканей и органов, включая и те, что поражены опухолевыми клетками. Если опухолевые узелки находятся в пределах одной ткани, то будем говорить об N таких узелках как о мультицентрической опухоли. Если опухолевые узелки находятся в разных органах или тканях, то будем говорить о множественной опухоли, состоящей из N опухолей, одновременно существующих в организме. И в том и в другом случае между опухолевыми узелками рано или поздно возникают связи, обусловленные потоками клеток иммунной сис-
темы. Имеются наблюдения, говорящие также о возможности миграции некоторых типов опухолевых клеток и их циркуляции в организме.
Таким образом, имеем коллектив, в котором в качестве точечных динамических систем можно рассматривать опухолевые узлы, а в качестве связей - потоки клеток иммунной системы или/и опухолевых клеток. Очевидно, структура таких связей и их интенсивность могут быть самыми разнообразными.
С целью дальнейшего понимания проводимой аналогии с процессами противодействия деструктивным воздействиям в социальных сетях кратко охарактеризуем процессы, происходящие в системе иммунитета. При описании этих процессов воспользуемся отчасти военной терминологией, что, очевидно, вполне отвечает существу вопроса.
Главными, но не единственными защитниками организма являются белые клетки крови, называемые лимфоцитами. Эти клетки -основные элементы лимфоидной системы организма. Популяция лимфоцитов весьма разнообразна. Среди лимфоцитов выделяют несколько заметно различающихся типов клеток-убийц, способных вступать в борьбу с опухолевыми клетками. Эти несколько разновидностей клеток-«воинов» вступают в борьбу с антигеном и уничтожают или нейтрализуют «оккупанта». При этом нормальные ткани, как правило, не повреждаются или повреждаются незначительно. Контратака идет по нескольким клеточным линиям.
Передний край защиты - это субпопуляция лимфоцитов, называемых натуральными киллерами (НК-клетки, или естественные убийцы). Их функции заключаются в немедленном истреблении клеток, инфицированных вирусами или являющихся раковыми. Причем НК-клетки в норме весьма многочисленны. Первыми вступая в бой, они могут распознавать и быстро уничтожать опухолевые клетки самой различной природы. Такими же «надзорными» функциями, помимо НК-клеток, могут обладать еще и другие (нелимфоидные) клетки системы иммунитета - макрофаги, грану-лоциты и др. Поэтому функционально НК-клетки объединяют с макрофагами-киллерами и некоторыми другими клетками системы иммунитета в группу, называемую системой естественной резистентности организма.
Вторую, более эшелонированную и сложно организованную линию обороны создают клетки, называемые цитотоксическими Т-лимфоцитами (ЦТЛ). Эти клетки происходят из тимуса. Благодаря кооперативным межклеточным процессам клетки-предшественники ЦТЛ созревают, размножаются и приобретают со
временем способность к высокоселективному (специфическому) распознаванию клеток-мишеней (КМ). ЦТЛ можно рассматривать как солдат основных боевых сил армии иммунитета.
Проведем аналогию механизмов противоопухолевого иммунитета и процессов реагирования на деструктивные воздействия в СС. Наша задача: применить данную модель к созданию системы «иммунной реакции» защитных рубежей СС к деструктивным воздействиям на нее. В этом случае основными элементами модели являются «рядовые» участники СС, внедренные агенты (реальный участник/бот) и регулирующий орган (государственная служба, регулирующая деятельность в Интернете). В качестве опухолевых клеток мы рассматриваем деструктивных внедренных агентов. Данные субъекты или программы распространяют в сети информацию, порождающую рефлексивно необходимую им реакцию пользователей. Характер внедряемой информации (или мемов) зависит от цели, которую преследует злоумышленник. В качестве клеток иммунной системы мы можем рассматривать действия регулирующих органов, отслеживающих пользователей, разжигающих общественные конфликты, распространяющих антиобщественные идеи.
Однако надо понимать, что в настоящий момент мы не можем провести точную аналогию с процессом действия иммунных клеток, так как на сегодняшний день нет отлаженного инструмента борьбы с внедренными агентами в СС. Поэтому предлагаемая модель пока достаточно абстрактна.
В общем случае мы имеем коллектив, в котором в качестве точечных динамических систем можно рассматривать количество пользователей, объединенных «внедренной/навязанной» идеей, а в качестве связей - действия внедренных агентов.
Нас интересуют следующие вопросы:
• Как поведет себя такой коллектив?
• Какие инструменты борьбы с внедренными агентами применимы сегодня?
Описание природы опухолевых клеток, описание типов внедренных агентовJ
Опухолевые клетки происходят из клеток самого организма. Становясь под некоторым внешним или внутренним воздействием (перенесенные болезни, экология, информационная среда и др.) злокачественными, они начинают размножаться, производить специфические опухолевые антигены, существенно меняют свои свойства и «социальное» поведение в ткани, из которой возникли. Часто в
пределах ткани, пораженной опухолевым процессом, картина распределения опухолевых клеток выглядит в виде множественных пространственно разнесенных центров роста (опухолевых узелков или очагов). Такая картина наблюдается уже на самых ранних этапах развития (прогрессии) опухоли13. В определенном проценте случаев опухоли могут одновременно или через определенные периоды времени возникать в разных органах и тканях организма. Такое множественное поражение организма, как правило, кончается трагически, однако есть и счастливые исключения.
Что же мы можем сказать, по аналогии с живым организмом, о природе возникновения внедренных агентов?
Под внедренными агентами мы можем понимать следующие субъекты и процессы:
- реальный участник СС;
- специальное ПО - «астротерфинг» (применение ботов).
Реальным участником сети в общем случае выступает участник общественного движения, целью которого является привлечение большой массы аудитории. К основным целям, преследуемым деструктивными движениями, относятся разжигание общественных конфликтов, навязывание угодного «поводырям» данного движения антигосударственного общественного мнения.
Частным случаем внедренного агента (реального участника) является искусственный информационный тролль, или троллинг. Троллинг (от англ. Trolling - блеснение, ловля рыбы на блесну) - размещение в Интернете (на форумах, в дискуссионных группах, в вики-проектах, «живых журналах», СС и др.) провокационных сообщений с целью вызвать антагонистические противоречия и конфликты между участниками, взаимные оскорбления и т. п. Сегодня помимо своих субъективных проявлений троллинг взят на вооружение некоторыми спецслужбами и бойцами информационных войн. В этом случае цель применения троллинга - это, в частности, отвод внимания от острых тем и превращение конструктивного обсуждения в перепалку. Одним из методов нападения является агрессивный вброс клеветы, компромата, слухов и т. д.
Сегодня появляются новые инструменты создания и навязывания Интернет-пользователям якобы «общественного мнения». Астротерфинг является ярким примером этому. Астротерфинг -это использование сложного программного обеспечения с целью заглушить мнения реальных пользователей на Интернет-форумах и подменить их мнение на иное - «нужное». Анонимность Интернета дает компаниям и правительствам блестящие возмож-
ности для астротерфинга - фальшивых массовых кампаний, создающих впечатление, будто масса народу требует определенного политического курса либо выступает против него. Специальные программы - так называемые persona management software - создают весь антураж, который есть в онлайне у реального человека: имя, почтовый ящик, сайты, аккаунты в соцсетях. Особое беспокойство участников социальных сетей вызывает то, что этот инструментарий привлек внимание специальных служб. Так, ВВС США объявили тендер на поставки комплекса специальных программ «persona management software», которые могут создавать «10 личин для одного пользователя», снабжать астротерферов выбранными наугад IP-адресами, а также создавать статичные IP-адреса для каждой личины, чтобы астротерферы могли поочередно выступать от ее лица14.
Описание методов борьбы для каждой рассматриваемой модели
Физическая опухоль представляет собой во многих отношениях очень сложную ткань. Показано, что первыми клетками организма, которые обнаруживаются в областях локализации опухолевых клеток, являются клетки иммунной системы. Этот процесс обусловлен тем, что клетки, входящие в состав опухоли, выделяют в среду молекулы-аттрактанты, привлекающие в очаг лим-фоидные клетки. Вследствие высокой подвижности этих клеток, их умения легко проходить через стенки сосудов разные типы клеток иммунитета способны мигрировать к отдельным опухолевым узелкам в ткани и между ними. При этом клетки иммунной системы концентрируются вокруг скоплений опухолевых клеток и могут проникать в эти скопления15.
Рассмотрим модель, применимую к СС. Аналогом иммунных клеток в нашей модели является государственная служба, регулирующая деятельность в Интеренете. Однако используемые ею инструменты мало отличаются от инструментов, используемых внедренными агентами. В основном это троллинг.
Напомним, что под коллективом мы понимаем конечный набор динамических систем, соединенных друг с другом различными связями. Сначала рассмотрим динамические свойства элементарной точечной системы - отдельного опухолевого узелка - при взаимодействии его клеток с иммунными лимфоцитами.
Рассмотрим процессы, происходящие с тремя переменными: опухолевыми клетками, клетками системы естественной резистентности и ЦТЛ. Упрощенная схема иммунного процесса в области локали-
Рис. 4. Упрощенная схема противоопухолевого иммунного ответа
зации опухолевых клеток имеет вид, представленный на рис. 416.
В левой части рисунка показаны процессы деления опухолевых клеток и явления, приводящие к накоплению двух типов эффекторных клеток вблизи опухолевых клеток, в центре - к гибели клеток вследствие антагонистических клеточных взаимодействий и естественной убыли иммунных клеток из очага, в правой части рисунка приведен конечный результат процессов рождения - гибели клеток и их миграции.
Рассмотрим систему дифференциальных уравнений, соответствующую рис. 4:
¿Ь/йх = 7 + аху/(1 + у) - вху - ух = Р(х, у);
йЬ/йу = у (1 - е - х) = (2(х, у);
е(Ь) = 1 - К(у),
(5)
(6) (7)
где К(у) = 1 - ц/(1 + яу).
В системе (5) переменными являются количество ЦТ Л (х), опухолевых клеток (у), клеток системы естественной резистентности организма (е), находящихся в опухолевом узелке (Ь - время). Правые части уравнений описывают скорости процессов накопления - убыли клеток в очаге. В нашем случае мы можем предположить, что (х) - количество внедренных членов службы, регулирующей деятельность Интернета; (у) - количество внедренных агентов (е) - количество пользователей, игнорирующих сообщения внедренных агентов в СС.
В уравнении для кинетики опухолевых клеток скорость свободного роста их популяции в отсутствие клеток системы иммунитета (коэффициент при первом члене в уравнении (6)) принята за единицу17. Поэтому время Ь определено в периодах удвоения массы свободно растущей популяции опухолевых клеток. Отнормиро-
ваны на единицу и параметры интенсивности гибели опухолевых клеток при их взаимодействиях с клетками системы естественной резистентности и ЦТЛ (стоящие соответственно при втором и третьем членах уравнения (6)).
В правой части уравнения для кинетики ЦТЛ: константа ] - скорость спонтанного притока ЦТЛ в очаг; у - скорость естественной гибели этих клеток; в - параметр, характеризующий интенсивность гибели/инактивации ЦТЛ в результате взаимодействия с опухолевыми клетками, член аху/(1 + у) характеризует процесс накопления ЦТЛ в очаге, вызванного аттрактантами из опухолевого узелка и интенсификацией размножения ЦТЛ в очаге (а - скорость накопления ЦТЛ). Поскольку переменная в(€) является относительно быстрой, то дифференциальное уравнение, соответствующее ей, можно по известным правилам заменить на алгебраическое, что и сделано в (7). В этом уравнении параметр ц -интегральная характеристика интенсивности цитотоксической активности НК-клеток, макрофагов и других клеток системы естественной резистентности; V - уровень супрессорной (подавляющей) активности опухоли в отношении указанных клеток.
Дальнейшие случаи изменения параметров элементарной системы в зависимости от ее типа могут быть рассмотрены более подробно (данные случаи требуют более детального анализа).
Выводы
В статье на основе исследования особенностей коллективного поведения динамических систем была рассмотрена некоторая аналогия между работой механизмов протиопухолевого иммунитета и действий, направленных на противодействие деструктивным воздействиям злоумышленных агентов влияния на участников информационного обмена в социальных сетях. Показаны некоторые особенности этого поведения, связанные с конкретным моментом в «жизни» элементарных систем - возможностью потери устойчивости в коллективе под действием обмена информацией при использовании определенных структур связи между акторами сети. Оказалось, что эта возможность существенно зависит от типа характера элементарных систем (акторов сети) - были выделены три таких типа. Получено представление о преимущественном характере влияния структур связи того или иного вида на стабилизацию системы. Приведена некоторая классификация объектов - динамических систем и структур связи, позволяющая в определенной мере предсказать динамику действий порождаемого этими объектами
коллектива в условиях деструктивных воздействий. Можно сделать вывод о том, что под действием различных связей с внедренными агентами «рядовых» участников СС могут измениться параметры элементарной системы, что в дальнейшем может изменить параметры других элементарных систем коллектива.
Примечания
1 Губанов ДА., Новиков ДА,, Чхартишвили А.Г. Модели информационного влияния и информационного управления в социальных сетях. 2009 [Электронный ресурс] // ИПУ РАН. URL: http://www.mtas.ru/upload/Gubanov NovikovChkha2009.pdf
2 Там же.
3 Губанов Д.А. Обзор онлайновых систем репутации/доверия [Электронный ресурс] // ИПУ РАН. URL: http://ubs.mtas.ru/bitrix/components/bitrix/forum. interface/show_file.php?fid=1671
4 Губанов ДА., Новиков ДА., Чхартишвили А.Г. Модели репутации и информационного влияния в социальных сетях // Управление большими системами. 2009. № 26 (1).
5 Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Социальные сети: модели информационного влияния, управления и противоборства. М: Физматлит, 2010.
6 Караяни А.Г. Информационно-психологическое противоборство в современной войне [Электронный ресурс] // Psyfactor.org. URL: http://psyfactor.org/lib/ psywar30.htm
7 Матвиенко Ю.А. Деструктивные сетевые социальные структуры как средство информационной войны и угрозы безопасности России [Электронный ресурс] // Информационно-аналитический портал «Геополитика». URL: http:// geopolitica.ru/Articles/1218/
8 XieJ, Sreenivasan S., Korniss G., Zhang W., Lim C., Szymanski B.K. Social consensus through the influence of committed minorities // Physical Review. 2011. Vol. 84 (1). July.
9 Григорьев В.Р. Социальные сети - новое измерение противоборства в гибридной войне: Сб. трудов 25-й науч.-техн. конференции «Методы и технические средства обеспечения безопасности информации». Санкт-Петербург, 4-7 июля 2016 года. СПб., 2016.
10 Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели информационного влияния и информационного управления в социальных сетях.
11 Алексеева Е.И., Киржнер В.М., Кузнецов В.А. Структуры и коллективное поведение. М.: Знание, 1991.
12 Grabisch M., Rusonowska A. A model of influence in a social network [Электронный ресурс] // HAL. Sciences de l'Homme et de la Société. URL: https://halshs. archives-ouvertes.fr/halshs-00308741v2/document
13 Алексеева Е.И., Киржнер В.М., Кузнецов В.А. Указ. соч.
14 Григорьев В.Р. Информационные вирусы - новое оружие массового поражения // Информационные войны. 2008. № 3. C. 2-29.
15 Алексеева Е.И., Киржнер В.М., Кузнецов В.А. Указ. соч.
16 Там же.
17 Там же.
