CC BY
54
УПРАВЛЕНИЕ, МОДЕЛИРОВАНИЕ, АВТОМАТИЗАЦИЯ
DOI: 10.24143/2072-9502-2018-3-7-15 УДК 004.056.53
И. В. Котенко, И. Б. Паращук
АВТОМАТИЗИРОВАННЫЙ АДАПТИВНЫЙ МОНИТОРИНГ КОМПЛЕКСНОЙ БЕЗОПАСНОСТИ ИНФОРМАЦИОННЫХ СИСТЕМ «УМНОГО ГОРОДА»: ЦЕЛЕВЫЕ ФУНКЦИИ КОНЦЕПТУАЛЬНОЙ МОДЕЛИ 1
Объектом исследования является адаптивный мониторинг для решения задач противодействия комплексным угрозам безопасности «умному городу». Исследования проведены в рамках формирования концептуальной модели адаптивного мониторинга. Она представляет собой обобщенное описание системы взглядов, идей и принципов, определяющих общую методологию адаптивного мониторинга систем такого класса. С помощью целевых функций концептуальной модели адаптивного мониторинга формально описано, какие параметры (показатели качества) комплексной безопасности, как (в соответствии с какими критериями и на основе каких методов) и когда наблюдать, оценивать и прогнозировать на различных этапах жизненного цикла «умного города» и в различных условиях обстановки. Представлен обзор возможных путей и методов адаптации режимов мониторинга в условиях конструктивных и деструктивных воздействий. Рассматриваются вопросы математической формулировки обобщенной и частных целевых функций в интересах формального описания проблемы адаптивного мониторинга комплексной безопасности больших социо-киберфизических систем типа «умный город». Определяются уровни адаптации, описаны группы оптимизируемых параметров. Особое внимание уделяется параметрам в рамках процедур наблюдения, оценивания и прогнозирования комплексной безопасности. Применение предложенных элементов концептуальной модели позволит повысить эффективность системного мониторинга комплексной безопасности «умного города» за счет повышения безызбыточности, достоверности и точности получаемых оценок и прогнозов состояния (качества) комплексной безопасности, за счет снижения затрат ресурсов, выделяемых в интересах контроля безопасности. Это позволит добиться повышения степени обоснованности принимаемых решений, снижения расходов финансовых, временных и других управленческих ресурсов в процессе проектирования, разработки и эксплуатации систем противодействия угрозам «умного города».
Ключевые слова: целевая функция, мониторинг, параметр, показатель качества, комплексная безопасность, состояние, наблюдение, оценивание, прогнозирование.
Введение
Концепцию «умного города» («smart city», «города будущего») следует рассматривать как одно из направлений развития современных больших социо-киберфизических систем (Gyber-Physical-Social Systems, CPSS) и как новое поколение сетевых распределенных социальных, физических и кибернетических инфраструктур. Они нацелены на реализацию приоритетов научно-технологического развития России, на обеспечение высокого качества жизни людей за счет применения инновационных технологий, предусматривающих экономичное, экологичное и безопасное функционирование объектов «умного города» и использование городских систем жизнедеятельности [1-3].
Проблемы социо-киберфизической (Gyber-Physical-Social, CPS) безопасности «умного города» - проблемы комплексного использования совокупности методов и средств безопасности систем и сетей управления транспортом, коммерческих и государственных услуг, цифрового образования и электронного правительства, автоматизированных аграрных предприятий, средств массовой информации, компьютеризированных промышленных предприятий, энергетики,
1 Работа выполнена при финансовой поддержке РФФИ (проекты № 16-29-09482, 18-07-01369 и 18-07-01488) и бюджета (проект № АААА-А16-116033110102-5).
образования, медицины - вплоть до каждого «умного дома», «умного офиса» и отдельного человека в «умном городе».
Характер современных угроз безопасности «умного города» усложняется - они могут обретать статус комплексных социо- и (или) кибер- и (или) физических угроз одновременно или в разных сочетаниях. Они могут исходить от человека (группы людей) или от государства -в рамках концепции информационного (гибридного) противоборства между странами, нацеленного на поражение критических инфраструктур друг друга [4-6].
«Умный город» - взаимоувязанная по месту и во времени, в социальной, био- и технологической среде совокупность CPS-подсистем жизнеобеспечения, здравоохранения, образования, транспорта и т. д. Поэтому к проблеме комплексности угроз добавляется проблема их много-уровневости. Она проявляется в том, что уровень угроз различен на разных пространственных, социальных, физических и кибернетических участках, а также в разных временных координатах функционирования «умного города».
К основным направлениям обеспечения противодействия CPS-угрозам «умному городу», наряду с организационными мерами по обеспечению комплексной безопасности, мерами по обеспечению безопасности подсистемы управления CPS-системой и управлением безопасностью, относят мониторинг комплексной безопасности.
Мониторинг комплексной безопасности «умного города» представляет собой комплекс процедур наблюдения, оценивания и прогнозирования состояния показателей информационной безопасности объектов и процессов «умного города», безопасности информационных систем и сетей управления транспортом, образования и электронного правительства, информационных систем предприятий, средств массовой информации, систем энергетики, образования и медицины. При этом процедуры мониторинга в интересах противодействия CPS-угрозам «умному городу» на современном этапе также должны быть комплексными, многоуровневыми и интеллектуальными. Чтобы обнаружить и распознать угрозы современному «умному городу», мониторинг безопасности должен быть адаптивным и оптимальным. Он должен охватывать социальную, кибернетическую и физическую сферы жизнедеятельности города одновременно.
Анализ релевантных работ
Проблемам организации и синтеза оптимальных алгоритмов мониторинга сложных систем посвящен ряд работ, например [7-10]. Они направлены на повышение эффективности процедур наблюдения, оценивания и прогнозирования в рамках мониторинга систем подобного класса. Данные функции формально описывают цели решения экстремальных задач [7, 8] при мониторинге безопасности. Но они не гарантируют высокой точности при оценке качества процесса безопасности.
В работе [7] предложен подход, основанный на адаптивном мониторинге параметров безопасности. Однако такой подход требует рассмотрения вспомогательных процедур анализа с точки зрения адаптации, что не всегда возможно. В работе [8] изложен расширенный подход к сетевому мониторингу. Но этот подход применим для сетей связи, что сужает область применения. Работа [9] посвящена подходу к мониторингу как к процедуре регистрации кибербезопасности. Но этот подход очень сложен для практической реализации в рамках адаптивных процедур.
Одним из основных критериев качества мониторинга комплексной безопасности (КБ) является адаптируемость (лат. adaptatio - приспособление) процесса. Это свойство мониторинга изменять режимы с целью сохранения, улучшения или приобретения новых характеристик в условиях воздействий изменяющейся среды [10].
Адаптивность процесса мониторинга характеризует его способность приспосабливать (согласовывать) алгоритмы поведения, структуру и функции к условиям существования, к непредвиденным изменениям свойств КБ, целей КБ, задач управления КБ и окружающей среды сменой режима или поиска оптимальных методов наблюдения, оценивания и прогнозирования (НОП) [10].
Общая формулировка задачи
Основное содержание концептуальной модели автоматизированного адаптивного мониторинга (АМ) КБ составляют ответы на вопросы: какие параметры КБ и (или) показатели качества (ПК) свойств КБ, как (в соответствии с какими критериями и на основе каких методов)
и когда наблюдать, оценивать и прогнозировать на различных этапах жизненного цикла CPSS и в различных условиях обстановки, а также каковы возможные пути и методы приспособления (согласования) режимов мониторинга КБ в условиях конструктивных и деструктивных воздействий. Концептуальная модель АМ КБ представляет собой формальное обобщенное описание системы взглядов, идей и принципов, определяющих общую методологию адаптивного мониторинга систем такого класса. Известно, что мониторинг представляет собой комплекс процедур НОП системных характеристик КБ.
Используя подходы теории декомпозиции, будем рассматривать адаптацию этих процедур (НОП) последовательно, исходя из специфических условий их реализации и опираясь на критерии оптимизации, присущие им.
Итак, имеется объект автоматизированного мониторинга - КБ. Она подвержена влиянию внешних конструктивных и деструктивных факторов - окружающей среды, целей функционирования и применения, определяемых метасистемой и т. д. Она подвержена влиянию внутренних факторов - количества потребителей услуг КБ и их требованиий; текущих целей управления КБ; управляющих воздействий; потока отказов элементов КБ и потока восстановления системных ресурсов; интенсивности потока инцидентов КБ и пр.
Элементами автоматизированной системы управления (АСУ) КБ являются система технической эксплуатации (СТЭ) и система принятия решений (СПР) [11].
Подсистема измерений входит в состав СТЭ АСУ КБ. Она реализует комплекс технических, системных и технико-технологических измерений, причем технические измерения составляют основу процесса технической диагностики КБ. Результатом технической диагностики
является вектор текущих диагностируемых параметров Y(k) КБ. Он представляет собой набор
данных определения параметров технического состояния элементов КБ. Комплекс системных и технико-технологических измерений реализуется непосредственно в интересах мониторинга КБ, результатом его реализации является вектор текущих измеряемых параметров системных
характеристик КБ YHH(k) - набор данных о результатах измерений параметров существенных свойств КБ в целом.
Формулировка целевых функций
Реализация сбора по каналам наблюдения перечисленных данных и их обработка (систематизация, обобщение) является задачей процедуры наблюдения (ПН) в рамках АМ КБ. Сбор данных осуществляется на первом уровне адаптации, когда оптимизируются параметры
ПН. Однако перечень и номенклатура наблюдаемых параметров КБ Y^(k) должны быть оптимизированы (адаптированы) в соответствии с требованиями текущих задач управления КБ. Они должны соответствовать объему и номенклатуре параметров и ПК, оценочные значения которых необходимы АСУ на этом шаге реализации КБ для принятия информационного решения о состоянии (качестве) безопасности.
С этой целью на втором уровне, когда в рамках АМ оптимизируются параметры процедуры оценивания (ПО), принимается решение по выбору (формированию) оптимальной системы оцениваемых параметров (СОП) КБ:
^соп^): ^ opt f (Y’n(k)) = opt f (qn(k);sn(k);Axn(k)); (1)
tr(k)eQ; v(k) eV; rn(k)eQ;v(k) eV;
Yn(k)eYnK(k) Y>) eYnK(k)
%(k) eQu; 5п(k)eSп; АТп(k) eАТп, (2)
где в выражении (1) f (Y'H(k)) - функция выбора оптимального вектора параметров Y'H(k), которые необходимо НОП на k-м шаге мониторинга КБ. Наблюдать, оценивать и прогнозировать необходимо с учетом факторов неопределенности ra(k), принадлежащих множеству неопределенности Q; факторов внешних и внутренних воздействий (вектора воздействий) v (k) на систему, принадлежащих множеству возможных воздействий (матрице воздействий)
V (окружающая среда, условия эксплуатации и т. д.); объема и номенклатуры параметров, необходимых АСУ КБ Y^(k) е Y^(k).
На этом шаге осуществляется адаптация, имеющая целью поиск оптимальных (2):
- qn(k) - объема системных параметров КБ, принадлежащих множеству возможных системных параметров КБ QH, которые необходимо НОП на k-м шаге мониторинга;
- sn(k) - номенклатуры (структуры, иерархии) системных параметров КБ, принадлежащих множеству возможных наборов (номенклатур) системных параметров КБ Уп, которые необходимо НОП на k-м шаге мониторинга;
- Дтп$) - периодичности НОП параметров КБ на k-м шаге мониторинга, принадлежащей множеству возможных интервалов НОП ДТп.
Результатом реализации автоматизированного АМ КБ на этом шаге является оптимальный для данных условий вектор параметров Y'H (k), которые необходимо НОП на k-м шаге мониторинга комплексной безопасности. Элементы вектора используются в дальнейшем для реализации процедур НОП состояния (качества) КБ.
Определив, какие параметры необходимо наблюдать, адаптируются параметры ПН. Этот этап реализуется в соответствии с целевыми функциями
^m(k): ^ oPt f (Y 'нп^))= oPt f (qRH(k); sKH(k); Дтнп^)); (3)
w(k)eQ; v(k) eV; w(k)eQ; v(k) eV;
r'(k)eR Г (k)eR'
Y (k) eYm (k)eY (k) Y (k) eYj (k)eYn (k)
при условиях
qнп(k) eQ
нп ’ Sнп (k) e ^
Д^) еДТн; mн(k) eME.
(4)
где f ^'^(k)) в выражении (3) - функция выбора оптимального вектора наблюдаемых параметров Y^k) на k-м шаге мониторинга КБ с учетом ряда факторов.
Выделяют следующие факторы: неопределенности w (k); воздействий v (k); ошибок измерения и диагностики г'(k), принадлежащих множеству возможных ошибок такого класса R , а также объема и номенклатуры реально наблюдаемых системных параметров YH(k) е Y^k) е Y!(k). Это параметры, наблюдение за которыми реально осуществимо и принадлежит множеству (вектору) YH' (k) параметров, в оценочных значениях которых нуждается АСУ КБ.
В общем случае, в соответствии с выражением (4), на текущем шаге адаптации происходит поиск следующих оптимальных параметров: qm(k) и sm(k) - объема и номенклатуры наблюдаемых на k-м шаге мониторинга параметров КБ; Дтн(к)- периодичности наблюдения параметров на k-м шаге мониторинга, принадлежащей множеству возможных интервалов наблюдения ДТн; mII(k) - методов (режимов) наблюдения на k-м шаге мониторинга параметров КБ, принадлежащих множеству возможных режимов наблюдения Мн.
Результатом автоматизированного АМ на данном уровне адаптации является оптимальная для определенных условий СОП КБ, т. е. вектор существенных системных параметров КБ, подлежащих оцениванию, элементы которого принадлежат множеству (вектору) наблюдаемых параметров YH(k) е Y^k) системных свойств КБ. Элементы вектора YH(k) используются в дальнейшем для реализации синтеза оптимальной системы показателей качества (СПК) КБ, реализации процедур оценивания и прогнозирования состояния (качества) комплексной безопасности CPSS.
Реализация процесса формирования оптимальной СПК, получения частных и обобщенных оценочных значений параметров (состояния) или качества КБ является задачей ПО в рамках автоматизированного АМ безопасности. На этом уровне адаптации параметров ПО выполняется двухэтапная оптимизация: вначале решается задача получения оптимальной для данных условий, состоятельной и безызбыточной СПК, затем принимается решение по выбору оптимального для заданных условий метода оценивания состояния (качества) КБ.
Процедура оптимизации объема и номенклатуры СПК в рамках АМ КБ может быть реализована в соответствии с целевой функцией
^спк(^): ^ o* f (t#)) = o* f (^пк(к); 5спк(к); С(к)); (5)
ш(к)еО; v(k) eV; ш(к)еО; v(к) eV;
г\к)еК г\к)еК/
?п(к)е[Уп} ?п(кМУп}
при условиях
ЧпЛк) ебпК ; *^пк (k )е
^спк; ^кпк (к) e{YKnK}, (6)
где f (Упк(к)) - функция выбора оптимального (состоятельного и безызбыточного) вектора
Гпк(к) ПК КБ. Конкретными показателями качества, входящими в состав вектора Гпк(к) и характеризующими объект мониторинга - КБ «умного города» - могут служить, например, среднее время доступа легальных (авторизированных) пользователей «умного города» к защищаемому информационному ресурсу tДO^yгр (к) при предоставлении услуг «умного города» в рамках реализации различных угроз, характеризующее такое свойство средств и технологий КБ, как доступность; Кпдост(к) - коэффициент потери достоверности информации и Киск(к)- коэффициент искажений, характеризующие свойство целостности - способности системы КБ «умного города» сохранить информацию в достоверном и неискаженном виде, несмотря на наличие комплексных угроз и уязвимостей; Кконф.инф(к) - коэффициент конфиденциальности информации,
характеризующий способность системы КБ «умного города» сохранять информацию в тайне от субъектов, не имеющих полномочий на доступ к ней, а также вектор затрат ресурсов
Зф(к )на построение и реализацию процесса функционирования системы КБ «умного города».
Эти показатели подлежат оцениванию с учетом факторов неопределенности га(к); факторов внешних и внутренних воздействий (вектора воздействий) V (к) на систему; ошибок измерения, диагностики и наблюдения г"(к), принадлежащих множеству возможных ошибок заданного
класса R", и состава элементов вектора параметров 7кпк (к), элементы которого принадлежат множеству возможных реально наблюдаемых параметров КБ {Упк}.
При этом в рамках автоматизированного АМ КБ принимается решение по выбору оптимального метода оценивания (МО) состояния (качества) КБ в соответствии с целевой функцией
кмо(к): ^ opt f (тоС(к)(к)) = opt f (ЬЩк); ^ц(к); ^(к)) (7)
ш(к)еО; v^) eV; ш(к)еО; v(к) eV;
r(h)eR г(к )eR
1^к )еЛ(пк)} takMY^}
и при условиях
§ош (к) e Аош ; (к) e Тоц ; ^оц (к) e {гоц } . (8)
На настоящем этапе адаптации осуществляется поиск оптимальных параметров ПО: 5ош(к) - значения дисперсии ошибки оценивания параметров (ПК) на к-м шаге мониторинга КБ, принадлежащего множеству возможных значений Дош (характеризует точность оценивания); t (к) - значения времени оценивания параметров (ПК) на к-м шаге мониторинга, функционально связанного с периодичностью наблюдения и возможностями вычислительных средств по реализации задач оценивания с конкретной вычислительной сложностью, принадлежащего множеству возможных значений Тоц и характеризующего своевременность оценивания;
^оц(к) - элементов вектора затрат вычислительных ресурсов на осуществление процедуры оценивания параметров (ПК) на к-м шаге мониторинга, принадлежащего матрице (множеству) вычислительных затрат |ZQ4}. Последовательность (этапность) реализации целевых функций адаптивного мониторинга проиллюстрирована на рис.
Этапы реализации целевых функций адаптивного мониторинга
Результатом реализации автоматизированного АМ на этом этапе является оптимальный для заданных условий вектор оценок параметров или ПК, характеризующих общесистемные
свойства КБ Yu(k); ^(k )• На основе оценок этих параметров принимаются административные и оперативно-технические решения по управлению КБ CPSS. Кроме того, текущие оценочные значения состояния (качества) КБ являются отправной точкой, исходными данными для процедуры прогнозирования (1111).
Взаимосвязанную систему целевых функций автоматизированного АМ КБ можно записать в общем виде как комплексную функцию совместной последовательной адаптации, имеющей целью оптимизацию параметров ПН, ПО и 1111 в интересах управления КБ (рис.):
F U {FnH(k)} U{Fno(k): {Fnn(k)} • (9)
В данном случае комплексная целевая функция АМ КБ может представлять объединение целевых функций адаптации параметров соответствующих процедур мониторинга (9): формирования СОП, необходимых АСУ Fcon(k) (1); ПН FnH(k) (3) и (4), ПО Fno(k) , которая, в свою очередь, является объединением целевых функций оптимизации СПК КБ ^Спк(^) (5) и (6); метода оценивания F^k) (7) и (8), а также целевой функции оптимизации параметров 1111 состояния (качества) КБ.
Заключение
Таким образом, выражение (9) имеет физический смысл совместной динамической адаптации параметров комплекса процедур наблюдения, оценивания и прогнозирования (т. е. параметров мониторинга) состояния (качества) КБ CPSS в условиях воздействия изменяющихся эволюционных и эксплуатационных факторов.
Практическая реализация предложенной концептуальной модели позволит, на наш взгляд, повысить эффективность системного мониторинга КБ CPSS. Это произойдет за счет повышения безызбыточности, достоверности и точности получаемых оценок и прогнозов состояния (качества) КБ за счет снижения затрат ресурсов АСУ КБ, выделяемых в интересах контроля безопасности, что, в свою очередь, позволит добиться снижения расходов финансовых, временных и иных управленческих ресурсов в процессе проектирования, разработки и эксплуатации систем КБ CPSS, а также повышения степени обоснованности принимаемых решений по управлению структурой, параметрами и режимами работы систем такого класса.
СПИСОК ЛИТЕРА ТУРЫ
1. Strategic Opportunities for 21st Century Cyber-Physical Systems. URL: https://mafiadoc.com/ strategic-rd-opportunities-for-21st-century-cyber-physical-systems_5a1826861723dd62296856cb.html/ (дата обращения: 23.03.18).
2. Graham S., Baliga G., Kumar P. R. Abstractions, Architecture, Mechanism, and Middleware for Networked Control // IEEE Transactions on Automatic Control. 2009. Vol. 54. No. 7. P. 1490-1503.
3. Lee E. A. Cyber-Physical Systems - Are Computing Foundations Adequate // NSF Workshop On Cyber-Physical Systems: Research Motivation, Techniques and Roadmap. Austin, 2006. P. 342-353.
4. Ruiz J. F., Desnitsky V. A., Harjani R., Manna A., Kotenko I. V., Chechulin A. A. A Methodology for the Analysis and Modeling of Security Threats and Attacks for Systems of Embedded Components // 20th International Euromicro Conference on Parallel, Distributed and Network-based Processing (PDP 2012). Garching/Munich, February, 2012. P. 261-268.
5. Desnitsky V. A., Kotenko I. V. Expert Knowledge based Design and Verification of Secure Systems with Embedded Devices // Lecture Notes in Computer Science. 2014. No. 8708 (1). P. 194-210.
6. Kotenko I. V., Levshun D. S., Chechulin A. A. Event correlation in the integrated cyber-physical security system // Proceedings of the 2016 XIX IEEE International Conference on Soft Computing and Measurements (SCM-2016), IEEE (St. Petersburg, Russia, May 2016). St. Petersburg: Institute of Electrical and Electronics Engineers, 2016. P. 484-486.
7. Fry C., Nystrom M. Security Monitoring. Sebastopol, USA: O’Reilly Media Inc., 2009. 227 p.
8. Bejtlich R. The Practice of Network Security Monitoring. Understanding Incident Detection and Response. No Starch Press, 2013. 376 p.
9. Creasey J., Glover I. Cyber Security Monitoring and Logging Guide. CREST Published (GB), 2015. 60 p.
10. Parashchuk I. B. Parametrization principles of states space of Telecommunications network in the framework of formulation of problem of optimal adaptive networking monitoring // Modern Science: Development Tendencies: VII International Science-Practical Conference. Krasnodar, 2014. Part II. P. 142-144.
11. Al-Shaer E., Ou X., Xie G. Automated Security Management. Berlin: Springer Science & Business Media, 2013. 187 p.
Статья поступила в редакцию 06.05.2018
ИНФОРМАЦИЯ ОБ АВТОРАХ
Котенко Игорь Витальевич — Россия, 199178, Санкт-Петербург; Санкт-Петербургский институт информатики и автоматизации Российской академии наук; д-р техн. наук, профессор; зав. лабораторией проблем компьютерной безопасности; ivkote@comsec.spb.ru.
Паращук Игорь Борисович — Россия, 199178, Санкт-Петербург; Санкт-Петербургский институт информатики и автоматизации Российской академии наук; д-р техн. наук, профессор; ведущий научный сотрудник лаборатории проблем компьютерной безопасности; shchuk@rambler.ru.
I. V. Kotenko, I. B. Parashchuk
AUTOMATED ADAPTIVE MONITORING OF INTEGRATED SECURITY OF INFORMATION SYSTEMS "SMART CITY”:
TARGET FUNCTIONS OF THE CONCEPTUAL MODEL
Abstract. The object of study is adaptive monitoring for solving problems of counteraction to complex security threats to "Smart City. The studies were carried out within the framework of developing the conceptual model of adaptive monitoring. The model is a generalized description of the system of views, ideas and principles that determine the general methodology of adaptive monitoring of systems of this class. Using the target functions of the conceptual model of adaptive monitoring there have been formally described the following steps: what parameters (quality indicators) of complex security, how (according to what criteria and based on what methods) and when to watch, evaluate and predict at different stages of the life cycle of the "Smart City" and in different conditions. The review of possible ways and methods of adaptation of monitoring modes in conditions of constructive and destructive influences is made. The problems of mathematical formulation of specific and generalized target functions in the interests of formal description of the problem of adaptive monitoring of complex security of big Cyber Physical Social Systems such as " Smart City" are considered. Adaptation levels are determined; groups of optimized parameters are described. Particular attention is paid to the parameters in the procedures for watching, evaluating and predicting complex security. The application of the proposed elements of the conceptual model will improve the effectiveness of system monitoring of complex security of the " Smart City" by increasing the breakeven, reliability and accuracy of the estimates and forecasts of the state (quality) of complex security, by reducing the cost of resources allocated for security control. This will allow to increase the degree of validity of decisions, reduce the cost of financial, time and other management resources in the design, development and operation of systems to counter the threats of " Smart City".
Key words: target function, monitoring, parameter, quality indicator, complex security, state, watching, evaluating, predicting.
REFERENCES
1. Strategic Opportunities for 21st Century Cyber-Physical Systems. Available at: https://mafiadoc. com/strategic-rd-opportunities-for-21st-century-cyber-physical-systems_5al826861723dd62296856cb.html/ (accessed: 23.03.18).
2. Graham S., Baliga G., Kumar P. R. Abstractions, Architecture, Mechanism, and Middleware for Networked Control. IEEE Transactions on Automatic Control, 2009, vol. 54, no. 7, pp. 1490-1503.
3. Lee E. A. Cyber-Physical Systems - Are Computing Foundations Adequate. NSF Workshop On CyberPhysical Systems: Research Motivation, Techniques and Roadmap. Austin, 2006. Pp. 342-353.
4. Ruiz J. F., Desnitsky V. A., Harjani R., Manna A., Kotenko I. V., Chechulin A. A. A Methodology for the Analysis and Modeling of Security Threats and Attacks for Systems of Embedded Components. 20th International Euromicro Conference on Parallel, Distributed and Network-based Processing (PDP 2012). Garching/Munich, February, 2012. Pp. 261-268.
5. Desnitsky V. A., Kotenko I. V. Expert Knowledge based Design and Verification of Secure Systems with Embedded Devices. Lecture Notes in Computer Science, 2014, no. 8708 (1), pp. 194-210.
6. Kotenko I. V., Levshun D. S., Chechulin A. A. Event correlation in the integrated cyber-physical security system. Proceedings of the 2016 XIX IEEE International Conference on Soft Computing and Measurements (SCM-2016), IEEE (St. Petersburg, Russia, May 2016). St. Petersburg, Institute of Electrical and Electronics Engineers, 2016. Pp. 484-486.
7. Fry C., Nystrom M. Security Monitoring. Sebastopol, USA, O’Reilly Media Inc., 2009. 227 p.
8. Bejtlich R. The Practice of Network Security Monitoring. Understanding Incident Detection and Response. No Starch Press, 2013. 376 p.
9. Creasey J., Glover I. Cyber Security Monitoring and Logging Guide. CREST Published (GB), 2015. 60 p.
10. Parashchuk I. B. Parametrization principles of states space of Telecommunications network in the framework of formulation of problem of optimal adaptive networking monitoring. Modern Science: Development Tendencies: VIIInternational Science-Practical Conference. Krasnodar, 2014. Part II. Pp. 142-144.
11. Al-Shaer E., Ou X., Xie G. Automated Security Management. Berlin, Springer Science & Business Media, 2013. 187 p.
The article submitted to the editors 06.05.2018
INFORMATION ABOUT THE AUTHORS
Kotenko Igor Vitalievich — Russia, 199178, Saint-Petersburg; St. Petersburg Institute of Informatics and Automation of the Russian Academy of Sciences; Doctor of Technical Sciences, Professor; Head of the Laboratory of Computer Security Problems; ivkote@comsec.spb.ru.
Parashchuk Igor Borisovich - Russia, 199178, Saint-Petersburg; St. Petersburg Institute of Informatics and Automation of the Russian Academy of Sciences; Doctor of Technical Sciences, Professor; Leading Researcher of the Laboratory of Computer Security Problems; shchuk@rambler.ru.
