CC BY
51УДК 004.89 : 003.62 : 620.9
ПРОБЛЕМЫ СОЗДАНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ СЕМИОТИЧЕСКОГО ТИПА ДЛЯ СТРАТЕГИЧЕСКОГО СИТУАЦИОННОГО УПРАВЛЕНИЯ В КРИТИЧЕСКИХ ИНФРАСТРУКТУРАХ
Массель Людмила Васильевна Д.т.н., профессор, главный научный сотрудник, зав. лабораторией «Информационные технологии», Институт систем энергетики им. Л.А. Мелентьева СО РАН, 664130 г. Иркутск, ул. Лермонтова 130, e-mail: massel@isem.irk.ru
Аннотация. В статье рассматривается подход к разработке интеллектуальных систем семиотического типа для стратегического ситуационного управления в критических инфраструктурах (на примере энергетики). Формулируются цель и задачи проекта, предлагаемые методы, описывается современное состояние исследований в этой области, ожидаемые научные результаты и предпосылки выполнения проекта (работы, выполненные под руководством автора в этом направлении). Приведена обширная библиография.
Ключевые слова: критические инфраструктуры, интеллектуальные системы, ситуационное управление, семиотический подход, семантическое моделирование, интеллектуальные энергетические системы.
Введение. Проект направлен, с одной стороны, на развитие методов исследования критических инфраструктур, с другой - на разработку методологии построения интеллектуальных систем семиотического типа (ИССТ) для стратегического ситуационного управления развитием критических инфраструктур на примере одной из наиболее важных -энергетической инфраструктуры. Методология является результатом обобщения разрабатываемых методов ситуационного управления, ситуационного исчисления и методов построения ИССТ. Предлагается современная трактовка идей ситуационного управления и семиотических систем, сформулированных в 70-х - 80-х гг. прошлого века Д.А. Поспеловым и его учениками, с учетом возможностей современных информационных технологий, применительно к задачам поддержки принятия стратегических решений по развитию критических инфраструктур (на примере энергетики). В качестве основных методов ситуационного управления рассматриваются ситуационный анализ и ситуационное моделирование, опирающиеся на разрабатываемые авторским коллективом технологии семантического моделирования - онтологического, когнитивного, событийного, вероятностного (на основе Байесовских сетей доверия) и визуальной аналитики (3D-геовизуализации). Для реализации ИССТ предусмотрено введение правил изменения элементов формальной модели, описывающих синтаксис, семантику и прагматику разрабатываемой системы. В качестве инструмента для описания знаний и интеграции семантических технологий (реализующих их инструментальных средств) предлагается язык ситуационного управления (Contingency Management Language - CML). CML разрабатывается на основе авторского фрактального подхода и ситуационного исчисления и
реализуется в рамках советующей экспертной системы, входящей в состав ИССТ. Предполагается разработка способов реализации ИССТ на основе интеллектуальных, агентных и облачных вычислений, реализация научно -исследовательского прототипа ИССТ, разработка технологии ее применения и апробация на примере стратегических задач развития энергетической инфраструктуры России.
1. Актуальность проекта определяется несколькими факторами. Одним из них является необходимость интенсификации исследований критических инфраструктур в России, к которым относится энергетическая инфраструктура. Другим важным фактором является распространение в России концепции интеллектуальных энергетических систем (Smart Power Grid) [4]. Взгляд автора на эту проблему с точки зрения информационно-телекоммуникационных технологий изложен, в частности, в [39]. Тенденция повышения интеллектуальности и компьютеризации энергетических систем увеличивает опасности киберугроз и требует их совместного рассмотрения с другими угрозами энергетической безопасности [12]. Следующим фактором, определяющим актуальность проекта, является необходимость разработки как новых методических подходов к созданию интеллектуальных систем ситуационного управления, в частности, для поддержки и обоснования решений по стратегическому развитию энергетики, так и способов их реализации с использованием современных информационных технологий. Предполагается, что результаты проекта будут серьезным научным вкладом в развитие методов исследований критически важных инфраструктур, а также в развитие, на примере энергетики, методов ситуационного управления, основанных на современных интеллектуальных технологиях, и в развитие семиотического подхода к построению интеллектуальных систем в рамках этого направления.
2. Цель и задачи проекта. Основной целью проекта является разработка методологии построения интеллектуальных систем ситуационного управления для поддержки принятия стратегических решений по развитию критических инфраструктур (на примере энергетики), основанных на применении семиотического подхода, ситуационного исчисления, семантического моделирования и визуальной аналитики (3D-геовизуализации).
Основные задачи проекта:
2.1. Анализ методов исследований критических инфраструктур, подходов к выявлению ключевых объектов (или их совокупности), воздействие на которые может оказать наиболее негативный эффект на отрасль экономики, ключевой ресурс или всю инфраструктуру, а также в оценке последствий подобного воздействия и разработке механизмов снижения таких рисков.
2.2.Современная трактовка идей ситуационного управления и семиотических систем, сформулированных в 70-х -80-х гг. прошлого века Д.А. Поспеловым и его учениками, с учетом возможностей современных информационных технологий, применительно к задачам поддержки принятия стратегических решений по развитию критических инфраструктур (на примере энергетики).
2.3. Анализ и классификация критически важных объектов энергетической инфраструктуры, угроз энергетической безопасности, критических ситуаций, учитываемых при разработке стратегии развития энергетики России, и мероприятий по предотвращению этих ситуаций.
2.4.Развитие методов ситуационного анализа и моделирования, как основных методов ситуационного управления в энергетике, на основе семантического моделирования (онтологического, когнитивного, событийного и вероятностного (на основе Байесовских сетей доверия)) и визуальной аналитики (3D-геовизуализации).
2.5.Исследование методов и онтологии ситуационного исчисления и возможностей их применения в интеллектуальных энергетических системах для разработки языка ситуационного управления, адаптация и развитие этих методов; разработка языка ситуационного управления в критических ситуациях в энергетике (Contingency Management Language - CML) с использованием фрактального подхода и ситуационного исчисления.
2.6.Разработка методов построения интеллектуальных систем стратегического ситуационного управления в критических инфраструктурах, основанных на применении семиотического подхода, ситуационного исчисления, семантического моделирования и визуальной аналитики (3D-геовизуализации).
2.7.Разработка архитектуры и способов реализации интеллектуальной системы семиотического типа для стратегического ситуационного управления в энергетике на основе интеллектуальных, агентных и облачных вычислений.
2.8.Реализация научного прототипа интеллектуальной системы семиотического типа для стратегического ситуационного управления в энергетике: с одной стороны, как платформы семантического моделирования взаимосвязей критически важных объектов, критических ситуаций в энергетике России и их возможного развития; с другой, как системы поддержки принятия стратегических решений в энергетике.
2.9. Разработка технологии применения и апробация семиотической интеллектуальной системы для ситуационного управления стратегическим развитием энергетической инфраструктуры.
З. Предлагаемые методы и подходы. Проект основывается на применении методов исследований критических инфраструктур, методических основ построения информационных технологий в исследованиях энергетики, методов поддержки принятия решений, методов инженерии знаний, методов объектного подхода (анализ, проектирование, программирование), методов системного и прикладного программирования, методов проектирования баз данных, информационных систем и экспертных систем, а также авторских методов семантического моделирования и ситуационного управления. При выполнении проекта авторы опираются на предложенные Д.А. Поспеловым и его учениками подходы к ситуационному управлению и построению семиотических систем [27]. Используется выполненное авторами отображение идей Поспелова на современные информационные технологии, в частности, технологии семантического моделирования, и авторская интерпретация идеи ситуационного управления применительно к стратегическому управлению в энергетике [15]. Предлагается использовать авторский фрактальный подход к структурированию знаний, построению онтологического пространства знаний в энергетике и разработке языка ситуационного управления [17]. Предполагаются развитие и адаптация к теме проекта методов ситуационного исчисления, а также разработка и развитие авторских методов построения онтологического пространства знаний в области энергетики; методов семантического моделирования в энергетике, основанных на использовании онтологического, когнитивного, событийного и вероятностного моделирования; методов
разработки программных и информационных компонентов интеллектуальной системы семиотического типа на основе агентных и облачных технологий; методов 3D-геовизуализации и методов визуальной аналитики с элементами когнитивной графики.
4. Современное состояние исследований в данной области науки.
4.1. Исследования критических инфраструктур являются достаточно молодым направлением, но становятся приоритетными во многих странах мира, и в первую очередь в США [5]. Актуальность этих исследований усугубляется угрозами кибернетической безопасности. К критическим инфраструктурам относят энергетику, транспорт, службы по чрезвычайным ситуациям, банковский и финансовый, телекоммуникационный сектора экономики и другие жизненно важные ресурсы. В исследованиях критических инфраструктуру большое внимание уделяется выявлению ключевых объектов (или их совокупности), воздействие на которые может оказать наиболее негативный эффект на отрасль экономики, ключевой ресурс или всю инфраструктуру, а также в оценке последствий подобного воздействия и разработке механизмов снижения таких рисков. Под энергетической инфраструктурой, которую относят к критически важным инфраструктурам, понимают совокупность энергетических объектов и систем энергетики, включая энергетические транспортные магистрали. В последнее десятилетие за рубежом активно обсуждается и развивается концепция Smart Grid или, в переводе на русский, «интеллектуальных энергетических систем - ИЭС» [4]. В России также анонсирована необходимость организации работ по развитию «умных энергосистем» и ведутся соответствующие исследования. Институт систем энергетики им. Л.А. Мелентьева СО РАН (ИСЭМ СО РАН) является одним из лидеров в этой области исследований. Наряду с применением в ИЭС уже ставших традиционными методов искусственного интеллекта (нейронные сети, генетические алгоритмы, нечеткая логика), все большее внимание энергетиков привлекают так называемые «системы с целеполаганием». Это интеллектуальные системы управления, которые имеют несколько целей функционирования (или умеют генерировать эти цели), выбирая самую подходящую цель в зависимости от окружающей среды, умеют прогнозировать поведение окружающей среды и свое собственное состояние. Пока такие системы в энергетике отсутствуют. В настоящее время все большее внимание привлекают задачи управления сложными динамическими объектами. К ним относятся как современные летательные аппараты, мобильные роботы и др., так и силовые и энергетические установки. Отмечается, что для таких объектов характерны отсутствие точных математических моделей либо их чрезмерная сложность, высокая размерность пространства состояний и принимаемых решений по управлению, иерархичность, многообразие критериев качества, высокий уровень шумов и внешних возмущений. Авторы проекта считают, что для систем с неполной информацией и высокой сложностью объекта управления все более актуальным является применение методов ситуационного управления, основанных на интеллектуальных технологиях, и развитие семиотического подхода к построению интеллектуальных систем в рамках этого направления.
4.2. Ситуационное управление. Термин «ситуационное управление» сформировался в 60-е годы прошлого века. Основоположником этого направления по праву считается Д.А. Поспелов. Вклад в формирование нового направления внесли ученики Д.А. Поспелова: Железов Ж.Й., развивавший теорию дискретных ситуационных сетей и Клыков Ю.И.,
разработавший язык синтагматических цепей - специальный язык моделирования для описания ситуаций и принятия решений в ситуационном управлении, опиравшийся на предложенный Д.А. Поспеловым и сейчас незаслуженно забытый язык RX-кодов, который, по сути, является прообразом онтологий. Наиболее полно итоги этого направления и исторический очерк его развития в 1960-х -1980-х гг. приведены в книге [27]. За рубежом подходы к ситуационному управлению ограничиваются в основном SWOT-анализом (выявление сильных (Strengths), слабых (Weaknesses) сторон, возможностей (Opportunities) и угроз (Threats)) и применяются преимущественно при решении экономических задач (С. О'Доннел, Г. Кунц и др.) Авторы используют современную трактовку ситуационного управления, которая рассматривается, в частности, в работах башкирских ученых [1] и др., в которых вводятся понятия текущей и целевой ситуаций и набора управляющих воздействий, позволяющих перейти от текущей ситуации к целевой. Этот подход хорошо интерпретируется на примере энергетических задач и позволяет разработать, на его основе, концепцию построения интеллектуальных динамических управляющих систем в энергетике. Автором в предыдущих работах была выполнена интерпретация идей Д.А. Поспелова на современные информационные технологии [15]. Предложено рассматривать в качестве основных методов ситуационного управления ситуационный анализ и ситуационное моделирование, которые выполняются с использованием технологий семантического моделирования [41]. Акцент делается на ситуационном управлении в экстремальных ситуациях в энергетике [14].
4.3. Технологии семантического моделирования. В общем виде под семантическим моделированием понимается информационное моделирование, основанное на выделении основные концептов (понятий) предметной области и связей между ними. Таким образом, к семантическим моделям могут быть отнесены как онтологии, так и семантические сети и инфологические ER-модели [8]. Наиболее активно эти технологии обсуждаются в рамках Международных конференций OSTIS (Open Semantic Technologies for Intelligent Systems), которая регулярно проводится в Белоруссии, членами программного комитета этой конференции являются ведущие российские и зарубежные ученые (Кузнецов О.П., Хорошевский В.Ф., Гаврилова Т.А., Тарасов В.Б. и др.).На этих конференциях, как правило, широко представлены работы как белорусских и украинских, так и ведущих российских школ, в т.ч. Московская школа (Хорошевский В.Ф., Кузнецов О.П., Петровский А.Б., Тарасов В.Б. и др.), Санкт-Петербургская (Т.А. Гаврилова и др.), Самарская (Смирнов С.В., Боргест Н.М.), Дальневосточная (Клещев А.С., Грибова В.В. и др.), Сибирские школы (Загорулько Ю.А., Массель Л.В. и др.). Онтологическое моделирование в настоящее время является одной из ведущих семантических технологий. В работах автора, начиная с 2013 г., обосновывается (и признано научным сообществом) отнесение к семантическим технологиям когнитивного, событийного и вероятностного (на основе Байесовских сетей доверия) моделирования, методы и средства которого активно разрабатываются коллективом, возглавляемым автором [13].
4.3.1. Онтологическое моделирование. Под онтологическим моделированием понимается, согласно Гуарино, «спецификация концептуализации», т.е. выявление основных понятий (концептов) предметной области и связей между ними и их описание (представление в графическом виде или на одном из специальных языков: XML, RDF, OWL и др.). Вопросы онтологического моделирования рассматривались в работах Т. Грубера
^гиЬег Т), Н. Гуарино ^иаппо N.) и др., в нашей стране - Гавриловой Т.А., Загорулько Ю.А., Калиниченко Л.А., Когаловского М.Р., Серебрякова В.А., Тузовского В.Ф., Хорошевского В.Ф., Ямпольского В.З. и др. Известна посвященная этим вопросам конференция ЗОНТ (Знания-Онтологии-Теория), которая регулярно (раз в два года) проводится в Новосибирске, до последнего времени - под руководством Н.Г. Загоруйко, в 2015 г. конференция прошла под руководством Пальчунова Д.Е. Работы, выполненные под руководством автора в этой области были представлены, в частности, на этой конференции [18-19].
4.3.2. Когнитивное моделирование. Под когнитивным моделированием понимается построение когнитивных моделей, или, иначе, когнитивных карт (ориентированных графов), в которых вершины соответствуют факторам (концептам), а дуги - связям между факторами (положительным или отрицательным), в зависимости от характера причинно-следственного отношения. Математическим аппаратом для построения когнитивных моделей является теория графов. Основы когнитивного моделирования были разработаны в свое время Ван Хао (1956 г.), Р. Аксельродом (1976 г.), Д.А. Поспеловым (1981 г.). Это направление получило свое развитие в работах Э.А.Трахтенгерца [32], в настоящее время активно развивается в Институте проблем управления РАН (Абрамова Н.А., Кульба В.В., Кулинич
A.А., Максимов В.И. и др.) для анализа влияний при управлении слабоструктурированными ситуациями.
4.3.3. Событийное моделирование. Под событийным моделированием понимается построение поведенческих моделей, причем в качестве объектов моделирования могут рассматриваться как люди, так и технические объекты. Сущность событийного метода моделирования заключается в отслеживании на модели последовательности событий в том же порядке, в каком они происходили бы в реальной системе. В качестве инструмента событийного моделирования используется аппарат Joiner-сетей (Ж) - одной из разновидностей алгебраических сетей, предложенной Л.Н. Столяровым [31]. Особенностью Ж является то, что они предусматривают как графическое представление, так и описание в виде логических формул, обработку которых можно автоматизировать. Работы, выполненные под руководством автора в области когнитивного и событийного моделирования, отражены, в частности, в [9], [40].
4.3.4. Вероятностное моделирование на основе Байесовских сетей доверия. Байесовские сети доверия - это графические модели вероятностных и причинно-следственных отношений в наборе переменных, которые описываются направленным ациклическим графом, вершинами которого являются переменные, а ребра показывают условные зависимости между ними. В основе этого инструмента лежит теорема Байеса. Основы инструмента графических вероятностных моделей (в частности, байесовских сетей) разрабатывались Дж. Перлом, Р.Дж. Кауэллом и др. В России этот аппарат рассматривался
B.И. Городецким, А.Л. Тулупьевым и др. Работы, выполненные под руководством автора, описаны, в частности, в [10].
4.4. Семиотический подход к построению интеллектуальных систем. Основы семиотического подхода к построению интеллектуальных систем для управления техническими системами в нашей стране также заложены в работах Д.А. Поспелова. Семиотика - это наука, исследующая свойства знаков, знаковых и символьных систем, используемых в процессе коммуникации. В настоящее время в мире она активно
развивается. В 2014 г. авторы участвовали в 12-м Всемирном конгрессе по семиотике (Болгария, София), в котором принимали участие более 600 человек [45]. Рассматривались всевозможные приложения семиотики в самых различных предметных областях. В областях, близких к информатике, это искусственные языки, процессы обработки информации (например, языки программирования, языки для индексирования документов, записи научно-технических фактов и знаний), алгоритмы, обеспечивающие обработку текстов на естественном языке (машинный перевод, автоматическое индексирование и реферирование, перевод с естественного языка на формальный язык), составления картографических изображений, специальных схем и планов др. Ведущими учеными-семиотиками (А. Соломоник, (Израиль), А. Володченко (Германия), К. Банков (Болгария) и др.) отмечалось недостаточное распространение семиотики в технических областях, а точнее, практическое отсутствие таких работ. Поспеловым было введено определение семиотической модели [27], которое потом было детализировано Г.С. Осиповым [26]. Согласно последнему, семиотическую модель можно определить как восьмерку:
W=< T, R, A, P, % р, а, л>, где T - множество основных символов; R - множество синтаксических правил; A - множество знаний о предметной области; P - множество правил вывода решений (прагматических правил); % - правила изменения множества T; р - правила изменения множества R; а - правила изменения множества A; л - правила изменения множества P.
Иначе говоря, в отличие от формальных моделей, в которых элементы, образующие множество Т, обладают жестким синтаксисом, жесткой семантикой и жесткой прагматикой, в семиотической модели все эти свойства элементов множества T становятся доступными для изменения; именно такой особенностью обладают знаки - элементы знаковых, или семиотических систем, изучаемых в семиотике. Такие системы тесно связаны со всей человеческой деятельностью, именно изменчивость и условность знаков делают эту деятельность эффективной.
Следует отметить, что семиотический подход в нашей стране развивается, в частности, в работах Осипова Г.С. [26], Вагина В.Н., Еремеева А.П. (интеллектуальные системы реального времени семиотического типа), Кулинича А.А. (семиотическая модель когнитивного опыта) и др. Перечисленные работы носят преимущественно теоретический характер, сведений о развитии этого подхода в области энергетики и применительно к системам ситуационного управления найти не удалось.
4.5. Ситуационное исчисление. Назначение ситуационного исчисления (situational calculus) - формализация ситуаций, действий и причинно-следственных связей между ними для некоторых систем. Более строго ситуационное исчисление рассматривается как логический язык, содержащий ряд разделов. Развитием ситуационного исчисления для моделирования динамического поведения различных сред занимались исследователи в различных странах. Само понятие было введено Дж. Маккарти в 1963 г. [43] (первая его статья, посвященная этим вопросам, датируется 1959 г.). Вклад в развитие этого направления
внесли Р. Рейтер, Р. Миллер и М. Шенехен (исчисление событий), М. Тильшер (исчисление флюент и исчисление действий), Е. Педнаулт [46]. Онтология ситуационного исчисления и его основные положения рассматриваются в [29]. Не удалось найти ссылок на работы в России, связанные с попытками применения ситуационного исчисления в области ситуационного управления, хотя имеются отдельные работы в других областях (например, проект И.В. Трофимова в области планирования параллельных вычислений (ИПС РАН)). Авторами предлагается интеграция методов ситуационного управления, основанных на применении семиотического подхода, семантического моделирования и ситуационного исчисления для разработки интеллектуальных систем семиотического типа в энергетике. Обязательными компонентами такой интеллектуальной системы являются компоненты, реализующие методы визуальной аналитики.
4.6. Визуальная аналитика. Согласно классификации, приведенной в [33], методы визуальной аналитики, разрабатываемые в коллективе, возглавляемом автором, лежат в области научной аналитики, информационной и геоинформационной аналитики. Эти методы базируются на ситуационной осведомленности [34], [36], 3D-геовизуализации (за рубежом и в России часто используется термин «неогеография» [3], [35] и когнитивной графике [2]. Работы авторского коллектива в этой области описаны, в частности, в [11], [20].
4.7. Агентные вычисления. Реализация будущей системы базируется на агентных и облачных вычислениях (реализации основных компонентов в виде агентов-сервисов). Агентные (многоагентные) вычисления (agent-based computing) - вычисления с использованием агентов - один из современных развивающихся подходов, применяемый, в частности, при реализации распределенных систем искусственного интеллекта, систем сетевого управления и др. «Агент» - это метафора, используемая в агентно-ориентированных системах, являющихся результатом синтеза технологий объектно-ориентированного программирования и искусственного интеллекта [30]. В основе концепции построения мультиагентных систем лежит понятие агента, которого можно рассматривать как некий автономно функционирующий и обладающий целенаправленным поведением программный компонент. В интеллектуальных энергетических системах декларируется многоагентный подход, но практически отсутствуют как методические разработки в области его применения в энергетике, так и их реализации. В этой области под руководством автора разработан многоагентный программный комплекс ИНТЭК-М (результаты отражены, в частности, в [47]) и разрабатывается мультиагентная система для оценивания состояний электроэнергетических систем (ЭЭС) [21 -22].
4.8. Облачные вычисления (Ooud computing) - технология распределенной обработки данных, в которой компьютерные ресурсы и мощности предоставляются пользователю как Интернет-сервис. В основе облачных вычислений лежит сервис-ориентированная архитектура (SOA). В настоящее время это направление активно развивается, декларируется возможность использования этой концепции и, в частности, SAAS (Software as a Service) как одной из составляющих интеллектуальной управляющей структуры энергетических систем. В то же время отмечается, что эффективное применение подобных интеллектуальных управляющих систем возможно только в соответствующих технологических инфраструктурах, требованиям которых реальные инфраструктуры отечественной энергетики пока не вполне соответствуют. Из соображений кибербезопасности авторы считают целесообразным ориентироваться на отечественные
платформы, например, разработки дальневосточных коллег (Грибова В.В. и др.), или платформу Clavire (научная школа А.В. Бухановского, Санкт-Петербург, ИТМО). Авторам не удалось найти информацию в научной прессе и Интернет о попытках комплексного применения предлагаемых подходов при разработке динамических интеллектуальных систем в энергетике.
Учитывая специфику Российской энергетики, обусловленную как организационными отличиями, так и масштабами и пространственной распределенностью энергетических систем, не представляется возможным использовать зарубежные разработки. Более того, за рубежом не ставятся аналогичные задачи в силу тех же причин. Тем не менее, может быть использован зарубежный опыт по защите критических инфраструктур.
4.9. Защита критических инфраструктур за рубежом. В США создан и функционирует Национальный центр анализа и имитационного моделирования инфраструктуры (NISAC), который находится под непосредственным руководством управления защиты инфраструктуры и управления рисками МВБ США (Department of Homeland Security's Infrastructure Protection/Risk Management Division), обеспечивая министерство и другие органы государственного управления возможностями имитационного моделирования, анализа объектов критической инфраструктуры, оценки их взаимозависимости и уязвимости. NISAC также осуществляет интеграцию деятельности национальных лабораторий в Сандиа и Лос-Аламосе по вопросам разработки современных комплексов моделирования и выявления потенциально уязвимых объектов критической инфраструктуры [37] . Кроме того, в составе министерства энергетики США с сентября 2003 года функционирует рабочая группа визуализации и моделирования (The Visualization and Modeling Working Group - VMWG). Она призвана повысить возможности министерства по проведению быстрого и всестороннего анализа возможных чрезвычайных ситуаций в энергетическом секторе. Группой применяются самые современные информационные технологии, геоинформационные системы, база данных происшествий на объектах энергетического сектора и др. [44]. Одной из близких к тематике проекта является «Система моделирования критических инфраструктур» (Critical Infrastructure Interdependency Modeling - CIMS), разработанная национальной лабораторией Айдахо. Финансирование осуществлялось министерством энергетики США и научно-исследовательской лабораторией ВВС. Модель CIMS представляет собой систему имитационного моделирования, сочетающую данные геопространственной информации и четырехмерный (пространственно-временной) эффект. Путем нажатия клавиши она позволяет оперативно изменять состояние исследуемой системы, быстро адаптируясь к меняющейся обстановке. Следует отметить, что семантическое моделирование и методы искусственного интеллекта, используемые авторами данного проекта, в CIMS не используются.
5. Предпосылки выполнения проекта. Исполнители проекта имеют существенный научный задел, связанный с разработкой методов и инструментальных средств интелллектуальной поддержки принятия решений в исследованиях и обеспечении энергетической безопасности. Разработка соответствующих научно-исследовательских прототипов таких средств базировалась на применении интеллектуальных, агентных и облачных вычислений. Существующий задел был получен, в том числе, в рамках проектов, поддержанных грантами РФФИ: №07-G7-00265, №10-G7-00264, № 13-G7-0140, грантом РГНФ № 07-G2-12112 в и грантами Программы Президиума РАН №229 (2009-2G11, 2G12-
2014), выполненных под руководством Л.В. Массель, а также проектов по грантам РФФИ №11-07-00192, № 12-07-0359, № 13-07-31268, №14-07-00116, №15-07-01284, №15-57-04074 Бел_мол_а, выполненных и выполняемых под руководством молодых ученых - членов научного коллектива.
По результатам этих проектов, которые будут применены при выполнении рассматриваемого проекта, в 2009-2013 гг. защищены 9 кандидатских диссертаций под научным руководством Л.В. Массель. В частности, в диссертациях получены следующие оригинальные результаты: методика построения программного комплекса с архитектурой, управляемой онтологиями и реализация ПК (Ворожцова Т.Н.), методика построения многоагентных программных комплексов для исследований энергетики и реализация многоагентного ПК ИНТЭК-М (Фартышев Д.А.), методы и инструментальные средства событийного и когнитивного моделирования в энергетике (Аршинский В.Л., Массель А.Г.), методика и средства интеллектного контроля и преобразования данных для вычислительного эксперимента в исследованиях энергетики (Курганская О.В.), методика 3D-визуализации в исследованиях и обосновании решений в энергетике (Иванов Р.А.), методика моделирования угроз энергетической безопасности с помощью байесовских сетей (Пяткова Е.В.).
Коллектив, возглавляемый автором, имеет большой многолетний опыт работы в области моделирования и реализации интегрированных информационных систем, сложных программных комплексов, Web-приложений, интеллектуальных систем поддержки принятия решений, построения и использования онтологий при разработке программных комплексов, создания геоинформационных систем и систем 3D-геовизуализации, интеллектуальных распределенных информационных систем в области исследований энергетики, а также опыт интеграции информационных технологий и поддержки вычислительных экспериментов при исследованиях проблемы энергетической безопасности.
Для исследований проблем энергетической безопасности авторами была предложена и реализована двухуровневая технология исследований, в которой на первом, верхнем уровне экспертами выполнялся качественный анализ вариантов развития энергетики с использованием семантических технологий («экспресс»-анализ). Для количественного обоснования выбранных вариантов можно использовать на втором (нижнем) экономико-математические модели топливно-энергетического комплекса (ТЭК) России большой размерности и традиционные программные комплексы для многовариантных расчетов по этим моделям. Работы выполняются в тесном сотрудничестве с энергетиками (Н.И. Пяткова, С.М. Сендеров и др.), которые являются одними из ведущих специалистов в области исследований проблем энергетической безопасности, имеют большой опыт проведения вычислительных экспериментов для обоснования вариантов развития энергетики, а также опыт участия в разработке стратегии развития энергетики России и выполнения заказных работ Российского энергетического агентства [28].
Вопросы онтологического моделирования в энергетике рассматривались в работах Массель Л.В., Ворожцовой Т.Н., Скрипкина С.К., Копайгородского А.Н., Масселя А.Г., Макагоновой Н.Н. [18 и др]. В последнее время выполнен онтологический инжиниринг проблемы ситуационного управления [19].
Вопросы когнитивного моделирования в энергетике рассматривались в работах Масселя А.Г., Массель Л.В., Макагоновой Н.Н. В исследованиях проблем ЭБ когнитивное моделирование используется для ситуационного анализа проблемы ЭБ и моделирования
угроз ЭБ, под которыми понимаются неблагоприятные для энергетики события. Реализованы инструментальные средства поддержки когнитивного моделирования - библиотека CogMap.
A.Г. Масселем в 2011 г. защищена кандидатская диссертация, посвященная вопросам когнитивного моделирования в энергетике. Аспирант Пестерев ДА. в своей диссертационной работе развивает идею применения продукционных экспертных систем для интерпретации когнитивных моделей.
Вопросами событийного моделирования в энергетике занимались В.Л. Аршинский,
B.О. Тюрюмин. Реализованы инструментальные средства поддержки событийного моделирования - библиотека EventMap. Аршинским В.Л. в 2010 г. защищена кандидатская диссертация по вопросам событийного моделирования в энергетике на основе Joiner-сетей, Тюрюмин В.О. в своей кандидатской диссертации занимается, совместно с Масселем А.Г., вопросами интеграции когнитивных и событийных моделей [7].
Для интеграции качественного и количественного уровней информационной технологии исследований проблем энергетической безопасности [8] была предложена методика интеллектного преобразования данных на основе дедуктивного синтеза программ и декларативных представлений процессов преобразования данных [6]. Курганской О.В. в 2012 г. была защищена кандидатская диссертация, посвященная этим вопросам. Пятковой Е.В. в 2013 г. была защищена кандидатская диссертация по вопросам вероятностного моделирования в исследованиях энергетической безопасности [10]. Ивановым Р.А. в 2013 г. защищена кандидатская диссертация, посвященная разработке методики и инструментальных средств 3D-визуализации в исследованиях и обосновании решений в энергетике [11].
В коллективе имеется опыт разработки и применения агентных технологий, в частности, под руководством Л.В. Массель реализован многоагентный ПК ИНТЭК-М для исследований направлений развития топливно-энергетического комплекса с учетом требований энергетической безопасности (который применяется на втором уровне описанной выше информационной технологии) и разрабатывается многоагентная система для оценивания состояний ЭЭС (Гальперов В.И.). В последней работе рассматриваются возможности использования для управления агентами одной из разновидностей алгебраических сетей - Joiner-сетей (JN), упоминавшихся выше [22].
В последнее время авторы развивают разработанные ими методы и инструментальные средства в рамках направления, связанного с созданием интеллектуальных энергетических систем (ИЭС), получившего за рубежом название Smart Grid [39]. Сематическое моделирование будет поддерживаться библиотеками когнитивного CogMap, событийного EventMap и вероятностного BayNet моделирования (авторами разработаны научно-исследовательские прототипы этих инструментальных средств). Основой разработки инструментальных средств когнитивного и событийного моделирования является авторская среда графического моделирования GrModeling (Копайгородский А.Н.), позволяющая обеспечить концептуальное единство и совместимость инструментальных средств. Имеется опыт реализации существующих научно-исследовательских прототипов в виде Web-сервисов на основе Open Source (OntoMap, геокомпонент для 3D-геовизуализации (Копайгородский А.Н., Иванов Р.А. и др.)) [16].
Имеются разработки в области развития семиотического подхода к построению интеллектуальных систем: выполнены отображение идей ДА. Поспелова на
инструментальные средства семантического моделирования, интерпретация идеи ситуационного управления на примере исследований направлений развития топливно-энергетического комплекса России [23], постановка задач разработки советующей экспертной системы Advice и языка ситуационного управления в экстремальных ситуациях в энергетике (Contingency Management Language) CML [24]. Предложено развитие, на основе интеллектуальной ИТ-среды [38], Ситуационного полигона как прототипа семиотической интеллектуальной системы семиотического типа [25 ]
Имеется задел в области исследований критических инфраструктур. Выполнялись исследования (Массель Л.В., Массель А.Г., Ворожцова Т.Н.), связанные с кибербезопасностью интеллектуальных энергетических систем, результаты докладывались и опубликованы, в частности, в трудах Международной конференции CRIS, которая была организована Международной ассоциацией «Международный институт критических инфраструктур» (International Institute for Critical Infrastructures - CRIS) при поддержке IEEE PES German Chapter, IEEE PES Russian (Siberia) Chapter [42].Таким образом, при выполнении данного проекта будут использованы ранее полученные авторами результаты и разработанные методы, отличающиеся новизной и оригинальностью.
6. Ожидаемые научные результаты проекта. В целом будут получены следующие результаты:
6.1. Оригинальная методология построения семиотических интеллектуальных систем стратегического ситуационного управления развитием критических инфраструктур (на примере энергетики) на основе обобщения разработанных методов ситуационного управления, ситуационного исчисления, и методов построения интеллектуальных систем семиотического типа.
6.2. Реализация научного прототипа интеллектуальной системы семиотического типа для стратегического ситуационного управления в энергетике, с одной стороны, как платформы семантического моделирования взаимосвязей важных объектов критических инфраструктур, критических ситуаций в энергетике России и их возможного развития, с другой, как интеллектуальной системы поддержки принятия стратегических решений в энергетике (аналоги таких систем отсутствуют, как в нашей стране, так и за рубежом).
6.3. Апробация (применение) разработанной интеллектуальной семиотической системы для решения конкретных задач стратегического ситуационного управления в энергетике и отладка технологии интеллектуальной поддержки принятия стратегических решений по развитию энергетики России (будет применена впервые, аналоги отсутствуют).
Заключение. В статье рассмотрены основные положения проекта «Методология построения интеллектуальных систем семиотического типа для стратегического ситуационного управления в критических инфраструктурах». Определены основные проблемы, возникающие при создании таких систем, и предложены пути их решения. Автор считает, что методы, разработка которых предлагается в данном проекте, отличаются новизной и оригинальностью, соответствуют мировому уровню работ в затрагиваемых областях, а в ряде случаев их превосходят (в областях ситуационного управления и построения интеллектуальных систем семиотического типа в энергетике). Одной из целей проекта является расширение области применения полученных результатов (распространение результатов, полученных для энергетики, на другие критические инфраструктуры).
Проект выполняется при частичной финансовой поддержке гранта РФФИ № 16-0700474, а также грантов Программы Президиума РАН №229 (2015-2017) и РФФИ № 16-0700569.
СПИСОК ЛИТЕРАТУРЫ
1. Васильев В.И., Ильясов Б.Г. Интеллектуальные системы управления. Теория и практика. М. Радиотехника. 2009. 392 с.
2. Зенкин А.А. Когнитивная компьютерная графика. М. Наука. 1991. 192 с.
3. Еремченко Е.Н. Неогеография и Situational Awareness. Конференция «Неогеография XXI-2009». Х Международный форум «Высокие технологии XXI века»: труды. Москва. 2009. С. 434-436.
4. Кобец Б.Б., Волкова И.О. Инновационное развитие электроэнергетики на базе концепции Smart Grid. М. ИАЦ Энергия. 2010. 208 с.
5. Кондратьев А. Современные тенденции в исследовании критической инфраструктуры в зарубежных странах http://pentagonus.ru/publ/ sovremennye_tendencii_v_issledovanii_kriticheskoj_infrastruktury_v_zarubezhnoj_stranak h_2012/19-1-0-2082 (дата обращения 7.09.2015)
6. Курганская О.В. Декларативные представления процессов преобразования данных для вычислительного эксперимента в исследованиях энергетической безопасности // Современные технологии. Системный анализ. Моделирование. №1 (33). 2012. С. 147152.
7. Массель А.Г., Тюрюмин В.О. Интеграция семантических моделей в исследованиях проблем энергетической безопасности // Известия Томского политехнического университета. № 5. Том 324. 2014. С. 70-78.
8. Массель Л.В. Интеграция семантического и математического моделирования в исследованиях проблем энергетической безопасности// Международная конференция «Моделирование-2012»: труды. Киев. ИПМЭ НАН Украины. 2012. С. 270-273.
9. Массель Л.В., Массель А.Г. Интеллектуальные вычисления в исследованиях направлений развития энергетики // Известия Томского политехнического университета. 2012. Т. 321. № 5. Управление, вычислительная техника и информатика. С. 135-141.
10. Массель Л.В., Пяткова Е.В. Применение байесовских сетей доверия для интеллектуальной поддержки исследований проблем энергетической безопасности // Вестник ИрГТУ.№2. 2012. С. 8-13.
11. Массель Л.В., Иванов Р.А., Массель А.Г. Моделирование этапов принятия решений на основе сетецентрического подхода // Вестник ИрГТУ. №10 (81). 2013. С. 16-22.
12. Массель Л.В. Использование современных информационных технологий в Smart Grid как угроза кибербезопасности энергетических систем России // Information technology and security: Труды. Киев. Институт специальной связи и защиты информации НТУ Украины «КПИ». №1 (3). 2013. С. 56-65.
13. Массель Л.В., Массель А.Г. Семантические технологии на основе интеграции онтологического, когнитивного и событийного моделирования // III международная научно-техническая конференция 0STIS-2013: труды. Беларусь. Минск. БГУИР. 2013. С. 247-250.
14. Массель Л.В., Массель А.Г. Технологии и инструментальные средства интеллектуальной поддержки принятия решений в экстремальных ситуациях в энергетике // Вычислительные технологии. 2013. Т.18. С. 37-44.
15. Массель Л.В., Массель А.Г. Ситуационное управление и семантическое моделирование в энергетике // IV Международная конференция OSTIS: труды. Беларусь. Минск. БГУИР. 2014. С. 111-116.
16. Массель Л.В., Иванов Р.А., Чемезов А.А. Web-приложение для 3D-визуализации в исследованиях и обосновании решений в энергетике // Образовательные ресурсы и технологии. 2014. №5 (8). С. 101-107.
17. Массель Л.В., Массель А.Г. Методы и средства ситуационного управления в энергетике на основе семантического моделирования // V Международная конференция OSTIS: труды. Беларусь. Минск. БГУИР. 2015. С. 199-204.
18. Массель Л.В., Ворожцова Т.Н., Копайгородский А.Н., Макагонова Н.Н., Скрипкин С.К. Применение онтологий в исследованиях и поддержке принятия решений в энергетике // Всероссийская конференция «Знания-Онтологии-Теория (ЗОНТ-13)»: труды. Новосибирск. ИМ СО РАН. Т. 2. С. 29-38.
19. Массель Л.В., Массель А.Г., Ворожцова Т.Н., Макагонова Н.Н. Онтологический инжиниринг ситуационного управления в энергетике // Всероссийская конференция с международным участием «Знания, онтологии, теории» (ЗОНТ-2015)»: труды. Т. 2. 2015.Новосибирск. ИМ СО РАН. С. 36-43.
20. Массель Л.В., Массель А.Г., Иванов Р.А. Когнитивная графика и семантическое моделирование для геопространственных решений в энергетике// 21 -я Международная конференция Интеркарто/ИнтерГИС «Устойчивое развитие территорий: картографо-геоинформационное обеспечение»: труды. Краснодар-Фиджи. 2015. Краснодар. КГУ. С. 496-502.
21. Массель Л.В., Гальперов В.И. Разработка многоагентных систем распределенного решения энергетических задач с использованием агентных сценариев // Известия Томского политехнического университета. Т. 326. №5. 2015.. С. 45-53
22. Массель Л.В., Гальперов В.И. Разработка многоагентной системы оценивания состояний электроэнергетических систем с использованием событийных моделей// Наука и образование. №9. 2015. М. МГТУ им. Баумана. Эл. №ФС77-4211. ISSN 19940448. DOI: 10.7463/ 0915. 0811180.
23. Массель Л.В., Массель А.Г. Семиотический подход к созданию интеллектуальных систем ситуационного управления в энергетике// XLIII Международная конференция «Информационные технологии в науке, образовании и управлении»: труды. Под ред. проф. Е Л. Глориозова. Москва. 2015. С. 182-193.
24. Массель Л.В., Массель А.Г. Язык описания и управления знаниями в интеллектуальной системе семиотического типа // XX Байкальская Всероссийская конференция «Информационные и математические технологии в науке и управлении»: труды. Т. 3. Иркутск. ИСЭМ СО РАН. 2015. С. 112 - 124.
25. Массель А.Г., Массель Л.В. Ситуационный полигон как интеллектуальная система семиотического типа. XLIII Международная конференция «Информационные технологии в науке, образовании и управлении»: труды. Под ред. проф. Е.Л. Глориозова. Москва. 2015. С. 246-255.
26. Осипов Г.С. От ситуационного управления к прикладной семиотике // Новости искусственного интеллекта. 2002. № 6 (54). С. 2-12.
27. Поспелов Д.А. Ситуационное управление. Теория и практика. М. Наука. 1986. 284 с.
28. Пяткова Н.И., Сендеров С.М., Пяткова Е.В. Методические особенности исследования проблем энергетической безопасности на современном этапе // Известия. РАН. Энергетика. 2014. № 2. С.81-87.
29. [Рассел и др. (а)] Действия, ситуации и события (онтология ситуационного исчисления)// В кн.: Рассел С. , Норвиг П. Искусственный интеллект: современный подход. 2-е изд.:Пер. с англ. М.: Изд. Дом «Вильямс». 2006. С. 451-466.
30. [Рассел и др. (б)] Интеллектуальные агенты // В кн.: Рассел С., Норвиг П. Искусственный интеллект: современный подход. 2-е изд. Пер. с англ. М.: Изд. Дом «Вильямс». 2006. С. 75-108.
31. Столяров Л.Н. Философия событийного моделирования на примере сценария энергетической катастрофы // Международная конференция «Информационные технологии в науке, образовании, телекоммуникации и бизнесе»: труды. Украина. Гурзуф. 2010. С. 197-200.
32. Трахтенгерц Э.А. Компьютерная поддержка принятия решений. М.:СИНТЕГ. 1998. 376 с.
33. Черняк Л. Визуальная аналитика и обратная связь // «Открытые системы». №6. 2013. URL: http://www.osp.ru/os/archive/ (Дата обращения 02.12.2014).
34. Endsley, M. R. The Role of Situation Awareness in Naturalistic Decision Making. In C. Zambock & G. Klein (Eds.). Naturalistic Decision Making. 1997. Mahwah. NJ: LEA. Рр. 269-284.
35. E. Eremchenko, V. Tikunov, R. Ivanov, L. Massel, J. Strobl. Digital Earth and Evolution of Cartography. Procedia Computer Science. Volume 66. 2015. Pp 235-238. Published by Elsevier.
36. Ivanov R.A., Massel L.V. Possibility of Application of Situational Awareness in Energy Research // 12th International Workshop on Computer Science and Information Technologies : рroceedings. Vol.1. 2010. Russia. Moscow - St. Petersburg. Pp. 185-187.
37. Los Alamos National Laboratory, http://www.sandia.gov/mission/ homelandyprograms/ critical/nisac.html, http://lanI. gov/orgs/d/nisac/.
38. Massel L.V., Massel A.G., Arshinsky V.L. Intelligent IT-enviroment for decision support in research and energy security guaranty of Russia and its regions // 13 th Workshop on ^mputer Science and Information Technologies: рroceedings. Vol. 1. 2011. Germany. Garmish-Partenkirchen. KIT. Pp. 7-13.
39. Massel L.V. Problems of the Smart Grid creation in Russia with a view to information and telecommunication technologies and proposed solutions // 14th International Workshop on Computer Science and Information Technologies: рroceedings. Vol. 1. 2013. Austria-Slovakia- Hungaria. Pp. 115 - 120.
40. Massel L.V., Arshinsky V.L., Massel A.G. Intelligent computing on the basis of cognitive and event modeling and its application in energy security studies // International Journal of Energy Optimization and Engineering. Special issue on: Mathematical and heuristic modeling and optimization of energy systems. № 3(1). 2014. Pp. 83-91.
41. Massel L.V., Massel A.G. Contingency management and semantic modeling in energy sector // 15th International Workshop on Computer Science and Information Technologies: proceedings. Vol. 1. 2014. England. Sheffield. Ph. 158-162.
42. Massel L., Massel A. Cyber security of Russia's energy infrastructure as a component of national security// International Conference on Problems of Critical Infrastructures and 6th International Conference on Liberalization and Modernization of Power Systems: proceedings. Edited by Z.A. Styczynski and N.I. Voropai. 2015. Saint Petersburg. Pp. 6672.
43. McCarthy J., Situations, Actions and Causal Laws. Stanford Artificial Intelligence Project: Memo 2. 1963.
44. National Energy Technology Laboratory, http://www.netl.doe.gov/onsite research.
45. 12th World Congress of Semiotics "New Semiotics: Between Tradition and Innovation": abstracts. Bulgaria. Sofia. New Bulgarian University/Southeast European Center For Semiotic Studies. 2014. 218 p.
46. Pednault E.P.D. ADL: Exploring the middle ground between STRIPS and the situation calculus. В трудах 1-st Int. Conf. on Principles of Knowledge Representation and Reasoning. 1989. Pp. 324-332 .
47. Voropai N.I., Kolosok I.N., Massel L.V. et al. A Multy-Agent Approuch to Electric Power Systems // Multi-Agent Systems - Modeling, Interaction, Simulations and Case Studies. India. InTech. 2011. Pp. 368-394.
UDK 004.89:003.62:620.9
CREATION PROBLEMS OF INTELLIGENT SYSTEMS OF SEMIOTIC TYPE FOR STRATEGIC CONTINGENCY MANAGEMENT IN CRITICAL INFRASTRUCTURES Liudmila V. Massel
Dr., Professor, Chief Researcher, Head of the Laboratory "Information Technologies"
Melentiev Energy Systems Institute Siberian Branch of the Russian Academy of Sciences 130, Lermontov Str., 664033, Irkutsk, Russia, e-mail: massel@isem.irk.ru
Annotation. The article discusses the approach to the development of intelligent systems of semantic type for situational strategic management of critical infrastructures (for example, energy infrastructure). The goal and main problems of the project are formulated. It's described the proposed methods, the current state of research in this area, the expected results and the scientific background of the project (work done by the author leadership in this direction). An extensive bibliography is represented.
Keywords: Critical Infrastructures, Smart Power Grid, Intelligent Systems, Contingency Management, Semiotic Approach, Semantic Modeling.
Проблемы создания интеллектуальных систем семиотического типа References
1. Vasil'ev V.I., Il'jasov B.G. Intellektual'nye sistemy upravlenija. Teorija i praktika [Intelligent management systems. Theory and practice]. M. 2009. 392 s. (in Russian).
2. Zenkin A.A. Kognitivnaja komp'juternaja grafika [Cognitive Computer Graphics]. M. Nauka. 1991. 192 s. (in Russian).
3. Eremchenko E.N. Neogeografija i Situational Awareness [Neogeography and Situational Awareness]. Konferencija «Neogeo-grafija XXI-2009». X Mezhdunarodnyj forum «Vysokie tehnologii XXI veka»: trudy. Moskva.= Conference "Neogeography XXI-2009". X International Forum "High Technologies of XXI Century": Proceedings. Moscow. 2009. S. 434-436 (in Russian).
4. Kobec B.B., Volkova I.O. Innovacionnoe razvitie jelektrojenergetiki na baze koncepcii Smart Grid [The innovative development of electric power based on the concept of Smart Grid]. M. IAC Jenergija.= M. IAC Energy. 2010. 208 s. (in Russian).
5. Kondrat'ev A. Sovremennye tendencii v issledovanii kriticheskoj infra-struktury v zarubezhnyh stranah [Current trends in the study of critical infrastructure in foreign countries] http://pentagonus.ru/publ/ sovremennye_tendencii_v_issledovanii_ kriticheskoj_infrastruktury_v_zarubezhnoj_stranakh_2012/19-1 -0-2082 (data obrashhenij a 7.09.2015) (in Russian).
6. Kurganskaja O.V. Deklarativnye predstavlenija processov preobrazovanija dannyh dlja vychislitel'nogo jeksperimenta v issledovanijah jenergeticheskoj bezopasnosti [Declarative representation of data conversion processes for computational experiment in the research of energy security] // Sovremennye tehnologii. Sistemnyj analiz. Modelirovanie = Modern technologies. System analysis. Modeling. №1 (33). 2012. S. 147-152 (in Russian).
7. Massel' A.G., Tjurjumin V.O. Integracija semanticheskih modelej v issledovanijah problem jenergeticheskoj bezopasnosti [Integration of semantic models in the research of energy security problems // Izvestija Tomskogo politehnicheskogo universiteta = Bulletin of the Tomsk Polytechnic University. № 5. Tom 324. 2014. S. 70-78 (in Russian).
8. Massel' L.V. Integracija semanticheskogo i matematicheskogo modelirovanija v issledovanijah problem jenergeticheskoj bezopasnosti [Integration of the semantic and mathematical modeling in research of the energy security problems] // Mezhdunarodnaja konferencija «Modelirovanie-2012»: trudy. = International Conference "Modeling 2012": Proceedings. Kiev. IPMJe NAN Ukrainy. 2012. S. 270-273 (in Russian).
9. Massel' L.V., Massel' A.G. Intellektual'nye vychislenija v issledovanijah napravlenij razvitija jenergetiki [Intelligent computing in research of the energy sector development] // Izvestija Tomskogo politehnicheskogo universiteta = Bulletin of the Tomsk Polytechnic University. 2012. T. 321. № 5. Upravlenie, vychislitel'naja tehnika i informatika = Management, Computer Science and Informatics. S. 135-141 (in Russian)
10. Massel' L.V., Pjatkova E.V. Primenenie bajesovskih setej doverija dlja intel-lektual'noj podderzhki issledovanij problem jenergeticheskoj bezopasnosti [Application of Bayesian belief networks to intelligent support in research of energy security problems // Vestnik IrGTU= Bulletin of the Irkutsk State Technical University. №2. 2012. S. 8-13 (in Russian).
11. Massel' L.V., Ivanov R.A., Massel' A.G. Modelirovanie jetapov prinjatija re-shenij na osnove setecentricheskogo podhoda [ Modeling of decision-making stages on the basis of
network-centric approach // Vestnik IrGTU= Bulletin of the Irkutsk State Technical University. №10 (81). 2013. S. 16-22 (in Russian).
12. Massel' L.V. Ispol'zovanie sovremennyh informacionnyh tehnologij v Smart Grid kak ugroza kiberbezopasnosti jenergeticheskih sistem Rossii [The use of modern information technologies in the Smart Grid as a threat of cyber security to Russian energy systems] // Information technology and security: Proceedings. Kiev. Institut special'noj svjazi i zashhity informacii NTU Ukrainy «KPI»= Kiev. Institute of Special Communication and Information Protection of National Technical University of Ukraine "KPI". №1 (3). 2013. S. 56-65 (in Russian).
13. Massel' L.V., Massel' A.G. Semanticheskie tehnologii na osnove integracii ontologicheskogo, kognitivnogo i sobytijnogo modelirovanija [Semantic technologies based on the integration of the ontological, cognitive and event modeling] // // III mezhdunarodnaja nauchno-tehnicheskaja konferencija OSTIS-2013: trudy. = III International Scientific Conference OSTIS-2013: Proceedings. Minsk. BGUIR. .= Belarus' State University of Informatics and Radiotechnics. 2013. S. 247-250 (in Russian).
14. Massel' L.V., Massel' A.G. Tehnologii i instrumental'nye sredstva intellektual'noj podderzhki prinjatija reshenij v jekstremal'nyh situacijah v jenergetike [Technologies and tools of intelligent decision-making support of in emergency situations in the energy sector] // Vychislitel'nye tehnologii = Computational technologies. 2013. T.18. S. 37-44 (in Russian).
15. Massel' L.V., Massel' A.G. Situacionnoe upravlenie i semanticheskoe modeli-rovanie v jenergetike [Contingency management and semantic modeling in the energy sector] // IV Mezhdunarodnaja konferencija 0STIS-2014: trudy. = IV International Conference OSTIS-2014: Proceedings. Minsk. BGUIR. = Belarus' State University of Informatics and Radiotechnics. 2014. S. 111-116 (in Russian).
16. Massel' L.V., Ivanov R.A., Chemezov A.A. Web-prilozhenie dlja 3D-vizualizacii v issledovanijah i obosnovanii reshenij v jenergetike [Web-application for 3D-visualization in the research and justification of decisions in the energy sector] // Obrazovatel'nye resursy i tehnologii. = Educational resources and technologies. 2014. №5 (8). S. 101-107(in Russian).
17. Massel' L.V., Massel' A.G. Metody i sredstva situacionnogo upravlenija v jenergetike na osnove semanticheskogo modelirovanija [Methods and tools for situational management in the energy sector based on the semantic modeling] // V Mezhdunarodnaja konferencija 0STIS-2015: trudy. = IV International Conference 0STIS-2015: Proceedings. Minsk. BGUIR. = Belarus' State University of Informatics and Radiotechnics. 2015. S. 199-204 (in Russian)
18. Massel' L.V., Vorozhcova T.N., Kopajgorodskij A.N., Makagonova N.N., Skripkin S.K. Primenenie ontologij v issledovanijah i podderzhke prinjatija reshenij v jenergetike [The ahhlication of ontologies in research and decision support in the energy sector] // Vserossijskaja konferencija «Znanija-Ontologii-Teorija (ZONT-13)»: trudy. = Russian Conference "Knowledge-Ontology-Theory (KONT-13): Proceedings. Novosibirsk. IM SO RAN = Mathematics Institute of Siberian Branch of Russian Academy of Science. T. 2. S. 29-38 (in Russian).
19. Massel' L.V., Massel' A.G., Vorozhcova T.N., Makagonova N.N. Ontologicheskij inzhiniring situacionnogo upravlenija v jenergetike [Ontological engineering of situational
management in the energy sector]// Vserossijskaja konferencija s mezhdunarodnym uchastiem «Znanija, ontologii, teorii» (ZONT-2015)»: trudy. = Russian Conference with international participation "Knowledge-ontology-theory" (KONT-2015) ": Proceedings. T. 2. 2015.Novosibirsk. IM SO RAN. = Mathematics Institute of Siberian Branch of Russian Academy of Science. S. 36-43 (in Russian).
20. Massel' L.V., Massel' A.G., Ivanov R.A. Kognitivnaja grafika i semanticheskoe modelirovanie dlja geoprostranstvennyh reshenij v jenergetike [Cognitive graphics and semantic modeling for spatial solutions in the energy sector] // 21-ja Mezhdu-narodnaja konferencija Interkarto/InterGIS «Ustojchivoe razvitie territorij: kartografo-geoinformacionnoe obespechenie»: trudy. = 21th International Conference Intercarto / InterGIS "Sustainable Development of Territories: Cartography and GIS software": Proceedings. Krasnodar-Fidzhi (Fiji). 2015. Krasnodar. KGU. = Krasnodar State University. S. 496-502 (in Russian).
21. Massel' L.V., Gal'perov V.I. Razrabotka mnogoagentnyh sistem raspredelenno-go reshenija jenergeticheskih zadach s ispol'zovaniem agentnyh scenariev [The development of multiagent systems for distributed solving of the energy tasks using agent scenarios] // Izvestija Tomskogo politehnicheskogo universiteta = Bulletin of the Tomsk Polytechnic University. T. 326. №5. 2015.. S. 45-53 (in Russian).
22. Massel' L.V., Gal'perov V.I. Razrabotka mnogoagentnoj sistemy ocenivanija sostojanij jelektrojenergeticheskih sistem s ispol'zovaniem sobytijnyh modeleij [The development of multi-agent system for state estimation of electric power systems using event models] // Nauka i obrazovanie.= Science and education. №9.2015. M. MGTU im. Baumana. = Moscow State Technical University named by Bauman. El. №FS77-4211. ISSN 1994-0448. DOI: 10.7463/ 0915. 0811180 (in Russian).
23. Massel' L.V., Massel' A.G. Semioticheskij podhod k sozdaniju intellektual'nyh sistem situacionnogo upravlenija v jenergetike/ [Semiotic approach to the creation of intelligent systems of situational management in the energy sector] // XLIII Mezhdunarodnaja konferencija «Informacionnye tehnologii v nauke, obrazovanii i upravlenii»: trudy. Pod red. prof. E.L. Gloriozova. Moskva.= XLIII International Conference "Information Technologies in Science, Education and Management": Proceedings. By edition of prof. E.L. Gloriosov. Moscow. 2015. S. 182-193 (in Russian).
24. Massel' L.V., Massel' A.G. Jazyk opisanija i upravlenija znanijami v intellektual'noj sisteme semioticheskogo tipa [The language for knowledge description and management in the intelligent system of semiotic type] // XX Bajkal'skaja Vserossijskaja konferencija «Informacionnye i matematicheskie tehnologii v nauke i upravlenii»: trudy. = XX Baikal All-Russianl Conference "Information and mathematical technologies in science and management": Proceedings. T. 3. Irkutsk. ISJeM SO RAN. = Vol. 3. Irkutsk. Melentiev Energy Systems Institute of Siberian Branch of Russian Academy of Science. 2015. S. 112 -124 (in Russian).
25. Massel' A.G., Massel' L.V. Situacionnyj poligon kak intellektual'naja si-stema semioticheskogo tipa [Situational polygon as the intelligent system of semantic type]. XLIII Mezhdunarodnaja konferencija «Informacionnye tehnologii v nauke, obrazovanii i upravlenii»: trudy. Pod red. prof. E.L. Gloriozova. Moskva. = XLIII International
Conference "Information Technologies in Science, Education and Management": Proceedings. By edition of prof. E.L. Gloriosov. Moscow. 2015. S. 246-255 (in Russian).
26. Osipov G.S. Ot situacionnogo upravlenija k prikladnoj semiotike [From situational management to applied semiotics] // Novosti iskusstvennogo intellekta. = News of artificial intelligence. 2002. № 6 (54). S. 2-12 (in Russian).
27. Pospelov D.A. Situacionnoe upravlenie. Teorija i praktika [Contingency management. Theory and practice]. M. Nauka. = Moscow. Science. 1986. 284 s. (in Russian).
28. Pjatkova N.I., Senderov S.M., Pjatkova E.V. Metodicheskie osobennosti issledovanija problem jenergeticheskoj bezopasnosti na sovremennom jetape [Methodological features of energy security problems research at the present stage] // Izvestija. RAN. Jenergetika. = News. Russian Academy of Sciences. Energetics.2014. № 2. S.81-87 (in Russian).
29. [Rassel i dr. (a)] Dejstvija, situacii i sobytija (ontologija situacionnogo is-chislenija) [Russel et al (a). Actions, situations and events (ontology of situational calculus)] // V kn.: Rassel S., Norvig P. Iskusstvennyj intellekt: sovremennyj podhod. 2-e izd.:Per. s angl. M. Izd. Dom «Vil'jams». = In book: Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 2nd ed. Trans. from English. Moscow. Pub. House "Williams". 2006. S. 451-466 (in Russian).
30. [Rassel i dr. (b)] Intellektual'nye agenty [Russel et al (b). Intelligent agents]// V kn.: Rassel S., Norvig P. Iskus-stvennyj intellekt: sovremennyj podhod. 2-e izd. Per. s angl. M.: Izd. Dom «Vil'jams». = ». = In book: Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 2nd ed. Trans. from English. Moscow. Pub. House "Williams". 2006. S. 75-108 (in Russian).
31. Stoljarov L.N. Filosofija sobytijnogo modelirovanija na primere scenarija jenergeticheskoj katastrofy [The philosophy of event modeling by the example of the emergency scenario in energy sector] // Mezhdunarodnaja konferencija «Informacionnye tehnologii v nauke, obrazovanii, telekommunikacii i biznese»: trudy. Ukraina. Gurzuf = International Conference "Information Technologies in science, education, telecommunications and business": Proceedings. Ukraine. Gurzuf // 2010. S. 197-200 (in Russian).
32. Trahtengerc E.A. Komp'juternaja podderzhka prinjatija reshenij [Computer support of decision-making]. M.:SINTEG. 1998. 376 s. (in Russian).
33. Chernjak L. Vizual'naja analitika i obratnaja svjaz' [Visual Analytics and Feedback] // «Otkrytye sistemy»="Open Systems". №6. 2013. URL: http://www.osp.ru/os/archive/ (Data obrashhenija 02.12.2014) (in Russian).
34. Endsley, M. R. The Role of Situation Awareness in Naturalistic Decision Making. In C. Zambock & G. Klein (Eds.). Naturalistic Decision Making. 1997. Mahwah. NJ: LEA. Rp. 269-284.
35. E. Eremchenko, V. Tikunov, R. Ivanov, L. Massel, J. Strobl. Digital Earth and Evolu-tion of Cartography. Procedia Computer Science. Volume 66. 2015. Pp 235-238. Pub-lished by Elsevier.
36. Ivanov R.A., Massel L.V. Possibility of Application of Situational Awareness in En-ergy Research // 12th International Workshop on Computer Science and Information Technologies : rroceedings. Vol.1. 2010. Russia. Moscow - St. Petersburg. Pp. 185-187.
37. Los Alamos National Laboratory, http://www.sandia.gov/mission/ homelandypro-grams/ critical/nisac.html, http://lanI.gov/orgs/d/nisac/.
38. Massel L.V., Massel A.G., Arshinsky V.L. Intelligent IT-enviroment for decision sup-port in research and energy security guaranty of Russia and its regions // 13 th Work-shop on Computer Science and Information Technologies: proceedings. Vol. 1. 2011. Germany. Garmish-Partenkirchen. KIT. Pp. 7-13.
39. Massel L.V. Problems of the Smart Grid creation in Russia with a view to information and telecommunication technologies and proposed solutions // 14th International Workshop on Computer Science and Information Technologies: proceedings. Vol. 1. 2013. Austria-Slovakia- Hungaria. Pp. 115 - 120.
40. Massel L.V., Arshinsky V.L., Massel A.G. Intelligent computing on the basis of cog-nitive and event modeling and its application in energy security studies // International Journal of Energy Optimization and Engineering. Special issue on: Mathematical and heuristic modeling and optimization of energy systems. № 3(1). 2014. Pp. 83-91.
41. Massel L.V., Massel A.G. Contingency management and semantic modeling in energy sector // 15th International Workshop on Computer Science and Information Technol-ogies: proceedings. Vol. 1. 2014. England. Sheffield. Ph. 158-162.
42. Massel L., Massel A. Cyber security of Russia's energy infrastructure as a component of national security// International Conference on Problems of Critical Infrastructures and 6th International Conference on Liberalization and Modernization of Power Sys-tems: proceedings. Edited by Z.A. Styczynski and N.I. Voropai. 2015. Saint Peters-burg. Pp. 6672.
43. McCarthy J., Situations, Actions and Causal Laws. Stanford Artificial Intelligence Project: Memo 2. 1963.
44. National Energy Technology Laboratory, http://www.netl.doe.gov/onsite_research.
45. 12th World Congress of Semiotics "New Semiotics: Between Tradition and Innova-tion": abstracts. Bulgaria. Sofia. New Bulgarian University/Southeast European Center For Semiotic Studies. 2014. 218 p.
46. Pednault E.P.D. ADL: Exploring the middle ground between STRIPS and the situation calculus. В трудах 1-st Int. Conf. on Principles of Knowledge Representation and Reasoning. 1989. Pp. 324-332 .
47. Voropai N.I., Kolosok I.N., Massel L.V. et al. A Multy-Agent Approuch to Electric Power Systems // Multi-Agent Systems - Modeling, Interaction, Simulations and Case Studies. India. InTech. 2011. Pp. 368-394.
