CC BY
10ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ
Д. Ю. Хартьян
РАСПОЗНАВАНИЕ СОСТОЯНИЙ КОММУНИКАЦИОННОЙ ИНФРАСТРУКТУРЫ НЕФТЕГАЗОВЫХ ПРЕДПРИЯТИЙ ПОСРЕДСТВОМ НЕЙРОСЕТЕЙ ПРЯМОГО РАСПРОСТРАНЕНИЯ
Решается задача распознавания текущего состояния корпоративной информационно-вычислительной инфраструктуры (КИВИ). Проведен обзор достоинств и ограничений существующих методов. Для решения задачи используется технология нейронных сетей (НС), в частности, подбирается оптимальная архитектура трехслойной персептронной нейронной сети прямого распространения и проводится ее обучение. В результате подобрана и обучена НС, с использованием которой можно получить наиболее точное распознавание состояния обслуживаемой КИВИ. Представлены результаты экспериментальных исследований на примере вычислительной сети ОАО «Тюменнефтегеофизика».
1. Проблема упреждения сбоев в сетях телекоммуникации НГК
В нефтегазовом комплексе интенсивно создаются и развиваются системы управления распределенными технологическими процессами на промыслах. Потоки данных об объектах и на объекты обеспечивают сети компьютерных телекоммуникаций, безотказное функционирование которых возможно только при условии упреждения сбоев, возникающих как по причине коллизий трафика, так и из-за тренда параметров аппаратуры. Автоматизация мониторинга такого объекта управления важна в связи с чрезвычайной сложностью развивающихся сетей и ограниченностью возможностей обслуживающего персонала. По данным исследований компании Магке^эю (Россия, г. Москва, 2004 г.), аудит текущего состояния информационных систем, функционирование которых обеспечивает корпоративная информационно-вычислительная инфраструктура (КИВИ),— одна из наиболее актуальных задач нефтегазового комплекса (22 % от общего числа показателей) [1]. Необходимость мониторинга КИВИ подчеркивается и в отчете компании 1ВБ по итогам исследования текущего состояния инфраструктуры корпоративной информационной системы ООО «Сургутгазпром» [2].
В то же время растет интеграция внедряемых на предприятиях информационных технологий в единую инфраструктуру с целью повышения эффективности производственных и бизнес-процессов предприятий нефтегазового комплекса (НГК). В результате происходит усложнение КИВИ нефте- и газопро-мыслов, нефтегазодобывающих предприятий и их сервисных подразделений, превращение ее в гетерогенную, распределенную в пространстве сложную систему. Поэтому актуально повышение эффективности оперативного управления КИВИ предприятий и организаций в условиях дефицита времени, связанного с динамичностью рыночных отношений, с одной стороны, и недостатком кадров соответствующей квалификации — с другой.
Одна из задач мониторинга — распознавание (отнесение к тому или иному классу) состояния КИВИ. Распознавание должно осуществляться по минимальному набору параметров, для этого могут использовться предлагаемые в публикациях [3-5] методы, что позволит с меньшими затратами вычислительных и трудовых ресурсов определять причину изменения состояния КИВИ.
Вся нагрузка обеспечения безотказного функционирования сети компьютерных телекоммуникаций ложится на службу системных администраторов. Следует подчеркнуть, что характер их деятельности более широк за счет обязанностей по поддержке эффективной работы пользователей КИВИ, решения их проблем и удовлетворения возрастающих потребностей в сервисе и ресурсах [31]. Вместе с тем существующие программные продукты обеспечивают скорее работу по устранению сбоев, а не их прогноз и своевременное профилактическое вмешательство. Поэтому необходимо оказать помощь системным администраторам в автоматическом выделении неадекватных состояний КИВИ с целью предупреждения сбоев в системе. Средством отображения таких состояний могут быть картина загрузки пропускной способности каналов, состояние загрузки буферов и т. д.
2. Способы решения проблемы оценки состояния
Задача распознавания текущего состояния КИВИ НГК может решаться различными методами. Наиболее распространен мониторинг сети с использованием программных инструментов. Основными классами соответствующих программных инструментов являются: Network Management Systems (системы управления сетью); System Management (средства управления системой); Embedded systems (встроенные системы диагностики и управления); оборудование для диагностики и сертификации кабельных систем. Проведенный автором анализ средств поддержки администрирования сетей показал проблемы в их использовании, в частности:
— предложенные средства дают возможность диагностировать значения параметров, но нет информации, действительно ли эти параметры адекватно и с наименьшими затратами отображают состояние КИВИ;
— их использование не снимает проблемы избыточности или недостатка набора параметров для адекватного мониторинга КИВИ;
— чем интеллектуальнее средство мониторинга, тем оно дороже (до сотен тысяч долларов);
— все проанализированные средства не обладают инструментом выявления минимального набора информативных параметров для полнофакторного анализа и ограничены по функции идентификации состояний КИВИ.
3. Формирование архитектуры нейронной сети
Перспективными методами распознавания состояний сложных систем считаются интенсивно развиваемые технологии нейронных сетей (НС) (работы российских [6-12] и украинских [13] ученых). По сравнению с методами НС статистические методы дают меньшую точность в решении задач распознавания и не обладают адаптивными свойствами [4]. Растущее применение НС обусловлено их достоинствами:
— неограниченная сфера применения;
— гибкая функция аппроксимации, что позволяет отображать сложные закономерности;
— способность дообучения на новых данных;
— возможность обучения без учителя.
Ограничения:
— сложность или невозможность обоснования адекватности используемой (выбранной) архитектуры НС;
— необходимость формирования обучающих выборок, адекватных решаемой задаче;
— несмотря на широкое развитие НС, до сих пор нет единого оптимального алгоритма формирования ее архитектуры: «Построение нейронной сети — экспериментальный процесс и даже в какой-то степени похож на алхимию» [14].
Для решения задачи распознавания состояний КИВИ необходимо спроектировать адекватную задаче архитектуру НС. Проектирование состоит в подборе количества слоев НС, нейронов в каждом слое и связей между ними.
Выбрана трехслойная НС прямого распространения (рис. 1), такая архитектура достаточна для аппроксимации практически любой функции [12].
1-й слой, входной, содержит нейронов в соответствии с мощностью множества информативных параметров Р/ [3-5]. Используется передаточная функция 1одэ1д (см. рис. 1).
2-й слой, внутренний, имеет N3 нейронов, подбираемых экспериментально с учетом приведенных ниже рекомендаций.
3-й слой, выходной, объединяет N0и( нейронов, что равно количеству определенных состояний системы {3,}.
Рис. 1. Архитектура нейросети
Формирование размерности скрытого слоя N3 — неформализуемая процедура. Перечислим основные рекомендации и методы, учитываемые в этом процессе.
1. НесМ-МеИэоп [15] для вычисления верхней границы Л числа скрытых элементов использовал теорему Колмогорова: любая функция Nn переменных (входных) может быть представлена как суперпозиция 2Nn + 1 одномерных функций [16, 17].
2. Нейроны скрытого слоя представляют собой гиперплоскости, разделяющие ^-мерное пространство данных на области, содержащие данные, принадлежащие к одному и тому же классу [12]. Нейроны выходного слоя представляют множество данных — конкретный кластер [12], соответствующий -му состоянию системы. На этом основании можно вычислить максимальное 2Nn + 1 и минимальное (в соответствии с формулой (1) [12]) количество нейронов в скрытом слое.
C Ns =
NS! n,
S для NS > i,
i!(Ns -i)!’ 0,
для NS < i.
Так, для 44 состояний системы 6 < М3 < 90 . При этом следует учесть, что граничные значения, как правило, не используются, они могут служить лишь отправной точкой для подбора количества нейронов. Для уточнения архитектуры НС применяются различные алгоритмы. Особой популярностью пользуются генетические алгоритмы [18-20] и различные модификации итеративных алгоритмов наращивания [21, 22] и редукции НС [23]. В работе использован более простой алгоритм наращивания. Однако он в зависимости от начальных условий предъявляет высокие требования к вычислительным ресурсам. В выходном слое количество нейронов равно количеству классов, используется передаточная функция 1одэ1д.
Работу НС прямого распостранения можно представить на примере одного нейрона (рис. 2).
Рис. 2. Функционирование НС
На каждом нейроне происходит суммирование произведений весовых ко-
N
эффициентов Wj и входных значений Xj, u =^wjxj. Затем вычисленный сиг-
j=о
нал поступает на переходную функцию f(uj), используется сигмоидальная
1
функция logsig(n) =-------------—. На переходной функции происходит вычисление
1 + e n
у, = f (u), что соответствует yi = -—.
Для обучения НС наиболее оптимальным является алгоритм Левенберга-Марквардта (Levenberg-Marquardt) [13], дополненный регуляризацией по Байесу [24], решающей проблему переобучения [11]. В нашем случае из-за большого количества параметров необходимые для выполнения этого алгоритмы оказались неприемлемыми. Поэтому использован эвристический алгоритм упругого обратного распространения ошибки RPROP (resilient backpropagation) [25]. Он прост в реализации, быстро сходится и терпим к погрешности вычисления градиента [26].
I=0
Для начальной инициализации весовых коэффициентов существуют различные рекомендации.
Задание весовых коэффициентов нейронов можно осуществлять в соответствии с ю(). И 1/yjn(i), где n(i) — число нейронных элементов в слое i [9, 27], с уточнением, предложенным в [28]: равномерное распределение весов, нормализованное для каждого нейрона по амплитуде иг и 2/yjn(i). Веса поляризации для нейронов скрытых слоев принимают случайные значения из интервала [-2/sjn(i); 2/^/n(i)], а для выходных нейронов — нулевые значения [12]. По рекомендациям других авторов весовые коэффициенты могут задаваться в диапазоне [-0,05; 0,05] или [-0,1; 0,1], как описано в [9]. В работе используется метод инициализации весов Нгуена — Видроу, преимущество которого заключается в уменьшении количества итераций обучения такой нейросети за счет инициализации весов, более близких к оптимальным [30].
4. Результаты распознавания текущего состояния
Далее приведен результат анализа информативных параметров (ИП) на примере вычислительной сети ОАО «Тюменнефтегеофизика», состоящей из 10 коммутаторов Catalyst 2950 и одного коммутатора с функциями маршрутизации Catalyst 3550. Это в совокупности составило 282 порта. Для анализа сформирована полносвязная трехслойная НС, обеспечивающая наилучшее распознавание состояний в соответствии с алгоритмом рис. 3,— программный модуль kivi_nnpr_an.
Описание модуля
Входные данные: sD — матрица с ретроспективными данными; sM — обученная SOM; дополнительные условия: С1 — 1 (рабочий день), 0 (нерабочий день); С2 — 1 (рабочее время), 0 (нерабочее время), для каждого вектора данных; infP — индексы выявленных ИП; cl — матрица соответствия данных кластерам; NS — количество нейронов в скрытом слое; na, nb — начальный и конечный номера измерений для создания обучающей выборки; ni — количество обучающих векторов для каждого состояния; k_razl — коэффициент различия между ретроспективными данными и сгенерированными аномальными векторами; n_an — количество аномальных векторов.
Выходные данные: netr — обученная распознаванию состояний НС; ibmuscl — индексы состояний; minp, maxp — максимальные и минимальные значения для каждого нейрона входного слоя (необходимы для нормализации значений состояний); Merr — матрица ошибки распознавания на обучающей и тестовой выборке.
Надежность распознавания оценивается на тестовой выборке данных как отношение количества распознанных S, и нераспознанных состояний (в %). Использованная нами выборка данных имеет особенность: в нее дополнительно введены аномальные векторы, сформированные из случайно сгенерированных значений с максимальным отклонением от границ нормы Р1, m_ max и Рц, m, min для каждого S/. Кроме того, аномальные векторы проходят процедуру автоматической кластеризации в соответствии с методом самоорганизующихся карт Кохонена (SOM) [29], чтобы обеспечить сопоставимый набор данных. Для каждого аномального состояния в Nout добавляется по нейрону.
Входные данные: вО, бМ, ШР, с1, * Л/5, па, пЬ, л/,
°1> °2 к_гаг1, п_ап
I
Сформировать п_ап аномальных векторов
Сформировать обучающую выборку данных
Сформировать архитектуру НС
I
Обучить НС пе&
Вычислить ошибку распознавания на обучающей выборке Мегг( 1)
Создать тестовую выборку из векторов, не участвовавших в обучении
_______________4__________
Вычислить ошибку распознавания на тестовой выборке Меп{2)
Выходные данные: ле^г, /Ътивс/, Мегг
Рис. 3. Алгоритм обучения НС для распознавания текущего состояния
Для учета времени дня при формировании вектора состояния КИВИ во входной слой добавлено два нейрона, которые соответствуют дополнительным условиям: 0-| — 1 (рабочий день), 0 (нерабочий день) и С2 — 1 (рабочее время), 0 (нерабочее время), для каждого прогнозируемого состояния 5,. Все это позволяет учесть дополнительные факторы, т. е. повысить точность распознавания состояний КИВИ.
Для надежности распознавания состояний 99 % [29] имеем М,п = 438.
Была исследована зависимость надежности распознавания состояний только от количества нейронов во внутреннем слое (рис. 4).
□ в
о; 0.7 -
I
СО
га 0.6 -
I го &
5 0-6 -
со
о.
н- 0.4 -
<_>
0
1 03 о.
о
1= 0.2 0.1 о
□ 10 20 30 40 50 60 70 80 90 100
Количество нейронов во внутреннем слое
Рис. 4. Зависимость погрешности распознавания состояний от количества нейронов во внутреннем слое
На рис. 4 видно, что при подборе архитектуры сети дополнительного исследования заслуживают НС с 25...27 и 35...37 нейронами во внутреннем слое, обеспечивающие наилучшее распознавание как на обучающей выборке (нижняя кривая), так и на тестовой (верхняя кривая). Для дальнейшего исследования выбран участок, соответствующий НС с 25...27 нейронами во внутреннем слое.
Для выявления влияния количества векторов пI в обучающей выборке на качество обучения строились зависимости для N = 25...29 и п, = 100...200 (рис. 5). Анализ графика позволяет отобразить общую тенденцию уменьшения погрешности распознавания при увеличении обучающей выборки. Вывод: выборка с п = 200 для каждого состояния является оптимальной.
Рис. 5. Зависимость погрешности распознавания состояний (ось 2) от размера выборки п, (ось X) и количества аномальных векторов (ось У)
о.оэ
0.08
0.07
0.06
0.05
0.04
0.03
0.02
0.01
0“
5
Рис. 6. Зависимость погрешности распознавания состояний (ось Z) от количества нейронов во внутреннем слое (ось X) и количества аномальных векторов (ось У)
При п1 = 200 для выявления зависимости погрешности распознавания от количества введенных аномальных векторов — па на рис. 6 представлены соответствующие вектора значений погрешности распознавания. На рис. 6 построена зависимость, позволяющая выявить оптимальное количество аномальных векторов па в интервале от 0 до 5 и ^ в интервале от 25 до 29 при п, = 200.
Вывод: количество аномальных векторов па = 3 и N3 = 26 является оптимальным. Такое количество позволяет наиболее качественно обучить НС.
В результате перечисленных предварительных исследований подобраны параметры Нс, используемой далее для распознавания текущего состояния (табл.).
Параметры НС распознавания состояний
Количество нейронов Количество аномальных векторов (na) Ошибка на обучающей выборке Ошибка на тестовой выборке
во входном слое (Nin) во внутреннем слое (NS) в выходном слое (Nout) по каждому состоянию (n,)
438 26 47 200 3 0,013636 0,036842
Для распознавания текущего состояния КИВИ используется совокупность методов:
1) полученная на этапе формирования база SOM;
2) вычисленные при уточнении множества ИП границы нормального функционирования КИВИ;
3) обученная нейронная сеть прямого распространения.
Результатом работы этих методов является оценка Sc (выбор) текущего состояния КИВИ. Первый метод позволяет вычислить ближайший кластер, соответствующий текущему измерению состояния — Sc, с использованием обученной ранее SOM [29]. Второй метод основан на сравнении Sc с границами сформированных состояний PR, m max и PRi> min каждого S. Если Sc уклады-
вается в 90 % границы одного из 5,, то принимается однозначное решение о соответствии этому состоянию. При этом в формировании 5, учитывается вес каждого параметра. Третий метод предполагает формирование архитектуры и обучение нейронной сети прямого распространения, что позволяет повысить точность, скорость распознавания состояний и дообучать НС новым состояниям.
Заключение
Изложенные теоретические основы реализованы в специализированном программном обеспечении автоматического мониторинга КИВИ. Использование его в сети ОАО «Тюменьнефтегеофизика» дало надежность распознавания состояний сети на уровне 95 %. Созданный комплекс программ стал частью средств поддержки деятельности системных админстраторов.
Автор выражает благодарность научному руководителю д-ру техн. наук В. А. Шапцеву за постановку задачи мониторинга инфокоммуникационых сетей, интенсивно развивающихся в НГК, ценные замечания и рекомендации в процессе подготовки статьи.
ЛИТЕРАТУРА
1. Востребованности услуг консалтинга в сфере ИТ: Отчет по результатам маркетингового исследования / Компания Магке^БЮ. — М., 2004. — 88 с.
2. Текущее состояние инфраструктуры корпоративной информационной системы ООО «Сургутгазпром». Система связи. Общее описание системы: Отчет по результатам обследования (заключ.): 231801.КНЦ.ТС-СС.ПД / Информационные бизнес-системы (ИЗБ). — М., 2002. — 45 с. — Для служебного пользования.
3. Хартьян Д. Ю, Шапцев В. А. Об адекватном множестве параметров мониторинга инфокоммуникационной инфраструктуры // Тез. докл. науч.-техн. конф. «Новые информационные технологии в университетском образовании». — Новосибирск, 2003. — Т. 1. — С. 158-159.
4. Хартьян Д. Ю, Шапцев В. А. Результаты корреляционного анализа совокупности параметров инфокоммуникационной инфраструктуры // Тез. докл. 8-й междунар. науч.-практ. конф. «Проблемы функционирования информационных сетей» (Бишкек). — Новосибирск, 2004. — Т. 2. — С. 298-306.
5. Хартьян Д. Ю., Шапцев В. А. Деятельность администратора и информативные параметры корпоративной информационно-вычислительной инфраструктуры // Тр. II Всерос. науч. конф. «Методы и средства обработки информации». — М., 2005. — С. 201-206.
6. Галушкин А. И. Основы нейроуправления // Информационные технологии (Приложение). — М.: Новые технологии, 2002. — № 10.
7. Горбань А. Н. Функции многих переменных и нейронные сети. — КГТУ, 1998. — Режим доступа: http://www.pereplet.ru/obrazovanie/stsoros/692.html, свободный.
8. Шумский С. А. Самоорганизующиеся семантические сети / ФИАН им. Лебедева, ООО «НейрОК». — М. — Режим доступа: www.neurok.ru, свободный.
9. Головко В. А. Нейронные сети: Обучение, организация и применение // Кн. 4: Учеб. пособие для вузов / Общая ред. А. И. Галушкина. — М.: ИПРЖР, 2001. — 256 с.
10. Евстигнеев В. В. и др. Управление вузом с разветвленной территориальной структурой на основе нейросетевых и геоинформационных технологий. — Новосибирск: Наука, 2003. — 248 с.
11. Медведев В. С., Потемкин В. Г. Нейронные сети. МаАаЬ 6. — М.: Диалог-МИФИ, 2002. — 496 с.
12. Осовский С. Нейронные сети для обработки информации. — М.: Финансы и статистика, 2002. — 304 с.
13. Дубровин В. И., Субботин С. А. Нейросетевое моделирование и оценка параметров нелинейных регрессий // Нейрокомпьютеры и их применение: Сб. докл. 6-й Всерос. конф. (Москва). — М., 2000. — С. 118-120.
14. Swingler K. Applying Neural Networks: A Practical Guide (пер. Ю. П. Маслобоева). — Режим доступа: http://matlab.exponenta.ru/neuralnetwork/book4/index.php, свободный.
15. Hecht-Neilsen R. Neurocomputing. — Amsterdam: Addison Wesley, 1991.
16. Крисилов В. А, Кондратюк А. В. Преобразование входных данных нейросети с целью улучшения их различимости — Режим доступа: http://neuroschool.narod.ru/arti-cles.html, свободный.
17. Уоссермен Ф. Нейрокомпьютерная техника. Теория и практика. — М.: Мир,
1992. — С. 17.
18. Маркин М. И., Смелянский Р. Л. Синтез архитектуры нейросетевого аппрокси-матора под заданное приложение // Искусственный интеллект. — Донецк, 2000. — № 2. — С. 138-144.
19. Balakrishnan K., Honavar V. Evolutionary Design of Neural Architectures // A Preliminary Taxonomy and Guide to Literature: Tech. Report CS TR95-01 Dep. of Computer Science, Iowa State University, Ames.
20. Whitley D., Hanson T. Optimizing neural networks using faster, more accurate genetic search // 3rd International Conference on genetic algorithms. San Mateo, CA, 1989. — P. 391-396.
21. Fahlman S. E., Lebiere C. The Cascade Correlation Learning Architecture // Research Report CMU-CS-90-100, 1991.
22. Andersen T., Martinez T. A Provably Convergent Dynamic Training Method for Multilayer Perceptron Networks // Proc. of the 2nd International Symposium on Neuroinformatics and Neurocomputers, 1995.
23. Reed R. Pruning algorithms — A survey // IEEE Transactions on Neural Networks, 4. —
1993. — Р. 740-747.
24. Foresee F. D., Hagan M. T. Gauss-Newton approximation to Bayesian regularization // Proceedings of the 1997 International Joint Conference on Neural Networks. — 1997. — Р. 1930-1935.
25. Riedmiller M. A direct method for faster backpropagation learning // Proceedings of the 1993 IEEE International Conference on Neural Networks (ICNN'93), Vol. 1. — San Francisco. — Р. 586-591.
26. Ткаченко А. В. Разработка нейросетевой системы управления котлом энергоблока: Автореф. магист. работы. — Режим доступа: http://masters.donntu.edu.ua/t2005 /kita/tkachenko/diss/index.htm, свободный.
27. Hortz J., Krogh A., Palmer J. Introduction to the theory of neural computation. — Addison Wesley Publishing Company, 1991.
28. Thimm G., Fiesler E. Neural networks initialization // Natural to Artificial Neural Computation. — Malaga: IWANN, 1995. — С. 533-542.
29. Хартьян Д. Ю. Применение самоорганизующихся карт Кохонена (SOM) для анализа функционирования коммуникационной инфраструктуры (КИ) предприятия // Тез. докл. науч.-практ. конф. «Нефть и газ Западной Сибири». — Тюмень, 2005. — С. 150-151.
30. Nguyen D., Widrow B. Improving the learning speed of 2-layer neural networks by choosing initial values of the adaptive weights // Proceedings of the International Joint Conference on Neural Networks, 3. — 1990. — С. 21-26.
31. Хартьян Д. Ю., Шапцев В. А. Модель деятельности администратора инфокоммуникационной инфраструктуры организации // Вестн. кибернетики. — Тюмень: Изд-во ИПОС СО РАН, 2005. — № 4. — С. 84-95.
D. Yu. Hartyan
IDENTIFICATION OF COMMUNICATION INFRASTRUCTURE CONDITIONS AT OIL-AND-GAS ENTERPRISES BY MEANS OF DIRECT DISTRIBUTION NEURONETS
It is solved the task of identification the current conditions of corporate information-calculating infrastructure (CICI). Virtues and shortcomings of the existing methods are re-viewed.To solve this task the technology of neural networks (NN) is used, particularly, it is selected an optimal architecture for three-layer perceptronic neural net of straight distribution and its training is fulfiled. As a result, NN is selected and trained, using which the most exact identification of the maintainable CICI can be obtained. The results of experimental researches are presented based on computation net of JSC “Tyumenneftegeopysica”.
