Научная статья на тему 'Сравнительный анализ моделей нейронных структур для решения задачи классификации состояний телекоммуникационной сети'

Сравнительный анализ моделей нейронных структур для решения задачи классификации состояний телекоммуникационной сети Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
374
71
i Надоели баннеры? Вы всегда можете отключить рекламу.

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Высочина Олеся Сергеевна, Шматков Сергей Игоревич

Рассматриваются различные виды нейронных структур для решения задачи классификации состояний телекоммуникационной сети. Описываются результаты, которые подтверждают эффективность использования конкретных видов нейронных сетей в зависимости от различных исходных данных.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Comparative analysis of neural structures models for solving the classification problem of telecommunications network states

This paper presents the results of an analysis of neural structures models. The problem under consideration is of great importance for modern society. It’s no doubt that one of the basic distinctive features of the modern society is its informatization. At present the device of neural networks has been developed well enough. Neural networks are an exceptionally powerful method of modeling enabling us to reproduce extraordinarily difficult dependences. The aim of our research was to determine the dependence of different neural structures on input data. The studies were directed at solving the classification problem of telecommunications network states.

Текст научной работы на тему «Сравнительный анализ моделей нейронных структур для решения задачи классификации состояний телекоммуникационной сети»

УДК 621.391

О.С. ВЫСОЧИНА, С.И. ШМАТКОВ

СРАВНИТЕЛЬНЫЙ АНАЛИЗ МОДЕЛЕЙ НЕЙРОННЫХ СТРУКТУР ДЛЯ РЕШЕНИЯ ЗАДАЧИ КЛАССИФИКАЦИИ СОСТОЯНИЙ ТЕЛЕКОММУНИКАЦИОННОЙ СЕТИ

Рассматриваются различные виды нейронных структур для решения задачи классификации состояний телекоммуникационной сети. Описываются результаты, которые подтверждают эффективность использования конкретных видов нейронных сетей в зависимости от различных исходных данных.

1. Постановка задачи

В настоящее время мировая телекоммуникационная индустрия претерпевает революционные изменения. Постоянное развитие телекоммуникационных технологий, появление новых средств связи ставит перед операторами сетей и провайдерами телекоммуникационных услуг сложные задачи в части поддержания нормативного качества обслуживания. За последние годы структура телекоммуникационных сетей (ТКС) стала более сложной и многоплановой. При проектировании и эксплуатации сетей информационного обмена возникает необходимость в решении ряда задач. Одной из основных в этом ряду является задача разработки моделей процесса управления сетью. Возможная альтернатива классическим методам моделирования процесса управления ТКС являются системы, использующие искусственные нейронные сети. Из сказанного выше можно сделать вывод, что данная задача актуальна.

2. Анализ публикаций по теме исследования

Выделяют следующие основные области применения искусственных нейронных сетей в телекоммуникационных системах [1]:

- управление коммутацией,

- маршрутизация,

- управление трафиком,

- распределение каналов в подвижных системах радиосвязи,

- анализ работы телекоммуникационной сети и выявление аномалий.

В работе [2] аппарат искусственных нейронных сетей используется для моделирования процесса управления маршрутизацией. В течение некоторого времени прибор собирает информацию о состоянии ТКС. На вход нейронной сети поступает информация, в соответствии с которой она находит образ на выходе и устанавливается в состояние равновесия. От анализатора поступает информация в закодированном виде: число узлов в сети; число каналов, соединяющих со следующими узлами в сети; узел назначения; количество возможных маршрутов до узла назначения; пары занятых информационных каналов. На выходе образуется маршрут в зависимости от всех этих факторов.

В работе [3] нейронные сети используются для совершенствования протоколов управления множественным доступом к радиоканалу. Пропускная способность протокола S существенно зависит от суммарного потока запросов на передачу G. При этом жесткий протокол оказывается более эффективным для значений G близких к 1, а гибкий, соответственно, - для значений G>1. Проблема заключается в определении текущего значения G. Статистика работы системы является сложной, и обычными статистическими методами решить задачу не представляется возможным. По сути, она сводится к задаче классификации, которая решается с использованием нейронных сетей. В среднем выигрыш в пропускной способности составляет порядка 5-7 %.

В работе [4] приведены результаты исследования по применению нейросетевых методов для анализа протоколов TCP/IP и выявления аномалий. Нейронные сети используются для обнаружения ситуаций, указывающих на соответствующую аномалию или на неопознанную ситуацию, которая может быть аномалией нового типа. Задача нейросетевого

анализа потоков данных рассматривается как задача классификации, в которой разные классы соответствуют нормальной активности, различным сценариям сетевых атак и неопознанным ситуациям.

3. Цель исследования

Проведенный анализ показал, что многие задачи, возникающие в процессе управления телекоммуникационной сетью, формально можно свести к задачам классификации и распознавания образов. В последнее время для решения задач такого класса используются нейронные сети в силу их естественной способности к обобщению фактов. Существует множество различных типов моделей нейронных сетей, видов их структур и не всегда можно определить наиболее эффективную модель для решения конкретной задачи. Цель данной работы - экспериментальным путем провести сравнительный анализ моделей нейронных сетей для решения задачи классификации состояний ТКС. Эта задача в проанализированной литературе не решена.

4. Основная часть

Так как нет разработанной и общепринятой теории применения различных моделей нейронных сетей, для решения задачи классификации состояний телекоммуникационной сети были исследованы следующие типы нейронных структур:

1) многослойный персептрон;

2) сеть Кохонена;

3) сеть Хопфилда.

Рассмотрена телекоммуникационная сеть, которая может находиться в 10 различных состояниях. Каждое состояние характеризовалось набором из 35 признаков (примеры признаков приведены в таблице). Выбор признаков определялся тем, что именно эти переменные варьируются динамически в течение времени наблюдения. Очевидно, что система сбора информации о состоянии сети работала неидеально - и отдельные признаки оказались искаженными. Необходимо было по набору признаков с различной степенью искажения определить, в каком из 10 состояний находится телекоммуникационная сеть. Уровень искажения при этом увеличивался от 2,9 до 51,4%.

Методика проведения эксперимента состояла в следующем: для тестирования нейронной сети при каждом значении шума генерировалось 100 векторов-признаков (каждое состояние телекоммуникационной сети 10 раз), эти данные поступали на вход нейронной сети, а на выходе были получены состояния телекоммуникационной сети. Оценка работы нейронной сети производилась по вероятности правильного распознавания состояния телекоммуникационной сети.

Признак Описание

interface.iftable.ifentry.ifinucastpkts Число полученных обычных пакетов

interface.iftable.ifentry.ifinnucastpkts Число полученных широковещательных и мультикаст-пакетов

interface.iftable.ifentry.ifinerrors Число ошибок при приеме пакетов

interface.iftable.ifentry.ifoutucastpkts Число посланных обычных пакетов

interface.iftable.ifentry.ifinnucastpkts Число посланных широковещательных и мультикаст-пакетов

interface.iftable.ifentryifinunknownprotos Число полученных пакетов с неизвестным кодом протокола

ip.ipinreceives Полное число 1Р-дейтограмм, включая полученные с ошибкой

ip.ipinhdrerrors Число входных 1Р-дейтограмм с ошибками в заголовке пакета, включая ошибки контрольной суммы, ТТЬ и т.д.

Продолжение таблицы

Признак Описание

ip.ipinaddrerrors Число полученных пакетов с ошибкой в адресе

ip. ipinunknownprotos Число входных IP-дейтограмм, с кодами протоколов, которые не поддерживаются данной системой

ip.ipreasmreqds Число полученных фрагментов, которые требуют сборки

ip.ipindelivers Число IP-дейтограмм, принятых без ошибок (включая ICMP)

icmp.icmpinmsgs Число полученных icmp-пакетов (другие 10 контролируемых переменных ICMP-группы по соображениям экономии места из списка исключены)

udp.udpindatagrams Число принятых UDP-дейтограмм

udp.udpoutdatagrams Число отправленных UDP-дейтограмм

udp.udpnoports Полное число UDP-дейтограмм, где не существует приложения для указанного номера порта

udp.udpinerrors Число UDP-дейтограмм, которые не могут быть доставлены не по причине отсутствия приложения по указанному порту

tcp.tcpinsegs Число принятых TCP-сегментов

tcp.tcpoutsegs Число отправленных TCP-сегментов

tcp.tcpretranssegs Число TCP -сегментов с повторной пересылкой

tcp.tcpoutrsts Число сегментов с флагом RST=1

tcp.tcpinerror Число TCP-сегментов, полученных с ошибкой

Среди большого класса программного обеспечения для моделирования нейронных сетей выбран инструментарий Neural Networks Toolbox пакета прикладных программ MATLAB 6.5 фирмы MathWorks, так как он содержит средства для проектирования, моделирования, разработки и визуализации нейронных сетей, обеспечивает всестороннюю поддержку типовых нейросетевых парадигм и имеет модульную и открытую архитектуру.

1) Многослойный персептрон. Достоинства модели заключаются в том, что она хорошо изучена, имеется большой опыт практического применения. Основными недостатками модели являются низкая сходимость процесса обучения и существенное время обучения.

На вход нейронной сети поступал вектор признаков, состоящий из 35 элементов |xb x2,..., x35}. Выходной вектор |yb y2,..., y10} содержал 10 элементов, только один из которых равняется 1, остальные - 0. Правильно функционирующая сеть должна была отвечать векторам со значением 1 для элемента, который отвечает состоянию телекоммуникационной сети от 1 до 10. Для решения задачи использовался трехслойный персептрон: 35 нейронов во входном слое, переменное количество нейронов в скрытом слое и 10 нейронов в выходном слое. Переменными параметрами модели были количество нейронов в скрытом слое (10, 15, 20, 25, 30) и параметр скорости обучения (0.01, 0.1, 0.2, 0.3, 0.4, 0.5,

0.6, 0.7, 0.8, 0.9). Обучение нейронной сети происходило на основе метода обратного распространения ошибки. На рис. 1. представлены зависимости вероятности правильного распознавания состояния телекоммуникационной сети от степени искажения признаков, давшие лучший результат среди всех вариаций входных данных.

1 - 10_05 2 - 15_05 3 - 30_05 4 - 30_06

Рис. 1. Результаты распознавания при помощи многослойного персептрона

Анализ полученных результатов показал, что наилучшие результаты распознавания состояния телекоммуникационной сети при помощи трехслойного персептрона были получены при следующих параметрах: 30 нейронов в скрытом слое с уровнем зашумления до 35% и 15 нейронов в скрытом слое, когда уровень шума превышает 42,9%, при средних параметрах скорости обучения (0.6 и 0.5 соответственно).

2) Сеть Кохонена. Модель хорошо зарекомендовала себя при решении задач кластерного анализа, когда заранее известно число кластеров.

Рассматривалась самоорганизующаяся нейронная сеть с единственным слоем, состоящим из 10 нейронов, задача которого заключалась в том, чтобы правильно сгруппировать (кластеризовать) поступающие на нее векторы входных воздействий {х1, х2,..., х35}. При моделировании рассматривались нейронные сети с различными топологиями расположения нейронов: прямоугольная сетка, гексагональная сетка и сетка со случайным расположением узлов [5].

Также рассматривалась сеть встречного распространения [6], представляющая собой комбинированную архитектуру конкурирующего слоя Кохонена и слоя Гроссберга. При использовании сети Кохонена рассматривалась задача кластеризации входных данных без участия учителя. В рассматриваемой сети встречного распространения выходы слоя, обучаемого по методу "победитель забирает все", использовались в качестве входов второго слоя сети, которые координировались (подкреплялись) с помощью учителя. Результаты распознавания представлены на рис. 2.

Анализ полученных результатов показал, что при уровне зашумления до 45% эффективными являются нейронные сети Кохонена, а когда уровень шума превышает 45% целесообразно использовать сеть встречного распространения.

Рис. 2. Результаты распознавания при помощи нейронной сети Кохонена и сети встречного распространения

3) Сеть Хопфилда. Рассматривалась сеть Хопфилда, которая относится к классу рекуррентных сетей, обладающих свойством за конечное число тактов переходить из произвольного начального состояния в состояние устойчивого равновесия. Сеть Хопфилда является одним из наболее известных типов ассоциативной памяти. Получая на входе зашумленный образ или часть образа, сеть Хопфилда ассоциирует его с одним из ранее запомненных образов.

Также сеть Хопфилда рассматривалась в качестве предварительного фильтра в системе распознавания образов. Результаты распознавания при помощи самостоятельного использования нейронной сети Хопфилда и нейронной сети Хопфилда в сочетании с многослойным персептроном, где сеть Хопфилда выступает в качестве фильтра, представлены на рис. 3.

1 - сеть Хопфилда+персептрон 2 - сеть Хопфилда

Рис. 3. Результаты распознавания при помощи нейронной сети Хопфилда и сети Хопфилда в сочетании с персептроном

На основании полученных данных можно сделать вывод, что использование сетей Хопфилда в качестве предварительного фильтра в системах распознавания образов может значительно повысить эффективность системы.

Выводы и перспективы дальнейших исследований

Сравнение полученных результатов (рис. 4) показало, что наилучшие результаты распознавания состояния телекоммуникационной сети были получены при помощи нейронной сети Кохонена (с уровнем зашумления до 45%) и сетью встречного распространения (когда уровень шума превышает 45%).

100

90 -

80 -

гг 70 -® 60 -S 50 -

™ 40 -30 -

1 20 * DL 10 -

0

2 9 7,9 12,9 17,9 22,9 27,9 32,9 37,9 42,9 47,9

Шум, %

1 - персептрон (10_05)

2 - персептрон (15_05)

3 - персептрон (30_05)

4 - персептрон (30_06)

5 - сеть Кохонена (прямоугольная сетка)

6 - сеть Кохонена (гексагональная сетка)

7 - сеть Кохонена (сетка со случайное расположение узлов)

8 - сеть встречного распространения

9 - сеть Хопфилда+персептрон

Рис. 4. Результаты распознавания при помощи всех видов нейронных сетей Таким образом, полученный результат подтверждает распространенное мнение о необходимости объединения различных нейросетевых парадигм в целях повышения эффективности систем на основе нейросетевых технологий. Полученные результаты можно использовать при совершенствовании старых и при разработке новых методов управления ТКС.

Перспективы дальнейших исследований в этом направлении связаны, в первую очередь, с уточнением состава признаков, а также характеризуемых ими состояний, и на основе этого с проведением более детальных модельных экспериментов.

Список литературы: 1. Комашинский В.И., СмирновД.А. Нейронные сети и их применение в системах управления и связи. М.: Горячая линия - Телеком, 2003. 94 с. 2. Лозинская В.Н. Система управления маршрутизацией телекоммуникационной сети // Мир информации и телекоммуникаций. 2004. №11. С. 325-327. 3. Рассказова И.О. Разработка и исследование эффективности нейросетевых алгоритмов управления в сетях радиосвязи. Рязань, 2006. 4. Сабенко Е. С. Нейросетевые методы в анализе протоколов TCP/IP: Современные проблемы информатизации в информационных системах и телекоммуникациях. 2006. №11. С. 447 - 449. 5.Хайкин Саймон. Нейронные сети. М.: Вильямс, 2006. 1104 с. 6. Люгер Джордж. Искусственный интеллект: стратегии и методы решения сложных проблем. М.: Вильямс, 2003. 864 с.

Поступила в редколлегию 23.02.2009

Высочина Олеся Сергеевна, аспирантка кафедры теоретической и прикладной системотехники Харьковского национального университета им. В.Н. Каразина. Научные интересы: использование нейронных сетей в телекоммуникационных системах. Адрес: Украина, 61077, Харьков, пл. Свободы, 6.

Шматков Сергей Игоревич, канд. техн. наук, доцент, зав. кафедрой теоретической и прикладной системотехники Харьковского национального университета им. В.Н. Каразина. Научные интересы: системный анализ и моделирование сложных систем. Адрес: Украина, 61077, Харьков, пл. Свободы, 6, тел. (057) 707-50-22.

i Надоели баннеры? Вы всегда можете отключить рекламу.