Научная статья на тему 'Обучение искусственных нейронных сетей путем совместного использования методов локальной оптимизации и генетических алгоритмов'

Обучение искусственных нейронных сетей путем совместного использования методов локальной оптимизации и генетических алгоритмов Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
165
74
i Надоели баннеры? Вы всегда можете отключить рекламу.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Чипига А. Ф., Воронкин Р. А.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Обучение искусственных нейронных сетей путем совместного использования методов локальной оптимизации и генетических алгоритмов»

исследований и проверку путей циркуляции во всех режимах её обработки как при автономной работе, так и в комплексе с другими СВТ.

Текстовый режим работы должен обеспечивать: формирование на выделенном пути циркуляции информации определенной периодической последовательности информационных сигналов (импульсов); максимально возможные частоту повторения и уровень излучения информационных сигналов (импульсов); задействование по возможности максимального числа цепей прохождения информационных сигналов (импульсов); возможность обнаружения информационных сигналов акустическим методом.

Для анализа причин утечки сообщений в устройствах ПЭВМ источник излучения информативного сигнала обычно представляют в виде электродвижущей силы (ЭДС) с внутренним импедансом 2ИНФ. Под действием этой ЭДС в проводах и кабелях, соединенных с источником сигнала, возникают токи, поэтому, если источник излучения включает в себя открытый контур с индуктивностью или емкостью, через который проходит ток информативного сигнала, то в пространстве будет создаваться электромагнитное поле, несущее некоторое сообщение. Примером является видеоусилитель дисплея, выход которого нагружается на катод электронно-лучевой трубки, представляющей собой открытый контур емкостного типа. Особую проблему при реализации тестовых режимов работы представляет собой выделение информативных сигналов на фоне технологических сигналов, обеспечивающих функционирование информационного тракта. Практически всегда при функционировании информационного тракта в эфире наблюдается сложный аддитивный сигнал, представляющий собой смесь информативных сигналов с различными характеристиками, источниками которого являются различные участки информационного тракта, а также служебных и технологических сигналов, обеспечивающих функционирование тестовой программы.

Следовательно, тестовый режим работы сертифицируемого (аттестуемого) оборудования вычислительной техники должен быть организован таким образом, чтобы в эфире одновременно присутствовало минимально возможное количество информативных сигналов от различных участков информационного тракта (в идеальном случае - 1), а технологические сигналы - отсутствовали. Для сертифицируемого (аттестуемого) средства вычислительной техники определяются возможные режимы обработки секретной информации. По результатам анализа представленной схемы тракта прохождения информационного сигнала, либо инструментальных исследований должно быть принято решение об источнике информативного сигнала, определяющем размеры зоны 2.

А.Ф. Чипига, Р.А. Воронкин

Россия г. Ставрополь, Сев.Кав. ГТУ,

ОБУЧЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ПУТЕМ СОВМЕСТНОГО ИСПОЛЬЗОВАНИЯ МЕТОДОВ ЛОКАЛЬНОЙ ОПТИМИЗАЦИИ И ГЕНЕТИЧЕСКИХ АЛГОРИТМОВ

Использование механизмов генетической эволюции для обучения нейронных сетей кажется естественным, поскольку модели нейронных сетей разрабатываются по аналогии с мозгом и реализуют некоторые его особенности, появившиеся в результате эволюции. Основные компоненты генетических алгоритмов: стратегии репродукций, мутаций и отбор «индивидуальных» нейронных сетей [1].

Обучение нейронных сетей с помощью генетических алгоритмов обладает следующими преимуществами:

1. Генетические алгоритмы (ГА) робастны, т.е. малочувствительны к нерегулярностям поведения целевой функции, структуры множества оптимизации, наличию случайных ошибок при вычислении функции; кроме того, они малочувствительны к росту размерности множества оптимизации.

2. Генетические алгоритмы особенно эффективны в поиске глобальных минимумов адаптивных рельефов, так как ими исследуются большие области допустимых значений параметров нейронных сетей. Изучение пространства поиска при помощи множества решений, а не одного текущего, как это, например, делается в алгоритме имитации отжига, позволяет эволюционным алгоритмам улавливать общие закономерности ландшафта целевой функции.

3. Достаточно высокая скорость обучения, хотя и меньшая, чем скорость сходимости градиентных алгоритмов.

4. Генетические алгоритмы дают возможность оперировать дискретными значениями параметров нейронных сетей, что упрощает аппаратную реализацию нейронных сетей.

Однако ГА обладают рядом недостатков. Во-первых, оценка скорости сходимости показывает, что в наихудших случаях она крайне медленная. Во-вторых, как и остальные методы случайного поиска, ГА содержат в себе элементы эвристики и поэтому обладают недостатком, присущим всем эвристическим методам: нечетко определен класс задач, для которых методы эффективны; отсутствуют четкие рекомендации о выборе параметров алгоритма (а эти параметры порой в значительной степени влияют на эффективность). В-третьих, как показывают численные и теоретические результаты, обычно удается повысить его эффективность за счет усложнения алгоритма и уменьшения доли случайности [2]. Значительную помощь в решении этих проблем может оказать комбинирование глобального поиска, осуществляемого ГА, с методами локальной оптимизации. В классическом

подходе после получения очередного решения в виде хромосомы а на некотором этапе эволюции производится локальный поиск с начальным решением в точке а* . Предлагается следующий вариант обучения нейронных сетей.

Рассматривается искусственная нейронная сеть прямого распространения. Согласно предложенному методу, на следующем итерационном цикле вектор весов нейронной сети может быть получен согласно выражению

где - величина весового коэффициента на следующем итерационном шаге; - величина весового коэффициента на текущем итерационном шаге; ^ -

величина веса, полученная по результатам работы генетического алгоритма на заданном итерационном цикле; Дwt - изменение веса, полученное по одному из известных методов локальной оптимизации; £ - некоторый коэффициент (коэффициент предпочтения), величина которого удовлетворяет отношению 0<#<1. При £ = 1 обучение нейронной сети ведется только с использованием генетического поиска, тогда как при £ = 0 обучение ведется одним из градиентных методов. В свою очередь величина коэффициента предпочтения определяется из формулы

где t - номер итерационного цикла (в начале обучения * = 0); Т0 - постоянная предпочтения генетического поиска; Бв - побитовое разнообразие популяции, в которой производится генетический поиск и величина которого равна

(1)

% = тіп{Ьв , ехр(- і/Т0 )}

(2)

- = 1 £ ]1 -4-11 I [• (3)

^ =1 £ I1 - 4 Ч1,

где I - длина хромосомы в битах; X - размер популяции; Х; (0) - число нулей в /ом локусе хромосомного набора популяции. При Ов = 1 имеем максимальное разнообразие генотипов популяции, при = 0 все генотипы совпадают между собой. Таким образом, в предложенном алгоритме обучения нейронных сетей помимо решения задачи оптимизации эволюционный поиск осуществляет также регулировку значения конечных решений, что, предположительно, позволит увеличить скорость и качество обучения нейронных сетей.

Библиографический список

1. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия - Телеком, 2001.

2.Жиглявкий А.А. Математическая теория глобального случайного поиска. Л.: Изд-во ЛГУ, 1985.

О.О. Варламов, М.Р. Амарян, В.А. Лысаковский, Л.Е. Адамова

Россия, г. Москва, ОАО «ЦЕНТРТЕЛЕКОМ»

ПОДХОД К ЗАЩИТЕ ИНФОРМАЦИИ В АСУ ОПЕРАТОРА СВЯЗИ НА ОСНОВЕ МИВАРНЫХ БАЗ ДАННЫХ И ПРАВИЛ

В докладе предложен подход к обеспечению информационной безопасности распределенных информационных систем и сетей регионального оператора связи на основе миварных баз данных и правил.

Все компании связи работают с конфиденциальной информацией. Защита данных в компаниях электросвязи должна обеспечиваться как при передаче конфиденциальных данных, так и при их обработке и хранении в автоматизированной системе управления связи (АСУС). Многие вопросы защиты информации уже решены и находят свое повсеместное применение в различных АСУС, например в ОАО "ЦентрТелеком". Однако, внедрение новых современных информационных технологий порождает новые проблемы в области защиты данных, одновременно предлагая и новые возможности по повышению надежности и эффективности обеспечения безопасности информации в различных АСУС. С одной стороны, новые технологии обобщают, обрабатывают и делают более доступными конфиденциальные данные, делая их менее защищенными. Но с другой стороны, параллельно развиваются и разрабатываются новые методы защиты информации, которые обеспечивают надежную защиту данных. Для различных автоматизированных систем сбора и обработки информации (АССОИ), к классу которых могут быть отнесены и АСУС, разрабатываются соответствующие концепции представления (накопления) информации в виде некоторым образом организованных баз данных. Например, представляется возможным использовать подход, основанный на использовании миварного эволюционного динамического многомерного объектно -системного дискретного пространства унифицированного представления данных и правил [1].

К особенностям защиты информации и ограничений целостности миварных моделей можно отнести то, что миварные структуры представления данных позволяют характеризовать (описывать, моделировать), а, следовательно, и защищать информацию и накладывать ограничения целостности на любые отдельные мива-ры, любые совокупности миваров, любые множества миваров и на отношения ми-варов. Наиболее ценная информация физически может храниться на отдельных

i Надоели баннеры? Вы всегда можете отключить рекламу.