Адаптивная модель выделения главных компонентов в задаче распознавания образов Текст научной статьи по специальности «Компьютерные и информационные науки»

Список л1тератури

¡.Принятие проектных решений: [учеб. пособие]. Ч. 1 / В.М. Балыбин, В.С. Лунев, Д.Ю. Муромцев, Л.П. Орлова. - Тамбов: Изд-во Тамб. гос. техн. ун-та, 2003. - 80с.

2. Шебанова Л. О. Аналiз критерпв оптимальности функцiонування транспортних ТКМ / Л.О. Шебанова, В.В. Турупалов // Журнал Харювського нащонального ушверситету ра-дiоелектронiки «Проблеми телекомушкацш». - Харкiв, 2009. - С. 23-32.

3. Прядко Л.О. Дослщження телекомуш-кацшно'1' мереж з комплексним показником надшносп / Л.О. Прядко, О.О. Шебанов, В.В. Турупалов // Третя мiжнародна науково-технiчна конференщя i перша студентська нау-ково-техшчна конференцiя «Проблеми телеко-мунiкацiй-2009». Нащональний техiнiчний унь верситет Украши «КП1». - Кшв, 2009. - С. 77.

4. Прядко Л.О. Дослщження алгоритму оптимального резервування для телекомунь кацшних систем / Л.О. Прядко, В.В. Турупалов // Науково-методична конференщя «Су-часш проблеми телекомушкацш i пщготовка фахiвцiв в галузi телекомунiкацiй - 2007». -Львiв, 2007. - С. 46-47.

Анотацн:

This article is devoted to results of the developing and researching method for designing of optimal telecommunication network structure by the multi-objective optimization. The multi-objective optimization method in this paper based on the criterion: networks dependability, capacity and installation costs. Results of the simulation and optimization methods is useful on all phases of planning and operation in transport networks for the planning and development departments of telecoms operators.

Keywords: transport telecommunication network,

dependability, capacity, installation costs, multi-objective optimization, structure of transport telecommunication network.

УДК 656.25:681.3.07

ГЕРМАНЕНКО О.А., аспирант (УкрГАЖТ), ПОДДУБНЯК В.И., к.т.н., профессор (ДонИЖТ), БЛИНДЮК В С., к.т.н., доцент (УкрГАЖТ), ЧЕПЦОВ М.Н., д.т.н., профессор (ДонИЖТ).

Адаптивная модель выделения главных компонентов в задаче распознавания образов

Вступление, анализ публикаций, постановка задачи исследования

При создании современных систем автоматического управления наиболее нетривиальным является решение задач сокращения размерности вектора входных данных с выявлением наиболее значимых факторов - главных компонентов. В большинстве случаев такая потребность возникает при использовании устройств видеоконтроля состояния среды функционирования объекта автоматизации [1].

Анализ публикаций показывает, что в данной проблемной области наиболее предпо-

читаемым математическим аппаратом являются некоторые положения теории нейронных сетей (НС), в частности, моделирование самоорганизующегося обучения [2]. Цель обучения НС - построение отображения входного сигнала в выходной с автоматическим выявлением наиболее существенных признаков, соответствующих априорно установленным критериям. При этом осуществляется самоорганизация сети, заключающаяся в последовательном изменении значений весовых коэффициентов, как ответ на входные сигналы, производимые по заранее определенным правилам, пока не будет сформирована окончате-

Зб1рник наукових праць Дон1ЗТ. 2011 №25

10

льная конфигурация в соответствии со следующим общим принципом - глобальный порядок системы определяется локальными взаимодействиями [3]. Для того чтобы сеть достигла самоорганизации, реализуется обратная связь между изменениями весовых коэффициентов и входными сигналами, положительная или отрицательная, в зависимости от тенденции к самоусилению сети [4].

Цель данной

Синтез самоорганизующейся модели нейронной сети, предназначенной для выявления наиболее значимых факторов в потоке видеоданных.

Основной материал

Решение задачи сокращения размерности вектора входных данных представляет собой преобразование Т пространства данных в пространство признаков, имеющее меньшую размерность [2]:

А = ХТ9

при ограничении

1191= 4

Т—

9 9

1

(1)

(2)

где X - т -мерный случайный вектор входных данных; 9 - единичный вектор размерности т, на который проектируется X; проекция А представляет собой случайную переменную со средним значением и дисперсией, связанными со статистикой вектора X .

В работе [2] показано, что дисперсия А равна

а2 = Е[А2 ] = дТЯд .

(3)

Матрица Я размерности т х т является матрицей корреляции случайного вектора

X, определяемой как ожидание произведения

случайного вектора X самого на себя:

Я = Е[XXT ].

С учетом (1) - (4), решение задачи анализа главных компонентов сводится к поиску единичных векторов 9, для которых функция

= Е[ А2 ] имеет экстремальные или стационарные значения при ограниченной Евклидовой норме вектора 9 [2].

Сокращение размерности входного вектора основано на устранении тех линейных

комбинаций вектора X, которые имеют малые дисперсии [5]:

X = [Ч1'Ч2.....Я1]

а,

а-

а

, 1 < т

(5)

где - количество наибольших собственных значений матрицы корреляции Я ; а1,а2,..,а1 - главные компоненты входного

вектора, причем aj = х qj, j = 1,2,...,1.

Для синтеза модели выявления главных компонентов рассмотрим простейшую нейронную сеть, выход которой является линейной комбинацией входов (рис. 1), т.е.

т

у = Е щъ

1=1

(6)

множество весовых множество

(4)

где Ш1,Ш2.....Шт

коэффициентов; Х1 ,Х2 ,...,хт входных сигналов.

Согласно постулату Хебба [6], значение весового коэффициента Ш изменяется во

времени, сильно возрастая, если х1 и у совпадают друг с другом. В частности, для процесса обучения справедливо следующее:

Ш](л + 1) = Ш](л ) + ]у(л)х](л), 1 = 1,2,...,т, (7)

где л - дискретное время; ] - параметр скорости обучения.

Рисунок1. - Структура нейронной сети

Однако, как отмечено в работе [2], реализация выражения (7) приводит к неограниченному росту значений . В связи с этим применяется нормировка в соответствии со следующим выражением [7]:

w(n + 1) = -

Wj(n) + riy(n)Xj(n)

fm 2

Xlw/n) +ry(n)xi(n)]2

(8)

где суммирование проводится по всему множеству весовых коэффициентов.

Второе слагаемое в выражении (7) представляет собой обратную связь, значение которой изменяется в процессе обучения. Если она принимает положительное значение, то значения соответствующих весовых коэффициентов возрастают, если отрицательные -уменьшаются. За счет этого происходит самоорганизация нейронной сети в процессе извлечения главных компонентов.

Следует отметить, что модель (6) -(8) предусматривает реализацию прямых вну-трисетевых связей, она предназначена для выделения только одного главного компонента. Данный факт является существенным ограничением в решении ряда прикладных задач, поэтому рассмотрим более сложную модель, основанную на применении как прямых, так и обратных связей - сеть типа APEX [8]. Так, прямые связи от входных узлов к каждому из нейронов 1,2,..., j, где j < m, представлены

вектором Wj = [Wj1(n),Wj2(n),... ,Wjm(n)]T

(рисунок 2). Они функционируют в соответствии с выражениями (6) - (8). Обратные связи между выходами нейронов 1,2,...,] — 1 и входом нейрона у представлены вектором

а у (п) = [а ]1 (п),а]2 (п).....а]]—1 (п)]1.

Выход нейрона У является выходом нейронной сети [8]

Уу (п) = Ж1 (п)х( п) + а1 (п)Уу—1 (п) (9)

где первое слагаемое отражает влияние прямых связей, второе - обратных.

Рисунок 2. - Структура нейронной сети с прямымии обратными связями типа APEX

Процесс обучения сети APEX состоит в вычислении значений элементов векторов Wj(n +1) и 3j(n + 1) в момент времени

n + 1. Коррекция коэффициентов нейрона j производится в соответствии со следующими выражениями [2, 8]:

W■ (n + 1) = W■ (n) +

+ r[ УД n) x(n) - У у(n) j n)]

B, (n + 1) = B, (n) +

+ V y, (n) yhi (n) - y2 (n)ä, (n)]:

(11)

v =

V, если y,(n + 1) < y,(n)

V rnd, если y,(n + 1) > y,(n) (12)

V (1 + rnd), если y,(n + 1) = y,(n)

воначального образа - вектора х(л), примем свободное состояние зоны скрещивания транспортных средств (рисунок 3).

где слагаемые yj (n)Wj(n) и

yj (n )a j (n ) обеспечивают устойчивость

модели и в работах [8, 9] приведено теоретическое обоснование этого утверждения.

Следует отметить, что исследование программной реализации модели (1) - (11) позволило сделать вывод об ее эффективности для решения задачи выявления главных компонентов и сокращения размерности входного вектора. С другой стороны, существенным недостатком модели является критичность параметра V. В случае выбора относительно большого значения увеличивается скорость обучения, но алгоритм «проскакивает мимо» точки минимума погрешности и при n ^ да происходит неограниченный рост весовых коэффициентов. Если значение V мало - значительно увеличивается длительность процесса обучения. Применение выражения (8) в качестве нормировщика усложняет вычисления и дает частичное решение проблемы. В связи с этим в модели обучения нейронной сети типа APEX предусмотрен интерактивный поиск оптимального значения V в соответствии с выражением

Рисунок 3. - Начальный образ - свободное состояние переезда

Поток кадров видеокамеры имеет формат 256х256, т.е. размерность вектора x(n) составляет 65536. Оценим возможности сети APEX (рисунок 2) со значением J = 10 и

V = 10 5. При предъявлении сети начального образа должно соблюдаться условие y10(n)^ 0. В зависимости от начальной инициализации случайными значениями векторов весовых коэффициентов процесс первоначального обучения проходит за различное количество итераций, однако, с учетом реализации выражения (10), алгоритм всегда сходится (рисунок 4).

где глб - случайное число, причем 0 < глб < 1. Кроме того, в модели предусматривается присвоение случайных значений весовым коэффициентам в случае

у^л + 1) > у^л).

С учетом (12) рассмотрим функционирование программной реализации модели в устройстве визуального контроля опасной зоны железнодорожного переезда. В качестве пер-

шсоог^^ог^^^т^т-тюгчтюгчтшгчтшс^ошс^ог---

Рисунок 4. - Некоторые варианты протекания процессаобучения нейронной сети (по оси абсцисс - количество итераций, ординат - рассчитанное значение У10 (п) )

Рассмотрим функционирование модели (1) - (12) в режиме постоянного отслеживания состояния опасной зоны переезда с учетом окончания процесса первоначального обучения и наличия рассчитанных значений векторов Шу, ау .

Так, в процессе эксплуатации устройства визуального контроля нейронной сети в момент времени ^п предъявляются образы в виде кадров изображения с форматом, рассмот-

ренным выше. При этом производится расчет значения выхода y(n + tn) и выполняется дообучение НС в соответствии с выражениями (9) - (12). Иллюстрация процесса функционирования при проследовании через переезд автомобиля, показана на рисунке 5.

Рисунок 5. - Изображение проследования транспортной единицы через переезд и график

функции y(n + tn)

Как видно из рисунка, функция y(n + tn ) принимает максимальное значение при занятии переезда автомобилем. Дальнейшие исследования программной реализации модели позволили сделать вывод о том, что

для различных типов автомобилей выход нейронной сети максимален в момент нахождения транспортного средства в опасной зоне переезда. Его конкретное значение зависит от количества автотранспорта в кадре, их размеров и цвета.

Выводы и практические рекомендации

Таким образом, в работе выполнен синтез самоорганизующейся модели нейронной сети, предназначенной для выявления наиболее значимых факторов в потоке видеоданных. Исследование программной реализации модели показало ее адекватность поставленным условиям в задаче контроля опасной зоны переезда.

Лггература

1. Германенко О. А., Моделирование движения транспортных средств в районе приближения к железнодорожному переезду / О.А. Германенко, В.И. Поддубняк, М.Н. Чепцов // Iнформацiйно-керуючi системи на заль зничному транспорта - 2011. - № 1. - С. 6567.

2. Хайкин С. Нейронные сети: полный курс, 2-е изд., испр. : Пер. с англ. - М.: ООО «И.Д. Вильямс», 2006. - 1104 с.

3. Turing A.M. The chemical basis of morphogenesis / A.M. Turing // Philosophical Transactions of the Royal Society, - B, - 1952, -vol. 237, - p. 5-72

4. Malsburg C. Network self-organisation / C. von der Malsburg // An Introduction to Neural and Electronic Networks, - San Diego, CA: Academic Press, -1990, - p. 421-432

5. Oja E. Subspace Metods of Pattern Recondition / E. Oja // Letchworth, England: Research Studies Press, - 1983. - vol. 1, - p. 61-68

6. Hebb D.O. The Organization of Behavior: A Neuropsychological Theory. -New York, -Wiley, - 1949. - 258 p.

7. Oja E. A simplified neuron model as a principal component analyzer / E. Oja // Journal of Mathematical Biology, - 1982, - vol. 15, - p. 267-273

8. Kung S.Y. A neural network learning algorithm for adaptive principal component extraction (APEX) / S.Y. Kung, K.I. Diamantaras // IEEE International Conference on Acoustic, Speech and Signal Processing, - 1990, - vol. 2, -p. 861-864

9. Diamantaras K.I., Kung S.Y. Principal Component Neural Networks: Theory and Apli-cations, New York, - Wiley, - 1996. - 183 p.

Анотацн:

Ключевые слова: нейронная сеть, видеоконтроль, железнодорожный переезд.

В работе выполнен синтез самоорганизующейся модели нейронной сети, предназначенной для выявления наиболее значимых факторов в потоке видео данных.

В робот виконано синтез моделi нейронно! ме-реж1 з самостшною оргашзащею, яка виявляе найбшьш значимi фактори в потощ ввдеоданих.

In work executed syntheses self-organizing models neural network, intended for revealing the most significant factors in the flow of video data.