Методы теории искусственных нейронных сетей в задачах идентификации переходных вероятностей управляемых дискретнозначных марковских моделей Текст научной статьи по специальности «Математика»

2005

НАУЧНЫЙ ВЕСТНИК МГТУ ГА серия Информатика. Прикладная математика

№ 92(10)

УДК 629.735

МЕТОДЫ ТЕОРИИ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В ЗАДАЧАХ ИДЕНТИФИКАЦИИ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ УПРАВЛЯЕМЫХ ДИСКРЕТНОЗНАЧНЫХ МАРКОВСКИХ МОДЕЛЕЙ

Д. М. НЕНАДОВИЧ

Статья представлена доктором технических наук, профессором Шахтариным Б.И.

В статье представлен алгоритм идентификации элементов матрицы одношаговых переходных вероятностей управляемой дискретнозначной марковской модели процесса функционирования телекоммуникационной сети на основе методов теории искусственных нейронных сетей, приводится пример реализации алгоритма.

Моделирование сложных информационных систем, в частности, современных телекоммуникационных систем (ТКС), которые в большинстве случаев можно классифицировать как мультисервисные и гетерогенные, приводит к необходимости унификации математического описания процессов их функционирования.

Проблема унификации может быть решена на основе моделирования процессов функционирования ТКС «разрывными» управляемыми марковскими процессами (управляемыми цепями Маркова (УЦМ)) изменения состояний системы (или характеризующих ее параметров). Основной сложностью реализации математического представления УЦМ в системах управления ТКС в виде стохастических разностных уравнений является неопределенность значений элементов матрицы одношаговых переходных вероятностей (ОПВ) [1]. Одним из подходов к решению задачи идентификации значений вероятностей перехода ТКС из состояния в состояние является подход, основанный на использовании методов искусственных нейронных сетей, в частности, с использованием экстраполирующих нейронных сетей (ЭНС) [2-7].

Рассмотрим алгоритм функционирования ЭНС для идентификации значений вероятностей перехода параметра системы (определяющего состояние ТКС) из состояния в состояние. Разработанный алгоритм идентификации предназначен для определения значений элементов матрицы ОПВ параметров состояния ТКС в условиях нестохастической неопределенности -недостоверности (недостатка, неполноты, противоречивости) информации. Алгоритм представлен в виде блок-схемы на рис. 1.

На вход такой ЭНС поступает С(к) = [о1(^ ),С2(к),С3(к)] - входной образ ЭНС, характеризующий множество состояний, в которое может перейти параметр ТКС из данного состояния. Например, для первой строки ОПВ и трех возможных состояний, входной образ для

идентификации вероятности р11(к) имеет вид: С(к) = [1,0,0].

Предположим, пользователь определил, что в данный момент времени, на к-м шаге, управленческие воздействия подобраны таким образом, что повышают для некоторого 1-го параметра ТКС вероятность того, что, находясь в состоянии 1, данный параметр останется в этом состоянии, а характер изменения значений других вероятностей, находящихся в этой же строке ОПВ, - неопределенный (неточный, противоречивый). В целях получения обоснованных значений вероятности перехода параметра ТКС из состояния в состояние необходимо идентифицировать недостающие значения элементов данной строки ОПВ.

Начало

Ввод исходных данных:

С (к );|^(к )||

Активизация входного слоя ЭНС =

а ,■ (0) = с ,■ "І=1,3

Начальная инициализация нейронов второго слоя ЭНС

) = к, і є

Ьі (0) =

[0, І ї [1,...,3]

і—4

Приведение нейронов вх. слоя к состоянию нейронов второго слоя ---------------

ау (к') = Ъ (к'), V/ = 1,3

5 Вычисление новых состояний нейронов второго слоя

Ъ (к' +1) = / (]ГЪ,. (к ')^„ (к))

©

Суммирование значений весовых коэффициентов

в у = ЕВ І (І ([Ьі ]))

І=1

Смещение (сдвиг) весовых коэффициентов корреляционной связи

і ([Ьі+wmaí]), "і=із

■9 -

Вычисление идентифицированных значений вероятностей перехода Рп(к); Рі 2(к); Рі з(к)

Вывод результатов: идентифицированные значения переходных

Конец

2

8

Рис. 1. Блок-схема нейросетевого алгоритма идентификации значений вероятностей перехода параметра ТКС из состояния в состояние

Функционирование ЭНС осуществляется следующим образом [2-7]:

1. Активизация входного слоя Ба ЭНС входным образом С(к) = [с1(к),С2(к),С3(к)] (блок 2 алгоритма на рис.1), т.е. приведение нейронов входного слоя в начальные состояния

а;(0) = с; , V/ = 1,3, (1)

причем нулевой (стартовый) такт экстраполяции ЭНС в выражении для матрицы весов [1]:

'0 1 -1"

Wl( к )|| =

1 0 -1

1 1 0

(2)

а также последующие такты осуществляются в рамках к-го шага функционирования ТКС и обозначаются к' = 0,1,2,...;

2. Инициализация (блок 3 алгоритма) нейронов слоя Бь в соответствии с выражением:

а і , і є [1,...,3];

0 , Ії [1,...,3].

3. Приведение нейронов входного слоя ЭНС на данном к' -м такте к состоянию нейронов второго (Бь ) слоя (блок 4 алгоритма на рис. 5):

ь І (0)

(3)

а, (Г) = Ъ, (k'), V/ = 1,3. (4)

4. Вычисление новых состояний нейронов второго слоя (блок 5 алгоритма) для всех

i е [1,...,3] по формуле:

Ъ i (k +1) = f (±Ъ i (£') w „ (k)), Vi = IT3 (5)

j=1

где f (x) - ступенчатая функция активации.

5. Повторение шагов 3-4 до тех пор, пока ЭНС на каком либо k' -м такте не достигнет стабильного состояния (блок 6 алгоритма на рис. 1). Проверка достигла либо не достигла ЭНС стабильного состояния осуществляется в (базовом процессорном элементе (БПЭ) [1] Sc, путем сравнения состояний нейронов второго слоя Sb на предшествующем k' -м и очередном (k+1) -м такте

bi(k’) ф bi(k’+1), Vi = 1,3. (6)

6. По сигналу с выхода БПЭ S^ имеющему место в случае достижения ЭНС стабильного состояния, в БПЭ Sd осуществляется суммирование значений весовых коэффициентов, полученных в рамках вычисления состояний нейронов второго слоя Sb и соответствующих выходным сигналам слоя Sb в момент достижения ЭНС стабильного состояния

^ 3 ^

Bf = X в, (Д[Ъ. ])). (7)

i=1

7. Элементы данного суммарного вектора характеризуют полученные в ходе идентификации весовые коэффициенты корреляционной связи значений вероятностей переходов для одной i-й строки ОПВ. Данный вектор может содержать как положительные, так и отрицательные числа, поэтому, чтобы избавиться от отрицательных значений весов, но сохранить их пропорциональную зависимость, в базовый процессорный элемент БПЭ Se для всех элементов вектора (7) вводится единый положительный коэффициент смещения (сдвига), численно равный максимально возможному значению суммарного веса концепт в итоговой матрице весов

К = wmax = N X N , (8)

см Sij э сост’ V-V

где N э - количество экспертов, привлекаемых к решению задачи, а N сост - число возможных состояний неточно (противоречиво) заданного параметра ТКС. При этом выражение для операции смещения (сдвига) имеет вид

в f см=f ([Ъ1+w тах;ъ2+w max;b3+w man). (9)

8. Вычисление идентифицированных значений вероятностей перехода параметра ТКС из первого состояния во второе, третье и вероятности остаться в первом состоянии. Данная процедура реализуется в БПЭ Se и осуществляется на основе квадратичной метрики, применяемой к смещенным значениям суммарных весовых коэффициентов корреляционной связи вероятностей переходов (9) в соответствии с выражениями:

Pii(k)

max

Sij

(bj+w max)2+(ь2 + w max)2 + сь3+w max)2

_______________(bt+w max)2_________________

(bj + w max)2 + (ь 2 + w max)2 + (Ьз + w max)2

(10)

Pl2(k )

b2 + w max

^ (bi + wmax)2 + (b2 + wmax)2 + (Ьз+wmax)

______________(ь 2+w max)2______________

(bi+w max)2 + (b2 + w max)2 + (Ьз+w max)2

(ii)

Pl3(k) =

max

b3 + w S ij

(12)

(bi+wmax)2+(ь 2 + wmax)2 + (Ьз+wmax)2 =__________________(Ьз+w max)2_______________

(bi + w ma*)2 + сь2 + w max)2 + (Ьз + w max)2

9. Повторение шагов i-8 до тех пор, пока не будут идентифицированы элементы во всех остальных i-х строках ОПВ (блок i0 алгоритма на рисЛ).

Рассмотрим алгоритм функционирования данной ЭНС на примере итоговой когнитивной карты [i] и характеризуемой итоговой матрицей ||W(k)|| весов. Допустим, данные когнитивная карта и матрица весов характеризуют корреляционные зависимости значений переходных вероятностей, расположенные в первой строке ОПВ, а задачей ЭНС является идентификация этих значений. В этом случае на вход ЭНС подается последовательно три входных образа,

начиная с C(k) = [l, 0, 0], характеризующего необходимость прогноза изменений корреляционных зависимостей между вероятностями р12(к) и р1з(к) в случае роста значений вероятности рп(к).

В соответствии с алгоритмом, выходной вектор второго слоя (Sb) на каждом к'-м такте работы ЭНС B(k') = [bi (к' ),b2(k' ),Ьз(к')] последовательно принимает ряд значений состояний, которые определяются на основе выражения (4) и элементы этого вектора для рассматриваемого примера на каждом к'-м такте работы ЭНС будут равны:

Bi(i) = f ([0, з, - 2]) = [i,i, -1];

Bi(2) = f ([i, 0, - з]) = [i, 0, -1];

Bі(з) = f ([-2,0, - 2]) = [1,0, -1];

Bi(4) = f ([-2,0, - 2]) = [1,0, -1].

Нетрудно видеть, что ЭНС достигла стабильного состояния на четвертом такте. Анало-

(із)

2

2

2

гичным образом, получаем выходные векторы второго слоя (Бь) ЭНС для входных образов

С(к) = [0, 1, 0] и С(к) = [0, 0, 1]. Данные входные образы характеризуют соответственно

необходимость прогноза изменений корреляционного зависимостей между вероятностями р11(к) и р13(к) в случае роста значений вероятности р12(к) и необходимость прогноза изменений корреляционных зависимостей между вероятностями р11(к) и р12(к) в случае роста значений вероятности р13(к). Выходные вектора второго слоя (Бь) ЭНС для этих входных образов соответственно равны:

В2(1) = /([3,0, -1]) = [1,1, -1];

В2(2) = /([1,0, - 3]) = [1,1, -1]; (14)

В2(3) = /([1,0, - 3]) = [1,1, -1],

В 3(1) = / ([2,3,0]) = [1,1,1];

В3(2) = /([5,6, - 3]) = [1,1,1]; (15)

В3(3) = /([5,6, - 3]) = [1,1, -1].

Полученные результаты характеризуют промежуточные и финальные зависимости веса концепт (переходных вероятностей), т.е. характеризуют суммарную предпочтительность (с точки зрения экспертов) преобладания (доминирования) значений одной вероятности по отношению к другой, а итоговые функции весов могут быть представлены графически в виде пошаговых ленточных диаграмм, как показано на рис.2

а

б

Рис. 2. Графики зависимости функций весов концепт от такта вычисления (к )

новых состояний нейронов второго слоя ЭНС: а - функции весов значений вероятностей перехода из любого состояния в первое; б - функции весов значений вероятностей перехода из любого состояния во второе состояние; в - функции весов значений вероятностей перехода из любого состояния в третье состояние

Полученные функции весов значений вероятностей перехода из состояния в состояние суммируются в соответствии с (7) и на выходе БПЭ Ба (или блока 7 алгоритма) имеем суммарный вектор весовых коэффициентов

В^/ = ([4,6, - 8]), (16)

характеризующий полученные в ходе идентификации весовые коэффициенты корреляционной связи значений вероятностей переходов для одной первой строки ОПВ. С учетом того, что для

данного примера К см = w т* = 12, в соответствии с (13) получим вектор суммарных весовых

коэффициентов со смещением (сдвигом)

В1

([16,18,4]),

(17)

в

что позволяет избавиться от отрицательных значений весов, но сохранить их пропорциональную зависимость.

В итоге, на выходе БПЭ 8е (или блока 9 нейросетевого алгоритма), реализующего выражения (10-12), получим идентифицированные значения вероятностей перехода неточно (противоречиво) заданного параметра ТКС из первого состояния во второе, в третье и вероятности остаться в первом состоянии, т.е. элементы первой строки матрицы ОПВ р9 :

(k)=_____________(ь+w -)2___________= 162 = 042953

P11() (bi+wm^x)2+(ь2+wmx)2+(Ьз+wmp2 162+182+42 * ;

(k)=____________(b2+w mn:__________________________________= 182 = 054362

Pi2() (ь+wm^x)2+(ь2+wm^x)2+(Ьз+wm:x)2 162+182+42 * ;

(b3+w m:x)2 42

p13(k) =--------^^-----------------------------------------T- = , ,-T- = 0,02684.

^13W (b1+wmax)2+(b2+wmax)2+(b3+wm;x)2 162+182+42

Аналогичным образом могут быть получены остальные идентифицированные значения вероятностей перехода неточно (противоречиво) заданного параметра ТКС, т.е. элементы второй и третьей строк матрицы ОПВ j .

Таким образом, сформулирован подход к моделированию процесса функционирования ТКС в условиях, когда элементы матрицы ОПВ могут быть заданы недостоверно (неточно, неполно и противоречиво). Показано, что на основе использования математически корректного нейросетевого алгоритма могут быть получены количественные значения элементов матрицы ОПВ - одной из ключевых составляющих стохастических разностных уравнений, представляющих собой математическую модель процесса функционирования ТКС. Использование предложенного нейросетевого алгоритма позволяет наиболее полно учесть неопределенности нестохастического характера, присущие исходным данным: недостоверность, неточность, неполноту и противоречивость. Это позволяет, реализовать в рамках, так называемого, параллельного подхода процедуру оптимизации управляющих воздействий на ТКС, повысить степени объективности принимаемых информационных решений при управлении структурой, параметрами и режимами работы сетей такого класса.

ЛИТЕРАТУРА

1. Ненадович Д.М. Постановка задачи индетификации переходных вероятностей управляемых дискретнозначных марковских моделей методами теории искусственных нейронных сетей. (статья в данном Вестнике).

2. Щербаков М.А. Искусственные нейронные сети. - Пенза: ПГТУ, 1996.

3. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. - М.: Мир, 1992.

4. Kosko B. Fuzzy cognitive maps // International Journal of M:n-M:chine Studies. V.24. N.Y., 1986. P. 16-22.

5. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. 2-е издание. - М.: Горячая линия-Телеком, 2002.

6. Паращук И.Б. Особенности и содержание этапов разработки интеллектуальных систем анализа эффективности телекоммуникационных сетей. // Петербургский журнал электроники, № 1, 1999. С. 6-12;

ARTIFICIAL NEURON NET THEORY METHODS IN THE PROBLEMS OF TRANSITIONAL PROBABILITIES IDENTIFICATION OF CONTROLLED DISCRETE MARKOVIAN

Nenadovich D.M.

This article presents an element identification algorithm of transitional probabilities of controlled discrete Markovian for the functioning of the telecommunication net on the basis of artificial neuron net theory. An example of algorithm realization is given.

Сведения об авторе

Ненадович Дмитрий Михайлович, 1961 г.р., окончил Ленинградское высшее военное инженерное училище связи им. Ленсовета (1984), Военную академию связи (1995), кандидат технических наук, автор более 40 научных работ, область научных интересов - системы управления телекоммуникационными сетями.