Условия сильной и слабой эргодичности распределений неоднородных полумарковских систем Текст научной статьи по специальности «Математика»

15. Лобзин В.В., Нечетким В.Р. Порядок и корреляция в геномных последовательностях ДНК. Спектральный подход // Успехи физических наук.- 2000.- Т. 170, № 1.- С. 58-81.

16. Арзамасцев A.A. Природа оптимальности кода ДНК // Биофизика.- 1997.- Т. 42, № 3.- С. 611-614.

17. Якушевич Л.В. Нелинейная математическая модель ДНК и ее применение в расчетах рассеяния нейтронов // Биофизика.- 1998.- Т. 43, № 6.- С. 975-976.

18. Бугаенко H.H., Горбань А.Н., Садовский М.Г. Информационная емкость нуклеотидных последовательностей и их

фрагментов // Биофизика.- 1997.-Т.42, №5.- С.1047-1053.

19. Гаряев П.П, Волновой геном.- М.: Общественная польза, 1993.- 280 с.

20. Заявка на научное открытие (научную идею, научную гипотезу): Методическое пособие по подготовке и оформлению / Денисов Г.А., Полозова Л.Н., Потоцкий В.В. и др. - М.: МААНОИ. МААНО, 1999.- 20 с.

УДК 519.21

УСЛОВИЯ СИЛЬНОЙ И СЛАБОЙ ЭРГОДИЧНОСТИ РАСПРЕДЕЛЕНИЙ НЕОДНОРОДНЫХ ПОЛУМАРКОВСКИХ СИСТЕМ

С. Н. Герасин, В. А. Лизгин

Понятия сильной и слабой эргодичности распространены на случай неоднородных полумарковских систем. Найдены условия существования предельных вероятностей состояний.

Поняття сильно'( та слабко'( ергодичностг узагальнет на випадок неоднор1дних натвмарковських систем. Отриман умови гснування граничних гмовгрностей статв.

The concepts strong and weak ergodicity are widespread on case of nonhomogeneous half-Markov systems. The conditions of existence of limiting probabilities of states are found.

ВВЕДЕНИЕ

Использование модели неоднородного марковского процесса с непрерывным временем связано с предположением, что время пребывания системы в каждом из состояний распределено по закону, имеющему показательный характер. Так вероятность того, что система, будучи в момент времени * в состоянии г будет находиться в этом состоянии еще, по крайней мере, в течении промежутка времени, имеющего длительность t, равна

J Xü(u)du

Р{(X)(^ + т) = г, т > t|X(*) = г} = е * .

Для многих систем предположение о показательном характере распределения времени пребывания в каждом из состояний является оправданным, но так же часто приходится иметь дело с системами, для которых это время имеет распределение, отличное от показательного, для всех или хотя бы некоторых состояний (в том числе и хотя бы для одного состояния). Кроме того, во многих приложениях, при сохранении независимости вероятности перехода в какое-либо из состояний от предыстории процесса, нарушается, тем не менее, требование о независимости времени пребывания системы в каждом из состояний от того, в какое состояние система перейдет

по истечении этого времени (независимость от будущего). Необходимость адекватного математического описания таких систем, поведение которых отличается (хотя и незначительно) от марковского, привела к введению такого понятия как полумарковский процесс.

Определение 1. Марковский случайный процесс с вероятностями перехода из одного состояния в другое р,,

и

становится полумарковским, если распределение вероятностей времени пребывания в каждом состоянии определяется функцией распределения ^({) .

Определение 2. Пусть вероятности переходов системы из текущего состояния г в другие возможные состояния определяются элементами р.. стохастической матрицы

Р = j j = 1 состоянии i перед переходом в состояние j зависит от

а время (случайное) пребывания в

элемента qj неотрицательной матрицы Q =

1

Такие процессы называют полумарковскими [1].

Из двух приведенных определений полумарковского процесса второе является более общим и, таким образом, охватывает более широкий класс процессов. Также следует отметить, что оба определения описывают процессы, которые можно назвать однородными: как вероятности переходов, так и распределения времени пребывания в конкретных состояниях, не зависят от сдвига на временной оси. Из сказанного можно сделать вывод, что для полумарковских процессов неоднородность может проявляться как в изменении с течением времени переходных вероятностей, так и в изменении параметров распределения времени пребывания в каждом конкретном состоянии, или же в "совмещении" этих двух видов неоднородности.

46

ISSN 1607-3274 "Радюелектрошка, шформатика, управлшня" № 2, 2000

С. Н. Герасин, В. А. Лизгин: УСЛОВИЯ СИЛЬНОЙ И СЛАБОЙ ЭРГОДИЧНОСТИ РАСПРЕДЕЛЕНИЙ НЕОДНОРОДНЫХ ПОЛУМАРКОВСКИХ СИСТЕМ

ФОРМУЛИРОВКА ОСНОВНЫХ РЕЗУЛЬТАТОВ

Для однородных полумарковских процессов, также как и для марковских имеет смысл понятие стационарного распределения и можно сформулировать условия, при которых будет иметь место сходимость к этому распределению. Более того, и для неоднородных полумарковских процессов возможно ввести понятия, аналогичные понятиям слабой и сильной эргодичности для неоднородных цепей Маркова, и найти условия, при которых полумарковский процесс будет эргодическим в слабом или сильном смысле [2].

Теорема 1. Пусть вероятности переходов между состояниями для полумарковского процесса Х(г) задаются

элементами стохастической матрицы Р _ _ ^ , а

времена пребывания т, в каждом состоянии г распределены по законам

Р{т, > г} _ ^(г),

тогда, если однородная цепь Маркова с матрицей переходных вероятностей за единицу времени Р _ ||рг]|"] _ ^ эргодична и имеет стационарное распределение Р _ (Р\,Р2> •••'Рп) : РР _ Р , то данный полумарковский процесс также будет эргодическим со стационарными вероятностями , 1 < г < п , удовлетворяющими системе линейных алгебраических уравнений

* _ У % 1 < г < п;

гп гп-

т

г тк

к _ 1 к

У я, _ 1

0 < т{ _ |(г)йг < ж , 1 < г < п , 0

Т _ Р^тг.

(3)

Среднее время, затраченное полумарковским процессом на N переходов, определяется выражением

т _ У т] _ N У р

]_ 1 ]_ 1

(4)

Но вероятность есть вероятность застать полумарковский процесс в состоянии г _ 1, 2, •.., п . Значит, за время Т среднее время пребывания процесса в состоянии г будет равно:

Т _ яТ _ qiN У Р]т]. ] _ 1

Приравнивая (3) к (5), находим:

1г У рт _ ] _ 1_

(5)

т

(6)

(1)

(2)

где тг - среднее время пребывания в состоянии г .

Доказательство. Рассмотрим достаточно большое число переходов N. За N переходов марковская цепь в среднем Ni _ РN раз побывает в состоянии г _ 1, 2, •.., п . Если среднее время пребывания , определяемое по формуле (2), полумарковского процесса в состоянии г известно, то можно найти среднее время Т{ пребывания полумарковского процесса в состоянии г за те же N переходов

Подставляя выражение в уравнение Р _ рР для стационарных вероятностей цепи Маркова с матрицей

переходных вероятностей за единицу времени Р и со-

п

кращая полученный результат на У ртФ 0 (имея в виг _ 1

ду, что т1 Ф 0, г _ 1, 2, •.., п ), приходим к системе (1).

Очевидно, что если полумарковский процесс является неоднородным в том смысле, что с течением времени изменяются только вероятности переходов между состояниями, но не распределения времен пребывания в конкретных состояниях, то будет справедлива следующая модификация теоремы 1.

Теорема 2. Пусть вероятности переходов между состояниями для полумарковского процесса Х( г) на к -м скачке (к _ 1, 2, •.. ) задаются элементами стохастиче-II (к)|| п

ских матриц Рк _ |рг] ||г- ] _ 1 , а времена пребывания т, в каждом состоянии г распределены по законам

Р{т, > г} _ ^(г),

тогда, если неоднородная цепь Маркова с матрицей переходных вероятностей за к -ю единицу времени

Рк _ |Р]'||г ] _ 1 эргодична в сильном смысле и имеет предельное распределение

(к )||

п

п

п

п

п

р _ (Р1,Р2, •• Рп):

п

Р П Рк + г _ Р'ук> 0^п > N0,

г _ 1

(7)

матрицы Ик N

I _ 1

Vm > N

0

Тогда, если неоднородная цепь Маркова с матрицей переходных вероятностей за к-ю единицу времени

Рк _ \р] || г ] _ 1 эргодична в сильном смысле и имеет

предельное распределение (7), то данный полумарковский процесс также будет эргодическим (в сильном смысле) с предельными вероятностями , 1 < г < п ,

равными предельным вероятностям Рг соответствующей

неоднородной цепи Маркова.

Доказательство. Рассмотрим достаточно большое число переходов N > N0 после момента я , соответствующего достижению к моменту к распределением "сопутствующей" неоднородной цепи Маркова своего предельного значения:

(к )||

где N0 - достаточно большое число переходов, обеспечивающее равенство левого собственного вектора, соответствующего единичному собственному значению

(ЬЩ) п

_ Н] г,] _ 1 _ П Рк + г, вект°ру

г _ 1

распределения Р , то данный полумарковский процесс также будет эргодическим (в сильном смысле) с предельными вероятностями , 1 < г < п , удовлетворяющими системе линейных алгебраических уравнений

— _ У —я,, , 1 < г < п; Vk > 0,

™ ¿—I т. 1г

я _ а^

(1')

тах |Р(0, г1 )дд-

Vvг > 0 0 ^

7 г

1Р( г1. г2 )

У Яг _ 1

г _ 1

Доказательство. Доказательство, в основном, повторяет доказательство теоремы 1, с той разницей, что величины р1, 1 < г < п определяются как компоненты

вектора предельного распределения неоднородной цепи Маркова (7), а не вектора стационарного распределения однородной цепи.

Случай, когда неоднородность полумарковского процесса связана как с изменением с течением времени переходных вероятностей при скачках, так и с изменением распределений времен пребывания в различных состояниях, является более сложным с точки зрения получения условий "сильной эргодичности" для полумарковского процесса, однако, если при этом справедливо предположение, что распределения времен пребывания не зависят от состояния, то эта задача значительно упрощается.

Теорема 3. Пусть вероятности переходов между состояниями для полумарковского процесса Х( г) на к -м скачке (к _ 1, 2, •.. ) задаются элементами стохастических матриц Р^ _ ||р]п] _ 1, а времена пребывания Т,( я) в каждом состоянии 1 после перехода в него в момент я распределены по законам

Р{т,(я) > г} _ Р(я, г), где функция Р(я, г) удовлетворяет условию

Р(я, и) _ Р(я, г)Р(г, и), я < г < и . (8)

д д

Э г2" 'Э гк - 1

1Р (гк - ^ гк )§ГР (гk, г) йгк

V 0

_ arg< тах

I Vk > 0

-(- 1п(Р(0, г)))кР(0, г)

йг2 йг _

Время TN(я) , необходимое для этих N переходов

также оценим на основании принципа наибольшего правдоподобия:

я) _ а^\ тах

[Vк > 0

N (- 1п (Р (я, я + г))) NF (я, я + г)

Среднее время пребывания после момента т (я) для каждого из состояний будет в данном случае равно

я + 1Н( я)

т (я) _

TN ( я )

1 Р(и, и + г)йг

йи.

В каждом из состояний за время Т^( я) после момента я система в среднем будет находиться в течении времени

ТЛя) _ рМт(я).

(9)

Таким образом, из (3.9) для времени, необходимого для N переходов после момента я , получаем выражение

пп

Т^я) _ У Т](я) _ Nm(я) У Р] _ Nm(я) . (10)

] _ 1

] _ 1

п

N

0

п

1

я

48

1607-3274 "Радюелектрошка, ¡нформатика, управлшня" № 2, 2000

В. И. Дубровин, С. А. ИНТЕРПРЕТАЦИЯ

Субботин: АЛГОРИТМ МНОГОМЕРНОЙ КЛАССИФИКАЦИИ И ЕГО НЕЙРОСЕТЕВАЯ

Вероятность qi застать полумарковский процесс в

состоянии г после момента * находим из (9) и (10) по формуле

да

TN( s)

Pi

что и требовалось доказать.

Полученные результаты являются естественным обобщением результатов, полученных в [3,4] для неоднородных марковских процессов на случай полумарковских процессов.

ПЕРЕЧЕНЬ ССЫЛОК

1. Королюк B.C. Стохастичш модел1 систем. -К.: Либ1дь, 1993.135 с.

2. Герасим C.H. Проблемы стабилизации распределений неоднородных марковских систем. Харьков, изд-во ХТУРЭ, 1999. - 212 с.

3. Герасим C.H. Условия сходимости к предельному распределению в неоднородных цепях Маркова за конечное время // Вюник Харювського нацюнального ушверситета, №456, ч.2, 2000.-С.256-259.

4. Герасим C.H., Дикарев B.A., Числим Н.И. Существование предельных вероятностей для конечных процессов Маркова с убывающими к нулю временными промежутками перехода // Доповщ HAH Украши, №7, 1998.-С.15-19.

q

УДК 681.32:007.56

АЛГОРИТМ МНОГОМЕРНОЙ КЛАССИФИКАЦИИ И ЕГО НЕЙРОСЕТЕВАЯ

ИНТЕРПРЕТАЦИЯ

В. И. Дубровин, С. А. Субботин

Предложены модифицированный нерекуррентный метод потенциальных функций и алгоритм многомерной классификации. Дана нейросетевая интерпретация алгоритма многомерной классификации. Приведены рекомендации по практическому применению предложенных методов.

Запропановано модифжований нерекурентний метод по-тенцшних функцш та алгоритм багатомгрног класифгкацп. Дана нейромережева iнтерпретащя алгоритма багатом(рноЧ класификацИ. Приведен рекомендацИ по практичному засто-суванню запропанованих методiв.

Modified unrecurrent method of potential functions and algorithm of a many-dimensional classification are proposed. The neural network interpretation of algorithm of a many-dimensional classification is given. The recommendations for practical application of offered methods are indicated.

1. ВВЕДЕНИЕ

Несмотря на довольно существенные успехи, достигнутые в области распознавания образов за последние годы, следует отметить, что до сих пор универсального метода распознавания не существует, а все известные методы обладают как достоинствами, так и недостатками.

Статистические методы распознавания [1-3] позволяют достаточно быстро осуществлять обучение распознаванию образов, но они далеко не всегда способны решать поставленные задачи и обладают слабыми адаптивными способностями.

Нейросетевые методы [4-7], активно развивающиеся в последнее время, обладают универсальностью, высокими аппроксимационными и адаптивными свойствами. Но, в свою очередь, характеризуются такими недостатками,

как длительность и сложность процесса обучения, сложность подбора параметров нейронной сети (НС) для уверенного решения задачи, логическая непрозрачность механизма принятия решений.

Поэтому возникает необходимость в разработке и внедрении методов, которым присущи достоинства как статистических, так и нейросетевых методов.

Одним из таких методов является метод потенциальных функций [2,8], который, являясь по сути статистическим, имеет еще и нейросетевую (перцеп-тронную) интерпретацию. Метод потенциальных функций основан на том, что экземпляры одного класса в пространстве признаков вероятнее всего будут ближе, чем экземпляры разных классов, и решение задачи классификации этот метод осуществляет на основе вычисления суммарного расстояния между новым экземпляром, класс которого неизвестен, и экземплярами обучающей выборки, относящимися к разным классам. Обладая хорошими адаптивными способностями, этот метод имеет такие недостатки, как высокие требования к ресурсам памяти ЭВМ для хранения всей обучающей выборки и недостаточная для ряда задач аппроксимационная способность.

Другим методом, имеющим статистическую и нейро-сетевую интерпретации, является эвристический алгоритм, основанный на объединении результатов одномерных классификаций по признакам [9]. Этот алгоритм, хотя и предъявляет к ресурсам ЭВМ существенно меньшие требования чем метод потенциальных функций, все же характеризуется значительно худшими аппроксимационными способностями по сравнению с последним.