Научная статья на тему 'Method for refining a priori probabilities of a complex system states from experimental data'

Method for refining a priori probabilities of a complex system states from experimental data Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
44
13
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
СЛОЖНАЯ СИСТЕМА / СОСТОЯНИЕ СИСТЕМЫ / АПРИОРНАЯ ВЕРОЯТНОСТЬ / ОПЫТНЫЕ ДАННЫЕ / МЕТОД ПРИОРИТЕТА ОПЫТНОЙ ИНФОРМАЦИИ / АПОСТЕРИОРНАЯ ВЕРОЯТНОСТЬ / БАЙЕСОВСКИЕ ОЦЕНКИ / СРАВНИТЕЛЬНЫЙ АНАЛИЗ / COMPLEX SYSTEM / SYSTEM STATE / A PRIORY PROBABILITY / EXPERIMENTAL DATA / METHOD OF PRIORITY OF EXPERIMENTAL INFORMATION / A POSTERIORI PROBABILITY / BAYESIAN ESTIMATES / COMPARATIVE ANALYSIS

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Арсеньев В. Н., Петухов А. Б., Ядренкин А. А.

Рассматривается задача уточнения априорных вероятностей гипотез о состоянии сложной системы по данным, получаемым в процессе ее опытной отработки и эксплуатации. Предложен метод решения этой задачи путем взвешенного учета результатов априорных и экспериментальных исследований системы. Приведены результаты сравнения апостериорных оценок с оценками, полученными по формулам Байеса. Показано, что, в отличие от байесовского решения, использование предложенного метода позволяет учитывать близость результатов априорных исследований системы к результатам опытов и не позволяет априорной информации доминировать над опытными данными.For a complex system, the problem of refining a priori probabilities of hypotheses about the system state using the data obtained during its experimental adjustment and operation is considered. The proposed method for solving this problem is based on weighted accounting of the results of a priori and experimental studies of the system. The results of comparing a posteriori estimates with estimates obtained by Bayes formulas are presented. It is shown that, in contrast to the Bayesian solution, the use of the proposed method provides for accounting the proximity of the results of a priori studies of the system to the results of experiments, and does not allow a priori information to dominate the experimental data.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Method for refining a priori probabilities of a complex system states from experimental data»

ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ И СИСТЕМЫ, ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА

УДК 681.511.4

DOI: 10.17586/0021-3454-2020-63-3-199-205

МЕТОДИКА УТОЧНЕНИЯ АПРИОРНЫХ ВЕРОЯТНОСТЕЙ СОСТОЯНИЙ СЛОЖНОЙ СИСТЕМЫ ПО ЭКСПЕРИМЕНТАЛЬНЫМ ДАННЫМ

В. Н. Арсеньев, А. Б. Петухов, А. А. Ядренкин

Военно-космическая академия им. А. Ф. Можайского, 197198, Санкт-Петербург, Россия

E-mail: andrey_11_75@mail.ru

Рассматривается задача уточнения априорных вероятностей гипотез о состоянии сложной системы по данным, получаемым в процессе ее опытной отработки и эксплуатации. Предложен метод решения этой задачи путем взвешенного учета результатов априорных и экспериментальных исследований системы. Приведены результаты сравнения апостериорных оценок с оценками, полученными по формулам Байеса. Показано, что, в отличие от байесовского решения, использование предложенного метода позволяет учитывать близость результатов априорных исследований системы к результатам опытов и не позволяет априорной информации доминировать над опытными данными.

Ключевые слова: сложная система, состояние системы, априорная вероятность, опытные данные, метод приоритета опытной информации, апостериорная вероятность, байесовские оценки, сравнительный анализ

Введение. На качество функционирования сложной системы оказывают влияние различные внешние и внутренние факторы, которые могут изменять состояние системы, характеризуемое совокупностью некоторых величин — признаков. В зависимости от значений этих признаков сложная система может быть исправной или неисправной, правильно функционирующей или неправильно функционирующей и т.д. В качестве основы для принятия решения о состоянии системы часто используется математический аппарат теории распознавания образов [1—4]. При этом состояние сложной системы рассматривается как объект распознавания, число и виды состояний задаются с учетом цели распознавания и условий его проведения. Во многих случаях полагается, что события, характеризующие то или иное состояние системы, являются несовместными и образуют полную группу, а также имеется некоторая априорная информация о вероятностях появления этих событий [5, 6]. Уточнение этих вероятностей осуществляется по мере поступления результатов экспериментальных исследований системы, например, в процессе опытной отработки и эксплуатации [5—12]. Основой для решения данной задачи является формула Байеса [5]. Подробный анализ существующих подходов к определению вероятностей технических состояний сложной системы как объекта диагностирования приведен в работе [13]. Однако эти подходы не лишены известного недостатка, связанного с неопределенностью выбора априорного распределения и отсутствием проверки его соответствия полученным опытным данным [6]. Уменьшить эту неопределенность, по мнению авторов, позволяет метод приоритета опытной информации (ПОИ) [12].

Постановка задачи. Рассматривается сложная система, которая может находиться в одном из т состояний с неизвестной вероятностью , г = 1, т . На предварительных (доопыт-ных) этапах исследований сложной системы получены априорные оценки Ррг- вероятности

т

того, что система находится в г-м состоянии, причем Е Рр1 = 1.

г=1

В процессе экспериментальных исследований в течение некоторого периода времени Т было зафиксировано, что система находилась в г-м состоянии х1 раз.

т

Полагается, что число Ы0 = Е х1 значительно больше т . Необходимо определить апо-

г=1

стериорные оценки раг, г = 1, т , вероятности состояний системы, учитывающие результаты ее априорных и экспериментальных исследований.

Определение апостериорных оценок вероятностей состояний системы. Как следует из постановки задачи, величины х1, г = 1, т, подчинены полиномиальному закону распределения, в соответствии с которым вероятность того, что система будет находиться в 1-м состоянии Х1 раз, во 2-м состоянии — Х2 раз, ..., в т-м состоянии — хт раз, определяется формулой [6, 14]

Р (Х1, Х2, .., Хт ; Р1, Р2,..., Рт ) = ^оР^ Рг^-Рт^ , (1)

N !

где Со = , Г , •

Х1!Х2!...Хт !

Зная распределение величин Х1, г = 1, т, методом максимального правдоподобия можно

найти опытные оценки Ры, г = 1, т, вероятностей состояний системы Р1, г = 1, т , обеспечит

вающие максимум функции (1) или логарифма этой функции при условии Е Р1 = 1. Данная

г=1

задача решается методом неопределенных множителей Лагранжа. В соответствии с этим методом формируется функция [15]

т ( т Л

Jo =1пС° + ЕХг1пРг +Х ЕРг -1

г=1 V г =1 у

где X — неопределенный множитель Лагранжа.

Необходимые условия максимума функции (2) определяются как

(2)

дJo

дРг

или

- д/

= 0, г = 1, т; д/°

дХ

Рг = Рог

= 0

Рг = Рог

+ Х = 0, г = 1, т, (3)

Рог

т

Е Рог = 1. (4)

г=1

Из системы уравнений (3) формируются оценки Ро[ = -Х^X, г = 1,т, подстановка кото-

т

рых в уравнение (4) дает X = -Е Хг = -No и окончательные выражения для определения

г=1

опытных оценок вероятностей состояний системы:

Poi =

No

i = 1, m.

(5)

Тогда формулу (1) можно представить в виде

Po (Pol, Po2, Pom ;Pb ^ Pm ) = QPЛPo1 P2NoPo2 ...P^°Pom . (6)

В соответствии с методом ПОИ определяется отношение правдоподобия [16], характеризующее близость априорных оценок Ppi, i = 1, m, к опытным оценкам Poi, i = 1, m :

*

v =

Р (( xm ; Ppl, Pp2,..., Ppm ) = Pp1NoPo1 Pp2N°^^Ppm^Pom

P (( x2, Xm ; Pob Po2,..., Pom ) P0NPo1 Po2 N Po2...PomN ^

m f n \Po

П|

i=1 V Poi

No

. (7)

Для априорных вероятностей Ppi, i = 1, m, вводится функция, аналогичная функции (6):

Pp (Pp1, Pp2, ..., Ppm; P1, P2,.., Pm ) = Cpp1 pPp1 P2 ^-.Pm ^^ , (8) *

где Cp = const, Np =v No.

Апостериорные оценки pai, i = 1, m, вероятностей состояний сложной системы

Pi, i = 1, m, должны обеспечивать максимум произведения функций (6) и (8) или логарифма произведения этих функций и в сумме давать единицу, т.е.

{Pai, i = 1m = arg ma^ln(CoCpp^^+Vp1 p/°P°2 +Nppp2...p/°p°m +Npppm)

1 ' pt, i=1,m V P /

m

при условии Z pa = 1 .

i=1

Данная задача также решается методом неопределенных множителей Лагранжа. Функция Лагранжа в этом случае имеет вид

Ja = ln ( CoCp p1NoPo1+NpPp1 p/°P°2 +NpPp2...pmNoPom +Np Ppm ) + f f p _ ^

V i=1 У

m ^ m ^

: 1П (CoCp ) + ^ (NoPoi + NpPpi ) 1П Pi + f Z Pi _ 1 i=1 V i=1

f

\

=1п (С0Ср) + 2 ( + V*р^)1п р{ + А, 2 р{ -1 г'=1 V'=1 У

Апостериорные оценки должны удовлетворять необходимым условиям максимума функции /а:

ал

dpi

= 0, i = 1, m; aJa

Pi = Pa,

af

= о,

Pi = Pa,

на основе которых формируются уравнения

No (Poi +v*Ppi)

+ f = 0, i = 1 m; Z Pai = 1.

i=1

Решение этих уравнений с учетом Е Ррг = 1 и Е Ро = 1 дает формулы для определения

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

г=1 г=1

апостериорных оценок вероятностей состояний системы:

Рог + V* Ррг -

Ры =-^Ч г = 1т (9)

1 + У

Из выражения (9) видно, что апостериорные оценки содержат как априорные, так и опытные оценки вероятностей состояний системы, причем вес априорной информации зависит от ее близости к опытным данным и определяется величиной отношения правдоподобия

* *

0 <у < 1: чем ближе априорные данные к результатам опытов (чем больше V ), тем больше их вес в апостериорных оценках. Можно показать, что дисперсии опытных оценок больше дисперсий апостериорных оценок, что свидетельствует о более высокой точности последних. Методика сравнения оценок приведена в работе [17].

Следует отметить, что при проведении экспериментальных исследований в течение некоторого периода времени Т может оказаться, что система находилась не во всех т состояниях, а лишь в части из них. Пусть, например, система не была в г-м состоянии. В этом случае х1 = 0 и соответствующая опытная оценка вероятности этого состояния Ро1 = 0. Тогда при вычислении отношения правдоподобия по формуле (7) в г-м сомножителе возникает неопределенность „бесконеч-

í п .V™ ( 1 лр°

Р Г1 ность в нулевой степени". Но поскольку lim рг "

Рог

ог

- lim

Рог

-1, то последний

ог J

сомножитель в правой части формулы (9) равняется 1, а апостериорная оценка не обнуляется,

*

V Ррг

1 * 1 + V

как в методе Байеса, а уменьшается и принимает значение Раг = —Р*. Если, наоборот,

i * 1 + v Р,

д j 1 + рг

x¡ = N0 и соответственно p0i = 1, то pai =-, а апостериорные оценки остальных веро-

1 + v

*

„ „ v Ppj . — . . ятностеи состоянии системы pa/- =-^, j = 1, m, j ^ г, также уменьшаются, но не принима-

1 + v

ют нулевые значения.

Пример. Рассмотрим сложную систему, которая может находиться в одном из трех состоянии (m=3) с априори известными вероятностями Pp1 = 0,19, Pp2 = 0,3 и Pp3 = 0,51

соответственно. В процессе экспериментальных исследовании системы было зафиксировано, что в 1-м состоянии она находилась 2 раза (Х1 = 2 ), во 2-м — 5 раз ( Х2 = 5 ), в 3-м — 3 раза ( Х3 = 3 ). Необходимо наИти апостериорные оценки вероятностей того, что система находится в 1, 2 и 3-м состояниях.

На основе опытных данных по формуле (5), где No = 10, определяются опытные оценки

р01 = 0,2 , p02 = 0,5 , p03 = 0,3 вероятностей состояний системы. Отношение правдоподобия

*

v , характеризующее близость априорной информации к результатам опытов, рассчитанное по формуле (7), составляет 0,3448. Отсюда видно, что априорные оценки вероятности существенно отличаются от опытных. Поэтому в апостериорных оценках, в соответствии с формулой (9), приоритет имеют опытные данные:

pa1 = 0,1974, pa2 = 0,4487, pa3 = 0,3539 . Апостериорные оценки вероятностей состояний системы, полученные по формуле Байеса [5],

PpiPoi ТО РБ1 -, i =1,3, (10)

S PpiPoi i=1

отличаются от приведенных выше оценок:

РБ1 = 0,1114; Рб2 = 0,4399; РБЗ = 0,4487 . Отсюда видно, что достаточно весомые опытные данные фактически перекрываются априорной информацией, которая слабо с ними согласуется. Это связано с тем, что оценки вероятностей состояний, полученные по формуле (10), полностью зависят от произведений PpiP0i и не учитывают возможные расхождения в априорных и опытных данных. По этой

причине еще большая неопределенность возникает по мере поступления новых опытных данных, когда в качестве априорных вероятностей используются байесовские оценки, полученные на предыдущих этапах.

Заключение. Использование метода приоритета опытной информации позволяет получить апостериорные оценки вероятностей состояний сложной системы путем взвешенного учета результатов априорных и экспериментальных исследований. Сравнение этих оценок с оценками, полученными по формуле Байеса, показало, что в последних априорная информация может доминировать над опытными данными и, как следствие, привести к ошибочному решению о вероятностях состояний системы.

Полученные результаты могут быть использованы для прогнозирования состояний системы по мере поступления новых данных в процессе ее применения по назначению при решении задач диагностики, распознавания, идентификации, адаптивного управления, исследования надежности и др.

список литературы

1. ЦыпкинЯ. З. Информационная теория идентификации. М.: Наука, 1995. 336 с.

2. МерковА. Б. Распознавание образов. Построение и обучение вероятностных моделей. М.: Ленанд, 2014. 240 с.

3. Буряк Ю. И., Скрынников А. А. Повышение степени обоснованности принимаемых решений в системе распознавания за счет использования априорной информации // Науч. вестн. Моск. гос. техн. ун-та гражданской авиации. 2015. № 220 (10). С. 47—54.

4. Фомин Я. А. Распознавание образов: теория и применения. М.: Изд-во ФАЗИС, 2012. 429 с.

5. Вентцель Е. С. Теория вероятностей: Учебник для вузов. М.: Изд. центр „Академия", 2003. 576 с.

6. Пугачев B. C. Теория вероятностей и математическая статистика. М.: Физматлит, 2002. 496 с.

7. Фроленков К. В. Уточнение оценок вероятностей при локальном апостериорном выводе алгебраической байесовской сети в случае неточного свидетельства // Тр. СПИИРАН. 2013. № 1 (24). С. 152—164.

8. Дорожко И. В., Тарасов А. Г., Барановский А. М. Оценка надежности структурно-сложных технических комплексов с помощью моделей байесовских сетей доверия в среде GeNIe // Интеллектуальные технологии на транспорте. 2015. № 3. С. 36—45.

9. Тулупьев А. Л. Апостериорные оценки вероятностей в алгебраических байесовских сетях // Вестн. СПбГУ. Прикладная математика. Информатика. Процессы управления. 2012. № 2. С. 51—59.

10. Judgment under Uncertainty: Heuristics and Biases / D. Kahneman et al. Cambridge Univ. Press, 2005. 555 p.

11. Александровская Л. Н., Круглов В. И., Кузнецов А. Г. и др. Теоретические основы испытаний и экспериментальная отработка сложных технических систем: Учеб. пособие. М.: Логос, 2003. 736 с.

12. Арсеньев В. Н. Оценивание характеристик систем управления по ограниченному числу натурных испытаний. М.: Рестарт, 2013. 126 с.

13. Дмитриев А. К., Юсупов Р. М. Идентификация и техническая диагностика: Учебник для вузов. МО СССР, 1987. 521 с.

14. Королюк В. С., Портенко Н. И., Скороход А. В., Турбин А. Ф. Справочник по теории вероятностей и математической статистике. М.: Наука, 1985. 640 с.

15. Реклейтис Г., Рейвиндран А., Рэгсдел К. Оптимизация в технике. М.: Мир, 1986. Кн. 1. 351 с.

16. Greene W. H. Econometric Analysis. N. Y.: Pearson Education, Inc., 2003. 1026 p.

17. Арсеньев В. Н., Лабецкий П. В. Метод апостериорного оценивания характеристик системы управления летательного аппарата // Изв. вузов. Приборостроение. 2014. T. 57, № 10. С. 23—28.

Сведения об авторах

— д-р техн. наук, профессор; ВКА им. А. Ф. Можайского, кафедра бортовых информационных и измерительных комплексов; E-mail: vladar56@mail.ru

— ВКА им. А. Ф. Можайского, кафедра бортовых информационных и измерительных комплексов; преподаватель; E-mail: andrey_11_75@mail.ru

— канд. техн. наук, доцент; ВКА им. А. Ф. Можайского, кафедра бортовых информационных и измерительных комплексов; E-mail: andrei_nikita@mail.ru

Поступила в редакцию 15.01.2020 г.

Ссылка для цитирования: Арсеньев В. Н., Петухов А. Б., Ядренкин А. А. Методика уточнения априорных вероятностей состояний сложной системы по экспериментальным данным // Изв. вузов. Приборостроение. 2020. Т. 63, № 3. С. 199—205.

METHOD FOR REFINING A PRIORI PROBABILITIES OF A COMPLEX SYSTEM STATES

FROM EXPERIMENTAL DATA

V. N. Arseniev, A. B. Petuhov, A. A. Yadrenkin

A. F. Mozhaisky Military Aerospace Academy, 197198, St. Petersburg, Russia E-mail: andrey_11_75@mail.ru

For a complex system, the problem of refining a priori probabilities of hypotheses about the system state using the data obtained during its experimental adjustment and operation is considered. The proposed method for solving this problem is based on weighted accounting of the results of a priori and experimental studies of the system. The results of comparing a posteriori estimates with estimates obtained by Bayes formulas are presented. It is shown that, in contrast to the Bayesian solution, the use of the proposed method provides for accounting the proximity of the results of a priori studies of the system to the results of experiments, and does not allow a priori information to dominate the experimental data.

Keywords: complex system, system state, a priory probability, experimental data, method of priority of experimental information, a posteriori probability, Bayesian estimates, comparative analysis

REFERENCES

1. Tsypkin Ya.Z. Informatsionnaya teoriya identifikatsii (Information Identification Theory), Moscow, 1995, 336 p. (in Russ.)

2. Merkov A.B. Raspoznavaniye obrazov. Postroyeniye i obucheniye veroyatnostnykh modeley (Pattern Recognition. Building and Training Probabilistic Models), Moscow, 2014, 240 p. (in Russ.)

3. Buryak Yu.I., Skrynnikov A.A. Nauchnyi Vestnik MGTUGA, 2015, no. 10(220), pp. 47-54. (in Russ.)

4. Fomin Ya.A. Raspoznavaniye obrazov: teoriya i primeneniya (Pattern Recognition: Theory and Applications), Moscow, 2012, 429 p. (in Russ.)

5. Ventcel E.S. Teoriya veroyatnostey (Probability Theory), Moscow, 2003, 576 p. (in Russ.)

6. Pugachev V.S. Teoriya veroyatnostey i matematicheskaya statistika (Probability Theory and Mathematical Statistics), Moscow, 2002, 496 p. (in Russ.)

7. Frolenkov K.V. Trudy SPIIRAN (SPIIRAS Proceedings), 2013, no. 1(24), pp. 152-164. (in Russ.)

8. Dorozhko I.V., Tarasov A.G., Baranovskiy A.M. Intellectual Technologies on Transport, 2015, no. 3, pp. 36-45. (in Russ.)

9. Tulupyev A.L. Vestnik of Saint Petersburg University. Applied mathematics. Computer Science.

Владимир Николаевич Арсеньев

Андрей Борисович Петухов

Андрей Александрович Ядренкин

Control Processes, 2012, no. 2, pp. 51-59. (in Russ.)

10. Kahneman D. et al. Judgment under Uncertainty: Heuristics and Biases, 21st. Cambridge University Press, 2005, 555 p.

11. Aleksandrovskaya L.N., Kruglov V.l., Kuznetsov A.G. et al. Teoreticheskiye osnovy ispytaniy i ekspe-rimental'naya otrabotka slozhnykh tekhnicheskikh sistem (Theoretical Basis of Testing and Experimental Testing of Complex Technical Systems), Moscow, 2003, 736 p. (in Russ.)

12. Arsen'ev V.N. Otsenivanie kharakteristik sistem upravleniya po ogranichennomu chislu naturnykh ispytaniy (Estimation of Characteristics of Control Systems on Limited Number of Full-Scale Tests), Moscow, 2013, 126 p. (in Russ.)

13. Dmitriyev A.K., Yusupov R.M. Identifikatsiya i tekhnicheskaya diagnostika (Identification and technical diagnostics), Leningrad, 1987, 521 p. (in Russ.)

14. Korolyuk V.S., Portenko N.I., Skorokhod A.V., Turbin A.F. Spravochnik po teorii veroyatnostey i ma-tematicheskoy statistike (Reference Book on Probability Theory and Mathematical Statistics), Moscow, 1985, 640 p. (in Russ.)

15. Ravindran A., Ragsdell K.M. and Reklaitis G.V. Engineering Optimization: Methods and Applications, John Wiley & Sons, 2006, 681 p.

16. Greene W.H. Econometric analysis, NY, Pearson Education, Inc., 2003, 1026 p.

17. Arsen'ev V.N., Labetskiy P.V. Journal of Instrument Engineering, 2014, no. 10(57), pp. 23-28. (in Russ.)

Data on authors

Dr. Sci., Professor; A. F. Mozhaisky Military Aerospace Academy, Department of Onboard Information and Measuring Complexes; E-mail: vla-dar56@mail.ru

A. F. Mozhaisky Military Aerospace Academy, Department of Onboard Information and Measuring Complexes; Lecturer; E-mail: andrey_11_75@mail.ru

PhD, Associate Professor; A. F. Mozhaisky Military Aerospace Academy, Department of Onboard Information and Measuring Complexes; E-mail: andrei_nikita@mail.ru

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

For citation: Arseniev V. N., Petuhov A. B., Yadrenkin A. A. Method for refining a priori probabilities

of a complex system states from experimental data. Journal of Instrument Engineering. 2020. Vol. 63,

N 3. P. 199—205 (in Russian).

DOI: 10.17586/0021-3454-2020-63-3-199-205

Vladimir N. Arseniev — Andrey B. Petuhov — Andrey A. Yadrenkin —

i Надоели баннеры? Вы всегда можете отключить рекламу.