Метод формирования выборок непараметрических алгоритмов для обеспечения независимости распределений их решающих статистик при гипотезе Текст научной статьи по специальности «Математика»

Вычислительные технологии

Том 21, № 1, 2016

Метод формирования выборок непараметрических алгоритмов для обеспечения независимости распределений их решающих статистик при гипотезе

Р. В. ПОДРЕЗОВ*, М.А. РАйФЕЛЪД

Новосибирский государственный технический университет, Россия *Контактный e-mail: podrezov-r.v@mail.ru

Технологический прорыв в создании MEMS-устройств — миниатюрных датчиков движения интегрального исполнения (акселерометров, гироскопов, магнитных компасов) привел к развитию методов инерциальной навигации, основанных на обработке сигналов этих датчиков. В статье предложено решение задачи надежного различения состояний шахтного лифта движение/останов, основанное на обработке сигналов MEMS-акселерометра, установленного в лифтовой кабине. Обработка сигнала акселерометра представляет собой комбинацию двух непараметрических алгоритмов: критерия, основанного на ранговых статистиках Вилкоксона, и критерия превышающих наблюдений. Приведено доказательство возможности такого формирования выборок и ранжирования, при которых решающие статистики этих критериев независимы.

Ключевые слова: непараметрический критерий, формирование выборки, цифровая обработка сигналов.

Введение

В статье рассматривается подход к построению непараметрического критерия, точнее, совместного использования нескольких непараметрических критериев (или совместного критерия) для принятия решений в случае нестационарного сигнала, распределение которого при альтернативе на разных временных интервалах отличается от распределения при гипотезе такими параметрами, как сдвиг, масштаб и другие.

Данная задача является актуальной в системах инерциальной навигации, основанных на использовании датчиков ускорения (акселерометров). Поскольку объект в разные интервалы времени может находиться в состоянии покоя, ускоренного или инерционного движения и эти интервалы чередуются с определенной закономерностью, соответствующими свойствами обладают и сигналы, регистрируемые датчиками, которые в этом случае являются нестационарными.

Примером подобного сигнала может служить сигнал, регистрируемый акселерометром, установленным в лифтовой кабине, и используемый для принятия решения о начале ее движения либо об остановке [1]. Временная реализация данного сигнала s(t) при гипотезе Н0 (кабина лифта неподвижна) представляет собой шум акселерометра — стационарный процесс, характеризующийся нулевым математическим ожиданием (т0 = 0)

© ИВТ СО РАН, 2016

и некоторой дисперсией а0. Распределение этого процесса в общем случае не является гауссовским. При альтернативе (начало движения кабины) можно выделить несколько временных интервалов, на каждом из которых сигнал акселерометра характеризуется своим распределением (рис. 1).

Наличие этих временньгх интервалов в сигнале акселерометра обусловлено физическими процессами, имеющими место при разгоне либо торможении лифтовой кабины. Так, в случае разгона интервал 1 связан с отсутствием регулярного силового воздействия на кабину (лифт стоит на месте, ускорение равно нулю), интервал 2 — период ускорения кабины за счет внешней силы (в сигнале акселерометра появляется смещение, которое говорит о наличии постоянного ускорения), интервал 3 — лифт движется по инерции, ускорение равно нулю (более высокая дисперсия сигнала связана с вибрацией при движении кабины). При торможении кабины указанные временные интервалы следуют в обратном порядке, а импульс ускорения имеет другую полярность.

Из рис. 1 следует, что при альтернативе выборка наблюдений, извлеченная из области 2, отличается сдвигом А от выборок в областях 1 и 3, а выборка, извлеченная из области 3, отличается масштабным коэффициентом ^ от наблюдений в области 1. Если считать вид распределения наблюдений неизвестным, но единым для всех выборок, а отличия связаны только с параметрами этого распределения, то формальное определение связи распределений при альтернативе и гипотезе можно представить в следующем виде:

¿01 (ж) = ^11 (х), ^02(х) = ^12(X - А),

Роз(ж) = ^1з(^г). (1)

В последнем выражении первый индекс в обозначении функции распределения указывает на то, что оно соответствует гипотезе (0) или альтернативе (1), второй индекс — на номер временной области сигнала в соответствии с рис. 1. При гипотезе Н0 все три выборки подчиняются единому распределению Р0(ж). Поскольку вид этого распределения неизвестен, а при принятии решения требуется обеспечивать стабильные рабочие характеристики (по критерию Неймана — Пирсона), в данном случае оправдано использование двухвыборочных непараметрических критериев, основанных на ранговых ста-

Рис. 1

тистиках. Обозначим X = {х\ , Х2, ... , } общую выборку, включающую подвыборки X! = [ХЦ,Х12,... ,х1т}, Х2 = [х21 ,х22,..., %2к} и Х3 = {х31,х32,..., хы}. Объем общей выборки составляет п = т + к + I. Поскольку общая выборка при альтернативе не является стационарной и включает области, отличающиеся сдвигом и масштабным коэффициентом, алгоритм принятия решения о начале движения кабины лифта можно построить с использованием статистик двух непараметрических тестов, ориентированных на обнаружение соответствующих признаков, характеризующих участки общей выборки X.

В качестве рангового критерия, "чувствительного" к наличию сдвига в распределениях, можно использовать двухвыборочный тест Вилкоксона [2] с решающей статистикой 5:

т

Б = £ Ъ, (2)

г=1

где Кг, г = 1, т, — ранги элементов рабочей выборки У = {у1,у2,... , Ут}, относительно наблюдений которой и проверяется гипотеза о наличии сдвига. Ранжирование при этом осуществляется по общей выборке X объема п элементов, частью которой является и рабочая выборка. Другая часть общей выборки X = {х1, х2,... , гп-т} объема п — т элементов называется опорной выборкой. Она содержит отсчеты, распределение которых соответствует гипотезе нулевого сдвига.

В качестве критерия, ориентированного на обнаружение масштабных различий выборок, можно использовать двухвыборочный критерий превышающих наблюдений [3] с решающей статистикой Т:

т

т = £

г=1

%шт — Уí — ^max, (3)

У1 < 2шт или у1 > Хшах. )

Статистику Т можно определить и на основе ранговых статистик опорной выборки: Т = п — (Яшах — Дш;п + 1). Здесь Кшах и Дш;п — максимальный и минимальный ранги элементов опорной выборки 2. Решение принимается на основе анализа непараметрических статистик в и Т .В общем случае эти статистики не являются независимыми, поскольку вычисляются на основе одних и тех же элементов общей выборки X. Таким образом, их совместное распределение Р(Б,Т) не представляется в виде произведения одномерных плотностей Р(Б) и Р(Т), что значительно усложняет построение алгоритма принятия решения. Однако можно показать, что, следуя определенному правилу при построении выборок критериев, можно обеспечить независимость статистик в и Т (и любых ранговых статистик) при гипотезе Н0 в случае их вычисления по единой выборке наблюдений.

Описание критерия

Пусть имеется общая выборка X, состоящая из п элементов. Эта выборка разбита на несколько подвыборок: Х1 размера п1, Х2 размера п2, ..., Хк размера Пк (рис. 2). При этом п = п1 + п2 + ... + Пк. Можно доказать, что распределение рангов рабочей выборки (а следовательно, и любых статистик, построенных на основе этих рангов) из Х2,

х1, п1 Х2, п2 Хъ, щ

Рис. 2

полученных для общей выборки, составленной из элементов Х1 и Х2, не зависит от распределения рангов рабочей выборки Х3, полученных для общей выборки, составленной из элементов Х1, Х2 и Х3, и эти распределения не зависят от распределения рангов рабочей выборки Хк, полученных для общей выборки, составленной из элементов Х1, Х2, Х3,..., Хк. Иначе говоря,

Р (П2, П3,..., Пк\Но) = РгШНо) • Р2(Яз\Но) • ... • Рк-г(Пк\Но), (4)

где К2 = {г21 ,г22,... , г2п2} — ранги элементов выборки Х2 = {х21,х22,... , х2т}, полученных для общей выборки {Х1,Х2}, Р3 = {г31,г32,... ,г3пз} — ранги элементов выборки Х3 = {х31, х32,..., х3пз}, полученных для общей выборки {Х1,Х2,Х3}, и = {"Гк1, Тк2,... , Ткпк} — ранги элементов выборки Хк = {хк1,хк2,... , хкпк}, полученных для общей выборки {Х1 ,Х2 ,Х3,... , Хк }.

Для доказательства приведенного выше утверждения покажем, что распределение рангов рабочей выборки Иу = {гу1,гу2,... ,гуП2}, У = {у1,у2 ,...,уП2} = Х2, рассчитанных по выборке X = {Х1,Х2}, не зависит от распределения рангов выборки Х1, рассчитанных по выборке Х1. Пусть вариационный ряд, составленный из элементов общей выборки X, имеет, например, вид

ХК = {г(1),у(2)}... ,у{к) {к+1),... , г^,у{1+1),... }у(П1+П2—1)^г(п1+п2)},

г-й элемент ряда представляет собой соответствующую (г-ю) порядковую статистику. Верхний индекс указывает номер элемента в общем вариационном ряду, а символ у либо г — принадлежность данного элемента рабочей или опорной выборке, 2 = {г1, г2,..., гП1} = Х1 — элементы опорной выборки. Нижний индекс элемента выборок Х,У,2, Их, Иу, И^ связан с его временным положением в данной выборке, т.е. моментом его получения. Имеем следующие упорядоченные множества рангов элементов рабочей и опорной выборок 2,... ,к,1 + 1,... ,п1 + п2 — 1 и 1,... ,к + 1,... ,1,... ,п1 + п2. Вероятность рангового вектора общей выборки Их = {Иу, И^}, соответствующего вариационному ряду Хд, можно представить в виде

Р (Иу, Иг )=У Ро(г I Pо(y(■nl+n2—1))dy(■nl+n2—1)...

—те —те

у(1+1) г(к+1) у(2)

... I Ро(г(1))йг(1)... I Ро(у{к))йу(к) Ро(г(1))йг(1), (5)

—те —те —те

где Р(•) — распределение наблюдений при гипотезе.

Зафиксируем какой-либо ранговый вектор Иу = {гу1,гу2,... ,гуП2}. Тогда всевозможные вариации рангового вектора Их связаны с перестановками одной и той же последовательности рангов внутри выборки И^ = {гх1 ,гх2,... ,гХП1} (поскольку последовательность Иу зафиксирована). Если, например, п1 = п2 = 3 и Иу = {3,1, 5}, то возможными значениями, принимаемыми рангами опорной выборки (при ранжировании

в общей выборке X = {^,У} размера п1 + п2 = 6), являются {2, 4, 6}, {2, 6,4}, {4, 2, 6}, {6, 2, 4}, {4, 6, 2}, {6, 4, 2}. Эти значения соответствуют следующим ранговым последовательностям, построенным по наблюдениям опорной выборки Z: Rz 1 = {1, 2, 3}, И^2 = {1, 3, 2}, И^з = {2,1, 3}, И24 = {2, 3,1}, И25 = {з, 1, 2}, 6 = {3, 2,1} (т.е. представляющим собой все т = п\ перестановок рангов выборки И^). Очевидно, что перестановка элементов в выборке Иz не влияет на значения порядковых статистик, а следовательно, на результаты расчета Р(Иу, И^) по формуле (5). Поэтому Р(Иу, И^ 1) = Р(Иу, И^2) = ... = Р(Иу, И^б). Если теперь учесть, что распределение Р(И^) также не зависит от перестановок элементов выборки И^ и Р(И^) = 1/п1\1 то с учетом того, что Р(Иу, И^)/Р(Иг) = Р(Иу И), имеем

Р (Иу |И^) = р (Иу |И^) = ... = р (Иу \И2т). (6)

Все возможные перестановки выборки Z составляют полную группу событий.

Таким образом, вероятность заданного рангового вектора ИИу одна и та же для любой перестановки рангового вектора И^, поэтому она не зависит от И^ и, следовательно, Р(Иу |И^) = Р(Иу). Далее в качестве рабочей примем выборку Х3 (рис. 2), У = Х3, а в качестве опорной используем объединение Z = }, где Z1 = Х1^2 = Х2.

Имеем

Р (Иу, И^) = Р (Иу, И^ 1, И^) = р (Иу И )Р (И^И1)Р И1). (7)

С учетом (6)

Р(Иу, И^ 1, И^) = р(Ру)Р(Иг2)РИ1), (8)

что говорит о независимости ранговых последовательностей соответствующих выборок.

Вернемся к задаче об обнаружении начала движения лифтовой кабины. Сформируем выборки непараметрических алгоритмов (2), (3) в соответствии с изложенным выше правилом, целью которого является обеспечение независимости статистик в и Т. Выборки, изображенные на рис. 3, соответствуют временным интервалам сигнала акселерометра, имеющего место при старте лифтовой кабины (см. рис. 1). В качестве опорной выборки используем Х1, которая содержит только шум акселерометра, находящегося в покое. Выборка Х2, соответствующая интервалу ускорения, распределение которой характеризуется сдвигом (при альтернативе), рассматривается как рабочая выборка алгоритма Вилкоксона. Опорная выборка этого алгоритма включает области {Х1, Х3}. Выборка Х3, состоящая из отсчетов сигнала инерционного движения лифта, является рабочей выборкой алгоритма превышающих наблюдений, в качестве опорной выборки этого алгоритма используется Х1. При гипотезе все эти выборки подчиняются одному распределению и поэтому

Р (Т,Б |Яс) = Р (Б 1Но)Р (Т |Яс). (9)

Если теперь рассмотреть статистики Т и Б, вычисляемые для общей опорной выборки Х1, то они окажутся зависимыми. Можно показать, что Р(Б\Г,Н0) = Р(Б|Я0).

х1, п1

X, п

X, п

Рис. 3

Для этого возьмем простейший случай, когда выборка содержит всего два отсчета (чтобы была возможность вычислить хт\п и хтах в соответствии с выражением (3)), а Х2 и Х3 — по одному отсчету. В этом случае распределение статистики Вилкоксона является равномерным Р(в1Но) = 1/3 в интервале целых чисел [1, 3], поскольку Б фактически представляет собой ранг элемента Х2, вычисляемый для выборки Х2 }. Предположим, что значение статистики Т, полученное для той же опорной выборки Х\, равно 1 (Т = 1). В этом случае Р(Б =3|Т = 1, Н0) вычисляется следующим образом:

те те те те

Р(Б = 3,Т = 1) = 2 ! Ро(хц)<1х11 ! Ро(х12)<^Х12 ! Ро(хз\)<1хз1 ! Ро(х21)<^Х21+

—те хц Х12 Х12

те те хц те

+2 ^ Pо(xn)dxn J Pо(Xl2)dx12 J Ро(х-ц^Хз1 ! Pо(x2l)dX21 = 1/4. (10)

—те хц —те Х12

Поскольку вероятность Р(Т = 1|Яо) = 2/3, получаем Р(в = 3|Т = 1, Но) = (1/4)/(2/3) = 3/8, что не совпадает с Р(Б|Яо). В результате расчетов, выполненных по формуле (10), получены данные, которые говорят о статистической зависимости Т и Б при использовании общей опорной выборки Х\:

5 1 2 3

р (ВД) 1/3 1/3 1/3

Р (5|Г = 1,Яо) 3/8 1/4 3/8

Р(5|Г = 0, Но) 1/4 1/2 1/4

В то время как распределение статистики превышающих наблюдений при гипотезе

задается явным выражением [2]

^ ™ = ■ (11)

где т и п — соответственно объемы рабочей и опорной выборок, распределение классической статистики Вилкоксона представляется только в виде таблицы из работы [4].

Синтез оптимального совместного алгоритма, использующего статистики Б и Т, является сложной задачей, получить решение которой в общем виде невозможно (из-за сложной формы распределений). Если аппроксимировать распределения статистик гауссовскими кривыми (такая аппроксимация, конечно, является очень грубой), то оптимальный алгоритм принятия решения сводится к сравнению с порогом взвешенной суммы Q статистик в и Т:

я = а8 в + атТ. (12)

Порог может выбираться, например, на основе критерия Неймана — Пирсона. Коэффициенты , &т} зависят, в частности, от дисперсии и математического ожидания распределений соответствующих статистик при гипотезе и альтернативе. Для расчета порога Сд по критерию Неймана — Пирсона необходимо знать распределение Р^\Но), которое рассчитывается по формуле (12), и совместное распределение Р(Т, в| До). В случае, когда совместное распределение в и Т представляется в виде произведения (9), Р^1Но) можно записать в виде

Р(д|Яо) = / Р3(Б|#о)Рт (^^|Яо) (13)

5

Рис. 4. Зависимость вероятности правильного обнаружения от сдвига: кривые 1-3 — совместные алгоритмы (Вилкоксона и превышающих наблюдений) при ц, = 3; 2.5; 2 соответственно; кривая 4 — алгоритм Вилкоксона, ^ = 2.5

Рис. 5. Зависимость вероятности правильного обнаружения от масштаба: кривые 1-3 — совместные алгоритмы (Вилкоксона и превышающих наблюдений) при А = 2; 1.5; 1 соответственно; кривая 4 — алгоритм превышающих наблюдений, А = 1 . 5

Другой подход к построению совместного алгоритма не претендует на оптимальность, но он более прост в реализации. В качестве решающей статистики используется следующая функция:

Q = 0(S - Cs) + 0(Т - Ст), (14)

где #(•) — функция Хевисайда; Cs,Ст — пороги обнаружения алгоритмов (2) и (3) соответственно. Решение принимается в результате сравнения статистики Q с порогом Cq = 2. При Q = 2 принимается решение Н*, в противном случае — Н*. Фактически решение выносится в результате логического (по И) объединения решений алгоритмов Вилкоксона и превышающих наблюдений. В этом случае достаточно просто рассчитать вероятность ложной тревоги a совместного алгоритма, поскольку она представляется в виде произведения вероятностей ложных тревог отдельных алгоритмов

a =

У Р(Т,Я\Но)йТй8 = У Р(£\НоР(Т\Но)йТ = ат, (15)

Ст Ст С"т

а следовательно, и независимо выбрать их пороги обнаружения С^ и Ст. Отметим, что в случае статистической зависимости статистик Б и Т этого сделать нельзя. В соответствии с указанным подходом к построению совместного критерия (14) рассчитаны рабочие характеристики алгоритма обнаружения старта лифтовой кабины, приведенные на рис. 4 и 5.

Таким образом, предложен и обоснован метод формирования выборок совместных (по нескольким признакам) непараметрических критериев, приводящий к независимости их решающих статистик при гипотезе. На основе данного метода решается задача расчета распределения статистики Вилкоксона при гипотезе. Обосновывается преимущество использования независимых решающих статистик при построении совместного непараметрического критерия.

Благодарности. Работа выполнена при финансовой поддержке Министерства образования и науки РФ по государственному заданию № 2014/138, проект № 1176.

Список литературы / References

[1] Райфельд М.А. Различение состояний движение/останов лифта на основе сигналов акселерометра // Автометрия. 2015. № 2(51). С. 93-102.

Rajfeld, M.A. Discrimination between the move and stop of a lift based on accelerometer signals // Avtometriya. 2015. No. 2(51). P. 93-102. (In Russ.)

[2] Гаек Я., Шидак З. Теория ранговых критериев / Пер. с англ. М.: Наука, 1971. 376 с. Hajek, J., Sidak, Z. Theory of rank tests. 2nd edition. N.Y.: Acad. Press, 1999. 435 p.

[3] Райфельд М.А. Использование группировки для увеличения мощности непараметрического критерия, основанного на превышающих наблюдениях // Изв. вузов России. Радиоэлектроника. 2006. № 2. С. 28-35.

Rajfeld, M.A. Grouping for the increase of capacity of non parametric criterion based on the elevated observations // Izvestiya Vuzov Rossii. Radio-elektronika. 2006. No. 2. P. 28-35. (In Russ.)

[4] Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. М.: Наука. Гл. ред. физ.-мат. лит., 1983. 416 с.

Bol'shev L.N., Smirnov N.V. Tables for mathematical statistics. Moscow: Nauka. Glavnaya redaktsiya fiziko-matematicheskom literatury, 1983. 416 p. (In Russ.)

Поступила в 'редакцию 5 ноября 2015 г.

A nonparametric test sampling method providing independent distribution of the test statistics under the null-hypothesis

Podrezov, Roman V.*, Rajfeld, Mikhail A.

Novosibirsk State Technical University, Novosibirsk, 630073, Russia * Corresponding author: Podrezov, Roman V., e-mail: podrezov-r.v@mail.ru

Signal detection problem is usually considered as a testing of statistical hypothesis. When minimal assumptions are made about the distributions, application of a nonparametric test may have considerable advantages in efficiency. Situation becomes more complex in case of non-stationary signal, e. g. signal differs from noise by variance at one time interval and by level at another interval. Thus, the joint hypothesis testing the scale and the shift is required. In practice, nonparametric signal detectors are often developed using a reference sample that represents only noise at some time interval. Two tests have dependent statistics distributions, if they use the same reference sample. In another case, usage of the different reference samples reduces efficiency of a test, because the efficiency is related to minimal sample sizes required to obtain given constraints of the error probabilities.

For rank tests, a developed sampling and ranking method can be applied to make ranks in working samples to be independent, and consequently rank statistics distributions. Ranks of working samples are calculated on general sample that consists of current

© ICT SB RAS, 2016

sample, previous samples and the reference sample. This sampling and recurrent ranking method modifies the statistics of the considered tests, so one needs to evaluate new statistics distributions. It is important to note, that this sampling method can be applied to other rank tests.

A coarse approximation with normal distribution can be used for the joint test with independent statistics distributions. Results that are more interesting can be obtained using logical conjunction of decisions, because this operation allows to independently set the detection threshold for a given false alarm probability criteria.

Keywords: nonparametric test, sampling method, digital signal processing.

Acknowledgements. Research has been carried out with financial support from Ministry of Education and Science of Russian Federation, state assignment № 2014/138, project № 1176

Received 5 November 2015