Научная статья на тему 'Синтез решающего правила классификатора сигналов при непараметрической априорной неопределенности'

Синтез решающего правила классификатора сигналов при непараметрической априорной неопределенности Текст научной статьи по специальности «Кибернетика»

144
18
Поделиться
Ключевые слова
РЕШАЮЩЕЕ ПРАВИЛО / АППРОКСИМАЦИОННЫЙ ПОДХОД / ФУНКЦИЯ ПРАВДОПОДОБИЯ / КЛАСТЕРИЗОВАННАЯ ВЫБОРКА / НЕПАРАМЕТРИЧЕСКАЯ АПРИОРНАЯ НЕОПРЕДЕЛѐННОСТЬ

Аннотация научной статьи по кибернетике, автор научной работы — Галустов Геннадий Григорьевич, Поцыкайло Александр Анатольевич, Краснобаев Дмитрий Анатольевич

Рассматривается метод синтеза решающего правила, реализованного на основе аппроксимационного подхода формирования функции правдоподобия по кластеризованным выборкам в условиях непараметрической априорной неопределенности. Приведен пример алгоритма отыскания оценки вектора коэффициентов разложения в ряд Фурье функции правдоподобия по ортонормированной системе. Это позволяет найти оценку самой функции правдоподобия, которую и используют в решающем правиле. Показана структурная схема распознающего устройства сигналов при простой функции потерь, построенная по критерию минимума средней вероятности ошибки распознавания. При этом минимальная средняя ошибка распознавания обеспечивается использованием критерия идеального наблюдателя в случае классификации сигналов, характеризующихся одним признаком с негауссовским одномерным распределением и при неизвестных вероятностях распознавания классов.

DECISION RULES SYNTHESIS OF SIGNAL CLASSIFIER IN DISTRIBUTION-FREE PRIOR UNCERTAINTY ENVIRONMENT

There is review method of decision rules synthesis embodied based on approximating approach formation of plausibility function according clustered sample in distribution-free prior uncertainty environment. It is shown for example is algorithm of determination of an estimation of a coefficient vector for a Fourier-series expansion of plausibility function on orthonormal system. It allows to discover an estimation of the plausibility function which use in a solving rule. The block diagramme of the distinguishing device of signals is shown at the simple loss function, constructed on criterion of a minimum for average probability of a recognition error. Thus the minimum average error of recognition is ensured with use of the ideal observer criterion in case of classification of the signals characterised by one indication with univariate non-Gauissian distribution and at unknown probabilities of recognition of classes.

Похожие темы научных работ по кибернетике , автор научной работы — Галустов Геннадий Григорьевич, Поцыкайло Александр Анатольевич, Краснобаев Дмитрий Анатольевич,

Текст научной работы на тему «Синтез решающего правила классификатора сигналов при непараметрической априорной неопределенности»

Клопот Михаил Михайлович

E-mail: klopotmm@gmail.com.

347900, г. Таганрог, пер. Тургеневский, 44.

Кафедра автоматизированных систем научных исследований и экспериментов; аспирант. Samoilov Leonty Konstantinovich

Taganrog Institute of Technology - Federal State-Owned Autonomy Educational Establishment of Higher Vocational Education “Southern Federal University”.

E-mail: samoilov@fep.tsure.ru.

2, Shevchenko Street, Taganrog, 347928, Russia.

Phone: +78634311193.

The Department of Automated Research Systems; Department Chair; Dr. of Eng. Sc.; Professor.

Klopot Mihail Mihay'lovich E-mail: klopotmm@gmail.com.

44, Turgenev Lane, Taganrog, 347900, Russia.

The Department of Automated Research Systems; Postgraduate Student.

УДК 621.317

Г.Г. Галустов, А.А. Поцыкайло, Д.А. Краснобаев

СИНТЕЗ РЕШАЮЩЕГО ПРАВИЛА КЛАССИФИКАТОРА СИГНАЛОВ ПРИ НЕПАРАМЕТРИЧЕСКОЙ АПРИОРНОЙ НЕОПРЕДЕЛЕННОСТИ

Рассматривается метод синтеза решающего правила, реализованного на основе ап-проксимационного подхода формирования функции правдоподобия по кластеризованным выборкам в условиях непараметрической априорной неопределенности. Приведен пример алгоритма отыскания оценки вектора коэффициентов разложения в ряд Фурье функции правдоподобия по ортонормированной системе. Это позволяет найти оценку самой функции правдоподобия, которую и используют в решающем правиле. Показана структурная схема распознающего устройства сигналов при простой функции потерь, построенная по критерию минимума средней вероятности ошибки распознавания. При этом минимальная средняя ошибка распознавания обеспечивается использованием критерия идеального наблюдателя в случае классификации сигналов, характеризующихся одним признаком с негауссовским одномерным распределением и при неизвестных вероятностях распознавания классов.

Решающее правило; аппроксимационный подход; функция правдоподобия; кластеризованная выборка; непараметрическая априорная неопределенность.

G.G. Galustov, A.A. Potsykaylo, D.A. Krasnobayev

DECISION RULE’S SYNTHESIS OF SIGNAL CLASSIFIER IN DISTRIBUTION-FREE PRIOR UNCERTAINTY ENVIRONMENT

There is review method of decision rule’s synthesis embodied based on approximating approach formation of plausibility function according clustered sample in distribution-free prior uncertainty environment. It is shown for example is algorithm of determination of an estimation of a coefficient vector for a Fourier-series expansion ofplausibility function on orthonormal system. It allows to discover an estimation of the plausibility function which use in a solving rule. The block diagramme of the distinguishing device of signals is shown at the simple loss function, constructed on criterion of a minimum for average probability of a recognition error. Thus the minimum average error of recognition is ensured with use of the ideal observer criterion in case of classification of the signals characterised by one indication with univariate non-Gauissian distribution and at unknown probabilities of recognition of classes.

Decision rule; approximating approach; function according; clustered sample; distribution-free prior uncertainty environment.

Если при решении задачи распознавания сигналов у исследователя имеется в наличии лишь достаточно протяжённые кластеризованные выборки, то, как рекомендуется в [1], при построении решающего правила необходимо использовать один из аппроксимационных подходов.

Будем полагать, что выходные сигналы канала передачи информации - это реализации, представленные в пространстве информативных признаков, что задана кластеризованная обучающая выборка

{Я ,1=1А •••а; 1=1 А ••• ,м }

Обозначим Р' (у) = Р(у//') как неизвестную функцию правдоподобия входных сигналов ?, заданных на вероятностном пространстве и принадлежащих пространству сигналов Б.

Представим Р' (у) разложением в ряд Фурье по ортонормированной системе К Су)} и ограничимся частичной суммой

_ Я _

Р'(У) = Т;Лгк-ек(УХ (1)

к= 1

где ек (_у) - выбираются априори и считаются известными, а коэффициенты разложения (1^ подлежат определению.

При этом можно функцию правдоподобия записать как известную функцию, зависящую от неизвестного векторного параметра с1', т.е.

Р(у) = Р(у/ Г,3’). (2)

_7/*

Как показано в [2], оценки коэффициентов разложения ик при условии,

что пространство у задано обучающей выборкой, могут быть определены из выражения

<=-■!>,Ш* м,2,3,,3)

г=1

7

Алгоритм (3) позволяет найти оценку вектора и по классифицированной выборке { уг, г=1, 2, ... . п,:| для всех 1=1, 2, ... , М. А это, в соответствии с адаптивным байесовским подходом, дает оценку функций правдоподобия в виде

?ЧУ)=Р(У1 Г Л1*), 1=1,2,3, ... ,М. (4)

В частном случае простой функции потерь, приводящей к требованию минимизации средней ошибки распознавания, решающее правило может быть записано в виде [3]:

РгР(х / Г ,ач)>РгР(х / /1 ,а1), 1=1,2, ...,М; 1*1, (5)

где ОС - оценка максимального правдоподобия векторного случайного параметра

У-

Подставляя оценку функции правдоподобия из (4) в решающее правило (5), получим

ргр(у1ГЛ'*)>ргР(у1Г\а1*). (б)

Следует отметить, что качество аппроксимации функций Р1 (р) с помощью выбранной системы базисных функций зависит от числа членов разложения <2. Поскольку заранее вид Р1 (у) нам неизвестен, то точность аппроксимации выясняется на “экзамене” при экспериментальной проверке работы классификатора.

Выбор базисных функций зависит от характера изменения плотности распределения процессов, подлежащих классификации. При отсутствии априорных сведений о характере плотности распределения исходят из условия простоты реализации базисной системы функций.

Метод аппроксимации функций правдоподобия принципиально можно применять для смеси сигнала и помехи. Однако значительное увеличение размерности сигнала у резко увеличивает трудоемкость вычислительных операций. Приходится исследовать функции ек (р) от большого числа переменных. В распознавании сигналов этап сокращения размерности описания вводится для обеспечения реализуемости подобных алгоритмов. Но в такой ситуации можно пойти по двум направлениям:

1. Искать эффективные методы сокращения размерности исходного описания сигналов и тем самым упростить реализацию решающего правила.

2. Использовать простые алгоритмы сокращения размерности исходного описания классов, а на этапе принятия решения искать такую систему базисных функций ек ( р), которая допускает для данной конкретной задачи, простую техническую реализацию.

Оставаясь в рамках второго направления можно аппроксимировать функцию правдоподобия системой моментных функций достаточно просто технически реализуемых стохастическим способом.

В работе [3] показано, что в случае аппроксимации плотности распределения Р( у / /') ортонормированными полиномами Эрмита с весовой функцией

1

к (у / Г ) = (2 -ж) ее приближенное выражение может быть записано в виде

Р( у/Г) =

1

(2 л)

1 + тз 1 і ' 3 Г1 \ Г у)

1 + за3 { іа ) 12 і Iа.)

(7)

1

Л-----

4!

_4 3

іа )

(8)

где m1 - 1-й момент плотности вероятности Р(у / Г ), техническая реализация может быть осуществлена с помощью алгоритма [4]. Будем полагать, что класте-

ризованная обучающая выборка { у } взята из реализации процесса <^(/), имеющего плотность распределения Р#( У).

Будем формировать процесс

=|1, #>л , (9)

ё [0, #<ч

где Т^(Х) - некоторый опорный процесс с одномерной плотностью Р^( у) [5].

В этом случае вероятность

да у

Р(# > ^ = Р(ц<#) = М {Р(ц <#;>}={ | Р„(у1) • Р#ЬОФФ .

—да —да

Отсюда видно, что опорный сигнал должен иметь интервал распределения не меньше области определения исследуемого процесса #(Х) .

Если

Р (у) = {1Д уе[0Д] (10)

^ [ о, у г [0,1]

и значения процесса ) лежат в также в интервале [0,1], то

да 1 N

P [^^=1 ] =Щ^Щ = | у • Р# (у)ф « т* = — Х . (11)

—да N 1=0

То есть получается оценка первого начального момента. Для получения начального момента ^го порядка плотность вероятности опорного сигнала должна иметь вид

а^(у) _ а(ук) _ 1к• ук—\ у е [0,1]

’(у) ёу ёу { 0, у г [0,1]

РД у ) =

При этом

да 1 ™ £’]#>! ]=Щ^Щ= | ук • Р#(у)ёу « т*к=— 8%п2г ■

т* = . (12)

1=0

Таким образом, в зависимости от вида функции распределения опорного сигнала, не изменяя структуры измерителя, мы можем получать оценки моментов различных порядков. Используя эти оценки при аппроксимации функции правдоподобия, можно построить решающее правило в соответствии с адаптивным байесовским подходом.

Структурная схема распознающего устройства М сигналов при простой функции потерь, построенная по критерию минимума средней вероятности ошибки распознавания может быть представлена в виде (рис. 1).

По выходному сигналу у канала передачи информации в М каналах параллельно измеряются функции Р'* (у ). Они умножаются на числа равные вероятностям предъявления сигналов, и подаются на устройство выбора максимума, которое принимает решение в пользу максимума найденной величины. На практике удобнее вычислять не непосредственно условные вероятности, а монотонную

функцию от этих вероятностей. Ею может быть логарифмическая функция. При этом в случае, когда С =1, выражение (8) может быть преобразовано к виду

<ії.р( у / Ґ )] = -1п У+1п

У + т•(У4 -3У2) +1 (т4 -3).(У5 -6У3 + 3У)

- 1п

У .

(13)

Рис. 1

Практическая реализация (13) является достаточно сложной и может быть оправдана только тогда, когда допущение о нормальности распределений признаков классов не обеспечивает требуемой надежности распознавания.

Таким образом, в случае классификации сигналов, характеризующихся одним признаком с негауссовским одномерным распределением и при неизвестных вероятностях распознавания классов минимальная средняя ошибка распознавания обеспечивается использованием критерия идеального наблюдателя, предполагающего равенство априорных вероятностей классов При этом сигнал, представленный реализацией у, может быть классифицирован в соответствии с решающим правилом

Ф[Р( У / /')] Р( У / /')], (14)

а структурная схема классификатора примет вид (рис. 2)

Рис. 2

Классификатор, построенный в соответствии со структурной схемой, изображенной на рис. 2, вычисляет логарифмические функции условных вероятностей вида (13) и требует хранения в памяти классификатора начальных моментов третьего и четвертого порядков. Оценки этих моментов могут быть получены на этапе обучения предложенным выше методом.

В заключение следует отметить, что предложенный метод синтеза линейного классификатора негауссовских сигналов приведет к решениям, близким к оптимальным, только в случае малых дисперсий оценок функций правдоподобия. Так как истинные значения функций правдоподобия неизвестны, точность их представления может быть оценена на контрольных выборках при работе классификатора.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Ту Дж., Гонсалес Р. Принципы распознавания образов. - М.: Мир, 1978. - 411 с.

2. Омельченко В.А. Распознавание сигналов по спектру в условиях априорной неопределенности. - Харьков: ХПИ, 1979. - 100 с.

3. Фукунага К. Введение в статистическую теорию распознавания образов. - М.: Наука, 1979. - 367 с.

4. Галустов Г.Г. Классификатор случайных сигналов // Известия СКНЦ ВШ, серия Технические науки. - 1984. - № 3. - С. 6.

5. Галустов Г.Г. Моделирование случайных процессов и оценивание их статистических характеристик. - М.: Радио и связь, 1999. - 120 с.

Статью рекомендовал к опубликованию д.т.н., профессор Б.К. Лебедев.

Г алустов Г еннадий Г ригорьевич

Технологический институт федерального государственного автономного образовательного учреждения высшего профессионального образования «Южный федеральный университет» в г. Таганроге.

E-mail: galust@aaanet.ru.

347922, г. Таганрог, ул. Петровская, 24, кв. 2.

Тел.: 88634371626.

Кафедра радиоприёмных устройств и телевидения; заведующий кафедрой; д.т.н.; профессор; действительный член Академии инженерных наук РФ.

Поцыкайло Александр Анатольевич

E-mail: alex_shp_arm@mail.ru.

347922, г. Таганрог, ул. Чехова, 22, к. 1А.

Кафедра радиоприёмных устройств и телевидения; аспирант; магистр техники и технологии по направлению «Радиотехника».

Краснобаев Дмитрий Анатольевич

E-mail: fcb-seth@inbox.ru.

347922, г. Таганрог, ул. Чехова, 22, к. 12.

Кафедра радиоприёмных устройств и телевидения; аспирант; магистр техники и технологии по направлению «Радиотехника».

Galustov Gennady Grigorievich

Taganrog Institute of Technology - Federal State-Owned Autonomy Educational Establishment of Higher Vocational Education “Southern Federal University”.

E-mail: galust@aaanet.ru.

24, Petrovskaya Street, fl.2, Taganrog, 347922, Russia.

Phone: +78634371626.

The Department of Radio Receivers and Television; head the Department; Dr. of Eng. Sc.; Professor; Active Member of Engineering Science Academy of Russia.

Potsykaylo Alexandr Anatolievich

E-mail: alex_shp_arm@mail.ru.

f. 1A, 22, Chehova street, Taganrog, 347922, Russia.

The Department of Radio Receivers and Television; Postgraduate Student; Master of Techniques and Technologies in Radio Engineering.

Krasnobayev Dmitry Anatolievich

E-mail: fcb-seth@inbox.ru.

f. 12, 22, Chehova Street, Taganrog, 347922, Russia.

The Department of Radio Receivers and Television; Postgraduate Student; Master of Techniques and Technologies in Radio Engineering.

УДК 621.376.9

Л.Г. Стаценко, Е.И. Железняков, А.А. Ковылин

ПРИМЕНЕНИЕ ЧАСТОТНОЙ И ФАЗОВОЙ МОДУЛЯЦИИ ДЛЯ МНОГОЧАСТОТНЫХ КАНАЛОВ СВЯЗИ В СЛУЧАЕ МНОГОЛУЧЕВОГО

РАСПРОСТРАНЕНИЯ

Рассмотрен метод снижения пик-фактора многочастотного сигнала с помощью применения дополнительной частотной (фазовой) модуляции. Рассмотрена помехоустойчивость метода в условиях аддитивного белого гауссовского шума, в условиях быстрых релеевских замираний. Определены теоретическая и практическая вероятности ошибки для разных индексов частотной (фазовой) модуляции. Предложен метод некогерентного детектирования с использованием квадратурной схемы демодуляции. Произведено моделирование системы передачи данных в программной среде Matlab Simulink для случая разного количества несущих, введения защитного интервала, использования помехоустойчивого кодирования и разных значений частоты доплеровского сдвига.

Ортогональное частотное уплотнение OFDM; пик-фактор; помехоустойчивость; некогерентный прием; аддитивный белый гауссовский шум.

L.G. Stacenko, E.I. Zheleznyukov, A.A. Kovy’lin

FREQUENCY AND PHASE MODULATION USING FOR MULTIFREQUENCY COMMUNICATION IN CASE MULTIPATH PROPAGATION

The article peak-factor reducing method of multifrequency signal with adding frequency (phase) modulation is considered. Noise resistance in additive white gaussian noise, fast fading Relay channels with frequency offset are considered. Theoretical and practical bit error rate for different frequency (phase) modulation index is defined and difference (benefits and drawback) of proposed method is shown. Noncoherent detection method have been proposed that use quadrature demodulation scheme. Proposed system simulation was performed in program Matlab Simulink for case of different carrier quantities, inserting guarding interval, using noise resisting coding, different values of the frequency Doppler shift.

Orthogonal frequency division multiplexing (OFDM); peak-factor; noise resistance; noncoherent reception; additive white Gaussian noise.

Одной из основных проблем передачи данных является качественный прием в условиях многолучевого распространения волн. Многолучевым распространением называется процесс передачи данных, при котором прием сигналов происходит от единого источника излучения по различным трассам, (лучам) ограниченным в пространстве границами раздела, отделяющими среды с различными параметрами распространения (скорости звука, коэффициентами отражения и т.д.). Принимаемый при многолучевом распространении сигнал является результатом интерференции