CC BY
88
НЕЙРОСЕТЕВЫЕ И НЕПАРАМЕТРИЧЕСКИЕ СТАТИСТИЧЕСКИЕ АЛГОРИТМЫ В ЗАДАЧЕ ОБНАРУЖЕНИЯ СИГНАЛОВ
© 2006 А. Е. Прасолова
старший преподаватель кафедры программного обеспечения и администрирования информационных систем Курского государственного университета
В статье проведен сравнительный анализ показателей качества обнаружения сигналов при помощи непараметрических статистических и нейросетевых алгоритмов. Представлены результаты вычислительного эксперимента по обнаружению сигналов знаковым, ранговым алгоритмами, алгоритмом Хэмминга, двух- и трехслойным персептроном.
Введение
В настоящее время большинство задач обнаружения сигналов решается методами статистической теории решений, которая является разделом математической статистики [1]. В то же время утверждается, что системы на основе нейронных сетей позволяют с успехом решать различные проблемы [2, 3]. Эти алгоритмы хорошо зарекомендовали себя в задачах распознавания образов [4]. В связи с этим возникает вопрос о том, как соотносятся между собой данные методы при решении задач обнаружения сигналов.
Постановка задачи обнаружения сигналов такова: по результатам обработки наблюдаемого случайного процесса, который может быть либо только помехой, либо комбинацией сигнала и помехи, решить содержится ли в нём полезный сигнал или нет.
Цель исследования - сравнить показатели качества обнаружения сигналов на фоне аддитивного белого шума нейросетевыми и непараметрическими статистическими алгоритмами.
Представление сигнала Рассматривались сигналы вида
8=Авхр[-(Ы0)/2], где А - амплитуда сигнала, t0 - момент появления сигнала, t - текущий момент времени.
В общем случае наблюдаемый процесс имел вид
Х=Б+Х , где X - реализация аддитивной гауссовской помехи с нулевым математическим ожиданием и единичной дисперсией.
Момент появления сигнала t0 является случайной величиной, распределенной по равномерному закону на интервале времени Т. Нейронная сеть Хэмминга
На стадии инициализации весовым коэффициентам первого слоя и порогу активационной функции присваиваются следующие значения:
хк
™ік =_2 , і = 0"'П-І’ к = 0-т -1;
Т = п/2, к = 0...т -1. к
Здесь х^ - і-й элемент к-ого образца.
Весовые коэффициенты тормозящих синапсов во втором слое берут равными некоторой величине 0 < е < 1/т. Синапс нейрона, связанный с его же аксоном, имеет вес +1.
Алгоритм функционирования сети Хэмминга следующий [5].
1. На входы сети подается неизвестный вектор X = {хі : і = 0...п -1}, исходя из которого рассчитываются состояния нейронов первого слоя:
(1) (1) П-1 п 1
у\' = = У 'Щ-.х. + Т ., 1 = 0..т-1.
1 1 і =0 1 і 1
После этого полученными значениями инициализируются значения аксонов второго слоя:
у(2) = у Ф, і = 0..т -1.
1 і
2. Вычислить новые состояния нейронов второго слоя:
(,2)(Р +1) = у і(Р)-1 укк2(Р\ к Ф і, і = 0...т -1 1 1 к=0 к
и значения их аксонов:
1 = 0...т -1.
у Р+1) = /
Активационная функция { имеет вид порога, причем величина Б должна быть достаточно большой, чтобы любые возможные значения аргумента не приводили к насыщению.
3. Проверить, изменились ли выходы нейронов второго слоя за последнюю итерацию. Если да - перейти к шагу 2. Иначе - конец.
Перед тем как подаваться на входы сети Хемминга, входной вектор сигнала преобразовывался по следующему принципу:
1, хі > 0,6 -1, хі £ 0,6:
т.е. можно сказать, что добавлялся еще один слой нейронов с активационной функцией в виде порога.
Многослойный персептрон
Алгоритм работы двухслойного персептрона описан в [2]. Обучение производилось по алгоритму обучения без учителя, а точнее, по дифференциальному методу обучения Хебба:
1 (Р +1) = (Р) + &■ ((у(1) (Р +1) - у(1) (Р)) •(у (2)(Р +1) - у (2) (Р
Трехслойный персептрон имеет еще один скрытый слой. На этапе обучения весовые коэффициенты преобразуются по следующему правилу:
3 (Р +1 = 3 (Р) + а' ((у( 1 (Р +1 - уг(1)( р)) ■ (у(2) (Р +1- у (2)( р)) ),
^(3) (р+1) = (р)+а ■ ((у(2) (р+1) - у(2) (р)) ■ (у(3) (р+1) - у (3) (р))) .
Знаковый обнаружитель
Знаковый алгоритм обнаружения имеет вид [6]:
5 = ХК > С,
2=1
П, X. > у.
где К = И(х - у.) = I г г,
I0, хг < У г
где хг и уг - независимые отсчеты испытуемой XI, х2, хп и помеховой
выборок у1, у2, ..., уп.
Величина порога С определяется через биномиальное распределение статистики 5 при гипотезе по заданной вероятности ложной тревоги а1.
Ранговый обнаружитель
Ранговые тесты учитывают не только факт, но и степень отклонения элементов исследуемой выборки от некоторого уровня или элементов опорной выборки. Рангом элемента выборки хг называется порядковый номер этого элемента в вариационном ряду, составленном из элементов х (или х и у), упорядоченных по какому-либо признаку, например, расположенных в порядке возрастания от меньшего к большему.
Ранг элемента хг вычисляется через функцию единичного скачка
(1 х > 0 т п
, как К. = ХК(х. -уз) + ХК(х. -хк), Яе [1,т + п +1],
0, х < 0 з=1 к=1
где т и п - числа элементов х и у соответственно [6].
Одним из наиболее распространенных ранговых тестов является тест Вилкоксона, основанный на статистике, определяемой суммой рангов [7]:
5 = X Я.+ = хг) > С,
хг >0 г=1
где Я+ - ранг положительного элемента в вариационном ряду; С -порог, определяемый заданной вероятностью а1.
Обсуждение результатов
В результате исследований был проведен сравнительный анализ данных, полученных в ходе эксперимента для статистических и нейросетевых методов обнаружения сигналов. Полученные результаты представлены в виде рисунков 1 и 2 .
О >9 0,8 0,7 0,6
0 12 3 4
Рис.1. Зависимость вероятности правильного обнаружения от соотношения сигнал/шум
На рис. 1 сплошными линиями обозначены зависимости для
нейросетевых алгоритмов: 1 - Хэмминга, 2 - двухслойный персептрон, 3 -трехслойный персептрон. Штриховыми линиями обозначены зависимости для статистических алгоритмов: 4 - знаковый, 5 - ранговый. Из приведенного графика видно, что двух- и трехслойный персептрон не обеспечивают вероятность правильного обнаружения, большую 0,63, что говорит о неразделимости классов в двух- и трехмерном пространстве. Алгоритм Хэмминга и ранговый алгоритм обеспечивают близкие значения вероятности правильного обнаружения большие, чем обеспечивает знаковый обнаружитель.
Рис.2. Зависимость вероятности ошибки первого рода от соотношения сигнал/шум
На рис. 2 представлена зависимость ошибки первого рода от соотношения сигнал/шум. Из рисунка видно, что двух- и трехслойный персептрон обеспечивает гораздо большее значение вероятности пропуска сигнала, чем остальные алгоритмы. Алгоритм Хэмминга дает близкое значение вероятности пропуска сигнала к значениям, обеспечиваемым статистическими алгоритмами.
Статистические алгоритмы обеспечивают фиксированное значение вероятности ложного обнаружения (в нашем случае 10-4), вероятность ошибки второго рода для сети Хэмминга составляла менее 10-4. Зависимость ошибки второго рода от соотношения сигнал/шум для многослойного персептрона приведена на рис. 3, 4 - двухслойный, 5 -трехслойный. Из рисунка видно, что многослойный персептрон обеспечивает недопустимо большое значение вероятности ложного обнаружения.
Рис.3. Зависимость вероятности ошибки второго рода от соотношения сигнал/шум для
многослойного персептрона
Значимость полученных различий в статистическом плане протестирована при помощи критерия согласия х2 Пирсона. Выдвигалась гипотеза о принадлежности двух выборок (результатов работы рангового алгоритма и алгоритма Хэмминга) одной генеральной совокупности. Применение статистического критерия хи-квадрат Пирсона при уровне значимости 0,95 показало, что данная гипотеза верна, т.е. выборки принадлежат одной генеральной совокупности. Таким образом, различия полученных результатов не являются значимыми в статистическом смысле.
Заключение
В работе проведен сравнительный анализ качества обнаружения сигнала при помощи нейросетевых и статистических алгоритмов. Построены зависимости вероятности правильного обнаружения и вероятности ошибки первого и второго рода от соотношения сигнал/шум.
Проведенный анализ показывает, что использование в поставленной задаче нейросетевого алгоритма Хэмминга не является более предпочтительным, чем использование рангового обнаружителя, т.к. различия значений вероятности правильного обнаружения не являются значимыми, а временные затраты на обнаружение выше.
Библиографический список
1. Тихинов В.И., Харисов В.Н. Статистический анализ и синтез радиотехнических
устройств и систем. - М.: Радио и связь, 1991. - 608 с.
2. Уоссермен Ф., Нейрокомпьютерная техника. - М., Мир, 1992. - 184 с.
3. Галушкин А.И. Нейрокомпьютеры. Кн. 3: Учеб. пособ. для вузов. - М.: ИПРЖР, 2000. - 528 с.
4. Новикова Н.М., Прасолова А.Е. Распознавание сложных изображений нейросетевыми и статистически оптимальными алгоритмами // Нейрокомпьютеры: разработка и применение. - 2004. № 4.
5. Короткий С. Нейронные сети Хопфилда и Хэмминга //
http ://generati on6. narod .ru/associative. htm.
6. Обнаружение радиосигналов / П.С. Акимов, Ф.Ф. Евстратов, С.И. Захаров и др.; Под ред. А. А. Колосова - М.: Радио и связь, 1989. - 288 с.
7. Акимов П.С., Литновский В .Я. Знаковое и ранговое последовательное обнаружение сигнала на фоне марковской помехи // Изв. вузов. Радиоэлектроника. -1984. - Т. 27. - № 4. - С. 14-20.
