CC BY
1810. Хромов Л. И. Теория информации и теория познания. СПб.: Русское философское общество, 2006. 200 с.
11. Цыцулин А. К. Теория линейного кодирования зашумленных сигналов // Вопр. радиоэлектроники. Сер. Техника телевидения. 2009. Вып. 2. С. 16-40.
12. Хромов Л. И., Цыцулин А. К. Основания космической видеоинформатики // Вопр. радиоэлектроники. Сер. Техника телевидения. 2011. Вып. 1. С. 6-31.
13. Зубакин И. А., Фахми Ш. С., Цыцулин А. К. Решения уравнения связи // Вопросы радиоэлектроники. Сер. Техника телевидения. 2008. Вып. 2. С. 9-27.
I. A. Zubakin
Saint-Petersburg state electrotechnical university "LETI" Main achievements of information theory
The review of the main achievements of information theory of C. Shannon in during sixty five years is given. It is noted that the paradigm of the information theory not only evolutionarily develops, but also generated the new large directions, new paradigms: quantum information theory, algorithmic information theory and dominant information theory. Article is devoted to sixty fifth anniversary of the information theory and to the fiftieth anniversary of the edition of Shannon's "Works on Information and Cybernetics Theory" in Russian.
Entropy, epsilon-entropy, information transfer rate, channel capacity, source coding, channel coding, quantum channel, complexity, principle of dominant information
Статья поступила в редакцию 18 октября 2013 г.
УДК 621.391.2
В. А. Данилов Северо-Кавказский филиал Московского технического университета связи и информатики
Л. В. Данилова
Ростовский государственный университет путей сообщения
Аппроксимация законов распределения огибающей квазигармонического случайного процесса негауссовского типа
Рассмотрена оптимальная аппроксимация заданного распределения вероятностей упрощенным показательным распределением. Исследовано качество аппроксимации при двух членах суммы в показателе.
Оптимальная аппроксимация, распределение огибающей, качество аппроксимации
При решении задач статистической радиотехники, связанных с негауссовскими входными воздействиями, возникает необходимость в вероятностном описании помеховых сигналов простыми аналитическими функциями. Такие задачи возникают, например, при построении приемных устройств, адаптивных к распределению негауссовских помех, воздействующих на вход приемника.
Исчерпывающей характеристикой негауссов-ской помехи с независимыми выборочными значениями является одномерная плотность вероятности (ПВ) щ (х). Помимо этой функции можно также рассматривать связанную с ней характери-
стическую функцию Q\ (у) - преобразование Фурье данной ПВ.
Описание помехового сигнала с помощью функций щ (х), О(у) характерно для негауссов-ского случайного процесса с широкополосным спектром. Если помеховое колебание является узкополосным случайным процессом (УСП), то вместо этих функций целесообразно задавать распределение огибающей W (А), А > 0, связанное с функцией О (у) интегральным соотношением вида [1]
W ( Л)
f Q (х) J0 (Лх) xdx,
© Данилов В. А., Данилова Л. В., 2013
где Jo (•) - функция Бесселя первого рода нулевого порядка.
Распределение Ж(А) для большинства поме-ховых сигналов представляется сложной аналитической функцией, зависящей от некоторого параметра. Для построения приемного устройства, адаптивного к распределению помехового сигнала, требуется аппроксимировать реальную ПВ некоторой простой аналитической функцией Жа (А), представляемой через элементарные функции. Особенно это важно, когда распределение реальных радиопомех неизвестно и в процессе приема требуется аппроксимировать неизвестную ПВ с помощью эмпирических моментов, получаемых на основании данных выборки.
Цели настоящей статьи - обоснование методики оптимальной аппроксимации заданного распределения вероятностей простейшим показательным распределением; анализ сходимости полученной аппроксимации применительно к не-гауссовским помехам синусоидального типа; сопоставительный анализ двух видов аппроксимации с использованием ПВ щ (х) и Ж(А).
Параметрическое описание распределения огибающей. Как уже отмечалось, основной характеристикой негауссовского УСП является функция Ж(А). Будем считать, что эта функция непрерывна и дифференцируема во всей области определения А > 0. Этим условиям удовлетворяют распределения реальных радиопомех.
В силу аналитичности заданного распределения его можно представить в форме показательной функции:
Ж (А)
= С ехр
( ю Л
-У ^Ак к=1 к
(1)
где С1 > 0 - нормировочная константа, а коэффициенты полинома определяются как
ак =■
1
йК
(к -1)! Ак
1п
Ж (А)
Для построения приемного устройства, адаптивного к ПВ Ж(А), желательно ограничить сумму в показателе (1). Распределение вида
(А)
(
= Са ехр
-у
кк
л
(2)
(п > 1 - целое число; Са - нормировочная константа) при Ък = ак в общем случае не является наилучшим приближением к (1). Существуют такие значения параметров Ък = Ъ|, не обязательно совпадающие с ак, при которых распределение (2) наилучшим образом приближается к (1). Найдем связь параметров Ък с распределением (1).
За критерий наилучшего приближения Жа (А) к Ж (А) примем условие минимума ошибок приема устройства, согласованного с распределением Жа (А), в условиях воздействия помехи с распределением Ж(А). Для случая обнаружения слабых сигналов в когерентном полосовом тракте принятый критерий совпадает с условием максимума параметра [2]
12
1
Ма = - т2 '
ga (А) + ^а (А )
А йА
Ж (А) йА]
(3)
| g2 (А) Ж (А) йА
где т2 - дисперсия помехи;
ga ( А) = -й1п
аА
(А)
(4)
Коэффициент ма (3) зависит от вектора параметров аппроксимации Ь = {Ъ^ Ъ2, . • •, Ъп} в форме (2) и от моментов распределения (1). Определим параметры Ък = Ъ|, при которых коэффициент (3) достигает максимального значения. С этой целью представим выражение (3) с учетом (2), (4) в виде
Ма =— м2
га 4 2 п п
( п Л
У кЪкМк-2
и=_
(5)
У У ЪкЪтМк +т-2
к=1т =1
где
Мк = | АкЖ (А) йА
(6)
- начальные моменты распределения Ж(А), причем М2 = 2т2.
Из формулы (5) вытекает, что параметр ца является функцией вектора параметров аппроксимации Ь и вектора моментов распределения
М = {М_1, Mо, Ml, ..., Mn_2 }. Оптимальные ко -
* * *
эффициенты аппроксимации Ь , Ь>2, • ••, Ьп, удо-влетворяющие условию
Ца(( % Ьп) = тахца(( b2, ЬП)
определяются по формуле
b* = B det X (k), B > 0,
где det X (k) - определитель X (k) = ||xw (k)|| с элементами
(7)
матрицы
(k) \Мг+1_2, l * к; , к , 2 (8)
Xrl^ = 1 , , г, I, к = 1, 2, •.., п. (8)
[гМг _2, l = k,
Значение коэффициента (5) при оптимальных значениях параметров аппроксимации (7) следует определять по формуле
/ * * * \ * тахЦа = Ца (( , Ъп ) = — ТкЬ*Мк_2, (9)
4ЬП k=1
где Dn - определитель п-го порядка, составленный
из элементов вида иг1 =Mr^_2; г, / = 1, 2, •.., п.
*
Оптимальные значения коэффициентов bk аппроксимации (2) в соответствии с выражением (7) могут быть получены из определителя Dn заменой в нем к-го столбца значениями {M_l,
2Мо, 3Ml, ..., nMn_2} из (8). Коэффициенты
*
bk определяются из (7) с точностью до постоянной величины B. С целью однозначности аппроксимации значение B можно определить из условия равенства каких-либо моментов распределения, например их дисперсий:
1 С„ J A3 exp -£ ^
0 V k=1
dA =
Рассмотрим подробно оптимальную аппроксимацию функцией (2) при п = 2. В этом случае аппроксимирующая функция имеет вид
Wa (Л)/Л = CaexpA _ Ь2Л2Д). (10)
**
Оптимальные коэффициенты Ь , Ь2 в (10) на основании (7) определяются как
b* = B ((M2 - 2M0M1); b2 =B (2M (2 - M1M-1),
(11)
где на основании (6) Мо = 1. Для определения коэффициента ца по (9) запишем сначала определитель
Мо М1 М1 М2
D =
= M2 - Мл
(12)
С учетом (11), (12) коэффициент (9) представляется в виде
max Ца = Ца (b1, b2 ) =
= M2 (1 -MM4 + M-M2/4)/(M2 -M2). (13)
Таким образом, величина (13) численно определяет меру отличия функции W (A) вида (2) от заданной ПВ W(A) при n = 2- Значение (13) в точности соответствует коэффициенту, полученному в работе [6], в которой рассмотрена возможность кусочно-линейной аппроксимации характеристики нелинейного преобразования в схеме амплитудного подавления негауссовской помехи со спектром полосового типа-
Пример 1. Для гауссовского случайного процесса с распределением огибающей по закону Рэ-
лея [1] W(A) = (А/ст2 ) exp [-A1/(2ст2 )] из (7), (8) получим
\2BD2/M2, k = 2; [0, k * 2, B = 1В этом случае Wa (А) = W (А) при всех А. Приняв во внимание выражения для моментов рэлеевского закона M-1 = 2 -ст-1;
M1 = 2 -ст; M2=2ct2, с помощью (13) найдем max ца = B = 1, что совпадает с предельным значением ца при Wa (А) = W(А) [2].
Пример 2. Рассмотрим ПВ вида W(А) = = (3/ст2 ) А exp [-(%/э/ст) а] , которая определена в
работе [3] как распределение предельного типа. Данная ПВ названа предельной, так как для нее характеристика нелинейного преобразования в схеме амплитудного подавления [2] вырождается в "жесткий" ограничитель. Проведя с применением (7), (8) вычисления, аналогичные выполненным в примере 1, получим
b* =
Ъ* = Г В^М, к = 1; к [0, к ф 1; В = 1.
И в этом случае также Жа (А) = Ж(А) при всех А. С помощью (13) получим тах |ма = 1.5, что совпадает с предельным значением при Жа (А) =
= Ж(А). Отметим, что оба рассмотренных примера входят в состав простейшей аппроксимации (10) при п = 2. Для других негауссовских распределений равенство Жа (А) = Ж(А) не выполняется.
Пример 3. В качестве примера аппроксимации более сложной функции рассмотрим распределение огибающей суммы частотно-модулированного (ЧМ) квазигармонического процесса и гауссов-ского шума. В этом случае распределение огибающей подчиняется обобщенному закону Рэлея и имеет вид [1]
Ж (А) = 2аА ехр [-а (А2 +1)] 10 (2аА), (14)
где а - параметр распределения, равный отношению мощности ЧМ-процесса к мощности гаус-совского шума; /0 (•) - модифицированная функция Бесселя нулевого порядка.
Для расчета характеристики тах |ма по формуле (13) запишем требуемые выражения моментных функций, соответствующих распределению (14):
Л -о
М-1 =Л& 10 Л2;
М1 = 0.5. - •
а
(1 + а)/0 [у Н (|)
е"°2; (15)
М2 =
1 + а
а
где /1 О - модифицированная функция Бесселя первого порядка.
На рисунке даны зависимости показателей качества аппроксимации тах |ма от параметра а распределения (14). Штриховой кривой представ-
тах |ма 400 300 200 100
0
лена зависимость предельного значения коэффициента (3) при Жа (А) = Ж(А), полученная по формуле [2]
1 7( ал Г ж ( А)1Л2 тах |а = -т2 ЛоА1П
0
Ж (А)
Ж (А) йА,
10
100
с учетом применения распределения (14). Сплошная кривая на рисунке соответствует аппроксимирующей функции (2) при п = 2. Данные этой кривой рассчитаны по формуле (13) с использованием моментных функций (15). Кривые на рисунке подтверждают возможность достаточно точной аппроксимации распределений реальных радиопомех функций ПВ (2) при двух членах в потазагеда Жа (А).
Сравнительный анализ двух методов аппроксимации. Любой случайный процесс с независимыми выборочными значениями может быть задан одномерной ПВ щ (х). В работе [4] исследована аппроксимация функции щ(х) показательным распределением. Анализ, выполненный в этой работе, показал, что аппроксимация функции обеспечивает приемлемые результаты при достаточно большой степени полинома в показателе (п > 4), причем рассмотренная аппроксимация допустима только для одномодальной ПВ.
Применение этой аппроксимации к ПВ двух-модального типа требует существенного увеличения порядка модели за счет увеличения п. Особенно это характерно при аппроксимации по методике [4] негауссовской ПВ вида щ (х) =
=1/ - х /, |х| < А, с модальными значе-
ниями, стремящимися к бесконечности. По этой причине аппроксимирующая функция для двух-модальной ПВ модифицирована в работе [4] с заменой экспоненциального множителя полусуммой двух экспонент.
Сопоставительный анализ методов аппроксимации с использованием функций щ (х) и Ж(А)
показал, что наивысшая скорость сходимости экспоненты к заданной функции достигается при выборе в качестве базовой функции Ж(А) и применении полученной аппроксимации как для одномо-дальной, так и для двухмодальной функции щ(х).
Амплитудная характеристика оптимального нелинейного преобразования. Получим амплитудную характеристику нелинейного преобразователя (НП) в схеме амплитудного подавления
а
негауссовской помехи с радиочастотным спектром. Оптимальная характеристика НП для помехи с заданной функцией Ж(А) определяется по формуле [2]
/ (х ) =
F(0) +11 d[F(z)]
2 х
I /1(-х ) = - /1 ( х)
где F(z) = zg0 (z), причем
х > 0;
(16)
Я0 (z) = ln dz
W (z)
Если функция (А) задана и соответствует аппроксимации (10) при п = 2, найдем:
,(z ) = ¿1 + b2 z.
(17)
Подставив (17) в (16) и вычислив интегралы с помощью [5], получим:
/1 (х )={(Л/ 4)b* + ¿2 х, х > 0;
1 [ /1 (-х) = - /1 (х).
(18)
Таким образом, оптимальная характеристика НП, соответствующая аппроксимирующей функции (10), представлена совокупностью линейных функций. Такая ситуация исследована в работе [6] для помехи синусоидального типа. Анализ, выполненный в указанной работе, показал, что функция (18) по своим свойствам близка к оптимальной характеристике _/0р(х), но обладает
очень простой схемой реализации.
В результате проведенного анализа можно заключить, что применение экспоненциальной аппроксимации Ж(А) обеспечивает приемлемые результаты уже при двух членах суммы в показателе функции. Полученная двучленная аппроксимация позволяет сравнительно просто описывать реальные функции Ж (А), что очень удобно при анализе каналов амплитудного подавления, работающих в адаптивном режиме.
Также показано, что применение экспоненциальной аппроксимации функции Ж(А) обеспечивает лучшую сходимость результата и во многих реальных ситуациях дает лучшую аппроксимацию закона распределения огибающей квазигармонического случайного процесса негауссов-ского типа по сравнению с функцией щ (х).
z
СПИСОК ЛИТЕРАТУРЫ
1. Тихонов В. И. Статистическая радиотехника. М.: Радио и связь, 1982. 624 с.
2. Акимов П. С., Бакут П. А., Богданович В. А. Теория обнаружения сигналов / под ред. П. А. Бакута. М.: Радио и связь, 1984. 440 с.
3. Данилов А. В., Жабинский Ю. В. Негауссовские распределения предельного типа // Сб. трудов НТК СКФ МТУСИ "Инфоком-2010", Ростов-на-Дону, 21-22 апр. 2010 г. / СКФ МТУСИ. Ростов-н/Д, 2010. С. 31 -32.
4. Данилов В. А. Аппроксимация негауссовской плотности вероятности показательным распределением // Радиотехника. 1998. № 2. С. 12-16.
5. Градштейн И. С., Рыжик И. М. Таблицы интегралов, сумм, рядов и произведений. М.: Наука, 1971. 1108 с.
6. Данилов В. А. Об эффективности амплитудного подавления синусоидальных помех // Радиотехника и электроника. 1984 . Т. 29, № 9. С. 1836-1838.
V. A. Danilov
North Caucasian brunch of Moscow technical university of communications and informatics
L. V. Danilova Rostov state university of transport communications
Approximation of laws of a quasi-harmonic random non-Gaussian process envelope distribution
The optimal approximation of given probability distribution by simplified exponential distribution is considered. The approximation efficiency with two members of a sum in an index is presented.
Optimal approximation, envelope distribution, approximation efficiency
Статья поступила в редакцию 5 сентября 2013 г.
