CC BY
16УДК 519.245 001:10.31854/1813-324Х-2022-8-1-91-99 [СФЛЗЦ^И
Вычисление информационных свойств радиоканала с реальными сигналами и негауссовскими помехами
Д.М.Силин12 >*
ЮОО «Гейзер-Телеком», Москва, 105118, Российская Федерация
2Московский государственный технический университет имени Н.Э. Баумана (национальный исследовательский университет), Москва, 105005, Российская Федерация *Адрес для переписки: silin@g-tl.ru
Информация о статье
Поступила в редакцию 25.01.2022 Поступила после рецензирования 25.02.2022 Принята к публикации 25.02.2022
Ссылка для цитирования: Силин Д.М. Вычисление информационных свойств радиоканала с реальными сигналами и негауссовскими помехами // Труды учебных заведений связи. 2022. Т. 8. № 1. С. 91-99. 001:10.31854/1813-324Х-2022-8-1-91-99
Аннотация: В статье синтезированы численные методы нахождения количества информации, переносимой сигналом с заданным видом модуляции при наличии в канале связи смеси гауссовских и негауссовских коррелированных шумов. Данные численные методы оперируют реальными используемыми на практике сигналами и реалистичной моделью помех, поэтому они дают значительно более точные оценки информационных свойств радиоканала, чем оценка сверху по классической формуле пропускной способности. Рассматриваются случаи передачи по каналу связи непрерывных и дискретных сообщений. Синтезированные численные методы могут быть применены для теоретико-информационного анализа широкого круга систем: систем цифровой и аналоговой связи, радиолокации и радионавигации.
Ключевые слова: численный метод, количество информации, пропускная способность, мультипликативный шум, фазовый шум, коррелированный шум, негауссовский шум, радиолокация, цифровая связь, аналоговая связь.
Введение
В настоящее время быстрое развитие информационно-телекоммуникационных систем приводит к постоянному повышению концентрации разнотипных радиосистем в ограниченном пространстве. Помимо средств связи в их число могут входить радиолокационные станции, навигационные приемники и другие виды радиоэлектронных средств. Актуальной является проблема оценки качества работы как отдельных средств, так и их комплекса в целом при наличии различных видов помех. Единый подход к оценке качества работы данных разнотипных средств может быть построен на основе теории информации. При таком подходе в качестве критерия качества работы радиоэлектронного средства используется количество информации, содержащейся в отрезке принимаемого сигнала заданной длины.
Как правило, это количество информации вычисляют по известной формуле Шеннона для пропускной способности [1]. Условиями применения
этой формулы являются аддитивный белый гаус-совский шум (АБГШ) в канале связи и оптимальное кодирование информации. При невыполнении этих условий, что часто бывает на практике, такая оценка может оказаться неточной.
В данной статье синтезируются методы для вычисления количества информации, переносимой сигналом с конкретным видом модуляции, при наличии в канале мультипликативных и фазовых коррелированных шумов. Это позволяет значительно увеличить точность оценки информационных характеристик радиоканала.
Исследованию сигналов с мультипликативными и негауссовскими помехами посвящены многие работы отечественных и зарубежных авторов, в частности [2-4]. В статье [2] проведено вычисление плотности вероятности мгновенного значения сигнала, подвергающегося воздействию аддитивных и мультипликативных помех. Обзор моделей распространения сигналов в пространстве можно найти в работе [3]. Авторы работы [4] предлагают модель
сигнала навигационной системы GPS с мультипликативными рэлеевскими помехами и показывают хорошее соответствие этой модели результатам натурных измерений.
Применение методов теории информации к широкому классу систем, не ограниченному исключительно системами связи, предлагается в монографиях отечественных авторов [5-7]. В частности, в данных работах проводится теоретико-информационный анализ работы радиолокационных и измерительных систем. Однако данный анализ ограничивается результатами, полученными для гаус-совских сигналов и помех.
В зарубежных публикациях [8-10] рассматривается вопрос определения пропускной способности канала связи с негауссовскими помехами, которые приводят к мультипликативным искажениям. В работах [8, 9] рассматривается модель рэлеевских замираний, в статье [10] - райсовская модель мультипликативных искажений. В этих работах предполагается, что параметры искажений меняются медленно и известны принимающей стороне (есть информация о состоянии канала связи).
Вычисление количества информации о скалярных параметрах отраженного сигнала получаемой радиолокационной станцией исследовалось автором статьи в работе [11], а также в публикации [12] зарубежных авторов.
По результатам анализа публикаций можно сделать вывод, что следующие задачи не исследованы в достаточной степени:
- оценка максимально возможной скорости передачи информации при неизвестном состоянии канала связи с негауссовским шумом при использовании сигнала с конкретным видом модуляции;
- оценка количества информации о векторном параметре отраженного сигнала, например, если проводится совместная оценка расстояния до объекта и его скорости при наличии негауссовского шума.
Решению данных задач и посвящена настоящая статья.
Вычисление количества информации, переносимой сигналом
Будем считать, что смесь сигнала и шума занимает ограниченную полосу частот W. В этом случае, согласно теореме Котельникова [13], сигнал эквивалентен выборке своих значений, в моменты времени, взятые с интервалом меньшим 1/2 W.
Количество информации, содержащейся в выборке принятого сигнала у, несущего сообщение x, равно взаимной информации между их вероятностными распределениями, которая может быть найдена по формуле [14]:
/
Я/(у|х) /(x,y)log dxdy,
где X - множество возможных значений х; У - множество возможных значений у; /(х, у) - плотность совместного распределения х и у; /(у) - плотность распределения выборки принятого сигнала; /(у|х) -плотность условного распределения у при заданном х.
Сообщение, передаваемое по каналу связи, может быть дискретным или непрерывным. Дискретное сообщение имеет место при рассмотрении цифрового канала связи. Случай непрерывного сообщения имеет место при рассмотрении аналогового канала связи и при теоретико-информационном анализе работы радиолокационной станции, который проводится в данной статье. В этом случае рассматривается канал связи между объектом, который необходимо локализовать в пространстве, и приемником радиолокационной станции, а в качестве сообщения может выступать, например, вектор из расстояния до объекта и его радиальной скорости.
Интеграл (1) берется аналитически только в редких случаях, например, если отсчеты сигнала независимы и имеют гауссовское распределение. Для вычисления количества информации при произвольном распределении помех необходима разработка численного метода. Задача вычисления интеграла (1) разделяется на две подзадачи: вычисление выражения (1) при известных плотностях вероятности /(х,у), /(у|х), /(у) и вычисление самих плотностей вероятности /(х,у), /(у|х), /(у). Рассмотрим эти подзадачи по порядку.
Вычислять многомерный интеграл (1) будем с помощью метода Монте-Карло [15]. Интеграл (1) является математическим ожиданием Ед функции
^(х,у) = log
/(У)
(2)
от случайных величин х и у в обозначениях из (1).
Согласно закону больших чисел [16] математическое ожидание приближается суммой:
,17 с 1Vi
(3)
где сумма вычисляется по N случайным значениям сообщения х, и выборки принятого сигнала у, разыгранным в соответствии с распределением
А^у).
Для оценки погрешности вместе с вычислением выражения (3) вычисляется оценка математического ожидания квадрата логарифма из (1):
Ед2 ~
N
=^Ilog:
/ОМ
а также дисперсия оценки:
D„ = Е52 - (Е5)
(4)
(5)
/(У)
(1)
i=i
2
X Y
Выберем число слагаемых в (3), (4) не менее 30, что является достаточным для использования центральной предельной теоремы [17]. Тогда при вычислении оценки (3) по N слагаемых с вероятностью в будет выполняться условие:
|Ew5 - а| < x^DH/N,
(6)
принимаемого сигнала и все результаты относятся к комплексному аналитическому сигналу [13]. Мультипликативный и фазовый шум представим в виде единого комплексного коэффициента «мультипликативно-фазового» шума, на который умножаются комплексные отсчеты идеального сигнала:
где а = Ед - истинное значение математического ожидания функции д, которому равен искомый интеграл (1), рассчитано по формулам (4, 5); Хр -корень уравнения Ф(х) = в; Ф(х) - функция ошибок.
За результат принимается значение Емд (3), при котором обеспечивается заданный уровень погрешности (6) с заданной доверительной вероятностью р.
Для вычисления интеграла (1) по формуле (3) не требуется знание выражения для плотности /(х, у), поскольку необходимо только уметь генерировать случайные х и у в соответствии с распределением, задаваемым этой плотностью. Рассмотрим предлагаемые методы вычисления плотностей /(у |х),/(у).
В работе [18] автором выведена формула для условной плотности выборки сигнала, искаженного смесью коррелированных мультипликативного и фазового шумов и АБГШ, при этом сигнал предполагается вещественным. В данной работе считается, что приемник выполняет квадратурную обработку
\ = Ве1ф,
(7)
где В - случайная величина, распределенная по закону Рэлея с параметром а; ф - случайная величина, распределенная равномерно в интервале [0, 2п]. Модель принятого сигнала Т, таким образом, примет вид:
г = ^Х + п, (8)
где ^ - коэффициент (7); X - отсчет идеального принятого сигнала без искажений; п - гауссовская случайная величина, представляющая АБГШ.
Выражение для условной плотности выборки Т комплексного аналитического сигнала имеет вид, аналогичный формуле, полученной в работе [18] для вещественного сигнала:
f(z№ =
V|detQ|/
г I \ п+т „ „
(V2n) (2п42)пПа
(9)
где Т - принятый сигнал, искаженный смесью коррелированных мультипликативного и фазового шумов и АБГШ; @ - вычисляется по выражению (10); X - идеальный сигнал;
1
Q =
л diag(—) + (К * ReXm/o)(K * ReXm/a)' 11 А2
(10)
diag(—) + (К * \mXm/a)(К * \mXm/a)', А2
q =
^ Re((Xm/a) * (Z/a)*) * К ^ \m((Xm/a) * (Z/a)*) * К c = -^|Z|2/2a2;
К,
(11) (12)
(t) = sinc (-y—) ;
isinnx
их ,хФ0; 1,х = 0
(15)
(16)
Хт - матрица, состоящая из п строк, в которых записан вектор X выборки идеального сигнала длины т, несущего сообщение х:
Хп
X,
(13)
К - матрица коэффициентов, вычисленных в моменты дискретизации сигнала:
/К^О) ^(ДО - К1((т-1)М)\ К = {К2(0) К2(Д1) - ^2((т-1)Д0\ (14)
\Кп(0) Кп( ДО - Кп((т- 1)Дt)/
знак * - поэлементное умножение; Т - комплексное сопряжение Т; 1' - транспонированная матрица Т; Д£ - шаг дискретизации сигнала; Д/ - ширина полосы спектра мультипликативно-фазового шума; Т < — - шаг дискретизации мультипликативно-
фазового шума; а - среднеквадратичное отклонение АБГШ (в общем случае разное в каждой точке выборки, в этом случае деление на а осуществляется поэлементно); А = а^п/2, где а - параметр распределения Рэлея мультипликативного шума; п - число точек дискретизации мультипликативно-фазового шума; т - число точек дискретизации смеси сигнала с шумом.
Сформулируем методы нахождения многомерной плотности /(у) в случае непрерывного и в случае дискретного сообщения х.
-1
Q
ч
ч
4
0
2
0
П
Метод определения плотности выборки сигнала, несущего непрерывное сообщение
Для получения плотности /(£) распределения выборки принятого сигнала 1 в случае непрерывного сообщения необходимо найти интеграл:
/Ю = | /даях)^
(17)
где /(г|х) - условная плотность выборки 1 при передаче сообщения х; /(х) - плотность распределения сообщения, по множеству X возможных значений сообщения х. Для уменьшения вычислительных затрат при расчете выражения (17) требуется рациональный выбор области X. Внутри этой области плотность /(х,у) должна вносить значимый вклад в интеграл (17). Точки, где плотность близка к нулю, можно исключить из рассмотрения. Для определения такой области X предлагаются ниже сформулированные методы.
Построим метод определения области интегрирования в случае непрерывного векторного сообщения х. Предлагаемый метод основан на теории оценки параметров вероятностных распределений по выборке [17], где в качестве параметра выступает передаваемое сообщение.
Для дисперсионной матрицы оценки 0 = = (§!,..., 0Г) векторного г-компонентного сообщения 0 = (0Х,..., 0Г) справедливо неравенство Рао - Крамера [17]:
Е[ГТ] > /-1(0), (18)
где Т - векторная статистика выборки 1:
Г= (§1(2).....§Г(Я));
ЕГ = 0; /(0) - информационная матрица Фишера:
5/,
/(0) = Е
\
.301/
3! 3! / д! \2
УдаГ' зо! ... чаёТ/ /
3/, 3/Д
зо1'з0~
3/, ~
(19)
Ъ = ¿(X) = 1п/(Х) - логарифм плотности распределения вектора X (логарифмическая функция правдоподобия).
Информационная матрица /( 0) оценивается усреднением выражения под знаком математического ожидания Е из формулы (19) по случайным выборкам сигнала при заданных значениях сообщения 0 и уровней шума А и а.
Ограничим область интегрирования у-довери-тельной областью на сообщение 0, то есть такой областью, что вероятность:
Р{0 6 С(Г)| > у, где в зависит от выборки X, но не от 0.
(20)
Так как по формуле Байеса имеет место равенство:
/М =
/(0|х)/(х) /(ё) ,
(21)
считая, что плотность /(0) ограничена и не равна нулю (например, представляет равномерное распределение), при заданной выборке X можно считать, что плотность /(^|0) пропорциональна плотности /(0|Х). Отсюда можно сделать вывод, что при у, близком к 1, плотность /(Х|0), как и плотность /(0|Х), сосредоточена в у-доверительной области на 0.
Следуя [17], построим доверительную область для сообщения 0 , основываясь на оценке максимального правдоподобия:
0 = (07,..., 0Г) = а^ах/(г|0).
в
Эта оценка является асимптотически и эффективной, и нормальной: с увеличением размера выборки неравенство (18) стремится обратиться в равенство, а распределение /(0) стремится к нормальному с ковариационной матрицей /-1(0):
N
|/(0)|
е 2
(2п)г
(22)
Показатель экспоненты многомерного гауссов-
ского распределения оценки 0 (22) задает эллипсоид рассеяния, имеющий уравнение:
'11 (01 - 01)2 + 2/12(01 - 01)(02 - 02) + +...+/гг(0г - 0Г)2 < Д2,
(23)
где I/] - элемент информационной матрицы (19) в позиции (/,/); Я - число, задающее размер эллипсоида.
Этот эллипсоид и характеризует доверительную
область на сообщение 0, по которой надо интегрировать в (17). Полуоси эллипсоида однозначно задают вероятность попадания в него случайной величины 0. Их можно пропорционально изменять, выбирая коэффициент Я в (23). Левая часть (23) имеет распределение х2(г). Соответственно, для попадания 0 в эллипсоид с вероятностью у необходимо выбрать Д2 = х2,г, где х2,г - у-квантиль распределения х2 с г степенями свободы.
С уменьшением уровня помех диаметр доверительной области (23) тоже уменьшается. В случае интегрирования (17) по всему множеству значений сообщения с уменьшением уровня помех приходится покрывать это множество сеткой со все большим числом узлов, иначе может случиться так, что ни один узел сетки не попадет в область фактического положения поверхности распределения.
X
Предлагаемый метод численного интегрирования только по доверительной области (23) позволяет проводить вычисления на сетке с фиксированным числом узлов, покрывающей доверительную область.
Покажем пример вычисления количества информации по формулам (3-6) с интегрированием (17) по доверительной области (23). Пусть радиолокационная станция измеряет расстояние до объекта R и его радиальную скорость V. Возьмем модель принятого сигнала из работы [19]:
y(t) = {u(t-2i)-u(t-T-2i)
2 п с
+т + z(t),
(24)
где у(Ь) - принятый сигнал; б(1) - посланный сигнал: U(t) - ступенчатая функция Хевисайда; T - длительность сигнала; г - расстояние до объекта; v -радиальная скорость объекта; c - скорость распространения сигнала; 50 - эффективная площадь рассеяния объекта; G - коэффициент усиления антенны; f - высокая несущая частота сигнала; % -комплексный коэффициент амплитудно-фазового искажения (7), & - гауссовская случайная величина с переменной дисперсией, моделирующая помеху в виде искаженного собственного сигнала, отраженного от поверхности Земли; $ - гауссовская случайная величина, представляющая АБГШ.
Вычислим количество информации о параметрах R и V, получаемой после посылки сигнала (24) в виде 30 импульсов длительностью 0,35 мкс с интервалом между импульсами 0,71 мс. Распределение R, V будем считать равномерным в прямоугольнике R = 105...60000 м, V = -20...20 м/с. На рисунке 1 изображена поверхность условной плотности распределения /(у1К,У) смоделированного принятого сигнала у. Плотность нормирована относительно своего максимального значения.
1
0,8 g- 0,6 К 0,4 0,2 С 9,5
8 15505
7 6,5 " 15490 15495 R
Рис. 1. Поверхность условной плотности распределения выборкиу
Fig. 1. Conditional Probability Density Function of Sampling y
При некотором уровне помех в соответствии с формулой (23) поверхность распределения локализуется в эллипсе, лежащем в области размерами
20 на 3, показанном на рисунке 1 красным цветом. Очевидно, что интегрировать только по данному эллипсу значительно менее вычислительно затратно, чем интегрировать по всей исходной области размером 59895 на 40.
Полученные по формуле (3) графики зависимости количества информации о расстоянии и скорости, взятых вместе ^ + V - информация) и по отдельности ^ - информация, V - информация) от отношения «сигнал/помеха» при учете мультипликативных и фазовых помех показаны на рисунке 2. Аналогичные графики при учете только АБГШ показаны на рисунке 3.
£ 22 ю
§20 118 |16 I 14
СО
12
I10
1 8 О.
% 6
I 4 2
0
— R + V - информация
— R - информация
— V - информация Пропускная способность
-30
-20
20
-10 0 10 ^ Отношение сигнал /помеха, дБ
Рис. 2. Количество информации о расстоянии и скорости, получаемой при наличии АБГШ и мультипликативно-фазовых помех
Fig. 2. Amount of Range and Speed Information in Condition of Additive White Gaussian Noise, Multiplicative and Phase Noise
£22 ю
я" 20 ¡18 116 I14
Я 12
|10
i 8
30
-30
-20
20
30
-10 0 10 * Отношение сигнал/помеха, дБ
Рис. 3. Количество информации о расстоянии и скорости, получаемой при наличии только АБГШ
Fig. 3. Amount of Range and Speed Information in Condition of Additive White Gaussian Noise Only
Также на рисунках 2 и 3 показана верхняя граница количества информации, вычисленная по формуле пропускной способности канала связи, образуемого между объектом и радиолокационной станцией. Отношение «сигнал/помеха» понимается как отношение усредненной по всем расстояниям до объекта средней мощности сигнала к средней мощности АБГШ.
Существенное различие пропускной способности канала «объект-станция» и полученного количества информации объясняется тем, что при измерении расстояния и скорости теряется большое количество информации о других свойствах объекта
х
и окружающей среды, которую также переносит принимаемый сигнал.
Сформулируем метод нахождения плотности /(у) в случае, когда сигнал содержит дискретное сообщение.
Метод определения плотности выборки сигнала, несущего дискретное сообщение
Плотность /(у) выборки сигнала, несущего дискретное сообщение х;, равна:
/(У) = ^ПхгЖуЫ,
¿=1
(25)
где /(у|х;) - условная плотность выборки при передаче сообщения х;; ц - число возможных значений символа в сообщении х; М - длина сообщения; Р(хг) - вероятность того, что сообщение приняло значение хг.
В работе[18] плотность вероятности (25)счита-лась для сообщения из 5 символов с вычислением
всех слагаемых из выражения (25). Однако, так как число возможных значений дискретного сообщения увеличивается экспоненциально с его длиной, такой подход неприменим при большой длине сообщения.
Для эффективного определения плотности / (у) распределения выборки принятого сигнала, несущего дискретное сообщение, предлагается метод Монте-Карло, описанный ниже.
Разделим все сообщения XI длины М на М+1 классов по числу позиций, в которых они отличаются от фактически переданного сообщения (числу ошибок). Не нарушая общности, предположим, что символы в сообщении принимают равновероятные значения от 1 до ц.
Представим (3) в виде выражения (26), где М -длина сообщения; ц - число возможных значений символа в сообщении х; х/ - /-е сообщение, содержащее ] ошибок; С^ - число сочетаний из М по к; (ц -И-^См - число сообщений, содержащих к ошибок.
м
//(У|х0) + . +/(У|х(1ч-1)м) + \
чм +/(У|х1) +/(У|х1)+..
1 V ч 1 чмЛ^^ЧМ ¿=0 +/(y|xi2)+/(y|xf)+. .+/(У?|х2Ч_1)2сМ) + , (26)
+/(y|xi3)+/(y|x23)+. .+/(У|х(3ч_1)зсз)+..
\+/(У|хМ) + /(у|х2М).. +/0У|х(м;-1)м) )
Для каждого числа ошибок к = 0 ... M будем вычислять частичную сумму из (26) как математическое ожидание функции равномерно распределен-
„ и и k
ной случайной величины xf:
5fc = /(3?ixi)+... +/C5>ix;;_i)fcc,) =
(4-1)fccM
=C'-1«- У cr-W/№i)=(27)
= (<! - 1)"Ci • E/(y|xf).
Математическое ожидание Е/(у;|хы) приблизим суммой:
н
Ея/СКЬ-^/^), (28)
=1
где H выберем достаточно большим для возможности применения закона больших чисел (H > 100). Сложим по всем к полученные значения частичных сумм (26). Получим приближенную формулу для /(У):
м
/(У) " ^Ус? - 1)'сМЕн/(У^), (29) Ч
f=0
где Е^/Су^х^) вычисляется по формуле (28).
Переход к вероятностному алгоритму суммирования позволяет избавиться от перебора всех цМ комбинаций и находить плотность вероятности сигнала, зависящего от сообщения произвольной длины, за линейное время от этой длины. Каждая частичная сумма (27) приближается суммой ровно Н слагаемых (28) вместо ( ц — ^С^ слагаемых при детерминированном суммировании.
Покажем пример вычисления количества информации по формулам (3-6) с суммированием по формуле (29).
Пусть принимается сигнал с модуляцией QPSK [20] с символьной скоростью 25000 бод в полосе 31500 Гц, искаженный мультипликативным и фазовым шумами, сосредоточенными в полосе шириной в 1/10 полосы сигнала, и АБГШ. Графики зависимости количества информации, содержащейся в 15 принятых посылках, от отношения «сигнал/помеха» при учете смеси шумов и только АБГШ, показаны на рисунке 4. Также на рисунке показана верхняя граница количества информации, вычисленная по формуле пропускной способности канала связи.
Отношение «сигнал/помеха» понимается в классическом смысле (как отношение средней мощности сигнала к средней мощности АБГШ).
025
АБГШ и мультипликативно-фазовая помеха Только АБГШ Пропускная способность
-20 -15
15 20
25
-10 -5 0 5 10 ^ Отношение сигнал/помеха, дБ
Рис. 4. Зависимость количества информации в 15 QPSK-посылках от отношения «сигнал/помеха»
Fig. 4. Dependence of Amount of Information in 15 QPSKMessages on Signal-to-Noise Ratio
Полученное количество информации показывает предельно возможную скорость передачи информации по каналу связи с данной моделью шумов и данным видом модуляции несущего информацию сигнала. При использовании модуляции QPSK скорость передачи информации искусственно ограничивается символьной скоростью. Это видно из рисунка 4: с увеличением отношения «сигнал/помеха» количество информации стремится к верхней границе в 30 бит, в то время как количество информации за то же время, вычисленное по формуле пропускной способности, неограниченно возрастает.
Из графика, представленного на рисунке 4, можно сделать вывод, что пропускная способность канала связи с QPSK-сигналом может быть в полной мере использована только при низких отношениях «сигнал/помеха». С уменьшением отношения «сигнал/помеха» графики количества информации, вычисленные по формуле пропускной способности и с помощью синтезированных методов неограниченно сближаются, в то же время стремясь к нулю. При наличии только гауссовских помех передача информации со скоростью, близкой к пропускной способности, возможна при отношении «сигнал/помеха» не более -5 дБ.
Физический смысл потери примерно двух бит информации при воздействии мультипликативного и фазового шума и отсутствии АБГШ заключается в том, что при наличии медленно меняющейся равномерной фазовой помехи с высокой вероятностью весь сигнал получает фазовый сдвиг в диапазоне от 0 до 2п. Так как все фазовые сдвиги равновероятны,
сообщения, в которых все символы, представленные четырьмя значениями фазы QPSK-сигнала, смещены на одно и то же число позиций от 0 до 3, становятся принципиально неотличимыми.
Количество информации о четырех равновероятных сдвигах как раз и составляет два бита.
Заключение
В статье выполнен синтез численного метода нахождения количества информации, переносимой сигналом с известной многомерной плотностью распределения выборки, зависящей от передаваемого непрерывного или дискретного сообщения по формулам (3-6).
Синтезированы численные методы нахождения многомерной безусловной плотности распределения выборки сигнала, несущего непрерывное сообщение с использованием формул (17, 19, 23), или несущего дискретное сообщение - (28, 29).
Получено аналитическое выражение для многомерной условной плотности выборки сигнала произвольной формы, искаженного смесью АБГШ, рэ-леевских мультипликативных и равномерных фазовых коррелированных помех (9-16).
Ряд вычислительных экспериментов показал, что, несмотря на существенно многомерный характер интеграла (1) по выборкам, состоящим из десятков тысяч точек, предлагаемые численные методы показывают быструю сходимость к результату. На рассмотренных примерах абсолютная погрешность 0,5 бит с доверительной вероятностью 99 % достигалась не более, чем за 1000 шагов.
Применение синтезированных численных методов продемонстрировано на примере вычисления количества информации о расстоянии до объекта и его радиальной скорости, получаемой радиолокационной станцией после посылки сигнала из заданного числа импульсов (случай непрерывного сообщения) и на примере вычисления количества информации, содержащейся в заданном числе посылок с модуляцией QPSK (случай дискретного сообщения).
Количество информации вычислялось с двумя моделями помех: моделью АБГШ и моделью смеси АБГШ, мультипликативных рэлеевских и равномерных фазовых коррелированных помех. Таким образом, синтезированные в работе численные методы позволяют исследовать влияние смеси гаус-совских и негауссовских коррелированных помех и вида модуляции сигнала на теоретико-информационные характеристики радиоканала.
Список используемых источников
1. Шеннон К.Э. Работы по теории информации и кибернетике. М.: Изд-во иностранной литературы, 1963. 829 с.
2. Артюшенко В.М., Воловач В.И. Моделирование плотности распределения вероятности смеси сигнала, подверженного воздействию амплитудных искажений и аддитивной помехи // Радиотехника. 2017. № 1. С. 103-110.
3. Hoffmann G.S., Helberg A.S.J., Groble M.J. A Brief Survey of Channel Models for Land Mobile Satellite Communication // Proceedings of Southern Africa Telecommunication Networks and Application Conference (SATNAC). 2010.
4. Lakhzouri A., Lohan E.S., Saastamoinen I., Renfors M. Interference and Indoor Channel Propagation Modeling Based on GPS Satellite Signal Measurements // Proceedings of the 18th International Technical Meeting of the Satellite Division of The Institute of Navigation (ION GNSS 2005, Long Beach, USA, 13-16 September 2005). ION, 2005. PP. 896-901.
5. Коган И.М. Прикладная теория информации. М.: Радио и связь, 1981. 216 с.
6. Тырсин А.Н. Энтропийное моделирование многомерных стохастических систем. Воронеж: Издательство «Научная книга», 2016. 156 с.
7. Цветков О.В. Энтропийный анализ данных в физике, биологии и технике. СПб.: Санкт-Петербургский государственный электротехнический университет "ЛЭТИ" им. В.И. Ульянова (Ленина), 2015. 202 с.
8. Sethuraman V., Hajek B. Low SNR Capacity of Fading Channels with Peak and Average Power Constraints // Proceedings of the International Symposium on Information Theory (ISIT 2006, Seattle, USA, 9-14 July 2006). IEEE, 2006. D0I:10.1109/ ISIT.2006.261620
9. Li J., Bose A., Zhao Y.Q. Rayleigh flat fading channels' capacity // Proceedings of the 3rd Annual Communication Networks and Services Research Conference (CNSR'05, Halifax, Canada, 16-18 May 2005). IEEE, 2005. D0I:10.1109/CNSR.2005.52
10. Hamdi K.A. Capacity of MRC on Correlated Rician Fading Channels // IEEE Transactions on Communications. 2008. Vol. 56. Iss. 5. PP. 708-711. D0I:10.1109/TC0MM.2008.060381
11. Дядюнов А.Н., Силин Д.М. Информационный критерий эффективности систем оценки параметров сигнала // Электросвязь. 2019. № 10. С. 44-47.
12. Zhong Y., Xu H. InSAR system modeling and optimal baseline design based on information theory // Proceedings of the International Conference on Radar (RADAR, Guangzhou, China, 10-13 October 2016). IEEE, 2016. D0I:10.1109/RADAR.2016. 8059335
13. Сергиенко А.Б. Цифровая обработка сигналов. СПб.: БХВ-Петербург, 2011.
14. Колмогоров А.Н. Избранные труды. Том 3. Теория информации и теория алгоритмов. М.: Наука, 2005.
15. Соболь И.М. Численные методы Монте-Карло. М.: Наука, 1973.
16. Боровков А.А. Теория вероятностей. М.: Едиториал URSS, 2003. 470 с.
17. Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.: Издательство ЛКИ, 2015. 600 с.
18. Силин Д.М., Дядюнов А.Н. Моделирование сигнала космической связи с негауссовскими коррелированными искажениями // Ракетно-космическое приборостроение и информационные системы. 2020. Т. 7. № 3. С. 42-50. D0I:10.30894/issn2409-0239.2020.7.3.42.50
19. Сколник М. Справочник по радиолокации. Том 1. М.: Сов. радио, 1976. 456 с.
20. Квадратурная фазовая манипуляция (QPSK) // DSPLIB.org. URL: https://ru.dsplib.org/content/signal_qpsk/signal_ qpsk.html (дата обращения 26.01.2022)
* * *
Calculation of Information-Theoretic Properties of a Communication Channel with Real Signals and Non-Gaussian Noise
D. Silin12
iGeyser-Telecom, LTD, Moscow, 105118, Russian Federation 2Bauman Moscow State Technical University, Moscow, 105005, Russian Federation
Article info
D0I:10.31854/1813-324X-2022-8-1-91-99 Received 25 th January 2022 Revised 25 th February 2022 Accepted 25 th February 2022
For citation: Silin D. Calculation of Information-Theoretic Properties of a Communication Channel with Real Signals and Non-Gaussian Noise. Proc. of Telecom. Universities. 2022;8(1):91-99. (in Russ.) D0I:10.31854/1813-324X-2022-8-1-91-99
Abstract: The paper proposes numerical methods to calculate the data transfer rate over a communication channel with real signals in the presence of a mixture of Gaussian and non-Gaussian correlated noise. This paper considers the transmission of discrete and continuous messages. The estimate of the data transmission rate given by the proposed methods is much more accurate than the estimation given by the Shannon limit. The proposed methods can be used
for the information-theoretical analysis of the wide range of systems: systems of digital and analogous communication, radiolocation and radio navigation.
Keywords: numerical method, amount of information, capacity, multiplicative noise, phase noise, correlated noise, non-Gaussian noise, radiolocation, digital communication, analogous communication.
References
1. Shannon K.E. Works on Information Theory and Cybernetics. Moscow: Izdatelstvo inostrannoi literatury Publ.; 1963. 829 p. (in Russ.)
2. Artyushenko V.M., Volovach V.I. Modeling of probability density function of Signal Mixture Exposed to Amplitude Distortion and Additive Noise. Radiotekhnika. 2017;1:103-110. (in Russ.)
3. Hoffmann G.S., Helberg A.S.J., Groble M.J. A Brief Survey of Channel Models for Land Mobile Satellite Communication. Proceedings of Southern Africa Telecommunication Networks and Application Conference, SATNAC. 2010.
4. Lakhzouri A., Lohan E.S., Saastamoinen I., Renfors M. Interference and Indoor Channel Propagation Modeling Based on GPS Satellite Signal Measurements. Proceedings of the 18th International Technical Meeting of the Satellite Division of The Institute of Navigation, ION GNSS 2005,13-16 September 2005, Long Beach, USA. ION; 2005. p.896-901.
5. Kogan I.M. Applied Information Theory. Moscow: Radio i sviaz Publ.; 1981. 216 p. (in Russ.)
6. Tyrsin A.N. Entropy Modeling of Multidimensional Stochastic Systems. Voronezh: Nauchnaia kniga Publ.; 2016. 156 p. (in Russ.)
7. Tsvetkov O.V. Entropy Data Analysis in Physics, Biology and Engineering. St. Petersburg: ETU "LETI" Publ.; 2015. 202 p. (in Russ.)
8. Sethuraman V., Hajek B. Low SNR Capacity of Fading Channels with Peak and Average Power Constraints. Proceedings of the International Symposium on Information Theory, ISIT 2006, 9-14 July 2006, Seattle, USA. IEEE; 2006. D0I:10.1109/ISIT. 2006.261620
9. Li J., Bose A., Zhao Y.Q. Rayleigh flat fading channels' capacity. Proceedings of the 3rd Annual Communication Networks and Services Research Conference, CNSR'05,16-18 May 2005, Halifax, Canada. IEEE; 2005. D0I:10.1109/CNSR.2005.52
10. Hamdi K.A. Capacity of MRC on Correlated Rician Fading Channels. IEEE Transactions on Communications. 2008;56(5):708-711. D0I:10.1109/TC0MM.2008.060381
11. Dyadunov A.N., Silin D.M. Information Criterion of the Efficiency of Signal Parameters Estimation Systems. Electrosvyaz magazine. 2019;10:44-47. (in Russ.)
12. Zhong Y., Xu H. InSAR system modeling and optimal baseline design based on information theory. Proceedings of the International Conference on Radar, RADAR, 10-13 October 2016, Guangzhou, China. IEEE; 2016. D0I:10.1109/RADAR.2016. 8059335
13. Sergienko A.B. Digital Signal Processing. St. Petersburg: BHV-Petersburg Publ.; 2011. (in Russ.)
14. Kolmogorov A.N. Selected Works. Vol. 3. Information Theory and Theory of Algorithms. Moscow: Nauka Publ.; 2005. (in Russ.)
15. Sobol I.M. Numerical Monte Carlo Methods. Moscow: Nauka Publ.; 1973. (in Russ.)
16. Borovkov A.A. Probability Theory. Moscow: Editorial URSS Publ.; 2003. 470 p. (in Russ.)
17. Ivchenko G.I., Medvedev Yu.I. Introduction to Mathematical Statistics. Moscow: LKI Publ.; 2015. 600 p. (in Russ.)
18. Silin D.M., Dyadunov A.N. Simulation of a Space Communication Signal with Non-Gaussian Correlated Distortions. Rocket-Space Device Engineering and Information Systems. 2020;7(3):42-50. (in Russ.) D0I:10.30894/issn2409-0239.2020. 7.3.42.50
19. Skolnik M. Handbook of Radar. Vol. 1. Moscow: Sov. radio Publ.; 1976. 456 p. (in Russ.)
20. DSPLIB.org. Quadrature Phase Shift Keying. (in Russ.) Available from: https://ru.dsplib.org/content/signal_qpsk/signal_ qpsk.html [Accessed 26.01.2022]
СИЛИН Денис Михайлович
Сведения об авторе:
руководитель группы ООО «Гейзер-Телеком», аспирант кафедры информационных систем и телекоммуникаций Московского государственного технического университета им. Н.Э. Баумана (национальный исследовательский университет), dsln@mail.ru
https://orcid.org/0000-0002-5385-2181
