CC BY
17
_Доклады БГУИР_
2005 январь-март № 1
КРАТКИЕ СООБЩЕНИЯ
УДК 621.391.82
О ПОГРЕШНОСТИ ЦИФРОВОЙ МАТРИЦЫ РЕЛЬЕФА, ИСПОЛЬЗУЕМОЙ ПРИ РАСЧЕТЕ ПОТЕРЬ РАСПРОСТРАНЕНИЯ РАДИОВОЛН
В.И. МОРДАЧЕВ, А.К. МЕТЕЛЬСКИЙ, И.Б. СТРАШКО
Белорусский государственный университет информатики и радиоэлектроники П. Бровки, 6, Минск, 220013, Беларусь,
Топографо-геодезическое республиканское унитарное предприятие "Белгеодезия " Варвашени,17, Минск, 220029, Беларусь
Поступила в редакцию 19 октября 2004
В работе приведены результаты исследования ошибок определения высот по цифровой матрице рельефа (ЦМР), составленной по результатам сканирования бумажных карт масштаба 1:200000. Исследования проведены путем статистической обработки результатов сравнения высот, определенных по ЦМР, и истинных высот, определенных по фотограммам сгущения, для более чем 2000 точек избранного региона на территории Республики Беларусь. По полученным статистическим данным найден вид и параметры закона распределения вероятностей этих ошибок и доказана некорректность использования преобладающей гипотезы о нормальном распределении этих ошибок. Результаты работы могут быть использованы при оценке погрешностей расчета затухания при распространении радиоволн в условиях средне- и малопересеченной местности.
Ключевые слова: цифровая матрица рельефа, потери распространения радиоволн, электромагнитная совместимость.
Введение
Для расчета потерь распространения радиоволн (РРВ) при проектировании и координации частотных присвоений, а также при анализе и обеспечении условий электромагнитной совместимости радиосистем различных диапазонов и служб все чаще используются ЦМР. При расчете зон обслуживания и зон помех радиоэлектронных средств (РЭС), при расчете пролетов радиорелейных линий (РРЛ) с использованием баз данных (БД) ЦМР существенное влияние на результаты расчета оказывают погрешности определения абсолютных высот мест размещения РЭС с использованием ЦМР. Поэтому большое значение имеет определение вида и параметров закона распределения вероятностей, которому эти погрешности подчиняются.
Существует мнение, что ошибки определения абсолютных высот точек с использованием топографических карт подчиняются нормальному закону распределения [1, 2]. Однако есть и мнение, согласно которому этот закон неадекватен [3, 4]. Работа посвящена исследованию статистических характеристик ошибок определения абсолютных высот мест с использованием ЦМР, полученных с использованием технологии сканирования бумажных носителей топографических карт масштаба 1:200000.
Исходные данные
Материалом для сравнения с оценками абсолютных высот мест, полученных с использованием БД ЦКМ, послужили координаты и высоты точек фотограмм сгущения на Гродненский район Республики Беларусь. Высоты этих точек приняты за истинные. Ошибку определения высоты А, м, по БД ЦМР определим следующим образом:
Л = Иг - И,, (1)
где Иг — истинная высота точки, м; Иг — высота точки, полученная с использованием БД ЦМР, м.
На картах масштаба 1:200000 для плоскоравнинных открытых, плоскоравнинных заселенных, равнинных пересеченных, всхолмленных районов высота сечения рельефа составляет 20 м [5]. Поэтому примем, что ошибка определения абсолютной высоты места будет находиться в промежутке между -20 и 20 м.
Для определения вида закона распределения вероятностей была взята выборка значений И абсолютной высоты места и ее оценки Иг для 2074 точек и получен статистический ряд значений погрешности А определения абсолютной высоты места с использованием БД ЦМР.
Результаты и их анализ
Полученный статистический ряд, состоящий из 14 интервалов, представлен в табл. 1, где I7, м, — интервалы значений ошибки А; п7 — количество значений ошибки А, приходящихся на 7-й интервал; р7=п7/п — частота попадания значения ошибки А в 7-й интервал, п=2074.
Таблица 1. Статистический ряд
4м -20 -18 -15 -12 -9 -6 -3 0 3 6 9 12 15 18
-18 -15 -12 -9 -6 -3 0 3 6 9 12 15 18 20
п 15 23 24 60 95 207 348 472 348 236 113 75 40 18
Рг 0,0036 0,0037 0,0039 0,0096 0,015 0,033 0,056 0,076 0,056 0,038 0,018 0,012 0,0064 0,0043
Статистический ряд, оформленный в виде гистограммы, изображен на рис. 1 в виде ломаной линии. Высота прямоугольников Иг на гистограмме получается путем деления частоты каждого интервала р! на его длину.
Функция распределения плотности вероятности ошибки определения высоты точки была получена на основе двух законов: Коши и нормального, выражения (2) и (3) соответственно [6]:
а 1
Ж ( х) = - --1-г, (2)
п (х - ц) + а
1
Ж(х) = е 2а . (3)
л/2па
Полученная плотность распределения Ж(х) имеет следующий вид:
1.311
(х - 0,9)2 + 4,122
Ж(х) = ---- при -20<х<М,
Ж(х) = 0,093 е 148 при М<х<20, (4)
где М=1,72м — медиана.
( х+4)2
Закон распределения имеет следующие параметры: математическое ожидание ш=1,68 м,
дисперсия ^=44м2, медиана М=1,72 м, мода mod=0,9 м.
Для проверки гипотезы о функции плотности распределения вероятности случайной переменной применим критерий согласия Пирсона-Романовского [7]. Метод состоит в следующем. Определяется случайная переменная Q2:
д2 = £ (п - т )2
Ш:
(5)
где к — число интервалов, на которые разбивается область случайной переменной, п7 — число наблюденных значений из 7-го интервала, ш7 — теоретически ожидаемое число значений в предположении правильности гипотезы (ш7=пр7); п — объем выборки, Далее определяется число степеней свободы V:
V = к - г -1,
(6)
где к — число интервалов, на которые разбивается область случайной переменной, г — число параметров плотности распределения вероятности (в нашем случае г=4), Далее проверяется выполнение следующего соотношения:
д2 -V
< 3.
(7)
Если соотношение выполняется, то гипотеза о виде функции плотности распределения вероятности случайной переменной верна.
Для гипотезы об адекватности модели (4) имеем: д2=20,5, v=9, и левая часть соотношения (7) равна 2,7<3. Следовательно, модель (4) может быть признана адекватной.
Закон распределения (4) изображен на рис. 1 сплошной линией.
Сопоставим полученную функцию с нормальным законом. Для этого возьмем нормальный закон с математическим ожиданием и дисперсией как у полученного закона. На рис. 2 изображены две функции: нормальной плотности распределения (штрих-пунктирная линия) и плотности распределения, полученной по статистическим данным (сплошная линия).
Для сравнения двух функций с левых (отрицательных) "хвостов" распределения будем отрезать по одинаковому проценту ошибки р,%, и фиксировать разницу 5х7 = Ахп7 — Ахя-, как это
показано на рис. 2, где АхП1 - значение ошибки, определенное по нормальному закону, Ахя- - значение ошибки, определенное по закону, полученному по статистическим данным. Аналогичные действия проведем для правых (положительных) "хвостов" распределения.
Рис. 1. Закон распределения вероятностей ошибки
7 = 1
«.к»
0.06
№<Дх) 0.04
0.02
1 Л
1/ /1
/ / / / \\ \\ Ч-
/ / /■ / \
/
-20 -15 -10 -5 0 5 10 15 20 ¿X, м
Рис. 2. Сравнение нормального распределения вероятностей с распределением (4)
Рис. 3. Результат сравнения квантилей нормального распределения и распределения (4)
На рис. 3 показана зависимость 5х(р%), где функция, обозначенная штрих-пунктирной линией, — результат сравнения положительных "хвостов" распределений, а функция, обозначенная сплошной линией, — результат сравнения отрицательных "хвостов" распределений.
Заключение
Как видно из рис. 3, наиболее значительные отклонения закона, полученного по статистическим данным, от нормального имеют место в отрицательной части. Из полученных результатов можно сделать следующие выводы.
При оценке погрешности определения высоты точки по ЦМР применение нормального закона является некорректным, за исключением случая, когда используются квантили распределения по вероятностям р=0,08...0,1 (левая часть распределения) и р>0,6 (правая часть распределения).
Смещение функции плотности распределения вероятностей в положительную сторону свидетельствует о наличии систематической ошибки при оценке абсолютной высоты места с использованием ЦМР рассматриваемого вида.
Вероятность ошибки определения высоты в большую сторону составляет 63%, вероятность ошибки определения высоты в меньшую сторону составляет 37 %. Это свойство позволяет сделать вывод о том, что в целом расчет потерь РРВ на основе использования БД ЦМР рассматриваемого вида носит оптимистический характер: вероятность ошибки расчета потерь РРВ, обусловленной погрешностью определения высоты подвеса антенны РЭС, в меньшую сторону будет больше вероятности ошибки расчета потерь распространения сигнала в большую сторону.
Иная ситуация наблюдается при использовании моделей РРВ, учитывающих высоту препятствий на трассе распространения радиоволн (в частности, моделей РРВ в соответствии с Рекомендациями ITU-R P.452-11, ITU-R P.1546-1 и др.). При справедливости модели (4) погрешности определения высоты препятствия оценки затухания сигнала на закрытых и полузакрытых трассах РРВ оказываются пессимистическими: вероятность ошибок в сторону уменьшения потерь будет меньше вероятности ошибок в сторону увеличения потерь. Поэтому совокупное влияние погрешностей определения высот установки антенн РЭС и высот препятствий на трассах РРВ на результаты расчета потерь при РРВ над земной поверхностью на основе использования БД ЦМР рассматриваемого вида требует дополнительных исследований.
ERRORS OF DIGITAL TERRAIN MODEL FOR RADIOWAVE PROPAGATION LOSSES CALCULATION
V.I. MORDACHEV, A.K. METELSKY, IB. STRASHKO
Abstract
Results of the surface altitude errors estimation using digital terrain model (DTM) based on the printed maps scanning process are given. The scale of the map scanned is 1:200000. Statistical analysis of the differences between the surface altitudes determined according to DTM, and reference surface altitudes determined using air triangulation for more than 2000 places of the selected region of Belarus territory is realized. A probability distribution form for surface altitude errors using DTM of above mentioned type is presented. An incorrectness of usage of prevailing hypothesis about normal distribution of these errors is illustrated. Presented results can be used for propagation losses calculation errors estimation conformably to low-cross and middle-cross areas.
Литература
1. Хаимов З.С. // Геодезия и картография. 1984. № 12. C. 13-16.
2. Хохлов Г.П. // Геодезия и картография. 1987. № 10. C. 19-23.
3. КемницЮ.В. // Геодезия и картография. 1957. № 10. C. 21-29.
4. Маргулев М.Л. // Геодезия и картография. 1984. № 11. C. 10-15.
5. Южанинов В.С. Картография с основами топографии: Учеб пособие. М., 2001.
6. Заездный А.М. Основы расчетов по статистической радиотехнике. М., 1969.
7. Бостанджиян В.А. Определение плотности вероятности. Необходимый объем выборки М., 1971.
