Сравнительная характеристика результатов двух статистических методов анализа разностей повторных измерений Текст научной статьи по специальности «Математика»

Геодезия

УДК 519.2:528.1

СРАВНИТЕЛЬНАЯ ХАРАКТЕРИСТИКА РЕЗУЛЬТАТОВ ДВУХ СТАТИСТИЧЕСКИХ МЕТОДОВ АНАЛИЗА РАЗНОСТЕЙ ПОВТОРНЫХ ИЗМЕРЕНИЙ

Наталья Борисовна Лесных

Сибирская государственная геодезическая академия, 630108, Россия, г. Новосибирск,

ул. Плахотного, 10, кандидат технических наук, профессор кафедры прикладной информатики СГГА, тел. (383)343-18-53

Владимир Евгеньевич Мизин

Сибирская государственная геодезическая академия, 630108, Россия, г. Новосибирск,

ул. Плахотного, 10, старший преподаватель кафедры геодезии СГГА, тел. (383)344-36-60, e-mail: [email protected]

Исследована эффективность вероятностно-статистического анализа разностей повторных наблюдений сторон полигонометрического хода для выявления смещений пунктов геодезической основы при мониторинге линейных объектов. Выполнено сравнение с результатами корреляционного анализа тех же разностей.

Ключевые слова: мониторинг, смещения, анализ, разности, критерий, статистика.

THE COMPARATIVE CHARACTERISTIC OF RESULTS OF TWO STATISTICAL METHODS OF THE ANALUSIS OF DIFFERENCES OF REPEATED MEASUREMENTS

Natalya B. Lesnykh

Siberian State Academy of Geodesy, 630108, Russia, Novosibirsk, 10 Plakhotnogo, St., Prof. Department of applied information SSGA, tel. (383)343-18-53

Vladimir E. Mizin

Siberian State Academy of Geodesy, 630108, Russia, Novosibirsk, 10 Plakhotnogo, senior lecturer, Department of geodesy SSGA, tel. (383)344-36-60, e-mail: [email protected]

The research of the probability-statistical analysis is presented. It deals with the differences of traverse sides repetitive observations, to reveal displacements of network points in process of linear objects monitoring. The results have been compared with those of the correlation analysis of the same differences.

Key words: мonitoring, displacement, analysis, difference, criterion, statistics.

Статистические исследования разностей повторных измерений можно выполнять, используя алгоритмы вероятностно-статистического или корреляционного анализа. Они позволяют установить, носят ли эти разности случайный характер. Результаты вероятностно-статистического анализа разностей моделей случайных ошибок измерений, подтверждающие данный вывод, приводятся в монографии [1]. Результаты корреляционного анализа разностей повторных измерений при мониторинге линейных объектов представлены в работе [2]. Во

41

Геодезия

втором случае объектами исследования являются и модели, и разности длин сторон реального полигонометрического хода. Разности длин сторон полигонометрического хода в количестве n = 17 вычислены по двум парам отстоящих по времени рядов измерений тахеометром фирмы SOKKIA SET 610 со средней квадратической ошибкой измерения m = 3,4 мм, полученной по разностям d(1 - 2), и m = 3,8 мм - по разностям d(3 - 4).

Для оценки сравнительной эффективности рассматриваемых статистических способов в дополнение к результатам исследования моделей выполнен вероятностно-статистический анализ разностей повторных измерений сторон.

Алгоритм вероятностно-статистического анализа [1] включает определение оценок параметров и числовых характеристик, которые в целях повышения точности результатов вычисляются без группирования данных.

___ n

Мх = х = X xi/n i=1

- оценка математического ожидания (среднее арифметическое),

s

n 2 X (Xi - x)2/(n-1)

i=1

(1)

(2)

оценка среднего квадратического отклонения,

n

=

Ек = X(xi-x) /n i=1

оценка центрального момента к-го порядка,

s =m3/ s3

оценки асимметрии кривой распределения,

ss =

6(n -1)

^ (n + 1)(n + 3)

(3)

(4)

(5)

- оценка среднего квадратического отклонения асимметрии.

Если S £ t • Og, асимметрия несущественна, t - аргумент интеграла вероятностей Ф(1).

Е =Е4/S 4 - 3

(6)

- оценка эксцесса,

OE

24n (n - 2)(n - 3)

(n -1)2 (n + 3)(n + 5)

- оценка среднего квадратического отклонения эксцесса.

(7)

42

Геодезия

Если

E

£ t • Oe , эксцесс несущественный.

Соответствие эмпирического и теоретического распределений может быть проверено также критерием Пирсона c , для чего следует выполнить группирование данных и определение эмпирических n и теоретических n частот.

2 к С2 = z-

1=1

(n - nt)2 n1

(8)

- статистика критерия Пирсона c2 .

2 2

Если вероятность достигнутого уровня значимости P(c > Сэ) мала, гипотезу о нормальном распределении следует отклонить. В данном исследовании критерий Пирсона х не применялся ввиду недостаточно большого объема исходных данных.

Установить наличие систематических ошибок позволяет проверка свойств случайных ошибок измерений, обусловленных нормальным законом их распределения.

1. Случайные ошибки А по абсолютной величине с заданной вероятностью р не превосходят определенного предела:

р (|А| < О ) = 0,683; р (|А| < 2 О ) = 0,954; р (|А| < 3 О ) = 0,997.

2. Положительные и отрицательные случайные ошибки, равные по абсолютной величине, равновозможны:

р (А > 0) = р (А < 0) = 0,5.

3. Малые по абсолютной величине случайные ошибки встречаются чаще, чем большие:

р ( О < |А| < 2 О ) = 0,271; р (2 О < |А| < 3 О ) = 0,043.

4. Среднее арифметическое случайных ошибок при возрастании числа наблюдений по вероятности стремится к нулю:

Вер. lim [А]/п = 0 при n^ro.

Первые три свойства проверяются критерием равенства вероятностей по формуле

Р(| k - np | < to) = в, (9)

43

Геодезия

где к - число ошибок в заданном интервале; n - число всех ошибок, подлежащих исследованию; р - теоретическая вероятность попадания ошибки в заданный интервал; С = у/npq ; q = 1 - p; в = Ф(1) - доверительная вероятность.

Если неравенство (9) выполняется, можно считать, что данное свойство имеет место, гипотеза не противоречит результатам измерений.

Если k — np| > ts, гипотеза о наличии данного свойства отвергается.

Четвертое свойство проверяется критерием равенства средних. Статистика критерия

t э =

А—А,

э s Л/n ’

(10)

где А = [А]/п - среднее арифметическое случайных ошибок; А о = М а= 0 -

теоретическое среднее, равное математическому ожиданию случайной ошибки измерения.

Длины сторон в рядах наблюдений № 3 и 4, вследствие изменения положения пунктов хода, получили систематические ошибки смещения:

третий ряд измерений 83^ =— 6 мм (i = 2, 3, ..., 16), б317) = 6 мм; четвертый ряд измерений d4j) =— 7 мм (j = 2, 3, ., 16), б417) = 7 мм.

Результаты анализа разностей повторных измерений сторон приведены в таблице.

Вычисления произведены в системе Mathcad по программе расчета, описание и образец которой приведены в монографии [1]. Значения функции распределения Стьюдента t заданы встроенной функцией pt(t, n - 1) системы Mathcad. Для двустороннего критерия равенства средних P(t > к) = 2 (1 - pt(t, n - 1)).

Результаты анализа позволяют сделать следующие выводы.

Разности d(1 - 2) случайны и анализ это подтверждает.

Разности d(3 - 4) случайны, ряды измерений № 3 и 4 содержат близкие по своей величине ошибки смещения, которые компенсировались.

Разности d(1 - 3) не случайны:

S

> 2 о§; не выполняется второе свойство

случайных ошибок 5,5 > 4 ,12; невелика вероятность P(t > 1э) = 0,01.

Разности d(2 - 4) не случайны: не выполняется второе свойство случайных ошибок 6,2 > 4,12; вероятность P(t > к) = 0,004 - мала.

Разности d(1 - 4), d(2 - 3) не случайны: превышают установленные допуски асимметрия и эксцесс, не выполняются все свойства случайных ошибок для d(1 - 4), второе и четвертое - для d(2 - 3).

Таким образом, вероятностно-статистический анализ позволил правильно установить неслучайный характер четырех рядов разностей повторных измерений.

44

Геодезия

Результаты статистического анализа

Таблица

Критерии Разности d

1-2 3-4 1-3 1-4 2-3 2-4

M(d) -0,82 -0,47 5,47 5,00 6,29 5,82

s 4,84 5,34 7,88 6,30 7,06 7,12

S -0,25 -0,27 -1,10 -1,77 -1,05 -0,90

2 sS 1,03

E -0,46 -0,26 1,46 3,16 3,04 0,86

2 sE 1,74

k( d > s) 11 12 9 7 9 9

k( d > 2 s) 16 16 15 16 15 16

k( d >3 s) 17 17 17 17 17 17

k(d > 0) 9 10 14 16 16 15

Ik—np 1) 0,61 0,39 2,61 4,61 2,61 2,61

1 ~l 7 0,21 0,22 1,22 0,22 1,22 0,22

2) 0,05 0,05 0,05 0,05 0,05 0,05

3) 0,5 1,5 5,5 7,5 7,5 6,5

0,39 0,61 1,39 4,39 1,39 2,39

0,27 0,27 1,27 0,27 1,27 0,27

2 о =2 ^/npq 1) 3,84; 1,73; 0,45; 2) 4,12; 3) 3,67; 1,67

ta 0,70 0,36 2,86 3,27 3,68 3,37

P(t > ta) 0,49 0,72 0,01 0,005 0,002 0,004

Корреляционный анализ разностей d(1 - 3) и d(2 - 4) систематических влияний не выявил. Оценка коэффициента корреляции Г = 0,336 не превысила длины доверительного интервала ^ —11 = 0,891, вычисленного с использованием функции Фишера z при t = 2. Тем не менее, ошибка смещения была установлена корреляционным анализом другой пары разностей d(1 - 4), d(2 - 3). В этом случае Г = 0,684 при Г2 — ri = 0,586.

Корреляционный или вероятностно-статистический анализ разностей отстоящих по времени повторных измерений рекомендуется включать в программу исследований результатов геодезических наблюдений при мониторинге инженерных, в том числе линейных, объектов.

Алгоритм корреляционного анализа проще.

Эффективность вероятностно-статистического анализа, в связи с использованием различных критериев и характеристик, выше.

45

Геодезия

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Лесных Н.Б. Объекты статистического анализа в геодезии: монография. - Новосибирск: СГГА. - 2010. - 128 с.

2. Мизин В.Е. Корреляционный анализ разностей повторных наблюдений геодезической основы при мониторинге линейных объектов // Изв. Вузов. Г еодезия и аэрофотосъемка. - 2011. - № 3. - С. 16-18.

Получено 14.02.2012

© Н.Б. Лесных, В.Е. Мизин, 2012

46