Исследование влияния размеров выборок численностей организмов в пробах на их вероятностно–статистические свойства методом имитационного моделирования гидробиологической съемки Текст научной статьи по специальности «Математика»

Исследование влияния размеров выборок численностей организмов в пробах на их вероятностно-статистические свойства методом имитационного моделирования

съемки

Хазов А.Р. [email protected]) Институт водных проблем Севера, КарНЦ РАН Введение.

В процессе планирования полевых гидробиологических исследований важное значение имеет определение необходимого количества проб, требуемых для надежных количественных оценок показателей степени развития популяций, образующих изучаемое сообщество. Основным параметром, служащим для этой цели, является их плотность (численность особей на единицу площади или объема), для вычисления которой используются выборочные статистики - среднее выборки и ее дисперсия. Кроме этого, от статистической репрезентативности данных зависит корректность применения математических методов их анализа. Вместе с тем, эта проблема имеет еще один немаловажный аспект. Большинство параметрических методов обработки данных основано на предположении об их нормальности, или, по крайней мере, на нормальном распределении выборочных статистик (средних). Так как проверку на нормальность по данным реальной гидробиологической съемки можно провести только для исходных рядов численностей организмов в пробах, которые, как было показано ранее (Хазов, 2000, 2004), соответствуют иным математическим моделям, то под сомнением оказывается корректность применения многих статистических методов, используемых для обработки гидробиологической информации. Однако, их использование допустимо, если для рядов наблюдений размером N справедлива центральная предельная теорема - распределение выборочных средних подчиняется нормальному распределению независимо от типа распределения исследуемых переменных (Айвазян и др., 1983). Таким образом, для гидроэкологических исследований актуально определение минимального количества проб в выборке для которых данное условие безусловно выполняется.

Следует отметить, что значение NN зависит от характера размещения особей в пространстве, от размеров и способа отбора проб, так как перечисленные факторы оказывают влияние на вероятностно-статические свойства исходных эмпирических распределений численностей организмов в пробах.

Единственным эффективным методом исследования статистических свойств гидробиологических выборок в зависимости от их размера следует признать имитационную модель гидробиологической съемки (Хазов, 2004), так как на базе реальных полевых съемок невозможно получить требуемого количества данных. В то время, как применение модели в этих целях предоставляет исключительную возможность изучения абсолютных погрешностей между генеральными параметрами и выборочными статистиками, не доступную иным методам.

В предлагаемой работе представлены результаты статистического анализа модельных выборок различного размера, полученных из имитаций случайных размещений невзаимодействующих организмов на однородном биотопе.

Экспериментальные модельные комплексы.

С целью анализа влияния размеров выборок на их статистические свойства использовались две модификации модели с равными ожидаемыми средними в выборках. Одна - абсолютно рандомизированная со случайным начальным размещением объектов, другая - с произвольными центрами инициации. (Полное описание модели представлено в предыдущей работе (Хазов, 2004): "Исследование влияния размеров проб на вероятностно-статистические свойства выборок численностей организмов методом имитационного моделирования гидробиологической съемки").

гидробиологической

Параметры модификаций модели, имитирующих различные варианты случайных размещений были следующими: количество объектов - 10000,

количество точек инициации - 10000 (рандомизированное), 1000 (псевдоагрегированное),

тип их размещения - случайный,

распределение объектов в центрах - Пуассоновское,

направление движения - 360,

скорость перемещения - 0.01 единицы от стороны игрового поля,

продолжительность перемещений - 100,

ожидаемое среднее количество объектов в выборке - 5,

количество проб - 100,

способ отбора проб - случайный.

В каждом варианте модельных экспериментов генерировалось по 100 выборок объемом 5, 10, 25, 50 и 100 проб.

На рис. 1 представлены финальные размещения объектов после полного цикла их перемещений по модельному полю.

о

я, 0°

о

• .о-'. .

■ о ■ ■ о .. ." • т=- ""... 'С! "

о о о

Э о ° о

° о

Я ' А

Рис. 1. Финальные расположения объектов в рандомизированных (К) и псевдоагрегированных (А) вариантах случайных размещений особей в пространстве.

Проверка на нормальность распределений выборочных статистик проводилась по критерию Колмогорова-Смирнова (Большев, Смирнов, 1965) с поправкой Лиллефорса (ЬПНейге, 1967).

Результаты анализа.

Анализ соответствия исходных рядов наблюдений вероятностным распределениям показал, что выборки объемом 25 - 100 проб из рандомизированных размещений (см. рис. 1, Я) во всех случаях, кроме одного, хорошо аппроксимировались распределением Пуассона. В одном из размещений, в серии экспериментов со 100 пробами, было отмечено спонтанное образование случайных скоплений объектов, выборка из которого достоверно отличалась от него, но соответствовала второй функции семейства сопряженных распределений Пуассона (СРП) (Хазов, 2000, 2004).

Выборки из псевдоагрегированных (дисперсных) (см. рис. 1, А) размещений объектов, содержащие 25 - 100 проб, хорошо описывались вероятностными функциями этого же семейства. Следует отметить, что определение соответствия эмпирических распределений математическим моделям в области малых выборок (п<25 проб) оказалось невозможным, так как количество дат в классах, необходимых для вычисления значений хи-квадрат, было не достаточным.

Рассмотрим особенности распределения выборочных средних в зависимости от типа финального размещения объектов.

Основные статистические характеристики этого параметра в выборках из рандомизированных размещений объектов показывают, что его распределение не отличается от нормального для рядов наблюдений, содержащих свыше 5 проб (табл. 1, рис. 2).

Распределение средних численностей в организмов в совокупностях проб, полученных из дисперсных размещений особей, становится нормальным для выборок, содержащих 25 и более проб (табл. 1, рис. 2).

Сравнивая статистики, характеризующие вариации средних не трудно заметить, что вариабельность рядов данных, полученных из дисперсных размещений объектов, значительно выше, чем, чем у выборок, взятых из рандомизированных размещений. Это соотношение не зависит от размеров исходных выборок (табл. 1).

Таблица 1.

Основные статистические характеристики средних значений численностей рандомизированных (Я) и дисперсных (А) выборок.

Выб. M min max Dev. -1.96Dev +196Dev As Ex Pl%

100R 5.02 4.57 5.59 0.23 4.56 5.47 0.43 -0.23 >20

100A 5.04 3.00 6.60 0.59 3.88 6.19 -0.03 0.14 >20

50R 4.95 4.06 5.60 0.28 4.39 5.50 -0.21 0.21 >20

50A 4.96 2.42 7.52 0.95 3.09 6.83 0.16 -0.09 >20

25R 4.95 3.92 6.08 0.43 4.10 5.79 -0.04 0.24 >20

25A 4.87 1.56 9.72 1.31 2.30 7.44 0.21 0.26 >20

10R 5.02 3.80 6.80 0.61 3.83 6.21 0.26 -0.02 >20

10A 4.63 0.30 11.20 1.78 1.14 8.12 0.47 0.56 <1

5R 4.77 2.80 7.80 0.96 2.88 6.66 0.68 0.79 <5

5A 4.48 0.00 15.80 2.61 -0.65 9.60 0.61 0.63 <5

Примечание: M - среднее, min, max - минимальное и максимальное значение, Dev - стандартное отклонение, As - асимметрия, Ex - эксцесс, PL% - .вероятность соответствия нормальной функции.

K-S Ü-.O076O, р= .20, Lilliefors р*,05

<-S 1 V ■ I, 20; Lilliefors Г 05

_

-2 0 2

MICA

s«.10; Lilliefor

Wmzrn

Л

M23R

<-Sd=.07241,p>.20; Lilliefors

M25A

.20; Lilliefors .20

_m

Рис. 2. Аппроксимация нормальной функцией эмпирических распределений средних численностей рандомизированных (слева) и дисперсных (справа) размещений объектов в пространстве.

В виду экологической важности оценки средних значений численностей организмов был проведен анализ отклонений выборочных средних от ожидаемого генерального параметра, который по условиям эксперимента известен и равен 5 объектам (ДМ=М-5).

Проверка на нормальность эмпирических распределений ДМ показала, что их достоверная аппроксимация этой функцией отмечается для рандомизированных выборок объема свыше 5 проб и дисперсных - свыше 10, что согласуется с результатами тестов на нормальность средних значений численностей (табл. 2, рис. 3). Однако анализ отклонений выборочных средних от генерального параметра установил, что их значения в области малочисленных выборок

сдвинуты в сторону отрицательных величин. При этом степень сдвига выше у дисперсных выборок (табл. 2, рис. 3).

Таблица 2.

Основные статистические характеристики отклонения средних значений численностей от генерального параметра рандомизированных (Я) и дисперсных (А) выборок.

Выб. AM min max Dev. -1.96Dev +1.96Dev As Ex Pl%

100R 0.02 -0.43 0.59 0.23 -0.44 0.47 0.43 -0.23 >20

100A 0.04 -2.00 1.60 0.59 -1.12 1.19 -0.03 0.14 >20

50R -0.05 -0.94 0.60 0.28 -0.61 0.50 -0.21 0.21 >20

50A -0.04 -2.58 2.52 0.95 -1.91 1.83 0.16 -0.09 >20

25R -0.05 -1.08 1.08 0.43 -0.90 0.79 -0.04 0.24 >20

25A -0.13 -3.44 4.72 1.31 -2.70 2.44 0.21 0.26 >20

10R 0.02 -1.20 1.80 0.61 -1.17 1.21 0.26 -0.02 >20

10A -0.32 -4.70 5.10 1.41 -3.08 2.45 0.48 1.49 <1

5R -0.23 -2.20 2.80 0.96 -2.12 1.66 0.68 0.79 <5

5A -0.52 -5.00 10.80 2.61 -5.65 4.60 0.61 0.63 <5

Примечание: ДМ - среднее отклонение, min, max - минимальное и максимальное значение, Dev - стандартное отклонение, As -асимметрия, Ex - эксцесс, PL% - .вероятность соответствия нормальной функции.

DMSR

I---S Ü- 09760, р? ■ I, II ■ II . I I 'i

K-S Ü-.05551, р= .20, Lilliefors р = .05

K-S d=.DBB82, р> .20; Lilliefors р> .20

<-S d=.081 35, р=.05 ; Lilliefors р<.01

-2 -1.5 -1 -0.5 0 0.5 1 1.5 2

DM2JR

K-S d=.07241, р> .20; Lilliefors р» .20

<-S d=.03392, рь .20; Lilliefors .20

Рис. 3. Аппроксимация нормальной функцией эмпирических распределений рандомизированных (слева) и дисперсных (справа) размещений объектов в пространстве.

ДМ

В отличие от выборочных средних, для которых генеральный параметр задавался в явном виде, независимо от конечного размещения организмов, величина их дисперсий априорно не известна, так как она зависит от многих параметров модели - количества точек инициации, скорости перемещения объектов, направления и времени его движения, а так же от размеров пробоотборника. Однако для изначально рандомизированных выборок (см. рис. 1, Я) значение ожидаемой дисперсии известно - оно равно генеральной средней, так как ранее было показано, что в этом случае численности особей в пробах, как правило, распределены согласно Пуассоновчкой функции, так как спонтанное образование ложно агрегированных размещений особей событие довольно редкое. Действительно, усредненное среднее количество объектов в выборках для рандомизированных размещений приблизительно равно средней их дисперсий, однако диапазон варьирования дисперсий существенно выше, чем средних. Эта закономерность

еще сильнее выражена у выборок из дисперсных размещений объектов в пространстве, что наглядно отражает величина их коэффициентов вариаций (табл. 3).

Таблица 3.

Показатели вариабельности средних значений численностей и их дисперсий рандомизированных (Я) и дисперсных (А) выборок.

Выб. М Б Маеу. Баеу. Мсу% Бсу%

100Я 5.02 4.97 0.23 0.81 4.63 16.36

100А 5.04 37.31 0.59 7.69 11.74 20.61

50Я 4.95 4.94 0.28 0.94 5.69 18.93

50А 4.96 37.57 0.95 13.29 19.23 35.37

25Я 4.95 4.97 0.43 1.86 8.72 37.39

25А 4.87 37.52 1.31 17.39 26.90 46.35

10Я 5.02 5.29 0.61 2.37 12.14 44.78

10А 4.63 35.22 1.78 24.89 38.45 70.66

5Я 4.77 4.65 0.96 3.37 20.23 72.41

5А 4.48 35.69 2.61 39.38 58.39 110.36

Примечание: М - среднее, Б - средняя дисперсия, Mdev, Ddev - стандартные отклонения средних и дисперсий, Мсу, Бст -коэффициенты вариаций средних и дисперсий.

Проверка на нормальность распределения дисперсий дала отрицательный результат во всех вариантах экспериментов. Тем не менее, оказалось, что оно с высокой степенью точности аппроксимируются логнормальной функцией, за исключением выборок, состоящих из 5 проб, отобранных из дисперсных размещений объектов (рис. 4).

УямЫ« ЕЖ ; азйпЬиНт: Т/агиЫб 1>5А ; <1ВВ1Ь1Я10П: Ьодлоаш1

Ка1тадат¥-3т1гпа¥ с1 = .0734713, р = п.е. Ко1тодогоу-Зпжпоус1 = .1097337, р < .01

СЫ-5аиаге: 13.39338, с1Г= 7.р = .0631224 СГм-Япиага' 78 7П891 г1Г= 6 п= ПППППРи

0 2.132 4.264 6.396 8.528 10.66 12.792 14.924 17.0= 1.0В6 3.198 5.33 7.462 9.594 11.726 13.858 16

7шиЫе ПОЙ ; (ЗляпЬшми: 1лдмтм1 УагпЫе С10А ; йипЫпЬп: 1лдл<тм1

Ко1тодогоу-8пжпоус1 = .0500271, р= п.з. Ко1тодог(№Зт1гп(™с1= .0779821, р < .10

СЫ-Баиаге: 2.305700, С1Г = 4. р = .67971 90 ГСЫ-Яннанг 1 8 4?П6Я М= Яп=П183П77

Т/имЫб 02514 ; йиЬЛчЛюи: I031mn.1l

Ко1тодогоу-Зт1гпоу с1 = .0523856, р = п.з. СЫ-Здиаге: 1.726153, с!Г= 3. р = .6311395

Я

УшиЫе 11:'/. , а^япЬчюи: Ьи^.т^Д Ко1тодогоу-5ггмгпоу с! = .0635313. р .20 С|1№чиаге: 6.03611 1, ЙГ= 5, р= .3027486

0 1 1 22 33 44 55 66 77

Рис. 4. Аппроксимация логнормальной функцией эмпирических распределений выборочных дисперсий рандомизированных (слева) и дисперсных (справа) размещений объектов в пространстве.

Рассмотрим распределение выборочных отношений дисперсий к среднему (К=Б/М), которое часто используется в гидробиологических исследованиях в качестве простейшего

индекса агрегированности, а в модели сопряженных распределений Пуассона служит оценкой параметра определяющего соответствующую ему функцию из этого семейства (Хазов, 2004).

Эмпирические функции распределения этого показателя также хорошо аппроксимировались логнормальной функцией даже в области значений, соответствующих малым выборкам (рис. 5).

УапаЫг К5Е ; й1япЬи11оп: Ьйягопш!

Ко1тодогоу-31гнгпо7 с1 = .0933755, р = п.е. СЫ-Бциаге: 9.783734, df= 2, р = .0075130

УэшЫе К10Е ; йкйаЬийоп: Ьо§пит»1

Ко1тодого¥,-5пжпоу с! = .0351327, р = п.б. СЫ-Зчиаге: 5.465209, с№= 4, р = .2423303

I

УтаЫе К5А , ййЬйгаШп: Ко1тодогот-5т1гпоу с) = .0730203, р < .10 СШ-Здиагв: 25.75579, с!Г= 1 4, р = .0278439

>

/

1

т ж.^ ................................................................

ж ШЖШШШг-.—

\ШаЫс К10А ; йляпЬшагаг Глдрпптм!

Ко1тодо1ш-Згшгпо¥ с! = .0394398, р = п.$. СМ-Бчизге: 2.109064, с!Г= 5, р = .8338532

I

1ШЕ ; ФяпЬхып: Ьодмппа! Ко1тодагау-Зт1гпоу с! = .0586942, р = п.г. СИ-Эриаге: 4.690194, df= 3, р = .1959624

- |р ш

/ щ

/ щ

1 н

ж

\МаЫе К35А ■ <Цягйпя1<т: 1д@)шты1

Ко1тодат¥-5ггнгпоу с1 = .0314209, р = п.й. СЫ-Эциаге: 7.176939, с!Г= 8, р = .5176824

"М

к

еЙ~ДНд

Рис. 5. Аппроксимация логнормальной функцией эмпирических распределений выборочных коэффициента К рандомизированных (слева) и дисперсных (справа) размещений объектов в пространстве.

Данный результат представляется весьма важным, так как в этом случае логарифмы исходных значений эмпирических распределений хорошо аппроксимируются нормальной функцией, как показано для отношения дисперсии к среднему на рис. 6 для выборок объемом 10 проб из ложно контагиозных размещений объектов.

22 20 18 16 14

6 4

2 "

Рис. 6. Аппроксимация нормальной функцией эмпирических распределений выборочных логарифмов коэффициента К дисперсных размещений объектов в пространстве.

Данное преобразование позволяет с большей точностью определять значение К. Действительно, после преобразования Ь=1п(К) имеем среднее B=Lbi/n и его стандартное отклонение sB=(E(bi-b)2/(n-1))0'5, где п - объем выборки, тогда В находится в доверительном интервале Bmin=B-1.96sB, Bmax=B+1.96sB, проведя обратное преобразование получим

УапаЫе ЬШОАЕ ; ШпШж Ниш1

К-З с1 = .0394391, р = п.5. 1ЛИейГ5 р= п.з. СМ1-5диаге: 9.272843, сДГ = 8, р = .3198429

ь

К^^ехрВ Кехр=ехр(Бтп) и КхртйХ=ехр(БтйХ). Вычисленные таким образом интервалы оценки параметра ц СРП значительно точнее, определенных обычным способом (табл. 4).

Таблица 4.

Средние коэффициента К, их доверительные интервалы, вычисленные обычным способом и с использованием логнормального распределения.

Выб. К КехР -1.9681 +1.9681 -1.9681ехр +1.9681ехр

МОЯ 0.99 0.98 0.69 1.29 0.95 1.01

100А 7.39 7.31 5.17 9.61 7.18 7.43

50Я 1.00 0.98 0.64 1.35 0.94 1.02

50А 7.48 7.30 4.09 10.88 7.11 7.49

25Я 1.00 0.95 0.28 1.72 0.88 1.01

25А 7.58 7.16 2.32 12.83 6.89 7.44

10Я 1.06 0.97 0.16 1.95 0.89 1.05

10А 7.23 6.54 0.57 13.89 6.21 6.88

5Я 0.98 0.73 -0.35 2.31 0.62 0.87

5А 6.87 5.60 -1.73 15.46 5.16 6.07

Примечание: К, среднее коэффициента К и его стандартное отклонение, Кехр, - расчетное среднее К и его стандартное отклонение.

Следует отметить, что оценка средних отношений дисперсии к среднему с использованием логнормального распределения дает более низкие величины, чем полученные обычным способом (см. табл. 4).

В заключение данного раздела рассмотрим еще один эффект влияния размеров выборки на ее вероятностно-статистические свойства, обнаружить который можно только на базе модельных экспериментов.

Как уже упоминалось выше эмпирические распределения численностей из псевдоагрегированных размещений объектов наилучшим образом описывались функциями семейства сопряженных распределений Пуассона:

Р{ X1 = хь * = 0,1...} = Р( хх) = р( х^)

Р{Х2 = Х2, Х2 = 0,1...} = Р(Х2) = Ц =0Р{Х1 = Х1}Р{Х2 = Х2/Хх = Х1}

<

Р{Xj = ХJ, xj = 0,1..} = Р(xj ) = =0Р{Х]_1 = xj_1}Р{Xj = ХJ / Xj_1 = xj-1} Р{Х^ = Хj / Xj-1 = Хj-1} = р(Хj; cХj-1) = ехр(-cХj^сх*- 1/ Хj!, где с - относительный размер

пробоотборника, д = ^(Х ^ )/М (X j ) = с1 -1 и ./Игас^^!

Для всех выборок, состоящих из 100 проб наилучшей аппроксимирующей были функции семейства СРП. Однако в серии экспериментов с 50 наблюдениями отмечено появление рядов с достоверным уровнем согласия с распределением Пуассона. Эта тенденция проявилась еще сильнее в сериях экспериментов с 25 пробами. Тем не менее, не смотря на высокую степень согласия с распределением Пуассона по критерию хи-квадрат (^х>10%), вид эмпирических распределений не соответствует этой функции, в отличие от модели СРП (рис. 7).

ч а 9 тота ч ас 9 -| тота

у.

V,

у.

V

_ „

/ *

0 1 2 3 4 5 В 7 0 10 12 16 0 1 2 3 4 5 Б 7811

-®-СРП — в - 'Выборка | -и-Пуассон - -ю - 'Выборка |

Рис. 7. Графики эмпирического распределения (25 проб), СРП и Пуассона.

Обсуждение результатов.

Представленные результаты позволяют однозначно утверждать, что для широкого класса случайных размещений объектов в пространстве центральная предельная теорема для гидробиологических исследований справедлива для выборок, содержащих не менее 10 - 25 проб, в зависимости от степени дисперности пространственной структуры популяции. Однако в условиях реальной гидробиологической съемки необходимо ориентироваться на сильно дисперсные пространственные размещения особей. В обоснование этого утверждения приведем следующие аргументы.

Во первых, большинство организмов в природе демонстрируют сильно неоднородные размещения в пространстве (Downing, 1986).

Во-вторых, на основе рядов наблюдений небольшого объема невозможно провести анализ соответствия эмпирических распределений математической модели случайных размещений (СРП), что может привести к ошибкам интерпретации результатов, так как кроме них в природе существуют распределения организмов, детерминируемые внутрипопуляционными взаимодействиями между особями и/или действием факторов окружающей среды.

В третьих, разброс параметров в малочисленных выборках, даже из абсолютно рандомизированных размещений, слишком велик, что не позволяет провести однозначную идентификацию принадлежности каждой выборочной реализации к тому или иному расположению особей в пространстве.

Таким образом, если принять во внимание тот факт, что оценка средней численности по небольшим совокупностям проб обладает систематической погрешностью, то объем проб для корректного определения средней плотности популяции должен быть не менее 25 проб. Это то минимальное количество, которое необходимо отобрать на одном биотопе.

Выводы:

У объем выборки для полноценной статистической обработки, в том числе и для индикации типа размещений организмов в пространстве, должен быть не менее 25 проб;

^ распределение средних значений рядов наблюдений и их отклонений от генерального параметра соответствует функции нормального распределения;

> распределение дисперсий и их отношений к среднему распределено в соответствии с логнормальным законом;

^ оценка средней численности организмов на основе малочисленных выборок приводит к заниженным значениям этой характеристики.

Литература:

1. Айвазян С.А, Енюков И.С., Мешалкин Л.Д. Прикладная статистика. - М.: Финансы и статистика, 1983. - 471c

2. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. - М: Наука, 1965. -464 с.

3. Хазов А.Р Анализ гидробиологических данных и его программная реализация. -Петрозаводск: КарНЦ РАН. - 2000. - 155 с.

4. Хазов А.Р. "Исследование влияния размеров проб на вероятностно-статистические свойства выборок численностей организмов методом имитационного моделирования гидробиологической съемки" // Электронный журнал "Исследовано в России", 224, 2381-2390, 2004 г. http://zhurnal.ape.relarn.ru/articles/2004/224.pdf

5. Downing J.A. Spatial heterogeneity: evolved behavior or mathematical artefact. // Nature. -1986. vol. - 323. - № 6085. - P. 255-257

6. Lilliefors H. W. On the Kolmogorov-Smirnov test for normality with mean and variance unknown // Journal of the American Statistical Association. - 1967. vol.64. - P. 399-402.