CC BY
14ИСПОЛЬЗОВАНИЕ СТАТИСТИЧЕСКИХ ХАРАКТЕРИСТИК И ОБРАБОТКА ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ
В.Г. Сычев, акад. РАСХН, В.Т. Фирсов, к.б.н., С.А. Деньгина, ВНИИА
Использование статистических характеристик в измерениях позволяет оценить достоверность (существенность) полученной в эксперименте разницы средних.
Ключевые слова: средняя арифметическая, среднее квад-ратическое отклонение, коэффициент вариации, средняя ошибка, достоверность разницы средних, наименьшая существенная разница, критерий Стъюдента, азот, результаты измерений.
Средняя арифметическая - важнейшая статистическая характеристика, которая широко используется в науке и практике. Средняя величина служит в определенной степени для оценки признака в изучаемой совокупности (группе). Вычисленная с учетом математического веса отдельных значений признака, получила название среднего взвешенного [1].
Однако следует отметить, среднее арифметическое значение не оценивает степень варьирования изучаемого признака в пределах совокупности и не дает полного представления размаха колебаний полученных значений. В связи с этим, наиболее простым показателем степени варьирования признака являются лимиты, то есть минимальные и максимальные значения наблюдаемых величин.
Лимиты и размах (границы) широко используются для характеристики климатических особенностей изучаемого региона, области или района. Так, кроме средних многолетних температур воздуха по декадам, месяцам или сезонам, обычно приводятся максимальные и минимальные температуры за соответствующий период. Имея величину среднего значения признака, можно выбрать направление в селекционной работе, а минимум и максимум исследуемых признаков использовать, например, при оценке верхнего предела урожайности изучаемого сорта и т.д. [2].
Однако у лимитов имеется существенный недостаток, состоящий в том, что они опираются только на крайние значения признака. Чтобы оценить варьирование всех входящих в совокупность результатов, нужен показатель, учитывающий все
величины ряда, а не только крайние его члены. В этом отношении наиболее целесообразно использовать отклонения полученных результатов в ту или другую сторону от своего среднего арифметического в исследуемой совокупности. Если полученную разницу возвести в квадрат, произвести суммирование квадратов отклонений, результат разделить на (V = п - 1) и извлечь квадратный корень, то получим формулу среднего квад-ратического отклонения (сигма, ст), называемое также стандартным отклонением [3]: ст = V 2 /Х -Х /2 : (п - 1). При объеме выборки п > 30, сумму квадратов отклонений делят на п.
Среднее квадратическое отклонение, как характеристика вариабельности изучаемого свойства или состава измеряется в тех же единицах что и характеризуемый признак. Однако в некоторых случаях возникают трудности при сравнении вариабельности свойств по средним квадратическим отклонениям, когда единицы измерений признаков различны. Трудности подобных сравнений можно решить, если в качестве показателя варьирования взять коэффициент вариации (изменчивости), представляющий собой отношение среднего квадратического отклонения к среднему арифметическому выраженное в относительных процентах: V = ст / х 100.
В экспериментальной работе схема опыта часто строится таким образом, что образуются две сопоставимые группы -контрольная и опытная. Наряду с определением выборочных параметров (среднее арифметическое, среднее квадратиче-ское отклонение, коэффициент вариации и др.), одной из важных задач является оценка значимости величины разности между сравниваемыми средними показателями.
В качестве критерия такой достоверной оценки разности средних можно использовать показатель НСР (наименьшая существенная разница), при этом, если полученная разница средних больше или равна НСР ( / Х1 - Х2 / > НСР), то различия между средними существенны и влияние фактора статистически достоверно.
Содержание азота в подсолнечном шроте, % на сухое вещество
2000 г 2004 г
№п/п лабораторий Х1 1 (Х1 ■- Х1) (Х1 ■- Х Х2 1 (Х2 ■- Х 2) (Х2 ■- Х 2)2
1 5,87 - 0,13 0,0169 5,93 + 0,06 0,0036
2 6,08 + 0,08 0,0064 5,90 + 0,03 0,0009
3 5,75 - 0,25 0,0625 5,98 + 0,11 0,0121
4 6,00 0 0 5,88 + 0,01 0,0001
5 5,96 - 0,04 0,0016 5,87 0 0
6 6,02 + 0,02 0,0004 5,96 + 0,09 0,0081
7 6,20 + 0,20 0,0400 5,98 + 0,11 0,0121
8 5,91 - 0,09 0,0081 5,24 - 0,63 0,3969
9 6,19 + 0,19 0,0361 6,01 + 0,14 0,0196
10 5,90 - 0,10 0,0100 5,80 - 0,07 0,0049
11 6,14 + 0,14 0,0196 5,98 + 0,11 0,0121
12 5,98 - 0,02 0,0004 5,91 + 0,04 0,0016
Х1=6,00 2Х12=0,202 Х =5,87 ^ 2 ЕХ22=0,472
В таблице приведены результаты анализа контрольного образца подсолнечного шрота на содержание азота, полученные в межлабораторном эксперименте в 2000 и 2004 гг. (ВНИИА).
Для обработки данных случайным образом были отобраны результаты анализов 12 лабораторий ГЦАС, ГСАС. Необходимо было установить влияние временного фактора (интервал между анализами образца составил 4 года) на достоверность разницы средних значений.
На основании проведенных исследований и математической обработки результатов измерений, были получены данные: количество лабораторий п = 12 (2000 г) ип2 = 12 (2004 г); среднее арифметическое значение Х1 = 6,00, Х2 5,87; фак-
тическая разница между средними значениями / х 1 - Х2 / = 0,13; сумма квадратов отклонений 2Х!2 = 0,202 и 2Х22 = 0,472; число степеней свободы V = 12 + 12 - 2 = 22; дисперсия 8^ = £Х!2 : (п- 1) = 0,202 : 11 = 0,018 и 8 22 = ЕХ2 2 : (п- 1) = 0,472 : 11 =0,043; ошибки выборок:
ш,2 = 8^ : п = 0,018 : 12 = 0,0015 и т 22 = 8 22 : п2 = 0,043 : 12 = 0,0036; средняя ошибка разности m = ^т ¡2 + т 22 = V 0,0015 + 0,0036 = V0,0051 = 0,071. Затем находим во сколько раз фактическая разность между средними превышает среднюю ошибку: 1факт = / Х1 - Х2 / : ж = 0,13 : 0,071 = 1,83. При
вероятности Р = 0,95 и числе степеней свободы V = 22 теоретическое значение критерия Стъюдента равно 11р = 2,07.
Так как фактическое значение критерия меньше теоретического 1факг. < 1:р (1,83 < 2,07), поэтому можно утверждать, что с вышеуказанной вероятностью различия между средними незначимы. Аналогичные выводы подтверждаются и при использовании критерия НСР. Его значение находят по формуле: НСР = т ' ^ = 0,071' 2,07 = 0,15.
Поскольку разница между средними результатами анализа меньше наименьшей существенной разницы / Х1 - Х2 / <
НСР = 0,13 < 0,15, это также подтверждает вывод о том, что определение содержания азота в подсолнечном шроте с интервалом 4 года (2000 и 2004 гг.) не оказало существенного
влияния на содержание данного элемента в исследуемом образце.
Литература
1. Дмитриев Е.А. Математическая статистика в почвоведении. - М.: Изд. Московского университета, 1972. - с.40, с.71 .
2. Меркурьева Е.К. Биометрия в селекции и генетике с.-х.. животных. -М.: Изд. «Колос», 1970.- с.42, с.47 .
3. Лакин Г.Ф. Биометрия. - М.: Высшая школа, 1973. - с.65, с..95.
4. Ведомости результатов анализов контрольных образцов кормов, сельскохозяйственной и пищевой продукции. ВНИИА, 2000 и 2004 гг.
USE OF STATISTICAL PARAMETERS AND THE PROCESSING OF EXPERIMENTAL DATA
V.G. Sychev, V.T. Firsov, S.A. Den'gina Pryanishnikov All-Russian Scientific Research Institute of Agrochemistry, Russian Academy of Agricultural Sciences,
ul. Pryanishnikova 31a, Moscow, 127550 Russia
The use of statistical parameters in measurements allows assessing the reliability (significance) of the experimental difference between means.
Key words: arithmetic mean, standard deviation, variation coefficient, average error, significance of the difference between means, least significant difference, Student's test, nitrogen, measurement results.
