CC BY
53
установленное допустимое остаточное количество (ДОК) (1,2 мг РЬ/кг сырой массы) для листовых зеленных овощей даже из загрязненной торфяной почвы (2 вариант) (табл. 3).
На основании результатов опыта можно заключить, что использование удобрений является одним из важных факторов влияния на инактивацию свинца в системе «торфяная низинная почва - растения кресс-салата», улучшение агрохимических свойств почвы и физиологических особенностей роста и развития растений.
Литература
1. Байдина, Н. Л. Инактивация тяжелых металлов гумусом и цеолитами в техно-генно загрязненной почве / Н. Л. Байдина // Почвоведение. - 1994. - № 9. - С. 121125.
2. Тяжелые металлы в системе почва -растение - удобрение / Под общ. ред. М. М. Овчаренко. - М.: Пролетарский светоч, 1997. - 290 с.
3. Уткин, А. А. Влияние цеолитсодер-жащего препарата на физико-химические свойства торфяной низинной почвы и аккумуляцию свинца растениями / А. А. Уткин // Агрохимия. - 2010. - № 4. - С. 62-68.
4. Журбицкий, З. И. Теория и практика вегетационного опыта / З. И. Журбицкий. -М.: Наука, 1986. - 266 с.
5. Александрова, Л. Н. Органическое вещество почвы и процессы его трансфор-
УДК 57.081.23:681.3
мации / Л. Н. Александрова. - Л.: Наука, 1980. 287 с.
6. Кабата Пендиас А. Микроэлементы в почвах и растениях / А. Кабата Пендиас, Х. Пендиас. - М.: Мир, 1989. - 439 с.
7. Уткин, А. А. Тяжелые металлы (цинк, свинец и кадмий) в системе: торфяная низинная почва - растение: Автореф. дис. ... канд. с.-х. наук / А. А. Уткин. - СПб. - Пушкин: СПбГАУ, 2004. - 19 с.
8. Каплунова, Е. В. Трансформация соединений Zn, Pb и Cd в почвах: Автореф. дис. . канд. биол. наук / Е. В. Каплунова. -М.: Почв. ин-т им. В. В. Докучаева ВАСХНИЛ, 1983. - 20 с.
9. Кокотов, Ю. А. Иониты и ионный обмен / Ю. А. Кокотов . - Л.: Химия, 1980. - 150 с.
10. Зырин, Н. Г. Сорбция свинца и состояние поглощённого элемента в почвах и почвенных компонентов / Н. Г. Зырин, А. В. Сердюкова, Т. А. Соколова // Почвоведение. - 1986. - № 4. -С. 39-44.
11. Справочник химика-аналитика / А. И. Лазарев [и др.]. - М.: Металлургия, 1976. - 184 с.
12. Knox, A. S. Effect of zeolite and apatite on mobility and speciation of metals / A. S. Knox, D. C. Adriano // 5-th International Conference on the Biogeochemistry of Trace Elements. June 11-15, 1999. - Vienna, 1999. -P. 990-991.
13. Алексеев, Ю. В. Тяжелые металлы в почвах и растениях / Ю. В. Алексеев. - Л.: Агропромиздат, 1987. - 142 с.
СРАВНЕНИЕ ПРИМЕНЕНИЯ МЕТОДОВ ДИСПЕРСИОННОГО АНАЛИЗА И Т-КРИТЕРИЯ СТЬЮДЕНТА ДЛЯ ОБРАБОТКИ ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ СТАЦИОНАРНОГО ОПЫТА В ЦЕЛОМ, А ТАКЖЕ ПРИ ИХ ЧАСТИЧНОЙ УТРАТЕ
С. В. Фролова, канд. с.-х. наук, доцент; Л. И. Никонорова, ст. преподаватель; Л. В. Бобрович, доктор с.-х. наук, профессор
Мичуринский государственный аграрный университет, т. (47545) 5-26-35, е-таП: ¡^о@тдаи. ги; аэр@тдаи. ги
Рассмотрен сравнительный подход к обработке экспериментальных данных с биологическими объектами при использовании ортогональных и неортогональных схем дисперсионного анализа и ^критерия Стьюдента.
Ключевые слова: дисперсионный анализ, ^критерий Стьюдента, статистические методы, стационарный эксперимент.
В опытной работе особенно часто приходится встречаться с задачей сравнения между собой двух средних результатов исследований, доказывать методами математической статистики достоверность различий в действии изучаемых факторов,
вариантов опыта и на основании этого сравнения делать выводы и предложения для производства. Действительно, при проведении полевых и вегетационных опытов нам не столько приходится устанавливать и анализировать абсолютные размеры изу-
чаемых показателей, сколько сравнивать между собой средние результаты для различных наблюдений и опытов и устанавливать, насколько существенна, достоверна разность между ними. Любой вопрос опытного дела можно свести, в сущности, к сравнению средних показателей [3].
Сомнений в достоверности разности между средними генеральной совокупности не возникает, так как они при исследовании всей совокупности объектов, подлежащих изучению, определяются без какой бы то ни было ошибки репрезентативности (выборки). Поэтому разности между этими средними вполне достоверны. Но при анализе разности между двумя выборочными средними, с которыми чаще всего и приходится иметь дело в исследовательской работе, всегда возникает вопрос о ее достоверности, т. е. о том, правильно ли разность между выборочными средними характеризует генеральную, которая имеется между двумя изучаемыми генеральными совокупностями.
Выборочная средняя никогда не может полностью охарактеризовать всю совокупность, как часть не может полностью охарактеризовать все целое, поэтому перенесение результатов выборки на всю совокупность всегда сопряжено с некоторой, большей или меньшей, ошибкой репрезентативности. Очевидно, что и разности между выборочными средними арифметическими не безоговорочны, а в какой-то части случайны, ошибочны. Следовательно, чтобы доказать достоверность выборочной разности, необходимо убедиться в том, что она не случайна, а закономерна и обусловлена действием изучаемого приема или фактора, а не ошибками выборки. Наша уверенность в достоверности разности будет тем сильнее, чем больше она превосходит ошибки, допущенные при ее определении, а также чем значительнее действие изучаемого фактора и, следовательно, больше сама разность.
В теории математической статистики доказывается, что ошибка выборочной разности между двумя несопряженными (некоррелированными) средними величинами зависит от ошибок обеих выборочных средних арифметических и равна корню квадратному из суммы квадратов этих ошибок.
Следовательно, гарантией достоверности вывода о наличии существенных или несущественных различий разности средних может служить отношение разности d к своей ошибке т^ Это отношение получило название критерия существенности или достоверности разности:
г=
\Х 1 X 2\
\]т2 + т 2
А.
та
(1)
Величина критерия показывает, во сколько раз разность больше ошибки разности. Разность считается существенной, если критерий г равен или превышает принятый в исследовании показатель вероятности безошибочного суждения. В этом случае выводы, полученные на основании выборочной разности в общем виде, можно перенести на генеральную разность.
Ошибка выборочной разности та характеризует разность а так же, как и обычная ошибка выборочной средней т среднюю арифметическую х.
В практике сельскохозяйственных исследований при оценке существенности выборочной разности, если она вычислена на основании сравнительно большого числа данных (п > 30), обычно принято брать двойную ошибку разности 2та за предельную ошибку, имея 95 %-ный уровень вероятности (г > 2,0), и тройную ошибку разности 3тё при 99 °%-ном уровне вероятности (г > 3,0). Если критерий существенности разности меньше принятого для сельскохозяйственных исследований показателя вероятности, разность считается несущественной. Это значит, что выводы, которые получаются при сравнении выборочных средних, не могут быть распространены на соответствующие совокупности, и этим выводам нельзя придавать общего значения -они справедливы только для изученных выборок. Несущественная разность не утверждает, но и не отрицает наличия различия между генеральными средними. Разность могла оказаться такой, во-первых, вследствие недостаточного количества выборок, тогда как повторное исследование на более многочисленном материале даст существенную разность; во-вторых, из-за того, что одинаковы генеральные средние сравниваемых совокупностей, поэтому повторные исследования на более обширном материале также дают неопределенный ответ, т. е. разность опять оказывается несущественной [2].
В тех случаях, когда ошибки средних арифметических и разностей между ними вычислены на основании небольшого числа наблюдений (п<30), для определения значения критерия существенности разности 1 при данном уровне вероятности (95 и 99 %) следует пользоваться таблицей, составленной для малых выборок Стьюден-том и несколько видоизмененной Фишером. Таблица дает значения критерия г, указывающие, во сколько раз при данном числе наблюдений разность между средними арифметическими х1-х2 должна превосходить ошибку разности (та), чтобы на-
Нива Поволжья № 3 (16) август 2010 47
ши суждения были достоверными с определенным уровнем вероятности. Значение t зависит от двух переменных величин: от числа наблюдений и уровня вероятности, который исследователь считает достаточным для суждения о достоверности выводов. Когда число наблюдений больше 30, то практически на величину значения t влияет только заданный уровень вероятности.
Громадный опыт, накопленный человечеством за многовековую историю, дает основание принять в качестве руководства следующий принцип практической уверенности, на котором основаны все приложения теории вероятностей. Если при выполнении определенных условий вероятность события очень мала, при однократном осуществлении их можно быть уверенным, что это событие не произойдет, и в практической деятельности поступать так, как будто оно невозможно.
В биологических и сельскохозяйственных исследованиях, как уже отмечалось выше, считается вполне достаточным опираться на уровень вероятности P = 0,95 (95 %). Следовательно, за достоверные события принимаются такие, вероятность которых 0,95 и больше.
Вероятность противоположного события, которой решено пренебрегать в данном исследовании, в математической статистике называется уровнем значимости. Уровень значимости 0,05 соответствует вероятности 0,95 и означает, что вероятность сделать ошибочное заключение составляет 5 случаев из 100, или 1 шанс на 20. При ответственных исследованиях и окончательных серьезных выводах принимают более высокий уровень вероятности, а именно, Р = 0,99 (99 °%), который соответствует 0,01 (1 %) уровню значимости, когда риск сделать ошибочный вывод составляет всего 1 шанс на 100 [1, 2].
Доцентом Мичуринского государственного аграрного университета, кандидатом с.-х. наук Фроловой С. В. была написана комплексная компьютерная программа «ASTRA» для вариационно-статистического анализа экспериментальных данных, которая позволяет осуществлять такие операции, как:
- вычисление среднего арифметического, среднего квадратического отклонения, ошибки среднего арифметического, коэффициента вариации, точности определения среднего арифметического;
- определение существенности различий между выборками, в том числе между сопряженными выборками;
- определение % сопряженности и существенности различий при данном проценте сопряженности;
- определение необходимого числа по-вторностей;
- выбраковка сомнительных показателей;
- оценка принадлежности выборки к нормальному распределению;
- определение коэффициента корреляции и уравнения регрессии;
- дисперсионный анализ однофактор-ного опыта, заложенного по стандартной схеме и по методу рендомизированных повторений;
- дисперсионный анализ однофактор-ного опыта, заложенного по методу рендо-мизированных повторений, с восстановлением выпавших делянок;
- дисперсионный анализ двухфакторно-го опыта;
- определение существенности различий одночисловых данных по групповым средним.
Один из пунктов данной программы позволяет определить существенность различий между выборками по t-критерию существенности Стьюдента, причём программа позволяет производить попарное сравнение, при котором допускается участие до ста выборок [4].
Таким образом в программе предложен системный программный подход к вариационно-статистическому анализу экспериментальных данных в плодоводстве. «ASTRA» содержит плотно взаимосвязанные между собой алгоритмы обработки данных, т. е. для одних и тех же выборок выводится к анализу комплекс различных характеристик, а также имеется возможность сравнительной характеристики различных генеральных совокупностей (одновременно можно сравнивать статистические характеристики или устанавливать существенность различий попарно до 100 выборок, причём сравниваться могут выборки и с различным числом повторностей). Впервые в предложенной компьютерной программе определяется существенность различий между сопряженными выборками, а также процент сопряженности и существенность различий при данном проценте сопряженности. Программа позволяет определять необходимое количество повторностей и выбраковывать сомнительные показатели. В ней приведены алгоритмы определения принадлежности выборки нормальному распределению и построения уравнения линейной зависимости. Впервые предложено использование программного алгоритма проведения дисперсионного анализа с выпавшими во время опыта данными. Впервые предложен компьютерный вариант схемы дисперсионного анализа с различным количеством повторностей.
Так, например, для следующих выборок окружностей штамба саженцев яблони в питомнике (по данным Л. И Никоноровой, учхоз «Комсомолец» МичГАУ), представленных в таблице 1, обработка данных с применением названной программы показала наличие существенности между сортами Синап орловский и Спартан, а также Синап орловский и Уэлси, значение критерия при этом соответственно 4,25 и 3,78. А между сортами Спартан и Уэлси существенность различий не обнаружена (табл. 2).
Интересным, на наш взгляд, является тот факт, что вышеуказанный метод, традиционно считающийся методом попарных сравнений выборочных характеристик, оказывается обременительным для сравнения большого количества пар средних, требующим большой вычислительной работы. Вручную осуществить данный процесс очень трудоемко. Учитывая это обстоятельство, Р. Фишер (1925) предложил метод комплексной оценки сравниваемых средних, получивший название «дисперсионный анализ». Этот метод основан на разложении общей дисперсии статистического комплекса на составляющие ее компоненты, сравнивая которые друг с другом посредством Р-критерия можно определить, какую долю общей вариации учитываемого (результативного) признака обусловливает действие на него как регулируемых, так и нерегулируемых в опыте факторов. Для нашего опыта (применение той же компьютерной программы) метод дисперсионного анализа показал существенность различий как для опыта в целом (НСР=1,26), чего не даёт применение ^критерия, так и по вариантам (как и при оценке по ^критерию).
В связи с широким воздействием различных стресс-факторов окружающей среды на объекты исследований в плодовод-
стве в последнее время, и прежде всего на сами плодовые деревья (морозные зимы, чрезмерное выпадение осадков, заболачивание местности, нанесение вреда грызунами и т. д.), исследователи сталкиваются с проблемой утраты некоторых данных в поставленных экспериментах. Поэтому, на наш взгляд, очень важным является вопрос обработки экспериментальных данных с учетом их частичной потери.
Способность t-критерия сравнивать выборки с различным числом повторностей и использование нашей программы «ASTRA» значительно упрощают решение этой задачи.
Так, обработка данных, полученных по малине сортов Вольница, Журавлик, Метеор (учхоз «Комсомолец» МичГАУ и ОПХ «Центральное», ВСТИСП) показали, что после 10-, 20- и 30-процентной потери данных от исходных выборок объемом 30 учетных единиц (табл. 3) существенность различий сохранялась.
Таблица 3
Результаты обработки опытных данных при их частичной утрате с применением (-критерия (высота 2-летних побегов малины, см)
Сорт n = 30 Утрата выпавших данных, %
10 20 30
Вольница ti-2=8,38 tl-2=7,61 ti-2=7,93 ti-2=6,23
Журавлик ti-3=25.28 ti-3=23,07 ti-3=22,35 ti-3=23,4i
Метеор t2-3=27.60 t2-3=25,90 t2-3=25,31 t2-3=24,8i
В заключение следует сказать, что для такого рода обработки результатов исследований - с учетом частично выпавших опытных данных программа «ASTRA» не только успешно используется, но и модифицируется в зависимости от потребности исследователей.
Работа выполнена при финансовой поддержке РФФИ, грант № 06-07-96317 р центр а.
Литература
1. Потапов, В. А. Методы обработки экспериментальных данных в плодоводстве: рекомендации / В. А. Потапов, В. И. Кашин, А. Г. Курсаков. - М.: Колос, 1997. - 144 с.
2. Доспехов, Б. А. Методика полевого опыта / Б. А. Доспехов. - М.: Колос, 1973. - 336 с.
3. Лакин, Г. Ф. Биометрия: Учеб. пособие для биол. спец. вузов / Г. Ф. Лакин. -4-е изд., перераб. и доп. - М.: Высш. шк., 1990. - 352 с.
4. Потапов, В. А. Компьютерные программы обработки экспериментальных данных: методическое пособие / В. А. Потапов, В. Н. Петрушин, Л. В. Бобрович, С. В. Фролова, Л. И. Никонорова. - Мичуринск: Изд-во МичГАУ, 2005. - 25 с.
Таблица 1 Таблица исходных данных для обработки по t-критерию
Сорт Диаметр окружности штамбов
Синап орловский i2,5; ii,0; i3,2; i0,5; i3,3; i4,5; i5,0; i4,8; i4,9; i0,0
Спартан i0,i; i0,9; i0,5; ii,5; i0,7; 9,0; i0,5; i0,3; 9,0; 9,0
Уэлси i0,2; 9,5; i0,2; i0,2; i0,0; 9,8; ii,5; i0,0; i2,3; ii,0
Таблица 2
Таблица результатов обработки данных по t-критерию
Сорт X m t
Синап орловский 12,97 0,6 ti-2=4,25
Спартан 10,i 5 0,28 ti-3=3,78
Уэлси 10,47 0,27 t2-3=0,82
Нива Поволжья № 3 (16) август 2010 49
