CC BY
18
УДК 634.11:519.22 DOI 10.24411/2311-6447-2019-10009
Повышение точности определения вариационно-статистических характеристик и оценки различий в исследованиях
Improving the accuracy of determining the variation- statistical characteristics and evaluation of differences in research
Профессор A.B. Бобрович, доцент H.B. Андреева, (Мичуринский государственный аграрный университет) кафедра агрохимии, почвоведения и агроэкологии, тел. 8-905-122-32-99 E-mail: [email protected]
доцент Н.В. Картечина, доцент Л.И. Никонорова, ст. преподаватель Н.В. Пчелинцева
(Мичуринский государственный аграрный университет) кафедра математики, физики и информационных технологий, тел. 8-915-874-47-65 E-mail: [email protected]
Professor L.V. Bobrovich, Associate Professor N.V. Andreeva,
(Michurinsk State Agrarian University) chair of agrochemistry, soil science and agroecology, tel. 8-905-122-32-99
Associate Professor N.V. Kartechina, Associate Professor L.I. Nikonorova, Senior lecturer N.V. Pchelintseva
(Michurinsk State Agrarian University) chair of mathematics, physics and information technology, tel. 8-915-874-47-65 E-mail: [email protected]
Реферат. Рассмотрены возможности повышенна точности определения вариационно-статистических характеристик и оценки различий в исследовательской работе с плодовыми растениями на примере яблони. Показаны пути и приведены конкретные примеры применения специального анализа и статистических методов оценки и выбраковки «сомнительных» экспериментальных данных по различным показателям учетов н наблюдений. При оценке различий между средними желательно, чтобы рассеяние вариант в вариационных рядах было наименьшим, но такие величины, как количество плодов на дереве, их масса и другие достаточно сильно варьируют, иногда независимо от объема выборок, в конкретных естественных условиях. В таких случаях вариационные ряды можно выровнять, то есть варьирование показателей в них около средних может быть уменьшено методами вариационной статистики (наименьших квадратов, линейной и квадратичной зависимости и др.), н способствовать установлению истинности различий. Уменьшение рассеяния вариант можно получить выведением средних из групповых средних. Аналогичные и более надежные результаты по выравниванию вариационных рядов обеспечивает применение способа скользящих средних, которые изменяют вариационные ряды, сглаживают, выравнивают их, но не снижают достоинств конечного результата использования средних значений выборок для оценок различий. Средние арифметические по выравненным рядам не различаются существенно со средними по фактическим выборкам, поэтому правомерно их использование для любых оценок, в том числе оценок различии. Применение метода скользящих средних наиболее целесообразно в исследованиях, прежде всего, с сильно вариабельными показателями.
© Бобрович A.B., Андреева Н.В., Картечина Н.В., Никонорова Л.И.,Пчелинцева Н.В., 2019
Summary. The article discusses the possibilities of improving the accuracy of determining the variation-statistical characteristics and assessing differences in research work with fruit plants on the example of an apple tree. The ways are shown and specific examples of the application of special analysis and statistical methods for the evaluation and rejection of "doubtful" experimental data on various indicators of counts and observations are given. When assessing the differences between the averages, it is desirable that the scattering variant in the variational series be the smallest, but such quantities as the number of fruits on the tree, their mass and others vary quite strongly, sometimes regardless of the sample size, under specific natural conditions. In such cases, variational series can be aligned, that is, the variation of indicators around them can be reduced by methods of variation statistics (least squares, linear and quadratic dependence, etc.) and contribute to establishing the truth of differences. Reducing the scattering option can be obtained by deriving averages from group averages. Similar and more reliable results on the alignment of variational series provides the application of the method of moving averages that change the variation series, smooth out, align them, but do not reduce the merits of the final result of using average values of samples for estimating differences. The arithmetic averages for the aligned series do not differ significantly with the averages for the actual samples; therefore, it is legitimate to use them for any estimates, including estimates of differences. The application of the method of moving averages is most appropriate in studies primarily with highly variable indicators.
Ключевые слова: варьирование, выборка, вариационный ряд, вариационно-статистические характеристики, варианта, распределение, оценка различий, яблоня.
Keywords: variation, selection, variation range, variation statistical characteristics, variation, distribution, assessment of differences, apple tree.
В исследовательской работе с плодовыми и другими растениями по самым различным показателям учетов и наблюдений нередко встре-чаются так называемые «сомнительные», т.е. сильно отличающиеся от остальных величины. «Волевое» отношение к ним с целью повышения точности опыта (исключение из выборок только на основании резкого или значительного различия этих показателей с остальными) в научной работе недопустимо. Выбраковка «сомнительных» данных возможна в научной работе, но она должна быть обоснованной. Оценка истинной «сомнительности» тех или иных показателей должна прово-диться двумя путями: 1) путем специального анализа (специалистом, который ведет эксперимент) и 2) путем применения статистических методов (правил). Оба эти пути являются обязательными во всех случаях оценки сомнительных показателей и должны следовать один за другим [2, 5].
Специальный анализ заключается в выявлении всех привходящих факторов биологического, организационного и методического харак-тера, которые могли бы стать причиной резких различий отдельных по-казателей (вариант). Такими факторами могут быть: несовместимость привойно-подвойных компонентов, степень обрезки деревьев, механи ческие повреждения опытных растений и многие другие.
В случае установления специалистом влияния этих привходящих факторов, выбраковка резко отличающихся показателей обычно не вызывает сомнений и не требует применения второго пути - статистической их оценки. Более того, при специальном анализе могут быть выбракованы и не столь резко различающиеся по именованным величи-нам растения или показатели, и выбракованы правильно. Исключение вариант при специальном анализе может быть как в процессе проведения первичных учетов, так и в последующем, в том числе по годам или в конкретные периоды.
Приведем пример выбраковки сомни-тельного показателя по результатам специального анализа. На 10 опытных деревьях проведены измерения годичных при-ростов побегов и получены следующие средние значения: 22, 23, 20, 21, 24, 26, 19, 25, 37, 23 см.
Видно, что на 9 дереве средняя величина годичного прироста - 37 см, значительно больше, чем на остальных деревьях. Прежде, чем решить вопрос о выбраковке варианты 37 см, необходимо иметь уверенность в отсутствии влияния на нее привходящих факторов. В данном случае специалисту необходимо определить биологическое состояние опытных растений путем их тщательного осмотра.
В данном случае, допустим, обнаружилось, что 9 дерево оказалось обрезанным, тогда как деревья по условиям опыта не обрезались. Следовательно, специалистом установлен привходящий фактор - дерево было по каким-то причинам значительно изменено и именно это сильно повлияло на увеличение средней длины побега на нем. Вполне очевидно, что величина 37 см должна быть исключена из данной выборки как нерепрезентативная.
Только в том случае, когда имеется достаточно полная уве-ренность в отсутствии явного влияния привходящих факторов, приступают к статистической оценке «сомнительных» вариант. Для этого достаточно простым и точным является их оценка относительно средней арифметической величины вариационного ряда (выборки). При этом исходят из предположения, что «сомнительная» величина принадлежит к той же генеральной совокупности, что и другие варианты данной выборки и в качестве оценочного критерия используют так называемое нормированное отклонение (tN):
х-м tN= 17 - ,
где X - значение оцениваемой варианты (величины); М - средняя арифметическая; s- среднее квадратическое отклонение.
Например, при измерении 100 побегов яблони было получено:
X min = 7,0 СМ, X шах = 33,9 см, s = 4,81 см.
Целесообразно уста-новить принадлежность крайних значений данного показателя к дан-ной выборке (совокупности).
Xmin-M -9,9
tN= - = 4'S1 = -2,1 ^ с-М ~1"0
tN= * - = +3,5 17
Оба показателя длины приростов - минимальный и максимальный при больших выборках (п > 30) оцениваются с применением «правила трех сигм», т.е. минимальный прирост (7 см) имеет нормированное откло-нение не более 3s и не может быть выбракован из данной выборки, а максимальный (33,9 см) выходит за рамки должного варьирования этого показателя (по каким-то причинам) и его следует исключить из данного вариационного ряда.
Для более точной оценки, с учетом уровней вероятности и дос-тоинства выборок, пользуются специальными таблицами нормированных отклонений. Оценка принадлежности крайних вариант к данной выборке может быть проведена и по ее доверительному интервалу X = М ± 3s.
X rai„= 16,9 - (3 • 4,81) = 2,47 см.
X max= 16,9 + (3 • 4,81) = 31,33 см. И в этом случае установлено, что минимальная величина при-роста (7 см) входит в доверительный интервал данного показателя, при его биологическом варьировании (рассеивании или рассеянии), а максимальная (33,9 см) не входит, и должна быть исключена из выборки.
При малых выборках (менее 30 показателей) пользуются форму-лой нормированного отклонения
л' -М
17Г(« + 1} И
Для выбраковки ва-риант в выборках может быть использован и так называемый критерий 1:, который доступно описан в работе В.Ю. Урбаха [6].
Следует иметь в виду, что описанные случаи пригодны для показателей, подчиняющихся статистическому закону нормального распределения (надо отметить, что большинство показателей учетов по плодовым растениям подчиняется закону нормального распределения, а в случаях, неясных или сомнительных необходимо сделать оценку эмпирических выборок, рядов на принадлежность к нему) [3, 4].
Известно, что такие величины, как количество плодов на дереве, их масса и ряд других достаточно сильно варьируют, причем зачастую независимо от объема выборок в соответствии с условиями среды [1]. Однако, оценивая различия между средними изучаемых вариантов необходимо, чтобы в вариационных рядах их рассеяние было наименьшим. Варьирование показателей в вариационных рядах может быть снижено методами вариационной статистики, такими, как метод наименьших квадратов, методы линейной и квадратичной регрессии и пр., которые способствуют выявлению различий в эксперименте.
Выведение средних из групповых средних как простой способ уменьшения рассеяния вариант, к сожалению, практически не применяется исследователями. В табл. 1 представлены данные о количестве плодов на 7-летних деревьях 3-х сортов яблони на карликовом подвое 62-396.
Таблица 1
Рассеяние вариант около средних из единичных и групповых вариант
Сорта, объем выборки п Вариационно-статистические характеристики выборок, количество плодов (дер., шт.)
М S m р t V
Северный синап
п 27 319 60 11,6 3,6 27,5 18,9
п 9 (3) 318 44 14,5 4,6 22,0 13,7
Уэлси
71 3 1 361 100 18,0 5,0 20,0 27,8
п 10 (3) 362 61 19,4 5,3 19,0 16,9
Антоновка обыкновенная
п 32 63 26 4,6 7,3 14,0 41,2
п 10 (3) 63 15 4,7 7,4 13,0 23,6
Примечание: п 9 (3), п 10 (3) - количество вариант в выборках, составленных из групповых (по три варианты) средних.
Из табл. 1 видно, что в характеристике выборок из групповых средних рассеяние (8) снизилось по сортам следующим образом: Северный синап - на 27 %, Уэлси - на 39 %, Антоновка обыкновенная - на 42 %, а коэффициенты вариации уменьшились с 18,9 до 13,7 %; с 27,8 до 16,9 %; с 41,2 до 23,6 % соответственно.
Такие результаты могут стать полезными при оценке сортов, например, по средним квадратическим отклонениям и коэффициентам варьирования.
Подобные и более надежные результаты при выравнивании вариационных рядов обеспечивает использование метода скользящих средних. В таблице 2 представлена выборка по количеству плодов на 12-летних деревьях сорта Северный синап на полукарликовом подвое 54-118 и ее вариационно-статистические характеристики с использованием данного метода.
Таблица 2
Выравнивание эмпирической выборки нодеревной урожайности плодов способами групповых и скользящих средних
Варианты (даты) 252 790 649 421 677 245 384 196 308 340 259
Количество плодов на дереве, шт. 406 451 339 338 277 226 378 203 400 251 199
п= 22
М22 " = 363 8=160 ш=34,1 р=9,4 1=10,6 У=44,1
} = 371 3=102 ш=38,8 р=10,5 1=9,5 У=27,7
367 8=109 ш=24,4 р=6,6 1=15,0 У=29,8
^13,5) _ 358 Э=86 т=20,4 р=5,7 1=17,5 У=24,2
Примечание: М7(3) - групповые средние из 3 вариант;М20(з> и Мщ5)- скользящие средние по 3 и 5 вариант соответственно.
Из данных табл. 2 видно, что при применении скользящих средних в каждой выборке точность определения средней величины повысилась, рассеяние вариант снизилось практически в 2 раза, ошибка средней - с 34,1 до 20,4 шт., а коэффициент вариации - с 44,1 до 24,2%. Для 20-летних деревьев того же сорта Северный синап на том же полукарликовом подвое 54-118 в выборке объемом п = 27 были получены следующие вариационно-статистические характеристики: М27= 318; Б=60; т=11,6; р=3,6; 1=27,4; У=18,9;
М25(з)= 318; Э=42; т=8,5; р=2,6; 1=37,6; У=13,3;
М25(5)= 318; 8=37; т=7,9; р=2,5; 1=40,5; У=11,5, что, в свою очередь, подтверждает заключение об уменьшении вариабельности в выборке в результате использования скользящей средней и о повышении точности и достоверности определения М для более надежного их использования при оценке различий.
Различные показатели роста и плодоношения подвоев и деревьев яблони разных сортов и возраста, обработанные с применением способа скользящего среднею представлены в табл. 3. В таблице строчки «б» - скользящие средние -сформированы каждая из 3 вариант (дат) фактических выборок - строчки «а», первая и последняя в которых получены по формулам для этого способа выравнивания (Урбах, 1964. — с. 337-344).
Из данных табл. 3 видно, что в выборках по разным показателям различной размерности и объема (по количеству учетных единиц), применение метода скользящих средних во всех случаях дало возможность уменьшить значения ошибок (т) установления средних арифметических (М), а также повысить точность (Р) и достоверность (1) их определения. Этого можно добиться, увеличивая объемы выборок, но за счет больших затрат, поэтому способ скользящих средних незаменим, т.к. он уменьшает и рассеяние вариант (Б) околосредних арифметических, и процентные отношения (коэффициенты вариации) средних квадратических отклонений к средним арифметическим, что невозможно путем увеличения численности выборочных совокупностей.
Скользящие средние устанавливали из нечётного количества единиц -3, 5 и 7. Их применение изменяет, сглаживает, выравнивает вариационные ряды, но не снижает достоинств конечного результата использования средних значений выборок для оценок различий. Средние арифметические по выравненным рядам не различаются существенно со средними по фактическим выборкам, поэтому правомерно их использование для любых оценок, в том числе оценок различий.
Таблица 3
Вариационно-статистические характеристики показателей роста и плодоношения яблони с использованием скользящих средних
N0 п/п Показатели учетов и выборки Объем выборки, п М т Э Р 1 V
1. Количество плодов на 7-летних деревьях сорта Уэлси на полукарликовом подвое, шт.
а Выборка фактическая 21 177 19 83 10,7 9,3 49,3
б Скользящие средние 21 176 13 59 7,4 13,5 33,5
2. Окружность штамба б-летних деревьев сорта Синап орловский на полукарликовом подвое, см.
а Выборка фактическая 20 9,7 0,20 1,0 2Д 48,5 10,3
б Скользящие средние 20 9,6 0,18 0,8 1,8 53,9 8,2
3. Урожайность яблони в учхозе «Комсомолец» Мичуринского ГАУ в среднем за 20 лет, ц/га
а Выборка фактическая 20 88,9 10,9 49,1 12,3 8,2 55,2
б Скользящие средние 20 83,1 6,8 30,4 8,2 12,2 36,6
4. Длина междоузлий годичных приростов пр сорта Северный синап на ка] «бегов 10-летних деревьев яблони эликовом подвое, см
а Выборка фактическая 36 2,6 0,10 0,3 3,8 26,0 11,5
б Скользящие средние 36 2,6 0,02 од 0,8 130,0 3,8
5. Высота приростов маточных растений карликового подвоя в маточнике на 2-й год после посадки, см
а Выборка фактическая 20 27,2 2,6 11,5 9,5 10,5 42,3
б Скользящие средние 20 25,2 1Д 4,9 4,4 22,9 19,4
Можно заключить, что приведенные примеры убедительно показывают целесообразность использования способа скользящих средних в исследованиях, особенно с сильно вариабельными показателями в вариационных рядах, прежде всего, для надежной оценки различий.
ЛИТЕРАТУРА
1. Бобрович, Л.В. Анализ фенотипа ягодных культур с применением компьютерных технологий обработки массивов данных / Л.В. Бобрович, Е.В. Пальчиков, Э.Н. Аникьева, А.А. Аникьев // Технологии пищевой и перерабатывающей промышленности АПК - продукты здорового питания,- 2017. -№> 5 (19). - С. 51-58.
2. Бобрович, Л.В. Вариабельность роста и плодоношения слаборослых клоно-вых подвоев, саженцев и деревьев яблони, оптимизация учетов и оценка различий / Л.В.Бобрович // Автореферат дис. ... кандидата сельскохозяйственных наук. - Мичуринск, 1996. - 27 с.
3. Картечина, Н.В. Статистическая оценка динамики роста и плодоношения яблони / Н.В. Картечина, А.И Бутенко, Л.В. Брижанский, Н.В. Пчелинцева, Л.В Бобрович / / Вестник Мичуринского государственного аграрного университета. -Мичуринск,2018, № 2. - С. 31-36.
4. Картечина, Н.В. Оценка сезонной динамики роста длины годичного прироста побега и массы плода яблони / Н.В. Картечина, Л.В. Бобрович, Л.И. Нико-норова // Сборник научных трудов, посвященный 85-летию Мичуринского государственного аграрного университета Сборник научных трудов. В 4-х томах. Под редакцией В.А. Бабушкина. Мичуринск, 2016. - С. 182-189.
5. Потапов, В.А. Биометрия плодовых культур / В.И. Потапов, А.И. Завраж-нов, Л.В Бобрович, В.Н. Петрушин / / Мичуринск, Изд-во Мичурин, гос. аграр. ун -та, 2004. - С. 332.
REFERENCE
1. Bobrovich, L.V. Analysis of berry crops phenotype using computer technologies for processing data files / L.V. Bobrovich, E.V. Palchikov, E.N. Anikieva, A.A. An-ikyev / / Technologies of food and processing industry of the agro-industrial complex - healthy food products. 2017. № 5 (19). - p. 51-58.
2. Bobrovich, L.V. Variability of growth and fruiting of low-growing clone root-stocks, saplings and apple trees, optimization of accounting and evaluation of differences / L.V. Bobrovich // Abstract of thesis. ... candidate of agricultural sciences. -Michurinsk, 1996. - 27 p.
3. Kartechina, N.V. Statistical assessment of the dynamics of growth and fruiting of an apple / N.V. Kartechina, A.I. Butenko, L.V. Brizhansky, N.V. Pchelintsev, L.V. Bobrovich / / Bulletin of Michurinsky State Agrarian University. - Michurinsk, 2018, Nq 2. - p. 31-36.
4. Kartechina, N.V. Evaluation of the seasonal dynamics of the growth of the length of the annual growth of the shoot and the mass of the apple fruit / N.V. Kartechina, L.V. Bobrovich, L.I. Nikonorova / / Collection of scientific papers dedicated to the 85th anniversary of the Michurinsky State Agrarian University Collection of scientific papers. In 4 volumes. Edited by V.A. Grandma's Michurinsk, 2016. - p. 182-189.
5. Potapov, V.A. Biometrics of fruit crops / V.I. Potapov, A.I. Zavrazhnov, L.V. Bobrovich, V.N. Petrushin / / Michurinsk, Publishing House Michurin. state agrarian University, 2004. - p. 332.
