Научная статья на тему 'Использование метода непараметрической статистики в экспериментальной кардиологии'

Использование метода непараметрической статистики в экспериментальной кардиологии Текст научной статьи по специальности «Математика»

CC BY
220
56
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
БИОСИСТЕМА / МЕДИЦИНСКАЯ СТАТИСТИКА / BIOSYSTEM / MEDICAL STATISTICS

Аннотация научной статьи по математике, автор научной работы — Чибисов С. М., Шебзухов К. В., Чибисов А. С., Илларионова Т. С.

Анализ экспериментальных данных, представленных в научной литературе в области медицины и биологии, показывал, что 50%-80% результатов биомедицинских исследований не подчиняются нормальному распределению. Наиболее характерно это для групп больных пациентов или экспериментальных образцов исследуемых объектов. Традиционное использование в подавляющем большинстве работ критериев и методов, требующих нормальности распределения, таких как критерий Стьюдента и линейные коэффициенты корреляции Пирсона, является некорректным и может приводить к ложным результатам. Необходимо заметить, что распространенная практика отбрасывания крайних значений, отстоящих от среднего более чем на 3 у, не компенсирует ненормальность распределения, связанную с асимметричностью или бимодальностью. Это часто приводит к ошибкам в выборе статистических методов.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Чибисов С. М., Шебзухов К. В., Чибисов А. С., Илларионова Т. С.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

USE OF NON-PARAMETRIC STATISTICS IN EXPERIMENTAL CARDIOLOGYU

The analysis of the experimental data submitted in the scientific literature in range of medicine and biology and, showed, that of 50 % 80 % of outcomes of biomedical researches do not submit to normal allocation. Most typically, it for bunches of the patients of the patients or experimental samples of researched plants. Traditional use in overwhelming majority of works of criteria and methods demanding normality of allocation, such as St'judenf s criterion and Pirsonvs coefficients of linear correlation, is incorrect and can result in to false outcomes. It is necessary to notice, that the spread practice of a rejection of extreme values distinguished from average more than on 3 у, does not compensate abnormality of allocation connected to an asymmetry or a bimodality. It often reduces in errors in a choice of statistical methods.

Текст научной работы на тему «Использование метода непараметрической статистики в экспериментальной кардиологии»

ИСПОЛЬЗОВАНИЕ МЕТОДА НЕПАРАМЕТРИЧЕСКОЙ СТАТИСТИКИ В ЭКСПЕРИМЕНТАЛЬНОЙ КАРДИОЛОГИИ

С.М. ЧИБИСОВ, К.В. ШЕБЗУХОВ, А.С.ЧИБИСОВ, Т.С. ИЛЛАРИОНОВА

Кафедра патологической физиологии РУДН Москва, 117198, ул. Миклухо-Маклая. 8

Медицинский факультет

Анализ экспериментальных данных, представленных в научной литературе в области медицины и биологии, показывал, что 50%-80% результатов биомедицинских исследований не подчиняются нормальному распределению. Наиболее характерно это для групп больных пациентов или экспериментальных образцов исследуемых объектов. Традиционное использование в подавляющем большинстве работ критериев и методов, требующих нормальности распределения, таких как критерий Стьюдента и линейные коэффициенты корреляции Пирсона, является некорректным и может приводить к ложным результатам. Необходимо заметить, что распространенная практика отбрасывания крайних значений, отстоящих от среднего более чем на 3 а, не компенсирует ненормальность распределения, связанную с асимметричностью или бимодальностью. Это часто приводит к ошибкам в выборе статистических методов.

Ключевые слова: биосистема, медицинская статистика

В настоящее время в научных изданиях медицинского и биологического профиля появляется ряд публикаций о необходимости изменения подходов к применению статистических методов [1,2,3,4]. Как отмечалось А. А. Конрадовым [5], для любой сложной иерархически организованной структуры с большим числом взаимосвязанных компонент любое внешнее воздействие нарушает, прежде всего, согласованность функционирования отдельных подсистем. Оценить характер таких нарушений представляется достаточно трудной задачей, особенно когда речь идет об эффектах слабых воздействий на популяционном и организменном уровнях, таких как, например, воздействие естественных электромагнитных полей (геомагнитной активности). Традиционные способы оценки состояния биосистем нацелены, главным образом, на получение среднестатистических значений отдельных параметров. Однако именно в случае регистрации отклика или сигнала биосистем в ответ на слабые и сверхслабые воздействия, когда возможны нелинейные эффекты, такие математические подходы себя не оправдывают. Это связано с тем, что усреднение показателей может приводить к утрате информации о характере перестроек в регуляторных механизмах, например, изменении знака биологической реакции или силы связи между отдельными параметрами. Вместе с тем, такие перестройки могут служить критерием чувствительности биообъектов к определенным уровням воздействия и иметь самостоятельное прогностическое значение.

Сложность описания реакций отклика биосистем при разнообразных воздействиях предполагает поиск и разработку нетрадиционных методов статистического анализа, с помощью которых можно было бы получать интегральные характеристики состояний биологических объектов, отражающих их чувствительность к этим воздействиям.

Учитывая описанную выше критику применения линейных методов математической статистики в биологии и медицине, в данной работе было решено проверить характер распределения значений исследуемых показателей в различные сезоны года с помощью построения гистограммы распределения и вычисления значения W-критерия Шапиро-Уилка (Shapiro, Wilk, 1968). Уровень значимости принимался равным р<0,05. Определение различий между независимыми выборками осуществлялось с помощью непараметрического рангового критерия Краскела-Уоллиса. Если расчетное значение Н-критерия Краскела-Уоллиса было больше критического, то гипотеза о равенстве средних значений выборок отклонялась.

Нахождение зависимостей между параметрами производилось с помощью коэффициентов ранговой корреляции Спирмена, представляющей собой непараметрический критерий и не требующей вычисления нормальности распределения и линейной зависимости между переменными. Этот метод можно применять как к количественным, так и к порядковым признакам. Для вычисления коэффициента ранговой корреляции Спирмена

данные упорядочивались по возрастанию и заменялись рангами. Затем, беря вместо самих значений их ранги, можно уже рассчитывать коэффициенты корреляции Пирсона, которые в данном случае являются коэффициентами ранговой корреляции Спирмена.

МАТЕРИАЛЫ И МЕТОДЫ.

Эксперименты были проведены на 480 интактных кроликах-самцах породы «шиншилла» массой 2,5-3,5 кг. Исследования проводили в течение 3 дней в дни весеннего,

осеннего равноденствий, летнего и зимнего солнцестояния. Состояние гелио-геомагнитной обстановки в период проведения эксперимента оценивалось по Ар-индексу геомагнитной активности. У животных электроманометрически в центральном конце левой сонной артерии с помощью полиграфа «МЬ^о§га£82» регистрировалось систолическое (АРМАХ) и диастолическое (АРМШ) артериальное давление. В полостях левого и правого желудочков измерялось реальное внутрижелудочковое давление (УРЯЕАЬЬУ и УРИЕАЬЯУ соответственно). Затем вызывалась пятисекундная окклюзия аорты (для левого желудочка) и легочной артерии (для правого желудочка) и фиксировалось пиковое систолическое внутрижелудочковое давление в условиях практически изометрического сокращения камер сердца (УРМАХЬУ и УРМАХЯУ). С помощью метода микро-Аструп были получены показатели кислотно-основного состояния и газовый состав артериальной (АНВ, АРН, АРС02, АР02, АНСОЗ) и венозной (УНВ, УРН, УРС02, УР02, УНСОЗ) крови. Анализ и обработка проб осуществлялись на микроанализаторе ОР-215. Также были получены показатели активности лизосомных ферментов: неседиментируемая активность (N8А), доступная активность (ЕА) и общая активность (СА). На основе полученных данных вычислялась артериально-венозная разница (АУР02) и пульсовое давление (РР).

ОБСУЖДЕНИЕ РЕЗУЛЬТАТОВ.

Для корректного выбора статистического метода исследований и выявления зависимостей исследуемых характеристик от внешних факторов необходимо было произвести оценку распределения значений исследуемых медицинских параметров. Следует отметить, что из анализа распределения параметров сразу же можно сделать предварительный вывод о том, сколько функциональных систем участвует в формировании и регуляции данного параметра. Если, например, параметр имеет нормальное или близкое к нормальному распределение, то он, по всей очевидности, задействован в одной функциональной системе. Если распределение существенно отличается от нормального, то можно с уверенностью утверждать, что параметр задействован в нескольких функциональных системах одновременно.

На основе обобщения результаты тестов на нормальность распределения данных в рассматриваемом эксперименте была построена круговая диаграмма (рис.1), из которой видно, что 83% рассматриваемых параметров в течение года имеют значения, не подчиняющиеся нормальному закону распределения.

Как свидетельствуют результаты наших исследований, нормальное распределение за годичный цикл имеют только параметры АРМАХ, УР11ЕАЬЬУ, АНС03, УНС03. Перечисленные параметры имеют ненормальное распределение только в один из четырех сезонов, главным образом, осенью или зимой. Для УРЯЕАЬЬУ - это зимний сезон, для АРМАХ- осень, для АНС03, УНСОэ - осень и зима соответственно. Очевидно, можно предположить, что данные показатели являются “ведущими” в тех функциональных системах, которые заняты их регулированием, и их роль в течение года не изменяется. Функциональная система, поддерживающая оптимальный для метаболизма уровень артериального давления, включает в себя сразу несколько типов регуляции: гемодинами-ческий, нервный, гуморальный. Функциональная система, поддерживающая оптимальный для метаболизма уровень pH в крови, включает в себя несколько буферных систем.

83%

Весна

Нормальное распределение Ненормальное распределение

Лето

Осень

Зима

0

Нормальное распределение Ненормальное распределение

Рис. 1. Характер распределения данных в годичной выборке и в каждый сезон отдельно (черным цветом обозначены показатели, имеющие нормальное распределение).

Судя по характеру распределения, карбонатный буфер является наиболее стабильным.

В каждый сезон отдельно отношение нормально распределенных параметров к параметрам с ненормальным распределением существенно изменяется. Так, ненормальное распределение имеют 75% параметров в весенний период, 71% параметров - в летний период, 83% - в осенний период и 58% - в зимний сезон (рис Л).

На первом этапе анализа была осуществлена проверка наличия сезонных различий с помощью непараметрического рангового критерия Краскела-Уоллиса.

Было сделано предположение, что различия значений показателей, полученных в ходе эксперимента в разные сезоны, случайны, и данные являются выборками из непрерывного распределения с равными медианами. Таким образом, была сформулирована нулевая гипотеза для сезонных вариаций. Для всех переменных был вычислен Н-критерий Краскел а-У олл иса.

Таблица 1

Значения Н-критерия Краскела-Уоллиса при сравнении сезонных выборок

Н Р

АРМАХ 61,08668 <0,001

АРМДО 89,33652 <0,001

РР 25,07897 <0,001

\TMAXLV 54,11562 <0,001

УРМАХИУ 43,66946 <0,001

УРКЕА1ХУ 41,87890 <0,001

УРКЕАЬКУ 52,77515 <0,001

АНВ 69,77460 <0,001

АРН 65,61493 <0,001

арсо2 165,3053 <0,001

аро2 17,84444 <0,001

АНСОз. 50,43850 <0,001

АВЕ. 29,04999 <0,001

УНВ 80,12029 <0,001

УРН 48,96745 <0,001

урсо2 174,6138 <0,001

УР02 144,8991 <0,001

УНСОз 55,36164 <0,001

УВЕ. 26,06209 <0,001

АУР02 56,70123 <0,001

СА 184,8797 <0,001

ГОА 201,8960 <0,001

ЕА 225,1454 <0,001

АР 203,5003 <0,001

Из представленных в таблице данных, следует, что во всех случаях Н-критерий превышал критические значения, р<0,001. Таким образом, гипотеза об отсутствии сезонных различий должна быть отклонена: у всех показателей имеются статистически значимые существенные сезонные различия.

Для выявления сезонных различий в значениях функциональных показателей сер-дечно-сосудистой системы кроликов были применены непараметрические методы статистики. В целом применение непараметрических методов, основанных на рангах, незначительно снижает точность результатов, делая анализ менее чувствительным к выбросам. Тем не менее, такие методы успешно выделяют главные закономерности, а главным достоинством их применения в экспериментальной медицине является, безусловно, выявление многофункциональных дополнительных связей, что невозможно производить линейными методами.

Литература.

1. Бащинский С.Е. Некоторые вопросы журнальной этики // Кардиология. 1995; 35(6): 89-92

2. Бащинский С.Е. Статистика умеет много гитик // Международный журнал медицинской практики. 1998; 4:12-15.

3. Конрадов А.А., Статистические подходы к анализу многомерных гетерогенных биологических систем. Радиационная биология // Радиоэкология. 1994;.6: 877-886.

4. Дубров А.М., Мхитрян B.C., Трошин Л.И. Многомерные статистические методы. - М.: Финансы и статистика, 2000, - 352 с.

5. Shapiro S., Wilk М. A comparative study of various tests of normality // Journal of the American statistical association. 1968; 63:1343-1372.

USE OF NON-PARAMETRIC STATISTICS IN EXPERIMENTAL CARDIOLOGYU

S.M. CHIBISOV, C.V. SHEBZUKHOV, A.S. CHIBISOV, T.S. ILLARIONOVA

Department of pathological physiology. RPFU. Moscow, 117198, Miklukho-Maklaya st, 8.

Medical faculty

The analysis of the experimental data submitted in the scientific literature in range of medicine and biology and, showed, that of 50 %-80 % of outcomes of biomedical researches do not submit to normal allocation- Most typically, it for bunches of the patients of the patients or experimental samples of researched plants. Traditional use in overwhelming majority of works of criteria and methods demanding normality of allocation, such as St'judent's criterion and Pirson's coefficients of linear correlation, is incorrect and can result in to false outcomes. It is necessary to notice, that the spread practice of a rejection of extreme values distinguished from average more than on 3 a, does not compensate abnormality of allocation connected to an asymmetry or a bimodality. It often reduces in errors in a choice of statistical methods.

Key words: biosystem, medical statistics

i Надоели баннеры? Вы всегда можете отключить рекламу.