Научная статья на тему 'Модели "доза-эффект" со смешанными параметрами на примере оценки токсичности яда обыкновенной гадюки Vipera berus'

Модели "доза-эффект" со смешанными параметрами на примере оценки токсичности яда обыкновенной гадюки Vipera berus Текст научной статьи по специальности «Биологические науки»

CC BY
145
42
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Принципы экологии
WOS
ВАК
Область наук
Ключевые слова
ЯДОВИТЫЙ СЕКРЕТ ГАДЮКИ ОБЫКНОВЕННОЙ VIPERA BERUS / ПОДВИДЫ V. B. BERUS И V. B. NIKOLSKII / СРЕДНЕСМЕРТЕЛЬНАЯ ДОЗА ЛД50 / ЛАБОРАТОРНЫЕ МЫШИ / ПРОБИТ-ЗАВИСИМОСТИ / ДОЗА-ЭФФЕКТ / ОБОБЩЕННЫЕ ЛИНЕЙНЫЕ МОДЕЛИ СО СМЕШАННЫМИ ЭФФЕКТАМИ (GLMEM) / ИНФОРМАЦИОННЫЕ КРИТЕРИИ / VENOM OF THE COMMON EUROPEAN ADDER VIPERA BERUS / V. B. BERUS AND V. B. NIKOLSKII SUBSPECIES / AVERAGE LETHAL DOSE (DL50) / LABORATORY WHITE MICE / PROBIT DEPENDENCE "DOSE-RESPONSE" / GENERAL LINEAR MIXED-EFFECTS MODELS (GLMEM) / INFORMATIONAL CRITERIA

Аннотация научной статьи по биологическим наукам, автор научной работы — Шитиков Владимир Кириллович, Маленёв Андрей Львович, Горелов Роман Андреевич, Бакиев Андрей Геннадьевич

Выполнен анализ токсичности образцов ядовитого секрета обыкновенных гадюк Vipera berus, отловленных в разных регионах европейской части России из популяций со смешанными признаками номинативного подвида V. b. berus и гадюки Никольского V. b. nikolskii. Тремя различными методами определены величины среднесмертельных доз (ЛД50) ядов для белых лабораторных мышей при внутрибрюшинном введении. В приложении приведены функции на алгоритмическом языке R, оценивающие значения изоэффективных доз для заданного набора вероятностей смерти животных. С использованием обобщенных линейных моделей со случайными эффектами GLMEM (general linear mixed-effects model) построены зависимости «доза-эффект» для различных сочетаний сопутствующих факторов, потенциально влияющих на результат токсикометрического эксперимента (пол подопытных животных, преобладающие подвидовые признаки обыкновенной гадюки, район отлова гадюк, цвет яда и т. д.). Оптимальная модель, которой соответствовал минимум информационного AIC-критерия, включала одновременно подвид гадюк и их местообитание. В зоне интерградации V. b. berus и V. b. nikolskii установлено наличие географического градиента с ориентировочным направлением от Пермского края к Липецкой области, на котором в смешанных признаках популяций усиливаются диагностические признаки V. b. nikolskii и возрастает токсичность ядовитого секрета для мышей. Выявленный тренд соответствует современным представлениям об истории расселения двух форм гадюк и их гибридизации. Отмечена необходимость переописания формы «nikolskii», типовая территория которой находится в зоне контакта с V. b. berus. При переописании токсичность яда для мышей может быть использована в качестве одного из диагностических признаков таксона.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по биологическим наукам , автор научной работы — Шитиков Владимир Кириллович, Маленёв Андрей Львович, Горелов Роман Андреевич, Бакиев Андрей Геннадьевич

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

"Dose-response" models with mixed parameters by the example of venom toxicity estimation of the common European adder Vipera berus

The toxicity analysis of samples of the common European adder Vipera berus venom was made. The adders were captured in different regions of the European part of Russia from populations with mixed features of nominative subspecies of V. b. berus and Nikolsky''s adder V. b. nikolskii. The values of the average lethal doses (DL50) for white laboratory mice with the intraperitoneal injections were defined by three different methods. The appendix contains functions in the algorithmic language R which assess the values of isoeffective doses for a given set of animal lethal probabilities. "Dose-response" dependences were constructed with the use of GLMEM – general linear mixed-effects models – for various combinations of concomitant factors potentially affecting the result of toxicometric experiment (e.g. sex of experimental animals, subspecies signs of the common adder, capture area, venom color etc.). The optimal model, which corresponded to the minimum of the information AIC-criterion, included both adder subspecies and their habitat. The presence of geographical gradient with an approximate direction from Perm region to Lipetsk region was found in the zone of V. b. berus and V. b. nikolskii intergradation. In this direction in the adder populations with mixed signs the diagnostic features of V. b. nikolskii are intensified and the venom toxicity for mice increases. This identified trend corresponds to the modern notion about the history of the resettlement of the two forms of vipers and their hybridization. The necessity of redescription of "nikolskii" form is noted, because its typical territory is situated in the contact zone with V. b. berus. The toxicity of the venom to mice can be used as a diagnostic sign for the redescription of taxon.

Текст научной работы на тему «Модели "доза-эффект" со смешанными параметрами на примере оценки токсичности яда обыкновенной гадюки Vipera berus»

/?■ ,Л научный электронный журнал Петрозаводск^ государственный Jflk

\jy ПРИНЦИПЫ ЭКОЛОГИИ_У! 1ИВСРСИТСТ

http://ecopri.ru http://petrsu.ru

УДК 574:615.9

модели «доза-эффект» со смешанными параметрами на примере оценки токсичности яда обыкновенной гадюки VIPERA BERUS

шитиков Бладимир Кириллович Институт экологии Волжского бассейна РАН, stok1946@gmail.com

маленёв Андрей Львович Институт экологии Волжского бассейна РАН, malenyov@mail.ru

ГОРЕЛОВ Роман Андреевич Институт экологииВолжского бассейнаРАН, gorelov. roman@mail.ru

БАКИЕВ Андрей Геннадьевич Институт экологии Волжского бассейна РАН, herpetology@list.ru

Аннотация: Выполнен анализ токсичности образцов ядовитого секрета обыкновенных гадюк Vipera berus, отловленных в разных регионах европейской части России из популяций со смешанными признаками номинативного подвида V. b. berus и гадюки Никольского V. b. nikolskii. Тремя различными методами определены величины среднесмертель-ных доз (ЛД50) ядов для белых лабораторных мышей при внутрибрю-шинном введении. В приложении приведены функции на алгоритмическом языке R, оценивающие значения изоэффективных доз для заданного набора вероятностей смерти животных. С использованием обобщенных линейных моделей со случайными эффектами GLMEM (general linear mixed-effects model) построены зависимости «доза-эффект» для различных сочетаний сопутствующих факторов, потенциально влияющих на результат токсикометрического эксперимента (пол подопытных животных, преобладающие подвидовые признаки обыкновенной гадюки, район отлова гадюк, цвет яда и т. д.). Оптимальная модель, которой соответствовал минимум информационного AIC-критерия, включала одновременно подвид гадюк и их местообитание. В зоне интерградации V. b. berus и V. b. nikolskii установлено наличие географического градиента с ориентировочным направлением от Пермского края к Липецкой области, на котором в смешанных признаках популяций усиливаются диагностические признаки V. b. nikolskii и возрастает токсичность ядовитого секрета для мышей. Выявленный тренд соответствует современным представлениям об истории расселения двух форм гадюк и их гибридизации. Отмечена необходимость переописания формы «nikolskii», типовая территория которой находится в зоне контакта с V. b. berus. При переописании токсичность яда для мышей может быть использована в качестве одного из диагностических признаков таксона.

© Петрозаводский государственный университет

Получена: 27 февраля 2018 года Подписана к печати: 30 июня 2018 года

Ключевые слова:

ядовитый секрет гадюки обыкновенной У1рега Ьегиэ

подвиды V. Ь. Ьегиэ и V. Ь. nikolski^

среднесмертельная доза ЛД50

лабораторные мыши пробит-зависимости доза-эффект обобщенные линейные модели со смешанными эффектами ^МЕМ) информационные критерии

Введение

Модели «доза-эффект» на основе логит-или пробит-функций связи имеют более чем полувековую историю (Finney, 1947, 1971; Беленький, 1963). Развитие этой методологии от использования полуэвристических закономерностей до полноценных регрессионных моделей на основе принципа максимального правдоподобия не столько увеличило точность оценки токсикометрических показателей, сколько создало предпосылки для использования мощных и эффективных способов контроля за воздействием случайных факторов.

При решении задач экотоксикологии невозможно провести «стерильный» эксперимент с химически стандартным токсическим веществом. Трудно также оценить уровень опасного воздействия в условиях видовой, возрастной или гендерной специфичности популяций, неоднородности природной среды, влияния сезонно-климатических изменений и прочих сопутствующих факторов. Современный подход к решению этих проблем связан с использованием регрессионных моделей со смешанными параметрами (mixed effects model - Pinheiro, Bates, 2000; Demidenko, 2013; Четвериков, 2015), которые создают предпосылки к существенному повышению уровня обобщения целевых результатов исследования и их распространению на другие пространственные, временные или биологические уровни организации. Интерес к смешанным моделям постоянно растет: по данным Google Scholar, только в 2017 г. было опубликовано 68 000 статей, в том числе по экологии - 17 800 статей (из них на русском языке - не более 3).

Сущность данного метода заключается в том, что эффекты (факторы), оказывающие влияние на зависимую переменную, условно разделяются на два типа: фиксированные и случайные. Здесь фиксированные эффекты - это то, что обычно является предметом интереса исследователя, то есть те независимые переменные, уровни которых он устанавливает или контролирует (в нашем случае - доза яда гадюки). Для случайных эффектов обычно затруднительно заранее составить в исследовании план варьирования уровней факторов, и они могут принимать случайные значения из числа возможных в генеральной совокупности. Философско-методологические аспекты раз-

деления эффектов на типы весьма неоднозначны (Gelman, 2005), поэтому ниже мы будем интерпретировать как случайные все сопутствующие факторы, в той или иной степени влияющие на процесс интоксикации и гибели подопытных животных (их пол, подвид и район отлова гадюк, цвет яда и т. д.).

Цель работы - оценить результаты применения моделей со смешанными параметрами на конкретных выборках экотоксико-логических данных. Основные задачи исследования: во-первых, показать стратегию анализа отдельных вариантов моделей и возможности их интерпретации; во-вторых, проверить надежность и полезность метода для решения отдельных вопросов токсино-логии. Содержательные экологические выводы, относящиеся к пространственному распределению отдельных популяций гадюк и их систематическому статусу, мы выносим за рамки настоящей публикации.

Материалы

Образцы ядовитого секрета были получены от обыкновенных гадюк Vipera berus (Linnaeus, 1758), отловленных в 12 разных географических регионах (далее -переменная местооб) европейской части РФ. Подвидовую принадлежность (переменная подвид) гадюк изучаемых популяций - V. b. berus (Linnaeus, 1758) и V. b. nikolskii Vedmederja et al., 1986 - устанавливали по морфологическим признакам и цвету яда (Bakiev et al., 2005; Milto, Zinenko, 2005). Разделение на два подвида следует воспринимать как условное, поскольку часть популяций находится в зоне интерградации этих подвидов и обладает смешанными признаками. Так, в Пензенском районе Пензенской области выявлена популяция, в которой одна часть гадюк имеет желтый яд (образец 8), характерный для номинативной формы V. b. berus, другая - бесцветный яд (образец 7), характерный для лесостепной формы V. b. nikolskii.

Препараты ядовитого секрета вводили внутрибрюшинно белым лабораторным мышам, самцам и самкам (переменная пол) массой 20.0 ± 1.0 г. Для каждого образца яда гадюк, отловленных в разных регионах, было проверено 5 эффективных доз по 5 мышей в каждой группе, в том числе 86 групп для яда V. b. berus в диапазоне доз от 0.5 до 2.5 мкг/г и 40 групп для яда V. b. nikolskii - от 0.3 до 1.5 мкг/г.

Методы

Предварительно силу воздействия яда оценивали по показателю среднесмер-тельной токсичности LD50, рассчитанному с использованием статистических моделей «доза-эффект» в трех вариантах:

Вариант А использует линейную зависимость, установленную в середине ХХ в.:

Y = b0 + b1 X (Беленький, 1963),

где Y - так называемые рабочие пробиты Блисса (Bliss, 1935), X - натуральное или прологарифмированное значение воздействующей дозы.

Значение LD50 и его ошибку рассчитывали как

LD50 = (5 - b0)/b1 ;

SDLD50 = (LD86 - LD16)/(2N)05 (Бабич и др., 2003).

Вариант B основан на стандартной обобщенной модели регрессии с пробит-функцией связи (Мастицкий, Шитиков, 2015):

P = Ф(Ь0 + b X) или Ф-1(Р) = b0 + b X

где Р - вероятность гибели животных, Ф() - интегральная функция плотности стандартного нормального распределения N(^, о); b0 = - ц / о; b1 = 1 / о; Ф-1(Р) - обратная функция от Ф, или пробит. В отличие от варианта А, коэффициенты b0 и b1 оценивали методом нахождения максимума правдоподобия относительно непосредственно целевого отклика (т. е. вероятности эффекта Р) в предположении о биномиальном распределении данных.

Ошибку изоэффективной дозы LDP для произвольно заданного значения Р (т. е. Р = 0.5 при нахождении LD50) оценивали дельта-методом:

SDLD50 = (JI V J)""

где J - вектор производных функции регрессии относительно вектора параметров b; для рассматриваемой модели J = [1/b1 ; X/bJ; V - дисперсионно-ковариационная матрица коэффициентов логистической модели.

Доверительные интервалы LD50 рассчитывали по обычной формуле

CI = LD50 ± t SD ,

LD50 а/2/ LD50

где ta/ - квантиль t-распределения при а/2 и f степенях свободы.

Вариант Cтакже основан на модели логистической регрессии, но доверительные ин-

тервалы CILD50 оценивались с использованием процедуры, описанной Д. Финни (Finney, 1971, p. 76-79; Robertson et al., 2003).

В приложении представлены скрипты на языке R для всех трех вариантов функций расчета LD50, оснащенные подробными комментариями. Отметим, что в отличие от функции Probit_Bel(), выполняющей расчеты по Н. Л. Беленькому, на вход остальных двух функций можно подать вектор с любым набором задаваемых вероятностей эффекта, что удобно для построения графиков. Так при p = seq(1,99,1) функции LD_glm() и LD_ Rob() могут выполнить расчет таблицы из 99 изоэффективных доз от 1 до 99 %.

Для простой схемы группировки по уровням линейную модель LMEM (linear mixed-effects model) со смешанными эффектами можно представить в матричной форме как:

y = X b + Z b + £, b ~ N(0, ф) , £ ~ N(0, Ло2),

где y - N-мерный вектор зависимой переменной, X - матрица фиксированных переменных; b - вектор параметров модели для фиксированных эффектов; Z - матрица, состоящая из нулей и единиц и описывающая группировку случайных факторов по уровням в соответствии с планом эксперимента, b - коэффициенты модели, относящиеся к случайным эффектам. Оценка значимости параметров модели и ранжирование случайных эффектов по степени их выраженности выполнялись с использованием традиционных показателей качества подгонки обобщенных моделей - информационного критерия Акаике AIC и девиансы (deviance) D, которая является обобщением остаточной суммы квадратов при использовании метода максимального правдоподобия.

Построение моделей со случайными эффектами выполнялось с использованием пакетов lme4 и MuMIn статистической среды R вер. 3.03. Представленный скрипт содержит функции на алгоритмическом языке R для расчета LD50, других изоэффективных доз и их доверительных интервалов тремя различными методами.

Результаты

Расчет значений LD50, представленных в табл. 1 отдельно по V. b. berus и V. b. nikolskii для всех групп местообитаний, показал наличие существенных различий в силе действия ядовитого секрета по подвидам. При этом значения норматива, полученные различными вариантами расчета, практически совпадали.

Таблица 1. Значения ¿050, полученные различными способами расчета для двух подвидов гадюк (БЕ - стандартная ошибка 1й50,1С1 и ис1 - нижняя и верхняя границы 95 % доверительного интервала)

Подвид Вариант LD50 SE LCL UCL

А

1.540

0.0832

1.38

1.70

Vipera berus berus B 1.576 0.0542 1.47 1.68

C 1.576 1.47 1.69

А 0.967 0.0588 0.85 1.08

Vipera berus nikolskii B 0.972 0.0451 0.88 1.06

C 0.972 0.88 1.07

На основании такого точечного показателя, как ¿050, нельзя получить достаточно полное представление о сравнительной силе действия ядов, поскольку важно учитывать также скорость развития эффекта при увеличении дозы. На рис. 1 показаны сигмоидаль-

ные кривые «доза-эффект», где видно, что на уровне 16 % смертности различия между ядовитыми секретами обоих подвидов минимальны, тогда как 84 % изоэффективные дозы отличаются весьма значительно.

Рис. 1. Кривые «доза-эффект» и их 95 % доверительные интервалы для популяций с преобладанием диагностических признаков V. b. berus или V. b. nikolskii, построенные с использованием логистической

регрессии

Fig. 1. "Dose-response" curves and their 95 % confidence intervals for populations with a predominance of diagnostic features of V. b. berus or V. b. nikolskii, built using logistic regression

Далее были рассмотрены вопросы о том, являются ли статистически значимыми полученные зависимости «доза-эффект» и насколько сильно сопутствующие факторы могут влиять на их характер. В табл. 2 приведены результаты сравнительного статистического анализа четырех основных моделей по

Таблица 2. Оценка статистической значимо!

возрастанию их параметричности. Как принято в R, структура регрессионных моделей задавалась в виде «формулы», в которой зависимая переменная ^ - доля погибших животных) отделяется от правой части знаком а предикторы разделяются знаком +.

включения в модель случайных эффектов

Модель Формула AIC Девианса D х2 P(>X2)

m0 pd ~ 1 587.08 437.84 - -

ml pd ~ доза 312.58 161.35 276.49 « 0

m2a pd ~ доза + подвид 272.14 118.9 42.45 « 0

m2b pd ~ подвид + подвид:доза - 1 264.17 108.93 9.97 0.0016

В представленном ряду значения AIC-критерия постоянно уменьшаются, что свидетельствует о поэтапном улучшении модели. Статистическую значимость p включения каждого нового члена (вначале доза, а затем вид) оценивали по разности остаточных де-вианс (D - D.). Последняя имеет распределение х2 и, если она достаточно велика (p < 0.05), то доля вариации, объясняемая новым членом модели, считалась достоверно существенной. На рис. 2 показано, как случайный эффект вид проявляется как статистически значимый параллельный сдвиг линий «доза-эффект» за счет коррекции свободного члена в модели m2a. Модель m2b дополнительно учитывает различия в скорости развития эффекта при увеличении дозы за счет коррекции коэффициента угла наклона. Сравнение моделей ml и m2a проверяет гипотезу «параллельности», а ml и m2b - гипотезу «эквивалентности» токсических процессов (Robertson et al., 2003).

Смешанную модель оптимальной структуры получили методом «всех возможных регрессий», выполнив полный перебор комбинаций случайных факторов. Модели-претенденты ранжировали по уменьшению скорректированного AICc-критерия (табл. 3). Относительное правдоподобие (strength of evidence (Burnham, Anderson, 2002)) каждой модели mm. по отношению к лучшей модели оценивали как l. = exp(-0.5 Д.), где Д. = (AICc.-AICc .). На основании этого можно сделать

min'

вывод, что модель mml, учитывающая эффекты вид и местооб, в 2.2 раза лучше объ-

ясняет результаты эксперимента, чем модель тт2, и в 7х106 раза более обоснована (с точки зрения соотношения вероятностей соответствующих гипотез), чем продемонстрированная на рис. 2 модель тт7.

Интерпретация модели со смешанными эффектами основана на том, что для каждого уровня случайного фактора, отмеченного знаком + в табл. 3, подбирается система коэффициентов, осуществляющих коррекцию модели с фиксированными параметрами. Например, фиксированная часть модели тт1 имеет вид Ф-1(Р) = -2.39 + 1.964-доза. Если использовали яд V. Ь. Ьегиэ, то к этому уравнению добавлялся член (-0.132 -0.313-доза), а если V. Ь. nikolskii, то (0.129 + 0.305-доза). Аналогично, для уровня Аткарск фактора местооб - образец 2 - добавляется член (-0.1-доза), для Самара - образец 10 -(+0.32-доза) и т. д. И тогда полное уравнение регрессии с учетом случайных параметров для комбинации «вероятность смерти от яда гадюк V. Ь. nikolskii, отловленных в Актарске» приобретает вид

Ф-1(Р) = (0.129 - 2.39) + (1.964 + 0.305 -0.1)-доза.

Семейство таких зависимостей «доза-эффект» по результатам проведенного эксперимента представлено на рис. 3.

Пол подопытных животных статистически значимого влияния на развитие токсического процесса не оказывает и в окончательно отобранные модели не включается.

Доза, мкг/г

Рис. 2. Графики зависимости пробит-значений вероятности смерти мышей при действии яда гадюк V. b. berus или V. b. nikolskii. Пунктиром показаны зависимости, построенные в предположении m2a, что подвидовые различия сводятся к параллельному сдвигу на величину разности LD50. Сплошные линии соответствуют модели m2b, учитывающей дополнительно различия в угле наклона

Fig. 2. Graphs of dependence of probit values of the mice death probability under the action of V. b. berus or V. b. nikolskii venoms. The dotted line shows the dependencies constructed under the m2a supposition that the subspecies differences are reduced to parallel shift by the magnitude of the DL50 difference. The solid lines correspond to the m2b model additionally considering the differences in the slope angle

Обсуждение

Анализ закономерностей, полученных с помощью модели тт1, позволяет подтвердить ряд содержательных гипотез по пространственному распределению отдельных популяций гадюк и их систематическому статусу. В табл. 1 показано статистически значимое различие величин ¿050 для подвидов гадюк V. Ь. Ьегиэ и V. Ь. nikolskii. Однако на самом деле анализируемые выборки частично сделаны из обширной зоны интерградации этих двух форм, и определить систематический статус отдельных популяций можно было в значительной мере условно. В усилении токсичности ядовитого

секрета по отношению к мышам выявляется географический тренд (см. рис. 3), имеющий направление от Пермского края к Липецкой области. Он хорошо отражает современные представления об истории расселения и гибридизации более древней гадюки Никольского с относительно молодой номинативной формой обыкновенной гадюки, отличающейся менее токсичным для мышей ядом.

Таксономическую принадлежность форм со смешанными признаками Ьегиэ и nikolskii предстоит еще уточнить для многих местообитаний, поскольку сами диагностические признаки последней формы нуждаются в уточнении. В частности, к настоящему

Таблица 3. Ранжирование вариантов моделей со смешанными эффектами по уменьшению информационного критерия Акаике А1Сс

Случайные эффекты

Модель

Св. член

доза

Степеней 'свободы

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

подвид

мес

ооб

пол

df

Критерий AICc

mm1

-2.39

1.964

262.7

Л

8

0

+

mm2

-2.407 1.863

mm3 -2.576 + 7 266.9 4.16

mm4 -2.412 1.825 + 8 268.6 5.85

mm5 -2.391 1.959 + + 11 269.7 6.97

mm6 -2.429 + + 10 273.9 11.16

263.5

0.78

mm7

-2.195 1.825

276.2

13.46

5

5

+

времени стали известны популяции V. Ь. nikolskii без меланистов ^пепко et а1., 2010); значит, черная окраска взрослых особей не может являться диагностическим признаком гадюки Никольского. Кроме того, ее типовые экземпляры добыты в зоне контакта V. Ь. Ьегиэ и V. Ь. nikolskii (Bakiev et а1., 2005; М^о, Zinenko, 2005). В связи с возможной перспективой выявления более «чистых» популяций лесостепной формы к западу от типовой территории гадюки Никольского ^пепко et а1., 2010) следует обратить внимание на ст. 23.8 Международного кодекса зоологической номенклатуры (2004), где указывается, что название видовой группы, впоследствии оказавшейся гибридом, не должно употребляться как валидное название ни для одного из родительских видов. Поэтому, если форма «nikolskii» будет переописана с новой территории, то должны измениться ее название и диагностические признаки. Токсичность яда для мышей может быть использована в качестве нового диагностического признака.

Заключение

1. Расчет точечных показателей токсикометрии (¿050 яда обыкновенных

гадюк для мышей) по М. Л. Беленькому (1963) и с использованием современных версий пробит-регрессии не выявил существенных различий в конечных результатах.

2. Использование обобщенных моделей, полученных методом максимального правдоподобия, позволяет изучать токсический процесс на всем диапазоне уровней воздействия, оценивать доверительные интервалы, анализировать различия в силе ядов на основе аппарата проверки статистических гипотез.

3. Обобщенные линейные модели со смешанными эффектами (GLMEM) позволяют количественно оценить влияние комплекса сопутствующих случайных факторов на изучаемые процессы и выполнить прогноз изменения отклика в различных условиях воздействия.

4. Токсичность яда может быть использована в качестве диагностического признака при переописании лесостепной формы обыкновенной гадюки.

Библиография

Бабич П. Н., Чубенко А. В., Лапач С. Н. Применение пробит-анализа в токсикологии и фармакологии с использованием программы Microsoft Excel для оценки фармакологической активности при альтернативной форме учета реакций // Современные проблемы токсикологии. 2003.

Доза, мкг/г

Рис. 3. Зависимости «доза-эффект» для яда обыкновенных гадюк из популяций, условно отнесенных к

подвидам V. b. berus или V. b. nikolskii

Fig. 3. «Dose-response» dependences for the adder venom from populations conventionally related to V. b.

berus or V. b. nikolskii subspecies

№ 4. С.80-88.

Беленький М. Л. Элементы количественной оценки фармакологического эффекта . Л.: Медгиз, 1963. 152 с.

Мастицкий С. Э., Шитиков В. К. Статистический анализ и визуализация данных с помощью R . М.: ДМК Пресс, 2015. 496 с.

Международный кодекс зоологической номенклатуры. Издание четвертое . М.: Т-во науч. изданий КМК, 2004. 223 с.

Четвериков А. А. Линейные модели со смешанными эффектами в когнитивных исследованиях //

Российский журнал когнитивной науки. 2015. Т. 2 (1). С. 41-51 Bakiev A. G., Böhme W., Joger U. Vipera (Pelias) berus nikolskii Vedmederya, Grubant und Rudaeva, 1986 - Waldsteppenotter // Handbuch der Reptilien und Amphibien Europas. Band 3/IIB: Schlangen (Serpentes) III. Viperidae. Wiebelsheim: AULA-Verlag, 2005. S. 293-309. Bliss C. I. The calculation of the dosage-mortality curve // Annals of Applied Biology. 1935. Vol. 22. Issue 1. P. 134-167.

Burnham K. P., Anderson D. R. Model selection and multimodel inference: a practical information-theoretic

approach. New York: Springer, 2002. 448 р. Demidenko E. Mixed Models: Theory and Applications with R. 2nd ed. Wiley, 2013. 754 p. Finney D. J. Probit Analysis. A statistical treatment of the sigmoid response curve. Cambridge: Cambridge

University Press, 1947. 256 р. Finney D. J. Probit Analysis. Cambridge: Cambridge University Press, 1971. 333 р.

Gelman A. Analysis of variance: Why it is more important than ever // The Annals of Statistics. 2005. Vol. 33. No 1. P. 1-53.

Milto K. D., Zinenko O. I. Distribution and Morphological Variability of Vipera berus in Eastern Europe // Herpetologia Petropolitana: Proceedings of the 12th Ordinary General Meeting of the Societas Europaea Herpetologica. St. Petersburg, 2005. P. 64-73. Pinheiro J. C., Bates D. M. Mixed-Effects Models in S and S-PLUS. Springer, 2000. 530 p. Robertson J. L., Savin N. E., Preisler H. K., Russell R. M. Bioassays with arthropods. Boca Raton: CRC Press, 2007. 224 p.

Zinenko O., Turcanu V., Stugariu A. Distribution and morphological variation of Vipera berus nikolskii Vedmederja, Grubant et Rudaeva, 1986 in Western Ukraine, The Republic of Moldova and Romania // Amphibia-Reptilia. 2010. Vol. 31. P. 51-67.

Благодарности

Авторы выражают благодарность Г. В. Еплановой, А. В. Павлову, М. В. Пестову, В. Г. Старкову и М. В. Ушакову за помощь в сборе образцов яда гадюк.

«DÜSE-RESPONSE» MODELS WITH MIXED PARAMETERS BY THE EXAMPLE OF VENOM TOXICITY ESTIMATION OF THE COMMON EUROPEAN ADDER VIPERA BERUS

SHITIKOV Institute of Ecology of the Volga River Basin of the Russian Academy of

Vladimir Kirillovich Science, stok1946@gmail.com

MALENYOV Institute of Ecology of the Volga River Basin of the Russian Academy of

Andrey Lvovich Science, malenyov@mail.ru

GORELOV Institute of Ecology of the Volga River Basin of the Russian Academy of

Roman Andreevich Science, gorelov.roman@mail.ru

BAKIEV institute of Ecology of the Volga River Basin of the Russian Academy of

Andrey Gennadyevich Science, herpetology@list.ru

Summary: The toxicity analysis of samples of the common European adder Vipera berus venom was made. The adders were captured in different regions of the European part of Russia from populations with mixed features of nominative subspecies of V. b. berus and Nikolsky's adder V. b. nikolskii. The values of the average lethal doses (DL50) for white laboratory mice with the intraperitoneal injections were defined by three different methods. The appendix contains functions in the algorithmic language R which assess the values of isoeffective doses for a given set of animal lethal probabilities. "Dose-response" dependences were constructed with the use of GLMEM - general linear mixed-effects models - for various combinations of concomitant factors potentially affecting the result of toxicometric experiment (e.g. sex of experimental animals, subspecies signs of the common adder, capture area, venom color etc.). The optimal model, which corresponded to the minimum of the information AIC-criterion, included both adder subspecies and their habitat. The presence of geographical gradient with an approximate direction from Perm region to Lipetsk region was found in the zone of V. b. berus and V. b. nikolskii intergradation. In this direction in the adder populations with mixed signs the diagnostic features of V. b. nikolskii are intensified and the venom toxicity for mice increases. This identified trend corresponds to the modern notion about the history of the resettlement of the two forms of vipers and their hybridization. The necessity of redescription of "nikolskii" form is noted, because its typical territory is situated in the contact zone with V. b. berus. The toxicity of the venom to mice can be used as a diagnostic sign for the redescription of taxon.

Received on: 27 February 2018 Published on: 30 June 2018

References

Babich P. N. Chubenko A. V. Lapach S. N. Application of the probit-analysis in toxicology and pharmacology using Microsoft Excel program for the estimation of pharmacological activity in an alternative form of reactions registration, Sovremennye problemy toksikologii. 2003. No. 4. P. 80-88. Bakiev A. G., Böhme W., Joger U. Vipera (Pelias) berus nikolskii Vedmederya, Grubant und Rudaeva, 1986 - Waldsteppenotter, Handbuch der Reptilien und Amphibien Europas. Band 3/IIB: Schlangen (Serpentes) III. Viperidae. Wiebelsheim: AULA-Verlag, 2005. S. 293-309. Belen'kiy M. L. Quantitative estimation elements of the pharmacological effect. L.: Medgiz, 1963. 152 p. Bliss C. I. The calculation of the dosage-mortality curve, Annals of Applied Biology. 1935. Vol. 22. Issue 1.

Key words:

venom of the common European adder Vipera berus

V b. berus and

V b. nikolskii subspecies average lethal dose (DL50) laboratory white mice probit dependence "dose-response"

general linear mixed-effects models (GLMEM) informational criteria

P. 134-167.

Burnham K. P., Anderson D. R. Model selection and multimodel inference: a practical information-theoretic approach. New York: Springer, 2002. 448 r.

Chetverikov A. A. General linear mixed-effects models in cognitive researche, Rossiyskiy zhurnal kognitivnoy nauki. 2015. T. 2 (1). P. 41-51

Demidenko E. Mixed Models: Theory and Applications with R. 2nd ed. Wiley, 2013. 754 p.

Finney D. J. Probit Analysis. A statistical treatment of the sigmoid response curve. Cambridge: Cambridge University Press, 1947. 256 r.

Finney D. J. Probit Analysis. Cambridge: Cambridge University Press, 1971. 333 r.

Gelman A. Analysis of variance: Why it is more important tha n ever, The Annals of Statistics. 2005. Vol. 33. No 1. P. 1-53.

International code of zoological nomenclature. Fourth edition. M.: T-vo nauch. izdaniy KMK, 2004. 223 p.

Mastickiy S. E. Shitikov V. K. Statistical analysis and data visualization using R. M.: DMK Press, 2015. 496 p.

Milto K. D., Zinenko O. I. Distribution and Morphological Variability of Vipera berus in Eastern Europe, Herpetologia Petropolitana: Proceedings of the 12th Ordinary General Meeting of the Societas Europaea Herpetologica. St. Petersburg, 2005. P. 64-73.

Pinheiro J. C., Bates D. M. Mixed-Effects Models in S and S-PLUS. Springer, 2000. 530 p.

Robertson J. L., Savin N. E., Preisler H. K., Russell R. M. Bioassays with arthropods. Boca Raton: CRC Press, 2007. 224 p.

Zinenko O., Turcanu V., Stugariu A. Distribution and morphological variation of Vipera berus nikolskii Vedmederja, Grubant et Rudaeva, 1986 in Western Ukraine, The Republic of Moldova and Romania, Amphibia-Reptilia. 2010. Vol. 31. P. 51-67.

i Надоели баннеры? Вы всегда можете отключить рекламу.