CC BY
79
Математическое моделирование. Оптимальное управление Вестник Нижегородского университета им. Н.И. Лобачевского, 2014, № 4 (1), с. 394-401
УДК 519.2
МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ И СТАТИСТИЧЕСКОЕ ОЦЕНИВАНИЕ СОВМЕСТНОГО ДЕЙСТВИЯ ДВУХ ВЕЩЕСТВ В ЗАВИСИМОСТИ «ДОЗА-ЭФФЕКТ»
© 2014 г. Т.С. Бородина
Нижегородский госуниверситет им. Н.И. Лобачевского [email protected]
Поступбла в редакцбю 20.05.2014
Предложен статистический способ оценивания комбинированного и кумулятивного воздействий двух веществ по данным бинарных откликов. В частности, применяется непараметрический метод оценивания регрессии с использованием оценки Надарая-Ватсона (^^оценки). Приводятся результаты компьютерного моделирования на примере ацетилхолин - атропин.
Ключевые слова: зависимость «доза-эффект», ядерные оценки, изоболы.
Введение
Проблема исследования одновременного или последовательного воздействия нескольких веществ на биологические объекты в настоящее время считается актуальной и трудной задачей. Ее решению уделяется большое внимание в токсикологии при разработке антидотов и изучении механизмов токсичности, в гигиене при изучении проблемы гигиенического нормирования, в клинической фармакологии при оценке эффективности лекарственных препаратов [13]. Можно также отметить, что основным принципом лекарственной терапии на сегодняшний день является применение различных сочетаний двух и более лекарственных веществ для повышения терапевтического эффекта и уменьшения неблагоприятных последствий взаимодействия.
Существующие на данный момент методы оценки совместного действия нескольких веществ на биологические объекты и путь их исторического развития достаточно подробно описаны в [1]. Следует только отметить, что универсального способа статистического оценивания совместного действия нескольких веществ пока не существует, хотя попытки решения данной проблемы предпринимались многими авторами.
В данной работе будем говорить о совместном действии двух веществ в зависимости «доза-эффект».
Для определения данной зависимости будем применять модель совместного действия двух веществ, которая является обобщением математической модели зависимости «доза-эффект»
с одной дозой, предложенной М.С. Тиховым и С.В. Криштопенко (см. [1, 2]).
1. Математическая модель зависимости «доза-эффект» для двух веществ
Пусть в биообъект вводятся два различных вещества (или две дозы) в количествах и и и2, причем и2 может либо усилить действие их (синергизм), либо ослабить его действие (антагонизм). Предполагаем, что имеются величины (Х1,Х2) - нижние границы, с которых начинается реакция организма.
Мы наблюдаем величины и (и) = {(Ж.,ии, иъ),1 <. <и}, где бинарная величина Ж есть эффект от совместного воздействия величин (и, и2), то есть наблюдаемый качественный (альтернативный) отклик объекта на введенные дозы. Заметим, что вектор X = (Хи Х2) может принимать различные значения даже при одинаковых условиях эксперимента, что объясняется индивидуальной чувствительностью организма к вводимым препаратам, состоянием организма в целом и отдельных органов на момент эксперимента. Однако для однородных групп объектов наблюдения будем рассматривать вектор X как двумерную случайную величину, распределение которой задается совместной неизвестной функцией распределения ^(х1,х2) = Р (Х1 < х1,Х2 < х2).
Итак, пусть Xt = (Xh., X2i), 1 < i < n, - независимые и одинаково распределенные случайные векторы с неизвестной совместной функцией распределения F(х1, х2) и плотностью распределения f (x1, x2) > 0; Ut = (0ц ,U2i), 1 < i < n, - независимые и одинаково распределенные случайные векторы с неизвестным распределением Q(u1,u2) и плотностью q(u1,u2) > 0, независимые от Xt, i = 1,...,n .
Мы наблюдаем последовательность одинаково распределенных векторов U (n) = {(W,,UU,U2i), 1 < i < n}, где случайные величины Wi = = I(Xu < Ult, X2i < U2i) есть индикаторы событий (Xü < U,) • (X2i < U2i), то есть W = 1, если (Xb. < Uu) и одновременно (X2i < U2i), а Wi = 0 в противном случае.
Рассматриваемую модель будем интерпретировать как зависимость «доза-эффект» для двух веществ в схеме прямых наблюдений.
Целью исследования является построение оценки неизвестной совместной функции распределения F (x1, x2), а также изоболы вероятности X эффекта, для которой F(x1, x2) = X,
0 < X < 1, по результатам наблюдений U (n). В случае двух веществ помимо задачи оценки функции распределения F(x1, x2) возникает также задача оценивания функциональной зависимости самих величин U1 и U2, что позволило бы на практике подбирать конкретные оптимальные в определенном плане комбинации компонентов для достижения того или иного эффекта.
Отметим, что если случайные векторы U = (U1,U2) и X = (X1, X2) независимы, то условное математическое ожидание случайной величины W при фиксированном значении доз U оказывается равным совместной функции распределения случайного вектора X : E(X | U1 = x1,U 2 = x2 ) = = P(X = 1| U1 = x1,U 2 = x2 ) = = P (X1 < U1, X2 < U21U1 = x1,U2 = x2 )= = P (X1 < x1,X2 < x2) = F(x1,x2).
В общем же случае условное математическое ожидание случайной величины W равно E(X | U1 = x1,U 2 = x2 ) =
= P (('1 < x1, X 2 < x2 | U1 = x1, U 2 = x2 ) = = F ( x1 , x2 | x1 , x2 )
и есть функция, которая называется функцией эффективности, такая, что
F'(, ~x>21 , ~x>2) F'(, ~x>2).
Величины (U1,U2) могут быть либо случайными, либо неслучайными. Если величины (U1,U2) случайные, то будем говорить о случайном плане эксперимента. Если вводимые дозы неслучайны (известны заранее), то будем говорить о фиксированном плане эксперимента.
Если измерения вводимых доз U осуществляются с погрешностью, что зачастую встречается в экспериментальной практике, то вместо случайного вектора U наблюдается случайный вектор Y = (71,72). Наблюдения будем называть в этом случае непрямыми. Здесь мы наблюдаем повторную выборку U (n) = {(Wi,Y1i,Y2i), 1 < i < n}, Wi = I(Xи < U,,X2i < U2i), 1 < i < n, есть индикаторы событий (X1i < U,) • (X2i < U2i).
В данной работе будем рассматривать схему прямых наблюдений и случайный план эксперимента. Из рассматриваемой модели следует, что F(x1, x2) является регрессией, и поэтому для ее оценки мы можем использовать ядерные оценки регрессии, построенные по наблюдениям U (n) .
В качестве оценки совместной функции распределения F (x1, x2) будем использовать двумерную оценку Надарая — Ватсона (NW-оценку) следующего вида:
Fh (u) =
s2,h (u) s1,h (u) '
где
I
51,h (u) = - 2 K h (^ — u),
1 n
52,h (u) = - 2W K h (U, — u),
Kh (u) = — K (H—1u), h | H |
(1)
(2)
(3)
(4)
u = (u1,u2)T , Ut = (U1i,U2i)T и |H|= det(H) есть определитель сглаживающей матрицы H =
= {h,j }2x2 .
Тогда
Fh (u) = -
2W K h (U, — u)
,=1_
2 Kh (U, — u)
(5)
При приведенных ниже условиях доказывается состоятельность и асимптотическая нормальность К^оценок; приводятся результаты моделирования на примере ацетилхолин - атропин.
i=1
2. Предположения 3. Статистическое оценивание
совместного действия двух веществ Всюду в работе будем считать, что выполне- в зависимости «доза-эффект»
ны предположения (А):
(А1) Сглаживающая матрица Н = {к- }2х2 Обозначим является симметричной и положительно опре-
s1 _ s1,h (М) , S2 - s2,h (u) ,
деленной матрицей параметров Ъ- , причем ц = д(и), ц2 = Р(и) д(и). (6)
каждый ее элемент ^ 0 для ' = 1, 2, но Имеет место следующий теоретический ре-
n | H | ^ œ при n ^ œ . зУльтат.
Теорема. Пусть u - заданная точка внутрен-
ности множества supp (q). Пусть выполнены
Здесь | Н |= det( Н) есть определитель матрицы Н .
В качестве примера матрицы Н рассмотрим предположения (А). Тогда при п ^ «
(0 ^
H =
0 h2,
V F (u)HT HV (u)
где h1 - h2 - n-1/5. Тогда E( F, (u)) - F (u) - (ц 2(K ) ^ ( ) q + 1 2 q(u)
n | H | - n • n-2/5 - n3/5 ^œ при n ^œ , и пред- + 2 ц2(К )tr(HT H F (u)H))(1 + o(1)), (7)
положения (А1) будут выполнены.
(А2) Существуют все частные производные , ||К ||2 Р (и)(1 - Р (и))
второго порядка у плотности распределения "" -
ц(их, и2), и все их частные производные второго порядка ограничены, непрерывны и интегриру-
2
Var(FH(u))-"^^ J ^(1 + 0(1)),(8) n | H | q(u)
где V (u) и VF (u) обозначает градиент функ-
q\"J " F
е u соответственно а H f (
емы с квадратом. ций д и Р в точке и соответственно, а Н Р (и)
(А3) Ядро К есть симметричная, положи- есть матрица Гессе функции Р в точке и,
тельная, интегрируемая с квадратом плотность 2 2
Г ТК () О К 2 =1 К (у)0у для = 1 2.
распределения, такая, что I хх К (х) ах = ^
Доказательство
= ц2(К ) 12, где ц2(К ) - некоторое действи- (1 п ^
тельное число и 12 есть единичная матрица 2-го Имеем ) = е| — ^ К н(и. - л)
порядка, и все их частные производные (до тре- .
тьего порядка включительно) интегрируемы с = Е(Кн (и1 - и)) =1 К н-и) ) квадратом.
т г =1 К (у) д(и + Ну) Оу =
Здесь х = (х1, х2) и 11(х)ах следует пони- 1
/
мать как
J Jl(x1,x2)dx1dx2.
-J К (s) q(u + ] J К (s)(q(u) + sT HT V q (u)-
+ -2/НтНд (и)Ня) Оя + 0(й-(НтН)).
Отметим, что достаточно часто в качестве 2
ядра К берут мультипликативное ядро В соответствии с предположением (А3)
К Ц,и2) = К(щ) • К(и2) |яК (у)Оу = 02 ,
с одномерной ядерной функцией К с носите- -
лем на отрезке [-1, 1]. Например, можно взять I уУ т К (у) Оу = ц2(К ) 12, (9)
ядро Епанечникова, которое имеет вид: получаем что
К (и) = 0.75(1 - и2) I (| и | < 1). ' 1 т
И ^ ( Еф) = д(и) +—ц2(К )tr(H На(и)Н) +
Иногда рассматривают другие (альтернатив- 4 1' ' 2 ?
ные) ядерные функции К (и), например сфери- + Н)) (10)
ческое ядро Епанечникова
К (и) = (1 - ити)I(|ити |< 1).
Отметим также, что если матрица Н симметричная, то НтН = Н2. В качестве многомерного ядра можно взять Кроме того
K (u) - K u\|) где K - ядерная функция (K : R ^ R) и
||u|| - VuTu обозначает евклидову норму вектора
u - (u1,u2)T .
f 1 n Л
Var(S1) - Var|- ]T K h (U, - u)
1 1 r
-- Var(K h (U1 - u)) --I K h2(? - u) q(t ) dt-
T n nJ
,-1
- - (Е(^1))2 = п
Уаг(52);
11к|
1 Г| Н |-1 к 2(у) д(и + Ну) Л + 0| -пЛ ^ п
=- Г| Н |-1 к 2(,у)(д(и) + /НТ Vв (и)) Су + и Л д
+ о
( ^ п|Н|
Таким образом,
IIКI
Уагф) =д(и) + о п| Н|
( Л п | Н |
+ о(й(НТ Н)). В то же время
( 1 "
Уаг(52) = Уаг|-^Кн(^ - и)
= - Уаг(^Кн (и- - и)) =
1 г 1
=- Г к н (г - и) р(?)д(?) а --(Е(^2))2 =
пп
=- Г| Н |-1 К 2(у) р(и + Ну) д(и + Ну) ск + о( -п Л ^ п
=1 Г| Н |-1 К 2 (у)(р(и) + /НТ Vр (и)) (д(и) п
+ / НТ Vд (и)) Су + о
п | Н |
п|Н|
Таким образом,
д(и)р (и) + о
( 1 ^
п|Н|
п|Н|
д(и)р(и). (14)
Теперь из предположений (А) и соотношений (13), (14) следует, что
52 = 52 Н (и) Д д(и)р(и).
Учитывая неравенство
1
1 + х
-1 + х
(15)
< 2х2
(11)
Из предположений (А) и соотношений (10), (11) следует, что
= (и)Д д(и). (12)
пдю
Аналогично,
( 1 п ^
Еф) = Е|- Кн (и,. - и)
= Е(^Кн (и - и)) = = Е(Е(^Кн(и -и))|и.) = = Е(р (и. )К н (и - и)) = Г К н (г - и) р (г )д(г) Л = = Г К (у) р(и + Ну)д(и + Ну) Су = = Г К (у)(р(и)д(и) + / НТ V^д (и) +
+ 1 / НТ Н д (и)Ну)СУ + о(й(НТ Н)).
Учитывая (9), получаем
1 Т
Е(^) = Р (и)д(и) + - ц 2 (К ЖНТ Н рд (и)Н) +
1 р р для | х | < — и то, что - ц Д 0, 52 - ц2 Д 0 ,
2 пдю пдю
получаем, что
52 = (52 - Ц2 ) + Ц = (52 - Ц2 ) + Ц
- Ц + Ц
52 Ц
(
Ц1
1 + -Ц1
Л
-ад -Ц1) +
Ц1 Ц1
Следовательно,
„ 52 ц -Ь-($ -Ц1) + (16)
51 Ц Ц Ц
Из (12), (15) и (16) получаем Поскольку
5.Д ^ = р (и).
5 ц1
5
— = РН (и),
то имеем следующий результат:
Рн(и) Д Р(и).
(17)
(13)
Учитывая, что
<Рд
Н рд (и) = д(и)НТ Н р (и)Н + 2Vр НТ HVд +
+ р(и)НТ Н (и)Н
находим
Ер (и)) - р(и) «ц2 (К )-
1
V р НТ HV д
д(и)
+
+ - Ц2(К )1г(НТ Н р (и)Н),
р (и)(1 - р (и))
откуда следует (7). Кроме того,
уаг(рн (и))« | ( )
п|Н | д(и) и, следовательно, (8) выполняется. Доказательство завершено. Замечание. Из (17) следует, что оценка
рН (и) является состоятельной оценкой функции распределения р(и), т.е. при достаточно большом числе экспериментов оценка рН (и) близка к р(и). Возникает вопрос: как быстро
2
2
2
п
,=1
п
2
2
РН (и) сходится к Р(и) ? Компьютерное моделирование показало, что достаточно порядка 40 -50 наблюдений для удовлетворительной оценки функции распределения, а следовательно, и для оценки изоболы.
Среди методов оценивания совместного действия двух веществ, приведенных в [1], следует отметить метод М.С. Тихова и С.В. Кришто-пенко оценивания регрессии в зависимости «доза-эффект» при наличии контрольного эксперимента, алгоритм которого следующий:
1) вводить сначала только дозы и1',
1 < ' < п , считая первое вещество основным, и произвести оценку хх квантилей заданных порядков X, (0 < <... < Xт < 1) распределения РХ (х) основного препарата посредством оценки (5) в одномерном случае;
2) вводить пару (и1,и2) и для заданного
0 = (90,91,92) найти оценку РН(и) = РН(и,в) по данным гк = в1и1к + 92и2к + 90 в точках хА . ;
3) подобрать 0 так, чтобы сумма 1 (X, - РН (хА ., 0))2 была минимальной по 0 .
Недостатком этого метода являются дополнительные затраты при проведении эксперимента (вместо одного эксперимента приходится проводить два), поэтому в данной работе рассматривается другой подход.
Новый способ оценивания совместной функции эффективности двух веществ и изобо-лы соответствующей вероятности эффекта, как и метод М. С. Тихова и С. В. Криштопенко, основан на технологии ядерной оценки регрессии. Его реализация зависит от того, как представлены дозы и = (и, и2).
1. Если при каждом значении ии переменной и1 имеется несколько значений и2 ,' = 1,...,п1, переменной и2 (см. пример 5.3
из [1, с. 189-192]), тогда строятся состоятельные и асимптотически нормальные оценки квантилей и2, порядка X для этого значения их ,.
В работе [4] была предложена монотонная оценка квантиля х1и (X), не требующая численной инверсии функции распределения:
(X-Рпкг (,/и) ^
1 n
. (X) = 1 V Нd
ТА
hd
где Н
u
(u)= J Kd (x)dx, Fnhr (x)
стики xln (X) в [5] рассмотрена оценка квантиль-ной функции
x2n (X) =
iv 2 Н
7/7 7/7
fX-Fnh„ (i/n)
предельная дисперсия которой меньше, чем у оценки х1и (X). Однако оценки х1и (X) и х2и (X) имеют асимптотическое смещение (см. [4, 5]), которое было устранено в работе [6] , где была предложена -^пкг - состоятельная оценка функции квантиля.
Таким образом, в качестве оценки квантилей порядка X (0 <А< 1) будем использовать следующую оценку и2,,и (X):
u2i,ni (X) =.
1 ni
- V 2U 2iHd
vi
fx- F4hr (U 2i) ^ h„
,(18)
где
H,
u
(u )= J Kd (x)dx,
vk f x-U2L r
F ( x) = _i=_v hr_L_
rnhAX> ni f x U \ V к ^
- NW-оценка.
Для оценивания изоболы соответствующей вероятности X эффекта предлагается рассматривать полиномиальную модель: u2 =
= ф^(u1,9) = 90 + 91u1 + ... + 9k-1uf . Используя метод наименьших квадратов (МНК) по данным (u1i, u2i), 1 < i < l, получаем оценки 9 = (90,
91,...,9k-1), которые найдены из условия
i
V(u2 -90 - 91u1 -... - 9k-1u1k )2 ^ min i=i 9 (см. [7]). В этом случае возможно проверить гипотезу о степени полинома. Именно, пусть гипотеза о степени полинома имеет вид Н0 : степень полинома равна к. При гипотезе
Н 0 статистика критерия есть
F =
1 i _ -
tt V n (U2i -фк К, 9))2 l - к i=1
1 l ni
—l VV {u2j- U2i)2
(19)
i=1 j=1
есть оценка
1 ni l
где u2i = — V u2 j , N = V n ,
ni j=1
функции распределения F(x). На основе стати-
ф k (u1i, 9) = 90 +91u1i + ... + 9 k-1uk
i=1
i i=1
i=1
i=1
25
20
15
10
0'
• - у
Ф
о о о и»^
*Г
200 400 600 800 1000
Рис. 1. Изобола вероятности эффекта X = 0.5 ацетилхолина (АХ) и атропина (АТ) по признаку хромодакриореи
у белых крыс (линейная модель)
25
20
15
10
ЮОГ
Рис. 2. Изобола вероятности эффекта X = 0.5 ацетилхолина (АХ) и атропина (АТ) по признаку хромодакриореи
у белых крыс (параболическая модель)
подчиняется при п д ж распределению Фишера р(у1 , V2) с числом степеней свободы
Замечание. Ядерные функции Кг (х) и КЛ (х) должны удовлетворять предположениям типа v1 = I - к, v2 = N -1. Тогда делаем вывод: если (А3), а сглаживающие параметры Ъг и Ьй -
С1 < р < С2, то гипотеза о степени полинома не противоречит экспериментальным данным; если р < С1, то степень полинома завышена; если р > С2, то степень полинома занижена. Здесь С1 = ра (у1 , у2), С2 = р а (у1, у2) - квантили по-
1-—
2
рядков а/ 2 и 1 -а/ 2, а-заданный уровень значимости.
2. Если повторяющихся наблюдений величины и1 нет, то будем строить ядерную двумерную оценку Надарая-Ватсона для р(х1, х2) с ядром мультипликативного типа следующим образом. В качестве оценки р(х1, х2) будем использовать статистику:
. IX
рН (Ul, и2) = ^
и1 - и1, К
л
К,
Л
и2 - и2 V К У
I К,
и - и, ( и, - и2
К,
у.(20)
V , У
предположению (А1) для одномерного случая.
С помощью оценки (20) производится оценка изоболы соответствующей вероятности X эффекта (0 < X < 1), для которой выполняется
следующее условие: рН (и1, и2) = X.
Отметим, что данный способ можно реализовать только с помощью компьютерной программы, которая и была создана совместно с М.С. Тиховым (Программа «Зависимость доза-эффект», свидетельство о регистрации электронного ресурса № 19667 от 11.11.2013 г.).
Предложенный способ оценки совместного действия двух веществ применяется для реальных данных, взятых из монографии [1, с. 189192]: там в таблице 5.3 приведены данные по эффекту хромодакриореи (слезотечения) у белых крыс при одновременном воздействии аце-тилхолина и атропина. Водные растворы препаратов в разных дозах вводились животным подкожно, причем атропин вводился за 30 минут до введения ацетилхолина. Появление эффекта в виде слезотечения учитывалось в течение 5 ми-
К
,=1
г У
нут после введения ацетилхолина. В эксперименте было использовано 207 животных.
Эксперимент был проведен таким образом, что при каждом значении (уровне) ии, 1 <, < 50, переменной и1 (ацетилхолина) имеется несколько значений и2(/ (атропина). В этом случае
на каждом уровне оценивается при помощи статистики (18) квантиль порядка X , а далее, с использованием метода наименьших квадратов и программы «Зависимость доза-эффект», оценивается изобола соответствующей вероятности X эффекта.
В практике обычно оценивают изоболы вероятности X = 0.5 эффекта (эффект от совместного введения двух доз не менее 50%), которую и будем строить. При построении оценки (18) было использовано ядро Епанечникова вида
К (и) = 0.75(1 - и2) I (| и | < 1), где I(| и | < 1) есть индикатор события (| и | < 1).
Рассматриваются следующие модели: линейная, когда степень полинома к = 1, и параболическая, когда степень полинома к = 2. На рис. 1 приведена изобола вероятности X = 0.5 эффекта для линейной модели, а на рис. 2 - для параболической. По оси абсцисс отложены дозы ацетилхолина (АХ, мг/кг), по оси нат - дозы атропина (АТ, мг/кг). Зелеными кружками обозначены комбинации доз, при которых эффект хромодакриореи не наблюдался, красными крестиками - наблюдался. Синим цветом изображена изобола вероятности X = 0.5 эффекта.
С использованием программы «Зависимость доза-эффект» получилось следующее: для линейной модели оценка изоболы вероятности X = 0.5 эффекта имеет вид
и2 =-0.323 + 0.016и1,
а для квадратичной зависимости оценка равна
и2 = 0.118 + 0.008и1 + 0.000022Ц2 . Если проверять гипотезу о степени полинома для линейной модели (гипотеза Н0 : степень полинома к = 1), то получим, что значение статистики (19) равно р = 1.83 . Для уровня значимости а = 0.05 критические значения, найденные из распределения Фишера, есть с = р0025 (48,157) = 0.61,
C2 = F0975(48, 157) = 1.54.
Так как F > C2, то степень полинома здесь занижена. При проверке гипотезы о степени полинома для параболической модели (гипотеза H0 : степень полинома к = 2) значение статистики (19) равно F = 1.49. Для уровня значимости а = 0.05 получаем, что C\ < F < C2, где C = F).025 (47,157) = 0.61
и
C2 = Fi.975(47,157) = = 1.55. Следовательно, гипотеза о степени полинома к = 2 не отвергается и увеличивать степень полинома больше не нужно. Так как при увеличении доз ацетилхолина для получения эффекта дозы атропина также увеличиваются, можно сделать вывод, что атропин является антагонистом ацетилхолина, что и подтверждается на практике.
Таким образом, предложен новый способ оценивания регрессии по методу наименьших квадратов с использованием оценок эффективных доз, при помощи которого на примере аце-тилхолин — атропин построена изобола вероятности X = 0.5 эффекта, и сделан вывод о наличии антагонизма.
Список литературы
1. Криштопенко С.В., Тихов М.С., Попова Е.Б. Доза-эффект. М.: Медицина, 2008. 288 с.
2. Криштопенко С.В., Тихов М.С. Токсикометрия эффективных доз. Н. Новгород: Изд-во ННГУ, 1997. 156 с.
3. Попова Е.Б. Планирование исследований и анализ зависимостей «доза-эффект» токсичных и лекарственных веществ. Дис. ... д-ра мед. наук. СПб.: ВМА, 2010. 254 с.
4. Dette H., Neumeyer N., Pilz K.F. A note on non-parametric estimation of the effective dose in quantal bioassay // J. the American Statistical Association. 2005. V. 100. P. 503-510.
5. Tikhov M.S., Borodina T.S. A nonparametric estimator for the effective doses in dose-effect dependence over random experiment plans // Reliability and Statistics in Transportation and Communication (RelStat'12). Riga, Latvia, 2012. P. 384-391.
6. Tikhov M.S., Borodina T.S. Kernel quantile estimators in the dose-effect dependence // Automatic Control and Computer Sciences. 2013. V. 47. № 2. P. 75-86.
7. Крамер Г. Математические методы статистики. М.: Мир, 1975. 648 с.
MATHEMATICAL SIMULATION AND STATISTICAL ESTIMATION OF JOINT ACTION OF TWO SUBSTANCES IN DOSE-EFFECT RELATIONSHIP
T.S. Borodina
A statistical procedure to estimate combined and cumulative actions of two substances by binary response data is proposed. In particular, the nonparametric regression estimation technique is applied using the Nadaraya-Watson (NW) estimation. The results of computer simulation are given for the case of acetylcholine-atropine.
Keywords: dose-effect relationship, kernel estimations, isoboles.
References
1. Krishtopenko S.V., Tihov M.S., Popova E.B. Doza-ehffekt. M.: Medicina, 2008. 288 s.
2. Krishtopenko S.V., Tihov M.S. Toksikometriya ehffektivnyh doz. N. Novgorod: Izd-vo NNGU, 1997. 156 s.
3. Popova E.B. Planirovanie issledovanij i analiz zavisimostej «doza-ehffekt» toksichnyh i lekarstvennyh veshchestv. Dis. ... d-ra med. nauk. SPb.: VMA, 2010. 254 s.
4. Dette H., Neumeyer N., Pilz K.F. A note on non-parametric estimation of the effective dose in quantal
bioassay // J. the American Statistical Association. 2005. V. 100. P. 503-510.
5. Tikhov M.S., Borodina T.S. A nonparametric estimator for the effective doses in dose-effect dependence over random experiment plans // Reliability and Statistics in Transportation and Communication (RelStat'12). Riga, Latvia, 2012. P. 384-391.
6. Tikhov M.S., Borodina T.S. Kernel quantile estimators in the dose-effect dependence // Automatic Control and Computer Sciences. 2013. V. 47. № 2. P. 75-86.
7. Kramer G. Matematicheskie metody statistiki. M.: Mir, 1975. 648 s.
