CC BY
242
ОСНОВНЫЕ МАТЕМАТИЧЕСКИЕ МОДЕЛИ И МЕТОДЫ РАСЧЕТА ФУНКЦИОНАЛЬНОЙ НАДЕЖНОСТИ КОРПОРАТИВНЫХ ИНФОРМАЦИОННЫХ СИСТЕМ
А.В. Мейко (Казанский государственный технический университет
им. А.Н. Туполева) Научный руководитель - д.т.н., профессор В.С. Моисеев (Казанский государственный технический университет им. А.Н. Туполева)
Предлагаются математические модели и методы расчета функциональной надежности для применения при проектировании современных корпоративных информационных систем. Обсуждаются оригинальные методы оценки чувствительности показателей надежности таких систем.
Введение
В настоящее время автоматизированные системы управления (АСУ) вступили в новую стадию своего развития, которая определяется широким внедрением в практику сложных территориально-распределенных корпоративных информационных систем (КИС). Появление, развитие и распространение сложных систем, компонентами которых являются технические средства, программное обеспечение, человек, требуют новых подходов к оценке их надежности и безопасности. Одним из важнейших вопросов теории и практики надежности является математическое моделирование функционирования систем, разработка методов и алгоритмов расчета, анализа и прогнозирования их надежности. Сложность решения задачи расчета надежности систем управления обусловлена отсутствием универсальных методов, учитывающих неполноту и неоднородность исходной информации о надежности элементов систем.
Анализ существующих методов и моделей расчета надежности сложных информационных систем выявил основные недостатки этих методов, а именно отсутствие методик расчета такого важного их свойства, как функциональная надежность, отсутствие учета структур и особенностей используемых технических и программных средств системы, а также сложный математический аппарат для расчета показателей надежности. Последнее не позволяет использовать его в составе инженерных методик расчета надежности корпоративных информационных систем. В ГОСТе по надежности АСУ [1] также приведен лишь список показателей надежности, но сами методы расчета надежности КИС отсутствуют. Поэтому разработка достаточно новых простых математических методов расчета и анализа надежности функционирования компонент КИС является актуальной [2].
В данной работе делается попытка ликвидации этого недостатка: разработаны инженерные математические модели оценки надежности функциональных компонентов КИС, а также приведены методы оценки чувствительности показателей надежности таких систем.
Постановка задачи
Корпоративные информационные системы - это интегрированные системы управления территориально распределенной корпорацией, основанные на углубленном анализе данных, широком использовании систем информационной поддержки принятия решений, электронных документообороте и делопроизводстве. КИС призваны объединять стратегию управления (бизнес-стратегию) предприятием и передовые информационные технологии [3].
Основным понятием в работе является понятие «функциональной надежности КИС», под которым в данной работе понимается свойство системы, обеспечивающее
требуемый уровень работоспособности рассматриваемой КИС при выполнении возложенных на нее функций.
В работе [4] показано, что любая информационная система £ может быть описана отношением вида: £ ^ ТхР хБ хи, где Т - множество технических средств системы; Р - множество программ системы; Б - множество данных, используемых при ее функционировании; и - множество пользователей системы.
Корпоративные системы охватывают, как правило, всю финансово-хозяйственную и производственную деятельность предприятия, в том числе имеющего филиалы и дочерние фирмы, входящего в холдинговые компании и концерны. В частности, типовыми функциями КИС являются автоматизация документооборота, моделирование бизнес-процессов, устранение внутрифирменных барьеров, обеспечение доступа в международные информационные сети. Пусть Г - множество функций, реализованных в составе КИС (планирование, учет, финансы и т.п.). Тогда реализацию некоторой функции / е Г можно рассматривать как некоторое подотношение £ у е £ такое,
что £ у е Т х Р х Б хи, / е Г. При этом предполагается, что У £ у = £ .
/ еГ
Требуется разработать достаточно простые математические модели для оценки надежности функционирования этих компонент КИС.
Отметим, что в существующих работах по надежности информационных (автоматизированных) систем предлагаются методы отдельного расчета показателей надежности отмеченных выше компонентов, хотя в процессе их функционирования все эти компоненты тесно связаны. Для разработки методик расчета показателей функциональной надежности КИС введем в рассмотрение два вида элементов КИС: аппаратно-программные и функциональные элементы КИС.
Под аппаратно-программными элементами (АПЭ) КИС будем понимать технические средства КИС и системное программное обеспечение, необходимое для их функционирования. Примерами таких элементов являются телекоммуникационное оборудование, серверы, персональные компьютеры и т.п.
Функциональные элементы (ФЭ) КИС должны включать в себя алгоритмы соответствующих деловых (бизнес-) процессов, диалоговые комплексы программ, необходимые для их работы данные и эксплуатирующих их пользователей.
Множество ФЭ КИС должно полностью отражать множество функций Г рассматриваемой системы.
Динамические модели расчета надежности аппаратно-программных элементов корпоративных информационных систем
Рассмотрим предварительные схемы расчета надежности АПЭ КИС.
Введем следующие состояния АПЭ КИС: Е0 - АПЭ работоспособен; Е1 - отказ и восстановление программной части АПЭ; Е2 - отказ и восстановление технической части АПЭ; Е3 - одновременный отказ и восстановление обеих частей АПЭ. Взаимосвязь рассматриваемых состояний АПЭ представлена на рис. 1, где Хг и - соответственно интенсивности отказа и восстановления 1-й части АПЭ, г = (1,3).
Обозначим через р, (^) - вероятность того, что процесс функционирования АПЭ в
момент времени I находится в состоянии Ег, г = (0,3) . Тогда уравнения, описывающие динамику изменения этих вероятностей, записываются как [5]:
= -(Хх + ¿2 + ¿3 )Р0 + И1Р1 +М2 Р2 + ИЗ Рз; (1)
£ = ¿"0— Н Р.-
Ш
% =¿2 Р0-Н Р2, ^ = ¿3 Р0— Н Р3;
Кроме того, необходимо выполнение условия:
РОС) + ) + Р2^) + Ръ(*) = 1, (2)
так как события, состоящие в том, что в момент времени I система находится в состояниях Е0, Е1, Е2, Е3 , несовместны и образуют полную группу.
Начальные условия для дифференциальных уравнений (1) имеют вид: Ро(0)=1, Р1(0)=0, Р2(0)=0, Р3(0) =0. (3)
При использовании математической модели надежности АПЭ КИС вида (1)-(3) изменение вероятности его безотказной работы определяется функцией р0(I) . Вероятность отказа АПЭ к моменту времени I определяется как ^(¿)=1-р0(I). Вероятность безотказной работы АПЭ определяется функцией вида РапЭ(£)= Р0(1) .
Далее нас в большей степени будут интересовать вероятности р0^), ), Р2 ^), так как событие Е3 происходит крайне редко и практически не влияет на надежность АПЭ.
Модели оценки надежности функциональных элементов корпоративных информационных систем
Рассмотрим модель оценки надежности функционального элемента (ФЭ) КИС, реализованного в виде диалогового комплекса программ (КП). Граф связи состояний процесса его функционирования приведен на рис. 2.
Построим модель оценки надежности работы пользователя КИС. В процессе его работы выделим следующие состояния: Е0 - запуск КП; Е1 - пользователь осуществляет ввод данных; Е2 - пользователь проводит контроль вводимых данных; Е3 - пользователь обнаружил ошибку и проводит ее исправление; Е4 - пользователь не обнаружил пропущенную ошибку; Е5 - выполнение функций, реализованных в составе КП; Е6 -отказ и восстановление КП; Е7 - контроль результатов работы (выходных данных) КП; Е8 - завершение работы КП.
Математическая модель оценки надежности функционирования диалогового КП будет выглядеть так:
= 01Р0; = —(¿12 + ¿15 )Р1 + ^01Р0 + ^31Р341Р4;
^ТГ = 23 + Х24^2 + Х12Р\ + Х72Р7 ; ^ = 31Р3 + Х23Р2 ; Ш Ш
^ГГ = 41Р4 + Х24Р 2 ; "ТТ = 56 + Х57 )Р5 + Х15Р1 + Х65Рб ; Ш Ш
-"ТТ = 65Рб + Х 56Р5 ; ^ТГ = -(Х72 + Х78)Р7 + Х57Р5 ;
ш ш
= х 78 Р7; IР* (о=1.
Начальные условия имеют вид: рд(0)=1, Р* (0)=0, *'=(1,8 ).
Рис. 2. Граф связи состояний процесса функционирования ФЭ
Пусть т/ - заданное значение затрат времени на решение задачи с помощью КП. Тогда надежность реализации функциисистемы с помощью рассматриваемого КП определим как вероятность правильности полученных к моменту времени т/ результатов, которая вычисляется как РКП(т/)= Р8(т/).
Заметим, что данные методы применимы для отказов, подчиняющихся экспоненциальному закону распределения. Поэтому данные по отказам и восстановлениям подверглись статистической обработке, в результате гипотеза о экспоненциальном законе распределения подтвердилась в 83 % случаев [6].
Модели оценки надежности баз данных корпоративных информационных систем
База данных (БД) является важнейшим компонентом КИС, от надежного функционирования которого зависит эффективное выполнение практически всех функций системы [7].
Наиболее простая модель для оценки надежности работы корпоративной базы данных (БД) может быть представлена как восстанавливаемая система с ограниченным объемом запасных частей (в данном случае - БД-реплик).
Пусть рассматриваемая система корпоративных БД с «теплым» резервированием подвергается пуассоновскому потоку отказов с интенсивностью X. В системе имеется N локальных копий, т.е. реплик БД, а также файлов вносимых изменений (локальных журналов транзакций). В самом простом случае восстановление реплик осуществляется с помощью эталонной версии БД, а их дальнейшая актуализация производится на основе соответствующего локального журнала изменений.
Будем считать, что затраты времени на восстановление некоторой реплики БД с помощью эталонной версии гораздо выше рассматриваемого интервала функциониро-
вания, поскольку требуется осуществить пересылку достаточно больших объемов данных (полной копии эталонной БД) и произвести их актуализацию. В этом случае надежность БД определяется вероятностью того, что имеющегося числа ее реплик хватит для обеспечения устойчивой работы системы на интервале времени (0,^), поскольку при отказе какой-то реплики БД запросы будут просто переадресованы к одной из оставшихся в рабочем состоянии реплик.
Надежность корпоративной БД целесообразно оценивать как вероятность того, что на интервале (0, ¿) число отказов реплик БД будет не больше (N-1), которая вычисляется по формуле вида
N-1
N-1
Рбд (t) = Z Pk (t) = e Z
(W
k!
(4)
k=0 k=0
Эта величина может быть принята в качестве оценки вероятности безотказной работы системы с «теплым» резервированием, состоящей из N реплицированных корпоративных БД, к моменту времени t.
Обозначим через Рщеб требуемый уровень надежности БД в составе КИС. Тогда требуемое число Nmpe6 реплик БД, необходимых для ее работы с уровнем надежности РДеб за время т, определяется с учетом выражения (4) по следующей формуле:
= arg min { > -
N
треб
n=u,..lk=0 k!
> РБДреб e u}.
Рассмотрим более сложную, но достаточно реальную ситуацию, когда в террито-риально-распределенных узлах обработки данных КИС осуществляется локальное резервное копирование состояний БД-реплик через некоторые априорно заданные интервалы времени. Предполагается, что последовательность снятия резервных копий (т.е. контрольных точек) в целом для всей системы синхронизирована. В этом случае каждая из реплик БД восстанавливается со своей последней локальной РК, и далее производится ее актуализация в соответствии с локальным журналом изменений.
Дальнейшее построение моделей, предназначенных для оценки характеристик надежности рассматриваемой системы, будем осуществлять на основе формализма конечных цепей Маркова [8].
Введем в рассмотрение следующие состояния системы: Е0 - в системе функционируют и доступны все реплики корпоративной БД; Е1 - одна из реплик находится в состоянии отказа (неработоспособна), производится ее восстановление с использованием соответствующей локальной РК; Е2 - две реплики в состоянии отказа; и далее Еы -все имеющиеся реплики корпоративной БД находятся в состоянии отказа, производится их восстановление. Именно в этом последнем случае можно говорить об отказе всей корпоративной БД, поскольку ни одна из реплик не будет работоспособной и доступной для работы пользователей.
По-прежнему будем считать, что система подвергается пуассоновскому потоку отказов с интенсивностью X, а восстановление каждой из реплик осуществляется с интенсивностью ц. Граф связи состояний системы в виде марковской цепи представлен на рис. 3.
Рис. 3. Граф связи состояний системы в виде марковской цепи
Подобная схема переходов состояний сложной системы получила известность как марковская модель «гибели-размножения» [5]. Введем также в рассмотрение приведенную интенсивность потока отказов, которая определяется как р = — . Тогда базовая моИ
дель расчета надежности корпоративной БД для графа, представленного на рис. 3, определяется через так называемые финальные вероятности состояний системы на основании формул Эрланга [4] (с учетом того, что ц1= ц; ц2=2ц; ц3=3ц ... ) в следующем виде:
2 3 N
/1 Р Р Р ч-1
р0 = (1 + Р+ — + — + ... + —) \
2! 3! N1
(5)
N
2 3 N
Р Р Р ^ 1
Р1 = рро; Р2 =—Ро; Р3 =—Ро; . ; PN = — Ро; II р, =1
Отсюда с использованием системы уравнений (5), которая описывает финальные вероятности всех возможных состояний системы в рамках данной модели, искомая вероятность безотказной работы рассмотренной схемы функционирования корпоративной БД вычисляется как
Р N
Обд = 1 - PN = 1 - N Ро.
Таким образом, продемонстрирован подход, позволяющий с помощью несложных выкладок на основе экспертных оценок интенсивностей потоков отказов и восстановления [6] получить достаточно адекватные оценки таких важных показателей надежности КИС, как вероятность безотказной работы, вероятность работы с производительностью не ниже заданной и т. д.
Расчет надежности вспомогательных функций корпоративной информационной системы
Приведенные модели и методы рассмотрим на примере расчета функциональной надежности подсистемы учета и анализа долгосрочных вложений, являющейся основной компонентой существующих КИС. Для данной подсистемы рассчитывались такие показатели надежности, как коэффициент готовности к выполнению *-й функции и вероятность безотказного выполнения *-й функции.
Рассмотрим методику расчета на примере функций автоматизированной загрузки данных о долгосрочных вложениях организации, ее дочерних и зависимых обществ. Схема подключения аппаратных средств для данной функции представлена на рис. 4.
о-к
ЗЧИК
З-СП-С
Рис. 4. Схема подключения аппаратных средств
Введем следующие состояния подсистемы, реализующей эту функцию, с точки зрения аппаратно-программных средств: Е0 - подсистема работоспособна; Е1 - отказ автоматизированных рабочих мест; Е2 - отказ сервера БД Администрации; Е3 - отказ сервера электронной почты (внутр.); Е4 - отказ сервера электронной почты (внеш.). Взаимосвязь выделенных состояний описывается ориентированным графом, представленным на рис. 5, где X*АП и !*АП - соответственно интенсивности отказа и восстановления *-й части АПЭ, * = (1,4) .
Рис. 5. Взаимосвязь состояний подсистемы учета и анализа долгосрочных вложений
Система дифференциальных уравнений, описывающих работу данной подсистемы, выглядит следующим образом [5]:
= -(Х1АП + Х 2АП + Х3АП + Х 4АП )р0 + И1АПр1 + И2АПр2 + И3АПр3 + И4АПр4 ;
Фо
ёр1
= Х1АП р0 И1АП р1 ;
. ёР2
= Х3АПр0 - И3АПр3 ;
Ф3
Ф4
= ^2АПр0 - М2АПр2 ;
= Х 4 АП р0 - И 4 АП р 4 ;
Р0 + Р1 + Р2 + Р3 + Р4 = 1. Начальные условия: ^о(0) =1, р*(0)=0, *=(1,4).
Рассчитаем вероятность безотказной работы этих функций с точки зрения надежности программного обеспечения и СУБД без учета аппаратных средств. Схема взаимодействия ПО и СУБД представлена на рис. 6.
Клиентск ий пакет приложений
~АРМ
Пакет приложений сервера БД Адм-ии
БД
Сервер БД Администрации
Программное обеспечение сервера ЭП (внут.)
Сервер ЭП (внут.)
Программное обеспечение сервера ЭП (внеш.)
Сервер ЭП (внеш.)
Рис. 6. Схема взаимодействия ПО и СУБД
С точки зрения ПО и СУБД выделяем следующие возможные состояния подсистемы: Е0 - подсистема работоспособна; Е1 - отказ клиентского приложения автоматизированных рабочих мест; Е2 - отказ пакета приложений сервера БД Администрации; Е3 - отказ СУБД Администрации; Е4 - отказ ПО сервера электронной почты (внутр.); Е5 - отказ ПО сервера электронной почты (внеш.). Взаимосвязь выделенных состояний описывается ориентированным графом, представленным на рис. 7, 1*ПО и цПО - соответственно интенсивности отказа и восстановления *-й части ПО, * = (1,5).
Рис. 7. Взаимосвязь выделенных состояний
Система дифференциальных уравнений, описывающих работу данной подсистемы, выглядит следующим образом [4]:
_ТТ = -(^1ЯО + ^2ПО + ^3ПО + ^4ПО + ^5ПО)Ро + Ц1ПОР\ + ц2ПОРг + Ц3ПОРз + Ц4ПОр4 + Ц5ПОРъ;
а?
£-ХШОРО-Ц.ПОР,, £ = Л2ПОР0 — Ц 2 по Рг; £ = ^поРо-Ц3П0Р3; а? а; а;
^ = Л 4 ПО Ро —Ц4 ПО Р4; ^ = ПО Ро-Ц, ПО Ръ; а; а;
Ро + Р1 + Рг + Рз + Р4 + Ръ = 1. Начальные условия: ро (0) =1, Р1 (0) =0,, /=(1,5 ).
Задаваясь числовыми значениями интенсивностей отказа и восстановления [6], получим вероятность безотказной работы подсистемы при выполнении рассматриваемых функций с учетом аппаратно-программных средств, программного обеспечения и СУБД Р=РАП'Р4ПО=0,9993-0,9995=0,9988.
Оценка надежности работы пользователя
Необходимо учитывать, что надежность выполнения отдельных функций, таких как функции ввода и редактирования, зависит не только от надежности работы аппаратно-программных и средств и программного обеспечения, но и от надежности работы пользователя.
Надежность работы пользователя определяется вероятностью ошибки. Значение вероятностей допущения ошибок, используемые при расчете, предлагается оценивать с помощью следующего подхода [9]. Для каждого п и заданного в можно построить область, внутри которой значение вероятности р совместимо с наблюденным в опыте
* т-»
значением частоты р . В нашем случае п - количество вводимых или редактируемых данных, к - число допущенных ошибок, в - доверительная вероятность, р - вероятность допущения ошибок в вводимых или редактируемых данных, р* - частота допущения *к
ошибок, р = —.
п
* *
Выберем в качестве интервала р1, р2 самый малый интервал, вероятность попадания левее которого и правее которого будет больше -2. Разрешая уравнение
— а
^ СтР\ (1 - Р1)п-т =—, можно найти нижнюю границу р1 «доверительной области»; а
т=к 2
к а
^у^т т /л \п—т ^ ~
Сп Р2 (1 — Р2) = — можно найти верхнюю границу р2.
т=0 2
Но мы предполагаем, что данные вводят и редактируют квалифицированные операторы, которые допускают незначительное количество ошибок. Необходимо оценить надежность работы пользователя, т.е. вероятность допущения им ошибок в вводимых или редактируемых данных.
Пусть производится ввод или редактирование п данных, ни в одном случае не допущено ошибки. Задана доверительная вероятность в; требуется построить доверительный интервал для вероятности р события А, точнее, найти его верхнюю границу р2, так как нижняя граница р1, естественно, равна нулю. Верхняя граница определяется по
формуле Р2 = 1 — п 1 — в .
Зная вероятности безотказной работы каждой вспомогательной функции с учетом работы аппаратно-программных средств, программного обеспечения, СУБД и пользователя, можем посчитать вероятность безотказной работы всей функциональной подсистемы, реализующей данные вспомогательные функции.
Оценки чувствительности показателей надежности информационных систем
Основной задачей теории чувствительности динамических систем [10] является оценка степени влияния изменения значений начальных условий и параметров системы на протекание во времени процессов, описываемых системой дифференциальных уравнений вида:
^ = Ф(?, у, а), (6)
т
У(;о) = Уо. (7)
Здесь у(?) - вектор характеристик моделируемого процесса; ?о , Уо - начальные условия процесса; а - вектор параметров, влияющих на его протекание. Методы этой
теории позволяют построить векторную и матричные функции: ) =
тг с)
а?0
п(?) =
0у-(?)
, т( ?)=
аа (?)
аа
называемые функциями чувствительности решения за-
_°Уо
дачи Коши (6), (7) вида
У = У( ^ Уo, а) (8)
к изменению значений параметра ?о, а также векторов уо и а. Здесь выражение (8)
представляет собой общую форму записи решения задачи Коши (6), (7) [11].
В теории надежности [5] аналогом модели (6), (7) является система линейных дифференциальных уравнений: Ип п _
-Р = Е а1]Р] , /=1, п, ?>0 (9)
т ]=1
с начальными условиями
Рг (0) = Р/0, /=1ГП . (10)
Кроме этого, в модель оценки надежности системы включается условие вида
£р, о=1. (11)
*=1
Здесь функции р* (^) описывают вероятности того, что в момент времени I рассматриваемая система находится в *-м состоянии (работоспособна, ремонтируется и т.п.). Элементы матрицы А=[а7]пхп зависят определенным образом, обусловленным решаемой задачей, от векторов интенсивностей отказов Х=(Х1, Х2, ... , Хм) и восстановлений р=(ць ц2, ... , отдельных элементов из числа N элементов рассматриваемой системы. Правило построения системы вида (9) описано в упомянутой выше работе [5] и в ряде других работ, посвященных теории надежности.
В этих работах на основе модели (9)-(11) решается задача определения коэффициента готовности системы КГ =Рс(ю) или ее функции надежности Рс(¿) при фиксированном значении времени
Отметим, что в работе [12] рассматривались модели оценки чувствительности показателей надежности неремонтируемых изделий, информационных систем с учетом их ремонта, аппаратно-программных средств системы и прикладного программного обеспечения к ошибкам пользователя. Были получены соотношения, с помощью которых оценивается влияние изменения различных факторов и начального состояния системы на показатели надежности информационных систем. Это позволяет определить способы повышения надежности информационных систем.
Заключение
В работе были сформулирована постановка задачи расчета функциональной надежности КИС, разработаны инженерные математические модели оценки надежности аппаратно-программных средств и функциональных элементов КИС.
В качестве объекта исследований при разработке методики расчета функциональной надежности была выбрана одна из основных подсистем существующих КИС. Разработана методика вычисления основных показателей надежности рассматриваемой функциональной подсистемы. Приведенные алгоритмы расчета надежности были реализованы программно. В связи с отсутствием статистических данных по отказам компонент КИС разработаны методики сбора и обработки экспертной информации для вычисления интенсивностей отказов аппаратно-программных средств КИС.
Были освещены методы оценки чувствительности показателей надежности КИС.
Литература
1. ГОСТ 24.701-86 Надежность автоматизированных систем управления. Общие положения. М.: изд-во стандартов, 1986. 17 с.
2. Мейко А.В. Методика расчета функциональной надежности корпоративной информационной системы. / Микроэлектроника и информатика - 2005. 12-я Всероссийская межвузовская научно-техническая конференция студентов и аспирантов: Тезисы докладов. М.: МИЭТ, 2005. С. 276.
3. Бройдо В.Л. Вычислительные системы, сети и телекоммуникации. СПб: Питер, 2003. 688 с.
4. Кук Д., Бейз Г. Компьютерная математика. М.: Наука, 1990. 383 с.
5. Вентцель Е.С. Исследование операций. М.: Советское радио, 1972. 55 с.
6. Мейко А. В. Статистические и экспертные оценки показателей надежности компонент корпоративных информационных систем. VIII Королевские чтения: Всероссийская молодежная научная конференция, Самара, 4-6 октября 2005 года: Тезисы
докладов. Самара: Издательство Самарского государственного аэрокосмического университета имени академика С.П. Королева, 2005. С. 320.
7. Зиновьев П.А., Моисеев В.С., Мейко А.В. Модели для оценки надежности архитектурных решений корпоративных систем хранения данных. / Исследования по информатике. Выпуск 9. Научно-практическое издание. Институт проблем информатики АН РТ, Казань: Отечество, 2005. С. 93-102.
8. Кемени Дж., Снелл Дж. Конечные цепи Маркова. М.: Наука, 1970.
9. Вентцель Е.С. Теория вероятностей. М: Наука, 1969. 572 с.
10. Надежность автоматизированных систем управления / Под ред. Я. А. Хетагурова. М.: Высш. школа, 1988.
11. Понтрягин Л.С. Обыкновенные дифференциальные уравнения: Учебник для университетов. 4 изд. М.: Наука, 1974.
12. Моисеев В.С., Мейко А.В., Зиновьев П.А. К задаче оценки чувствительности показателей надежности информационных систем. / Исследования по информатике. Выпуск 10. Научно-практическое издание. Институт проблем информатики АН РТ, Казань: Отечество, 2006. С. 51-64.
