Автоматизированная технология и программно-технологический комплекс для построения экспертных систем с интеллектуальным ядром, основанном на нейросетевых моделях, поддержкой распределенного ввода данных и параллельных вычислений

Арзамасцев Александр Анатольевич; Зенкова Наталья Александровна; Крючин Олег Владимирович; Квашенкин Давид Олегович; Неудахин Александр Викторович

УДК 519.95

АВТОМАТИЗИРОВАННАЯ ТЕХНОЛОГИЯ И ПРОГРАММНО-ТЕХНОЛОГИЧЕСКИЙ КОМПЛЕКС ДЛЯ ПОСТРОЕНИЯ ЭКСПЕРТНЫХ СИСТЕМ С ИНТЕЛЛЕКТУАЛЬНЫМ ЯДРОМ, ОСНОВАННОМ НА НЕЙРОСЕТЕВЫХ МОДЕЛЯХ, ПОДДЕРЖКОЙ РАСПРЕДЕЛЕННОГО ВВОДА ДАННЫХ И ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛЕНИЙ1

Ключевые слова: автоматизированная технология; экспертные системы; искусственная нейронная сеть; интеллектуальное ядро; параллельные вычисления; распределенный ввод данных; механизмы удаленного доступа.

В результате выполнения проекта разработан программно-технологический комплекс, позволяющий создавать экспертные системы для различных сфер деятельности. Экспертные системы этого типа базируются на распределенном вводе исходных данных с помощью системы удаленного доступа, интеллектуальном ядре, на основе искусственных нейронных сетей, при его поэтапном обучении с использованием параллельных алгоритмов. Программный комплекс прошел апробацию при разработке экспертных систем в следующих областях: промышленный объект (экспертная система для технологического процесса выработки биомассы на основе отходов производства этанола); медицинский объект (экспертная система для прогнозирования исхода хирургического лечения осложненного колоректального рака). С его использованием получены также модели для экологических объектов (прогнозирование плотности популяции креветки в открытой системе и температуры воздуха в г. Тамбове); экономических объектов (прогнозирование котировок валют); социальных объектов (модель профессиональной предрасположенности школьников старших классов). Во всех случаях достигнуто высокое качество соответствия эмпирических и расчетных значений за счет высокой адаптационной способности ядра экспертной системы и процедуры поэтапного обучения. В ходе работы выявлены: универсализм предложенных механизмов формирования и адаптации экспертной системы к эмпирическим данным из различных предметных областей, возможность практического использования данных приемов и методов. Разработанный комплекс программ может иметь коммерческое использование.

ВВЕДЕНИЕ

Необходимость в экспертных системах (ЭС) как в интеллектуальных помощниках, способных решать трудноформализуемые задачи, существует во многих сферах человеческой деятельности: промышленности, научных исследованиях, социальной и экономической областях.

Вместе с тем создание и эксплуатация таких систем характеризуется в настоящее время рядом трудностей и ограничений: высокой трудоемкостью процессов построения баз знаний ЭС, связанной с формализацией знаний экспертов и их машинным представлением, а в некоторых случаях невозможностью такой формализации вследствие большого количества невербальных данных, влияющих на оценку эксперта; необходимостью привлечения дополнительного круга специали-

1 В статье представлены результаты исследований, выполненных по государственному контракту №8894р/14330 от 11.04.2011 г. «Разработка автоматизированной технологии и программно-технологического комплекса для построения экспертных систем для различных сфер деятельности, включающей оригинальные способы и программные механизмы разработки экспертных систем, поддерживающих распределенный ввод данных, параллельные вычисления и имеющих интеллектуальное ядро, основанное на нейросетевых моделях». Фонд содействия развитию малых форм предприятий в научно-технической сфере. Программа СТАРТ. 2011-2012 гг.

стов - инженеров по знаниям и разработке специализированного программного обеспечения или адаптации существующих ЭС под конкретные условия рассматриваемой предметной области; преобладанием локального подхода к организации взаимодействия с ЭС, тогда как в настоящее время все большое распространение и доступность получают сетевые информационные системы, например, веб-ориентированные.

Таким образом, становится актуальной задача разработки новой информационной технологии, позволяющей устранить вышеуказанные трудности и ограничения путем автоматизированного формирования базы знаний для конкретной предметной области на основе распределенного сетевого ввода данных.

Решение данной задачи возможно за счет использования в качестве системы представления знаний в ЭС моделей искусственных нейронных сетей (ИНС-моделей). Применение таких моделей позволит обеспечить автоматизированное формирование развивающейся (по мере поступления информации от источников) системы представления знаний, отличающейся высокой степенью адаптируемости к эмпирическим данным и существенной гибкостью за счет алгоритмов выбора начальной структуры ИНС и ее модификации.

Поскольку формирование развивающейся системы представления знаний ЭС предполагает ее совершенствование на основе постоянно поступающих новых данных от распределенных терминалов, в качестве одного

из главных условий реализации данного класса ЭС выступает разработка системы сетевого доступа, позволяющей обеспечить передачу информации, а также управление ЭС посредством веб-интерфейса.

Преимуществами предлагаемых способов решения задачи по разработке информационной технологии являются: отсутствие пространственных ограничений по взаимному расположению источников данных, самой ЭС и ее пользователей; независимость процедуры формирования базы знаний от области использования ЭС; автоматизированная генерация знаний.

В настоящее время искусственные нейронные сети нашли широкое применение в системах искусственного интеллекта, в т. ч. и интеллектуальных экспертных системах.

Главными недостатками ИНС как универсального аппарата построения моделей для объектов, заданных эмпирическими данными, являются: значительная

сложность алгоритмов выбора структуры сети и существенная размерность вектора переменных целевой функции, минимизируемой при ее обучении. Эти недостатки приводят к значительным временным затратам в процессе разработки ИНС-модели, адекватной реальному объекту.

Одним из наиболее перспективных методов решения данной проблемы является разработка параллельных алгоритмов построения ИНС-модели при использовании кластерных вычислительных систем. Поскольку задача построения ИНС-модели предполагает разработку различных параллельных алгоритмов (минимизации целевой функции, реализации соответствующих методов нелинейного программирования, модификации структуры сети и т. д.) и их взаимодействия, следует говорить о разработке соответствующей автоматизированной информационной технологии и программно-технологического комплекса.

Рассмотрению экспертных систем как классу систем искусственного интеллекта посвящены многочисленные работы российских и зарубежных ученых [1-21].

На основе рассмотренных научных работ [14, 22-35] и существующих примеров реализации область применения ЭС наиболее широко можно классифицировать по типу решаемых задач: диагностика, прогнозирование, планирование, проектирование, интерпретация, контроль и управление, обучение.

В настоящее время наиболее широкое распространение получили т. н. традиционные, или типичные ЭС. На основе [14, 22-35] был проведен анализ структуры и режимов функционирования типичной ЭС. В общем виде типичную ЭС можно представить следующим образом.

Типичная ЭС состоит из следующих основных компонентов: решателя (интерпретатора); рабочей памяти (РП), называемой также базой данных (БД); базы знаний (БЗ); компонентов приобретения знаний; объяснительного компонента; диалогового компонента.

Экспертная система может работать в двух режимах: режиме приобретения знаний и в режиме решения задачи (называемом также режимом консультации или режимом использования ЭС).

Разработка ЭС имеет существенные отличия от разработки обычного программного продукта. Опыт создания ЭС, освещенный в научных работах [15,

36-46], показал, что использование при их разработке методологии, принятой в традиционном программировании, либо чрезмерно затягивает процесс создания ЭС, либо вообще приводит к отрицательному результату. Использовать ЭС следует только тогда, когда разработка ЭС возможна, оправдана и методы инженерии знаний соответствуют решаемой задаче. Можно выделить работу [30] как логическое обобщение особенностей задач, решаемых с помощью ЭС.

Согласно работам российских и зарубежных ученых [30, 47-48] по созданию ЭС, сложилась определенная технология их разработки, включающая шесть этапов: идентификацию, концептуализацию, формализацию, выполнение, тестирование, опытную эксплуатацию.

Проблеме программной реализации ЭС посвящены многие труды российских и зарубежных ученых [1-21]. Необходимо отметить, что использование аппарата искусственных нейронных сетей для построения ИНС-моделей различных объектов признано успешным в работах [49-54], а в работах [55-57] показана принципиальная применимость ИНС-моделей в разработке экспертных систем.

В работах [48, 58] указывается на принципиальную возможность использования удаленного доступа при организации ЭС.

Таким образом, в ходе краткого обзора исследований и литературных источников по проблемам ЭС выявлено, что в настоящее время не существует информационных технологий и программно-технологических комплексов, сочетающих в себе преимущества удаленного доступа, интеллектуального ядра на основе ИНС-моделей и параллельных алгоритмов их обучения при проектировании экспертных систем широкого назначения.

По этой причине следует считать актуальной тему НИОКР «Разработка автоматизированной технологии и программно-технологического комплекса для построения экспертных систем для различных сфер деятельности, включающей оригинальные способы и программные механизмы разработки экспертных систем, поддерживающих распределенный ввод данных, параллельные вычисления и имеющих интеллектуальное ядро, основанное на нейросетевых моделях».

1. РАЗРАБОТКА ОБЩЕЙ КОНЦЕПЦИИ

ТЕХНОЛОГИИ И АВТОМАТИЗИРОВАННОГО ПРОГРАММНО-ТЕХНОЛОГИЧЕСКОГО КОМПЛЕКСА

1.1. Теоретические основы

Для объединения функциональных преимуществ нейросетевых и веб-ориентированных ЭС разработана концептуальная модель веб-ориентированной нейросе-тевой экспертной системы (рис. 1.1). Основными отличительными компонентами такой модели от традиционной являются: веб-интерфейс, позволяющий осуществлять распределенный ввод данных; база данных, используемая для долговременного хранения технической информации; развивающаяся система представления знаний экспертов, основанная на нейросетевой модели. Согласно разработанной модели, решателем

является построенная и обученная ИНС, генерирующая решение задачи на основе эмпирических данных, хранящихся в БД.

Для разработки информационной технологии построения ЭС, соответствующих предлагаемой концептуальной модели, выполнена математическая формализации задач накопления информации и построения на ее основе развивающихся систем представления знаний.

Основные принципы формализации. Пусть имеется распределенная система получения исходной информации, включающая N терминалов, каждый из которых предназначен для ввода п независимых параметров, имеющих т уровней каждый. Работа терминалов организована таким образом, что каждый из них работает лишь часть времени, так, что интервалы их простоя являются случайными величинами, заданными плотностями распределенийр^т), р2(т), ..., Рм(т). Время ввода информации не зависит от номера терминала, но линейно зависит от п, т. е. = к1п, где к1 - некоторый

коэффициент пропорциональности. Будем считать, что очередная доля информации добавляется к БД в виде одной записи, когда на г-м терминале (г = 1,.., N каждому независимому параметру х) ( = 1, ..., п) присвоен соответствующий уровень 1Ь (Ь = 1, ..., т). Также учитывается, что передача информации с любого терминала в БД осуществляется мгновенно, т. к. это время на несколько порядков меньше времени, затрачиваемого пользователем на ввод информации.

Тогда среднее время одного цикла работы г-го терминала (ввод + ожидание следующего ввода информации), соответствующее добавлению в базу данных одной записи, может быть вычислено как:

т, = k1n +

i

Jt p. (z)dz.

Поэтому за период времени Т (например, Т = 24 ч) на г-м терминале могут быть осуществлена: ^ циклов ввода, соответствующие добавлению в базу данных ^ Т

записей: г =--------------------. Необходимо отме-

і

k1n + Jt Pi (z)dz

тить, что гг является целым числом, полученным в результате округления в большую сторону полученного из уравнения значения. Соответственно, общее число записей информации в БД, полученное со всех терминалов за период Т, составит:

R = I V, = T I

1

(1.1)

i=1

i = 1

k1n +

i

Jt pi (T)dT

Выполним оценку периода первичного накопления данных в БД, предшествующего первому обучению ИНС-модели.

В соответствии с теоремами А.Н. Колмогорова [5960] о представимости функций нескольких переменных с помощью суперпозиций и сумм функций одного переменного можно утверждать, что каждая непрерывная функция n переменных (в ЭС n соответствует количеству вводимых независимых параметров), заданная на единичном кубе n-мерного пространства, представима

2n+1

в виде: f (Xj, x2,..., xn ) = ^ hq

q=1

ІФp(xp)

где

функции к (и) непрерывны, а функции фр (хр),

кроме того, еще и стандартны, т. е. не зависят от выбора функции /.

Экспертная система

- Эксперт

г Пользователь^

Рис. 1.1. Концептуальная модель веб-ориентированной нейросетевой ЭС 950

Фактически это означает, что «минимальная» структура ИНС-модели, позволяющая аппроксимировать функцию п переменных, должна иметь следующий вид: входной слой, состоящий из п (п соответствует переменным функции) нейронов; первый скрытый слой, включающий (2п + 1)п функциональных нейронов; второй скрытый слой, состоящий из (2п + 1) функциональных нейронов, и выходной, суммирующий нейроны (рис. 1.2). Указанная нейронная сеть не является полносвязанной и имеет (2п + 1)п + (2п + 1)-п + 2п + + 1 = (2п + 1)2 связей (степеней свободы при обучении ИНС-модели).

Необходимо заметить, что теоремы А.Н. Колмогорова не несут никакой информации о типе нелинейности функций ф и h. Так, в системе знаний экспертной системы, базируемой на ИНС-модели, используется

активационная функция {(х) =--------1--- и полносвя-

^ у л , -ах

1 + e

занная сеть - многослойный персептрон. Для этого случая число степеней свободы ИНС-модели будет (2п + 1)-(3п2 + п + 1). Учитывая, что число записей в БД должно быть не меньше, чем число степеней свободы, получим оценку для первичного периода накопления данных:

могут быть получены следующим образом:

(

t1 > K ■

X

(1.2)

где K - параметр, характеризующий число степеней свободы: K = (2п +1)2 для ИНС-модели, построенной в соответствии с теоремой А.Н. Колмогорова, и К=(2п +1) х х (Зп2 + п +1) для полносвязанной ИНС-модели.

Процесс обучения модели знаний ЭС заключается в минимизации функционала вида:

0 grad = к2 пК и 0 skan

= k3 Ra . Здесь к2 и к3

эффициенты, зависящие от технических характеристик используемого оборудования, а - число разбиений диапазона изменения переменной.

Целью обучения ИНС-модели на основе эмпирических данных является нахождение подходящей структуры и коэффициентов ИНС, минимизирующих невязку (1.3). Указанная структура обобщает в себе знания, полученные на основе данных, поступивших с терминалов в БД.

Данные, используемые для обучения ИНС-модели, могут различаться как в количественном отношении (число записей в БД на момент начала обучения), так и в качественном (дисперсия, наличие ошибок и т. д.).

Ф(п)Н|л||=¥м - Ynet Н

(1.3)

Вектор w определяется структурой сети, которая, в свою очередь, связана с числом ее входов п (п соответствует числу нейронов входного слоя ИНС-модели) так, что имеется однозначное соответствие п и w. Поэтому вектор w , зависящий от структуры сети и минимизирующий функционал (1.3), соответствует оптимальной ИНС-модели и может быть определен как:

w* = а^шіп F (>у)

■иєО

(1.4)

где □ - множество векторов весовых коэффициентов нейронов.

Если минимизацию функционала (1.3) осуществлять двумя методами: градиентным, так что последующие значения вектора w вычисляются по формуле

wt+1 = wt - Ь^)§т:ад.(Е^’)) , и методом сканирования,

то для указанных методов оценки времени обучения

Рис. 1.2. Представление функции п переменных в виде ИНС-модели

Рис. 1.3. Корреляция эмпирических данных по среднеквадратичной погрешности обучения сети - Е (треугольники) от времени обучения с результатами расчета по уравнению (1.5). На графике показаны приведенные безразмерные значения

ко

1

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1=1

і

0,2

h h h h f- fo t- h tg t

Рис. 1.4. Зависимость накопления первичной информации от безразмерного времени (верхняя часть рисунка): R - число записей в БД, полученных с терминалов; процесс обучения ИНС-модели (нижняя часть рисунка): Е - нриведенная среднеквадратическая ошибка ИНС-модели, L - уровни ее обученности

Поэтому разработка аналитической модели обучения для различных объектов не позволяет использовать теоретические подходы. В качестве эмпирической модели обучения предлагается использовать следующее дифференциальное уравнение:

dE (t) dt

= k4 E - E(t)

(1.5)

с начальным условием: E(0) = E0

где E(t), E0 и E - значения приведенной среднеквадратичной погрешности, ее начального значения и уровня, на котором она будет зафиксирована в конце цикла обучения ИНС-модели; к4 - параметр удельной скорости обучения, зависящий от n, объема обучающей выборки и используемого метода минимизации невязки (1.3); t - безразмерное время процесса обучения, полученное отнесением реального времени к времени первого цикла обучения t е [t1,t2] (рис. 1.3, 1.4). Уравнение (1.5) отражает феноменологию процесса обучения: в начальный момент времени невязка равна E0 и стремится к Ев конце цикла обучения.

Разделяя переменные в уравнении (1.4) и интегрируя, получим:

j

dE (t)

k4 (e* - E(t))

или - -1 ln[k4 (e* - E(t))]

— t + c .

(1.6)

Определив постоянную интегрирования из начальных условий (1.5), нолучим решение в виде:

E (t) = E * (1 - e)+ E0e

-k4t

(1.7)

Предложенные аналитические модели на практике позволяют решить следующие задачи: оценить нервич-ный период накопления информации, необходимой для построения ИНС-модели исследуемого объекта; определить начальную структуру ИНС-модели на основе входных характеристик объекта исследования; оценить количество циклов обучения ИНС-модели в присутствии

Рис. 1.5. Функциональная модель жизненного цикла ЭС на основе нейросетевой модели и с распределенным вводом данных

эксперта. Эти результаты позволили разработать функциональную модель жизненного цикла ЭС на основе ИНС и поддерживающей распределенный сетевой ввод данных (рис. 1.5). Входом ЭС является запись из совокупности эмпирических данных предметной области, а выходом - номер(а) классов, к которым она принадлежит.

Автоматизированная информационная технология но-строения ЭС на основе нейросетевой модели и с распределенным вводом данных, соответствующая функциональной модели ЭС (рис. 1.5), заключается в последовательном выполнении следующих шагов:

- изучение объекта, для которого разрабатывается ЭС; выделение векторов входных характеристик и возможных выходных состояний данного объекта;

- накопление первичной информации об объекте в БД посредством распределенной сетевой системы сбора данных в течение периода, определяемого аналитической моделью;

- формирование первичной структуры ИНС-модели;

- планирование поэтапного процесса обучения развивающейся ИНС-модели по предложенному уравнению (1.7); обучение ИНС-модели согласно нредло-женным аналитическим моделям;

- совершенствование ИНС-модели на основе вновь поступающих эмпирических данных, под контролем эксперта, который определяет законченность формирования системы представления знаний;

- эксплуатация ЭС (без эксперта).

На основе сравнения разработанной технологии с существующими аналогами выделены ее функциональные преимущества, заключающиеся в следующем: универсальность - применительно к различным предметным областям (без внесения конструктивных изменений в программное обеспечение); многопользователь-

ский доступ к одному объекту исследования; автоматизация процесса проектирования базы знаний за счет конструктивных алгоритмов построения ИНС-модели; поддержка сетевых технологий взаимодействия.

Выявлены условия, при которых может быть осуществлено применение разработанной технологии, такие как: возможность формализовать начальную структуру объекта и закодировать примеры его диагностики в числовом виде; наличие эксперта, обладающего высоким профессиональным уровнем (выше уровня рядового специалиста), способного адекватно оценивать параметрические данные объекта; достаточная квалифицированность пользователей, имеющих опыт использования сервисов, предоставляемых консорциумом WWW.

1.2. Структура программно-технологического комплекса для автоматизированного построения экспертных систем при использовании удаленного доступа к источникам информации и параллельных

алгоритмов обучения интеллектуального ядра

На основе обзора существующих разработок экспертных систем (см. введение) установлено, что большинство из них обладают решателем со строго организованной структурой, которая изначально закладывается в него инженером по знаниям и впоследствии практически не изменяется. Поскольку условия предметных областей, в которых применяются экспертные системы, часто претерпевают изменения, и, соответственно, изменяются приоритеты факторов, влияющих на решение задач, нами было выбрано направление исследований, включающих разработку программных механизмов, отвечающих за решающие способности экспертной системы, которые могли бы поэтапно совершенствоваться в процессе работы экспертной системы. Данные

Рис. 1.б. Общая структура организации программного комплекса

механизмы улучшают адаптируемость экспертной системы к условиям различных предметных областей. Также в данном проекте предлагается использовать удаленный доступ для ввода данных в систему и для управления процессами разработки, совершенствования и эксплуатации экспертных систем. Общая структура организации комплекса представлена на рис. 1.6.

В ходе предварительных вычислительных экспериментов было показано, что наиболее «узким» местом в работе всей технологии и программно-технологического комплекса является обучение интеллектуального ядра системы - ИНС-модели. В различных ситуациях время обучения такой модели изменялось от одного часа до двух недель, что не могло быть признанным удовлетворительным. По этой причине было принято решение об использовании в программнотехнологическом комплексе параллельных методов обучения ИНС-модели с отсылкой структуры сети, ее настроек и эмпирических данных на удаленный вычислительный кластер.

Поэтому система сконфигурирована таким образом, что программный комплекс состоит из 6 подсистем: (рис. 1.7): Managemer - подсистема управления;

ANNBuilder - подсистема построения ИНС-модели; ANNExecutor - подсистема эксплуатации ИНС-модели; DB - база данных; UserMediator - подсистема взаимодействия с пользователями; Logger - подсистема сбора логов.

Рис. 1.7. Диаграмма подсистем комплекса 954

Рис. 1.8. Диаграмма компонентов UserMediator

UserMediator. Подсистема UserMediator представляет собой совокупность двух компонентов, являющихся серверами (рис. 1.8), первый из которых

(UMUsers) предназначен для подключения пользователей из локальной или глобальной сети. В качестве сервера используется Web-сервер Apache, а в качестве протокола - HTTP. Второй сервер (UMComplex) предназначен для подключения комплекса, а в качестве протокола используется EXSP (формат сообщений текстовый, сообщение состоит из набора пар ключ-значение, разделяемых точкой с запятой).

UMUsers. Данный компонент предназначен для взаимодействия с пользователями. Поскольку для взаимодействия используется протокол HTTP, то пользователям для работы с комплекса необходим только Web-браузер (Opera, Mozilla Firefox, Google Chrome, Safary или Konqueror). Интерфейс реализован на языке PHP, для создания экранов используются шаблоны Smarty.

Для взаимодействия с каждым пользователем создается отдельный поток, таким образом, множество пользователей может работать с Комплексом одновременно. При подключении нового пользователя UMUsers устанавливает соединение (новое) с UMComplex и передает ему запрос пользователя. При этом запрос конвертируется из формата HTTP в EXSP. Получив ответ от UMComplex, UMUsers преобразует его из формата EXSP в HTTP.

UMComplex. Данный компонент предназначен для взаимодействия между компонентом UMUsers и остальными компонентами Комплекса. Подключаясь к нему, UMUsers и Manager посылают свой идентификатор. При пересылке запроса, поступившего от UMUsers, UMComplex добавляет в него идентификатор пользователя. Это необходимо в связи с тем, что к UMComplex имеется множество подключений UMUsers, но только одно подключение Manager (Комплекса).

ANNBuilder. Данная подсистема предназначена для построения ИНС-модели. Она размещается на кластерной системе и состоит из двух компонентов - UNS и UNSS. Первый из них представляет собой нейросетевой симулятор и располагается на вычислительных узлах кластерной системы, а второй - сервер симуляторов. Оба компонента реализованы на языке C++.

UNS. Нейросетевой симулятор, размещаемый на вычислительных узлах кластерной системы, представляет собой программу с распределенной памятью и запускается через систему запуска вычислительного кластера (в случае вычислительного кластера ТГУ им. Г.Р. Державина это PBS). В зависимости от количества имеющихся вычислительных узлов и требуемых процессоров может одновременно выполняться один или

несколько экземпляров UNS (имеется в виду одна или несколько совокупностей программ).

UNSS. Сервер симуляторов, размещаемый на мастер-узле (сервере) кластерной системы, предназначен для осуществления взаимодействия между UNS и Manager. При необходимости построения ИНС-модели UNSS формирует задание (PBS или иное в зависимости от архитектуры вычислительного кластера) и запускает UNS. Поскольку количество одновременно работающих \UNS ограничено аппаратными ресурсами (количество вычислительных узлов) кластерной системы, то UNSS ставит задачи в очередь и при освобождении ресурсов запускает их.

ANNExecuter. Подсистема ANNExecuter предназначена для выполнения экспертиз (вычисления выходных значений ИНС-модели от вектора входных). Установивший с ней соединение Manager передает структуру ИНС-модели и вектор входных данных. Подсистема состоит из одного компонента, который реализован на языке C++.

DB. Данная подсистема состоит из двух компонентов - DBMediator, который предназначен для осуществления взаимодействия между базой данных и Manager и СУБД. Система предназначена для хранения данных (виды хранимой информации приведены ниже).

DMMediator. Данный компонент предназначен для преобразования запросов из формата комплекса EXSP в SQL. Для хранения данных используется СУБД Postgree, поэтому для взаимодействия с базой данных использована библиотека pgx. Компонент написан на языке C++.

Хранимая информация. В базе данных хранится следующая информация: параметры моделируемых объектов (отвечающие за структуру объекта); обучающая выборка; структуры ИНС; пользователи Комплекса; экспертизы (данные эксплуатации модели).

Logger. Данная подсистема, состоящая из одного компонента, предназначена для логизации обмена информацией. Manager дублирует все посылаемые и получаемые сообщения в данную подсистему. Logger все получаемые сообщения посылает в DB для сохранения в базу данных, откуда они могут быть прочитаны. Компонент реализован на языке C++.

Manager. Данная подсистема представляет собой центральный компонент Комплекса и компоненты передачи данных, которые необходимы в случае размещения прочих подсистем на узлах, к которым нет прямого доступа. Все компоненты реализованы на языке C++.

После запуска Manager устанавливает соединение с UserMediator, DB, ANNExecuter и ANNBuilder. В зависимости от запросов, поступающих с UserMediator, он строит или использует ИНС-модель.

1.3. Организация параллельных вычислений при обучении интеллектуального ядра программно-технологического комплекса

Параллельная программа имеет особый принцип работы, поскольку, в отличие от последовательной, где одновременно выполняется только одно действие, в параллельных программах одновременно выполняются

несколько операций. Поскольку параллельная программа выполняется на многопроцессорной машине, то необходимо задействовать все процессоры, т. е. дать им на выполнение какую-то часть задачи, которая может выполняться самостоятельно (не задействуя при этом другие части задачи).

Обучение искусственной нейронной сети (ИНС) сводится к минимизации целевой функции:

ІИ - У||

N-1 p-1

11( -Уц)2

i=0 j=0

N-1 p-1 , 4

11( - F (xr,W)] )2

i=0 j=0

(1.8)

Здесь сі, у представляют собой выходные значения самого объекта (таблица эмпирических данных) и ИНС при одинаковых и заданных входах; х - входные данные; N - число строк данных в обучающей выборке; р - размерность вектора выходных координат объекта; w - вектор коэффициентов синаптических (меж-нейронных) связей; і - номер текущей строки обучающей выборки; ] - номер текущего выхода. Минимизация невязки (1.8) обычно заключается в подборе вектора весовых коэффициентов w при помощи какого-либо метода. Таким образом, представляется очевидным выделить два уровня, на которых можно производить распараллеливание - вычисление значения функции (1.8) и подбор вектора w .

Распараллеливание на уровне вычисления значения целевой функции. При обучении сети вычисление выходных сигналов требуется для их сравнения с выходными данными из обучающей выборки, которое, в свою очередь, необходимо для вычисления погрешности (1.8). Поскольку обучающая выборка, как правило, состоит из нескольких сотен (или даже тысяч) строк данных, а количество процессоров не превышает нескольких десятков, можно равномерно распределить строки обучающей выборки по процессорам с тем, чтобы после передачи с управляющего узла структуры сети все процессоры одновременно вычисляли выходные сигналы, сравнивали их со значениями из обучающей выборки и передавали обратно на ведущий процессор лишь значение погрешности. Процессор управляющего узла суммирует эти погрешности и получает, таким образом, результат - значение целевой функции. Таким образом, при необходимости вычислить эту функцию управляющий узел рассылает на все узлы структуру нейронной сети и получает от них погрешность, полученную на той части обучающей выборки, которая была передана на этот вычислительный узел.

Таким образом, формулу (1.8) можно представить в виде:

п—1 п—1 (к+1)*Л р-1 ______________

є=Ёек=Ё Ё, Ё^(—р(Х’Ч-у ,(19)

к=0 к=0 і=к*Л }=0

где є к - погрешность, вычисленная на к-м процессоре;

СриО Сри1 Сри2 СриЫ

1 1 1 1 1 1 . 1: передача весовых коэффициентов . I 2: передача весовых коэффициентов | I 1 .1 1

I I I I I I , N1: передача весовых коэффициенов , 1 1 -1

1 1 I N+1: передача значения невязки 1 1

I I I N+2 передача значения невязки 1

I I | 2М передача значения невязки 1 1

Г I

Рис. 1.9. Диаграмма последовательности вычисления значения невязки

п - количество процессоров; N -

N

количество

строк обучающей выборки, передаваемой на каждый процессор.

В случае, когда в процессе обучения ИНС структура не меняется, т. е. происходит только подбор весовых коэффициентов, то для получения значения невязки на вычислительные узлы передаются только значения весовых коэффициентов (рис. 1.9), а обучающая выборка и структура сети передаются один раз до начала обучения.

Распараллеливание на уровне изменения весовых коэффициентов при использовании алгоритма полного сканирования. Одним из самых простых является алгоритм полного сканирования. Как известно, алгоритм полного сканирования работает следующим образом: поскольку весовые коэффициенты обычно задаются в ограниченном интервале [0 ;/1 ] (как правило,

10 = —1, 11 = 1), то вначале происходит инициализация всех весовых коэффициентов минимальным значением, а на следующих итерациях происходит последовательное изменение.

w= К ^, Щ,....^ь } wk =wk0+is

к = \,..,Ь, і = 0, 1, 2,

к0 +1,

(1.10)

где 5 - заданный шаг. То есть происходит полный перебор всех возможных комбинаций весовых коэффициентов.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Таким образом, после вычисления значения целевой функции при существующей конфигурации значение последнего весового коэффициента увеличивается на величину шага 5, и снова происходит вычисление значения целевой функции. После того как значение последнего весового коэффициента достигнет верхнего предела 11 , предпоследний коэффициент увеличивается на величину шага, а последний устанавливается минимальным пределом 10 и т. д. После того как значе-

ния всех весовых коэффициентов будут соответствовать верхнему пределу, перебор заканчивается. Таким образом, происходит полный перебор всех возможных комбинаций значений весовых коэффициентов.

Этот способ, с одной стороны, является довольно надежным, а с другой - очень медленным. Количество итераций можно вычислить по формуле:

/=|^+1

(1.11)

где Ь - количество весовых коэффициентов, 5 - величина приращения весового коэффициента.

Параллельное выполнение этого метода заключается в том, что для каждого процессора значения Ь первых весовых коэффициентов являются фиксированными (на первом процессоре wQ = 10,м>х = 10,-.,^ь — =10 ,

на втором wQ = 10,м>х = 10,-.,^ь—1 = 10 +5 и т. д.), а

остальные подбираются обычным способом (рис. 1.10). После того как все процессоры переберут возможные варианты и каждый из них выберет оптимальную структуру и вычислит погрешность при этой структуре, эти результаты передаются ведущему процессору, который сравнивает значения невязки и выбирает наимень-

Рис. 1.10. Схема размещения весовых коэффициентов по вычислительным узлам

п

Л

Рис. 1.11. Диаграмма действий подбора весовых коэффициентов методом полного сканирования

шее, соответствующее оптимальной структуре. Диаграмма действий приведена на рис. 1.11.

Распараллеливание на уровне изменения весовых коэффициентов при использовании алгоритма Монте-Карло. Алгоритм подбора весовых коэффициентов Монте-Карло так же, как и другие методы Монте-Карло основан на генерации случайных чисел. Вначале значения весовых коэффициентов инициализируются случайным образом, а затем происходит последовательное их уточнение. Происходит это следующим

образом: генерируется случайное число и вычисляется новое значение весового коэффициента:

Аж, =5' * г;

1 (1.12)

ж = ж + Аж,,

где г - сгенерированное случайным образом число.

После этого вычисляется значение погрешности при новом значении веса, и если разница между текущей и вычисленной погрешностью не отрицательна, то весовой коэффициент не меняется; в противном случае, он возвращается к предыдущему состоянию:

= wi — Awi

(1.13)

Таким образом, на каждой итерации происходит уточнение всех весовых коэффициентов. Подбор завершается, когда будет выполнено условие остановки (достигнута заданная погрешность, пройдено определенное количество итераций и т. д.).

Модификация метода заключается в том, что для каждого веса генерируется не одно, а п случайных чисел г = (гоД-гп-1),

вычисляются

Ж = (ж-.о ,ж,л ,-Ж,п-1 ^ жч=ж,+5 * г} , у = 0,..,п -—1, а затем выбирается минимальный е (ж-), и если это значение меньше предыдущего значения целевой функции, то соответствующий ему ж- становится новым значением весового коэффициента.

Каждый процессор независимо генерирует гу , вычисляет Ж- у и е- у и посылает их на ведущий. Ведущий процессор сравнивает е-, у и, в зависимости от

результата, устанавливает новое значение ж- и посылает его на все вычислительные узлы (рис. 1.12).

w

: сриО : сри1 : сри2 : сриМ

1 посылка значения невязки и нового значения і-ого весовыого коэффициента

2 посылка значения невязки и нового значения і-ого весовыого коэффициента

п: посылка значения невязки и нового значения і-ого весовыого коэффициента

п+1: посылка нового значения і-ого весовыого коэффициента

п+2: посылка нового значения і-ого весовыого коэффициента

2п: посылка нового значения і-ого весовыого коэффициента

Рис. 1.12. Диаграмма последовательности подбора --го весового коэффициента на одной итерации

Распараллеливание на уровне изменения весовых коэффициентов при использовании градиентного алгоритма. Градиентный метод подбора весовых коэффициентов лежит в основе многих других очень распространенных методов. Суть его заключается в вычислении вектора градиента и изменения значений весовых коэффициентов в направлении антиградиента. Различные варианты градиентного метода по-разному вычисляют направление антиградиента, например, метод наискорейшего спуска использует формулу

(1.14), а дшскРгор - (1.15):

дє^) дж ’

Я(к )г

І шіп(-

+ ^ Я(к — 1)і — Я(к )і

ЛЯ (к )і

■ Чылх )Awг , * 0,

Awi = 0.

(1.14)

(1.15)

результаты на ведущий, а изменяют значения приписанных к ним весовых коэффициентов, а уже после этого возвращают результат (новые весовые коэффициенты) [34].

Тестирование разработанных механизмов параллельного обучения интеллектуального ядра экспертной системы. Для тестирования разработанных программных механизмов был проведен ряд вычислительных экспериментов, одним из которых являлось «Прогнозирование температуры воздуха в городе Тамбове». Исходные данные для проведения вычислительного эксперимента были предоставлены ГУ ТАМБОВСКИЙ ЦГМС (Государственное учреждение «Тамбовский областной центр по гидрометеорологии и мониторингу окружающей среды»). Они представляли собой файлы, в которых фиксировались дата, время и значения температур воздуха в четырех различных точках г. Тамбова (посты № 1-4). Периодичность замеров составляла 6 часов. Данные покрывали период с января 2000 г. по август 2005 г. На основе имеющихся данных

Здесь я (к )і =

дє^)

дж-

- элемента градиента на

итерации; д^^х - максимальное значение коэффициента момента.

Как можно заметить, одно из главных отличий этого метода от метода Монте-Карло заключается в том, что для вычисления нового значения одного из весовых коэффициентов используются старые значения остальных весовых коэффициентов, т. е. те, которые были на предыдущей итерации. Исходя из этого, можно сделать вывод, что элементы вектора градиентов могут быть вычислены одновременно, следовательно, этот вектор может быть разделен на п частей, каждая из которых вычисляется на отдельном процессоре (для этого процессору необходимо лишь передать текущие значения весовых коэффициентов). После окончания вычисления процессоры не возвращают полученные

были сформированы 4 временных ряда - Т1, Т2, Т3,

Т 4 (по одному для каждого из постов), длина каждого из них составляет 20454. Для проведения эксперимента

был сформирован ряд Т , представляющий собой результат усреднения исходных временных рядов (т. е. каждый і-й элемент сформирован по формуле (1.16)).

Ті =

Т 1і + Т 2 і + Т 3і + Т 4 і

4

(1.16)

Для нахождения оптимальной архитектуры ИНС в ходе вычислительного эксперимента применялся конструктивный подход, т. е. за основу взята сеть минимального размера, которая постепенно увеличивалась до достижения требуемой точности, при этом на каж-

к

Рис. 1.13. Температура воздуха в городе Тамбове в 2004 году 958

дом шаге производился подбор активационных функций и весовых коэффициентов.

Начальная конфигурация ИНС изображена на рис. 1.14. Как можно видеть, сеть содержит 1 скрытый слой с 1 нейроном. Все нейроны имеют сигмоидальную активационную функцию. Обучающая выборка была задана следующим образом: количество входов Ь было взято равным 5, а значение коэффициента смещения с - 1. После этого была взята структура, соответствующая наименьшему значению невязки, т. е. структура, имеющая 13 нейронов на скрытом слое, и добавлен еще один слой, содержащий изначально один нейрон (рис. 1.15). Далее последовательно добавлялись новые нейроны, и после каждого изменения структуры производился подбор весовых коэффициентов.

Обучение ИНС производилось с использованием персонального компьютера и кластерной системы. Полученные значения коэффициента эффективности приведены в табл. 1.1.

Рис. 1.14. Начальная конфигурация ИНС

Рис. 1.15. Структура ИНС, соответствующая наименьшему значению невязки

Таблица 1.1

Значения коэффициента эффективности для задачи прогнозирования температуры воздуха

Кластер ТГУ Кластер ТГТУ Кластер МВЦ

QwG (4 процессора) 0.9235 0.9199 0.9297

awc (6 процессоров) 0.9221 0.9157 0.9291

aWG (8 процессоров) 0.9204 0.9105 0.9283

ае (4 процессора) 0.8921 0.8822 0.9091

as (б процессоров) 0.8906 0.8793 0.9079

ае (8 процессоров) 0.8891 0.8769 0.9067

Проведенные вычислительные эксперименты позволяют сделать вывод об успешной реализации программных механизмов параллельного обучения интеллектуального ядра экспертной системы.

1.4. Программная реализация комплекса

При выполнении НИОКР использованы компоненты авторов, защищенные свидетельствами о регистрации программ для ЭВМ №: 2010610579, 2008614091, 2008610860, 2007610622, 2009614144, а в процессе его реализации получены новые объекты интеллектуальной собственности, оформленные на ООО «НПК ЭКСПЕРТНЫЕ СИСТЕМЫ» свидетельства о регистрации программ для ЭВМ №: 2012612512, 2012612513.

Необходимо отметить также, что авторы проекта А.А. Арзамасцев, Н.А. Зенкова, О.В. Крючин перед началом его выполнения прошли стажировку по соответствующей тематике в ведущих Европейских университетах Кобленц (Германия) и Тренто (Италия), демонстрировали свои достижения на Европейской выставке-конференции по современным информационным технологиям ICT-2010 в Брюсселе (Бельгия), имеют публикации по данной тематике в российских и зарубежных изданиях [4-6, 61-69]. По данной тематике защищены 2 кандидатские диссертации (Н.А. Зенкова, Не-удахин А.В.) и подготовлена 1 кандидатская диссертация (О.В. Крючин). Эти обстоятельства указывают на соответствие разработок НИОКР мировому уровню.

Для написания комплекса был использован язык C++ и библиотека boost. Разработка проводилась на платформе GNU/Linux (openSUSE и Ubuntu), но компоненты комплекса могут быть скомпилированы также для платформ MacOS X и MS Windows (за исключением параллельного нейросетевого симулятора UNS). Для разработки компонента взаимодействия с пользователем Userlnteractor использован также язык PHP и инструмент шаблонизации Smarty. Для разработки компонента хранения информации DBInteractor использована СУБД PostgreSQL и библиотека libPQ. Для разработки нейросетевого симулятора использована библиотека MPI, обеспечивающая межпроцессорную передачу данных. Таким образом, при разработке комплекса было использовано исключительно свободно распространяемое ПО (под лицензиями GPL, Apache и т. д.).

В ходе реализации НИОКР были разработаны новые компоненты комплекса.

Userlnteractor. Компонент Userlnteractor, предназначенный для взаимодействия с пользователем, состоит из двух частей, первая из которых представляет собой набор PHP скриптов. Именно с этим сервером, реализованным на базе Apache, взаимодействует пользователь. Логическая часть реализована на языке PHP, для реализации экранов использована технология шаб-лонизации Smarty.

Основные пользовательские экраны:

- index.php - форма авторизации, ввод логина и пароля;

- users.php - список зарегистрированных пользователей, доступен для администратора системы. Пользователи отображаются в виде ссылок на страницы «user.php» с параметрами «userId»;

- user.php - отображение информации о пользователе. Возможность правки при передаче дополнительного параметра «edit»;

- objects.php - Список существующих объектов. Объекты отображаются в виде ссылок на страницы «object.php» с параметрами «objectId»;

- object.php - отображение информации об объекте. Возможность правки при передаче дополнительного параметра «edit»;

- createModel.php - создание модели на основе существующего объекта. Выбор параметров модели;

- structure.php - визуальное редактирование существующей структуры модели.

Вторая часть компонента UserInteractor предназначена для взаимодействия с компонентом Manager и реализована на языке C++ с использованием библиотеки boost.

DBInteractor. Компонент DBInteractor, предназначенный для хранения данных, представляет собой высокоуровневую настройку над СУБД PostgreSQL. Он реализован на языке C++ с использованием библиотек boost и lpq (для запросов к СУБД).

База данных состоит из 4 основных таблиц:

1) пользователи (users), содержит поля:

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

- уникальный идентификатор (id);

- логин (login);

- имя (first_name);

- отчество (middle_name);

- фамилия (last_name);

- права (role);

- электронный адрес (e_mail);

- город (city);

2) объекты моделирования (simulation objects), содержит поля:

- уникальный идентификатор (id);

- название (name);

- описание (description);

- число строк выборки, достаточной для начала

обучения (data_number);

- тип (type);

3) ИНС-модели (annmodels), содержит поля:

- уникальный идентификатор (id);

- название (name);

- описание (description);

- конфигурация (value);

- индекс модели (index);

- индекс состояния модели (condition_index);

4) обучающая выборка (pattern), содержит поля:

- уникальный идентификатор (id);

- значение (value);

- тип (type);

- индекс строки (row_index);

- индекс столбца (col_index).

ANNBuilder. Компонент ANNBuilder, предназначенный для построения моделей ИНС, реализован на языке С++ с использованием библиотеки boost.

UNS. Нейросетевой симулятора UNS реализован на языке C++ с использованием библиотеки SCRVL (включающей сокеты и потоки Linux, а также инструменты межпроцессорной передачи данных CrVMPI, базирующейся на MPI). Это единственный компонент комплекса, который может работать только под управлением ОС GNU/Linux.

Manager. Компонент Manager представляет собой центральный компонент комплекса. Он реализован на языке С++ с использованием библиотеки boost.

Разработка проводилась в ОС GNU/Linux openSUSE и Ubuntu в среде KDevelop. Для компиляции кода использован GCC.

2. ДОРАБОТКА И АПРОБАЦИЯ ТЕХНОЛОГИИ И ПРОГРАММНО-ТЕХНОЛОГИЧЕСКОГО КОМПЛЕКСА

Целью данного раздела является доработка программных механизмов программно-технологического комплекса и апробация предлагаемой технологии проектирования экспертных систем на практических задачах, представляющих собой: а) проектирование экспертной системы для промышленный объекта (технологический процесс выработки биомассы на основе отходов производства этанола); б) проектирование экспертной системы для медицинского объекта (прогнозирование результатов хирургического лечения осложненного колоректального рака).

2.1. Отладка программных механизмов и доработка комплекса

Интерфейс пользователя. При тестировании программных механизмов интерфейса пользователя были выявлены следующие ошибки:

- невозможность переподключения пользователя. Дальнейшее тестирование выявило невозможность для клиента постоянного подключения. С целью устранения выявленных ошибок была использована технология cookies для хранения идентификатора пользователя в качестве маркера подключения;

- невозможность сохранить идентификатор пользователя на клиентской машине. При дальнейшем тестировании выяснилось, что серверная часть передает идентификатор под другим именем. С целью устранения ошибки были проведены: модификация клиентской части для правильной обработки сообщений; унификация и стандартизация передаваемых сообщений;

- неправильное отображение информационных полей. Для устранения данной ошибки была проведена модификация интерфейса для правильного отображения.

Сервер. Сервер переставал работать при отправке сообщения сразу после прохождения авторизации пользователя. Для исправления этой ошибки был создан метод serverLog(String). Был создан «мутекс» (одноместный семафор, служащий в программировании для синхронизации одновременно выполняющихся потоков) (рис. 2.1), отвечающий за то, чтобы логи выводились в правильной последовательности в консоль. Затем, чтобы увидеть последовательность операций, после каждой из них была вызвана эта функция и просмотрена вся последовательность действий сервера при авторизации. Был создан простой клиент. Этот клиент производил отдельно авторизацию. И после вызова метода авторизации вызывался метод, отправляющий управляющее сообщение для вывода всех пользователей. При тестировании сервер продолжал работу. После чего снова запускался тест на реальных клиентах. На реальных клиентах сервер не работал.

После чего был заново переписан метод авторизации и приема сообщений от пользователей - это не привело к устранению ошибки, в некоторых случаях

//освобождениересуров занимаемых подключениями и удаление подключений std::map<int, UserMediatorConnection*>:: iterator тар_it = m_connectiom.begin();

//освобождение памяти занимаемой объектом подключения комплекса

Рис. 2.1. Скриншот программного кода при добавлении

«мутекса»

m_comections[connect->identificator()J =new UserMediatorConnection(cormect, this,

String("user"), users Jd.toInt0);//co3daeM новое подключение

serverLog(String("info:m_connections.sizeQ=")+Strmg::make(mj:onnections.size()) boost::mutex::scoped_lock scoped_lock(mtxmconnections);

boost: :mutex::scoped_lock scoped_Lock(mtx_m_connections);

m_connections[m_authorizations[id]]->m_connection->sendMessage(message);

serverLog(String("UserMediatorServer:: messageFrom UserQ:

serverLogfString("UserMedlatorServer:: messageFrom User m connections. erase(id);")); serverLog(String("UserMediatorServer:: messageFrom UserQ: end delete user

Рис. 2.2. Скриншот программного кода при добавлении «мутекса» в другие части программного кода

сервер продолжал терять работоспособность. Дальше были просмотрены все обращения к карте авторизаций, ошибок в реализации обнаружено не было. После был поставлен «мутекс» на все строчки, в которых использовалась карта подключений. После этого сервер стал работать стабильно. Обнаружена причина ошибки -одновременное обращение к массиву подключения удаляющего и извлекающего методов. В некоторых случаях сервер не принимал сообщения от пользователей. Тестирование проводилось на нескольких пользо-

вателях, при одновременном подключении. Были выведены все сообщения, приходящие на сервер, параметры всех строк кода, которые выполнялись при данных подключениях и отправке сообщений. Далее было выведено количество элементов карты подключений при создании подключения и при запуске потока этого подключения, принимающего сообщения от пользователей. В результате были получены результаты, показывающие, что в карте подключения элемент создается позже начала приема сообщений от пользователя. Для исправления этой ошибки был создан «мутекс» (рис. 2.2), который блокирует запуск потока приема сообщений от пользователя, пока не создался элемент подключения в карте подключений, вследствие чего проблема была устранена.

Работа с базой данных. При тестировании компонента, отвечающего за взаимодействие с базой данных, были отлажены следующие механизмы.

1. Возвращение правильных кодов ошибок.

Для исправления в классе «DBMediator» была создана карта, представленная на рис. 2.3.

Эта карта инициализируется в конструкторе класса «DBMediator» (рис. 2.4).

Жирным шрифтом на рис. 2.4 обозначена инициализация карты ошибок.

Во все методы класса «DBMediator» были добавлены возвращаемые значения в соответствии с этими кодами ошибок, рассмотрим возвращение ошибок на примере следующего метода (рис. 2.5).

mutable std::map <inU int> m_errorsArr;

Рис. 2.3. Скриншот программного кода «карты», созданной в классе «DBMediator»

* @рагат соп^Л;ок1 - параметры подключения к базе данных ВВМесИаШ:: ОВМеЛ1аГог(сотГ Соп^Мжк соп^Т¥оп!)

т_еггопА гг[РСЯЕ$_ СОММАМ)_ О К] = 0;//запрос прошел удачно т_еггог$Л гг[Ра1Е.$_ Т1РЬЕ.$_ О К] = 0;//запрос прошел удачно т_еггопАгг[РСЯЕ$_ЕМРТУ_01'ЕЯУ] = РСК.ЕЗ_ЕМРП_ОиЕКУ//ро5%гее получен

т_епог^гг{РаКЕЗ_БАО~ЯЕ1рО^Щ = РСЯЕй_БАО_кЕ8РО№Е; т_еггопЛгг[РС11Е.$_№?\ТЕЛШ_ЕШЮ11]=РСКЕ$_ЬтГШ1_ЕККОК; теггог$Агг[РСКЕЬРАТА1ЕЯКОЩ = РСКЕЪРА ТА1_ЕМОЯ;

Рис. 2.4. Скриншот программного кода конструктора класса «ЭВМеШак>г»

* @рагат шег - идентификатор пользователя ПВИез и&Соге ВВМеЗ'юхог :: гето\е1!£ег(сотИга тег)

Зтг^Гнееозможно удалить аккаунт администратораЪпрохх \Ые

5&т§("(")+гтгогТех£+&№й\§(") ошибка, при (шнитш! нии запроса, проверьте соединен ие^еггог н'кеп ехесШт§ I

$1пп§(" пользователь не существу ет в базе даяных/изег <1ое-$ поГ ешт т йшаЪаяе ")

Рис. 2.5. Скриншот программного кода одного из метода, иллюстрирующего работу механизма возвращения ошибок

Жирным шрифтом на рис. 2.5 обозначено возвращение ошибки с использованием карты ш_еггоге-Лгг[еггог].

Экранирование строк в запросах. Экранирование строк выполняет функция, программный код которой представлен на рис. 2.6.

Экранирование передаваемых данных в запрос добавлено для всех методов класса БВМеїііаІвг, рассмотрим на примере метода аііШ8ег (рис. 2.7), в коде жирным шрифтом выделено экранирование.

* @param str - строка, для экранирования std::string DBMediator:: pr_escapeStdString(std::string str) int cnt= PQescapeStiing(escStr: str.c_str(): str. size Q);

Рис. 2.6. Скриншот программного кода функции, отвечающей за экранирование строк

DBResult <int> DBMediator:: addL'serfconst User user)

1 ErrorCode error = PGRFS_CO№l4XD_OK.

^ "SELECT * WIIERE ul~"

pr_int2stdString (use: idenqficatorQ)

returnpr_retumErrorQuay(error, user identtficatorQj;

//если пользователь с выбранным id существует if (m_dbConnecdon->queryResidt(jsizeO > 0)

pr_ иstring 2 string (user.La stXaiwQ)

Рис. 2.7. Скриншот части программного кода метода addUser

Таким образом, были протестированы и отлажены программные механизмы пользовательского интерфейса, работы сервера, взаимодействия с базой данных.

2.2. Проектирование экспертной системы для промышленного объекта

Объект представляет собой биотехнологический процесс, в котором осуществляется утилизация отходов производства этанола на мелассной сырьевой основе с выработкой бактериальной биомассы. Детальное описание данного процесса с описанием основных технологических параметров, а также как объекта управления дано в наших работах [70-72].

На рис. 2.8 показана схема данного биотехнологического процесса. Данная технология была реализована на ОАО «Биохим», г. Рассказово, Тамбовская область. Выбор данного объекта для апробации экспертной системы связан с тем, что в нашем распоряжении имеется значительный объем производственных данных по этому процессу за предыдущие годы.

На рис. 2.9 показана упрощенная схема участка производства бактериальной биомассы, являющегося объектом рассмотрения. Основными технологическими единицами являются: биореактор, в котором осуществляется выработка биомассы; термофлотатор, служащий для ее концентрирования, и сушилка-гарнулятор, в которой биомасса высушивается и приобретает товарный вид.

Основной технологической единицей, влияющей на утилизацию отходов и выработку биомассы, является четырехсекционный биореактор-ферментер, детальное описание которого также приведено в наших работах [70-72].

Рис. 2.8. Схема биотехнологического процесса утилизации отходов производства этанола с выработкой бактериальной биомассы: 1 - теплообменник; 2 - биохимический реактор первой ступени; 3 - резервуар; 4 - сепаратор; 5 - резервуар; 6 - сушилка-гранулятор; 7, 8 - биохимические реакторы второй ступени; 9 - термофлотатор; 10 - резервуар для белкового концентрата; 11 -сушилка-гранулятор

Рис. 2.9. Упрощенная схема биотехнологического процесса с указанием основных потоков: 1 - отход производства этанола - субстрат (ХПК ~ 55000-60000 мгО2/л, БПК5 ~ 25000-32000 мгО2/л; сухих веществ 8-12 %, объемный расход 10 м3/ч); 2 - биомасса и остаточный субстрат (концентрация биомассы 10-20 кг/м3, концентрация остаточного субстрата ХПК ~ 1000-3000 мгО2/л, БПК5 ~ 200-500 мгО2/л; объемный расход 10 м3/ч); 3 - биомасса, обогащенная двуокисью углерода; 4 - концентрированная биомасса (концентрация до 25-40 кг/м3); 5 - готовый продукт (выработка 1-1,6 т/сут., зольность - не более 26 %, содержание протеина - не менее 47 %); 6 - осветленный сток на биологическую очистку; 7 - осветленный сток после окончательного отделения биомассы; 8 - очищенная жидкость (ХПК не более 3000 мгО2/л, БПК5 не более 200-500 мгО2/л)

Технология разработки экспертной системы для данного объекта. Далее опишем технологию разработки экспертной системы для этого объекта, включающую обучение интеллектуального ядра на основе искусственных нейронных сетей, его обучение с использованием параллельных вычислений и сравнение ре-

зультатов определения технологических параметров, полученных с использованием экспертной системы и в реальных условиях. Необходимо отметить, что описание технологии удаленного доступа было приведено в предыдущих этапах и потому здесь не приводится.

Рис. 2.10. Фрагмент файла данных наблюдений за биотехнологическим процессом

На рис. 2.10 показан фрагмент файла данных, полученных с технологического процесса (рис. 2.8-2.9). Здесь приведены численные значения входных параметров: расхода отхода производства этанола - Е, м3/ч, его концентрации - SQ, кг/м3 (по БПК), температур в секциях реактора - Ту-Т4, оС, кислотности среды в секциях реактора - рЩ-рИ и выходных параметров: концентраций биомассы в секциях - х1-х4, кг/м3 - и концентраций субстрата в секциях реактора - ^1-54, кг/м3 (по БПК).

Таким образом, полный файл данных представляет собой прямоугольную матрицу, содержащую 1000 строк, каждая из которых характеризует состояние биореактора, и 18 столбцов, элементы каждого из которых характеризуют один из параметров состояния данного процесса. Необходимо отметить, что все параметры соответствуют схемам объекта (рис. 2.8-2.9).

Построение экспертной системы для данного объекта заключается в разработке математической модели, позволяющей связать между собой входные (возмущения), управляющие и выходные параметры биореактора, заданные их значениями (рис. 2.10), т. е. получить зависимость вида:

У = Е (х, и, Р)

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

(2.1)

Такая модель представляет собой наиболее важную часть экспертной системы - ее решатель, совмещенный в единое целое с базой знаний. Поскольку в данной работе речь идет о разработке экспертной системы, имеющей в качестве интеллектуального ядра модель на основе искусственных нейронных сетей (ИНС-модель), то операторное уравнение (2.1) можно переписать в следующем виде:

Y = Р8 (х, и, w)

(2.2)

где х - вектор входных координат (возмущений) объекта, представляющих собой набор входных переменных, на которые пользователь объекта не может оказывать воздействия или влияния; и - вектор варьируемых параметров (управляющих воздействий), который представляет собой набор входных переменных, с помощью которых пользователь объекта может оказывать влияние на процесс, У - вектор выходных координат, численно выражающий интересующие свойства объекта (рис. 2.11); те - вектор весовых коэффициентов ИНС-модели, размерность которого определяет также ее число степеней свободы для настройки (обучения) по эмпирическим данным (рис. 2.10); Е - оператор связи, зависящий от структуры ИНС-модели - S.

Вектор і

входных I

координат (возмущений)

X, , ►

х2—т» Объект Т

хп , —5-

Вектор варьируемых параметров и

Рис. 2.11. Схема представления объекта для разработки ИНС-модели

В нашем случае х представляет собой одномерный вектор с двумя координатами Е и £0, и - одномерный вектор с восемью координатами Т1-Т4 и рН[-рН4, У -одномерный вектор с восемью координатами х1-х4 и

Л1-Л4.

Полученная модель должна быть нелинейной, т. к., например, в нее в качестве входных величин входят рН (показатель кислотности) среды, являющийся логарифмической функцией концентрации ионов водорода и температура, зависимость от которой основных показателей биотехнологического процесса выражается экспоненциальным уравнением Аррениуса [70].

По данным технологического процесса (рис. 2.10) разрабатывали экспертную систему с использованием нашего программного обеспечения вначале с использованием одного процессора, а затем с использованием вычислительного кластера. Ниже приведены результаты данной работы.

Так, на рис. 2.12 и 2.13 показан процесс обучения ИНС-модели с определенной конфигурацией. В данном случае речь идет об обучении ИНС с десятью входными нейронами, тремя нейронами в скрытом слое (линейная, квадратичная и кубическая функции) с использованием одного единственного процессора градиентным методом. Из рис. 2.12 и 2.13 видно, что погрешность модели быстро уменьшается, т. е. сеть с такой конфигурацией быстро обучается эмпирическим данным.

Необходимо отметить, что разрабатываемое нами программное обеспечение включает также авторский конструктивный алгоритм выбора структуры сети, описанный нами в [4, 6, 61-62, 73].

Тот факт, что в логарифмической системе координат (рис. 2.13) эмпирические данные по обучению ИНС-модели достаточно хорошо ложатся на прямую линию (с коэффициентом корреляции 0,983), указывает на возможность использования для описания данного процесса зависимостей вида (1.5)-(1.7).

у = 0,998х К5 = 0,979 У

< Л о

о О

х1. Кд.т (эксперимент)

Рис. 2.12. Процесс обучения ИНС-модели (линейная, квадратичная и кубическая функции нейронов) градиентным методом: б - среднеквадратическая погрешность, т - число тактов обучения. Один процессор

Рис. 2.14. Корреляция реальных данных - х\ и расчетов %\ по ИНС-модели для нейронной сети с одним линейным нейроном. Изображена корреляционная зависимость для 500 первых данных

1п 8

\

о \ р

\р

\о ■>

ч ' 1

\

сьд л2 = 0,967 Р

1 у = 1,007х Р?г = Л ЧЧЯ

/о

1пт

7 В Э 110

кд.т"3 (эксперимент)

Рис. 2.13. Процесс обучения ИНС-модели (линейная, квадратичная и кубическая функции нейронов) градиентным методом. Один процессор. В логарифмических координатах

Рис. 2.15. Корреляция реальных данных - х1 и расчетов х1 по ИНС-модели для нейронной сети с одним линейным и одним квадратичным нейронами. Изображена корреляционная зависимость для 500 первых данных

Предложенные уравнения на практике позволяют решить следующие задачи: оценить первичный период накопления информации, необходимой для построения ИНС-модели исследуемого объекта; определить начальную структуру ИНС-модели на основе входных характеристик объекта исследования; сделать оценку количества циклов обучения ИНС-модели в присутствии эксперта.

На рис. 2.14-2.17 показаны корреляции эмпирических данных (рис. 2.10) и значений хь рассчитанных по ИНС-модели для различных структур ИНС. Из этих рисунков следует, что наилучшая структура ИНС-модели, соответствующая эмпирическим данным и определенная по среднеквадратической погрешности: десять входных нейронов, три нейрона с линейной, квадратичной и кубической передаточными функциями в скрытом слое и один выходной нейрон.

В табл. 2.1 приведены основные параметры моделей, корреляции для которых приведены на рис. 2.142.17.

На рис. 2.18 приведена также и схема ИНС-модели. Обучение ИНС-моделей, используемых в качестве интеллектуального ядра экспертных систем, проводили и на вычислительных кластерах. При этом проводили расчеты концентраций субстрата в первой и четвертой секциях и концентрации биомассы в четвертой секции реактора: 5Ь £4 и Х4.

Был использован вычислительный кластер Тамбовского государственного технического университета, имеющий 4 процессора. Распараллеливание осуществляли на уровне вычисления значения целевой функции. Эффективность составили 90-92 %, время расчетов параллельной версии - около 4 часов с автоматизированным поиском оптимального варианта структуры

х-|, Кд.т-3 (эксперимент)

Рис. 2.16. Корреляция реальных данных - XI и расчетов х1 по ИНС-модели для нейронной сети с одним линейным, одним квадратичным и одним кубическим нейронами. Изображена корреляционная зависимость для 500 первых данных

ИНС-модели, показанной на рис. 2.19. В качестве оптимальной структуры ИНС-модели кластерной версией программы автоматизировано выбрана структура с одним кубическим, двумя квадратичными и четырьмя линейными нейронами. При этом относительные погрешности составили: для х4 - 9 %, для 51 - 19 %. для 54 - 2 %. Корреляции эмпирических данных и расчетов

по ИНС-модели для этих случаев показаны на рис. 2.20, 2.21 и 2.22.

Сравнение времени выполнения программы на единичном процессоре и вычислительном кластере показало, что существенная доля временных затрат получения ИНС-модели экспертной системы приходится на поиск структуры сети.

у=0,999х ,

5 6 7 В 9 10 11 12

кд.т"3 (эксперимент)

Рис. 2.17. Корреляция реальных данных - х1 и расчетов х1 по ИНС-модели для нейронной сети с одним сигмоидальным нейроном. Изображена корреляционная зависимость для 500 первых данных

Таблица 2.1

Основные показатели описания эмпирических данных биотехнологического процесса с использованием различных ИНС-моделей, используемых в качестве интеллектуального ядра экспертных систем

Характеристика скрытого слоя Коэффициент корреляции расчетных и эмпирических данных Средняя квадратическая ошибка ИНС-модели Время обучения ИНС-модели, мин.

Один линейный нейрон 0,989 0,02178 1,5

Линейный и квадратичный нейроны 0,997 0,00837 3

Линейный, квадратичный и кубический нейроны 0,997 0,00826 4,3

Сигмоидальный нейрон 0,962 0,07659 3

Рис. 2.18. Структура ИНС-модели, обеспечивающей адекватное представление эмпирической информации для производственного процесса, представленного на рис. 2.8 и 2.9

Рис. 2.19. Структура ИНС-модели, полученная с помощью вычислительного кластера и обеспечивающая адекватное представление эмпирической информации для производственного процесса, представленного на рис. 2.8 и 2.9

Весовые коэффициенты ИНС-модели (рис. 2.19) для расчета і! приведены ниже:

0,4288162291 0,6911659837 0,1684842408 0,4616163075 0,7723379135 0,4216362238 0,9884165525 0,9788873196 0,6507799029 0,9671633244 0,5300018191 0,01564698666 0,3375403881 0,2216714323 0,4493710399 0,7133677006 0,5164060593 0,06919586658 0,4069945812 0,370903194 0,505251348 0,1388458759 0,4709280729 0,6744026542 0,6213706732 0,07822722197 0,8713401556 0,3879356384 0,5161554813 0,8892344236 0,1537122428 0,1915409863 0,5621814728 0,5658055544 0,9058300853 0,5828891993 0,995773077 0,9083153009 0,8174400926 0,6529616714 0,1239705533 0,3195488155 0,9493271112 0,4367306828 0,8182460666 0,6685219407 0,4569704831 0,3795740008 0,9782751203 0,8832216859 0,9629584551 0,4627134502 0,2770597935 0,4101133347 0,1543281227 0,9040151834 0,7805030942 0,3157556355 0,2891126871 0,5657803416 0,1679721922 0,4115138948 0,7431307435 0,7208458185 0,267467916 0,8945841193 0,5835685134 0,2519495189 0,07455415279 0,384468019 0,1137303263 0,3678540885 0,9564149976 0,01722002774 0,8362314701 0,78604424 -0,2695320249 0,5538398623 0,4061145186 -0,01418774575 0,673956871 0.5876576304 0,4519741535 0,9328891635 0,04772821069 0,8873259425 0,1167072952 0,8477321267 0,2128166556 0,4433260858 0,3933708966 0,396352917 0,1390984654 0,3976278305 0,375639379

Весовые коэффициенты ИНС-модели (рис. 2.19) для расчета і4:

-0,5704417825 -0,3067550063 -0,8308624625 0,4633195698 0,7747497559 -0,5769819021 0,9883269072 -0,02421592176 0,651948154 -0,03596661985 -0,4777849317 0,03908353299 -0,6614277363 -0,7468106151 -0,5182107091 -0,2548091412 -0,479221344 -0,9636934996 -0,5867102146 -0,6539791226 0,4907354712

5-1, кд.т"3 (эксперимент)

Рис. 2.20. Корреляция реальных данных - ^ и расчетов ^ по ИНС-модели для нейронной сети, показанной на рис. 2.19. Изображена корреляционная зависимость для 250 первых данных

кд.т"3 (эксперимент)

Рис. 2.21. Корреляция реальных данных - «4 и расчетов «4 по ИНС-модели для нейронной сети, показанной на рис. 2.19. Изображена корреляционная зависимость для 250 первых данных

Рис. 2.22. Корреляция реальных данных - х4 и расчетов х4 по ИНС-модели для нейронной сети, показанной на рис. 2.19. Изображена корреляционная зависимость для 250 первых данных

-0,842656672 0,4675816298 -0,3012738824 0,647780776 -0,8964956403 0,8684352636 0,3658132553 -0,4878232479 -0,1296569407 -0,9198666215 -0,5133520961 0,5029249191 0,5552321672 0,1379725337 -0,2230418921 0,8237388134 -0.05016455799 -0,3082303703 0,6203956008 0,110185191 0,3382017314 0,9468284845 0,4570706487 -0,1558273286 0,6927443147 0,4551470578 0,3587762713 -0,02263088711 0,86644274 0,0193118006 -0,520377934 0,250112772 -0,0408744812 0,1773202568 -0,2229760885 0,6667154431 -0.5945608616 -0,5990222692 0,5554787517 0,1193605512 -0,3891767859 0,7373982072 -0,3085044324 0,384406507 0,911829412 -0,4308186471 0,2650654018 -0,7632086873 0,3955869079 -0,8295327425

Весовые коэффициенты ИНС-модели (рис. 2.19) для расчета х4:

-0,5694060922 -0,307300508 -0,8305162787 0,462882787 0,7741994858 -0,5763953924 0,9889353514 -0,02372954786 0,6522523761 -0,03583501279 -0,381878674 -0,01728148013 -0,636954546 -0,7451941371 -0,5691607594 -0,2912786007 -0,4150056839 -0,9485729933 -0,5316421986 -0,6321180463 0,4832786918 -0,8323836923 0,4667853117 -0,3034873605 0,6527198553 -0,8909805417 0,8609946966 0,3653144836 -0,492610693 -0,1329366267 -0,8492556214 -0,5841318965 0,500246048 0,5419026613 0,06970185786 -0,2706416845 0,8380429745 -0,1023810878 -0,2908897102 0,5919341445 0,1276708096 0,3295662105 0,9494491816 0,4543088078 -0,1653430909 0,6837120652 0,4659579098 0,3602868915 -0,01319523342 0,8676882386

-0,03200615942 -0,4333055615 0,1920378208 -0,07105731964 0,1847007424 -0,138266921 0,6991356015 -0,6002905369 -0,6089967489 0,5872494578 0,1409412473 -0,4160847068 0,7910585999 -0,2642692029 0,3661999106

0,9121851325 -0,4759331644 0,2709161937 -0,812210381 0,3853225112 -0,8021785021

Таким образом, проектирование экспертной системы для реального объекта (технологического процесса выработки биомассы), согласно условиям поставленной практической задачи, показало применимость и реализуемость предлагаемых нами подходов.

2.3. Проектирование экспертной системы для медицинского объекта

В качестве второго примера, для которого была реализована экспертная система по технологии, предлагаемой в данном проекте, рассмотрен медицинский объект.

Задача разработки экспертной системы ставилась следующим образом. Необходимо спроектировать экспертную систему для прогнозирования исхода (выздоровление пациента и летальный исход) хирургического лечения осложненного колоректального рака.

Экспертная система должна базироваться на эмпирических данных лечения 159 реальных больных за

период 2004-2012 гг., истории болезни больных и результатах анализов.

Перечень входных параметров экспертной системы и их шифровка приведены ниже.

1. Возраст больного До 40 лет - 1

От 41 до 50 лет - 2 От 51 до 60 лет - 3 От 61 до 70 лет - 4 От 71 до 80 лет - 5 Старше 80 лет - 6

2. Пол больного Мужской - 1 Женский - 2

3. Наличие сопутствующей патологии

3.1.Нарушение мозгового кровообращения

1 - Да

0 - Нет

3.2. Почечная недостаточность

1 - Да

0 - Нет

3.3.Перенесенный острый инфаркт миокарда

1 - Да

0 - Нет

3.4. Сердечная недостаточность

1 - Да

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

0 - Нет

3.5. Дыхательная недостаточность

1 - Да

0 - Нет

3.6. Сахарный диабет

1 - Да

0 - Нет

3.7. Другие

1 - Да 0 - Нет

4. Пульс

Менее 60 в минуту - 0 Норма 60-90 в минуту - 1 От 91 до 100 в минуту - 2 От 101 до 120 в минуту - 3 Свыше 120 в минуту - 4

5. Длительность заболевания

От 4 до 6 часов - 1 От 6 часов до 12 часов - 2 От 12 часов до суток - 3 От суток до трех - 4 От трех до 7 суток - 5 Более 7 суток - 6

6. Систологическое артериальное давление

Ниже 90 - 0 От 91 до 110 - 1 От 110 до 140 - 2 От 141 до 180 - 3 Выше 180 - 4

7. Частота дыхательных движений

Менее 13 в минуту - 0 13-18 в минуту - 1 От 19 до 25 в минуту - 2 Выше 25 в минуту - 3

8. Лейкоциты крови Менее 4 - 0

От 4 до 9 - 1 От 9,1 до 12 - 2

Более 12 - 3

9. Сдвиг лейкоцитарной формулы влево

9.1. Ядерный индекс интоксикации

0,05 - 0,08 - 1 От 0,09 до 0,29 - 2

0,3 - 1,0 - 3 Более 1,0 - 4

10. Наличие метастазов Отсутствуют - 1 Региональные лимфоузлы - 2

Отдаленные лимфоузлы и отдаленные органы - 3

11. Размеры кишки

11.1. Толстая кишка Не раздута - 1 Раздута умеренно - 2 Раздута значительно - 3

11.2. Тонкая кишка

Не раздута - 1 Раздута умеренно - 2 Раздута значительно - 3

12. Длительность операции До часа - 1

От 1 часа до 2-х часов - 2 От 2-х до 3-х часов - 3 Свыше 3-х часов - 4

13. Опухоль прорастает

Не прорастает окружающие структуры - 0 Забрюшинную клетчатку - 1 Соседние органы - 2 Крупные сосуды - 3 Мочеточники - 4

14. Наличие осложнения:

Без осложнений - 0 Перитонит - 1 Абсцессы - 2

Некроз кишки - 3

Перфорация - каловый перитонит - 4

15. Рвота

Да - 1 Нет - 0

16. Наличие выпота в брюшной полости

Да - 1 Нет - 0

17. Объем операции:

Радикальная - по типу обструктивной резекции - 1 Паллиативная - наложение колостомы - 2

18. Исход

Выписан, выздоровление - 1 Летальный исход - 2.

Разработка экспертной системы для прогнозирования результатов хирургического лечения осложненного колоректального рака. После преобразования исходных данных, предоставленных заказчиком, получен файл, фрагмент которого представлен на рис. 2.23.

Файл содержит 156 строк данных, каждая из которых соответствует индивидуальному случаю (больному), и 25 столбцов, первые 24 - это входы изучаемого объекта (х[-х24, см. файл), и 25-й столбец - выход объекта (У). Фамилии пациентов из файла исключены по этическим соображениям.

Репрезентативность данных не может быть объективно проверена, т. к. для этого была бы необходима выборка следующего объема (число строк): 224 = = 16777216. Этот расчет сделан в предположении, что каждый вход имеет только два состояния (0 и 1) и для оценки репрезентативности нужна лишь одна запись. Реально это число должно быть увеличено еще в 1020 раз.

Для предварительной обработки данных использовали симулятор ИНС, описанный в наших публикациях [5, 7, 63-65, 69], и свидетельства о государственной регистрации программ.

Наращивание структуры сети, как правило, производят от простого к сложному до тех пор, пока не будет достигнута удовлетворительная погрешность генерализации эмпирических данных.

По этой причине на первом этапе обучали нейронную сеть, имеющую 24 входа, один скрытый слой, включающий один линейный нейрон и один выходной слой, также содержащий один нейрон. Необходимо отметить, что такая линейная аппроксимация имеет особый смысл, т. к. в результате получается по сути дела линейное приближение ряда Тейлора:

Рис. 2.23. Фрагмент файла исходных данных для разработки экспертной системы. Представлены входные параметры х1-х24 и исход У

f (x) = f (a) + (хг - a) +

OXi

(хг - a) +... +

+

1 d2f(x)

2! dxt 2

_j______) f (x)

(n -1)! dx.

(2.3)

n-1

(x - a)n 1 + On (x),

по которому легко оценить чувствительность каналов:

(2.4)

f (x) = f (a) +fX)( x - a) + O2( x) ,

dxi

гдеу(х) - функция нескольких переменных; а - рабочая точка; I - порядковый номер рассматриваемой переменной.

При обучении погрешность ИНС-модели быстро снижается за счет изменения весовых коэффициентов. Среднеквадратичная погрешность обучения составила 0,08, количество случаев неверного обучения - 12 из 156, что нельзя считать приемлемым результатом.

На диаграмме (рис. 2.24) показана чувствительность выхода - исход (выписан, выздоровление или летальный исход) - к входным параметрам. Из этой диаграммы можно сделать вывод о том, что исход крайне малочувствителен к возрасту больного, нарушениям мозгового кровообращения, сахарному диабету и другим сопутствующим патологиям. С другой стороны, наиболее значимыми факторами с точки зрения исхода являются: почечная недостаточность, сердечная недостаточность, частота дыхательных движений, наличие метастазов, размеры толстой кишки, наличие осложнений. Влияют на исход такие факторы, как пол больного, перенесенный острый инфаркт миокарда, дыхательная недостаточность, пульс, длительность заболевания, систологическое артериальное давление, лейкоциты крови, ядерный индекс интоксикации, длительность операции, прорастание опухоли, рвота, наличие выпота в брюшной полости и объем операции прослеживается на среднем уровне.

Необходимо отметить, что рис. 2.24 позволяет оценить и направление влияния фактора. Например, чувствительность фактора 2 (пол больного) является отрицательной, что в силу принятого шифрования означает, что женщины чаще выздоравливают, чем мужчины. Вероятность летального исхода возрастает при почеч-

ной и сердечной недостаточности, высокой частоте дыхательных движений, высоком уровне лейкоцитов крови, наличии метастазов, повышенного размера толстой и тонкой кишки, наличии осложнений. В то же время вероятность летального исхода снижается при повышении пульса и ядерного индекса интоксикации, увеличении длительности операции, смещению объема операции в сторону паллиативной.

Следует отметить также, что вход 24 (объем операции) в силу объективных причин является управляющим фактором, т. к., только изменяя его, врач может влиять на исход операции. Однако в соответствии с рис. 2.24 степень его влияния надо признать весьма умеренной.

На рис. 2.25 показан фрагмент сравнения эмпирических и расчетных значений, позволяющий сделать вывод о необходимости повышения точности ИНС-модели, что будет сделано далее путем введения дополнительных нейронов в скрытый слой.

Рис. 2.24. Относительная чувствительность выхода ИНС-модели (исход) к входным параметрам: 1 - возраст больного; 2 - пол больного; 3 - нарушение мозгового кровообращения; 4 - почечная недостаточность; 5 - перенесенный острый инфаркт миокарда; 6 - сердечная недостаточность; 7 - дыхательная недостаточность; 8 - сахарный диабет; 9 - другие сопутствующие патологии; 10 - пульс; 11 - длительность заболевания; 12 - систологическое артериальное давление; 13 - частота дыхательных движений; 14 - лейкоциты крови, 15 - ядерный индекс интоксикации; 16 - наличие метастазов; 17 - размеры толстой кишки; 18 - размеры тонкой кишки; 19 - длительность операции; 20 - прорастание опухоли; 21 -наличие осложнений; 22 - рвота; 23 - наличие выпота в брюшной полости; 24 - объем операции

+

N17 (In) N13 {In) N19 (In) N20 {In) N21 <In) N22 {In) N£3 {In) N2 4 (Ini M2€(Out) ModelVal

3 0 0 0 0 1 1 1,21828

3 0 0 0 0 1 1 0,90797

3 0 0 0 1 2 2 1,0792€

1 0 0 0 0 2 1 0,871€4

1 0 0 0 0 2 1 0,91313

2 0 0 0 1 2 1 1,0706&

3 0 4 1 1 1 1,S76S6

1 0 0 0 2 1 1,239&3

4 0 4 1 1 1 1, 12754

3 3 0 4 1 2 2 1,€S92S

2 2 2 0 0 2 2 1,39074

3 2 0 0 0 1 2 2 1,£4311

3 2 0 0 0 0 2 v 2 1,41487

Рис. 2.25. Фрагмент таблицы соответствия величин у, полученных из эмпирических данных (N26 (Out)) и по ИНС-модели (ModelVal) для однослойного персептрона - обведено красным

N15 (In) Hl€ (In) N17 (In) N18 (In) N19 (In) N20 (In) N21 (In) N22 (In) N23 (In) N24 (In) N2 6(Out) ModelVal \

1 3 3 0 0 0 0 1 1 1,38282

3 2 3 0 0 0 1 1 1 1,36709

2 2 2 0 2 0 1 1 1 1,08387

2 3 3 2 0 0 1 2 2 1,80671

1 3 2 0 0 0 0 1 1 1,06511

2 1 3 0 1 1 1 2 1 1,29142

2 1 3 0 0 0 0 2 1 1,29654

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1 3 2 0 0 0 0 1 1 1,16268

1 3 2 0 0 0 0 1 1 1,31938

3 3 3 3 2 4 1 1 2 2 2,07091

3 3 3 3 0 1 1 1 2 . 2 1,92575

V

Рис. 2.26. Фрагмент таблицы соответствия вличин у, полученных из эмпирических данных (N26 (Out)) и по ИНС-модели (ModelVal) для однослойного персептрона с линейным и квадратичным функциональными нейронами - обведено красным

Рис. 2.27. Фрагмент таблицы соответствия вличин у, полученных из эмпирических данных (N26 (Out)) и по ИНС-модели (ModelVal) для однослойного персептрона с линейным, квадратичным и кубическим функциональными нейронами - обведено красным

Вычислительные эксперименты с ИНС-моделью, включающей линейный и квадратичный нейроны, в скрытом слое показали, что среднеквадратичная погрешность обучения составила 0,06, количество случаев неверного обучения - 7 из 156, что также нельзя считать приемлемым результатом.

В ходе вычислительных экспериментов пробовали также передаточную функцию нейрона типа «сигмоид», однако и в этом случае не были получены удовлетворительные результаты.

Удовлетворительное описание эмпирических данных получено лишь при введении в скрытый слой третьего - кубического нейрона (рис. 2.27). Этот результат свидетельствует о нелинейности исхода к входным факторам. Из рис. 2.27 видно также, что соответствие выхода модели и эмпирических данных находится на приемлемом уровне и после округления может быть использовано в ИНС-модели и экспертной системе.

Формальные результаты, полученные по данной модели: среднеквадратическая ошибка - 0,0324, число неправильных вычислений исхода - 2 на 156 случаев.

Необходимо отметить, что после анализа чувствительности входных параметров на исход была сделана попытка исключить слабо влияющие факторы из рассмотрения.

В ходе указанных действий из рассмотрения были удалены следующие факторы: 1 - возраст больного, 3 -нарушение мозгового кровообращения, 5 - перенесен-

ный острый инфаркт миокарда, 7 - дыхательная недостаточность, 8 - сахарный диабет, 9 - другие сопутствующие патологии, 23 - наличие выпота в брюшной полости.

Однако при их удалении погрешность моделей увеличилась. По этой причине было принято решение не удалять указанные связи.

Таким образом, в ходе предварительных исследований было показано, что наиболее адекватной структурой ИНС-модели является структура с одним линейным, одним квадратичным и одним кубическим нейронами в скрытом слое. Такая структура хорошо соответствует разложению функции многих переменных в ряд Тэйлора и показана на рис. 2.28.

При ее обучении с помощью разработанного комплекса программ получены следующие результаты.

ИНС-модель обучена на основе эмпирических данных. При этом получены значения весовых коэффициентов ИНС (рис. 2.28):

Mean square error of the ANN-model is: 2.8304260957E-02

The weight coefficients of the model are:

w[1] = 2,3015998946E - 01

w[2] = 1,7209418639E + 00

w[3] = -1,2359808917E + 01

w[4] = 1,1115302471E + 01

w[5] = 2,7158935930E + 00

%16] = -1,1748413689Е + 00 %17] = -3,4919043683Е + 00 %^8] = 2,0529339953Е + 00 %19] = -2,3700940981Е + 00 %^10] = 1,0465730006Е + 00 %111] = 2,1188599892Е - 01 %112] = -1,4008000133Е - 01 %113] = -5,1521609583Е - 01 %114] = -2,1716430406Е + 00 %^15] = 6,2039201483Е - 01 %116] = -1,1938880542Е + 00 %^17] = 3,0240000415Е - 02 %^18] = 1,8021000469Е - 01 %^19] = 6,9544799760Е - 01 %^20] = 3,9233101266Е - 01 %121] = -1,4157065810Е + 00 %122] = -2,0661396170Е + 00 %^23] = 4,9599468701Е + 00 %^24] = 7,2239003946Е - 01 %125] = 2,5577700011Е - 02 %126] = -2,4091679932Е - 01 %^27] = 4,2861940457Е - 01 %128] = -7,7567501030Е - 02 %129] = -1,7685020290Е - 01 %^30] = 1,5481900046Е - 01 %^31] = -3,8774520120Е - 01 %132] = -3,5285900248Е - 02 %^33] = -9,9368004084Е - 03 %134] = -8,2066999885Е - 02 %135] = -2,9356999954Е - 02 %^36] = 1,5356579994Е - 01 %^37] = 1,7336339902Е - 01 %^38] = 5,4279399999Е - 02 %^39] = -6,0626300059Е - 02 %^40] = 1,8765500015Е - 01 %^41] = -9,0538199600Е - 02 %^42] = 2,1794060050Е - 01 %143] = -4,5073400097Е - 02 %144] = -6,7508899906Е - 02 %145] = 1,2132110007Е - 01 %^46] = 2,3612400000Е - 01 %^47] = 6,0452699949Е - 02 %^48] = -1,8739859921Е - 01 %149] = -4,6936519690Е - 01 %^50] = -3,6592360563Е - 01 %^51] = 1,3161573742Е + 00 %^52] = 9,1846354644Е - 02 %153] = -1,1995788002Е + 00 %^54] = 1,6052586455Е + 00 %155] = 1,1784468166Е + 00 %156] = -1,6390204479Е + 00 %^57] = 7,1836560487Е - 01 %158] = -2,1375539901Е - 01 %^59] = 4,9231560747Е - 01 %160] = -7,0463719410Е - 01 %161] = 5,5986478695Е - 01 %^62] = 9,5872279907Е - 01 %^63] = 2,0880299933Е - 01 %^64] = 1,4178800334Е - 01 %165] = 7,1580381057Е - 01 %^66] = 5,2050001310Е - 01 %167] = -4,2753861398Е - 01 %^68] = -1,4150072994Е - 02 %169] = 2,7290770284Е - 01

%^70] = 3,1039979747Е - 02 %171] = -2,6439161264Е + 00 %^72] = 3,0163000457Е - 01 %173] = -5,3074314842Е + 00 %^74] = 3,0424280087Е - 01 ^^[75] = 3,7713756437Е + 00 w[76] = 4,6645099683Е - 02 %^77] = 1,3069249891Е + 00 w[78] = 3,1550467010Е - 03 w[79] = 4,9710360161Е - 01

Средняя квадратичная ошибка моделирования эмпирических данных без округления выхода модели составляет 0,028304260957, что при единице шкалы исхода в одну единицу (разница между 2 и 1) является хорошим результатом. Результаты представления эмпирических данных этой моделью с округлением выходных величин приведены ниже:

Уехр = 1.00000 Ушоа = 1.00000

Уехр = 2.00000 Ушоа = 2.00000

Уехр = 1.00000 Ушоа = 1.00000

Уехр = 2.00000 Ушоїі = 1.00000 единственная ошибка!

Уехр = 1.00000 Ушоа = 1.00000

Уехр = 2.00000 Ушоа = 2.00000

Уехр = 1.00000 Ушоа = 1.00000

Уехр = 2.00000 Ушоа = 2.00000

Уехр = 1.00000 Ушоа = 1.00000

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Уехр = 1.00000 Ушоа = 1.00000

Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 1.00000 Ушоа = 1.00000 Уехр = 2.00000 Ушоа = 2.00000 Уехр = 2.00000 Ушоа = 2.00000

Можно заметить, что при представлении эмпирических данных модель содержит всего 1 ошибку на 156 строк, что, безусловно, может быть расценено, как хороший результат. Эту ошибку можно связать с противоречивостью выборки эмпирических данных.

Значения коэффициентов м^-м^ в модели (2.5) необходимо использовать с максимально возможной точностью, сохранив везде 11 значимых цифр в мантиссе числа.

Таким образом, в ходе обработки эмпирических данных по 156 пациентам получена математическая модель, позволяющая по входным параметрам (вектор входных координат - хі-х23 и управляющему параметру х24) адекватно рассчитывать исход:

Рис. 2.28. Отрую-урная разрабатываемой схема ИHC-модели

Y =

73

Я

w76 +

w74 +

f 48

Я

V i=25 f 72

Я

V i=49

W77 +

W78 + W79.

(2.5)

Данное уравнение использовано для разработки компьютерной программы - экспертной системы, предназначенной для предоперационного исследования возможных исходов операции.

Экспертная система и алгоритм ее работы. Hh

рисунке 2.29 представлена блок-схема алгоритма программы.

В блоках 1-3 происходит чтение эмпирических данных из файла ‘data’. Этот файл представляет собой прямоугольную матрицу, содержащую 156 строк (по числу пациентов) и 25 столбцов (24 входа и один выход-исход операции). Файл для удобства имеет тексто-

вый формат, что позволяет добавлять новую информацию при появлении сведений о новых больных.

В блоках 4-5 происходит чтение коэффициентов ИНС-модели из файла ‘соеГР. Этот файл представляет собой вектор-строку, содержащую 79 элементов. Файл для удобства имеет текстовый формат, что позволяет легко изменять коэффициенты модели при переучивании ИНС.

В блоке 6 пользователь вводит исходные данные по новому пациенту. При этом пользователю нет необходимости знать варианты кодировок. Он просто отвечает на предлагаемые вопросы и ставит соответствующие «галочки». После заполнения всех полей пользователь нажимает кнопку «Расчет исхода». При необходимости он может изменить один из показателей, например, сложность операции и снова нажать кнопку «Расчет исхода».

В блоках 7-9 производится расчет исхода по ИНС-модели (рис. 2.30 и уравнение (2.5)).

При необходимости результаты могут быть сохранены в текстовом файле (блок 10).

Таким образом, в ходе выполнения данного проекта (НИОКР) подтверждена возможность использования предлагаемых приемов, методов и программного обеспечения для разработки экспертных систем широкого назначения.

1=1

2

+

г-24 i

3

+

i-48 i

Рис. 2.29. Блок-схема алгоритма программы экспертной системы

Персональные данные больного

Пол Возраст

Имя || Фамилия Отчество [” С Мужской <"■ Женский С До 40 лет С От 51 до 60 лет С От 71 до 80 лет С От 41 до 50 лет С От 61 до 70 лет С Старше 80 лет

Результаты обследования

Наличие сопутствующей патологии Нарушение мозгового кровообращения

С Да С Нет Почечная недостаточность

Объем планируемой операции

С Радикальная - по типу обструктивной резекции С Паллиативная - наложение колостоны Вероятный результат операции

С да С нет

Перенесенный острый инфаркт миокарда

С Да С Нет

Сердечная недостаточность

Г Да С Нет

Лмултрльнля НРЛОГТДТОМНОГТЬ

Произвести расчет результата

Сброс

Сохранить результаты

Выход

Рис. 2.30. Интерфейс программы экспертной системы

2.4. Рекомендации к практическому использованию технологии и программно-технологического комплекса

Погрешности представления интеллектуальным ядром экспертной системы (ИНС-моделью) эмпирических данных являются приемлемыми для производственных и прочих целей. Указанное обстоятельство позволяет рекомендовать использование всей автоматизированной технологии разработки экспертных систем на основе ИНС-моделей с распределенным вводом информации и параллельными алгоритмами ее обработки, так и сами экспертные системы такого типа для решения производственных задач: прогнозирования, управления, оценивания, оптимизации и др.

Сравнение времени выполнения программы на единичном процессоре и вычислительном кластере показало, что существенная доля временных затрат получения ИНС-модели экспертной системы приходится на поиск структуры сети. Поэтому при имеющейся информации о реальной структуре объекта время разработки экспертной системы на основе ИНС-моделей может быть существенно сокращено путем исключения из процесса данной процедуры.

Применение указанной технологии и экспертных систем данного типа рекомендуется для внедрения (и коммерциализации) объектов, получение формализованных знаний для которых затруднено (производства, социальных процессов, медицины и др.).

ЗАКЛЮЧЕНИЕ

В ходе выполнения НИОКР по теме «Разработка автоматизированной технологии и программно-технологического комплекса для построения экспертных систем для различных сфер деятельности, включающей оригинальные способы и программные механизмы разработки экспертных систем, поддерживающих распределенный ввод данных, параллельные вычисления и имеющих интеллектуальное ядро, основанное на ней-росетевых моделях» в ООО «Научно-производственная компания ЭКСПЕРТНЫЕ СИСТЕМЫ» по государственному контракту № 8894р/14330 от 11 апреля 2011 г. выявлены следующие основные положения.

1. Разработанная в ходе НИОКР автоматизированная технология и программно-технологический комплекс для построения экспертных систем для различных сфер деятельности показали работоспособность и пременимость для различных типов объектов и могут быть рекомендованы для внедрения и коммерциализации.

2. Разработанные механизмы удаленного доступа позволяют исключить территориальную привязку экспертных систем, разрабатываемых по данной технологии и их обслуживание. Данное обстоятельство существенно повышает перспективы коммерциализации разработки ввиду того, что в перспективе такие ЭС могут быть размещены на сервере ООО «Научнопроизводственная компания ЭКСПЕРТНЫЕ СИСТЕМЫ», что существенно удешевляет их доработку, обслуживание и наладку.

3. Предложенные в ходе НИОКР аналитические модели позволяют оценивать и оптимизировать поэтапное обучение ИНС-моделей на основе поступаю-

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

щей от объекта информации, что позволяет разработать ЭС для широкого класса объектов. Такая широта также способствует успешной коммерциализации технологии и программно-технологического комплекса.

4. Разработанные механизмы параллельного обучения ИНС-моделей сокращают время их обучения на основе эмпирических данных и повышают конкурентную способность продукции на рынке экспертных систем.

5. Разработанное программное обеспечение подтверждено свидетельствами о регистрации программ для ЭВМ государственного образца. Право интеллектуальной собственности закреплено за ООО «Научнопроизводственная компания ЭКСПЕРТНЫЕ СИСТЕМЫ».

6. Результаты НИОКР опубликованы в печати [47, 61-69, 74-75]. По ним подготовлено 3 кандидатских диссертации и защищено 2 кандидатских диссертации.

7. По результатам НИОКР сделаны пробные разработки и продажи экспертных систем, что указывает на перспективность коммерциализации данной продукции.

ЛИТЕРАТУРА

1. Абдикеев Н.М. Проектирование интеллектуальных систем в экономике: учебник / под ред. Н.П. Тихомирова. М.: Экзамен, 2006. 528 с.

2. Андрейчиков А.В., Андрейчикова О.Н. Интеллектуальные информационные системы. СПб.: Питер, 2004. 423 с.

3. Андрейчиков А.В., Андрейчикова О.Н. Интеллектуальные информационные системы: учебник. М.: Финансы и статистика, 2006. 424 с.

4. Арзамасцев А.А., Неудахин А.В., Зенкова Н.А. Автоматизированная технология построения экспертных систем с интеллектуальным ядром на основе ИНС-моделей // Открытое образование. М., 2008. Вып. 3 (68). С. 35-39.

5. Арзамасцев А.А., Троич К.Г., Зенкова Н.А., Неудахин А.В. Использование методов математического моделирования и искусственного интеллекта для оценки деятельности научных работников // Вестник Тамбовского университета. Серия Естественные и технические науки. Тамбов, 2008. Т. 13. Вып. 4. С. 301-312.

6. Арзамасцев А.А., Неудахин А.В. Методика разработки экспертных систем, использующих в качестве интеллектуального ядра ИНС-модели // Вестник Тамбовского университета. Серия Естественные и технические науки. Тамбов, 2008. Т. 13. Вып. 2-3. С. 219-222.

7. Арзамасцев А.А., Зенкова Н.А., Неудахин А.В. Технология построения медицинской экспертной системы на основе аппарата искусственных нейронных сетей // Информационные технологии. М., 2009. № 8. С. 60-63.

8. Гаврилов А.В. Системы искусственного интеллекта: учеб. пособие: в 2 ч. Новосибирск: Изд-во НГТУ, 2001. Ч. 1. 67 с.

9. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СПб.: Питер, 2000. 384 с.

10. Емельянов-Барковский Л.Б. Интеллектуальная квазибиологическая система. М.: Наука, 1990. 112 с.

11. Искусственный интеллект. Справочник: в 3 кн. / под ред.

В.Н. Захарова, В.Ф. Хорошевского. М.: Радио и связь, 1990. Кн. 1. 426 с.; Кн. 2. 304 с.; Кн. 3. 368 с.

12. Козачков Л.В. Технология и инструментальные средства реализации информационно-экспертных систем // Сборник научных трудов. Львов: ВНИИМИУМ, 1989. С. 58-66.

13. Рыбина Г.В., Сикан КВ. Инструментальные средства поддержки разработки веб-ориентированных обучающих интегрированных экспертных систем // Интеллектуальные системы и технологии: сб. научных трудов научной сессии МИФИ-2008. М.: МИФИ, 2008. Т. 3. С. 45-49.

14. Рыбина Г.В. Интегрированные экспертные системы: современное состояние, проблемы и тенденции // Известия РАН. Теория и системы управления. 2002. № 5. С. 111-126.

15. Рыбина Г.В., Сикан К.В., Степанов Л.С. Методы и инструментальные средства разработки веб-ориентированных интегрированных экспертных систем // Программные продукты и системы. 2008. № 2. С. 25-28.

16. Рыбина Г.В., Сикан К.В., Курдюков А.Н. Принципы разработки веб-ориентированной версии комплекса АТ-ТЕХНОЛОГИЯ // Научная сессия МИФИ-2004: сб. научных трудов. М.: МИФИ, 2003. Т. 3. С. 62-63.

17. Сафонов В.О. Экспертные системы - интеллектуальные помощники специалистов. СПб.: Санкт-Петербургская организация общества «Знания» России, 1992.

18. Ясницкий Л.Н. Введение в искусственный интеллект. М.: Издательский центр «Академия», 2005. 176 с.

19. Duda R.O., Gaschnig J.G. Knowledge-based exspert systems come of age // BYTE. 1981. V. 6. № 9. P. 238-281.

20. Harmon P. G2: Gensym's Real-Time Expert System // Intelligent Software Strategies. 1993. V. 9. № 3.

21. Kleschev A.S. Expert Systems Based on Metaknowledge: preprint. Vladivostok: Far Eastern Division of the Russian Academy of Sciences,

1994. 13 p.

22. Геловани В.А., Ковригин О.В. Экспертные системы в медицине. М.: Знание, 1987. 301 с.

23. Джексон П. Введение в экспертные системы. М.: Вильямс, 2001. 624 с.

24. Керридж А.Е. Использование экспертных систем // Нефть, газ и нефтехимия за рубежом. 1987. № 9. С. 107-110.

25. Козеренко Е.Б., Пузанов В.В. Сравнительный анализ оболочек экспертных систем // Новинтех. 1990. № 1. С. 25-32.

26. Попов Э.В., Фоминых И.Б., Кисель Е.Б. Искусственный интеллект: справочник. Статические и динамические экспертные системы (классификация, состояние, тенденции). Методические материалы. М.: Центральный рос. дом знаний, 1995. 126 с.

27. Попов Э.В. Экспертные системы // Техническая кибернетика. 1987. № 5. С. 5-18.

28. Попов Э.В. Экспертные системы реального времени // Открытые системы. 1995. № 2 (10).

29. Попов Э.В. Экспертные системы: Решение неформализованных задач в диалоге с ЭВМ. М.: Наука, 1987. 252 с.

30. Сазыкин В.Г. Особенности решения задач экспертными системами реального масштаба времени // Приборы и системы управления.

1995. № 10. С. 11-14.

31. Таунсенд К., Фохт Д. Проектирование и программная реализация экспертных систем на персональных ЭВМ. М.: Финансы и статистика, 1990.

32. Clements B.R., Preto F. Evaluting Commercial Real Time Expert System Software for Use in the Process Industries // C&I. 1993. P. 107114.

33. Lee Ed.S., O'Keefe R.M. Developing a Strategy for Expert System Verification and Validation // IEEE Transactions on Systems, Man and Cybernetics. 1994. V. 24. № 4. P. 648-655.

34. Florentin J.J. Software Review: KEE // Epert Systems. 1987. V. 4. № 2. P. 18-120.

35. Hayes-Roth F., Jacobstein N. The State of Knowledge-Based Systems // Communications of the ACM. 1994. V. 37. № 3. P. 27-39.

36. Бельченко В.Е., Дедкова Т.Г., Частиков А.П. Инструментальные средства программирования экспертных систем: оболочки экспертных систем. Краснодар: КГТУ, 1994. 112 с.

37. Джарратано Дж., Райли Г. Экспертные системы: принципы разработки и программирование. М.: Вильямс, 2007. 1152 с.

38. Евсеев О.В. Продукционная управляющая система для гибких производственных систем // Техническая кибернетика. 1987. № 5. С. 93-112.

39. Ершова О.В., Вальдберг Н.Г., Чистякова Т.Б. Построение экспертной системы для управления карбидной печью // Математические методы в технике и технологиях: сб. 13 Международной научной конференции ММТТ-2000. СПб., 2000. Т. 6. С. 145-146.

40. Керов Л.А., Частиков А.П., Юдин Ю.В., Юхтенко В.А. Экспертные системы: инструментальные средства разработки: учеб. пособие / под ред. Ю.В. Юдина. СПб.: Политехника, 1996. 220 с.

41. Кирсанов Б.С., Попов Э.В. Состояние разработки инструментальных средств и экспертных систем // Искусственный интеллект. Справочник: в 3 кн. М.: Радио и связь, 1990. Кн. 1. С. 290-312.

42. Клещев А. С. Реализация экспертных систем на основе декларативных моделей представления знаний: препринт. Владивосток: ДВО АН СССР, 1988. 45 с.

43. Клещев А. С., Князева М.А. Экспертная система, моделирующая процесс оптимизации программ. Представление знаний: препринт. Владивосток: ИАПУ ДВО АН СССР, 1989. 25 с.

44. Компьютер обретает разум: пер. с англ. / под ред. В.Л. Стефанюка. М.: Мир, 1990.

45. Татжибаева О.А. Разработка экспертных систем: методические указания к расчетно-графическим работам по дисциплине «Системы искусственного интеллекта». Оренбург: ГОУ ОГУ, 2005. 23 с.

46. Уотерман Д. Руководство по экспертным системам: пер. с англ. М.: Мир, 1989. 388 с.

47. Behrous H. Far, Koono Z. Ex-W-Pert System: Distributed Web-based Expert System for Groupware Design // Journal of Expert Systems With Applications. 1996. V. 11. № 4. P. 475-48G.

48. Huntington D. Web-Based Expert Systems are on the Way: Java-based Web Delivery // PCAL. 2GGG. V. 14. № 6. P. 34-36.

49. Горбань A.И., Дунин-Барковский B.M., Кирдин A.И., Миркес Е.М., Иовоходько A.Ю., Россиев Д.A., Терехов СЛ., Сенашова М.Ю., Царегородцев BS. Hейроинформатика. ^восибирск: Шука, Ch-бирское предприятие РА^ 1998. 296 с.

5G. Горбань A.И., Россиев ДА. ^иронные сети на персональном компьютере. ^восибирск: ^ука, 1996.

51. ГорбаньA.И. Обучение нейронных сетей. М.: CП Параграф, 199G.

52. Каллан Р. Основные концепции нейронных сетей. М.: Вильямс, 2GG1. 288 с.

53. Осовский С. ^йронные сети для обработки информации / пер. с польск. И. Д. Рудинского. М.: Финансы и статистика, 2GG4. 344 с.

54. Хайкин С. ^йронные сети: полный курс: пер. с англ. 2-е изд. М.: Издательский дом «Вильямс», 2006. 1104 с.

55. Берштейн Л.С. ^четкие модели для экспертных систем в CAПР. М.: Энергоатомиздат, 1991. 136 с.

56. Голицын ГЛ., Фоминых И.Б. Интеграция нейросетевой технологии с экспертными системами // Труды 5 национальной конференции по ИИ. Казань, 1996. C. 68-71.

57. Голицын ГЛ. Применение нейросетевой технологии в ЭC // Экспертные системы реального времени: материалы семинара. М.: РДЗ, 1995. C. 55-60.

58. Потапова Т.Б. Cтруктурная модель управления технологическим участком непрерывного производства как база знаний для экспертной системы // Приборы и системы управления. 1996. № 9. C. 27-29.

59. Колмогоров A.И. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного // Докл. AH CCCР. 1957. Т. 114. № 5. C. 953956 (цит. по: Горбань A.И., Россиев ДЛ. ^йронные сети на персональном компьютере. ^восибирск: ^ука, 1996).

60. Колмогоров A.И. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных // Докл. AH CCCР. 1956. Т. 1G8. № 2.

C. 179-182.

61. Aрзaмaсцeв A.A., Иеудахин A.B. Автоматизированная технология построения экспертных информационных систем // Вестник Тамбовского университета. Cерия Естественные и технические науки. Тамбов, 2008. Т. 13. Вып. 1. C. 83-85.

62. Aрзaмaсцeв A.A., Иеудахин A.B. Концептуальные основы проектирования экспертных систем // Вестник Тамбовского университета. Cерия Естественные и технические науки. Тамбов, 2GG9. Т. 14. Вып. 1: материалы 13 Всероссийской научной конференции преподавателей и аспирантов «Державинские чтения». C. 242-244.

63. Kryuchin O.V., Arzamastsev A.A., Troitzsch K.G. A parallel algorithm

for selecting activation functions of an artificial network // Institut fur Wirtschafts- und Verwaltungsinformatik Fachbereich Informatik Un-iversitat Koblenz-Landau. 2G11. № 12. URL: http://www.uni-

koblenz.de/~fb4reports/2G11/2G11_12_Arbeitsberichte.pdf. Загл. с экрана.

64. Kryuchin O. V., Arzamastsev A.A., Troitzsch K.G. A universal simulator

based on artificial neural networks for computer clusters // Institut fur Wirtschafts- und Verwaltungsinformatik Fachbereich Informatik Un-iversitat Koblenz-Landau. 2G11. № 2. URL: http://www.uni-

koblenz.de/~fb4reports/2011/2011_02_Arbeitsberichte.pdf. Загл. с экрана.

65. Kryuchin O.V., Arzamastsev A.A., Troitzsch K.G. Comparing the effi-

ciency of serial and parallel algorithms for training artificial neural networks using computer clusters // Institut fur Wirtschafts- und Verwal-tungsinformatik Fachbereich Informatik Universitat Koblenz-Landau. 2011. № 13. URL: http://www.uni-koblenz.de/~fb4reports

/2G11/2G11_13_Arbeitsberichte.pdf. Загл. с экрана.

66. Kryuchin O.V., Arzamastsev A.A., Troitzsch K.G. The prediction of

currency exchange rates using artificial neural networks // Institut fur Wirtschafts- und Verwaltungsinformatik Fachbereich Informatik Un-iversitat Koblenz-Landau. 2011. № 4. URL: http://www.uni-

koblenz.de/~fb4reports/2011/2011_04_Arbeitsberichte.pdf. Загл. с экрана.

67. Kryuchin O.V., Arzamastsev A.A., Troitzsch K.G., Zenkova N.A. Simulating social objects with an artificial neural network using a computer cluster // Institut fur Wirtschafts- und Verwaltungsinformatik Fachbe-reich Informatik Universitat Koblenz-Landau. 2011. № 15. URL: http://www.uni-koblenz.de/~fb4reports/2G11/2G11_15_Arbeitsberi-chte.pdf. Загл. с экрана.

68. Kryuchin O.V., Arzamastsev A.A., Zenkova N.A., Troitzsch K.G., Sletkov D.V. Simulating medical objects simulation using an artificial neural network whose structure is based on adaptive resonance theory //

Institut fur Wirtschafts- und Verwaltungsinformatik Fachbereich Infor-matik Universitat Koblenz-Landau. 2G11. № 14. URL: http://www.uni-koblenz.de/~fb4reports/2G11/2G11_14_Arbeitsberichte.pdf. Загл. с экрана.

69. Zenkova N.A., Arzamastsev A.A., Troitzsch K.G. Development of a technology of designing intelligent information systems for the estimation of social objects // Institut fur Wirtschafts- und Verwaltungsinfor-matik Fachbereich Informatik Universitat Koblenz-Landau. 2G11. № 1. URL: http://www.uni-koblenz.de/~fb4reports/2G11/2G11_01_Arbeits-

benc^e^ra. с экрана.

7G. Aрзaмaсцeв A.A. Математическое и компьютерное моделирование: учеб. пособие. Тамбов: Издательский дом ТГУ им. Г.Р. Державина, 2010. 257 с.

71. Aрзaмaсцeв A.A., Плотникова Ю-B. Информационная система для оптимизации биотехнологического процесса на основе методов математического моделирования // Вестник Тамбовского университета. Cерия Естественные и технические науки. Тамбов, 2GG8. Т. 13. Вып. 5. C. 376-394.

72. Aрзaмaсцeв A.A., Плотникова Ю-B. Оптимизация биотехнологического процесса утилизации отходов производства этанола на основе методов математического моделирования // Вестник Тамбовского университета. Cерия Естественные и технические науки. Тамбов, 2G11. Т. 16. Вып. 1. C. 174-179.

73. Aрзaмaсцeв A.A., Иеудахин A.B., Зенкова ИЛ., Сергеева М.С. Разработка автоматизированной технологии построения экспертных информационных систем // Актуальные проблемы информатики и информационных технологий: сб. 12 Международной научно-практической конференции, Тамбов, 4-5 сент. 2008 г. Тамбов: ТГУ им. Г.Р. Державина, 2GG8. C. 115-117.

74. Иеудахин A.B., Aрзaмaсцeв A.A., Зенкова ИЛ. Построение нейросе-тевых экспертных систем с помощью автоматизированной технологии // Вопросы современной науки и практики. Университет им. В.И. Вернадского. Тамбов, 2GG9. № 4 (18). C. 179-183.

75. Arzamastsev A.A., Zenkova N.A., Troitzsch K.G., Neuakhin A.V. Technology of intellectual information system design for estimation of social objects // Вестник Тамбовского университета. Cерия Естественные и технические науки. Тамбов, 2G11. Т. 16. Вып. 1. C. 169-173.

Поступила в редакцию 6 июня 2012 г.

Arzamastsev A.A., Zenkova N.A., Kryuchin O.V., Kva-shenkin D.O., Neudakhin A.V. AUTOMATED TECHNOLOGY AND SOFTWARE AND ENGINEERING COMPLEX FOR CONSTRUCTION OF EXPERT SYSTEMS WITH INTELLECTUAL CORE BASED ON NEURAL NETWORK MODELS, SUPPORT OF DISTRIBUTED DATA INPUT AND PARALLEL EQUATIONS

As a result of the project a set of software and technology, allowing you to create expert systems for various fields of activity is developed. Expert systems of this type are based on a distributed input data through a system of remote access, intellectual core, based on artificial neural networks with its training phase using parallel algorithms.

The software has been tested in the development of expert systems in the following areas: industrial object (expert system for process development of biomass based on waste of ethanol production), a medical facility (expert system to predict the outcome of surgical treatment of wasps, complications of colorectal cancer). With its use the models for the environmental objects (prediction shrimp population density in an open system and the air temperature in the city of Tambov), economic object (forecasting currency quotations), social object (model of professional predisposition stale credit indebtedness, high school students) are also obtained. In all cases high quality match between empirical and calculated values due to the high adaptive capacity of the core of the expert system and procedures for a phased training is reached. The work identified: universalism proposed mechanisms of adaptation and expert systems subject to empirical data from a variety of subject areas, the possibility of practical use of these techniques and methods. The developed software package may have commercial use.

Key words: automated technology; expert systems; artificial neural network; intellectual core; parallel calculations; distributed data entry; remote access mechanisms.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.