CC BY
28
типи елементарних клашв об'екпв ПО, якими доцшьно оперувати при побудовi реляцшних баз даних: елементарний довiдник, елементарний бiзнес-об'eкт, елементарний документ. Кожен елементарний клас об'екпв ПО розглядаеться як деревовидна сукупшсть часових та традицшних вiдношень, якi вiдображають вiдповiдно поди та факти, що стосуються об'екпв цього класу.
Список лiтератури: 1. ПаачникВ.В., РенченкоВ.А. Оргашзацш баз даних та знань //К.: Видавнича група BHV, 2006. 386 с. 2. Пахчанян А. Технологии электронного документооборота // Открытые системы. 2002. № 10. С. 17-21. http://www.osp.ru/os/2002/10/181977/ ЗАткинсон М., Бансилхон Ф., ДеВитт Д., Дитрих К., Мейер Д., Здоник С. Манифест систем объектно-ориентированных баз данных: Пер. с англ. // СУБД, №4, 1995. http:// www. osp. ru/ dbms/1995/04/23.htm. 4.ЖежничП.1. Маншулювання даними у часових базах даних // Харкш, Схвдно-£вропейський журнал передових технологий, №4/2(28), 2007. С.23-27.
Надшшла до редколегИ 11.12.2007
Жежнич Павло 1ванович, канд. техн. наук, заступник декана шстигуту комп'ютерних наук та шформацшних технологш, доцент кафедри "1нформацшш системи та мережТ', Национального ушверситету "Льв1вська полггехшка". Науков1 штереси: бази даних, Веб-техно-логп. Хоб1: ютор1я, футбол, туризм, веб-проекти (наприклад, http://lviv.ridne.net). Адреса: Укра!на, 79013, Львiв, вул. С. Бандери, 12, тел.: (032) 2582-391 (деканат), 2582-538 (кафедра). Е-mail: pzhe@ridne.net, сайт: http://pzhe.net
УДК 519.7:004.93
А.А. ОЛЕЙНИК, С.А. СУББОТИН
ПАРАМЕТРИЧЕСКИЙ СИНТЕЗ НЕЙРОСЕТЕВЫХ ДИАГНОСТИЧЕСКИХ МОДЕЛЕЙ НА ОСНОВЕ ЭВОЛЮЦИОННОЙ ОПТИМИЗАЦИИ
Рассматривается задача параметрического синтеза нейромоделей. Предлагается эволюционный метод обучения нейронных сетей с использованием априорной информации. Проводятся эксперименты по синтезу модели зависимости суммарного показателя качества жизни пациентов от клинических и лабораторно-инструментальных показателей.
Введение
В задачах биомедицинской и технической диагностики, прогнозирования надежности изделий, управления сложными системами и процессами широко применяются нейросете-вые модели [1, 2], обладающие способностями к аппроксимации нелинейных зависимостей, к обучению и обобщению.
Для настройки параметров нейросетей прямого распространения, как правило, применяются градиентные методы оптимизации [2], использующие метод обратного распространения ошибки для расчета производных целевой функции по весам. Однако данные методы являются методами локального поиска и требуют дифференцируемости функций активации всех нейронов, образующих сеть.
При решении практических задач диагностики целесообразным является синтез нейро-сетей, обладающих высокой интерпретабельностью, поскольку важно уметь не только принимать решения, но и понимать, каким образом и почему принято решение. Как правило, такие сети содержат различные функции активации, в том числе недифференцируемые, что приводит к невозможности использования градиентных методов для параметрического синтеза. Для обучения таких сетей эффективно могут применяться стохастические методы оптимизации, в которых поиск оптимальных значений синаптических весов сети является случайно направленным и выполняется не в жесткой заранее определенной последовательности действий, что позволяет исследовать пространство поиска в различных областях.
Среди стохастических методов оптимизации в последнее время получили широкое распространение методы эволюционной оптимизации [3-5], которые являются методами глобального поиска, оперируют на каждой итерации с некоторым множеством решений и не
требуют вычисления значений производных целевой функции, что позволяет применять их для решения задач синтеза нейросетевых моделей независимо от дифференцируемости функции активации нейронов.
Однако традиционные методы эволюционного поиска при синтезе нейромоделей на этапе инициализации производят выбор начального множества решений (структур нейросе-тей) случайным образом [6-8], без использования априорной информации об исследуемом объекте, процессе или системе, что значительно замедляет процесс синтеза оптимальной нейромодели и в случаях ограничения времени на построение модели может оказаться неэффективным.
Целью настоящей работы является создание метода эволюционной оптимизации, учитывающего индивидуальную значимость признаков как на этапе инициализации при генерации начальных значений весовых коэффициентов нейросетей, так и на последующих этапах эволюционного поиска при формировании новых решений с помощью операторов скрещивания и мутации.
1. Постановка задачи
Пусть задана выборка исходных данных < X, Y >, где X = { X; } - исходный набор значений признаков, характеризующих рассматриваемый объект или процесс; Y = {у] } -массив значений выходного параметра в заданной выборке; X; = { xij } - 1-й признак в исходной выборке, 1 = 1, 2, ..., L; L - общее количество признаков в исходном наборе; Ху -значение 1-го признака для _)-го экземпляра выборки, j = 1, 2, ..., т; у ] - значение прогнозируемого параметра для j-го экземпляра; т - количество экземпляров выборки.
Тогда задача параметрического синтеза нейромодели заданной структуры на основе эволюционного подхода заключается в поиске такого набора значений весовых коэффициентов и смещений w = w(H), при котором достигается минимум среднеквадратической ошибки между реальным значением выходного параметра и расчетным выходом нейромо-
т 2
дели: = 2 (Ур - У(НС^р)) , где НС - нейросетевая модель, построенная на основе р=1
матрицы w; Н - хромосома (решение), несущая информацию о параметрах нейромодели, Н ^ w; X - набор значений признаков для р-го экземпляра; у(НС, X) - значение выхода нейромодели НС, вычисленное для набора значений Xp .
2. Параметрический синтез нейромоделей на основе эволюционного подхода
Для применения эволюционного поиска к параметрическому синтезу нейросетей необходимо определить целевую функцию (фитнесс-функцию) и выбрать способ представления значений весов в хромосоме.
Как правило, в качестве фитнесс-функции при параметрическом синтезе нейромоделей используется среднеквадратическая ошибка [6].
Хромосома при параметрическом синтезе (рис. 1) состоит из К генов, содержащих значения весов и смещений всех нейронов сети. При этом для представления значений весовых коэффициентов в хромосомах применяется вещественное кодирование. Размер хромосомы определяется по формуле:
м , ч К = К^Ь +1)+ 2 +1),
ц=2
где ^ - количество нейронов на ц -м слое; Ь - количество признаков в обучающей выборке; М - количество слоев нейросети.
Эволюционная оптимизация значений синаптических весов нейросетей может быть представлена в виде следующей последовательности шагов [6-8].
Шаг 1. Выполнить инициализацию начальной популяции хромосомами, содержащими информацию о значениях весовых коэффициентов сети заданной структуры.
Шаг 2. Оценить приспособленность хромосом текущей популяции (фитнесс-функции).
Шаг 2.1. Декодировать каждую хромосому популяции в набор весовых коэффициентов нейронной сети.
Шаг 2.2. Построить нейросети, соответствующие оцениваемым хромосомам.
Шаг 2.3. Вычислить значение фитнесс-функции оцениваемых хромосом, учитывающее ошибку и сложность сети.
Шаг 3. Проверить критерии окончания поиска (достижение приемлемого значения ошибки синтезируемой нейросетевой модели, превышение максимально допустимого количества итераций, превышение допустимого времени функционирования метода). В случае, если хотя бы один из критериев останова удовлетворен, выполнить переход к шагу 7.
Шаг 4. Исходя из значения фитнесс-функции, выбрать особи для генерации новых решений.
Шаг 5. Применить операторы скрещивания и мутации для хромосом, отобранных на предыдущем шаге.
Шаг 6. Сформировать новое поколение из элитных хромосом и хромосом-потомков, полученных путем применения скрещивания и мутации. Перейти к выполнению шага 2.
Шаг 7. Останов.
Рис. 1. Схематическое представление хромосомы при параметрическом синтезе нейромоделей
Таким образом, обучение нейромоделей, основанное на эволюционном подходе, не нуждается в вычислении градиента целевой функции и позволяет найти значения глобальных оптимумов синаптических весов для многомерных, полимодальных и недифференци-руемых целевых функций.
Еще одним преимуществом эволюционного поиска к параметрическому синтезу нейро-моделей является возможность применения одного метода синтеза к построению различных моделей нейросетей (прямого распространения, рекуррентных и др.).
3. Эволюционный метод параметрического синтеза нейросетевых моделей с
использованием априорной информации
При использовании приведенного метода эволюционной оптимизации хромосомы начальной популяции формируются случайным образом, что подразумевает создание набора нейронных сетей со значениями весовых коэффициентов и смещений, сгенерированными произвольным образом. Случайное создание хромосом начальной популяции при параметрическом синтезе нейромоделей приводит к уменьшению эффективности эволюционной оптимизации при поиске оптимальных значений матрицы весов и увеличению времени, необходимому на поиск.
В разработанном эволюционном методе параметрического синтеза нейромоделей предлагается учитывать априорную информацию о значимости признаков в операторах инициализации и мутации, используемых при эволюционном поиске.
Создание нейронных сетей при инициализации хромосом начальной популяции предлагается осуществлять с помощью модифицированного метода Нгуена-Уидроу [9], который предполагает вычисление начальных значений весовых коэффициентов и смещений нейронов в слое таким образом, чтобы равномерно распределить активную область определения функции активации каждого нейрона по пространству входных переменных.
Под активной областью определения функции активации нейрона [9] подразумевается ограниченная область значений входных параметров, в которой наблюдается существенное изменение значений функции активации.
Для логистической сигмоидной функции в [9] предложен интервал [-4; 4] в качестве активной области определения, при этом функция принимает значения в интервале (0,018; 0,982), что составляет 96,4 % от всей области значений. Для тангенциальной сигмо-идной и радиально-базисной функций в качестве активной области определения предложен
интервал [-2; 2], в котором указанные функции принимают значения в интервалах (0,964; 0,964) и (0,0183; 1], соответственно.
Для пороговых и линейных функций активные области не определены, вследствие чего метод Нгуена-Уидроу для нейронов, обладающих такими функциями активации, предполагает случайное вычисление значений весовых коэффициентов и смещения.
В настоящей работе в качестве активных областей определения для таких функций предлагается использовать максимальные интервалы значений входов нейронов.
Однако при инициализации параметров нейросетевых моделей с помощью метода Нгуена-Уидроу считается, что входные признаки обладают одинаковой значимостью. Известно [1], что при решении реальных практических задач информативность признаков обучающей выборки не является одинаковой, вследствие чего использование метода Нгуена-Уидроу для инициализации матрицы весовых коэффициентов нейромодели является недостаточно эффективным.
Поэтому в разработанном эволюционном методе параметрического синтеза нейросетей предлагается проводить инициализацию хромосом начальной популяции с помощью модифицированного метода Нгуена-Уидроу, учитывающего априорную информацию о значимости признаков при инициализации нейросети.
В разработанном методе показатели индивидуальной информативности признаков предлагается также использовать в операторе точечной мутации путем понижения вероятности мутации генов, которым соответствуют значения весовых коэффициентов связей, идущих от входных признаков с оценками индивидуальной значимости, выше средней.
Разработанный эволюционный метод параметрического синтеза нейросетевых моделей с использованием априорной информации может быть представлен в виде следующей последовательности шагов.
Шаг 1. Установить счетчик итераций (времени): t = 0.
Шаг 2. Для каждого признака рассчитать значение оценки его индивидуальной информативности Для оценки индивидуальной значимости признаков могут быть использованы коэффициент парной корреляции, коэффициент корреляции знаков, коэффициент корреляции Фехнера, дисперсионное отношение, коэффициент связи, информационных критерий, энтропия признака, критерий, основанный на вероятностном подходе, или критерий, основанный на статистическом подходе [1].
Выполнить инициализацию начальной популяции N хромосомами Н j (шаги 3-6), содержащими информацию о значениях весовых коэффициентов сети заданной структуры.
Шаг 3. Установить счетчик сгенерированных хромосом: j = 1.
Шаг 4. Сгенерировать j-ю хромосому, выполнив шаги 4.1-4.12.
Шаг 4.1. Установить счетчик слоев нейросети, соответствующей j-й хромосоме начальной популяции: ц = 1.
Шаг 4.2. Вычислить:
|ууNц, если ц = 1;
а = <! _
|y ^N ц, если ц* 1,
где N^ - количество нейронов на ц -м слое; L - количество признаков в обучающей выборке; y - коэффициент, задаваемый пользователем, y е (0; 1), по умолчанию предлагается устанавливать: y = 0,7.
Шаг 4.3. Вычислить количество входов V ц -го слоя:
iL, если ц = 1;
V
ц |NM, если ц* 1.
Шаг 4.4. Определить минимальное x^^ и максимальное xVmax значения v -го входа нейронов ц -го слоя сети:
х(ц) =fxvmin, если ц = 1; (ц) = fxVесли ц =1;
^ Х V
(ц-1) 1 v max | (ц-1)
VVmin' если ц *1 к™ если ц * 1,
гдеху min их v max - минимальное и максимальное значения v -го признака обучающей
выборки; уVmin и vVmaX - минимальное и максимальное значения функции активации v -го нейрона (ц - 1)-го слоя.
Шаг 4.5. Для каждого р -го нейрона ц -го слоя определить минимальное хр^^щ и
максимальное xPц1Kтmax значения активной области определения функции активации. Шаг 4.6. Установить счетчик нейронов ц -го слоя: г = 1. Шаг 4.7. Сгенерировать веса связей для р -го нейрона ц -го слоя. Шаг 4.7.1. Установить счетчик входов р -го нейрона ц -го слоя: v = 1. Шаг 4.7.2. Сгенерировать случайное число г:
frand[- Iv; Iv ], если ц - 1; [rand[-1; l], если ц ф 1,
где Iv - значение оценки индивидуальной информативности v -го признака в обучающей выборке; rand[a; b] - случайно сгенерированное число в интервале [a; b].
Шаг 4.7.3. Вычислить значение v -го весового коэффициента р -го нейрона ц -го слоя:
х(ц) - х(ц)
(ц) Лр акт max Лр актmin
Ww = аг—----
WVP x(^) - x(^) .
v max Av min
Шаг 4.7.4. Установить: v = v + 1.
Шаг 4.7.5. Проверить, рассчитаны ли значения всех весовых коэффициентов р -го нейрона ц -го слоя (v> V). В случае, если условие v> V выполняется, тогда выполнить переход к шагу 4.8; в противном случае - перейти к шагу 4.7.2.
Шаг 4.8. Вычислить значение смещенияw^ для р -го нейрона ц-го слоя:
v^ Лц) + xM
w(^> = у_ v max v mm_^ + b
У - xW W vP + DP ,
v-1A р акт max Лр актmin
где bp-
1 ix(^) + x(^) )+1 a(x(^) - x(^) Ix
, \Лрактmа^Лрагтат/^\лр»«^max л.„„„„,---/л
р актmin/ 2 ' р актmax р актmin,'
(
-1 + -
-1+^ V N^-1.
если N^ ф 1;
2 (хракттах + ^кттт) если ^ = 1
Шаг 4.9. Установить: р = р + 1.
Шаг 4.10. Если рассчитаны значения весовых коэффициентов и смещений всех нейронов ц -го слоя (р > ^), тогда выполнить переход к шагу 4.11; в противном случае -перейти к шагу 4.7.
Шаг 4.11. Увеличить счетчик слоев нейросети: ц = ц + 1.
Шаг 4.12. Если рассчитаны значения весовых коэффициентов и смещений всех нейронов всех слоев нейросети (ц > М, где М - количество нейронов сети), тогда выполнить переход к шагу 5; в противном случае - перейти к шагу 4.3.
Шаг 5. Увеличить счетчик сгенерированных хромосом: j = j + 1.
Шаг 6. Проверить, сформирована ли полностью начальная популяция ( > N1. Если сгенерированы все хромосомы начальной популяции, тогда выполнить переход к шагу 7, в противном случае - перейти к шагу 4.
Шаг 7. Оценить хромосомы текущей популяции, декодировав каждую хромосому в популяции в набор весовых коэффициентов нейронной сети.
X
Шаг 8. Проверить критерии окончания поиска (достижение приемлемого значения ошибки синтезируемой модели, превышение максимально допустимого количества итераций, превышение допустимого времени функционирования метода). В случае, если критерии останова удовлетворены, выполнить переход к выполнению шага 13.
Шаг 9. Исходя из значения фитнесс-функции, выбрать особи для генерации новых решений.
Шаг 10. Применить оператор скрещивания к хромосомам, отобранным на предыдущем шаге.
Шаг 11. Выполнить оператор точечной мутации над выбранными хромосомами.
Вероятность мутации Р; ;-го гена^ мутирующей хромосомы предлагается рассчитывать по формуле:
Р =
I и (1) у—, если ^ = w^р;
у, если ^ ф wl1)
ур>
где I; - значение оценки индивидуальной информативности входного признака в связи,
-_ 1 L
определяемой весом wVlP, которому соответствует ген ^ ; 1 _ ~т 2^ - среднее значение
L ы
оценок индивидуальной информативности признаков экземпляров обучающей выборки; L -количество признаков в обучающей выборке; у - вероятность мутации генов, которым соответствуют веса связей нейронов, находящихся на втором и последующих слоях нейро-сети (предлагается установить у = 0,01К, где К - количество генов мутирующей хромосомы).
Таким образом, в результате использования предложенного оператора мутации понижается вероятность мутации генов, которым соответствуют значения весовых коэффициентов связей, идущих от входных признаков с оценками индивидуальной значимости, выше средней.
Шаг 12. Увеличить счетчик итераций (времени): t = t + 1. Сформировать новое поколение из элитных хромосом и хромосом-потомков, полученных путем применения операторов скрещивания и мутации. Перейти к выполнению шага 7.
Шаг 13. Останов.
Предложенный метод эволюционной оптимизации для параметрического синтеза нейро-сетей позволяет настроить значения весовых коэффициентов и смещений, не накладывая ограничения на вид функции активации нейронов. В отличие от классических методов эволюционного поиска, используемых для обучения нейросетей, в разработанном методе применяются специальные операторы инициализации и мутации, учитывающие априорную информацию о значимости признаков, что повышает эффективность поиска и уменьшает время эволюционной оптимизации.
4. Эксперименты и результаты по моделированию суммарного показателя
качества жизни
Качество жизни в медицинском смысле подразумевает то, насколько человек может чувствовать себя полноценно в обществе, семейной жизни, при выполнении своих профессиональных обязанностей в условиях наличия хронического заболевания [10].
Понятие качества жизни интегрирует большое количество физических, психологических, социальных, экономических характеристик пациента и отражает его возможность адаптироваться к проявлениям болезни.
Недостаточно изученным к настоящему времени является вопрос о взаимосвязи показателя качества жизни пациентов и их соматическим статусом, а также влияние протекания болезни на показатель качества жизни больного.
Поэтому актуальным является создание компьютерной модели, позволяющей оценивать взаимосвязь суммарного показателя качества жизни больных с клиническими и лабораторно-инструментальными показателями, характеризующими основное заболевание.
Экспериментально получена входная выборка данных для больных хроническим об-структивным бронхитом [10], характеризующаяся 108 признаками, выходным параметром в выборке данных являлся суммарный показатель качества жизни. Из исходной выборки данных с помощью эволюционного поиска с группировкой признаков [11] выделена наиболее информативная комбинация, состоящая из 47 признаков, характеризующих наиболее значимые медицинские показатели пациента.
Для построения модели зависимости суммарного показателя качества жизни от характеристик состояния больного предлагается использовать двухслойную нейросеть, содержащую 2 нейрона на первом слое и один нейрон на втором слое. Все нейроны имели сигмоидную функцию активации, а в качестве дискриминантных функций использовалась взвешенная сумма.
Для синтеза нейромоделей использовались: метод обратного распространения ошибки, классический эволюционный поиск и предложенный эволюционный метод с использованием априорной информации, который был программно реализован на языке пакета МаЙаЬ. Начальные значения параметров эволюционных методов устанавливались следующими: оператор отбора - отбор с использованием рулетки, оператор скрещивания - равномерное скрещивание, оператор мутации - точечная мутация, количество особей в популяции N = 100, вероятность скрещивания рскр = 0,8, максимальное количество итераций Т = 100, количество элитных особей N = 2.
В связи со случайным характером формирования начальных значений весовых коэффициентов и смещений в методе обратного распространения ошибки, а также в связи со стохастичностью эволюционных методов построение моделей с помощью каждого метода выполнялось 100 раз для получения более объективных результатов.
В табл. 1 приведены усредненные результаты синтеза нейросетевых моделей зависимости суммарного показателя качества жизни от характеристик пациента, полученные с помощью применения различных методов параметрического синтеза.
Таблица1
№ Название метода Время, с Среднеквадратическая ошибка
минимальная средняя максимальная
1 Метод обратного распространения ошибки 45,75 9,7-10-5 0,0882 0,814
2 Классический эволюционный поиск 53,21 8,3-10-4 0,0127 0,0207
3 Эволюционный метод с использованием априорной информации 49,91 7,4-10-5 0,0119 0,0189
Как видно из табл. 1, эволюционная оптимизация может выполняться дольше по сравнению с градиентными методами, однако она, в общем случае, является значительно менее чувствительной к начальным параметрам обучения, о чем свидетельствует сравнение средних значений полученных среднеквадратических ошибок синтезированных нейромо-делей. Это объясняется тем, что методы эволюционного поиска всегда пытаются найти глобальный оптимум, в то время как градиентные методы, как правило, находят локальный оптимум, расположенный в окрестности начальной точки поиска.
Матрица значений весовых коэффициентов лучшей нейромодели, синтезированной с помощью эволюционного метода с использованием априорной информации, представлена в табл. 2.
На рис. 2 приведены графики достигнутых оптимальных средних по всем испытаниям значений среднеквадратических ошибок на каждой итерации при использовании различных методов эволюционного поиска.
Как видно из рис. 2, предложенный метод является более эффективным для параметрического синтеза нейромоделей по сравнению с традиционными эволюционными методами, поскольку за одно и то же время позволяет найти более оптимальные значения весовых коэффициентов и смещений, при которых достигаются меньшие значения среднеквадрати-ческих ошибок синтезируемых нейросетевых моделей.
Таблица 2
Номер слоя Номер Номер Значение весового коэффициента Номер Значение весового коэффициента Номер Значение весового коэффициента Номер Значение весового коэффициента Номер Значение весового коэффициента Номер Значение весового коэффициента
нейрона в слое входа нейрона входа нейрона входа нейрона входа нейрона входа нейрона входа нейрона
0 -1,0874 8 -0,04224 16 0,60772 24 -0,49959 32 0,25147 40 0,37186
1 -0,2277 9 0,4029 17 -0,0645 25 -0,13161 33 0,12609 41 -0,29082
2 0,041503 10 -0,33687 18 0,028207 26 -0,20994 34 0,63746 42 -0,38358
1 3 0,88462 11 1,072 19 0,048078 27 -0,62118 35 0,84018 43 -0,11167
4 -0,31553 12 0,5735 20 0,74746 28 -0,58524 36 -0,47112 44 -0,03607
5 0,087531 13 -0,74412 21 -0,19022 29 0,021693 37 0,41434 45 -0,71647
6 -0,10993 14 -0,38433 22 0,63026 30 -0,66135 38 -1,1616 46 -0,40864
1 7 0,87646 15 -0,00253 23 -0,35824 31 -0,46176 39 -0,55401 47 0,84635
0 1,6118 8 -0,88846 16 -0,6331 24 -0,13544 32 -0,13872 40 -0,18927
1 0,25719 9 -0,28671 17 -0,36291 25 0,24314 33 0,09332 41 -0,65312
2 0,005095 10 -0,55807 18 -0,36655 26 -0,19751 34 -1,0734 42 0,29582
2 3 0,002265 11 -0,05155 19 0,38999 27 0,37943 35 0,037675 43 0,38905
4 -0,07547 12 -0,84491 20 -0,96709 28 0,067761 36 0,44743 44 -0,52702
5 -0,19536 13 -0,06173 21 0,19683 29 -0,56183 37 -0,08303 45 -0,05389
6 -0,10737 14 -0,03169 22 -0,34028 30 0,56961 38 -0,23089 46 0,079044
7 -0,649 15 -0,11708 23 0,37269 31 0,047181 39 0,39082 47 -0,6857
2 1 0 0,0039 1 6,1986 2 6,0004
0.07
|
о:
та
то
о.
О
0.01 -'-1-1-1-1-1-1-1-1-
0 10 20 30 40 50 ВО 70 ВО 30 100 Номер итерации
Рис. 2. Графики изменения значений среднеквадратических ошибок
Результаты построения нейросетей, полученные с помощью применения различных методов настройки весовых коэффициентов, показали, что разработанный метод по сравнению с традиционными эволюционными методами позволяет быстрее синтезировать нейромодели и, в отличие от градиентных методов, не склонен к попаданию в локальные оптимумы и, следовательно, позволяет найти глобальный оптимум полимодальных функций.
Выводы
Рассмотрено решение задачи параметрического синтеза нейросетевых моделей на основе методов эволюционной оптимизации.
Научная новизна исследования заключается в том, что разработан метод эволюционной оптимизации для параметрического синтеза нейросетей, который позволяет настраивать значения весовых коэффициентов и смещений, не накладывая ограничения на вид функции активации нейронов, и, в отличие от классических методов эволюционного поиска, использует специальные операторы инициализации и мутации, учитывающие априорную информацию о значимости признаков, что повышает эффективность и сокращает время поиска.
Практическая ценность результатов работы состоит в том, что разработано программное обеспечение, реализующее предложенный эволюционный метод параметрического синтеза нейромоделей, а также решена задача синтеза модели зависимости суммарного показателя качества жизни пациентов от клинических и лабораторно-инструменталь-ных показателей, характеризующих основное заболевание. 80
Работа выполнена в рамках госбюджетной НИР "Научно-методические основы и математическое обеспечение для автоматизации и моделирования процессов управления и поддержки принятия решений на основе процедур распознавания и эволюционной оптимизации в нейросетевом и нечеткологическом базисах" (№ гос. регистрации 0106U008621). Список литературы: 1. Интеллектуальные средства диагностики и прогнозирования надежности авиадвигателей: Монография / В.И. Дубровин, С.А. Субботин, А.В. Богуслаев, В.К. Яценко. Запорожье: ОАО "Мотор-Сич", 2003. 279 с. 2. Руденко О.Г., Бодянский Е.В. Основы теории искусственных нейронных сетей. Харьков: Телетех, 2002. 317 с. 3. HauptR., HauptS. Practical Genetic Algorithms. New Jersey: John Wiley & Sons, 2004. 261 p. 4. The Practical Handbook of Genetic Algorithms. Volume II. New Frontiers / Ed. L.D. Chambers. Florida: CRC Press, 2000. 421 p. 5. GenM., ChengR. Genetic algorithms and engineering design. New Jersey: John Wiley & Sons, 1997. 352 p. 6. YaoX. Evolving Artificial Neural Network // Proceedings of the IEEE. 1999. № 9(87). P. 1423-1447. 7. Shukla K. Neuro-genetic prediction of software development effort // Information and Software Technology. 2000. № 42. P. 701-713. 8. Zhou Z., Chen S. Evolving Fault-Tolerant Neural Networks // Neural Computing and Applications. 2003. № 11. P. 156-160. 9. Nguyen D., Widrow B. Improving the learning speed of 2-layer neural networks by choosing initial values of the adaptive weights // Neural Networks: Proceedings of the International Joint Conference IJCNN-90 (1519 January 1990). San Diego: IEEE, 1990. P. 21-26. 10. Кривенко В.И., Евченко Л.Н., Субботин С.А. Нейросетевое моделирование показателя качества жизни для диспансерного учета пациентов // Моделирование неравновесных систем-2001 / Материалы IV Всероссийского семинара - Красноярск: ИВМ СО РАН, 2001. С. 79-80. 11. Субботин С.А., ОлейникА.А. Выбор набора информативных признаков для синтеза моделей объектов управления на основе эволюционного поиска с группировкой признаков // Искусственный интеллект. 2006. № 4. С. 488-494.
Поступила в редколлегию 04.12.2007 Олейник Андрей Александрович, аспирант кафедры программных средств Запорожского национального технического университета. Научные интересы: интеллектуальные системы поддержки принятия решений. Адрес: Украина, 69063, Запорожье, ул. Жуковского, 64.
Субботин Сергей Александрович, канд. техн. наук, доцент, лауреат премии Президента Украины, доцент кафедры программных средств Запорожского национального технического университета. Научные интересы: интеллектуальные системы поддержки принятия решений. Адрес: Украина, 69063, Запорожье, ул. Жуковского, 64, тел.: (061) 769-82-67.
УДК 681.5.01.23
Б.И. КУЗНЕЦОВ, А.А. ВАРФОЛОМЕЕВ
СИНТЕЗ НЕЙРОСЕТЕВОЙ СИСТЕМЫ НАВЕДЕНИЯ И СТАБИЛИЗАЦИИ ВООРУЖЕНИЯ ЛЕГКОБРОНИРОВАННЫХ МАШИН С ИСПОЛЬЗОВАНИЕМ НЕЙРОРЕГУЛЯТОРА С ПРЕДСКАЗАНИЕМ
Выполняется синтез нейросетевой системы наведения и стабилизации вооружения легкобронированных машин. Разрабатывается структурная схема системы, компонентами которой являются: линейный регулятор положения, нейронный регулятор скорости и предуправление по скорости. Описывается синтез нейрорегулятора с предсказанием. Проводится моделирование системы при различных видах входных воздействий. Доказывается, что разработанная нейросетевая система имеет высокие динамические характеристики.
Введение
Постановка проблемы. При модернизации легкобронированных колесных машин в целях повышения эффективности ведения огня основное внимание уделяется вооружению и системе управления огнем. Совершенствование вооружения и систем управления огнем является одной из наиболее важных задач в области повышения тактико-технических характеристик боевых машин пехоты и боевых колесных машин. Наиболее эффективным направлением при модернизации системы управления огнем является улучшение системы наведения и стабилизации основного и вспомогательного вооружения.
Анализ последних достижений и публикаций. Повышающиеся требования к тактико-техническим характеристикам и качеству систем управления заставляют искать новые
