CC BY
36
УДК 681.518:004.93.1'
В. В. МОСКАЛЕНКО, 1.В. ШЕЛЕХОВ, О.В. СОБОЛСВ
ШФОРМАЦШНО-ЕКСТРЕМАЛЬНИЙ УН1МОДАЛЬНИЙ КЛАСИФ1КАТОР З ПАРАЛЕЛЬНО-ПОСЛ1ДОВНОЮ ОПТИМ1ЗАЦ16Ю КОНТРОЛЬНИХ ДОПУСК1В НА ОЗНАКИ РОЗП1ЗНАВАННЯ
Пропонуеться шформацшно-екстремальний алгоритм оптишзаци контрольних допусков на ознаки розпiзнавання для ушмодального класифiкатора, який характеризуеться единим центром розсшвання векторiв-реалiзацiй образiв. При цьому одержанi за процедурою паралельно! оптишзаци квазiоптимальнi контрольнi допуски використовуються як стартовi для послщовно! процедури. Як приклад розглядаеться реалiзацiя ушмодально! системи пiдтримки прийняття рiшень для керування технологiчним процесом вирошуван-ня сцингиляцiйних монокристал1в.
Вступ
Один ¡з прогресивних способ1в шдвищення функщонально! ефективносп АСК вирощуван-ням великогабаритних сцинтиляцшних монокристашв (СМК) полягае в наданш !й властивосп адаптивносп на основ1 машинного навчання та розтзнавання образ1в [1]. Перспективною розробкою в галуз1 анал1зу 1 синтезу здатних навчатися АСК е шформацшно-есктремальна штелектуальна технолопя (1Е1-технолопя) [2]. Основна щея 1Е1-технологи полягае в оптимь заци в процес1 навчання структурованих просторово-часових параметр1в функцюнування системи шляхом трансформаций апрюрного нечпгсого розбиття простору ознак розтзнавання у чпгсе розбиття вщношення екв1валентносп клас1в. При цьому оптим1защя параметр1в функщ-онування здшснюеться за 1ерарх1чною ггерацшною процедурою шляхом пошуку глобального максимуму шформацшного критерда функщонально! ефективносп навчання в робочш обласп визначення його функци. У пращ [3] розглядалася ошишзащя контрольних допусюв на ознаки розтзнавання в процеа навчання мультимодального класифшатора за паралельним алгоритмом, який передбачае одночасну зм1ну контрольних допусюв на ва ознаки. Але в цш пращ не вдалося побудувати безпомилков1 виршальш правила, осюльки одержат екстремальт пара-метри навчання слщ розглядати як квазюптимальш.
У статт в рамках 1Е1-технологп розглядаються алгоритми паралельно-послщовно! опти-м1заци системи контрольних допусюв (СКД) на ознаки розтзнавання в процес навчання ушмодально! системи тдтримки прийняття ршень (СППР), яка е складовою частиною системи керування вирощуванням сцинтиляцшних монокристал1в.
1. Постановка задачi
Розглянемо АСК вирощуванням монокристал1в, складовою частиною яко! е здатна навчатися СППР. Нехай за штервал часу тг = 1,Я, де Я - юльюсть штервал1в спосте-реження технолопчного процесу, сформовано впорядкований алфавгт параметричних клаав розтзнавання (Х^ (т г) | т = 1, М} , що характеризують функщональш стани технолопчного процесу,непрямим показником якосп якого е д1аметр монокристала, що вирощуеться, («Норма», «Менше норми» { «Бшьше норми») на штервал1 тг, 1 ввдповвдну навчальну багатовим1рну (векторну) матрицю типу «об'ект-властивють» || ут ; (тг) 11 = 1,^ ] = 1,п ||, деК,п - юльюсть ознак розтзнавання { вектор1в-реал1зацш образу вщповщно. Вщомий структурований вектор параметр1в функцюнування СППР £ =<5>, деdm - рад1ус контейнера класу Хт(тг), що вщновлюеться в рад1альному базис дискретного простору ознак розтзнавання вщносно центру розсшвання, який визначаеться вершиною еталонного вектора хт ; 5 - параметр поля контрольних допусюв на ознаки розтзнавання. При цьому задано таю обмеження: вершина вектора хт, що визначае геометричний центр розаювання вектор1в-реал1зацш вс1х клас1в у бшарному простор! О Б ознак розтзнавання { мае
одиничш координати; ^ > dm-1. При цьому радiус класу ХМ Дорiвнюe dM = N i 5 е [0; 5 н /2], де 5 н - нормоване поле допусюв, що визначае область значень параметра 5.
Необхщно в процесi навчання СППР визначити оптимальнi значення координат вектора g, що забезпечують на кожному iнтервалi аналiзу даних тг максимальне значення усеред-неного за алфавггом класiв розпiзнавання критерiю функщонально! ефективностi (КФЕ) навчання СППР:
_* 1 М
Е (тг) = — Е тахЕт(тг) (1)
М т=1 {к} ^
де Ет (тг) - iнформацiйний КФЕ навчання СППР розтзнавати реалiзацu класу хт; {к} -
впорядкована множина крокiв навчання (вiдновлення контейнерiв класiв розтзнавання).
При функцiонуваннi СППР в режимi екзамену, тобто безпосереднього розпiзнавання, необхщно прийняти ршення про належнiсть реатзаци, що розпiзнаеться, одному iз класiв сформованого на етапi навчання алфавггу {Хт (тг) | т = 1, М} i таким чином дефазiфiкува-ти функцiональний стан системи керування ^ при необхiдностi, внести коригуючi команди для стабшзаци дiаметра монокристала.
2. Алгоритми навчання та екзамену ушмодального класифжатора
Алгоритм навчання ушмодально! СППР з оптимiзацiею СКД на ознаки розтзнавання, як i для мультимодально! [2,3], полягае у реалiзацu структуровано! двоциктчно1 ггерацшно1 процедури пошуку глобального максимуму iнформацiйного КФЕ (1) в робочш областi визначення його функци. Для iнформацiйно-екстремального алгоритму паралельно1 оптимь
заци СКД, при якому параметр поля контрольних допусюв 5 к змiнюеться одночасно для вах ознак розпiзнавання, така процедура мае вигляд:
5К = aгgmax{maxE}, (2)
О5 ОЕ (2)
де О 5 - область допустимих значень вщповщних контрольних допусюв на ознаки розтзнавання; Ое - область допустимих значень шформацшного КФЕ (1) навчання СППР.
У процедурi (2) внутршнш цикл реалiзуе базовий алгоритм навчання [2], основними задачами якого е обчислення шформацшного КФЕ навчання СППР; пошук глобального максимуму КФЕ в робочш (допустимш) обласп визначення його функци; оптимiзацiя геометричних параметрiв контейнерiв класiв розпiзнавання.
При цьому специфша базового алгоритму навчання ушмодально1 СППР полягае у вщсут-ностi процедури визначення для кожного класу найближчого сусща, оскшьки класи розтз-навання апрюрно е впорядкованими, що суттево пiдвищуе оперативнiсть навчання.
Оптимiзацiю контрольних допусюв на ознаки доцiльно здшснювати за паралельно-по-слiдовним алгоритмом, що забезпечуе прийнятну оператившсть та високу точшсть обчислення КФЕ. При цьому за алгоритмом паралельно1 оптимiзацil СКД на ознаки визначаються квазюптимальш контрольнi допуски, якi для послщовного алгоритму приймаються як стар-тов^
Розглянемо у рамках 1Е1-технологи алгоритм навчання ушмодально1 СППР на етат паралельно1 оптишзаци контрольних допускiв на ознаки розтзнавання (2). Вхщт дат: масив реалiзацiй класiв розпiзнавання {у!^ I т = 1,М; 1 = 1,N; j = 1,п}; система нормованих до-пускiв {5н,1 |1 = 1,N}, що визначае область значень вщповщних контрольних допусюв. Попередньо для кожно1 ознаки визначаеться цша градаци И шкали вимiру, що дозволяе обчислювати на кожному крощ навчання нижнiй i верхнiй контрольш допуски вiдповiдно:
Акн,1 = У1,1 -5 ;Акв,1 = У1,1 +5 , (3)
де у1,1 - вибiркове середне значення 1-1 ознаки розтзнавання у векторах-реалiзацiях базово-
Хо 1 .
Реалiзацiя алгоритму навчання ушмодально1 СППР з паралельною оптимiзацieю конт-рольних допусюв на ознаки розпiзнавання здiйснюeться за такою схемою:
1) обнулюсться лiчильник крокiв змiни параметра 5 (кроюв навчання): /:=0;
2) 5 : l:=l+1;
3) на кожному кроцi навчання за формулами (3) обчислюються нижнiй AHK i[l] i верхнiй
Ahk,i[ l] контрольт допуски для всiх ознак розпiзнавання;
4) реалiзуeться базовий алгоритм навчання i визначаеться поточний глобальний максимум усередненого за алфавитом клаав розпiзнавання iнформацiйного критерiю E[ l] в робочiй областi визначення його функцп;
5) якщо в робочiй областi визначення функцп шформацшного критерiю мае мiсце
E[ l] < extrmaxE , де extrmaxE - граничний максимум усередненого за алфавитом класiв розпiзнавання шформацшного критерда (1), то виконуеться пункт 6, шакше - пункт 7
(E[0] = 0);
6) якщо 5 < 5h / 2, то виконуеться пункт 2, шакше- пункт 6;
7) extrmaxE := maxE [l], 5* : = arg extrmaxE ;
{l}
8) для парметра 5* обчислюються оптимальт нижш {Ahk i} i верхнi {Abk i} конт-рольнi допуски на ознаки розпiзнавання;
9) ЗУПИН.
Одержанi в процесi паралельно! оптимiзацil квазiоптимальнi допуски використовуються як стартовi для алгоритму послщовно1 оптимiзацil контрольних допускiв на ознаки розтзна-вання.
Алгоритм послщовно1 оптимiзацil контрольних допусюв на ознаки розпiзнавання здшсню-вався за гтерацшною процедурою
* S —(s) -
{5 Ki} = arg{max{max[ ® maxE ]}},i = 1,N, (4)
G5i Ge s=1Gd V*>
—(S) • • , ,
де E - усереднений за алфавiтом класiв КФЕ навчання СППР на s-му прогон послщовно1
процедури оптимiзацil; G5i - область допустимих значень поля контрольних допусюв для il ознаки; Ge - область допустимих значень критерда оптимiзацil; Gd - область допустимих значень радiусiв контейнерiв; ® - символ операцп повторення.
Як КФЕ навчання СППР використано модифшовану шформацшну мiру Кульбака [2,4], в якш розглядаеться вiдношення правдоподiбностi у виглядi вiдношення повно1 ймовiрностi правильного прийняття рiшень Pt до повно1 ймовiрностi помилкового прийняття рiшень Pf . Для рiвноймовiрних двохальтернативних гшотез, що характеризуе найбiльш складний у статистичному розумшш випадок прийняття ршень, мiру Кульбака подамо у виглядк
P(k)
E(k) = iog -bmrn« - P(k)] =
Em = g2 P(k) [Pt,m Pf,m] = Pf,m
Pt(km=0,5 • D1,m + 0,5 • D2,m Pf(km = 0,5 •a m + 0,5 •ß m
D(k) + D(k)
D1,m D2,m (k) (k) (k) (k)
= 0,5log2( ^ /'(k)) • [(D1;m + D2:m) - (amW +ßmW)] =
a m +ß m
(k) +ß (k) >(k) -ß (^
= log ( (D1,m )) [D(k) ß (k)]
= l0g2(1 (D(k) R (k))) ^ [D1,m -ßm ], (5)
1 - (D1,m -ß m )
де D(km - перша достовiрнiсть, обчислена на k-му кроцi навчання розпiзнавати реалiзацil класу Xm; Dg-m - друга достовiрнiсть; am(k) - помилка першого роду; ßm(k) - помилка другого роду.
Визначення належносп деяко! реалiзацil x(j), наприклад, класу X^ для унiмодального класифшатора здiйснюeться за правилом
if dm-1 < d[xm © x(j)] < dm then x(j) e X^ else x(j) g X^, Де dm-i- визначенний в процесi навчання оптимальний радiус контейнера внутрiшнього класу (вкладеного), для першого(базового) класу dm-i= 0; d[xm 0 x(j)] - кодова вiдстань вектора x(j) до центра розсдавання реалiзацiй xm; © - символ операцп складання за
модулем два; dm - поточний радiус контейнера класу xm • Нормовану модифiкацiю критерiю (5) подамо у виглядi
E(k)
E*(k) _ Em (6)
Em _ E , (6)
Emax
тут Emax - значення критерiю (5) при D^ _ 1 i pm(k) _ 0 •
Наведений вище алгоритм навчання системи може не забезпечити досягнення граничного максимум шформацшного критерда (1), що зпдно з принципом вщкладених рiшень [5] з метою побудови безпомилкового за навчальною матрицею класифшатора потребуе опти-мiзацil iнших параметрiв навчання, наприклад словника ознак розшзнавання.
Алгоритм екзамену за 1Е1-технолопею базуеться на аналiзi значень функцп належностi, наприклад, до класу xm, яка обчислюеться для кожно! реалiзацil, що розтзнаеться, i для унiмодального класифiкатора мае простий вигляд:
и _ji, if dm-i <d[xi ©x(j)] <dm;
Цmj_^0, if else, (7)
де d(xi ©x(j))- кодова вiдстань мiж еталонним вектором xi i реалiзацiею класу, що розтзнаеться; dm~i, dm - оптимальнi радiуси контейнерiв класу xm-i,Xm вiдповiдно•
Алгоритм екзамену мае таю вхщш данi: M - юльюсть класiв, якi СППР навчена розтзнавати; { dm } - масиви оптимальних радiусiв контейнерiв та (5k i | i _ i,N} - масив контрольних допускiв, визначенi на етапi навчання; {x(j)} - масив двшкових векторiв-реалiзацiй образу, що розтзнаеться.
Розглянемо основш етапи реалiзацil алгоритму екзамену:
1) формування лiчильника класiв розпiзнавання: m:_ m + i;
2) формування лiчильника числа реалiзацiй, що розпiзнаються: j:_ j + i;
3) обчислення кодово! вiдстанi d(xi © x(j));
4) обчислення функцп належносп (7);
5) порiвняння: якщо j < n, то виконуеться крок 2, шакше - крок 6;
6) порiвняння: якщо m < M, то виконуеться крок i, iнакше - крок 7;
7) визначення класу Xm, до якого належить реалiзацiя образу, наприклад, за умови
_* ___ in
цm _ max ц m, де цm _ — £ Цm j - усереднене значення функцiй належностi для реалiзацiй
(m} П j_i 'J
— *
класу Xm, або видача повщомлення: «Клас не визначено», якщо цm < c • Тут с - порогове значення.
Таким чином, алгоритми екзамену у рамках 1Е1-технологп е детермшованими i в^^зня-ються вщносно малою обчислювальною трудомiсткiстю, що дозволяе lx реалiзовувати у реальному темп часу.
3. Приклад реалiзащТ алгоритму навчання ушмодальноТ СППР Розглянемо результати реатзацп запропонованого алгоритму на прикладi навчаннi СППР для керування вирощуванням монокристала на установцi типу "РОСТ"[6,7] за методом Чохральського в НТК «1нститут монокристалiв» (м. Харкiв)• Тривалють часового штерва-
лу дорiвнювала п'яти годинам вщ початку вирощуванняю За архiвною iсторieю декшькох вирощувань та даними кiнцевого лабораторного контролю якосп оптичних характеристик та дiаметра монокристала вздовж вирощено1 булi для даного iнтервалу було сформовано вхщну апрiорно класифiковану навчальну матрицю для трьох класiв, що характеризували якють монокристала за трьохалтернативною системою ощнок: «Норма», «Менше норми» i «Бшьше норми». При цьому кшьюсть ознак розпiзнавання дорiвнювала 35, i3 них 10 первин-них ознак, взятi з трендiв котролю за тепловими умовами росту та станом розплаву в rarai, решта - вториннi ознаки - е рiзницями першого та другого порядюв над динамiчними трендами первинних ознак розтзнавання. Як базовий було обрано клас X° , що характери-зував стан дiаметра монокристала «Бшьше норми». Клас X2 «Норма» характеризував незначт вiдхилення дiаметр монокристала вщ заданого i клас X° - «Менше норми».
На рис. 1 показано графш залежностi нормованого критерда Кульбака (6) вiд параметра поля контрольних допусюв S (delta), одержаний в процесi навчання СППР з паралельною оптимiзацiею контрольних допусюв на ознаки розпiзнавання. На графiку штрихована дiлянка позначае робочу область визначення функцп iнформацiйного критерда, в якш одночасно
виконуються умови: D1m > 0,5 , D2m > 0,5, i dm > dm-1.
Аналiз рис. 1 показуе, що оптимальний параметр поля контрольних допусюв дорiвнюе
* —*
о = ±1 (у вщносних одиницях) при значеннi максимуму усередненого критерда E = 0,1.
Таким чином, вщновлений в процесi навчання класифшатор не е безпомилковим за навчальною матрицею i для тдвищення його функщонально1 ефективностi було реалiзовано алгоритм послщовно1 оптимiзацil СКД на ознаки розтзнавання (4). При цьому одержат в процеа паралельно! оптимiзацil квазiоптимальнi контрольнi допуски в алгоршм послщовно1 оптимiзацil приймаються як стартов^ що дозволяе суттево пiдвищити оператившсть навчання СППР через те, що оптимiзацiя параметрiв плану навчання здшснюеться тiльки в робочiй обласп визначення функцп iнформацiйного КФЕ (6). _
Динамшу змiни значення максимуму усередненого критерда E* при оптимiзацil СКД за послщовним алгоритмом показано на рис. 2.
Рис. 1. Графж залежносп критерiю Кульбака Рис. 2. Графж змiни максимального усередненого вщ параметра поля контрольних допусков значення КФЕ при ошгашзацп СКД за послiдовним
алгоритмом
Осюльки метою навчання СППР е вщновлення в простор! ознак оптимальних контей-нер1в клас1в розтзнавання, то на рис.3 { 4 наведено графши залежносп нормованого КФЕ (6) вщ рад1ус1в контейнер1в клас1в Х^ 1 Х2 •
Анал1з рис.3 показуе, що оптимальний рад1ус контейнера класу Х0 дор1внюе d* = 28 кодових одиниць при максимальному значенш КФЕ Е* = 0,208 .
d d Рис. 3. Графж залежносп критерш Кульбака Рис. 4. Графш залежносп критерш Кульбака в1д рад1уса контейнера класу х0 в1д рад1уса контейнера класу х2
Аналiз рис. 4 показуе, що для класу х2 оптимальний радiус його контейнера дорiвнюе d2 = 32 кодових одиниць при максимальному значенш КФЕ E2 = 0,170 .
Таким чином, порiвняльний аналiз рис. 1 i 2 показуе, що паралельно-послщовна оптимiза-цiя контрольних допусюв дозволила майже вдвiчi пiдвищити функцюнальну ефективнiсть навчання СППР.
Висновки
1. У рамках 1Е1-технологп розроблено шформацшне, алгоритмiчне та програмне забезпе-чення ушмодального класифiкатора для оцiнки дiаметра монокристала за трьохалтернатив-ною системою оцшок: «Норма», «Менше норми» i «Бiльше норми», яке дозволяе надати АСК властивють адаптивностi через навчання СППР за рахунок збшьшення частоти та точност оцiнок в процес вирощування.
2. Поеднання паралельного та послщовного алгоритму в оптимiзацil дозволяе тдвищити достовiрнiсть прийняття рiшень на етат екзамену, проте для побудови безпомилкового за навчальною матрицею класифшатора зпдно з принципом вiдкладених ршень необхiдна оптимiзацiя iнших параметрiв навчання, наприклад словника ознак розшзнавання.
3. Основна вщмшнють унiмодального класифiкатора вщ мультимодального полягае у вiдновленнi в процес навчання контейнерiв класiв розшзнавання з единим геометричним центром, що у бшьшш мiрi вiдповiдае реальному розподшу векторiв-реалiзацiй впорядкова-них клашв розпiзнавання у бiнарному просторi ознак.
Список лтратури: 1. Симанков В. С. Адаптивное управление сложными системами на основе теории распознавания образов / В.С. Симанков, Е.В. Луценко. Краснодар: Техн. ун-т Кубан. гос. технол. ун-та. 1999. 318 с. 2. Довбиш А.С. Основи проектування штелектуальних систем: Навчальний поабник / А.С. Довбиш. Суми: Видавництво Сум ДУ, 2009. 171 с. 3. Довбиш А.С. 1нтелектуальна система тдтримки прийняття ршень для керування вирощуванням монокристал1в / А.С. Довбиш, В.С. Суздаль, В.В Москаленко // Вюник СумДУ. Сер1я техн1чн1 науки. 2011. №2. С. 39-47. 4. Кульбак С. Теория информации и статистика: Пер. с англ./ С. Кульбак. М.: Наука, 1967. 408 с. 5. Ивахненко А.Г. О принципах построения обучающихся систем управления сложными процесами / А.Г. Ивахненко. М.: Наука. 1970. 252 с. 6. Горилецкий В.И. Рост кристаллов / В.И. Горилецкий, Б.В. Гринёв, Б.Г. Заславский, Н.Н. Смирнов, В.С. Суздаль. Харюв: Акта, 2002. 536с. 7. Суздаль В. С. Сцинтилляционные монокристаллы: автоматизированное выращивание / В.С.Суздаль, П.Е. Стадник, Л.И. Герасимчук, Ю.М. Епифанов. Харьков: «ИСМА», 2009. 260 с.
Надшшла до редколегИ 02.09.2011
Москаленко В'ячеслав Васильович, астрант каф. комп'ютерних наук СумДУ. Науков1 штереси: штелектуальш системи автоматизованого керування. Адреса: Украша, 40007, Суми, вул. Римського-Корсакова, 2, e-mail: systemscoders@gmail.com. Шелехов 1гор Володимирович, канд. техн. наук, ст. викладач каф. комп'ютерних наук СумДУ. Науковi iнгереси: анатз i синтез iнгелекIуальних адаптивних СППР, що навчаються. Адреса: Укра1на, 40007, Суми, вул. Римського-Корсакова,2, e-mail: igor-i@ukr.net.
Соболев Олександр Вжторович, канд. техн. наук, науковий сшвробгтник НТК " 1нститут монокристал1в". Науковi iнтереси: системи багатовимiрного робастного керування. Адреса: Укра1на, 61178, Харюв, пр. Ленша, 60, e-mail: sobolev@isma.kharkov.ua.
