CC BY
70
УДК 681.518:004.93.1'
А. С. ДОВБИШ, О.Б. БАРИЛО
РОЗПАРАЛЕЛЕНИЙ АЛГОРИТМ ОПТИМ1ЗАЦ11 ПАРАМЕТР1В НАВЧАННЯ СППР ДЛЯ КЕРУВАННЯ СЛАБОФОРМАЛ1ЗОВАНИМ ТЕХНОЛОГ1ЧНИМ ПРОЦЕСОМ
Розглядаеться iнформацiйно-екстремальний алгоритм навчання системи пiдтримки прийняття рiшень з мультипотоковою паралельною оптимiзацiею системи контрольних допусков на ознаки розпiзнавання, що мають рiзнi шкали вимiрювання. Це дозволяе тдви-щити оперативнiсть навчання та визначити оптимальш значения параме^в за глобальним максимумом iнформацiйного критерш функцюнально! ефективностi в робочiй обласп визначення його функцп.
Вступ
Застосування сучасних засоб1в автоматизацп у х1м1чнш промисловосп виявляеться недостатньо ефективним як через довшьш початков1 умови технолопчних процес1в, так \ через часов1 затримки результата х1м1чного анал1зу, що ускладнюе оргашзащю неперерв-ного вхщного, м1жоперацшного та вихщного контролю. Це обумовлюе на виход1 вщносно високий вщсоток некондицшного продукту. Одним ¡з способ1в тдвищення функцюнально! ефективносп автоматизовано! системи керування (АСК) е надання !й властивосп адаптив-
ност на основi машинного навчання та розтзнавання образiв [1]. Для цього перспективним е використання iдей i методiв шформацшно-екстремально! штелектуально1 технологи (1Е1-технологiя), що грунтуеться на максимiзацп шформацшно1 спроможностi штелектуально1 АСК у процес И навчання [1,2].
В [1] розглядалися у рамках 1Е1-технологп питання паралельно1 оптимiзацil контрольних допусюв на ознаки, якi мали однакову шкалу вимiрювання. Але в загальному випадку в завданнях класифiкацiйного керування, наприклад, розподiленими технологiчними процеса-ми технолопчт параметри мають рiзнi шкали вимiрювання, а сам процес оптимiзацil е досить громiздкий та потребуе значну кшькють ресурсiв обчислювально1 техтки та часу. В данiй робот запропоновано розпаралелений мiж вузлами обчислення [3,4] шформацшно-екстремальний алгоритм навчання СППР за паралельною оптимiзацiею контрольних до-пускiв на ознаки розтзнавання з рiзними шкалами вимiрювання.
1. Постановка задачi
Необхiдно у рамках 1Е1-технологп реалiзувати базовий алгоритм навчання та паралель-ну оптимiзацiю контрольних допусюв на ознаки, якi мають рiзнi шкали вимiрювання в рамках технолопчного процесу. Навчальна матриця складаеться з 4 клашв, кожен з яких мае 89 ознак розтзнавання та 600 реатзацш. Оскшьки навчальш матрицi е досить об'емнi, а сам процес оптимiзацil досить громiздкий та потребуе значну кiлькiсть ресуршв обчислю-вально1 технiки i часу, то пропонуеться розпаралелити алгоритм оптимiзацil для проведення обчислень на багатоядернш обчислювальнш технiцi.
Нехай для алфавггу нечiтких класiв розпiзнавання (Х^ | т = 1, М}, як характеризують
М допустимих функцiональних статв складного органiзацiйно-технiчного комплексу, сформовано апрюрно класифiковану нечiтку навчальну матрицю типу «об'ект-властивють» || У тт, 1 II' 1 = 1'^, ) = 1, п, де N п - кiлькiсть ознак розпiзнавання i випробувань вiдповiдно. Крiм того, дано вектор параметрiв функцюнування СППР ё =< ^, 5 >, де ^ , 5
- еталонний вектор-реалiзацiя класу Xm, радiус контейнера класу Xm, що вщновлюеться в радiальному базисi простору ознак розтзнавання, i параметр поля контрольних допусюв вiдповiдно. При цьому задано таю обмеження: xm - вектор, вершина якого визначае геометричний центр контейнера класу , dm е [0; d(xm © хс) -1], де d(xm © хс) - кодо-ва вщстань центру класу хm вiд центру найближчого (сусщнього) до нього класу Хс, i параметр 5е [0; 5^/2], де 5ц- нормоване (експлуатацiйне) поле допускiв для вщносно1 шкали вимiрювання ознак, яке е областю значень для параметра контрольного поля до-пусюв 5 . При цьому нижнш допуск на ьту ознаку дорiвнюе Л^ = У1 1 - 5, а верхнш допуск
- Л в = У1д +5. Тут У^ 1 — 1 -та ознака еталонного вектора-реалiзацil У1 базового класу х0 , який характеризуе найбiльш бажаний для особи, що приймае ршення, функцiональний стан СППР.
На етат навчання необхiдно оптимiзувати параметри навчання за усередненим шформа-цiйним критерiем функцюнально1 ефективностi (КФЕ):
1 М *
Е = — 2 Em , (1)
Mm=1 ' ^ 7
* • • т-п-т
де Em- глобальний максимум шформацшного КФЕ навчання СППР розтзнавати реаль
vo • „ •
зацil класу Xm i на етат екзамену приймати високодостовiрне ршення про належнiсть
вектора-реалiзацil образу, що розтзнаеться, до деякого класу iз заданого алфавiту (хm}.
2. Опис алгоритму
1дея алгоритму навчання у рамках 1Е1-технологп полягае в оптимiзацil просторово-часових параметрiв функцiонування СППР шляхом пошуку глобального максимуму шформацшного критерда (1) в робочш (допустимiй) областi визначення його функцп. При цьому на кожному крощ навчання вiдбуваеться вiдновлення в дискретному просторi ознак опти-
мaльниx кoнтeйнepiв клaciв poзпiзнaвaння за aлгopитмoм пapaлeльнol oптимiзaцil mm"-
poльниx дoпycкiв, який здiйcнюeтьcя за iтepaцiйнoю npo^,4ypoK>
*
S = argmax{ max E}, (2)
GS Gd nGE
дe G s ,Gd,GE- дoпycтимi oблacтi знaчeнь пapaмeтpa пoля дoпycкiв S , paдiyciв mm^-нepiв клaciв poзпiзнaвaння й iнфopмaцiйнoгo КФЕ (1) вiдпoвiднo.
^и peaлiзaцiï iтepaцiйнoгo двoциклiчнoгo aлгopитмy (2) навчання СППР з пapaлeльнoю oптимiзaцieю кoнтpoльниx дoпycкiв на oзнaки poзпiзнaвaння внyгpiшнiй цикл peaлiзye бaзo-вий aлгopитм навчання, який на тожвдму кpoцi oбчиcлюe знaчeння кpитepiю (1), здшотюе в пpoцeci навчання гошук глoбaльнoгo мaкcимyмy йoгo фyнкцiï i визначае oптимaльнi гeoмeт-pичнi пapaмeтpи кoнтeйнepiв вiдпoвiдниx клaciв poзпiзнaвaння. Зoвнiшнiй цикл визначае oптимaльнe знaчeння пapaмeтpa S, пpи якoмy КФЕ набувае мaкcимaльнoгo знaчeння в
poбoчiй oблacтi визнaчeння йoгo фyнкцiï. Вxiдними даними е навчальна мaтpиця jj у'^ jj та пoтoчний пapaмeтp кoнтpoльнoгo пoля дoпycкiв S . Рoзглянeмo ocнoвнi eтaпи aлгopитмy навчання з пapaлeльнoю oптимiзaцieю кoнтpoльниx дoпycкiв на oзнaки poзпiзнaвaння.
1. Фopмyeтьcя eтaлoнний вeктop y1 e X° шляxoм cтaтиcтичнoгo ycepeднeння знaчeнь oзнaк в cтoвпчикax мaтpицi jj y^ jj.
2. Обнyляeтьcя лiчильник Rpo^ змiни пapaмeтpa S .
3. S :=S + k, дe k - кoeфiцieнт збiльшeння кpoкy S .
4. Для пoтoчнoгo знaчeння пapaмeтpa пoля дoпycкiв S oбчиcлюютьcя нижнi та вepxнi кoнтpoльнi дoпycки для вcix oзнaк: {AHK,i[l] : = y1,i - S[l]} i {АBK,i[l] = y1,i +si = 1,N вiдпoвiднo, дe y1,i - вибipкoвe cepeднe знaчeння i-ï oзнaки для вeктopiв-peaлiзaцiй клacy xO , який e найбшьш бажаним для oco6^ щo пpиймae piшeння.
5. Фopмyeтьcя бiнapнa навчальна мaтpиця jj ^mrj'*i jj за пpaвилoм
x(j) =
x1 =
1, if AHK,i ^ yj ^ ABK,i;
(3)
0, if else.
m,i
6. Фopмyeтьcя мacив eтaлoнниx двiйкoвиx вeктopiв-peaлiзaцiй {xm,i i m = 1,M, i = 1,N}, eлeмeнти якиx визнaчaютьcя за пpaвилoм
1 n ( j) 1 if 7 xn!)i >P m;
nj=1 (4)
0, if else ,
Дe Pm - piвeнь ceлeкцiï кoopдинaт вeктopa xm e xm , за зaмoвчyвaнням дopiвнюe pm = 0,5 .
7. Здiйcнюeтьcя poзбиття мнсжини eтaлoнниx вeктopiв {xm} на пapи нaйближчиx
121
«cyciдiв»: Шm =< xm,xl >, дe xi - eтaлoнний вeктop cyciдньoгo клacy xO, за татою cxeмoю:
а) cтpyктypyeтьcя мнoжинa eтaлoнниx вeктopiв, пoчинaючи з вeктopa x1 бaзoвoгo клacy xO , який xaparcreproye нaйбiльшy функцюнальну eфeктивнicть;
б) бyдyeтьcя мaтpиця кoдoвиx вiдcтaнeй мiж eтaлoнними вeктopaми poзмipнocтi M г M;
в) для тож^го pядкa мaтpицi кoдoвиx вiдcтaнeй знaxoдитьcя мiнiмaльний eлeмeнт, який нaлeжить cтoвпчикy вeктopa, нaйближчoгo дo вeктopa, щo визнaчae pядoк. За наяв^ст! дeкiлькox oднaкoвиx мiнiмaльниx eлeмeнтiв вибиpaeтьcя з ниx будь-який, ocкiльки вoни e piвнoпpaвними;
г) фopмyeтьcя cтpyктypoвaнa мнoжинa eлeмeнтiв пoпapнoгo poзбиття {эт'1 I m = 1,M}
8. Змiнюeтьcя кoдoвa вiдcтaнь dm i oбчиcлюeтьcя iнфopмaцiйний КФЕ.
9. Здшснюеться пошук максимуму КФЕ в робочш областi Ge його визначення: б' = maXEm' де {d} = {di,...,dmax} e [0;d(xm © xj) -1] - множина радiусiв концентрова-них гiперсфер, центр яких визначасться вершиною еталонного вектора xm e Xm • При цьому множина {d} е так само множиною крокiв навчання СППР.
10. Якщо Б*[1] e Ge , то виконуеться пункт 9, iнакше - пункт 8.
11. Якщо 5 < 5н /2, то виконуеться пункт 3, шакше - пункт 12.
12.{AHK,i : = AHK,i[1 - 1]};{ABK,i : = ABK,i[1 - 1]},i = 1,N; Б* : = Б*[1 -1].
13. ЗУПИНКА.
Як КФЕ навчання використовуеться одна i3 статистичних iнформацiйних мiр. Наприклад, для двохальтернативних рiшень модифшований критерiй Кульбака, що використовуеться
для ощнки функцюнально! ефективностi навчання СППР розтзнавати реалiзацil класу xm, мае вигляд [2]
(k) 2 - (a mk)(d) + plk)(d)) (k) (k) Б' = iog2 ( /km ) * [1 - (am (d)+em (d))] (6)
a m (d) + Prn (d) ' ^ '
де ani)(d), Pin)(d) - точнiснi характеристики: похибки першого та другого роду вщповщно,
що обчислюються на k -му кроцi навчання; d - дистанцшна мiра, що визначае радiуси контейнерiв, побудованих у радiальному базис простору ознак розпiзнавання•
Оцiнками похибок першого та другого роду при прийнятп ршень в процесi навчання е емшричт частоти
K(k) K(k) aik)(d)=~mk)(d)=(13)
nmin nmin
де Kf - кiлькiсть подiй, що визначають неналежнiсть реалiзацiй образу контейнера класу
о' • • • K(k) • • й
xm, якщо насправдi вони е реалiзацiями цього класу; K2 m - кшьюсть подiй, що визначають належтсть реалiзацiй образу контейнера класу x', якщо вони належать шшому класу [1].
При використанш багатоядерно! обчислювально! технiки пропонуеться роздшити зовнiшнiй цикл визначення оптимального значення параметра 5 на рiвнi частини вщповщно до кшькосп вузлiв обчислення [4, 5] (у нашому випадку передбачаеться використання 2-ядерного процесора, тому зовнiшнiй цикл для першого ядра буде мати дiапазон 0 < 5 < 5н / 4 , для другого ядра: 5 н/4 < 5 < 5 н/2).
3. Приклад ре^зацн алгоритму розпаралеленого навчання
Розглянемо застосування наведеного вище алгоритму навчання СППР з розпаралеле-ною оптимiзацiею контрольних допусюв на ознаки розпiзнавання для керування технолог-iчним процесом виробництва фосфорно! кислоти у ВАТ «Сумихiмпром» (м. Суми). Вхiдну апрюрно класифiковану навчальну матрицю було сформовано за експериментальними
даними, одержаними для чотирьох клашв, що характеризували змют P2O5 на виходi п'ятого ступеня екстрактора. При цьому кшьюсть ознак розтзнавання дорiвнювала 89, 15 з яких надходили за результатами хiмiчного аналiзу, а iншi значення рiзних за природою ознак розпiзнавання надходили в СППР безпосередньо з датчиюв шформаци. На рис. 1 показано графши залежностi КФЕ (6) вщ радiусiв гiперсферичних контейнерiв класiв розтзнавання, одержат при реалiзацil базового алгоритму навчання TEACHING при стартовш системi контрольних допускiв 5 = ±14% вщ номiнального (усередненого) значення вщповщно! ознаки.
в г
Риа 1. ^афши зaлeжнocтi кpитeplю Кульбака в1д paдiyciв гlпepcфepичниx кoнтeйнeplв клаав
-wO г -w-O ~,rO ~,rO
poзпlзнaвaння: а - raac X1 ; б - raac X2 ; в - ^ac X3 ; г - клac X4
На pиc.1 1 дал1 тeмнi д1лянки гpaфlкiв oзнaчaють po6oh1 oблacтi, в якиx знaчeння дocтoвip-
нocтeй пepeбlльшyють вlдпoвlднl пoмилки пepшoгo та дpyгoгo poдy. Анал1з p^. 1 пoкaзye, щo
ycepeднeнe макстмальш знaчeння KФE дoplвнюe Emax = 0,56. ^и цьoмy на граф1ку для тpeтьoгo клacy вlдcyтня poбoчa oблacть визнaчeння lнфopмaцlйнoгo кpитeplю, щo нe дoзвoляe здlйcнювaти oцlнкy функцюнальшх eфeктивнocтl навчання у paмкax IEI-тexнoлoгlï. З мeтoю ycyнeння цьoгo шдэл1ку 1 збlльшeння ycepeднeнoгo KФE навчання СППР бyлo peaлlзoвaнo aлгopитм пapaлeльнoï oптимlзaцlï кoнтpoльниx дoпycкiв на oзнaки poзпlзнaвaння за cxeмoю (2). На p^.2 пoкaзaнo граф1к зaлeжнocтl RpmepTO Кульбака в1д пapaмeтpa пoля кoнтpoльниx дoпycкiв на oзнaки poзпlзнaвaння S .
Рис 2. Гpaфlки зaлeжнocтi ycepeднeнoгo знaчeння кpитeplю Кульбака в1д вeличини пoля кoнтpoльниx
дoпycкiв (у вiдcoткax)
Анал1з pиc.2 пoкaзye, щo гpaфiк мae дeкiлькa poбoчиx oблacтeй, в якиx визнaчaютьcя глoбaльнi макетмальш знaчeння ycepeднeнoгo KФE. Пpи цьoмy за мaкcимaльним глoбaль-ним знaчeнням KФE oптимaльнe знaчeння пapaмeтpa голя кoнтpoльниx дoпycкiв дopiвнюe S = ±31%.
На p^. 3 пoкaзaнo гpaфiки зaлeжнocтi KФE (6) в1д paдiyciв гiпepcфepичниx кoнтeйнepiв клашв poзпiзнaвaння, oдepжaнi ^и oптимaльнoмy пapaмeтpi пoля дoпycкiв на oзнaки poзпiз-навання.
Анал1з pиc.3 пoкaзye, щo пicля oптимiзaцiï кoнтpoльниx дoпycкiв ycepeднeнe макотмаль-нe знaчeння KФE збiльшилocя i дopiвнюe Emax = 1,85 ^и oптимaльниx знaчeнняx paдiyciв
кoнтeйнepiв d1 = 13 (тут i дал1 у кoдoвиx oдиницяx), d2 = 14, d3 = 12, d4 = 12.
У peзyльтaтi зacтocyвaння poзпapaлeлeнoгo мyльтипoтoкoвoгo aлгopитмy oптимiзaцiï кpoкy S чac po6oto aлгopитмy змeншивcя дo 4633мc пopiвнянo з oднoпoтoкoвoю oптимiзa-цieю давдго пapaмeтpa, щo дopiвнюe 6724мc, збшьшивши таким чинoм oпepaтивнicть на 31,1%.
в г
Рис. 3. Графши залежносп критерш Кульбака вщ радауав контейнерiв класiв розпiзнавання при оптишзаци контрольних допусков на ознаки розтзнавання:
ллО г ллО
а - клас Xi ; б - клас X2 :
в - клас X ; г - клас X,
Висновки
1. Запропонований шформацшно-екстремальний алгоритм паралельно! оптим1зацп систе-ми контрольних допусюв на ознаки розтзнавання, що мають р1зт шкали вим1рювання, дозволяе побудувати оптимальне нечггке розбиття простору ознак на класи розтзнавання.
2. Оптим1защя системи контрольних допусюв на ознаки розтзнавання у рамках IEI-технологп е необхщною умовою побудови безпомилкових за навчальною матрицею вирь шальних правил, оскшьки гарантуе наявтсть робочо! обласп визначення функцй' шформац-шного критерш.
3. Використання алгоритму мультипотоково! оптим1зацп параметр1в функцюнування в поеднант з принципом вщкладених ршень дозволяе тдвищити оперативтсть навчання та визначити оптимальт значення параметр1в за глобальним максимумом шформацшного критерш функцюнально! ефективносп в робочш обласп визначення його функцп.
Список лiтератури: 1. Краснопоясовський А. С. 1нформащйний синтез штелектуальних систем керу-вання, що навчаються: Пiдхiд, що грунтуеться на методi функцiонально-статистичних випробувань. Суми: Вид. СумДУ. 2003. 257 с. 2. ДовбишА.С. Основи проектування iнтелектуальних систем: Навчаль-ний поабник. Суми: Вид-во СумДУ, 2009. 171 с. 3. David A. Patterson and John L. Hennessy. Computer Organization and Design (Second Edition) Morgan Kaufmann Publishers, 1998. ISBN 1558604286. Р. 715. 3. Asanovic et al: Power is free, but transistors are expensive. New is power is expensive, but transistors are «free». 4. Основы параллельного программирования / К.Ю. Богачев. М.: БИНОМ. Лаборатория знаний. 2003. 342с. 5. Основы многопоточного, параллельного и распределенного программирования.: Пер. с англ. М.: Издательский дом «ВИЛЬЯМС», 2003. 512с.
Надшшла до редколегИ' 30.05.2011 Довбиш Анатолш Степанович, д-р техн. наук, професор, завщувач кафедри шформатики Сумського державного утверситету. Науковi штереси: шформацшний аналiз i синтез штелектуальних систем, що навчаються. Адреса: Украша, 40007, Суми, ул. Римського-Корсако-ва, 2, тел. 050-307-83-74, e-mail: kras@id.sumdu.edu.ua.
Барило Олександр Борисович, астрант кафедри комп'ютерних наук Сумського державного утверситету. Науковi iнтереси: шформацшний аналiз i синтез штелектуальних систем, що навчаються (самонавчаються). Адреса: Украша, 40007, Суми, ул. Римського-Корсакова, 2, тел. 050-407-03-86, e-mail: alex.barylo@gmail.com.
б
а
