Нейрондық желілердің алғашқы модельдері және персептрон жұмысы Текст научной статьи по специальности «Математика»

№2, 2006 г.

19

УДК 53

НЕЙРОНДЫКЖЕЛШЕРДЩАЛГАШКЫ ¡1 МОДЕЛЬДЕР! ЖЭНЕ ПЕРСЕПТРОН И Ж¥МЫСЫ

М.М. Ерекешева

К,. Жубанов атындагы Ацтебе мемлекетт1к университет/

В статье растатривается функция нейронные волны и ограниченные возможности персептрона.

Мацалада нейрондьщ жел1лерд1ц ь;ызмет1 мен пёрсептронныц ьиектеул1м\мкЫЫктер1 жайында айтылады.

The article considers the function of neuron wave and the limited capabilities of perceptron. ' , . , - . .

ШШЖасанды нейрондык жел1лер деп езара эрекеттесуил жай процессорлар жиы-нынан туратын параллель есептеупп курылгылар аталады. Желшщ эр процессоры теракты алып отыратын жэне баска процессорга 6epin отыратын сиганлдар-мен жумыс 1стейд1. Бул процессорлар бас кару мумкшдт бар улкен же л ire 6ipiicripLie;u. Нейрондык желшер тез орындалатын аппараттык курылгылар рет-1нде колданылады. Кептеген зертте\лер кэд1мп компьютерлерде программалык модельдеуд1 колдану аркылы орындалады. Нейрондык жел1 езара эрекеттесуш элементтер жиынынан турады. Элементтщ шыгыс сигналы баска элементке белгшенген байланысы аркылы бершеде, эр байланыс салмак коэффициенпмен байланыскан. Салмак коэффициешшщ мэнше байланысты бершетш сигнал кушей-тiлeдi немесе темендеплед1. Нейрондык жел!лерд1, долданудагы 6ip артыкдпы-лык, мундай жел1 элементтершщ есептеу мумюндпсгер1 шектеул1 болганымен, элементтердщ улкен санынан туратын желшщ курдзт есегггердо шешу кдбшепнщ болуы. ЖелЫц байланыс кэдрылымы мынаны бейнел ещр: кандай элементтердщ б1риспр4лгетн, б1р1кпр\дщ кай багытта жумыс icremimH жэне эр байланыстын мэндшк децгешн аныкгалады. Желще орындалатын есеп элементтерД1 байланысты р\шы байланыстьщ салмак мэндершщ терминдершен сипатталады. Байланыс курылымы ею сатыдан турады: алдымен жуйеш курушы элементтердщ байланысын жэне багытын керсетед1, будан кешн уйрету процеолнде сэйкес салмак коэффициенттершщ мэндер1 аныкгалады. Bip модельде эр элемент желшщ

20

НАУКА И ТЕХНИКА КАЗАХСТАНА

баска барлык элементтершен бай даны скан болуы мумкш, баска модельде эле-ментгер децгейлф реггелген кабаттармен бериш мумкш, бул кабаттардагы бай-ланыс араласкан кабаттардагы элемештер арасында, ушшилден араласкан кабат-тар арасында кер1 байланыстар немесе бф кабатгьщ шинде болуы мумкш. Прак-тикада байланыстьщ мумкщщктер1 шектеуаз, б1рак непзшен желшщ эр накты мо-дет \iniH орындалатын байланыстар тиш керсеплед1. Практикада байланыстьщ мумюнд!ктер1 шектеуаз, бфак непзшен желшщ эр накты модел1 ушш орындалатын байланыстар тиш керсеплед1. Эр байланыс уш параметрмен аныкталады, байланыс басталатын элемент, сол байланыс багытталган элементтен жэне сал-мак коэффициенпн кврсетуцп саннан тирады.

Нейрондык желшер - жасанды интеллект саласынын б1р белш1 сигналдар-ды евдеуге пр\ организмдердщ нейрондарында болатын кубылыстарды колда-нады. Желшердщ мадызды ерркшелисгерщщ бф1 - информацияларды параллель евдеу мумюндш жзне уйретукабшеп.

Нейрон нейрондык желшщ курамдас белш болып табылады. Нейрон утл тиггп элементтерден турады: кебейткшггер(синапстар). косындыла\ыш(с\мматор) жэне сызыкгы емес турлендаруш! Синапсгар нейрондар арасында байланыс орнатады, юрю сигналын байланыс кушш сипатга\шы сайта кебейтед. Косындылауыш баска нейрондардан синапспк байланыстар аркылы тусепн сигналдарды жэне юрю сиг-налдарыныц косындысын жинактайды. Сызыктыемес турленщруип бф аргуменгтщ сызыктыемес функциясын - косы ндылауыш шыгысын аныктайды. Бул функция нейронньщ активтендфу ф\нкциясы деп аталады. Нейрон векторлы аргумента скаляр ф\нкцияны ре&тизациялайды. Жалпы жагдайда юрю сигналы, салмак коэффици-ентгер1 жэне ыгысу накгы мэндердз гана кабьшдайды, ал кептеген практикалык есеп-терде - кейбф белгшенген мэндерд1 кабылдайдь1. Шыгыс активтендфу функциясы-ньщ туршен аныкталады жэне бутш немесе накты бол\ъ1 мумкш.

Нейронньщ алгашкы модельдершщ б1р! болып саналатын МакКаллок-Питс(1943 жылы усынган) моделшде нейрон бинарлык элемент болып санала-ды. Бул модельдщ курылымдык схемасы 1 руретте кврсетшген. Кфю сигнал дары х. (р1,2,...>0 сзйкес салмактарын ескере отырып косындысы есепте-лед1(сигнал \ тушнен} титане тусе;ц), жэне нэтижеа и>ю мэшмен салыстырыла-ды. Нейронньщ шыгыс сигналы мынатэуелдшкпен аныкталады:

№2, 2006 г.

21

Г—

N

\

г*-/ (2>

7 «

(1)

/

Функция аргумент! рстшле сигналдар косындысы алынады:

\

/

Р(и.) функциясы активтенццру функциясы деп аталады. МакКаллок- Пите моделшде бы лай аныкталады:

1 формуладагы w■7. коэффициенттер1 синаптикалык байланыстьщ салмакта-рын керсетед1. -оц мэндер1 коздырушы синапстарга сэйкес келедо, и^. терю мэндер1 тежеунп синапстарга сэйкес келед1, ал и> у =0 мэш 1 жэне} нейрондар арасында байланые жогын керсетедь

МакКаллок- Пите модел1 - дискретп модель, нейронный (1+1) сэнндеп куш алдьщгы I сэ-пндеп к1р1с сигналдарыныц мэшмен аныкталады.

Б1рнеше жылдардан кейш Д. Хебб ассоциативтш жадыны зерттеу процесш-де нейрондарды уйрету( и> ^ салмактарын тавдау) теориясын ^сынды. Хебб моделшде Ди^ салмагыныц ес1мшес1 уйрету процесшде и> .. салмагымен бай-ланыекан у. жэне у} шь1гысси™алдарынынкебейтшдюшепропорционал:

мундагы к цикл номера 7 - уйрету коэффициент!,

60 жылдардьщ басында Б.Видроу сигналды евдеупи курылгылардьщ прак-тикалык реализациялануыньщ принциптерш жэне теориялык непздерш усын-ды, бул нейрондык желшердщ дамуына непз болды. 1962жылыжарьщкерген Ф.Розенблаттьщ ютабында нервтш клетканыц персептронды моделше непздел-ген динамикалык нейрондык желшердщ теориясы сипатгалган. Бул теорияда нейронга МакКаллок - Пите модел1 колданылган, сипаттау функциясы 0 жэне 1 екшк мэндерш кабылдайды.

Б1р персептронньщ шектеул1 мумюйдтне байланысты б1рдецгешп жел1 мумющцп М. Минский мен С.Пейперттщ ютабында сынга ^шырады жэне даму децгеш темендеп кетп. Б1рак жеке гылыми топтар жэне галымдар Гроссберг, Видроу; Ф\тч\шима жэне Кохонен бул багытта зерттеулерш журпзе берд1. 80 -

Г1 и >0

РМш\п л (2) 0 и<0 у'

22

НАУКА И ТЕХНИКА КАЗАХСТАНА

жылдары жартылайеттгшгпк курылгыларды шыгару технология л ар ы и ы н жогары дамуы информацияларды параллель ендеуге жасанды нейрондык жел-шерд1 колдану идеясына алып келдг

1982 жылы жариялашан Дж.Хопфилд ецбегшен кешн нейрондык желшер теориясы жогары каркынмен дами бастады, бул такырыппен айналыоатын гылыми орталыкхар саны к©бейд1. Кепкабатты желшерд1 уйретуте кер1 тарату тфикципшщ колданылуы бул теорияга койылган шектеулерд1 жокка шыгарды. Гылымнын бул саласыныц каркынды дамуы теориясында жоне практикалык косымшаларында бфаз жаналыкгар экелд1 жэне жаца технологиялык шепнм-дердщ реализациялану корын курды. Кдарп кезде жасанды нейрондык желшер теория лык белш1 жогары дамыган гылымныц б1р саласы болып есептеледг

Жэй персептрон дегеншз сэйкес уйрету стратегиясы бар МакКаллок-Питс мoдeлi. Курылымдык схемасы жэне ыш персептрон элементтершщ белпленут 1 суретге керсетгшген. Клрю сигналдары х * тусетш сумматор салмагыньщ коэффициент^! ил. аркылы белпленед1. Персептронньщ сызыктыемес aктивтeндlpi функциясы сатылы дискретп ф\лпсцияны аныкгайды, нэтижесшде нейронныц шыгыс сигналы 2 формулага сэйкес тек кана 0 немесе 1 мэшн кдбылдайды.

Персептронды уйретуте арналган танымал эдк персептрон ережесш колда-нуга непзделген жэне салмакгарды тавдау мына алгоритммен орындалады:

• алгашкы тандалган У/]} салмагыньщ мэндерше нейрон юрюше х уйретутт векторы бершед1 жэне у. шыгыс сигналыныц мэш есептеледь Алынган у. мэш мен (I бершген мэнш салыстыру нэтижеанде салмак мэш аныкталады;

• егер у мэш кутшетш (1 мэшмен сэйкес келсе салмак коэффициента^ н'.у езгерт1лмейд1.

• Егер у. = 0 , ал сэйкес бершген мэн с11 = 1болса? салмактар мэш мына формулагасэйкес аныкталады: (I + 1) = ил. (*) + х] ? мундагы / алдыцгы цикл номер^ (/+1)агымдагы цикл номерг

• Егер ул =1 , ал сэйкес, бершген мэн (11 =0болса, салмактар мэш мына формулага сэйкес аньгкталады: (* +1) = (¿) - х}, мундагы / алдьщгы цикл номера +1) агымдагы цикл номера

Салмак коэффициенттер! аныкталып болганнан кешн келес! х уйретуни век-

XI

о

\Vifl, •.

№2, 2006 г.

23

торы жэне осымен байланысты di мэш бертедо, салмактар мэш кайта аныкта-лады.Буш процесс барльщ уйретуыл тандауларда б1рнеше рет кайталанады. бар-лык yt мен сэйкес куплетш di мэндершщ айырмашылыгы аз болганга дейш журпзтеда.

Персептрон ережес1 Видроу-Хофф ережесшщ дербес жагдайы болып табы-лады. Бул ережеге сэйкес нейронньщ салмак коэффициент терш тандау мы на формулалармен аныкталады:

Поляризатор салмагын тавдауга уксас катынастар колданылады, Kipic сиг налы эркашан 1-ге тец болгандыктан

Егер жэне сигналдары 0 жэне 1 екшк мэндерш кабылдайтын болса Видроу -Хофф ережеа персептрон ережесше айналады. Персептрон ережесшщ де, жалпыланган Видроу -Хофф ережесшщ де ерешелш информацияны уйретуге шыгыс сигналы нын агымдагы жэне куплетш мэшнщ колданылуына байланысты. Персептронньщ сызыктыемес актива функциясынын, \зд1ктиигше байланысты у. мэшнщ e3repyi туралы информацияны ескеру мумкш емес. Нейронньщ накты реакциясы у. мен di кутшетш мэндершщ арасындагы айырмашы-лык минимизациясы накты кдтелж функциясыньщ минимациясы турвде 6epi-л>1 мумкш жэне кеп жагдайда былай аныкталады:

мундагы р бершген уйретупп тандаулар санын керсетед1. Персептрон ере-жесш колданганда мундай минимизациялау градиенгаз оптимизациялау эдю1 бойыншажурпзшедь ?

wtj (t +1) = wtj (t) + A wiL Awi} -Xjid, -yt ).

Avv,0; -Xjidi-yt).

p

КОЛДАНЫЛГАН ЭДЕБИЕТТЕР

1. Rosenblatt F. Principle of neurodynamics.- N.Y.:Spartan, 1992.

2. ОссовскийС. Нейронные сети для обработки информации.-M.:Финансы и статистика, 2004.