CC BY
429Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
О
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
SUN'IY NEYRON TARMOQLARINI O'QITISH USULLARI
Tojimamatov I.N., Mamalatipov O.M., Karimova N.A.
Farg'ona davlat universiteti
Mazkur maqolada sun 'iy neyron tarmoqlarni o 'rganishda olib borilgan izlanishlar haqidagi ma'lumotlar berilgan. Shuningdek, sun'iy neyron tarmoqni o'qitish usullari va o'qitish algoritmlari yoritilgan.
Kalit so 'zlar: neyron tarmoq, sun 'iy neyron tarmoqlar, sun 'iy intelekt, perseptron, genetik algoritmlar, initsializatsiya, MADALINE, algoritm, neyrofiziologik, deterministik usul, biologik neyronlar, formal neyronlar.
В данной статье представлена информация об исследованиях, проведенных в области изучения искусственных нейронных сетей. Также освещены методы обучения искусственных нейронных сетей и алгоритмы обучения.
Ключевые слова: нейронная сеть, искусственные нейронные сети, искусственный интеллект, персептрон, генетические алгоритмы, инициализация, MADALINE, алгоритм, нейрофизиологический, детерминированный метод, биологические нейроны, формальные нейроны.
This article provides information about the research conducted in the study of artificial neural networks and also, artificial neural network training methods and training algorithms are covered.
Key words: neural network, artificial neural networks, artificial intelligence, perceptron, genetic algorithms, initialization, MADALINE, algorithm, neurophysiological, deterministic method, biological neurons, formal neurons.
Bugungi ilg'or texnologiyalar rivojlangan davrda sun'iy intelekt va uning unsurlari deyarli hayotning barcha jabhalariga tadbiq etilmoqda. Jumladan, oddiy uy ro'zg'orida ishlatiladigan zamonaviy quilmalar televizorlar, sovutgichlar, kir yuvish mashinalari, pechlar, xavfsizlik tizimlari va aqilli uy qurilmalari shular jumlasidandir. Shuning uchun qadim zamonlardan buyon odamlar o'zlarining fikrlashlarini qanday ishlashini tushuntirishga harakat qilishgan. Bu borada ko'plab neyrologlar,
ANNOTATSIYA
АННОТАЦИЯ
ABSTRACT
KIRISH
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
O
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
neyroanatomistlar va olimlar miyaning qanday ishlashini o'rganish bo'yicha keng izlanishlar olib borichgan va sezilarli yutuqlarga erishganlar. Inson asab tizimining tuzilishi va funksiyalarini o'rganib, ular miyaning "o'tkazuvchanligi" haqida ko'p ma'lumotlarga ega bo'ldilar, lekin uning ishlashi haqida juda kam ma'lumot aniqlangan.
Tadqiqotlar shuni ko'rsatadiki, miya hayratlanarli darajada murakkab bo'lib, har biri yuzlab yoki minglab boshqa neyronlar bilan bog'langan milliardlab neyronlar tizimi insoniyat tomonidan yaratilgan super kompyuterlar beradigan eng katta natijalar ham xech qancha imkoniyat bermasligi aniqlangan. Bu insonning tabiiy intelektini qay darajada mukammalligi va murakkabligini ko'rsatadi. Shuning uchun sun'iy neyron tarmoqlarini o'rganish muhim masalardan hisoblanadi.
ADABIYOTLAR SHARXI
Neyron tarmoqlar va sun'iy aqlni o'rganish doirasida juda ham ko'plab, olimlar, tadqiqotchilar hamda muhandislar keng ko'lamli ishlar olib borganlar. Jumladan, neyrotarmoqlarni o'rganishdagi birinchi qadam 1943-yilda neyrofiziolog Uorren Makkalok va matematik Uolter Pittsning sun'iy neyronlar, shuningdek, elektr zanjirlari yordamida neyron tarmoq modelini amalga oshirish haqidagi maqolasini chop etganida qo'yildi.
1949-yilda D.Xebb miyadagi neyronlarning bog'lanish hususiyatlari va ularning o'zaro ta'siri to'g'risida fikrlarini bildirdi, shuningdek, neyron tarmoqni o'rgatish qoidalarini ham taklif qildi.
1957-yilda F.Rozenblatt perseptronlarni tashkil etish va ishlash tamoyillarini ishlab chiqdi, shuningdek, dunyodagi birinchi neyrokompyuterni texnik amalga oshirish variantini taklif qildi.
1958-yil Jon Fon Neyman neyronlarning oddiy funksiyalarini taqlid qiluvchi vakuumli naycha tizimini yaratdi.
1959-yilda Bernard Widrow va Marcian Hoff ADALINE (Multiple Adaptive Linear Elements) va MADALINE (Multiple Adaptive Linear Elements) modellarini ishlab chiqdilar. MADALINE telefon liniyalaridagi shovqinlarni bartaraf qilish uchun moslashtiruvchi filtr sifatida ishlatilgan. Ushbu neyron tarmoq hozirgacha qo'llaniladi.
Xuddi shu yili nevrolog Frenk Rozenblatt perseptron modeli ustida ish boshladi. Rosenblatt tomonidan qurilgan bir qatlamli perseptron hozirda klassik neyron tarmoq modeli hisoblanadi. Rosenblatt kirish signallarini ikkita sinfga ajratish uchun o'z perseptronidan foydalangan. Afsuski, bir qatlamli perseptron faqat cheklangan
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
o
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
vazifalar sinfini bajarishi mumkin edi. 1969-yilda M.Minski va S.Papertning "Perseptronlar" kitobi nashr etildi, unda perseptronlar imkoniyatlarining tub cheklanishi isbotlangan.
O'zbekiston Respublikasida ham qator olimlar ushbu soha doirasida ishlar oilb borganlar, Jumladan, akademiklar V.Q. Qobulov, S.S.G'ulomov, professorlar A.T.Shermuhamedov, D.A.Xalilov, tadqiqotchilar Q.Rahimov, I.Tojimamatovlarni ilmiy maqolalarida mavzuga to'xtalib o'tilgan.
TADQIQOT METODOLOGIYASI
Mazkur tadqiqotni yoritishda olimlar, tadqiqotchilar va muhandislarning mavzu doirasida olib borgan ilmiy ishlari, yaratgan o'quv adabiyotlari tizimli o'rganilgan. Ularning xulosa va fikrlari qiyosiy tahlil etilib, ma'lumotlarni qayta ishlandi.
TAHLIL VA NATIJALAR
"Sun'iy neyron tarmoq" tushunchasi birinchi marta o'tgan asrning 40-yillarida fanga kiritilgan. Sun'iy neyron tarmoqda odamlar va hayvonlarning asab tizimining faoliyatini arfmetik mantiqiy darajada modellashtiradi. 1943-yilda neyronning rasmiy modeli ishlab chiqildi. Bunday model cheklangan miqdordagi muammolarni hal qilishga qodir. Rasmiy neyronlarni tarmoqqa birlashtirish orqali bu qiyinchiliklarni bartaraf etish mumkin. Bunday tizimlarning imkoniyatlari ancha kengroq: tarmoqli rasmiy neyronlar an'anaviy ravishda "inson faoliyati" sohasiga tegishli bo'lgan muammolarni hal qilishi mumkin. Masalan, naqshni aniqlash va hatto to'liq bo'lmagan ma'lumotlarga asoslangan qarorlar qabul qilish.
Ayniqsa, neyron tarmoqlar insonning fikrlash jarayonlarini eslatuvchi ma'lumotlarni o'rganish va yodlash qobiliyati qiziq. Shuning uchun neyron tarmoqlarni o'rganish bo'yicha dastlabki ishlarda "sun'iy intellect" atamasi tez-tez tilga olingan. So'nggi vaqtlarda sun'iy neyron tarmoqlarga qiziqish tez o'sdi. Ular shu kabi mutaxassislar tomonidan qabul qilindi. Sun'iy neyron tarmoq, aslida, tabiiy asab tizimining modeli bo'lganligi sababli, bunday tarmoqlarni yaratish va o'rganish bizga tabiiy tizimlarning ishlashi haqida ko'p narsalarni o'rganish imkonini beradi. Sun'iy neyron tarmoqlari nazariyasining o'zi o'tgan asrning 40-yillarida biologiyaning so'nggi yutuqlari tufayli paydo bo'lgan, chunki sun'iy neyronlar biologik neyronlarning elementar funksiyalarini modellashtiruvchi elementlardan iborat. Ushbu elementlar miyaning anatomiyasiga mos kelishi yoki mos kelmasligi mumkin bo'lgan tarzda tashkil etilgan. Ushbu yuzaki o'xshashliklarga qaramay, sun'iy neyron tarmoqlari tabiiy miyanikiga o'xshash hayratlanarli xususiyatlarni namoyish etadi. Masalan, sun'iy neyron tarmoq tashqi muhitga qarab o'z xatti-
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
o
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
harakatlarini o'zgartirishga qodir. Unga taqdim etilgan kirish signallarini o'qib chiqib, u kerakli javobni ta'minlaydigan tarzda o'rganishga qodir. O'rganishdan so'ng tarmoq kirish signallaridagi kichik o'zgarishlarga javob bermaydi. Tasvirni shovqin va buzilish orqali ko'rish qobiliyati tasvirni aniqlash muammolarini hal qilishda juda foydali. Shuni ta'kidlash kerakki, neyron tarmoq maxsus yozilgan dasturlar yordamida emas, balki o'zining tuzilishi tufayli avtomatik ravishda umumlashmalarni amalga oshiradi.
Neyron tarmoqlarning yana bir qiziqarli xususiyati shuki, neyron tarmoqlar ishonchlidir: bir nechta elementlar to'g'ri ishlamasa yoki muvaffaqiyatsiz bo'lsa ham, tarmoq baribir to'g'ri natijalarni berishi mumkin, ammo kamroq aniqlik bilan. Neyron tarmoqlarning ayrim turlari bir nechta kirish signallari asosida mavhum tasvirni yaratish qobiliyatiga ega. Masalan, siz tarmoqni "A" harfining buzilgan tasvirlari ketma-ketligi bilan taqdim etish orqali o'rgatishingiz mumkin. Treningdan so'ng tarmoq "A" harfini buzilishsiz yaratishi mumkin, ya'ni tarmoq hech qachon taqdim etilmagan narsalarni yaratishi mumkin. Ammo shuni ta'kidlash kerakki, sun'iy neyron tarmoqlari panatseya emas. Ular aniq va xatosiz matematik hisob -kitoblarni talab qiladigan vazifalar uchun juda mos kelmaydi.
Neyron tarmoq ta'rifi bo'yicha tadqiqotchilar haligacha bir fikrga kelishmagan. Adabiyotda ko'plab variantlar mavjud.
Neyron tarmoq - bu parallel ravishda ishlaydigan ko'plab oddiy hisoblash elementlaridan tashkil topgan tizim. Tarmoq ishining natijasi tarmoq tuzilishi, ulanishlar kuchi, shuningdek, har bir element tomonidan bajariladigan hisob-kitoblar turi bilan belgilanadi.
Neyron tarmoq - bu kiruvchi ma'lumotlardan ma'lumotlarni mustaqil ravishda ajratib olishga qodir bo'lgan parallel taqsimlangan protsessor. Bunday tarmoqning ishlashi miyaning ishlashiga o'xshaydi, chunki bilim o'quv jarayoni orqali olinadi va olingan bilimlar alohida elementda saqlanmaydi, balki butun tarmoq bo'ylab tarqaladi.
Neyron tarmoq - bu juda ko'p sonli oddiy hisoblash elementlaridan tashkil topgan tizim. Har bir elementning natijasi faqat uning ichki holatiga bog'liq. Barcha elementlar bir-biridan mustaqil, ya'ni boshqa elementlar bilan sinxronlashmasdan ishlaydi.
Sun'iy neyron tarmoqlar - bu bilimlarni qabul qilish, saqlash va ishlatishga qodir tizimlar. Biroq, ko'pchilik tadqiqotchilar neyron tarmoq ko'plab oddiy protsessorlardan tashkil topgan tizim ekanligiga qo'shiladilar, ularning har biri mahalliy xotiraga ega. Bunday xotiraning mazmuni odatda protsessor holati deb
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
o
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
ataladi. Protsessorlar bir-biri bilan raqamli ma'lumotlarni almashish imkoniyatiga ega. Protsessor ishining natijasi faqat uning holatiga va kirish sifatida qabul qiladigan ma'lumotlarga bog'liq.
Neyron tarmog'idan foydalanishdan oldin, o'rganish deb ataladigan protsedurani bajarish kerak, uning davomida kiruvchi ma'lumotlarga asoslanib, tarmoq to'g'ri javobni hisoblashi uchun har bir elementning holati tuzatiladi.
Neyron tarmoq arxitekturasi va klassik Fon Neyman arxitekturasi o 'rtasidagi farqlar
Quyidagi o'xshashlikni chizishimiz mumkin. Aytaylik, y = (2x+1)/2 funksiya mavjud. x = 3 bo'lganda y qanday olinadi? Juda oddiy: ikkita uchga ko'paytiriladi, keyin bitta qo'shiladi va natija ikkiga bo'linadi. 3,5 chiqadi. Ushbu harakatlar ketma-ketligi eng oddiy dastur hisoblanadi. Biroq, xuddi shu muammoni hal qilishning yana bir usuli bor. Bu funksiyaning grafigini qurish, keyin esa grafikdan yechim topish mumkin. Masalan, xatning tasviri ma'lum bo'lishi mumkin. Ko'rinib turibdiki, berilgan tasvirni tavsiflovchi funksiyani izlash juda mashaqqatli bo'ladi.
Agar bu o'xshashlikni davom ettiradigan bo'lsak, u holda neyron tarmoqni o'rganish jarayoni o'ziga xos grafikdir. Ya'ni, koordinatalar to'plami haqida xabar beramiz. Ushbu koordinatalardan nuqtalar tuziladi, shundan so'ng eng yaqin nuqtalar to'g'ri chiziqlar bilan bog'lanadi. Shunday qilib, grafik olinadi, uning yordamida har qanday berilgan x uchun y qiymatini bilib olishingiz mumkin. Bunday holda, hisob-kitoblar talab qilinmaydi, natija grafikda topiladi.
To'g'ri, bu yerda bitta qiyinchilik bor. Berilgan nuqtalar orqali cheksiz miqdordagi egri chiziqlar chizish mumkin. Shuning uchun, keyinchalik, x dan y ni aniqlashga harakat qilganda, biz cheksiz ko'p javoblarni olamiz. Ammo bu muammoni hal qilish mumkin: birinchidan, y ning qiymatlari yaqin bo'ladi, ikkinchidan, xatoni minimallashtirish usuli mavjud.
Bu neyron tarmoq arxitekturasining asosiy afzalligi hisoblanadi. An'anaviy kompyuterda ishlov berish uchun har qanday vazifa rasmiylashtirilishi kerak (harfning tasviri funksiyaga aylantirilishi kerak). Shu bilan birga, agar dastlabki ma'lumotlarda kichik xatolik yuzaga kelsa yoki hatto ifodalardan biri buzilgan bo'lsa, yakuniy natija ham noto'g'ri bo'ladi.
Bugungi kunga kelib, hisoblash murakkabligi va tirik neyron bilan o'xshashlik darajasida farq qiluvchi ko'plab neyron modellari mavjud. Bu yerda "rasmiy neyron" deb nomlangan klassik modelni ko'rib chiqamiz (1-rasm).
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
1-rasm. Formal neyron.
Neyronda bir nechta kirish kanallari va faqat bitta chiqish kanallari mavjud. Kirish kanallari orqali neyron vazifa ma'lumotlarini oladi va ish natijasi chiqishda hosil bo'ladi. Neyron W,..,Wk kirish signallarining vaznli yig'indisini hisoblab chiqadi, so'ngra berilgan f(s) nochiziqli funksiya yordamida olingan yig'indini o'zgartiradi.
Keling, quyidagi belgilarni kiritamiz:
Xi - kirish signalining qiymati,
6 - neyronning chegara darajasi.
W - neyronning og'irlik koeffitsienti - (Bu qiymat ko'pincha og'irlik,
ulanish yoki ulanish og'irligi deb ataladi),
F - transformatsiyani amalga oshiradigan faollashtirish funktsiyasi,
y - neyronning chiqish qiymati. Chegara darajasi va barcha og'irliklardan iborat to'plam neyron parametrlari deb ataladi. Xuddi shunday, tarmoq parametrlari uning barcha tarkibiy neyronlarining parametrlari to'plamidir.
Ushbu belgida neyronning chiqishi quyidagi formula bilan berilgan:
y = F (X (wi) = 6)
Chegara darajasisiz rasmiy neyronning modifikatsiyasi mavjud. Bunday holda, neyronga yana bitta kirish kanali qo'shiladi (uning soni k ga teng bo'lsin) va har qanday kirish signali uchun xk = 1, Wk = -6. Shubhasiz bu modellar ekvivalentdir
X ** (XW +XkWk) = X X W i = 6
Formal neyron modelining kamchiliklari.
Neyron o'z chiqishini bir zumda hisoblab chiqadi deb taxmin qilinadi, shuning uchun bunday neyronlar yordamida ichki holatga ega tizimlarni to'g'ridan-to'g'ri modellashtirish mumkin emas.
Oriental Renaissance: Innovative, p VOLUME 2 | ISSUE 12
educational, natural and social sciences ISSN 2181-1784
Scientific Journal Impact Factor Q SJIF 2022: 5.947
Advanced Sciences Index Factor ASI Factor = 1.7
• Formal neyronlar, biologik neyronlardan farqli o'laroq, axborotni sinxron tarzda qayta ishlay olmaydi.
• Faollashtirish funksiyasini tanlash uchun aniq algoritmlar mavjud emas.
• Butun tarmoqning ishlashini tartibga solish mumkin emas.
• Haqiqiy neyronlar uchun chegara neyronning faolligi tarmoqning umumiy holatiga qarab dinamik ravishda o'zgaradi va og'irlik koeffitsientlari o'tish signallariga qarab o'zgaradi.
Bitta neyron eng oddiy hisob-kitoblarni amalga oshirishi mumkin, ammo neyron tarmog'ining asosiy funksiyalari alohida neyronlar tomonidan emas, balki ular orasidagi aloqalar bilan ta'minlanadi. Yagona qatlamli perseptron oddiy tarmoq bo'lib, u qatlamni tashkil etuvchi neyronlar guruhidan iborat bo'ladi. Kirish ma'lumotlari X = (X1 qiymatlari vektori bilan ranglanadi, har bir x element
qatlamdagi har bir neyronning mos keladigan kirishiga beriladi. O'z navbatida, neyronlar chiqishni bir-biridan mustaqil ravishda hisoblab chiqadi. Shubhasiz, chiqishning o'lchami (ya'ni elementlarning soni) neyronlar soniga teng va barcha neyronlar uchun sinapslar soni bir xil bo'lishi va kirish signalining o'lchamiga mos kelishi kerak. Ko'rinib turgan soddaligiga qaramay, bir qatlamli perseptron bir qator foydali vazifalarni bajarishi mumkin, masalan, tasvirlarni tasniflash yoki mantiqiy funksiyalarning qiymatlarini hisoblash
Ko'p qatlamli perseptron X kirish qiymati uchun Y chiqish qiymatini hisoblashga qodir. Boshqacha qilib aytganda, tarmoq qandaydir vektor funksiyasining qiymatini hisoblaydi: Y = F(X) . Shunday qilib, idrok etuvchiga
qo'yilgan muammoning sharti. (x1,...,xS) vektorlar to'plami sifatida shakllantirish
kerak.Masala yechimi {y1,...,yS } vektorlar ko'rinishida, Bu yerda Vs yS = F(xS).
Perseptron qila oladigan narsa F: X ^ Y uchun Vx e X ko'rinishni hosil qilishdir. Biz bu xaritalashni perseptrondan to'liq chiqarib olishimiz mumkin emas, lekin biz faqat ixtiyoriy miqdordagi nuqtalarning tasvirlarini sanashimiz mumkin. Rasmiylashtirish vazifasi, ya'ni kirish va chiqish vektorlarining tarkibiy qismlariga ega bo'lgan ma'noni tanlash, shaxs tomonidan amaliy tajriba asosida hal qilinadi. Afsuski, neyron tarmoqlar uchun qat'iy rasmiylashtirish retseptlari hali mavjud emas.
Ko'p qatlamli perseptronni qurish uchun uning parametrlarini quyidagi algoritmga muvofiq tanlash kerak:
Oriental Renaissance: Innovative, p VOLUME 2 | ISSUE 12
educational, natural and social sciences ISSN 2181-1784
Scientific Journal Impact Factor Q SJIF 2022: 5.947
Advanced Sciences Index Factor ASI Factor = 1.7
o x kirish vektorining komponentlariga qanday ma'no bog'langanligini aniqlang. Kirish vektorida masalaning rasmiylashtirilgan sharti, ya'ni javob olish uchun zarur bo'lgan barcha ma'lumotlar bo'lishi kerak.
o Y chiqish vektorini shunday tanlangki, uning komponentlarida muammoga to'liq javob bo'lsin.
2-rasm. Bir qavatli perseptron.
o Neyronni faollashtirish funksiyasi turini tanlang. Bunday holda, muammoning o'ziga xos xususiyatlarini hisobga olish maqsadga muvofiqdir, chunki yaxshi tanlov o'rganish tezligini oshiradi.
o Har bir qatlam uchun qatlamlar va neyronlar sonini tanlang. o Tanlangan faollashtirish funksiyasi asosida kirishlar, chiqishlar, og'irliklar va chegara darajalari diapazonini o'rnating.
o Og'irliklar va chegaralarga boshlang'ich qiymatlarni belgilang. Neyronlar to'yingan bo'lmasligi uchun boshlang'ich qiymatlar katta bo'lmasligi kerak, aks holda o'rganish juda sekin bo'ladi. Ko'pgina neyronlarning chiqishi nolga teng bo'lmasligi uchun boshlang'ich qiymatlar juda kichik bo'lmasligi kerak, aks holda o'rganish ham sekinlashadi.
o Mashg'ulotlarni o'tkazish, ya'ni vazifani eng yaxshi tarzda hal qilish uchun tarmoq parametrlarini tanlang. Trening oxirida tarmoq ushbu turdagi muammolarni hal qila oladi. u o'qitilgan.
o Tarmoq kirishiga masala shartlarini x vektor ko'rinishida taqdim eting. Masalaning formollashtirilgan yechimini beradigan chiqish vektor Y ni hisoblang.
O'rganish qobiliyati miyaning asosiy xususiyatidir. Sun'iy neyron tarmoqlar kontekstida o'quv jarayonini vazifani samarali bajarish uchun tarmoq arxitekturasini, shuningdek ulanishlar og'irliklarini sozlash sifatida ko'rish mumkin. Odatda, neyron
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
O
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
tarmoq taqdim etilgan o'qitish misollaridan og'irliklarni moslashtirishi kerak. Tarmoqning misollardan o'rganish xususiyati ularni oldindan belgilangan bo'yicha ishlaydigan tizimlarga qaraganda jozibador qiladi.
Mavjud barcha o'qitish usullari orasida ikkita sinfni ajratish mumkin: deterministik va stokastik.
Deterministik usul tarmoq parametrlarini joriy parametrlari, kirish qiymatlari, haqiqiy va kerakli chiqishlari asosida iterativ ravishda tuzatadi. Bunday usulning yorqin tasviri orqaga tarqalish usulidir.
Stokastik o'rganish usullari tarmoq parametrlarini tasodifiy o'zgartiradi. Bunday holda, faqat yaxshilanishlarga olib kelgan o'zgarishlar saqlanadi. Quyidagi algoritmni stokastik o'rganish usuliga misol qilib keltirish mumkin:
1. Tarmoq sozlamalarini tasodifiy yo'l bilan tanlang. Kirishlar to'plamini taqdim eting va olingan natijalarni hisoblang.
2. Ushbu chiqishlarni keraklilar bilan solishtiring va ular orasidagi farqni hisoblang. Bu farq xato deb ataladi. Treningning maqsadi xatoni minimallashtirishdan iborat.
3. Agar xato kamaygan bo'lsa, tuzatish saqlanadi, aks holda tuzatish o'chiriladi va yangisi tanlanadi. 2- va 3-bosqichlar tarmoq o'qitilguncha takrorlanadi.
Shuni ta'kidlash kerakki, stokastik o'rganish usuli mahalliy minimumning tuzog'iga tushishi mumkin (3-rasm).
Faraz qilaylik, asl qiymat tasodifiy sozlash qadamlari kichik bo'lsa, A nuqtadan har qanday og'ishlar xatoni oshiradi va rad etiladi. Shunday qilib, B nuqtasidagi eng kichik xato qiymati hech qachon topilmaydi. Tarmoq parametrlarining tasodifiy tuzatishlari juda katta bo'lsa, xato shu qadar keskin o'zgaradiki, u hech qachon minimallardan biriga joylashmaydi. Bunday muammolarni oldini olish uchun tasodifiy tuzatish bosqichlarining o'rtacha hajmini asta-sekin kamaytirish mumkin. O'rtacha qadam kattaligi katta bo'lsa, xato qiymati barcha qiymatlarni teng ehtimollik bilan qabul qiladi. Agar qadam o'lchami asta-
3-Rasm. Lokal minimum muammolari.
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
O
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
sekin kamaytirilsa, u holda xato qiymati bir muncha vaqt b nuqtasida qolib ketadigan holatga erishiladi. Qadam o'lchami yanada kamayganda, xato qiymati A nuqtada qisqa vaqtga to'xtaydi. Agar qadam o'lchami doimiy ravishda kamaytirilsa, oxir-oqibat, mahalliy minimal A ni yengish uchun yetarli bo'lgan qadam hajmiga erishiladi.
Agar o'rganish davomida tarmoq har bir kiritish misoli uchun to'g'ri javoblarga (tarmoq chiqishi) ega bo'lsa, algoritm nazorat ostida o'rganish algoritmi deb ataladi.
S s
Ya'ni juft vektorlar to'plami {(x ,d )} oldindan beriladi. Bu yerda
x e X masalaning shartini ko'rsatuvchi vektor, dS e Y - vektor r uchun muammoning ma'lum yechimi.
O'quv jarayonida tarmoq kerakli xaritalash X ^ Y ni berish uchun o'z parametrlarini shunday o'zgartiradi. Shuni ta'kidlash kerakki, to'plamning o'lchami
{(xS,dS)} o'rganish algoritmini shakllantirish imkoniyatiga ega bo'lishi uchun
kerakli tasvirlash yetarli bo'lishi kerak.
Garchi nazorat ostida o'qitish usuli amaliy muammolarni hal qilishda muvaffaqiyatli qo'llanilgan bo'lsada, ko'plab tadqiqotchilar uning sun'iy neyron tarmoqlarini biologik asossizligi uchun o'qitish usulini tanqid qiladilar. Darhaqiqat, miyada haqiqiy natijalarni kerakli natijalar bilan taqqoslaydigan qandaydir mexanizm mavjudligini tasavvur qilish qiyin. Nazoratsiz o'rganish algoritmi faqat kirish signallari ma'lum bo'lganda qo'llanilishi mumkin. Ularga asoslanib, tarmoq eng yaxshi chiqish qiymatlarini berishni o'rganadi. "Eng yaxshi qiymat" tushunchasi o'rganish algoritmi bilan belgilanadi. Odatda, algoritm parametrlarni tarmoq yetarlicha yaqin kirish qiymatlari uchun bir xil natijalarni berishi uchun moslashtiradi.
Habb usuli. Eng qadimgi ta'lim qoidasi Xabbning o'qitish postulotidir. Fiziologik va psixologik tadqiqotlarga asoslanib, Xabb biologik neyronlar qanday o'rganishi haqidagi farazni ilgari surdi. U ikkala neyronning ikkalasi ham hayajonlangan bo'lsa, ikkita neyron o'rtasidagi aloqaning og'irligi oshishini taklif qildi. Xabb quyidagi neyrofiziologik kuzatishlarga tayangan: agar o'zaro bog'langan neyronlar bir vaqtning o'zida va muntazam ravishda faollashtirilsa, u holda aloqaning kuchi oshadi. Bu qoidaning muhim xususiyati shundan iboratki, ulanish og'irligining o'zgarishi faqat shu bog'lanish orqali bog'langan neyronlarning faolligiga bog'liq. Algoritmning o'zi shunday ko'rinadi:
1) Initsializatsiya bosqichida barcha vazn koeffitsientlariga kichik tasodifiy qiymatlar beriladi.
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
o
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
2) Tarmoq kirishiga kirish signali qo'llaniladi naqd pul va ishlab chiqarish hisoblab chiqiladi.
3) Neyronning olingan chiqish qiymatlari asosida og'irlik koeffitsientlari o'zgartiriladi.
4) 2-bosqichdan boshlab tarmoqning chiqish qiymatlari belgilangan aniqlikda barqarorlashguncha kirish to'plamidan yangi ko'rinish bilan takrorlanadi.
Xatolarni tuzatish qoidasi. 1957-yilda Rosenblatt tadqiqotchilarda katta qiziqish uyg'otgan modelni ishlab chiqdi. Model nazorat ostida o'rganish algoritmidan foydalanadi, ya'ni o'quv majmuasi kirish vektorlari to'plamidan iborat. Ularning har biri uchun chiqish vektori ko'rsatilgan. Ba'zi cheklovlarga qaramay, u bugungi kunda eng murakkab nazorat ostidagi o'rganish algoritmlarining ko'pchiligi uchun asos
Algoritmning mohiyati quyidagicha: har bir kiritish misoli uchun kerakli chiqish ko'rsatiladi. Agar haqiqiy tarmoq chiqishi kerakligiga mos kelmasa, tarmoq parametrlari o'rnatiladi. Tuzatish qiymatini hisoblash uchun haqiqiy va kerakli tarmoq chiqishi o'rtasidagi farq ishlatiladi. Bundan tashqari, og'irliklar faqat xato javob berilgan taqdirda tuzatiladi.
Raqobatbardosh o'rganish. Ko'p chiqish neyronlari bir vaqtning o'zida yonishi mumkin bo'lgan Hobbian ta'limidan farqli o'laroq, raqobatdosh o'rganishda chiqish neyronlari faollashish uchun bir-biri bilan raqobatlashadi. Bu barcha chiqish neyronlari to'plamidan eng yuqori chiqishga ega bo'lgan faqat bitta neyron mavjud. Bunday algoritm biologik neyron tarmoqlarni o'qitish jarayoniga o'xshaydi. Raqobat o'rganish sizga kiritilgan ma'lumotlarni tasniflash imkonini beradi: shunga o'xshash misollar tarmoq bo'yicha bir sinfga to'planadi va bitta namunaviy element bilan ifodalanadi. Bunday holda, chiqish neyronlari to'plamidan har bir neyron faqat bitta sinf uchun javobgardir. Shubhasiz, tarmoq ishlashga qodir bo'lgan sinflarning umumiy soni chiqish neyronlari soniga teng. O'rganish davomida faqat g'alaba qozongan neyronning og'irliklari o'zgartiriladi. Bu tasvir elementining kirish misoliga biroz yaqinlashishiga olib keladi.
Genetik algoritmlar. Genetik algoritmlar biologik populyatsiyaning rivojlanishini modellashtirishga asoslangan algoritmlar guruhi hisoblanadi.
Populyatsiyani P = {p1} = [p',...,pn} vektorlar to'plami deb ataymiz, bu yerda n -
populyatsiya hajmi. p elementlari individualdir. Har bir vektor p har bir shaxsni
tavsiflash uchun ishlatilishi mumkin bo'lgan barcha parametrlarni o'z ichiga oladi.
bo'ldi.
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
о
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
Faraz qilaylik E(p) funksiya, p vektorga bog'liq bo'lsin. Uning yordamida xato hisoblab chiqiladi. E ning minimalini topish talab qilinadi. P to'plamning elementlari quyidagi qoidalarga qarab rivojlanishga qodir:
■ Agar E(p°) kichik bo'lsa, u holda individual p° muvaffaqiyatli hisoblanadi va ko'payishda ustuvorlikni oladi.
■ Agar E(p°) katta bo'lsa, u holda individual p° muvaffaqiyatsiz deb hisoblanadi, bu individual uchun ko'payish ehtimoli kamayadi.
■ Mutatsiyalar: har qanday nuqta (individual) mutatsiyaga uchrashi mumkin. Ya'ni, uning qiymati oz miqdorda p° = p° + Ap boshqalarga siljishi mumkin. Bu yerda Ap - mutatsiyaning kattaligini tavsiflovchi kichik vector
■ Ko'paytirish: ko'payish ehtimoli bo'yicha (1-bosqichga qarang), har bir nuqta bo'linadi. Ko'payish qonunlari tanlangan modelga bog'liq.
Evolyutsiyaning aniq nazariyasi hali qurilmagan, shuning uchun tanlangan algoritmlarning optimalligini faqat eksperimental tarzda baholash mumkin.
XULOSA VA TAKLIFLAR
Ayni davrda sun'iy neyron tarmoqlar va ularni rivojlanish masalalari doimo ko'p o'rganilayotgan va tanqidlarga uchrayotgan dolzarb masalalardan sanaladi.
Biroq u oziga xos tezlik va maromda rivojlanib bormoqda. Ayrim insonlarning fikriga qaraganda ancha tez, soha vakillarini fikriga ko'ra sekin rivojlanmoqda. Shunga qaramay, neyron tarmoqlar allaqachon boshqaruv tizimlarida, namunalarni (obrazlarni) aniqlashda, uy ro'zg'ori ishlarida muvaffaqiyatli qo'llanilmoqda.
Sog'liqni saqlash tizimida bashorat qilish va diagnostika, ya'ni an'anaviy hisob -kitoblar juda qiyin bo'lgan joylarda juda muvaffaqiyatli amalga oshmoqda. Afsuski, bunday muammolar uchun optimal echimlar hali yetarlicha topilmagan. Turli xil yondashuvlarni (shu jumladan neyron tarmoqlaridan foydalanmasdan) qiyosiy o'rganish aniq xulosalarga olib kelmayapti. Ko'rinib turibdiki, bunday vaziyatda barcha mavjud yondashuvlarning imkoniyatlari, zaruriy shartlari va ko'lamini tushunish va intellektual tizimlarni yanada rivojlantirish uchun ularning afzalliklarini maksimal darajada oshirish kerak. Bunday harakatlar sun'iy neyron tarmoqlarni boshqa texnologiyalar bilan birlashtirgan mutlaqo yangi algoritmlarni yaratishni talab qiladi.
REFERENCES
1. Гулямов, С. С., Шермухамедов, А. Т., & Хайитматов, У. Т. ОПЫТ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КИТАЕ.
Oriental Renaissance: Innovative, educational, natural and social sciences Scientific Journal Impact Factor Advanced Sciences Index Factor
о
R
VOLUME 2 | ISSUE 12 ISSN 2181-1784 SJIF 2022: 5.947 ASI Factor = 1.7
2. Xalilov, D. (2022). СУНЪИЙ ИНТЕЛЛЕКТ ВА РАДИАЛ НЕЙРОН ТАРМОКЛАРНИНГ МАТЕМАТИК АСОСЛАРИ. Science and innovation, 1(A6), 664-671.
3. Рахимов, К., & угли Сотволдиев, А. Д. (2022). МАШИНАЛИ УКИТИШ ВА СУНЪИЙ ИНТЕЛЛЕКТНИНГ АМАЛИЙ СОХДЛАРДА КУЛЛАНИШ ТЕНДЕНСИЯЛАРИ. YOUTH, SCIENCE, EDUCATION: TOPICAL ISSUES, ACHIEVEMENTS AND INNOVATIONS, 1(5), 85-91.
4. Васенков, Д. В. (2007). Методы обучения искусственных нейронных сетей. Компьютерные инструменты в образовании, (1), 20-29.
5. Исраил Нурмаматович Тожимаматов, (2022). ИЖТИМОИЙ ТАРМОКНИНГ ИЖТИМОИЙ МУАММОЛАРИ, 4(1), 702-705.
6. Тожимаматов Исраил, (2021). Ракдмли иктисодиётда big data технологияси,
420-430.
