НЕЙРОНДЫҚ ЖЕЛІЛЕРДІ ЗАМАНАУИ ТЕХНОЛОГИЯДА ҚОЛДАНУ Текст научной статьи по специальности «Строительство и архитектура»

УДК 004

Орынбасар А.Ж.

2-курс магистранты, Алматы технологиялык университетi (Алматы к., Казахстан Республикасы)

Орманбекова А.А.

PhD,

Алматы технологиялык университетi (Алматы к., Казакстан Республикасы)

НЕЙРОНДЬЩ ЖЕЛ1ЛЕРД1 ЗАМАНАУИ ТЕХНОЛОГИЯДА ЦОЛДАНУ

Аннотация: Соцгы жылдары нейрондыц желшер цаз1рг1 технологиялардыц дамуыныц неггзгг цуралдарына айналды. Бул мацала нейрондыц желшердщ жумыс гстеу принциптер\н жэне олардыц компьютерлт квру, табиги тшдерд1 вцдеу, медициналыц диагностика жэне царжылыц талдау сияцты эртYрлi салаларда кецгнен цолданылуын царастырады. Нейрондыц желшерд1 Yйретудiц, соныц 1ш1нде бацылаулы, бацылаусыз оцу жэне кушейту арцылы оцыту эдiстерiне ерекше назар аударылады. Практикалыц тапсырмаларды шешудегi нейрондыц желыердщ тшмдшгт кврсететт сэттi мысалдар келтiрiледi.Зерттеу нейрондыц желыер тек эртYрлi салалардагы внiмдiлiктi айтарлыцтай арттырып цана цоймай, инновациялыц шешiмдер Yшiн жаца мYмкiндiктер аша алатынын кврсетедi.

Ключевые слова: Нейрондыц желi, конволюциялыц желi, компьютерлт квру, машиналыц оцыту, терец оцыту, математикалыц модель.

К1Р1СПЕ.

Соцгы онжылдыкта нейрондык желшерге жэне олардыц эртYрлi гылым мен техниканыц салаларында колданылуына кызыгушылыктыц каркынды eсуi байкалады. Нейрондык желшер, машиналык окытудыц кещрек эдiстерi классындагы элементтер ретшде, дэстYрлi алгоритмдердщ тиiмдi тYPде ецдей

1554

алмайтын кYPделi мэселелердi шешудiц негiзгi к^ралына айналды. Олар компьютерлiк керу, табиги тiлдердi ецдеу, медицина, каржы жэне баска да кептеген салаларда сэтл колданылады.

Нейрондык желiлердiц жетiстiгiнiц к^пиясы — олардыц Yлкен келемдегi деректерден магыналы паттерндер мен зацдылыктарды ездiгiнен шыгара алу кабiлетiнде. Сондыктан олар бейнелердi тану жYЙелерiнде, автоматты аудармада, ^сыныс жYЙелерiнде жэне тiптi ауруларды диагностикалауда пайдаланылады. Алайда, жетiстiктерiне карамастан, нейрондык желiлер артык окыту, Yлкен келемдеп деректерге деген кажеттшк жэне этикалык мэселелер сиякты бiркатар киындыктарга тап болады.

Осы макаланыц максаты — нейрондык желшердщ ж^мыс iстеу принциптерш, олардыц негiзгi колдану салаларын, сондай-ак казiрri кездегi мэселелер мен даму перспективаларын карастыру. Зерттеу барысында нейрондык желiлердi пайдалану бойынша сэттi мысалдар талданады, б^л олардыц казiргi технологияларга жэне когамга жалпы эсерiн жаксы тYсiнуге мYмкiндiк бередi.

Нейрондык желшердщ непзп тYсiнiктерi.

Нейрондык желiлер — адамныц миыныц ж^мыс iстеу принциптерше негiзделген есептеу модельдерi. Нейрондык желшщ негiзгi компоненттерi келесi тYсiнiктердi камтиды:

1. Нейрон

Нейрон нейрондык желшщ непзп элемент болып табылады. Ол деректердi кабылдап, оларды активация функциясы аркылы ецдейдi жэне нэтиженi шыгарады. Эр нейрон бiрнеше кiрiске ие, олардыц эркайсысы салмакпен байланыскан — б^л параметр кiрiстiц мацыздылыгын аныктайды.

2. Кабаттар

Нейрондык желiлер нейрон кабаттарынан тирады:

Кiрiс кабаты: бастапкы деректердi кабылдайды.

1555

Жасырын кабаттар: деректердi ецдейд^ Kipic жэне шыгару кабаттарыныц арасында орналасады. Жасырын кабаттардыц саны мен нейрондар саны тапсырмага байланысты езгеpуi мYмкiн.

Шыгару кабаты: классификация тапсырмасында объектiнiц классындай нэтиже шыгарады.

3. Активация функциясы.

Активация функциясы нейрон активтелетшдтн (ягни, шыгару мэш оц болатынын) кipic сигналдарыныц сомасына негiзделген. Танымал активация функцияларына мыналар жатады:

Сигмоида: кipic мэндеpiн 0 мен 1 аралыгына тYpлендipедi.

ReLU (Rectified Linear Unit): кipic мэш оц болса, оны кайтарады, эйтпесе 0 бередг

Softmax: кепклассты классификация тапсырмаларында шыгару мэндеpiн нормализациялау ушш колданылады.

4. Оку.

Нейрондык желт уйрету мкателiктi кеpi таратудыц" (backpropagation) пpоцеci аркылы жузеге асады. Алдымен желi болжам жасайды, содан кешн болжамды накты мэнмен салыстырып, кателiктi еcептейдi жэне осы кателiк непзшде салмактарды оптимизациялау алгоритмы, мысалы, градиентл тYcу аркылы жацартады.

5. Артык окыту жэне жалпылау.

Артык окыту — модель оку деректерше тым дэл сэйкес келш, жаца деректерде жалпылау кабшетш жогалтатын жагдай. Артык окытуды болдырмау Yшiн dropout жэне L2-pегуляpизация сиякты регуляризация эдicтеpi пайдаланылады.

6. Гиперпараметрлер.

Гиперпараметрлер — нейрондык желшщ архитектурасын жэне оку процесш аныктайтын параметрлер, мысалы, жасырын кабаттардыц саны, эр кабаттагы нейрондар саны, оку жылдамдыгы жэне партияныц елшемi (batch

1556

size). Гиперпараметрлердi ддоыс тацдау модельдщ жогары eнiмдiлiгi y™h мацызды.

Нейрондык желiлердiц колдану салалары.

Нейрондык желiлер кептеген салаларда колданылып, Yлкен кeлемдегi деректердi ецдеу жэне талдау кабiлетiмен ерекшеленедi. Мiне, нейрондык желшердщ мацызды рел аткаратын непзп салалар:

1. Компьютерлiк керу.

Нейрондык желшер суреттер мен бейнелердi ецдеу Yшiн пайдаланылады. Олар объектiлердi тану, беттердi аныктау, суреттердi классификациялау жэне автономды кeлiктерде колданылатын тапсырмаларда тиiмдi. Конволюциялык нейрондык желiлер (CNN) осы салада кецiнен колданылып, кещслклк жэне уакыттык сипаттамаларды шыгара алады.

2. Табиги тiлдердi ецдеу.

Б^л салада нейрондык желiлер машиналык аударма, чат-боттар, мэтшнщ тоналитетiн талдау жэне автоматты резюмелеу жYЙелерiн к¥ру ушш пайдаланылады. Рекурренттiк нейрондык желiлер (RNN) мен трансформерлер мэтiндi ецдеуде стандарттарга айналды, себебi олар реттi деректермен ж^мыс iстеуге тиiмдi.

3. Медициналык диагностика.

Нейрондык желiлер медициналык суреттерд^ мысалы, рентгендер мен МРТ-ларды талдауда колданылады. Олар дэрiгерлерге ауруларды, мысалы, рак, диабет жэне жYрек-кан тамырлары ауруларын диагностикалауга кeмектеседi, диагностика дэлдтн жэне жылдамдыгын арттырады.

4. Каржы секторы.

Каржы саласында нейрондык желшер кор нарыгын болжау, кредиттiк тэуекелдi багалау, алаяктыкты аныктау жэне сауда процестерш автоматтандыру Yшiн пайдаланылады. Олар тарихи деректердi талдап, дэстYрлi эдютермен кeрiнбейтiн зацдылыктарды аныктауга мYмкiндiк бередг

1557

5. ¥сыныс жуйелерг

Нейрондык желшер Netflix, Amazon жэне Spotify сиякты сервистерде персонализирленген ^сыныстар жасау Yшiн пайдаланылады. Олар пайдаланушылардын, калауларын жэне мшез-к^лкын талдап, кызыктыратын тауарларды, фильмдердi немесе музыка ^сыныстарын бередi.

6. Ойындар мен кецш кетеру.

Ойын индустриясында нейрондык желшер персонаждардыц жасанды интеллектiсiн (ЖИ) дамыту Yшiн колданылады, ол ойыншыныц эрекеттерше Yйренiп, бейiмделе алады. Б^л шынайы эрi кызыкты ойын тэжiрибесiн жасауга мYмкiндiк бередi.

7. Робототехника.

Нейрондык желшер роботтардыц навигациясында, манипуляциясында жэне коршаган ортамен езара эрекеттесуiнде кемектеседг Олар роботтарга тэжiрибеге негiзделген окытуга мYмкiндiк берiп, накты уакыт режимшде тапсырмаларды орындау кабiлеттерiн арттырады.

Нейрондык желiлердi окыту эдiстерi.

Нейрондык желiлердi окыту — б^л желiнiц салмактары мен ыгыстарын кателiктi минимизациялау максатында баптау процесi. Нейрондык желiлердi окытуга арналган бiрнеше эдiс бар, олар деректердщ тYрiне жэне тапсырмаларына байланысты езгередi. Негiзгi эдiстердi карастырайык:

1. Бакылаулы окыту

Бакылаулы окыту — б^л ец кец таралган эдiс, м^нда нейрондык желi белгшенген деректерде окытылады. Б^л, ягни, эрбiр кiрiс Yлгiсi Yшiн сэйкес келетш максат меткасы бар. Окыту процес мына кадамдарды камтиды:

Болжам жасау: желi кiрiс деректерi негiзiнде болжам шыгарады.

Кателжп есептеу: болжанган мэн мен шын мэн (максат меткасы) арасындагы айырмашылык есептеледi.

1558

Салмактарды жацарту: желшщ салмактары оптимизациялау алгоритмы, мысалы, градиента тYсу аркылы тYзетiледi.

2. Бакылаусыз окыту

Бакылаусыз окыту белгiленген максат мэндерi жок деректерде колданылады. Б^л эдiстiц максаты — деректерде жасырын к¥рылымдарды табу. Негiзгi тэсiлдер мыналарды камтиды:

Кластеризация: деректердi ^ксастыгына карай кластерлерге топтастыру.

Элшемдiлiкгi темендету: деректердеп ерекшелiктердiц санын азайту, сонымен бiрге олардыц магыналы акпаратын сактау (мысалы, PCA алгоритмы немесе автоэнкодерлердi пайдалана отырып).

3. КYшейту аркылы окыту

КYшейту аркылы окыту агенттiц коршаган ортамен эрекеттесуiн камтиды. Агент шешiмдер кабылдайды, ал алынган керi байланыс (сыйакы немесе жазалау) негiзiнде эрекеттерш тYзетедi. Б^л эдiс робототехника мен ойындарда белсендi тYPде колданылады. Непзп компоненттер:

Агент: окытылатын модель.

Орта: агенттiц эрекегтесетiн кещстт.

Сыйакы: агенттiц эрекеттерi Yшiн алынган керi байланыс.

4. Жартылай бакылаулы окыту

Жартылай бакылаулы окыту бакылаулы жэне бакылаусыз окытудыц элеменгтерiн бiрiктiредi. Б^л эдiс белгiленген деректердiц аз гана кeлемi жэне белгiленбегендердiц Yлкен кeлемi болганда колданылады. Алдымен желi белгiленген деректерде окытылады, содан кешн белгiленбеген деректерде косымша окыту жYргiзiледi, б^л модельдiц жалпы eнiмдiлiгiн арттыруга мYмкiндiк бередi.

5. Бiлiмдi кeшiру (Transfer Learning)

Бiлiмдi кeшiру алдын ала окытылган модельдердi жаца тапсырмаларды шешуге колдануга мYмкiндiк бередi. Б^л эдiс, эсiресе, жаца тапсырма Yшiн KOлжетiмдi деректердiц мeлшерi шектеулi болганда пайдалы. Бiр тапсырмада

1559

окытылган модель баска тапсырмага бейiмделуi мYмкiн, б^л окыту процесiн айтарлыктай жеделдетедi жэне нэтижелердi жаксартады.

НЕГ1ЗГ1 БЭЛ1М.

Нейрондык желшер эртYрлi салаларда эсерлi нэтижелер керсетл. Мiне, бiрнеше накты мысал:

1. Медициналык диагностика

Рентген суреттерiн талдау: Нейрондык желiлер пневмония мен рак сиякты ауруларды диагностикалауда колданылады. Зерттеулер керсеткендей, Yлкен келемдегi рентген деректершде окытылган модельдер кэсiби радиологтармен салыстырганда дэлдiкке жетуi мYмкiн. Мысалы, Стэнфорд университет жYргiзген зерттеуде модель рентген суреттершдеп пневмонияны тануда 94% дэлдш керсеттi.

1-сурет. Рентгендiк сэуле аппараты кемепмен екпенiц жагдайын тексеру.

2. Автономды келiктер.

Tesla Autopilot: Tesla автопилот жYЙесiн дамыту Yшiн нейрондык желiлердi белсендi тYPде пайдаланады. Моделдер датчиктер, камералар жэне радарлардан алынган деректердi ецдей отырып, жол белгшерш, жаяу

1560

жYргiншiлер мен баска да автомобильдердi таниды. Tesla автономды жYргiзуде айтарлыктай прогреске жетл, б^л автомобильдерге эртYрлi маршруттармен ездтнен козгалуга мYмкiндiк бередi. Транспорттык роботтарга нейрондык желiнi колдануда зерттеу ж^мыстарын жYргiзген болатынмын. Ягни жол белгшершен т^ратын деректер жинагына нейрондык желi негiзiнде багдарлама жазып бiртакталы компьютерде тест жасадым.

Багдарлама жол белгiлерi мен объектiлерiн камерамен аныктауга жэне тиiстi шешiмдер кабылдауга мYмкiндiк бередг Yлгiнi тану Машиналык окыту алгоритмдерш колдану аркылы жYзеге асырылады. Ол Yшiн, ец алдымен, жол белгшершщ мыц суретiнiц датасетi(3-сурет) жиналды. Осыдан кейiн Машиналык окыту моделiн окыту жэне жYЙенiц енiмдiлiгiн ескере отырып, raspberry pi-ге енгiзу жYзеге асады.

2-сурет. Жол белгiлерiн тану коды.

Жол белгшерш тану кодыныц тYсiндiрмесiне келсек, суреттердегi кек нысандарды аныктау Yшiн OpenCV кiтапханасын пайдаланатын Python компьютерлж керу сценарийi болып табылады. Алдымен ол алдын-ала дайындалган Машиналык окыту модельдерш жYктейдi "classification.py" кызыл жэне кек нысандарга арналган сценарий. Содан кешн ол шектi мэн, морфологиялык операциялар жэне контурларды аныктау сиякты бiрнеше кескiн ецдеу эдютерш колдана отырып, эр суреттегi кек тYCтi нысандарды аныктау Yшiн кескшдер тiзiмiн карайды. Ол сондай-ак жалган позитивтердi жою жэне

1561

тацдалган нысандардьщ белгш бiр аракатынасы мен елшемiне ие болуын камтамасыз ету Yшiн белгш бiр CYЗгiлердi колданады. Сценарий аныкталган кек нысандарды бастапкы кескiннен шыгарады, олардыц елшемiн бекiтiлгенге езгертедi жэне оларды алдын ала дайындалган кек модель аркылы жiктейдi. Егер болжамды белгiнiц сенiмдiлiк децгейi 0,78-ден жогары болса, сценарий оны д^рыс болжам деп санайды жэне максималды сешмдшк мэнiн шыгарады. Эйтпесе, сценарий аныкталган нысанды елемейдi жэне келесiге етедг

а 77ДОЯОЯ б а /77_И№1Ж Г79.««ОЯ В 780ЛЮ0А ГТ 1*1 ■ тицавю* я 7НЭ_ЕЯЯОИ О 7К£мюв В •Н9_1ККОЙ. а 790_ЫШ£Ж

п 791.ЕИКОЯ С 792..ЕКЙСЖ В 793,ЕЯКСЖ Ц 795.ЕЯЯСЖ М ТЭб.ЕЯЯОЯ 0 797_ЕНЯ0К а вое.-«воя 302 ЕВКОК а еоз.Еявон вое ЕМСЖ О 615 ЕКЯО!» В31_0»СЖ

■ аН.ЕНКОА гл.1 стюв ал -кко« -а 1 ам шгов 359 ЕЙЙОЛ 0 вьг -инок а ЛЫ 1МОИ О {ЙЯОЯ 866 ЕНЯОЙ 0 иь.' 1К«СЖ Л Ш1ЫОН

■ вЛ.ЕДЮН Ы ■ 91!) -дкои ■ ■ 92« Ш(ОН 1 93ЛЕ.НЮЖ М7 ¿ШЖ ■ 94» 1Ю«Ж в М!г ШАСЖ ■ 95?_ЕтОК ■ 9Ь91КЯО»< т т 1и>ок

а 9б1_ЕЯЯОЯ ■ 96Э_ЕЯЙОД в 965.П!(ЮВ т %в.ЕВЯОЙ е 972.О«0П 972.ЕЙЯОЛ эч.гвйс* 9вй_ЕИ?С« 985.ЕЯЯОЙ ■ 1<Ю7.ЕИЮЙ ■ модемов ПП 10Ю.ЕЮ10Й

Ж 1011.1Ш1 ЕЛ! КИЗ.ЕПЯОК пп ММ.ЕЯЯОЯ ПП 1015 ЕВЯС* ПП Ю!6.ЕЯВОН ПП Ю19.ЕИКОИ ПП М21_В0ЮК ПП Ю23 ЕКЯСЖ • 1 югл.Еяяон ■ 1 1С37.ЕИЯОИ | 1 1038 ЕЯЯСЖ * 1 1041.ЕЯЯОВ

3-сурет. Жол белгiлерiнiц датасетi

1562

4-сурет. Агымдагы кескшнщ сэйкестевддрш iздеу процессi

5-сурет. Кескiндi тануга эзiрлеу

6-сурет. Кескшнен тану керек объектiнi iздеу

1563

7-сурет. Танылган белпге карай аппарат алу

8-сурет. Жол белгшерш тану коды

КОРЫТЫНДЫ.

Нейрондык желi негiзiндегi кeлiк роботыныц прототипш жасау кызыкты жэне пайдалы жоба болып табылады жэне эртYрлi салаларда процестердi автоматтандыру жэне тиiмдiлiктi арттыру Yшiн кептеген мYмкiндiктерге экелуi мYмкiн деген корытындыга келгiм келедi. Тутастай алганда нейрондык желiлердi пайдалана отырып, кeлiк роботыныц прототипiн жасау енеркэсш, медицина, гылым жэне инженерия сиякты эртYрлi салаларда колдануга болатын автономды жYЙелердi дамытудыц инновациялык тэсiлi болып табылады. Прототипте заманауи технологиялар мен эдiстердi колдана отырып жасалган жэне инновациялык шешiмдердi накты жобаларда калай колдануга болатындыгы

1564

туралы мысалдар келлредг Б^л прототип тшси салалардагы косымша зерттеулер мен 93ipneMenep Yшiн пайдалы болады деп YMiTTeHeMiH.

СПИСОК ЛИТЕРАТУРЫ:

1. Robots types, advantages, uses, features & models (Humanoid, Military, Industrial, Nano-robots) [Electronic Resource]. Available at: https://www.online-sciences.com/robotics/robotics-robots-importance-types-uses-features-and-models/

2. Robots in Logistics and Transportation [Electronic Resource]. Available at: https://www.automate.org/blogs/robots-in-logistics-and-transportation.

3. Robots and transportation [Electronic Resource]. Available at: https://www.freightwaves.com/news/robots-and-transportation.

4. How Are Robots Used in Transportation? [Electronic Resource]. Available at: https://www.azorobotics.com/Article.aspx?ArticleID=306.

5. Development of a Transport Robot for Automated Warehouses [Electronic Resource]. Available at: https://ieeexplore.ieee.org/abstract/document/8602651.

6. Айвазян С. А., Ерюков и. с., Мешалкин л. д. Колданбалы статистика: модельдеу негiздерi жэне деректердi бастапкы ецдеу. М.: Каржы жэне статистика, 2013. 471 б.

7. Флах П. Машинальщ окыту. М.: DMK Press, 2015. 400 б.

8. Design and Development of a Holonomic Mobile Robot for Material Handling and Transportation Tasks [Electronic Resource]. Available at: https://link.springer.com/chapter/10.1007/978-3-030-75275-0_78.

9. Raspberry Pi 4. Обзор и тестирование [Электронный ресурс]. URL: https://dmitrysnotes.ru/raspberry-pi-4-obzor-i-testirovanie.

10. Raspberry Pi 4 Model B 2GB RAM Модульный микрокомпьютер [Электронный ресурс]. URL: https://compacttool.ru/raspberry-pi-4-model-b-2gb-ram.

1565

11. Программирование робота-автомобиля на базе raspberry pi [Электронный ресурс]. URL: https://naukaip.ru/wp-content/uploads/2022/03/%D0%9A-367.pdf#page=33.

12. Ричардсон М., Уоллес Ш. Заводим Raspberry Pi. Учебное пособие / пер. с англ. - Амперка, 2013. - 230 с.

13. Nedeljkovic, M.: Design of an intelligent holonomic mobile robot for transportation tasks from the aspect of collision prevention during autonomous movement, Master thesis, University of Belgrade - Faculty of Mechanical Engineering (2020).

14. Jakovljevic, Z., Petrovic, M., Mitrovic, S., Miljkovic, Z.: Intelligent sensing systems-status of research at kaprom. In: International Conference on the Industry 4.0 Model for Advanced Manufacturing, pp. 18-36 (2018).

15. Oliveira, H., Sousa, A., Moreira, P., Costa, P.: Dynamical models for omnidirectional robots with 3 and 4 wheels. In: The Fifth International Conference on Informatics in Control, Automation and Robotics, pp. 189-196 (2008).

16. Nesic, N.: Hardware-software design of the control system of an intelligent holonomic mobile robot from the aspect of achieving autonomy in movement, Master thesis, University of Belgrade - Faculty of Mechanical Engineering (2020).

17. Siegwart, R., Nourbakhsh, I., Scaramuzza, D.: Introduction to Autonomous Mobile Robots. MIT press, Cambridge (2011).

18. Raspberry Pi Documentation [Electronic Resource]. Available at: https://www.raspberrypi.com/documentation/computers/getting-started.html.

19. A.V. Timofeev and R.M. Yusupov, "Principles of construction of integrated systems of multi-agent navigation and intelligent control of mechatronic robots", International Journal "Information Technologies & Knowledge, vol. 5, no. 3, pp. 273244, 2011.

20. Raspberry Pi [электронный ресурс]/Сайт производителя - Электронный. Дан: The official Raspberry Pi HandBook, 2021. - Режим доступа: https://www.raspberrypi.org/books/

1566