ИЗУЧЕНИЕ ПРИНЦИПА РАБОТЫ СВЕРТОЧНОЙ НЕЙРОННОЙ СЕТИ Текст научной статьи по специальности «Компьютерные и информационные науки»

УДК 004.02

Информационные технологии

Краснова А. Ю., студент 4 курса напр. «Математика и компьютерные науки», ИМиМКФУ (Институт математики и механики им. Лобачевского Казанского Федерального Университета), Россия, Казань

ИЗУЧЕНИЕ ПРИНЦИПА РАБОТЫ СВЕРТОЧНОЙ НЕЙРОННОЙ СЕТИ

Аннотация: В данной статье рассмотрен принцип работы сверточной нейронной сети на основе биологической нейронной сети животного. Представлены графические изображения упрощенной модели сети и графики сигмоидальной функции при различных параметрах. Также рассмотрены задачи, которые решаются при помощи нейронных сетей.

Ключевые слова: сверточная нейронная сеть, синапсы, аксон, сигмоидальная функция.

Annotation: The article describes the principle of a convolutional neural network based on a biological neural network of an animal. The graphical images of a simplified network model and graphs of the sigmoidal function for various parameters are presented. The tasks that are solved by using neural networks are also considered.

Keywords: convolutional neural network, synapses, axon, sigmoidal function.

Нейронная сеть - это математическая модель, которая может быть представлена в виде программы или программно-аппаратного обеспечения. Она создана по принципу работы биологических нейронных сетей млекопитающих и образует систему взаимодействующих между собой искусственных нейронов.

Биологическая нейронная сеть

Нервная система человека, состоящая из нейронов и связей, обладает большой сложностью. Приблизительно 10А11 нейронов участвуют в 10А15

передающих связей, совокупная длина которых может составлять метр и более. Каждый нейрон осуществляет прием, обработку и передачу электрохимических сигналов по нервным путям, создающий коммуникационную систему мозга. Рассмотрим на рис.1. принцип работы биологических нейронов.

Рис.1. Структура биологического нейрона

Дендриты, идущие от тела нервной клетки к другим нейронам, получают сигнал в точках соединения, имеющие название синапсы. Полученные синапсом входные сигналы отправляются к телу нейрона. Здесь они начинают суммироваться. Если суммарное значение выше заданного предела, то нейрон приходит в возбуждение и через аксон передает сигнал остальным нейронам. В противном случае нейрон остается пассивным.

Описанная схема обладает рядом особенностей и осложнений. Однако большая часть искусственных нейронных сетей основана только на этих свойствах [1].

Структура искусственного нейрона

Искусственный нейрон является простой структурной единицей нейронной сети, имеющую модель биологического нейрона.

Входы

Рис.2. Искусственный нейрон

На Рис.2 изображен нейрон. На вход, которого могут поступать специальные входные данные х1,х2, ■■■,хп или же выходы от такого же нейрона. Входы соединены с нейроном 3 с помощью синаптических связей. Каждый синапс имеет свой заданный вес №1,№2, п, который определяет, как соответствующий вход нейрона влияет на его состояние. Состояние нейрона 3 находится с помощью:

п

1 = 1

где п- число входов нейрона, х - значение 1 -го входа нейрона, ^ - вес 1 -го синапса.

Потом находится значение аксона по формуле у= 1 (3)- Где 1 -активационная функция. Такие функции не могут быть линейными, потому что НС с такой функцией результативна только на одном уровне, вне зависимости от сложности структуры. Поэтому чаще всего используют логистическую функцию или сигмоид [2]:

1 (х

1+е ах ,

где параметр а отвечает за наклон сигмоидальной функции (Рис.3).

0.9-

0 8- /

0.7- /

0 6Л < /

У о/

АЗ-

/ 0.2-

/ 0 1 ' 1 ' 1 ' 1

> ' I ' » Т * Г ' »

6-4-2 0 2 4 6

х

Рис.3. График сигмоидальной функции.

При уменьшении параметра а сигмоид становится более пологим (Рис.4). При увеличении а начинает приближаться к функции единичного скачка (Рис.5). Также данная функция дифференцируема на всей оси абсцисс, что является необходимым условием в некоторых алгоритмах при обучении НС.

0 8-

0.7-

Об-

0 5,

/0.4-

0.3-

0.2-

15 -10 -5 0 5 10 15

Рис.4. График сигмоидальной функции при а 0

1- (

0 8-

0 6-

0,1

X

Рис.5. График сигмоидальной функции при а=5.

Задачи, решаемые на основе нейронных сетей

На сегодняшний день, есть большое количество задач, которые можно решить с помощью нейронных сетей. Выделим следующие типы:

• Распознавание образов и классификация. На вход поступают образы (это могут быть изображения, звуковые сигналы, символы и проч.), которые нужно проанализировать и соотнести к нужной группе объектов. Во время обучения, используют вектор значений признаков образа, принадлежащий определенному классу. После обучения, можно распознавать и классифицировать образы, которые не участвовали в процессе обучении.

• Кластеризация. Другими словами, это можно назвать как классификация образов без "учителя". В таких задачах на вход не поступают векторы значений признаков образа. Суть работы заключается в том, что выявляются закономерности и сходства между образами и в дальнейшем размещаются в одну группу.

• Прогнозирование. С помощью обобщения и выделения общих зависимостей между входными и выходными данными можно предсказать

результаты. Чтобы результаты были точнее, необходимо обучать на таких примерах, где прослеживается закономерность.

• Аппроксимация функций. В таких задачах находятся оценка неизвестной функции по значениям. Точность аппроксимации зависит от выбора структуры НС.

• Оптимизация. Задачи такого типа на выходе предоставляют то решение, которое удовлетворяет заданной системе условий и минимизирует целевую функцию. К примеру, это может быть алгоритм, реализующий некоторую последовательность действий, который можно полностью заменить функционированием НС.

Такие типы задач уже применяются в разных сферах работы. Приведем примеры, где и как нейронные сети улучшили качество работы:

• Служба безопасности (распознавание лиц, отпечатков, голоса);

• Телевидение и связь (сжатие и восстановление изображения);

• Финансовая сфера (проверка достоверных подписей, оценка риска для займов, прогнозирование экономических показателей, автоматическое считывание чеков и финансовых документов);

• Медицина (выявление отклонений в ЭКГ, анализ рентгенограмм);

• Военная сфера (обработка различных поступающих сигналов, автоматические пилотирование);

• И др.

Список можно продолжать дальше, поскольку есть множество областей, где применение нейронных сетей послужило хорошим толчком в развитии будущего.

Заключение

Таким образом, сверточная нейронная сеть представляет собой упрощенную модель биологической нейронной сети. Для вычисления значений аксона мы привели пример сигмоидальной функции, которая помогает лучше всего при дальнейшем обучении нейронной сети. Также рассмотрели ряд задач, которые уже решаются при помощи нейронных сетей.

Библиографический список:

1. Горбачевская, Е.Н. История развития нейронных сетей [Электронный ресурс] / Е.Н.Горбачевская, С.С.Краснов // КиберЛинка [Электронный ресурс]: научная электронная библиотека. URL: http://cyberleninka.ru/article/n/istoriya-razvitiya-neyronnyh-setey (дата обращения: 15.11.2019). Загл. с экрана. Яз. рус. Имеется печатный аналог.

2. Хайкин, С. Нейронные сети: полный курс / С.Хайкин. - М.: Издательский дом «Вильямс», 2006. - 1104с.