CC BY
54
Представление нейронной сети матрицей оператора
В.С. Поляков, И.Ю. Королева, Д. Н. Авдеюк, Е.С. Павлова, И.Г. Лемешкина Волгоградский государственный технический университет, Волгоград
Аннотация: В статье представлено описание сложных объектов с параллельно функционирующими компонентами на основе нейросетевых структур. Нейронная сеть представлена матрицей оператора, то есть формальным описанием, дающим универсальный способ решения многих нестандартных задач управления. Показан матричный аппарат, позволяющий значительно повысить эффективность методики по сравнению с известной ранее. В результате сделан вывод, что представление нейронной сети матрицей оператора дает универсальный способ решения задач управления транспортно-информационными потоками. Предложенные нейроподобные системы дают возможность определить сложные нелинейные зависимости, а также самосовершенствоваться в результате обучения в процессе их использования, что расширяет поле для поиска и реализации эффективных решений задач управления и контроля за потоками.
Ключевые слова: граф, параллелизм, транспортно-информационный поток, нейронная сеть, синаптический вес, предикат, активационная функция, матрица оператора, нейрон, сложные системы.
Для формального описания сложных систем, например, транспортно-информационных потоков, как правило, используются следующие подходы: сети Петри, метод конечных или функциональных автоматов, нейронные сети; метод базирующийся на использовании машин Тьюринга. За основу берется функционирование нейронной сети, а остальные методы используются в качестве вспомогательных. В результате получаем совершенно новый подход построения формального описания сложных систем с совершенно иных позиций, что отражено в других работах авторов [1-5]. Однако, для более эффективной работы нейросети, необходимо представить ее матрицей оператора. Это и будет реализовано в данной работе.
Построение оператора ИНС (искусственная нейронная сеть) разобьём на два этапа: определение структуры («скелета») ИНС и определение функционирования определяющего элемента ИНС - нейрона.
Из существующих архитектур ИНС чаще всего используют однослойные и многослойные сети, рекуррентные сети, полностью связанные сети [6-10]. Эти структуры представляются графами, которые можно записать в виде матрицы инцидентора. Рассмотрим в качестве примера полностью связанную трехслойную прямонаправленная сеть (рис. 1) и матрицу её структуры (рис. 2).
Рис. 1 - Полностью связанная трехслойная прямонаправленная сеть
Функциональным модулем ИНС является искусственный нейрон, который осуществляет преобразования аналогичные живому нейрону. Из известных моделей нейрона (логические, непрерывные и импульсные) рассмотрим непрерывную модель, в которой входные сигналы поступают на синапсы, характеризующиеся своим синаптическим весом (весовым коэффициентом
Входной слой
Скрытый слой
Выходной слой
Рис. 2 - Матрица структуры, полностью связанной трехслойной
прямонаправленной ИНС Различают два вида синапсов:
• возбудительные, когда ^ положительно,
• тормозящие, когда ^ отрицательно.
На линейный сумматор сначала подаются взвешенные входные сигналы, затем результат их сложения поступает на вход блока активационной функции. Блок-схема искусственного нейрона представлена на рис. 3.
Рис. 3 - Блок-схема модели нейрона
J
Математически модель нейрона можно представить следующими уравнениями:
i
= ZWjkzj;
j=1
Sk = Vk + bk ;
Ук =ф(^А);
где z1,z2,...,zl — входные сигналы нейрона,
w1k, w2k,..., wlk — синаптические веса k-го нейрона, vk — выход линейного сумматора, ф( ) — активационная функция, bk — сдвиг,
yk — выходной сигнал нейрона. Представим сдвиг (bk) в виде дополнительного входного сигнала z0=1 и весом w0k=bk. Тогда получаем
l
Sk = Z Wjkzj ,
j=0 J J
а блок-схема искусственного нейрона примет вид
Рис. 4 - Изменённая блок-схема модели нейрона
Каждый нейрон ИНС, функционируя на множестве входных сигналов нейрона 2к = , гк2, -• 1кр ••• 1к1} и множестве синаптических весов к-го
нейрона Wk = , wk2, ••• wkj, ••• wкl}, имеет сдвиг— Ьк, активационную
функцию — фк( ) и выходной сигнал — ук. А вся ИНС функционирует на следующих множествах:
2 = {} - множество входных сигналов,
W = {Wkj } - множество синаптических весов нейронов ИНС,
В = \рк } - множество сдвигов нейронов ИНС,
Ф = }- множество активационных функций нейронов ИНС,
У = {ук }- множество выходов нейронов ИНС.
Следовательно, функционирование ИНС определяется восьмиместным предикатом (три места определяет структура ИНС, а остальные пять вышеперечисленные множества).
Р =
ррС
Р11 Р12 • - РК •• ■Ры
0 Р22 ■ -Р21С ■• Р26
0 0 .. • Ррр •• Ррд
0 0 .. 0. •Р66
Рр£ = I
0 - если вершины Уа и Т неинцидентны,
(уа;1; Т; 1к j,wk j,bk,Pk,Уk) - если вершины Уа и Т
соединены дугой направленной от Уа к Т1,
(Т; т; Т; ч j,wkj,bk,Pk,Уk)- если имеется петля т
при вершине Т■.
Таким образом, любой элемент матрицы оператора ИНС является упорядоченной восьмёркой, образованной из переменных, на которых восьмиместный предикат Р оператора ИНС принимает значение единицы.
В результате сделан вывод, что представление нейронной сети матрицей оператора дает универсальный способ решения задач управления транспортно-информационными потоками. Предложенные нейроподобные системы дают возможность определить сложные нелинейные зависимости, а также самосовершенствоваться в результате обучения в процессе их использования, что расширяет поле для поиска и реализации эффективных решений задач управления и контроля за потоками.
Литература
1. Поляков С.В., Поляков В. С. Моделирование параллельно протекающих процессов блоками взаимодействующих компонентов // Контроль. Диагностика.2008. № 8. С. 70-72.
2. Поляков В. С., Поляков С.В. Моделирование сложных систем с использованием нейроподоных структур // Известия Волгоградского государственного технического университета. 2013. № 13. C. 119-122.
3. Муха Ю.П., Поляков С.В., Поляков В.С. Применение совокупности новых установок, представлений и терминов при моделировании информационных потоков в сложных системах // Телекоммуникации. 2013. № 1. C. 2-5.
4. Нефедьев А.И., Поляков С.В., Поляков В.С. Математическая модель подвески подвижной части электроизмерительного прибора // Инженерный вестник Дона, 2013, №3. URL: ivdon.ru/magazine/archive/n3y2013/1788.
5. Поляков С.В., Поляков В.С., Авдеюк О.А., Наумов В.Ю., Павлова Е.С., Скворцов М.Г. Развитие графовых и матричных способов представления алгоритмов // Инженерный вестник Дона, 2017, №2 URL: ivdon.ru/ru/magazine/archive/N2y2017/4145.
6. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры. Москва: МГТУ им. Н.Э. Баумана, 2002. 320 с.
7. Haykin S. Adaptive filter theory (3rd Edition). Prentice Hall, 1995. 989 p.
8. Tariq Rashid. Make Your Own Mandelbrot. Kindle Edition, 2014.151 p.
9. Hopcroft, John; Motwani, Rajeev; Ullman, Jeffrey. Introduction to Automata Theory, Languages, and Computation. Pearson Education, 2008. 521 р.
10. Kron G. Diakoptics; piecewise solution of large-scale systems. N.Y.: General Electric Co., 1957. 166 р.
References
1. Polyakov S.V., Polyakov V.S. Kontrol'. Diagnostika. 2008. № 8. pp. 70-72.
2. Polyakov V. S., Polyakov S.V. Izvestiya Volgogradskogo gosudarstvennogo tekhnicheskogo universiteta. 2013. № 13. pp. 119-122.
3. Mukha YU.P, Polyakov S.V., Polyakov V.S. Telekommunikacii. 2013. № 1. pp. 2-5.
4. Nefed'ev A.I., Polyakov S.V., Polyakov V.S. Inzenernyj vestnik Dona (Rus), 2013, №3. URL: ivdon.ru/magazine/archive/n3y2013/1788.
5. Polyakov S.V., Polyakov V.S., Avdeyuk O.A., Naumov V.YU., Pavlova E.S., Skvorcov M.G. Inzenernyj vestnik Dona (Rus), 2017, №2. URL: ivdon.ru/ru/magazine/archive/N2y2017/4145.
6. Komarcova L.G., Maksimov A.V. Nejrokomp'yutery [Neurocomputers]. Moskva: MGTU im. N.EH. Baumana, 2002. 320 p.
7. Haykin S. Adaptive filter theory (3rd Edition). Prentice Hall, 1995. 989 p.
8. Tariq Rashid. Make Your Own Mandelbrot. Kindle Edition, 2014.151 p.
9. Hopcroft, John; Motwani, Rajeev; Ullman, Jeffrey. Introduction to Automata Theory, Languages, and Computation. Pearson Education, 2008. 521 р.
10. Kron G. Diakoptics; piecewise solution of large-scale systems. N.Y.: General Electric Co., 1957. 166 р.
