Научная статья на тему 'Использование мемристорных сетей для решения дифференциальных уравнений в частных производных'

Использование мемристорных сетей для решения дифференциальных уравнений в частных производных Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
219
42
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
КЛЕТОЧНАЯ СЕТЬ / CELLULAR NEURAL NETWORK / МЕМРИСТОР / MEMRISTOR / АЛГОРИТМ АДДИТИВНОЙ КОРРЕКЦИИ / ALGORITHM OF ADDITIVE CORRECTION

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Горбаченко Владимир Иванович, Катков Сергей Николаевич

Актуальность и цели. Перспективным направлением построения систем с нейросетевой архитектурой является применение мемристоров. Использование мемристоров означает аналоговую обработку информации на принципиально иной технологической основе. Достоинствами аналоговой обработки информации являются высокая производительность, высокий параллелизм обработки информации, малое потребление энергии, устойчивость к деградации компонентов и отказам. Целью данной работы является исследование возможностей решения краевых задач математической физики, описываемых дифференциальными уравнениями в частных производных (ДУЧП), на мемристорных клеточных нейронных сетях с дискретным представлением времени. Материалы и методы. Мемристоры, являющиеся изделиями наноэлектроники, решают проблему нетехнологичности и громоздкости вычислительных машин. Использование нейронных блоков как второго слоя в архитектуре суперкомпьютера снимает проблему неуниверсальности и недостаточной точности аналогового компьютера. Нейронные сети с успехом применяются не только в областях, традиционно относящихся к искусственному интеллекту и изучению мозга, но и при решении сложных вычислительных задач. Результаты. Рассмотренная клеточная сеть использует метод прямой аналогии. Точность решения, получаемого на сети, определяется точностью аналоговых компонентов. Для многих задач предлагаемые сети могут обеспечить приемлемую точность решения. Следует также отметить устойчивость нейронных сетей по отношению к ошибкам в исходных данных. Погрешности клеточной сети предлагается компенсировать, используя алгоритм аддитивной коррекции. Отличительной особенностью алгоритма является то, что на сети формируется только поправка к решению, а само решение вычисляется в цифровом компьютере. При обеспечении сходимости процесса обучения и его устойчивости к аппаратным погрешностям алгоритм аддитивной коррекции обеспечивает точность, принципиально ограниченную лишь возможностями цифрового компьютера. Выводы. Предлагаемый алгоритм рассматривается как предобусловленный итерационный процесс, а клеточная сеть как аппаратно реализованный предобусловливатель. Реализация вычислительной системы, содержащей мемристорную сеть, предлагается в виде двухслойной архитектуры. Нижний слой представляет собой мемристорную сеть, верхний параллельную цифровую систему.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

USE OF MEMRISTOR NETWORKS FOR THE SOLUTION OF PARTIAL DIFFERENTIAL EQUATIONS

Background. The perspective direction of creation of systems with neural network architecture is use of memristors. Use of memristors means analog information processing on essentially other technological basis. Advantages of analog information processing are high performance, high parallelism of information processing, low energy consumption, resistance to degradation of components and failures. The purpose of this operation is the research of opportunities of the solution of the boundary value problems of mathematical physics described by partial differential equations (PDEs) on memristor cellular neural networks with the discrete representation of time. Materials and methods. The memristors which are nanoelectronics products solve a problem of not technological effectiveness and bulkiness of computers. Use of neural units as second layer in architecture of a supercomputer, removes a problem of not universality and insufficient accuracy of the analog computer. Neural networks with success are applied not only in the areas which are traditionally relating to an artificial intelligence and a study of a brain but also in case of the decision of complex computing challenges... Background. The perspective direction of creation of systems with neural network architecture is use of memristors. Use of memristors means analog information processing on essentially other technological basis. Advantages of analog information processing are high performance, high parallelism of information processing, low energy consumption, resistance to degradation of components and failures. The purpose of this operation is the research of opportunities of the solution of the boundary value problems of mathematical physics described by partial differential equations (PDEs) on memristor cellular neural networks with the discrete representation of time. Materials and methods. The memristors which are nanoelectronics products solve a problem of not technological effectiveness and bulkiness of computers. Use of neural units as second layer in architecture of a supercomputer, removes a problem of not universality and insufficient accuracy of the analog computer. Neural networks with success are applied not only in the areas which are traditionally relating to an artificial intelligence and a study of a brain but also in case of the decision of complex computing challenges. Results. The considered cellular network uses a method of direct analogy. Accuracy of the decision received on a network is defined by the accuracy of analog components. For many tasks the offered networks can provide the acceptable decision accuracy. It is also necessary to mark stability of neural networks in relation to errors in basic data. The error of a cellular network is offered to be compensated, using an algorithm of additive correction. Distinctive feature of an algorithm is that on a network only the correction to the decision is created, and the decision is calculated in the digital computer. In case of support of convergence of training activity and its resistance to the hardware errors an algorithm of additive correction provides the accuracy which is essentially restricted only to opportunities of the digital computer. Conclusions. The offered algorithm is considered as the precaused iterative process, and a cellular network as the hardwired predobuslovlivatel. Implementation of the computing system containing a memristor network is offered in the form of two-layer architecture. The low layer represents a memristor network, upper parallel digital system. function show_eabstract() { $('#eabstract1').hide(); $('#eabstract2').show(); $('#eabstract_expand').hide(); } ▼Показать полностью

Текст научной работы на тему «Использование мемристорных сетей для решения дифференциальных уравнений в частных производных»

УДК 004.032.26

ИСПОЛЬЗОВАНИЕ МЕМРИСТОРНЫХ СЕТЕЙ ДЛЯ РЕШЕНИЯ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ В ЧАСТНЫХ ПРОИЗВОДНЫХ1

В. И. Горбаченко, С. Н. Катков

USE OF MEMRISTOR NETWORKS FOR THE SOLUTION OF PARTIAL DIFFERENTIAL EQUATIONS

V. I. Gorbachenko, S. N. Katkov

Аннотация. Актуальность и цели. Перспективным направлением построения систем с нейросетевой архитектурой является применение мемристоров. Использование мемристоров означает аналоговую обработку информации на принципиально иной технологической основе. Достоинствами аналоговой обработки информации являются высокая производительность, высокий параллелизм обработки информации, малое потребление энергии, устойчивость к деградации компонентов и отказам. Целью данной работы является исследование возможностей решения краевых задач математической физики, описываемых дифференциальными уравнениями в частных производных (ДУЧП), на мемристорных клеточных нейронных сетях с дискретным представлением времени. Материалы и методы. Мемристоры, являющиеся изделиями наноэлектроники, решают проблему нетехнологичности и громоздкости вычислительных машин. Использование нейронных блоков как второго слоя в архитектуре суперкомпьютера снимает проблему неуниверсальности и недостаточной точности аналогового компьютера. Нейронные сети с успехом применяются не только в областях, традиционно относящихся к искусственному интеллекту и изучению мозга, но и при решении сложных вычислительных задач. Результаты. Рассмотренная клеточная сеть использует метод прямой аналогии. Точность решения, получаемого на сети, определяется точностью аналоговых компонентов. Для многих задач предлагаемые сети могут обеспечить приемлемую точность решения. Следует также отметить устойчивость нейронных сетей по отношению к ошибкам в исходных данных. Погрешности клеточной сети предлагается компенсировать, используя алгоритм аддитивной коррекции. Отличительной особенностью алгоритма является то, что на сети формируется только поправка к решению, а само решение вычисляется в цифровом компьютере. При обеспечении сходимости процесса обучения и его устойчивости к аппаратным погрешностям алгоритм аддитивной коррекции обеспечивает точность, принципиально ограниченную лишь возможностями цифрового компьютера. Выводы. Предлагаемый алгоритм рассматривается как предобусловленный итерационный процесс, а клеточная сеть - как аппаратно реализованный предобусловли-ватель. Реализация вычислительной системы, содержащей мемристорную сеть, предлагается в виде двухслойной архитектуры. Нижний слой представляет собой мемристорную сеть, верхний - параллельную цифровую систему.

Ключевые слова: клеточная сеть, мемристор, алгоритм аддитивной коррекции.

Abstract. Background. The perspective direction of création of systems with neural network architecture is use of memristors. Use of memristors means analog information processing on essentially other technological basis. Advantages of analog information processing are high performance, high parallelism of information processing, low energy con-

1 Работа поддержана грантами РФФИ 16-08-00906, 14-01-00660 и 14-01-00733.

97

sumption, resistance to degradation of components and failures. The purpose of this operation is the research of opportunities of the solution of the boundary value problems of mathematical physics described by partial differential equations (PDEs) on memristor cellular neural networks with the discrete representation of time. Materials and methods. The memristors which are nanoelectronics products solve a problem of not technological effectiveness and bulkiness of computers. Use of neural units as second layer in architecture of a supercomputer, removes a problem of not universality and insufficient accuracy of the analog computer. Neural networks with success are applied not only in the areas which are traditionally relating to an artificial intelligence and a study of a brain but also in case of the decision of complex computing challenges. Results. The considered cellular network uses a method of direct analogy. Accuracy of the decision received on a network is defined by the accuracy of analog components. For many tasks the offered networks can provide the acceptable decision accuracy. It is also necessary to mark stability of neural networks in relation to errors in basic data. The error of a cellular network is offered to be compensated, using an algorithm of additive correction. Distinctive feature of an algorithm is that on a network only the correction to the decision is created, and the decision is calculated in the digital computer. In case of support of convergence of training activity and its resistance to the hardware errors an algorithm of additive correction provides the accuracy which is essentially restricted only to opportunities of the digital computer. Conclusions. The offered algorithm is considered as the precaused iterative process, and a cellular network - as the hardwired predobuslovlivatel. Implementation of the computing system containing a memristor network is offered in the form of two-layer architecture. The low layer represents a memristor network, upper - parallel digital system.

Key words, cellular neural network, memristor, algorithm of additive correction.

Введение

Решение краевых задач на клеточных сетях ведет свою историю от сеточных моделей (электрических моделирующих сеток). Достоинствами аналоговой обработки информации являются высокая производительность, высокий параллелизм обработки информации, малое потребление энергии, устойчивость к деградации компонентов и отказам. Кроме того, аналоговые компьютеры основаны на явлении аналогии и позволяют получить с приемлемой точностью решение плохо обусловленных задач, решение которых на цифровых компьютерах требует больших затрат времени или вообще не может быть получено. Недостатками аналоговых вычислительных машин, которые привели к переходу от аналоговой к цифровой технике, являлись низкая технологичность элементной базы, недостаточная точность решения и неуниверсальный характер аналоговых компьютеров.

В настоящее время в области решения краевых задач в определенной степени «преемниками» сеточных моделей являются клеточные нейронные сети (CNN - Cellular Neural Networks). Но CNN по своим возможностям и областям применения значительно шире сеточных моделей.

1. Клеточные нейронные сети

Клеточные (ячеистые) нейронные сети (CNN - Cellular Neural Networks) были предложены в 1988 г. Л. О. Чуа (Leon Ong Chua) и Л. Янгом (Lin Yang) из Калифорнийского университета в Беркли (University of California, Berkeley) [1].

Клеточная нейронная сеть - это система простых процессоров (cell -ячеек), расположенных на регулярной сетке и связанных между собой в од-

ном или более слоях. Любая ячейка в клеточной нейронной сети связана только с соседними ячейками в соответствии с шаблоном. Шаблон ячейки С i, j - это множество (окрестность) N г, у ячеек С k,1 , с которыми связана ячейка С i, у , и веса связей ячейки с соседними ячейками. Вес связи (синаптический вес) определяется значениями коэффициентов обратной связи (параметрами шаблона) gA г,у;к,1 между выходами иуШ t ячеек, входящих в шаблон, и входами ячейки С г, у . В шаблон также входят внешние входы иик1 t и коэффициенты управления gB г,у;к,I (параметры входного шаблона), а также смещение zij . Пример двумерной клеточной нейронной сети, соответствующей пятиточечному шаблону, показан на рис. 1. Теоретически можно определить клеточную нейронную сеть любого измерения и с произвольным шаблоном, но для простоты ограничимся двумерным случаем. Рассмотрим М х N клеточную нейронную сеть, имея М х N ячеек, построенных в М рядов (строк) и N колонок (столбцов).

С г- 1,7 + 1 С<7 + С С<+1,7 + С

с<- и: СС Р с<+и:

с<-и-Г С< у -с С<+и-С

Рис. 1. Пример структуры клеточной нейронной сети

Работа клеточной сети основана на динамическом обновлении состояния ячеек путем вычисления взвешенной суммы состояний соседей. Уравнение состояния ячейки с непрерывным представлением времени имеет вид [1]

--Т- '/г»,; I + 8 А иг,к,1 иуЫ ? +

С к,1 еЛ? г,У

Е

игХ1 иик1 г +г„,

(1)

С к,1 <еЫ г,/

где иХу t - переменная состояния ячейки; dij - числовой коэффициент (в электрической схеме ячейки - входное сопротивление ячейки); иуЫ t -выход ячейки, входящей во множество N г,у ячеек шаблона; gA г,у;к,I -синаптический вес, соединяющий ячейки С г,у и С к,1 ; ииЫ t - вход ячейки; gB г,у;к,I - коэффициент управления; ^ - смещение.

Относительно параметров сети примем следующие предположения:

Состояние ячеек и веса связей являются непрерывными значениями. При решении дифференциальных уравнений в частных производных (ДУЧП) на клеточных сетях [2] обычно исключают шаблон управления и используют линейную функцию активации: «п/ = иХ1, .

В клеточных нейронных сетях с дискретным представлением времени [2] производная по времени в уравнении (1) аппроксимируется по формуле

йЧу { _Ыху 1 ~иху I-1

л м

где А/ - шаг по времени.

Тогда с учетом сделанных предположений уравнение (1) запишется в

виде

1

--+ <

М

ищ

* + Е 8а иуы * =~

С к,1 еЫ 1,]

• (2)

В клеточной сети с дискретным представлением времени состояния сети изменяются в дискретные моменты времени.

2. Решение на клеточной нейронной сети систем разностных уравнений

Несложно показать [2], что система алгебраических уравнений (2) связана масштабными коэффициентами с системой разностных уравнений, аппроксимирующей по неявной схеме ДУЧП с различными граничными условиями. Действительно, пусть в некоторой двумерной области О решается ДУЧП

^ = (3)

где Ь - линейный дифференциальный оператор.

На границе области О заданы граничные условия и начальные условия при 1 = 0. Заменяя входящие в Ьм> (3) производные разностными отношениями, получим разностное выражение , являющееся линейной комбинацией значений сеточной функции wh на некотором множестве М ху узлов сетки - сеточном шаблоне

Ц^и 1}= X аь ^ % ,

где ак х у, хк1 - коэффициенты, значения которых зависят от конкретной формы разностной аппроксимации; И - шаг сетки; М I, у - шаблон в узле х у.

Такую же форму имеет аппроксимация граничных условий. Соотношение справедливо для произвольной размерности области решения. Применяя неявную аппроксимацию производной по времени в (3), получаем

= Е *>Г>к>1 М'к ХкЬ' ,

или

X

Ху

-1 + Е ак *>У,к,1 Ц'к ХкЬ{ =-~™>г Ху><~1 -(4)

В (4) суммирование проводится по «окрестности» узла ху . При условии равенства шаблонов клеточной сети и разностной схемы выражения (2) и (4) подобны, если связать параметры разностной схемы и клеточной сети масштабными соотношениями

gA г,у,к,1 =тгак г,у,к,1 , gt

Ы

1

■+«А '-.Л'-./

1

7 =2']+~&их1] =т,^к ХЧ>*~1 ' и *>]>*-1 ХУ^~1 • (5)

ХЫШ хд

хк1Ш ХЦ

Связи ячейки с соседними ячейками с помощью пассивных проводимо-стей возможны, если коэффициенты ак г,у;г,у и ак г,у;k,I имеют разные знаки при к Фг и / Ф / и выполняется неравенство /:/./ |> ^ |аА ¡.¡:к.1 |, что, как правило, справедливо для разност-

лы

ХЫ *ху

ных схем. Тогда выход клеточной сети связан с сеточной функцией соотношением ти и'Л х(/./ = «17/ / , причем должен выполняться индикатор подобия

т§ти1т^= 1. Синаптический вес моделируется электрической проводимостью, смещение - током, а выход сети - напряжением. Отсюда т^, тг и тм -

соответственно, масштабы по проводимости, току и напряжению.

Так как переход к сети с дискретным представлением времени основан на неявной схеме аппроксимации, то клеточная сеть с дискретным представлением времени является абсолютно устойчивой при любых значениях шагов по пространству и времени. Клеточная нейронная сеть с дискретным представлением времени проще сети с непрерывным представлением времени, позволяет использовать итерационную настройку параметров при решении нелинейных задач и, как будет показано ниже, позволяет уточнять на цифровых процессорах решение, полученное на аналоговых сетях. Для двумерной сети (см. рис. 1) возможные варианты ячеек, построенных по выражениям (5), показаны на рис. 2 и 3. Полученные результаты легко распространяются на случай стационарных задач.

U i

j

и i +1, j

U i,j,t-1

Рис. 2. Схема ячейки мемристорной сети с управляемым источником напряжения

U i

W

Рис. 3. Схема ячейки мемристорной сети с управляемым источником тока

3. Использование мемристоров в клеточных сетях

Очень перспективным направлением реализации нейронных сетей является использование нового элемента электронных схем - мемристора (англ. memristor, от memory - память, resistor - электрическое сопротивление). Еще в 1971 г. Леон Чуа теоретически предложил новый двухэлектродный элемент, названный «мемристор» [3]. Но только в 2008 г. фирма Hewlett-Packard реализовала мемристор в виде микросхемы. Л. Чуа выдвинул и математически обосновал гипотезу о том, что, наряду с индуктивностью, конденсатором и резистором, должен быть четвертый базовый элемент электрических цепей. Л. Чуа исходил из того, что должны быть соотношения, связывающие все четыре основные переменные электрических цепей: ток i, напряжение и, заряд q и магнитный поток Ф . Всего таких соотношений может быть шесть. Пять из них хорошо известны:

du i da и d Ф i

R i =——,C q =——,L Ф =-

di

du

di

dq t dO i A t =-, m t =-

dt

dt

где и t nit - переменные напряжение и ток, q t и Ф t - заряд и магнитный поток, R /' , С q и /, Ф - сопротивление, емкость и индуктивность, зависящие, соответственно, от величины тока, заряда и магнитного потока.

Л. Чуа предположил, что должно существовать шестое соотношение, связывающее магнитный поток с зарядом:

с/Ф а

М q

dq

d® t dq ^ V

откуда -=M q —, или и t =М q i t . Так как q t = \i x dx,

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

dt dt 2

то недостающий элемент - мемристор - описывается выражением

( t \

i t ,

и t =Мх dx

где М называется мемрезистивностью (общепринятого перевода нет, англ. memristance).

Мемрезистивность зависит от тока. Мемристор является нелинейным элементом с памятью. Современные мемристоры реализуются средствами на-ноэлектроники [4]. Мемристор можно рассматривать как управляемый резистор, причем он может работать и как цифровой элемент памяти, находящийся в одном из двух состояний (с малым или высоким сопротивлением), и как управляемый резистор. Установка требуемых значений проводимости мемри-сторов может быть реализована путем подачи на мемристор импульса постоянного напряжения заданной величины и заданной длительности. Очень важно, что состояние мемристора сохраняется при отключении питания.

Поэтому мемристоры перспективны в качестве запоминающих и логических элементов и управляемых резисторов. В частности, мемристоры как переменные резисторы очень перспективны в качестве синапсов нейронных сетей [4, 5]. Разработаны различные схемы реализации синапсов с использованием мемристоров [4-7]. В частности, мостовая схема соединения мемри-сторов, предложенная в [6], обеспечивает реализацию положительных и отрицательных значений весовых коэффициентов нейронной сети. В [7] предложена реализация на мемристорах весов клеточных нейронных сетей.

Использование мемристоров означает возврат к аналоговым методам обработки информации, но на принципиально иной технологической основе. Мемристоры, являющиеся изделиями наноэлектроники, решают проблему нетехнологичности и громоздкости старых аналоговых машин. Использование нейронных блоков как второго слоя в архитектуре суперкомпьютера [2] снимает проблему неуниверсальности и, как будет показано ниже, недостаточной точности аналогового компьютера.

Синаптические веса клеточной сети (gA и gt в (5)) могут быть реализованы с помощью мемристоров [8]. Согласно [9] мемристоры можно разделить на два класса - «цифровые» и «аналоговые». В «цифровых» мемристо-

рах сопротивление практически не меняется, если напряжение на мемристоре не превышает некоторого порога, зависящего от материала мемристора. При превышении порога сопротивление быстро изменяется (за наносекунды), и величиной этого изменения можно управлять, подбирая длительность и амплитуду импульса напряжения. В «аналоговых» мемристорах изменение сопротивления является постепенной функцией приложенного смещения. Таким образом, «цифровые» мемристоры можно использовать при постоянных напряжениях, если они не превышают порога. Сопротивление мемристоров можно регулировать, подавая импульсы амплитудой V выше или ниже пороговых значений Кпорог и -Vnopor и длительностью т . Длительность импульса

рассчитывают исходя из знания максимальной Gmax и минимальной Gmin проводимостей мемристоров, которые сильно различаются в зависимости от материала мемристора. Отображение синаптических весов сети gA и gt непосредственно в проводимости мемристоров производится с помощью масштабного соотношения [4]

G, , _ёлШ)-ёл min (Г^ \ |

А ~-v max — min) min'

gA max min

аналогично масштабируются величины gt i,j , где gAmin< gA(i,j)<gAmilx и

Sfmin — 8t(i?J) — Sfmax •

Тогда клеточная сеть представляет собой сеть из мемристоров, реализующих синаптические веса gA и соединенных в соответствии с шаблоном сети. Узлы сети соединены мемристорами, реализующими gt, с общей точкой («землей») сети. К узлам сети должны быть подключены схемы задания тока Ijj и схемы измерения узловых напряжений. Мемристоры могут также

выполнять функции аналоговой памяти и коммутирующих элементов. Это позволяет построить аналоговую клеточную сеть на современной наноэлек-тронной базе. Сеть представляет собой аналоговую параллельную систему с очень высокой производительностью. Теоретически решение формируется за время, определяемое переходными процессами в наноэлектронных схемах. Сеть должна быть также снабжена системой измерения решения в произвольных ячейках, системой подготовки данных, хранения и обработки решения. Таким образом, архитектура вычислительной системы, включающей клеточную мемристорную сеть, должна быть двухслойной: первый (внутренний) слой - мемристорная сеть, второй (внешний) слой - система параллельно работающих процессоров подготовки данных и обработки результатов. Второй слой должен иметь архитектуру и реализацию, которые обеспечивают высокоскоростную обработку данных. В противном случае преимущества мемристорной реализации клеточной сети не будут реализованы. Во втором слое также перспективным является применение мемристоров, например, в качестве запоминающих элементов.

4. Использование аддитивной коррекции

Рассмотренная клеточная сеть реализует метод прямой аналогии. Точность решения, получаемого на сети, определяется точностью аналоговых

компонентов. Считается, что аналоговая техника обеспечивает низкую точность решения. Однако следует учитывать, что исходные данные задачи, как правило, задаются приближенно. Поэтому решение задачи до малых значений формальных показателей точности (например, нормы невязки) не всегда оправдано. Для плохо обусловленных задач, каковыми являются многие реальные задачи, малые значения формальных показателей точности не гарантируют действительную точность решения. Поэтому для многих задач предлагаемые сети могут обеспечить приемлемую точность решения. Следует также отметить устойчивость нейронных сетей по отношению к ошибкам в исходных данных.

Погрешности клеточной сети можно компенсировать, используя алгоритм аддитивной коррекции [2, 10, 11]. Отличительной особенностью алгоритма является то, что на сети формируется только поправка к решению, а само решение вычисляется в цифровом компьютере. При обеспечении сходимости процесса обучения и его устойчивости к аппаратным погрешностям алгоритм аддитивной коррекции обеспечивает точность, принципиально ограниченную лишь возможностями цифрового компьютера. Для описания алгоритма используем матричное описание сети. Система разностных уравнений может быть представлена в матричной форме в виде системы линейных алгебраических уравнений Алу = Ь . Если последовательно пронумеровать ячейки сети, то система (2) может быть записана в виде системы линейных алгебраических уравнений: Си = I, причем из-за погрешностей сети С ® т А. и при принятых допущениях матрица в является симметричной

положительно определенной. Матрица в является матрицей проводимостей синаптических весов межклеточных соединений, вектор 1 = тгЪ - вектор токов, подаваемых в узлы сети, вектор и = ти\у - вектор напряжений выхода сети. Фактически сеть моделирует не матрицу А , а матрицу В = 1/«?,, С .

Алгоритм аддитивной коррекции представляет собой итерационный процесс решения системы Алу - Ь . Начальным приближением является решение, полученное на сети. На к-м шаге алгоритма в цифровой части двухслойной системы рассчитывается вектор невязки гк = Ь — А\у ' и масштаб

к Т

по току я?, = /п

к

где I - максимальный по абсолютной величине

ток, который можно задавать в сети (используется кубическая норма вектора невязки). В методе аддитивной коррекции принципиально важно использовать весь диапазон изменения токов смещения. Рассчитывается вектор токов

смещения I к = тк г к и задается в сеть. На моделирующей сети формируется вектор напряжений поправки к решению, который формально можно

описать матричным равенством Ди к = С-1! к . В цифровой части после де-масштабирования вычисляется вектор поправки к решению

к = т,к Ли к = В 'г к и формируется новое приближение решения

Д\у( ', где ®к - подбираемый или вычисляемый, например, одним из методов спуска, итерационный параметр.

Процесс продолжается до тех пор, пока не будет получено малое значение нормы невязки. Рассмотренный алгоритм можно трактовать как предобуслов-ленный итерационный процесс [12], а клеточную сеть - как аппаратно реализованный предобусловливатель. В [2] получены условия сходимости процесса и доказана устойчивость процесса к погрешностям задания токов и измерения на-пряженнй. Для положительно определенной матрицы А необходимое и достаточное условие сходимости имеет вид (для постоянного параметра о)

2В-соА х,х >0 . (6)

Выполнение условия (6) обеспечивается выбором масштаба по проводимости и параметра со . При одинаковых шаблонах разностной схемы и клеточной сети достаточное условие сходимости имеет вид

gA i,j',k,l > 0,5owzg \ah i,j',k,l |, gt i,j >0,5owzg

1

— + ah i.j:i.j x

Важно, что из-за близости матрицы предобусловливателя B к матрице A для уточнения решения требуется небольшое число итераций [2].

Устойчивость итерационного процесса к погрешностям задания параметров клеточной сети обеспечивается использованием переменного масштаба по току.

Рассматривая клеточную сеть как аппаратно реализованный предобу-словливатель, можно построить различные итерационные методы, в том числе методы подпространств Крылова [12], например, метод сопряженных градиентов. В некоторых задачах матрица A является несимметричной и знаконеопределенной. В этом случае можно рекомендовать использовать один из методов подпространств Крылова - предобусловленный устойчивый алгоритм бисопряженных градиентов (Preconditioned BiCGSTAB) [12].

Для решения нелинейных задач можно использовать итерационный алгоритм с пересчетом нелинейных параметров задачи на каждом временном шаге. На каждой итерации на сети решается задача со своими параметрами, причем можно не изменять параметры сети, а использовать аддитивную коррекцию.

Если размеры сеточной области превышают размеры клеточной сети, то можно использовать блочные, в том числе асинхронные блочные методы [12].

Заключение

Таким образом, решение дифференциальных уравнений в частных производных возможно на аналоговых клеточных мемристорных сетях с дискретным представлением времени. Реализация вычислительной системы, содержащей мемристорную сеть, целесообразна в виде двухслойной архитектуры. Нижний слой представляет собой мемристорную сеть, верхний - параллельную цифровую систему.

Список литературы

1. Chua, L. Cellular Neural Networks: Theory / L. Chua, L. Yang // IEEE Transactions on Circuits and Systems. - 1988. - Vol. 35, № 10. - P. 1257-1272.

2. Горбаченко, В. И. Нейрокомпьютеры в решении краевых задач теории поля / В. И. Горбаченко. - М. : Радиотехника, 2003. - 336 с.

3. Chua, Leon O. Memristor - The Missing Circuit Element / Leon O. Chua // IEEE Transactions on Circuits Theory. - 1971. - Vol. 18, № 5. - P. 507-519.

4. Tarkov, M. S. Mapping Weight Matrix of a Neural Network's Layer onto Memristor Crossbar / M. S. Tarkov // Optical Memory and Neural Networks (Information Optics). -2015. - Vol. 24, № 2. - P. 109-115.

5. Thomas, A. Memristor-based neural networks / A. Thomas // Journal of Physics D: Applied Physics. - 2013. - Vol. 46, № 9. - URL: http://iopscience.iop.org/article/ 10.1088/0022-3727/46/9/093001/pdf;j sessionid = 2D114EB9C5F3D9084B943975AEC A3FD2.c3.iopscience.cld.iop.org (дата обращения: 20.10.2016).

6. Memristor Bridge Synapse-Based Neural Network and Its Learning / S. P. Adhikari, C. Yana, H. Kim, L. O. Chua // IEEE Transactions on Neural Networks fnd Learning Systems. - 2012. - Vol. 23, № 9. - P. 1426-1435.

7. Kim, Y.-S. Synaptic Weighting Circuits for Cellular Neural Networks / Y.-S. Kim, K.-S. Min // 13 th International Workshop on Cellular Nanoscale Networks and Their Applications (29-31 August, 2012). - Turin, Italy, 2012. - P. 1-6.

8. Laiho, M. Memristive analog arithmetic within cellular arrays / M. Laiho, L. Lehtonen // 2012 IEEE International Symposium on Circuits and Systems (ISCAS). - Seoul, 2012. -P. 2665-2668.

9. Two-terminal resistive switches (memristors) for memory and logic applications / W. Lu., K.-H. Kim, T. Chang, S. Gaba // 16th Asia and South Pacific Design Automation Conference (ASP-DAC 2011) (Yokohama, 25-28 Jan., 2011). - Yokohama, 2011. -P. 217-223.

10. Горбаченко, В. И. Оценка влияния аналогового приближения на сходимость итерационного процесса решения краевых задач / В. И. Горбаченко, С. Н. Катков, В. А. Мирошкин // Вопросы радиоэлектроники. - 1985. - Вып. 8. - С. 40-43.

11. Gorbachenko, V. I. Solving of nonlinear partial differential equations by using neural network / V. I. Gorbachenko, S. N. Katkov, G. F. Oubiennykh // 1996 International symposium on nonlinear theory and its applications (NOLTA'96) (Kochi, Japan, 7-9 Oct., 1996). - Kochi, 1996. - P. 401-404.

12. Горбаченко, В. И. Вычислительная линейная алгебра с примерами на MATLAB / В. И. Горбаченко. - СПб. : БХВ-Петербург, 2011. - 320 с.

Горбаченко Владимир Иванович доктор технических наук, профессор, заведующий кафедрой компьютерных технологий,

Пензенский государственный

университет

E-mail: gorvi@mail.ru

Катков Сергей Николаевич старший преподаватель, кафедра экономической кибернетики, Пензенский государственный университет

E-mail: skat.pnz@yandex.ru

Gorbachenko Vladimir Ivanovich doctor of technical sciences, professor, head of sub-department of computer technology, Penza State University

Katkov Sergey Nikolayevich senior lecturer,

sub-department of economic cybernetics, Penza State University

УДК 004.032.26 Горбаченко, В. И.

Использование мемристорных сетей для решения дифференциальных уравнений в частных производных / В. И. Горбаченко, С. Н. Катков // Модели, системы, сети в экономике, технике, природе и обществе. - 2016. - № 4 (20). - С. 97-107.

i Надоели баннеры? Вы всегда можете отключить рекламу.