МОДЕЛИРОВАНИЕ НЕЙРОСЕТЕВОЙ СТРУКТУРЫ ИЗМЕРИТЕЛЬНОГО ПРЕОБРАЗОВАТЕЛЯ Текст научной статьи по специальности «Компьютерные и информационные науки»

TECHNOLOGY, ENGINEERING

UDC 004.032.26

Dragina O.G., Monahov D.R., Menkov A.M. Modeling of the neural network structure of a measuring transducer

Моделирование нейросетевой структуры измерительного преобразователя

Dragina Olga Gennadievna

Candidate of Technical Sciences, Associate Professor Head of the Department «Technology, Equipment and Automation of Machine-building

industries»,

Monahov Danila Romanovich

Student

Menkov Alexander Mikhailovich

Student

Yegoryevsk Institute of technology (branch) Moscow State University of Technology «STANKIN»

Yegoryevsk, Russia Драгина Ольга Геннадьевна Кандидат технических наук, доцент Заведующий кафедрой «Технология, оборудование и автоматизация

машиностроительных производств» Монахов Данила Романович Студент

Меньков Александр Михайлович

Студент

Егорьевский технологический институт (филиал) ФГБОУ ВО МГТУ «СТАНКИН» Егорьевск, Россия

Abstract. The article develops a mathematical model of analog-to-digital phase conversion in order to reduce sampling in digital display units embedded in measuring systems. All mathematical calculations and graphs illustrating the effectiveness of the created mathematical model are presented in detail.

Keywords: neural network, measuring converter, signal, artificial intelligence, mathematical modeling. Аннотация. В статье разработана математическая модель аналого-цифрового преобразования фазы с целью уменьшения дискретизации отсчета в блоках цифровой индикации, встраиваемых в измерительные системы. Подробно представлены все математические вычисления и графики, иллюстрирующие эффективность созданной математической модели.

Ключевые слова: нейронная сеть, измерительные преобразователь, сигнал, искусственный интеллект, математическое моделирование.

БОГТа54092/2542Т085_2022_Т02_27

Рецензент: Сагитов Рамиль Фаргатович, кандидат технических наук, доцент, заместитель директора по научной работе в ООО «Научно-исследовательский и проектный институт экологических проблем», г. Оренбург

Искусственный интеллект (ИИ) дает возможность оптимизировать миллионы параметров и одновременно влиять на развитие целых индустрий. Задачей в перспективе текущего десятилетия станет массовое внедрение искусственного интеллекта, которое должно охватить все отрасли экономики, социальной сферы и систему госуправления. ИИ, как научное направление, связанное с попытками формализовать мышление человека, имеет очень длительную историю. Ещё Платон, Аристотель, Р.Декарт, Г.В.Лейбниц, Дж. Буль и многие другие исследователи на уровне современных им знаний стремились описать мышление как совокупность некоторых элементарных знаний, правил и процедур. Первые шаги кибернетики были направлены на изучение и осмысление процессов, протекающих в сложных, прежде всего живых системах, включая и мыслящие. Исследования имели ярко выраженный познавательный характер. Но уже тогда стали появляться разработки, направленные на воспроизведение в ЭВМ определённых процессов и феноменов мышления. Одно из направлений ИИ рассматривает данные о нейрофизических и психологических механизмах интеллектуальной деятельности, а в более широком смысле - разумном поведении человека. В большей части исследований этого направления непосредственным объектом моделирования являются структуры и процессы в нервной системе человека. При модельном подходе к изучению нервной системы в поле зрения исследователя в первую очередь оказываются отдельные нервные клетки -нейроны и структуры из взаимосвязанных клеток - нейронные сети [1,6].

Нервная система и мозг человека состоят из нейронов, соединенных между собой нервными волокнами. Нервные волокна способны передавать электрические импульсы между нейронами. Все процессы передачи раздражений от нашей кожи, ушей и глаз к мозгу, процессы мышления и управления действиями - все это реализовано в живом организме как передача электрических импульсов между нейронами. Рассмотрим строение биологического нейрона. Каждый нейрон имеет отростки нервных волокон двух типов - дендриты, по которым принимаются импульсы, и единственный аксон, по которому нейрон может передавать импульс. Аксон контактирует с дендритами других нейронов через специальные образования -синапсы/, которые влияют на силу импульса. Можно считать, что при прохождении синапса сила импульса меняется в определенное число раз, которое мы будем называть весом синапса. Импульсы, поступившие к нейрону одновременно по нескольким дендритам, суммируются. Если суммарный импульс превышает некоторый порог, нейрон возбуждается, формирует собственный импульс и передает его далее по аксону.

Важно отметить, что веса синапсов могут изменяться со временем, а значит, меняется и поведение соответствующего нейрона.

Нетрудно построить математическую модель описанного процесса. Рассмотрим нейрон с тремя входами (дендритами), причем синапсы этих дендритов имеют веса ш2, ш3. Пусть к синапсам поступают импульсы силы х1, х2, х3 соответственно, тогда после прохождения синапсов и дендритов к нейрону поступают импульсы ш1х1, ш2х2, ш3х3. Нейрон преобразует полученный суммарный импульс х=ш1х1+ ш2х2+ ш3х3 в соответствии с некоторой передаточной функцией ^х). Сила выходного импульса равна у=(х)=(ш1х1+ ш2х2+ ш3х3) [2].

Таким образом, нейрон полностью описывается своими весами шк и передаточной функцией (х). Получив набор чисел (вектор) хкв качестве входов, нейрон выдает некоторое число у на выходе.

Нейровычислительное устройство - это система, в максимальной степени ориентированная на реализацию нейросетевых алгоритмов. Для того, чтобы лучше использовать достоинства ИНС в реальных прикладных задачах и сделать их конкурентоспособными по отношению к традиционным методам, разработаны следующие специализированные альтернативные реализации:

1. Программные пакеты, установленные на ПЭВМ;

2. Платы, ускоряющие работу ПЭВМ и рабочих станций;

3. Аналоговые цифровые процессоры, созданные для нейронных сетей. [3]

Искусственная нейронная сеть (ИНС, нейросеть) - это набор нейронов, соединенных между собой. Как правило, передаточные функции всех нейронов в сети фиксированы, а веса являются параметрами сети и могут изменяться. Некоторые входы нейронов помечены как внешние входы сети, а некоторые выходы - как внешние выходы сети. Подавая любые числа на входы сети, мы получаем какой-то набор чисел на выходах сети. Таким образом, работа нейросети состоит в преобразовании входного вектора в выходной вектор, причем это преобразование задается весами сети.

Практически любую задачу можно свести к задаче, решаемой нейросетью. Вопрос построения ИНС решается в два этапа: выбор типа (архитектуры) сети; подбор весов (обучение) сети.

На первом этапе следует выбрать следующее:

• какие нейроны мы хотим использовать (число входов, передаточные функции);

• каким образом следует соединить их между собой;

• что взять в качестве входов и выходов сети.

Эта задача на первый взгляд кажется необозримой, но, к счастью, нам необязательно придумывать нейросеть «с нуля» - существует несколько десятков различных нейросетевых архитектур, причем эффективность многих из них доказана математически. Наиболее популярные и изученные архитектуры - это многослойный персептрон, нейросеть с общей регрессией, сети Кохонена и другие [12-15].

На втором этапе нам следует «обучить» выбранную сеть, то есть подобрать такие значения ее весов, чтобы сеть работала нужным образом В используемых на практике нейросетях количество весов может составлять несколько десятков тысяч, поэтому обучение - действительно сложный процесс.

Для обучения нейронных сетей применяются алгоритмы двух типов (разные архитектуры используют разные типы обучения): управляемое («обучение с учителем») и неуправляемое («без учителя»). Чаще всего применяется обучение с учителем. Для управляемого обучения сети пользователь должен подготовить набор обучающих данных. Этот набор представляет собой набор наблюдений, для которых указаны значения входных и выходных переменных. Какие переменные использовать и сколько (и каких) наблюдений собрать - основной вопрос для проектировщика нейросети, решение которого зависит от опыта работы в данной предметной области. Известен ряд эвристических правил, увязывающий число необходимых наблюдений с размерами сети (простейшее из них гласит, что число наблюдений должно быть в десять раз больше числа связей в сети). С ростом количества переменных количество требуемых наблюдений растёт нелинейно. Эта трудность известна как "проклятие размерности". [2, 13,14]

Оказывается, что после многократного предъявления примеров веса сети стабилизируются, причем сеть дает правильные ответы на все (или почти все) примеры из базы данных. В таком случае говорят, что «сеть выучила все примеры», «сеть обучена», или «сеть натренирована». В программных реализациях можно видеть, что в процессе обучения величина ошибки (сумма квадратов ошибок по всем выходам) постепенно уменьшается. Когда величина ошибки достигает нуля или приемлемого малого уровня, тренировку останавливают, а полученную сеть считают натренированной и готовой к применению на новых данных.

Важно отметить, что вся информация, которую сеть имеет о задаче, содержится в наборе примеров. Поэтому, качество обучения сети напрямую зависит от количества примеров в обучающей выборке, а также от того, насколько полно эти примеры описывают данную задачу. Так, например, бессмысленно использовать сеть для предсказания финансового кризиса, если в обучающей выборке кризисов не

представлено. Считается, что для полноценной тренировки требуется хотя бы несколько десятков (а лучше сотен) примеров.

После того, как сеть обучена, мы можем применять ее для решения поставленных задач. Важнейшая особенность человеческого мозга состоит в том, что, однажды обучившись определенному процессу, он может верно действовать и в тех ситуациях, в которых он не бывал в процессе обучения.

На практике нейросети широко применяются для решения задач:

— классификации;

— в области измерений и управления процессами;

— прогнозирования [10,11].

Применение ИНС в области измерений весьма многочисленны, одни требуют программной реализации, другие аппаратной. В зависимости от решаемой задачи эти применения можно разделить на применения, относящиеся к:

1) измерительным процедурам, таким как калибровка сенсоров и измерительных приборов;

2) элементам и устройствам измерительных систем: аналого-цифровым (АЦП) и цифроаналоговым (ЦАП) преобразователям, усилителям и фильтрам;

3) обработке измерительных сигналов, такой как классификация формы сигналов и определение их характеристик во временной области [3].

Свойства и характеристики информационно-измерительных систем (ИИС) во многом определяются используемыми в этих системах АЦП. Это определяет актуальность создания и совершенствования этих устройств, которые используются в вычислительных системах технических средств цифровой передачи данных. Широкое применение средств цифровой вычислительной техники при построении различных архитектур АЦП ориентировано именно на обеспечение высоких метрологических и эксплуатационных характеристик АЦП [5-7].

В работе решается актуальная научно-техническая задача, сопряженная с развитием теории и проектированием АЦП: разработка нейросетевой структуры АЦП, методики, а также выбор программно-технических средств для ее реализации.

Попытки создания математической модели АЦП в системе Maple 6 выявили ее аналогию с нейросетевой структурой. Этот термин используется учеными и специалистами, занимающимися изучением теории искусственных нейронных сетей (ИНС) и сферами их практического применения. Нейроны - это базовые элементы,

осуществляющие операцию нелинейного преобразования суммы произведений входных сигналов на весовые коэффициенты. Параллельное соединение элементов в рамках всей структуры в сочетании со способностью элементов к взаимному обмену информацией позволяет получить параллельную вычислительную мощность. Успешное использование ИНС в области измерений стало возможным, во-первых, ИНС - это мощный инструмент нелинейной аппроксимации, а, во-вторых, благодаря разработке нового метода проектирования элементов измерительных систем, позволяющего преобразовать схему обработки сигнала в искусственную нейронную структуру на основе характеристик искусственного нейрона [8-11].

Первый шаг при таком методе проектирования включает в себя перевод базовых математических операций и операций по принятию решений, входящих в обработку или генерирование сигналов, в нейронные блоки, каждый из которых выполняет базовые алгебраические и дифференциальные операции. На втором шаге осуществляется подходящее соединение нейронных блоков, а на третьем - оптимизация связей между ними с использованием мультипликативного и аддитивного свойств нейронов.

Возможности ИНС по моделированию сложных нелинейных систем используются при моделировании измерительных устройств. В литературе описано немало таких примеров [6]. Применение подходящих структур ИНС и надлежащая организация обучающего множества позволяют после верно проведенного этапа настройки получить нейронную модель, обеспечивающую выходной сигнал, который соответствует выходному сигналу моделируемого прибора. Точность модели зависит от выбора структуры ИНС и обучающего множества.

Как известно, при моделировании измерительного преобразователя (ИП), одной из основных характеристик является функция преобразования (ФП), наиболее предпочтительной формой которой, является линейная. Таким образом, при конструировании нейросети ее функция передачи должна соответствовать функции преобразования моделируемого АЦП. Из теории ИНС известно, что эта цель достигается на этапе обучения сети, через подбор настроечных (весовых) коэффициентов, с использованием выбранного алгоритма обучения. Использование традиционных алгоритмов обучения ИНС не дало положительных результатов при решении поставленной задачи.

Поэтому, авторами был разработан собственный подход к конструированию и обучению нейросети, моделирующей ИП с требуемой ФП. Он основан на последовательном развертывании и обучении нейросетевой структуры АЦП, в результате которого на каждом шаге рекурсии, происходит оптимизация целевой

функции и нахождение настроечных коэффициентов нейросети. В этом алгоритме целевая функция характеризует степень приближения функции передачи нейросети к желаемой (идеальной) передаточной функции ИП. Найденные коэффициенты на предыдущих шагах сохраняются неизменными и используются при дальнейшем обучении. Количество шагов рекурсии обусловлено заданной точностью представления функции преобразования моделируемого АЦП.

Функция передачи нейросети на очередном шаге рекуррентного развертывания представляет собой выражение:

к

1 = К X ^ • Р1) + 1] • Л, (1)

г-0

где : k=0..n-1;

п - число разрядов АЦП преобразования; d - требуемая величина ступеньки передаточной функции АЦП; z - входной сигнал АЦП;

р - двоичные сигналы ( 0 или 1 , в зависимости от величины z ) на выходах

предшествующих ступенчатых функций активации.

Значение функции активации на ^ом шаге рекуррентного развертывания, зависит от z и от текущей функции передачи:

к

Рк+1 = ^ (г - [( X ^ • Рг) + ^к+ 1] •л), (2)

г=0

где: hev - функция Хевисайда.

Согласно предлагаемому алгоритму, условие близости функции передачи нейросети на ^ом шаге к идеальной функции передачи записывается в форме -интеграл от разности функций передачи равен 0.

к

| - [( X ^ • Р,) + 1] • = 0 (3)

!=0

Рекуррентное описание позволяет за п шагов рекурсии последовательно определить все п неизвестных весовых коэффициентов нейросети:

Ы-Л к

- | г • Лг + (X ^ • Р ) • | Л • Лг

лл, _ о_1=0_0_

wk + 1 ---~- (4)

| Л • Лг

0

Задав начальные значения переменных для запуска цикла вычислений (w0 — 0 ; p0 — 1 ; k=0..n+1; n=4 ) в математической системе Maple 6 удалось определить

последовательности искомых весовых коэффициентов (w1 — 8, w2 — 4, w3 — 2, w4 — 1),

значений функций передачи и функций активации, а также построить их графики.

На рисунке 1(а-д) наклонная прямая, проведенная под углом 45°, характеризует идеальную ФП ИП, а ступенчатые графики описывают расчетные функции преобразования АЦП. Именно такие ступенчатые графики имеет нейросеть, моделирующая АЦП последовательного типа, после ее обучения (настройки весов).

о z ю

д)

Рисунок 1 - Функции преобразования АЦП

Успешное нейросетевое моделирование АЦП последовательного типа позволяет создать математическую модель АЦПФ для блоков цифровой индикации, встраиваемых в измерительные системы [8-11]

Блок цифровой индикации (БЦИ) предназначен для обработки и регистрации информации, поступающей от преобразователей линейных и угловых перемещений, и может использоваться в системах автоматического контроля, регулирования и управления исполнительных механизмов в различных областях техники. В обычных блоках цифровой индикации подсчитывается целое число периодов меры, составляющей основу линейных или угловых перемещений. С целью уменьшения дискретизации отсчета в БЦИ встраиваются схемы интерполяции фазы внутри периода меры. В тех случаях, когда устройство интерполяции фазы выдает информацию в виде

цифрового кода, можно говорить об аналого-цифровом преобразовании фазы (АЦПФ) [4].

Математическая модель такого преобразователя была построена с

u

fz(u) =

u

использованием знаковой функции 1 1 . Для получения прогрессивного

возрастания двоичного кода в соответствии с ростом фазы 1 входной сигнал был

выбран в виде: 5 0 ) 8*п( ^).

В предлагаемом не рекурсивном алгоритме эффекты квантования V/, описанные с использованием знаковой функции /х(^), коммутируют фазовые компоненты сигналов э-г.

V, = fz( s.-1)

s

i-1

s

i-1

s0(t )=- sin (t)

n

vi = fz(so(t)); ai = Vi ; si(t) = so(t - ai);

n

V2 = fz(si(t));a2 = v2 —;s2(t) = so(t - ai - a2);

4

n

v3 = fz(s2(t)); a3 = V2 ; s3(t) = so(t - ai- a 2- a3);

8

n

- Ж^ОХ а4 - ~ ; 54(0 - 30(* - а1 - а2 - а3 - а4)-

16

Приведем графики функций сигналов в/ и графики их преобразования знаковой функцией (рис.2, 3):

Рисунок 2 - Графики сигналов Si so(t), si(t), S2(t), se(t), S4(t); t=-n ;+n.

Рисунок 3 - Графики {vi;v2+0,1;v3+0,2;v4+0,3},t=0..2*^

Объединяя итоги всех разрядов квантования, получим выражение передаточной характеристики (рис.4):

6;

4; 2\

О-1 | | |

2 14 б Рисунок 4 - Передаточная характеристика d(t)=я■+(v1*я/2+V2*я/4+vз*я/8+V4*я/16);t=0..2*я■

Графики, построенные по результатам математических операций, наглядно иллюстрируют эффективность предложенной математической модели аналого-цифрового преобразования фазы.

Разложение сигнальных компонент модели имеет вид:

(г) = - 8ш( г); 3 (г) = V! • со8(г);

з2 (г) = с4 • (V • со8(г) + V • V• 8^ г)); 3 (г) = с 4 • (со3 • со8(г) + з/3 • 8т( г)); з4 (г) = с4 • (со4 • со8(г) + 4 • 8т( г)); со3 = V • с8 - V • v2 • V • з8; si3 = V • ^ • с8 + V • V • з8;

со4 = V • сс - V • V • ^ • зз - V • ^ • ^ • с$ - V • V-! • V • sc; зг4 = V • ^ • сз + V • V • яс + V • V-! • сс - V • ^ • V • ^ • зз.

cc = c8 • ci6; cs = c8 • si6; sc = s8 • ci6; ss = s8 • si6

, л л ^ . n ~ n n . n . . л

c16 = cos —; s16 = sin —; c8 = cos ; s8 = sin ; c4 = s 4 = cos 16 16 8 8 4

При анализе данного разложения можно выявить последовательность сумм произведений сигнальных функций на весовые коэффициенты, которую, в свою очередь, можно представить в виде нейросетевой структуры. На рис. 5 показана модель АЦПФ, состоящая из трех слоев с обратной связью из последнего слоя в первый.

Рисунок 5 - Модель АЦПФ

Первый слой содержит 9 нейронов с линейными функциями активации. Второй слой содержит 5 нейронов со знаковыми функциями активации. Третий слой содержит 9 нейронов с линейными функциями активации. Эта модель реализована в системе электронного моделирования Electronics Workbench и показала свою работоспособность [6,7].

Моделью нейрона служит электронная схема, представленная на рисунке 6. Она содержит 4 аналоговых перемножителя и сумматор.

."ÜTv7\

■ЛЛЛг—

-VW-

-VW-о

1 1

-ЛМ-—

-ЛМ-—

Рисунок 6 - Модель нейрона.

При моделировании выходной код наблюдался с помощью двух 4-разрядных шестнадцатиричных индикаторов. Входом нейросети служил источник синусоидального напряжения. Значения весовых коэффициентов (сс, сs, sc, ss, c8, s8, 1) задавались соответствующими уровнями напряжения постоянных источников.

Постоянное повышение требований к точности, быстродействию, информативности и другим характеристикам процессов сбора, измерения и обработки информации обуславливает необходимость создания и развития современных систем измерения и преобразования информации. Широкое применение средств цифровой вычислительной техники при построении различных архитектур аналого-цифровых преобразователей ориентировано именно на обеспечение высоких метрологических и эксплуатационных характеристик АЦП.

В статье описаны варианты программной реализации математической модели аналого-цифрового преобразования фазы в код, имеющую нейросетевую архитектуру. Изучение и анализ литературы по теории ИНС, современного программного обеспечения позволили осуществить выбор средств, необходимых для решения этой задачи.

1. П. Дапонте, Д. Гримальди (Италия). Искусственные нейронные сети в измерениях. - М.: Приборы и системы управления, №3 1999г. - стр. 48-64.

2. Daponte P., Grimaldi D., Michaeli L. A desing method for signel processing in measurement instrumentation by neural networks / Proc. IEEE Instrumentation and Measurement Technology Conf. Belgium. June 4...6 1996. P. 1004...1009

3. Bernieri A., Daponte P., Grimaldi D. ADS neural modeling // IEEE Trans. on Instrumentation and Measurement. 1996. Vol. 45. P.627...633.

Библиографический список

4. Драгина, О.Г. Повышение точности и разрешающей способности растровых измерительных систем на принципах нейросетевой обработки информации: специальность 05.11.16 «Информационно-измерительные и управляющие системы (по отраслям)»: диссертация на соискание ученой степени кандидата технических наук / Драгина О.Г.; Московский государственный технологический университет «СТАНКИН». - Москва: МГТУ «СТАНКИН», 2004. - 210с. - Текст (визуальный) : непосредственный.

5. Attari M., Boudjema M., Bouhedda M., Bouallag S. A decentralized neural architecture based A/D converter with binary code outputs / Proc. IEEE Instrumentation and Measurement Technical Conf. Ottawa, Canada. May 19...21 1997. P.232...236.

6. Рассел Стюарт, Норвиг Питер Искусственный интеллект: современный подход, 4-е издание. Том 1. Решение проблем: знания и рассуждения. Диалектика-Вильямс, 2016г. - 704с.

7. Карлащук В.И., Карлащук С.В. Электронная лаборатория на IBM PC. Инструментальные средства и моделирование элементов практических схем. - М.: СОЛОН-ПРЕСС, 2008, 144 с.

8. Драгина О.Г. Искусственные нейронные сети в измерительных задачах: сб. ст. конференции «Технические и естественные науки. безопасность: информация, техника, управление». Санкт-Петербург: ГНИИ «Нацразвитие», 2020 г. - С. 80-84.

9. Результаты исследований естественных и точных наук: междисциплинарный подход и сверхаддитивный эффект : монография / [Абзалов А.А., Асеева М.А., Атабаев М.М. и др.]; Под ред. В.В. Ерохина, Л.П. Тереховой, О.А. Подкопаева - Самара : ООО НИЦ «Поволжская научная корпорация», 2018. - 42-57с.

10. Серебряков В.П., Мастеренко Д.А., Драгина О.Г., Туманов Н.А. Моделирование аналого-цифрового преобразования фазы с использованием нейросетевых технологий. М.: Промышленные АСУ и контроллеры, 2003. № 1. С. 45.

11. Серебряков В.П., Драгина О.Г. Нейросетевая коррекция измерительных сигналов фотоэлектрического растрового преобразователя. М.: Нейрокомпьютеры: разработка, применение, 2004г. № 5-6. С. 51.

12. Raul Rojas Neural Networks: A Systematic Introduction 1st Edition Publisher : Springer; 1st edition (July 12, 1996). - 522 pages.

13. Tariq Rashid Make Your Own Neural Network 1st Edition Publisher : CreateSpace Independent Publishing Platform; 1st edition (March 31, 2016). - 222 pages.

14. Christopher M. Bishop Pattern Recognition and Machine Learning (Information Science and Statistics) Publisher : Springer (August 17, 2006). - 738 pages.

15. Хайкин Саймон. Нейронные сети. Полный курс. 2-е издание. Изд.-во Вильямс, 2019с. - 1104с.