Научная статья на тему 'ДЕКОДИРОВАНИЕ ЛИНЕЙНЫХ БЛОКОВЫХ КОДОВ С ИСПОЛЬЗОВАНИЕМ НЕЙРОННЫХ СЕТЕЙ НА ОСНОВЕ ПЕРСЕПТРОНОВ ВЫСОКОГО ПОРЯДКА'

ДЕКОДИРОВАНИЕ ЛИНЕЙНЫХ БЛОКОВЫХ КОДОВ С ИСПОЛЬЗОВАНИЕМ НЕЙРОННЫХ СЕТЕЙ НА ОСНОВЕ ПЕРСЕПТРОНОВ ВЫСОКОГО ПОРЯДКА Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
116
22
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
КОДЫ ИСПРАВЛЕНИЯ ОШИБОК / ГЕНЕТИЧЕСКИЙ АЛГОРИТМ / ПЕРСЕПТРОНЫ ВЫСОКОГО ПОРЯДКА / ДИСКРИМИНАНТНЫЕ ПОЛИНОМЫ

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Астахов Н.В., Башкиров А.В., Муратов А.В., Хорошайлова М.В., Ципина Н.В.

Представлен класс нейронных сетей, пригодных для применения декодирования кодов, исправляющих ошибки. Нейронная модель в основном представляет собой персептрон с полиномом высокого порядка в качестве дискриминантной функции. Показано, что один слой персептронов высокого порядка способен декодировать двоичный линейный блочный код с максимальным весом 2m в каждом персептроне, где m - длина четности. Для некоторых подклассов кодов необходимое количество весов может быть намного меньше. Код Хэмминга (2m-1, 2m-1-m) может быть декодирован с использованием только весов m + 1 в каждом персептроне. С помощью генетических алгоритмов получены эффективные нейронные декодеры 2t + 1 разрядности для каждого бита для некоторых циклических кодов и БЧХ кодов (Боуза-Чоудхури-Хоквингема), которые можно исправить. С помощью алгоритма поиска генетического типа показано, что для данной задачи можно найти подходящий набор элементов нейронной сети высокого порядка (в данном случае корректирующий декодер). Нейронные декодеры представлены как набор сетей четности на первом уровне, за которыми следует линейный персептрон на втором уровне, и, таким образом, имеют простые реализации в аналогичной технологии СБИС

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

DECODING LINEAR BLOCK CODES USING NEURAL NETWORKS BASED ON HIGH-ORDER PERSEPTRONS

The article presents a class of neural networks suitable for decoding error correction codes. The neural model is basically a perceptron with a high order polynomial as a discriminant function. One layer of high-order perceptrons is able to decode a binary linear block code with a maximum weight of 2m in each perceptron, where m is the parity length. For some subclasses of codes, the required number of weights can be much less. The Hamming code (2m-1, 2m-1-m) can be decoded using only the m + 1 weights in each perceptron. Using genetic algorithms, we obtained efficient 2t + 1-bit neural decoders for each bit for some cyclic codes and BCH codes (Bowes-Chowdhury-Hockingham), which can be corrected. Using the genetic type search algorithm, we show that for this problem, one can find a suitable set of elements of a high order neural network (in this case, a correcting decoder). We present neural decoders as a set of parity networks at the first level, followed by a linear perceptron at the second level, and thus have simple implementations in a similar VLSI technology

Текст научной работы на тему «ДЕКОДИРОВАНИЕ ЛИНЕЙНЫХ БЛОКОВЫХ КОДОВ С ИСПОЛЬЗОВАНИЕМ НЕЙРОННЫХ СЕТЕЙ НА ОСНОВЕ ПЕРСЕПТРОНОВ ВЫСОКОГО ПОРЯДКА»

DOI 10.25987^Ти.2020.16.3.012 УДК 004.032.2

ДЕКОДИРОВАНИЕ ЛИНЕЙНЫХ БЛОКОВЫХ КОДОВ С ИСПОЛЬЗОВАНИЕМ

НЕЙРОННЫХ СЕТЕЙ НА ОСНОВЕ ПЕРСЕПТРОНОВ ВЫСОКОГО ПОРЯДКА

Н.В. Астахов, А.В. Башкиров, А.В. Муратов, М.В. Хорошайлова, Н.В. Ципина

Воронежский государственный технический университет, г. Воронеж, Россия

Аннотация: представлен класс нейронных сетей, пригодных для применения декодирования кодов, исправляющих ошибки. Нейронная модель в основном представляет собой персептрон с полиномом высокого порядка в качестве дискриминантной функции. Показано, что один слой персептронов высокого порядка способен декодировать двоичный линейный блочный код с максимальным весом 2т в каждом персептроне, где т - длина четности. Для некоторых подклассов кодов необходимое количество весов может быть намного меньше. Код Хэмминга (2т-1, 2т-1-т) может быть декодирован с использованием только весов т + 1 в каждом персептроне. С помощью генетических алгоритмов получены эффективные нейронные декодеры 2t + 1 разрядности для каждого бита для некоторых циклических кодов и БЧХ кодов (Боуза-Чоудхури-Хоквингема), которые можно исправить. С помощью алгоритма поиска генетического типа показано, что для данной задачи можно найти подходящий набор элементов нейронной сети высокого порядка (в данном случае корректирующий декодер). Нейронные декодеры представлены как набор сетей четности на первом уровне, за которыми следует линейный персептрон на втором уровне, и, таким образом, имеют простые реализации в аналогичной технологии СБИС

Ключевые слова: коды исправления ошибок, генетический алгоритм, персептроны высокого порядка, дискри-минантные полиномы

Введение

Коды с исправлением ошибок (от англ. Error-correcting codes, ECC) широко используются в системе связи при передаче данных, хранении и отказоустойчивых вычислениях, предназначены для защиты информации от случайных ошибок [1,2]. Основным классом ECC является класс линейных блочных кодов (ЛБК). В ЛБК к строке информационных символов добавляются некоторые дополнительные символы, называемые четностями для формирования кодового слова, чтобы отделить каждый информационный вектор дальше друг от друга в пространстве кодовых слов. Поэтому, когда на кодовое слово влияет некоторый шум во время передачи или обработки, декодер может исправить ошибку, связав зашумлен-ную строку с ближайшим допустимым кодовым словом.

Способность ЛБК к исправлению ошибок определяется его «минимальным расстоянием», которое является минимальным расстоянием Хэмминга [1] между любыми двумя словами в коде.

ЛБК может быть описан матричными операциями. Кодирование ЛБК завершается умножением информационного вектора на порождающую матрицу. Тем не менее, декодирование ЛБК, как правило, сложнее, чем его

© Астахов Н.В., Башкиров А.В., Муратов А.В., Хорошайлова М.В., Ципина Н.В., 2020

кодирование, потому что используется операция инверсии матрицы.

Нейронные сети являются мощными вычислительными моделями, которые привлекают большое внимание для использования их во многих приложениях [4]. Однако проблема декодирования создает определенный уровень сложности для большинства №К-классифи-каторов, поскольку существует большое количество категорий, которые должны быть классифицированы. Ниже показано, что правила декодирования ряда ЛБК имеют тесную связь с классом нейронных сетей высокого порядка.

В новом предложенном подходе к проблеме декодирования используются персеп-троны высокого порядка, которые имеют многочлены в качестве своих дискриминантных функций. Хорошо изученная проблема четности (исключающая или) представляет определенный уровень сложности для обучения, поскольку аналогичные входные данные должны быть классифицированы по различным категориям. Однако можно показать, что функция четности изоморфна произведенному члену биполярных переменных. Здесь используются нейронные сети высокого порядка с добавлением генетического алгоритма для декодирования ЕСС в надежде на то, что, если они смогут эффективно решить проблему четности, они также смогут решить проблему декодирования без особых затруднений. Это связано с тем, что декодирование ЕСС можно рассмат-

ривать как задачу определения набора функций для контроля четности.

Основная проблема использования полиномиальных дискриминантов высокого порядка состоит в том, чтобы решить, какой порядок использовать и какие есть условия для выбора.

Нейронные сети высокого порядка

Выходная функция общего персептрона определяется как

2 = 8( х)). (!)

В приведенном выше уравнении

х = 1хьх2 ,...,хп |е {1,-1}"

1 ^ ' - структура ввода,

<^п» - знак функции: sgn(а)=1, если а > 0, -

1 если а < 0 и g, так называемая дискрими-

нантная функция, является полиномом г-го

порядка:

8(х) = м'1/1 (х) + /2 (х) + ■■ + WNfN(х) + , (2)

где 1 - называется весами, и каждый член функции / (х) определяется как:

" 2 п

х , 1 х , ^ ... х ,

к1 к 2

Г

к1, к2,

,кГ е {1,...,п}

п^,п2,...,пГ е {0,1}. Линейный персептрон имеет дискриминантную функцию порядка г = 1. Персептрон с г >1 называется персептроном высокого порядка. В настоящее время большинство методов реализации для NN охватывают только линейные персептроны. Чтобы сделать персептроны высокого порядка осуществимыми, возможная реализация путем их превращения в многослойные персептроны показана ниже.

Произведение элементов Х1Х2... хп из п биполярных переменных равно -1, если переменных нечетное число, а в противном случае +1, что изоморфно функции четности п двоичных элементов. Определим сеть так, чтобы ее вывод был биполярным, веса равны +1 или -1, пороговые значения являются целыми числами, а сложность соединения - линейной. В частности, для п биполярных элементов х; определяется

п

S = п - 2 х!

г=1 . (3)

Пусть Р обозначает функцию четности

" п+Г 2

р(х1,х2,...,хп) = 1 - 2 [sgn(4k -1 - 5) + sgn(s -(4к - з))]

Значение в вышеуказанной квадратной скобке равно 2, если S = 2 (2к-1), и 0 в противном случае. Таким образом, Р выводит -1, если есть нечетное число -1, и + 1 в противном случае. Эта сеть, чей выходной блок не нуждается в жесткой ограничивающей функции и, следовательно, может быть немедленно направлена на вход следующего слоя.

Для произведения действительных чисел можем написать

(х, ^ (х 2 (хпГп | х, ||х 2 Г' |хп

...х п = sgn

Часть знака может быть вычислена паритетной сетью, а часть величины может быть преобразована в

ехр

п

2 log г = 1

(5)

Операции получения логарифмических, экспоненциальных и абсолютных значений имеют простую реализацию в аналоговой технологии СБИС [14]. Таким образом, персептро-ны высокого порядка, с двоичными или действительными числами, могут быть реализованы с использованием существующих методов.

Проблема использования персептронов высокого порядка заключается в комбинаторном увеличении числа элементов с увеличением порядка сети. Однако генерирование всех комбинаций из п входов становится непрактичным по мере роста входного измерения. Таким образом, большие усилия по использованию NN высокого порядка для более широких применений сосредоточены на определении правильной структуры сети для решения данной проблемы.

Как только члены выбраны, поверхность ошибки обозначается как выпуклая по отношению к весовым переменным. Псевдообратный метод находит оптимальное решение в контексте наименьших квадратов ошибок между желаемым и фактическим выходами, однако это требует интенсивных вычислений. Альтернативный подход основан на использовании алгоритма обучения, такого как процедура исправления ошибок. Ее можно легко применить к персептронам высокого порядка, рассматривая полиномиальную функцию как фиксированное расширение исходного пространства шаблонов, как показано ниже: W,=W+Y, если g(X) <0 и Х отображается на 1 W,=W-Y, если g(X) >0 и Х отображается на -1,

к=1

где тор веса

W = W '

W2,..., WN, Wo ] е R - новое значение

N+1

век-W, и

х, х2

х

х

х

и

Г

Г = [/!(* ), /1 (X ),..., N (х ),1]е{1,-1}^+1- рас-

ширенный входной вектор. Это правило обучения эквивалентно правилу дельты W' = W + c(d-y)Y при с = 1/2, где d - желаемый выход, у - выход сети, а с - размер шага. Кроме того, его поведение сходимости аналогично правилу дельты: оно постепенно, хотя и не монотонно, уменьшает энергию ошибки между фактическим и желаемым выходами. Тем не менее, процедуры исправления ошибок более выгодны, чем дельта-правило, потому что они не включают в себя настройку размера шага и приводят к целочисленным весам для двоичных входов, что является преимуществом.

Генетический алгоритм и алгоритм имитации отжига

Генетический алгоритм ^А) и имитация отжига ^А) - это два вида полезных стохастических методов, которые можно использовать для эффективного решения задач оптимизации. SA основана на термодинамике и может рассматриваться как алгоритм, который генерирует последовательность цепей Маркова для задач, приближенных к оптимальным решениям. Эта последовательность цепей Маркова контролируется постепенно снижающейся температурой системы. Теоретически, распределение вероятностей конфигураций системы, генерируемых SA, приблизится к распределению Больцмана, когда система достигнет равновесия при определенной фиксированной температуре. Когда температура системы постепенно снижается до нуля, распределение вероятностей генерируемых конфигураций системы будет стремиться приблизиться к набору оптимальных. Исходя из этого, SA может теоретически найти глобальный минимум задачи оптимизации. Тем не менее, наиболее важный параметр SA, называемый температурой системы, очень трудно контролировать. Поэтому эффективный график отжига сложно разработать.

GA - это методы оптимизации общего назначения, которые заимствуют элементы

а = V © |п © к + £

для j = 1, 2, ... , к, где -, П, £ и ©- это «НЕ», «И», «ИЛИ», и «Исключающее ИЛИ», операции, соответственно.

Декодирование некоторых циклических кодов. Нейронные декодеры

естественного отбора из теории эволюции. Основываясь на естественном отборе, GA пытается наследовать элементы с хорошей приспособленностью от цикла к циклу. Типичный GA часто состоит из фазы воспроизводства и фазы манипуляции. Фаза воспроизведения отвечает за использование особенностей нынешних кандидатов и за их сохранение. Фаза манипуляции отвечает за исследование пространства решений и создание новых возможных кандидатов.

Декодирование линейных блоковых кодов

Общая идея декодирования LBC может быть описана следующим образом. Систематический (п, к) код, в котором имеется к информационных битов и т = п-к битов четности для каждого кодового слова, может быть представлен матрицей проверки на четность

н , кУ -М. Пусть A = к *,....

ак] - информационное слово. После добавления A с некоторыми четностями и последующей передачи принимающая сторона получает слово V = [уь у2,..., уп], вероятно, с некоторыми ошибками в его битах. Полученное слово V затем умножается (по модулю 2) на матрицу проверки на четность Н, чтобы получить вектор синдрома S = "УНТ = [sl, s2, . , sm], где п

= Д vkhik той2 k=1 .

Синдром S предоставляет информацию для декодирования кодовых слов V: если S является нулевым вектором, ошибок не будет; биты четности у ! = к+1, к+2, ... , п, отбрасываются и информационные биты доступны напрямую, то есть а! = V! для ! = 1, 2,., к. Если в бите V] возникает одна ошибка, то S соответствует j-му столбцу Н, а ]-й бит V] должен быть дополнен. Для кодов с исправлением 1>ошибок, если S соответствует сумме (по модулю 2) Р (Р = 1) столбцов Н, тогда Р битов, соответствующих этим составляющим р столбцам Н, имеют ошибку. Это правило декодирования может быть выражено в булевой формуле как

11 ...£ (11 © к, + кл 1 + кл 2 +... + кр mod 2

циклических кодов и кодов БЧХ не имеют прямых преобразований, приводящих к структурам декодирования, представляемым пер-септронами высокого порядка. Чтобы уменьшить количество требуемых элементов, выбираем метод генетической эволюции. Использовались следующие критерии для выбора данного метода. Во-первых, пространство поиска

Обычные правила декодирования для

» 2

возможных сетевых структур велико, 2 возможных сетевых структур для п двоичных входов. Использование метода перечисления было бы неэффективным. Во-вторых, поверхность производительности недифференциру-ема в отношении изменения используемых терминов. Таким образом, поиск на основе градиента, который зависит от существования производных, становится невозможным. Еще одна более благоприятная причина использования GA заключается в том, что термины с высокой степенью соответствия с меньшей вероятностью будут уничтожены под генетическими операторами и, следовательно, часто приводят к более быстрой конвергенции, особенно при сравнении с методом вА.

Результаты симуляции

Различие таблицы между LUT, соответствующими Dnn,Q и Dproto,Q в l-й итерации, определяется как:

Ф^ =®Zq "Фе

фе = е(ф(,)) ф

(1 ) diff

где е V \>//. т кода Таннера степени-3 в разных итерациях имеют размер 7 х 7 х 7 и показаны на рис. 1, где х, у оси представляют два входящих сообщения от соседних проверочных узлов, а ось Ъ указывает значение канала. На первых двух итерациях Dnn,Q сильно

{w(l)} {Ьс )1

отличается от DpГoto,Q из-за I ' и V ).

в)

Г)

д)

(1)

Ф

Рис. 1. dlf в различных итерациях кода Таннера (155, 64)

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

По мере увеличения итераций разница между LUT становится меньше. На 5-й итерации Dnn,Q и Dproto,Q практически одинаковы. Бо-

ф (')

лее конкретно, dif говорит нам, как Dnn,Q улучшает декодирование из Dproto,Q. Например, на первых двух итерациях, когда значение канала равно -H3 (соответствует нижней плоскости) и m1 = m2 = H3, выходной сигнал Dnn,Q меньше, чем у Dproto,Q (который равен H3 + H3 -H3 = H3), это означает, что Dnn,Q ослабляет величину сообщений правдоподобия, тем самым предотвращая их быстрый рост. Аналогичное поведение затухания может наблюдаться в случае, когда значение канала равно H3 (соответствует верхней плоскости) и m1 = m2 = -H3, когда выходной сигнал Dnn,Q больше, чем у Dproto,Q (который является - ( H3 + H3) + H3 = -H3). Аналогичное поведение затухания может наблюдаться в случае, когда значение канала равно H3 (соответствует верхней плоскости) и m1 = m2 = -H3, когда выходной сигнал Dnn,Q больше, чем у Dproto,Q (который является - ( H3 + H3) + Нз = -Нз). Поскольку LUT D nn, Q и Dproto,Q почти сливаются в конце концов, их кривые BER не расходятся далеко друг от друга.

Вес столбца 4, эксперимент с кодом средней длины

Во втором эксперименте мы считаем код QC LDPC (1296, 972) с весов столбцов и строк равными 4 и 16 соответственно. НСМП этого кода состоит из 11 скрытых слоев размером 5184 = 4 х 1296. Размер партии был установлен равным 300, с одним SNR = 4,5 дБ и 5000 выборок для этого SNR.

Распределение ) на разных итерациях показано на рис. 2. Как и в случае кода Танне-ра, дисперсия распределения смещения становится меньше с ростом числа итераций. Поскольку обучение для этого НСМП имеет 100 эпох, дисперсия становится очень маленькой.

Кривые BER для Dnn, Dproto и нормированного MSA со скаляром 0,75 приведены на рис. 3. Результаты моделирования показывают, что Dnn превосходит NMSA на 0,3 дБ и Dproto на 0,45 дБ при BER 10-8 в течение 5 итераций. Dnn с 5 итерациями работает лучше, чем Dproto с 10 итерациями, то есть Dnn сходится быстрее, чем

D

proto •

Рис. 2. Распределение смещения в разных итерациях кода QC LDPC (1296, 972)

—•—NMS,itcr=5

—«—NN,iter =5

—О— 3-bit QNN,itcr=5 —w—ï-bit QMS,itcr=5 —a—MS.iti-r=l()

И!!Ш!!ИШ||

___

...........

1ШШНШНШШ

3 3.5 4 4.5

Et/No (дБ)

Рис. 3. BER производительности Dm, Dm q, Dproto и Dproto q кода QC LDPC (1296, 972)

При квантовании Dm и Dproto с помощью Q(.) мы получаем НС-декодер 3-битной точности DnnQ и обычный MSA Dproto,Q с 3-битной точностью. Их кривые BER с 5 итерациями также представлены на рис. 4. Результаты моделирования показывают, что при 5 итерациях Dnn,Q превосходит NMSA на 0,13 дБ и традиционный MSA на 0,3 дБ при BER 10-8, и он может достичь усиления кодирования 0,3 дБ по сравнению с Dproto,Q. Улучшение как Dnn, так и Dnn,Q снова происходит от дополнительных

И>} и ^>}

ф(l)

Аналогично, opt Q в разных итерациях можно отобразить в пять 4-мерных

Ф(1)

LUT. На основании optQ мы получаем 3 разных LUT, причем последние 3 итерации имеют одинаковую LUT. Эти 3 разных LUT отличаются только несколькими записями. Для зна-

чения канала -H3

ф (l )

d'ff кода QC LDPC степе-

ни-4 (1296, 972) на разных итерациях показаны на рис. 4, где оси х, у, z представляют три входящих сообщения от соседних С№ Для всех 5 итераций правила обновления Dnn,Q отличаются от правил для DpГ0t0,Q. Опять же, ф(0

говорит нам, как Dnn,Q улучшает декодирование по сравнению с DpГ0t0,Q. Например, на последних трех итерациях, когда т3 = Н3 (соответствует верхней плоскости) и т1 = т2 = Н1, выход Dnn,Q меньше, чем у DpГ0t0,Q (который равен Н1 + Н1 + Н3 - Н3 = 2Н1), что означает, что Dnn,Q снова ослабляет величины сообще-

ния. Функция квантования в (4) симметрична,

ф(1} ф(1} ф

таким образом, все ш// , ор*в, в удовлетворяют условию симметрии.

Для Dnn с плавающей запятой, поскольку обучение может проводиться в автономном режиме, повышенная сложность вычислений при декодировании обусловлена дополнительным умножением с плавающей запятой, которое составляет всего 2п за итерацию. Для Dnn,Q с конечной точностью, особенно в 3-битной точности, память и вычислительная сложность могут быть значительно уменьшены.

ф (')

Рис. 4. / в разных итерациях кода QC LDPC (1296,972) с канальным выходом -Н3

Обсуждения и выводы

Размер популяции и максимальное число поколений предполагаемой генетической эволюции выбираются в зависимости от количества требуемых схем обучения, которое составляет порядка 2n-k для (n, k) циклического кода в целом. Эффективные структуры декодирования длинномерных кодов, которые могут быть найдены предлагаемым подходом, все еще ограничены доступным объемом памяти и доступным временем вычисления. Существует два способа расширить практическую ценность предлагаемого подхода для поиска кодов большей длины.

Во-первых, более длинные коды могут быть построены с помощью методов переме-жения. Чтобы получить (bn, bk) -код из (n, k) -кода, нужно взять любые b кодовых слов из исходного кода и объединить кодовые слова, чередуя символы. Если исходный код может исправить любую пакетную ошибку длины t, очевидно, что перемеженный код может исправить любую пакетную ошибку длины bt.

Вместо самой теории кодирования второй способ расширить возможности предлагаемого декодера основан на использовании более мощных алгоритмов эволюционных вычислений. Например, можно объединить GA и SA вместе, чтобы построить так называемые отжига-генетические алгоритмы (AGA), которые были успешно применены для решения задач оптимизации больших размеров. Конечно, полное использование возможностей AGA при поиске эффективных структур декодирования в значительной степени зависит от того, можно ли интегрировать правильное знание предметной области ECC с моделью и выбором графика отжига и параметров генетической эволюции или нет. Перед тем, как сообщить о любой эффективной структуре декодирования больших кодов, необходимо проделать большую работу.

В этой статье мы показали возможную реализацию нейронных сетей высокого порядка, превратив их в многослойные персептроны. С практической точки зрения это показывает, что нейронная сеть высокого порядка может быть реализована так же легко, как (или так же сложно, как) многослойный персептрон. Пред-

ложенные здесь нейронные сети высокого порядка могут даже иметь более простую реализацию, поскольку они используют простой алгоритм обучения, процедуру с исправлением ошибок, вместо более сложного, например, алгоритма обратного распространения, используемого многослойными персептронами. Синдром декодера или одностадийный мажоритарный декодер может быть преобразован непосредственно в нейронную систему высокого порядка. Это ожидаемый результат, поскольку было показано, что нейронные сети высокого порядка чрезвычайно эффективны для решения проблемы четности (исключая или).

С помощью алгоритма поиска генетического типа показано, что для данной задачи можно найти подходящий набор элементов нейронной сети высокого порядка (в данном случае корректирующий декодер). Другими словами, этот алгоритм также может служить алгоритмом поиска для большинства декодируемых кодов и большинства кодирующих уравнений для них.

Литература

1. Adaptive complex interpolator for channel estimation in pilotaided OFDM system / L. Guanghui, Z. Liaoyuan, L. Hongliang, X. Linfeng, W. Zhengning // J. Commun. and networks. 2013. Vol. 15. No. 5. pp. 496 - 503.

2. Adaptive interpolation for pilot-aided channel estimator in OFDM system/ L. Guanghui, Z. Liaoyuan, L. Hongliang, X. Linfeng, W. Zhengning // IEEE Transactions on Broadcasting. 2014. Vol. 60. No. 3. pp. 486 - 498.

3. Хорошайлова М.В. Архитектура канального кодирования на основе ПЛИС для 5G беспроводной сети с использованием высокоуровневого синтеза // Вестник Воронежского государственного технического университета. 2018. Т. 14. № 2. С. 99-105.

4. A novel hard decision decoding scheme based on genetic algorithm and neural network/ J. Yuan, C. He, W. Gao, J. Lin, Y. Pang// Optik - International Journal for Light and Electron Optics. 2014. Vol. 125. No. 14. pp. 3457-3461

5. Башкиров А.В., Хорошайлова М.В., Белецкая С.Ю. Использование стохастического вычисления для реализации недвоичного LDPC-декодера на ПЛИС // Вестник Воронежского государственного технического университета. 2016. Т. 12. № 5. С. 70-73.

6. Khoroshaylova M.V. LDPC code and decoding algorithms // Антропоцентрические науки: инновационный взгляд на образование и развитие личности: материалы II-й междунар. науч.-практ. конф. В 2-х ч. /под ред. Э.П. Комаровой. Воронеж: Издательско-полиграфический центр «Научная книга», 2015. С. 227-228.

Поступила 12.03.2020; принята к публикации 17.06.2020 Информация об авторах

Астахов Николай Владимирович - канд. техн. наук, доцент, Воронежский государственный технический университет (394026, Россия, г. Воронеж, Московский проспект, 14), e-mail: kipr@vorstu.ru, ORCID: https://orcid.org/0000-0001-7156-8574

93

Башкиров Алексей Викторович - д-р техн. наук, заведующий кафедрой конструирования и производства радиоаппаратуры, Воронежский государственный технический университет (394026, Россия, г. Воронеж, Московский проспект, 14), e-mail: fabi7@mail.ru, ORCID: http://orcid.org/0000-0003-0939-722X

Муратов Александр Васильевич - д-р техн. наук, профессор, Воронежский государственный технический университет (394026, Россия, г. Воронеж, Московский проспект, 14), e-mail: fabi7@mail.ru, ORCID: https://orcid.org/0000-0002-5393-7425 Хорошайлова Марина Владимировна - канд. техн. наук, старший преподаватель, Воронежский государственный технический университет (394026, Россия, г. Воронеж, Московский проспект, 14), e-mail: pmv2205@mail.ru, ORCID: https://orcid.org/0000-0001-9167-9538

Ципина Наталья Викторовна - канд. техн. наук, доцент, Воронежский государственный технический университет (394026, Россия, г. Воронеж, Московский проспект, 14), e-mail: kipr@vorstu.ru

DECODING LINEAR BLOCK CODES USING NEURAL NETWORKS BASED ON HIGH-ORDER PERSEPTRONS

N.V. Astakhov, A.V. Bashkirov, A.V. Muratov, M.V. Khoroshaylova, N.V. Tsipina

Voronezh State Technical University, Voronezh, Russia

Abstract: the article presents a class of neural networks suitable for decoding error correction codes. The neural model is basically a perceptron with a high order polynomial as a discriminant function. One layer of high-order perceptrons is able to decode a binary linear block code with a maximum weight of 2m in each perceptron, where m is the parity length. For some subclasses of codes, the required number of weights can be much less. The Hamming code (2m-1, 2m-1-m) can be decoded using only the m + 1 weights in each perceptron. Using genetic algorithms, we obtained efficient 2t + 1-bit neural decoders for each bit for some cyclic codes and BCH codes (Bowes-Chowdhury-Hockingham), which can be corrected. Using the genetic type search algorithm, we show that for this problem, one can find a suitable set of elements of a high order neural network (in this case, a correcting decoder). We present neural decoders as a set of parity networks at the first level, followed by a linear perceptron at the second level, and thus have simple implementations in a similar VLSI technology

Key words: error correction codes, genetic algorithms, high-order perceptrons, discriminant polynomials

References

1. Guanghui L., Liaoyuan Z., Hongliang L., Linfeng X., Zhengning W. "Adaptive complex interpolator for channel estimation in pilotaided OFDM system", J. Commun. and Networks, 2013, vol. 15, no. 5, pp. 496-503.

2. Guanghui L., Liaoyuan Z., Hongliang L., Linfeng X., Zhengning W. 'Adaptive interpolation for pilot-aided channel estimator in OFDM system', IEEE Transactions on Broadcasting, 2014, vol. 60, no. 3, pp. 486-498.

3. Khoroshaylova M.V. "FPGA-based channel coding architecture for a 5G wireless network using high-level synthesis", Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2018, vol. 14, no. 2, pp. 99-105.

4. Yuan J., He C., Gao W., Lin J., Pang Y. "A novel hard decision decoding scheme based on genetic algorithm and neural network", Optik - International Journal for Light and Electron Optics, 2014, vol. 125, no. 14, pp. 3457-3461

5. Bashkirov A.V., Khoroshaylova M.V. Beletskaya S.Yu. 'Using stochastic computing to implement a non-binary LDPC decoder on FPGA", Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo univer-siteta), 2016, vol. 12, no. 5, pp. 70-73.

6. Khoroshaylova M.V. "LDPC code and decoding algorithms", Anthropocentric Sciences: an Innovative View of the Education and development of Personality: Proc. of the Second International Scientific-Practical Conf. (Antropotsentricheskie nauki: inno-vatsionnyy vzglyad na obrazovaniye i razvitie lichnosti: materialy II-oy mezhdunar. nauch.-prakt. konf.), ed. E.P. Komarova, Voronezh, Nauchnaya kniga, 2015, pp. 227-228.

Submitted 12.03.2020; revised 17.06.2020 Information about the authors

Nikolay V. Astakhov, Cand. Sc. (Technical), Associate Professor, Voronezh State Technical University (14 Moskovskiy prospekt, Voronezh 394026, Russia), e-mail: kipr@vorstu.ru, ORCID: https://orcid.org/0000-0001-7156-8574

Aleksey V. Bashkirov, Dr. Sc. (Technical), Head of the Department of Design and Production of Radio Equipment, Voronezh State Technical University (14 Moskovskiy prospekt, Voronezh 394026, Russia), e-mail: fabi7@mail.ru, ORCID: http://orcid.org/0000-0003-0939-722X

Aleksandr V. Muratov, Dr. Sc. (Technical), Professor, Voronezh State Technical University (14 Moskovskiy prospekt, Voronezh 394026, Russia), e-mail: kipr@vorstu.ru, ORCID: https://orcid.org/0000-0002-5393-7425

Marina V. Khoroshaylova, Cand. Sc. (Technical), Assistant Professor, Voronezh State Technical University (14 Moskovskiy prospekt, Voronezh 394026, Russia), e-mail: pmv2205@mail.ru, ORCID: http://orcid.org/0000-0001-9167-9538 Natal'ya V. Tsipina, Cand. Sc. (Technical), Associate Professor, Voronezh State Technical University (14 Moskovskiy prospekt, Voronezh 394026, Russia), e-mail: kipr@vorstu.ru

i Надоели баннеры? Вы всегда можете отключить рекламу.