ИСПОЛЬЗОВАНИЕ НЕЙРОННЫХ СЕТЕЙ ДЛЯ ОБНАРУЖЕНИЯ MIMO И ДЕКОДИРОВАНИЯ КАНАЛОВ Текст научной статьи по специальности «Компьютерные и информационные науки»

DOI 10.36622/VSTU.2022.18.3.009 УДК 004.032.26

ИСПОЛЬЗОВАНИЕ НЕЙРОННЫХ СЕТЕЙ ДЛЯ ОБНАРУЖЕНИЯ MIMO И ДЕКОДИРОВАНИЯ КАНАЛОВ

А.В. Башкиров, И.В. Свиридова, М.В. Хорошайлова Воронежский государственный технический университет, г. Воронеж, Россия

Аннотация: предложен подход глубокого обучения для совместной задачи обнаружения MIMO и декодирования канала. Обычные приемники MIMO применяют подход на основе существующей модели для обнаружения MIMO и декодирования канала линейным или итеративным образом. Однако из-за сложной модели сигнала MIMO оптимальное решение проблемы совместного обнаружения MIMO и декодирования канала (то есть декодирование с максимальной вероятностью переданных кодовых слов из принятых сигналов MIMO) невозможно с вычислительной точки зрения. В качестве практической меры все современные приемники MIMO на основе стандартных моделей используют неоптимальные методы декодирования MIMO с доступной вычислительной сложностью. В этой работе применяются последние достижения в области глубокого обучения для проектирования приемников MIMO. В частности, используем глубокие нейронные сети (DNN) с контролируемым обучением для решения проблемы совместного обнаружения MIMO и декодирования каналов. DNN можно обучить для обеспечения гораздо лучшей производительности декодирования, чем это делают обычные приемники MIMO. Моделирование показывает, что реализация DNN, состоящая из семи скрытых слоев, может превзойти традиционные линейные или итерационные приемники на основе используемых моделей. Это улучшение производительности указывает на новое направление для будущей конструкции приемников MIMO

Ключевые слова: глубокое обучение, нейронные сети, приемные устройства MIMO, декодирование канала

Введение

Технология с несколькими антеннами, также известная как MIMO (англ. Multiple Input Multiple Output, несколько входов и выходов), является одним из наиболее важных методов для передовых систем беспроводной связи. Она уже включена во многие стандарты беспроводной связи, например, 802.11n / ac [1] и LTE 4G [2]. Также было теоретически показано, что MIMO может увеличивать эффективность использования спектра линейно с количеством передающих и приемных антенн [3]. Большой интерес представляют функциональные блоки MIMO невысокой сложности с хорошей производительностью.

Передатчик MIMO передает несколько потоков данных, по одному на каждую передающую антенну. Приемник MIMO принимает мультиплексированную копию нескольких потоков данных плюс шум на каждой приемной антенне. Детектор MIMO демультиплексирует и декодирует мультиплексированные данные на всех приемных антеннах в первоначально переданные несколько потоков данных, плюс шум и помехи.

Для достижения производительности, близкой к пропускной способности, для си-

стем 5G были предложены усовершенствованные схемы кодирования каналов, такие как LDPC и полярные коды [4], [5]. Эти коды каналов защищают потоки данных от замирания канала, помех и шума. Выходной сигнал MIMO-детектора состоит из зашумленной версии кодового слова, передаваемого передатчиком. Функция декодирования канала заключается в отображении кодового слова с шумом на исходные информационные биты в передатчике.

Для оптимального декодирования MIMO обнаружение и MIMO декодирование канала должны выполняться совместно. Все традиционные схемы декодирования MIMO используют подход, основанный на модели. Однако из-за сложной модели сигнала MIMO оптимальное решение проблемы совместного обнаружения MIMO и декодирования канала (то есть декодирование с максимальной вероятностью переданных кодовых слов из принятых сигналов MIMO) невозможно с вычислительной точки зрения.

Для ограничения разницы в производительности здесь используются последние достижения в области глубокого обучения при разработке приемных устройств MIMO. В частности, мы используем глубокие нейронные сети (DNN) с контролируемым обучением для решения проблемы совместного обнару-

© Башкиров А.В., Свиридова И.В., Хорошайлова М.В., 2022

жения MIMO и декодирования каналов. DNN можно обучить для обеспечения лучшей производительности декодирования, чем это делают обычные приемники MIMO. Моделирование показывает, что реализация DNN, состоящая из семи скрытых слоев, может превзойти традиционные линейные или итерационные модели приемных устройств.

Модель системы

Рассмотрим систему MIMO, в которой передатчик оснащен МТ антеннами, а приемник MR антеннами. Предполагается, что канал между каждой приемопередающей антенной парой подвергается частотно-плоскому замиранию, и состояние канала остается постоянным в пределах одного передаваемого пакета. Предполагаем, что MT < MR и MT передаются параллельные потоки данных, по одному на каждую передающую антенну.

На рис. 1 показана структурная схема передатчика MIMO. На стороне передатчика -вектор из K информационных битов, b=[bi, b2, ...,Ьк]т кодируется первым каналом в вектор кодового слова c = [c1, c2, • • • , cN]T длины N = K/R, где R - кодовая скорость. Допустимый набор кодовых слов обозначается C и, следовательно, c е C. Кодированные биты в векторе c модулируются в вектор комплексных симво-

х = \х X Х Т лов данных, 1 2'"'' N/^ , Где в - ко-

личество кодовых битов на комплексный символ данных. Совокупность модуляции масштабируется так, чтобы модулированные символы в х имели удельную среднюю мощность.. Посредством последовательного преобразования в параллельный вектор х делится

Ь = N /М^ ) на / последовательных векторов

данных длиной Мт, {х1; х2; • • •; xL}, т.е. име-

\ т т тТ

= [Х1 , х2 ,. ., ХЬ] .

На стороне приемника принятые сигналы

записываются в матрицу MR х{ь+ Ь), Y = [у1, У2, • • •, УL' + ь|, где t-й вектор yt содержит принятые сигналы на приемных антеннах в ^м временном интервале. Матрицу принятого сигнала можно записать как

ем

Y =

1

HX + W

Mn

1Т , (1) где Н - это матрица комплексного канала х Мт с комплексными гауссовыми элементами, не зависящими от нулевого среднего и о2-дисперсии, а W - матрица аддитивного белого гауссова шума (AWGN) Мк х (L' + L), которая имеет нулевое среднее и единичную комплексные гауссовские значения, не зависящие от дисперсии.

Рис. 1. Блок-схема передатчика MIMO

Линейный и итеративный приемники MIMO

Одним из подходов к неоптимальному обнаружению MIMO и декодированию канала состоит в том, чтобы сначала отменить параллельную помеху сигнала линейным обнаружением MIMO, а затем выполнить декодирование канала следующим образом. Называем этот подход линейными приемниками MIMO. Например, обнаружение нулевого форсирования (ZF) устраняет помехи путем

Yd = JMT (HH

(hH H) 1 HH

Yd = Xd + Wd

где

Wd =

это сигналы после

(2)

отмены и

MT ^HdHd ) 1wd

- это шум после отмены. На рис. 2 показана структурная схема этого линейного приемника MIMO.

Рис. 2. Блок-схема линейного MIMO-приемника

Неоптимальность в линейном декодировании MIMO возникает из-за того, что традиционный канальный декодер предполагает, что

преобразованный шум W^ белый, но на самом

деле это не так после преобразования в (2). Хотя сложность этого линейного приемника MIMO невелика, его производительность

далека от оптимальной.

На рис. 3 показана блок-схема итеративного приемника MIMO. Часто используемое мягкое обнаружение MIMO - это сферический алгоритм, а часто используемое мягкое декодирование канала - алгоритм распространения доверия (BP). Сложность итеративного приемника MIMO намного выше, чем у линейного приемника MIMO. Хотя итеративный приемник MIMO имеет лучшую производительность, чем линейный приемник MIMO, все еще существует большой разрыв в производительности по сравнению с оптимальным приемником MIMO. Более того, итеративный обмен информацией приводит к большим задержкам декодирования.

Рис. 3. Блок-схема итеративного MIMO-приемника Приемники MIMO с глубоким обучением

Глубокие нейронные сети (DNN) используются для решения проблемы совместного обнаружения MIMO и декодирования каналов, с целью повышения производительности. DNN обучаются в соответствии с методикой обучения с учителем.

Рассматриваем обучение DNN в приемнике MIMO после того, как оценка матрицы

канала уже вычислена из принятых пилот-сигналов. Используя эту оценку матрицы канала H в приемнике MIMO, генерируем набор обучающих сигналов для обучения DNN для решения проблемы совместного обнаружения MIMO и декодирования канала в рамках контролируемого обучения. Структура обучения и развертывания DNN для MIMO показана на рис. 4.

Рис. 4. Структура обучения и развертывания DNN для MIMO

Приемник генерирует обучающие данные, вызывая функциональный блок, который имитирует работу передатчика MIMO. В частности, в целях обучения приемник случайным образом генерирует множество двоичных векторов длиной K, b(l), i = 1, 2, -,Z. Каждый двоичный вектор b(l) преобразуется в матрицу

X

(i)

данных d с использованием функционального блока передатчика MIMO. Затем с оценкой матрицы канала H , заданной устройством оценки канала, приемник генерирует обучаю-

Л X{i)

щий сигнал путем умножения H на d с последующим добавлением AWGN:

Yd ^fi/MTfod) + Wd ]'

где Y di) - l-й обучающий сигнал, а W^ ) - соответствующий сгенерированный AWGN. Обучающий набор задается как

D (Я ) В)

i), Ь (') | н f

'i = 1

, где b®

г (i )

- соответствующая метка для Ydj'. Подчеркнем, что обучающая выборка зависит от оценки матрицы канала Н.

Переменные, представляющие интерес

X

(i)

для DNN, - это символы данных в d . Таким образом, размер пространства переменных равен 2K, где K - длина b(l). Если DNN может видеть все возможные кодовые слова, производительность декодирования DNN является наилучшей.

Обучение DNN занимает довольно много времени. Следовательно, процедура обучения приведет к большой задержке декодирования и не может быть развернута для приложений с жесткими требованиями к задержке, таких как передача голоса.

Результаты моделирования

В этом разделе мы представляем результаты моделирования для оценки предлагаемого приемника DNN MIMO. Используются модуляции BPSK и QPSK. Используемый код канала - полярный код со скоростью кода 1 / 2. Предполагаем, что каждый пакет состоит из K = 16 бит при моделировании. Принятие короткой длины пакета связано с экспоненци-

альной сложностью обучения, когда DNN используется для выполнения декодирования канала. Пакеты небольшой длины представляют интерес для некоторых практических систем, таких как Интернет вещей (IoT). После кодирования канала и модуляции K =16 информационных битов преобразуются в 32 символа BPSK или 16 символов QPSK. В нашем моделировании предполагается, что MIMO-матрицы имеют размер MR х MT = 2 х 2, 4 х 4 и 8 х 8.

Реализуем DNN, состоящую из одного входного слоя, шести скрытых слоев и одного выходного слоя, используя программный инструментарий Keras для глубокого обучения. Нелинейной функцией активации нейронов входного слоя и скрытых слоев является функция выпрямленных линейных единиц (ReLu). Входной слой - это плотно связанный слой. Каждый скрытый слой представляет собой плотно связанный слой с операциями пакетной нормализации (BN) перед операциями ReLu. Выходной слой - это плотно связанный слой с функциями активации сигмоида. Архитектура DNN проиллюстрирована на рис. 5. Обучаем нейронную сеть в течение нескольких эпох. В каждую эпоху градиент функции потерь вычисляется по всему обучающему набору с использованием метода Адама для оптимизации стохастического градиентного спуска. Обучающий набор содержит все разные кодовые слова 2K, K - длина информационных битов. Установив количество эпох обучения на 105, обучаем DNN с наборами данных с разными обучающими SNR (от 0 дБ до 6 дБ). После завершения обучения обученный DNN используется для декодирования полученных сигналов MIMO.

Для сравнения рассматриваем следующие два приемных устройства MIMO, которые являются ориентирами:

1) линейный приемник MIMO, который использует обнаружения нулевого форсирования (ZF) MIMO, за которым следует полярное декодирование MAP.

2) итеративный приемник MIMO, который выполняет итерацию между обнаружением сферического MIMO и полярное декодирование MAP.

Input: InputLayer Dense 1: Dense ReLu 1: Activation Dense. : Dense

input; 1 outpul: input: J output: input: J output: input: output:

(None, 192) 1 (None, 192) (None. 192) 1 (None, 512) (None, 512) 1 (None. 512) (None, 512) (None, 256)

BN 1: Balch Normalization Rl'Lu2: Act i val ion Dense3: Dense В N2: Batch Normalization

input: 1 output: input: 1 output: input: J output: input: 1 output:

(None, 256) 1 (None, 256) (None. 256) 1 (None, 256) (None. 256) 1 (None, 128) (None. 128) 1 (None, 128)

RcLu3: Activation Dense4: Dense BN3: BatehNorrnalization RcLu4: Activation

input: output: input: 1 output: input: output: input: J output:

(None, 128) (None, 128) (None, 128) 1 (None, 64) (None, 64) (None. 64) (None. 64) 1 (None, 64)

— ReLu4: Activation Dense5; Dense BN4: BatehNormalization RcLj5: Activation

input: 1 output: input: 1 output: input: 1 output: input: 1 output:

(None, 64) 1 (None, 64) (None, 64) 1 (None, 32) (None, 32) 1 (None, 32) (None. 32) 1 (None.32)

Dense6: Dense BN5: BatehNormalizaiion ReLu6: Activation Dense7: Dense Sigmoid: Activation

input: 1 output: input: 1 output: input: 1 output: input: 1 output: input: 1 output:

(None. 32) 1 (None, 16) (None, 16) 1 (None J 6) (None, 16) 1 (None, 16) (None. 16) 1 (None. 16) (None, 16) 1 (None. 16)

Рис. 5. Архитектура принятой DNN, состоящей из шести скрытых слоев с 512, 356, 128, 64, 32 и 16 нейронами,

соответственно

Исследуем производительность приемников MIMO как с полным, так и с несовершенным знанием матрицы каналов. Для фиксированного SNR оцениваем средние результаты BER приемников MIMO для 100 различных реализаций канала MIMO.

На рис. 6 и 7 показан BER приемников MIMO с точным знанием матрицы канала MIMO для BPSK и QPSK соответственно. Мы можем заметить, что наш приемник DNN MIMO действительно может превзойти линейные и итерационные приемники MIMO с точки зрения BER. Например, приемник DNN MIMO имеет усиление SNR около 1 дБ и 3,5 дБ по сравнению с линейным и итерационным приемниками MIMO, соответственно, при BER 10-4 для каналов BPSK и 8 х 8 MIMO.

N. - ■ . N; Ч Д .

<• x> ч'4*

О 2X2 .тейпы! MIMO Rx A V, \

—^— 2X2 DNN MIMO Rx • * ■ 4X4 ntrtmrtMIMC) Rx , — > - 4X4nepir«BMiM 1 MORx : —в— 4X4 DNN MIMO Rx - ф 8X8 шнеВыыа MIMO Rx 0 \\ \ Si. ■ \> \ o \\ \ k N Л . o \ N.

—— 6X8 DNN MIMO Rx

Рис. 6. BER приемников MIMO с точным знанием матрицы канала MIMO для BPSK

Рис. 7. BER приемников MIMO с точным знанием матрицы канала MIMO для QPSK

На рис. 8 и 9 показаны BER приемников MIMO с несовершенным знанием матрицы канала MIMO для BPSK и QPSK соответственно. Для оценки матрицы канала помещаем матрицу Адамара в начало пакетов в качестве пилот-сигналов и используем оценку LS на основе принятых пилот-сигналов для оценки матрицы канала в приемниках. В общем, тенденция производительности для случаев идеальных и несовершенных оценок канала одинакова. Единственное различие между ними состоит в том, что для случаев несовершенных оценок канала коэффициент усиления, полученный нашим приемником DNN MIMO еще больше. Например, приемник DNN MIMO теперь имеет усиление отношения сигнал / шум около 2 дБ и 10 дБ по сравнению с линейными и итеративными приемниками MIMO при BER 10-4 для каналов BPSK и 8 х 8 MIMO.

Рис. 8. BER приемников MIMO с несовершенным знанием матрицы канала MIMO для BPSK

Рис. 9. BER приемников MIMO с несовершенным знанием матрицы канала MIMO для QPSK

Заключение

Глубокая нейронная сеть использовалась для разработки нового решения проблемы совместного обнаружения MIMO и декодирования каналов. Обычные приемники MIMO выполняют обнаружение MIMO и декодирование канала последовательным или итеративным способом. Алгоритмы этих обычных приемников MIMO ослабляют модель сигнала кодированного MIMO. В результате они являются неоптимальными решениями проблемы совместного обнаружения MIMO и декодирования каналов, оставляя возможность для дальнейшего улучшения. Наше решение для глубокого обучения использует DNN для совместного обнаружения MIMO и декодирования каналов в рамках контролируемого обучения. Приемник MIMO с глубоким обучением не разделяет обнаружение MIMO и декодиро-

вание канала на две части и не выполняет с ними последовательных или итерационных операций. Он рассматривает обнаружение MIMO и декодирование канала как процесс совместного декодирования и использует единый DNN для аппроксимации процесса совместного декодирования. Этот совместный процесс улучшает общую производительность декодирования. В процессе моделирования обучили DNN, состоящую из шести скрытых слоев, для декодирования сигналов MIMO. Результаты моделирования демонстрируют заметный выигрыш, полученный приемником MIMO с глубоким обучением по сравнению с обычными линейными и итеративными приемниками MIMO.

Недостатком предлагаемого в настоящее время приемника MIMO с глубоким обучением является то, что DNN необходимо обучать для каждой отдельной матрицы каналов, что приводит к большой задержке декодирования. В общем, обучить одну и ту же DNN для MIMO-декодирования с разными матрицами каналов сложно, так как пространство всех возможных матриц каналов огромно. Невозможно позволить DNN видеть все реализации каналов.

Литература

1. Bejarano O., Knightly E. W., Park M. Ieee 802.11 ac: from channelization to multi-user mimo // IEEE Communications Magazine. 2013. Vol. 51. No. 10. Pp. 84-90.

2. Capacity limits of mimo channels / A. Goldsmith, S. A. Jafar, N. Jindal, S. Vishwanath // IEEE Journal on selected areas in Communications. 2003. Vol. 21. No. 5. Pp. 684702.

3. Richardson T., Kudekar S. Design of low-density parity check codes for 5g new radio // IEEE Communications Magazine. 2018. Vol. 56. No. 3. Pp. 28-34.

4. Хорошайлова М.В. Архитектура канального кодирования на основе ПЛИС для 5G беспроводной сети с использованием высокоуровневого синтеза // Вестник Воронежского государственного технического университета. 2018. Т. 14. № 2. С. 99-105.

5. Башкиров А.В. Использование стохастического вычисления для реализации недвоичного LDPC-декодера на ПЛИС / А.В. Башкиров, М.В. Хорошайлова, С.Ю. Белецкая// Вестник Воронежского государственного технического университета. 2016. -Т. 12, № 5. С. 70-73.

6. Khoroshaylova M.V. LDPC code and decoding algorithms // Антропоцентрические науки: инновационный взгляд на образование и развитие личности: материалы II междунар. науч.-практ. конф.: в 2-х ч.; под ред. Э. П. Комаровой. Воронеж, 2015. С. 227-228.

Поступила 26.04.2022; принята к публикации 16.06.2022

Информация об авторах

Башкиров Алексей Викторович -д-р техн. наук, доцент, Воронежский государственный технический университет (34006, Россия, г. Воронеж, ул. 20-летия Октября, 84), e-mail: fabi7@mail.ru, ORCID: http://orcid.org/0000-0003-0939-722X Свиридова Ирина Владимировна - старший преподаватель, Воронежский государственный технический университет (34006, Россия, г. Воронеж, ул. 20-летия Октября, 84), e-mail: riss-ka@mail.ru, ORCID: https://orcid.org/ 0000-0001-5279-0807 Хорошайлова Марина Владимировна - канд. техн. наук, старший преподаватель, Воронежский государственный технический университет (34006, Россия, г. Воронеж, ул. 20-летия Октября, 84), e-mail: pmv2205@mail.ru, ORCID: orcid.org/0000-0001-9167-9538

USING NEURAL NETWORKS FOR MIMO DETECTION AND CHANNEL DECODING A.V. Bashkirov, I.V. Sviridova, M.V. Khoroshaylova Voronezh State Technical University, Voronezh, Russia

Abstract: the article proposes a deep learning approach for the joint problem of MIMO detection and channel decoding. Conventional MIMO receivers use an existing model approach to detect MIMO and decode the channel in a linear or iterative manner. However, due to the complex model of the MIMO signal, an optimal solution to the problem of joint MIMO detection and channel decoding (i.e., maximum probability decoding of the transmitted codewords from the received MIMO signals) is computationally impossible. As a practical measure, all current standard model based MIMO receivers use sub-optimal MIMO decoding techniques with affordable computational complexity. This work applies the latest advances in deep learning to the design of MIMO receivers. In particular, we use deep neural networks (DNN) with supervised learning to solve the problem of joint MIMO detection and channel decoding. DNNs can be trained to provide much better decoding performance than conventional MIMO receivers. Simulations show that a DNN implementation consisting of seven hidden layers can outperform traditional linear or iterative receivers based on the models used. This performance improvement points to a new direction for future MIMO receiver design

Key words: deep learning, neural networks, MIMO receivers, channel decoding

References

1. Bejarano O., Knightly E.W., Park M. "Ieee 802.11 ac: from channelization to multi-user mimo," IEEE Communications Magazine, 2013, vol. 51, no. 10, pp. 84-90.

2. Goldsmith A., Jafar S.A., Jindal N., Vishwanath S. "Capacity limits of mimo channels," IEEE Journal on Selected Areas in Communications, 2003, vol. 21, no. 5, pp. 684-702.

3. Richardson T., Kudekar S. "Design of low-density parity check codes for 5g new radio," IEEE Communications Magazine, 2018, vol. 56, no. 3, pp. 28-34.

3. Khoroshaylova M.V. "Architecture of FPGA based channel coding for 5G wireless network using high-level synthesis", Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2018, vol. 14, no. 2, pp. 99-105

4. Bashkirov A.V., Khoroshaylova M.V., Beletskaya S.Yu. "Use of stochastic computation for realization of non-binary LDPC-decoder on FPGA", Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2016, vol. 12, no 5, pp. 70-73.

5. Khoroshaylova M.V. "LDPC code and decoding algorithms", Proc. of the 2nd Int. Sci.-Practical Conf.: Anthropocentric Sciences: an Innovative Look at Education and Personal Development, 2015, pp. 227-228.

Submitted 26.04.2022; revised 16.06.2022 Information about the authors

Aleksey V. Bashkirov, Dr. Sc. (Technical), Associate Professor,, Voronezh State Technical University (84 20-letiya Oktyabrya str., Voronezh 394006, Russia), e-mail: fabi7@mail.ru, ORCID ID http://orcid.org/0000-0003-0939-722X

Irina V. Sviridova, Assistant Professor, Voronezh State Technical University (84 20-letiya Oktyabrya str., Voronezh 394006, Russia), e-mail: riss-ka@mail.ru, ORCID: https://orcid.org/ 0000-0001-5279-0807

Marina V. Khoroshaylova, Cand. Sc. (Technical), Assistant Professor, Voronezh State Technical University (84 20-letiya Oktyabrya str., Voronezh 394006, Russia), e-mail: pmv2205@mail.ru, tel.: 8-910-732-66-13, orcid.org/0000-0001-9167-9538