Пропускная способность дискретного многомерного канала связи с памятью Текст научной статьи по специальности «Электротехника, электронная техника, информационные технологии»

ПРОПУСКНАЯ СПОСОБНОСТЬ ДИСКРЕТНОГО МНОГОМЕРНОГО КАНАЛА СВЯЗИ С ПАМЯТЬЮ

DOI 10.24411/2072-8735-2018-10048

Сухоруков Александр Сергеевич,

Московский технический университет связи и информатики, Москва, Россия, suhas@yandex.ru

Ключевые слова: теорема кодирования, пропускная способность, дискретный канал с памятью, межсимвольная интерференция, вероятность ошибки, помехоустойчивость, кодовая комбинация, разрешенная комбинация, защитный временной интервал, аддитивный шум, энтропия, взаимная информация.

Одной из проблем теории и практики связи является достижение максимальной скорости передачи информации при заданной вероятности ошибки. Реальные каналы связи (КС) являются каналами с памятью, поэтому важно определить потенциальные возможности таких КС и пути их реализации. Увеличение бодовой скорости передачи вызывает появление межсимвольной интерференции (МСИ) и канал превращается в канал с памятью. Наличие МСИ уменьшает помехоустойчивость, но сигнал на выходе КС становится многомерным, так как каждое мгновенное значение сигнала на выходе КС содержит информацию не только о передаваемом в данный момент бите (символе), но и обо всех предыдущих и последующих символах, переданных по КС. Пусть для последовательностей длительностью Т из N символов vk на входе u uk на выходе КС соблюдены все условия, при которых канал является каналом без памяти и достигнут максимум взаимной информации, содержащейся в принятом процессе относительно переданного сигнала. Не меняя условий достижения максимума этой взаимной информации, к N символам на входе КС добавим еще m символов, уменьшив длительность каждого символа, чтобы общая длина комбинации из (N+m) символов на входе канала осталась неизменной и равной Т. Тогда количество взаимной информации в комбинации из (N+m) символов больше, чем максимальное количество взаимной информации в комбинации из N символов, но меньше, чем максимальное количество взаимной информации в комбинации из (N+m) символов. Если для канала без памяти увеличение N означает увеличение времени занятия канала одной комбинацией пропорционально N то для канала с памятью увеличение N можно получить при неизменной общей длительности T всей кодовой комбинации, уменьшая длительность символа. При этом увеличивается скорость передачи, но канал становится каналом с памятью. Рассматриваем дискретный детерминированный канал с памятью (ДДКП) и аддитивным шумом. Для ДДКП каждая комбинация или процесс есть совокупностью дискретных значений, чисел в дискретные моменты времени. Канал детерминированный, т.е. на приеме и на передаче известны возможные варианты как передаваемых vk, так и однозначно соответствующих им принимаемых комбинаций uk. Существенной особенностью канала с памятью является принципиальное отличие передаваемых комбинаций от принимаемых комбинаций. Для канала с памятью доказательство теоремы кодирования выполняется при условии приема всей m-ой комбинации, в целом. Для реализации эффективной передачи информации по каналу связи с памятью на вход и выход ДДКП накладываем ограничения. Коды, удовлетворяющие этим ограничениям, можно назвать "хорошими кодами". Приведены модифицированные доказательства теоремы кодирования и ее обращения для дискретного детерминированного канала с памятью при наложенных ограничениях. Указанные ограничения позволяют привести КС с памятью к известному типу канала - каналу без памяти при условии приема кодовой комбинации в целом. Это позволяет указать конкретные пути увеличения скорости передачи информации и помехоустойчивость приема для детерминированного канала с памятью. Показаны преимущества канала с памятью по сравнению с каналом без памяти и рассмотрены способы увеличения скорость передачи и уменьшения вероятности ошибки на бит при увеличении основания кода М. Выигрыш достигается за счет сбалансированного увеличения длительности разрешенных кодовых комбинаций в зависимости от требований к скорости передачи и помехоустойчивости приема.

Информация об авторъ

Сухоруков Александр Сергеевич, к.т.н., доцент кафедры общей теории связи Московского Технического Университета Связи и Информатики, Москва, Россия

Для цитирования:

Сухоруков А.С. Пропускная способность дискретного многомерного канала связи с памятью // T-Comm: Телекоммуникации и транспорт. 2018. Том 12. №3. С. 13-21.

For citation:

Sukhorukov AS. (2018). Bandwidth multidimensional discrete communication channel with memory. T-Comm, vol. 12, no.3, pр. 13-21. (in Russian)

СВЯЗЬ

-е-

Введение

Одной из проблем теории и практики связи является достижение максимальной скорости передачи информации при заданной вероятности ошибки. При сколь угодно малой вероятности ошибки максимальная скорость передачи называется пропускной способностью канала связи (КС) и определяется формулой Шеннона для канала без памяти. Однако, реальные КС являются каналами с памятью, поэтому важно определить потенциальные возможности таких КС и пути их реализации.

Сиг нал, поступающий на вход приемника с выхода КС с памятью для произвольного момента времени ^ имеет вид:

"С,)=....+««[/,-(к- Щ ]-(* -1Д]-+ - кТх ] + (|)

где ит(0 - одиночный сигнальный символ па выходе КС.

Увеличение бодовой скорости передачи, т.е. уменьшение длительности Т| импульсов, вызывает появление межсимвольной интерференции (МСИ) в соответствии с {!), канал превращается в канал с памятью, вероятность ошибки увеличивается. Возможно ли итоговое увеличение скорости передачи? Рассмотрим простой пример.

V(1)

J±L

-i-l "

,Tfl)

+1+1+ + +

-1-1- У*.

U(t) Выход

3±Г

нч :

0(t)

5 8 Г Я t

■j I.'*"1.J' ""

максимальную информационную содержательность.

Опишем рассмотренную ситуацию взаимной информацией. Пусть на входе канала для произвольного множества V последовательностей v(t) длительностью Т из N символов и для однозначно соответствующего ему множества U последовательностей н(1) на выходе канала задана средняя взаимная информация между входом и выходом 1(11^; VN}. Пусть для последовательности длительностью Т из N символов выполнены условия, при которых достигнута sup 1{UN; VN). К N символам на входе канала добавим еще ш символов, уменьшив длительность каждого символа, чтобы общая длина комбинации нз (N+m) символов на входе канала осталась неизменной и равной Т. Тогда:

Рис. 1. Влияние памяти канала на форму сигнала на выходе КС

На рисунке 1 показаны временные диаграммы сигналов на входе и выходе КС. На рис.ta (вход) показана комбинация v(t) из N=5 символов на входе КС, а на рис. 16 (выход) показана та же комбинация u(t) на выходе КС. Предполагаем, что для этих 5-ти символов большой длительности канал является каналом без памяти и в отсутствии аддитивных помех выход канала тождественно равен входу.

На рис. 1в (вход) показана комбинация v{t) из i 1 символов на входе КС, а на рис.1 г (выход) показана та же комбинация u(t} на выходе КС. Длительность символов уменьшилась, по комбинация имеет ту же длительность, что и при N=5. Очевидно, что зти II символов на входе КС несут в 11/5 раз больше информации, чем 5 символов. Однако, из-за относительно узкой полосы пропускания КС короткие символы на выходе КС «расплываются», возникает МСИ (рис. 1 г). Комбинация рис. I г уже мало напоминает комбинацию рис. 1 в на входе.

Однако, u(t) на рис.1г в тактовые моменты времени 1,2,3,4,5,6,S,9,10 принимает значения, совпадающие со знаками переданных символов. В тактовые моменты 7 и I I символы приняты неверно. Таким образом, за интервал времени Т по каналу без памяти верно передано 5 символов, а по каналу с памятью верно передано 9 символов, т.е. скорость передачи выросла в 9/5 раз. При этом сигнал становится похожим на нормальный шум (см. рие.1г), имеющий

sup [(LP ; V ) <ECU"™ ; V )< sup I(U"™ ; V" m ). (2)

Действительно, имеем:

l(UN+m ; V*+ra )= t(UN ; VN+rn )+ I(Um ; VN4nl| UN)= I(VN'm ;

UN)+ l(ir ; VN+n4 UV I(VN ; UN)+ l(Vm ; UN|VV I(Um ;

у N+m I jjN^j

He меняя условий достижения sup l(UN ; VN ), получим:

l(UN,m; VN'm) = sup I(UN; VN) + I(V"; UN|VN) + I(Unl; V№™| UN).

Так как второе и третье слагаемые неотрицательны, то из этого следует левое неравенство в (2). 11равое неравенство очевидно из условий определения sup liU^"1 ; VN"m ),

Дискретный детерминированный канал

с памятью (ДДКП)

Теоремы кодирования позволяют определить предельные возможности КС с памятью. В отличии от [3] на КС накладываем дополнительные ограничения, что позволяет конкретизировать используемое при случайном выборе кодов понятие «хороший код» и указать конкретные пути достижения пропускной способности КС с памятью. Предложен порядок подключения формирующего фильтра ц мощного каскада передатчика, что позволяет обеспечить постоянство средней мощности кодовых комбинаций па входе КС с памятью. Доказательство теоремы выполняется исходя из основного соотношения между взаимной информацией, производительностью источника и пропускной способностью КС, что позволяет существенно упростить методику доказательства по сравнению с 13-5|.

Рассматриваем дискретный детерминированный канал с памятью (ДДКП) и аддитивным шумом. Дня ДДКП каждая комбинация или процесс есть совокупностью дискретных значений, чисел в дискретные моменты времени. Алфавиты входного V и выходного U множеств для ДДК11 состоят из

целых чисел 0,1.....К-1 и 0, 1, 2...J-I, соответственно. Канал

детерминированный, т.е. на приеме и на передаче известны возможные варианты как передаваемых vm, так и однозначно соответствующих им принимаемых комбинаций unl.

Декодер анализирует процесс zk=vk+xk, поступающий ira его вход, и равный сумме реализаций сигнала vk и шума xt. Декодер Принимает решение, соответствующее шах p(vnl,um / zk). ДДК11 будем описывать переходными вероятностями p(uk/vm). Зададимся вероятностной мерой Q(v) на множестве входных сообщений V. Средняя взаимная информация между выходом кодера (входом КС) и выходом декодера равна:

О

-e-

KU;V)=IlQ(v)p(u/v)log^ , y P(u)

Пропускная способность КС; C = sup[<U;V).

(3)

Существенной особенност ью канала с памятью является принципиальное отличие передаваемых комбинаций от принимаемых. Для реализации эффективной передачи информации по каналу связи с памятью на вход и выход ДДКП накладываем ограничения. Коды, удовлетворяющие этим ограничениям, можно назвать «хорошими кодами»,

1. ] [остояпство МОЩНОСТИ комбинации гга входе КС - основной параметр, определяющий вероятность ошибки. Для ДДКП этот параметр имеет большее значение, чем для канала без памяти. Увеличение N для канала без памяти не меняет усредненный спектр сигнала, гак как длительность кодовых символов не меняется. Для канала с памятью увеличение N может происходить при уменьшении длительности кодовых символа, что увеличивает ширину спектра передаваемых комбинаций. МОЩНОСТЬ сигнала на выходе КС уменьшается не только за счет затухания в КС, но и за счет уменьшения мощности сигнала, проходящей через КС с фиксированной полосой пропускания. Поэтому фильтр с полосой пропускания равной полосе пропускания КС необходимо ВКЛЮЧИТЬ до входа выходного мощного каскада передатчика. И чтом случае средняя для каждого КОДОВОГО Слова vm мощность Р на выходе КС удовлетворяет неравенству: Р-6йиг„-£Р\

2. Канал с памятью искажает переданные комбинации, т.е. комбинации на его входе и выходе принципиально не равны из-за межсимвольных помех (рис. 1). По этой причине вместо понятия «равенство» введем более общее понятие «однозначное соответствие входа v„, и выхода и„, канала».

3. Для канала с памятью разбиение пространства решений декодера UN на M комбинаций ur„ (l<m< М), каждая из которых однозначно соответствует одной из возможных комбинаций на входе канала vn„ можно реализовать только, если на приеме и на передаче известны возможные варианты передаваемых и однозначно соответствующих им принимаемых комбинаций. Для передачи используются только разрешенные комбинации vm, для которых минимальная энергия разности комбинаций на выходе ДДКП удовлетворяет неравенству:

Е - Д <[и -ut]: < Е ; I <m<M ; I < it<M ; к * т;

р L m h J /» * р ' '

Мп — общее число разрешенных комбинации.

4. Передаваемые кодовые комбинации имеют длительность Т и разделены защитным временным интервалом Т,. Длительность защитного временного интервала Т, между комбинациями значительно меньше длительности Т кодовых комбинаций и значительно больше "памяти канала связи" Т„ , т.е. длительности переходных процессов на выходе КС: Т » Т,» Тк,

Следовательно, взаимные помехи между комбинациями могут быть сделаны сколь угодно малыми но сравнению с полезным сигналом.

В Приложении приведено традиционное доказательство теоремы кодирования и се обращения. Предлагаемое доказательство теоремы кодирования В отличие от [3] справедливо для КС с памятью нри условии выполнения ограниче-

ний 1-4, т.е. передачи только разрешенных комбинаций и приеме кодовых комбинаций «в целом». В отличие от [4| изменена методика доказательства, исправлены значения коэффициентов в итоговом выражении для вероятности ошибки, уточнены ограничения (1-4), накладываемые на комбинации, определены рекомендации по построению структурной схемы выходного каскада передатчика.

Теорема кодировании для ДДКП

Пусть для ДДКП пространство V4 передаваемых кодером кодовых комбинаций из N символов и пространство и1*1 решений декодера состоят из Мг однозначно соответствующих друг другу кодовых комбинаций ут и цп1,

Рассмотрим ансамбль кодов, каждый из которых содержит М слов у„, длиной N символов, из которых М,, являются разрешенными, т.е. удовлетворяющими ограничениям 1-4. Кодер выбирает слова независимо с вероятностной мерой (3{ут). Пусть вероятность ошибки в решениях декодера описывается переходными вероятностями р(щ,/уга). Тогда средняя вероятность ошибочного декодирования р по зтому ансамблю кодов, удовлетворяющих ограничениям 1-4, при декодировании но максимуму правдоподобия, ограничена сверху:

p<fi 'Л 'e\p:<y[(i^-ut)2-Ep + Д] J exp[r(vw-Е + ¿>)]х (4)

^{ВД^-С,)!}.

Декодер анализирует процесс z* = vk + xt, поступающий из КС на его вход, и равный сумме реализаций сигнала vk и шума хк. Декодер принимает решение, соответствующее шах p(vm, um/zt). Пусть средняя вероятность ошибки декодера при приеме кодовой комбинации для некоторого случайно выбранного кода равна р0111.

Среднее количество взаимной информации I(UN;VN), переданное по каналу связи за одну комбинацию и содержащееся в процессе на выходе декодера о переданной комби* нации равно:

iqjN',VK)=H(yN)~H{U>' 1У")\

H(VN) - энтропия на комбинацию случайно выбранного кода; H(UN/ V ^-средние потери информации в канале на комбинацию для некоторого случайно выбранного кода.

Максимизируем обе части равенства:

max 1(UN;VN)= шах H(VN)-min H(UN/VN).

Максимальное количество взаимной информации, кото-рос может быть передано по КС, сеть пропускная способность С (3):

С= Hma,(VN) - min H(UN/VN); min H(UN/VN) = HJVN) - C.

Пусть средняя вероятность ошибки при приеме произвольной комбинации vm для декодера, принимающего решение. соответствующее max />(uk /z„ ), равна:

Р™, = P,.,„(vm) = p(nt/ vnl), к^т.

Потери информации могут быть записаны так:

H(U!V) = -p,m log

P«,

M-1

-O-AjtaeO-Ajt

Анализируя потери увидим, что для 0< р<(М-1 )/М потери есть возрастающая функция вероятности ошибки (рис. 2).

-е-

T-Comm Vol.12. #3-2018

СВЯЗЬ

-е-

При изменении вероятности ошибки от 0 до (М-1 )/М потери и канале изменяются от 0 (канал не вносит потерь и принятая комбинация соответствует переданной, информация передается без потерь) до 1о§М (передачи информации нет).

1 г 1 HflJAQ 1 Г 1 Г Г 1

__»_ _ _i___t__ м=в

1 1 1 М=4

"Г" 1 t / 1 1 у у ' ' // 1 1 / ,f у ' ~ "Г " > ■ 1— 1 •. ' - J

1 у/ уЛ • /f / г 1 J/_r | »'/// Г ~ 1,1=2

ЖГ\

'.II 1 | \ 1 1 ":"Т"Г" Г" !" fl

А.«"

Л = tV(v )Q(v ) - вероятность того, что при независимом выборе входных комбинаций удовлетворяется условие 1.

м

р = )Q(v ) ~~ вероятность того, что при независи-

ма I

мом выборе входных комбинаций удовлетворяется условие 2.

Для любых неотрицательных г и q можно записать верхнюю границу для ij/(vra) и ipfv,,,) в виде[3]:

V/(vnl)<cxp[r(v;r,-/> + 5)]; Следовательно, (5) запишем в виде:

Qivji^'r1 ехр^[/n(vJ-£ +A]Sexp[r^-/> + <ï)]Q(vJ;

0 0.1 0 2 03 0 4 0.5 0.6 0.7 OS 0.9 1 Pili:. 2. Зависимость потерь в КС ОТ вероятности ошибки

Дзя произвольных комбинаций Uj, и vm, если средняя вероятность ошибки при приеме кодовой комбинации удовлетворяет неравенству 0< рШ11 < (М-1 )/М из графика получим:

рош< min H(UN/VN); рш< H„M,(VN) - С.

Ддя грубой оценки рт„ выполним очевидные преобразования:

Р<11

т=1 Л=I

Величина С] - пропускная способность КС на символ кодовой комбинации. Величина Н|тщ - максимальная энтропия источника на один символ комбинации.

Среднюю вероятность ошибки для комбинаций, удовлетворяющих условиям 1-4, запишем в виде;

К и,

Указанные выше о]раничения 1-4 позволяют привести КС с памятью к известному типу канала — каналу без памяти при условии приема всей кодовой комбинации а целом.

Для доказательства т еоремы строим ансамбль кодов, каждое слово которого удовлетворяет о)раничениям 1-4. Пусть 0^,,,} - распределение вероятностей на входных кодовых последовательностях канала представимо в виде:

(6)

Так как правая часть (6) не зависит от книга (6) принимает вид, совпадающий с (4):

р < ¡и"'А~1 ехр^ЩV„) - Ег + Д]} ехр[/-{у~ -Е + $)]х

хяртн^-т-

Оценим величины р и X. Из вышеизложенного следует, что фильтр, формирующий спектр передаваемых комбинаций, стоит до мощного выходного каскада передатчика. В этом случае дисперсия всех комбинаций на входе и выходе КС остается постоянной и р=1. Энергия разности посылок на выходе канала связи есть при N —> =о нормальный процесс. так как при увеличении N и укорочении посылок передаваемый процесс становится все более широкополосным и на выходе узкополосного канала с памятью нормализуется, Дисперсия разности посылок изменяется от 0 (для одинаковых кк) до Епш для кк с максимальным кодовым расстоянием.

Условие 2 означает; что из общего количества 2К двоичных комбинаций, разрешенные комбинации образуют подмножество, код с заданным значением минимального кодового расстояния 4пу,. Верхняя 1раница Хеммит а устанавливает максимально возможное число Мр разрешённых кодовых комбинаций любого помехоустойчивого кода при заданных значениях N и с!,™,,:

(5)

2"

ы <---

1 с

А=0

2Л

Г)(ут) - вероятность произвольной комбинации на входе КС; рг(ут) - вероятность некоторой последовательности, удовлетворяющей условиям 1-4, если кодовые последовательности на передаче выбираются независимо с вероятностями (3(уп,); уЬ'т) = 1, если удовлетворяется I; у(\'т) = 0, если не удовлетворяется 1; ф(уга) = 1 - если удовлетворяется 2; ф(уш) = 0 - если не удовлетворяется 2;

М„<;

I с

с. . " i!(JV-fc)!'

__2^_

\+ N + А'~ /2 + N* /6+...'

Следовательно, относительное количество разрешённых кодовых комбинаций уменьшается пропорционально 1) Множитель р'1 растет как степень N. что не влияет на итоговое экспоненциальное уменьшение вероятность ошибки с ростом N.

О

-е-

Из ограничения 2 также следует, что величина 11,„1ах = log Мг оказывается для ДДКП существенно меньше, чем для КС без памяти.

Из формулы (4) следует, как очевидное следствие, обращение теоремы кодирования: «При выполнении условий, сформулированных в теореме кодирования, следует, что если производительность источника на символ кодовой комбинации больше, чем пропускная способность канала на символ кодовой комбинации, то нельзя достичь сколь у ["одно малой вероятности ошибки».

Компьютерный же пери мен т

13 соответствии с ограничениями 1-4 и предложенной моделью каждая из множества разрешенных комбинаций поступает сначала на вход идеального ФНЧ, соответствующего ЛЧХ канала связи и далее на мощный выходной каскад передатчика. Полагаем, что в этом случае средняя мощность Р каждой разрешенной комбинации на входе и , соответственно, на выходе КС постоянна. Вероятность ошибки для систем!,1 связи с двоичными ортогональными сишалами и белым шумом с огношением с/ш h" определяется выражением [!]:

p=[l-F(ft)],

где F(h) - ин reipan Лапласа.

Известно, что при увеличении основания кода М с одновременным увеличением длины комбинации в log М раз вероятность ошибки для КС без памяти можно оценить по формуле [ I j: рщЩ~])[! -F^h1 log(A/ -1) J],

Это позволяет при неизменной скорости передачи уменьшить в пределе вероятность ошибки до 0, при h" больше порога Шеннона [2]. Канал с памятью даст новые возможности обмена скорости передачи па помехоустойчивость.

Вариант I. На рисунке 3 показаны комбинации из одного и из 7 импульсов на входе и выходе КС без памяти. Энергия одного импульса равна Е = РТ = 1.

а) Á4f>

б)

л*Ю

+ + + +■

— 1 Ы "«

Сне. 3. Временные диаграммы передаваемых комбинаций

Для КС е памятью уменьшаем длительность импульсов в комбинации рис. 36 в семь раз, так что общая длительность комбинации из семи символов равна длительности одного символа на рис. За, Выбираем из 128 возможных комбинаций 8 разрешенных Мп = 8, для которых энергия разности Ер » РТ > 1.Эти комбинации на выходе канала е памятью показаны на рис. 4, В этом случае скорость передачи растет как 1огМр, но вероятность ошибки на бит также растет:

Р<(Мр- 1)[1-Г(А)].

Вариант 2. Уменьшим длительность импульсов комбинации рис. 36 в ШоцМр раз. Длительность разрешенных комбинаций увеличится в 1о§Мр раз и равна Т 1оцМр, то есть в этом конкретном примере выросла в 3 раза, ЕР = ЗРТ > 3. На рисунке 5 показаны в три раза более длинные три из 8 комбинаций рие. 4.

В этом случае скорость передачи не меняется, т.к. комбинация удлиняется пропорционально = Мр, но каждая комбинация песет >1,, бит информации. Вероятность ошибки можно оценить выражением

р т (Mf-m-FÜk2 logМр jj.

С ростом Мр вероятность ошибки стремиться к 0 при И" >0.693,11>0.832 (Ь больше порога Шеннона). На рисунке 6 показаны зависимости р от М для трех значений Ь, подтверждающие это (Ь = 0.833; К = 0.9; Ь = 1,5),

О

№1

№2 №3 №4 №5

t - ! - Т - Г -it 1Г-Г-У-Г- 4" - «--+--1;-, J 1 \ШЦ

i -¡ - j. -4—(-1

№6

. X _ •_! _ г--

№7

.J-_

№8

Рис. 4, Иременные диаграммы комбинаций на выходе КС с памятью

--(/-г-г M-iM-I-M-I-T

ш

i ;¿¿¿¿.¿¿J,:.

./Л - i JJ -W- -V-'-L Ji . 1 -j:

^Lyi^-Vi --•гУгГг-н-

i i 7T |Д i i Ai П i i

NlgSÉ

t 1 4¿¿¿¿¿¿¿

Рис. 5. Временные диаграммы комбинаций при Ер- ЗРТ > 3

СВЯЗЬ

-е-

и»

' ' ■ ; ; ; ^

j j ^ '

. < . ZliZZZZZ^ZZZZ

P - (M„ -1)0 - F^yjÔJh1 log(A-/„))|.

——. ... J .

Л-1-r~

2 A 6 8 10 12 54 16

Pue. 7. Зависимость вероятности ошибки от M (A = 0.5}

] [анрнмер, при Л = 0.33 скорость увеличится в три раза, но вероятность ошибки изменяется как:

р » - du -

Рис. 6. Зависимость вероятности ошибки от М (А=1)

Вариант 3. При Ьг существенно больше порога Шеннона увеличим длину комбинации меньше, чем в 1р£Мр раз, Т.е. в А 1оцМр раз, при А < 1. Скорость передачи увеличится в 1/А раз, ею вероятность ошибки падает как:

Например, при А = 0.5 скорость увеличится в два раза, но вероятность ошибки изменяется как:

Из рисунка 7 видно, что уменьшение р с ростом М можно получить только при И > 1.2.

Рис. 8. Зависимость вероятности ошибки от M (А=0.33)

Приложение. Теорема кодирования для ДДКП

Пусть для ДДКП пространство VN решений кодера и пространство U решений декодера состоят из M однозначно соответствующих друг другу кодовых комбинаций vm и нп). Пусть на вход декодера поступает с выхода КС некоторый дискретный процесс Zy, анализируя который декодер принимает решение о переданной комбинации. Рассмотрим ансамбль кодов, каждый из которых содержит M слов Vm длиной N символов, из которых Мг являются разрешенными, т.е. удовлетворяющими о)раничениям 1-4. Кодер выбирает слова независимо с вероятностной мерой Q(vm). Пусть из-за произвольного характера мешающих факторов в ДДК11 возможны ошибки в решениях декодера, вероятность которых описывается переходными вероятностями p(Z|i/vm) или p(uk/vm). Тогда средняя вероятность ошибочного декодирования рот по этому ансамблю кодов, удовлетворяющих ограничениям 1-4, при декодировании по максимуму правдоподобия, ограничена сверху для любого конечного N:

Pms Gu-U"1 f etpH^toQ, г,ч)-ирЩ

/V

(11-1)

Из рисунка 8 видно, что уменьшение р с ростом М можно получить только при Ь > 1.4.

где ¡пМр /Ы = аК - скорость блочного кода для ДДКП, а < 1; К = 1пМ/М - скорость блочного кода для канала без памяти, Мр= еЛК; г, q,p,Д, 5 - произвольные неотрицательные числа.

В соответствии с вышеизложенным, распределение вероятностей на входных разрешенных кодовых последовательностях представимо в виде (5).

В качестве алгоритма декодирования выбираем декодирование по максимуму правдоподобия, в соответствии с которым принята комбинация ц,„ и передана комбинация ут, если для произвольного дискретного процесса г„ на входе декодера:

Среднюю вероятность ошибки запишем в виде:

¿"а. = £ £ (О/К*, / V,, (ут ,ит,2п).

Вероятность ошибки при передаче \'„, равна р„ш(\'т) = = р(Цк/V,,,)

О

-е-

Определим принятие декодером решения и^ при передаче кодером V,,, .т.е. ошибку, как некое событие Ль для каждого к^т. Очевидно, что это будет происходить, если:

Вероятность ошибки не больше объединения вероятностей Л)., которая увеличивается при возведении в степень

0 < р< 1 [3]:

IM

2>(Л)

= £ Q„(uk)<^Qp(ut) к к

Подставим р(Л к) в ри111 (vm):

-, / v.Jit)) p(z„ / v .(/ )

' 1 л яг яг ' .

/)/и< .t > 0;

IZQ„K>

Средняя вероятность ошибки:

л/,

Я* £ £ ¿Q^JiK i V..«„)>!

w=l я=!

К OSq.W

pjzJVk," t))

¿J(z„ / Уя,ия) После преобразований имеем:

Р™:* ( А/, -:1)" У V Qi>(v„ )p(z„ /v,„,li„ )' * x

Выбираем 5=1/(1 + p), минимизирующее pu,„:

от

t+»>

Получаем итоговое выражение (П-1).

Как показано выше, сомножитель (р.у)"' растет не быст-

рее, чем N

, т.е. не влияет при N—»се на результи-

для всех k =t m; для которых

Совокупность или объединение событий Ак есть вероятность появления комбинаций vk или решений Ut при условии

рующуго экспоненциальную зависимость вероятности ошибки р oтN в (П-1).

Обращение теоремы кодирования для ДДКП,

Пусть дискретный источник производит кодовые комбинации уш из N символов, пусть Цщ кодовые комбинации на выходе декодера, причем выборочные пространства V и и* состоят из М,, разрешенных и однозначно соответствующих друг дру|у кодовых комбинаций. Тогда вероятность ошибки р, усредненная по множеству возможных кодовых комбинаций и приходящаяся на один символ комбинации, удовлетворяет неравенству:

р ■ 1og(Мр -1) + Н(р) > Н„(И) -с;

N

(П-2)

После суммирования по к в правой сумме вторая сумма не зависит от к , т.е. подучим (Мц -1} слагаемое:

Подставим выражение для разрешенных комбинаций

Qti(Um) и Мр= eilNli:

где Щ*) - энтропия.

Для канала с памятью доказательство теорем кодирования выполняется при условии приема всей m-ой комбинации, в целом. Введем среднюю вероятность ошибки р,ш приема кодовой комбинации:

м л/

rti=l Jt=l

H(pmy=p„,\og--+()-/u)log—-—г;

Рт (1 -P„J

Доказательство проводится по аналогии с монографией [3], но с учетом указанных выше ограничений 1-4. Предполагается, что некая р„,„ существует.

Тогда средняя условная знтропия Vх при данном UN может быть записана в виде:

т=У ■ ' »H

Из [3], [4] следует, что разность АН не положительна:

ДH = H(V/U")-plm log(Aip-1)-Я(p<j£0.

В итоге имеем;

p„ Log( Щ -1) + Я ( ) ä Я( V " / U v). (И-З)

Разделим обе части неравенства (П-3) на N и введем р - вероятность ошибки, усредненную по множеству М,, разрешенных комбинаций и приходящуюся на один символ комбинации из N символов:

Р<м log( Мр-\)+Н (р,ш) н (J'v / Us).

N

N

р log(Ai

1), H(P,„)^H{V» Ш").

N

N

где р - ■

N

О

СВЯЗЬ

-е-

Для доказательства того, что: < ^ [ А„„ |

N { N )'

1 [рнведем это неравенство к виду:

-(1 ■" Р.,-) Ы' - А*) * + АN - Щ1 - 1оё( 1 -

Выражение слева не зависит от N и всегда можно указать ЯГ, при котором удовлетворяется неравенство. Следовательно:

РШМ -1)+яо>)«

/У(ГЛ /иу) N

Будем считать, что декодер принимает решение и„, только па основе анализа выхода канала, т.е. процесса 7.т . В этом случае [3]:

p\og{\f-\)+H(p)>

N

ЪН&гЯ&Ц

и .... .. Н(У") ^ Н{У») где f/,{r)=lim—i—

N

N

7(F'v;t/v) N + N, „

- < Slip-—---—--С .

N

N

iV

Это соответствует (11-2).

Анализ этого результата дан в [3] для КС без памяти и в [4] для ДДКП.

Выводы

1. Приведено модифицированное доказательство георемы кодирования для дискретного детерминированного канала с памятью при наложенных ограничениях на среднюю мощность и энергию разности используемых разрешенных кодовых комбинаций. Фильтр с полосой пропускания равной полосе пропускания КС необходимо включить ДО входа выходного мощного каскада передатчика. В этом случае средняя для каждого кодового слова vm мощность на входе КС остается постоянной. Указанные ограничения 1-4 позволяют привести КС с памят ью к извест ному тину канала -каналу без памяти при условии приема всей кодовой комбинации «в целом». Это позволяет указать конкретные пути увеличения скорости передачи информации и помехоустойчивости приема для детерминированного канала с памятью.

2. Показаны преимущества канала с памятью по сравнению с каналом без памяти. В канале с памятью возможно достижение сколь угодно малой вероят ности ошибки на бит, если М—»t». При этом скорость передачи в несколько раз больше, чем в канале без памяти. Выигрыш достигается за счет сбалансированного увеличения длительности разрешенных кодовых комбинаций в зависимости от требований к скорости передачи и помехоустойчивости приема.

Литература

1. Теории электрической связи: [Учебник для ВУЗов I под ред. Д.Д. К лове кого, М.: Радио и связь, 1998. 433 С.

2. ПрокисДж. Цифровая связь. М: Радио и связь, 2000. 800 с,

3. Галлагер Р Теории информации и надёжная сиять. М.: Сов. радио, 1974. 720 с.

4. Сухорукое A.C. Теоретические и практические аспекты реализации пропускной способности детерминированного канала с памятью/ Груды МТУСИ. 2004. С. 34-44.

5. Сухорукое A.C. Введение в теорию многомерной связи, М.: Медиа Паблишер, 20t I. 274 с.

-е-

in

COMMUNICATIONS

BANDWIDTH MULTIDIMENSIONAL DISCRETE COMMUNICATION CHANNEL WITH MEMORY

Alexander S. Sukhorukov, Moscow Technical University of Communications and Informatics, Moscow, Russia, suhas@yandex.ru Abstract

One of the main problems of the theory and practice of communications is to achieve maximum speed of information transfer with the specified probability of error. The real channels of communication (CC) are channels with memory, so it is important to identify the potential of such CC and ways of their implementation. Increased transfer speed calls the intersymbol interference (ISI) and the channel becomes a memory channel. ISI reduces noise immunity, but the signal at the output of the CC becomes a multi-dimensional, since each instantaneous output signal CC contains information not only on the currently transmitted bit (symbol), but all previous and subsequent characters sent by the CC. Let for sequences vk ( input CC) and uk (output CC) of N characters and duration T are met all conditions, under which a channel is a channel without memory and reached maximum mutual information, contained in the adopted process regarding passed signal. Without changing the conditions for achieving this mutual information, to N characters at the input CC add m characters, reducing the duration of each symbol. The total length of the combination of the (N + m) characters on input channel remained unchanged and equal to T.

Then mutual information increases. For channel without memory increase N increases the time tutoring channel one combination proportional to N. For channel with memory increase N does not change the overall duration T of codewords. The symbol duration is reduced. Transfer speed increased, but the channel becomes a memory channel. Consider a discrete deterministic channel with memory (DDCM) and the additive noise. Each combination or process for DDCM has a combination of discrete values, numbers at discrete points in time. The channel is deterministic, i.e. at the reception and transfer of options known as passed to vk, and clearly their respective taken combinations uk. A significant feature of the channel with memory is the fundamental difference between transmitted combinations and taken combinations.

Memory channel coding theorems proof is performed subject to receiving the combination as a whole. To implement an effective transmission of information over a DDCM on the input and output of the DDCM impose restrictions. Codes that meet these restrictions can be called "good codes". Shows the modified coding theorem and its proof of circulation for discrete deterministic memory channel imposed restrictions. The restrictions allow lead DDCM with memory to a known type channel-channel without memory. Use a reception of codewords in General. This allows indicate specific ways to increase the speed of information transmission and noise immunity for DDCM. Showing the benefits of channel with memory compared to channel without memory and discussed ways to increase transfer speed and noise immunity on the bit while increasing codebase M. Win achieved through balanced increase the duration of the allowed code combinations depending on the requirements of transfer speeds and noise immunity of reception.

Keywords: coding theorem, transmission capacity, discrete channel with memory, intersymbol interference, the probability of error, noise immunity, code combination, permissible combination, protective time interval, the additive noise, entropy, mutual information.

References

1. Theory of telecommunications: Tutorial for universities. ed. by Klovskiy D.D. Moscow: Radio i svyaz'. 1998. 433 p.

2. Proakis J.G. (2000) Digital Communications. ed. by Klovskiy D.D. Moscow: Radio i svyaz'. 800 p. (in Russian)

3. Gallager R.G. (1974) Information Theory and Reliable Communication. Moscow: Sov. Radio. 720 p.

4. Sukhorukov A.S. (2004) Theoretical and practical aspects of implementing deterministic bandwidth channel with memory. Trudy MTUCI, pp. 34-44.

5. Sukhorukov A.S. (2011) Introduction to the theory of multi-dimensional communication. Moscow: Media Pablisher. 274 p. (in Russian) Information about author:

Alexander S. Sukhorukov, eand.tech.Sci., аssociate Professor of Faculty of the general communication theory of the Moscow Technical University of Communications and Informatics, Moscow, Russia