Научная статья на тему 'Анализ и моделирование оптимизационных алгоритмов квантования сигналов для информационных систем'

Анализ и моделирование оптимизационных алгоритмов квантования сигналов для информационных систем Текст научной статьи по специальности «Электротехника, электронная техника, информационные технологии»

CC BY
307
26
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
КВАНТОВАНИЕ / QUANTIZATION / НЕРАВНОМЕРНОЕ КВАНТОВАНИЕ / ОШИБКА КВАНТОВАНИЯ / MEAN SQUARE ERROR / ЭНТРОПИЯ / ENTROPY / МИНИМУМ СРЕДНЕКВАДРАТИЧНОГО ОТКЛОНЕНИЯ / НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ / NORMAL DISTRIBUTION / UNEVEN QUANTIZATION / QUANTIZATION NOISE

Аннотация научной статьи по электротехнике, электронной технике, информационным технологиям, автор научной работы — Зачатейский Евгений Дмитриевич, Лаврухин Андрей Александрович

В статье приведен сравнительный анализ различных оптимальных методов квантования непрерывных сигналов, в том числе с минимальной среднеквадратичной ошибкой, с максимальной энтропией и субоптимального по энтропии, при различных параметрах вероятностного распределения сигнала.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по электротехнике, электронной технике, информационным технологиям , автор научной работы — Зачатейский Евгений Дмитриевич, Лаврухин Андрей Александрович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ANALYSIS AND SIMULATION OF AN OPTIMIZATION ALGORITHM FOR SIGNALS QUANTIZATION

The paper presents a comparative analysis of different methods of quantization of continuous signals, including optimal with the maximum entropy and the entropy – suboptimal, with various parameters of signal distribution.

Текст научной работы на тему «Анализ и моделирование оптимизационных алгоритмов квантования сигналов для информационных систем»

11. Хряков, А. А. Снижение коммерческой составляющей потерь электрической энергии на тягу поездов на полигоне постоянного тока [Текст] / А. А. Хряков, М. М. Никифоров // Известия Транссиба / Омский гос. ун-т путей сообщения. - Омск, 2011. - № 1 (5). - С. 42 - 45.

12. Пат. 2446065 Российская Федерация, МПК7 В60М3/02. Информационная система для учета электроэнергии в тяговых сетях [Текст] / Черемисин В. Т., Чижма С. Н. Кондратьев Ю. В., Никифоров М. М., Ануфриев А. С.; заявитель и патентообладатель Омский гос. ун-т путей сообщения. - № 2010143100/11; заявл. 20.10.2010; опубл. 27.03.2012.

УДК 519.72

Е. Д. Зачатейский, А. А. Лаврухин

АНАЛИЗ И МОДЕЛИРОВАНИЕ ОПТИМИЗАЦИОННЫХ АЛГОРИТМОВ КВАНТОВАНИЯ СИГНАЛОВ ДЛЯ ИНФОРМАЦИОННЫХ СИСТЕМ

В статье приведен сравнительный анализ различных оптимальных методов квантования непрерывных сигналов, в том числе с минимальной среднеквадратичной ошибкой, с максимальной энтропией и субоптимального по энтропии, при различных параметрах вероятностного распределения сигнала.

Современные электронные устройства оперируют с цифровым представлением непрерывных сигналов, полученным путем дискретизации сигналов по времени и квантования по уровню. Железнодорожный транспорт все больше использует достижения цифровой техники, которая в своем составе содержит как обязательный элемент аналого-цифровые преобразователи (АЦП). Повышению точности цифровой обработки данных может способствовать применение оптимальных алгоритмов квантования. Например, при модуляции и демодуляции сигналов в телекоммуникационных системах может оказаться существенным повышение числа эффективных двоичных разрядов АЦП, а значит, и повышение точности цифрового представления и обработки; в устройствах контроля и диагностики систем электроснабжения при обработке данных, имеющих характерные особенности (сосредоточенных по амплитуде в узкой части динамического диапазона), применение оптимального квантования может повысить отношение точности обработки данных к стоимости элементной базы.

Решение задачи квантования сигнала по уровню заключается в преобразовании значений сигнала из непрерывного множества в множество разрешенных дискретных значений, которые называют уровнями квантования. Более подробно процесс аналого-цифрового преобразования сигнала описан в источниках [1 - 4].

Минимизация ошибки квантования может осуществляться путем увеличения числа уровней квантования (повышения разрядности АЦП) либо выбора оптимальных уровней квантования, либо комбинацией этих двух методов. Поскольку повышение разрядности сопряжено с увеличением стоимости устройства, то рассматривают различные методы, направленные на выбор оптимальных уровней квантования, в соответствии с некоторым критерием (максимизация энтропии, минимизация среднеквадратичной ошибки квантования (СКО) и др.). Будем считать, что априорной информацией является форма сигнала или статистические характеристики (функции распределения - интегральная Д(х) или дифференциальная/(л)).

В данной работе проводится анализ и сравнение среднеквадратичной ошибки для следующих методов квантования:

1) равномерного;

2) неравномерного оптимального с максимальной энтропией [1];

3) субоптимального по энтропии [5];

4) предложенного Л. А. Барановым неравномерного оптимального по уровню [6].

Анализ осуществляется путем моделирования методов квантования, при которых для

одного сигнала в виде реализации случайного процесса получают значения среднеквадратичных ошибок, соответствующих различным способам квантования. Оценка состоятельности проводится сравнением величины полученной ошибки рассматриваемого метода и величины среднеквадратичной ошибки равномерного способа квантования. Эксперименты проводились при следующих исходных условиях: число уровней квантования N принималось равным 128, 256, 512 и 1024; объем выборки (длина дискретной последовательности непрерывных значений сигнала) равнялся 500000; функция распределенияДх) квантуемой величины нормальная, со значениями дисперсии а2 = 2, 3, 5, 7 и 9; длина диапазона значений квантуемой величины (хк - хо) равна 10.

При равномерном квантовании область возможных значений X = [ х0; хк ] сигнала разбивается на равные отрезки [Ъг-1; Ы), Ь0 = х0, Ък = хк, количество которых равно числу уровней квантования. Данный метод является достаточно простым, но неоптимальным.

Уменьшение среднеквадратичной ошибки квантования осуществляется за счет уменьшения шага квантования для тех областей сигнала, плотность распределения вероятности в которых выше.

Метод квантования, оптимальный по энтропии, заключается в определении уровней квантования через функцию, обратную интегральной функции распределения исходного сигнала.

Максимум энтропии достигается в случае равномерного распределения вероятностей по всем уровням квантования [1], когда

Ы 1

I /(х)^ = —, (1)

ы _

N

что эквивалентно (учитывая свойства функции распределения случайной величины) равенству:

1

Г (Ь) - Г (Ь_1) = N для i = 1, N. (2)

Поскольку Ь0 является нижней границей множества Хи Г(Ь0) = 0, то из формулы (2) следует, что

I

Г(Ъ.) = — для I = 1, N. (3)

N

Таким образом, необходимо определить аргументы Ы функции Г, которые разбивают ее область значений на равные отрезки.

Будем считать, что функция Г отображает множество Х (диапазон изменения квантуемой величины или область определения функции Г) на Y (область значений функции Г). Алгоритм квантования можно записать в виде последовательности действий:

1. Определить у0 = Г( х0), ук = Г (хк) и получить область значений Y = [ у0; ук ].

2. Выполнить равномерное квантование интервала Y:

У. = У0 + 1 для 1 = (4)

3. Вычислить обратное отображение дискретного множества!у1} на [Ъ.} :

Ы = Г У,). (5)

4. Заменить последовательность непрерывных значений xj на последовательность квантующих индексов у так, чтобы для всех j выполнялось ху е [Ъ. -1; ).

При выполнении деквантования (восстановления по индексу у значения сигнала xj) каж-

дый ^й отрезок [Ь{ _1; Ь{ ] заменяется его математическим ожиданием zi = М ([Ь_1; Ь ]).

Представленный алгоритм может применяться при разных методах квантования. В случае квантования, оптимального по энтропии, функция Д(х) является интегральной функцией распределения вероятностей и для нормального закона имеет вид:

Д2(, X) =

1

} ехр

' t2Л

V 2<У

<5у/2П

График зависимости Д2(х) представлен на рисунке 1.

dt.

(6)

1

0,9 0,8 0,7 0,6 0,5 0.4 0,3 0,2 0.1

- - максимум энтропии; --- равномерное -^

у

/7 / /■ /

у У <>Г........

у у у

У у

у у ^--

-10

10

Рисунок 1 - График зависимостей Д1(х) и Д2(х)

На рисунке 1 для сравнения изображена зависимость Д2(х) для равномерного квантования, которая представляет собой прямую линию:

Д1( х) = кх + с.

(7)

Оценка состоятельности метода с максимальной энтропией проводилась в ходе экспериментов. Границы квантов определялись по формуле (5). Ошибка квантования определялась как разница между исходным значением сигнала и значением, полученным в результате последовательного квантования и деквантования. По ошибкам квантования всей рассматриваемой последовательности (случайного сигнала) вычислялось СКО.

Результатом каждого из экспериментов является отношение СКО исследуемого метода к ошибке равномерного квантования:

к (• / (х)," ) = Нттт$ •

^равн ( / ОХ N)

(8)

Результаты вычислительных экспериментов представлены в таблице 1.

Таблица 1 - Отношение среднеквадратичной ошибки квантования методом максимальной энтропии к среднеквадратичной ошибке равномерного квантования

Дисперсия распределения а Число уровней квантования N

128 256 512 1024

2 10,69 17,91 30,53 50,43

3 2,18 2,22 2,26 2,27

5 1,19 1,18 1,19 1,18

7 1,06 1,06 1,06 1,05

Как следует из приведенных в таблице 1 данных, СКО шума квантования, оптимального по энтропии, больше, чем при равномерном квантовании, что естественно, так как критерием оптимальности для данного метода является максимизация энтропии сигнала, а не миними-

зация ошибки. В случаях, когда целью оптимизации является уменьшение ошибки квантования, данный метод применять нецелесообразно.

Метод, позволяющий заметно сократить СКО шума квантования при незначительных потерях в величине энтропии, предложен в работе [5] и является оптимальным с точки зрения простоты реализации и субоптимальным для компромиссной максимизации энтропии и минимизации функции «скорость - искажение». Суть метода заключается в изменении способа определения уровней, когда в качестве функции Г(х) выбирается интегральная функция распределения с дисперсией, увеличенной в >/э раз. Функция Г3(х) в таком случае имеет вид:

Гз( х) =

1

| ехр

л/3ал/2л - I 2л/3<

,2 Л

а

Ж.

(9)

График зависимости Г3(х) представлен на рисунке 2.

Риунок 2 - График функции Г3(х)

Результаты экспериментов с теми же исходными данными, что и для предыдущего эксперимента, представлены в таблице 2.

Таблица 2 - Отношение среднеквадратичной ошибки квантования субоптимальным методом к среднеквадратичной ошибке равномерного квантования

Дисперсия распределения а Число уровней квантования N

128 256 512 1024

2 0,32 0,33 0,32 0,32

3 0,81 0,81 0,81 0,82

5 0,95 0,95 0,95 0,95

7 0,98 0,98 0,99 0,98

Как видно из данных таблицы 2, среднеквадратичная ошибка квантования при использовании метода, субоптимального по энтропии, меньше, чем при равномерном квантовании, вне зависимости от параметров функции распределения, и возрастает с увеличением параметра а.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Вычислительные эксперименты проводились и для оценки состоятельности метода, предложенного Л. А. Барановым [6]. В этом методе так же, как в рассмотренных, шаг квантования берется более коротким для тех значений сигнала, плотность вероятности которых выше. При заданном одномерном законе распределения Д(х) квантуемой величины х в диапазоне от х 0 до хк и при известном числе уровней квантования N минимизируется функционал:

N '

J = Е I (- х)2 /(х¥х. (10)

.=1 х-

Минимизация функционала (10) позволяет представить функцию неравномерного квантования в виде:

Г4(х) = хк Х] Х° Х IV/(х)^ + х0. (11)

133[Щх х0 (11)

х0

График функции Г4(х) для нормального распределения случайной величины х в диапазоне [-10; 10] изображен на рисунке 3. Равномерное квантование области значений функции Г4(х) обеспечивает неравномерное оптимальное квантование аргумента х, при котором достигается минимум дисперсии погрешности.

Рисунок 3 - График функции Г4(х)

Результаты экспериментов представлены в таблице 3.

Таблица 3 - Отношение среднеквадратичной ошибки квантования метода Баранова к среднеквадратичной ошибке равномерного квантования

Дисперсия распределения а Число уровней квантования N

128 256 512 1024

2 0,50 0,49 0,49 0,49

3 0,83 0,83 0,83 0,84

5 0,96 0,96 0,96 0,96

7 0,99 0,99 0,99 0,99

Зависимости для проведения сравнительного анализа полученных данных, обобщающие результаты экспериментов представлены на рисунке 4.

Рисунок 4 - Зависимости отношения ошибки квантования от числа уровней квантования

для различных методов квантования

Таким образом, в результате проведенных экспериментов были вычислены СКО шума при различных методах квантования, выполнено сравнение методов и вычислены отношения их СКО квантования к СКО равномерного квантования. В случаях, когда величина интервала квантуемых значений в четыре раза и более превышает значение б, для методов Баранова и субоптимального по энтропии наблюдается снижение ошибки в сравнении с методом равномерного квантования. Для метода максимальной энтропии, наоборот, происходит увеличение величины СКО ошибки квантования, что компенсируется максимизацией энтропии выходного сигнала [1]. Субоптимальный метод, как объединяющий преимущества вычислительной простоты реализации и минимизации шума квантования, можно считать наилучшим для большинства случаев применения, когда требуется минимизировать ошибку или сократить количество двоичных разрядов в цифровом представлении сигнала.

Изучение различных методов квантования и их анализ позволяют выбрать структуру системы принятия решений, позволяющей решить задачу нелинейного квантования наиболее оптимальным способом (в соответствии с заданными критериями) и в зависимости от вида исходного сигнала. Разработанные алгоритмы проведения вычислительных экспериментов и методики проведения сравнительного анализа являются основной составляющей частью таких автоматизированных систем.

Список литературы

1. Cover, T. M. Elements of information theory / T. M. Cover, J. A. Thomas. - Wiley-Interscience, 2006. - 748 p.

2. Грицутенко, С. С. Метод линеаризации характеристики преобразования АЦП [Текст] / С. С. Грицутенко, А. Г. Панюков // Известия Транссиба / Омский гос. ун-т путей сообщения. - Омск, 2012. - № 1 (9). - С. 78 - 84.

3. Сидоренко, А. С. Ограничения алгоритмов параллельных вычислений в цифровой обработке сигналов [Текст] / А. С. Сидоренко // Известия Транссиба / Омский гос. ун-т путей сообщения. - Омск, 2010. - № 3 (3). - С. 89 - 94.

4. Лаврухин, А. А. Эффективная программная реализация помехоустойчивых блоковых кодов современными микропроцессорными средствами [Текст] / А. А. Лаврухин // Известия Транссиба / Омский гос. ун-т путей сообщения. - Омск, 2010. - №1 (1). - С. 86 - 91.

5. Грицутенко, С. С. Критерии оптимальности для неравномерного квантования в задачах уплотнения цифровых каналов связи [Текст] / С. С. Грицутенко, А. А. Лаврухин, С. В. Панькин // Инновационные проекты и новые технологии в образовании, промышленности и на транспорте / Омский гос. ун-т путей сообщения. - Омск, 2010. - С. 214 - 219.

6. Баранов, Л. А. Квантование по уровню и временная дискретизация в цифровых системах управления [Текст] / Л. А. Баранов. М.: Энергоатомиздат, 1990. - 304 с.

УДК 004.942

К. А. Королёва

ПРИМЕНЕНИЕ МЕТОДА ОПТИМАЛЬНОЙ ИНТЕРПОЛЯЦИИ ВЕКТОРОМ, НЕЙТРАЛЬНЫМ ПО СВЕРТКЕ В ПРИЕМНОМ ТРАКТЕ КОММУНИКАЦИОННОГО ЖЕЛЕЗНОДОРОЖНОГО ОБОРУДОВАНИЯ

В статье исследуется задача интерполяции сигналов нейтральным по свертке вектором. Предложен метод интерполяции, имеющий оптимальный результат в смысле равномерного распределения ошибки интерполяции в спектральной области. Представлены результаты численного эксперимента. Показана эффективность предложенного метода в смысле повышения точности восстановления дискретного сигнала в приемном тракте коммуникационного железнодорожного оборудования.

В настоящее время цифровые методы представления и обработки сигналов составили основу управляющей, телекоммуникационной и измерительной техники, применяемой на железнодорожном транспорте [1 - 4]. В используемых электронных устройствах реальные непрерывные сигналы x(t) (являющиеся континуальными функциями) представляются дискретными числовыми значениями x(nT), т. е. набором их значений в узловых точках, взятых через равные промежутки. Но на практике часто могут понадобиться значения сигнала и в других, отличных от узловых, точках. Например, в случае пересчета частоты дискретизации (resampling) необходимо по отсчетам сигнала x(nTx) вычислять отсчеты x(nT2). Подобное

вычисление значений функции x(t) в промежуточных точках, между узловыми значениями, является задачей интерполяции. В состав оборудования, применяемого на железнодорожном транспорте, входят измерительное оборудование, устройства связи и другие электронные приборы, использующие различные методы интерполяции сигналов. Однако потенциально возможные характеристики устройств для обработки сигналов могут быть ухудшены на этапе цифроаналогового преобразования из-за ошибок при восстановлении сигнала. Для уменьшения таких ошибок разработаны методы восстановления сигналов на основе различных видов интерполяции.

Целью статьи является описание способа оптимальной интерполяции, в смысле равномерного распределения ошибки интерполяции в спектральной области, нейтральным по свертке вектором [5 - 7].

Сегодня на практике ввиду более простой реализации наиболее распространено использование полиномиальной интерполяции, при которой рассматриваемую функцию f (t) представляют в виде интерполяционного многочлена:

N-1

f (t) = a0 + a1t + a2t2 + a3t3 + a414 +... + aN-1tN-1 = ^ak • tk, (1)

k=0

Данный многочлен в узловых точках t = nT принимает значения, равные f (пт ). Для

реализации задачи полиномиального интерполирования для N узловых точек составляют систему линейных уравнений N -го порядка:

i Надоели баннеры? Вы всегда можете отключить рекламу.