CC BY
82
УДК004.021:004.942:621.914.1
Дубровин В. И.1, Твердохлеб Ю. В.2
1Канд. техн. наук, профессор, Запорожский национальный технический университет, Украина E-mail:
[email protected] 2Аспирант, Запорожский национальный технический университет, Украина
ИССЛЕДОВАНИЕ ИЗМЕНЕНИЙ ЭНТРОПИИ И ЭНЕРГИИ НА ЭТАПАХ
ДЕКОМПОЗИЦИИ СИГНАЛА
Проведено исследование поведения энтропии и энергии сигнала на этапах его декомпозиции. Предложен метод разделения исходного сигнала сложной формы на независимые составляющие с помощью математического аппарата вейвлет-преобразования и теории информации.
Ключевые слова: вейвлет-преобразование, разделение сигнала, оптимальная декомпозиция сигнала.
ВВЕДЕНИЕ
Одной из задач, эффективное решение которой широко востребовано в цифровой обработке сигналов, является разложение исходного сигнала сложной формы на составляющие, требование к которым определяется исходя из прикладной задачи.
Существует множество подходов к решению данной проблемы. Многие из них основываются на использовании заранее известных предположений относительно обрабатываемого сигнала [1]. Так, например, широко используется подход, когда точно известно количество пиков в сигнале, их форма и примерно известно их расположение. Алгоритм в этом случае работает следующим образом: синтезируется искусственный сигнал, содержащий требуемое количество пиков, расположенных в местах, где предположительно находятся пики исследуемого сигнала. Затем вычисляется разница между искусственным сигналом (моделью) и реальным сигналом. Далее, на основе данных по разности значений модели и реального сигнала, система корректирует параметры пиков модели (ширину, высоту, расположение, коэффициенты несимметричности формы и т.д.) в сторону уменьшения сигнала ошибки и вновь повторяет сравнение. В итоге система приходит в стационарное состояние, когда параметры модели от шага к шагу не изменяются и разница между моделью и реальным сигналом составляет неизменную величину. Недостаток этого метода состоит в том, что он имеет вероятностный характер получения адекватной модели.
Другой подход к решению данной задачи, который пользуется большой популярностью в последнее время, основан на применении вейвлет-преобразования [2]. Этот подход привлекателен тем, что вейвлет-преобразо-вание является математически точным (при соответствующем порядке вейвлет-дерева) способом разделить сигнал на совокупность базисных функций, положенных в основу вейвлет-преобразования. В отличие от преобразования Фурье, где разложение происходит на бесконечные во времени, но строго локализованные по частоте
синусоидальные компоненты, базисными функциями вейвлет-преобразования являются функции, имеющие определенную локализацию как по частоте, так и по времени. Это позволяет подобрать базисную функцию таким образом, чтобы она максимально совпадала с искомыми компонентами, на которые требуется разложить сигнал, и результатом разложения в таком случае станет модель сигнала как композиция искомых компонентов.
Целью данной работы является исследование изменения энергии и энтропии на этапах декомпозиции сигнала.
1 ВЕЙВЛЕТ-ПРЕОБРАЗОВАНИЕ СИГНАЛА
Вейвлеты стали необходимым математическим инструментом во многих исследованиях. Их используют в тех случаях, когда результат анализа сигнала должен содержать не только простое перечисление его характерных частот (масштабов), но и сведения об определенных локальных координатах, при которых эти частоты проявляют себя.
Таким образом, анализ и обработка нестационарных (во времени) или неоднородных (в пространстве) сигналов разных типов представляют собой основное поле применений вейвлет-анализа.
Вейвлет-преобразование представляет собой свертку функции вейвлета с сигналом. Другими словами, вей-влет-преобразование состоит в разложении сигнала по базису, сконструированному из обладающей определенными свойствами функции (вейвлета) посредством масштабных изменений и переносов.
Вейвлет-преобразование функции/(() определяется следующим выражением [3]:
wa,b f (t )]=JL j f «ф^^
(i)
где а - масштаб ВП; Ь - центр временной локализации; ф(/) - материнский вейвлет.
Вейвлет-анализ предлагает для обработки данных обширный набор инструментов, которые помогают разде-
© Дубровин В. И., Твердохлеб Ю. В., 2013
1607-3274. Радюелектронжа, шформатика, управлiння. 2013. № 2
лить исходный сигнал на составляющие и увидеть его структуру на разных масштабах. Вейвлет-фильтры позволяют не только бороться с шумами, но и извлекать требуемые компоненты сигнала.
Поскольку вейвлеты обладают хорошей частотно-временной адаптацией, они могут служить удобным инструментом для исследования частотных характеристик сигнала.
2 ОПРЕДЕЛЕНИЕ ОПТИМАЛЬНОЙ ДЕКОМПОЗИЦИИ СИГНАЛА
Сигнал, имеющий размерность N может быть разложен многоуровневым одномерным вейвлет-преобразо-
ванием на 2 ^ 2 уровней, которые представляют собой набор аппроксимирующих (сА) и детализирующих (сП) коэффициентов [4]. Число уровней разложения - достаточно велико и установление ограничения глубины декомпозиции во многом зависит от опыта исследователя.
В работе Р. Р. Кофмана [5] для получения оптимальной декомпозиции сигнала предложено использовать критерий минимума энтропии.
Информационная энтропия - это мера неопределенности или непредсказуемости информации [6]. Энтропия характеризует вероятность Р, с которой устанавливается то или иное состояние, и является мерой хаотичности или необратимости. Все процессы в природе протекают в направлении увеличения энтропии. Термодинамическому равновесию системы, в которую не поступает энергия извне, соответствует состояние с максимумом энтропии. Равновесие, которому соответствует наибольший максимум энтропии, называется абсолютно устойчивым. Таким образом, увеличение энтропии системы означает переход в состояние, имеющее большую вероятность. Необратимые процессы протекают самопроизвольно до тех пор, пока система не достигнет состояния, которому соответствует наибольшая вероятность, а энтропия достигнет своего максимума [7-8]. Согласно теории К. Шеннона, прирост информации равен утраченной неопределённости системы [9]:
N
Н = -£ Р721СЕ(Р72). (2)
]=1
Суть метода Кофмана состоит в следующем: на очередном уровне разложения сигнала рассчитывается значение суммы энтропий аппроксимирующих и детализирующих коэффициентов вейвлет-разложения сигнала; если полученное значение больше, чем на предыдущем уровне разложения, декомпозицию продолжают, в противном случае предыдущий уровень (уровень, полученный на предыдущей итерации) является заключительным. Итоговая декомпозиция сигнала представляет собой набор уровней: с первого до уровня с минимальной энтропией.
3 ОПРЕДЕЛЕНИЕ ПОНЯТИЯ ЭНЕРГИЯ СИГНАЛА
Понятия мощности и энергии в теории сигналов не относятся к характеристикам каких-либо физических величин сигналов, а являются их количественными характеристиками, отражающими определенные свойства сигналов и динамику изменения их значений во времени, в пространстве или по любым другим аргументам [3].
Для произвольного, в общем случае комплексного, сигнала мгновенная мощность равна квадрату функции его модуля, для вещественных сигналов - квадрату функции амплитуд. Энергия сигнала, также по определению, равна интегралу от мощности по всему интервалу существования или задания сигнала.
Энергия сигналов может быть конечной или бесконечной. Конечную энергию имеют финитные сигналы и сигналы, затухающие по своим значениям в пределах конечной длительности, которые не содержат дельта-функций и особых точек (разрывов второго рода и ветвей, уходящих в бесконечность). В противном случае их энергия равна бесконечности. Бесконечна также энергия периодических сигналов.
4 ИССЛЕДОВАНИЕ ПОВЕДЕНИЯ ЭНТРОПИИ И ЭНЕРГИИ СИГНАЛА ПРИ ЕГО ДЕКОМПОЗИЦИИ
Для исследования поведения энтропии и энергии сигнала на этапах его вейвлет-декомпозиции, вычислим соответствующие значения величин на каждом уровне декомпозиции. В качестве исходного сигнала рассмотрим сигнал, представляющий сумму синусоид. Пример сигнала, состоящий из суммы двух синусоид с частотами 30 Гц и 200 Гц, представлен на рис. 1, а его спектр - на рис. 2.
Проведем разложение тестового сигнала с помощью вейвлет-преобразования. В тестовом сигнала 512 отсчетов, поэтому максимальное количество его декомпозиции - 8. Выполним разложение сигнала на 7 уровней и на каждом из них вычислим значение энтропии и энергии (рис. 3-4). При этом введем правило: первою компоненту сигнала можно получить, если выполнить вейв-лет-преобразование сигнала на определенном уровне, оставив коэффициенты аппроксимации неизменными и обнулив коэффициенты детализации; вторую компоненту сигнала можно получить, вычитая первую компоненту из общего сигнала. Также на каждом из уровней вейвлет-декомпозиции вычислим суммарную энтропию первой и второй компонент (рис. 3).
Значение энергии первой компоненты постепенно уменьшается, а второй компоненты увеличивается. Это связанно с естественным изменением амплитуд сигналов в результате декомпозиции. В качестве информативного показателя для выделения компонент сигнала энергия не дает результатов.
Исходный ТйСТОИЫЙ СИШаЛ
Время,, с'
Синусоидальная компонента с частотой 30 Гц
50 Время,i
Синусоидальная компонента с частотой 200 Гц
<
10
20
30
J0
50
Время, с,
60
70
80
90
100
Рис. 1. Пример тестового сигнала
2G0 250 300 Временное смещение ЕП
Рис. 2. Вейвлет-спектр тестового сигнала
Энтропия первой компоненты
Уровень разложения ВП Энтропия второй компоненты
Уровень разложения ВП Суммарная энтропия
1 2 3 4 5 6 7
Уровень разложения ВГ1
Рис. 3. Вычисление энтропии Шеннона уровней вейвлет-разложения сигнала
1607-3274. Радюелектронжа, шформатика, управлшня. 2013. № 2
Рассмотрим изменение энтропии компонент сигнала. Значение энтропии первой компоненты уменьшает -ся, а второй компоненты увеличивается. Изменение энтропии происходит более резко, чем энергии. Но суммарная энтропия двух компонент постепенно уменьшается до определенного уровня, а потом происходит увеличение значений. Можно предположить, что «переломная точка» отображает наиболее неустойчивое состояние системы, в котором возможно выделение компонент (рис. 5). Согласно теории К. Шеннона, прирост информации равен утраченной неопределённости системы (2), поэтому на этом уровне декомпозиции остановился прирост информации. Система перешла в абсолютно неустойчивое состояние. Из вышеперечисленного можно сделать следующий вывод: выделение компонент сигнала можно выполнить на уровне декомпозиции с минимальным значением суммарной энтропии обоих компонент.
5 ПРОЦЕДУРА ВЫДЕЛЕНИЯ КОМПОНЕНТ СИГНАЛА
Процедура выделения компонент сигнала состоит из следующих этапов:
1. Установить уровень разложения 1=1.
2. Проверка: / < 2N/2. Если выполняется условие -
переход к п. 3, иначе - п. 11.
3. Выполнить вейвлет-преобразование сигнала на /уровне.
4. Выделить первую компоненту сигнала - оставить без изменений коэфициенты аппроксимации и обнулить коэффициенты детализации.
5. Выделить вторую компоненту сигнала - вычесть из общего сигнала первую компоненту.
6. Вычислить энтропию первой компоненты.
7. Вычислить энтропию второй компоненты.
8. Вычислить суммарную энтропию обоих компонент.
9. Проверка: если суммарная энтропия на /-уровне меньше суммарной энтропии на (/-1)-уровне - перейти к п. 10, иначе к п. 11.
10. Увеличить уровень вейвлет-разложения 1=1 + 1. Перейти к п. 2.
11. Установить оптимальный уровень выделения ком -понент в (/-1)-уровень.
12. Останов.
ВЫВОДЫ
В результате проведения исследовательской работы получены следующие выводы:
- исследовано поведение энергии и энтропии сигнала на этапах его декомпозиции;
Рис. 4. Вычисление энергии уровней вейвлет-разложения сигнала
Рис. 5. Выделение компонент сигнала на 4 уровне вейвлет-разложения
- модифицирован метод Кофмана для задачи выделения компонент сигнала;
- впервые предложен метод разделения сигнала на компоненты на основе вейвлет-декомпозиции и теории информации;
- разработана процедура выделения компонент сигнала.
СПИСОК ЛИТЕРАТУРЫ
1. Sen, M. Real-time digital signal processing. Implementations and applications / M. Sen. - Wiley, 2006. - 667 p.
2. Misiti, M. Wavelet and their applications / M. Misiti, G. Oppenheim. - USA : ISTE, 2007. - 330 p.
3. Percival, D. Wavelet methods for time series analysis / D. Percival, A. Walden. - Cambridge university press, 2003. -566 p.
4. Mallat, S. A wavelet tour of signal processing / S. Mallat. -USA: Academic Press, 1998 - 805 p.
5. Coifman, R. R. Entropy-based algorithms for best basis selection / R. R. Coifman, M. V. Wickerhauser // IEEE Trans. on Inf. Theory. - 1992. - Vol. 38 (2). - P. 713-718.
6. Martin, N. Mathematical theory of entropy / N. Martin. -Cambridge university press, 1984. - 258 p.
7. Muller, I. Entropy and energy / I. Muller, W. Weiss. - Springer Press, 2005. - 273 p.
8. Fang, S. Entropy optimization and mathematical programming / S. Fang, J. Rajasekera. - USA: Kluwer academic publishers, 1997. - 273 p.
9. Shannon, K. A Mathematical theory of communication / K. Shannon // The Bell System Technical Journal. - 1948. -Vol. 27. - P. 379-423.
OraTra Hagmmjja go pegaK^I 25.10.2013.
Дубровш В. I.1, Твердохлiб Ю. В.2
'Канд. техн. наук, професор, Запорiзький нацюнальний техшчний ушверситет, Украша
2Астрант, Запорiзький нацюнальний техшчний ушверситет, Украша
ДОСЛ1ДЖЕННЯ ЗМ1Н ЕНТРОПП ТА ЕНЕРГ11 НА ЕТАПАХ ДЕКОМПОЗИЦП СИГНАЛУ
Проведено дослщження виявлення змш ентропй та енергй сигналу на етапах його декомпозицй. Запропоновано метод дшення сигналу складно! форми на незалежш складовi за допомогою математичного апарату вейвлет-перетворення та теорй шформацй.
Ключовi слова: вейвлет-перетворення, роздшення сигналу, оптимальна декомпозищя сигналу.
Dubrovin V. I.1, Tverdohleb J. V.2
'Ph.D. in Engineering, professor, Zaporozhye national technical university, Ukraine
2Aspirant, Zaporozhye national technical university, Ukraine
RESEARCH OF CHANGES OF ENTROPY AND ENERGY ON SIGNAL DECOMPOSITION
Research of changes of entropy and energy on signal decomposition is presented. Coifman's method for the purpose for signal delineation was modified. The method of complex signal delineation based on wavelet transformation and information theory is proposed. The algorithm for the signal components separation is developed. The proposed method based on research of total entropy of both signal formed components. The first component is the reconstructed source signal after wavelet transformation on the current decomposition level in which the approximation coefficients must be equals to zero. The second component is the residue from the deduction of the source signal and the second component on the current decomposition level. The turning point of the total entropy curve denotes the most unstable system state in which the components can be identified. The most unstable system state is system state having zero increment of information. Entropy increments until the turning point and it decrease after. The sum of the sinusoids was used as test signal. The results of the method have high accuracy.
Keywords: wavelet transformation, signal delineation, optimal signal decomposition.
REFERENCES
1. Sen M. Real-time digital signal processing. Implementations and applications. Wiley, 2006, 667 p.
2. Misiti M., Oppenheim G. Wavelet and their applications. USA : ISTE, 2007, 330 p.
3. Percival D., Walden A. Wavelet methods for time series analysis. Cambridge university press, 2003, 566 p.
4. Mallat S. A wavelet tour of signal processing. USA: Academic Press, 1998, 805 p.
5. Coifman R. R., Wickerhauser M. V. Entropy-based algorithms for best basis selection, IEEE Trans. on Inf. Theory, 1992, Vol. 38 (2), pp. 713-718.
6. Martin N. Mathematical theory of entropy. Cambridge university press, 1984, 258 p.
7. Muller I., Weiss W. Entropy and energy, Springer Press, 2005, 273 p.
8. Fang S., Rajasekera J. Entropy optimization and mathematical programming. USA : Kluwer academic publishers, 1997, 273 p.
9. Shannon K. A Mathematical theory of communication, The Bell System Technical Journal, 1948, Vol. 27, pp. 379-423.
