УДК 681.51:519.6
Исследование эффективности предфильтрации выходного сигнала при непараметрической идентификации
Ю.Е. Воскобойников1'2, В.А. Боева2
1 Новосибирский государственный архитектурно-строительный университет (Сибстрин), Новосибирск,
Россия
2ФГБОУ ВО Новосибирский государственный технический университет, просп. Карла Маркса, д.20,
Новосибирск, Россия
Аннотация: В качестве модели стационарной динамической системы часто выступает интегральное уравнение Вольтера первого рода с разностным ядром. Для такой модели задача непараметрической идентификации заключается в оценивание этого разностного ядра (называемого импульсной переходной функции) по измеренным значениям входного и выходного сигналов идентифицируемой динамической системы. Как известно, эта задача является некорректно поставленной, т.е. решение может не существовать, быть не единственным и обладать неустойчивостью по отношению к погрешностям (шумам измерения) исходных данных. Для получения единственного устойчивого (но приближенного) решения используются различные методы регуляризации, в частности метод регуляризации А.Н. Тихонова. Вычислительной основой алгоритмов, реализующие эти методы является дискретное преобразование Фурье (ДПФ). При этом предполагают, что входной сигнал (ядро интегрального уравнения) задан точно, а выходной сигнал системы регистрируется с некоторой случайной ошибкой. Однако такое предположение редко выполняется на практике так, как и входной и выходной сигналы системы измеряются и регистрируются приборами и, следовательно, и входной и выходной сигналы задаются с случайными погрешностями - шумами измерений. Так как ошибка регуляризированного решения зависит от уровня шумов измерений, то для уменьшения этой ошибки желательно выполнить предварительную фильтрацию сигналов идентифицируемой системы. Поэтому в работе выполнены исследования: а) степени влияния на ошибку решения уровней шумов измерений входного и выходного сигналов, б) эффективности предварительной фильтрации выходного сигнала с точки зрения уменьшения ошибки регуляризированного решения.
Ключевые слова: непараметрическая идентификация, некорректно поставленные задачи, интегральное уравнение Вольтера I рода, регуляризирующий алгоритм идентификации, оценивание оптимального параметра регуляризации, зависимость ошибки идентификации от шумов измерений, пороговые алгоритмы вейвлет-фильтрации, предварительная фильтрация выходного сигнала.
ВВЕДЕНИЕ И ПОСТАНОВКА ЗАДАЧИ
Наиболее часто в качестве математической модели стационарной динамической системы используется интегральной уравнение Вольтера I рода с разностным ядром:
г
\к{г-т)р{т)ёт = /{г) , (1)
о
где к {т) - импульсная переходная функция (ИПФ) динамической системы (ядро интегрального уравнения (1)), <р{т),/(г) -
входной и выходной сигналы системы. Как известно, задача непараметрической идентификации заключается в построении оценки для ИПФ динамической системы по зарегистрированным значениям сигналов р(т), /(г) [1]. Эта задача относятся к классу некорректно поставленных задач, когда могут нарушаться условия корректности по Адамару, в частности, появляется неустойчивость решения интегрального уравнения к погрешностям задания выходного сигнала
/ (г) [2].
Для нахождения единственного и устойчивого решения рассматриваемой задачи (т. е. решения уравнения (1) относительно функции к (т) ) используют различные методы регуляризации, как детерминированные [3,4], так и статистические [5]. При этом, как правило, предполагают, что выходной сигнал / (г) известен с некоторой случайной погрешностью ^(г), а входной сигнал р(т) задано точно. На практике возникают случаи, когда и входной сигнал системы измеряется со случайной погрешностью (шумом) С{т). Очевидно, что
уровень шумов ^(г), С{т) влияют на ошибку
регуляризированного решения задачи параметрической идентификации. Поэтому возникает предположение, что для уменьшения этой ошибки необходимо осуществить предварительную фильтрацию
(предфильтрацию) входного и выходного сигнала, используя для этого известные алгоритмы фильтрации (как частотные, так и пространственные). Ряд таких алгоритмов и их сравнение при фильтрации шумов различной статистической природы приведены в работе
[6]. Очевидно, что алгоритмы фильтрации (а точнее, выбор их параметров) должны вносить минимальную систематическую ошибку и существенно подавлять случайный шум измерения. Показано, что применение пороговых алгоритмов вейвлет-фильтрации позволяет понизить относительный уровень «остаточного» шума в 2-3 раза по сравнению с уровнем шума исходного зашумленного сигнала [6]. Таким образом, осуществление предфильтрации входного и выходного сигналов идентифицируемой системы является перспективным направлением повышения точности идентификации динамических систем.
В данной работе решаются следующие задачи:
• исследование зависимости ошибки регуляризированного решения от уровней шумов измерения входного и выходного сигналов идентифицируемой системы;
• исследование эффективности предфильтрации выходного сигнала идентифицируемой системы, шум измерения которого максимально влияет на ошибку регуляризированного решения.
1. РЕГУЛЯРИЗИРУЮЩИЙ АЛГОРИТМ РЕШЕНИЯ ЗАДАЧИ НЕПАРАМЕТРИЧЕСКОЙ ИДЕНТИФИКАЦИИ
Перед тем как перейти к исследованию ошибок регуляризированного решения задачи непараметрической идентификации кратко рассмотрим регуляризирующий алгоритм вычисления оценки для искомой ИПФ динамической системы.
Предположим, что зашумленные значения входного р(т) = (р(т) + ¿Т(?) и выходного
I (?) = / (?) + ) сигналов измеряются в равноотстоящие моменты по аргументам ? и т и шаг дискретизации одинаков и равен А?. При такой дискретизации исходными данными для задачи параметрической идентификации являются измеренные значения:
I = I(Ч) = I(Ч) + л(Ч), ру = р(ту) + С(ту),
где ), )
- случайные, не
коррелированные друг с другом величины с
нулевыми средними и дисперсиями С, С.
Такие шумы с постоянной дисперсией будем в дальнейшем называть однородными шумами.
Используя метод прямоугольников, интегральное уравнение (1) заменяется дискретной сверткой:
£ р-ту)к(туА = I(Ч), = 1,...,N1, (2) у=1
которая при соответствующем выборе шага дискретизации А хорошо аппроксимирует исходное уравнение (1). Построение
регуляризованного решения на основе дискретного преобразования Фурье (ДПФ) можно представить следующими
«укрупненными» шагами (подробнее см. [5]):
Шаг 1. Формирование по дискретным значениям I = /(^), I = 0,...,Ыу -1,
рру = рр(ту), у = 0,...,Ыр -1, периодических последовательностей
1р ('), Рр ('), ' = 0,. .,N -1, где N - величина
периода и взятия от этих последовательностей ДПФ, т.е. вычисление коэффициентов ДПФ Рр (I), Фр (I), I = 0,...,N -1.
Шаг 2. Вычисление коэффициентов ДПФ
регуляризированного
Кра (I), I = 0,..., N -1, решения.
Шаг 3. Вычисление периодического регуляризированного решения
кра(>), ' = 0,.., N -1 (взятием обратного ДПФ
от
последовательности
{Кра (I)} )
формирование вектора регуляризированного
^ рал
непериодического решения
а, у=0,..., ^ -1,
как оценку для значений
решения интегрального уравнения в дискретные моменты времени к(ту), у = 0,...,Nk -1.
Очевидно, что точность регуляризованного решения определяется способом вычисления К ра (I) на втором шаге. Эти коэффициенты
ДПФ можно находить на основе «традиционного» регуляризирующего
алгоритма (применяемого при точном входном сигнале) вида:
Фр (I)
К ра (I ) =---Рр (1),1 = 0,..., N -1
\Фр (I)| + авр (I)
, (3)
где а - параметр регуляризации, Фр (I) -величина, комплексно-сопряженная с коэффициентом Фр (I). Элементы
«стабилизирующей» последовательности
{вр (I)} формируются по правилу:
вр (I) =
в(1 А©),
I = 0,...., N/2;
-1) • А©), I = N/2 +1,..^-1,
где Аю = 2р/(NАt) - шаг дискретизации в частотой области. Функцию в(ю) можно трактовать как частотную характеристику стабилизирующего функционала: она должна быть неубывающей функцией частоты ю и чаще всего в(ю) ® ¥ при со®¥ (например, см. [5]). Если задан порядок регуляризации г, то при
достаточно больших значениях ю справедлива асимптотика Q(w) » со21-.
В матричном виде регуляризированное решение ка можно представить как:
ка= ^-1 Щ [^(р),^(/)]}:
где ^(р), ^(/) - прямое ДПФ измеренных входного и выходного сигналов, Яа { ) -
вычисление регуляризированных
коэффициентов ДПФ ИПФ (реализация алгоритма (3)), где используются ДПФ входного и выходного сигнала, ^ ~'()- обратное дискретное преобразование Фурье.
Проблема выбора параметра регуляризации а является основной при использовании регуляризирующих алгоритмов на практике. Дело в том, при заниженных значениях а в решении ка(т) будут присутствовать шумовые
составляющие, обусловленные шумом правой части т](1). При завышенных значениях а из
решения ка(т) будут «удалены» информативные компоненты функции к {т) . Поэтому в качестве оптимального значения а0р{ примем значение, доставляющее минимум
функционалу среднеквадратической ошибки:
А{а) = М,
\ка к
где к + - псевдорешение системы уравнений (3) с точной правой частью, М^ [•] - оператор математического ожидания по ансамблю шума измерения правой части уравнения, Ц -
евклидова норма вектора.
На практике вычисление точного значения а0р{ невозможно из-за незнания функции
к (т) . Поэтому используются разные алгоритмы выбора параметра регуляризации, позволяющие в той или иной степени оценить при различной априорной информации о числовых характеристиках шума правой части (см. [7-10]). В работе [11] для оценивания а^ в случае
точного ядра интегрального уравнения (1) был предложен критерий оптимальности линейного регуляризирующего алгоритма, который в дальнейшем являлся теоретической основой для построения алгоритмов оценивания а0р{ при
решении конкретных обратных задач. Поэтому, попытаемся применить этот алгоритм для оценивания а0р{ в задаче идентификации ИПФ,
считая при этом, что уровень шума измерения входного сигнала меньше уровня шума выходного сигнала и этот шум не будет учитываться при вычислении параметра
регуляризации. Приведем только основные соотношения, необходимые для понимания этого критерия и его использования в дальнейших исследованиях (подробнее см. [5,10]).
Введем статистику
Рш {а) = "^(/,еа)
(4)
Л
где еа = /- Фка - вектор невязки, Ф -матрица системы уравнений (3), ка - вектор, составленный из значений регуляризированного решения а(т]), ] = 0,...,Ик -1, (•,) -скалярное произведение векторов. Тогда в качестве оценки для а0рг можно принять
величину аш, для которой выполняется неравенство
{р/2)<р {аш )£$п {1 -Ь/2),
где $т {р/2) $т {1 -Р/2) - квантиль %2 -
распределения с т = И/ степенями свободы
уровней р/2 и 1 -р/2, Р - вероятность ошибки первого рода (обычно 0.05) при проверке статистической гипотезы об оптимальности значения аш.
Для эффективного вычисления значения удовлетворяющего вышеприведённому
а
неравенству вводится величина у = 1/ а и функция Яш {у) = р {1/ у). Тогдааш = 1/ уш , где уш - решение нелинейного уравнения
% {У) = т,
(5)
удовлетворяющее условию:
{Р/2)< % {Уш )<#т {1 -Р/2).
(6)
В работе [5] для решения нелинейного уравнения (5) применяется итерационная процедура Ньютона:
уп+1) =уп) + {у)-т у =У Яш{У)
в которой вычисления Яш {у), Щу {у) осуществляется через коэффициенты ДПФ:
р { ) N И-1 вр {1) I * % {у) = — • -Т2--1
Л I=0 у\Фр {I)| + Яр {I)
2
Щ N ^ вр {1 )\фр {1)
%{у) =—2' ^
<?Л 1=0
уфр {I) + вр {I)
\рр {I)
2
2
Видно, что эти соотношения требуют только порядка N вычислительных операций, что обеспечивает высокую вычислительную эффективность вычисления значения ащ .
В работе [5, 10] было показано, что величина ащ является наилучшей оценкой для а0р? по
сравнению с другими известными алгоритмами выбор параметра регуляризации (принцип невязки, метод перекрестной значимости, метод Ь-кривой). Поэтому целесообразно выполнить исследования свойств регуляризированного решения, когда в регуляризирующим алгоритме идентификации ИПФ при неточном входном сигнале используется оценка ащ .
2. ИССЛЕДОВАНИЯ ОШИБОК РЕГУЛЯРИЗИРОВАННЫХ РЕШЕНИЙ ЗАДАЧИ ИДЕНТИФИКАЦИИ
Для исследования ошибок регуляризи-рованных решений задачи идентификации был выполнен многочисленный вычислительный эксперимент.
В качестве импульсной переходной функции идентифицируемой системы использовались «колебательная» ИПФ, график которых приведен на рис. 1. Входной сигнал задавался двумя функциями: «узкополосным» - кривая 1 на рис. 2 (обозначим ВХОД1) и «широкополосным» - кривая 2 на рис. 2 (обозначим ВХОД2). Такой выбор входных сигналов был обусловлен тем, что для широкополосного сигнала обусловленность системы (7) уменьшается и при прочих равных условиях ошибка оценивания ИПФ
уменьшается. Количество отсчетов к (ту)
Nk = 100, количество отсчетов входного
сигнала р(ту) Nр =60, N1 = Nр+ Nk -1 = 159
и N = 256. Шаг дискретизации А? = 0.022. Точные значения входного и выходного сигналов искажались однородными шумами, т.е. нормально распределенными случайными величинами с нулевыми средними и дисперсиями, определяемыми задаваемыми уровнями шумов . Относительные уровни шума правой части 8/ и шума измерения входного
сигнала
8
Р
8/ =
I -1
определялись
РР-Р
соотношениями:
8р =
где /, ф - векторы
ИГ " \\Р\
размерности N1, Nр, составленные из точных значений /(^), р(ту) соответственно, || -
евклидова норма вектора. Точность построенного регуляризированного решения определялась относительной ошибкой
идентификации (а) =
ша к\
вектор, составленный из «точных» значений искомой ИПФ в дискретные моменты времени
т у.
В таблице 1 представлены средние значения 8к ■ (объем выборки был равен 150)
"Ш1П
ошибки
относительной
8кшт =8к (аор'
минимальной идентификации
вычисленной при разных значениях 8р (первый столбец таблицы), 8/ (первая строка таблицы). На вход системы подавался сигнал ВХОД1.
Рис. 1. Импульсная переходная функция к(т)
Рис. 2. Входные сигнала системы
Анализ данных этой таблицы позволяет сделать весьма важный вывод о том, что шум измерения входного сигнала в меньшей степени влияет на ошибку идентификации, чем шум измерения выходного сигнала
идентифицируемой системы.
где к -
Таблица 1
8Р 0.00 0.02 0.05 0.075 0.10 0.15
0.00 10-5 0.08 0.097 0.108 0.122 0.141
0.02 0.049 0.082 0.098 0.109 0.122 0.141
0.05 0.066 0.087 0.101 0.112 0.124 0.143
0.075 0.076 0.092 0.106 0.114 0.127 0.145
0.10 0.082 0.098 0.109 0.120 0.131 0.150
0.15 0.098 0.109 0.120 0.129 0.139 0.159
Для количественной оценки такого влияния были вычислены две последовательности первых конечных разностей. 1. Последовательность
() 8к,'+1)-8к,')
А1) _ кш1п кш1 А/ =
8
,+1)
-8
, = 1,...,5 , где 8
8(,)
I /
среднее значение относительной ошибки идентификации при уровне шума выходного
сигнала 8
равному значению , - ого
элемента последовательности
{0.0,0.02,0.05,0.075,0.10,0.15} при заданном уровне шума входного сигнала. Очевидно, что
А, это приближенное значение частной
производной от относительной ошибки идентификации по относительному уровню
шума выходного сигнала при значении 8(,) шума выходного сигнала при значении ду .
Поэтому
А1)
можно трактовать как
коэффициент чувствительности относительной ошибки идентификации к уровню шума выходного сигнала.
2. Последовательность 8(,+1)-8(,)
АрР = кШ1П
8 -8
, = 1,...,5 , где 8
8(,)
среднее значение относительной ошибки идентификации при уровне шума входного
сигнала
8,)
равному значению , - ого элемента последовательности
{0.0,0.02, 0.05,0.075, 0.10,0.15} и
фиксированном уровне шума выходного
По
сигнала.
аналогии
можно
рассматривать как приближенное значение частной производной от относительной ошибки идентификации по относительному уровню
Ж) Л
шума входного сигнала при значении 8р . А также АрР можно трактовать как коэффициент
чувствительности относительной ошибки идентификации к уровню шума входного сигнала. На рис. 3 приведены графики
(')
следующих величин: кривая 1 - значения Ау
при 8рр =0.02; кривая 2 - значения А\ при 88, = 0.02.
Рис. 3. Значения элементов последовательностей
Ар, I
Видно, что коэффициент чувствительности к шуму выходного сигнала в несколько раз (иногда и на порядок) выше по сравнению с коэффициентом чувствительности к шуму измерения входного сигнала.
Аналогичные вычислительные
эксперименты были проведены и в случае высокочастотного входного сигнала (ВХОД2). Результаты обработки результатов этих экспериментов позволяют сделать выводы, аналогичные выводам для ВХОД 1.
Таким образом, из результатов выполненных исследований следует вывод о необходимости в первую очередь осуществить фильтрацию выходного сигнала идентифицируемой системы.
3. ИССЛЕДОВАНИЯ ЭФФЕКТИВНОСТИ ПРЕДФИЛЬТРАЦИИ ВЫХОДНОГО СИГНАЛА ИДЕНТИФИЦИРУЕМОЙ СИСТЕМЫ
Для уменьшения уровня шума выходного сигнала идентифицируемой системы
предлагается использовать пороговые алгоритмы вейвлет фильтрации. Эти алгоритмы позволяют с меньшей систематической ошибкой (по сравнению с алгоритмами Фурье-фильтрации) фильтровать шумы различной статистической природы и имеют высокую вычислительную эффективность. Алгоритмы основаны на следующем многомасштабном представлении сигнала / (г) [12,13]:
к+J
ДО = Е к + J ,кР}0 + J ,к(г) + Е Е й],к¥],к(г), к } = к +1 к которое можно интерпретировать как восстановление сигнала / (г) по его коэффициентам разложения на J -ом уровне. Функции {рк к(г)} называют масштабирующими (или отцовскими), а функции {у к (г)} -
вейвлет - функциями (или материнскими). Переменная к характеризует уровень разложения и ее часто называют коэффициентом масштаба, переменная к -временной сдвиг той или иной базисной функции, величина J - задает количество уровней разложения, к0 - начальный уровень разложения (подробнее см. [14]). Коэффициенты разложения а у к называют
аппроксимирующими, йу к - детализирующими и они определяются выражениями:
ау,к = |/(?)Ру,к , ¿к,к = {/(1 )Уу,к (1)Л .
Напомним (подробнее см. [14]), что пороговый алгоритм вейвлет-фильтрации можно условно представить следующими шагами:
Шаг 1. Вычисление прямого дискретного вейвлет-преобразования (нахождение
коэффициентов разложения по зашумленным значениям дискретного сигнала); Шаг 2. Обработка «зашумленных» коэффициентов разложения (устранение шумовой составляющей);
Шаг 3. Вычисление обратного дискретного вейвлет-преобразования (нахождение
«сглаженных» значений дискретной функции). Обозначим коэффициенты разложения
зашумленного сигнала /(г) как а к к, .
Заметим, что относительные погрешности аппроксимирующих коэффициентов на порядок и более меньше погрешностей коэффициентов (см. [14], стр. 58-60). Поэтому на практике
обработке подвергаются только
детализирующие коэффициенты d, k.
Очевидно, что качество фильтрации зашумленного сигнала определяется алгоритмами обработки на втором шаге, где строятся оценки для неизвестных «точных» коэффициентов разложения. Большинство используемых алгоритмов носят пороговый характер: коэффициент разложения меньший по абсолютной величине некоторой пороговой величины зануляется, в противном случае коэффициент сохраняется или подвергается некоторому (в общем случае нелинейному) преобразованию. Распространение на практике получили однопараметрические пороговые функции, зависящие только от одного параметра - величина порога (подробнее см. [14]). В нашем случае будем использовать пороговую функцию (обозначенную как HYP), которая эффективно удаляют шумы различной статистической природы (подробнее см. [15]):
THYP ( d jk ,1)=<
!ign(d j,k )
j,k -l, если \djA > 1
0, если\dj k <1
(7)
где 1 - величина порога. График функции (вычисленные при 1 = 1) показаны на рис. 4 сплошной кривой.
Рис. 4. Графики пороговой функции (7)
В операторном виде алгоритм вейвлет-фильтрации можно представить в виде:
Л= ш-1 [тя[ш/)] , (8)
где ш,ш -1- операторы прямого и обратного
вейвлет-преобразования, Тя{ )- оператор,
реализующий пороговый алгоритм обработки коэффициентов вейвлет-разложения при заданном пороге 1 и выбранной пороговой
функцией, / - дискретный зашумленный сигнал (вектор), сформированный из значений «зашумленной» функции /(г), / - результат
вейвлет-фильтрации (тоже вектор).
Предполагается, что I = I + г, где I -«точный» вектор, ] - вектор шума измерения с
" 2
нулевым средним и дисперсией а .
Очевидно, что выбор пороговой величины существенно влияет на ошибку фильтрации и эта пороговая величина, по сути, является управляющим параметром алгоритмов вейвлет -фильтрации. Сравнение различных алгоритмов выбора порога 1 выполнено в [14]. Очевидно, что хотелось бы найти оптимальное значение 1 ор1, которое минимизирует среднеквад-
ратическую ошибку фильтрации. Приведем основные соотношения алгоритма выбора, позволяющего достаточно точно оценить 1 ор1 (подробнее см. [14]). Введем статистику
Рш (1) = \•(ex,I а *
где
Ь' Ъ -
скалярное произведение двух
векторов, ех = I - I - вектор невязки. В качестве оценки для 1 ор1 принимается величина для которой выполняется неравенство:
^у/2,* £Рш (К )£ А-
у/2.« '
(9)
где -ду/2,«, Ф1-у/2,« - квантили %2 - распределения с числом степеней свободы * уровней у / 2, 1 - у / 2 соответственно, * - число значений фильтруемой функции, у = 0.05 -вероятность ошибки первого рода при проверке статистической гипотезы об оптимальности пороговой величины (подробнее см. [14]). Как показали проведенные исследования [14] увеличение среднеквадратической ошибки фильтрации при 1 = 1ш по сравнению с 1 = 1 ор1
не превышает 10%, что позволяет сделать вывод о высокой точности оценивания оптимальной пороговой величины 1 ор1 .
Вторая серия вычислительных
экспериментов была посвящена исследованию точности следующих регуляризированных решений для ИПФ, изображенной на Рис. 1:
1. Решение (4)
к =р-1 К, [р(фх ро)]}, в котором
исходными данными являются зашумленные значения входного и выходного сигналов с относительными уровнями шумов 8р, 81, а в
качестве параметра регуляризации берется оценка аш. Относительная ошибка этого
решения определялась как: 8 г =
1каш к
1|к||
2. Решение
К = р-1 К [рР р(к )]} , где Лш -
результат предварительной фильтрации (5) выходного сигнала идентифицируемой системы, 1ш - пороговая величина, удовлетворяющая неравенству (6). Относительная ошибка этого решения определялась как:
8 Та М - к 8 Г =-ш-.
ка,1 ||к||
3. Решение
к°1 = аш
р- К [р(ф), рI)]}, где Д -
выходной сигнал, искаженный нормально распределенным «белым» шумом измерения с относительным уровнем, который определялся уровнем остаточной ошибки вейвлет-
■л
фильтрации 8ц =
Другими словами,
это решение позволяет определить точность регуляризированного решения в случае, когда выходной сигнал системы искажен «белым» шумом, уровень которого равен величине 8ц. Относительная ошибка этого решения определялась как:
к81 - к
аш
к а,8
А-
Так как приведенные относительные ошибки являются случайными величинами (зависят от конкретных реализаций шумов измерений), то по выборке объемом 150 были вычислены
средние значения 8; , 8г , 8г . Эти
ка ка,1 ка,8
значения для ВХОД1 приведены в Табл. 2. Для входного сигнала ВХОД2 результаты приведены в Табл. 3.
Из анализа этих таблиц можно сделать вывод, что предварительная фильтрация выходного сигнала, искаженного нормально распределённым шумом не уменьшает ошибку регуляризированного решения по сравнению с ошибкой решения, вычисленного по сигналу без его предфильтрации (особенно это видно в случае высокочастотного входного сигнала см. табл. 3). Этот факт можно объяснить тем обстоятельством, что вейвлет-фильтрация белого шума делает его «цветным» с существенной корреляцией между соседними отсчетами.
На Рис. 5 приведены автокорреляционные функции исходного шума г, выходного сигнала (сплошная кривая) и «остаточного» (после вейвлет-фильтрации) шума £ц= Ц -1 (точечная кривая). По оси абсцисс рисунка указана величина лага при вычислении значений автокорреляционной функции. Видна существенная корреляция между отсчетами
остаточного шума, которая обуславливает частот, что обуславливает увеличение ошибки
трансформацию спектра шума в область низких регуляризированного решения.
__Таблица 2
Уровень шума df Уровень «остаточного» шума di Относительные ошибки решений
sc ka,X St d
0.02 0.011 0.080 0.082 0.071
0.05 0.022 0.093 0.096 0.083
0.075 0.040 0.108 0.112 0.091
0.10 0.049 0.122 0.0131 0.094
0.15 0.067 0.144 0.163 0.105
Таблица 3
Уровень шума Sf Уровень «остаточного» шума Si Относительные ошибки решений
Sa dt ka,1 St S
0.02 0.013 0.064 0.072 0.051
0.05 0.029 0.091 0.999 0.072
0.075 0.041 0.106 0.115 0.082
0.10 0.051 0.117 0.134 0.090
0.15 0.072 0.140 0.165 0.103
Рис. 5. Автокорреляционные функции шумов
Заметим, что аналогичную корреляцию вносит и медианный фильтр (штриховая кривая на рис. 5), используемый для фильтрации нормально распределенного шума с одинаковой дисперсией. Однако применение этого фильтра становится необходимым при наличии в выходном сигнале аномальных измерений, обусловленных так называемым импульсным шумом. В этом случае вейвлет-фильтрация имеет низкую эффективность [6], а применение медианного фильтра позволяет убрать
аномальные подтверждают работе [16].
измерения. исследования,
Этот тезис выполненные в
ЗАКЛЮЧЕНИЕ
Приведенные результаты (а также результаты других экспериментов с другими формами входных сигналов) позволяют сделать вывод о нецелесообразности предварительной фильтрации выходного сигнала
идентифицируемой системы, искаженного нормально распределенным шумом с одинаковой дисперсией (однородным шумом). При наличии аномальных измерений целесообразно использовать медианный фильтр, который хорошо фильтрует аномальные измерения при соответствующем выборе размеры апертуры. Эти выводы можно обобщить на решение обратных измерительных задач с неточно заданной ИПФ измерительной системы.
ЛИТЕРАТУРА
[1] Greblicki W., identification. 400 p.
[2] Тихонов А. Н. Методы решения некорректных задач / А.Н. Тихонов, В. Я. Арсенин. - М. : Наука,
Pawiak M. Nonparametric system - Cambridge University Press, 2008. -
1986. - 285 с.
[3] Тихонов А. Н. Численные методы решения некорректных задач / А.Н. Тихонов, А.В. Гончарский, В.В. Степанов и др. - М. : Наука, 1990. - 231 с.
[4] Воскобойников Ю. Е. Математическая обработка эксперимента в молекулярной газодинамике / Ю. Е. Воскобойников, Н. Г. Преображенский, А. И. Седельников. - Новосибирск : Наука, 1984. - 238 с.
[5] Воскобойников Ю.Е. Устойчивые алгоритмы решения обратных измерительных задач / Научная монография. Ю. Е. Воскобойников. -Новосибирск : Изд-во НГАСУ. 2007. - 184 с.
[6] Воскобойников Ю.Е. Крысов Д.А. Исследование потенциальной точности пороговых алгоритмов вейвлет-фильтрации шумов различной статистической природы // Автоматика и программная инженерия. - 2016. № 4(18). - с. 6776.
[7] Urmanov A.M. et al. Information complexity-based regularizing parameter selection for solution of ill-posed inverse problems / A. M. Urmanov, A. V. Gribok, H. Bozdogan, J. W. Hines, R. E. Uhrid // Inverse problems. - 2002. - V. 18, № 3.
[8] Vogel C.R. Non-convergence of L-curve regularization parameter selection method // Inverse Problems. - 1996. - V. 12, № 4. - P. 535-547.
[9] Lukas M.A. Comparison of parameter choice methods for regularization with discrete noisy data // Inverse Problems. - 2000. - V. 14, № 2. - P. 161184.
[10] Воскобойников Ю. Е. Численная реализация и сравнение четырех способов выбора параметра регуляризации в устойчивых алгоритмах деконволюции / Ю. Е. Воскобойников // Научный вестник НГТУ. - 2004. - № 2 (17). - С. 27-44.
[11] Воскобойников Ю. Е. Оценивание оптимального параметра регуляризирующего алгоритма восстановления изображений / Ю. Е. Воскобойников // Автометрия. - 1995. - № 3. - С. 64-72.
[12] Mallat S. Multiresolution approximation and wavelet orthonormal bases of LA2(R) // Trans. AMS. - 1989. - Vol. 315, № 1. - P. 69-87.
[13] Mallat S. А theory of multiresolution signal decomposition: the wavelet representation // IEEE Trans. Pattern Anal. Machine Intell. - 1989. - Vol. 11, № 9. - P. 674-693.
[14] Воскобойников Ю.Е. Вейвлет-фильтрация сигналов и изображений (с примерами в
MathCAD): монография. - Новосибирск: НГАСУ (Сибстрин), 2015. - 188 с.
[15] Воскобойников Ю.Е., Крысов Д.А. Выбор наилучшей однопараметрической пороговой функции в алгоритмах вейвлет-фильтрации // Сборник научных трудов НГТУ. - 2016. - № 3(85). - С. 71-82.
[16] Сизиков В.С., Степанов А. В. Определение параметров искажений изображений спектральным способом в задаче обработки снимков поверхности Земли, полученных со спутников и самолётов // Оптический журнал. -2018. - т. 85. - №4. С. 19-26.
Юрий Евгеньевич Воскобойников, выпускник кафедры автоматики НГТУ (НЭТИ), доктор физ.-мат. наук, профессор, Заслуженный работник Высшей школы РФ, Соросовский профессор, действительный член МАИ,
РАЕ, МАН ВШ, заведующий кафедрой прикладной математики Новосибирского государственного архитектурно-строительного университета
(Сибстрин), профессор кафедры автоматики НГТУ. Автор более 295 публикаций, 6 монографий, посвященных решению некорректных задач интерпретации данных и обработке сигналов и изображений, и большого числа учебников и учебных пособий.
Новосибирск, 530073, просп. К. Маркса, д.20 E-mail: [email protected]
Василиса Андреевна Боева, аспирант кафедры прикладной математики НГАСУ (Сибстрин). Автор четырёх публикаций по идентификации динамических систем.
E-mail:
Статья поступила 08.11.2018
The Observation of the Output Signal Pre-filtering Efficiency in the Case of Non-parametric
Identification
Yu.E. Voskoboynikov V.A. Boeva 2 Novosibirsk State Architectural and Construction University (Sibstrin), Novosibirsk, Russia
2FGBOU VO Novosibirsk State Technical University, prosp. Karl Marx, 20, Novosibirsk, Russia
Abstract - The integral Volterra equation of the first kind often appears as a model of stationary dynamic system. For such a model, the non-parametric identification task is represented by evaluation of the difference kernel (also called pulse response function) based on registered input and output signals of identified dynamic system values. As is well known, this task arises as ill-posed problem meaning that the solution can be nonexistent, non-unique and unstable relative to errors (measurement noises) in input data. There exist various regularization methods, Tikhonov's regularization particularly, to get the unique stable approximate
solution. Discrete Fourier transformation (DFT) is a computational base for algorithms implemented these methods. Herewith, the input signal (the kernel of integral equation) is supposed to be set accurately, but the output signal of the system is registered with some random error. However, such a presupposition is rarely satisfied on practice because both input and output signals are measured and registered by devices of the same accuracy class, so both signals are assigned with some random errors - measurement noises. As far as the regularized solution error depends on measurement noises level for a reduction of the error, pre-filtering of the identified system signals is preferred. For this reason, the following investigations are realized in this article: a) the impact level of the measurement noises in input/output signals on the regularized solution error; b) the efficiency of the output signal pre-filtering to reduce the regularized solution error.
Key words: non-parametric identification, ill-posed problems, integral Volterra equation of the first kind, regularizing identification algorithm, optimal regularization parameter evaluation, dependence of identification error on measurement noises, threshold wavelet filtering algorithms, pre-filtering of output signal.
REFERENCES
[1] Greblicki W., Pawiak M. Nonparametric system identification. - Cambridge University Press, 2008. -400 p.
[2] Tikhonov A.N. Metody resheniya nekorrectnykh zadach/ A.N. Tikhonov, V.Ya. Arsenin - M. : Nauka, 1986. - 285 s.
[3] Tikhonov A.N. Chislennye metody resheniya nekorrektnykh zadach / A.N. Tikhonov, A.V. Goncharsky, V.V. Stepanov i dr. ,- M. : Nauka, 1990.
- 231 s.
[4] Voskoboynikov Yu.E. Matematicheskaya obrabotka eksperimenta v moleculyarnoy gazodinamicke / Yu.E. Voskoboynikov, N.G. Preobrazhensky, A.I. Sedelnikov. - Novosibirsk : Nauka, 1984. - 238 s.
[5] Voskoboynikov Yu.E. Ustoichivye algoritmy reshenya obratnykh izmeritelnykh zadach / Nauchnaya monographia. Yu.E. Voskoboynikov. -Novosibirsk : Izd-vo NGASU. 2007. - 184 s.
[6] Voskoboynikov Yu.E. Krysov D.A. Issledovanye potencialnoy tochnosti porogovykh algoritmov weivlet-filtracii shumov razlichnoy stasticheskoy prirody / Avtomatika I programmnaya inzheneriya. -2016. №4 (18). - s. 67-76.
[7] Urmanov A.M. et al. Information complexity-based regularizing parameter selection for solution of ill-posed inverse problems / A. M. Urmanov, A. V. Gribok, H. Bozdogan, J. W. Hines, R. E. Uhrid // Inverse problems. - 2002. - V. 18, № 3.
[8] Vogel C.R. Non-convergence of L-curve regularization parameter selection method // Inverse Problems. - 1996. - V. 12, № 4. - P. 535-547.
[9] Lukas M.A. Comparison of parameter choice methods for regularization with discrete noisy data // Inverse Problems. - 2000. - V. 14, № 2. - P. 161184.
[10] Voskoboynikov Yu.E. Chislennaya realizatcya I sravneniye chetyryokh sposobov vybora parametra regularizatcii v ustoychivykh algoritmakh deconvolutcii / Yu.E. Voskoboynikov // Nauchnyi vestnic NGTU. - 2004. №2 (17). - S. 27-44.
[11] Voskoboynikov Yu.E. Otcenivaniye optimalnogo parametra regulariziruyushego algoritma vosstanovleniya izobrazheniy / Yu.E. Voskoboynikov // Avtometria. - 1995. - №3. - S. 64-72.
[12] Mallat S. Multiresolution approximation and wavelet orthonormal bases of LA2(R) // Trans. AMS.
- 1989. - Vol. 315, № 1. - P. 69-87.
[13] Mallat S. A theory of multiresolution signal decomposition: the wavelet representation // IEEE Trans. Pattern Anal. Machine Intell. - 1989. - Vol. 11, № 9. - P. 674-693.
[14] Voskoboynikov Yu.E. Wavelet-filtratcia signalov I izobrazheniy (s primerami v MathCAD): monographya. -Novosibirsk: NGASU (Sibstrin), 2015. - 188 s.
[15] Voskoboynikov Yu.E., Krysov D.A. Vybor nailuchshey odnopapametricheskoy porogovoi functcii v algoritmakh wavelet-filtratcii // Sbornic nauchnykh trudov NGTU. -2016. - №3 (85). - S. 71-82.
[16] Sizikov V.S., Stepanov A.V. Opredeleniye parametrov iskazheniy izobrazheniy spectralnym sposobom v zadache obrabotki snimkov poverkhnosti Zemli, poluchennykh so sputnikov I samoleotov //Optichesky zhurnal. - 2018. - t. 85. - №4. S. 19-26.
Yury
Voskoboinikov,
physical and sciences. in
Evgenievich
doctor of mathematical Economics,
Professor, Honored Worker of the Higher School of Russia, Soros Professor, Full Member of the MAI, RAE, MAN VS, Professor, Automation Department, NSTU. Head of the Department of Applied Mathematics of the Novosibirsk State Architectural and Construction University (Sibstrin). He is the author of more than 300 scientific publications, 6 monographs devoted to solving ill-posed problems of data interpretation and signal and image processing, 16 textbooks and teaching aids. Novosibirsk, prosp. K. Marx, 20 E-mail: [email protected]
Vasilisa Andreevna Boeva, PhD
student of the Department of Applied Mathematics of the Novosibirsk State Architectural and Construction University (Sibstrin). The author of 4 papers on identification of dynamuc systems.
E-mail: [email protected]
The paper was received on 08.11.2018.