Радіотехнічні кола та сигнали
УДК 004
МЕТОД ОБРАБОТКИ СИГНАЛА НА ОСНОВЕ НЕРАСШИРЯЮЩИХ РАВНОМЕРНО НЕПРЕРЫВНЫХ
ОТОБРАЖЕНИЙ
Федоров Е.Е., к.т.н. доцент,
Донецкая академия автомобильного транспорта, г. Донецк, Украина
Введение
В настоящее время широкое распространение получают компьютерные системы идентификации объектов и контроля их состояния. Важную роль для этих систем играет проблема построения эффективных методов, которые обеспечивают высокую скорость обучения модели классификации, а также высокую вероятность, адекватность и скорость классификации объектов и их состояний, представленных образцами сигнала, по модели. Для повышения емкости базы данных опорных образцов сигналов и скорости классификации образцов сигналов используется подход, основанный на классификации не целых сигналов, а только их участков равной длины (фреймов).
Современные методы классификации образцов сигнала используют следующие подходы к обучению нейросетевых моделей:
1. Настройка весовых коэффициентов модели, при этом опорные образцы отсутствуют [1]. Недостаток - длительное обучение и низкая вероятность классификации в случае трудно разделимых классов.
2. Настройка весовых коэффициентов модели и выбор в качестве опорных образцов тех обучающих образцов, которые попадают на границы классов [2]. Недостаток - длительное обучение и низкая вероятность классификации в случае трудно разделимых классов.
3. Настройка весовых коэффициентов модели и формирование опорных образцов в виде статистических оценок множества обучающих образцов [3]. Недостаток - длительное обучение и низкая вероятность классификации в случае трудно разделимых классов.
4. Выбор в качестве опорных образцов всех обучающих образцов, при этом весовые коэффициенты модели фиксированы [4]. Недостаток - длительная классификация.
5. Формирование опорных образцов в виде настройки векторов весовых коэффициентов модели [1]. Недостаток - низкое качество классификации в случае трудно разделимых классов.
Таким образом, все указанные подходы обладают недостатками.
В работах, связанных с цифровой обработкой сигнала, теоретические
42
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
положения функционального анализа применяются только к непрерывным или бесконечным дискретным сигналам [5]. Таким образом, возникает необходимость в разработке методов, использующих подходы функционального анализа для преобразования участков сигнала конечной длины.
Целью работы является создание метода обработки сигнала на основе нерасширяющих равномерно непрерывных отображений, действующих в компактных метрических пространствах.
Для решения поставленной задачи в статье осуществляется:
- построение дискретных множеств образцов сигнала;
- определение расстояний между элементами дискретных множеств образцов сигнала;
- построение дискретных отображений для дискретных множеств образцов сигнала;
- построение разбиений дискретных множеств образцов сигнала;
- построение компактных, полных и сепарабельных метрических пространств образцов сигнала;
- построение нерасширяющих, компактных и равномерно непрерывных отображений, действующих в компактных метрических пространствах образцов сигнала;
- построение модели классификации образцов сигнала.
Построение дискретных множеств образцов сигнала
В аппаратной компоненте компьютерной системы информация, полученная от датчиков, преобразуется в дискретный сигнал, который подается в виде последовательности векторов целых значений сигнала в программную компоненту компьютерной системы для анализа. В этой компоненте вектора значений сигнала вначале преобразуются к векторам вещественных признаков, а затем к векторам целых признаков. Полученные вектора признаков классифицируются [6].
Формализуем образцы сигнала (вектора значений сигнала, вектора вещественных и целых признаков) и номера их классов.
Пусть SN = {s}, SN с[0,...¥S - 1}N - конечное множество векторов
целых значений сигнала s длиной N , где rS - количество разрядов (бит)
для одного значения сигнала. В силу конечности множество SN является дискретным множеством.
ТУ' If If
Пусть V = {v}, V с [a, b] - конечное множество векторов вещественных признаков v длиной K , где a, b - минимальное и максимальное значение признака в виде вещественной константы, a < b. Для каждого значения признака используется rV разрядов (бит). В силу конечности
множество V K является дискретным множеством. Должны выполняться
условия K < N,
V
к
<
S
N
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
43
Радіотехнічні кола та сигнали
ТУ' ТУ' у ТУ'
Пусть X = {x}, X с{0,...,2X -1} - конечное множество векторов
целых признаков x длиной K, где rX - количество разрядов (бит) для од-
ТУ
ного значения признака. В силу конечности множество X является дискретным множеством. Должны выполняться условия
rX < rS, rX < rV, K < N,
X
K
<
V
K
X
K
<
S
N
Пусть YM = {y}, YM с {0,1}M - конечное множество номеров классов сигнала в виде булевых векторов с одной ненулевой компонентой длиной M. В силу конечности множество YM является дискретным множеством. Должны выполняться условия
Y
M
<
X
K
Y
M
<
V
K
Y
M
<
S
N
Определение расстояний между элементами дискретных множеств
образцов сигнала
Для сопоставления образцов сигнала и номеров их классов, являющихся элементами дискретных множеств, вводится расстояние между ними.
Между любой парой элементов дискретного множества SN определено расстояние в виде расстояния Манхеттена
N
d (si, s j) =2
s. — s
*jn
n=1
U J e1,
S
N
, i * j
Между любой парой элементов дискретного множества V K определено расстояние в виде расстояния Манхеттена
K
d (vi, v j) = 2
k=1
vik - v Jk
, i, j є1,
V
K
i * j .
Между любой парой элементов дискретного множества X K определено расстояние в виде расстояния Манхеттена
K
d(xi, xj) = 2 |xik—xjk [i, і є 1,
k=1
X
K
i * J.
Между любой парой элементов дискретного множества YM определено расстояние в виде расстояния Манхеттена
M
d (y і, y j) = 2
k=1
Уі - y і
i, j Є1,
Y
M
i * j.
Построение дискретных отображений для дискретных множеств образцов сигнала
Для преобразования и классификации образцов сигнала, являющихся элементами дискретных множеств, осуществим построение дискретных отображений.
44
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
В силу дискретности множеств SN и VK сюръективное отображение фа : S ^ V , где а - номер типа преобразования, является дискретным, а значит непрерывным открыто-замкнутым. Это отображение соответствует функции формирования вектора вещественных признаков на основе вектора целых значений сигнала.
K K
В силу дискретности множеств V и X сюръективное отображение
ТУ' ТУ'
Ур : V ^ X , где Р - номер типа преобразования, является дискретным,
а значит непрерывным открыто-замкнутым. Это отображение соответствует функции формирования вектора целых признаков на основе вектора вещественных признаков.
В силу дискретности множеств XK и YM сюръективное отображение Ф: XK ^ YM является дискретным, а значит непрерывным открытозамкнутым. Это отображение соответствует функции классификации вектора целых признаков.
Построение разбиений дискретных множеств образцов сигнала
Сюръективные отображения, используемые при преобразовании и классификации образцов сигнала, отображают один и более элементов одного дискретного множества в один элемент другого дискретного множества. Это приводит к разбиению первого дискретного множества на подмножества, элементы которых отображаются в одну точку. Осуществим формализацию этих разбиений.
Пусть ES = {(s, s) | s, s є SN л ф(§) = ф(£)} с SN х SN - отношение эквивалентности на дискретном множестве SN. Отношение эквивалентности ES определяет множество подмножеств DS = {SN}, которое является разбиением множества SN и удовлетворяет следующим условиям
|vk| _
SN = и SN , V/, j є і,
і =і
Подмножество SiN определено в виде
SN = {z | z, s є SN л vi = ф(в) л (z, s) є ES } с SN, где vi є VK, и является классом эквивалентности.
Пусть EV = {(v, v) | v, v є VK л ф(v) = ф(у)} с VK х VK - отношение эквивалентности на дискретном множестве V . Отношению эквивалентное
ТУ'
ти EV определяет множество подмножеств DV = {V/ }, которое является разбиением множества VK и удовлетворяет следующим условиям
V
к
і * j SN n SN = 0.
N
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
45
Радіотехнічні кола та сигнали
X
к
VK = и Vf, Vi, j є і, XK,i * J viK nv
i=1
K
0.
Подмножество
V
к
определено
в
виде
ViK = {z | z, v є VK A xi = ф(v) A (z, v) є Ev } c VK, где xi є XK, и является
классом эквивалентности.
Пусть EX = {(X, x) | X, x є XK a ф(Х) = ф(х)} c XK x XK - отношение
к
rK
к
эквивалентности на дискретном множестве X . Отношению эквивалент
ТУ'
ности EX определяет множество подмножеств DX = {Xi }, которое являе
тся разбиением множества XK и удовлетворяет следующим условиям
Y
M
XK = и XK , Vi, J єі, YM , і Ф J XK n Xj =0,
і=1
X
к
к
Подмножество Xi определено
= {z | z, x є Xк A yi =ф(x) A (z, x) є EX } c Xк, где
в виде
yi є YM, и является
классом эквивалентности.
Построение компактных, полных и сепарабельных метрических пространств образцов сигнала
На основе введенных дискретных множеств и расстояний между их элементами строятся компактные, полные и сепарабельные метрические пространства образцов сигнала.
В силу дискретности множество SN является полным и сепарабельным метрическим пространством (SN, р) с дискретной метрикой p(s, s)
такой, что
Vs, s є SN p(s, s)
1, d (s, s) > 0
0, d (s, s) = 0.
В силу конечности множества SN пространство (SN, р) является конечным и нульмерным, т.е. dim SN = 0. В силу конечности множества SN пространство (SN, р) является компактным метрическим пространством.
Аналогично множества SN, являются полными и сепарабельными подпространствами (SiN, р). В силу конечности подмножеств SN подпространства (SN, р) являются компактными метрическими пространствами.
В силу дискретности множество V к является полным и сепарабель-
ТУ'
ным метрическим пространством (V , р) с дискретной метрикой р(V, v) такой, что
46
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
Vv, v є¥к р(v, v)
1, d (v, v) > 0
0, d (v, v) = 0 ‘
ІУ 1C
В силу конечности множества V пространство (V , р) является ко-
1C К
нечным и нульмерным, т.е. dim V = 0. В силу конечности множества V
ТУ'
пространство (V , р) является компактным метрическим пространством. Аналогично множества VK являются полными и сепарабельными по-
1C 1C
дпространствами (V , р). В силу конечности подмножеств V подпространства (ViK , р) являются компактными метрическими пространствами.
В силу дискретности множество Хк является полным и сепарабель-
ТУ'
ным метрическим пространством (X , р) с дискретной метрикой р(х, х) такой, что
VX, х є Хк р(х, х)
1, d (х, х) > 0
0, d (х, х) = 0.
ТУ' ТУ'
В силу конечности множества X пространство (X , р) является ко-
1C 1C
нечным и нульмерным, т.е. dim X = 0. В силу конечности множества X
ТУ'
пространство (X , р) является компактным метрическим пространством.
Аналогично множества X i являются полными и сепарабельными подпространствами ( Xi , р) . В силу конечности подмножеств Xi подпрост-
ТУ'
ранства (X , р) являются компактными метрическими пространствами.
В силу дискретности множество YM является полным и сепарабельным метрическим пространством (YM, р) с дискретной метрикой р(у, у) такой, что
Vy, у є yM р(у, у)
1, d (у, у) > 0
0, d (у, у) = 0.
В силу конечности множества YM пространство (YM, р) является конечным и нульмерным, т.е. dim YM = 0. В силу конечности множества YM пространство (YM, р) является компактным метрическим пространством. Построение нерасширяющих, компактных и равномерно непрерывных отображений, действующих в компактных метрических пространствах образцов сигнала На основе дискретных отображений, определенных на дискретных множествах, строятся нерасширяющие, компактные и равномерно непрерывные отображения.
В силу компактности метрического пространства (SN, р) дискретное
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
47
Радіотехнічні кола та сигнали
ДТ ТУ'
отображение фа : S ^ V является компактным. В силу непрерывности на компактном метрическом пространстве (SN, p) дискретное отображе-
N к
ние фа : S ^ V является равномерно непрерывным, т.е.
Vs,s є SN Vs> 0 38 > 0 : p(s,s) <8^-р(фа(s),фа(s)) <s.
АГ ТУ'
В силу того, что дискретное отображение фа : S ^ V , которое действует из компактного метрического пространства (SN, р) в компактное меТУ'
трическое пространство (V , р), удовлетворяет условию
V^ S є sN рО^ s) > р(фа (sX фа (s)), оно является полусжимающим (нерасширяющим) отображением.
ТУ'
В силу компактности метрического пространства (V , р) дискретное
ТУ' ТУ'
отображение : V ^ X является компактным. В силу непрерывности
ТУ'
на компактном метрическом пространстве (V , р) дискретное отображе-
1C 1C
ние ^р : V ^ X является равномерно непрерывным, т.е.
Vv,vєVк Vs>0 38>0 : р(у,v)<8^-р(ур(v),Vp(v))<s.
1C 1C
В силу того, что дискретное отображение ур : V ^ X , которое дейТУ'
ствует из компактного метрического пространства (V , р) в компактное
ТУ'
метрическое пространство (X , р), удовлетворяет условию
Vv, v evK р(Х, v) >р(^р (vX Vp (v)), оно является полусжимающим (нерасширяющим) отображением.
ТУ'
В силу компактности метрического пространства (X , р) дискретное отображение ф: XK ^ YM является компактным. В силу непрерывности
ТУ'
на компактном метрическом пространстве (X , р) дискретное отображение ф: XK ^ YM является равномерно непрерывным, т.е.
Vx,хєXK Vs>0 38>0 : р(х,x)<8^р(ф(х),ф(х))<s.
В силу того, что дискретное отображение ф: XK ^ YM, которое дейс-
ТУ'
твует из компактного метрического пространства (X , р) в компактное метрическое пространство (YM, р), удовлетворяет условию
Vx, х є XK р(х, х) > р(ф(х), ф(х)), оно является полусжимающим (нерасширяющим) отображением.
Построение модели классификации образцов сигнала Построение модели включает в себя разработку ее структуры, ее обучение (включение в нее всех образцов сигнала, как опорных образцов), и
48
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
задание критериев оценки ее эффективности. Структура сетевой модели классификации образцов сигнала, основанной на нерасширяющих равномерно непрерывных отображениях, действующих в компактных метрических пространствах, представлена на рис. 1. Модель формируется по следующему принципу. Компонентам вектора значений сигнала s = (sb...,sN) соответствуют узлы входного слоя; компонентам вектора вещественных признаков v = (vb...,vK) соответствуют узлы первого слоя; компонентам вектора целых признаков x = (x1,...,xK) соответствуют узлы второго слоя; классам соответствуют элементы выходного слоя y = (y1,...,yM).
В первом слое на основе отображения фа : SN ^ VK формируется вектора вещественных признаков, причем каждый і -й узел модели вычисляет значение соответствующего признака у в виде у = фш (s). Рис. 1. Структура моле™ классификации Во втором слое на основе отобра-
ТУ' ТУ'
жения ур : V ^ X формируется вектор целых признаков, причем каждый i -й узел модели вычисляет значение соответствующего признака xi в виде xi = урі (v). В выходном слое на основе отображения ф: XK ^ YM
происходит классификации вектора целых признаков, причем каждый i -й узел модели сопоставляет классифицируемый вектор x с элементами под-
ТУ'
пространства (X , р) в виде yt = фі (x).
Модель представлена в виде функционала y = F(s, а, Р), представляющего собой композицию функций
Уі = Фі( Урі (Фаі (s),... ,ФаК (s)),... УрК (Фа1 (s),... ,ФаК (s))),i ^ 1 M.
Для оценки эффективности модели предложены следующие критерии:
1. Критерий скорости классификации, который для данного случая
ДГ ТУ'
означает выбор таких типов а, Р отображений фа : SN ^ VK и
ТУ' ТУ'
Ур : V ^ X , которые доставляют минимум времени классификации по модели J = T ^ min.
а,Р
2. Критерий вероятности классификации, который для данного случая
ДГ ТУ'
означает выбор таких типов а, Р отображений фа : SN ^ VK и
ТУ' ТУ'
Ур : V ^ X , которые доставляют минимум полной вероятности ошибки классификации
1 р
J = ^Zp(f(sp,а,р),Уp) ^ min,
р p=i а,р
Вісник Національного технічного університету України "КПІ" 49
Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
Р(F (s p, а,Р),у p)
1, d (F (s p, a, p),y p) > 0
0, d (F (s p, a, p),y p) = 0 ’
где s p - тестовые входы, y p - тестовые выходы, P - количество тестовых
реализаций.
3. Критерий адекватности модели, который для данного случая означает выбор таких типов a, Р отображений фа :SN ^VK и ур :VK ^XK, которые доставляют минимум среднеквадратичной ошибки 1 p Т
J = - £(F(sp,a,p) - yp) (F(sp,аР) - yp) ^ min.
P p=1
а,Р
Выводы
1. В отличие от большинства существующих методов, в силу того, что классы образцов сигнала могут быть плохо разделимы, в работе предлагается включить в модель классификации в качестве опорных образцов все элементы пространства образцов сигнала и не использовать настройку весовых коэффициентов и адаптацию опорных образцов.
2. Поиск в пространстве образцов сигнала приводит к необходимости максимально сократить мощность этого пространства, и тем самым обеспечить максимальную скорость классификации при сохранении высокой вероятности классификации и адекватности модели классификации. Уменьшение мощности пространства образцов осуществляется за счет уменьшения длины образца и уменьшения количества бит (разрядов) для одного значения признака образца.
3. Преобразование образцов сигнала и их классификация осуществляется посредством нерасширяющих равномерно непрерывных отображений.
4. В отличие от большинства работ по цифровой обработке сигнала, в статье используются подходы функционального анализа, ориентированные на преобразование конечных участков дискретного сигнала равной длины.
5. Разработанный метод может использоваться для идентификации технических и биологических объектов и контроля их состояния.
Литература
1. Осовский С. Нейронные сети для обработки информации / С. Осовский. - М.: Финансы и статистика, 2002. - 344 с.
2. Хайкин С. Нейронные сети: полный курс / С. Хайкин. - М.: Издательский дом «Вильямс», 2006. - 1104 с.
3. Комарцова Л.Г. Нейрокомпьютеры / Л.Г. Комарцова, А.В. Максимов. - М.: Изд-во МГТУ им. Н.Э. Батмана, 2002. - 320 с
4. Каллан Р. Основные концепции нейронных сетей / Р. Каллан. - М.: Издательский дом «Вильямс», 2001. - 288 с.
5. Малла С. Вэйвлеты в обработке сигналов / С. Малла. - М.: Мир, 2005. - 671 с.
6. Федоров Е.Е. Методы интеллектуальной диагностики / Е.Е. Федоров. - Донецк: изд-во «Ноулидж», 2010. - 303 с.
50
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
Радіотехнічні кола та сигнали
Федоров Є.Є. Метод обробки сигналу на основі нерозширювальних рівномірно безперервних відображень. У статті розробляється метод обробки сигналу на основі нерозширювальних рівномірно безперервних відображень, що діють у компактних метричних просторах, що забезпечує побудову ефективної моделі класифікації зразків сигналів. Пропонований метод призначений для ідентифікації технічних і біологічних об'єктів і контролю їхнього стану.
Ключові слова: обробка сигналу, модель класифікації, нерозширювальні рівномірно безперервні відображення, компактні метричні простори, дискретні множині, ідентифікація й контроль стану об'єктів.
Федоров Е.Е. Метод обработки сигнала на основе нерасширяющих равномерно непрерывных отображений. В статье разрабатывается метод обработки сигнала на основе нерасширяющих равномерно непрерывных отображений, действующих в компактных метрических пространствах, который обеспечивает построение эффективной модели классификации образцов сигналов. Предлагаемый метод предназначен для идентификации технических и биологических объектов и контроля их состояния.
Ключевые слова: обработка сигнала, модель классификации, нерасширяющие равномерно непрерывные отображения, компактные метрические пространства, дискретные множества, идентификация и контроль состояния объектов.
Fedorov Е.Е. Method of signal processing on the basis of non-expansive uniformly continuous mapping. In article the method of signal processing on the basis of non-expansive uniformly continuous mapping operating in compact metric spaces which provides construction of effective model of signal patterns classification is developed. The offered method is intended for technical and biological objects identification and control of their condition.
Keywords: signal processing, classification model, non-expansive uniformly continuous mapping, compact metric spaces, discrete sets, identification and control condition objects.
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2012.-№49
51