CC BY
26
Радіотехнічні кола та сигнали
РАДІОТЕХНІЧНІ КОЛА ТА СИГНАЛИ
УДК 621.372.061
ПОРІВНЯННЯ МЕТОДІВ НОРМАЛЬНОЇ ФІЛЬТРАЦІЇ ТА
ОРТОГОНАЛЬНОГО РОЗКЛАДУ КОРЕЛЯЦІЙНОЇ МАТРИЦІ
Рибін О.І., Рибіна І.О., Ніжебецька Ю.Х.
Розпізнавання образів має велике значення при розв’язанні багатьох задач радіотехніки, механіки, медицини тощо.
В роботах [1-5] запропоновано метод нормального ортогонального перетворення тестового сигналу та його використання для розпізнавання образів [6-9] на прикладі аутентифікації особи за динамічно введеним підписом. Метод дозволяє достатньо надійно ідентифікувати особу, що робить підпис. В той самий час при розпізнаванні звуків української мови «а», «о», «у», «е» було отримано незадовільні результати [10]. Тому для дослідження більш тонких відмін за критерієм максимальної правдоподібності було запропоновано модифікований метод [10-15], оснований на оцінці імовірності приналежності досліджуваного сигналу х до заданого класу по дискримінантим числам.
Суть модифікації полягала в наступному. Для оцінки такої ймовірності виконується апроксимація щільності ймовірностей за законом Гаусса
де х - вектор-стовпець відліків сигналів з ансамблю реалізацій з класу розміру jVxI; - вектор-стовпець математичних очікувань цих відліків розміру jVxI; Сот(х) - кореляційна матриця випадкових відхилень реалізацій сигналу класу від їх математичного очікування порядку N; det ^Сог(ж)^ — визначник кореляційної матриці; х — вектор-стовпець відліків досліджуваного сигналу розміру jVxI; Т — знак транспонування.
Класичний підхід [16] до оцінки імовірності (1) полягає в обчисленні дискримінантних чисел для сигналу х
“ (2)
D = (х — МіУСог-1 (ж) (ж — Мі) і порівнянні їх зі визначеними при навчанні класифікатора (2) пороговими числами D1 < D2 так, що якщо D < Du то сигнал х належить до класу щ,, якщо ж D > D2, то ні.
Основна складність реалізації класифікатора (2) полягає в наявності великої кількості нульових власних значень розкладу
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
5
Радіотехнічні кола і сигнали
=* = =г
Сот(х) = И XII
=т
(3)
на власні значення А,- в діагональній матриці А (Я та Я — матриці влас них векторів матриці Сот(х)).
Обернена матриця
Сог-'іх) = П А-1 Я (4)
при наявності власних значень А,-, рівних нулю, не існує, а при «малих» А, є погано зумовленою.
Тому в роботах [11-15] було запропоновано модифікацію методу, яка полягає в обчисленні для досліджуваного сигналу х добутку
Cor = (х — (х— (5)
названого матрицею миттєвої кореляції і в переході від дискримінантного числа (2) до іншого
<5= ЯГСогЯ —1|, (6)
де II ■ II означає норму [16] відхилення добутку Я СотТТ від матриці А.
Аналогічно в процесі навчання класифікатора визначаємо б1 < 32 так, що, якщо б < бг, то сигнал х належить до класу щ,, якщо б > 32 — то ні.
При використанні для класифікації образу нормального перетворення на базі математичних очікувань Мг відліків сигналів класу будується матричний оператор дискретного ортогонального перетворення [3], за яким знаходиться спектр нормального перетворення досліджуваного сигналу х
Xf = WN х, (6а)
за яким обчислюється коефіцієнт трансформант [17,18] Кт (аналог дискримінантного числа)
(7)
де х^ — амплітуда трансформанта нормального перетворення, що з точністю до константи співпадає з еталонним сигналом.
В процесі навчання нормального класифікатора для кожного класу визначають (за ансамблем реалізації сигналів класу щД коефіцієнти трансформант, з яких обирають КТгГіах таке, що, якщо досліджуваний в процесі класифікації сигнал х має коефіцієнт трансформант (7) Кт < КТтах, то його відносять до класу щг-. Для всіх сигналів з ансамблів реалізацій інших класів знаходять значення КТггііп > KTmax таке, що, якщо Кт > КТтіто сигнал до класу не належить.
Надійність класифікації визначається різницею між значеннями КТты та KTrrzax. Так для динамічно введеного підпису дослідження [5-7] показали, що К-ттіп відрізняється від К-ттсх в 3 і більше разів. Для фонограм зву-
6
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
Радіотехнічні кола та сигнали
ків «а», «о», «у», «е» така різниця не спостерігається. В той самий час для тих самих підписів і звуків мовлення дискримінантні числа відрізняються в десятки-тисячі разів.
Алгоритм класифікації з уточненням
Метою даної роботи є обґрунтування можливості та створення алгоритму переходу від менш надійного методу розпізнавання образу на базі нормального перетворення до більш надійного (але і більш трудоємного) методу розпізнавання образу на базі використання ортогонального розкладу кореляційної матриці (3), (5), (6).
Для цього розглянемо зв’язок між кореляційною матрицею Сот (3) в натуральних координатах і кореляційною матрицею, побудованою для прирощень амплітуд трансформант нормального перетворення випадкових відхилень відліків досліджуваного сигналу від математичних очікувань цих відліків. Нагадаємо, що в разі нормального перетворення WN математичного очікування Mt спектр
Mf = ЩД.
містить в собі тільки одну ненульову трансформанту.
Нехай по кожному нормальному спектру для кожного стовпця випадкових прирощень обчислено вектор-стовпець нормального перетворення
Axt = [Дх^і, Д^2 >■■■ д; ] ■
Тоді кореляційна матриця для випадкових прирощень сигналів класу (ot в натуральних координатах може бути обчислена як
(8)
Сот = М{Ж71 Ах^ Ах^ Г (Ж[ Г1},
де М{■} — математичне сподівання; Жу1 = Ж( [1-5] - матричний оператор зворотного дискретного нормального перетворення.
З (8) отримуємо
= =- ґ ="= = (9)
Сот = Ж[
М ] WN} = Ж[.
З виразів (3), (9) отримаємо
=* = =Т =.
ЯЯЯ =W^Cor^VN,
звідки ортогональний розклад кореляційної матриці спектральних прирощень має вигляд
Сот^ = WNn ЯЯ Ж[-Позначивши в останньому виразі
= * = = * =Т =Т — т
n^ = WNIT = Я IVN ,
отримаємо формулу ортогонального розкладу аналогічну (3):
Corf = Я?ЯЯ?5
(10)
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
7
Радіотехнічні кола і сигнали
Оскільки при створенні кореляційного класифікатора (3)—(6) вже обчислено матриці А, 77 , П ", а при класифікації за нормальним перетворенням
- матриця Ж, то перехід до розкладу (10) не потребує значних витрат.
При цьому, як і в виразі (9), отримаємо
^ = І ЩСоцП - А , (11)
де Сот£ — миттєва матриця кореляції, створена для спектра тільки однієї реалізації досліджуваного сигналу х.
Результати обчислень дискримінантного числа для того самого сигналу за (11) та (6) дали тотожні результати, тобто (як і очікувалось) 3^ = 3.
Отже, при наявності двох класифікаторів: нормального (обчислені значення Ж’ та Кттїп, КТтах) та кореляційного (обчислені значення А та 77 або 77^) алгоритм класифікації з уточненням (за необхідністю) має вигляд.
1. Для досліджуваного сигналу х(ґ) провести дискретизацію з еквідиста-
нтним кроком і отримати вектор ВІДЛІКІВ X = [xlf Х2> %] •
2. Знайти нормальний спектр х^ сигналу х (6а).
3. Обчислити коефіцієнт трансформант досліджуваного сигналу (7).
4. Якщо різниця між Кттах і «велика», то класифікацію можна
вважати такою, що з великою імовірністю відповідає дійсному стану речей. В протилежному випадку слід скористатися класифікатором (11) і перейти до пункту 5 алгоритму.
5. Побудувати матрицю миттєвої кореляції Со?у для випадкових прирощень нормального спектру і обчислити дискримінантне число Ot.
Результати експерименту
Проілюструємо роботу алгоритму з уточненням на прикладі динамічно введеного підпису особи №1, для якої було створено нормальний Ж і кореляційний Cor? класифікатори. Ті самі класифікатори розпізнавали дина-
мічно введений підпис особи №2.
Результати досліджень для серії складових у(ґ) динамічно введених підписів в процесі навчання класифікаторів наведено в табл.№1 і №2.
Так, перший рядок табл. 1 містить коефіцієнти трансформант підписів особи №1 (класифікатор створено для підписів цієї особи), а другий рядок - особи №2.
Таблиця 1
і 1 2 3 4 5 6 7 8 9 10
kmp YUi 0.271 0.206 0.306 0.314 0.414 0.231 0.224 0.394 0.238 0.329
kmp Y12/ 0.939 0.854 0.807 0.879 0.874 0.769 0.835 0.774 0.738 0.781
8
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
Радіотехнічні кола та сигнали
Таблиця 2
і 1 2 3 4 5 6 7 8 9 10
6V . У in 11.71 12.31 15.56 14.75 15.86 11.69 15.54 14.89 15.55 12.89
sv . У 12і • 10 3 2.84 3.66 4.19 2.87 4.25 3.81 3.06 4.34 3.56 3.45
З табл. 1 видно, що КТтах (найбільше значення коефіцієнту трансформант при вірній класифікації) становить 0,414, в той час, як для особи №2 найменше значення КТтіп становить 0,738. Це свідчить про малу різницю між КТтіп та К-гтах і про імовірність хибної класифікації. (Зауважимо, що при класифікації за горизонтальною складовою динамічного підпису х(ґ)результати КТті^ КТупах відрізняються не менше ніж в 10 разів [6] і необхідності в переході до класифікатора (11) немає).
Для тих самих підписів у(ґ) дискримінантні числа S1 і 52 відрізняються в сотні разів (табл. 2).
Таким чином, якщо прийняти для нормального класифікатора К-тупах = ОД 3, а К-тті-п = 0,78, то підпис №5 особи №1 і підписи №6, 8, 9 особи №2 попадуть в область невизначеності. Саме в цьому випадку слід використовувати кореляційний класифікатор (11).
Звичайно, можна було б одразу використовувати для розпізнавання образів кореляційний класифікатор. Але, абстрагуючись від трудоємності створення обох класифікаторів, слід відзначити, що трудоємність класифікації класифікатором кореляційним значно більша, ніж нормальним.
Так, кількість трудоємних операцій (множень/ділень) при класифікації кореляційним класифікатором при кількості відліків N становить Кк = 2 А3 + N2, в той час, як для нормального Кн = N2 + N, що може виявитися суттєвим при класифікації великої кількості різноманітних сигналів. До того ж кількість класів становить М. Кожен класифікований сигнал поступає на кожен з М класифікаторів, тому при класифікації
ККк, = MN2 (2N + 1); КНГЛ = MN(N + 1).
Висновки
1. Проведене порівняння кореляційного та нормального класифікаторів в однорідному базисі спектральних складових нормального розподілення встановило зв’язок між обома класифікаторами і показало значно більшу чутливість кореляційного класифікатора.
2. Кореляційний класифікатор вимагає значно більшого числа трудоємних операцій при його створенні і навчанні, ніж нормальний класифікатор.
3. Класифікація кореляційним класифікатором теж вимагає виконання значно більшого числа трудоємних операцій, ніж нормальний, що може бути суттєвим при класифікації великої кількості сигналів.
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
9
Радіотехнічні кола і сигнали
4. При застосуванні нормального класифікатора слід (в процесі його створення і навчання) визначити область його застосування, тобто вид ефективно класифікованих таким класифікатором сигналів, можливість отримання додатніх сигналів того ж ансамбля і ціну помилки.
Література
1. Рибін О.І., Ніжебецька Ю.Х. Нормальне дискретне ортогональне перетворення // Вісник НТУУ «КПІ». Сер. Радіотехніка. Радіоапаратобудування. - 2008. №38. - С.8-15.
2. Ніжебецька Ю.Х., Рибін О.І., Ткачук А.П., Шарпан О.Б. Нормальне дискретне перетворення сигналу довільної форми // Наукові вісті НТУУ «КПІ». 2008. - №4. -С.34-40.
3. Рибін О.І., Ніжебецька Ю.Х. Алгоритм формування матричного оператора дискретного нормального перетворення // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2008. - №37. - С.17-27.
4. Рибін О.І., Ніжебецька Ю.Х., Рибіна І.О. Погоджена фільтрація: класичний лінійний та нормальний фільтри // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2010. - №41. - С.5-12.
5. Ніжебецька Ю.Х., Рибіна І.О., Якубенко О.А. Комплексне нормальне ортогональне перетворення // Вісник НТУУ «КПІ». Сер. Радіотехніка. Радіоапаратобудування. -
2009. - №38. - С.5-11.
6. Рибін О.І., Ніжебецька Ю.Х., Луцків А.М. Аутентифікація особи за динамічно введеним підписом з використанням нормального перетворення // Вісник НТУУ «КПІ».
- Сер. Радіотехніка. Радіоапаратобудування. - 2010. - №40. - С.28-30.
7. Рыбин А.И., Нижебецкая Ю.Х. Анализ подобия и различия образов с использованием нормального ортогонального преобразования // Радиоэлектроника. - №3. -
2010. - С.58-64. (Изв. высш. учеб. заведений).
8. Ніжебецька Ю.Х., Пляцко Н.С., Рибін О.І. Класифікація стану судинної системи за графоелементами пульсової хвилі // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2008. - №36. - С.104-108.
9. Рибіна І.О., Кузьменко О.М., Ніжебецька Ю.Х., Вівчарик О.Я. Аналіз подібності і розбіжності реакцій лінійної системи до еталонного сигналу за допомогою нормального перетворення // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування.
- 2010. - №41. - С.25-29.
10. Рибін О.І., Мельник А.Д. Розпізнавання голосних звуків «а», «о», «у», «е» української мови // Наукові вісті НТУУ «КПІ». - 2009. - №1. - С.20-25.
11. Рибін О.І., Мельник А.Д. Алгоритм класифікації звукових сигналів // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2008. - №36. - С.5-9.
12. Ніжебецька Ю.Х., Рибін О.І., Шарпан О.Б. Класифікація сигналів в базисі ортогональних перетворень кореляційної матриці // Вісник ЖДТУ. - 2008. - №2 - С.85-89.
13. Рибін О.І., Кузьменко О.М. Задача аутентифікації особи за динамічно введеним підписом при наявності адитивного шуму // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2010. - №40. - С.16-20.
14. Кузьменко О.М., Рибін О.І. Погоджена фільтрація шуканого сигналу з пачки детермінованих сигналів різної форми // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2010. - №41. - С.29-33.
15. Кузьменко О.М., Ніжебецька Ю.Х., Рибіна І.О. Застосування кореляційної матриці до розв’язання задач аутентифікації особи за динамічно введеним підписом // Вісник НТУУ «КПІ». - Сер. Радіотехніка. Радіоапаратобудування. - 2009. - №39. - С.5-8.
16. Абакумов В.Г., Рибін О.І., Сватош Й. Біомедичні сигнали. Генезис, обробка, моніторинг. - К.: Нора-прінт, 2001. - 516с.
10
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
Радіотехнічні кола та сигнали
17. Рибін О.І., Сакалош Т.В., Шарпан О.Б. Аналіз пульсограм на базі процедури нормалізації ортогональних перетворень REX/Шаукові вісті НТУУ «КПІ». 2005. №4. С.29-33.
18. Рыбин А.И., Шарпан О.Б., Григоренко Е.Г., Сакалош Т.В. Коэффициенты трансформант нормализованных ортогональных преобразований и диагностика пульсограмм // Вісник НТУУ «КПІ». - Сер. Приладобудування. - 2005. - №30. - С.148-156.
Рибін О.І., Рибіна І.О., Ніжебецька Ю.Х. Порівняння методів нормальної фільтрації та ортогонального розкладу кореляційної матриці. Запропоновано алгоритм розпізнавання образу на базі нормального перетворення з уточненням класифікації методом максимальної правдоподібності на базі кореляційної матриці, побудованої в базисі трансформант нормального перетворення.
Ключові слова: нормальне перетворення, кореляційна матриця, критерій максимальної правдоподібноті.
Рыбин А.И., Рыбина И.А., Нижебецкая Ю.Х.Сравнение методов нормальной фильтрации и ортогонального разложения корреляционной матрицы. Предложен алгоритм распознавания образа на базе нормального преобразования с уточнением классификации методом максимального правдоподобия на базе корреляционной матрицы, построенной в базисе трансформант нормального преобразования.
Ключевые слова: нормальное преобразование, корреляционная матрица, критерий максимальной правдоподобности.
Rybin O.I., Rybina I.O., Nizhebetska Yu.H.Comparison of methods of normal filtration and ortogonal decomposition of cross-correlation matrix. The algorithm of recognition of appearance is offered on the base of normal transformation with withholding of classification of maximal plausibility a method on the base of cross-correlation matrix, built in the base of transforms of normal transformation.
Keywords: normal transformation, cross-correlation matrix, criterion of maximal
plausibility.
Вісник Національного технічного університету України "КПІ" Серія — Радіотехніка. Радіоапаратобудування.-2010.-№42
11
