УДК 681.3
ИССЛЕДОВАНИЕ АЛГОРИТМА ИДЕНТИФИКАЦИИ
СОСТОЯНИЯ ПОДЗЕМНЫХ ТЕПЛОПРОВОДОВ С ИСПОЛЬЗОВАНИЕМ ЭНТРОПИЙНОГО КРИТЕРИЯ
В. А. Соколов, С.С. Соколова, В. Ф. Рожков
Рассмотрены методические подходы к проблеме обработки информации теп-ловизионного изображения, а также алгоритм функционирования вычислительной подсистемы, который позволяет произвести обнаружение «цели» с минимальной вероятностью ошибочного определения дефектных зон. Сформулированы теоретические положения, в соответствии с которыми степень эффективной работы алгоритма следует проводить, используя универсальный показатель, рассматривающий степень неопределенности при выборе решения - энтропии. Предложенные математические зависимости предлагается использовать для выявления аномальных температурных зон, являющихся следствием дефектов тепловых сетей шахт и рудников при строительстве или монтаже теплопроводов.
Ключевые слова: термографическая диагностика, измерительная система, алгоритм функционирования вычислительной подсистемы, энтропийный критерий, квадратичный критерий близости, аномальные температурные зоны.
Для выявления дефектных участков теплопроводов используется метод термографической диагностики, который основан на анализе структуры и местоположения обследуемого участка системой обработки и последующего анализа тепловизионной информации [0].
Система обработки и регистрации информации тепловизионного наблюдения может использоваться в этом случае для фиксации и анализа информации, описывающей положение поврежденного участка теплопровода («цели») в среде, которая характеризующется однородным фоном. Анализ полученных термограмм проводится с целью выявления аномальных температурных участков тепловых сетей, интерпретации полученных тепловых изображений, оценки площади дефектной зоны и характера ее расположения относительно реперных (бездефектных) участков контроля [2]. По интенсивности и расположению аномальных участков можно судить о степени дефекта. Вместе с тем, определение положения «цели» осложняется наличием аддитивных помех, присущих среде.
Задачи разрабатываемой системы сводятся к обнаружению «цели» в автоматическом режиме, либо указанию «цели» в пределах изображения человеком-оператором, и последующему её сопровождению. Главная задача измерительной системы, это определение геометрических координат «цели» в пространстве [3].
Задача обнаружения дефектного участка теплопровода, являющегося "целью" на тепловизионном изображении, состоит в решении задачи об отнесении накрытого апертурой БЛ участка сигнала Р(х,у), к целевому
классу кг. Класс к^ является элементом некоторого множества К = = 1... . При этом остальные классы предполагается относить
к нецелевым.
События, рассматривающие верное обнаружение «цели» и пропуски «цели», составят в этом случае всю группу событий:
р(кт \кт) + р(кв \кт) = 1, (1)
где р(.) - вероятность возникновения обозначенного события.
При количестве классов N (С )> 2 количестве нецелевых классов
Ыв (С )> 1
Ыв (С)
р(кт \ кт)+ X р\кв,1 \ кт ) = 1, (2)
I=1
где р {кв^ \ кт ) - вероятностное отнесение сигнала к нецелевому классу кв^ под индексом I, в то время как на самом деле его статистика описывается параметрами, соответствующими целевому классу кт.
То же самое относится к группе событий, состоящей из достоверного обнаружения температурного фона и недостоверному сигналу:
р (кв \ к в ) + р (кт \ к в ) = 1. (3)
Для случая, когда Ыв (С) > 1, возможен вариант исхода, заключающийся в принятии решений кв^\кв ■ (/,_/ = 1...ЛГД(С), / ф у), вероятность *в(с) *в(с)
которого равна £ £ р(кв,г \ кв,у).
' =1 У=1,У &
Рассматриваемая вероятность исходов при решении в случае, когда сигнал относится к нецелевому классу:
Ыв (С) ч Ыв (С) ч Ыв (С) Ыв (С) /
X р{кв, \ кв,)+ X р {кт \ кв,)+ X X Р {кв, \ кв,у ) = 1. (4)
I =1 I =1 I =1 у=1,у
Степень эффективности алгоритма, используемого при вынесении решения о принадлежности рассматриваемого участка теплопровода к определенному классу, можно определить величиной вероятностей р(кт \ кт) и р(кв \ кв ). Величина этих вероятностей и степень их близости
к единице позволит сделать вывод об эффективности любого алгоритма принятия решения о возможном отнесении данного участка сигнала Р(л,у), накрытого апертурой SA к целевому классу [4].
Исходы, заключающиеся в верном толковании целевого сигнала кт \ кт и нецелевого - кв \ кв, можно объединить в группу исходов, обеспечивших достоверное решение задачи идентификации состояния наблю-
даемого участка теплопровода. К ошибочным решениям можно отнести исходы противоположные указанным выше.
Оценка определения состояния эффективности работы системы предполагаемой эталонной зоны участка теплопровода заключается в предъявлении измерительной системе сигналов с заранее известными реализациями при параметрах распределения исследуемого класса или же они относятся к классам нецелевым.
Вероятности появления целевого сигнала р (Т) и нецелевого (С)
Р(В)= ^ Р\кв) образуют определенную группу событий, т.е.
I=1
р(кт ) + р(кв) = 1. (5)
Оценку эффективности работы исследуемого алгоритма целесообразно проводить с использованием универсального показателя, рассматривающего степень неопределенности при решении - энтропии [5].
В начале обработки при рассмотрении предусмотренного алгоритма, энтропия составляет
Но = "! Р(кг )-1п(р(кг)), (6)
I=1
где р(кI) - априорная вероятность появления класса к^. Величина Н0 примет максимальное значение, когда
р {к1) = 1/ N (С), (7)Ошибка! Закладка не
определена.
т.е. одинакова вероятность появления каждого класса.
При определении энтропии рассматриваются натуральные логарифмы с основанием е, т.к. логарифмы с принятым основанием 2 легко можно получить из указанных путем умножения их на коэффициент
Для упрощения обозначений выделяются множества классов К = |/ = 1., целевой класс кт, а все нецелевые классы объединяются в один класс кв.
При использовании такого обобщения априорные вероятности появления классов составят
р(кт ) = р(кв ) = 1/2. (8)
В качестве показателя эффективности алгоритма при принятии решения принимается величина энтропии АН, на которую снижается неопределенность при использовании анализируемого алгоритма. Величина АН вычисляется по формуле
АН = Но - НА, (9)
где На - степень неопределенности, оставшаяся после работы с алгоритмом.
Величина На определяется с использованием вероятности верного и ошибочного исходов по следующей математической зависимости:
На =~Ра 1п(РА)~ЯА 1п(яа), (10)
где ра и я а - вероятности верного и ошибочного вариантов работы алгоритма соответственно.
На основании вышеизложенного верным считается исход при кт \ кт и кв \ кв, и вероятность его появления определяется как
ра = ХР(кг \кг)• р(кг), (11)
а вероятность ошибочного исхода
Ял = X Р[ki Ikj)• Рiki)'
(12)
',j V * j
где г, у = {в, т }.
С учетом (7) значение начальной неопределенности будет наибольшим и составит
2
Н
ln
' 1 Л
N(C) 1 N(C)
а вероятности
Рл = Nj^C)Р (k 1 k)
Ял =
NM • (,£ jp ^
(13)
(14)
(15)
Следовательно, остаточная неопределенность
ha =-У p (k I k) • ln [ ^-У p (к I k)
(16)
--^ ■ У Р(к I к, V ln ■ У pik, I к,)
N (C) i„jsii Г J' lN (C) i j0
С учетом (9), (13) и (16) уменьшение энтропии АН составит
1 Г ( ^ Г ^
ш = NTCv XР(к'|к')• ln 2p(к'|к') + Е Р{kt\kj)■ ln £ Р(кк) (17)
Для оценки значения Нл вычисляются значения вероятностей p(kt | к,), i, j = {B,T}.
Р
(18)
Обнаружение сигнала при отнесении его к целевому классу, сводится к принятию случайного решения о соответствии указанного сигнала одному из классов из множества К. В таком случае значения элементов матрицы
Р{кт I кт ) Р(кБ I кт У Р (кт 1 кБ ) Р (кБ 1 кБ \ составят по 0,5 . При этом ^р(к | ^ ) = 1 и ^ р1 kj) = 1.
' г, j V * ]
Для такой системы обнаружения значение АН с учетом (17) составит АН = 0, т.е. при работе полученная система не уменьшает первоначальной неопределенности [6,7].
Таким образом, в случае, если система классификации сигнала всегда срабатывает, верно, т.е.
'1
Р
0
0Л 1
то для нее согласно (17) 1
АН =
* (С)
2 +
Иш
I Р(кг |ку)
х Р(к,I^)■ ш X Рр\кк
г, ];г* ]
г, ];г * ]
V г, ];г * ]
(19)
После проведенного вычисления по указанной математической зависимости становится очевидным то, что АН принимает значение, равное 1, т.е. алгоритм функционирования указанной системы классификации полностью снимает первоначальную неопределенность.
Можно предположить, что статистика анализируемых системой сигналов определяется законом распределения Гаусса [8]. Полученная модель сигналов соответствует модели, приведенной в [9].
В соответствии с этой моделью в качестве основных характеристик сигналов рассматриваются значения математического ожидания Шт и Шб
для целевого и нецелевого класса соответственно, а значение среднеквадратичного отклонения ое, принимается одинаковым для обоих классов.
Вероятным алгоритмом функционирования рассматриваемой системы является разделение на основе порога р (рис.1).
На рис.1: Р - значение анализируемого сигнала; /т (Р) и /Б э (Р)
- плотности распределения значений сигнала для целевого и нецелевого классов.
/ (Р )
/в (Р)
-¿А У-
тв тТ
Рис.1. Распределение уровней яркости отдельных пикселей
^ (а)
I ¡Т,э (Р )
Р
7=Р0
А
(20)Ошибка! За-
Выбор порогового значения Р0 может выполняться на основе одного из трех критериев [10]: критерия Байеса, минимаксного критерия и критерия Неймана - Пирсона.
Выбор критерия основан на достоверности информации об априорных вероятностях появления некоторых объектов и специализированной в этом случае матрицы, содержащей определенные потери, вызванные ошибками классификации.
Следовательно, при классификации с использованием порога значения матрицы Р составят
1 кТ,э (Р )
7=0
N (е)
I ¡в,э (Р ) ''=Р>
кладка не определена.
где ¡г (Р) и Нв (Р) - гистограммы сигнала целевого и нецелевого классов соответственно, Р0 - значение порога, N (а) - количество уровней
квантования анализируемых сигналов.
Рассматриваются крайние положения значений тв и тТ. Первое
характерное положение, это положение, когда тв и тТ находятся на расстоянии, при котором площадь перекрытия гауссианов будет минимальной. (рис. 2, а) Для нормальных законов распределения плотностей вероятности согласно правилу «3 сигма» это расстояние составит
(21)
I ,э (Р)
7=0
т
Т
тв > 2 • 3ае;
Р
Ра
(д)
Е Лт,э(Р1 ЕЬт,э(РН0
г = Р0
Р
г=о
* (д)
Е кВ, э (Р 0 X НВ,э (Р 1
г=0
г=Рп
Порог Р0 в этом случае выстраивается таким образом, что значение
снимаемой неопределенности АЛ ^ 1, т.е. в случае, когда соблюдается условие (21), пороговое разделение сигналов полностью устраняет первоначальную неопределенность и подтверждает целесообразность использования этого метода классификации.
Вторым характерным положением значений Шв и Шт является расположение, когда 0 < шт - шв < 2 • 3ае. При этом возникает определенная «зона перекрытия» этих плотностей распределения яркости. Площадь этой зоны характеризует вероятность ошибочного исхода работы алгоритма. В крайнем положении значений математических ожиданий Шв и Шт (рис. 2, б) для них характерно, что
шт - шв ^ 0. (22)
Р
Р
В этом случае
(д)
Е ^э (Р Н 0,5 Е^э (Рг Н 0,5
г=Р0 г=0
Р0 *{д)
Е НВ,э {Рг 0,5 £ НВ,э {Рг 0,5
г=0
г=Рп
Тогда АЛ ^ 0, и, следовательно, использование порогового разделения в данном случае не является достаточно эффективным.
Л (Р)
f ЛВ,э {Рг )
Л (Р )
а) Шв
Г Лт,э (Р )
Лв,э {Рг )
Р
Ш ,
Рис. 2. Характерные положения распределений при анализе тепловизионных изображений
Общая вероятность ошибочного исхода зависит от размеров зоны перекрытия двух гистограмм. В случае, когда N (С) = 2, вероятность ошибочного исхода Чл работы алгоритма составит
Чл = (р (Г | В) + р (Б | Т ))/2, (23)
таким образом, с учетом (20)
Чл
р0
(24)
N(<2)-!
IЬТ,э (Р )+ I ^в,э (Р )
ч/ =0 /■ =р0 у
Если принять величину среднеквадратичного отклонения ое одинаковой для распределений кв (р) и Ьт ,э (р), то, очевидно, что значение порога Р0 = {тт + тв )/2 будет сводить вероятность ошибки к минималь-
р0
N (е )-1
ной величине. При этом величины ^ИТ,э (р) и ^ Ьв э (р) будут равны,
/ =0
/■=Р0
а с учетом значения р, вероятность Чл составит
р0
Чл =Е Ьт ,э (Р ) = Р'
I =0
тв - тТ
V 2ае у
(25)
где Р* - нормальная функция распределения [Ошибка! Источник ссылки не найден.].
Из значений Р* видно, что при тв - тт ^ 2' 3<^е
Чл = Р
тв - тТ
V 2ае У
^ 0.
а при тв - тТ ^ 0
Чл = Р
тв - тТ
V 2ае J
0,5,
при этом АН ^ 0, что является свидетельством неэффективности порогового разделения при выполнении неравенства (22).
Можно оценить величину снимаемой неопределенности АН для рассмотренного метода классификации по минимуму квадратичного критерия близости [11] и сравнить ее с той же величиной для пороговой классификации.
В связи со случайностью значений элементов гистограммы наблюдаемого сигнала величины критериев Ф^ будут также содержать элемент случайности. При этом вероятностные характеристики рассматриваемого
метода будут зависеть от распределений /^Фк ^ и f |фк (рис.3).
M
Ф,
П' \к)
f (ф k (\к)))
f (ф k ('\>)))
ф k (Л )
у
м
ф
Л'V)
Рис. 3. Статистика для квадратичного критерия близости
гистограмм
Присутствие ненулевых вероятностей ошибочных исходов обуславливается наличием «зоны перекрытия» функций плотностей распределения f k и f к {к^. «Зоной перекрытия» считается такая
зона, в которой значение вероятности рк {к^^ > Фк {к^при условии,
что анализируемый сигнал относится к классу к, является ненулевым.
Итак, исход является ошибочным в случае, когда
к)
>Ф
/^ при условии, что исследуемый сигнал относится к
классу к. Таким образом
р(кв I кт) = р(фт [\т)) > фв [\т))); р(кт I кв) = р(фв(\в)) >фт(\в))),
(26)
где к^к^ - гистограмма реализации сигнала, принадлежащего классу к.
Для нахождения вероятности дА = рк{к^))>фк^рассматриваются факторы, влияющие на выполнение неравенства Фк{к^к))>фк[к{1)). Это неравенство будет выполнено в случае, когда будет иметь место неравенство:
Ф,
Ф,
))<Ф 0;
к)
= ф 0,
т.е.
Р(ф* [\к)) > ф* (Ь(/))) = Р(ф* (Ь(/)) < ф0 ) • Р(ф* [\к)) = ф0 )о. (27)
Согласно свойствам функции плотности распределения вероятности
ф0
р (ф * [\1 ))<ф 0 )= 1/ (ф * [\1))) ЙФ;
—да
Р (Ф * [\к )) = Ф 0 ) = / (ф * [\к))) ЙФ.
С учетом того, что Ф0 окончательное выражение для
примет вид
Ча = Р (Ф * [\к ))>Ф * [\1 ))) =
ж
= 1 / (ф * ))
ф* (ь
I /{ф*МКм
йФ,
Ы •
(28)
Исследования [12,13] показывают, что при большом количестве вычислений величин Ф* ^Ь^*^ и Ф* ^ распределение плотности их вероятностей может быть аппроксимировано нормальным распределением.
Значение интеграла в (28) зависит от разности
М
ф* (Ь(/)) - М ф* ))
М
ф,
(1)
- М
ф
которая составляет 1
(*),
1 - ехр
т - т*
V 2ае У
(29)
График зависимости (29) представлен на Ошибка! Неизвестный аргумент ключа..
Из графика следует, что имеет место горизонтальная асимптота,
расположенная на уровне —. Максимальная разность между значени-
ями математических ожиданий составляет
1
Это объясняется тем,
что при т1 - т* > 6ае (Ошибка! Неизвестный аргумент ключа., а)
/ (Р) • /к (Р) ^ 0 при любом Р, и, следовательно, значение интеграла
!(/(Р)- /к (Р ))2 йР = Я /2 (Р)+/2 (Р у
йР
при указанном условии будет постоянным и составит
а
Ш - Шк
6 а.
Рис. 4. График зависимости (29)
Критерий Фк представляет собой оценку, построенную по
выборке случайных одинаково распределенных величин. В связи с тем, что объем выборки является ограниченным, он также является случайной величиной, но по закону больших чисел степень его случайности должна быть меньше, чем случайность элементов исходной выборки [14]. Поэтому степень случайности величины рассматриваемого критерия будет меньше, чем степень случайности составляющих его элементов.
Рис. 4 показывает, что значение разности
м
Фк 1/(/)
- м
ф* И*)
растет быстрее, чем значение Ш1 - Шк. Из эго-го следует, что площадь зоны перекрытия функций плотностей распределения /|фки /к(к(/с большей скоростью, чем площадь перекрытия функций / (Р) и /к (Р) при увеличении разности величин
Ш - ш
С учетом изложенного выше уменьшается значение интег
ф к IЛк
Это происходит за счет того, что
I /(фк м
аф к [\1)
рала (28). ^ 0 при
любых Фк [/к)), близких к М Фк (/(к)) , а также /|фк 0 при
1
любых Ф* , близких к М Ф* . Таким образом, уменьшается Ча
при использовании алгоритма классификации [15].
Отсюда следует, что энтропийная оценка АН будет иметь большую величину по сравнению с рассмотренным алгоритмом, который основан на пороговом разделении классов.
Таким образом, предложенный энтропийный критерий может быть использован для оценки эффективности алгоритма идентификации состояния наблюдаемой температурной аномалии на участке теплопровода. С использованием этого критерия может быть проведена оценка алгоритма классификации состояния рассматриваемого участка по минимальному значению квадратичного критерия близости.
Предложенные математические зависимости могут быть использованы для выявления аномальных температурных зон, которые могут быть следствием различных дефектов тепловых сетей шахт и рудников при строительстве или монтаже теплопроводов, а также любых феноменов теплового происхождения, которые косвенным образом связаны с разнообразными проблемами энергонагруженного оборудования.
1. Вавилов В. П., Александров А. Н. Инфракрасная термографическая диагностика в строительстве и энергетике. М.: НТФ "Энергопрогресс", 2003. 76 с.
2. Афонин А.В., Таджибаев А.И., Сергеев С.С. Инфракрасная термография в энергетике. Технические средства приема инфракрасных излучений: учеб. пособие. СПб: Изд-во ПЭИПК, 2000. 60 с.
3. Неразрушающий контроль: справочник / под общ. ред. В.В. Клюева. Т.5. Кн.1: В.П. Вавилов. Тепловой контроль. М.: Машиностроение,
4. Анисимов Б.В., Курганов В.Д., Злобин В.К. Распознавание и цифровая обработка изображений: монография. М.: Мир, 2016. 968 с.
5. Волькенштейн М. В. Энтропия и информация. М.: Наука, 1986.
6. Ярославский Л.П. Введение в цифровую обработку изображений М.: ИД «Прогресс», 2015. 614 с.
7. Патрик Е.А. Основы теории распознавания образов. М.: Высш. шк. ,2010. 200 с.
8. Вентцель Е.С., Овчаров Л.А. Теория случайных процессов и её инженерные приложения. М.: Высш. шк., 2000. 383 с.
9. Котов В.В. Распределенные измерения: методы обработки. Тула: Изд-во ТулГУ, 2004. 140 с.
Список литературы
2004.
192 с.
10. Горелик А.Л., Гуревич И.Б., Скрипкин В.А. Современное состояние проблемы распознавания: некоторые аспекты. М.: Радио и связь, 1985. 160 с.
11. Зарипов Р. Г. Новые меры и методы в теории информации. Казань: Изд-во Казан. гос. техн. ун-та, 2005. 364 с.
12. Цыпкин Я. З. Информационная теория идентификации. М.: Наука. Физматлит, 1995. 336 с.
13. Колмогоров А. Н. Теория информации и теория алгоритмов. М.: Наука, 1987. 304 с.
14. Smith S.W. The Scientist and Engineering's Guide to Digital signal Processing. San Diego: California Technical Publishing, 1999. 650 p.
15. Robert M. Gray, Lee D. Davisson. An Introduction to Statistical Signal Processing, Information Systems Laboratory Department of Electrical Engineering Stanford University. Department of Electrical Engineeringand Computer Science University of Maryland, 1999. 444 p.
Соколов Василий Алексеевич, канд. техн. наук, [email protected], Россия, Тула, ООО "Девелопер-Софт",
Соколова Светлана Станиславовна, канд. техн. наук, доц., [email protected], Россия, Тула, Тульский государственный университет,
Рожков Виктор Федорович, канд. техн. наук, доц., [email protected] Россия, Тула, Тульский государственный университет
THE RESEARCH OF USING THE ENTROPY CRITERIA FOR IDENTIFYING THE STATE OF UNDERGROUND PIPELINES
V.A. Sokolov, S.S. Sokolova, V.F. Rozhkov
Methodological approaches to the problem of processing information of a thermal imaging image, an algorithm for the functioning of the computing subsystem is considered, which allows the detection of a "target" with a minimum probability of erroneous determination of defective zones. Theoretical provisions are formulated, in accordance with which it is advisable to evaluate the effectiveness of the algorithm using a universal indicator that characterizes the degree of uncertainty when making a decision - entropy. The expediency of using the entropy criterion when evaluating the algorithm for classifying the state of the scene by the minimum value of the quadratic proximity criterion. The proposed mathematical dependencies are proposed to be used to identify anomalous temperature zones resulting from defects in the thermal networks of mines and mines during the construction or installation of heat pipelines.
Key words: thermographic diagnostics, measuring system, algorithm for the functioning of the computing subsystem, entropy criterion, quadratic proximity criterion, anomalous temperature zones.
Sokolov Vasily Alekseevich, candidate of technical sciences, [email protected], Russia, Tula, «Developer Soft», LLC.
Sokolova Svetlana Stanislavovna, candidate of technical sciences, docent, [email protected], Russia, Tula, Tula State University.
Rozhkov Viktor Fedorovich, candidate of technical sciences, docent, [email protected], Russia, Tula, Tula State University.
Reference
1. Vavilov V. P., Alexandrov A. N. Infrared thermographic diagnostics in construction and energy. M.: NTF "Energoprogress" 2003. 76 p
2. Afonin A.V., Tajibaev A.I., Sergeev S.S. Infrared thermography in energy. Technical means of receiving infrared radiation: studies. Stipend. St. Petersburg: Publishing house of PEIPK, 2000. 60 p.
3. Non-destructive testing. Handbook / under the general editorship of V.V. Klyuev. Vol. 5. Book 1: V.P. Vavilov. Thermal control. Moscow: Mashinostro-i, 2004.
4. Anisimov B.V., Kurgannov V.D., Zlobin V.K. Recognition of hieroglyphic image processing: monograph. M.: Mir, 2016. 968 p.
5. Volkenstein M. V. Entropy and information. M.: Nauka, 1986. 192 p.
6. Yaroslavsky L.P. Introduction to computer image processing - M.: Progress Publishing House, 2015. 614 p.
7. Patrick E.A. Fundamentals of pattern recognition theory. M.: Higher School, 2010. 200 degrees Celsius.
8. Wentzel E.S., Ovcharov L.A. Theory of random processes and its engineering applications. M.: Higher School, 2000. 383 p.
9. Kotov V.V. Distributed measurements: processing methods. Tu-la: TulSU Publishing House, 2004. 140 p.
10. Gorelik A.L., Gurevich I.B., Skripkin V.A. The current state of the recognition problem: some aspects. M.: Radio and Communications, 1985. 160 p.
11. Zaripov R. G. New measures and methods in information theory. Kazan: Publishing house of Kazan State Technical University. Unita, 2005. 364 p.
12. Tsypkin Ya. Z. Information theory of identification. M.: Nauka. Fizmatlit, 1995.
336 p.
13. Kolmogorov A. N. Information theory and theory of algorithms. M.: Nauka, 1987. 304 p.
14. Smith S. U. A scientist's and engineer's guide to digital signal processing. San Diego: California Technical Publishing House, 1999. 650 pages.
15. Robert M. Gray, Lee D. Davisson. Introduction to Statistical Signal Processing, Laboratory of Information Systems, Faculty of Electrical Engineering, Stanford University // Faculty of Electrical Engineering and Computer Science, University of Maryland, 1999. 444p.