CC BY
80
зовании же механизмов анализа, в основе которых лежат самообучающиеся алгоритмы, такие как нейронные сети, деревья решений и прочее, хорошее качество данных является ключевым требованием. В данной работе был дан один из возможных формализмов этой задачи к предобработке входных сигналов на основании минимизации критерия Липшица для сигмоидных обучающихся нейронных сетей.
СПИСОК ЛИТЕРАТУРЫ
1. Асеев Г Г Логико-алгебраический подход к описанию информационных процессов электронного документооборота / Г. Г. Асеев, Т. Г. Белова // АСУ и приборы автоматики. - 2004. - Вып. 126. - С. 161-167.
2. Асеев Г Г Концепция математической модели информационных потоков электронного взаимодействия в документообороте / Г. Г. Асеев, Т. Г. Белова // Вестник НТУ «ХПИ». - 2003. - № 6. - С. 161-168.
3. Асеев Г Г Электронный документооборот : учеб. / Г Г. Асеев. - К. : Кондор, 2007. - 500 с.
4. Асеев Г Г Методы интеллектуального анализа данных в электронных хранилищах / Г Г Асеев // Бионика интеллекта : науч.-техн. журнал. - 2008. - № 1(70). -С. 28-33.
5. Асеев Г. Г. Проблема обнаружения нового знания в хранилищах данных методами Knowledge Discovery in Databases / Г. Г. Асеев // Вестник НТУ «ХПИ». -№ 19. - С. 62-70.
6. Галушкин А. И. Нейрокомпьютеры и их применение. Кн. 1: Теория нейронных сетей / А. И. Галушкин. -
М. і Изд. предприятие редакции журнала «Радиотехника», 2000. - 354 с.
7. Кохонен Т. Анализ финансовых данных с помощью самоорганизующихся карт / Тейво Кохонен, Гвидо Де-бок. - М. і Альпина, 2001. - 380 с.
8. Корнеев В. В. Базы данных. Интеллектуальная обработка информации / В. В. Корнеев, А. Ф. Гарев, С. В. Васютин, В. В. Райх. - М. і Нолидж, 2000. - 352 с.
9. Царегородцев В. Г. Предобработка обучающей выборки, выборочная константа Липшица и свойства обученных нейронных сетей // Материалы Х Всеросс. семинара «Нейроинформатика и ее приложения» / В. Г. Царегородцев. - Красноярск, 2002. - С. 146-150.
Надійшла 22.Q3.2Q1Q
Асєєв Г. Г.
МЕТОДИ ІНТЕЛЕКТУАЛЬНОЇ ПЕРЕДОБРОБКИ ДАНИХ В ЕЛЕКТРОННИХ СХОВИЩАХ
Подано один з можливих формалізмів задачі передоб-робки вхідних сигналів для сигмоїдних нейронних мереж, що навчаються, на підставі мінімізації критерія Ліпшиця.
Ключові словаі передобробка, нейронна мережа, електронне сховище, константа Ліпшиця, синапс, суматор.
Aseyev G. G.
METHODS OF INTELLIGENT INPUT DATA PRELIMINARY PROCESSING IN DATA WAREHOUSE One of the possible formalisms is presented of the problem of input signals preliminary processing for sigmoidal learnable neural networks on the basis of Lipschitz criterion minimization.
Key words: pre-treatment, neural network, electronic data warehouse, Lipschitz constant, synapse, summator.
УДК519.7: 655.3.022.16
Бодянский Е. В.1, Кулишова Н. Е.2
1Д-р техн. наук, профессор Харьковского национального университета радиоэлектроники 2Канд. техн. наук, доцент Харьковского национального университета радиоэлектроники
СГЛАЖИВАНИЕ ПОМЕХ НА ЦВЕТНЫХ ИЗОБРАЖЕНИЯХ С ПОМОЩЬЮ НЕЙРО-ФАЗЗИ ФИЛЬТРА
Рассмотрена проблема подавления помех на цветных цифровых изображениях. Для решения предложен нейро-фаззи фильтр, который обеспечивает высокое качество фильтрации с сохранением контуров, текстур и плавных тоновых переходов.
Ключевые слова: цветные изображения, вычислительный интеллект, нейро-фаззи
фильтрация, помеха.
ВВЕДЕНИЕ
В структуре полиграфических изданий зачастую значительную долю составляют иллюстрации, кото -рые могут быть получены либо фотографированием, либо создаются с помощью специальных графических пакетов. В настоящее время цифровые или оцифрованные фотографии используются для иллюстраций гораздо чаще, в связи с чем возникает множе-© Бодянский Е. В., Кулишова Н. Е., 2010
ство проблем по подготовке таких изображений к печати [1, 2].
На оцифрованных изображениях, как правило, присутствует шум в виде пятен различного рода [3-5], порождаемых различного рода возмущениями:
- мелкие черные пятна, обусловленные наличием пыли на поверхности. Они встречаются на многих фотографиях. Размеры пятен очень малы, в связи с чем их можно считать точечными объектами;
- пятна от грязи или клякс при попадании на фотографию чернил или другой жидкости;
- пятна, обусловленные химическими реакциями (гидролиз, выделение химических соединений);
- другие виды пятен (отпечатки пальцев, плесень и так далее);
- пятна, возникающие из-за зернистости фотопленки или фотобумаги.
Для сглаживания резких перепадов яркости, которыми и сопровождается присутствие пятен и дефектов на изображении, достаточно часто используют линейные алгоритмы фильтрации [6, 7], которые являются оптимальными при гауссовом распределении сигналов и помех. Реальные изображения, строго говоря, не подчиняются нормальному распределению вероятностей. Поддаваясь локальному гауссову описанию в пределах ограниченных участков, многие реальные изображения в этой связи плохо представляются как глобально гауссовы объекты. Именно это и служит причиной плохой передачи границ при линейной фильтрации.
Эффективным методом для подавления шумов является медианная фильтрация [8], в процессе которой сначала производится сортировка по величине пикселей, попавших в окно фильтра, а затем замена значения опорной точки величиной яркости пикселя, расположенного на медиане этого ряда. В связи с этим медианный фильтр не искажает ступенчатые и линейно изменяющиеся сигналы, сохраняя контуры изображений.
Сглаживающие фильтры, как линейные, так и нелинейные, имеют общий недостаток: подавляя верхние частотные компоненты изображения, они не только уменьшают влияние шума, но и приводят к потере мелких объектов изображения и множества тоновых переходов, которые не являются ступенчатыми. Кроме того, процедура упорядочивания пикселей в пределах окна требует значительных вычислительных затрат даже для небольших по размеру изображений.
Неравномерность изображений приводит к существованию более чем одного типа признаков изображений, которые доносят независимые формы информации зрителю. Хотя вариаций среди разных изображений может быть множество, большое количество изображений можно характеризовать малым числом типов признаков. Они сводятся к гладким областям, текстурам и границам [9]. Гладкие области обычно соответствуют преобладающим площадям изображений, потому что поверхности искусственных или естественных объектов при их регистрации с расстояния всегда рассматриваются как гладкие. В проти-
воположность гладким областям, границы составляют очень малую долю площадей изображений. Тем не менее, большая часть информации об изображении доносится через эти границы. Возникновение текстур всегда свойственно присутствию натуральных объектов в изображении. Учитывая разные свойства упомянутых типов признаков, обычно необходимо придавать пространственную адаптивность системам обработки изображений для получения оптимальных результатов.
1. ПОСТАНОВКА ЗАДАЧИ
Стандартные фильтры, работающие с окном, ориентированы на неизменные характеристики опорного сигнала, они не могут учитывать изменяющиеся локальные характеристики изображений. Их действие не зависит от характера изображения: текстура это или гладкая цветовая область. Для решения подобной проблемы используется фаззи подход непосредственно к обработке пикселей окна.
Пусть, К1 х К2 - многоканальное изображение х:21 ^ 1т, соответствующее двумерной матрице из т компонентов например, х1 = [хл, хп, хт]. Для стандартных цветных ЯвВ изображений обычно т = 3. Компоненты хк, для к = 1, 2, ..., т и I = = 1, 2, ..., К1К2, изображают к-е элементы векторного входного сигнала х. Поэтому каждый многоканальный образец хг- может считаться т-мерным вектором. Под действием некоторого скользящего окна Ж = = {х е 1; I = 1, 2,., }, ограниченного разме-
ром Ыт центр окна х(^ +1)/2 заменяется некоторой функцией местной окрестности. Этот оператор окна скользит над изображением, чтобы воздействовать индивидуально на все пиксели изображения.
Общая форма сглаживающего фильтра, зависящего от изображения, может быть определена как нечеткое взвешенное усреднение входящих векторов в пределах окна [10]:
(N + 1)/2
= /
( Nw
с
= /
л
(1)
где /(•) - нелинейная функция, - веса фильтра, эк-
вивалентные уровням нечеткой функции принадлежности, ассоциированной с входным цветовым вектором х. Можно использовать разные функции для задания меры расстояния в цветовом пространстве между векторами х . Это позволяет формулировать разные критерии обучения для синтеза алгоритмов настройки подобных адаптивных фильтров [11, 12].
Целью данной работы является синтез архитектуры и алгоритма обучения нейро-фаззи фильтра, предназначенного для сглаживания помех различного вида на цветных изображениях с максимальным сохранением контуров, текстур и плавных тоновых переходов.
2. АРХИТЕКТУРА НЕЙРО-ФАЗЗИ ФИЛЬТРА
I"j
J = 1
—с і
w, = 1.
(5)
В четвертом скрытом слое рассчитывается 3т функций консеквента, как правило, линейных (система Та-каги - Сугено - Канга первого порядка [15, 16])
с сч с . n с с
fC(x ) = Pj0 + I PjX
(6)
На рис. 1 приведена архитектура нейро-фаззи фильтра для обработки цветных изображений, являющегося по сути модификацией адаптивной нейро-сетевой системы нечеткого вывода АОТШ [13, 14].
Данная архитектура имеет шесть слоев обработки информации и рецепторный (нулевой) слой, на который поступает входной сигнал в виде матрицы, столбцы которой соответствуют разным цветовым каналам (Я, в, В) обрабатываемого изображения. В результате векторизации этот сигнал преобразуется в вектор с элементами хс, где / = 1, 2,..., п; п + 1,..., 2п; 2п + 1, ..., 3п, С принимает значения Я, в или В, соответствующие различным каналам, а п определяет число одновременно обрабатываемых пикселей (или, иначе, размер окна).
В первом скрытом слое осуществляется фаззифика-
с
ция каждой компоненты входного сигнала х1 с помощью набора функций принадлежности ц,(хс), , = 1, 2,., т, в качестве которых могут быть использованы любые колоколообразные конструкции (треугольные, кубические сплайны, обобщенные функции Гаусса), в простейшем случае - гауссовы функции вида
j xC) = exp
1 с с X - C 2
2 V с о, V J У У
(2)
где с определяет положение центра ,-й функции принадлежности С-го цвета, а о, - ее ширину.
Во втором скрытом слое производится раздельное агрегирование уровней принадлежности входных сигналов по каждому цветовому каналу на основе вычисления нечеткой Г-нормы вида
с
WJC =
П, xC),
(3)
а в третьем реализуется операция нормализации
— С
W, =
WJ
J m п ’
I П, xC)
J = 11=1
(4)
обеспечивающая выполнение стандартного условия
и производится их умножение на нормализованные уровни принадлежности, вычисленные в третьем
— С_гС, ч
слое, в виде , (х).
В пятом скрытом слое, образованном тремя сумматорами, для каждого цветового канала вычисляются отфильтрованные оценки
П, xC)
-с
x =
I wCfC( xC) = I
J=1
m п J J
J=11 П, x‘ )
J = 1l =1
f (xC), (7)
которые в результате операции конкатенации £ в выходном (шестом) слое формируют выход фильтра хс для каждого пикселя обрабатываемого изображения.
Таким образом, рассматриваемая нейро-фаззи система производит фильтрацию цветных изображений, искаженных разного рода возмущениями и помехами.
3. ОБУЧЕНИЕ НЕЙРО-ФАЗЗИ ФИЛЬТРА
Обучение рассматриваемого нейро-фаззи фильтра состоит в нахождении 3(п + 1)т параметров рС1 (, = 1, 2, ..., т; I = 0, 1, ..., п; С = Я, О, В) моделей консеквента (6), обеспечивающих наилучшее в смысле принятого критерия обучения качество обработки изображения.
Переписывая выражение (7) в виде
-с
— С гС / С ч v ' — <-1 <- і v ' *-
WJ fJ (xi ) = IWJ I Pj 0 + I PjXl
J = 1 J = 1
с с
с с
l = 1
_С/ С , С С , , С Сч ,
= W1 (P10+ P11X1 + ... + P1nXn ) +
, —С/ С . С С . . С Сч , ,
+ W2 (P20+ P21X1 + ... + P2nXn ) + ... + , —С/ С , С С , , С Сч
+ Wm(Pm0+ Pm 1X1 + ... + PmnXn ),
(8)
вводя векторы преобразованных входов моделей
ГС, Сч / — С —С С —С С —С —С С —С с
ї (X ) = , w1 Хі , ..., W1 Хп, w2 , w2 X!, ..., w2 Хп, ...,
— С — С С — С С чТ
Wm, wmpmЪ..., wmpmn) и оцениваемых параметров
С , С С С С С С С С ,т
Р = (Рі0, Ріі, ., Ріп, Р20, Р21, ., Р2п, Pm0, Pmn) размерности (п + і) m, можно записать обобщенную модель консеквента С-го цвета в виде
-с CTs-C, C4
X = p f (x ),
(9)
m
l=1
m
l = 1
Рис. 1. Архитектура нейро-фаззи фильтра
которая для к-го пикселя обрабатываемого изображения принимает вид
ХС(к) = РСТїС(хС(к)), к = і, 2,..., N. (і0)
Минимизация стандартного квадратичного критерия обучения
ЕС =
£ (ХС(к) -РСТїС(хС(к)))
(іі)
ведет к обычной оценке наименьших квадратов:
£ f ( (к ))їСТ( ХС ( к))
£ ї (х (к))х (к)
к = і
(і2)
(здесь (•)+ - символ псевдообращения по Муру -Пенроузу), использованной, в частности, в нейро-фаззи системе обработки изображений [16].
Необходимость обработки нестационарных сигналов в реальном времени не позволяет применять пакетный алгоритм (12), в котором все данные учитываются с одинаковыми весами. В этом случае более предпочтительными являются адаптивные алгоритмы с конечной памятью, наиболее популярным из кото -рых является экспоненциально взвешенный рекуррентный метод наименьших квадратов в форме
рС (к+ і) = рс (к) +
+---~/-:Тч"с ^їс(хс(к +1)),
в +/СТ(хС (к + і ))£( к)/С(хС( к + і)Г
Д( к +і) = 1 IД( к) -д<кїК(к+У^Чк+ЫВЮ
в ^ в +їСТ(хС (к + і))Д( к)їС(хС (к +і))
(і3)
где 0 < в < 1 - параметр «забывания» устаревшей информации.
Громоздкость этого алгоритма, а также возможная численная неустойчивость («взрыв параметров») при малых значениях в делают более предпочтительным использование градиентных процедур, в частности, адаптивного алгоритма обучения нейро-фаз-зи сетей [17-19]
рс (к +1) = р с( к) + в-1( к +1)х х (х(к + 1) -рст(к)/с(хС(к + 1)))/с(хС(к + 1)), (14) в(к +1) = рр(к) + \\/с(хс(к +1 ))||2, 0 <в< 1,
устойчивого при любых значениях параметра в и обеспечивающего компромисс между фильтрующими и следящими свойствами. Заметим также, что при в = 0 (14) превращается в оптимальный по быстродействию алгоритм обучения Уидроу - Хоффа, а при в =1 - в процедуру стохастической аппроксимации Гудвина - Рэмеджа - Кэйнесса.
4. РЕЗУЛЬТАТЫ ЭКСПЕРИМЕНТАЛЬНОГО
ИССЛЕДОВАНИЯ
Эффективность предложенного нейро-фаззи фильтра была исследована с помощью 262 х 394 цветного изображения (рис. 2, а). Изображение было искажено мультипликативным шумом (рис. 2, б), для его подавления применены линейный сглаживающий, медианный и нейро-фаззи фильтры. Для всех фильтров выбрано окно размерами 5 х 5 пикселей. Результаты фильтрации показаны на рис. 2, в, г д.
к = і
С
а) б) в) г) д)
Рис. 2. Оригинальное изображение (а), изображение с помехами (б) и результаты фильтрации: линейное сглаживание (в);
медианная фильтрация (г); АОТТБ-фильтрация (д)
Поскольку в данной работе рассматривается обработка изображений на допечатной стадии полиграфического процесса, можно провести визуальную оценку результатов фильтрации. На рис. 2 можно наблюдать, что линейный сглаживающий фильтр сильно искажает изображение, размывая контуры, а при наблюдении всего изображения в целом можно отметить наличие размытых пятен помехи. Медианная фильтрация подавляет помеху, уничтожая при этом и малые детали, и мало заметные плавные тоновые переходы, делая изображение слишком искусственным. Результат применения нейро-фаззи фильтра демонстрирует остаточные проявления помехи при увеличении изображения, однако в целом на изображении эти следы не так заметны по сравнению с линейным сглаживанием. В то же время после ANFIS-фильтрации сохраняются мелкие детали в виде тонких штрихов, которые были потеряны при медианной фильтрации.
ВЫВОДЫ
Предложенный нейро-фаззи фильтр обеспечивает достаточно высокое качество подавления помех на цветных цифровых изображениях, характеризуется высокой скоростью обучения и может найти применение в решении широкого круга практических задач. В частности, фильтр можно использовать при подготовке к полиграфической печати фотографий, сделанных цифровыми фотоаппаратами.
СПИСОК ЛИТЕРАТУРЫ
1. Ализар А. А. Фильтры и эффекты для цифровой фотографии / А. А. Ализар, К. Г. Афанасьев. - СПб. : Питер, 2007. - 144 с.
2. Фрейзер Б. Усиление резкости фотографий в Adobe Photoshop / Б. Фрейзер. - М. : Вильямс, 2007. - 304 с., ил.
3. StancoF. Towards the automated restoration of old photographic prints: A survey/ A. de Polo, G. Ramponi, F. Stanco // IEEE Int. Conf. EUROCON 2003, Ljubljana, Slovenia, Sept. 22-24. - Ljubljana, 2003. - P. 2l3-217.
4. Гладких В. Сканирование фотопленки и динамический диапазон / В. Гладких // DigitalWare. - 2003. -№ 1. - P. 67-71.
5. Варламов А. Д. Исследование и классификация дефектов архивных документов/ С. С. Садыков, А. Д. Варламов // Технологии информационного общества - Интернет и современное общество : труды VII Всеросс. Конференции. - С. Пб. : Изд-во Филологического ф-та СПбГУ, 2004. - С. 119-121.
6. Buades A. A review of image denoising algorithms, with a new one / A. Buades, B. Coll, J. M. Morel // SlAM Multiscale Modeling and Simulation. - 2005. - V. 4. -P. 490-530.
7. Gonzalez R. C. Digital Image Processing, 2nd ed. / R. C. Gonzalez, R. E. Woods. - Prentice Hall, NJ : Upper Side River, 2002. - 616 p.
8. Pitas I. Order statistics in digital image processing / I. Pitas, A. N. Venetsanopoulos // Proc. IEEE. - 1992. -80. - № 12. - Pp. 1892-1919.
9. PerryS. W. Adaptive Image Processing: A Computational Intelligence Perspective / S. W. Perry, H.-S. Wong, L. Guan. - Boca Raton ; London ; New York ; Washington, DC : CRC Press LLC, 2002. - 258 p.
10. Lukac R. Vector filtering for color imaging / R. Lukac, K. N. Plataniotis, A. N. Venetsanopulos, B. Smolka, K. Martin // IEEE Signal Processing Mag. - 2005. - 22. - № 1. -P 74-86.
11. Chatterjee P Clustering-based denoising with locally learned dictionaries / P. Chatterjee, P. Milanfar // IEEE Trans. on Image Processing. - 2009. - 18. - № 7. - P. 1438-1451.
12. Morillas S. Fuzzy peer groups for reducing mixed gaussian impulse noise from color images/ S. Morillas, V. Gre-gori, A. Hervas // IEEE Trans. on Image Processing. -2009. - 18. - № 7. - P. 1452-1466.
13. JangJ.-S. R. Neuro-Fuzzy Modeling: Architectures, Analyses and Applications / J.-S. R. Jang. - Berkeley, CA : University of California, 1992. - 155 p.
14. Jang J.-S. R. Neuro-Fuzzy and Soft Computing: A Computational Approach to Learning and Machine Intelligence / J.-S. R. Jang, C.-T. Sun, E. Mizutani. - Upper Saddle River, NJ : Prentice Hall, 1997. - 614 p.
15. Takagi T. Fuzzy identification of systems and its application to modeling and control / T. Takagi, M. Sugeno // IEEE Trans. on Systems, Man and Cybernetics. - 1985. -15. - P. 116-132.
16. Thanh N.M. Image denoising using adaptive neuro-fuzzy system / N. M. Thanh, M.-S. Chen. // IAENG Int. J. of Applied Mathematics. - 2007. - 36. - P. 1-7.
17. Bodyanskiy Ye. An adaptive learning algorithm for a neu-ro-fuzzy network / Ye. Bodyanskiy, V. Kolodyazhniy, A. Stephan // Computational Intelligence. Theory and Applications / [Ed. By B. Reusch]. - Berlin ; Heidelberg ; New York : Springer, 2001. - P. 68-75.
18. Otto P. A new learning algorithm for a forecasting neuro-fuzzy network / P Otto, Ye. Bodyanskiy, V. Kolodyazhniy / / Integrated Computer-Aided Engineering. - 2003. - 10. -№ 4. - P. 399-409.
19. Digital Color Imaging Handbook / [ed. By G. Sharma]. -Boca Raton ; London ; New York ; Washington DC, 2003. - 764 p.
Надійшла 15.04.2010
Бодянський Є. В., КулішоваН. Є.
ЗГЛАДЖУВАННЯ ЗАВАД НА КОЛЬОРОВИХ ЗОБРАЖЕННЯХ ЗА ДОПОМОГОЮ НЕЙРО-ФАЗЗІ ФІЛЬТРА
Розглянуто проблему заглушення завад на кольорових цифрових зображеннях. Для вирішення проблеми запропоновано нейро-фаззі фільтр, який забезпечує високу якість фільтрації із зберіганням контурів, текстур та плавних тонових переходів.
Ключові слова: кольорові зображення, обчислювальний інтелект, нейро-фаззі фільтрація, завада.
Bodyanskiy Ye. V., Kulishova N. Ye.
COLOR IMAGES DISTURBANCE SMOOTHING USING NEURO-FUZZY FILTER
The problem of color images disturbance smoothing is considered. A neuro-fuzzy filter is proposed for solving the problem. This filter provides high quality of filtration, saving contours, textures and smooth tone gradations.
Кеу words: color images, computational intellect, neuro-fuzzy filtering, disturbance.
