неир01нф0рматика та штелектуальш системи
неИроинформатика
и интеллектуальные системы
ыеикошгокматгсб акб штеьыоект бубтемб
УДК 519. 7:004.8
Е. В. Бодянский, Н. Е. Кулишова
ИНТЕРПОЛИРУЮЩАЯ НЕЙРО-ФАЗЗИ-СЕТЬ ДЛЯ МОДЕЛИРОВАНИЯ ЦВЕТОПЕРЕДАЧИ ПЕЧАТНОЙ СИСТЕМЫ
Предложены архитектура и алгоритм обучения нейро-фаззи системы, предназначенной для решения задачи интерполяции двумерных функций, заданных на произвольно расположенных на плоскости узлах.
ВВЕДЕНИЕ
Высококачественная передача цвета растровой печатью в значительной степени зависит от стабильности размеров растровых точек, так как отклонения этих размеров приводят к искажениям формируемых цветов. Кроме того, известно, что свойства бумаги и особенности динамики работы печатного оборудования также существенно влияют на цвет печатного оттиска. Поэтому принято рассматривать передачу цвета не только в контексте применяемых красителей, но и в совокупности свойств системы «бумага - краска - печатная машина». Наиболее простым и доступным средством исследования цветопередающих свойств подобной системы является печать цветных контрольных шкал и измерение относительной площади растровых точек на их полях. В полиграфической практике информация о площади растровых точек может быть по© Бодянский Е. В., Кулишова Н. Е., 2007
лучена с помощью оценки относительных коэффициентов отражения красочных участков в зависимости от длины волны отраженного света. 0граничением подобного подхода является то, что формирование контрольных шкал с полями, в которых площадь точек отличается на 1 %, будет излишне затратным. Сложившаяся методика сводится к тому, что поля контрольных шкал имеют разницу в площадях растровых точек 5-10 %, а в диапазонах, особенно важных для восприятия цветов, такая разница может составлять 2 %. Однако, контрольные шкалы каждый производитель формирует индивидуально под собственные условия и поэтому возможны ситуации, когда для каких-либо красок в некоторых диапазонах вообще отсутствуют контрольные поля, а в некоторых они расположены с разной густотой. Тем не менее, по оттискам таких шкал нужно получать как можно более полную информацию о формировании различных красочных оттенков без разрывов в разных тоновых диапазонах.
С математической точки зрения эта задача сводится к интерполяции двумерной нелинейной функции достаточно сложного вида на множестве произвольно
Е. В. Бодянский, Н. Е. Кулишова: ИНТЕРПОЛИРУЮЩАЯ НЕЙРО-ФАЗЗИ-СЕТЬ ДЛЯ МОДЕЛИРОВАНИЯ ЦВЕТОПЕРЕДАЧИ ПЕЧАТНОЙ СИСТЕМЫ
заданных на ограниченном участке плоскости узлов, число которых может быть достаточно велико. В общем случае для решения подобной задачи могут быть использованы искусственные нейронные сети, обладающие интерполирующими свойствами, такие, как радиально-базисные сети [1, 2]. Опыт, однако, показал [3, 4], что качество получаемого решения существенным образом зависит от выбора параметров ре-цепторных полей радиально-базисных функций, который осуществляется методом проб и ошибок. Неудачный выбор приводит к возникновению либо колебаний между узлами интерполяции, либо к появлению «дыр» между соседними радиально-базисными нейронами.
Альтернативой искусственным нейронным сетям являются нейро-фаззи системы [5, 6], сочетающие возможности обучаемости нейронных сетей с прозрачностью и интерпретируемостью систем нечеткого вывода. В общем случае нейро-фаззи системы представляют собой нечеткие модели, обучаемые с помощью алгоритмов, принятых в теории нейронных сетей, и использующие вместо многомерных радиально-базисных функций одномерные функции принадлежности, что значительно проще с вычислительной точки зрения.
Среди нейро-фаззи систем наиболее популярна адаптивная нейро-система нечеткого вывода АКЕ18 [7], имеющая многослойную архитектуру с прямой передачей информации, синаптические веса и функции принадлежности которой настраиваются путем последовательной оптимизации некоторого наперед заданного критерия обучения. Основным недостатком АЫЕ1Б и ей подобных систем [5-8] является низкая скорость обучения.
Преодолеть этот недостаток возможно, используя так называемые системы, основанные на памяти [9-11], обучение которых может быть сведено к одноразовой установке центров колоколоообразных функций активации-принадлежности в узлах интерполяции, т. е. фактически за один проход алгоритма обучения. Вместе с тем, вопрос выбора параметров рецепторных полей в этих системах остается открытым.
Целью настоящей работы является синтез нейро-фаззи системы, основанной на памяти, предназначенной для решения задачи двумерной интерполяции по информации, заданной в узлах, произвольным образом расположенных на плоскости, и некритичной к выбору параметров рецепторных полей функций принадлежности.
1 МАТЕМАТИЧЕСКАЯ ПОСТАНОВКА ЗАДАЧИ
Пусть в узлах, произвольно расположенных на плоскости с координатами {х-, у-}, р = 1, 2, ..., I; заданы значения функции (( х-, у- ) = (х, у). Необходимо по-
строить достаточно гладкое приближение Е(х, у) исходной функции, строго совпадающее в узлах {х-, у-} со значениями функции ((х, у) = Е(х-, у-).
2 АРХИТЕКТУРА ИНТЕРПОЛИРУЮЩЕИ
НЕЙРО-ФАЗЗИ СИСТЕМЫ
Архитектура интерполирующей нейро-фаззи системы приведена на рис. 1 и состоит из пяти последовательно соединенных слоев.
Нулевой слой системы является рецепторным и на него подаются преобразованные согласно соотношениям
-> У
У — У min ymax — ymi:
(1)
входные сигналы. Здесь *min> Утт> Xmax> Утах ЯВЛЯЮТСЯ нижними и верхними границами изменения соответствующих координат. Обратное преобразование при этом имеет вид
х = хтахх- хтт( х- 1), у = утаху- уш1п( у- 1) .
Первый скрытый слой состоит из 21 блоков, реализующих функции принадлежности, и выполняет фаз-зификацию входных сигналов. Второй скрытый слой осуществляет агрегирование уровней принадлежности, вычисленных в первом скрытом слое, и состоит из I блоков умножения. Третий скрытый слой - это слой синаптических весов, определяемых в процессе обучения системы. Четвертый слой образован двумя сумматорами и вычисляет суммы выходных сигналов второго и третьего слоев. И, наконец, в пятом (выходном) слое производится нормализация, в результате которой вычисляется выходной сигнал нейро-фаззи системы Е(х, у)).
Как видно, данная архитектура по сути совпадает с архитектурой системы Ванга-Менделя [12, 13], одна-
Рисунок 1 - Интерполирующая нейро-фаззи система
ко принцип ее обучения, рассматриваемый ниже, существенно отличается от обратного распространения ошибок, принятого Дженгом [5, 7, 8], Такаги-Сугено [14], Вангом-Менделем [12, 13] и ставших уже традиционными нейро-фаззи системах.
3 ОБУЧЕНИЕ ИНТЕРПОЛИРУЮЩЕМ
НЕЙРО-ФАЗЗИ СИСТЕМЫ
Поскольку рассматриваемая конструкция относится к системам, основанным на памяти, ее настройка производится с помощью одного прохода алгоритма обучения, что делает ее крайне простой и быстрой.
Предварительно преобразованные на единичный квадрат с помощью соотношений (1) данные обучающей выборки {ху, у у} формируют в первом скрытом слое набор функций принадлежности 1уг (г = 1, 2, ..., I и в общем случае не совпадает с у) так, что их центры определяются точками Ху, у у по принципу «нейроны в точках данных» [15]. Процесс формирования функций принадлежности по координате х иллюстрируется рис. 2.
Здесь необходимо отметить, что если индексы точек у задаются произвольным образом, то индексы функций принадлежности и их центров в процессе формирования упорядочены так, что 0 = сх 1 < сх2 < ... < схг < < ... < сХ1 = 1. Функции принадлежности по координате у формируются аналогичным образом.
В простейшем случае функции принадлежности могут быть приняты треугольными, при этом
1х1 =
ьх2'
Х е [0 сх2],
(2)
-х2
Iхг =
г -1
"х, г х, г -1
,хх е [ сх г -1, сх г];
(3)
-х, г +1'
-, х е [сх^ г, сх, г + 1 ], г = 2, ..., I - 1,
ьх, I - 1
1 - с
х, I - 1
, х е[сх. I - 1 1 ] , (4)
Рисунок 2 - Функции принадлежности интерполирующей нейро-фаззи системы
У-су, I- 1
1 - с
У, I - 1
, У е[с/, I - 1, 1] ,
(7)
хотя возможно использование и иных колоколообраз-ных функций.
После формирования 21 функций принадлежности несложно вновь перейти от упорядоченных индексов г к индексам у, задающим номер конкретного узла интерполяции, что необходимо для последующих расчетов.
После формирования функций принадлежности |ху, ц„,- первого скрытого слоя, в третьем слое происходит установка синаптических весов Шу, которые полагаются равными значениям интерполируемой функции х, у). Заметим, что такой принцип определения весов использован в обобщенной регрессионной нейронной сети Шпехта [10], в основе которой лежат идеи Парзеновских окон [16] и ядерных оценок Надарая-Ватсона [17, 18].
Таким образом, при подаче на вход системы произвольного сигнала х, /у в первом скрытом слое вычисляются уровни принадлежности 1ху( х), |уу( у), у = = 1, 2, ..., I, во втором слое производится их агрегирование путем формирования двумерных фаззи-базис-ных функций
уг
су2 - у „
1у1 = -у— , У е[ су2],
у2
У-с
у, г - 1
сУ су, г -1
, у е [су, г - 1, суг]
су, г +1 - У с,- + -- с-..., У е[
(5)
(6)
-у, г +1 '
' у е [суг' су, г + 1]' г = 2' .••' 1 - 1,
уг
третьем
1у(х, У) = Iх)(х)1уу(У),
вычисляются
(8)
произведения
/у(х, у)1ху(х)|уу(У), четвертый слой вычисляет значе-
ния сигналов
I I
£ x, У)1у(х,у) = £ х)1уу(у), (9)
у = 1 у = 1
|
хп
в
Е. В. Бодянский, H. Е. Кулишова: ИНТЕРПОЛИРУЮЩАЯ НЕЙРО-ФАЗЗИ-СЕТЬ ДЛЯ МОДЕЛИРОВАНИЯ ЦВЕТОПЕРЕДАЧИ ПЕЧАТНОЙ СИСТЕМЫ
Рисунок 3 - Пример интерполяции
£ j х > У )
j = 1
£ hc.j(х№yj(У/) >
j = 1
(10)
и, наконец, в выходном слое рассчитывается интерполированное значение функции
£ fj(х y)^Xj(х)^yj(y)
F( x, y) =
j = 1
£ к*/(х^yj(y)
j = 1
(11)
Процесс функционирования интерполирующей ней-ро-фаззи системы иллюстрируется примером на рис. 3, где в верхней части показаны три узла интерполяции {х.[, у 1}, {х2, у2}, {хз, уз} с известными значениями ((х.[, у1), ((х2, у2), ((хз, уз) и точка с координатами {х?, у?}, в которой необходимо провести интерполяцию.
Проекции точек {х-, у-} на оси х и у расположены так, что х1 < хз < х2 и уз < у2 < у1. В нижней части рисунка эти же узлы, подвергнутые преобразованию (1), обозначены {х 1, у 1}, {х2, у2}, {хз, уз}, {х?, у?} и могут быть расположены либо в вершинах, либо на сторонах единичного квадрата. В данной ситуации архитектура, приведенная на рис. 1, имеет 6 функций принадлежности. С проекциями узлов {х, у-} на оси х, у связываются центры функций принадлежности так, что
сх 1 = х 1 = 0 сх 2 = Х3, схз = х 2 = 1 и су\ = уз = 0, Су2 = у2, суз = у 1 = 1. С каждым из центров, в свою очередь, связываются свои функции принадлежности Н^Ну (Кх1,Кх2,Кхз,^у1,^2,^з), также приведенные на рис. з и описываемые соотношениями (2)-(7). После формирования всех функций принадлежности они могут быть переиндексированы к виду
Vxj' Vyj (ЦХ1' Нх3> ^y3' ^y2' ^y1) • В результате работы системы в точке с координатами {х ?, y ?} будет вычислено значение
£ f( хр yj )Kxj( х ? )^yj( y ?)
F(X?, y?) = -, (12)
£ h—?^yjG?) j = 1
определяемое ближайшими к точке {х ?, y ?} узлами интерполяции.
4 РЕЗУЛЬТАТЫ ЭКСПЕРИМЕНТАЛЬНОГО ИССЛЕДОВАНИЯ
Для исследования интерполирующих свойств нейро-фаззи системы в задаче интерполяции спектральных коэффициентов отражения красок использованы результаты спектрофотометрических измерений коэффициента отражения полиграфической тестовой шкалы. Эта шкала содержит четыре ряда полей, отпечатанных четырьмя красками синтеза, каждое из полей запечатано растровыми точками разных размеров - от 1 до 100 % заполнения относительной площади ячейки. Полям соответствуют следующие значения относительной запечатанной площади: 1 %, 2 %, 3 %, 4 %, 5 %, 10 %, 20 %, 30 %, 40 %, 50 %, 60 %, 70 %, 80 %, 90 %, 92 %, 94 %, 96 %, 98 %, 100 %• Измерения проводятся прибором автоматически в видимом диапазоне излучений, что соответствует длинам волн от 380 до 730 нм. Из результатов измерений случайным образом отброшены 30 % данных.
Проведена интерполяция коэффицента отражения с помощью нейро-фаззи системы. В качестве функций принадлежности выбраны треугольные функции (2)-(7). На рис. 4-7 показаны результаты интерполяции коэффициента отражения для разных красок синте
)
а
1 о а)
в)
Рисунок 4 - Коэффициент отражения голубой краски:
а - исходные данные; б - узловые точки интерполированной поверхности; в - поверхность, интерполированная между узловыми точками
в)
Рисунок 5 - Коэффициент отражения черной краски:
а - исходные данные; б - узловые точки интерполированной поверхности; в - поверхность, интерполированная между узловыми точками
)
а
Е. В. Бодянский, Н. Е. Кулишова: ИНТЕРП0ЛИРУЮЩАЯ НЕЙР0-ФАЗЗИ-СЕТЬ ДЛЯ М0ДЕЛИР0ВАНИЯ ЦВЕТ0ПЕРЕДАЧИ ПЕЧАТН0Й СИСТЕМЫ
ю в)
Рисунок 6 - Коэффициент отражения пурпурной краски:
а - исходные данные; б - узловые точки интерполированной поверхности; в - поверхность, интерполированная между узловыми точками
в)
Рисунок 7 - Коэффициент отражения желтой краски:
а - исходные данные; б - узловые точки интерполированной поверхности; в - поверхность, интерполированная между узловыми точками
Таблица 1 - Точность интерполяции коэффициентов отражения разных красок в узловых точках
Краска Голубая Черная Пурпурная Желтая
Среднеквадратичное отклонение Е 0,0385 0,0475 0,0463 0,0413
была оценена с помощью среднеквадратичного отклонениЯ и приведена в табл. 1.
Поскольку максимальное значение коэффициента отражения составляет 1, точность интерполяции с помощью нейро-фаззи системы не превышает 5 %, что является удовлетворительным для большинства практических задач.
ЗАКЛЮЧЕНИЕ
Предложенная нейро-фаззи система обеспечивает высокое качество интерполяции двумерных функций, заданных на произвольно расположенных на плоскости узлах, проста в численной реализации, характеризуется высокой скоростью обучения и может найти применение в решении широкого круга задач. В частности, вычислительная простота алгоритма позволяет применять его при подготовке цветных изображений к отображению с использованием профилей печатных устройств в реальном времени.
ПЕРЕЧЕНЬ ССЫЛОК
1. Bishop C. M. Neural Networks for Pattern Recognition. -Oxford: Clarendon Press, 1995. - 482 p.
2. Hristev R. M. The ANN Book. - 1998. - 374 p.
3. Sigitani T., ligumi G., Maeda H. Image interpolation for progressive transmission by using radial-basis functions networks // IEEE Trans. on Neural Networks. - 1999. -10. - Pp. 381-390.
4. Кулишова H. E. Интерполяция коэффициентов отражения красок с помощью радиально-базисной искусственной нейронной сети // Бионика интеллекта. -2006. - № 1(64). - С. 105-109.
5. Jang J. - S.R., Sun C. - T., Mizutani E. Neuro-Fuzzy and Soft Computing. - Upper Saddle River, NJ: Prentice Hall, 1997. - 614 p.
6. Cios K. J., Pedrycz W. Neuro-fuzzy algorithms / In: «Handbook on Neural Computation». - Oxford: IOP Publishing and Oxford University Press, 1997. - D1.3:1-D1.3: 7.
7. JangJ. - S.R. ANFIS: Adaptive-Network-based Fuzzy Inference System // IEEE Trans. on Systems, Man and Cybernetics. - 1993. - 23. - Pp. 665-685.
8. JangJ. - S.R., Sun C. - T., Mizutani E. Neuro-fuzzy modeling and control // Proc. IEEE. - 1995. - 83. - Pp. 378-406.
9. Brown M., Harris C. J. Neural networks for modeling and control / In: Ed. by C. J. Harris «Advances in Intellectual Control». - London: Taylor and Francis, 1994. - Pp. 17-55.
10. Specht D. A general regression neural network // IEEE Trans. on Neural Networks. - 1991. - 2. - Pp. 568-576.
11. Wang H., Liu G. P., Harris C. J., Brown M. Advanced Adaptive Control. - Oxford: Pergamon, 1995. - 262 p.
12. Wang L., Mendel J. M. Fuzzy basis functions, universal approximation and orthogonal least squares learning // IEEE Trans. on Neural Networks. - 1992. - 3. - Pp. 807-814.
13. Wang L. - X., Mendel J. M. Generating fuzzy rules by learning from examples // IEEE Trans. on Systems, Man and Cybernetics. - 1992. - 22. - Pp. 1414-1427.
14. Takagi T., Sugeno M. Fuzzy identification of systems and its application to modeling and control // IEEE Trans. on Systems, Man and Cybernetics. - 1985. - 15. - Pp. 116-132.
15. Zahirniak D. R., Chapman R., Rogers S. K., Suter B. W, Kabrisky M., Pyati V. Pattern recognition using radial basis function network // Proc. 6-th Ann. Aerospace Application of AI Conf. - Dayton, OH, 1990. - Pp. 249260.
16. Parzen E. On the estimation of a probability density function and the mode // Ann. Math. Statist. - 1962. - 38. -Pp. 1065-1076.
17. Надарая Э. A. О непараметрических оценках плотности вероятности и регрессии // Теория вероятностей и ее применение. - 1965. - 10. - № 1. - С. 199-203.
18. Friedman J., Hastie J., Tibshirani R. The Elements of Statistical Learning, Data Mining, Inference, and Prediction. - Berlin: Springer, 2003. - 552 p.
Надшшла 22.10.07
Запропоновано арх1тектуру та алгоритм навчання нейро-фазз1 системи, яка призначена для розв'язання задач1 1нтерполяцп двовим1рних функцш, що задан на дов1льно розташованих на площит вузлах.
The architecture and learning algorithm for the neuro-fuzzy system is proposed. This system is aimed for decision of the interpolation task of two-variable functions, that are known in nodes, which are arbitrary placed on the plane.
УДК 004.032.26
Т. В. Киприч, В. И. Дубровин
АНАЛИЗ МОДИФИКАЦИЙ САМООРГАНИЗУЮЩИХСЯ КАРТ КОХОНЕНА ПО КРИТЕРИЯМ РЕГУЛЯРНОСТИ И ТОЧНОСТИ
АППРОКСИМАЦИИ
Рассматривается проблема взаимовлияния регулярности и точности аппроксимации сети среди различных модификаций самоорганизующихся карт Кохонена. Приводится сравнительный анализ данных модификаций по количеству циклов обучения карты, ошибкам квантования и топографического упорядочивания нейронов.
© Киприч Т. В., Дубровин В. И., 2007
ВВЕДЕНИЕ
Построение самоорганизующейся карты Кохонена (СОК), адекватно описывающей исходное многообразие данных, качественно связано со значениями топографической ошибки и погрешности аппроксимации.