Модель логического вывода на основе нечеткой линейной регрессии Текст научной статьи по специальности «Компьютерные и информационные науки»

Сравнение результатов оценки кредитоспособности

' ——Результаты Используемые подходы —— Количество принятых решений

Одобрить заявку Отклонить заявку

Рекомендации экспертной системы 131 19

Решения кредитного комитета 126 24

пени соответствия результатов работы экспертной системы решаемой задаче. В таблице дана сравнительная характеристика результатов ее работы с решением кредитного комитета (на основе данных кредитной истории 150 заемщиков).

Из таблицы видно, что в большинстве случаев рекомендации экспертной системы совпадали с решениями кредитного комитета, что указывает на ее эффективность.

Таким образом, апробация экспертной системы в кредитном учреждении показала возможность практического использования инвариант-

СПИСОКЛ

1. Глова, В.И. Система нечеткого моделирования для решения задач повышения нефтедобычи [Текст]/ В.И. Глова, И.В. Аникин, М.Р. Шагиахметов//Вестник КГТУ им. А.Н. Туполева.-2001.-№ 3.-С. 59-61.

2. Загоруйко, Н.Г. Прикладные методы анализа данных и знаний. [Текст]/Н.Г. Загоруйко.-Новосибирск: Изд-во Ин-та математики, 1999.-270 с.

3. Катасёв, А.С. Нейронечеткая модель и программный комплекс формирования баз знаний экспертных систем [Текст]/А.С. Катасёв//Дис. ... канд. техн. наук.-Казань, 2006.-20 с.

4. Катасёв, А.С. Интеллектуальная информационная система определения кредитоспособности физических лиц [Текст]/А.С. Катасёв, Р.И. Насыров// Информационные технологии в системе социально-экономической безопасности России и ее регионов:

ной модели для представления экспертных знаний и эффективной реализации процедуры нечеткого логического вывода.

Перспективной задачей, расширяющей возможности предложенной модели и обобщающей результаты проведенного исследования, видится разработка инструментального средства для автоматизированного формирования баз знаний экспертных систем на основе нечеткой нейронной сети [3]. Данный подход в дальнейшем планируется использовать при построении интеллектуальных систем нового поколения - партнерских экспертных систем.

Сб. тр. II Всерос. науч. конф.-Казань, 2009. -С. 238-242.

5. Муромцев, Д.И. Введение в технологию экспертных систем [Текст]/Д.И. Муромцев.-СПб.: СПб ГУ ИТМО, 2005.-93 с.

6. Реброва, О.Ю. Статистический анализ медицинских данных. Применение пакета прикладных программ 8ТАШТГСА [Текст]/О.Ю. Реброва.-М.: Медиа Сфера, 2003.-312 с.

7. Шагиахметов, М.Р. Модели и комплекс программ многокритериального принятия решений в условиях неопределенности в задачах нефтедобычи [Текст]/М.Р.Шагиахметов//Дис. ... канд. техн. наук. -Казань, 2004.-21 с.

8. Кредитование физических лиц [Электронный ресурс] http://www.basegroup.ru/solutions/case/credit/

УДК 681.3

И.П. Зиновьев, И.В. Аникин

МОДЕЛЬ ЛОГИЧЕСКОГО ВЫВОДА НА ОСНОВЕ НЕЧЕТКОЙ ЛИНЕЙНОЙ РЕГРЕССИИ

Активное применение информационных технологий в различных предметных областях привело к росту объемов информации, требующей

анализа. Решение проблем автоматизированной обработки данных, а также поиска в них скрытых закономерностей становится необходимым.

Создаваемые при этом модели и методы могут эффективно применяться при решении задач управления, прогнозирования, принятия решений и многих др. Такие модели и методы должны справляться со следующими трудностями:

слабой формализуемостью предметной области; значительным объемом обрабатываемой информации;

размытыми закономерностями, которым подчиняется информация;

ее неточностью, нечеткостью, качественным характером.

Создание интеллектуальных систем, которые могут работать в условиях вышеперечисленных трудностей, приобретает на сегодняшний день особую актуальность. К подобным интеллектуальным системам можно отнести нечеткие системы, которые используют при решении задач математический аппарат нечеткой логики [1] и модели нечеткого логического вывода.

Система нечеткого вывода определяет некоторую функцию от вектора входных переменных, как правило, нелинейную, и формируется из фаз-зификатора, дефаззификатора, механизма вывода и базы знаний [2], задающей описание отношения между вектором входов х и выходом у в виде продукционных правил следующего вида [2]:

Also {R' : If X1 is A\ And ... AndX is A' Then Y is B'}.

n n -1

(1)

Наиболее популярные на практике модели нечеткого вывода Мамдани [3] и Такаги-Сугено [4] не поддаются единому описанию в рамках формализма нечетких систем, т. к. по-разному трактуют обработку нечетких данных. Модель Мам-дани использует продукционные правила (1), в то время как в системе Такаги-Сугено заключения правил содержат линейные функции от входных аргументов с четкими коэффициентами.

С точки зрения точности аппроксимации, системы Такаги-Сугено превосходят системы Мам-дани, однако возможности языковой интерпретации продукционных правил первых ниже, чем у вторых. Поэтому актуальным представляется построение комбинированной нечеткой модели, использующей, с одной стороны, полностью лингвистические продукционные правила, а, с другой стороны, - уравнения регрессии с нечеткими коэффициентами. Такая гибридная модель (нечеткая регрессионная модель) могла бы сочетать в себе точность моделей Такаги-Сугено и про-

зрачность правил моделей Мамдани. Построение данной нечеткой модели влечет за собой необходимость решения следующих основных задач:

разработки общего вида правил нечеткого вывода, а также обоснованного выбора для нее основных операций - импликации, агрегирования и дефаззификации;

формулировки и доказательства теоремы о том, что предлагаемая нечеткая модель является универсальным аппроксиматором функций;

разработки алгоритма обучения нечеткой регрессионной модели;

проведения экспериментальных исследований для оценки качества работы нечеткой регрессионной модели.

Данная статья посвящена вопросу разработки гибридной модели нечеткого вывода и решению перечисленных выше задач.

Выбор операций нечеткой импликации и дефаззификации для модели нечеткого вывода

Функция нечеткой импликации I(a, b) связывает предпосылки и заключения в продукционных правилах в единое отношение. Отдельные импликации объединены операцией, математически реализующей лингвистическую связку Also [2]. Правила вида (1) считаются классической формой для нечетких систем. Однако Мамдани в работе [3] использовал несколько иную форму:

Else {R' :fX1 is A\ And ...

AndX is a' Then Y is B'}.

nn

Применение связки Else более оправданно, т. к. в механизме приближенных рассуждений мы предполагаем предпосылки правил несовместными. Эта лингвистическая конструкция может быть реализована импликацией Заде

I(a, b) = S(T(a, b), N(a)) (3)

совместно с треугольными нормами как операциями агрегирования. Однако эта импликация принадлежит QL -классу, не удовлетворяющему определению нечеткой импликации [5].

Определение. Функция I :[0;1] х [0;1] ^ [0;1] является нечеткой импликацией, если, и только если она удовлетворяет следующим трем аксиомам:

11) I(0, 0) = I(0, 1) = I(1, 1) = 1, I(1, 0) = 0,

12) I(a, b) > I(c, d) У a < c,

13) I(a, b) < I(a, d) УЬ < d.

(2)

Для решения этой проблемы введем вспомогательную функцию, которую назовем ослабленной треугольной нормой, со следующими свойствами:

г;) г(о, 0) = по, 1) = г(1, 0) = о, t*(1, 1) = 1, (4)

T2*) T*(a + 5, b) < T* (a, b) + 5 V5 > 0, (5)

T3*) T*(a, b) < T*(a, d) Vb < d. (6)

Сформулирована и доказана следующая Лемма 1. Для того чтобы функция

I*(a, b) = T*(a, b) + 1 - a (7)

была нечеткой импликацией, необходимо и достаточно, чтобы функция T* :[0;1] х [0;1] ^ [0;1] удовлетворяла условиям (4)-(6).

Потребуем соблюдения дополнительного условия

T/) T*(a, 0) = 0 Va. (8)

Оно не нарушает условий леммы, и, вместе с этим, многие импликации из классов S и R [5] могут быть получены из (4)-(8) выбором подходящей функции T. Отметим, что выражение (7)

является реализацией импликации (3) при выборе

А ДА

T (a, b) = T * (a, b), S (a, b)=a + b и N (a)=1 - a. Соответственно, применяя импликацию (7) совместно с агрегированием треугольными нормами, мы реализуем лингвистическую конструкцию (2).

При использовании нечетких импликаций, удовлетворяющих аксиомам I1—I3, заключения правил активируются даже в случае несоответствия предпосылок поданным на вход данным. Эта проблема получила название «cause 'n' effect» [6]. Математически она выражается в том, что функция принадлежности выходного нечеткого множества всюду больше нуля, или, другими словами, в возникновении «надграфика» [7]. Так как в основе многих операций дефаззификации лежит интегрирование, появление надграфика делает эти операции недопустимыми. Данную проблему предлагается решить, потребовав от операции дефаззификации выполнения следующих свойств:

У у е (-да; а) цс( у) = const = у =

= min цс( у)

у > а,

У у е (b; +да) цс( у) = const = у =

= min цс( у) ^ у < b,

У у е (-да; а] цс( у) = const = у = = min цс( у) ^ у > а,

(9) (10) (11)

У у е [b; +да) цс( у) = const = у =

= min цс( у) ^ у < b. (12)

Модель нечеткого вывода на основе нечеткой линейной регрессии

Работа предлагаемой гибридной модели нечеткого вывода на основе нечеткой линейной регрессии представлена рисунке. В данной модели продукционные правила имеют вид (13), (14), где с'к - нормальные треугольные нечеткие коэффициенты. Такую модель можно считать гибридной, т. к. ее правила объединяют достоинства моделей Мамдани и Такаги-Сугено.

Фаззификатор преобразует вектор вход-i~ix значений~х = (хх, ..., ~n) в синглтон [4] A = х... х An . Каждое правило на основе уравнения нечеткой регрессии (14), композиционного правила вывода и нечеткой импликации (7) порождает соответствующее нечеткое множество Б1 (15). На основе треугольной нормы, удовлетворяющей свойству (16), производится агрегирование результатов в общее нечеткое множество с (17). Дефаззификатор, удовлетворяющий требованиям (9)-(12), преобразует его в итоговый результат нечеткого вывода у (18):

R1 : If X1 is A\ And ... AndXn is A'n Then Y is B1, (13) В'=С1пхп+... + С'Х1+С10, (14)

H W = У) = ^ W)' (15)

T(a,b)> 0 Va,b> 0, (16)

П

= (17)

у = 0(цс(з;)). (18)

Теорема об аппроксимации и обучение разработанной модели нечеткого вывода

В 1990-х гг. было доказано несколько теорем, показывающих, что при соблюдении некоторых условий нечеткие системы способны приблизить гладкую функцию с любой заданной точностью. Однако общего утверждения подобного рода не существует: в основном эти теоремы распространяются на определенный набор операций фаззифи-кации, импликации, агрегирования и дефаззифика-ции. Для предлагаемой модели нечеткого вывода на основе нечеткой линейной регрессии сформулирована и доказана соответствующая теорема.

Модель нечеткого вывода

Теорема. Пусть и - компактное множество, заданное на множестве X^ Я", g(x) - определенная на и дифференцируемая функция. Тогда Уе > 0 существует система нечеткого вывода Дх), функционирующая согласно (4)-(18), для которой выполняется условие Ухе и|Дх) - g(x)| < е.

Следует отметить, что на практике необходим алгоритмический способ получения продукционных правил, аппроксимирующих таблично-заданные зависимости между входами и выходами. Пусть в обучающую выборку входят элементы (х-7, у), } = 1, М, х■> = (х> , х-"). Каждая из величин хк, у', ] = 1, М, к = 1, п является вещественным числом из интервала [0;1]. Требуется построить нечеткую систему, определенную набором правил (Яг ^ вида (13)-(14), которая минимизирует по всей выборке среднеквадратичное отклонение выходов / (х7) от ожидаемых значений у :

1 M

E = — Т (f (X) - yJ )2.

M j=1

(19)

Данную задачу предлагается решать с помощью генетического алгоритма и линейного программирования [9, 10]. В генетическом алгоритме каждая особь S1 из популяции {Sl }f=1 предлагаемого генетического алгоритма задает нечеткое разбиение пространства входов, а получившиеся в результате п l области определяют левые части правил {R }=1:

R' : If X, is A' And ... AndX is A' Then Y is B',

^ 1 1 n n 7

Bi l = Cil • x + C'-1 • x, + Ql.

n n 110

Разбиение Sl начинается с единичного гиперкуба

rr0,l г 0,l 0,Л г 0.l 0,ln

F ' = [щ' ; V ] x ... x [u„ ; vn ],

u0/ = 0, k=Vn, v°k-! = 1, k=1Тй

в пространстве входов, с которым связан вектор b<« = (b^, ..., b0nl).

Разбиение описывается последователь-

(T>m,hNl -1

ностью {P }m=1 элементарных операции, каждая из которых выбирает одну из полу-

чившихся к настоящему моменту областей

т 1 т 1 т 1 т / т ;

Ь1 1 = [и1 1; у1 1 ] х ... х [и" 1; у" 1 ] со связанным с ней вектором Ь1 ' = (Ь{ ' ,..., Ь'п ' ), индекс координаты пространства к"1,1 и точку /т' ,

г- 1т ' кт

разделяющие Ь ' на «левую» и «правую» подобласти

Ь ' = [и; у1 ,'] х ...[и"'; ",,] х ...х [и" у" ■'],

т ? т у т ? ? т ? т 1 т ^

ЬЯ 1 = и '; ' ]х ...[/"£; ]х ...х [и"'; V" ' Ь

а также ставит им в соответствие вектора индексов

т 1 т 1 т 1 т ? т ? т ?

ь 1 = (Ь ,г,ь^,ь",Ь",+1,..., Ь"'^

■т ) •1 ,' >

т 7 т 7 т 7 -т ? тп ? ... ,

Ь Я ,г = (Ь1 ',ь1" _1, ЬЯ1, Ь1"+1,Ь" 1).

Такая последовательность операций может быть представлена в виде бинарного дерева, листами которого будет областей, которые мы

для удобства обозначим {Ь1,1 , со связанными

с ними векторами {Ь1,1 }1;=1_1.

Операции генетического алгоритма над этими бинарными деревьями определяют итоговое разбиение пространства. При выполнении операции скрещивания генетического алгоритма в каждом из деревьев выбирается по одному узлу, и поддеревья, для которых эти узлы являются корнями, обмениваются. При мутации, если исходный узел является листовым, над ним проводится операция разбиения и создаются два узла-потомка, соответствующие «левой» и «правой» подобластям пространства. Если узел не является листом, то для него возможно удаление поддеревьев этого узла, либо изменение параметров разбиения этого узла.

Из листов {Ь1,1 }1=1 могут быть получены продукционные правила Я'1. Нечеткие множества Ак' в предпосылке и Ск' в заключении задаются функциями принадлежности:

1

1 +

¡,1

77, к = 1,п,

тываются индивидуально для каждого правила на основе его левой части и выборки данных (х7, у7), 7 = 1, М . Для их поиска используется модификация алгоритма нечеткой регрессии Та-нака и введено значение Я-фактора е[0;1]. Для каждого правила Я1,1 и элемента выборки (х7, у7), 7 = 1, М рассчитывается уровень активации правила а1'1'1 = х.хА1,1(х/, х").

Для упрощения вычислений и игнорирования малозначащих для данного правила данных, строится новая выборка:

(*', у})%х = {(*', у1), ] е ЛГп[1; М]: а1" < А,

где А - вещественное число из интервала [0;1].

При подаче на вход правила Я1,1 синглтона в точке х7, центр и ширина нечеткого множества В1,1 согласно уравнению нечеткой регрессии вычисляются следующим образом:

=41 + ; + I,

к=1 к= 1

где и ^^ - соответственно центр и ширина коэффициента СЦ. Потребуем в точке (~7, ~7) соблюдения модифицированного правила Я-фактора:

ИвУ (у) > Н ■ aiJJ.

(20)

Ограничения (20) могут быть переформулированы в виде системы неравенств:

к=1

к=\

(1-Я■ а!'1'1)-

к=1

{\-Н-ац'})\х1\>у>.

к=1

Коэффициенты Ск1,1 находятся решением задачи линейного программирования:

м

к = 1, п, = - ,к = 1,п,

1--77^ 5

\х-<1);1\<^1,к = 0,п,

О,

Iх — й^11 > у?)?,к-0, п,

где параметры и с- центры и ширины коэффициентов нечеткой регрессии С'-1, рассчи-

м

¿=1 .7=1 (21)

4=1

к=\

к=1

(21)

¿=1

чг)? > 0Д = Ои.

После того как найдены параметры нечетких множеств в продукционных правилах, мы можем вычислить значение функции приспособленности генетического алгоритма, определенной на основе (19) и представленной в виде:

г , 1 м I ■ о

Е(Б1) =Е(/1 (х)) = —К/ (х;)-У) • (22)

M

;=i

В результате работы генетического алгоритма строится система правил, определяющих работу нечеткой модели на основе нечеткой линейной регрессии.

Оценка качества работы нечеткой регрессионной модели

Для проверки эффективности разработанного алгоритма обучения, проведен сравнительный анализ предложенной нечеткой регрессионной модели и системы Мамдани-типа, обученной по методу One-Pass, на примере аппроксимации функций f1(x1, x2) = (x1 - 0,5)2 + (x2 - 0,5)2 и

f2 ( X1, Х2 ) =

2

Xi + Xi X'

12

Xi 2 X1X2 + X2 + 2

Данные алгоритма One-Pass использовались для построения девяти нечетких систем Мамдани-типа, использующих в разных комбинациях операции импликации Tm, T Tbp [2] и операции дефаз-зификации Center of Gravity, Middle of Maximum, Matching при мощности разбиения пространств 5 и 10. Построение девяти нечетких регрессионных моделей для аппроксимации функций f и f2 производилось для операций агрегирования Tm, T, T и операций дефаззификации Center of Gravity, Middle of Maximum, Height.

В результате экспериментов получено, что для достижения сравнимой точности аппроксимации на функциях /1 и / системе Мамдани требуется около девяноста продукционных правил, в то время как предложенной системе достаточно не более восьми правил. Проведенные численные эксперименты показали большую точность нечеткой регрессионной модели по сравнению с системами Мамдани-типа.

Предложенная модель нечеткого вывода на основе нечеткой линейной регрессии применялась для формирования диагнозов пациентов с симптомами поясничного остеохондроза. Использовались данные клинического, нейро-ортопедического, рентгенокомпьютерно-томографического обследования 230 женщин в возрасте от 15 до 92 лет и 180 мужчин в возрасте от 16 до 81 года с различными симптомами поясничного остеохондроза на стационарном этапе обострения и в стадии начинающейся ремиссии. Обучение нечеткой модели и обработка данных проводились на базе кафедры реабилитологии и спортивной медицины Казанской государственной медицинской академии под руководством канд. мед. наук, доцента кафедры М.А. Подольской

Разработанный программный комплекс позволил совместно оценить 15 количественных и качественных параметров. Данная нечеткая модель показала высокий процент совпадения оценок с диагнозом опытного эксперта. Процент решений, совпавших с диагнозом врача с ошибкой не более чем в одну градацию качественного параметра, составлял в среднем более 90 % и не опускался ниже 82 % для мужчин и 85 % для женщин. По оценкам экспертов, полученные результаты свидетельствуют о высокой эффективности разработанной системы нечеткого вывода в области прогнозирования тяжести течения муль-тифакториальных заболеваний человека.

СПИСОК ЛИТЕРАТУРЫ

1. Zadeh, L.A. [TeKCT]/L.A. Zadeh, Fuzzy Sets// Information and Control.-1965.-Vol. 8.-P. 338-363.

2. Lee, C.C. Fuzzy Logic in Control Systems: Fuzzy Logic Controller. Part I, II [TeKCT]/C.C. Lee//IEEE Transactions on Systems, Man, and Cybernetics.-1990.-Vol.20. -P. 404-435.

3. Mamdani, E.H. Application of Fuzzy Logic to Approximate Reasoning Using Linguistic Synthesis [TeKCT]/ E.H. Mamdani//IEEE Transactions on Computers.-1977. Vol. 26.-P. 1182-1191.

4. Takagi, T. Fuzzy Identification of Systems and Its Application to Modeling and Control [TeKCT]/T. Takagi , M. Sugeno//IEEE Transactions on Systems, Man and Cybernetics.-1985.-Vol. 15.-P. 116-132.

5. Dubois, D. Fundamentals of Fuzzy Sets [TeKCT]/D. Dubois, H. Prade //The Handbooks of Fuzzy Sets.-2000.-Vol. 7.

6. Mendel, J.M. Fuzzy logic systems for engineering: a tutorial [TeKCT]/J.M. Mendel// Proc. of the IEEE. -March, 1995.-Vol. 3.-P. 345-377.

7. Салахутдинов, Р.З. Системы нечеткого вывода, основанные на аддитивных генераторах [Текст]/РЗ. Салахутдинов, И.П. Зиновьев//Исслед. по информатике. -2007.-Вып. 10.-Казань: Отечество. С. 57-67.

8. Зиновьев, И.П. Усовершенствование системы нечеткого вывода Такаги-Сугено [Текст]/И.П. Зиновьев, И.В. Аникин//Вестник Казанского ГТУ им. А.Н. Туполева.-2009.-№°3.-С. 84-88.

9. Салахутдинов, Р.З. Об одном подходе к построению обобщенных нечетких контроллеров [Текст]/

Р.З. Салахутдинов, И.П. Зиновьев//Системный анализ в проектировании и управлении: Тр. XI Междунар. науч.-практ. конф.-СПб.: Изд-во Политехнического ун-та, 2007.-С. 40-43.

10. Зиновьев, И.П. Извлечение знаний в модели Такаги-Сугено с нечеткой правой частью [Текст]/ И.П. Зиновьев, И.В. Аникин//Междунар. конф. по мягким вычислениями и измерениям: Сб. докл.-СПб.: Изд-во СПБГЭТУ «ЛЭТИ», 2009.-Т. 1.-С. 177-179.

УДК 535.646

Г.Ф. Малыхина, И.А. Со

РАЗРАБОТКА НОВЫХ МОДЕЛЕЙ ЦВЕТОВОСПРИЯТИЯ ЗРИТЕЛЬНОЙ СИСТЕМОЙ ЧЕЛОВЕКА

В цифровом телевидении актуальна задача оценки искажений цветопередачи, возникающих в результате сжатия телевизионных изображений. Необходимы критерии, по которым можно оценить ошибку цветопередачи. Цвет - воспринимаемое человеком ощущение светового потока, поэтому оценка искажений цветности должна основываться на цветовосприятии зрительной системы человека. Цветовые различия обычно выражают в порогах цветоразличения, которые были экспериментально получены рядом авторов (Мак Адам, Браун, Г.Вышецки, Г.Филдер, Стайлс) [1-4], и в целом их результаты согласуются между собой. Однако фундаментальными и наиболее точными считаются данные Мак Адама [1]. Им было измерено 25 так называемых пороговых эллипсов цветоразличения. В пороговом эллипсе границу эллипса составляют цвета, различающиеся на один порог от цвета, соответствующего центру эллипса.

Эллипсы представлены на цветовом графике МКО 1931 (ху) (рис. 1). Для наглядности представления эллипсы увеличены в 10 раз. Форма эллипсов позволяет судить о степени равноконтрастно-сти цветового пространства. В равноконтрастном пространстве расстояние между точками, обозначающими цвета, соответствует величине их различия. Следовательно, в равноконтрастном цветовом пространстве пороговые эллипсы цве-торазличения представляют собой окружности

одинакового радиуса. Разброс формы и размера эллипсов на рис. 1 свидетельствует о неравнокон-трастности пространства ху и, вследствие этого, о невозможности использовать в качестве метрики цветовых различий декартово расстояние в этом пространстве между точками, соответствующими определенным цветам. Задаче нахождения равно-контрастного пространства посвящено множество исследований, в результате которых были

0,0 0,2 0,4 0,6 0,8

Рис. 1. Эллипсы Мак Адама, нанесенные на график МКО 1931 г . Треугольник основных цветов в телевидении