НЕКЛАССИЧЕСКИЕ ЛОГИКИ В ЗАДАЧЕ ВЕРИФИКАЦИИ ПРОДУКЦИОННЫХ БАЗ ЗНАНИЙ

Нитежук Марина Сергеевна; Аршинский Леонид Вадимович

УДК 004.89

НЕКЛАССИЧЕСКИЕ ЛОГИКИ В ЗАДАЧЕ ВЕРИФИКАЦИИ ПРОДУКЦИОННЫХ БАЗ ЗНАНИЙ

Нитежук Марина Сергеевна

Старший преподаватель кафедры «Информационные системы и защита информации», e-mail: marino_@mail.ru Аршинский Леонид Вадимович Д.т.н., доцент, e-mail: larsh@mail.ru зав. кафедрой «Информационные системы и защита информации», Иркутский государственный университет путей сообщения, 664074 г. Иркутск, ул. Чернышевского 15,

Аннотация. Работа посвящена обсуждению вопросов применимости неклассических логических исчислений к задаче верификации продукционных баз знаний. Рассмотрены возможности некоторых трёхзначных, четырёхзначных, а также нечётких логик. Показано, что хорошим подходом к верификации является использование логик с векторными семантиками в форме Утр-логик. Основанные на них экспертные системы смогут верифицировать свои БЗ без привлечения дополнительных (и внешних по отношению к ЭС) архитектурных элементов.

Ключевые слова: неклассические логики, логики с векторной семантикой, продукционная база знаний, верификация, экспертные системы.

Цитирование: Нитежук М. С., Аршинский Л. В.. Неклассические логики в задаче верификации продукционных баз знаний // Информационные и математические технологии в науке и управлении. 2020. № 2 (18). С. 36 - 51. DOI: 10.38028/ESI.2020.18.2.003

Введение. Знаниевое моделирование и системы, основанные на знаниях (СОЗ), являются одним из устоявшихся подходов к формализации слабоструктурированных предметных областей. В то же время знаниевые модели, имеющие вид баз знаний (БЗ) экспертных систем (ЭС), особенно логические и продукционные, могут нести в себе артефакты, снижающие их ценность. Появление таких артефактов может быть обусловлено субъективным характером самих моделей, результатом технических ошибок, иными причинами. В любом случае необходимо предусматривать верификацию БЗ, проверяя их на полноту, достоверность, непротиворечивость, или хотя бы уверенно учитывать их с помощью соответствующих процедур. Причем, принимая во внимание большие размеры возможных БЗ, такие проверки желательно проводить в автоматическом или автоматизированном режиме.

Существующие подходы к верификации как правило используют методы и средства, не входящие в список штатных средств ЭС. Во многом это связано с тем, что используемые в них логики не предназначены или малопригодны для решения верификационных задач. Если статическая верификация еще может опираться на внелогические средства, то динамическая, выявляющая аномалии, возникающие в ходе логического вывода, уже тесно связана с

логикой. В работе обсуждается вопрос применения неклассических логик для динамической верификации продукционных БЗ ЭС. Затрагиваются логики и логические семантики Клини, Бочвара, Данна-Беллнапа, нечёткие логики. Делается вывод о перспективности использования для этих задач логик с векторной семантикой в форме УТР-логик, совмещающих в себе особенности нечётких и паранепротиворечивых логик. Обсуждаются особенности применения УТр-логик для динамической верификации БЗ.

Неклассические логические исчисления в проблеме верификации. Не особо преувеличивая, можно сказать, что в основе логики как правило лежит её семантика. Именно она во многом придаёт логике те свойства и качества, ради которых логика создавалось. Выбор семантики определяет решаемый ею круг задач. Понимание этого породило в XX веке целое направление, названное неклассической логикой. Вернее, «неклассическими логиками», так как их количество на сегодняшний день крайне велико.

Анализ применимости различных логик для работы с артефактами продукционных БЗ проведём для трёх типов аномалий: ложность (малой) посылки, её противоречивость и отсутствие информации об истинности (Неопределённость). Импликацию, как ядро продукции, полагаем (строго) истинной, так как заведомо ложные знания в БЗ вряд ли будут вводиться.

Несмотря на общую направленность работы, исследование аномалий начнём с классической логики C2, для чего рассмотрим правило вывода modus ponens (МР):

a,a^b |- b.

Здесь ^ связка импликации, |- отделяет посылки от заключения.

Непригодность С2 для работы с аномалиями обычно связывают с известным фактом:

F(a)[ b

- из лжи следует всё что угодно. Здесь —i символ отрицания. Правда для ЭС это имеет скорее общетеоретический, чем прикладной интерес, поскольку «всё что угодно» машина вывода не получит, интереснее здесь проанализировать таблицу истинности для импликации:

a^b 1 0

1 1 0

0 1 1

Легко заметить, что при ложном а истинность Ь при истинной импликации может быть любой - и 0, и 1. Фактически это означает, что вывод в С2 при ложном антецеденте импликации не даёт точного значения истинности её консеквента. Именно это представляется реальным препятствием для логического вывода при ложности малой посылки.

Другой особенностью С2 является неспособность работать в ситуации противоречивости или логической неопределённости посылок, когда их значение истинности не известно. В С2 отсутствуют значения истинности типа Противоречие и Неопределённость, работа которыми требует расширения логической семантики.

Как правило, все работы по неклассическим логиками так или иначе сводятся к одному: новая логика означает новую семантику, не сводящуюся к классическим Истине и Лжи, но имеющую их частными случаями. Именно расширение множества значений истинности даёт возможность обрабатывать ситуации, выходящие за традиционные (классические) рамки. Соответственно, для решения задачи верификации БЗ целесообразно

обращаться к логикам, способным работать в «экстремальной ситуации» артефактов знаниевой модели в силу своей семантики. Рассмотрим возможности некоторых из них.

О логиках с Противоречием, как дополнительным значением истинности, одним из первых заговорил Н.А. Васильев, который допускал существование противоречий и видел их причину в конфликте информации, поступающей из разных источников [14, 15]. Васильев высказал ряд интересных идей, но не привёл свою логику к символической форме, как это принято сегодня, и применять её для верификации достаточно проблематично.

Интересной с точки зрения верификации логикой является трёхзначная логика Клини K3 [19, 47] с дополнительным значением истинности, трактуемом как «неопределенно», «неизвестно», «неразрешимо». Причиной неразрешимости может стать неразрешимое противоречие, отсутствие сведений для вынесения однозначного заключения и т.п. Алгебраический аппарат логики Клини используется в нечетких логиках и связанных с ней теории нечетких множеств и отдельных разделов нечеткой математики. В частности, традиционные логические связки отрицания, дизъюнкции и конъюнкции в ней задаются как:

М = 1 - И!;

\\а v b!! = maximal ||Ь||);

\\а & b\\ = тш(\\а\\, \\b\\).

Здесь а и b - суждения, ||а|| и ||b\\ - их истинность. Таблица истинности для импликации в К3 выглядит следующим образом:

a^Ь

i / 0

1 1 0

>/2 1 >/2 >/2 0 111 Легко видеть, по аналогии с С2, что ложность малой посылки здесь также приводит к неизвестному значению истинности заключения.

Логика К3 может работать с Неопределенностью. Однако при Неопределённости (неизвестности, неразрешимости) антецедента а импликация истинна только при истинном консеквенте Ь. Но это совпадает со случаем истинного антецедента, что может привести к коллизии. То есть К3 представляется плохим средством выявления таких аномалий.

Логикой «с противоречием» можно считать трёхзначную «логику бессмысленности» Д.А. Бочвара [13]. В ней введено третье значение истинности, которое разными исследователями трактуется как «противоречиво», «антиномично», «парадоксально» [28, 29, 35, 55]. Она тоже обладает свойствами, препятствующими её использованию для работы с аномалиями. Например, связка внешней импликации определяется как:

а^Ь 1 / 0

1 1/0 /111 0 111 Если организовать работу машины вывода так, что она будет способна обрабатывать сразу группу значений истинности, появление группы {0, /, 1} становится индикатором как противоречивости, так и ложности малой посылки. То есть машина вывода не сможет разрешить эти два случая.

Своё представление многозначности предложил в работах [9-12] советский и российский логик К.И.Бахтияров. В основе разработанной им семантики лежит идея о том, что высказывания могут анализироваться с разных аспектов - сторон, мнений, позиций. При

этом каждый аспект влияет на величину истинности, а сама она способна принимать одно из трех значений: Истина «+1», Ложь «-1», Неопределенность «0». В результате истинность суждения представляет собой вектор, компоненты которого принадлежат множеству {-1, 0, +1}. Истинность сложных суждений рассчитывается покомпонентной обработкой векторов. Эта логика позволяет работать с логической неопределённостью и противоречием, но как специальное значение истинности выделена только Неопределённость. Значение Противоречие появляется неявно, когда разные аспекты принимают разные значения истинности, что также неудобно для автоматизированной верификации.

Для работы в условиях информационных проблем интересны так называемые паранепротиворечивые (параконсистентные) и релевантные логики. Достоинство паранепротиворечивых логик заключается в том, что они способны работать с неполной и/или противоречивой информацией. Ясно, что при работе с ПК достаточно типична ситуация внесения, например, в базу данных или базу знаний взаимоисключающих сведений. Если использовать их в ходе классического логического вывода, истинность заключения может быть любой. Паранепротиворечивые логики конструируются так, чтобы избежать подобных коллизий. Одни из первых исследований в это направлении провёл ещё в 50-х годах XX в. Ф.Асеньо [35].

В известном смысле к паранепротиворечивым логикам можно отнести логику К3 и логику Бочвара. Однако паранепротиворечивость, основанная на трёх значениях истинности, ограничена по возможностям, поскольку третье значение может учитывать противоречие, либо истиннозначный провал (логическую неопределённость), но не обе ситуации вместе. Трехзначные логики малопригодны для совместного выявления артефактов неполноты и противоречивости знаний. Единственное, сверх Истины и Лжи, значение истинности не позволяет различать эти два аномальных состояния одновременно. В связи с этим для комплексной верификации больше подходят как минимум четырехзначные логики, среди которых интерес представляет паранепротиворечивая логика Дж.М. Данна с семантикой Данна-Беллнапа [36-38, 42-44]. Она использует множество истинностных значений {Неопределённость, Ложь, Истина, Противоречие}. Здесь Ложь и Истина имеют традиционный смысл, Неопределённость связывается с отсутствием сведений (истиннозначный провал), а Противоречие с наличием сведений как подтверждающих, так и опровергающих суждение (пресыщенная оценка) [32, 33, 36-38]. Одна из трактовок этой семантики связана с концепцией множественности миров: Неопределённость - это отсутствие знания, Ложь - суждение ложно во всех мирах, Истина - оно во всех мирах истинно и Противоречие - ложно в одних и истинно в других мирах [32, 33]. Наконец её можно рассматривать совершенно отвлечённо, как множество всех подмножеств множества {0, 1} (Ложь, Истина): {0, 0, 1, {0,1}} с тем же самым смыслом. Такая интерпретация, в частности, рассматривалась Данном [42-44].

Главным достоинством представленной семантики служит естественная формализация понятий неопределённости и противоречия. Если машина вывода ЭС работает по такой логике, она в принципе способна осуществлять логический вывод при появлении соответствующих артефактов. Если ,артефакт, появившись в посылках, даст о себе знать в ходе вывода, появляется возможность его обнаружить и устранить без использования дополнительных средств. То есть логика Данна в целом позволяет осуществлять

комплексную верификацию БЗ совместно с позиции противоречия и неполноты данных и знаний без включения в состав ЭС дополнительных средств. В частности, с её помощью возможно обнаруживать ситуации обрыва цепочек вывода, например, из-за всегда ложных посылок (следствие становится всегда неопределённым). Однако существенным её недостатком является невозможность работать с промежуточными значениями истинности подобно тому, как с ними работает логика нечёткая. Современное состояние дел в ИИ фактически требует от ЭС способности работать с непрерывными значениями истинности.

В середине 60-х гг XX в. трудами Л. Заде и его последователей были созданы теория нечётких множеств, нечёткая логика, теория нечётких чисел и нечетких отношений, и в целом нечёткая математика [21, 60]. Как известно, истинность суждений в ней (предикаты принадлежности, предикаты отношений и т.п.) выражается числом из интервала [0,1]. Теория нечётких множеств легла в основу специфического механизма вывода, основанного на понятиях нечёткого отношения, фаззификации и дефаззификации. Однако существуют и более простые механизмы нечёткого вывода, где термину приписывается число - степень его истинности, а не распределение /лл(х) на множестве U. Такой взгляд связывают с представлением о «нечётких логиках в узком смысле» [45]. Более простую форму имеет в этом случае и процедура вывода. В качестве примера можно рассмотреть известную технику вывода, предложенную Шортлиффом и Бахананом в ставшей классической экспертной системе (ЭС) MYCIN [56, 57]. Роль истинности в ней играют факторы уверенности, принимающие значения из интервала [-1, 1]. Здесь -1 соответствует точной лжи, а +1 -точной истине. Фактор уверенности атомарного суждения в MYCIN определяется как разность степенью уверенности и степенью недоверия к соответствующему утверждению:

||a|| = Уверенность(а) - Недоверие(а); причем и степень уверенности, и степень недоверия лежат на отрезке [0, 1].

Значения уверенности для конъюнкции и дизъюнкции определяются с помощью операций взятия минимума и максимума коэффициентов образующих суждений, как в логике Клини и нечетких логиках Л. Заде.

Знания в MYCIN представлены в форме продукций, правилом вывода служит МР, а истинность заключения рассчитывается в ходе присоединённого вывода как произведение истинностей посылки и соответствующей продукции:

a, a^b |- b: ||b|| = ||a|H|a^b||.

Неотъемлемой частью такого вывода служит процедура накопления свидетельств, выполняемая по схеме:

||b|| = ||b||i + ||b||2 - ||b||i-||b||2,

если ||b||i > 0 и ||b||2 > 0;

||b|| = l||b||il + |||b||2l - l||b||il • |||b|bl,

если ||b||i < 0 и ||b||2 < 0; и

ll b|| =■

llb ||i +|| b || 2

1 -Ш1П(||| Й|Щ|Й ||2|)'

когда ||Ь||1 и ||Ь||2 имеют разные знаки. Здесь ||Ь||1 - начальное, а ||Ь||2 - полученное на очередном шаге вывода значение коэффициента уверенности (истинность) для Ь; | ... | -модуль. Если ситуация априори неизвестная, берётся значение истинности (степень уверенности) ||Ь||=0. Механизм выглядит привлекательным, но здесь также не удаётся

различить ситуацию, когда сведения об истинности отсутствуют с ситуацией, кода данные противоречивы.

Можно привести и другие примеры.

В принципе, нечеткая логика и её аналоги обладают определёнными возможностями по автоматизированному выявлению артефактов, но в их основе лежит соотношение:

\\а\\ + \Ьа\\ = 1.

Как результат, они, как и упомянутые трёхзначные логики, не различает неполноту и противоречивость. Более перспективной в этом смысле выглядит векторная логика (логика с векторной семантикой), вариант которой - Утр-логика - объединяет в себе свойства паранепротиворечивой и нечёткой логик [3-6].

TF

Верификация с помощью V -логик. Проблема выявления артефактов БЗ может решаться разными способами [1, 2, 16-18, 20, 22-27, 30, 31, 34, 39, 40, 41, 46, 48-54, 58, 59]. Как правило, все они в той или иной форме являются «надстройкой» над соответствующей ЭС. Это связано с тем, что используемые в ЭС логики слабо приспособлены или вовсе не приспособлены для работы с малодостоверными, противоречивыми, слабо обоснованными сведениями. В первую очередь это касается классической логики, вообще не признающей дефицита или противоречивости посылок. Любое суждение в ней истинно либо ложно, иного не дано. Такой взгляд хорош, когда мы имеем дело с идеальными мирами или владеем исчерпывающей информацией. Но в реальных задачах зачастую не так. Принимая те или иные решения, мы вынуждены руководствоваться сведениями, поступающими из разных источников, не проверенной информацией, опираться на ограниченный опыт свой, или других людей. Всё это порождает проблемы применимости классической логики для реальных предметных областей.

Привлекательной для задач верификации является вышеупомянутая логика Данна-Беллнапа, которая способна работать как с обычными - истинными и ложными суждениями, так и с неопределённостью (в смысле дефицита обоснований) и противоречием. Однако общая обстановка в знаниевом моделировании, когда требуется работать не только с безусловно истинными, ложными, необоснованными и противоречивыми фактами и знаниями, но уметь обрабатывать частичную истинность, ложность, неполноту и противоречивость, выводит на передний план для задач верификации логики с векторной семантикой, в которых истинность представляется вектором

\\а\\ = (а1; ...; аг; ...; а"),

где n - число так называемых «аспектов истинности», числовых величин, выражающих степень подкреплённости суждения аргументами определённого класса [3]. При этом на практике достаточно ограничится Утр-логиками, имеющих два аспекта: (Истина, Ложь), а саму верификацию реализовывать как логический вывод над БЗ в этих логиках. Следует уточнить, что речь идёт о динамической верификации. Статическая верификация может осуществляться внелогическими средствами [8].

TF

Рассмотрим процедуру логического вывода в У -логиках. В основе вывода в продукционной модели знаний лежит правило вывода modus ponens, включающее импликацию. В данных логиках рассматривается три сорта импликации [3, 4, 6]:

• формальная, выражаемая, в частности, дизъюнкцией ьа v b;

• нестрогая, связанная с отношениями правдоподобия и доминирования;

• содержательная, в которой истинность присваивается целиком суждению а ^ Ь. В ЭС как правило используется третий вид импликации, так как силу причинно-следственной взаимосвязи задаёт эксперт. Подобная импликация названа содержательной.

Правило modus ponens с участием содержательной импликации для У^-логик в простейшем случае выглядит как [3, 5]:

а, а ^ b |- b: \\b\\ = \\ал/\\ = (а+^/+; а"ФГ). Здесь л - символ конъюнкции; • и Ф - триангулированные (треугольные) норма и ко-норма в инфиксной записи, причем дополнительно к аксиомам этих норм выполняется свойство:

i-x.y = (i-x)e(i-y);

и, соответственно,

1-хФу = (1-х>(1-у).

Через двоеточие показано правило расчета истинности заключения на основе истинностей посылок при (вывод присоединённый).

Выражение ||Ь|| = ||ал1|| = а-Ф1-> определяет наихудшее гарантированное

значение истинности при данных посылках. Более общий случай даётся выражением

||Ь|| = <а+^'+; а"ФГМ1;0>. Здесь ^ означает диапазон значений от (а+^+; а-Ф1-> до (1;0>:

||Ь|| = <[а+^/+,1 ]; [0,а~ФГ] >; Графическое представление вектора истинности показано на рис. 1. В работах [7, 8] изучено, как меняется область ||Ь|| для различных предельных

значений истинности посылок и как аномальные значения истинности влияют на ход вывода.

л п

1

Ь= ||йл/||

Область возможных ||Ь||

Н

И

Рис. 1. Графическое представление вектора истинности ||Ь||.

0

i

Установлено, что:

1. При строго ложном антецеденте, когда его вектор истинности равен (0;1), областью возможных значений истинности консеквента является вся область [0,1]х[0,1].

2. При неопределённом антецеденте, когда его вектор истинности равен (0;0), областью возможных значений истинности консеквента является область, близкая к (0;0).

3. При полностью противоречивом антецеденте, когда его вектор истинности равен (1;1), областью возможных значений истинности консеквента является область, близкая к <1;1).

4. Положение этой области сохраняется, если вывод будет продолжен.

То есть заключение, например, с истинностью [0,1] х [0,1] (вектор истинности принимает интервальное значение <[0,1];[0,1])) порождает цепочку таких же значений вплоть до терминального факта - гипотезы. Аналогично векторы, близкие к <0;0) или <1;1), порождают цепочки таких же значений истинности вплоть до фактов-гипотез. Это позволяет выявлять факт аномалии, анализируя истинность гипотезы, а место появления такой аномалии устанавливать с помощью объяснительного компонента. Иначе говоря, использование Утр-логик при разработке ЭС может способствовать выявлению соответствующих артефактов за счет штатных средств ЭС: машины вывода и объяснительного компонента, без использования дополнительных составляющих.

Заключение. Таким образом, можно сделать вывод, что применение Утр-логик при проектировании ЭС с продукционной БЗ даёт возможность выявить ряд существенных аномалий БЗ средствами самой ЭС без привлечения дополнительных архитектурных элементов.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

СПИСОК ЛИТЕРАТУРЫ

1. Андреев А.М., Березкин Д.В., Симаков К.В. Особенности проектирования модели и онтологии предметной области для поиска противоречий в правовых электронных библиотеках. Режим доступа: http://inteltec.ru/publish/articles/textan/ RCDL2004.shtml.

2. Аршинский В.Л., Проскуряков Д.П. Применение онтологий и рассуждения по прецедентам для обработки контекста в событийном моделировании в исследованиях энергетики // Современные технологии. Системный анализ. Моделирование. 2016. № 4 (52). С. 94-i00.

3. Аршинский Л.В. Методы обработки нестрогих высказываний. Иркутск: Изд-во Восточно-Сибирского института МВД России. 1998. 40 с.

4. Аршинский Л.В. Многозначные логики с векторной семантикой. Деп. в ВИНИТИ 13.02.03 №281-В2003. 46 с.

5. Аршинский Л.В. Содержательный и формальный выводы в логиках с векторной семантикой // Автоматика и телемеханика. 2007. № 1. С. 153-i62.

6. Аршинский Л.В. Векторные логики: основания, концепции, модели. Иркутск: Изд-во Иркутского университета. 2007.

7. Аршинский Л.В. Логики с векторной семантикой как средство верификации баз знаний / Аршинский Л.В., А.А. Ермаков, М.С. Нитежук // Онтология проектирования. 2019. Т. 9, № 4(34). С. 5i0-52i. DOI: i0.i8287/2223-9537-20i9-9-4-5i0-52i.

8. Аршинский Л.В. Комплексная верификация продукционных баз знаний с использованием VTF-логик / Аршинский Л.В., А.А. Ермаков, М.С. Нитежук //

Онтология проектирования. 2020. Т. 10, № 1(35). С. 112-120. Б01: 10.18287/22239537-2020-10-1-112-120.

9. Бахтияров К.И. Об одном подходе к формализации парадоксальных ситуаций // Философские науки. №1. 1976. С. 52-62.

10. Бахтияров К.И. Многоаспектный подход в логике: дисс. д.ф.н. 09.00.07 «Логика». -Москва: МГУ. 1989.

11. Бахтияров К.И. Компьютеризация логики // Философские науки. № 9. 1990. С.117-122.

12. Бахтияров К.И. Логика с точки зрения информатики: бестселлер в духе Льюиса Кэрролла (12 этюдов). - М.: Едиториал УРСС. 2002. 128 с.

13. Бочвар Д.А. Об одном трехзначном исчислении и его применении к анализу парадоксов классического расширенного функционального исчисления // Математический сборник. Т. 4. № 2. 1938. С.287-308.

14. Васильев Н.А. О частных суждениях, о треугольнике противоположностей, о законе исключенного четвертого. Казань. 1910.

15. Васильев Н.А. Воображаемая логика. Избранные труды. М.: Наука. 1989. 264 с.

16. Долина О.С. Разработка метода тестирования продукционных баз знаний экспертных систем с учетом ошибок типа «забывание об исключении»: диссертация ... кандидата технических наук: 05.13.14. Саратов. 1999. 174 с.

17. Долинина О.Н. Классификация ошибок в базах знаний экспертных систем // Вестник СГТУ. 2010. № 4 (50). Вып. 2. С. 125-130.

18. Иванов А.С. Математические модели и алгоритмы функционирования продукционных баз знаний: диссертация ... кандидата физико-математических наук: 05.13.18. Саратов. 2008. 117 с.

19. Карпенко, А.С. Многозначные логики / А.С. Карпенко. М.: Наука. 1997. 223 с.

20. Логунова, Е.А. Обзор подходов к разрешению недостатков продукционной базы знаний системы логического вывода / Е.А. Логунова // Современные наукоемкие технологии. 2015. № 9. С. 46-48.

21. Нечеткая логика в моделях управления и искусственного интеллекта / под ред. Д.А. Поспелова. М.: Наука. Гл. ред. физ.-мат. лит.. 1986. 312 с.

22. Нитежук М.С. Верификация и поиск противоречий в базах знаний интеллектуальных систем [Электронный ресурс] / М.С. Нитежук // Молодая наука Сибири: электрон. науч. журн. 2018. №2. Режим доступа: ЬИр://тпулгцир$.ги/1:ота/22-2018, свободный. - Загл. с экрана. - Яз. рус., англ. (дата обращения: 24.02.2020).

23. Поспелова Л.Я., Чуканова О.В. Поиск противоречий в продукционных базах знаний. Режим доступа: http://www.vmest.щ/nuda/poisk-protivorechii-v-produkcionnih-bazah-2пат1/тат.Ь1т1.

24. Пронина И.Г. Методы и инструментальные средства поддержки продукционных баз знаний, содержащих правила с интервальными значениями характеристик в предикатах: диссертация ... кандидата технических наук: 05.13.11. М.. 1994. 160 с.

25. Проскуряков Д.П. Поиск противоречий с помощью стратегии управления продукциями на основе онтологии предметной области // Труды XIX Байкальской Всероссийской конференции «Информационные и математические технологии в науке и управлении». Ч. III. Иркутск: ИСЭМ СО РАН. 2014. С. 166-170.

26. Проскуряков Д.П. Управление разрешением конфликтов в продукционных экспертных системах // Вестник Иркутского государственного технического университета. 2015. № 8. С. 47-5i.

27. Проскуряков Д.П. Интеграция онтологического моделирования и рассуждений по прецедентам для обработки контекста в исследованиях энергетической безопасности // Вестник Иркутского государственного технического университета. 2017. том 21 № 4(i23). С. 90-99.

28. Розоноэр Л.И. О выявлении противоречий в формальных теориях. I. // Автоматика и телемеханика. № 6. 1983. С.113-!24.

29. Розоноэр Л.И. О выявлении противоречий в формальных теориях. II. // Автоматика и телемеханика. № 7. 1983. С.97-Ю4.

30. Рыбина Г.В., Смирнов В.В. Особенности выявления статических аномалий в базах знаний, содержащих отдельные виды НЕ-факторов // 3 Международный научный и практический семинар «Интегрированные модели и мягкие вычисления в искусственном интеллекте. М.: Физматлит. 2005. С 358-363.

31. Смирнов, В.В. Методы и средства верификации баз знаний в интегрированных экспертных системах: дис. ... канд. техн. наук: 05.13.11, Москва. 2006. 180 с.

32. Смирнова Е.Д. Логика и философия. М.: «Российская политическая энциклопедия» (РОССПЭН). 1996. 304 с.

33. Смирнова Е.Д. Вопросы семантики паранепротиворечивых логик // Online Journal "Logical Studies". № 2. i999. Режим оступа: http://www.logic.ru/LogStud.

34. Antoniou, G. Verification and Validation of Knowledge-Based Systems. Report on Two i997 Events / G. Antoniou, F. van Harmelen, R. Plant, J. Vanthienen // AI Magazine: Workshop Report. 1998. V.19. № 3. pp. 123-i26.

35. Asenjo F.G. La idea de un calculo de antinomias // Seminario Matematico. La РЫа. i954

36. Belnap N. A useful four-valued logic // J.M.Dunn and G.Epstein (eds.). Modern Uses of Multiple-Valued Logic. - Dordrecht: D. Reidel Publish. Co. i977. Рр. 8-37.

37. Belnap N. How a computer should think // G. Ryle (ed.). Contemporary Aspects of Philosophy. - Stocksfield: Oriel Press Ltd., i977. Рр. 30-55.

38. Belnap N.D. A formal analysis of entailment / Technical Rep. - Yale Univ., i960. - N 7.

39. Benbasat, I. A framework for the validation of knowledge acquisition / I Benbasat, J. S. Dhaliwal, // Knowledge Acquisition. i989. i. Рp. 2i5-233.

40. Bindilatti, A. de A. Verification and validation of knowledge bases using test cases generated by restriction rules / A. de A. Bindilatti, A.E.A da Silva // International Journal of Artificial Intelligence and Expert Systems (IJAE). 20i2. V. 3. Issue 4. Рp. ii7-i25.

41. Davis R. Applications of Meta Level Knowledge to the Construction, Maintenance, and Use of Large Knowledge Bases. Dept of Computer Science, Stanford Univ.. i976. 29i p. STAN-CS-76-552a.

42. Dunn J.M. Algebra of Intensional Logics. Doctoral Dissertation University of Pittsburg, Ann Arbor. i966.

43. Dunn J.M. Intuitive semantics for first-degree entailment and "coupled trees" // Philosophical Studies.Vol. 29. i976. Pр.149-158.

44. Dunn J.M. Relevant Logic and Entailment // Handbook of Philosophical Logic. Vol. III: Alternatives to Classical Logic / D.Gabbay and Guenthner (eds.). - Dordrecht: D.Reidel Publishing Company. 1986. Pp.117-224

45. Gottwald, S. Treatise on Many-Valued Logics / S. Gottwald. Leipzig. 2000. 604 p.

46. Hamilton, D. State-of-the-practice in knowledge-based system verification and validation / D. Hamilton, K. Kelley, C. Culbert // Expert Systems with Applications. 1991. 3. Pp. 403410.

47. Kleene S.C. On a notation for ordinal numbers // The Journal of Symbolic Logic. Vol.3. 1938. Pp..150-155

48. Laurent, J-P. Proposals for a valid terminology in KBS validation. In B. Neuman, Ed. // Proceedings of the 10th European Conference on Artificial Intelligence (ECAI-92). 1992. Pp. 829-834

49. Marcot B. Testing your knowledge base // AI Expert. August. 1987. Pp. 43-47.

50. Meseguer P., Preece A. Verification and validation of knowledge-based systems with formal specifications // The Knowledge Engineering Review. 1995, v10, № 4. Pp.. 331343. DOI: 10.1017/S0269888900007542

51. Nguyen, T.A. et al. Knowledge Base Verification // AI Magazine. 1987. V. 8. № 2. Pp. 69-75.

52. O'Leary D. Design, development and validation of expert systems: A survey of developers. In M. Ayel & J-P. Laurent, Eds. // Validation, Verification and Test of Knowledge-Based Systems. 1991. Pp. 3-20.

53. Preece A.D., Shinghal R., Batarekh A. Verifying expert systems: a logical framework and a practical tool // Expert systems with applications. 1992. Vol. 5. Pp.. 421-436.

54. Preece A.D. Evaluation of Verification Tools for Knowledge-Based Systems / A.D Preece, S. Talbot, L. Vignollet // Int. J. Hum.-Comput. Stud. 1997. V. 47. Pp. 629-658.

55. Prest G. The logic of paradox // Journal of Philosophical Logic. Vol. 8. № 2. 1979.

56. Shortliffe E.H., Buchanan B.G. A model of inexact reasoning in medicine // Mathematical Bioscience. 1975. 23. Pp.351-379.

57. Shortliffe E.H. Computer-Based Medical Consultation: MYCIN. - N.Y.: American Elsevier. 1976.

58. Tepandi J. Comparison of Expert System Verification Criteria: Redundancy // Proc. ECAI 90 Conf. Stockholm. 1990. Pp. 49-62.

59. Vermesan A.A. and Coenen F. (eds.) Validation and Verification of Knowledge Based System. Springer Science + Business Media, NY. 1999. DOI: 10/1007/978-1-4757-6916-6.

60. Zadeh L.A. Fuzzy sets // Information and Control. 1965. № 8 Pp. 338-353.

UDK 004.89

NONCLASSICAL LOGICS IN RULE-BASED SYSTEM VERIFICATION PROBLEM

Marina S. Nitezhuk

Senior lecturer, Department of Information Systems and Information Security,

e-mail: marino_@mail.ru Irkutsk State Transport University, 15, Chernyshevskiy Str., 664074 Irkutsk, Russia.

Leonid V. Arshinskiy Dr., Head. Department of Information Systems and Information Security,

e-mail: larsh@mail.ru Irkutsk State Transport University, 15, Chernyshevskiy Str., 664074 Irkutsk, Russia.

Abstract. The paper discusses the applicability of non-classical logical calculus to the problem of verification of rule-based knowledge bases. The possibilities of some three-digit, four-digit, and fuzzy logics are considered. It is shown that a good approach to verification is to use logics with vector semantics in the form of VTF-logics. Exper t systems based on them will be able to verify their KB without involving additional (and external to ES) architectural elements.

Key words: non-classical logics, logics with vector semantics, rule-based knowledge base, verification, expert systems.

References

1. Andreev A.M., Berezkin D.V., Simakov K.V. Osobennosti proyektirovaniya modeli i on-tologii predmetnoy oblasti dlya poiska protivorechiy v pravovykh elektronnykh bibliotekakh. [Features of model design and domain ontology for the search for contradictions in legal electronic libraries]. Available at: http://inteltec.ru/publish/articles/textan/ RCDL2004.shtml. (in Russian).

2. Arshinskiy V.L.. Proskuryakov D.P. Primeneniye ontologiy i rassuzhdeniya po pretsedentam dlya obrabotki konteksta v sobytiynom modelirovanii v issledovaniyakh energetiki [Application of ontologies and precedent reasoning for context processing in event modeling in energy research] // Sovremennyye tekhnologii. Sistemnyy analiz. Modelirovaniye. 2016. № 4 (52). Pp. 94-100. (in Russian)

3. Arshinskiy L.V. Metody obrabotki nestrogikh vyskazyvaniy [Methods of processing of non-strict proposition]. Irkutsk: East-Siberian Institute of MIA of Russia. 1998. 40 p. (in Russian)

4. Arshinskiy L.V. Mnogoznachnyye logiki s vektornoy semantikoy [Multivalued logics with vector semantics]. Dep. v VINITI 13.02.03 № 281-V2003. 46 p. (in Russian)

5. Arshinskiy L.V. Soderzhatel'nyi i formal'nyi vyvody v logikakh s vektornoy semantikoy [Substantial and formal deductions in logics with vector semantics] // Avtomatika i telemekhanika.2007. № 1. Pp. 153-162. (in Russian)

6. Arshinskiy L.V. Vektornyye logiki: osnovaniya, kontseptsii, modeli [Vector logic: foundations, concepts, models.]. Irkutsk: Izd-vo Irkutskogo universiteta, 2007. (in Russian)

7. Arshinskiy L.V. Logiki s vektornoy semantikoy kak sredstvo verifikatsii baz znaniy [Logic with vector semantic as a means of knowledge bases verification] / L.V. Arshinskiy, A.A. Yermakov, M.S. Nitezhuk // Ontologiya proyektirovaniya. 2019. T. 9, № 4 (34). Pp 510521. DOI: 10.18287/2223-9537-2019-9-4-510-521. (in Russian)

8. Arshinskiy L.V. Kompleksnaya verifikatsiya produktsionnykh baz znaniy s ispol'zovaniyem VTF-logik [Complex verification of rule-based knowledge bases using VTF-logic] / L.V. Arshinskiy, A.A. Yermakov, M.S. Nitezhuk // Ontologiya proyektirovaniya. 2020. T. 10, № 1(35). Pp. 112-120. DOI: 10.18287/2223-9537-202010-1-112-120. (in Russian)

9. Bakhtiyarov K.I. Ob odnom podkhode k formalizatsii paradoksal'nykh situatsiy [About one approach to the formalization of paradoxical situations] // Filosofskiye nauki. №1. 1976. - Pp. 52-62. (in Russian)

10. Bakhtiyarov K.I. Mnogoaspektnyy podkhod v logike: diss. d.f.n. 09.00.07 «Logika» [A multidimensional approach in logic: diss. Doctor of Philosophy 09.00.07 "Logic"]. -Moskva: MGU. 1989. (in Russian)

11. Bakhtiyarov K.I. Komp'yuterizatsiya logiki [Computerization of Logic] // Filosofskiye nauki. №9. 1990. Pp. 117-122. (in Russian)

12. Bakhtiyarov K.I. Logika s tochki zreniya informatiki: bestseller v dukhe L'yuisa Kerrolla (12 etyudov) [Logic from the point of view of computer science: a bestseller in the style of Lewis Carroll (12 studies)]. - M.: Yeditorial URSS. 2002. 128 p. (in Russian)

13. Bochvar D.A. Ob odnom trekhznachnom ischislenii i yego primenenii k analizu paradoksov klassicheskogo rasshirennogo funktsional'nogo ischisleniya [About one three-valued calculus and its application to the analysis of the paradoxes of the classical extended functional calculus] // Matematicheskiy sbornik. T. 4. № 2. 1938. Pp. 287-308. (in Russian)

14. Vasil'yev N.A. O chastnykh suzhdeniyakh, o treugol'nike protivopolozhnostey, o zakone is-klyuchennogo chetvertogo [On private judgments, on the triangle of opposites, on the law of the excluded fourth.]. Kazan. 2010. (in Russian)

15. Vasil'yev N.A. Voobrazhayemaya logika [Imaginary logic]. Izbrannyye trudy. M.: Nauka. 1989. 264 p. (in Russian)

16. Dolina O.S. Razrabotka metoda testirovaniya produktsionnykh baz znaniy ekspertnykh sistem s uchetom oshibok tipa «zabyvaniye ob isklyuchenii»: dissertatsiya ... kandidata tekhnicheskikh nauk: 05.13.14 [Development of a method for testing production knowledge bases of expert systems taking into account errors of the "forgetting about exception" type: dissertation ... candidate of technical sciences: 05.13.14]. Saratov. 1999. 174 p. (in Russian)

17. Dolinina O.N. Klassifikatsiya oshibok v bazakh znaniy ekspertnykh system [Error classification in the knowledge bases of expert systems] // Vestnik SGTU. 2010. № 4 (50). Vyp. 2. Pp. 125-130. (in Russian)

18. Ivanov A.S. Matematicheskiye modeli i algoritmy funktsionirovaniya produktsionnykh baz znaniy: dissertatsiya ... kandidata fiziko-matematicheskikh nauk: 05.13.18 [Mathematical models and functioning algorithms of production knowledge bases: the dissertation ...

candidate of physical and mathematical sciences: 05.13.18]. Saratov. 2008. 117 p. (in Russian)

19. Karpenko, A.S. Mnogoznachnyye logiki [Multivalued logics] / A.S. Karpenko. M.: Nauka. 1997. 223 p. (in Russian)

20. Logunova, Ye.A. Obzor podkhodov k razresheniyu nedostatkov produktsionnoy bazy znaniy sistemy logicheskogo vyvoda [A review of approaches to resolving the shortcomings of the production base of knowledge of the logical inference system] / Ye.A. Logunova // Sovremennyye naukoyemkiye tekhnologii. 2015. № 9. Pp. 46-48. (in Russian)

21. Nechetkaya logika v modelyakh upravleniya i iskusstvennogo intellekta [Fuzzy logic in control models and artificial intelligence] / pod red. D.A. Pospelova. M.: Nauka. Gl. red. fiz.-mat. lit. 1986. 312 p. (in Russian)

22. Nitezhuk M.S. Verifikaciya i poisk protivorechij v bazah znanij intellektual'nykh sistem [Verification and search of contradictions in knowledge bases of the intelligent systems]. Molodaya nauka Sibiri: ehlektronnyj nauchnyj zhurnal [Young science of Siberia: electronic scientific journal]. 2018. № 1. [Accessed 11/04/19]. (in Russian)

23. Pospelova L.Ya.. Chukanova O.V. Poisk protivorechiy v produktsionnykh bazakh zna-niy [The search for contradictions in the rule-based knowledge bases]. Available at: http://www.vmest.ru/nuda/poisk-protivorechij-v-produkcionnih-bazah-znanij/main.html. (in Russian).

24. Pronina I.G. Metody i instrumental'nyye sredstva podderzhki produktsionnykh baz znaniy, soderzhashchikh pravila s interval'nymi znacheniyami kharakteristik v predikatakh: dissertatsiya ... kandidata tekhnicheskikh nauk: 05.13.11 [Methods and tools for supporting production knowledge bases containing rules with interval values of characteristics in predicates: dissertation ... candidate of technical sciences: 05.13.11]. M. 1994. 160 p. (in Russian).

25. Proskuryakov D.P. Poisk protivorechiy s pomoshch'yu strategii upravleniya produktsiyami na osnove ontologii predmetnoy oblasti [Search for contradictions using the product management strategy based on the ontology of the subject area] // Trudy XIX Baykal'skoy Vserossiyskoy konferentsii «Informatsionnyye i matematicheskiye tekhnologii v nauke i upravlenii». CH. III. Irkutsk: ISEM SO RAN. 2014. Pp. 166-170. (in Russian).

26. Proskuryakov D.P. Upravleniye razresheniyem konfliktov v produktsionnykh ekspertnykh sistemakh [Managing conflict resolution in rule-based expert systems] // Vestnik Irkutskogo gosudarstvennogo tekhnicheskogo universiteta. 2015. № 8. Pp. 47-51. (in Russian).

27. Proskuryakov D.P. Integratsiya ontologicheskogo modelirovaniya i rassuzhdeniy po pretsedentam dlya obrabotki konteksta v issledovaniyakh energeticheskoy bezopasnosti [Integration of ontological modeling and precedent reasoning for context processing in energy security research] // Vestnik Irkutskogo gosudarstvennogo tekhnicheskogo universiteta. 2017. tom 21 № 4(123). Pp. 90-99. (in Russian).

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

28. Rozonoer L.I. O vyyavlenii protivorechiy v formal'nykh teoriyakh. I. [On the identification of contradictions in formal theories. I.] // Avtomatika i telemekhanika. № 6. 1983. Pp.113124. (in Russian).

29. Rozonoer L.I. O vyyavlenii protivorechiy v formal'nykh teoriyakh. II. [On the identification of contradictions in formal theories. II.] // Avtomatika i telemekhanika. № 7. 1983. Pp. 97-104. (in Russian).

30. Rybina G.V., Smirnov V.V. Osobennosti vyyavleniya staticheskikh anomaliy v bazakh znaniy, soderzhashchikh otdel'nyye vidy NE-faktorov [Peculiarities of identifying static anomalies in knowledge bases containing certain types of NOT factors] // 3 Mezhdunarodnyy nauchnyy i prakticheskiy seminar «Integrirovannyye modeli i myagkiye vychisleniya v iskusstvennom in-tellekte. M.: Fizmatlit. 2005. Pp. 358-363. (in Russian).

31. Smirnov, V.V. Metody i sredstva verifikatsii baz znaniy v integrirovannykh ekspertnykh sistemakh: dis. ... kand. tekhn. nauk: 05.13.11 [Methods and means of verification of knowledge bases in integrated expert systems: dis. ... cand. tech. Sciences: 05.13.11], Moskva. 2006. 180 p. (in Russian).

32. Smirnova Ye.D. Logika i filosofiya [Logic and philosophy]. // M.: «Rossiyskaya politicheskaya entsiklopediya» (ROSSPEN). 1996. 304 p. (in Russian).

33. Smirnova Ye.D. Voprosy semantiki paraneprotivorechivykh logik [The semantics of paraconsistent logics] // Online Journal "Logical Studies". №2. 1999. Availabel at: http://www.logic.ru/LogStud. (in Russian).

34. Antoniou, G. Verification and Validation of Knowledge-Based Systems. Report on Two 1997 Events / G. Antoniou, F. van Harmelen, R. Plant, J. Vanthienen // AI Magazine: Workshop Report. 1998. V.19. № 3. Pp. 123-126.

35. Asenjo F.G. La idea de un calculo de antinomias // Seminario Matematico. La Plata. 1954

36. Belnap N. A useful four-valued logic // J.M.Dunn and G.Epstein (eds.). Modern Uses of Multiple-Valued Logic. - Dordrecht: D. Reidel Publish. Co. 1977. Pp. 8-37.

37. Belnap N. How a computer should think // G. Ryle (ed.). Contemporary Aspects of Philosophy. - Stocksfield: Oriel Press Ltd., 1977. Pp. 30-55.

38. Belnap N.D. A formal analysis of entailment / Technical Rep. - Yale Univ., 1960. - N 7.

39. Benbasat, I. A framework for the validation of knowledge acquisition / I Benbasat, J. S. Dhaliwal, // Knowledge Acquisition. 1989. 1. Pp. 215-233.

40. Bindilatti, A. de A. Verification and validation of knowledge bases using test cases generated by restriction rules / A. de A. Bindilatti, A.E.A da Silva // International Journal of Artificial Intelligence and Expert Systems (IJAE). 2012. V. 3. Issue 4. Pp. 117-125.

41. Davis R. Applications of Meta Level Knowledge to the Construction, Maintenance, and Use of Large Knowledge Bases. Dept of Computer Science, Stanford Univ.. 1976. 291 p. STAN-CS-76-552a.

42. Dunn J.M. Algebra of Intensional Logics. Doctoral Dissertation University of Pittsburg, Ann Arbor. 1966.

43. Dunn J.M. Intuitive semantics for first-degree entailment and "coupled trees" // Philosophical Studies.Vol. 29. 1976. Pp.149-158.