CC BY
58
V ИНФОРМАЦИОННО-УПРАВЛЯЮЩИЕ СИСТЕМЫ
УДК 519.673: 004.9
М:10.15217/1Б8П1684-8853.2015.1.29
МЕТОД УПРАВЛЕНИЯ ПРЯМЫМ ЛОГИЧЕСКИМ ВЫВОДОМ В ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМАХ С ДИСКРЕТНЫМИ ДОМЕНАМИ ПЕРЕМЕННЫХ
A. Я. Фридмана, доктор техн. наук, профессор
Б. А. Кулик6, доктор физ.-мат. наук, ведущий научный сотрудник
B. Г. Курбанов6, канд. физ.-мат. наук, старший научный сотрудник
аИнститут информатики и математического моделирования технологических процессов
Кольского научного центра РАН, Апатиты, РФ
бИнститут проблем машиноведения РАН, Санкт-Петербург, РФ
Введение: в гибких дискретных системах (экспертных, информационно-аналитических и др.) существует проблема остановки процесса вычислений, т. е. выявления шага обработки, после которого необходимо изменить режим работы системы (например, выдать сигнал ошибки или изменить направление логического вывода). В настоящей работе предлагается применить для этого универсальные эвристические индикаторы хода вывода, которые можно конкретизировать для реальных типов данных. Такие индикаторы позволяют оценить успешность продвижения к цели вывода и принять решение о его прекращении или продолжении. Результаты: предложен метод управления ходом прямого логического вывода в гибких дискретных интеллектуальных системах, основанный на эвристических теоретико-множественных индикаторах хода вывода, которые анализируют текущие подмножества возможных, истинных и ложных значений переменных и прекращают цепочку вывода в случае ее неперспективности (невозможности сузить уже полученный диапазон возможных значений целевой переменной) или возникновения конфликта, например получения пустого множества возможных значений. Разработанный метод управления выводом использует интегральные оценки успешности процедур вывода по критериям «здравого смысла», к которым можно отнести коэффициенты уверенности, расчет мер доверия и недоверия (шансов) к гипотезам с учетом использованных и еще не использованных свидетельств, идеи ДСМ-метода и т. п. Практическая значимость: представленные в работе правила обработки продукций и эмпирические индикаторы хода логического вывода в гибких дискретных системах позволяют оценить успешность продвижения к цели вывода и принять решение о его прекращении или продолжении.
Ключевые слова — дискретная переменная, гибкая дискретная система, логический вывод, управление применением продукций, эвристический индикатор хода вывода.
Введение
Во многих компьютерных системах обработки информации переменные величины могут принимать только значения из дискретных конечных множеств (аналогично спискам). Так поступают либо в целях использования комбинаторных алгоритмов [1-3], либо для того, чтобы избежать вычислительных проблем, связанных с малыми изменениями количественных переменных, и обеспечить поддержку совместной расчетно-логиче-ской обработки данных любых типов [4]. Согласно работе [5], подобные схемы и устройства относятся к гибким дискретным системам, поскольку предназначены для реагирования на дискретные события и работы в меняющейся обстановке.
В гибких дискретных системах существует проблема останова процесса вычислений, т. е. выявления шага обработки, после которого необходимо изменить режим работы системы (например, выдать сигнал ошибки или изменить направление логического вывода). В настоящей работе предлагается применить для этого универсальные индикаторы хода вывода, которые можно конкретизировать для реальных типов
данных. Без потери общности анализ таких индикаторов ведется на примере системы ситуационного моделирования (ССМ) [4, 6].
Постановка задачи управления ходом прямого вывода
В ССМ имеются интерфейсы для ввода-вывода данных различных типов, но их внутреннее представление унифицировано: реальные значения кодируются натуральными числами, соответствующими положению этих значений в списке допустимых значений, который формируется при первичном декларировании данного. Данные со строковыми значениями называются параметрами, а имеющие числовые значения — переменными, и над ними можно выполнять определенные математические операции. Когда результат вычислений представляет собой значение переменной, он округляется до ближайшего значения из списка допустимых значений. В дальнейшем, если сказанное относится к данным любого разрешенного в ССМ типа (и к переменным, и к параметрам), употребляется термин «данное».
Назовем атомарным факт простейшего возможного в ССМ формата:
<имя> = <значение>, (1)
где <значение> — одно из значений данного с именем <имя> из списка его допустимых значений. Поскольку все значения каждого данного предполагаются взаимно не пересекающимися, то область истинности факта (1) есть единственное значение из области определения этого данного. Общая форма записи факта в ССМ такова:
<имя> <знак> <подсписок_значений (п)>, (2)
где в угловые скобки взяты названия, вместо которых подставляются их допустимые значения (нотация формы Бэкуса — Наура, БНФ); <подсписок_ значений (п)> имеет длину п и состоит из допустимых значений данного. Если N — общая длина списка допустимых значений, то всегда п < N.
Допустимые в ССМ <знаки> и соответствующие способы обработки <подсписка_значений> сведены в таблицу.
Экспертная система ССМ поддерживает продукционные правила такого формата:
ЕСЛИ Е1 [& Е2...], [ТО Т1 [с Р(7у*)], [& Т2 [с РТУ*)].»]],
[ИНАЧЕ II [с Р^/*)], [& 1[ [с Р(/[/*)]...]], (3)
Примечание. При работе с интервалами значений переменных (знаки е и £ ) граничные значения включаются в интервал.
где Е1, Т , 1к — условия типа (2), определенные на списке значений одного параметра или переменной; Р(*/*) — условные вероятности следствий при истинности их предпосылок (задаются при вероятностном выводе); & — логическая связка И; в квадратные скобки взяты необязательные части правила (нотация БНФ).
В каждом правиле должна быть часть ЕСЛИ и хотя бы одна из частей ТО или ИНАЧЕ. В любой части правила допускается произвольное количество логических условий Е1, Т , 1к. При обработке они считаются связанными по И, т. е.:
— при наличии части ТО всем входящим в нее условиям присваивается значение «истина» (а всем условиям части ИНАЧЕ, при ее наличии, — значение «ложь»), если истинны все условия части ЕСЛИ;
— при наличии части ИНАЧЕ всем входящим в нее условиям присваивается значение «истина» (а всем, еще не определенным как истинные, условиям части ТО, при ее наличии, — значение «ложь»), если ложно хотя бы одно из условий части ЕСЛИ.
При появлении истинных следствий правило, их породившее, считается сработавшим и в дальнейшей экспертизе не анализируется.
Логические условия могут иметь форму (2) или, при использовании вероятностного механизма вывода, следующую форму:
р1 < Р(<имя> <знак> <подсписок_
значений (п)>) < р2, (4)
где основные обозначения совпадают с (2), а Р(*) — текущая (апостериорная) вероятность нахождения аргумента в заданном интервале вероятности [р1, р2].
В начале экспертизы все допустимые значения данных считаются возможными. Различные значения каждого данного рассматриваются как взаимоисключающие. Поэтому по мере срабатывания правил (3) из списка возможных значений в базе данных значений исключаются те значения, которые противоречат частям ТО или ИНАЧЕ сработавших правил. Может сработать только правило, у которого часть ЕСЛИ одновременно истинна или ложна для всех возможных на этот момент значений данного. Если на текущей итерации экспертизы предпосылка анализируемого правила истинна для некоторых из возможных значений данного и ложна для других возможных значений, истинность этой предпосылки не фиксируется. Противоречие в данных фиксируется в двух случаях: либо при появлении фактов за уже исключенное из списка допустимых значение данного, либо если на некоторой итерации в списке новых фактов появляются свидетельства как за истинность, так и за ложность предпосылки какого-либо правила.
■ Интерпретация сложных фактов в ССМ
Тип данного Знак п Способ обработки
Любой (параметр / переменная) = Факт истинен, если данное принимает хотя бы одно значение из <подсписка_значе-ний (п)> (связка значений по ИЛИ)
ф <N-1 Факт истинен, если данное принимает любое значение, кроме указанных в <подспи-ске_значений (п)>
Переменная е 2 Факт истинен, если данное принимает любое значение из интервала [п1, п2]
£ 2 Факт истинен, если данное принимает любое значение вне интервала [п1, п2]
< 1 Факт истинен, если данное принимает любое допустимое значение, меньшее или равное указанному
> 1 Факт истинен, если данное принимает любое допустимое значение, большее или равное указанному
Пусть набор переменных xi, которые могут быть результатами логического вывода, задан в универсуме
и = Х1 х Х2 х ...х Хп,
где Х1 — домены (множества допустимых значений) соответствующих переменных.
Тогда с помощью таблицы любой факт формата (2) можно представить в виде свидетельства «за» некоторые допустимые значения:
К/ е Ф+ с X/,
(5)
либо в виде свидетельства «против» некоторых допустимых значений:
К $ Ф/ с X;.
(6)
Обозначим X/ — множество возможных (в данной цепочке логического вывода) значений переменной; X0 — множество ее невозможных (ложных) значений; X — множество ее неопределенных значений (их ложность или допустимость еще не выяснена). Эти множества попарно не пересекаются. Очевидно, в начале вывода (вторым нижним индексом обозначен номер шага вывода к)
X/ = 0; XV = Xt¡0 = X/. (7)
На любом шаге логического вывода должно выполняться соотношение
Хук и и = X/.
(8)
По мере срабатывания тех или иных правил в ходе некоторой цепочки прямого вывода области Xt¡, X/ и X пересчитываются в зависимости от вновь появившихся (истинных) фактов, содержащихся в частях ТО или ИНАЧЕ сработавших правил.
Основная идея управления ходом вывода состоит в том, чтобы прекращать цепочку вывода в случае ее неперспективности (невозможности сузить уже полученный диапазон возможных значений переменной) или возникновения конфликта (например, получения пустого множества возможных значений). Семантике анализа данных и знаний посвящены многие работы, в том числе [7-9].
Сужение диапазона возможных значений некоторой переменной недостижимо, если еще не сработавшие правила не запрещают никакие значения из текущего множества возможных значений.
Критерии останова зависят от типа вывода, поэтому рассмотрим их особенности для детерминированного и вероятностного выводов, реализованных в ССМ, а также для нечеткого вывода. Однако вначале введем несколько определений.
Определение 1. Множество истинности данного х1 — подмножество его допустимых значе-
ний, за которое свидетельствуют все сработавшие до текущего момента продукции:
Г(К/)::= ПДФ 1т),
(9)
где т — номера сработавших правил, содержащих следствия, в которые входит ¿-е данное.
Определение 2. Множество ложности данного х1 F(xi) есть подмножество его допустимых значений, которые не являются истинными на текущий момент и не могут стать истинными в ходе дальнейшего вывода.
Определение 3. Множеством потенциально возможных значений данного х1 Р*(х) назовем подмножество его допустимых значений, которые могут стать истинными в ходе дальнейшего вывода.
Очевидно, в это множество входят все допустимые значения данного из областей истинности следствий еще не сработавших продукций:
Р *(к)::=иТ(Ф9), (10)
Я
где # — номера еще не сработавших продукций, содержащих следствия, в которые входит ¿-е данное.
Определение 4. Множеством потенциально истинных значений данного х1 Т*(х) назовем подмножество его допустимых значений, за которые свидетельствуют все еще не сработавшие на текущий момент продукции:
Г*(К,.)::=ПТ(Ф ¡ч). (11)
Я
Анализируя введенные в данном разделе множества, можно предложить алгоритм управления выводом, представленный ниже.
Управление детерминированным выводом
Очевидно, при детерминированной обработке информации по закону исключенного третьего для любой переменной х1 на любом шаге вывода к > 0 нет неопределенных значений, т. е. из (7), (8) имеем
Хк = 0; и X/к = X/.
(12)
При появлении новых фактов множество возможных значений не может расширяться, а множество ложных значений не может сужаться. Они перевычисляются по формулам:
— для свидетельства «за» (5)
**к+1) = X/к ПФ+; X¡k+1) = X/ и (X/ \ Ф+); (13)
— для свидетельства «против» (6)
X^k+1) = X^tk \ Ф /; /+1) = X/ и Ф Ф. (14)
Из (9)-(11) и (13) нетрудно видеть, что при использовании детерминированного механизма
вывода условия, при выполнении которых гарантируется отсутствие конфликта при выводе, имеют вид (см. рисунок)
Х] = Т(х,-)::= X \ Т(х,); Т*(х) С Т(х) С Р*(х),
(15)
причем в начале вывода выполняются соотношения
р*^) = X; Чх,-) = X=0. (16)
Условие (15) выполняется всегда ввиду (12). Контроль выполнения первого из условий (16) входит в контроль адекватности базы знаний ССМ.
Цепочка вывода считается неуспешной, если у какого-либо данного множество возможных значений стало пустым:
(17)
Х-(к+1) =0.
Продолжение вывода нецелесообразно, если известно целевое данное xg и еще не сработавшие правила (3) не могут сузить множество его возможных значений. Для этого в частях ТО, ИНАЧЕ таких правил не должно быть свидетельств «против» значений из множества возможных, а множества возможных значений во всех свидетельствах «за» должны быть шире текущего х1дк. Таким образом, признак останова вывода имеет вид
хдк П
и Ф+
-Р
= 0 ("р) Х1дк С ф - ,
(18)
где индекс р пробегает все значения номеров еще не сработавших правил.
Вывод завершается успешно, если получено единственное возможное значение целевого данного:
= 1. (19)
хд
хдк
Порядок преобразования определенных выше множеств при детерминированном выводе формулируется следующим образом. Если установлена истинность предпосылки некоторого продукционного правила, для каждого данного xi, входящего в часть ТО этого правила:
— области истинности и ложности перевычисляются по формулам (13) или (14), проверяется выполнение соотношения (12);
— из множества Р*^) (10) исключаются те значения данного, истинность которых подтверждает сработавшее правило;
— перевычисляется множество (11) без учета сработавшей продукции.
Такие же преобразования производятся при доказательстве ложности предпосылки некоторого продукционного правила для всех данных, входящих в часть ИНАЧЕ этого правила.
Множества (11) непосредственно не используются в ходе вывода, но могут служить обобщенным показателем шансов на получение результата: если для целевого данного в ходе вывода это множество не пусто или в процессе вывода в нем появляются значения данного, то ход вывода можно считать успешным.
Управление вероятностным и нечетким выводом
При таких типах вывода закон исключенного третьего для допустимых и недопустимых значений данных не выполняется, поэтому необходимо анализировать характеристические функции (ХФ) множеств Х-к,Х]к и пересчитывать значения этих функций по ходу вывода. Например, в ССМ здесь используются вероятности из (4).
Вместо формул (10), (11) используются следующие:
— для свидетельства «за» (5)
Хд к+1) = Х1к и ф+; Хц
,(к+1)
= Х]
Iк'
— для свидетельства «против» (6)
Х,(к+1) = Х,к;
Х(к+1) = Х]к и ф-.
(20)
(21)
,к
каждого данного, которые не входят ни во множество Х-к, ни во множество Хк
Очевидно, что если во множествах Х,к и Ф+ в (20) и множествах Х]к и Ф- в (21) имеются одинаковые значения, то соответствующие им значения ХФ должны пересчитываться в сторону увеличения, а если одинаковые значения встречаются во множествах Ф+ и Х]к в (20) или во множествах Хдк и Ф, в (21), их значения ХФ должны уменьшаться. Формулы пересчета значений ХФ аналогичны формулам вычисления коэффициентов уверенности Шортлиффа и достаточно разработаны как для вероятностного, так и нечеткого вывода [10, 11], они здесь не рассматриваются ввиду очевидности и некоторой громоздкости. Для ускорения вывода, как это принято в экспертных системах, целесообразно установить нижние пороговые значения ХФ для элементов множеств Хдк и Х]к. Если ниже порогового уровня опускается значение ХФ некоторого элемента множеств Хдк или Х]к, этот элемент переносится во множество Х]кк и возвращается во множества Хдк или Х]к при появлении значимых (по ХФ) свидетельств (5) или (6) соответственно.
Разумеется, и при недетерминированном выводе применимо условие останова (17), но форма признаков типа (18) и (19) существенно зависит от конкретных типов данных и способов пересчета ХФ. В общем случае необходимо разработать схему интерпретации ХФ целевого данного,
позволяющую принять решение об успешном или неуспешном завершении текущей цепочки вывода. При этом, кроме признаков типа (17) и (18), следует анализировать возможность еще одного конфликта — противоречия между ХФ множеств Xtgk и Л/к, когда одни и те же значения переменной получают высокие значения ХФ в обоих этих множествах.
Следующее определение имеет смысл только для вероятностного механизма вывода (или другого механизма, допускающего наличие неоднозначности свидетельств).
Определение 5. Множеством возможных значений данного х1 Р(х) называется подмножество его допустимых значений, за которые были факты в ходе вывода:
РК,)::=и Ф+, (22)
Р
причем из множества (22) исключаются значения переменной, для которой ХФ падает ниже пороговой величины.
При доказательстве истинности или ложности предпосылки некоторого продукционного правила Пп множества (22) для данных, входящих в истинные следствия этого правила, перевычисляются по формулам (20) или (21).
К начальным условиям (16) при вероятностном выводе добавляется условие Р(х) = 0.
Расположение введенных множеств относительно всего множества Х1 ::= {х^}, к = 1, П/ допустимых значений данного х1 иллюстрируется на рисунке.
Аналогичный (18) индикатор нецелесообразности продолжения вывода при вероятностном выводе можно предложить в виде
(Г"(К/) = 0)Л(Я[к П Р (К/) = 0), (23)
а индикатором неопределенности «мнения» базы знаний о значениях некоторого данного может служить соотношение
(Т*(х) = 0) Л (Т(х) = 0). (24)
P(Xi)
Т(Фц) T(®i„)— T(®i(„+i))
T(xi)
T*(xi)
T
I ■1 17
И Is
I *
S и
В £
I «
S О
ft ft
В в
T
i(m+1)
I-1-1-1-
mi m-2 m.4 •••
P*(Xi)
Mi
Щ-1
■ Использование подмножеств значений данного при контроле вывода
Выполнение двух условий (23) и (24) одновременно для целевого данного дает достаточное обоснование для прекращения вывода ввиду его неуспешности.
Процедуры формирования перечисленных подмножеств значений данных в ССМ не требуют больших машинных ресурсов из-за принятого формата хранения правил (каждое предусловие хранится в отдельной записи базы данных) и использования специальных индексов экспертной системы.
Заключение
Описанные выше теоретико-множественные индикаторы хода вывода носят эмпирический и эвристический характер, но находятся в рамках распространенных тенденций поиска интегральных оценок успешности процедур вывода по критериям «здравого смысла», к которым можно отнести, например, коэффициенты уверенности, расчет мер доверия и недоверия (шансов) к гипотезам с учетом использованных и еще не использованных свидетельств, идеи ДСМ-метода и т. п. Эмпирические подходы неплохо зарекомендовали себя в прикладных системах искусственного интеллекта и заслуживают внимания, по крайней мере, до появления аксиоматической теории систем, основанных на знаниях, к которым можно отнести и ССМ. В последней указанные индикаторы используются в режиме проведения имитации для предупреждения пользователя. В режиме обучения системы подобные индикаторы применяются также для оценки эффективности управления логическим выводом.
Представленные в работе правила обработки продукций и эмпирические индикаторы хода логического вывода в гибких дискретных системах позволяют оценить успешность продвижения к цели вывода и принять решение о его прекращении или продолжении.
Работавыполнена при поддержке РФФИ (проекты № 14-07-00256-а, 14-07-00257-а, 14-07-00205-а, 13-07-00318-а, 12-07-00689-а, 12-07-000550-а, 12-07-00302-а) и Президиума РАН (проект 4.3 Программы № 16/
Литература
1. Закревский А. Д. Решение больших систем логических уравнений. — Минск: ОИПИ НАН Беларуси, 2009. — 96 с.
2. Ganter B., Wille R. Formal Concept Analysis. Mathematical Foundations. — Springer Verlag, 1996. — 17 p.
3. Кулик Б. А., Зуенко А. А., Фридман А. Я. Алгебраический подход к интеллектуальной обработке данных и знаний. — СПб.: Изд-во Политехнического ун-та, 2010. — 235 с.
4. Фридман А. Я., Фридман О. В., Зуенко А. А. Ситуационное моделирование природно-технических комплексов. — СПб.: Изд-во Политехнического унта, 2010. — 436 с.
5. Перовская Е. И. Основы гибкой автоматизации/ ЛИАП. — Л., 1986. — 32 с.
6. Фридман О. В., Фридман А. Я. Ситуационное моделирование сложных природно-технических объектов с учетом аспектов безопасности // Вестник КНЦ РАН. 2013. Вып. 3. С. 71-79.
7. Цаленко М. Ш. Моделирование семантики в базах данных. — М.: Наука, 1989. — 288 с.
8. Вальковский В. А. Семантика манипуляций с базой данных интеллектуальных систем // НТИ. 1984. Сер. 2. № 3. С. 14-19.
9. Кулик Б. А., Курбанов В. Г., Фридман А. Я. Теория отношений как инструмент семантического анализа данных и знаний// Вестник Санкт-Петербургского университета. 2010. Сер. 10. Вып. 4. С. 1-11.
10. Попов Э. В. Экспертные системы: Решение неформализованных задач в диалоге с ЭВМ. — М.: Наука, 1987. — 288 с.
11. Алгоритм перевода коэффициентов нечеткой логики в коэффициенты уверенности при разработке экспертной системы в среде GURU. http:// dspace.bsu.edu.ru/bitstream/123456789/3480/1/ Zaitseva% 20T.V_Computer.pdf (дата обращения: 06.09.2013).
UDC 519.673:004.9 doi:10.15217/issn1684-8853.2015.1.29
Course Indicators for Forward Logical Inference upon List Variables
Fridman A. Yaa., Dr. Sc., Tech., Professor, fridman@iimm.ru
Kulik B. Ab., Dr. Sc., Phys.-Math., Leading Researcher, ba-kulik@yandex.ru
Kurbanov V. Gb., PhD, Phys.-Math., Senior Researcher, vugar_borchali@yahoo.com
aInstitute for Informatics and Mathematical Modelling of Technological Processes of RAS, 24A, Fersman St., 184209, Apatity, Murmansk Region, Russian Federation
bInstitute of Problems of Mechanical Engineering of RAS, 61, Bolshoi Pr. V. O., 199178, Saint-Petersburg, Russian Federation
Introduction: Flexible discrete systems (expert systems, information systems, etc.) often face the problem of a processing halt, i.e. detection of a processing step demanding a change in the system operation mode (for example, generating a failure signal or inverting the direction of logical inference). This paper introduces some universal heuristic indicators to control the course of logical inference in such systems. These indicators can be specified for real data types and used for the estimation of success in advancing to the inference goal in order to make a decision regarding the termination or prolongation of the inference. Results: A technique is proposed to control forward logical inference in flexible discrete intelligent systems, using heuristic set-theoretic indicators to analyze the current subsets of possible, false and true values of variables, terminating an inference chain if it looks unpromising or containing a conflict. A chain is unpromising when there are no ways to narrow down a current subset of possible values for the goal variable within this chain. An example of a conflict is obtaining an empty set of possible values for a variable. The developed method uses integrated output management ratings success inference procedures according to the criteria of "common sense", which include coefficients of confidence, calculation of trust and confidence (chance) in respect to hypotheses considering used and not yet used evidences, JSM method ideas, etc. Practical relevance: In flexible discrete systems, the introduced rules of productions application and empirical indicators of logical inference course let you estimate the progress in moving to the inference goal and make a decision whether to terminate or to resume the inference chain.
Keywords — List Variable, Flexible Discrete System, Logical Inference, Control Over Productions Application, Heuristic Indicator of Logical Inference Course.
References
1. Zakrevskii A. D. Reshenie bol'shikh sistem logicheskikh uravnenii [Solving Big Systems of Logical Equations]. Minsk, Ob"edinennyi institut problem informatiki (OIPI) NAN Belarusi Publ., 2009. 96 p. (In Russian).
2. Ganter B., Wille R. Formal Concept Analysis. Mathematical Foundations. Springer Verlag, 1996. 17 p.
3. Kulik B. A., Zuenko A. A. Fridman A. Ya. Algebraicheskii podkhod k intellektual'noi obrabotke dannykh i znanii [Algebraic Approach to Intelligent Processing of Data and Knowledge]. Saint-Petersburg, Politekhnicheskii univer-sitet Publ., 2010. 235 p. (In Russian).
4. Fridman A. Ya., Fridman O. V., Zuenko A. A. Situatsionnoe modelirovanie prirodno-tekhnicheskikh kompleksov [Situa-tional Modelling of Nature-Technical Complexes]. Saint-Petersburg, Politekhnicheskii universitet Publ., 2010. 436 p. (In Russian).
5. Perovskaya E. I. Osnovy gibkoi avtomatizatsii [Basics of Flexible Automation]. Leningrad, LIAP Publ., 1986. 32 p. (In Russian).
6. Fridman O. V., Fridman A. Ya. Situational Modelling of Complex Nature-Technical Complexes Considering Safety Matters. Vestnik Kol'skogo nauchnogo tsentra RAN, 2013, no. 3, pp. 71-79 (In Russian).
7. Tsalenko M. Sh. Modelirovanie semantiki v bazakh dannykh [Modelling of Semantics in Databases]. Moscow, Nauka Publ., 1989. 288 p. (In Russian).
8. Val'kovskii V. A. Semantics of Manipulations with Database of Intelligence Systems. Nauchno-tekhnicheskaia in-formatsiia, 1984, ser. 2, no. 3, pp. 14-19 (In Russian).
9. Kulik B. A., Kurbanov V. G., Fridman A. Ya. Relations Theory as a Tool for Semantic Data Analysis and Knowledge. Vestnik Sankt-Peterburgskogo universiteta, 2010, ser. 10, no. 4, pp. 1-11 (In Russian).
10. Popov E. V. Ekspertnye sistemy: Reshenie neformalizovan-nykh zadach v dialoge s EVM [Expert Systems: Computer-Aided-Dialogue Solving of Non-Formalized Problems]. Moscow, Nauka Pub., 1987. 288 p. (In Russian).
11. Algoritm perevoda koeffitsientov nechetkoi logiki v koef-fitsienty uverennosti pri razrabotke ekspertnoi sistemy v srede GURU [An Algorithm to Translate Coefficients of Fuzzy Logic into Confidence Coefficients during Development of an Expert System by Means of the GURU Shell]. Available at: http://dspace.bsu.edu.ru/bitstream/123456789/ 3480/1/Zaitseva%20T.V_Computer.pdf (accessed 6 September 2013).
