ИСПОЛЬЗОВАНИЕ МЕТОДА МОНТЕ-КАРЛО И ГЕНЕТИЧЕСКОГО ПРОГРАММИРОВАНИЯ ДЛЯ ПОЛУЧЕНИЯ МАТЕМАТИЧЕСКОЙ МОДЕЛИ МЕТОДА ЭВОЛЮЦИОННОГО СОГЛАСОВАНИЯ РЕШЕНИЙ

Протасов Владислав Иванович; Потапова Зинаида Евгеньевна; Мирахмедов Роман Октамович; Клименко Владислав Алексеевич

УДК 519.87

DOI:10.38028/ESI.2023.29.1.002

Использование метода Монте-Карло и генетического программирования

для получения математической модели метода

эволюционного согласования решений

Протасов Владислав Иванович1, Потапова Зинаида Евгеньевна1,

Мирахмедов Роман Октамович1, Клименко Владислав Алексеевич2

1 Московский авиационный институт (национальный исследовательский университет), Россия, Москва, protvlad@gmail.com

2 Московский физико-технический институт (национальный исследовательский

университет), Россия, Московская область, Долгопрудный

Аннотация. В работе обсуждается новый метод принятия решений - метод эволюционного согласования решений, развиваемый на протяжении ряда лет в Московском авиационном институте. Приводится теоретическое обоснование метода, использующее модель Георга Раша и теорему о присяжных Кондорсе. В основе метода лежит процедура эволюционного согласования решения, построенная, исходя из генетических алгоритмов. Для построения математической модели метода используется генетическое программирование. Обучающая выборка получена, исходя из компьютерной модели метода эволюционного согласования решений и вычислений с использованием метода Монте-Карло. Анализ математической модели показал значительное уменьшение вероятности возникновения ошибок при решении задач произвольной трудности.

Ключевые слова: согласование решений, трудность задачи, модель Раша, теорема Кондорсе, генетические алгоритмы, уменьшение вероятности ошибок

Цитирование: Протасов В.И. Использование метода Монте-Карло и генетического программирования для получения математической модели метода эволюционного согласования решений / В.И. Протасов, З.Е. Потапова, Р.О. Мирахмедов, В.А. Клименко // Информационные и математические технологии в науке и управлении. - 2023. - № 1(29). - С. 23-32. - D0I:10.38028/ESI.2022.29.1.002.

Введение. В настоящее время происходит существенная перестройка способа производства - старые индустриальные способы заменяются современными, связанными с переходом к цифровой экономике. В связи с тем, что решаемые задачи становятся все сложнее и имеющихся ресурсов не всегда хватает для поддержания требуемых темпов развития [1-4], возникла проблема нахождения и теоретического обоснования новых технологий решения сложных интеллектуальных задач, возникающих в науке, технике и промышленности и поддержки этих технологий соответствующими системами. Отсутствие математических моделей систем коллективного интеллекта тормозит проведение разработок методов групповой работы, позволяющих гарантированно решать сложные задачи, выдвигаемые практикой, и создавать соответствующие программные продукты для достижения этих целей [2].

К настоящему времени в области принятия решений разработано большое количество методов коллективной работы, предназначенных для применения в различных предметных областях [3], но присущие этим методам недостатки и ограничения, связанные с трудностями настройки на предметную область, отсутствием универсальности и стандартизации, затрудняют использование этих методов в практике. Существенным недостатком существующих методов является отсутствие гарантии правильности решения. Для каждой вновь возникшей задачи требуется занимающая длительное время процедура подбора метода из большого количества разработанных методов и настройка подобранного метода на специфику новой проблемы [5].

Большое количество работ и подходов посвящено устранению этих недостатков. Так, применение математических моделей и аналитических методов позволило в ряде случаев упростить процедуры настройки на предметную область и получить ряд важных критериев, позволяющих оптимизировать процедуры принятия решений [6]. Использование нечеткой

логики [7] позволило получить процедуры нахождения оптимальных решений при решении некоторого ряда трудно формализуемых задач. Различные комбинированные технологии [8, 9], включающие, например, эволюционные стратегии и генетические алгоритмы, также конструировались для устранения приведенных выше ограничений. Весьма актуальна, несмотря на свое давнее происхождение, теорема о присяжных маркиза де Кондорсе, опубликованная им в 1785 году. Теорема определяет условия, при выполнении которых вероятность правильного решения, получаемого жюри, стремится к единице. На этом эффекте основываются современные системы краудсорсинга, эксплуатирующие коллективный труд десятков и сотен тысяч пользователей сети Интернет [10].

При построении систем коллективного интеллекта (СКИ) не в полной мере учитывается двойственность креативных характеристик интеллектуальных агентов, выступающих при создании коллективного решения в двух ролях - генераторов решений или их частей и оце-нивателей чужих решений. Далее таких агентов будем называть акторами. Для них строятся специальные СКИ - системы эволюционного согласования решений (СЭС). Особенность этих систем заключается в том, что в них непосредственно используется двойственность креативных характеристик акторов [11]. СЭС построены на базе теории метасистемных переходов В. Ф. Турчина, который установил определяющую роль правил взаимодействия. Эти правила в систему вносятся извне и способствуют возникновению синергетического эффекта «усиления интеллекта» [12]. Использование правил взаимодействия, взятых из генетических алгоритмов, а также двойственность креативных характеристик акторов при групповой работе позволило создать новый метод - метод эволюционного согласования решений (МЭС). Метод был протестирован с использованием тестовых задач. Связь вероятности правильного решения тестовых заданий с подготовленностью носителей интеллекта и трудностью заданий была установлена в однопараметрической модели Раша [13]. В настоящей работе эта модель используется для построения математической модели МЭС. В работе используется также генетическое программирование, позволяющее из обучающей выборки, полученной из компьютерной модели МЭС, найти искомую функциональную зависимость вероятностей правильного и ошибочного решений от числа акторов и их креативных характеристик.

Известно, что в настоящее время для решения задач генетического программирования (ГП) используются суперкомпьютеры с мощными программными комплексами [14]. Вот что говорится одним из лидеров современного генетического программирования Дж. Коза по этому поводу: «Во многих случаях результаты моделирования эволюционных процессов оказываются сопоставимыми с комплексными структурами, разработанными традиционными способами. Это естественно, поскольку движущей силой как эволюции, так и технического прогресса являются механизмы естественного отбора» [14]. В свою очередь проблемой в ГП является сложная организация вычислительных алгоритмов, использующая суперкомпьютеры и языки описания и действия с деревьями типа ЛИСП или ПРОЛОГ. При этом затраты на программирование зачастую превышают затраты на вычисления по этим программам.

1. Постановка задачи. Необходимо построить математическую модель МЭС, позволяющую оценивать вероятности правильных и ошибочных решений группы акторов в зависимости от их числа и их креативных характеристик. Математическая модель позволит получить доказательство увеличения вероятности правильных решений в этих системах, оценивать вероятности ошибочного решения, исходя из математической модели, и строить системы с заданными величинами этих вероятностей. Требуется также разработать новую схему генетического программирования, свободную от перечисленных выше недостатков.

2. Методика решения задачи. Для построения математической модели вначале составляется компьютерная программа, позволяющая получить из описанных выше параметров искомые значения вероятностей правильных и ошибочных параметров. Далее, с исполь-

зованием модели Монте-Карло строится обучающая выборка, связывающая входные параметры с полученными вероятностями. Для получения функциональной зависимости этих вероятностей от входных параметров используется генетическое программирование.

2.1. Метод эволюционного согласования. Метод эволюционного согласования (МЭС) основан на процедуре заполнения слотов проекта групповым актором в соответствии с правилами взаимодействия, взятых из генетических алгоритмов (ГА) [15]. На первой стадии -стадии генерации решений акторы, исходя из своих способностей, заполняют слоты проекта, либо оставляют некоторые из них незаполненными. Первая стадия соответствует оператору ГА создания популяции решений или их частей, вторая это стадия согласования.

В первой разновидности метода предусмотрено многократное проведение итераций согласования. Во второй разновидности метода - только одна итерация согласования. При дальнейшем изложении вторая разновидность будет называться трехтактной схемой организации работы МЭС. Эта схема приведена на рисунке 1.

результаты работы группового актора

Рис. 1. Трехтактная схема организации работы МЭС 2.2. Модель Раша. При определении вероятности правильного ответа связь между уровнем трудности тестовых вопросов и степенью подготовленности акторов была установлена Георгом Рашем в наиболее общей теории конструирования тестов, опирающейся на теорию измерений - Item Response Theory (IRT) [13]. Для наших целей подходящей является однопараметрическая модель Раша, как наиболее простая модель, связывающая вероятность получения правильного ответа GR испытуемого с уровнем его подготовленности 0GR и трудностью задания fi. Подготовленность актора и трудность задания являются латентными переменными. Считается, что они не могут быть непосредственно измеренными, а могут быть получены лишь в результате использования математических моделей, оперирующих наблюдаемыми переменными, называемыми индикаторными. Поскольку GR (fi, 0GR) представляет собой логистическую кривую, поэтому принято задавать подготовленности акторов и трудности заданий в логитах. Диапазон изменения этих величин простирается от минус бесконечности до плюс бесконечности. В качестве индикаторов в модели Раша выступают результаты тестирования группы акторов с использованием тестовых заданий различного уровня трудности.

Вероятность GR правильного заполнения слота трудности fi, согласно этой модели, определяется формулой:

Gu =

1

г+eP^GR

(1)

Зависимость вероятности правильного ответа от трудности задания и подготовленности актора при генерации решений приведена на рисунке 2.

0.8

0.7

0.6 0.5

0.4 0.3 0.2 0.1

-5 -4

О

Р

Рис. 2. Зависимость вероятности правильного ответа актора от трудности задачи в

и подготовленности вск Будем считать, что актор характеризуется при работе над проектом со слотами одинаковой степени трудности четырьмя параметрами:

Ск - вероятность заполнения слота правильным ответом, Си - вероятность заполнения слота неправильным ответом, Ек - вероятность правильного оценивания слота, Ен - вероятность неправильного оценивания слота.

С этими параметрами актора можно связать четыре вспомогательных параметра, используемых в дальнейшем [9]:

^ = + Си - вероятность заполнения слота на стадии генерации решений, Су = 1 - - вероятность ответа «не знаю» на этой стадии, Е3 = Ек + Ен - вероятность того, что слот будет заполнен при оценивании, Еу = 1 -Е3 - вероятность того, что слот не будет заполнен при оценивании. Для определения зависимости вероятности неправильного решения от трудности задания вначале определим по модели Раша зависимость вероятности заполнения слота актором:

G,=

(2)

ч 1+еР-ва8 •

где вС5 - подготовленность актора к заполнению слотов как правильными, так и не правильными ответами.

Вероятность принятия неправильного решения актором составит при этом

Gm =

'CR

(3)

'М 1+еР-вС5 1+еР-вС Аналогичные выражения получаются и для вероятностей правильной и ошибочной экспертизы:

1 1

En =

i+eß-eER' i

i+eP-eES> i

^ 1+еР-вЕБ ' 1+еР-вЕЯ •

Графики для выражений (1-3) приведены на рисунке 3. На графике приведена также зависимость вероятности неправильного решения = в случае, когда при оценке правильности решений используется двоичная логика, и актор стремится дать ответ, даже если не знает его и пытается отгадать. Видно, что с ростом трудности задачи эта вероятность существенно превышает вероятность . Уменьшение вероятности принятия неправильного

i

l

i

решения с ростом трудности задачи р обусловлено тем, что актор дает ответ «не знаю» в трудных для него случаях.

Рис. 3. Графики зависимостей вк(Р), и от трудности задачи

Свойство актора к генерации ошибочного ответа назовем «ошибаемостью при генерации» и охарактеризуем величиной 8С: 8С = 0СЗ — 0СК; свойство актора к ошибочной экспертизе назовем «ошибаемостью при экспертизе» и охарактеризуем величиной

В таблице 1 приведена обучающая выборка методом Монте-Карло.

Таблица 1. Обучающая выборка методом Монте-Карло

в Рк QR

-5 0.99592986 0.00204482 0.99794770 0.99998800 0.00001200

-4 0.98901306 0.00550064 0.99446327 0.99991120 0.00008760

-3 0.97068777 0.01453820 0.98515700 0.99932670 0.00064990

-2 0.92414182 0.03669246 0.96115133 0.99542180 0.00414530

-1 0.81757448 0.08267503 0.90252963 0.97194320 0.02198000

0 0.62245933 0.14606545 0.76751083 0.86518820 0.07727250

1 0.37754067 0.17229333 0.51542263 0.57994930 0.14077410

2 0.18242552 0.12760000 0.24398947 0.23499600 0.11247750

3 0.07585818 0.06599288 0.09053877 0.05688610 0.04128500

4 0.02931223 0.02801195 0.03202890 0.00998690 0.00888120

5 0.01098694 0.01089433 0.01137190 0.00149080 0.00146430

3. Генетическое программирование. Для восстановления искомой модели использованы идентификаторы моделирующей программы а1[кД], d[k,i], а2[кд], здесь к - номер особи, i - номер команды. Каждый оператор программного дерева моделировался одной командой типа p[k,i] = p[k,a1[i]] | d[k,i] | p[k,a2[i]], где d[k,i] £ {1;2;3} и соответствует знакам арифметических операций сложения{1}, вычитания{2} и умножения{3}.

С первой по третью ячейки программы заносятся по порядку строки выборки с данными. С четвертой по восьмую ячейки генерируются случайные константы c4-c8. Далее генерируются семь случайных команд, расположенных с девятой по пятнадцатую ячейку. Ячейки p9-p30 являются рабочими ячейками программы, ячейка p31 содержит результат выполнения программы Y.

При генерации программы выполняется простое правило: операндами команды i могут быть только операнды с адресами от 1 до М. Такое простое правило позволяет избежать множества сложнейших процедур, применяемых многими разработчиками программных оболочек генетических программ при скрещивании графов, например, таких, как удаление лишних программных кодов, так называемых интронов, замена унарных операций на дугах и узлах графов, добавление и/или удаление дуг или узлов и т.д.

Далее выполняется сформированная программа, делается оценка особи - вычисляется сумма квадратов разностей, полученных по программе результатов и взятых из обучающей выборки (так называемая в ГА фитнесс-функция). Производится скрещивание с использованием одноточечного кроссинговера двух случайно выбранных программ, вычисляется фитнесс-функция. Выполняется оператор естественного отбора, в результате которого оставляется лучшая программа. С заранее заданной вероятностью, являющейся настроечным параметром системы, происходит мутация в константах или командах. Для мутированной особи вычисляется фитнесс-функция. Далее процессы обмена, кроссинговера, мутации и естественного отбора продолжаются до тех пор, пока не появится особь со значением фитнесс-функции, равной нулю. Таким образом, в пределах программного бинарного дерева находится нужная последовательность команд, число и величины констант, удовлетворяющих обучающей выборке.

Таблица 2. Результаты восстановления искомой функции

Вариант 1 Вариант 2

i a1[i] d[i] a2[i] p[i] i a1[i] d[i] a2[i] p[i]

1 0 0 0 x1 1 0 0 0 x1

2 0 0 0 x2 2 0 0 0 x2

3 0 0 0 x3 3 0 0 0 x3

4 0 0 0 c4=0 4 0 0 0 c4=0

5 0 0 0 с5=0 5 0 0 0 с5=0

б 0 0 0 с6=1 б 0 0 0 с6=0

l 0 0 0 с7=0 l 0 0 0 с7=1

8 0 0 0 с8=1 8 0 0 0 с8=1

9 3 3 2 0 9 8 3 8 1

10 3 3 2 0 10 3 2 9 0

11 l 1 8 1 11 8 2 9 -2

12 5 1 10 0 12 8 2 10 0

13 8 2 2 0 13 2 3 8 0

14 12 3 4 0 14 11 3 9 -2

15 2 2 3 0 15 4 3 8 0

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1б 9 2 2 0 1б 11 2 14 0

1l 1б 1 13 0 1l 10 2 5 0

18 15 1 14 0 18 4 3 2 0

19 4 1 1l 0 19 10 3 б 0

20 11 2 l 1 20 5 3 15 0

21 15 1 l 0 21 8 1 б -1

22 10 3 18 0 22 14 2 10 -1

23 19 1 3 1 23 б 3 l 0

24 9 3 22 0 24 1 3 14 0

25 14 3 24 0 25 13 2 2 0

2б 9 1 25 0 2б 2 1 11 -1

2l 13 3 1 0 2l 2 2 18 0

28 20 2 13 0 28 2б 3 2 0

Вариант 1 Вариант 2

1 а1[1] а[х] а2[1] р[1] 1 а1[1] а[1] а2[1] р[1]

29 1 1 27 0 29 28 3 1 0

30 26 3 29 0 30 29 3 12 0

31 30 1 28 0 31 30 1 2 0

р[31]=х1-х2-х3- (2-х2)+х2 р31]=х2+х2-х3-х1- (2-х2)

4. Получение математической модели. Генетический алгоритм помог нам получить результат:

Рк = + Ек * ву * * (2 — вк) При его преобразовании с учетом перемножения независимых событий получили более понятный вид данного выражения:

Рк = Ск + Ек^у(2^к — Ск^к — 1 + 1) = Ск + Ек^у(1 — (1 — Ск)2). Ранее все расчеты производились для количества акторов, равным трем. Формулу для произвольного числа акторов можно записать так:

РК = СК+ЕКСУ( 1— (1 — Ск)м-1) Аналогично, для Р№ получаем выражение:

РЫ = СЫ + ЕЫСУ( 1— (1 — СИ)М-1)

5. Применение модели Кондорсе. Полученную Рк и Р№ подставляем в модель Кондор-се [16-18] и получаем выражения:

м-1

2

Он

-1

¿=0

/"I рМ-1

имгк

(1-

РнУ

Для М=9 получим:

Ся = Р| + 9 Р|(1 — Рк) + 36РК7(1 — Рк)2 + 36Р|(1 — Рк)3 + 36Р|(1 — Рк)4 На рисунке 4 показаны зависимости вероятностей правильного и ошибочного решения группы от трудности задания р.

о о

1

0.9 0.8 0.7 0 6 0.5 0.4

ее о о.

О)

оо 0.3

0 2 0 1

О

Ог

А- 1 ?

с ч \

РЛ ...---- —■—•зД

------—м ...........! _______ Ом__ Хч X 11 - -ь

-5

-4

-3

-2

-1

Рис. 4. Графики зависимости вероятностей правильного и ошибочного решения группы

от трудности задания в Заключение. В заключение работы можно сделать следующие выводы: 1. Для получения математической модели некоторой системы вывод зависимости выходной величины модели от многих ее входных параметров нередко затруднителен. Предложено простое представление системы с использованием модели Монте-Карло. По полу-

ченной обучающей выборке с использованием генетического программирования можно восстановить искомую модель.

2. Анализ полученной математической модели метода эволюционного согласования решений показывает, что при его использовании происходит существенное увеличение вероятности правильного решения для простых и средних по трудности задач и значительное уменьшение вероятности ошибочных решений для задач произвольной трудности.

Список источников

1. Forsyth R. Expert systems. Principles and case studies. London: Chapman and Hall, 1984, 231 p.

2. Grudin J. Computer-Supported Cooperative Work: Its History and Participation. Computer, 1994, v. 27 (4), pp. 19-26.

3. Gupta M.M., Sanchez,E. Approximate Reasoning in Decision Analysis. North-Holland Publishing Company, 1982, 455 p.

4. Gupta M.M. Approximate Reasoning in Expert Systems. North-Holland Publishing Company, 1985, 835 p.

5. Veltman K. Computers and a new philosophy of knowledge. Frankfurt: Internftional Classification, 1991, v. 18, pp. 2-2.

6. Protasov V., Charnine M., Melnikov E. The Crowdsourcing Linguistic Technology for Experts Assessment. Proceedings of the 2014 International Conference on Artificial Intelligence, Las Vegas: CSREA Press, 2014, v. II, pp. 656-661.

7. Zadeh L.A. Fuzzy algorithms. Information and Control, 1968, pp. 12-94.

8. Jonathan Shapiro, Adam Prugel-Bennett, Magnus Rattray. A statistical mechanical formulation of the dynamics of genetic algorithms. Proceeding conference AISB Workshop on Evolutionary Computing, 1994, pp. 17-27.

9. Protasov V., Potapova Z., Akhobadze G. How to reduce the probability of erroneous decisions in the systems of collective intelligence. IOP Conference Series: Materials Science and Engineering, 2020, v.927(1), 012069.

10. Howe J. The Rise of Crowdsourcing. Wired, 2006, pp. 1-4.

11. Mirakhmedov, Potapova Z., Protasov V. MESING - a new method of organizing the joint work of neural networks and its metrology. Journal of Physics: Conference Series, 2021, v. 1727, 012004.

12. Turchin V.F. The Phenomenon of Science: A Cybernetic Approach to Human Evolution. New York: Columbia University Press, 1977, XVII, 348 p.

13. Rasch G. Probabilistic Models for Some Intelligence and Attainment Tests. Chicago: University of Chicago Press, 1981, 199 p.

14. Koza J.R. Genetic Programming: A Paradigm for Genetically Breeding Populations of Computer Programs to Solve Problems. Stanford University Computer Science Department technical report STAN-CS-90-1314, 1990.

15. Holland J.H. Adaptation in natural and artificial systems. University of Michigan Press, Ann Arbor, 1975, 228 p.

16. Marie-Jean-Antoine-Nicolas Condorcet. Essay on the application of analysis to the probability of decisions rendered by plurality of votes. Paris: Imprimerie Royale, 1785.

17. Baharad Eyal, Goldberger Jacob, Koppel Moshe, Nitzan Shmuel Beyond Condorcet: Optimal Aggregation Rules Using Voting Records. The Open Access Publication Server of the ZBW - Leibniz Information Centre for Economics. Cesifo working paper no. 3323 category 2: public choice january 2011.

18. Koriyama Yukio, Szentes Balazs A resurrection of the Condorcet Jury Theorem, Theoretical Economics, 2009, v.4, pp. 227-252.

Протасов Владислав Иванович. Д.т.н., доцент, профессор кафедры Цифровые технологии и информационные системы Московского авиационного института (национальный исследовательский университет), AuthorID: 520803, SPIN: 9455-1291, ORCID: 0000-0002-483-7209, protvlad@gmail.com, 125993, г. Москва, Волоколамское шоссе, д. 4.

Потапова Зинаида Евгеньевна. К.ф.-м.н., доцент, доцент кафедры Математическая кибернетика Московского авиационного института (национальный исследовательский университет, AuthorID: 180610, ORCID: 0000-0002-2718-1556, potapovaz@yandex.ru, 125993, г. Москва, Волоколамское шоссе, д. 4.

Мирахмедов Роман Октамович. Аспирант кафедры Цифровые технологии и информационные системы Московского авиационного института (национальный исследовательский университет), ORCID: 00000001-8930-0138, mirakhmedov@gmail.com, 125993, г. Москва, Волоколамское шоссе, д. 4.

Клименко Владислав Алексеевич. Студент 1-го курса магистратуры Московского физико-технического института (национальный исследовательский университет), ORCID: 0000-0001-8839-5753, vladklim21@gmail.com, 141701, Московская облазь, г. Долгопрудный, Институтский пер., 9.

UDC 519.87

D0I:10.38028/ESI.2023.29.1.002

Using the Monte - Carlo method and genetic programming to obtain a mathematical model of the method of evolutionary matching of solutions Vladislav I. Protasov1, Zinaida E. Potapova1, Roman O. Mirakhmedov1, Vladislav A. Klimenko2

1 Moscow Aviation Institute (National University), Russia, Moscow, protvlad@gmail.com

2 Moscow Institute of Physics and Technology (National University), Russia, Dolgoprudny

Abstract. The paper discusses a new decision-making method - the method of evolutionary decision matching, which has been developed over a number of years at the Moscow Aviation Institute. The theoretical substantiation of the method is given, using the Georg Rasch model and the Condorcet jury theorem. The method is based on the procedure of evolutionary coordination of the solution, built on the basis of genetic algorithms. To build a mathematical model of the method, genetic programming is used. The training sample was obtained based on calculations using the Monte Carlo model and a computer model of the evolutionary decision matching method. The analysis of the mathematical model showed a significant decrease in the probability of making mistakes when solving problems for any difficulty values.

Keywords: solution matching, problem difficulty, Rasch model, Condorcet theorem, genetic algorithms, genetic algorithms, error reduction

References

1. Forsyth R. Expert systems. Principles and case studies. London: Chapman and Hall, 1984, 231 p.

2. Grudin J. Computer-Supported Cooperative Work: Its History and Participation. Computer, 1994, v. 27 (4), pp. 19-26.

3. Gupta M.M., Sanchez,E. Approximate Reasoning in Decision Analysis. North-Holland Publishing Company, 1982, 455 p.

4. Gupta M.M. Approximate Reasoning in Expert Systems. North-Holland Publishing Company, 1985, 835 p

5. Veltman K. Computers and a new philosophy of knowledge. Frankfurt: Internftional Classification, 1991, v. 18, pp.2 - 2.

6. Protasov V., Charnine M., Melnikov E. The Crowdsourcing Linguistic Technology for Experts Assessment. Proceedings of the 2014 International Conference on Artificial Intelligence, Las Vegas: CSREA Press, 2014, v. II, pp. 656 - 661.