CC BY
34
УДК 651.012.123:519.86
КОНЦЕПЦИЯ СУБЪЕКТНО-ОРИЕНТИРОВАННОГО МОДЕЛИРОВАНИЯ МНОГОФАКТОРНЫХ РИСКОВВ МУЛЬТИАГЕНТНЫХ СИСТЕМАХ1
THEAGENT-BASED CONCEPT OF MULTIPLEFACTORRISKSMODELING IN MULTI AGENT SYSTEMS
Алексеев Александр Олегович,
кандидат экономических наук, докторант ФГБОУ ВПО «Пермский национальный исследовательский
политехнический университет» [email protected] AlekseevAlexanderO., PhD in Economics, doctoral student PermNationalResearchPolytechnicUniversity
Аннотация. В работе описаны основныеположения концепции субъектно-ориентированного моделирования многофакторных рисков в мультиагентных системах, расширяющейметодологический базис теорий принятия решений в условиях риска и управления многофакторными рисками, благодаря учёту человеческого фактора - субъективности принимаемых управленческих решений,являющимся одной из причин возникновения моральных рисков. Учёт человеческого фактора проявляется
Работа подготовлена при финансовой поддержке ФГБОУ ВПО «Пермский национальный исследовательский политехнический университет»
в моделировании предпочтений участников мультиагентных систем, активно влияющих на их поведение и процедуру выбора.
Abstract. The paper describes the fundamentals of agent-basedconcept of multiple factor risksmodelingin multi agent systems. This concept spreading the methodological basis of the decision science and risk management theory, due to accounting of the human factor - the subjectivity of decision making, is one of the causes of moral hazard. The account of the human factor is manifested in preferences modelingof participants of multi agent systems, actively influencing their behavior and selection.
Ключевыеслова: концепция, многофакторныериски, моральныериски, моделированиепредпочтений, процедуравыбора, комплексноеоценивание, имитационное моделирование поведения, агентное моделирование, субъектно-ориентированное моделирование, поведенческие эксперименты, имитационные деловые игры.
Keywords: concept, multiple factor risks, moral hazard, preference modeling, decision making, integrated assessment, behavior simulation, agent-based modeling, subject-based modeling, behavioral experiments, business simulation games.
ВВЕДЕНИЕ
В мультиагентных системах риски являются как следствием
объективной реальности, окружающей экономических агентов, так и
следствием субъективности принимаемых управленческих
решений.Субъективность принимаемых решений, в свою очередь,
порождает, так называемые моральные риски (от англ. moralhazard)[1],
природа которых объясняется человеческим фактором, выражающимся в
индивидуальном поведении агента, в соответствии с его умозаключением о
складывающемся окружении, предыстории развития и способности агента
прогнозировать перспективы развития. Для эффективного управления
мультиагентными системами необходим учёт всех существенных факторов
2
риска, в том числе моральных рисков, что может быть обеспечено путем моделирования поведения участников мультиагентных систем.
Стоит отметить, что моделирование поведения участников мультиагентных системотносится к агентному, или агентно-ориентированному (от англ. agent-basedmodeling) виду имитационного моделирования, описывающего изменение поведения моделируемого агента (группы агентов) или системы, состоящей из разных взаимодействующих агентов, при определённых условиях. В данной же работе используется понятие субъектно-ориентированного моделирования, поскольку акцент делается не на кумулятивном эффекте от взаимодействия отдельных агентов, а на субъективных причинах отличающегося поведения различных типов агентов.
Имитационное моделирование является не только эффективным методом исследования сложных объектов или систем, но и практически единственным, если невозможен реальный эксперимент на исследуемом объекте, что по праву можно отнести к мультиагентным системам. Кроме математического моделирования, ещё одним способом имитационного исследования является организация и проведение деловых имитационных игр с участием реальных людей, выполняющих некоторые профессиональные роли (роли агентов) и действующих по определённым правилам с заданными условиями игры целями и критериями их достижения, а также с участием автоматов, или программных агентов с формализованными моделями принятия решений (под автоматами понимается специальная программа, в которых реализован алгоритм поведения лица, принимающего решения [2]). Это определило методологический базис исследования.
Гетерогенный характер мультиагентных систем, выражающийся в
многообразии типов агентов и принимаемых ими решенийявляется причиной
не применимости существующих подходов к анализу и управлению рисками
в мультиагентных системах, что делает актуальным разработку нового
3
подхода к моделированию многофакторных рисков с учётом индивидуальных особенностей агентов.
АНАЛИЗ СОСТОЯНИЯ ПРОБЛЕМЫ
Среди многочисленных подходов к моделированию поведения людей условно выделяют[3] три основных направления: в первом направлении поведение людей предполагает использование постулата о рациональномповедении человека (в котором используется модель «экономического человека» или «homoeconomicus»). В его основе лежит стремление индивидуума получить максимальный результат при минимальных затратах, в условиях ограниченности используемых возможностей, ресурсов. Модели человека в рамках второго направления включают в себя стремление не только к материальным благам, но и определённые элементы психологического характера - милосердие, цели, связанные с традициями, соображениями престижа, использованием свободного времени и т.д. Для третьего направления характерно изменение мотивации деятельности в направлении возрастания значения тех или иных составляющих, которые обеспечивают реализацию не столько материальных, сколько духовных потребностей личности.
На поведение человека, его выбор и принятие решений активно влияют
субъективные предпочтения, индивидуальные каждому человеку.
Исследованию этого аспекта поведения людей посвящено множество
исследований, проводимых в рамках теории полезности (от англ. Utility
Theory), которые можно разделить на три направления, в первом из которых
субъективная полезность альтернативы предполагается измеримой в
некоторых единицах полезности, например, «утилах» (от англ. Utility -
полезность), в связи с чем это направление называют кардиналистической
(количественной, от англ. CardinalUtility) теорией полезности. В развитие
методов измерения кардиналистической полезности существенный вклад
внесли К. Дж. Эрроу, И. Фишери многие другие зарубежные
исследователи.Среди отечественных учёных, изучавших количественные
4
методы определения субъективной полезности, следует отметить Г.Г. Азгальдова, являющегося одним из авторов теории количественных методов оценивания качественных показателей - квалиметрии [4], В.В. Подиновского, разработавшего теорию важности критериев [5], применяющуюся для решения многокритериальных задач принятия решений. Альтернативный подходк решению многокритериального выбора, основанный на матричном комплексном оценивании многомерных объектов, был предложен в 70-е годы прошлого века В.В. Павельевым, С.Г. Глотовым и В.Н. Бурковым[6].Эти методы позже использовались и развивались в работах
A.В. Щепкина, В.Б. Гусева, А.М. Анохина, С.А. Баркалова,Д.А. Новикова,
B.А. Харитонова и многих других(см., например, [7-16]).Второе направление образует ординалистическая теория полезности (от англ. OrdinalUtility, порядковая), основанная на идее, что любой индивид, может упорядочить альтернативы по мере их полезности. Ординалистическую теорию полезности существенно обогатила концепция выявленных предпочтений (от англ. Revealed Preference Theory), разработанная П. Сэмуэльсоном[17]и Г. Хаутеккером[18]. Условно третье направление образуют подходы, являющиеся гибридом двух предыдущих, например, метод попарного сравнения, который основан на том, что,сравнивая некоторые альтернативы, индивид высказывает модальное суждение в отношении альтернативы, насколько, по его мнению, она лучше (хуже) другой, или индивид заключает, что сравниваемые альтернативы являются эквивалентными между собой, то есть одинаково для него предпочтительными. Данные подходы используются в некоторых приложениях теории нечётких множеств (от англ. FuzzySetTheory) [19], например, для определения функций принадлежности [20], а также используются для определения индексов важностичастных критериев в методе анализа иерархий(от англ. AnalyticHierarchyProcess)[21], предложенномТ. Саати.
Несмотря на то, что подходы к моделированию поведения людей
можно разделить по степени проявления их рациональности, источником
моральных рисковявляетсякак рациональноеповедениечеловека, особенно проявляющееся в задачах выбора, когда лицо, принимающее решение, осуществляет осознанный выбор с учётом индивидуальных предпочтений, так и иррациональное поведение.
Психологи экспериментально доказывают иррациональность поведения людей [22]и объясняют это различными режимами мышления человека, например, условно автоматическим, срабатывающим очень быстро, не требующим или почти не требующим усилий и не дающим ощущения намеренного контроля, и вторым режимом, требующим внимания, необходимого для сознательных умственных усилий. Для обозначения этих режимов мышления психологи используют термины: Система 1 и Система 2, изначально предложенные КейтСтанович и Ричардом Уэстом [22], которые также использует ДаниэльКанеман, лауреат Нобелевской премии по экономике, считающийся создателем поведенческой экономики. За выполнение обыденных и даже, в некотором смысле, рутинных действий отвечает Система 1, а за принятие уникальных решений, требующих осознанного обоснования, отвечает Система 2.
В другой работе [23], посвящённой теории принятия решений, предлагалось выделение группы элементов психической деятельности, влияющих на поступки людей: бессознательные, относящиеся к наиболее сильной компоненте системы предпочтений человека, уходящие корнями в бесчисленные нравственные, моральные, религиозные, этические традиции, чувства и потребности того народа, расы, к которой принадлежит индивид; тайные, относящиеся ко второй по значимости компоненте системы ценностей и предпочтений, осознаваемых человеком, но скрываемых от других; и открытые, осознаваемые и нескрываемые человеком, принадлежащие рациональной компоненте, формирующейся в процессе жизни человека в виде каузальных рядов.
В работе [24] предполагалась различная степень проявления этих
компонент в поведенческих ситуациях и управленческих задачах, в
последней из которых предполагалось доминирование открытой компоненты, над тайной и бессознательной, что, безусловно, не исключаетиррационального поведения в задачах выбора, но предполагает большее проявление сознательного, рационального элемента психической деятельности в процессе выбора и принятия решений.
Учёт моральных рисков, причиной которых является иррациональное поведение людей, при математическом моделировании их поведения не возможен, в связи с чем эти риски являются причиной неизбежной погрешности. Степень адекватности моделирования поведения участников мультиагентных систем в задачах выбора проверяют путём организации и проведения поведенческих экспериментов.
В области экспериментальных теории игр и экономики работы в данном направлении ведутся в первую очередь исследователями, позиционирующими свои исследования как экспериментальный дизайн механизмов - Arifovic J., Chen Y., Healy P., Ledyard J., Mathevet L. Кроме того, ключевые исследователи в области экспериментальной теории игр и экономики так же проводят исследования с отдельными механизмами, среди которых в настоящее время в первую очередь следует упомянуть коллективы, работающие под руководством Binmore K., Camerer C., Fehr E. RubinsteinA. и т.д.
В РФ действует целый ряд исследовательских коллективов, где
проводятся подобные исследования. В первую очередь, это Лаборатория
экспериментальной и поведенческой экономики при НИУ ВШЭ под
руководством Белянина А.В и Алескерова Ф.Т. и Лаборатория
экспериментальной экономики при МФТИ совместно с отделом
математического моделирования экономических систем ВЦ РАН под
научным руководством И.С. Меньшикова, лаборатории ЦЭМИ РАН и ИПУ
РАН, в частности лабораторию активных систем, возглавляемую
В.Н. Букровым, в которой деловые имитационные игры для исследования
механизмов управления в социально-экономических системах
разрабатывались и применялись с момента её основания в 70-х годах прошлого века. Стоит отметитьС.А. Баркалова, В.Ф. Бабкина и А.В. Щепкина,разработавших серию деловыхимитационных игр для исследования задач организации и управления строительством [25].Среди недавно сформировавшихсяисследовательских коллективовследует упомянуть коллектив, работающий под руководством В.А. Харитонова.
Для организации и проведения поведенческих экономических и теоретико-игровых экспериментов применяются такие программные средства, как z-Tree, GameWeb, CSIDframework, VCweb, MobLab, Doc-based, VeconLab, NetLogo: HubNet, ConG,DidacticWeb-
BasedExperimentsinGAMETHEORY и др.Среди российских разработок следует выделить программный комплекс AnyLogic, сочетающий в себе возможности одновременного использования нескольких подходов к имитационному моделированию (системная динамика, процессно-событийное моделирование и агентное моделирование).
Однако, несмотря на существованиемногочисленныхработ в областиоценки субъективной полезности альтернатив и моделирования предпочтений людей, а также разработанных специальных математических методов и инструментальных средств агентного моделирования, организации и проведения поведенческих экспериментов, сложившаяся на сегодняшний день парадигма анализа и управления рисками не в состоянии обеспечить эффективное управление многофакторными рисками в мультиагентных системах в условиях проявления человеческого фактора при принятии управленческих решений.
Проведённый анализ состояния проблемы определил цель исследования - разработать новую концепцию субъектно-ориентированного моделирования многофакторных рисков в мультиагентных системах. КОНЦЕПЦИЯ СУБЪЕКТНО-ОРИЕНТИРОВАННОГО МОДЕЛИРОВАНИЯ МНОГОФАКТОРНЫХ РИСКОВ
Концепция субъектно-ориентированногомоделирования
многофакторных рисков в мультиагентных системах базируется на следующих положениях.
Положение 1.В мультиагентных системахриски следует рассматривать как неизбежное условие, посколькуриски являются как следствием объективной реальности, являющейся внешним и внутренним окружением мультиагентной системы, так и следствием субъективности принимаемых участникамимультиагентной системы решений, что в совокупности с многообразием типов агентов и принимаемых ими решений порождает специфичный вид моральных рисков.
Положение 2. Для эффективного анализа и управления рисками в мультиагентных системах необходим учёт всех существенных факторов риска, в том числе моральных рисков.
Моральные риски порождаются как рациональным поведением людей, проявляющимся в задачах выбора, когда лицо, принимающее решение осуществляет осознанный выбор с учётом его предпочтений, так и иррациональным поведением,проявляющимся преимущественно при осуществлении регулярных, рутинных действий. Предпочтения участникамультиагентной системы определяют его индивидуальное отношение к свойствам объекта выбора (альтернативам, образующим множество допустимых действий) иего индивидуальноеповедение.
Положение 3. Учёт моральных рисков, причиной которых является субъективизм лиц, принимающих решения,должен строиться на основе моделирования их предпочтений и моделирования их поведения в задачах выбора.
В задаче выбора индивид осуществляет осознанный выбор, в связи с чем моделирование поведения участников мультиагентных систем возможно исключительно в задаче выбора, и, поскольку иррациональность людей в задаче выбора проявляется в меньшей степени в силу мыслительных
особенностей людей, она будет незначительно влиять на точность моделирования и прогнозирования их поведения.
Положение 4. Моделирование предпочтений и поведения участников мультиагентных систем должно строиться на основе формализации процедуры выбора альтернативы из множества допустимых действий.
Положение 5. Каждое действие участниковмультиагентной системы должно рассматриваться с позиции рискового событияи двойственности рискообразующих параметров: возможности возникновения рискового события (probaЫHtyofrisk) и размера ущерба в случае наступления рискового события (amountofrisk), а такжевыгоды, получаемой в качестве компенсации за принимаемые риски.
Положение 6. Бездействие участника мультиагентной системы следует рассматривать с позиции альтернативных действий, имеющих собственные риски, выгоду, последствия и шансы на их воплощение, что расширяет множество допустимых действий. Отношение к собственному бездействию или бездействию других агентов необходимо оценивать, используя модель предпочтений участника мультиагентной системы.
Положение 7. Процедуру выбора альтернативы из множества допустимых действий следует строить на базе допущения о рациональном поведении агента в задаче выбора, заинтересованного в максимизации своей целевой функции, или функции полезности. При этом целевая функция,или функция полезности должна учитывать нематериальные факторы, влияющие на выбор и принятие решений и принимать значения на множестве одномерного пространства, в котором сравниваются и ранжируются альтернативы.
Положение 8. Альтернативы, состояние которых описывается вектором свойств в фазовом пространстве, должны быть приведены из фазового пространства в критериальное (качественное, или квалиметрическое), что позволит осуществить свёртку свойств, гетерогенных
по отношению друг к другу в фазовом пространстве, благодаря появляющейся метрике критериального пространства.
Положение 9. Целевые функции, или функции полезности должны принадлежатьклассу непрерывных, кусочно-гладкихфункций свёртки, учитывать нелинейную связь факторов, влияющих на выбор и принятие решений, а также обладать возможностью оценивания свойств объектов нечисловой природы.
Этим свойствам удовлетворяют матричные механизмы комплексного оценивания, позволяющие формализовать индивидуальное отношение человека к факторам, оказывающим влияние на выбор и принятие решение, в виде составных правил вывода «если ..., то...». Непрерывность механизмов комплексного оценивания достигается благодаря нечёткойпроцедуре комплексного оценивания, использующей аддитивно-мультипликативный подход к операциям объединения и пересечения нечётких множеств, соответственно, обеспечивающим кусочную гладкость функции свёртки.
Положение 10. Эмпирическим базисом для идентификации параметров модели предпочтений участника мультиагентной системы, являющейся его математическим прообразом, должно служить поведение реального человека - носителя предметной области. Идентификация параметров модели предпочтений участника мультиагентной системы должно происходить во время специального поведенческого эксперимента в виде деловой имитационной игры.
Организация и проведение поведенческих экспериментов в виде деловых имитационных игр делает возможным сценарное моделирование и прогнозирование изменения мультиагентной системы в условиях многофакторных рисков при проявлении субъективности принимаемых управленческих решений.
Сценарное моделирование позволит отвечать на вопросы «что будет.,
если.», однако, для сценарного моделирования и прогнозирования
поведения участников мультиагентных систем в условиях
многофакторныхрисков необходимо уметь моделировать и прогнозировать существенные факторы риска и рискообразующие параметры, что требует привлечения специальных математических методов, специфичных предметной области ипротекающим в ней процессам и явлениям. В тоже время многовариантностьсценарного моделирования, превосходящая множество факторов риска, ограничит возможности поиска эффективного управления многофакторными рисками.
Положение 11. Модели предпочтений участников мультиагентных систем должны служить математическим базисом для создания искусственных участников деловой имитационной игры, или программных агентов, которых можно использовать для проведения многократных поведенческих экспериментов.
Многократное проведение поведенческих экспериментов в виде имитационных деловых игр с участием, как реальных людей, так и программных автоматов создаёт информационный базис для исследования различных способов управления многофакторными рисками в мультиагентных системах при проявлении моральных рисков.
Положение 12. Степень адекватности математического моделирования и прогнозирования поведения участников мультиагентной системы необходимо проверять путём организации и проведения поведенческих экспериментов. Однако необходимо помнить, что учёт моральных рисков, причиной которых является иррациональное поведение людей, при математическом моделировании их поведения не возможен, что является причиной неизбежной погрешности.
Положение 13. Управление многофакторными рисками в
мультиагентных системах при проявлении моральных рисков, как и в теории
управления организационными системами, может быть построено на основе
управления составом мультиагентной системы, управленияструктурой
взаимодействия её участников, управления множеством их допустимых
действий (институциональное управление), управления целевыми
12
функциями (мотивационное управление) и управления информированностью участников мультиагентных системах (информационное управление).
ЗАКЛЮЧЕНИЕ
Анализ и управление многофакторными рисками в первую очередь востребованы в экономических задачах, что с одной стороны определяет основную область применения предлагаемой концепции субъектно-ориентированного моделирования многофакторных рисков в мультиагентных системах, с другой стороны не ограничивает её область применения исключительно на экономических задачах. Предлагаемая концепция может также использоваться для анализа и управления многофакторными рисками в социальных, экологических и прочих задачах, где востребован учёт моральных рисков, проявляющихся при принятии управленческих решений.
Разработанная концепция субъектно-ориентированного моделирования
многофакторных рисков служит методологическим базисом для создания
имитационных моделей поведения участниковмультиагентных систем, что
позволит не только описывать, но и объяснять проявление, так называемых,
моральных рисков, источником которых является субъективизм принятия
управленческих решений. Разработанная концепция субъектно-
ориентированного моделирования многофакторных рисков по способу
отражения знаний в области анализа и управления рисками является
эссенциалистической (объяснительной), а не только феноменталистической
(описательной). Имитационные модели позволят проводить вычислительные
эксперименты путем изменения параметров модели, описывающих
предметную область с целью прогнозирования поведения участников
мультиагентной системы в складывающихся условиях и разрабатывать
соответствующие воздействия на состав мультиагентной системы, структуру
взаимодействия её участников, множество их допустимых действий, их
целевые функции и информированность. Это позволит разрабатываемой
концепции субъектно-ориентированного моделирования многофакторных
13
рисков выполнять прочие функции теории, к которым также относят предсказательную (прогностическую) и предписывающую (нормативную) функции.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Моральный риск [Электронный ресурс].Ц^: https://ru.wikipedia. org/wiki/%D0%9C%D0%BE%D 1%80%D0%B0%D0%BB%D 1%8C%D0 %BD%D 1%8B%D0%B9 %D 1%80%D0%B8%D 1%81%D0%BA (дата обращения 01.10.2014 г.)
2. Щепкин А.В. Игровое моделирование активных систем / Человеческий фактор в управлении / Под.ред. Н.А. Абрамовой, К.С. Гинсберга, Д.А.Новикова. - М.: КомКнига, 2006 - с. 475-486
3. Курс экономической теории: учебник - 4-е дополненное и переработанное издание / под общ.ред. проф. ЧепуринаМ.Н., КиселевойЕ.А. - Киров: «АСА», 1995 - 624 с.
4. Азгальдов Г.Г. Теория и практика оценки качества товаров (основы квалиметрии). - М.: Экономика, 1982. - 256 с.
5. Подиновский В.В. Введение в теорию важности критериев в многокритериальных задачах принятия решений. - М.: Физматлит, 2007. - 64 с.
6. Глотов В.А., Павельев В.В. Векторная стратификация. - М.: Наука, 1984 - 132 с.
7. Андроникова Н.Г. Бурков В.Н., Леонтьев С.В. Комплексное оценивание в задачах регионального управления - М.: ИПУ РАН, 2002. - 58 с.
8. Анохин А.М. Гусев В.Б. Павельев В.В. Комплексное оценивание и оптимизация на моделях многомерных объектов. - М.: ИПУ РАН, 2003. - 79 с. (Научное издание / Институт проблем управления им. В.А. Трапезникова РАН)
9. Андроникова Н.Г., Леонтьев С.В., Новиков ДА. Процедуры нечёткого комплексного оценивания // Современные сложные системы управления: Тр. межд. науч.-пр. конф. - Липецк, 2002. - С. 7-8.
10. Бурков В.Н., Зимоха В.А. Цыганов В.В. Методология и принципы автоматизированной комплексной количественной оценки результатов деятельности НИИ и КБ // Приборы и системы управления. - 1982. - №3. - С.41-43
11. Бурков В.Н., Новиков Д.А. Как управлять проектами. М.: Синтег, 1997. - 190 с.
12. Гусев В.Б., Павельев В.В. Использование непрерывных шкал при оценивании и принятии решений в сложных проблемных ситуациях. М.: ИПУ РАН, 2013. - 118 с.
13. Гусев В.Б. Согласование критериев принятия решений при целевом планировании // Сибирский журнал индустриальной математики. 2005. том VIII, № 2 (22). С. 32-45.
14. Алгоритмические основы нечеткой процедуры комплексного оценивания объектов различной природы / А.О. Алексеев и др. // Фундаментальные исследования. - 2014. - № 3 (часть 3). - С. 469-474. URL: www.rae.ru/fs/?section=content&op=show_article&article_id=10002965 (дата обращения: 07.05.2014).
15. Алексеев А.О., Алексеева И.Е. Процедуры нечеткого комплексного оценивания объектов различной природы // XII Всероссийское совещание по проблемам управления (ВСПУ 2014), г. Москва, 16-19 июня 2014 г. - М.: ИПУ РАН, - 2014. - С. 7884-7893 [Электронный ресурс]. URL: http://vspu2014.ipu.ru/proceedings/prcdngs/7884.pdf
16. Харитонов В. А., Винокур И. Р., Белых А. А. Функциональные возможности механизмов комплексного оценивания с топологической интерпретацией матриц свёртки // Управление большими системами. Выпуск 18. - М.: ИПУ РАН, 2007. - С. 129-140.
17. Paul A. Samuelson. Consumption theory in terms of revealed preference -Economica, 1948.Vol. 15, No. 60, pp. 243-253
18. Houthakker, H. Revealed preference and the utility function - Economica, 1950. Vol. 17, No. 66,pp. 159-174.
19. ЗадеЛ. Понятиелингвистической переменной и его применение к принятию приближенных решений / перевод Н.И. Ринго, под ред. Н.Н. Моисеева и С.А. Орловского. - М.: Изд-во «МИР», 1976. - 167 с.
20. Обработка нечёткой информации в системах принятия решений / А.Н. Борисов и др. - М.: Радио и связь, 1989. - 304с.
21. Саати Т. Л. Принятие решений. Метод анализа иерархий. — М.: Радио и связь, 1989. — 316 с.
22. Думай медленно ... решай быстро: [перевод с английского] / Даниэль Канеман. -Москва: АСТ, 2014. - 653, [3] с.
23. Балдин К.В., Воробьев С.Н. Управленческие решения: теория и технологии принятия. Учебник для вузов. - М.: Проект, 2004. - 304 с.
24. Харитонов В.А., Алексеев А.О. Концепция каузальности в управлении социально-экономическими системами // Управление экономическими системами: электронный научный журнал. 2013, №10 [Электронный ресурс]. URL: http://uecs.ru/instrumentalnii-metody-ekonomiki/item/1575-2012-09-29-07-43-15
25. Баркалов С.А., БабкинВ.Ф., ЩепкинА.В. Деловые имитационные игры в организации и управлении: учебное пособие - М.: АСВ, 2003. - 200 с.
THELISTOFREFERENCES
1. Moral'nyi risk [Moral hazard], available at: https://ru.wikipedia. org/wiki/%D0%9C%D0%BE%D 1%80%D0%B0%D0%BB%D 1%8C%D0 %BD%D 1%8B%D0%B9 %D 1%80%D0%B8%D 1%81%D0%BA
2. Shhepkin A.V. Igrovoemodelirovanieaktivnyhsistem [Game modeling of active systems], Chelovecheskijfaktor v upravlenii, Pod. red. N.A. Abramovoj, K.S. Ginsberga, D.A. Novikova. (Human factor in the management, undersupervision by N.A. Abramova, K.S. Ginsberg, D.A.Novikov), Moscow. KomKniga Publ., 2006. pp. 475-486
3. Chepurin M.N., Kiseleva E.A. Kursjekonomicheskojteorii: uchebnik - 4-e dopolnennoeipererabotannoeizdanie [The course of economic theory a tutorial - 4th enlarged and revised edition,under supervision by prof. Chepurina M.N., Kiseleva E.A.], Kirov: ASA Publ., 1995 - 624 p.
4. Azgal'dov G.G. Teorijaipraktikaocenkikachestvatovarov (osnovykvalimetrii) [Theory and practices of commodity quality assessment (fundamentals of qualimetrics)], Moscow. Jekonomika Publ., 1982. 256 p.
5. Podinovskij V. V. Vvedenie v teorijuvazhnostikriteriev v mnogokriterial'nyhzadachahprinjatijareshenij [Introduction to the theory of criteria importance in the multicriteria challenges of decision-making]. Moscow, Fizmatlit Publ., 2007. 64 p.
6. Glotov V.A., Pavel'ev V.V. Vektornajastratifikacija [Vector stratification], Moscow, Nauka Publ., 1984, 132 p.
7. Andronikova N.G. Burkov V.N., Leont'ev S.V. Kompleksnoeocenivanie v zadachahregional'nogoupravlenija [Integrated assessment in regional management problems], Moscow, of V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences, 2002. 58 p.
8. Anohin A.M. Gusev V.B. Pavel'ev V.V. Kompleksnoeocenivanieioptimizacijanamodeljahmnogomernyhob#ektov [Integrated assessment and optimization on models of multi-criteria objects], Moscow, Publ. of of V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences, 2003. 79 p.
9. Andronikova N.G. Leont'ev S.V. Novikov D.A. Procedurynechetkogokompleksnogoocenivanija [Fuzzy integrated assessment procedures] Trudy mezhdunarodnojnauchno-prakticheskojkonferencii "Sovremennyeslozhnyesistemyupravlenija". (Proc. int. conf. "Modern difficult control systems", Lipeck city, Lipeckiy state technical university, march 12-14 2002), 2002. pp. 7-8.
10. Burkov V.N., Zimoha V.A. Cyganov V.V. Metodologija I
principyavtomatizirovannojkompleksnojkolichestvennojocenkirezul'tatovdejatel'nosti NII i KB
16
[Methodology and principles of automated complex quantitative performance evaluation research institutes and design departments] -Priboryisistemyupravlenija. 1982, No. 3, pp. 41-43
11. Burkov V.N., Novikov D.A. Kakupravljat' proektami [How to manage projects?], Moscow, Sinteg Publ., 1997. 190 p.
12. Gusev V.B., Pavel'ev V.V. Ispol'zovanienepreryvnyhshkalpriocenivaniiiprinjatiireshenij v slozhnyhproblemnyhsituacijah [Using a continuous scale in assessing and decision-making in complex problem situations], Moscow, Publ. of V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences, 2013. 118 p.
13. Gusev V.B. Soglasovaniekriterievprinjatijareshenijpricelevomplanirovanii [Matching criteria for decision-making in the target planning] - Sibirskijzhurnalindustrial'nojmatematiki. 2005. Vol. VIII, No. 2 (22). pp. 32-45.
14. A.O. Alekseev [and others] Algoritmicheskieosnovynechetkojprocedurykompleksnogoocenivanijaob#ektovrazlichnojprirody [Algorithmic basics of fuzzy procedure of integrated assessment of different object nature] -Fundamental'nyeissledovanija. 2014. No. 3 (part 3). pp. 469-474. Available at: www.rae.ru/fs/?section=content&op=show_article&article_id=10002965
15. Alekseev A.O., Alekseeva I.E. Procedurynechetkogokompleksnogoocenivanijaob#ektovrazlichnojprirody [Procedures of fuzzy integrated assessment of difference objects nature] XII Vserossijskoesoveshhaniepoproblemamupravlenija VSPU 2014 (XII-th All-Russian Conference on Control Science, Moscow city, June 16-19, 2014), Moscow, Publ. of V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences, 2014. p. 7884- 7893 available at: http://vspu2014.ipu.ru/proceedings/prcdngs/7884.pdf
16. Haritonov V. A., Vinokur I. R., Belyh A. A. Funkcional'nyevozmozhnostimehanizmovkompleksnogoocenivanij a s topologicheskojinterpretaciej matric svertki [Functional abilities of integrated assessment mechanisms with a topological interpretation of matrix convolutions] -Upravleniebol'shimisistemami, 2007, Vol. 18. Moscow, Publ. of V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences, pp.129-140. available at: www.ubs.mtas.ru
17. Paul A. Samuelson. Consumption theory in terms of revealed preference -Economica, 1948. Vol. 15, No. 60, pp. 243-253
18. Houthakker, H. Revealed preference and the utility function - Economica, 1950. Vol. 17, No. 66, pp. 159-174.
19. Zade L. Ponjatielingvisticheskojperemennoji ego primenenie k prinjatijupriblizhennyhreshenij [The concept of a linguistic variable and its application to the making of approximate decisions]. Moscow, MIR Publ., 1976. 167 p.
20. A.N. Borisov [and others] Obrabotkanechjotkojinformacii v sistemahprinjatijareshenij [Processing fuzzy information in decision-making systems], Moscow, Radio isvjaz' Publ., 1989. 304p.
21. Saati T. L. Priniatiereshenii. Metodanalizaierarkhii. [Decision making. Analytic Hierarchy Process]. Moscow, Radio isvjaz' Publ., 1989. 316 p.
22. Thinking, fast and slow by Daniel Kahneman,Publ. Brockman, Inc. 2011 - 512 p., ISBN 0374275637
23. Baldin K.V., Vorob'ev S.N. Upravlencheskieresheniia: teoriiaitekhnologiipriniatiia. Uchebnikdliavuzov [Management decisions: theory and technology of making]. Moscow,Proekt Publ., 2004. - 304 p.
24. Kharitonov V.A., Alekseev A.O. Kontseptsiiakauzal'nosti v upravleniisotsial'no-ekonomicheskimisistemami [Concept of causality in socio-economics systems management]-Upravlenieekonomicheskimisistemami: elektronnyinauchnyizhurnal. 2013, No. 10,available at: http://uecs.ru/instrumentalnii-metody-ekonomiki/item/1575-2012-09-29-07-43-15
25. Barkalov S.A., Babkin V.F., Shchepkin A.V. Delovyeimitatsionnyeigry v organizatsiiiupravlenii: uchebnoeposobie[Business simulation games in organization and management]. Moscow,Publ. of Association of Civil Construction High Schools, 2003. - 200 p.
