CC BY
2
УДК 519.878 Вестник СПбГУ. Прикладная математика. Информатика... 2024. Т. 20. Вып. 2
МБС 90В40
Принцип максимума энтропии в теории принятия решений
А. Н. Прокаев
Санкт-Петербургский институт информатики и автоматизации — Научно-техническое бюро высоких технологий, Российская Федерация, 199178, Санкт-Петербург, 14-я линия В. О., 39
Для цитирования: Прокаев А. Н. Принцип максимума энтропии в теории принятия решений // Вестник Санкт-Петербургского университета. Прикладная математика. Информатика. Процессы управления. 2024. Т. 20. Вып. 2. С. 154-169. https://doi.org/10.21638/spbu10.2024.203
Традиционно принцип максимума энтропии используется для нахождения неизвестных законов распределения случайных величин. В теории принятия решений данный принцип применяется преимущественно в ситуации неопределенности относительно распределения вероятности гипотез о «состоянии среды», где под средой понимается совокупность параметров, влияющих на результат принимаемого решения. Рассмотрено использование принципа максимума энтропии с иной целью, а именно для оптимального распределения ресурсов различного вида. Приведены доказательства теорем, позволяющих создать алгоритмы решения разных задач распределения ресурсов на основе принципа максимума энтропии, а также примеры решения демонстративных задач. Ключевые слова: теория информации, теория принятия решений, теория поиска, теория ожидаемой полезности, функция полезности, принцип максимума энтропии.
1. Введение. Принцип максимума энтропии (ПМЭ) был сформулирован Э. Джейнсом [1, 2], его суть заключается в следующем. Предположим, дискретная случайная величина X может принимать значения х\,... ,хп с вероятностями Р1,... ,рп. Значения вероятностей неизвестны, но известно, например, математическое ожидание или второй начальный момент некоторой функции / (х) данной случайной величины. Требуется определить распределение вероятностей рх,... ,рп. Так называемый «формализм Э. Джейнса» состоит в том [1, с. 622], что в условиях недостатка информации о случайной величине X «наименее сомнительным» считается такое распределение вероятностей, которое максимизирует функцию информационной энтропии К. Шеннона [3] с учетом наложенных на величину X ограничений. Функция энтропии имеет вид
где К — константа, соответствующая выбранному основанию логарифма, которое, в свою очередь, может быть любым. Согласно Джейнсу [1, с. 622], «ПМЭ можно рассматривать как распространение принципа недостаточного основания Бернул-ли — Лапласа с тем отличием, что оно однозначно допускает позитивное соображение о наибольшей изменчивости недостающей информации вместо негативного соображения об отсутствии оснований предложить что-либо другое». Там же Джейнс указывает, что, поскольку выражение (1) отвечает формуле энтропии в статистической механике, термины «энтропия» и «неопределенность» используются им как синонимы.
© Санкт-Петербургский государственный университет, 2024 154 https://doi.org/10.21638/spbu10.2024.203
п
(1)
Следует заметить, что ПМЭ, в силу своей неочевидности, был принят не сразу и не всеми. В статье [4], а также в ряде последующих работ (например, [5]) Джейнс дает детальную «отповедь» своим оппонентам. Тем не менее библиография, посвященная критике ПМЭ, до сих пор остается достаточно обширной (см. [6-9]). Некоторые из работ (в частности, [7]) даже имеют названия, созвучные с «манифестом» Джейнса [4]. Кроме сомнений в справедливости самого принципа, ПМЭ обсуждается с точки зрения его назначения, области применимости и особенно часто его взаимосвязи с теоремой Байеса.
Однако, несмотря на достаточно противоречивое к нему отношение, ПМЭ в настоящее время широко используется в самых различных предметных областях. Так, в [10] приведена библиография из 144 работ, связанных с применением ПМЭ в биологии. Нас же будет интересовать роль ПМЭ в теории принятия решений (ТПР).
2. Четвертая информационная ситуация. В настоящее время научное направление, объединяемое общим названием ТПР, имеет два основных течения, которые условно назовем «объективное» и «субъективное». «Субъективным» будем именовать направление, которое стало предметом научного исследования с выходом в свет работы Дж. фон Неймана и О. Моргенштерна [11]. Оно исследует «рациональное поведение» человека в процессе принятия решения, прежде всего в экономической области. Развитием такого направления стали теория отношения к риску Л. Сэвиджа и М. Фридмана, теория перспектив А. Тверски и Д. Канемана и др.
В свою очередь, «объективным» направлением будем именовать подход к задаче принятия решения, существующий в исследовании операций [12, с. 120]. Здесь математическая модель принятия решения в самой общей форме имеет вид и = /(х, у), где х обозначает управляемые переменные, у — неуправляемые, а и — показатель эффективности деятельности, т. е. ожидаемую ценность, полезность, степень достижения заданного состояния и т. д. Далее в целях общности изложения функцию и будем именовать функцией полезности. Кроме того, в модель могут входить ограничения у>(х, у) ^ 0. Очевидно, что в ситуации, когда случайные факторы имеют большое значение (в ситуации неопределенности), выразить и в виде простой функции от х и у сложно — в этом случае говорят о принятии решения в условиях неопределенности. Тем не менее «объективное» направление ТПР предполагает, что необходимая для принятия решения информация имеется или она может быть получена в объеме, достаточном для решения указанного уравнения, а математические методы, позволяющие это сделать, существуют. Далее, говоря о ТПР, будем иметь в виду только «объективное» направление и только ту его часть, которая связана с ситуацией неопределенности, понимая при этом, что указанное деление достаточно условно.
В работе [13] Р. И. Трухаев предпринял попытку формализовать процесс принятия решения органом управления (ОУ). Совокупность факторов, влияющих на решение ОУ, именуется здесь «состоянием среды», совокупность возможных состояний среды представляет собой вектор С = {с1,..., ст}. В свою очередь, Б = {¿1,..., ]п} — это множество возможных решений ОУ, а Г = {/^} — матрица оценочных функционалов, г = 1,..., т, ] = 1,..., п, /^ = /(с^, ). Тогда, согласно [13, с. 13], проблема принятия решения {С, Б, Г} состоит в выборе соответствующего решения с] на основании принятого ОУ критерия. В свою очередь, данная проблема характеризуется основными факторами {I, К, Д}, где I — информационная ситуация, К — множество критериев принятия решения, Д — система правил принятия решений на основе критериев [13, с. 13]. Далее Р. И. Трухаев вводит классификацию информационных ситуаций (ИС) на основе информации, влияющей на выбор решения ОУ.
Он рассматривает шесть ИС: Iх,... ,16. Например, характеризуется заданным распределением априорных вероятностей на элементах е; множества С, 1з — заданной системой предпочтений на априорных вероятностях распределения элементов множества С и т. д. Нас здесь будет интересовать только ИС 14, которая характеризуется неизвестным распределением вероятностей на элементах множества С.
Для разрешения указанной неопределенности Р. И. Трухаев предлагает использовать формализм Э. Джейнса, согласно которому наиболее вероятным распределением вероятностей р; состояния среды С будет распределение, при котором энтропия (1) имеет максимум с учетом всей имеющейся информации (ограничений). Далее он [13, с. 100-108] приводит примеры нахождения экстремальных распределений р; для трех случаев. В первом случае о среде С не известно ничего (ограничения отсутствуют), ПМЭ предписывает назначить всем исходам равные вероятности, решением данной задачи будет равномерное распределение р% = Во втором случае в качестве ограничения выступает величина математического ожидания оценочного функционала /к для каждого решения с4 (ограничение первого типа), а в третьем — величины /к и его дисперсии (ограничение второго типа).
В работах [14, 15] рассматривается использование ПМЭ для решения задачи поиска структуры эффективного инвестиционного портфеля. Так, в [14] вводится понятие «состояние экономической среды», каждое из которых характеризуется вероятностью реализации , ^П=1 Яз = 1, в котором п — число состояний. Тогда, если имеет место четвертая ИС, т. е. о поведении экономической среды нет никакой информации, согласно [14, с. 114], следует применить «энтропийный подход»: Н(д) = — Яз 1п qj —> тах, что соответствует равенству значений Щ = В этой
работе [14, с. 115] определенные таким образом оценки состояния экономической среды <3 могут применяться в формулах величин, характеризующих нормы прибыли
2 -
активов: математического ожидания доходности то; и дисперсии 72 г -го актива, где
Еп ^2 X—^п 2 Л 2
з=1 гчЯз, <2 = ¿^з=1 г3Яз — т2, а Тгз — норма доходности г-го актива в ]-м состоянии экономической среды. По мнению авторов [14], полученная таким образом структура инвестиционного портфеля обладает наименьшим уровнем риска.
В [15] исследуется целевой показатель портфеля С(х) = ^п=х х;С;, где х; — доля г-го актива в инвестиционном портфеле, С; — целевой показатель, значение которого характеризует степень достижения инвестором цели (например, доход) по г-му активу. Формирование портфеля осуществляется в условиях неопределенности по показателям С;, имеющей вероятностную природу, при этом диапазоны [С^, С\ ] изменения показателей С; известны, а показатели для различных активов статистически независимы. Предполагается [15, с. 48], что в ситуации, когда относительно случайной величины известен лишь диапазон ее возможных значений, распределением с максимальной энтропией является равномерное распределение на заданном интервале. Исходя из этих предположений, исследуется функция полезности вида и(х) = —е-аС(х), где в — положительная величина, отражающая степень несклонности инвестора к риску. Решением является вектор х, максимизирующий целевую функцию и(х) для заданных значений в и интервалов [С^, С^].
В качестве предварительного вывода можно заключить, что ПМЭ в ТПР используется нечасто и преимущественно «по прямому назначению», т. е. для нахождения вероятностных распределений «состояния среды» в условиях неопределенности. При этом чаще всего он применяется в «урезанной версии», т. е. в «версии» принципа недостаточного основания Бернулли — Лапласа, что выражается в использовании равномерного распределения по причине полной неопределенности о «состоянии сре-
ды», а также отсутствия каких-либо ограничений или информации о них. Работы, в которых получен ощутимый практический результат (см. [15]), являются скорее исключением.
3. Принятие решения в условиях неопределенности как задача поиска. В [16, с. 114] рассматривается «система с максимальной полезностью», которую можно описать следующим образом.
Пусть х1,..., хп — количество товаров, покупаемых потребителем по ценам соответственно С1,..., сп, исходя из общего бюджета В. Потребитель максимизирует функцию полезности и = и(х), х = {хз- ^ 0}, ] = 1,..., п, В = ^^ хз-сз. Лагранжиан будет иметь вид
Ь = и (х) + А (В хй Ч), (2)
з
где А — множитель Лагранжа. Тогда количество товара х, максимизирующее функцию полезности и, является решением системы
д V дхз
= А сз. (3)
С точки зрения количественной теории полезности (например, [17, с. 100]) выражение в левой части уравнения (3) представляет собой так называемую «предельную полезность» ]-го товара, а само уравнение есть закон спроса А. Маршалла [17, с. 104], согласно которому предельная полезность блага пропорциональна его цене.
Доля ^'-го товара в общем бюджете В составляет р^ = —^, тогда функцию полезности можно представить в виде и = и(р), р = {рз- ^ 0}, ] = 1,... ,п, ^^рз- = 1. Лагранжиан (2) примет вид
Ь = и(р) + А - £рз^ , (4)
и вектор р, максимизирующий функцию полезности и, есть решение системы
т- =А (5)
дрз
Пусть на функцию полезности накладываются ограничения
/к (рз) = Як, (6)
где к = 1,..., К; К — количество ограничений; дк - константы, например значения математического ожидания или дисперсии ]-го элемента вектора и. Тогда функцию Лагранжа (4) запишем так:
Ь = и(р)+ А - рз^ + 2 <"к(Як - /к), (7)
здесь цк — множитель Лагранжа, связанный с к-м ограничением. В этих условиях вектор р, максимизирующий функцию полезности и, является решением системы
ди \ , ^ д/к СйЧ
Предположим, что роль функции полезности и выполняет дисперсия некоторого «инвестиционного портфеля», которую необходимо минимизировать, и = ртБр, где Б — ковариационная матрица портфеля, элементы вектора р — доли «активов» в портфеле. Тогда ограничение имеет вид стр = г, здесь с — вектор стоимости активов, содержащихся в портфеле, г — вектор их заданной доходности. В этом случае решение системы (8) будет представлять собой решение классической задачи портфельной оптимизации по Г. Марковицу [18]. Отметим далее, что, если цена товара сз не является константой, рассмотренная задача анализа «системы с максимальной полезностью» (далее для краткости будем именовать ее как «задача полезности») превращается в задачу ТПР в условиях неопределенности, поскольку вероятностное распределение рз «состояния среды» становится неизвестным.
В работах [19, 20] рассмотрена задача поиска следующего вида. Предполагается [19, с. 28], что известно априорное дискретное распределение, показывающее степень нашей уверенности о местонахождения объекта поиска, — вероятностное распределение на конечном множестве из п ячеек, именуемое «областью J». Объект поиска (назовем его «целью») может находиться только в одной из ячеек у с вероятностью рз, у = 1,..., п, ^П=1 рз = 1. Для каждой ячейки у существует функция обнаружения 6(х3-), представляющая собой условную вероятность обнаружения цели в ячейке у поисковыми усилиями объемом х3- при условии, что цель находится в ячейке у. Решением задачи поиска является план поиска — функция распределения поисковых усилий /, которая определяет количество поисковых усилий х3-, распределенных в ячейку у. Пусть ¥ — это множество функций распределения поисковых усилий. Для функции распределения / можно вычислить вероятность обнаружения
п
Р (/) = £ рз Ь(хз) (9)
з=1
и требуемое количество поисковых усилий, или ресурс поисковых усилий, С(/) = ЕП= 1 хз'. Пусть М > 0 — это ограничение на ресурс поисковых усилий. Тогда поисковый план /* € ¥, оптимальный для ресурса М, если С(/*) ^ М и Р(/*) ^ Р(/) для всех / £ ¥ при условии С(/) ^ М. В [19, 20] предполагается, что поиск ведется не одновременно во всех п ячейках, а поэтапно, путем обследования т ячеек в ходе одного этапа, 1 ^ т ^ п, при этом как предельное число этапов поиска К ^ 1, так и лимит поискового ресурса М могут быть не известны. Далее под задачей поиска будет подразумеваться только задача данного вида.
Сравнение задачи поиска с рассмотренной выше задачей полезности показывает, что они имеют много общего, а формально — практически идентичны. Покажем это на следующем примере. После поиска в ячейке у усилиями объемом х3- априорная вероятность р3- нахождения цели в ней уменьшится на величину р3-6(х3-) и будет равна
Ч3 = рз - рзЬ (хз). (10)
Можно заметить (см. выражение (9)), что р3-6(х3-) есть вероятность обнаружения цели в ячейке у усилиями х3-, обозначим ее = р3-6(х3-). Тогда апостериорная вероятность р'э нахождения цели в ячейке у составит
ф.= Р*-™* =_Ш__(11)
р3 \ -Тп ит 1-У™ «;•' '
1 3=1 шз 1 3=1 шз
где ^П=1 т3 — сумма вероятностей обнаружения цели во всех ячейках, где выполнялся поиск (далее — ячейки поиска).
Теперь предположим, что рассмотренное априорное распределение р3- («область 7») — это распределение долей (товаров, природных ресурсов, финансовых активов и др.) в некотором наборе (потребительской корзине, инвестиционном портфеле, бюджете и т. д.), здесь ру = Ху — количество компонентов j-гo вида в наборе, с3- — их стоимость, В — совокупная стоимость всех компонентов набора. Указанный набор будем именовать далее как портфель или бюджет, а его компоненты — как активы, виды ресурсов, товары или по «традиции» — ячейки, имея в виду, что это не более чем условно.
Пусть 6(23) есть функция, представляющая собой условный прирост доли ресурса ]-го вида за счет вложения ресурсов, или, иначе, средств (например, финансовых), объемом 23 при условии, что исходная доля составляет р3-. Решением задачи является план распределения — функция распределения ресурсов /, которая определяет количество средств 23, выделенных для приобретения ресурса ]-го вида, или, по аналогии с поиском, «распределенных в ячейку ]». Пусть Р — это множество функций распределения ресурсов. Для функции распределения / можно вычислить суммарный относительный прирост «стоимости» ресурсов
п
Р (/)=Е(1 — Рз )6(2з ) (12)
3=1
и требуемое количество средств С(/) = ^П=1 23. Пусть М > 0 — это ограничение на затраты. Тогда план распределения /* € Р является оптимальным для ограничения М, если С(/*) < М и Р(/*) > Р(/) для всех / € Р при условии С(/) < М.
После вложения в ячейку ] ресурса объемом 23 доля р3- увеличится на величину (1 — Р3.)6(23) и примет вид
Я3 = Р3 + (1 — Р3)6 (23). (13)
Можно заметить (см. (12)), что (1 — р3-)6(23-) есть относительный прирост доли ресурса ]-го вида за счет вложения средств объемом 23, обозначим ее как —и>3- = (1 — Р3.)6(23). Знак «минус» перед и>3- означает, что изменение и>3- в ситуациях поиска и «пополнения бюджета» имеет противоположную направленность. Тогда апостериорная «вероятность» (в рассматриваемом случае доля) р'3 также будет определяться формулой (11), из чего следует, что обе задачи являются аналогичными задачами распределения ограниченных ресурсов.
С учетом сказанного, рассмотрим данные задачи как две взаимосвязанные операции. Поскольку в ходе первой операции р3- уменьшается, заменим слово «поиск» словом «расходование». При расходовании (продаже) ресурс (например, денежных средств) высвобождается, поэтому обозначим величину ад? в (11) как = р3-6(23). В свою очередь, при пополнении (покупке) ресурс расходуется, поэтому величину и>3-в выражении (11) обозначим как и>— = —(1 — р3-)6(23-). Предположим, что некоторая часть ресурсов нескольких видов продается и на вырученные средства покупаются ресурсы других видов. В обоих случаях апостериорная доля ресурса ]-го вида может быть выражена формулой (11) при следующем условии: если ресурс ]-го вида расходуется, то и>3- = , а если пополняется, то и>3- = wJ.
Таким образом, рассмотренные задачи поиска и полезности являются аналогичными задачами ТПР в условиях неопределенности, различие между которыми состоит только в источнике указанной неопределенности. В задаче поиска вероятностное распределение — это плод нашей «фантазии», поскольку местонахождение цели неизвестно. В задаче полезности источником неопределенности служит вола-тильность.
4. Энтропия как функция полезности. Теперь вернемся к вопросу о функции полезности и определимся с понятиями. В рассмотренных выше задачах величина Р(/) (выражения (9), (12)) играет роль «общей» функции полезности, т. е. функции полезности всего набора («области J»). В свою очередь, в состав Р(/) входит величина «функции обнаружения» Ь(х3-), которая представляет собой условный прирост доли ]-го ресурса за счет вложения средств объемом х3-, т. е. является «частной» функцией полезности ресурса ]-го вида.
В работе [19] показано, что Р(/) имеет максимум в том случае, когда в ячейках поиска «функция отклика» Ь (х3-) р3- принимает равные значения, здесь Ь (х3-) — производная от Ь(х3-) по г. Данное решение «классическое» не только для теории поиска, оно имеет достаточно широкое распространение. Например, отражает второй закон Г. Госсена из области экономики, утверждающий, что максимум полезности потребляемых благ за ограниченный период времени достигается в том случае, если предельные полезности благ одинаковы [17, с. 101]. В работе [19] сделаны следующие выводы о влиянии вида функции Ь (х3-) на решение задачи поиска. Одновременное достижение максимума вероятности обнаружения Р(/) и равенства «остаточной информации» (апостериорной вероятности (11)) в ячейках поиска возможно в единственном случае — если функция Ь (х3-) является экспоненциальной. «Классическое» решение задачи поиска (а также аналогичных ей задач из других предметных областей, см. выше) возможно только, когда Ь (х3-) < 0. Если Ь (х3-) ^ 0, то решение может удовлетворять критерию максимума Р(/), но при этом противоречить логике. Заметим, что в разных областях деятельности функции полезности могут быть различного вида (см. [17, с. 92; 22, с. 67]), т. е. условие Ь (х3-) < 0 выполняется далеко не всегда.
С учетом сказанного рассмотрим в качестве функции полезности энтропию распределения р:
п
Н = -£ рз 1П рз . (14)
3=1
В [19, с. 40] сделан вывод о том, что наиболее информативным является такой алгоритм поиска, при котором апостериорная энтропия Н после каждого очередного этапа поиска имеет максимум. В свою очередь, в [20, с. 354] доказано, что максимум энтропии достигается при условии равенства апостериорной вероятности (11) в ячейках поиска вне зависимости от вида функции Ь (х3-).
В чем еще заключаются смысл и преимущества использования функции энтропии в качестве функции полезности? Рассмотрим некоторые из них.
1. Функция энтропии Н монотонно возрастает от п и принимает наибольшее значение, если все р3- равны [19, с. 38]. Указанное свойство позволяет использовать функцию энтропии в тех областях, где имеет место рост полезности и при увеличении п. Например, диверсификация финансовых активов способствует снижению уровня инвестиционного риска. В работе [21, с. 29] приведен график зависимости общего финансового риска от числа видов ценных бумаг, включенных в инвестиционный портфель. Из него следует, что инвестиционный риск имеет тенденцию к экспоненциальному уменьшению по мере роста количества видов ценных бумаг в портфеле, а при их увеличении до 40-50 принимает постоянное значение, равное так называемой систематической составляющей риска.
2. Функция Н допускает «оптимизацию по частям» — рост Н в любой части распределения р3- ведет к увеличению Н всего распределения [19, с. 38].
3. Задача максимизации энтропии Н формально эквивалентна задаче максимизации функции полезности и(р), а вектор р, максимизирующий функцию энтропии Н, есть решение системы, аналогичной системе (8). Действительно, если на систему (8) накладываются те же ограничения (6), лагранжиан принимает вид
ь = Н + л — 2Р3^ + м*(д* — /*),
т. е. будет аналогичен выражению (7). Подставив в левую часть уравнения (8) выражение для энтропии (14), после незначительных преобразований получим, что
-\ripj - 1 = А + У^Мй^- (15)
дР3
к 13
4. В случае отсутствия ограничений (6) решение системы (15) не отличается от решения системы (5) для любой функции полезности и — им является равномерное распределение р^ = ^.
5. Практическая задача. Величину и>+ будем называть «доходом», а и>— — «расходом». Поскольку доходная и расходная части и>3- имеют разный знак, обозначим величину Р = ^П=1 и>3 как «прибыль», при этом, если Р < 0, будем использовать традиционный термин «убыток». Изменения ресурса 23 будем именовать «затратами», соответственно положительными («продажа», «пополнение» (бюджета)) или отрицательными («покупка», «расходование» (средств)), суммарные затраты обозначим
С = Е П=123.
Задача. Имеется некоторое вероятностное 'распределение р = |р3- ^ 0}, ] = 1,..., п, Е3 р3 = 1. Необходимо перераспределить ресурсы 23 между ячейками так, чтобы энтропия (14) достигла максимума с учетом возможных ограничений:
• расходуются ресурсы 0 ^ т1 ^ п видов, а пополняются — 0 ^ т2 ^ п видов;
• суммарные затраты С ^ М, прибыль Р ^ д, где М и д — некоторые константы;
• количество видов пополняемых ресурсов равно в, при этом ] = 1,...,п + в, рп + 1 = ... = = 0.
Словом «задача» будем обозначать именно эту задачу с указанием конкретных ограничений. Для лучшего понимания излагаемого рассмотрим простой пример.
Предположим, формируем инвестиционный портфель, в котором предполагается наличие активов четырех видов: акции, облигации, недвижимость и золото. Известно, что риск, который принимает на себя инвестор, определяется соотношением долей активов в портфеле (пример выбора такого соотношения для портфеля с указанным составом активов приведен в [23, с. 16]). Пусть общая стоимость портфеля инвестора составляет В, тогда доля активов з'-го вида в портфеле р^ = где х^ — количество ценных бумаг актива ]-го вида, С3 — их стоимость. Предположим, что инвестор, исходя из своего отношения к риску, выбрал следующие соотношения долей: акции р1 = 0.1, облигации р2 = 0.2, недвижимость рз = 0.3 и золото р4 = 0.4. Введем коэффициент к л = где в приведенном примере р • т;п = 0.1, и представим пре-
образованную величину вероятности в виде = ^ . Здесь р^ примет равные
значения р3 = 0.25, а энтропия такого распределения будет максимальна. Затем, по мере изменения цены активов С3, в силу рыночных или иных причин, значения р3- будут изменяться, а энтропия распределения р3- уменьшаться. Исходные вероятности р3-
также изменятся, их можно определить по формуле р.- = —7—г-. Коэффициенты
ЕДтг-рз)
к сохраняются неизменными в течение всего времени проведения операций с «портфелем» до тех пор, пока инвестор не изменит своего отношения к риску. Поскольку все величины, составляющие бюджет В = Е^ с3, являются переменными, под В понимается его текущее значение.
Увеличить энтропию с целью приведения долей активов к исходному соотношению можно различными способами.
Пусть распределение р имеет вид, представленный на рис. 1, а: предполагается, что исходное распределение р было преобразовано к виду р так, как указано выше, а затем претерпело изменения под воздействием каких-либо факторов. В работах [19, 20] рассматриваются функции обнаружения нескольких видов, их графики приведены в [19, с. 32]. В качестве частной функции полезности будем использовать одну «универсальную» функцию Ъ(2), график которой иллюстрирует рис. 1, б. Эта функция построена на основе показательной функции
1 - (1 - к^^У , г > ак, - (1- , г < ак,
Ф)= Л Л 1.\!-ак\ V \ (16)
где параметры 0 < к ^ 1 и а определяют соответственно масштаб и сдвиг функции по шкале 2, а параметр г задает ее форму и степень кривизны. Если г > 1, то Ъ(2) является функцией, выпуклой вверх (кривая 1), если 0 < г < 1 — выпуклой вниз (кривая 3), если г =1 — линейной функцией (прямая 2).
Рис. 1. Распределение априорной вероятности (а) и функции полезности (б)
Объяснение в тексте.
Смысл функции Ъ(2) заключается в следующем. Если к =1 и г =1, то затрата ресурса в объеме 23 = к означает, что доля ']-го ресурса р израсходована (продана) полностью, доход составил р В. В свою очередь, пополнение ресурса в объеме —23 означает, что доля ]-го ресурса увеличилась на 1 — р, расход составил (1 — р )В. Поскольку при г = 1 функция Ъ(2) является линейной, то изменение дохода или расхода происходит пропорционально затратам 23. Если же Ъ(2) выпукла вверх (вниз), то в данном процессе имеет место отставание (опережение). В свою очередь, параметр а определяет величину «издержек», например комиссию биржевого брокера.
Решение задачи основано на результатах, полученных в [20]. Согласно теореме 1 в [20], если при поиске в ячейке в априорная вероятность ря уменьшится до значения = 7 (см. [20, с. 350]), то апостериорная энтропия Н достигнет максимума. Согласно теореме 3 в [20], если в какой-либо из ячеек области S величина вероятности ря не превышает значения 7, то поиск в данной ячейке не приводит к увеличению Н.
Однако следует заметить, что в работе [20] речь идет только о поиске объектов, поэтому приложение поисковых усилий 23 может приводить только к уменьшению вероятности р3-, но никак не к ее увеличению. В условиях же данной задачи «вероятность» может расти: как указано выше, после вложения в ячейку в ресурса объемом доля ря становится больше на величину (1 — р8)Ь(.28) и примет значение (формула (13)), т. е. имеет место соотношение ря > р8. Тем не менее можно убедиться, что и в этих условиях увеличение ря до значения = 7 приводит апостериорную энтропию Н к максимуму. Дело здесь в том, что при доказательстве теоремы 1 (см. [20, с. 351]) знак величины Дря = ря — ря не оговаривался, поэтому полученные в [20] результаты справедливы, в том числе и для ситуации р я > ря.
Согласно следствию 4 [20, с. 354], для достижения максимума энтропии условная вероятность Ь (гя) обнаружения цели в ячейке в области поиска Б должна быть равна Ь (ге) = 1 — -р. Получение аналогичного соотношения в ситуации р8 < 7 произведем из условия = 7, где определяется выражением (13): 7 = ря + (1 — ря)Ь (гя). Тогда вероятность Ь ) можно представить в виде
\ - I1 ~ Р>> ^ 7 '
Примеры решений, представленные на рис. 2-4, выполнены для следующих значений параметров: к = 1, г = 0.3 (функция Ь(г) выпукла вниз), а = 0.03.
0.2
0.1
0.0
0.2
0.1
0.0
-0.1
□
□
1 2 3 4 5 6 7
9 10 ]
123456789 10
Рис. 2. Распределение ресурсов по критерию максимума энтропии без ограничения на число ячеек (Р = 0 (а), С = 0 (б))
Варианты решения задачи при распределении ресурсов 23 без ограничений на количество ячеек иллюстрирует рис. 2. В отсутствие других ограничений задача имеет бесконечное число решений. Исходя из этого, на рис. 2, а приведено решение с ограничением на «прибыль» Р = 0, суммарные затраты составляют С = 0.577.
Pj
0.10
0.05
0.2
0.1
0.0
0.00 -
1 23456789 10
~J
12 3456789 10
~J
Рис. 3. Апостериорное распределение вероятности (а) и распределение ресурсов (б) по критерию максимума энтропии с ограничением на число ячеек
0.10 -
0.05 -
0.00^
Рис. 4- Апостериорное распределение вероятности (а) и распределение ресурсов (б) по критерию максимума энтропии с вводом дополнительных ячеек
В свою очередь, на рис. 2, б дано решение с ограничением на суммарные затраты C = 0, в этом случае «убыток» составляет P = -0.24. Для функции b(z), выпуклой вверх (r = 3), графики будут иметь похожий вид, но в случае P = 0 суммарные затраты составят C = 1.138, а при C = 0 «убыток» будет равен P = -0.295.
В обоих примерах энтропия H достигает максимума Hmax = ln n, поскольку апостериорное распределение pj становится равномерным, Pj = Решение при Р = 0 определяется следующей теоремой.
Теорема 1. Если после перераспределения ресурсов Zj между ячейками j = 1 ,...,п вероятность pj изменит,ся до значения qj = т,о Н = Hmax = Inn, а P = 0.
Доказательство. Величина P («прибыль») P = ™=1 Wj есть сумма «доходов» w+ = pjb(zj) и «расходов» w— = -(1 — Pj)b(zj), взятых со своими знаками. В свою очередь, (см. выражение (11)), Pj = qj + Wj. Таким образом, можно записать,
что P = Еn=i w+ + Еn=i w—, где n+ — количество ячеек, для которых выполняется 164 Вестник СПбГУ. Прикладная математика. Информатика... 2024. Т. 20. Вып. 2
условие pj —qj>0,n = n — n+. Поскольку qj = q = то q является математическим ожиданием распределения , откуда следует, что Yhj=i = — J=i , т. е. P = 0. Ну и поскольку qj = то в соответствии с (11) Pj = т. е. Н = Нтах = Inn. □ Аналитическое решение задачи с другими ограничениями на P или C, по нашему мнению, более сложное. Например, его можно получить путем введения указанных ограничений в функцию Лагранжа при доказательстве теоремы 1 (см. [20, с. 350]), однако такое решение может быть только для функции полезности конкретного вида. Решение, приведенное на рис. 2, б, найдено методом итераций путем подбора подходящего значения q3 = q.
Исключение составляет лишь линейная функция b(z), для которой решение может быть получено с использованием теоремы 9 (см. [20, с. 365]). Как и в работе [20], под ячейками s области S далее понимаются ячейки j = 1,..., s,..., m, между которыми выполняется перераспределение ресурсов, m = mi + m2. С учетом особенностей данной задачи (возможность не только расходования, но и пополнения содержимого ячеек), если из некоторой ячейки s ресурс zs расходуется, то будем именовать ее ячейкой s+ области S + , а также использовать обозначения p+ и z+. Если, напротив, содержимое ячейки s пополняется, будем именовать ее ячейкой s- области S-, а также использовать обозначения p- и z—.
Теорема 2. Пусть функция полезности b(z) вида (16) является линейной (r = 1, a = 0), а суммарные затраты равны M. Тогда количество ресурсов zs, которое необходимо 'распределить в ячейки s для достижения максимума апостериорной энтропии Hj, определяется выражениями
+ 1 miЛ 1 _ 1 m2 л 1
где
mi 1 m-2
= Ps Е ~Т' =(i~Ps)^2
+ ' s \ -1 s / /_у —
1 j j=1 1 — Pj
Ai
a2
Ml = M + M2, M2 =
х \ р?
^ = ~ + " ) + {~рГ~) (^Г
Доказательство. Согласно лемме 1 (см. [19, с. 38]), рост энтропии в некоторой части области J ведет к ее увеличению во всей области ^ при этом максимум апостериорной энтропии НJ имеет место при достижении равенства апостериорной вероятности ря в ячейках области Б. В соответствии с теоремой 9 [20, с. 365] для линейной функции Ь(2) количество поисковых усилий, которое необходимо приложить в ячейке в для достижения равенства апостериорной вероятности ра в ячейках области Б, определяется выражением г8 = (М — + в котором х8 = 1 (]Г")' 3 = 1, • • •, з,..., то, то — количество ячеек поиска, М = —
поисковый ресурс. С учетом особенностей данной задачи (возможность пополнения содержимого ячеек) запишем, что М = Мх — М2, а Мх = ^^=1 2+, М2 = ^.
Тогда г+ = £ (М, - Щ-) + 1, = ± (М2 - + 1, где = ф>
Ет2 / 1—
3=1 Ч-рТ-1-
Следует заметить, что условие в € выполняется в том случае, если р8 ^ 7, в котором 7 определяется теоремой 1 (см. [20, с. 350]), в противном случае в € Б-. Поскольку М1 и М2 являются искомыми величинами, то уравнение М = М1 — М2 имеет бесконечное число решений. Для нахождения значений М1 и М2, при которых выполняется условие д+ = д—, приравняем д+ (см. формулу (10)) и д— (см. формулу (13)), подразумевая в них под р8 любое из значений, соответственно р+ и р—:
Р+ — Р+ Ъ (2+) = Р— + (1 — Р—) Ъ (2—) ,
здесь Ъ (2Я) определяется выражением (16) для условий данной теоремы (г = 1, а = 0). В результате алгебраических преобразований получим приведенные выше выражения для М1 и М2. □
Выше указывалось, что решение, приведенное на рис. 2, б, получено методом итераций путем подбора подходящей величины д3 = д. Уточним, что суть метода заключалась в подборе значений М1 и М2 для функции полезности выбранного вида, удовлетворяющих условию д+ = д— с учетом заданных ограничений на величины М и Р.
Рассмотрим решение задачи с ограничением на количество ресурсов: пусть количество видов расходуемых Ш1 и пополняемых Ш2 ресурсов равно, например, Ш1 = т2 = 2. Для выбора ячеек, перераспределение ресурса между которыми дает максимальный прирост энтропии ДН = Н/ —Н/, воспользуемся теоремой 5 (см. [20, с. 359]), утверждающей, что максимум ДН достигается при поиске в той ячейке области J, в которой р максимальна. Тогда с учетом рассмотренных выше отличий данной задачи от задачи поиска расход ресурса должен производиться из ячеек 5 и 6, а пополнение — в ячейки 1 и 10. Такое решение можно представить, например, как продажу части активов 5 и 6 с последующим использованием вырученных средств для пополнения активов 1 и 2.
На рис. 3 приведено решение данной задачи с ограничением только на число ячеек: графики апостериорного распределения вероятности р^- (а) и распределения ресурсов 23 (б) по критерию максимума энтропии.
При ограничении только на число ячеек (рис. 3) максимум энтропии достигается при Р = 0.035 и С = 0.389, а его значение выше, чем максимумов энтропии, получаемых в условиях дополнительных ограничений. При наличии указанных ограничений графики будут иметь внешнее сходство, но при ограничении на «прибыль» Р = 0 суммарные затраты составят С = 0.335, а при ограничении на ресурс С = 0 будет иметь место «убыток» Р = —0.15.
Следует заметить, что для функции Ъ(2) любого другого вида графики апостериорного распределения вероятности будут идентичны представленным на рис. 3, а, отличия имеют место только в распределении ресурсов (см. рис. 3, б). Например, для функции Ъ(2), выпуклой вверх (г = 3), при ограничении Р = 0 суммарные затраты будут равны С = 0.665, а при С = 0 «убыток» составит Р = —0.158.
Наконец, рассмотрим решение задачи при наличии всех ограничений, указанных в условии. Предположим, что т-1 = 3, ! = 2, т. е. появляются два новых вида ресурсов, их формирование (покупка) производится за счет трех ресурсов из числа имеющихся. Тогда исходное априорное распределение р будет содержать уже 12 ячеек, где р11 = р12 = 0. За исключением этого данная задача ничем не отличается от рассмотренной
выше, для ее решения также воспользуемся теоремой 5 (см. [20, с. 359]). На рис. 4 приведено решение такой задачи с ограничением только на число ячеек. В этом случае максимум энтропии принимает наибольшее значение и достигается при P = 0.074 и C = 0.686. При ограничении на «прибыль» P = 0 суммарные затраты составят C = 0.55, а при ограничении на ресурс C = 0 будет иметь место «убыток» P = -0.23.
Как указывалось выше, для функции b(z) любого другого вида графики апостериорного распределения (рис. 4, а) будут идентичными, но распределение ресурсов (рис. 4, б) будет отличаться. Например, для функции b(z), выпуклой вверх (r = 3), при ограничении P = 0 суммарные затраты составят C = 1.17, а при C = 0 «убыток» будет равен P = -0.235.
6. Заключение. Настоящая статья является логическим продолжением работ [19, 20]. Э. Джейнс утверждал, что теория информации должна иметь точную, аналитически демонстрируемую всеобъемлющую связь не только с теорией поиска, но и с оптимальным планированием в любой области, поскольку любая оптимальная стратегия — это только процедура, использующая априорную информацию для достижения поставленной цели настолько эффективно, насколько это возможно [24, с. 17]. Цель представленной статьи — очередное подтверждение данной идеи и дальнейшее установление этой «аналитически демонстрируемой связи».
Литература
1. Jaynes E. T. Information theory and statistical mechanics // Physical Review. 1957. Series II. N 4. P. 620-630. https://dx.doi.org/10.1103%2FPhysRev.106.620
2. Jaynes E. T. Information theory and statistical mechanics. II // Physical Review. 1957. Series II. N 2. P. 171-190. https://dx.doi.org/10.1103%2FPhysRev.108.171
3. Shannon C. E. A mathematical theory of communication // Bell System Techn. Journal. 1948. Vol. 27. N 4. P. 623-656.
4. Jaynes E. T. Where do we stand on maximum entropy? // Maximum Entropy Formalism. Cambridge, MIT Press, 1978. P. 15-118.
5. Jaynes E. T. The relation of Bayesian and maximum entropy methods // Maximum entropy and Bayesian methods in science and engineering. Dordrecht, Netherlands: Kluwer Academic Publ., 1988. Vol. 1. P. 25-29.
6. Dias P. M., Shimony A. A critique of Jaynes' maximum entropy principle // Advances in Applied Mathematics. 1981. Vol. 2. P. 172-211.
7. Mohammad-Djafari A. Maximum entropy and Bayesian inference: where do we stand and where do we go? // Bayesian inference and maximum entropy methods in science and engineering. 2006. Vol. 872. Iss. 11. P. 3-14.
8. Grendar M. jr., Grendar M. Maximum entropy: Clearing up mysteries // Entropy. 2001. Vol. 3. Iss. 2. P. 58-63. https://doi.org/10.3390/e3020058
9. Neapolitan R. E., Jiang X. A note of caution on maximizing entropy // Entropy. 2014. Vol. 16 (7). P. 4004-4014. https://doi.org/10.3390/e16074004
10. De Martino A., De Martino D. An introduction to the maximum entropy approach and its application to inference problems in biology // Heliyon. 2018. Vol. 4 (4). P. 314-344.
https: //doi.org/10.1016/j.heliyon.2018.e00596
11. Нейман Дж. фон, Моргенштерн О. Теория игр и экономическое поведение / пер. с англ.; под ред. и с доб. Н. Н. Воробьева. М.: Наука, 2014. 708 c.
12. Акоф Р., Сасиени М. Основы исследования операций / пер. с англ.; под ред. И. А. Ушакова. М.: Мир, 1971. 533 с.
13. Трухаев Р. И. Модели принятия решений в условиях неопределенности. М.: Наука, 1981.
257 с.
14. Королев О. Л., Куссый М. Ю., Сигал А. В. Применение энтропии при моделировании процессов принятия решений в экономике. Симферополь: Изд-во «ОДЖАКЪ», 2013. 148 с.
15. Михно В. Н. Модель максимальной энтропии для формирования инвестиционного портфеля // Вестник Тверского государственного университета. Прикладная математика. 2017. № 1. С. 45-55.
16. Вильсон А. Дж. Энтропийные методы моделирования сложных систем / пер. с англ. Ю. А. Дубова; под ред. Ю. С. Попкова. М.: Наука, 1978. 246 с.
17. Гераськин М. И. Математическая экономика: учебник. Самара: Изд-во Самарского государственного аэрокосмического университета, 2011. 176 с.
18. Markowitz H. M. Portfolio selection // The Journal of Finance. 1952. Vol. 7 (1). P. 77-91. https: / / edisciplinas.usp.br / mod / resource / view.php?id=1413077
19. Прокаев А. Н. Принцип максимума энтропии в теории поиска // Вестник Санкт-Петербургского университета. Прикладная математика. Информатика. Процессы управления. 2023. Т. 19. Вып. 1. С. 27-42. https://doi.org/10.21638/11701/spbu10.2023.103
20. Прокаев А. Н. Теоретические основы решения задач поиска методом максимума энтропии // Вестник Санкт-Петербургского университета. Прикладная математика. Информатика. Процессы управления. 2023. Т. 19. Вып. 3. С. 348-368. https://doi.org/10.21638/11701/spbu10.2023.304
21. Лисица М. И. Оценка доходности и риска финансовых инвестиций: учебник. СПб.: Изд-во Университета при Межпарламентской Ассамблее ЕврАзЭС, 2018. 226 с.
22. Добрина М. В. Функции полезности и их применение в моделировании портфельных решений // Современная экономика: проблемы и решения. 2017. Вып. 8 (92). С. 64-76. https://doi.org/10.17308/meps.2017.8/1748
23. Бакулин А. Г. Индексное инвестирование. 2021. 82 с. URL: https://artem-bakulin.github.io/latex/papers/index-investing/ (дата обращения: 19 января 2024 г.).
24. Jaynes E. T. Entropy and search theory // Maximum-entropy and Bayesian methods in inverse problems. Fundamental theories of physics. Dordrecht, Netherlands: Springer, 1985. Vol. 14. P. 1-18.
Статья поступила в редакцию 3 февраля 2024 г. Статья принята к печати 12 марта 2024 г.
Контактная информация:
Прокаев Александр Николаевич — д-р техн. наук, доц.; prokaev@bk.ru
The maximum entropy principle in decision theory
A. N. Prokaev
St. Petersburg Federal Research Center of the Russian Academy of Sciences — Hi Tech Research and Development Office Ltd, 39, 14-ya liniya V. О., St. Petersburg, 199178, Russian Federation
For citation: Prokaev A. N. The maximum entropy principle in decision theory. Vestnik of Saint Petersburg University. Applied Mathematics. Computer Science. Control Processes, 2024, vol. 20, iss. 2, pp. 154-169. https://doi.org/10.21638/spbu10.2024.203 (In Russian)
Traditionally, the principle of maximum entropy is used to find unknown distribution of random variables. In decision theory, this principle is used primarily in situations of uncertainty regarding the probability distribution of hypotheses about the "state of the environment," where the environment is understood as a set of parameters that influence the result of the decision made. This paper considers the use of the principle of maximum entropy for a different purpose, namely for the purpose of optimal distribution of resources of various types. A proof of theorems is given that make it possible to create algorithms for solving various problems of resource allocation based on the principle of maximum entropy, as well as examples of solving demonstrative problems.
Keywords: information theory, decision theory, search theory, expected utility theory, utility function, maximum entropy principle.
References
1. Jaynes E. T. Information theory and statistical mechanics. Physical Review, 1957, Series II, no. 4, pp. 620-630. https://dx.doi.org/10.1103%2FPhysRev.106.620
2. Jaynes E. T. Information theory and statistical mechanics. II. Physical Review, 1957, Series II, no. 2, pp. 171-190. https://dx.doi.org/10.1103%2FPhysRev.108.171
3. Shannon C. E. A mathematical theory of communication. Bell ¡System Techn. Journal, 1948, vol. 27, no. 4, pp. 623-656.
4. Jaynes E. T. Where do we stand on maximum entropy? Maximum entropy formalism. Cambridge, MIT Press, 1978, pp. 15-118.
5. Jaynes E. T. The relation of Bayesian and maximum entropy methods. Maximum entropy and Bayesian methods in science and engineering. Dordrecht, Netherlands, Kluwer Academic Publ., 1988, vol. 1, pp. 25-29.
6. Dias P. M., Shimony A. A critique of Jaynes' maximum entropy principle. Advances in Applied Mathematics, 1981, vol. 2, pp. 172-211.
7. Mohammad-Djafari A. Maximum entropy and Bayesian inference: where do we stand and where do we go? Bayesian inference and maximum entropy methods in .science and engineering, 2006, vol. 872, iss. 11, pp. 3-14.
8. Grendar M. jr., Grendar M. Maximum entropy: clearing up mysteries. Entropy, 2001, vol. 3, iss. 2, pp. 58-63. https://doi.org/10.3390/e3020058
9. Neapolitan R. E., Jiang X. A note of caution on maximizing entropy. Entropy, 2014, vol. 16 (7), pp. 4004-4014. https://doi.org/10.3390/e16074004
10. De Martino A., De Martino D. An introduction to the maximum entropy approach and its application to inference problems in biology. Heliyon, 2018, vol. 4 (4), pp. 314-344.
https: //doi.org/10.1016/j.heliyon.2018.e00596
11. Neumann J. von, Morgenstern O. Theory of games and economic behavior. Princeton, Princeton University Press, 1953, 707 p. (Rus. ed.: Neumann J. von, Morgenshtern O. Teoriya igr i ekonomicheskoe povedenie. Moscow, Nauka Publ., 2014, 708 p.)
12. Ackoff R. L., Sasieni M. W. Fundamentals of operations research. New York, John Wiley & Sons, Inc. Publ., 1967, 455 p. (Rus. ed.: Ackoff R. L., Sasieni M. W. Osnovi issledovaniya operatsiy. Moscow, Mir Publ., 1971, 533 p.)
13. Trukhaev R. I. Modeli priniatiya resheniy v usloviyakh neopredelionnosti [Models of decision making in conditions of uncertainty]. Moscow, Nauka Publ., 1981, 257 p. (In Russian)
14. Koroliov O. L., Kussiy M. Y., Sigal A. V. Primenenie entropii pri modelirovanii protsessov priniatiya resheniy v ekonomike [Application of entropy in modeling decision-making processes in economics]. Simferopol, ODSHAK Publ., 2013, 148 p. (In Russian)
15. Mikhno V. N. Model maksimalnoy entropii dlia formirovaniya investitsionnogo portfelia [Maximum entropy model for forming an investment portfolio]. Vestnik of Tver State University. Applied Mathematics, 2017, no. 1, pp. 45-55. (In Russian)
16. Wilson A. G. Entropy in urban and regional modelling. London, Pion Ltd., 1978, 248 p. (Rus. ed.: Wilson A. G. Entropiynie metodi modelirovaniya sloshnikh sistem. Moscow, Nauka Publ., 1978, 246 p.)
17. Geraskin M. I. Matematicheskaya ekonomika [Mathematical economics]. Textbook. Samara, Samara State Aerospace University Publ., 2011, 176 p. (In Russian)
18. Markowitz H. M. Portfolio selection. The Journal of Finance, 1952, vol. 7 (1), pp. 77-91. https: //edisciplinas.usp.br/mod/resource/view.php?id=1413077
19. Prokaev A. N. Printsip maksimuma entropii v teorii poiska [The maximum entropy principle in search theory]. Vestnik of Saint Petersburg University. Applied Mathematics. Computer Science. Control Processes, 2023, vol. 19, iss. 1, pp. 27-42. https://doi.org/10.21638/11701/spbu10.2023.103 (In Russian)
20. Prokaev A. N. Teoreticheskie osnovi resheniya zadach poiska metodom maksimuma entropii [Theoretical fundamentals for search problems solving using maximum entropy method]. Vestnik of Saint Petersburg University. Applied Mathematics. Computer Science. Control Processes, 2023, vol. 19, iss. 3, pp. 348-368. https://doi.org/10.21638/11701/spbu10.2023.304 (In Russian)
21. Lisitsa M. I. Otsenka dohodnosti i riska finansobikh investitsiy [Assessing the profitability and risk of financial investments]. Textbook. St. Petersburg, University of Interparliamentary Assembly of EurAsES Publ., 2018, 226 p. (In Russian)
22. Dobrina M. V. Funktsii poleznosti i ih primenenie v modelirovanii portfelnikh resheniy [Utility functions and their application in modeling portfolio decisions]. Sovremennaya ekonomika: problemi i resheniya [Modern economy: problems and solutions], 2017, iss. 8 (92), pp. 64-76.
https://doi.org/10.17308/meps.2017.8/1748 (In Russian)
23. Bakulin A. G. Indeksnoe investiroanie [Index investing]. 2021, 82 p. Available at: https://artem-bakulin.github.io/latex/papers/index-investing/ (accessed: January 19, 2024).
24. Jaynes E. T. Entropy and search theory. Maximum-entropy and Bayesian methods in inverse problems. Fundamental theories of physics. Dordrecht, Netherland, Springer, 1985, vol. 14, pp. 1-18.
Received: February 3, 2024.
Accepted: March 12, 2024.
A u t h o r's i n fo r m a t i o n:
Aleksandr N. Prokaev — Dr. Sci. in Technics, Associate Professor; prokaev@bk.ru
