CC BY
11
^естЯис геаЯлуи, январь, 2022, № 1 УДК 548.121 DOI: 10.19110^еоу.2022.1.4
Из опыта преподавания. IX. Энтропия выпуклого полиэдра
Ю. Л. Войтеховский
Геологический институт ФИЦ КНЦ РАН, Апатиты Санкт-Петербургский горный университет, Санкт-Петербург Уоу1екИоувк1у_ [email protected]
Статья посвящена применениям категории энтропии в естественных науках, главным образом в минералогии и кристаллографии, для описания сложности минеральных парагенезисов и кристаллических структур. Показано, что термодинамическая, информационная и статистическая энтропии, определенные независимо в разных дисциплинах, не копируют друг друга. Они не пересчитываются друг в друга и согласуются на уровне общих принципов. Статистическая энтропия как мера сложности систем, охарактеризованных вероятностными распределениями параметров, есть всегда их свертка с потерей информации. Как шкала сложности, она неравномерно искривлена в разных областях поля вероятностей. Статья приурочена к 85-летию со дня рождения Н. П. Юшкина.
Ключевые слова: термодинамическая энтропия, информационная энтропия, статистическая энтропия, беспорядок, сложность, аддитивность, полуаддитивность, антиполуаддитивность.
From teaching experience. IX. Entropy of the convex polyhedron
Yu. L. Voytekhovsky
Geological Institute of FRC KSC RAS, Apatity Saint Petersburg Mining University, Saint-Petersburg
The article is devoted to the applications of the entropy category in the natural sciences, mainly in mineralogy and crystallography to describe the complexity of mineral parageneses and crystal structures. It is shown that thermodynamic, informational and statistical entropy, defined independently in different disciplines, do not copy each other. They are not recalculated into each other and agree at the level of general principles. Statistical entropy as a measure of the complexity of systems characterized by probability distributions of parameters is always their convolution with loss of information. As a scale of complexity, it is unevenly curved in different areas of the probability field. The article is dedicated to the 85th anniversary of the birth of N. P. Yushkin.
Keywords: thermodynamic entropy, informational entropy, statistical entropy, disorder, complexity, additivity, semi-additivity, antisemi-additivity.
В 2021 году исполнилось 85 лет со дня рождения Н. П. Юшкина. В связи с этой датой представляется уместным обсудить на страницах основанного им научного журнала идеи смежных наук, адаптированные им к применению в минералогии. В данном случае нас интересует категория энтропии как важная составная часть генетико-информационного анализа минеральных систем [9, с. 125-135, 168-185]. Сегодня она столь же популярна в биологии благодаря работе [3], и даже в гуманитарных науках. После онтогенеза / онтогении (в части минералогии мы имеем в виду учение Д. П. Григорьева) это вторая концепция, совместно используемая минералогами и биологами. Если первая относится к минеральным и биологическим индивидам, то вторая — к их сообществам, т. е. парагенезисам и биоценозам.
История определения и математические свойства энтропии богаты деталями, которые рассмотрены далее. Как представляется, Н. П. Юшкин — автор работ по истории минералогии, счел бы это полезным. После исторического введения и анализа определений энтропия обсуждается нами применительно к выпуклым
полиэдрам. Это выглядит необычно, но лишь на первый взгляд, т. к. кристаллы — тоже выпуклые полиэдры. Впрочем, в самом общем смысле выпуклые полиэдры — это планарные трехсвязные графы, вершины, ребра и грани которых могут иметь разные содержательные интерпретации. А где разнообразие — там и энтропия, если только оно охарактеризовано вероятностями. Статья содержит математические выкладки, самые сложные вынесены в приложения. Наш опыт преподавания показал, что они вполне доступны заинтересованным студентам-геологам.
Из истории вопроса
Понятие энтропии предложено Р. Клаузиусом в термодинамике в 1865 г. как приращение теплоты в системе при данной абсолютной температуре, т. е. как макроскопическая характеристика «качества» полученной/отданной теплоты. Она оказалась камнем преткновения для физиков, т. к. её не удавалось выразить через микроскопические параметры в статистической механике, т. е. через механизм столкновения молекул.
Для цитирования: Войтеховский Ю. Л. Из опыта преподавания. IX. Энтропия выпуклого полиэдра // Вестник геонаук. 2022. 1(325). C. 44-53. DOI: 10.19110/geov.2022.1.4.
For citation: Voytekhovsky Yu. L. From teaching experience. VIII. Entropy of the convex polyhedron. Vestnik of Geosciences, 2022, 1(325), pp. 44-53, doi: 10.19110/geov.2022.1.4.
Качественный скачок в понимании энтропии совершил Л. Больцман в 1872 г., предложив её интерпретацию через «термодинамическую вероятность» — число микроскопических состояний системы, отвечающих одному макроскопическому состоянию. Термодинамически закрытая система должна самопроизвольно эволюционировать от менее вероятного состояния к более вероятному с ростом энтропии. Эти два принципа согласованы им a priori. Именно из этих условий он вывел формулу S = k ln Wx, где S — энтропия, k — постоянная Больцмана, Wx — термодинамическая вероятность. История вопроса доступно изложена в книге П. Шамбадаля [6]. К. Шеннон [7] и Э. Альфен [10] независимо друг от друга нашли ту же формулу в рамках математической теории информации и попу-ляционной статистики соответственно. Как сообщает А. А. Юшкевич [8], Э. Альфен получил этот результат в 1939-1940 гг., т. е. раньше К. Шеннона.
Категория энтропии быстро распространилась в научном мире и ныне представляет собой междисциплинарную область знания. С одной стороны, это дает возможность широкой коммуникации. С другой стороны, размывает исходные понятия и подчас подменяет строгие определения метафорами. Основные результаты классического периода применения энтропии изложены в трудах Н. Винера, А. Н. Колмогорова, Дж. Фон Неймана, У. Уивера, Р. Фишера, Р. Хартли и др. (рис. 1). Из названных учёных в биологии работал Р. Фишер, английский статистик, биолог-эволюцио-
нист, автор известного критерия сравнения выборок и основатель журнала Biometrica.
Три аксиоматики — одна энтропия?
Какие соображения трижды в истории науки независимо привели к одной формуле? П. Шамбадаль приводит три доказательства формулы Больцмана [6, § 43, с. 153-156; § 45, с. 160-163, § 46, с. 163-166]. Первое наиболее простое, «однако простота эта связана с тем, что существование связи между энтропией и вероятностью принимается a priori, потому что эти две величины всегда изменяются в одном направлении. С одной стороны, согласно принципу Клаузиуса, всякая система эволюционирует так, что энтропия её возрастает. А с другой — эта эволюция естественно направлена всегда к более вероятным состояниям. Иначе говоря, вероятность последовательных состояний системы растёт вместе с энтропией этих состояний. Ситуацию можно выразить математически, полагая S = f (W), где W — вероятность, а f — некоторая возрастающая функция. Вид этой функции может быть без труда установлен исходя из того факта, что энтропия системы равна сумме энтропий составляющих систему частей, а вероятность некоторого состояния системы равна произведению вероятностей состояний составляющих систему частей (если они независимы — Ю. В.). Если, например, число компонент системы равно двум, то, с одной стороны, S = S1 + S2 , а с другой — W = W1 W2 , где
Рис. 1. Верхний ряд: Р. Клаузиус (1822-1888), Л. Больцман (1844-1906), К. Шеннон (1916-2001), Р. Хартли (1888-1970); нижний ряд: А. Н. Колмогоров (1903-1987), Дж. фон Нейман (1903-1957), Р. Фишер (1890-1962), Н. Винер (1894-1964)
Fig. 1. Upper row: R. Clausius (1822-1888), L. Boltzmann (1844-1906), K. Shannon (1916-2001), R. Hartley (1888-1970); lower row: A. N. Kolmogorov (1903-1987), J. von Neumann (1903-1957), R. Fischer (1890-1962), N. Wiener (1894-1964)
индексы 1 и 2 соответствуют двум компонентам системы. Отсюда следует:
I (^1 ^ = I + Г то .
Чтобы решить это функциональное уравнение, достаточно продифференцировать его последовательно по Ш1 и Ш2. Первое дифференцирование ведёт к уравнению:
Г '(^1 ^ = Г '(^1), а второе — к уравнению:
Г '(^1 ^ + Щ Г "(^1 ^ = 0,
или
I ,(W) + ШI ,,(W) = 0.
Общее решение этого дифференциального уравнения имеет вид:
I(Ш) = а 1п Ш + С,
где а и С — постоянные интегрирования. Отвлекаясь от аддитивной постоянной С и учитывая соотношение I(Щ = Б, получаем формулу Больцмана Б = а 1п Ш. Таким образом, энтропия системы в некотором состоянии пропорциональна логарифму вероятности этого состояния» [6, с. 154-155].
Иначе подходит к выводу формулы К. Шеннон. «Предположим, что имеется некоторое множество возможных событий, вероятности осуществления которых суть р1, р2 ... рп. Эти вероятности известны, но это всё, что нам известно относительно того, какое событие произойдёт. Можно ли найти меру того, насколько велик „выбор" из такого набора событий или сколь неопределёнен для нас его исход?
Если имеется такая мера, скажем Н(р1, р2...рп), то разумно потребовать, чтобы она обладала следующими свойствами: 1. Н должна быть непрерывной относительно р{. 2. Если все р{ равны, р{ = 1/п, то Н должна быть монотонно возрастающей функцией от п. В случае равновероятных событий имеется больше возможностей выбора или неопределённости, чем в случае, когда имеются разновероятные события. 3. Если бы выбор распадался на два последовательных выбора, то первоначальная Н должна была бы быть взвешенной суммой индивидуальных значений Н. <...> В приложении 2 (7, с. 323-324 — Ю. В.) устанавливается следующее.
Теорема 2. Существует единственная функция Н, удовлетворяющая трём перечисленным выше свойствам. При этом Н имеет вид:
И
п
= Pi logPi
7 = 1
где К — некоторая положительная константа» [7, с. 259260].
О подходе Э. Альфена читаем у А. А. Юшкевича: «Отправным пунктом автора является следующая задача статистики. По нескольким независимым наблю-
дениям случайного опыта с n возможными исходами нужно проверить гипотезу о том, что распределение вероятностей этих исходов с точностью до их нумерации совпадает с данным распределением При решении этой задачи имеет смысл пользоваться такими характеристиками распределения, которые инвариантны относительно всех перестановок чисел p1. pn. Эти характеристики Э. Альфен назвал внутренними (intrinsèque). Сперва вводятся внутренние момен-
ты:
y(k) = pik+1 + ... pnk+l = M pk -
(1)
математические ожидания целых степеней случайной вероятности р наблюдённого исхода. Это аналоги обычных моментов
Щ = V Р1 + ... + Хпк Рп = М хк
случайной величины х, принимающей значения х1.хп с вероятностями р1.рп. Выражение (1) сохраняет смысл при замене натурального числа к любым действительным £. Получающаяся аналитическая функция
у(£) = M pt
(2)
рассматривается как внутренний аналог обычной характеристической функции
ф(£) = M eitx.
(3)
Внутренняя характеристическая функция <...> определяет числа р1...рп с точностью до перестановки. <...>
Аналитическую функцию естественно разложить в ряд Маклорена, т. е. выразить через значения её производных любого порядка в нуле. В случае обычной характеристической функции (3) эти производные возвращают нас к обычным моментам:
ф(к)(0) = ¡к М хк .
В случае внутренней характеристической функции (2) получаем внутренние логарифмические моменты:
Гк = у(к)(0) = Р1 1пкр1 + ... + рп 1пкрп = М 1пк р .
Нулевой момент Го всегда равен 1. Первым нетривиальным моментом является = М 1п р. Поскольку р < 1, то Г < 0, и вместо Г предлагается в качестве первой, главной внутренней характеристики распределения рассматривать положительную величину:
Н = - Г1 = - Р11п Р1 - ... - Рп 1п Рп = - М 1п р. (4)
Эту характеристику распределения {р1.рп} Э. Альфен называет его неопределённостью. Та же самая величина Н под названием энтропии вводится и К. Шенноном в качестве меры неопределённости распределения {р1.рп}. <...>
Э. Альфен устанавливает следующие свойства неопределённости Н, оправдывающие её название. 1.Н> 0, причём Н = 0 тогда и только тогда, когда одна из веро-
ятностей p; равна 1, а остальные — 0 (так что исход испытания можно точно предугадать). 2. При фиксированном числе исходов n неопределённость Н максимальна, когда все исходы равновероятны; для распределений с равновероятными исходами Н возрастает с ростом п. <...> Первые два свойства сопровождают определение энтропии и у К. Шеннона. Второе свойство входит в состав аксиоматического определения меры неопределённости, из которого К. Шеннон получает формулу (4)» [8].
Э. Альфен выводит и третье свойство, которого у К. Шеннона нет. Оно аналогично неравенству П. Л. Чебышёва, характеризующему вероятности отклонений случайной величины от математического ожидания. Это подчёркивает самостоятельность работы Э. Альфена. Три независимых подхода к выводу формулы энтропии приведены выше столь подробно для того, чтобы минералог или биолог прочел их в одном месте и принял ответственное решение, какую же аксиоматику он приемлет.
Свойства статистической энтропии
Пользователь статистической энтропии H = -Z p-log pi , где i = 1, ... п, а основание логарифма определяет единицу измерения Н, обычно не углубляется в аксиоматику, ограничиваясь её основными свойствами. Ради полноты изложения они рассмотрены далее. Но в первую очередь заметим, что энтропия Н как функция нескольких аргументов с очевидным ограничением p1 + ... + pn = 1 является их свёрткой. Важно понимать, можно ли «развернуть» ее обратно.
Если все вероятности 0 < p- < 1, то все слагаемые в Z положительны и H(p1.pn) > 0. Пусть одна из вероятностей p- = 0. Исследуем lim [p- logap,] = lim [logap- / (1/ p-)] при p- ^ 0 по правилу Лопиталя. Перейдем к пределу отношения производных: Um p- / ln a = 0. Следовательно, исходный предел существует и тоже равен 0. Если одна из вероятностей p- = 1, а остальные 0, то 1 х log 1 = 0, прочие слагаемые равны 0 по доказанному выше. Таким образом, здесь достигается Hm-n = 0. В этом случае свёртка Н разворачивается в исходное распределение вероятностей, но лишь с точностью до их перестановок.
Чтобы найти Hmax, применим метод Лагранжа, дифференцируя по всем аргументам функцию H*(p1.pn) = H(p1.pn) + p- — 1). Получим систему уравнений:
д H* / д p- = — logap- — 1/ln a + ц = 0, - = 1. n,
откуда найдем критические значения аргументов: p- = av / e и далее p- = 1/n. С помощью критерия Сильвестра убедимся, что это точка максимума: H(p1...pn)max = logan. Лишь в этом случае свёртка Н однозначно разворачивается в исходное распределение равновеликих вероятностей.
График функции Н для двух (арки с Hmax = lg 2) и трёх (поверхность с Hmax = lg 3) вероятностей показан над барицентрической диаграммой p1 + p2 + p3 = 1 на рис. 2. Видно, что небольшие изменения вероятностей p- в углах диаграммы вызывают быстрые изменения H (ножки купола крутые). Те же изменения p- в центре диаграммы мало изменяют Н (здесь поверхность пологая). Энтропия Н как шкала деформирова-
Рис. 2. График энтропии H для двух и трёх вероятностей (в найтах, т. к. использованы десятичные логарифмы)
Fig. 2. The entropy H graph for two and three probabilities (in nites, since decimal logarithms are used)
на в разных областях поля вероятностей весьма по-разному.
Разные энтропии — разные свойства
Выше показано, что термодинамическая (по Клаузиусу), информационная (по Шеннону) и статистическая (по Альфену) энтропии определены независимо в разных дисциплинах и не копируют друг друга в аксиомах. Тем не менее бытует мнение, что они суть одно и то же. Нам представляется, что между ними есть смысловые зазоры и они согласованы лишь в первом приближении. То, что нюансы понимания и употребления энтропии в каждом случае важны, покажем на фундаментальном свойстве аддитивности.
Для термодинамической энтропии S она следует из определения: dS = dO / T. При фиксированной температуре Т приращение теплоты для двух частей системы аддитивно: dO = dO1 + dO2, что влечет dS =dS1 + dS2.
Рассмотрим шенноновскую энтропию совместной случайной величины (Х, Y), где Х принимает значения х1.хп с вероятностями p1.pn, а Y — значения y1.ym с вероятностями q1.qm. Величина (Х, Y) распределена с вероятностями ri;j = Pr (X=x;, Y=yj). Для энтропий Н(Х, Y), Н(Х) и H(Y) имеет место неравенство Н(Х, Y) < Н(Х) + H(Y) [5, с. 41-43] — это определение полуаддитивности для Н(Х, Y). Оно сводится к равенству и аддитивности для Н(Х, Y), когда случайные величины Х и Y независимы (Приложение 1).
Наконец, рассмотрим статистические энтропии для двух разных структурных позиций в двух кубических ячейках (А и В) до и после объединения (рис. 3). Исходного разнообразия позиций в них нет, поэтому Н(А) = Н(В) = 0. После слияния ячеек разнообразие появилось, при этом на каждую из двух позиций в ячейке приходится по 1 атому, поэтому H(A+B) = log 2 > Н(А) + Н(В). (Основание логарифма здесь неважно, легко создать и другие примеры, разложив любую ячей-47
Рис. 3. «Антиполуаддитивность» статистической энтропии при объединении ячеек
Fig. 3. «Antisemi-additivity» of statistical entropy when combining cells
ку с различными позициями в композицию ячеек с эквивалентными позициями.) В предложенной трактовке объединения ячеек полученная энтропия «антипо-луаддитивна», ибо меняет знак полуаддитивности на противоположный. Парадоксальность результата связана со специфичным способом приведения числа типов позиций (именно типов, а не их локаций) к элементарной ячейке. Но все эти нюансы применения важно иметь в виду, когда мы говорим об энтропии как междисциплинарной категории.
Энтропия и симметрия полиэдра
Одна и та же система может быть охарактеризована с разных сторон разными же статистическими распределениями, далее свёрнутыми в статистические энтропии. Применительно к природным системам целесообразно разделение дескрипторов на те, что описывают их элементный состав, и те, что описывают внутрисистемные отношения. В системе из п элементов число различных парных (к = 2...п) отношений равно Сп2 + ... + Спп = 2п - Сп1 - Сп0 = 2п - п - 1 и бы-
стро растёт с п. И если характеризовать статистики отношений энтропиями, то их следует связать между собой, иначе описание выглядит эклектичным.
Покажем пример такого подхода. Применим статистическую энтропию для описания выпуклых
4-...9-акров (т. е. 4-...9-вершинных полиэдров) с точки зрения распределения вершин по симметрийным позициям (табл. 1). Дает ли такой подход преимущества по сравнению с кристаллографическим описанием? Из свойств статистической энтропии следует, что Нтах достигается для «-акров, у которых все вершины различны, т. е. для комбинаторно асимметричных «-акров, « > 7. В то же время Нт¡« достигается для «-акров, у которых все вершины находятся в равной позиции. Это правильные (платоновы) и полуправильные (архимедовы) полиэдры, включая бесконечные серии призм и антипризм. У них чётное число вершин « > 4, а именно: 4, 6, 8, 12, 20 — у платоновых тел; 12 (2 раза), 24 (4 раза), 30, 48, 60 (4 раза), 120 — у архимедовых тел; любое чётное « > 6 для призм и антипризм (куб и октаэдр топологически эквивалентны тетрагональной призме и тригональной антипризме соответственно). Вопрос состоит в том, как Н зависит от п. г. а. и т. г. с. «-акров с ростом «.
Рёберные графы выпуклых 4-...9-акров (всего 2907) даны в каталогах [1, 2]. Для каждого автором найдены числа п; вершин в различных позициях, рассчитаны вероятности (частоты) р; = «; / « и энтропия Н, которую удобно понимать как топологическую (комбинаторную, конфигурационную) энтропию полиэдра. Установлена общая тенденция: чем выше п. г. а., тем ниже Н (рис. 4). При этом есть много исключений: оба
5-акра противоречат тренду; некоторые «-акры с одним п. г. а. и даже т. г. с. имеют различную Н, тогда как
а.д.о. «в 2 4 6 8 12 16 а.д.о.
Рис. 4. Энтропия Hвыпуклых 4- ... 6-акров (a, 10), 7-акров (b, 34), 8-акров (с, 257) и 9-акров (d, 2606) vs. п. г. а.
Около точек указаны т. г. с
Fig. 4. Entropy H of convex 4- ... 6-acrons (a, 10), 7-acrons (b, 34), 8-acrons (c, 257) and 9-acrons (d, 2606) vs. a. g. o.
The s. p. g. are indicated near the points
некоторые п-акры с той же Н имеют различные т. г. с. и даже п. г. а.; более того, некоторые п-акры с большим п. г. а. имеют и большую Н.
Ответ на вопрос, поставленный в начале раздела, сформулируем так. В дополнение к традиционному и более точному кристаллографическому описанию энтропия дает общий тренд: чем выше п. г. а. полиэдра, тем ниже энтропия Н распределения вершин по сим-метрийным позициям. Значения Н существенно разбросаны относительно тренда, причем не только для малых п. г. а.
Энтропия и валентности вершин
Энтропия Н характеризует сложность системы, в том числе н-акра. В кристаллографии она фиксируется через т. г. с. Комбинаторно-асимметричные н-акры максимально сложны, тогда как симметричные н-акры с Н = 0 наиболее просты. Но есть п-акры с той же т. г. с. и рёбрами, по-разному сходящимися в вершинах. Они обладают разной сложностью, не фиксируемой Н. Чтобы
Таблица 1. Распределение 4-...9-акров по точечным группам симметрии (т. г. с.) и порядкам групп автоморфизмов (п. г. а.)
Table 1. Distribution of the 4-...9-acrons by symmetry point groups (s. p. g.) and automorphism group orders (a. g. o.)
п. г. а. a.g.o. т. г. с. s.p.g. V 4 5 6 7 8 9
F 4 5 6 5 6 7 8 6 7 8 9 10 6 7 8 9 10 11 12 7 8 9 10 11 12 13 14
1 1 2 3 2 3 22 48 44 21 2 2 48 237 533 662 449 164 16
2 2 1 1 2 1 2 5 5 8 1 1 5 8 22 10 25 3 7
m 1 1 2 4 4 4 11 17 19 12 4 4 17 48 71 87 74 46 18
3 3 1
4 mm2 1 1 1 2 2 1 1 2 1 2 4 3 2 1 7 5 10 4 5
2/m 1
6 3m 2 2 2 2 2 1
8 4mm 1 2 2
mmm 1
42m 2 1 1
10 5m 1
12 6m2 1 1 1 1 1 2
3m 1
6mm 1
14 7m 1
16 82m 1
8mm 1
20 10m 2 1
24 6/mmm 1
43m 1 1
28 14m 2 1
48 m3m 1 1
I 1 1 1 1 2 2 2 2 8 11 8 5 2 11 42 74 76 38 14 8 74 296 633 768 558 219 50
1 2 7 34 257 2606
Примечание. V — число вершин, F — число граней. Note: V — the number of vertices, F — the number of facets.
различить их, введем в рассмотрение энтропию Hv, учитывающую валентности вершин. Есть 7 комбинаторно-асимметричных 7-акров, не различимых по Hmax = lg 7 (табл. 1). Но почти все они уникальны по валентностям вершин: 511, 43, 412, 331 (два 7-акра), 3211, 232. (Здесь и далее числа vi 3- ... n-валентных вершин даны в виде лексикографически упорядоченных символов.) Энтропия Hv различна для 6 классов:
Hv = - Sz- Pi log Pi, i = 1,n; pi = Vf / n.
Комбинаторно-асимметричные 8-акры (всего 140) делятся на 31 класс: 62 (три 8-акра), 6101 (2), 521 (14), 5111 (6), 503 (3), 44 (6), 4301 (7), 422 (16), 42101 (2), 4202 (2), 4121 (8), 404, 4022, 341 (16), 3311 (15), 33011 (2), 323 (8), 32201, 3212 (3), 3131 (5), 31211, 2501, 242 (6), 24101, 2402, 2321 (4), 23111, 224, 161, 1511, 143. (Числа 3- ... 7-валентных вершин даны в виде лексикографически упорядоченных символов.) Из них 12 классов состоят из уникальных 8-акров. Другие классы содержат по несколько 8-акров с той же Hv, т. к. 0 и перестановки чи-
сел V; в символах не меняют энтропию: 6101 и 161; 521 и 2501; 5111 и 1511; 44 и 404; 4301, 341 и 143; 422, 4202, 4022,242, 2402 и 224;42101, 4121 и 24101;3311, 33011 и 3131;32201, 3212 и 2321; 31211 и 23111. Таким образом, комбинаторно-асимметричные 8-акры делятся на 12 классов по Ну (Обсуждение 9-акров опущено ради краткости.)
Неожиданным свойством Ну является то, что она достигает минимума 0, но никогда -максимума ^ п. Иначе говоря, есть п-акры со всеми вершинами в одинаковых позициях (платоновы и архимедовы тела с сериями призм и антипризм), но нет п-акров со всеми вершинами в разных позициях. Последнее следует из несложной теоремы: любой выпуклый п-акр имеет не менее 4, или 3 и 2, или 3 пар вершин той же валентности (Приложение 2. Эту теорему полезно рассмотреть, т. к. она неявно присутствует при рассмотрении простых форм кубической сингонии в университетском курсе кристаллографии.)
Соотношение энтропий Н и Иу
Соотнесем энтропии Н и Ну. Связь между ними ожидаема, т. к. положения вершин полиэдра относительно элементов симметрии и их валентности — две стороны структуры его реберного графа. Как показано выше, у комбинаторно-асимметричных полиэдров энтропия Н максимальна, что невозможно для энтропии Иу. Значения Иу для выпуклых 4-...9-акров рассчитаны автором (рис. 5). Поля а, Ь, с и d занимают на графиках более низкое положение, чем на рис. 4.
Оказывается, это верно не только для комбинаторно-асимметричных полиэдров или в целом для полей фигуративных точек, но для каждого полиэдра. Имеет место теорема: И > Иу для любого выпуклого п-акра (Приложение 3).
Выводы
Формально энтропия Н есть свёртка распределения вероятностей. Как правило, она обратно не «разворачивается». Энтропия Н вряд ли удобна в качестве шкалы разнообразия, т. к. в разной степени деформирована в разных частях поля вероятностей. Малые изменения вероятностей р; в его углах приводят к быстрым изменениям Н, те же изменения р; в центре поля вероятностей мало влияют на Н.
В примере с выпуклыми п-акрами энтропия Н связана с п. г. а. и т. г. с. лишь в первом приближении, фиксируя п-акрон на шкале от Ит[п = 0 до Итах = ^ п. Имеет место общий тренд: чем больше п. г. а., тем меньше Н, но с существенной флуктуацией Н. Ит[п = 0 достигается для правильных и полуправильных п-акров (все случаи перечислены), для чётных п > 4, а также бесконечных серий призм и антипризм. Итах = ^ п достигается для комбинаторно-асимметричных п-акров, п > 7.
Энтропия Н характеризует не всю сложность системы, т. к. последняя должна определяться не только и не столько через ее элементный состав, сколько через её внутрисистемные отношения. Применительно к выпуклым п-акрам характеристика сложности должна различать п-акры с одной т. г. с., но различным чис-
Рис. 5. Энтропия Hv выпуклых 4- ... 6-акров (a, 10), 7-акров (b, 34), 8-акров (с, 257) и 9-акров (d, 2606) vs. п. г. а. Fig. 5. Entropy Hv of convex 4- to 6-acra (a, 10 in total), 7-acra (b, 34), 8-acra (c, 257), and 9-acra (d, 2606) vs. a. g. o.
лом рёбер, в первую очередь довлеющее многообразие комбинаторно-асимметричных п-акров, неразличимых по энтропии Н = Нтах.
Для этого предложена энтропия Ну, учитывающая валентности вершин. Она достигает минимума Нт1« = 0, но никогда Нтах = ^ п, т. к. невозможен выпуклый п-акр со всеми вершинами разной валентности. При этом для любого полиэдра имеет место Н > Ну. Связь не очевидна, но вполне закономерна, ведь обе энтропии характеризуют распределение вершин одного полиэдра в разных аспектах — по симметрий-ным позициям и валентностям. Возможно, дальнейшие исследования установят между ними функциональную связь.
Аддитивность термодинамической энтропии, полуаддитивность информационной энтропии с коррелированными сигналами и «антиполуаддитивность» статистической энтропии в предложенном выше примере показывают, сколь важно всякий раз глубоко понимать суть изучаемого объекта. Следует проводить резкую границу между термодинамической энтропией как функцией состояния закрытой системы, указывающей путь ее эволюции/деградации, и статистической энтропией как сверткой вероятностного распределения параметра, ничего более не выражающей. Нет обязательного перехода из одной в другую. Связь термодинамической и информационной энтропии сложнее. Принцип Р. Ландауэра устанавливает связь между ними для предельно малого действующего устройства — потеря бита информации сопровождается выделением фиксированного эквивалента тепла.
В ряде статей [11 и др.] автором обосновано и подтверждено наблюдениями, что в природе образуются лишь простые (с 3-валентными вершинами) кристаллические полиэдры. Вершины с более высокими валентностями растягиваются в ребра, реагируя на анизотропию среды: диффузионные потоки, термические и гравитационные градиенты. Физическое обоснование этому дано в монографии [4] из фундаментальных представлений о росте кристаллов. Там же обосновано, что плоскогранность и выпуклость есть модельное приближение к истинной форме природного кристалла. Соглашаясь с этим, укажем лишь, что использованный выше подход рассматривает полиэдры в комбинаторном приближении, охватывая тем самым и реальные неплоскогранные формы. Все теоремы и соотношения остаются в силе.
Автор благодарит рецензентов за квалифицированные рекомендации, послужившие более точному и доступному изложению материала, а также студентов геолого-разведочного факультета Санкт-Петербургского горного университета, вполне усвоивших основные идеи статьи.
Приложение 1
Теорема: Пусть (Х, У) — совместная случайная величина, где Х принимает значения х1^хп с вероятностями р1^рп; а У — значения у1-..ут с вероятностями q1...qm. Величина (Х, У) распределена с вероятностями г;,| = Рг (Х=х;, У=у|). Тогда имеет место неравенство Н(Х, У) < Н(Х) + Н(У).
Доказательство: По определению,
H(X,Y) = S; Zj rij ln (1/гч), Н(Х) = Z; Pi ln (1/Pi) = Z; (Zj r;j) ln(1/Pi), H(Y) = Zj qj ln(1/qj) = Zj (Z; rj ln(1/qj). Рассмотрим разность:
H(X,Y) - Н(Х) - H(Y) = Z; Zj r;j ln (P;qj / r;j) < ...
Используем лемму: для любого x > 0 выполнено ln x < x — 1 — и продолжим цепочку неравенств:
••• ^ Z; Zj r;j (P;qj / r;j — 1) = Z; Zj (P;^ — rj = = Z; P; X Zj qj — Z; Zj r;j = 1 X 1 — 1 = 0, откуда следует искомое.
Приложение 2
Теорема: любой выпуклый n-акр имеет не менее 4, или 3 и 2, или 3 пар вершин той же валентности.
Доказательство. Допустим, что есть выпуклый полиэдр с различными (т. е. оконтуренными разным числом рёбер) гранями. Построим его проекцию на грань с наибольшим числом рёбер (k-lateral facet, рис. 6). После того как (k-1)-, (k-2)- ... 4- и 3-угольные грани в произвольном порядке присоединены к базовой k-угольной, свободными остаются 3 ребра. К ним будут присоединены 3 одинаковые, или 2 и 1, или 3 разные грани. Т. к. грани всех видов (3- ... k-угольные) уже использованы, на полиэдре окажутся 4, или 3 и 2, или 3 пары одинаковых граней. Дуальным переходом получаем искомое. Полиэдры, для которых достигается точная оценка, показаны на рис. 7.
Рис. 6. Проекция выпуклого полиэдра на k-угольную грань (схема)
Fig. 6. Projection of a convex Polyhedron on a k-angle facet (scheme)
Рис. 7. «Минимальные» полиэдры с 4, или 3 и 2, или 3 парами вершин той же валентности
Fig. 7. «Minimal» polyhedra with 4, or 3 and 2, or 3 pairs of vertices of the same valence
Приложение 3
Теорема: H > HV для любого выпуклого n-акра.
Доказательство. Утверждение проверено для всех выпуклых 4- ... 9-акров (табл. 2). H > HV для n-акров с низкой симметрией, H = HV для n-акров с высокой симметрией, область перехода — n-акры с п. г. а. от 2 до 12. Рассмотрим n-акр с вершинами различных симме-трийных позиций. Эквивалентные по симметрии вершины имеют те же валентности. Ключевой вопрос: различны ли валентности у неэквивалентных по симметрии вершин? H = HV — если да, H > HV — если нет. В последнем случае уменьшение разнообразия валентностей по сравнению с разнообразием их симметрийных позиций приводит к уменьшению HV по сравнению с H в соответствии с общими свойствами статистической энтропии. Рассмотрим последовательности чисел вершин с различными валентностями для выпуклых 5-...9-акров (HV в скобках), упорядоченные согласно алгоритму: ... p...q ... (H1) ^ ... p-1 ... q+1 ... (H2), где 1 <
p ^ q.
5-акры. 23 (0.292) ^ 14 (0.217). Здесь 23 — символ тригональной дипирамиды: 2 вершины 3-валентные, 3 вершины 4-валентные, 14 — символ тетрагональной пирамиды: 1 вершина 4-валентная, 4 вершины 3-валентные; других 5-акров нет.
6-акры. Здесь и далее 0 и перестановки индексов опущены, т. к. они не меняют HV. 222 (0.477) ^ 123 (0.439) ^ 24 (0.276) ^ 15 (0.196) ^ 6 (0).
Таблица 2. HS > HV для любого выпуклого n-акра. Table 2. HS > HV for any convex n-acron.
7-акры. Главный тренд: 1222 (0.587) ^ 1123 (0.555) ^ 223 (0.469) ^ 133 (0.436) ^ 124 (0.415) ^ 34 (0.297) ^ 25 (0.260) ^ 16 (0.178); ветвь: 124 (0.415) ^ 115 (0.346). (Обсуждение 8- и 9-акров опущено ради краткости.) Выше использован алгоритм, позволяющий включить в главный тренд наибольшее число полиэдров. Он всегда даёт H > H2. Кропотливый анализ подсказал идею доказательства теоремы. Для двух последовательностей чисел вершин с различными валентностями для любых 1 < p < q и n нужно доказать неравенство:
- (p/n) ln (p/n) - (q/n) ln (q/n) > - [(p-1)/n] ln [(p-1)/n] - [(q+1)/n] ln [(q+1)/n].
Если p ^ 1, то [(p-1)/n] ln [(p-1)/n] ^ 0 и для p = 1 получим очевидное неравенство (q+1) (1+1/q)q > 1. Для 2 < p < q следует доказать:
pp / (p-1)p-1 < (q+1)q+1 / qq = f(q) .
Рассмотрим f(q) как непрерывную функцию, найдём логарифмическую производную:
df/dq = ln(1+1/q) х (q+1)q+1 / qq > 0 .
Итак, f(q) растёт с аргументом q = p, p+1, p+2, etc. Покажем, что неравенство верно даже для минимального аргумента q = p, т. е.:
п. г. а. a.g.o. т. г. с. s.p.g. V 4 5 6 7 8 9
F 4 5 6 5 6 7 8 6 7 8 9 10 6 7 8 9 10 11 12 7 8 9 10 11 12 13 14
1 1 > > > > > > > > > > > > > > > > >
2 2 > > > = > > > > > = > > > > > > >
m > > > > > > > > > > > > > > > > > > >
3 3 =
4 mm2 > = > > > > > > = > > > > > > > > > >
2/m =
6 3m > = > > = =
8 4mm = > >
mmm =
42m = = =
10 5m =
12 6m2 = = = = > =
3m =
6mm =
14 7m =
16 82m =
8mm =
20 10m 2 =
24 6/mmm =
43m = =
28 14m 2 =
48 m3m = =
pP / (p-l)P-1 < (p+1)P+1 / pP или 1 < (p+1)P+l (p-l)P-1 / p2P = f(p) .
Рассмотрим f(p) как непрерывную функцию, найдём логарифмическую производную:
df/dp = ln(1-1/p2) х (p+1)p+1 (p-l)p-1 / p2p < 0 .
Итак, f(p) уменьшается с ростом аргумента: f(2) = 1.6875, f(3) = 1.404..., f(4) = 1.287..., f(5) = 1.223..., f(6) = 1.182... Но если p ^ то
lim f(p) = lim (p+1)p+1 (p-1)p-1 / p2p = lim (1+1/p)p (1-1/p)p [1+2/(p-1)] = e х e-1 х 1 = 1.
Итак, f(p) ^ 1 сверху, т. е. f(p) > 1 для любого p, т. е. H1 > H2 для любых 1 < p < q и n.
Литература
1. Войтеховский Ю. Л. Алгоритм Е. С. Фёдорова генерирования комбинаторного многообразия выпуклых полиэдров: последние результаты и приложения // Журнал структ. химии. 2014. Т. 55. Прил. 1. С. 111-125.
2. Войтеховский Ю. Л., Степенщиков Д. Г. Комбинаторная кристалломорфология. Кн. 4. Выпуклые полиэдры. Т. 1. 4-...12-эдры. Апатиты: КНЦ РАН, 2008. 833 с.
3. Мэгарран Э. Экологическое разнообразие и его измерение. М.: Мир, 1992. 184 с.
4. Ракин В. И. Свободная форма кристаллов. Екатеринбург: УрО РАН, 2021. 328 с.
5. Фурсов В. А. Лекции по теории информации. Самара: СГАУ, 2006. 148 с.
6. Шамбадаль П. Развитие и приложения понятия энтропии. М.: Наука, 1967. 280 с.
7. Шеннон К. Работы по теории информации и кибернетике. М.: Изд. иностранной литературы, 1963. 832 с.
8. Юшкевич А. А. К истории понятий энтропии и информации: об одном предвосхищении идей К. Шеннона // Историко-математические исследования. Вып. 19. М.: Наука, 1974. С. 167-176.
9. Юшкин Н. П. Теория и методы минералогии: избранные проблемы. Л.: Наука, 1977. 291 с.
10. Halphen E. L'analyse intrinsèque des distributions de probabilité // Publ. Inst. Stat. Univ. Paris. 1957. V. 6. N 2. P. 77159.
11. Voytekhovsky Y.L. On the real crystal octahedra // Acta Cryst. 2002. A 58. P. 622-623.
References
1. Voytekhovsky Yu. L. E. S. Fedorov's algorithm for generating a combinatorial variety of convex polyhedra: recent results and applications. J. Struct. Chem., 2014, 55, App. 1, pp. 111-125.
2. Voytekhovsky Yu. L., Stepenshchikov D. G. Kombinatornaya kristallomorfologiya (Combinatorial crystal morphology). Book 4. Vypuklye poliedry (Convex polyhedra). V. 1. 4- to 12-hedra. Apatity: KSC RAS, 2008, 833 pp.
3. Magurran E. Ecological diversity and its measurement. London: Chapman & Hall, 1988, 180 pp.
4. Rakin V. I. Svobodnaya forma kristallov (Free shape of crystals). Ekaterinburg: The Ural Division of RAS, 2021, 328 pp.
5. Fursov V. A. Lekcii po teorii informacii (Lectures on information theory). Samara: SGAU, 2006, 148 pp.
6. Shambadal P. Razvitiye i prilozheniya ponyatiya entropii (Development and applications of the concept of entropy). Moscow: Nauka, 1967, 280 pp.
7. Shannon С. Raboty po teorii informacii i kibernetike (Works on information theory and cybernetics). Moscow: Foreign literature, 1963, 832 pp.
8. Yushkevich A. A. K istorii ponyatiy entropii i informacii: ob odnom predvoskhischenii idey K. Shennona (On the history of the concepts of entropy and information: on one anticipation of C. Shannon's ideas). Istoriko-matematicheskiye issledovani-ya (Historical and mathematical researches). V. 19, Moscow: Nauka, 1974, pp. 167-176.
9. Yushkin N. P. Teoriya i metody mineralogii: izbrannye problemy (Theory and methods of mineralogy: selected problems). Leningrad: Nauka, 1977, 291 pp.
10. Halphen E. L'analyse intrinsèque des distributions de probabilité. Inst. Stat. Univ. Paris, 1957, 6, 2, pp. 77-159.
11. Voytekhovsky Y.L. On the real crystal octahedral. Acta Cryst., 2002, A58, pp. 622-623.
Поступила в редакцию / Received 02.12.2021
