МОДЕЛИРОВАНИЕ СЛОЖНЫХ ОРГАНИЗАЦИОННО-ТЕШИЧЕСКИХ СИСТЕМ
УДК 621.317 DOI: 10.24412/2782-2141-2024-2-58-66
Аналитическая модель цифрового потока, поступающего с выхода источника сообщений на вход акселератора трафика
Маркин А. В., Иванов В. А., Овсянкин С. В., Иванов И. В.
Аннотация. Применение оптимизаторов трафика позволяет повысить эффективность использования пропускной способности сетей связи за счет устранения избыточности передаваемых в каналах связи сообщений и повторяющихся при передаче приложений и служебной информации. Методы: в статье представлена математическая модель цифрового потока, разработанная с привлечением математического аппарата многосвязных двоичных цепей Маркова. Аппроксимация потока Марковским случайным процессом опирается на конечность корреляционных связей между элементами двоичных последовательностей, генерируемых источниками сообщений. Значение достаточной связности для цепи Маркова рассчитывается с помощью автокорреляционной функции, которая определяет соответствие сигнала с его копией, сдвинутой по времени. С позиции архивации трафика рассмотрено описание источника сообщений цепью Маркова через категории энтропии и алфавита сообщения. Доказано, что избыточность в процессе укрупнения алфавита не изменяется и определяется неравномерностью распределения вероятностей элементов вторичного алфавита. При укрупнении алфавита ослабляются взаимные вероятностные связи между элементами сообщения. При выборе длины вторичного алфавита превосходящей протяженности, действия вероятностных связей между элементами первичного алфавита и вероятностные связи между элементами укрупненного алфавита отсутствуют. При этом избыточность в процессе укрупнения не изменяется и практически полностью определяться неравномерностью распределения вероятностей элементов вторичного алфавита. Цель работы заключается в определении оптимальной длины для цепи Маркова, обеспечивающей не избыточное и достаточно точное описание случайного процесса, а также влияние процедуры укрупнения алфавита на избыточность сжимаемого сообщения. Новизна работы состоит в расчете достаточной связности для цепи Маркова через автокорреляционную функцию, которая определяет связь основного сигнала с его копией, последовательно сдвигаемой по времени на заданную глубину отсчетов. Практическая ценность работы заключается в использовании модели для выбора оптимальных алгоритмов сжатия потоков.
Ключевые слова: математическая модель, двоичный случайный процесс, цифровой поток, многосвязная цепь Маркова, автокорреляционная функция, источник сообщения, акселерация трафика
Введение
В настоящее время одним из способов повышения эффективности использования пропускной способности сетей связи является применение оптимизаторов трафика, которые устраняют избыточность непосредственно передаваемых в каналах связи сообщений и повторяющихся при передаче приложений и служебной информации. Для обнаружения закономерностей и выявления особенностей процесса предлагается модель цифрового потока (ЦП), разработка которой преследует две цели:
1) актуализацию выбранного математического аппарата к свойствам потока, обеспечивая адекватность и конструктивность модели;
2) получение информации об инструменте генерации реализаций цифрового потока в различных интерпретациях по вероятности распределений двоичных векторов на участках локальной стационарности. Первая цель достигается при разработке
аналитической модели цифрового потока и решается в статье. Достижение второй цели обеспечивается при разработке имитационной модели цифрового потока, поступающего на вход акселератора трафика.
Аппроксимация цифрового потока Марковским случайным процессом
Аппроксимация потока Марковским случайным процессом опирается на конечность корреляционных связей между элементами двоичных последовательностей, генерируемых источниками сообщений (ИС) [1,2]. Представление потока на участке локальной стационарности сводится к посимвольному описанию дискретных процессов и состоит в задании п-мерньк условных (переходных) вероятностей для значений этого процесса на /'-ой позиции при известных значениях на п предшествующих позициях¿»(^/а^,...,^^) или
(п+1)-мерньк совместна вероятностей для значений процесса на п+1 смежных позициях р{щ_т...,щ) [3, 4].
Математическое описание случайного процесса цепью Маркова (ЦМ) использует понятие связности цепи, показывающей глубину корреляционных связей между элементами последовательности, и значности цепи, определяющей множество состояний источника сообщений. Так, например, представление состояний ИС одним символом приводит к двоичной цепи Маркова, а укрупнение алфавита посредством объединения соседних двоичных символов в их комбинации - к четверичным, восьмеричных и другим цепям Маркова.
Для п-связной цепи Маркова [5, 6] условная вероятность некоторого исхода ак в любом /'-м испытании определяется набором исходов в предыдущих п испытаниях, и не зависит от более ранних исходов:
(1)
Соответственно выбор связности для цепей Маркова, аппроксимирующей вероятностный процесс, влияет на точность расчёта вероятностей, отражающих статистические связи между символами сообщения. Условие (1) определяет достаточность для состояний ЦМ, отражающей полноту учета статистических свойств источника сообщений. При этом изменение связности ЦМ от (1) в сторону увеличения приводит к избыточному описанию случайного процесса в модели и увеличению сложности вычислительного эксперимента, а уменьшение — к снижению точности результатов моделирования
Для условия (1) значение достаточной связности ЦМ рассчитывается с помощью автокорреляционной функции, общий вид которой для непрерывного сигнала определяется формулой (2).
Щг) = ]лш-г)а-, (2)
-ОО
где г - сдвиг по времени между сигналомУ(^) и его копией А^-г).
Для дискретного процесса, представляемого временным рядом отсчетов, автокорреляционная функция имеет следующий вид:
¿(Л
= -=-, (3)
<=1 _
где Т - длина выборки; к - сдвиг по количеству отсчетов; ТП — выборочное среднее.
Автокорреляционная функция для случайного процесса определяет соответствие (связь) сигнала с его копией, сдвинутой по времени. Для оценки статистических свойств
задается порог, ниже которого связь считается незначимой и не учитывается при аппроксимации случайного процесса.
На рис. 1 представлена графическая интерпретация подхода к оцениванию величины статистических связей между элементами дискретного случайного процесса от количества позиций между ними на основе анализа значений автокорреляционной функции (АКФ).
Для двоичных случайных последовательностей значения коэффициентов АКФ
вычисляется по формуле (4), предложенной в работе [6]:
Т-к-1
£ <$>(щ,Х1+к)
Т~к , (4)
Л^1 X у
- операторная функция, описывающая операцию отрицания сложения по модулю 2 \Т — длина последовательности X.
Я (k)
1 ' / 0,5 ■ Т \ Я{п) < т
I ^^
— п С п к
Рис. 1. График автокорреляционной функции, показывающий оценку связности для элементов дискретного случайного процесса
Таким образом, в /-связной цепи Маркова связь между последовательными элементами определяется зависимостью между п+1 соседними символами. Для вычисления ряда распределения многомерных двоичных комбинаций на некотором отрезке последовательности достаточно знать условные вероятности /
появления символов алфавита ак, задаваемые в виде матрицы переходных вероятностей,
и распределение символов на предыдущих позициях по отношению к рассматриваемому
(М) (1-1) (г-и) интервалу и »" .
При описании двоичного источника сообщений /-связной к-ичной цепью Маркова
матрица условных вероятностей имеет вид (5) с размерностью
х2 -1, поскольку
при описании двоичной последовательности на выходе источника сообщения в виде /связной к-ичной цепи Маркова вероятность элемента сообщения из алфавита объема определяется комбинацией из / символов алфавита того же объема.
P=
PO, 0 Pi, 0
P0,l PL 1
P0,2k-1 V-i
,2^-1
(5)
В матрице (5) элементы р определяют условные вероятности р(х^хг) появления комбинаций к-ичных символов х7- при условии, что в предыдущий момент времени источник выдал комбинацию к-ичных символов х/. Выражение (5) содержит полную информацию, достаточную для представления дискретного случайного процесса /-связной цепью Маркова, состоящего из двоичных последовательностей генерируемых источником сообщений.
Матрица (5) является стохастической и прямоугольной с неотрицательными элементами [7], сумма элементов каждой ее строки равна единице. Учитывая стационарность битовых последовательностей, для определения состояния, на произвольной /'-й позиции достаточно знать начальные вероятности появления символов на первой или предыдущих / позициях. Графическая интерпретация процедуры аппроксимации цепью Маркова битовой последовательности для двоичного ИС представлена на рис. 2.
^Х 2 X 9***9 ^ )
(0,0,..., 0)0 (0,0,...,1)
о
X .
QQ •
(О,..., 0,1) го (О,..,1,0) Л
(О,...,1,1)
(1,1,.., 1) о
X CQ
(1,..,1,0) >0(U,U)
Рис. 2. Граф вероятностей переходов для двоичного источника сообщений при описании источника сложной цепью Маркова
Одним из условий акселерации трафика является возможность сжатия сообщений за счет снижения их избыточности в передаваемом цифровом потоке. Для разработки процедуры архивации ЦП рассмотрим описание источника сообщений цепью Маркова через категории энтропии и алфавита сообщения. Для эргодических источников корреляционные связи распространяются на конечное число элементов. При этом в последовательности существуют безусловные вероятности p(xk) выбора k-ro элементарного сообщения:
(6)
д=1
Для стационарного источника зависимых дискретных сообщений энтропия определяется как предел совместной энтропии (ад) (щ) (ап) Л или условной
XX I X I
энтропии н(х{ап) х(1)!Х(2)5>> )Х(и-1)\ Т. е.
Н(Х) = lim Нп
Я—>оо
где
я„Ля
f
V
..>)) или Hn=H^i I
Hq =-Y;Pq(xk)^?>Pq(xk) к=1
(7)
.(«)х(1)х(2) ХИП (8)
■ J\/ jW juij А 5 \ /
(9)
где Нд - математическое ожидание количества информации для элемента источника сообщения, находящегося в -м состоянии (энтропия q -го состояния источника рассчитанную на один элемент).
С помощью процедуры усреднения рассчитаем энтропию источника на один элемент с учетом всех его состояний
г /
Н(х) = -Е Т.РдРд{хк) 1оёРд(хк)
д=1к=1 . (10)
Для случая, когда связи между элементами отсутствуют и исходят из безусловных вероятностей р(хк), получаем энтропию источника на один элемент в следующем виде:
I (г
( Г \
HPqPq(xk)
(11)
Н =-£ YPqPq^k) log £=1^=1 )
Если объемы алфавитов и вероятности появления элементов в сообщениях равны, то энтропия источника зависимых сообщений H всегда меньше энтропии источника независимых сообщений Н*и выполняется условие (12) [7, 8].
H0>Hi>H2>...>Hn (12)
где Ho - максимальная энтропия; H\— энтропия источника независимых сообщений; H2 -энтропия источника, когда учитывается статистическая связь между двумя элементарными сообщениями и т. д.
Представляет интерес сравнение энтропии, определяемой выражением (10), с максимально возможной энтропией, которая для данного алфавита определяется как (13)
^max = . (13)
С этой целью введено понятие избыточности сообщения, которая определяется по следующей формуле:
_ ^max ~ Н(Х) _ 1 Н(Х) _ 1 Н(Х) (14)
TJ ТУ ' '
I I mav -iJ-rr
Км'
'max -'-'max log I
Условие (13) и выражения (14, 15) показывают, что энтропия источника на элемент сообщения зависит от выбора алфавита (способа разделения сообщений на элементы). Пусть источник сообщений с объемом алфавита h имеет энтропию на элемент сообщения H\. Произведем укрупнение алфавита, считая каждую последовательность из любых n элементов первичного алфавита одним элементом нового, вторичного алфавита. Очевидно,
что объем вторичного алфавита 12 = . Энтропия на один элемент вторичного алфавита Н2 = пН\. Из определения количества информации следует, что в некотором конкретном элементе вторичного алфавита содержится ровно столько же информации, сколько ее содержится в п элементах первичного алфавита, входящих в его состав. Количество информации в одном конкретном элементе первичного алфавита ф является случайной величиной, принимающей различные значения для разных элементов. Количество информации в элементе вторичного алфавита Ф является суммой п случайных величин ф1,..., фп. Математическое отдание величины Ф, равное по определению Н2, как известно [12], равно сумме математических ожиданий слагаемых фд. а так как каждое из
последних равно Н1, то
Н2 = пН1. (15)
Определим избыточность вторичного алфавита Максимальная энтропия для
алфавита объемом /2=/" составляет Т^тах = \0gl2 = п\о^1\, откуда, учитывая выражение (14), получим выражение (16)
ы-'-тт^—'-^-'-тт5—ы. (16)
шах пЩ11 Щтах
Из выражения (16) следует, что избыточность сообщения при укрупнении алфавита не изменяется.
При укрупнении алфавита ослабляются взаимные вероятностные связи между элементами сообщения. Если выбрать величину п значительно превосходящей протяженность действия вероятностных связей между элементами первичного алфавита, то вероятностными связями между элементами укрупненного алфавита можно пренебречь. Поскольку избыточность в процессе укрупнения не изменяется, то она должна практически полностью определяться неравномерностью распределения вероятностей элементов вторичного алфавита.
Таким образом, операция укрупнения алфавита служит для «декорреляции» элементов сообщения, т. е. для устранения взаимных вероятностных связей между ними. Энтропия Н{Х) определяет среднюю неопределенность состояния источника сообщений, являясь объективной характеристикой, и вычисляется априорно до получения сообщения, если известна статистика сообщений. Величина же /(#) определяется апостериорно, т. е. после получения сообщений. Другими словами, Н{Х) - мера недостатка информации о состоянии отдельной системы, и с поступлением информации о состоянии системы энтропия последней снижается (рис. 3).
Выводы
Опираясь на результаты анализа свойств цифрового потока, условия применения цепей Маркова для аппроксимации случайных процессов, снижения избыточности источника сообщений и оценку информативности дискретных последовательностей можно сделать следующие выводы:
- возможность актуализации математического аппарата двоичных многосвязных цепей Маркова к свойствам ЦП опирается на возможность аппроксимации двоичных случайных последовательностей участками локальной стационарности и ограниченное число элементов последовательности, на которые распространяется корреляционные связи;
- выбор связности цепи Маркова, аппроксимирующей случайный процесс генерации двоичных символов, определяется глубиной корреляционных связей в наблюдаемом ЦП;
о 0.1 02 0.3 0.4 0.5 0.6 0.7 0.8 09 1.0
Рис. 3. Энтропия цифрового потока (1 — независимый случайный поток, 2 — односвязная ЦМ, 3 - двухсвязная ЦМ, 4 - трехсвязная ЦМ, 5 - четырехсвязная ЦМ)
- используя функцию автокорреляции и допустимый порог значимости, получено выражение для расчета критерия достаточности связности и описания всех возможных состояний цепи Маркова, отражающей статистические свойства источника сообщений;
-степень сжатия сообщения определяется его избыточностью, которая связана с энтропией источника сообщений, и зависит от способа разделения сообщений на элементы кодирования при сжатии (выборе алфавита). При этом укрупнение алфавита на величину, не превышающую глубину корреляционных связей, не приводит к изменению избыточности сообщения;
-аналитическая модель цифрового потока, помимо описания основных свойств процесса, позволяет рассчитать параметры, которые необходимы для разработки условий постановки и проведения математических вычислительных экспериментов, расстановки ограничений и экстраполяции полученного результата. Кроме того, аналитические выражения, полученные в модели, определяют общую математическую схему имитационной модели цифрового потока как инструмента его генерации с заданными свойствами.
Литература
1. Зюко А. Г., Кловский Д. Д., Назаров М. В., Финк Л. М. Теория передачи сигналов. - М.: Связь, 1980.-288 с.
2. Конышев М. Ю., Иванов В. А. Двоичные цепи Маркова и их приложения. Монография. -М.: РТУ - МИРЭА, 2023. - 184 с.
3. Вентцель Е. С. Теория вероятностей. - М.: Высшая школа, 1998. - 576 с.
4. Вентцель Е. С., Овчарков Л. А. Теория вероятностей и ее инженерные приложения. - М.: Наука, 1988.
5. Баруча-Рщ1 А. Т. Элементы теории марковских процессов и их приложения. - М.: Наука, 1969. - 512 с.
6. Левин Б. Р., Шварц В. Вероятностные модели и методы в системах связи и управления. -М.: Радио и связь, 1985. - 312 с.
№ 2 (166) - 2024
MEANS OF COMMUNICATION EQUIPMENT
7. Комарович В. Ф., Устинов А. А. Совместное стохастическое кодирование сообщений нескольких избыточных источников в системах конфиденциальной связи // Информация и Космос. 2006. № 1. С. 91-100.
8. Кларк Дж., Кейн Дж. Кодирование с исправлением ошибок в системах цифровой связи. -М.: Радио и связь, 1987. - 384 с.
1. Zyuko A. G., Klovsky D. D., Nazarov M. V., Fink L. M. Teoriya peredachi signalov [Theory of signal transmission]. Moscow. Svyaz Publ., 1980. 288 p. (in Russian).
2. Konyshev M. Yu., Ivanov V.A. Dvoichny"e cepi Markova i ixprilozheniya [Binary Markov chains and their applications]. Moscow. RTU - MIREA Publ., 2023. 184 p. (in Russian).
3. Wentzel E. S. Teoriya veroyatnostej [Probability theory]. Moscow. Higher School Publ., 1998. 576 p. (in Russian).
4. Wentzel E. S., Ovcharkov L. A. Teoriya veroyatnostej i ee inzhenerny"e prilozheniya [Probability theory and its engineering applications]. Moscow. Nauka Publ., 1988 (in Russian).
5. Baruch-Reed A. T. E"lementy" teorii markovskix processov i ix prilozheniya [Elements of the theory of Markov processes and their applications]. Moscow. Nauka Publ., 1969. 512 p. (in Russian).
6. Levin B. R., Schwartz V. Veroyatnostny"e modeli i metody" v sistemax svyazi i upravleniya [Probabilistic models and methods in communication and control systems]. Moscow. Radio and Communications Publ., 1985. - 312 p. (in Russian).
7. Komarovich V. F., Ustinov A. A. Sovmestnoe stoxasticheskoe kodirovanie soobshhenij neskol"kix izby"tochny"x istochnikov v sistemax konfidenciaVnoj svyazi [Joint stochastic encoding of messages from several redundant sources in confidential communication systems]. Information and Space. 2006. No. 1. Pp. 91-100 (in Russian).
8. Clark J., Kane J. Kodirovanie s ispravleniem oshibok v sistemax cifrovoj svyazi [Coding with error correction in digital communication systems]. Moscow. Radio and Communications Publ., 1987. - 384 p. (in Russian).
Маркин Алексей Валерьевич - директор ФГУП «НТЦ «ОРИОН». Область научных интересов: моделирование сложных организационно-те^^гаесюк систем. Тел: +8(495)914-94-11, E-mail: markin.a.v@fgupntcorion.ru. Адрес: г. Москва, ул. Образцова, д. 38, стр.1.
Иванов Владимир Алексеевич - доктор военных наук, профессор, главный специалист ФГУП «НТЦ «ОРИОН». Область научных интересов: моделирование сложных организационно-те^^гаеских систем. Тел.: +7-926-474-78-12, E-mail: iva.mac@mail.ru. Адрес: г. Москва, ул. Образцова, д. 38, стр. 1.
Овсянкин Сергей Владимирович - кандидат технических наук, ведущий специалист ЦУП АО «Радиозавод им. А.А. Попова». Область научных интересов: моделирование сложных организационно-теж^ес^гс систем. Тел.: +7-910-748-28-39, E-mail: interleave@mail.ru. Адрес: г. Москва, ул. Радио, д. 21, стр.1.
Иванов Иван Владимирович — доктор технических наук, Ведущий научный сотрудник РТУ - МИРЭА. Область научных интересов: моделирование сложных организационно-технических систем. Тел.: +7-926-191-09-90, E-mail: iva.mac@mail.ru. Адрес: г. Москва, Проспект Вернадского, д. 78.
An analytical model of the digital flow coming from the output of the message source to the input of the traffic accelerator
References
Статья поступила 18 апреля 2024 г.
Информация об авторах
A. V. Markin, V. A. Ivanov, S. V. Ovsyankin, I. V. Ivanov
Modeling of complex organizational and technical systems
65
Annotation. The use of traffic optimizers makes it possible to increase the efficiency of using the bandwidth of communication networks by eliminating the redundancy of messages transmitted in communication channels and repetitive during the transfer of applications and service information. The article presents a mathematical model of digital current, developed using the mathematical apparatus of multiconnected binary Markov circuits. The approximation of the flow by a Markov random process is based on the finiteness of correlations between elements of binary sequences generated by message sources. The value of sufficient connectivity for the Markov chain is calculated using an autocorrelation function, which determines the correspondence of the signal with its time-shifted copy. From the perspective of traffic archiving, the description of the message source by the Markov chain through the categories of entropy and the alphabet of the message is considered. It is proved that redundancy in the process of alphabet enlargement does not change and is determined by the uneven probability distribution of the elements of the secondary alphabet. When the alphabet is enlarged, the mutual probabilistic connections between the elements of the message are weakened. When choosing the length of the secondary alphabet that exceeds the length of the probabilistic relationships between the elements of the primary alphabet, there are no probabilistic relationships between the elements of the enlarged alphabet. At the same time, redundancy does not change during the enlargement process and is almost completely determined by the uneven probability distribution of the elements of the secondary alphabet. The aim of the work is to determine the optimal length for the Markov chain, which provides a non-redundant and sufficiently accurate description of the random process, and the effect of the alphabet enlargement procedure on the redundancy of the compressed message. The novelty of the work consists in calculating sufficient connectivity for the Markov chain through an autocorrelation function, which determines the connection of the main signal with its copy, sequentially shifted in time to a given depth of samples. The practical value of the work lies in using the model to select optimal stream compression algorithms.
Keywords: mathematical model, binary random process, digital current, multi-connected Markov chain, autocorrelation function, message source, traffic generation
Information about the authors
Alexey Valerievich Markin — Director of FSUE "STC "ORION". Research interests: modeling of complex organizational and technical systems. Tel: +8(495)914-94-11, E-mail: markin.a.v@fgupntcorion.ru. Address: Moscow, Obraztsova str., 38/1.
Ivanov Vladimir Alekseevich — Doctor of Military Sciences, Professor, chief specialist of FSUE "STC "ORION". Research interests: modeling of complex organizational and technical systems. Tel: +7-926-474-78-12, E-mail: iva.mac@mail.ru. Address: Moscow, Obraztsova str., 38/1.
Ovsyankin Sergey Vladimirovich — Candidate of Technical Sciences, leading specialist MCC AO "Radio Plant named after A.A. Popov". Research interests: modeling of complex organizational and technical systems. Tel: +7-910-748-28-39, E-^ail: interleave@mail.ru. Address: Moscow, Radio str, 21/1.
Ivanov Ivan Vladimirovich — Doctor of Technical Sciences, a leading researcher at RTU-MIREA. Research interests: modeling of complex organizational and technical systems. Tel: +7-926-191-09-90, E-mail: iva.mac@mail.ru. Address: 78 Vernadsky Avenue, Moscow.
Библиографическая ссылка на статью:
Маркин А. В., Иванов В. А., Овсянкин С. В., Иванов И. В. Аналитическая модель цифрового потока, поступающего с выхода источника сообщений на вход акселератора трафика // Техника средств связи. 2024. № 2 (166). С. 58-66. DOI: 10.24412/2782-2141-2024-2-58-66.
Reference for citation:
Markin A. V., Ivanov V. A., Ovsyankin S. V., Ivanov I. V. An analytical model of the digital flow coming from the output of the message source to the input of the traffic accelerator. Means of Communication Equipment. 2024. No. 2 (166). Pp. 58-66. (in Russian). DOI: 10.24412/27822141-2024-2-58-66.