CC BY
11
14. Aniorte P. A distributed adaptable software architecture derived from a component model, Computer Standards & Interfaces, 2003, No. 3 (25), pp. 275-282. DOI: https://doi.org/10.1016/ S0920-5489(02)00099-5.
15. Buschmann F., Meunier R., Rohnert H., Sommerlad P., Stall M. Pattern-Oriented Software Architecture, Vol. 1, A System of Patterns, Wiley, August 1996. ISBN 978-0-471-95869-7.
16. Walker G. The Basics of Cloud Computing. Available at: http://docshare01.docshare. tips/files/16621/166213264 .pdf (accessed 20 August 2021).
17. Clouard R., Renouf A., & Revenu M. An ontology-based model for representing image processing application objectives, International Journal of Pattern Recognition and Artificial Intelligence, 2010, Vol. 24, No. 08, pp. 1181-1208.
18. Filali J., Zghal H.B., Martinet J. Ontology-Based Image Classification and Annotation, International Journal of Pattern Recognition and Artificial Intelligence, 2020, No. 11 (34). DOI: 10.1142/S0218001420400029.
19. Aamodt A., Plaza E. Case-Based Reasoning: Foundational Issues, Methodological Variations, and System Approaches, Artificial Intelligence Communications, 1994, No. 7, pp. 39-52.
20. Pusztova R, Babic F., Paralic J. Semi-Automatic Adaptation of Diagnostic Rules in the Case-Based Reasoning Process, Applied Sciences, 2021, No. 1 (11). DOI: 10.3390/app11010292.
Статью рекомендовал к опубликованию д.т.н., профессор Б.К. Лебедев.
Самойлов Алексей Николаевич - Южный федеральный университет; e-mail: asamoylov@sfedu.ru; г. Таганрог, Россия; тел.: 88634371656; кафедра вычислительной техники; к.т.н.; зав. кафедрой.
Бородянский Юрий Михайлович - Санкт-Петербургский государственный университет телекоммуникаций им. проф. М.А. Бонч-Бруевича; e-mail: borodyanskyum@gmail.com; г. Санкт-Петербург, Россия; тел.: 88123260889; кафедра безопасности информационных систем; к.т.н.; завю кафедрой.
Samoylov Alexey Nikolaevich - Southern Federal University; е-mail: asamoylov@sfedu.ru; Taganrog, Russia; phone: +78634371656; the department of computer engineering; cand. of eng. sc.; head of department.
Borodyansky Yury Mikhailovich - Federal State Budget-Financed Educational Institution of Higher Education The Bonch-Bruevich Saint Petersburg State University of Telecommunications; е-mail: borodyanskyum@gmail.com; St. Petersburg, Russia; phone: +78123260889; the department of information systems security; cand. of eng. sc.; head of department.
УДК 004.891.2 Б01 10.18522/2311-3103-2021-4-174-187
А.Н. Целых, В.С. Васильев, Л.А. Целых
АЛГОРИТМ РЕКОНСТРУКЦИИ МАТРИЦЫ СМЕЖНОСТИ ПРИЧИННЫХ ГРАФОВЫХ МОДЕЛЕЙ В ОТСУТСТВИИ НАБЛЮДАЕМЫХ ПЕРЕМЕННЫХ*
Рассматривается проблема моделирования сложных систем при отсутствии наблюдаемых переменных. Для решения этой проблемы предлагается использовать причинные графовые модели. Класс причинных моделей, который мы здесь рассматриваем, определяется как нестохастические причинные модели с ненаблюдаемыми переменными. Эти модели представляются в виде направленного графа, создаваемого на основе человеческих ментальных репрезентациях. При этом на дугах причинность выражена в виде некоторых меток, которые имеют знак, определяющий направление изменений состояния системы. Рассматриваемые причинные модели включают неоднородные, сложные и качественные
*
Работа выполнена при поддержке гранта Российского Фонда фундаментальных исследований № 19-01-00109.
типы переменных, иллюстрирующие нечисловую природу узлов и связей, а, следовательно, отсутствие и невозможность получения временных рядов данных. В условиях отсутствия наблюдаемых переменных и невозможности проведения экспериментов, проблема реконструкции матрицы смежности графовой причинной модели становится гораздо более сложной. Требуется получить модель с определенным спектральным разложением, которое реализует основную функцию моделируемой системы. На основе этой концепции предлагается новый метод реконструкции матрицы смежности, реализованный на соответствующей матрице причинного распространения или передаточной матрице. Идея состоит в том, чтобы использовать комбинаторную оптимизацию на основе спектральной теории графов для генерации данных из качественной нестохастической причинной модели и реконструировать матрицу смежности, используя эти данные. В этом случае собственные векторы идентифицируются как ключевые цели процесса реконструкции матрицы, что постулирует фундаментальный подход, основанный на спектральных свойствах графа. Результаты вычислительных экспериментов решения задачи реконструкции матрицы смежности для причинных графовых моделей в отсутствии наблюдаемых переменных с использованием разработанного алгоритма показали, что алгоритм эффективно реконструирует матрицы в заданных параметрах с допустимыми показателями схожести. Доказана сходимость приближения к решению алгоритма реконструкции матриц не медленнее, чем со скоростью геометрической прогрессии. С технической точки зрения, преимуществом алгоритма является реализация инструмента автоматической настройки параметра регуляризации, пригодного для пользователей без предварительных математических знаний.
Реконструкция матриц; эффективное управление; причинные модели; принятие управленческих решений; оптимизационные методы; направленный взвешенный знаковый граф.
A.N. Tselykh, V.S. Vasilev, L.A. Tselykh
THE ADJACENCY MATRIX RECONSTRUCTION ALGORITHM FOR CAUSAL GRAPH MODELS IN THE ABSENCE OF OBSERVABLE
VARIABLES
The paper deals with the problem of modeling complex systems in the absence of observable variables. To solve this problem, it is proposed to use causal graph models. The class of causal models considered here is defined as non-stochastic causal models with unobservable variables. These models are presented in the form of a directed graph, created on the basis of human mental representations. In this case, on the arcs, causality is expressed in the form of some marks with a sign that determines the direction of change in the state of the system. The considered causal models include heterogeneous, complex and qualitative types of variables that illustrate the non-numerical nature of nodes and links and, as a consequence, the absence and impossibility of obtaining time series data. In the absence of observable variables and the impossibility of conducting experiments, the problem of reconstructing the adjacency matrix of the causal graph model becomes much more complicated. It is required to obtain a model with a certain spectral decomposition that implements the main function of the modeled system. Based on this concept, a new method for reconstructing the adjacency matrix is proposed, implemented on the basis of the corresponding causal propagation matrix or transmission matrix. The idea is to use combinatorial optimization based on spectral graph theory to generate data from a qualitative non-stochastic causal model and reconstruct an adjacency matrix using that data. In this case, the eigenvectors are identified as key objectives of the matrix reconstruction process, which postulates a fundamental approach based on the spectral properties of the graph. The results of computational experiments on solving the problem of reconstructing the adjacency matrix for causal graph models in the absence of observable variables using the developed algorithm have shown that the algorithm effectively reconstructs matrices from the given parameters with admissible similarity indices. The convergence of the approximation to the solution of the matrix reconstruction algorithm is proved no slower than with the speed of a geometric progression. From a technical point of view, the advantage of the algorithm is the implementation of a tool for automatic adjustment of the regular-ization parameter, suitable for users without prior mathematical knowledge.
Matrix reconstruction; effective control; causal models; control decision-making; optimization methods; directed weighted signed graph.
1. Введение. Данное исследование адресуется к проблеме роботизации процесса принятия управленческих решений на основе нестохастических причинных моделей (СМ) в сложных системах (социальных, политических и социально-экономических системах).
Класс причинных моделей, который мы здесь рассматриваем, определяется как нестохастические причинные модели с ненаблюдаемыми (по своей природе) переменными. Несмотря на существование других типов причинных моделей сложных систем, наша работа охватывает широкую область, исследования в которой находятся в 'младенческой' стадии. Моделирование исследуемых систем осуществляется через экспертные суждения, получаемые непосредственно от человека, либо собираемые из его опубликованных мнений. Причинность здесь рассматривается как в работе [1]. Эти модели представляются в виде направленного графа, создаваемого на основе человеческих ментальных репрезентациях. При этом на дугах причинность выражена в виде некоторых меток, которые имеют знак, определяющий направление изменений состояния следствий. Рассматриваемые причинные модели включают неоднородные, сложные и качественные типы переменных, иллюстрирующие нечисловую природу узлов и связей, а, следовательно, отсутствие и невозможность получения временных рядов данных. В условиях отсутствия наблюдаемых переменных и невозможности проведения экспериментов, проблема реконструкции матрицы смежности графовой причинной модели становится гораздо более сложной.
С точки зрения сетевого отображения [2], исследуемые модели относятся к определенным статическим сетям с нестохастическими ребрами. Существующие методы реконструкции сетевой структуры используют статистические данные (полные, частичные, локальные) из наблюдаемого состояния узлов [3, 4] и решают частные задачи реконструкции сети для определенных типов графов. Задача полной реконструкции матрицы смежности в отсутствии наблюдаемых переменных в обобщенной постановке не решалась и является новой.
Цель данной статьи - предоставить алгоритм реконструкции матрицы смежности нестохастических причинных графовых моделей сложных систем в отсутствии наблюдаемых переменных. Идея состоит в том, чтобы использовать комбинаторную оптимизацию на основе спектральной теории графов для генерации данных из качественной нестохастической причинной модели и реконструировать матрицу смежности, используя эти данные.
Процесс заключается в том, чтобы получить модель с определенным спектральным разложением, которое реализует основную функцию моделируемой системы и охватывает важные структуры модели, для решения проблемы управления в этой системе. На основе этой концепции предлагается новый метод реконструкции матрицы смежности, реализованный на соответствующей матрице причинного распространения или передаточной матрице. В этом случае собственные векторы идентифицируются как ключевые цели процесса реконструкции матрицы, что постулирует фундаментальный подход, основанный на спектральных свойствах графа, а спектры графа «содержат всю информацию о системе» [12].
2. Обзор публикаций по теме исследования. В настоящее время восстановление сетевой структуры из данных временных рядов стало актуальной проблемой в области эволюционных игр [5, 6], сетей распространения [7], финансовых сетей [8], социальных сетей [9, 10], сетей экспрессии генов [11], физики [12] и в других областях.
Был предложен ряд методов для восстановления сложных сетей, таких как определение структуры сети на основе реакции узлов на внешние возмущения [13], построение зеркальной системы на основе синхронизации, которая может
сходиться к исходной системе для вывода структура сети [14], и восстановление структуры сети на основе корреляции шума [15], обратный инжиниринг [16], обобщенные линейные модели [17], сжатие [18] и др.
В работах по линейной алгебре рассмотрены частные задачи реконструкции сети на знаковых нециклических невзвешенных графах [19-23], что означает, что данная область исследований находится на начальной стадии.
Анализ математических подходов и алгоритмов в задачах реконструкции сети выявило следующие перспективные методы для рассматриваемого случая: метод матричной факторизации [10], положительные полуопределенные ограничения на матрицу переменных [24], метод минимизации матричной нормы методом множителей Лагранжа [25], матрица передаточной функции [26].
Однако следует отметить, что единой исследовательской парадигмы для реконструкции сети (даже на основе данных) не существует. Таким образом, решение задачи реконструкции матрицы смежности графовой модели в отсутствии наблюдаемых переменных требует применения новых подходов и решений.
3. Описание метода.
3.1. Задача реконструкции матрицы смежности в обобщенной постановке. Здесь мы представляем постановку задачи управления (прямую и обратную) для причинных моделей сложных систем в отсутствии наблюдаемых переменных. Мы рассматриваем нестохастические каузальные модели, которые имеют (1) качественную и нечисловую природу узлов и связей; (2) ненаблюдаемые переменные; (3) плохоформализуемые узлы; and (4) отсутствие и невозможность получения данных временных рядов. Эти характеристики требуют рассматривать задачу управления в параметрах воспроизводимого тренда для состояний узлов модели, в отличие от традиционных подходов, когда прогнозируются физические (наблюдаемые и измеряемые) показатели состояний концептов модели.
Мы исследуем процесс принятия решений с позиций выбора управляющих воздействий лицом, принимающим решения. Учитывая вышеприведенное, далее рассматривается задача реконструкции матрицы смежности в обобщенной постановке на основе следующей модели управления.
Рассмотрим граф G = (W, E), представляющий качественную CM, где W = W,W2,...,WN} - набор вершин; E е W х W - набор дуг. Граф определяется матрицей смежности AT , где a р1 — i, j — п - весовой элемент матрицы a = .
где п - количество вершин сети; 8 - коэффициент демпфирования; ^ - состояние I -й вершины в момент времени ^; и* - внешнее управляющее воздействие на вершину I в интервале времени ^ < t < ; а1 - вес на дуге. Значение веса выражает силу причинности, с которой управляющее воздействие распространяется от вершины ] к вершине I. Управляющее воздействие и* = и (1 <' < п) не зависит от * . Тогда вектор х = (х) представляет собой воспроизводимый тренд, компоненты которого также не зависят от * :
Рассмотрим следующую модель управления:
п
xi =?,+1 =£-С1, 1 - i - п.
(2)
Исходя из изложенного выше, модель управления л ЦА,и,х,£) задается следующей системой линейных уравнений (СЛАУ):
(I-ЗА)х = и , (3)
где I - единичная матрица; и = (и) - вектор воздействия; х = (х) - вектор отклика. С учетом модели управления (3), для получения пары векторов х и и, выражающих эффективное управление, необходимо оптимизировать следующую задачу нелинейной оптимизации:
где в = (i - 8a )T (i - 8a) - матрица квадратичной формы.
Обозначим N(0), N(+>, N-) как множество индексов вершин с ограничениями на управляющие воздействия u, где N(0) = {i | u = 0; 1 < i < nJ - множество индексов вершин, на которых управляющее воздействие не может быть оказано (по природе этой вершины); N(+) = { j\uj > 0;1 < j < nJ и
N(-) = {k| u < 0; 1 < к < nJ - множество индексов вершин с ограничениями на направление управляющих воздействий (положительное или отрицательное, соответственно). Матрица ограничений N = (1^ п2 ... nz) имеет
L = |n(0)| + |n(++ |n("столбцов и n строк, где j -й столбец матрицы N определяется как n ■ = +8J, где 8\ = [i = j] - дельта Кронекера, равная n\ = 8\ при j е N(0), j е N(+', и n\ = -8\ при j е N(-) . Учитывая (3), запишем ограничения в матричной нотации с = (NrN)-1 Nr (I-8A).
Задача (4) сводится к задаче квадратичного программирования (5) относительно вектора x (или u) при линейных ограничениях Cx > 0 и условии нелинейной нормировки xT x = 1:
xTBx ^ min , xTx = 1, Cx > 0. (5)
Получаем {xk, uk J, 1 < к < m что удовлетворяет условиям ортогональности
(u' )T uk = 0 , l * к, 1< k,l < m, где к , l (в верхнем индексе) - индексы ортогональных управлений, m - количество ортогональных управлений. Эти решения могут представлять самостоятельный интерес. Кроме того, получение нескольких последовательностей решений необходимо для уверенного выбора нужной пары векторов в случае относительно жестких условий Cx > 0. В этом случае для задачи (5) получаем последовательность задач (6):
(xk )T Bxk ^ min, (xk )T xk = 1, Ckxk > 0 , 1 < к < m , (6)
где (xk )T xk = 1 - нелинейные ограничения; (ul )r uk = (xl )r Bxk = 0 - условия ортогональности, последовательно расширяющие систему ограничений Ctxk > 0 .
Сформулируем задачу восстановления матрицы смежности, которая имеет т пар векторов откликов и воздействий {хк,ик | (1 < к < т).
По определению, Ъ = I-8А, где Ъ = (¿¿Д^ ч - передаточная матрица. Подставляя Ъх для и в (4) и учитывая, что ||ъ|| - матричная норма, согласованная с векторной нормой ||х||, получаем задачу оптимизации для Ъ :
1
IUI ||zx|| ||z|| ||x| щ Задача (7) в форме задачи квадратичного программирования имеет вид: IIZI2 ^ min , S < Z < T, ZX = U ,
(7)
(8)
1< i, j< n
матрица нижних границ для ограничении переменных
- матрица верхних границ для переменных
х, | - матрицы векторов
1<i<n, 1<k <m
где 8 = ( ъ. 1)
(.,.1 < ¿,.1, 1< 1 < п); Т = (К]
1 <]<п\ и = и х = (ха):
воздействий и откликов (к -й столбец ик ={и1к и2к ... ип к )Г матрицы и, и
к -й столбец \ =(л-, л-, ... х ,) матрицы X составляет к -ю пару векторов воздействий и откликов). Задача (8) решается для п параллельных задач с функцией Лагранжа. Необходимые условия минимума , -й задачи составляют итерационную схему по Бертсекасу [27]:
(1 + а) ж, - у,ХТ - + = аж,, и - жХ = 0,
Wi,j = 0, if z,.,j < ti,j - w.j/p, zuj = ti,j, if zi,j > ti,j - Wi,j/P, w, ,. = if z,.,j > j + Wi, Jp,
i, j
if zi,j < si,j + wi,j/P
if| zi,j - si,j > |ti,j - zi,j
fzi,j - si,j < |ti,j - zi,j
(9)
1 < i, j < n,
= (z„:
где z, = (z,, z
i,2
U = (m,,1
zi,n ) , 8г = (s, ,1 S
,) и X = (x
,,2 ••• п ^ — •■■ ¡1,п),
«и и,,2 •■■ и,,т) и X =(% ,2 • Х,,т) -е строки матрицЪ , 8, т , и и Х ; у, ={у,л У,, 2 •■■ у,,т) и Wг = (щи щ,,2 •■■ щ,,п), = (щч Щ 2 •.. щ п) - векторы множителей Лагранжа, соответствующие ограничениям в форме равенств и в форме двусторонних неравенств, р - параметр квадратичного штрафа; а - параметр регуляризации по А.Н.Тихонову [28]. Поскольку решаются задачи квадратичного программирования с линейными ограничениями, то правилом остановки является «уверенное» соблюдение всех ограничений и неотрицательность всех множителей Лагранжа, соответствующих ограничениям в виде неравенств, что контролируется булевой переменной q. Далее,
чтобы найти А, подставим Ъ из решения (8) в уравнение А = (I — Ъ) и решим относительно А.
2
x
x
x
>
^ max
zi, j = S
3.2. Алгоритм реконструкции матрицы в обобщенной постановке. Последовательность решений n параллельных задач оптимизационной задачи (8) реализует алгоритм реконструкции матрицы на основе передачи причинных влияний
(табл. 1). Введем следующие обозначения для каждой строки (zi (1 < i < n))
матрицы Z :
m - количество векторных пар, используемых для задачи оптимизации;
S - порог «уверенного» соблюдения ограничений из-за накопления ошибок округления при вычислениях с плавающей запятой;
c = (cj \<<n=(c1 c2 ... cn) - вектор обновленных значений элементов в строке zi ;
V - множество индексов столбцов в строке z у, соответствующий неактивным ограничениям переменных (si j < zi j < ti j , 1 < j < n), V с {l; 2; ...; n};
Q - множество индексов столбцов в строке z у, которые соответствуют активным ограничениям переменных (zi j = si j или zi j = ti j, но одновременно только в случае si j = ti j , 1 < j < n), Q с {l; 2; n};
X = (xjk) у l<k< - матрица, состоящая из строк
x ■ = (х^ х ■ 2 . х ■ т) матрицы X , которая соответствует неактивным ограничениям переменных (si j < zi j < ti j , 1 < j < n);
b = (b ) = (b b b ) - вектор правой части двойственной задачи;
^ j '1<k<m ^ 1 2 m '
y = (yj ) = (у У . Ум) - вектор множителей Лагранжа, соответствующий столбцам ограничений иг =U j\<< = (мп ии Um) в форме равенств ZX = U (zX = и, 1 < i < n);
х уТ = ^х ^ - скалярное произведение;
к=1
а - параметр регуляризации по А.Н.Тихонову [28]; О - логическая переменная продолжения цикла.
Когда множества V и Q получены, Q является дополнением V до множества всех индексов V^ Q = {1; 2;...; п}.
Таблица 1
Алгоритм реконструкции матрицы на основе передачи причинных влияний
(АРМ)
m
1: Input: n, m, S, T , U, X, p , s, a;
2: for i :=1 to n do
3: zi^(o 0 ... o); w^(o 0 ... o);
4: a + 1.0;
5: o ^ TRUE;
6: a ^^¡MaxFloat ~ 1019
7: while( o)
8: c^(0 0 ... 0); y^(0 0 ... о);
9: Q ^ {/|fc j < + w/p)v к, > t,,j - wj/p)};
10: V ^{1,2,..., n}\Q;
11: if V then
12: V1 < j < m : b, ^ (1 + a) щ, - £ ckxk, - a £ zl kxk^,; ^ keQ ) keV
13: y ^ b(xT X У1;
14: Vj e V: c, ^ (1 + a)-1(az,,, + x,yT );
15: endif
16: (1 + a)s, , -az , -x ,yT, if z, , < s, , + wjp Vj e Q: wf ^ v ' 1,j '■/ jy , ^j hJ jlp; Laz,.j + xjy - (1 + a)ti. j, if zi. j > ti,/ - wjlP
17: o ^ FALSE;
18: if( 31 < j < n : (cj < s,,j - s )OR( cj > t,, j + s )OR( w j < -s ))then
19: o ^ TRUE;
20: endif
21: z, ^ c ;
22: a^ 0.5a;
23: endwhile
24: endfor
25: Output: Z .
4. Эксперимент. Реализуемость предлагаемого подхода была проверена на тестовых примерах, параметры которых приведены в таблице 2. Мы провели численный эксперимент и сравнили результаты по коэффициентам схожести для полученных результатов по вектору отклика, вектору воздействия и собственно реконструированной матрицы. Матрица реконструировалась при ограничениях для узлов на параметры функционирования модели (столбцы 6 и 7 табл. 2) в заданном диапазоне изменений значений элементов матрицы (столбец 8 табл. 2). Как показано в табл. 3, алгоритм реконструировал матрицы в заданных параметрах с допустимыми показателями схожести. Коэффициент схожести рассчитывался путем вычисления проекции соответствующего результирующего вектора на исходный вектор.
Таблица 2
Параметры тестовых моделей
№ Источник Наименование модели Демпинг-фактор S Ограничения для узлов на параметры функционирования модели: Ограничения на диапазон значений
щ = 0 x < 0 весов на дугах
1 2 3 5 6 7 8
1. [29] Преступление 1,0 3 4, 6, 7 b = 0,5 1
и наказание, 7x7 с = 1 ,5 2
2. [30] Южная Корея, 31x31 0,4 8, 20, 23, 29, 30 -
3. [31 ] Обмен информацией в ритейле, 41x41 0,25 30 7, 9, 29, 37
4. [32] Корпоративный менеджмент, 75x75 0,2 1,2,59,60,62,63, 65-75
5. [33] Инженерное образование, 15x15. 0,2 6,7,13,15 12
1 Ь - коэффициент нижней границы ограничений для значений переменных
2 с - коэффициент верхней границы ограничений для значений переменных
Таблица 3
Результаты, полученные для тестовых моделей
Коэффициент схожести
№ Источник Наименование модели вектора отклика вектора управления реконструированной матрицы
1 2 3 6 7 8
6. [29] Преступление и наказание, 7x7 0,998578 0.978479 0,909535
7. [30] Южная Корея, 31x31 0,999772 0.998739 0,957863
8. [31] Обмен информацией в ритейле, 41x41 0,998603 0.993521 0,950762
9. [32] Корпоративный менеджмент, 75x75 0,999681 0.996544 0,976193
10. [33] Инженерное образование, 15x15. 0,999572 0.994686 0,917693
5. Анализ полученных результатов. Оценка технических параметров алгоритма приведена ниже.
5.1. Теорема сходимости итерационного процесса алгоритма реконструкции матрицы. Задача минимизации матричной нормы, согласованной с Евклидовой векторной нормой распадается на n задач для каждой строки zt, 1 < i < n матрицы Z:
||z,.||2 ^ min ; ziX = ui; si < zi < ti. (10)
Функция Лагранжа для задачи (10) имеет вид
L=121Ы12+(и» " ъ ХЬ +(8« " ^ Ы-) + (^ "t у Ы+) ^ т1п .
Решение задачи (10) может быть найдено с помощью следующего итерационного процесса
'(1 + а)гУ - Хуг - ЯН + Д(+) = аz[, и г - Z г X = 0,
^ ^ > ^ +^//Р> * -у к * 1 (* к + 4 к), (11)
Д$ = ° * -г,к < 'г,к - ^к+?/Р • if , > 1 / + ' )
„ , .. _ (+)/ if 2г,к > 2 (5"г',к + 'у,к)
-г,к = 'г,к , if -г,к ^ 'г,к - Дк.ЦР , 2
Теорема 1. Если набор индексов
Аг+1 = к ^ к + Д(,г2/р)и к< 'г,к + Да/р) ограничений в виде неравенств оценивается как неактивный, то итерационный процесс (11) сходится в области безусловной оптимизации к решению ~ задачи (10) не медленнее, чем со скоростью геометрической прогрессии.
Доказательство. Пусть приближение г(г+1) на итерации г +1 состоит только из компонент, которые не обретают свои значения из активных ограничений ^Ц11 = я1,к или = к . Такой вектор удовлетворяет уравнению:
(1 + а)~(г+1) = (у(г +1))ГХт +а~(г).
Решение ~ задачи (А) из тех же компонент удовлетворяет аналогичному
уравнению, так что их разность удовлетворяет уравнению (матрица Х состоит из соответствующих строк):
(1 + а)(~(г+1 -~)= (у(г+1) -уг)ХТ + а(~(г) -~). (12)
Отделим компоненты, получающие значения г\гк1) = к или г\гкх1 = ti к из активных ограничений, путем корректировки правой части и в уравнении:
z(г= иг,
где разность приближения zг(г+1) и решения ~ удовлетворяет уравнению:
(г^-~)Х = о. (13)
Подставляя соотношение (12) в (13), получим:
(1 + а)(~(г+1)-~ )Х = 0 = (у(г+1)-уг ТХт X+а(~М-~ Из этого следует, что
(^+1)-УгТ = -а(~г-г)-~)хXУ ,
(1 + ^+1) -~)= -а^) --X)-1 X- + а(~('') -~)= а^) -~)е -X)- Хт' В итоге получаем:
г("+0 _ у. = (1 + ) _ ~ )e - X(XTх)-1 Xт ).
27+1) - 2. = (1 + а )-1 а(~;r) - z,) E - X
Представим норму разницы в следующем виде:
+1)- 2 +1)- ~+1)- ~ Т =
= (1 + а)-2а2(~М-~)[Е-X(XТX)-1 XТ|Е-X(хТX)-1 XТ(~М -~Т =
= (1 + а)-2 а2 (~М-~)[ Е - X (XТ X )-1 XТ | Е - X (XXТ X )-1 XТ - ~ } = = (1 + а)-2 а2 (~ « - ~ )| Е - 2X(XТX^ X- + X(XТX)-' XТX(X-X^ X- - ~ ) =
= (1 + а)-2а2(?« - %)(Е - X(XТX)-1 X Т- %} < (1 + а)-2а2||г« - %||е - X(XТX)-1X т||||^) - Ц •
Если, применительно к единственной паре векторов воздействия и отклика, выдерживается условие нормирования X Т'К = хТх = 1, то матричная норма может быть оценена явно в следующем виде:
_У_ _N. П _ II ¡ПП П
-х(хтх)-1 хт = ]Г]Гх24 -2]Tx2
E - X (хт X )-1 XT
к '
1 к=1 I=1
Таким образом, мы имеем:
Цг^+1) - < (1 + а)-1а^п-ГЦг^) - .
Если выбрать 0<а<х/^п , то 0 <(1 + а)-1а^п-1 <д < 1 независимо от 5 , что означает сходимость приближения к решению не медленнее, чем со скоростью геометрической прогрессии:
Цгр+1)- Ц < )- , о < д < 1 •
Доказательство завершено.
Замечание. Заметим, что при а = 0 выход в область безусловной оптимизации означает воспроизводство последней итерации, как это имеет место для задач квадратичного программирования с линейными ограничениями.
5.2. Автоматизация установки параметра регуляризации в задаче оптимизации. Выбор и настройка подходящего параметра регуляризации является сложной и трудоемкой задачей, требующий соответствующих профессиональных знаний. Предложенный алгоритм выполняет автоматическую операцию его подбора: а ^ 0.5а. Параметр регуляризации имеет критическое значение для сходимости алгоритма в области безусловной оптимизации. При этом значение параметра а ограничено своим естественным порогом а > 0 (Теорема 1). Стартовое значение а , при котором решение сходится, имеет сравнительно высокие значе-
ния (105 -1018). Однако эти значения могут определяться одной единственной из задач квадратичного программирования. Тем не менее, эти высокие значения имеют принципиальный характер. При уменьшении их вдвое сходимость существенно замедляется или может вообще отсутствовать (не достигается правило остановки). Поскольку решаются задачи квадратичного программирования, то количество итераций не превышает 10 итераций.
5.3. Время работы алгоритма. Для всех исследованных примеров на одном ядре Intel Pentium процессора CPU 4417U 2.300 ГГц время решения алгоритма не превышало 1 сек. для обеих стратегий (табл. 4). Это вполне приемлемо для принятия управленческих решений, не требующих сверхбыстрой реакции.
Таблица 4
Время работы алгоритма на тестовых моделях при разных стратегиях вычисления параметра регуляризации а
Модель Размерность матриц Достигнутое значение параметра регуляризации а Время выполнения в сек. при стратегии
а = const а Ф const
1 75 x 75 5105 0,1896 0,1898
2 31x 31 5.108 0,0351 0,0358
3 15 x 15 5105 0,0231 0,0239
4 7 x 7 5105 0,0502 0,0153
5 41x 41 5105 0,1104 0,0632
Заключение. В настоящем исследовании мы показываем, что результаты вычислительных экспериментов решения задачи реконструкции матрицы смежности причинных графовых моделей в отсутствии наблюдаемых переменных с использованием разработанного алгоритма показали, что алгоритм эффективно реконструирует матрицы в заданных параметрах с допустимыми показателями схожести. Доказана сходимость приближения к решению алгоритма реконструкции матриц не медленнее, чем со скоростью геометрической прогрессии. С технической точки зрения, преимуществом алгоритма является реализация инструмента автоматической настройки параметра регуляризации а , пригодного для пользователей без предварительных математических знаний.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Pearl J. Bayesianism and Causality, or, Why I am Only a Half-Bayesian, 2001, pp. 19-36.
2. Pandey B. et al. A comprehensive survey of edge prediction in social networks: Techniques, parameters and challenges, Expert Syst. Appl., 2019, Vol. 124, pp. 164-181.
3. Delgado F.M., Gómez-Vela F. Computational methods for Gene Regulatory Networks reconstruction and analysis: A review, Artif. Intell. Med., 2019, Vol. 95, pp. 133-145.
4. Wu X. et al. Analyses and applications of optimization methods for complex network reconstruction, Knowledge-Based Syst., 2020, Vol. 193, pp. 105406.
5. Han X. et al. Robust Reconstruction of Complex Networks from Sparse Data, Phys. Rev. Lett., 2015, Vol. 114, No. 2, pp. 028701.
6. Wang W.-X. et al. Network Reconstruction Based on Evolutionary-Game Data via Compressive Sensing, Phys. Rev. X, 2011, Vol. 1, No. 2, pp. 021021.
7. Shen Z. et al. Reconstructing propagation networks with natural diversity and identifying hidden sources, Nat. Commun., 2014, Vol. 5, No. 1, pp. 4323.
8. Squartini T. et al. Reconstruction methods for networks: The case of economic and financial systems, Phys. Rep, 2018, Vol. 757, pp. 1-47.
9. Shahrampour S., Preciado V.M. Topology Identification of Directed Dynamical Networks via Power Spectral Analysis, IEEE Trans. Automat. Contr., 2015, Vol. 60, No. 8, pp. 2260-2265.
10. Wang W. et al. Kernel framework based on non-negative matrix factorization for networks reconstruction and link prediction, Knowledge-Based Syst., 2017, Vol. 137, pp. 104-114.
11. Wang Y.X.R., Huang H. Review on statistical methods for gene network reconstruction using expression data, J. Theor. Biol., 2014, Vol. 362, pp. 53-61.
12. Napoletani D., Sauer T.D. Reconstructing the topology of sparsely connected dynamical networks, Phys. Rev. E, 2008, Vol. 77, No. 2, pp. 026103.
13. Timme M. Revealing Network Connectivity from Response Dynamics, Phys. Rev. Lett., 2007, Vol. 98, No. 22, pp. 224101.
14. Yu D., Righero M., Kocarev L. Estimating Topology of Networks, Phys. Rev. Lett., 2006, Vol. 97, No. 18, pp. 188701.
15. Zhang Z. et al. Reconstruction of dynamic networks with time-delayed interactions in the presence of fast-varying noises, Phys. Rev. E, 2019, Vol. 99, No. 4, pp. 042311.
16. Bongard J., Lipson H. Automated reverse engineering of nonlinear dynamical systems, Proc. Natl. Acad. Sci., 2007, Vol. 104, No. 24, pp. 9943-9948.
17. Li S. et al. Network reconstruction by linear dynamics, Phys. A Stat. Mech. its Appl., 2014, Vol. 404, pp. 118-125.
18. Barranca V.J., Zhou D., Cai D. Compressive sensing reconstruction of feed-forward connectivity in pulse-coupled nonlinear networks, Phys. Rev. E, 2016, Vol. 93, No. 6, pp. 060201.
19. Simic S.K., Stanic Z. Polynomial reconstruction of signed graphs, Linear Algebra Appl., 2016, Vol. 501, pp. 390-408.
20. Simic S.K., Stanic Z. On the polynomial reconstruction of graphs whose vertex-deleted subgraphs have spectra bounded from below by -2, Linear Algebra Appl., 2008, Vol. 428, No. 8-9, pp. 1865-1873.
21. Sciriha I. Graphs with a common eigenvalue deck, Linear Algebra Appl., 2009, Vol. 430, No. 1, pp. 78-85.
22. Wang W., Xu C.-X. Some results on the spectral reconstruction problem, Linear Algebra Appl., 2007, Vol. 427, No. 1, pp. 151-159.
23. Bunimovich L., Shu L. Generalized eigenvectors of isospectral transformations, spectral equivalence and reconstruction of original networks, Linear Algebra Appl., 2018, Vol. 551, pp. 104-124.
24. Xu K. et al. Discovering target groups in social networking sites: An effective method for maximizing joint influential power, Electron. Commer. Res. Appl., 2012, Vol. 11, No. 4, pp. 318-334.
25. Wang C.-L., Li C., Wang J. Comparisons of several algorithms for Toeplitz matrix recovery, Comput. Math. with Appl., 2016, Vol. 71, No. 1, pp. 133-146.
26. Kavanagh R.J. The application of matrix methods to multi-variable control systems, J. Franklin Inst, 1956, Vol. 262, No. 5, pp. 349-367.
27. Bertsekas D.P. The Method of Multipliers for Equality Constrained Problems, Constrained Optimization and Lagrange Multiplier Methods. Elsevier, 1982, pp. 95-157.
28. Tikhonov A., Arsenin V. Solutions of Ill-Posed Problems. New York: Wiley, 1977.
29. Pedrycz W., Homenda W. From Fuzzy Cognitive Maps to Granular Cognitive Maps, IEEE Trans. Fuzzy Syst, 2014, Vol. 22, No. 4, pp. 859-869.
30. Kim D.-H. Cognitive Maps of Policy Makers on Financial Crises of South Korea and Malaysia: A Comparative Study, Int. Rev. Public Adm, 2004, Vol. 9, No. 2, pp. 31-38.
31. Büyüközkan G., Vardaloglu Z. Analyzing of CPFR success factors using fuzzy cognitive maps in retail industry, Expert Syst. Appl, 2012, Vol. 39, No. 12, pp. 10438-10455.
32. Tselykh A., Tselykh L. Methodology for comparative cognitive modeling based on the analysis of fuzzy target and control factors, Izv. SFedU. Eng. Sci., 2015, Vol. 7 (168), pp. 101-115.
33. Poczeta K., Kubus L., Yastrebov A. Analysis of an evolutionary algorithm for complex fuzzy cognitive map learning based on graph theory metrics and output concepts, Biosystems, 2019, Vol. 179, pp. 39-47.
Статью рекомендовал к опубликованию д.т.н., профессор А.В. Боженюк.
Целых Александр Николаевич - Южный федеральный университет; e-mail: ant@sfedu.ru; г. Таганрог, Россия; тел.: +79185562047; кафедра ИАСБ; д.т.н.; профессор.
Васильев Владислав Сергеевич - e-mail: vsvasilev@sfedu.ru; тел.: +79185983647; кафедра ИАСБ; к.т.н.; доцент.
Целых Лариса Анатольевна - Таганрогский институт им. А.П. Чехова (филиал) Ростовского государственного экономического университета (РИНХ); e-mail: l.tselykh58@gmail.com; г. Таганрог, Россия.; тел.: +79185695760; кафедра экономики и предпринимательства; к.э.н.; доцент.
Tselykh Alexander Nikolayevich - Southern Federal University; e-mail: ant@sfedu.ru; Taganrog, Russia; phone: +79185562047; the department IASB; dr. of eng. sc.; professor.
Vasilev Vladislav Sergeevich - e-mail: vsvasilev@sfedu.ru; phone: +79185983647; the department IASB; dr. of eng. sc.; the senior lecturer.
Tselykh Larisa Anatolievna - Chekhov Taganrog Institute (branch) of Rostov State University of Economics; e-mail: l.tselykh58@gmail.com; Taganrog, Russia; phone: +79185695760; the department of Economics and business; dr. of ec. sc., the senior lecturer.
УДК 621.396.1 Б01 10.18522/2311-3103-2021-4-187-199
Т.В. Шушкевич, А.А. Морозов, И.И. Турулин
АНАЛИЗ НЕКОТОРЫХ ВЕСОВЫХ ФУНКЦИЙ (ОКОН) И ИХ АППРОКСИМАЦИЙ ДЛЯ РЕАЛИЗАЦИИ НА ИХ ОСНОВЕ УПРАВЛЯЕМЫХ РЕКУРСИВНЫХ ФИЛЬТРОВ НИЖНИХ ЧАСТОТ С КОНЕЧНОЙ ИМПУЛЬСНОЙ ХАРАКТЕРИСТИКОЙ
Существуют различные типы весовых функций, так называемых окон, при цифровой обработке сигналов, такие как прямоугольное (окно Дирихле), треугольное (окно Барт-летта), окно Валле - Пуссена, окно Кайзера - Бесселя, окна Барсилона - Темеша, окна Ханна, Бохмана, Блэкмана, Гаусса (Вейерштрасса), Дольфа - Чебышева, Хэмминга и многие другие и идеальные характеристики стандартных фильтров, таких как фильтры нижн их и верхних частот, полосовые фильтры. Целью данной обзорной статьи является определение наиболее подходящей весовой функции для реализации на её основе управляемого рекурсивного фильтра нижних частот с конечной импульсной характеристикой. В данной статье представлен анализ лишь некоторых из вышеперечисленных окон и их аппроксимаций, а именно окна Дольфа - Чебышева, окна Гаусса (Вейерштрасса) и окна Хэмминга. Помимо анализа, был рассмотрен синтез рекурсивных цифровых фильтров с КИХ для весовой обработки данных на основе выбранных окон и их аппроксимаций. Рассмотрен метод синтеза окон Дольфа-Чебышева. Рассмотрена реализация окна Гаусса (Вейерштрасса). Рассмотрены способы аппроксимации окна Хэмминга и методы и несколько алгоритмов разработки фильтров с конечной импульсной характеристикой в виде данного окна. Произведено оценивание взаимосвязи между параметрами быстрых окон, выбранных для анализа, от максимального уровня боковых лепестков. На основе полученных данных были сделаны выводы по выбору наиболее подходящих и демонстрирующих наибольшее быстродействие окон, подходящих для реализации на её основе управляемого рекурсивного фильтра нижних частот c конечной импульсной характеристикой.
Цифровая обработка сигналов (ЦОС); весовая обработка сигналов; фильтр; весовая функция (окно); аппроксимация; импульсная характеристика (ИХ); амплитудно-частотная характеристика (АЧХ); конечная импульсная характеристика (КИХ).
