Чебышевские и евклидовы проекции точки на линейное многообразие Текст научной статьи по специальности «Математика»

ЧЕБЫШЕВСКИЕ И ЕВКЛИДОВЫ ПРОЕКЦИИ ТОЧКИ НА ЛИНЕЙНОЕ МНОГООБРАЗИЕ12

Губий Е. В.3, Зоркальцев В. И.4, Пержабинский С. М.5

(ФГБУН Институт систем энергетики им. Л.А. Мелентьева СО РАН, Иркутск)

Приведены результаты исследования свойств и взаимосвязей чебышевских и евклидовых проекций начала координат на линейное многообразие. В таком виде представляются многие задачи прикладной математики. Евклидовы проекции соответствуют использованию метода наименьших квадратов. Чебышевские проекции соответствуют минимизации максимального отклонения. Приводится и теоретически обосновывается алгоритм поиска чебы-шевской проекции, всегда дающей однозначный результат и позволяющей обходиться без трудно проверяемого и иногда нарушаемого условия Хаара. Алгоритм базируется на использовании лексикографической оптимизации, на каждом этапе которой отыскивается относительно внутренняя точка оптимальных решений. Свойством вырабатывать относительно внутренние точки оптимальных решений обладают алгоритмы метода внутренних точек. Множества чебышевских и евклидовых проекций начала координат на линейное многообразие формируется путем варьирования положительных весовых коэффициентов при отдельных компонентах векторов в чебышев-ских и евклидовых нормах. Доказано, что замыкания обоих этих множеств совпадают с множеством векторов линейного многообразия с Парето-минимальными абсолютными значениями компонент. Это в частности означает, что любая чебышевская проекция может быть получена с любой требуемой точностью, как и евклидова проекция, за счет выбора весовых коэффициентов. Это означает также, что любая евклидова проекция (т.е. при любом наборе положительных весовых коэффициентов в евклидовой норме) может быть получена за счет выбора весовых коэффициентов в виде чебышевской проекции.

1 Работа выполнена в рамках научного проекта Ш.17.4.4 программы фундаментальных исследований СО РАН, рег. № АААА-А17-117030310436-7.

2 Исследования выполняются при финансовой поддержке РФФИ (грант №19-07-00322).

3 Елена Валерьевна Губий, старший инженер (egubiy@gmail.com).

4 Валерий Иванович Зоркальцев, д.т.н., профессор (zork@isem.irk.ru).

5 Сергей Михайлович Пержабинский, к.ф.-м.н. (sergperj@gmail.com).

Ключевые слова: весовые коэффициенты, внутренние точки, линейное многообразие, метод наименьших квадратов, чебышевская проекция.

1. Введение

Многие задачи прикладной математики сводятся к проблеме поиска наиболее удаленных от начала координат точек линейного многообразия [1, 6, 10, 11, 13, 14]. Далее Ь - линейное многообразие в Я", определяемое как множество векторов «-мерного вещественного пространства, замкнутое относительно операции аффинной комбинации. То есть для любых х1 и х2 из Ь вектор Л х1 + (1 - Л) х2 при любом вещественном Л находится в Ь.

Линейное многообразие может иметь разные алгебраические формы представления в конкретных задачах. Например, оно может быть определено в виде сдвига на заданный вектор линейного подпространства, определяемого как множество линейных комбинаций некоторого набора векторов. В таком случае Ь - это множество векторов х е Я", для любого из которых существует вектор г е Ят , удовлетворяющий условию (1) х+Вг = d.

Здесь заданными являются вектор й е Я", матрица В размера " х т при некотором натуральном т. Столбцы матрицы В составляют векторы, из линейных комбинаций которых формируется линейное подпространство. Это подпространство задает линейное многообразие Ь в результате сдвига на вектор й.

В частности, к виду (1) сводится известная задача поиска коэффициентов линейной регрессии. В этом случае 7 = 1, ..., т -номера факторов, у = 1, ..., " - номера наблюдений, Ьц - коэффициенты матрицы В, интерпретируемые как значение 7-го фактора в у-м наблюдении, йу - значение результирующего показателя в у-м наблюдении. Искомые компоненты вектора г являются коэффициентами линейной регрессии. Компоненты вектора х интерпретируются как «случайные» или «остаточные» составляющие линейной аппроксимации, которые должны быть по возможности минимальны по абсолютной величине.

Линейное многообразие может быть задано и как множество решений системы линейных уравнений. То есть в качестве Ь может рассматриваться множество векторов х е Я", удовлетворяющих условию

(2) Ах = Ь,

где А - заданная матрица размера т х «, Ь - заданный вектор.

К проблеме поиска решений системы линейных уравнений с минимальными абсолютными значениями компонент сводятся задачи поиска допустимого решения модели (имеющей вид системы линейных уравнений), максимально приближенного к заданному недопустимому решению. Пусть требуется найти вектор показателей у е Я", удовлетворяющий системе линейных уравнений

(3) Ау = d,

где заданными являются матрица А и вектор й е Ят. Имеется набор значений в виде компонент вектора у е Я", которые являются желательными, но не удовлетворяющими (3). Требуется найти вектор у, удовлетворяющий (3), компоненты которого расходились бы минимально по абсолютной величине с компонентами вектора у .

Используем замену переменных. Введем вектор расхождения желаемых и достигаемых по условию (3) значений. Пусть

(4) х = у - у. Тогда при

(5) Ь = d - Ау

задача (2) будет равносильной задаче (3). Вектор х, удовлетворяющий (2) и имеющий минимальные абсолютные значения компонент, может служить для получения решения задачи (3). Решение задачи (3) из решения задачи (2) определяется по правилу, вытекающему из (4):

(6) у = х + у.

В частности, в виде системы линейных уравнений предста-вима модель межотраслевого баланса (МОБ). Обсуждаемая здесь задача поиска допустимых решений, максимально приближенных к заданному недопустимому решению, имеет место

как при составлении отчетного МОБ [16], так и при составлении прогнозного МОБ [9]. При формировании отчетного (за прошлые годы) МОБ в результате сбора, обработки, агрегировании исходных данных по разным, в том числе вполне объективным, причинам получается набор показателей, неудовлетворяющий точно условиям модели МОБ. Требуется их по возможности минимальная корректировка, чтобы были выполнены все условия модели МОБ.

При прогнозировании и планировании развития экономики разноплановые, независимо вырабатываемые разными специалистами прогнозы и пожелания должны увязываться в единую систему допустимых вариантов. Для этого требуется решение задачи определения минимальных корректировок несбалансированных прогнозных показателей, чтобы они после этого стали удовлетворять условиям МОБ.

К задачам поиска ближайших от начала координат точек линейного многообразия и их непосредственным обобщениям сводятся многие постановки проблемы нахождения псевдорешений несовместных систем [2, 3, 5, 6, 15].

2. Возможные способы доопределения проблемы

Существуют разные варианты конкретизации проблемы поиска ближайших к началу координат точки линейного многообразия [6-8]. В частности, эту проблему можно сформулировать в виде задачи минимизации штрафной функции:

(7) p(x) ^ min, x е L.

В [6] рассматривался класс дифференцируемых штрафных функций, удовлетворяющих при любом х е Rn условию

(8) sign(Vj р(x)) = sign(Xj), j = I,..., n,

где значение функции sign (а) от вещественного а равно 1, 0 или -1, если а > 0, а = 0 или а < 0 соответственно. Выражение Vppx) обозначает j-компоненту градиента функции р в точке х. При этом требовалось, чтобы функция р в результате некоторого возрастающего дифференцируемого преобразования могла

перейти в строго выпуклую функцию. Класс таких функций обозначим ¥.

Для любой функции ре ¥ существует и единственно решение задачи (7), которое обозначим х(р). Множество решений задачи (7) при разных функциях из ¥ обозначим

(9) РЕ = {х(р): ре Е}.

К классу ¥ относятся гельдеровские нормы

(10) р = (I к\х\ )"р ,

]=1

где р - заданный из интервала (1, да) степенной коэффициент, к - заданный вектор весовых коэффициентов Ну > 0, у = 1, ..., «. Гельдеровская норма переходит в строго выпуклую функцию при возведении ее в степень р. При р = 2 имеем евклидову норму. В этом случае можно говорить, что задача (7) решается методом наименьших квадратов.

Использование гельдеровской и, в частном случае, евклидовой нормы в задаче (7) означает, что отыскивается гельдеров-ская или, в частном случае, евклидова проекция начала координат на линейном многообразии Ь. Множество гельдеровских проекций при фиксированном степенном коэффициенте обозначим

(11) Рр ={х(рР): к] >0, ] = 1,...,"}

В [6] доказаны следующие равенства для любогор е (1, да):

(12) Р2 = Рр = РЕ.

Эти равенства означают, что любую гельдеровскую проекцию начала координат на линейное многообразие можно получить как евклидову проекцию за счет выбора весовых коэффициентов. Более того, используя метод наименьших квадратов за счет выбора весовых коэффициентов можно получать решение задачи минимизации штрафной функции на линейном многообразии для широкого класса штрафных функций.

В качестве другого подхода к конкретизации понятия «ближайшего к началу координат вектора» можно использовать Парето-оптимальные решения многокритериальной задачи

минимизации абсолютных значений всех компонент. Множество векторов линейного многообразия с Парето-минимальными абсолютными значениями компонент обозначим

п п

(13) 0 = (х е Ь : ^ 3у е Ь, £ | у | < Е| X | , | у | <| х,- | , ] = 1,...,п}.

В [6] было доказано, что данное множество ограниченное, замкнутое, связное, но, возможно, не выпуклое. Установлены следующие важные соотношения:

(14) Р2 с 0, с1 Р2 = 0,

где Ы - операция «замыкания» множества. Это означает, что любое решение с Парето-минимальными абсолютными значениями компонент может быть получено как евклидова проекция с любой точностью за счет выбора весовых коэффициентов.

Более подробно результаты исследования свойств проекций точки на линейное многообразие представлены в [6-8]. При этом исследовались только гельдеровские, включая евклидовы, и октоэдральные проекции, и не рассматривались чебышевские проекции.

Обозначим Мх), Дх), х), ^(х) - множества номеров компонент вектора х е Я" с нулевыми, ненулевыми, положительными и отрицательными значениями соответственно. Множество ^х) называется носителем вектора х. Пусть - линейное подпространство параллельное Ь, т.е. множество, состоящее из векторов 5 = х - у, где х и у - векторы из Ь. Критерием принадлежности вектора множеству Q может служить следующее доказанное в [7] утверждение.

Лемма 1. Вектор х е Ь находится в Q в том и только в том случае, если не существует вектора 5 е 5, 5 Ф 0, при котором

(15) J_ (я) с (х), J+ (я) с J_ (х) .

3. Чебышевские проекции могут обходиться без условия Хаара

Основная цель данной статьи состоит в изучении чебышев-ских проекций начала координат на линейное многообразие. Чебышевские проекции соответствуют решению задачи (7) при

использовании в качестве штрафной функции чебышевской нормы

(16) рда( х) = тах Нлх\, е 11

где J = {1, ..., п}. Чебышевские нормы можно рассматривать как предел гельдеровских норм при р ^ да, чем и объясняется введенное здесь обозначение. Чебышевские нормы, чебышев-ские проекции и чебышевская аппроксимация нередко используются в прикладной и вычислительной математике. Чебышев-ские нормы - недифференцируемые функции, поэтому они не относятся к классу ¥ и нуждаются в отдельном исследовании.

Существенным недостатком чебышевских проекций является их возможная неоднозначность. Причем среди множества решений могут быть и решения явно неудовлетворительные по содержательным соображениям.

Рассмотрим пример. Пусть п = 2, линейное многообразие задается условием Х2 = 1, т.е. это прямая, параллельная оси абсцисс. Множество чебышевских проекций начала координат на такое многообразие составляет интервал значений Х1 от -Н2 / Н1 до Н2 / Н1. Причем по содержательным соображениям удовлетворительным является только значение Х1 = 0. То есть только такой вектор из указанного интервала можно рассматривать как ближайший к началу координат.

Можно отметить, что именно в точке х1 = 0, х2 = 1 будет достигаться минимум на прямой х2 = 1 функции

Рр (х) = (| Л1 х11р +1 Н2 х2 |р )17 р при любом р > 1. При р = 1 это

будет октаэдральная проекция начала координат на линейное многообразие. При р = 2 - евклидова проекция, при р е (1, да) -гельдеровская проекция. И только в предельном случае р = да, что соответствует чебышевской проекции, будем иметь указанный выше интервал решений.

Для преодоления проблем неоднозначности и неестественности возможных чебышевских проекций обычно используется специальное ограничение на линейное многообразие Ь, на правила которыми оно задается. Это так называемое условие Хаара, фактически сводящееся к требованию единственности

чебышевской проекции. Условие Хаара ограничивает применение чебышевских проекций. Оно порой трудно проверяемое и иногда нарушаемое. Нами предлагается пойти по другому пути - использовать в дополнение к задаче (7) при р = лексикографическую оптимизацию алгоритмами, приводящими к относительно внутренним точкам оптимальных решений.

Напомним, что относительно внутренними точками выпуклого множества называются [12] внутренние точки этого множества относительно минимального линейного многообразия, его содержащего. Для множества решений системы линейных уравнений и неравенств относительно внутренними точками будут решения этой системы с минимальным (несужаемым) набором активных (выполненных в виде равенства) ограничений-неравенств.

Процесс вычисления однозначной чебышевской проекции представим в виде конечной последовательности поиска относительно внутренних точек оптимальных решений задач линейного программирования. Пусть J\ = J, S1 = S. При р = р% и t = 1 задача (7) представима в следующем виде:

(17) а^ min, x е L,

(18) — ай hjXj йа, j е Jt.

Пусть d - оптимальное значение целевой функции этой задачи, xt - относительно внутренняя точка оптимальных решений, т.е. это оптимальное решение с минимальным набором ограничений (18), выполняющимся в виде равенства.

Обозначим I'+ — множество номеров j е Jt, для которых

(19) hx = а.

Пусть — множество номеров j е Jt, для которых

(20) hjxtj =—а.

Поскольку xt - решение задачи (17), (18) с минимальным набором активных ограничений, то не существует вектора 5 е S, 5 Ф 0, при котором

(21) I_ П J(s) * Ф, И П J + (s) = Ф, I— П J — (s) = Ф.

Зафиксируем значения компонент вектора переменных

тí тг

с номерами из У+ и У_ :

(22) х, = х), ) е I+ и 11. Положим

(23) ^ = е : = 0, ) е 1+ и II},

(24) 3М = 3 \{1+ и II}.

Если Jí+l ф 0, то переходим к решению задачи (17), (18) при t := t + 1 и зафиксированными по условию (22) значениями компонент вектора переменных на последнем и всех предыдущих этапах вычислений.

Поскольку множество Jt+l строго включено в Jt, то через конечное число этапов таких вычислений процесс завершится и множество Jí+l окажется пустым. Пусть это будет этап с номером Т. Вектор xT определяется описанным вычислительным

процессом однозначно. Обозначим его х(рда) .

Множество всех таких чебышевских проекций при различных положительных весовых коэффициентах обозначим

(25) Рда= (х(р): Ь) > 0, ) = 1,...,п}, Теорема 1. Рда с Q.

Доказательство. Требуется доказать, что х(р^) при любых Ну > 0, у = 1, ..., п, находится в Q. Это вытекает из (21) для t = 1, ..., Т и леммы 1. Теорема доказана.

Поиск относительно внутренней точки оптимальных решений задачи (17), (18) (при условии (22) для t > 1) может осуществляться алгоритмами метода внутренних точек, которые [4] обладают свойством приводить к относительно внутренним точкам оптимальных решений задач линейного программирования.

4. Евклидовы и чебышевские проекции

Лемма 2. Для того чтобы вектор х совпадал с х(р^) при данном векторе положительных весовых коэффициентов Н,

необходимо и достаточно выполнения при любом 5 е равенства

п

(26) X hJxJsJ = 0. }=1

Доказательство. Вектор х(р^) является оптимальным ре-

шением задачи:

n

v'42

(27) 0,5-Xhj (xt)2 ^ min, x е L.

j=i

Действительно, целевая функция задачи (27) является результатом возрастающего преобразования функции x) -возведения ее значения в степень 2 и умножения на 0,5. Поэтому оптимальное решение задачи (7) при р = рр2 будет совпадать с решением задачи (27).

Условие (26) означает, что производная в точке x целевой функции задачи (27) по любому направлению, не выводящему из L, должна быть равна нулю. Это является необходимым и достаточным условием оптимальности для задачи (27) вектора x е L. Лемма доказана. Теорема 2. P2 с Px.

Доказательство. Требуется доказать, что при любом заданном векторе положительных весовых коэффициентов вектор

(28) x = х(рА2)

будет находиться в множестве Px. То есть существует вектор весовых коэффициентов d е Rn, dj > 0, j = 1, ..., n, при котором

(29) x = x(pj ).

Если L содержит начало координат Rn, т.е. L является линейным подпространством, то утверждение теоремы верно, поскольку оба множества P2 и P» будут состоять из одного нулевого вектора. Далее считаем, что 0 Ф L, т.е. у вектора x носитель J(x) не пуст. Положим

(30) dj = j е J(x),

xj|

и ёу - любое положительное число для у е Jo(x). При указанном ё:

(31) ) =-1,] е 3_ (х),

(32) ] = 1,] е 3+ (х),

(33) ) = 0,] е 3о(х).

Предположим, что х Ф х(р™) . Следовательно, при некотором у е Ь

(34) < 1, ] е 3(х).

Пусть 5 = у - х. Для этого вектора из в силу (31), (32) и (34)

(35) > 0, ] е 3- (х),

(36) 5, < 0, ] е 3+ (х). Следовательно,

(37) Iк,х]5] <

)е3 (х)

Поскольку

(38) I ]5 ] = 0

]е30 (х)

то (37) означает невыполнение для данного вектора 5 равенства (27). По лемме 2 это противоречит исходному условию

х = х(р\). Теорема доказана. 5. Заключение

Из (14), теоремы (1) и теоремы (2) следует

(39) Р2 с Рш с е = с1 Р2.

Отсюда, в частности, вытекает, что

(40) с1 рш=е.

Множество чебышевских проекций находится в ограниченной области Q. Причем любые решения из Q можно получить с любой требуемой точностью как чебышевскую проекцию начала координат на линейное многообразие за счет выбора весовых коэффициентов в чебышевской норме.

Соотношение (39) означает, что любую евклидову проекцию начала координат на линейное многообразие можно представлять за счет выбора весовых коэффициентов в виде чебы-шевской проекции начала координат на линейное многообразие. При этом, согласно (14), (40), любую чебышевскую проекцию начала координат на линейное многообразие можно получать с любой требуемой точностью в виде евклидовой проекции начала координат на линейное многообразие за счет выбора весовых коэффициентов.

Важным результатом данной статьи является обоснование алгоритма получения однозначной во всех случаях чебышев-ской проекции начала координат на линейное многообразие.

Литература

1. ГАУСС К.Ф. Избранные геодезические сочинения. - М.: Геодезиздат, 1957. - 144 с.

2. ГОЛИКОВ А.И., ЕВТУШЕНКО Ю.Г. Двойственный подход к решению систем линейных равенств и неравенств // Труды XII Байкальской международной конференции «Методы оптимизации и их приложения», Иркутск, 2001. -С.91-99.

3. ГОЛИКОВ А.И., ЕВТУШЕНКО Ю Г. Новый метод решения систем линейных равенств и неравенств // Доклады РАН. - 2001. - Т. 381, №4. - С. 444-447.

4. ДИКИН И.И., ЗОРКАЛЬЦЕВ В.И. Итеративное решение задач математического программирования (алгоритмы метода внутренних точек). - Новосибирск: Наука, 1980. -220 с.

5. ЕРЕМИН И.И. Теория линейной оптимизации. - Екатеринбург: Екатеринбург, 1999. - 312 с.

6. ЗОРКАЛЬЦЕВ В.И. Метод наименьших квадратов: геометрические свойства, альтернативные подходы, приложения. - Новосибирск: Наука, 1995. - 220 с.

7. ЗОРКАЛЬЦЕВ В.И. Октаэдрические и евклидовы проекции точки на линейное многообразие // Труды Института математики и механики УрО РАН. - 2012. - Т. 18, №3. -С.106-118.

8. ЗОРКАЛЬЦЕВ В.И. Проекции точки на полиэдр // Журнал вычислительной математики и математической физики. -2013. - Т. 53, №1. - С. 4-19.

9. ЗОРКАЛЬЦЕВ В.И., БАТОЕВА И.В., БЕДЕНКОВ А.Р., САДОВ С.Л. Согласование частных прогнозов в балансовых моделях. - Сыктывкар: Коми НЦ УрО АН СССР, 1990.

10. МУДРОВ В.И., КУШКО В.Л. Методы обработки измерений (квазиправдоподобные оценки). - М.: Сов. радио, 1976. - 192 с.

11. МУДРОВ В.И., КУШКО В.Л. Методы обработки измерений: квазиподобные оценки. -М.: Наука, 1983. - 304 с.

12. РОКАФЕЛЛАР Р. Выпуклый анализ. М.: МИР, 1973. -470 с.

13. СТЕЦЮК П.И., КОЛЕСНИК Ю.С. К вопросу выбора метода аппроксимации результатов измерения // Интеллектуальные информационно-аналитические системы и комплексы. Киев: Ин-т кибернетики им. В.М. Глушкова НАН Украины, 2000.- С. 62-67.

14. СТЕЦЮК П.И., КОЛЕСНИК Ю.С., БЕРЕЗОВСКИЙ О.А. Об одном методе нахождения Lp-решения системы линейных уравнений // Теория оптимальных решений . - 2003. -№2. - С. 83-90.

15. ФРОЛОВ В.Н. Оптимизация плановых программ при слабо согласованных ограничениях. - М.: Наука, 1986. - 164 с.

16. ЧЕРКАССОВСКИЙ Б.В. Задачи балансировки матриц // Методы математического программирования и программное обеспечение. - Свердловск: УрО АН СССР, 1984. -С.2016-217.

CHEBYSHEV AND EUCLIDEAN PROJECTIONS OF POINT ON LINEAR MANIFOLD

Elena Gubiy, Melentiev Energy Systems Institute SB RAS, Irkutsk, senior engineer (egubiy@gmail.com).

Valeriy Zorkaltsev, Melentiev Energy Systems Institute SB RAS, Irkutsk, Doctor of Science, professor (zork@isem.irk.ru). Sergey Perzhabinsky, Melentiev Energy Systems Institute SB RAS, Irkutsk, Candidate of Science (zork@isem.irk.ru).

Abstract: Results of research ofproperties and interrelations of Chebyshev and Euclidean projections of the origin on linear manifold are considered in the article. Many problems of applied mathematics can be presented in the such view. They are problems of linear approximations, problems of search solutions of balance models closed to the given infeasible solutions, search of pseudosolutions of the models with inconsistent conditions. Euclidean projections are corresponded to application of the least square method. Chebyshev projections are corresponded to minimization of a maximal deviation. We developed and theoretical justified algorithm of searching of Chebyshev projections. The algorithm gives single-valued result and allows to dispense without the difficult verified and sometimes violated Haar condition. The algorithm is based on using of lexicographic optimization. The relative interior point ofset of optimal solutions is found on each stage of lexicographic optimization. The property of producing of relative interior points is the main property of algorithms of interior point method. The sets of Chebyshev and Euclidean projections of the origin on linear manifold are formed by way of varying of positive coefficients corresponding to components of vectors in Chebyshev and Euclidean norms. We justified that closure of these sets are equal with the set of vectors of the linear manifold with Pareto-efficient absolute meanings of the components. Consequently, any Chebyshev and Euclidean projection can be get with any required accuracy through choosing the weight coefficients. It was also proved any Euclidean projection with any set of positive weight coefficients in Euclidian norm can be get for the account of choosing the weight coefficients in the form of Chebyshev projection.

Keywords: weight coefficients, interior points, linear manifold, least square method, Chebyshev projection.

УДК 519.6 ББК 22.19

Статья представлена к публикации членом редакционной коллегии Г.А. Угольницким.

Поступила в редакцию 28.02.2019.

Опубликована 31.07.2019.