Двойственный Регуляризованный алгоритм в задачах оптимизации и обратных задачах Текст научной статьи по специальности «Математика»

ТЕОРИЯ УПРАВЛЕНИЯ И МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ

УДК 519.633.9 © М. И. Сумин

ДВОЙСТВЕННЫЙ РЕГУЛЯРИЗОВАННЫЙ АЛГОРИТМ В ЗАДАЧАХ ОПТИМИЗАЦИИ И ОБРАТНЫХ ЗАДАЧАХ1

Введение

Доклад посвящен изложению новых результатов, связанных с регуляризацией в задачах оптимизации и обратных задачах на основе теории двойственности [1] - [3]. В нем рассматривается параметрическая задача минимизаации

I0(u) ^ inf, Il(u) = q, u GP, q G F — параметр, (1)

в которой D С U — замкнутое множество, Io : U ^ R1 — функционал, I\ : U ^ F — оператор, U, F — гильбертовы пространства.

Развитие методов регуляризации на основе теории двойственности позволяет дополнить существующие методы регуляризации оптимизационных задач (см., например, [4]) методами, в которых самым существенным образом используется классическая идея «снятия» ограничений, заложенная в принципе Лагранжа. Известно, что двойственные численные алгоритмы являются одними из самых эффективных для решения оптимизационных задач с ограничениями

[4], [5]. Их типичным представителем является классический алгоритм Удзавы (см., например,

[5]), заключающийся в непосредственном решении на основе градиентной процедуры задачи, двойственной к исходной оптимизационной задаче. Вопросы его сходимости изучались ранее лишь при двух весьма ограничительных обстоятельствах, одно из которых заключается в предположении точного задания исходных данных оптимизационной задачи, а другое предполагает наличие седловой точки соответствующего функционала Лагранжа (см., в частности, [6], [7]). Формальное же применение алгоритма в его классической форме может приводить и приводит к стандартным эффектам неустойчивости приближенного решения. Простейший пример такой неустойчивости, связанный с задачей минимизации сильно выпуклой квадратичной функции двух переменных на множестве, задаваемом аффинным ограничением типа равенства, эквивалентной задаче поиска нормального решения линейной алгебраической системы двух уравнений с двумя неизвестными можно найти в [3]. Естественно, в случае когда в исходной задаче отсутствует седловая точка, то все классические теоремы сходимости [6], [7] теряют смысл, так как в них предполагается одновременная сходимость по прямой и двойственной переменным. Примеры задач, в которых для функционала Лагранжа L(u, Л) = Io(u) + (Л, Ii(u) — q) задачи (1) справедливо равенство

sup inf L(u, Л) = inf sup L(u, Л),

X&Hu€V zev ЛеЯ

но внешний экстремум в левой части не достигается, могут быть найдены в [1], [2]. В этих примерах, первый из которых связан с обратной задачей финального наблюдения для параболического уравнения, а второй - с задачей решения интегрального уравнения Фредгольма первого рода, с соответствующими семействами зависящих от параметра q задач (1), всюду плотно во множестве всех значений параметра, для которых задача (1) разрешима, лежат как значения q , при которых функционал Лагранжа задачи (1) имеет седловую точку, так и значения, при которых функционал Лагранжа седловой точкой не имеет.

хРабота выполнена при финансовой поддержке Российского фонда фундаментальных исследований (код проекта 04-01-00460).

§ 1. Регуляризация на основе теории двойственности

Двойственная регуляризация для задачи минимизации (1) заключается в непосредственном решении возмущенной двойственной к (1) и регуляризованной по Тихонову задачи

Vf(Л) — а||Л||2 ^ sup, Л € F, Vf(Л) = inf (I0(u) + (Л, If (u) — q))

u€D

при согласованном с параметром регуляризации а стремлением к нулю ошибки задания исходных данных 5 и конструктивном построении при этом минимизирующей в задаче (1) последовательности [1] - [3]. В зависимости от конкретного вида задачи (1) она может иметь смысл обратной задачи [1], уравнения первого рода в гильбертовом пространстве [2] или задачи оптимального управления [3].

§ 2. Итеративная регуляризация двойственного алгоритма

В докладе обсуждается процедура итеративной двойственной регуляризации [1] - [4] указанного двойственного алгоритма для задачи (1)

Лк+1 = Лк + вкdv/fc (Лк) — 2вкакЛк, k = 1,2,...; Л1 G F, (2)

в которой

dVq (Л) = If (uf [Л]) — q, uf [Л] = argmin{I0(u) + (Л, If (u) — q) : u G D},

с целью конструирования сходящейся по аргументу минимизирующей последовательности в случае «линейно-выпуклой» задачи (1) с сильно выпуклым функционалом Io . Показывается, что при согласованном стремлении к нулю ошибки 5к , шагового множителя вк и параметра регуляризации ак имеет место сильная сходимость в метрике U приближенных решений uffc [Лк] к решению u0 невозмущенной задачи (1) I°(u) ^ inf, I°(u) = q, u G D вне зависимости от того, разрешима или нет, невозмущенная двойственная задача Р^°(Л) ^ sup, Л G F. При этом множество значений параметра q , для которых эта двойственная задача разрешима плотно во множестве всех тех значений q , для которых разрешима невозмущенная задача (1). Обсуждается проблема останова итерационного процесса (2) при фиксированной конечной ошибке задания исходных данных, «качество» его сходимости в зависимости от дифференциальных свойств функции значений задачи (1) как функции параметра q. Рассматривается связь предлагаемого алгоритма с принципом максимума Понтрягина.

Список литературы

1. Сумин М. И. Регуляризованный градиентный двойственный метод решения обратной задачи финального наблюдения для параболического уравнения // Ж. вычисл. матем. и матем. физ. 2004. Т. 44. № 11. С. 2001-2019.

2. Сумин М. И. Итеративная регуляризация градиентного двойственного метода для решения интегрального уравнения Фредгольма первого рода // Вестник Нижегородского университета. Серия Математика. 2004. Вып. 1(2). С. 192-208.

3. Сумин М. И. Регуляризованный двойственный алгоритм в задачах оптимального управления для распределенных систем // Вестник Нижегородского университета. Серия Математическое моделирование и оптимальное управление. 2006. Вып. 2(31) (в печати).

4. Васильев Ф.П. Методы оптимизации. М.: Факториал Пресс. 2002. 824 с.

5. Мину М. Математическое программирование. Теория и алгоритмы. М.: Наука. 1990. 488 с.

6. Экланд И., Темам Р. Выпуклый анализ и вариационные проблемы. М.: Мир. 1979. 400 с.

7. Гловински Р., Лионс Ж.-Л., Тремольер Р. Численное исследование вариационных неравенств. М.: Мир. 1979. 576 с.

Сумин Михаил Иосифович Нижегородский государственный ун-т,

Россия, Нижний Новгород e-mail: msumin@sinn.ru