CC BY
33
ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ ОМСКИЙ НАУЧНЫЙ ВЕСТНИК № 3 (113) 2012
УДК 519.85
Д. Н. ЗАПОРОЖЕЦ А. В. ЗЫКИНА
Омский государственный технический университет
ДВУХШАГОВЫЙ ЭКСТРАГРАДИЕНТНЫЙ МЕТОД С ПАМЯТЬЮ ДЛЯ РЕШЕНИЯ ВАРИАЦИОННЫХ НЕРАВЕНСТВ СО СВЯЗАННЫМИ ОГРАНИЧЕНИЯМИ
В работе предлагается и обосновывается двухшаговый экстраградиентный метод с памятью для решения вариационных неравенств со связанными ограничениями. Предложенный метод допускает эффективную численную реализацию на многопроцессорных вычислителях. В качестве практического примера использования вариационных неравенств со связанными ограничениями рассмотрена несобственная задача математического программирования. Эта задача реализует модель планирования производства, в которой внешняя рыночная стоимость ресурсов совпадает с внутренними объективно обусловленными оценками ресурсов.
Ключевые слова: вариационное неравенство, экстраградиентный метод, оптимизация, сходимость, несобственная задача математического программирования.
Работа выполнена при финансовой поддержке РФФИ, проект № 12-07-00326.
Введение. Итерационные методы являются универсальным подходом к решению вариационных неравенств. Одна итерация метода заключается в вычислении направления в заданной итерационной точке и величины шага вдоль вычисленного направления для того, чтобы совершить переход в очередную итерационную точку. Собственно, итерационные методы различаются в способе выбора величины шага (постоянный, переменный, результат решения вспомогательной задачи) или направления (градиентные, сопряженных градиентов, экстраградиентные методы).
Применение параллельных вычислений в классических градиентных и экстраградиентных методах может быть эффективно только при распараллеливании трудоемких операций на текущей итерации и неэффективно на нескольких итерациях одновременно, так как вычисление очередной итерационной точки возможно только после вычисления предыдущей. Классические градиентные и экстрагра-диентные методы никак не используют информацию о направлении, в котором они двигались на предыдущей итерации и каждый раз вычисляют направление заново. Если же запоминать вычисленное ранее направление, то можно построить вычислительную схему, пригодную для использования параллельных вычислений. В статье для решения вариационных неравенств со связанными ограничениями предлагается эффективная для параллельной реализации вычислительная схема двухшагового экстрагради-ентного метода с памятью.
Постановка задачи. Пусть итерационный процесс имеет вид
где Ф — некоторая процедура, последовательность действий, необходимая для получения следующей итерационной точки.
Вектором движения итерационного процесса на к итерации назовем разность точек, полученных на к и к —1 итерациях:
Используя введенное определение, построим на к итерации вспомогательную точку х'к=хк+гк. Тогда очередную итерационную точку хк+1 вычислим следующим образом:
хк+1 = Ф(х'к), если
хк+1 = ф(хк)' если
II ф(*к)-*'к II Ф(Хк)-Х'к 11 >о<
где о>0. Выполнение условия || Ф(хк) — х'к || <о будем называть критерием одного направления.
Идея предлагаемого подхода заключается в том, что, используя вычисленное ранее направление, можно легко вычислить вспомогательную точку. Затем вычисляем Ф(хк), а на другом процессоре — Ф(х'к). И если Ф(хк) и х'к оказываются достаточно близки, то в качестве следующей точки следует брать Ф(х'к). Данный подход позволяет существенно сократить число итераций в тех задачах, в которых вектор движения итерационного процесса меняется незначительно. Также возможно его применение совместно с распараллеливанием трудоемких операций на каждой итерации. Методы с применением предлагаемого подхода назовем методами с памятью.
Несобственная задача математического программирования. Связанные ограничения возникают для задач, у которых наряду с внутренними параметрами имеются внешние параметры, выражающие влияние управляющих воздействий внешней среды на процесс принятия решений. Решение этой проблемы приводит к различным равновесным конструкциям, таким, как задачи о вычислении неподвижных точек, обратные задачи оптимизации и др. [1].
гк=хк-хк-і■
При классическом подходе решение задачи определяется для каждого фиксированного набора внешних параметров. В этом случае затруднено определение равновесия между внутренними объективно обусловленными оценками и внешними управляющими воздействиями. Эффективное решение этой проблемы — использование вариационных неравенств со связанными ограничениями как наиболее общей формы записи для таких задач. Структура полученных математических конструкций принципиально отличается от классических конструкций двойственности для задач оптимизации, поэтому эффективное использование таких задач требует разработки новых методов для нахождения решений этих задач.
Рассмотрим задачу выпуклого программирования (ВП)
тт |/0(х)|/1(х)<Ь1, fm(x)<Ъm, хеХ }, (1)
где выпуклое множество ХсЯп, /0, f1, ..., /ш : Х®Я — выпуклые функции.
Общепринятая экономическая интерпретация задачи ВП — это модель производства, в которой требуется выбрать интенсивности х=(х1, ..., хп) работы предприятия такие, чтобы обеспечить выпуск продукции в соответствии с технологическим процессом F(x) = (/1(x), ..., /т(х)) из ограниченных запасов ресурсов Ъ=(Ъ1, ..., Ът) с минимальными издержками /0(х).
Задача (1) широко известна, и существует множество методов ее решения. Однако в случае противоречивости исходной модели (например, когда количество имеющихся ресурсов не позволяет выполнить выбранные технологические процессы) система ограничений будет несовместной, а соответствующая задача оптимизации (1) становится несобственной [2]. Одним из подходов, предложенных академиком И. И. Ерёминым для коррекции таких задач, является параметризация исходной задачи и определение параметров, обеспечивающих разрешимость задачи. При этом можно дополнительно оптимизировать получаемую в результате коррекцию задачи.
Для несобственной задачи математического программирования (1) введем параметризацию через параметры у=(уг ..., ут), характеризующие рыночную стоимость ресурсов, тогда объемы запасов ресурсов Ъ естественно рассматривать как функцию от параметров у Кроме того, издержки производства свяжем покоординатно с ресурсами, что тоже вполне естественно, так как с каждым видом ресурса могут быть связаны свои производственные затраты. Итак,
пусть Fo(x) = (/01(x), ■■■, ^0т(х) ) , ^1 (х) = (-^ 11 (х) , ■■■, /1m(x) ) , Р(х) = (р1(х), ..., рт(х)), хеХ, ХоДп, X — выпуклое множество, уеЯт+ , /0. (х) и /х .(х), =1, ..., т, — выпуклые скалярные функции. Функции /0Дх), г'=1, ..., т задают издержки производства на единицу рыночной стоимости у. для каждого вида ресурса, при возрастании стоимости у. увеличиваются и издержки у. /01.(х), сумма которых задает суммарные издержки. Функции /(х), =1, ..., т определяют технологический процесс или расход ресурсов на производство с интенсивностями х=(х1, ..., хп), функции р((у), 1=1, ..., т — запасы ресурсов в зависимости от их рыночной стоимости У=(У1, ., ут).
В результате получаем задачу параметрического выпуклого программирования
тт {уТ Fo(x)\Р1 (х)<Р(у), хеХ}, уеЯ\ , (2)
содержательно состоящую в минимизации суммар-
ных издержек yT F0(x) производства из ограниченных объемов запасов ресурсов P(y) при меняющейся рыночной стоимости yeRm+ ресурсов и заданном технологическом процессе Fj(x). Задача (2) может иметь общую форму, а именно
min {F(x, y)|Fj(x)<P(y), xeX }, yeRm +, (3)
где целевая функция F: RnxRm+ ®R, характеризующая издержки производства, выпукла по переменной x для каждого фиксированного параметра y.
Наличие отображения P: Rm+ ®Rm+ в задаче (3) (или (2)) позволяет трансформировать одни единицы ресурсов в другие. Так, если y измеряется в денежных единицах, то P(y) дает количественное представление ресурсов, если же Fj(x) затраты производства, имеющие денежное выражение, то P(y) имеет то же измерение, и тогда параметр y задает количество используемых ресурсов.
Для решения параметрической задачи (3) (или (2)) введем дополнительные условия в виде параметрической по параметру x* нелинейной задачи дополнительности
P(y)-F!(x* ), y>0, yT (P(y)-Fl(x‘ ))=0, (4)
где
x'eArg min {F(x, y )|Fj(x)<P(y ), xeX}, или для задачи (2)
x'eArg min {(y*)T F(x)|Ft(x)<P(y*), xeX }.
Введенное дополнительное условие yT (P(y) — Fj(x)) = =0 есть условие дополняющей нежесткости для ограничений исходной задачи F1(x)<P(y) и внешних управляющих воздействий y>0. Это условие придает внешним параметрам задачи (3) (или (2)) свойства ее двойственных переменных.
Вариационные неравенства со связанными ограничениями. Перепишем задачу дополнительности (4) для (3) в несколько ином виде
max {yT (Fl(x )-P(y))F\(x* )<P(y), yeRm+}, (5)
где x — решение соответствующей задачи
min {F(x, y* )|Fj(x)<P(y* ), xeX}. (6)
В таком виде пару задач (5), (6) можно рассматривать как задачи со связанными ограничениями. Здесь в роли решаемой задачи выступает (6), а в роли связанного ограничения — оптимизационная задача (5).
Запишем эту задачу со связанными ограничениями в виде вариационного неравенства со связанными ограничениями. Введем для этого функции
H(v, w)=F(xv y2)-{x2, F^yJ-P^)),
G (v, w)=F1(x1)-P(y2)+F1(y1)-P(x2),
где v=[x1, y1], w=[x2, y2], v, weW = XxRm+ . В терминах этих функций сформулируем новую задачу: найти вектор veW такой, что
veArg min {H(v*, w)|G(v*, w)<0, weW}. (7)
Покажем, что решение задачи (7) будет решением и исходной задачи (5), (6).
ОМСКИЙ НАУЧНЫЙ ВЕСТНИК № 3 (113) 2012 ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ
ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ ОМСКИЙ НАУЧНЫЙ ВЕСТНИК № 3 (113) 2012
Задача (7) соответствует выполнению неравенства ^(х', у' )+<у\ ^(х' )-Р(у )><Р(х, у' ) + <у, (^1 (х* )-Р(у )> для всех х и у, удовлетворяющих неравенству F 1(х)—Р(у* )+^(х* )—Р(у)<0, хеХ, уеЯт+..
Для дальнейших рассуждений важно отметить, что С(у, V )<0; в исходных обозначениях это гарантирует выполнение следующего неравенства
^(х* ) Р(у* )<0. (8)
Теперь зафиксируем у, при этом неравенства останутся верными для всех хе Х, в этом случае задача преобразуется в следующую
Р(х, у' )<Р(х, у* ) для хе Х, удовлетворяющих неравенству
^(х )—^(х* )<0. (9)
Очевидно, оптимальный вектор х' удовлетворяет этому неравенству, но оно отличается от неравенства в исходной постановке задачи и может задавать иную область поиска решений. В разрешении этой проблемы поможет неравенство (8), если построить двойное неравенство на основе (4) и (5), то получится -РДх )— .РДх )<Р(у). Это же неравенство гарантирует, что область поиска решений не больше, чем область поиска решений исходной задачи. Из чего можно сделать вывод, что, решая задачу (7), мы найдем решение задачи (6). Аналогичные рассуждения приводят к задаче (5), если закрепить х .
В случае, когда целевая функция И(^ w) дифференцируема, поставленную задачу можно представить в виде вариационного неравенства со связанными ограничениями
(У#г И(у, V' ), w — у>>0, VwеО, С(у, w)<0,
где Vw И(^ V )=Vw И(v, w )^.
Таким образом, получили модель несобственной задачи математического программирования (1) в виде вариационного неравенства со связанными ограничениями.
Двухшаговый экстраградиентный метод с памятью. Для решения вариационных неравенств в работе [3] предложен двухшаговый экстраградиентный метод. Для решения вариационных неравенств со связанными ограничениями применим его модификацию при условии дифференцируемости связанного ограничения. Схема метода будет выглядеть следующим образом
™к = + акС№к. wk))+ ,
^ = Рп^к к(VwИ.vk) + VwG.vk)™кК
к = (^к +акС(™к. ))+ ,
~к = Ра^к -ак(VwИ) + VwG(Vk, vк)1~к Ь
wk+1 = +акС(^к г ^к ))+ ,
vk+l = Ра(vк - ак^wИ(~к'~к) + VwG(~,~k)'~к),
где Ра и ()+ — операторы проектирования на множества Ят+ и О соответственно.
Сформулируем условия сходимости этого метода в следующей теореме.
Теорема. Пусть для вариационного неравенства (У1(г И^, v ), w — v>>0 со связанным ограничением , w)<0 на выпуклом множестве О выполняются следующие условия:
а) множество решений задачи не пусто;
б) оператор И(v, v ) монотонный;
в) функция С^^) симметричная, дифференцируемая и выпуклая по w для любого vеО;
г) выполняется равномерная оценка || ук) || <С для всех кеЫ ;
д) сужение С^, w)| на диагонали квадрата выпуклая функция.
Тогда существует последовательность {ак} кеМ параметров такая, что {Ук} кем сходится монотонно по норме к одному из равновесных решений.
Требования, необходимые для сходимости метода, на первый взгляд могут показаться обременительными, но заметим, что даже в такой общей формулировке условия в) и д) будут выполняться автоматически для исходной задачи. Условие г) выполняется в силу сходимости метода монотонно по норме как по прямым, так и по двойственным переменным. Условие б) гарантирует существование решения.
Обозначим через ^к+г, ?к+1]=Ф(^к, Ук]) рекуррентные отношения построенного экстраградиент-ного метода для решения вариационных неравенств со связанными ограничениями. Тогда, при условии выполнения критерия одного направления,
||ф([wk, vk])-[wk, vk]' Н<0,
выполнение одной итерации экстраградиентного метода с памятью эффективнее исходного экстрагра-диентного метода и допускает реализацию алгоритма на многопроцессорных вычислителях [4].
Заключение. Математические модели сложных задач наряду с внутренними параметрами содержат внешние параметры, отвечающие за воздействия извне, влияющие на принимаемые решения. Приведенная в данной работе конструкция для решения несобственной задачи является новой и представляет большой интерес для использования, важным аспектом которого является применимость существующих методов для её разрешения и построение новых. Представление несобственной задачи в виде вариационного неравенства со связанными ограничениями позволяет применять к решению этой модели экстраградиентные методы с памятью, допускающие эффективную для параллельной реализации вычислительную схему.
Библиографический список
1. Зыкина, А. В. Обратная дополнительность в модели управления ресурсами / А В. Зыкина // Журнал вычислительной математики и математической физики. — 2008. — Т. 48. — № 11. - С. 1968-1978.
2. Ерёмин, И. И. Противоречивые модели оптимального планирования / И. И. Ерёмин. — М. : Наука. — 1988. — 160 с.
3. Зыкина, А В. Двухшаговый экстраградиентный метод для вариационных неравенств / А. В. Зыкина, Н. В. Меленьчук // Известия вузов. Математика. — Казань : КГУ, 2010. — № 9. — С. 82 — 85.
4. Запорожец, Д. Н. Распараллеливание экстраградиентных методов / Д. Н. Запорожец, В. С. Зыкин, А В. Зыкина, Д. И. Ку-янов // Омский научный вестник. — 2011.— № 3(103). —
С. 22 — 26.
ЗАПОРОЖЕЦ Дмитрий Николаевич, аспирант кафедры прикладной математики и фундаментальной информатики.
ЗЫКИНА Анна Владимировна, доктор физико-математических наук, профессор (Россия), заведующая
кафедрой прикладной математики и фундаментальной информатики.
Адрес для переписки: [email protected]
Статья поступила в редакцию 28.08.2012 г.
© Д. Н. Запорожец, А. В. Зыкина
УДК 519.72 А. Н. ПОЛУЯНОВ
Омский государственный технический университет
Омский филиал Института математики им. С. Л. Соболева Сибирского отделения РАН
РАСЧЕТ ДИАГНОСТИЧЕСКОЙ ШКАЛЫ НА ГРАФИЧЕСКИХ ПРОЦЕССОРАХ
В работе рассматривается технология расчета медицинских диагностических шкал. Описана реализация параллельного алгоритма расчета шкалы с использованием графических процессоров (технология СиОД).
Ключевые слова: диагностические шкалы, параллельное программирование, СиОД. Работа выполнена по проектам РФФИ № 12-07-00066-а, 11-08-01349-а.
Введение. Анализ накопленной информации является актуальной проблемой для многих исследовательских и прикладных задач. Традиционным способом ее решения в настоящее время является технология оперативной аналитической обработки данных OLAP (online analytical processing). Основой OLAP-технологии является построение многомерных представления данных.
Можно выделить следующие шаги при работе с данными:
— исходные данные представлены в реляционном нормализованном виде, и к ним обеспечивается доступ по технологии OLTP (online transaction processing);
— пользовательское многомерное представление данных, реализующее технологию OLAP, обеспечивается инструментарием, преобразующим исходные данные в гиперкуб;
— пользовательское представление далее используется для анализа данных.
Реализация данной технологии с использованием последовательных алгоритмов подробно представлена в работах [1, 2].
Время работы алгоритмов формирования пользовательского представления данных и анализа данных можно значительно сократить, используя технологию CUDA [3, 4], предназначенную для разработки приложений, исполняемых на графических процессорах.
Графический процессор представляет собой вычислительное устройство, которое:
— является сопроцессором к центральному процессору (CPU);
— имеет собственную память;
— выполняет одновременно большое количество нитей (аналог потоков CPU).
Код приложения, разработанного по технологии CUDA, состоит как из последовательных, так и из
параллельных частей. Последовательная часть выполняется на CPU, а параллельная часть оформляется в виде функции ядра (kernel function) и выполняется на графическом процессоре.
В данной работе рассмотрен этап анализа данных, а именно реализация параллельного алгоритма расчета диагностической шкалы с использованием технологии CUDA.
Описание задачи. Традиционно для расчета диагностической шкалы [5] используется линейная комбинация N значимых параметров, называемая в литературе решающей функцией [6, 7]:
F(x)=alxl+a2x2+,+ aNxN,
где x=(xir x2, ,, xN) — вектор значений выделенных параметров (координат в пространстве параметров), a=(al, a2, ,, aN) — веса выделенных параметров (коэффициенты).
Для значений функции F(x) определяются границы (оценочная шкала):
ffo' ffi.9к,
где K — количество групп объектов Ol, O2, ..., OK. При условии, что д0<д1<,<дк определение принадлежности произвольного объекта о с вектором значений параметров x' к группе O. сводится к проверке выполнения неравенства:
g!_l<F(x')<gj .
При выполнении равенства значения функции F какой-либо границе F(x’) = g. возникает ситуация неопределенности.
Для определения значений коэффициентов (air a2, ,, aN) и значений границ g0, gv ,, gK в распознавании образов традиционно используются
ОМСКИЙ НАУЧНЫЙ ВЕСТНИК № 3 (113) 2012 ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ
