Структура стохастического оптимизатора Текст научной статьи по специальности «Математика»

Структура стохастического оптимизатора

Калинин В. М., Свистунов С. Г., Яковлев В. В. Петербургский государственный университет путей сообщения Императора Александра I Санкт-Петербург, Россия science@vadimkalinin.ru, ssg47@mail.ru, jakovlev@pgups.ru

Аннотация. В современном мире широко применяются электронно-вычислительные устройства. При этом важным фактором является их производительность, т. е. за единицу времени должно выполняться большее количество операций. Но трудоёмкие операции, например, умножение, деление, возведение в степень занимают много времени. Для их выполнения можно использовать стохастические вычислительные устройства. В статье описана структура стохастического оптимизатора, дано его схематичное изображение. Рассмотрен алгоритм работы стохастического вычислительного устройства для решения задачи стохастической оптимизации. Приведен анализ быстродействия стохастического оптимизатора, представлена зависимость быстродействия от требуемой точности вычислений и от размерности пространства.

Ключевые слова: стохастический оптимизатор, стохастическое вычислительное устройство, линейный преобразователь «код - вероятность», последовательное арифметико-логическое устройство, сумматор с групповым переносом.

Введение

В измерительной технике, радиолокации, гидроакустике часто требуется решить оптимизационную задачу по определению экстремума функции регрессии. Под методом оптимизации понимают способ, который помогает найти минимум или максимум функции регрессии. На практике при измерении параметров сигналов необходимо учитывать воздействие случайных помех, которые накладываются на функцию, поэтому под воздействием помех известна не сама функция, а некоторая функция или ее градиенты.

Необходимо отметить, что современные вычислительные устройства являются высокопроизводительными, однако такие арифметические операции, как умножение, деление, возведение в степень достаточно трудоёмки и занимают много времени. Использование стохастического оптимизатора позволяет их исключить, заменив на более простые, такие как сдвиг, сложение и вычитание. Главная цель использования стохастического оптимизатора - сокращение времени работы алгоритма на каждой итерации, что должно уменьшить общее время реализации алгоритма.

Структура вычислительного устройства

Теорема 1. Пусть f(х) - выпуклая (возможно, негладкая) функция, заданная на выпуклом компактном множестве X с Rn. Функция удовлетворяет условию Липшица на X.

Если выполняется:

max| |x - y|| = q,

x, yeX

Ш ^ c = 2l п. н. l eZ, k = 1,..., n,

Ms Г = Д xs ), Дxs ) edf (xs ), ^ =Ys - Дxs ), Y k = csign(i,l )u+ (| - a\ k = 1..., n,

as e U[0, c], 5 > 0,

то с вероятностью 1 все предельные точки последовательности {xs}, задаваемые соотношениями

s +1 s еп*(Г ) s

xs =nx (xs - 2 y ), s = 0,1,. ,

rs +1 = minfe,rs -(Ys+1,Axs+1)-52ent(rs)},

q0 > 0, r0 = 0, Axs+1 = xs +1 - xs ,

принадлежат множеству X = {x e X : f (x ) = min f (y)}

rn yeX

[1], где:

ä - стохастический квазиградиент (СКГ); s - номер итерации; с - диапазон чисел в регистре; Ms - математическое ожидание;

fk ( xs ) - обобщенный градиент;

u (t) = J1 t > 0 - функция Хевисайда; |0, t < 0

nx - проекция точки на множество.

На основании теоремы 1 определяется алгоритм работы СтВУ для решения задачи стохастической оптимизации, в алгоритме, предназначенном для аппаратурной реализации, должна быть предусмотрена возможность параллельного выполнения отдельных операций в каждом блоке алгоритма (см. рис. 1).

В блоке 1 задаются начальные значения величин:

• l, где 2l = c > \Ç\ п. н.;

• p, где 5 = 2p > 0;

• [ak, b] - границы области для X;

• q0 - ограничение на степень шагового множителя, обычно q0 = 2;

• r0 - начальное значение степени шагового множителя, обычно r0 = 0;

• x 0 - начальная координата;

• g - условие окончания счета;

• Gk - средняя величина модуля сдвига, начальное значение Gk = 10g;

• AGk - приращение модуля сдвига, обычно начальное значение AGk = 0;

• yk - значение на выходе линейного преобразователя «код - вероятность» (ЛПКВ) [2], начальное значение Yk0 = 0;

Рис. 1. Алгоритм работы СтВУ для решения задачи стохастической оптимизации

• 5 - общее количество итераций;

• АЪк = хк - Ъ, Аак = ак - хк - отклонение х от границы области X.

В блоке 2 вычисляются значения:

• случайной величины а° в диапазоне [0, с];

, равномерно распределенной

• добавки к степени шага итерации ^

• новое значение координаты х®+1;

• новое значение модуля сдвига АОк;

• из содержимого счетчика числа итераций 5 вычитается 1;

• величина отклонения координат (Аа и АЪ) от границы области X;

• запоминается текущее значение г.

В блоках 3, 4, 6, 7 определяется проекция точки х®+1 на область для X.

В блоке 5 проверяется условие окончания вычислений.

В блоке 8 определяются величины:

• £к(х );

• приращения координат Ах®+1;

• приращение шага степени Аг и новое значение степени шага итерации г, новое значение среднего модуля сдвига Ок.

В блоке 9 выполняется ЛПКВ и определяется значение ук.

В блоке 10 вычисляются величины:

• степень шага итерации г;

• приращение степени шага итерации Аг;

• новое значение х5;

• новое значение приращения модуля сдвига АО..

В блоках 11 и 12 ограничивается степень шага итерации и происходит переход на блок 2.

В блоках 13, 14, 15, 16 ограничивается прирост степени шага итерации с учетом того, что степень г5 не должна меняться за один шаг слишком быстро, введено ограничение |Аг| < 2. На основании алгоритма строится функциональная схема СтВУ.

Из алгоритма можно сделать следующие выводы:

• с увеличением размерности пространства п увеличивается количество параллельно выполняемых операций;

• используются только «короткие» арифметико-логические операции: пересылки, сдвиг, сложение, вычитание, сравнение чисел.

Как известно [3], структуры арифметических устройств подразделяются на три группы: регистровые, табличные, матричные. Табличная структура содержит табличные данные, хранящиеся в постоянных запоминающих устройствах (ПЗУ). Матричная организация структуры арифметических устройств применяется в настоящее время, главным образом, для реализации умножения и деления. Так как в данном алгоритме отсутствуют операции умножения, деления, возведения в степень, обращения к таблицам ПЗУ, следует выбрать регистровую структуру с фиксированной точкой.

Таким образом, исходя из алгоритма, стохастический оптимизатор включает в себя:

• п регистров (ЯО £к+1) для приема очередного значения СКГ;

• п регистров (ЯО х. ) для текущих значений координат;

• п регистров (ЯОАОк) для приращения среднего модуля сдвига;

• п регистров (ЯОх.+1) для новых координат;

• п регистров (ЯО Ок) для среднего модуля сдвига;

• п регистров (ЯО у к) для текущих значений квантованных СКГ, полученных в ЛПКВ;

• п регистров (ЯО Ах.+ ) для приращений значений координат;

• п регистров (ЯОак) и п регистров (Кв Ък) для ограничений на координаты;

• регистр (ЯО Аг) для Аг = г5+1 - г5;

• регистр (ЯО1) для хранения значения степени (с = 21);

• регистр (ЯОр) для хранения значения степени (5 = 2р);

• регистр (ЯО5) для счётчика количества шагов итерации 5;

• регистр (ЯОg) для окончания процесса вычислений по значению Ок;

• регистр (ЯО^0) для хранения ограничения на степень шагового множителя;

• регистр (ЯО^) для добавки к степени шагового множителя;

• регистр (ЯОг) для хранения степени шагового множителя;

• регистр (ЯОгг) для предыдущего значения г;

• п регистров (ЯОАа) для отклонения координаты от нижней границы области X;

• п регистров (ЯОАЪ) для отклонения координаты от верхней границы области X.

Многие операции в алгоритме производятся над компонентами векторов параллельно. Группы регистров, хранящие вектора, обозначим (ЯО имя вектора). Например, группа из п регистров для текущих значений координат обозначается ЯО х5, где хх = (х1,..., х'п) — вектор. На рисунках группы регистров устройства, производящие параллельные операции над компонентами векторов, и линии передачи значений векторов обозначены утолщёнными линиями.

Для синтеза структурной схемы стохастического оптимизатора необходимо рассмотреть основные операции, выполняемые в алгоритме. Эти операции можно разделить на следующие группы:

• пересылки из регистра в регистр;

2z

, где z — целое число;

• сложение (вычитание) с 2^

• сравнение с константами вида ±2^

• алгебраическое сложение;

• сдвиг.

Вычислить значения d = 2р 2еп' ^ можно следующим образом: целая константар и целая часть (со знаком) г5 подаётся на вход дешифратора, и число на выходе дешифратора имеет 1 в нужном разряде [4], а остальные разряды будут равны 0 (рис. 2). Аналогично вычисляется значение 2е"' у к, т. к. Ук е {-21,0,21), где I — константа.

Рис. 2. Схема работы дешифратора

Значение 2еп' у. — это 1 в одном из двоичных разрядов, следовательно, значения х5+1 = х5 - 2еп'у к можно вычислить на реверсивном счётчике (рис. 3). В качестве ЯОхк+ используется реверсивный счётчик. Операция 5 = 5 - 1 вы-

полняется на обычном счётчике, а сравнение 5 = 0 легко реализуется на комбинационных схемах. Выбрав § как степень 2, легко сравнить Ок < Определение значения на выходе генератора псевдослучайных чисел (ГПСЧ) сводится к операции сдвига на один разряд, так как здесь корреляция между случайными числами не является критической, поскольку СКГ может зависеть от своих предыдущих значений (по условиям теоремы 1).

Величины Аак и АЪк определяются аналогично вычислению хк .

Операции сравнения Аак > 0 и АЪк > 0 можно выполнить на комбинационных схемах; определение проекции на множество X потребует операций пересылок.

Значения СКГ ) определяют путём измерения или вычисления для каждой конкретной задачи (эти данные являются «внешними»).

Вычисление Дх^ + и ^ потребует операции алгебраического сложения. Величина у к вырабатывается ЛПКВ и может быть реализована на комбинационных схемах [2, 5].

Рис. 3. Схема работы счетчика

Определение значений rs := rs - ^ (Axs+1yк) и Ат может

k=1

потребовать операции сдвига Axsk+1 на l разрядов и присвоения знака, так как ук e {-2l, 0,2l). Поскольку l = const, операция Axs+1yк может быть выполнена подачей на соответствующие разряды на входе сумматора числа Axk+1 с учётом значения l и sign(yk) (рис. 4).

Рис. 4. Схема работы сумматора

Сравнить ^ > = 2, Дг > 2, Дг < -2 можно на комбинационных схемах.

Структура стохастического оптимизатора представлена на рис. 5.

Анализ быстродействия оптимизатора

Время реализации алгоритма зависит от решаемой задачи оптимизации, т. е. от СКГ, структуры вычислительного устройства, времени выполнения элементарных операций -сдвига и сложения, требуемой точности вычислений. В дальнейшем будем рассматривать асимптотические оценки скорости выполнения алгоритма для дважды непрерывно дифференцируемых функций. Требуемая точность вычисления определяет общее количество итераций 5.

Структура вычислительного устройства (рис. 5) зависит от размерности решаемой задачи п и от разрядности используемых регистров, которая, в свою очередь, зависит от требуемой точности вычислений. Время выполнения элементарных операций зависит от используемой элементной базы.

Будем считать, что 1,5, п - разрядность регистров т, время сдвига на один разряд гсдв, время суммирования гсум, время пересылки гп заданы.

Определим время выполнения одной итерации гит. Обозначим разрядность регистра как т (^Оимя). Время выполнения итерации определяется из анализа алгоритма (см. рис. 1) и структуры стохастического оптимизатора (рис. 5).

Рассмотрим время выполнения отдельных операций. А2:

• генерация ПСЧ эквивалентна сдвигу и ее продолжительность гОДв;

• вычисление d займёт время гп;

• вычисление хк+1, ДЪк, Дак сводится к добавлению 1 к соответствующему разряду реверсивного счётчика, что займёт время, не превосходящее гсдв;

• новое значение 5 вычисляется вычитанием 1 из счётчика, что займёт время, не превосходящее гсдв;

• вычисление среднего приращения значения сдвига ДОк займёт время гсдв.

Так как все операции выполняются параллельно, гА 2 = 'сдв.

А3, А4, А5, А6, А7: значения 5, Дак, ДЪк сравниваются с 0 на комбинационных схемах, можно положить А = ¿п (к = 1, п).

А8: время определения (измерения, вычисления) очередного значения СКГ гскг зависит от многих факторов для каждой конкретной задачи (в системах реального времени оно может занимать до половины длительности выполнения одного шага алгоритма). Обычно ¿скг > 'сум. Примем 'а 8 = гСКГ.

А9: очередное у к на выходе ЛПКВ определяется на комбинационных схемах и занимает время ¿а9 = 'п (к = 1, п).

А10: учитывая, что у к е {-21,0,2 }, операция вычисления Г и Дг для (п + 1) слагаемых может быть реализована на сумматоре для (п+1)-числа с учётом сдвига на I разрядов для хк+1 (см. рис. 4). Время выполнения этой операции можно оценить как ¿а10 = ¿сум [епг(^2 п) +1].

А11, А12: операция сравнения с д0 = 2решается на комбинационных схемах, можно принять ¿аи А12 = 'п.

А13, А14, А15, А16: сравнение с 2 и -2 решается на комбинационных схемах, добавление или вычитание 2 из г5 займёт время не более гсдв.

Рис. 5. Структура стохастического оптимизатора. Начало CCI - схема сравнения текущего значения S с 0; CC2 - схема сравнения АЪ^ > 0 ; CC3 - схема сравнения Aa^ > 0 ; CC4 - схема сравнения

rs > qo; CC5 - схема сравнения Ar > 2; CC6 - схема сравнения Ar < —2 ; CC7 - схема сравнения G£ < g; RGS - счётчик числа итераций; RG x£+1 - реверсивный счётчик, работающий с микрооперацией А2, в остальных случаях работает как обычный регистр; RG Aa£, RG АЪ£ -реверсивные счётчики, устанавливаются в 0 по сигналам со схем СС2 и ССЗ; RG rs - реверсивный счётчик, работающий с микрооперацией A14 или A16; SM- алгебраический сумматор; ЛПКВ - линейный преобразователь кода (Çs+1) в вероятность; RG AGk - регистр сдвига,

осуществляет сдвиг на 4 разряда вправо. (Везде к = 1, n )

Рис. 5. Структура стохастического оптимизатора. Окончание

Общее время выполнения одной итерации для стохастического оптимизатора

гит = 2гсдв + 3гп + ¿сум [епг(1^2 п) +1] + гСКГ. В реальных задачах max(n) = 5, тогда

гит = 2гсдв + 3гп + 3гсум + ¿СКГ.

Общее время выполнения алгоритма будет определяться числом шагов итерации 5.

г0 = 5гит = 5[2гсдв + 3гп + ¿сум[епг(1°^2 п) +1] + гСКГ]. (1)

Если задана погрешность вычисления 9, то получим [1]:

М|х*+1 - х* < так как 5 >> 1, имеем

1,56 сап

= 9,

5=

1 (5 +1) В 2 1,56 сап

9В

2

(2)

Из формулы (1) получим:

гСКГ = г0 / 5 - 2гсдв - 3гп - ¿сум - ¿сумепг(1og2 п) .

Очевидно, что ¿скг > 0, тогда критерием физической реализуемости стохастического оптимизатора будет выполнение неравенства

Таблица 2

1,56 can

^o > ¿min „ 2 '-""■сдв

es2

[2сдв + 3П + ¿сум + ZCYMenZ(log2 n)] •

При аппаратурной реализации технические параметры наиболее распространённых схем регистров и сумматоров можно определить следующим образом [3]:

¿сдв = 3т, ¿П = т, ¿сум = 3mT,

где т - длительность такта; m - разрядность последовательного арифметико-логического устройства. Отсюда получим:

tmin = 1,56can [9 + 3m + 3m • ent(log2 п)]т.

ев2

При использовании сумматоров c групповым переносом ¿сум = 2^шт [3], тогда

1,56can гп i— i— ¿min =-ñ— [9 + 2y¡m + 2Vm • en¿(log2 п)]т •

ев2

В таблицах 1 и 2 приведены значения г^ / (5т) для вариантов последовательных и параллельных сумматоров.

Варианты параллельных сумматоров

m п 9 + 2^/м + 2^/м • eni(log2 n)

8 1 14,6

8 2 20,2

8 3 20,2

8 4 25,9

8 5 25,9

16 1 17

16 2 25

16 3 25

16 4 33

16 5 33

32 1 21,3

32 2 33,6

32 3 33,6

32 4 45,9

32 5 45,9

На рис. 6 показана зависимость гт;п от 9 при разных п, т = 32 для последовательного арифметико-логического устройства.

На рис. 7 дана зависимость гт;п от 9 при разных п, т = 32 для сумматоров с групповым переносом.

Таблица 1

Варианты последовательных сумматоров

m n 9 + 3m + 3m • enf(log2 n)

8 1 33

8 2 57

8 3 57

8 4 81

8 5 81

16 1 57

16 2 105

16 3 105

16 4 153

16 5 153

32 1 115

32 2 211

32 3 211

32 4 307

32 5 307

Рассмотрим пример расчёта быстродействия стохастического оптимизатора при следующих исходных данных: а = = 0,3, с = 1, В = 1, т = 5 нс, тогда имеем:

1,56сапт 1,56n0,3 • 5 „„ ,n --— =-= 2,34— нс.

ев2 е-1 е

^>кс)

1750

Рис. 6. Зависимость для последовательного АЛУ

и<мкс)

Рис. 7. Зависимость для сумматоров с групповым переносом

Как видно из приведённых зависимостей, время счёта больше зависит от требуемой точности вычислений и от размерности пространства п.

Допустимая погрешность определяет количество шагов итерации. Для приведённого выше примера при а = 0,3, 9 = 0,001, п = 1, В = 1 из формулы (2) получим

5 = 1,56 Сап = 468. 9B

Минимальное время выполнения одного шага итерации ¿иг min (без учёта ?скг) для последовательных арифметико-логических устройств

¿ИТ min = [9 + 3m + 3m ■ ent(log2 п)]т, для сумматоров с групповым переносом

¿ИГmin = [9 + 2л[т + 2\/m ■ ent(log2 п)]т.

Например, при т = 5 нс, т = 16, п = 1 имеем для последовательных арифметико-логических устройств ¿ит min = = 285 нс. Для сумматоров с групповым переносом %г min = = 85 нс.

Заключение

Время реализации алгоритма зависит от решаемой задачи оптимизации, т. е. от стохастического квазиградиента, структуры вычислительного устройства, времени выполнения элементарных операций сдвига и сложения, требуемой точности вычисления. Структура вычислительного устройства зависит от размерности решаемой задачи и от разрядности используемых регистров, которая, в свою очередь, зависит от требуемой точности вычислений.

Литература

1. Свистунов С. Г. Исследование принципов построения стохастических процессоров, реализующих адаптивные квазиградиентные методы статистической оптимизации: автореф. дис. ... канд. техн. наук / С. Г. Свистунов. - СПб., 1996.

2. Фёдоров Р. Ф. Стохастические преобразователи информации / Р. Ф. Фёдоров, В. В. Яковлев, Г. В. Добрис. - Л.: Машиностроение, 1978. 304 с.

3. Соловьёв Г. Н. Схемотехника ЭВМ / Г. Н. Соловьёв. -М.: Высш. шк., 1985. 391 с.

4. Яковлев В. В. Стохастические вычислительные машины / В. В. Яковлев, Р. Ф. Фёдоров. - Л.: Наука, 1973. 298 с.

5. Байков В. Д. Специализированные процессоры: итерационные алгоритмы и структуры / В. Д. Байков, В. Б. Смолов. - М.: Радио и связь, 1985. 288 с.

6. Kushner H. J. Stochastic Approximation Algorithms and Applications / H. J. Kushner, G. G. Yin. - NY: Springer-Verlag, 1997.

7. Maryak J. L. Global Random Optimization by Simultaneous Perturbation Stochastic Approximation / J. L. Maryak, D. C. Chin // Proc. Soft the Am. Control Conf., 25-27 June 2001, Arlington. - Arlington (VA). Р. 756-762.

8. Spall J. C. Multivariate Stochastic Approximation Using a Simultaneous Perturbation Gradient Approximation / J. C. Spall // IEEE Trans. Autom. Control. 1992. Vol. 37. P. 332-341.

9. Arsham H. Techniques for Monte Carlo Optimizing / H. Arsham // Monte Carlo Methods and Appl. Vol. 4. P. 181229.

10. Alrefaei M. H. A new search algorithm for descrete stochastic optimization / M. H. Alrefaei, S. Andradottir // Proc. 1995 Winter Simulation Conf., Inst. Electr. Electron. Eng. - Pis-cataway, New Jersey, 1995. P. 236-241.

Structure of the Stochastic Optimizer

Kalinin V. M., Svistunov S. G., Yakovlev V. V. Emperor Alexander I Petersburg State Transport University St. Petersburg, Russia science@vadimkalinin.ru, ssg47@mail.ru, jakovlev@pgups.ru

Abstract. In today's world, many different processes are associated with the use of electronic computing devices. When using them, an important factor is the performance of these devices, i. e. for a unit of time, more operations should be performed. But there are time consuming operations, for example, such as multiplication, division, exponentiation, occupying an extended period of time. Stochastic computing devices can be used to perform such operations. The article contains a description of the structure of the stochastic optimizer and its schematic representation. An algorithm for the operation of a stochastic computer for solving stochastic optimization problems is considered. The analysis of the speed of the stochastic optimizer and the representation of the dependence on the required length of computations and on the dimensionality of space are given.

Keywords: stochastic optimizer, stochastic computer, linear code-probability converter, sequential arithmetic logic devices, adder with group transfer.

References

1. Svistunov S. G. Investigation of the principles of constructing stochastic processors realizing adaptive quasigradient methods of statistical optimization [Issledovanie printsipov postro-eniia stokhasticheskikh protsessorov, realizuiushchikh adaptivnye kvazigradientnye metody statisticheskoi optimizatsii]. St. Petersburg, 1996.

2. Fedorov R. F., Jakovlev V. V., Dobris G. V. Stochastic information converters [Stokhasticheskiye preobrazovateli infor-matsii], Leningrad, Mashinostroyeniye, 1978, 304 p.

3. Solovyev G. N. Circuit design of computers [Skhemotekh-nika EVM], Moscow, Vysshaya shkola, 1985, 391 p.

4. Yakovlev V. V., Fedorov R. F. Stochastic computers [Sto-khasticheskie vychislitel'nye mashiny], Leningrad, Nauka, 1973, 298 p.

5. Baikov V. D., Smolov V. B. Specialized processors: iterative algorithms and structures [Spetsializirovannye protsessory: iter-atsionnye algoritmy i struktury], Moscow, Radio i svyaz, 1985, 288 p.

6. Kushner H. J., Yin G. G. Stochastic Approximation Algorithms and Applications, NY, Springer-Verlag, 1997.

7. Maryak J. L., Chin D. C. Global Random Optimization by Simultaneous Perturbation Stochastic Approximation, Proc. Soft the Am. Control Conf., Arlington, 25-27 June 2001, Arlington, VA, pp. 756-762.

8. Spall J. C. Multivariate Stochastic Approximation Using a Simultaneous Perturbation Gradient Approximation, IEEE Trans. Autom. Control, 1992, vol. 37, pp. 332-341.

9. Arsham H. Techniques for Monte Carlo Optimizing, Monte Carlo Methods andAppl., vol. 4, pp. 181-229.

10. Alrefaei M. H., Andradottir S. A new search algorithm for descrete stochastic optimization, Proc. 1995 Winter Simulation Conf., Inst. Electr. Electron. Eng., Piscataway, New Jersey, 1995, pp. 236-241.