Исследование составляющих ошибки для решения обратной задачи с использованием случайных проекций Текст научной статьи по специальности «Математика»

УДК 004.942 + 623.454.862

Е.Г. РЕВУНОВА

ИССЛЕДОВАНИЕ СОСТАВЛЯЮЩИХ ОШИБКИ ДЛЯ РЕШЕНИЯ ОБРАТНОЙ ЗАДАЧИ С ИСПОЛЬЗОВАНИЕМ СЛУЧАЙНЫХ ПРОЕКЦИЙ

Анотація. Проведено порівняльний аналіз рішень дискретних некоректних зворотних задач, отриманих у результаті дискретизації інтегрального рівняння (задача Carasso, Delves, Phillips). Використовувалися методи псевдозвернення і регуляризації Тихонова і ці ж методи з використанням додаткового проектування випадковою матрицею. Досліджено залежність складових помилки рішення (зсув і дисперсія) від розмірності матриці проектора. При використанні проектування метод псевдозвернення продемонстрував точність на рівні регуляризації Тихонова.

Ключові слова: дискретна некоректна зворотна задача, псевдозвернення, регуляризація, проектування, зсув, дисперсія.

Аннотация. Проведен сравнительный анализ решений дискретных некорректных обратных задач, полученных в результате оцифровки интегрального уравнения (задача Carasso, Delves, Phillips). Использовались методы псевдообращения и регуляризации Тихонова и эти же методы с использованием дополнительного проецирования случайной матрицей. Исследована зависимость составляющих ошибки решение (смещение и дисперсия) от размерности матрицы проектора. При использовании проецирования метод псевдообращения продемонстрировал точность на уровне регуляризации Тихонова.

Ключевые слова: дискретная некорректная обратная задача, псевдообращение, регуляризация, проецирование, смещение, дисперсия.

Abstract. A comparative analysis of discrete ill-posed inverse problems solutions obtained by discretization of the integral equation (Carasso, Delves, Phillips problems) has been performed. Pseudoinverse and Tikhonov regularization methods were used. The same technique we used with additional projection by random matrix. The error partitioning into bias and variance was done. The dependence of the components of error solution (bias and variance) on the dimension of the projector matrix was studied. Pseudo-inverse method, when projecting, has shown the accuracy similarly to Tikhonov regularization.

Key words: discrete ill-posed inverse problems, pseudoinverse, regularization, projection, bias, variance.

1. Введение

Во многих практических приложениях требуется решать дискретную обратную задачу вида

Фx = y , (1)

где матрица Ф є ЖNxN и вектор y є ЖN, искаженный аддитивным шумом є є ЖN y = y0 + є, известны и получены в результате оцифровки интегрального уравнения первого рода [13]. Требуется оценить вектор сигнала xє ЖN .

В случае, когда y содержит шум, ряд сингулярных чисел si матрицы Ф плавно

спадает к нулю, Ф имеет высокое число обусловленности smax / smin, задачу оценки x называют дискретной некорректной обратной задачей [1]. Такие свойства Ф характерны для задач спектрометрии [4], гравиметрии [5], электроразведки [6].

Решение дискретной некорректной обратной задачи как задачи наименьших квадратов [7]

x = arg mini у - Ф^2 (2)

x

x = ф+ у

(3)

является неустойчивым [1, 2]. Признаком неустойчивости является то, что малым изменениям вектора у соответствуют большие изменения решения х; при этом велико значение ошибки решения.

Для преодоления неустойчивости и, соответственно, повышения точности решения используют регуляризацию [1-3, 7]. Регуляризация накладывает некоторые ограничения на решения, которые позволяют повысить их устойчивость, например, малость /2-нормы решения ||х|| . Классическим методом регуляризации является регуляризация Тихонова [1]. Задачу регуляризации Тихонова формулируют следующим образом:

где 1 - параметр регуляризации.

Недостатками, присущими методам решения дискретных некорректных обратных задач на основе регуляризации Тихонова, являются высокая вычислительная сложность и сложность подбора правильного параметра регуляризации, от которого в значительной мере зависит устойчивость решения. Поэтому востребованными являются альтернативные подходы к решению дискретной некорректной обратной задачи с точностью на уровне регуляризации Тихонова, но с меньшей вычислительной сложностью.

Нами разрабатывается подход к решению дискретной некорректной обратной задачи с использованием методов псевдообращения и случайных проекций [8, 9]. В данной работе приводятся результаты исследования составляющих ошибки решения, полученные данным подходом, и их сравнение с ошибкой традиционных подходов. В качестве экспериментального материала используются известные примеры обратных задач [10-12]. Показано убывание составляющей смещения и рост составляющей дисперсии ошибки решения с ростом размерности проекционной матрицы, наличие минимума ошибки и возможность получения решения с хорошей точностью без использования регуляризации Тихонова.

2. Решение дискретной некорректной обратной задачи методом случайных проекций

Нами разрабатывается подход к решению дискретной некорректной обратной задачи, использующий проекционную версию рандомизированных алгоритмов приближения матриц [13]. В качестве проектора RеЖkxN используется матрица с элементами, сформированными реализациями случайной величины [14, 15]. Случайные проекционные матрицы с к < N используются также в теории [16, 17] и практике [18] вложений векторных пространств (vector space embeddings) для сокращения размерности векторов с целью ускорения оценки их сходства.

Для решения обратной задачи с использованием проекционного подхода [19] умножим обе части исходного уравнения (1) на матрицу R еЖkxN, k < N, элементы которой - реализации случайной величины с нормальным распределением, нулевым средним и единичной дисперсией. Число столбцов N матрицы R определяется размерностью исходной матрицы Ф , число строк к априори не фиксировано.

Получим уравнение

X = argmin||y - Ф x|| +1|| x||2,

(4)

X

Ах = Ь, где А = ЯФ , А е ЖкхМ, Ь = Яу, Ь еЖк . Тогда задача наименьших квадратов (2) записывается в виде

х = аг§шт|Ах - Ь|| .

(5)

(6)

х = Л+Ъ.

Восстановление сигнала методом регуляризации Тихонова получим как

X = аг§тт|| Лх - Ъ|| + 1 х||

ІІ2 ' ' 'ІПІІ2 ' (8)

Точность решения обратной задачи будем оценивать с помощью ошибки і восстановления истинного сигнала х, вычисляемой как

і = | |х - х|| = ||е||, (9)

где X - вектор восстановленного сигнала, е - вектор ошибки решения.

3. Составляющие ошибки восстановления истинного сигнала

Вектор ошибки е представляют [20, 21] в виде суммы двух составляющих: дисперсии и смещения. Составляющие вычисляются следующим образом. Пусть Р - оператор, преобразующий у в X (рис. 1): X = Ру, тогда, с учетом у = у0 + є, выражение для оценки х можно представить в виде

X = Р(Уо + є) = Руо + Рє = РФх + Рє ; Уо = Фх . (10)

Используя выражение для х, получаем выражение для е :

е = х - х = РФх - х + Рє = (РФ - 1)х + Рє . (11)

Таким образом,

е = е1 + е2, где е1, е2 є Жм, е1 = (РФ -1)х, е2 = Рє . (12)

е1 называют смещением, е2 - дисперсией [20, 21].

Различным методам решения задачи (1) соответствуют операторы Р разного вида.

На рис. 1 схематически показано действие:

- проектора Я, преобразующего вектор правой части у уравнения (1) в вектор Ь ;

- оператора РРг, преобразующего Ь в

- оператора Ф, преобразующего х в

- оператора Р, преобразующего (10)

у;

У в х.

Для получения решения подходами без проецирования будем использовать

следующие методы.

Решение на основе псевдообращения (3) (алгоритм [22])

хргп = Ф +У , Рргп = Ф + = (Рг < ^ при °г > ^е^ Рг = ^ иначе Рг = 0. (^

tresh = шах(£, N )eps(max(si)),

где и, V, £ - результат сингулярного разложения матрицы Ф = и8¥т ;

(Гг = іiag(£) - сингулярные числа, элементы диагональной матрицы £ ; ер&(а) - положительное расстояние от aЬs(a) до следующего, большего по величине числа с плавающей точкой, имеющего ту же точность, что и а.

Здесь разбиение ошибки имеет следующий вид:

Є1 pin = (РЛ»Ф - 1)x , e2pin = Рpinє . (14)

Решение на основе регуляризации по Тихонову (4) методом фильтрованного

сингулярного разложения [l]:

xreg = Vdiag(fi / S WTy, (15)

где f = S /(sf + Л2) - фильтрующие множители. Здесь

Preg = Vdiag if, / Si )UT . (16)

Так как у = Фx + є, то можно записать:

ereg = xreg - x = Preg (Ф* + є) - x = (Р^Ф - 1)x + Pregє , (17)

eireg = (Preg<£ - 1)x , e2reg = Pregє . (1 В)

После проецирования составляющие ошибки решения принимают следующий вид. Аналогично (11), можно записать (рис. 1):

ePr = xPr - x = PPrRy - x = PPrR^x + є) - x = (PPrRФ +1)x + PPrRє. (19)

Для решения на основе псевдообращения:

PpinPr = Cdiag(gi / )BT при > treSh gi = ^ иначе gi = Q , (2Q)

tresh = max(k, N )eps(max(si)), где B, C, E - результат сингулярного разложения матрицы A = BSCT, s, = diag(E) -сингулярные числа, элементы диагональной матрицы E .

Составляющие ошибки:

Є1 pin Pr = (P pin Pr A - 1) x , e2 pin Pr = P pin PrR ; ei pin Pr + e2 pin Pr = epin Pr , (21)

где epinPr - ошибка решения для оценки вектора сигнала на основе псевдообращения с

использованием случайных проекций.

Для регуляризации Тихонова по методу фильтрованного сингулярного разложения

[1]:

PregPr = A+ = Cdiag(ji / si)B , (22)

где ji = si2 /(si2 + Л2 ) - фильтрующие множители.

eiregPr = (PregPr A - 1)x , e2regPr = PregPrR ; eiregPr + e2regPr = eregPr , (23)

где eregPr - ошибка решения для оценки вектора сигнала на основе псевдообращения с использованием случайных проекций.

4. Схема экспериментального исследования

Исследуем экспериментально:

- зависимость ошибки восстановления сигнала d от числа строк к матрицы проектора R ;

- зависимость нормы каждой из составляющих ошибки e1 и е2 от к .

Используем данные известных дискретных некорректных обратных задач Carasso

[12], Delves [11] и Phillips [10].

Во всех задачах матрица Ф, полученная при оцифровке ядра, имела размерность 200^200, высокое число обусловленности (smax/smin >> 1) и ряд сингулярных чисел, плавно спадающий к нулю. Вектор правой части уравнения (2) после оцифровки искажался аддитивным шумом e с нормальным распределением.

а б в

Рис. 2. Матрица Ф для задачи: а - Carasso, б - Delves, в - Phillips

O.O1

а б в

Рис. 3. Дискретно заданные сигнал x и правая часть у в задаче: а - Carasso, б - Delves, в - Phillips Для задачи Carasso матрица Ф получается из аналитически заданной функции ядра:

K(s, t) = к(s -1), к (t) :

t

-3/2

1

—exp(------).

2p 4t

(24)

На рис. 4 приведены зависимости ошибки восстановления сигнала С от числа строк

к матрицы проектора Я (к х N) при

1OOO Е

1OO г

уровнях шума 10-8, 10-6, 10-

методов:

- псевдообращения ршу1;

- регуляризации по Тихонову с подбором 1 по методу Ь -кривой reg2;

- с подбором 1 по методу обобщенной невязки reg3.

Анализ зависимостей ё от к показывает, что для всех методов при определенном значении к зависимость имеет минимум, положение которого при возрастании уровня шума смещается в область меньших значений к , а значение ошибки в точке минимума возрастает.

Значения ошибки для методов без проецирования и минимальные значения ошибки для методов с проецированием приведены в табл. 1.

-6

-4

-^Weg2 Icur 1e-8 -^Weg2 Icur 1e-6 -A-reg2 Icur 1e-4 -o- reg3 dsc 1 e-8 reg3 dsc 1 e-6 -■-reg3 dsc 1e-4 -^pinv1 1e-8 -<^pinv1 1e-6 -♦-pinv1 1e-4

1 r

0.1 г

для

0 50 100 150 200

Рис. 4. Зависимость ошибки восстановления сигнала С от числа строк к матрицы проектора Я

при уровнях шума 10 В, 10 6, 10-4 для задачи Carasso

-4

Таблица 1. Значения ошибки для задачи СагаББО

п1 Методы с проецированием Методы без проецирования

йЦп рп1 ётт reg2 йЦп reg3 ё р1т>1 ё reg2 ё reg3

10-8 0,0136 0,0127 0,013 0,308 0,015 0,308

10-6 0,05 0,036 0,036 41,7 0,038 0,87

10-4 0,169 0,156 0,179 3000 0,18 0,66

Таким образом, среди методов без проецирования наименьшую ошибку восстановления сигнала обеспечивает метод Ь -кривой ге§2. Значения ошибки для метода обобщенной невязки превышают ошибку метода Ь -кривой более чем в 20 раз при уровнях шума 10-8, 10-6 и более чем в 3 раза при уровне шума 10-4. Значения ошибки для метода псевдообращения р\т>1 без проецирования при уровнях шума 10_6 и 10_4 высоки, что свидетельствует о неустойчивости метода.

Для методов с проецированием значения ошибки в точке минимума ёшп сравнимы и невелики, что свидетельствует об устойчивой работе методов. Метод обобщенной невязки, демонстрировавший без проецирования высокие значения ошибки, после проецирования дает ошибку на уровне метода Ь -кривой. Поведение метода псевдообращения с проецированием становится устойчивым, и значения ошибки для него

- на уровне методов регуляризации Тихонова.

Чтобы понять поведение зависимостей ошибки ё от к для разных методов, рассмотрим зависимости норм составляющих ошибки е1 и е2 (12) от к.

На рис. 5-7 приведены

зависимости ё от к для рту 1, reg2, reg3 соответственно, е1 - зависимость ЦеЦ от

к, е2 - зависимость ||е2|| от к . Для рт\1

е1 и е2 вычислялись по формуле (21), для reg2, reg3 - по формуле (23).

Из рис. 5-7 видно, что ЦеЦ

бывает с ростом к, а ||е2|| растет. При

этом соотношение е1 и е2 таково, что

1^+03

1^+02 г

1 .Б+01 ■о

1 .Б+00

1.Б-01

1^-02

1^-03 . г

1^-04

0 50 100

Рис. 5. Зависимости норм составляющих ошибки е1 и е2 от к для метода псевдообращения в задаче СагаББО

е1 + е2

имеет минимум. С возра-

станием уровня шума положение минимума ошибки смещается в область меньших значений к. Это происходит вследствие того, что зависимость ЦеЦ от к неизменна для всех уровней шума (вектор

шума не входит в выражение для е1), а ||е2|| растет с возрастанием уровня шума, вектор

которого входит в выражение для е2 как множитель.

Отличие reg2 и reg3 от рт\1 состоит в том, что зависимость Це^Ц от к не является

неизменной для всех уровней шума. Это происходит вследствие того, что параметр

регуляризации, значение которого вычисляется для каждого к , входит в выражение для е2ге:г и е1е . Таким образом, оптимальность подбора 1 влияет на значение ошибки в точке минимума и на устойчивость метода.

1.E+01

1 .E+00

1.E-01

■с

1.E-02 1 .E-03

1 .E-04

1 .E-05

1.E+03

1.E+02 •

1.E+01

тз

г -о- reg3 dsc 1 e-8 о- reg3 dsc 1 e-6 «- reg3 dsc 1 e-4 >^e1 dsc 1e-8 — e2 dsc 1e-8 e1 dsc 1e-6 e2 dsc 1e-6 e1 dsc 1e-4 e2 dsc 1e-4

1 .E+00 г

1.E-01

1.E-02

1.E-03 ,r

1.E-04

200

200

Рис. 6. Зависимости норм составляющих ошибки е1 и е2 от к для метода Ь -кривой в задаче СагаББО

Рис. 7. Зависимости норм составляющих ошибки е1 и е2 от к для метода обобщенной невязки в задаче СагаББО

Для задачи Delves матрицу Ф и вектор у получают дискретизацией аналитически заданной функции ядра

K(z, t) = z(t -1) при z < t, K(z,t) = t(z -1) при z > t и r(z) = (z3 - z)/6. (25)

На рис. 8 приведены зависимости ошибки восстановления сигнала d от числа строк к матрицы проектора при уровнях шума 10-8, 10-6, 10-4 для методовpinvl, reg2, reg3.

Для всех методов зависимость d от к имеет минимум, положение которого при возрастании уровня шума смещается в область меньших значений к, а значение ошибки в точке минимума возрастает.

Значения ошибки для методов без проецирования и минимальные значения ошибки для методов с проецированием приведены в табл. 2. Без проецирования метод псевдообращения при уровнях шума 10-6, 10-4 ведет себя неустойчиво, что проявляется в высоких значениях ошибки. После проецирования метод псевдообращения демонстрирует устойчивое поведение и обеспечивает значения ошибки на уровне методов регуляризации.

Таблица 2. Значения ошибки для задачи Delves

nl Методы с проецированием Методы без проецирования

v1 in in mi d dmin reg2 dmin reg3 d pinv1 d reg2 d reg3

1Q-8 Q,QQ93 Q,Q16 Q,QQ95 Q,Q1 Q,Q24 Q,Q153

1Q-6 Q,Q8 Q,Q77 Q,Q75 1,11 Q,Q83 Q,133

1Q-4 Q,25 Q,18 Q,185 98,5 Q,213 Q,214

Для задачи РЫШрБ матрица Ф получается из аналитически заданной функции ядра:

ТОС 11 11

К(z, ^) = ф(z - ^), ф(х) = 1 + соб^—) при XI < 3, ф(х) = 0 при Х| ^ 3 , (26)

II о 9 ОЩ

Вектор у правой части (1) получен из г(щ) = (6 -Щ)(1 + 0,5соб(—)) + —овт(—^-1).

На рис. 9 приведены зависимости ё от к при уровнях шума 10_8, 10-6, 10_4 для методов рту 1, reg2, reg3.

100 с

0.01

reg2 lcur 1 e-8 reg2 lcur 1 e-6 reg2 lcur 1 e-4 reg3 dsc 1 e-8 reg3 dsc 1 e-6 reg3 dsc 1 e-4 -4^pinv1 1e-8 r^pinv1 1e-6 pinv1 1e'

0.1 :

Рис. 8. Зависимость ошибки восстановления сигнала й от числа строк к матрицы

проектора R при уровнях шума 1Q 8, 1Q-6, 1Q для задачи Delves

100

10

reg2 lcur 1 e-8

і -Д- reg2 lcur 1 e-6

; -±- reg2 lcur 1 e-4

. reg3 dsc 1e-8

. reg3 dsc 1 e-6

І ■ reg3 dsc 1 e-4

: -о- pinv' 1 e-8

п-о- pinv' 1e-6

pinv' 1 e-4jh

0.1

0.01

0.001

0.0001

200

50

100

150

200

Рис. 9. Зависимость ошибки восстановления сигнала й от числа строк к матрицы проектора Я при уровнях шума 10_8, 10-6, 10-4 для задачи РЫШр8

Значения ошибки для методов без проецирования и минимальные значения ошибки для методов с проецированием приведены в табл. 3. Без проецирования при уровнях шума 10-6, 10-4 методы обобщенной невязки и псевдообращения ведут себя неустойчиво, что проявляется в высоких значениях ошибки. После проецирования методы псевдообращения и обобщенной невязки демонстрируют устойчивое поведение. Значения ошибки для метода псевдообращения после проецирования сравнимы со значениями ошибки для методов регуляризации. Как и в задачах Carasso и Delves, в задаче Phillips для всех методов зависимость d от к имеет минимум, положение которого при возрастании уровня шума смещается в область меньших значений к , а значение ошибки в точке минимума возрастает.

Таблица 3. Значения ошибки для задачи Phillips

nl Методы с проецированием Методы без проецирования

dmin pinv1 dmin reg2 dmin reg3 d pinv1 d reg2 d reg3

1Q-8 Q,QQQ7 Q,QQQ648 Q,QQQ64 Q,Q168 Q,QQQ6 Q,QQ86

1Q-6 Q,QQ2 Q,QQ2 Q,QQ2 3,49 Q,QQ17 1,19

1Q-4 Q,Q21 Q,Q145 Q,Q217 1Q4,35 Q,Q11 Q,899

k

0

5. Выводы

Проведено экспериментальное исследование методов решения дискретных некорректных

обратных задач (2), полученных в результате оцифровки ядра и правой части

интегрального уравнения первого рода. Сравнивались решения задач Carasso, Delves, Phillips, полученные методом псевдообращения и регуляризацией Тихонова с подбором

параметра регуляризации по методу обобщенной невязки и L -кривой, и решения этими же методами, но при использовании проецирования случайной матрицей R(k х N) .

Проведено разбиение ошибки решения на смещение ЦеЦ и дисперсию ||е21|. Исследование поведения этих составляющих ошибки от числа строк к матрицы R показало, что ЦеЦ убывает с ростом к, а ||е2|| - растет. В рассмотренных задачах для

методов pinv2 и reg1 соотношение ЦеЦ и ||е2|| таково, что ||е1 + е2|| имеет минимум. С

возрастанием уровня шума положение минимума ошибки смещается в область меньших значений к и значение ошибки в точке минимума возрастает.

При надлежащем выборе к точность решения методом на основе псевдообращения матрицы с проецированием для всех трех исследованных задач находится на уровне лучшего метода регуляризации Тихонова без проецирования - с подбором 1 по L-кривой и в ряде случаев значительно превосходит точность регуляризации Тихонова с подбором 1 по методу обобщенной невязки. Проецирование в большинстве случаев снижает ошибку решения регуляризацией Тихонова, особенно значительно - для случаев с большой ошибкой решения до проецирования. Ошибка решения псевдообращением без проецирования на несколько порядков превышает ошибки остальных методов, и метод псевдообращения без проецирования не пригоден для решения рассмотренных обратных задач.

Таким образом, изучение и использование методов на основе псевдообращения с проецированием является перспективным в силу их устойчивости, проявляющейся в плавном изменении относительной ошибки восстановления сигнала с ростом шума, а также в силу снижения вычислительных затрат. Это снижение происходит из-за уменьшения вычислительной сложности сингулярного разложения матрицы A при к, составляющих малую долю N (что особенно проявляется при увеличении уровня шума), по сравнению со сложностью сингулярного разложения исходной Ф. Направлением дальнейших исследований являются экспериментальные и теоретические методы вычислительно-эффективного выбора размерности к проекционной матрицы R, при которой достигается ошибка, близкая к минимальной.

СПИСОК ЛИТЕРАТУРЫ

1. Hansen P.C. Rank-deficient and discrete ill-posed problems. Numerical Aspects of Linear Inversion / Hansen P.C. - SIAM, Philadelphia, 1998. - 247 p.

2. Тихонов А.Н. Методы решения некорректных задач / А.Н. Тихонов, В.Я. Арсенин. - М.: Наука, 1979. - 285 с.

3. Морозов В. А. Регулярные методы решения некорректно поставленных задач / Морозов В. А. -М.: Наука, 1987. - 239 с.

4. Забулонов Ю.Л. Оптимизация решения обратной задачи по восстановлению функции плотности распределения поверхностных загрязнений / Ю.Л. Забулонов, Ю.М. Коростиль, Е.Г. Ревунова // Сборник научных трудов ИПМЭ НАН Украины “Моделирование и информационные технологии”.

- 2006.- C. 77 - 83.

5. Булах Е.Г. О новом аппроксимационном подходе к решению обратных задач гравиметрии в классе трехмерных контактных поверхностей / Е.Г. Булах // Доклады НАНУ. - 2006. - № 1. -С.108 - 112.

6. Хмелевский В.К. Электроразведка / В.К. Хмелевский, В.М. Бондаренко. - М.: Недра, 1999. -438 с.

7. Engl H.W. Regularization of inverse problems / Engl H.W., Hanke M., Neubaer A. - Dordrecht: Kluwer Academic Publishers, 2000. - 321 p.

8. Candes E.J. Near optimal signal recovery from random projections: Universal encoding strategies? / E.J. Candes, Т. Tao // IEEE Trans. Inf. Theory. - 2006. - Vol. 52, N 12. - P. 5406 - 5425.

9. A Simple Proof of the Restricted Isometry Property for Random Matrices / R. Baraniuk, M. Davenport, R. DeVore [et al.] // Constructive Approximation. - 2QQ8. - Vol. 28, N 3. - P. 253 - 263.

1Q. Phillips D.L. A technique for the numerical solution of integral equation of the first kind // J.ACM. -1962. - N 9. - P. 84 - 97.

11. Delves L.M. Computational methods for integral equations / L.M. Delves, Mohamed. - Cambridge: Cambridge University Press, 1985. - 388 p.

12. Carasso A.S. Determining surface temperatures from interior observations / A.S. Carasso // SIAM J.Appl.Math. - 1982. - N 42. - P. 558 - 574.

13. Halko N. Finding structure with randomness: Stochastic algorithms for constructing approximate matrix decompositions / N. Halko, P.G. Martinsson, J.A. Tropp // ACM Report Caltech. - 2QQ9. - N 5. -P. 1 - 82.

14. Sarlos T. Improved approximation algorithms for large matrices via random projections / T. Sarlos // Proc. of the 47th Annual IEEE Symposium on Foundations of Computer Science. - 2QQ6. - P. 143 - 152.

15. Faster least squares approximation / P. Drineas, M.W. Mahoney, S. Muthukrishnan [et al.] // Tech. Rep. Q71Q.1435. - 2QQ7. - P. 1 - 19.

16. Rudelson M. Sparse Reconstruction by Convex Relaxation: Fourier and Gaussian Measurements / M. Rudelson, R. Veshynin // CISS 2QQ6 (4Qth Annual Conference on Information Sciences and Systems).

- P.2Q7 - 212.

17. Johnson W.B. Extensions of Lipschitz mappings into a Hilbert space / W.B. Johnson, J. Lindenstrauss // Contemporary Mathematics. - І984. - N 26. - P. І89 - 2Q6.

18. Мисуно И.С. Векторные и распределенные представления, отражающие меру семантической связи слов / И.С. Мисуно, Д.А. Рачковский, С.В. Слипченко // Математичні машини і системи. -2QQ5. - № 3. - С. 5Q - 67.

19. Ревунова Е.Г. Повышение точности решения обратной задачи с использованием случайных проекций / Е.Г. Ревунова, Д.А. Рачковский // International Conference "Knowledge-Dialogue-Solution" (KDS-2). - 2QQ9. - Р. 93 - 98.

2Q. Vogel C.R. Computational methods for inverse problems / Vogel C.R. - Philadelphia: SIAM, 2QQ2. -183 p.

21. Goldenshluger A. Adaptive estimation of linear functionals in Hilbert scales from indirect white noise observations / А. Goldenshluger, S.V. Pereverzev // Probab. Theory Relat. Fields. - 2QQQ. - N 118. -P. І69 - І86.

22. LAPACK User's Guide / Anderson E., Bai Z., Bischof C. [et al.]. - Philadelphia: Third Edition, SIAM, 1999. - 4Q7 p.

Стаття надійшла до редакції 15.02.2010