Научная статья на тему 'Автоматизация определения числа итераций в задаче восстановления смазанных изображений методом Люси – Ричардсона'

Автоматизация определения числа итераций в задаче восстановления смазанных изображений методом Люси – Ричардсона Текст научной статьи по специальности «Электротехника, электронная техника, информационные технологии»

CC BY
0
0
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
восстановление изображений / компенсация смаза / метод Люси – Ричардсона / автоматизированные системы / нейронные сети / image restoration / blur compensation / Lucy – Richardson method / automated systems / neural networks

Аннотация научной статьи по электротехнике, электронной технике, информационным технологиям, автор научной работы — Бордюжа Виктор, Брейкина Кристина Владимировна, Умняшкин Сергей Владимирович

Построение автоматизированной системы восстановления смазанных изображений по методу Люси – Ричардсона напрямую связано с определением оптимального количества итераций данного метода для получения наиболее качественного изображения. Эталонные меры качества предпочтительнее использовать в роли критерия остановки итерационного процесса, чем безэталонные меры, ввиду того, что они сильнее коррелируют с качеством изображения, воспринимаемым человеком. Однако на практике автоматизированным системам восстановления доступны только искаженные изображения. В работе предложен подход к определению количества итераций для метода Люси – Ричардсона, основанный на предсказании оптимального числа итераций эталонной меры PieAPP с помощью безэталонной меры CS. Ключевая проблема восстановления – оценка искажающего оператора – решена с помощью нейросетевого алгоритма, построенного на идеях автоэнкодеров и нейросетевой арихектуры Xception. Показано, что использование предложенного подхода позволяет улучшить качество восстановленного изображения для эталонной меры PieAPP относительно сценария восстановления с фиксированным числом итераций. Таким образом, качество автоматизированного (без участия оператора) восстановления искаженных изображений по методу Люси – Ричардсона может быть улучшено.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по электротехнике, электронной технике, информационным технологиям , автор научной работы — Бордюжа Виктор, Брейкина Кристина Владимировна, Умняшкин Сергей Владимирович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Automation of determining the number of iterations in the problem of blurred images restoration by the Lucy – Richardson method

The implementation of an automated system for restoring blurred images by the Lucy – Richardson method is directly connected with determining the optimal number of iterations of this method to obtain the best quality image. It is preferable to use reference quality measures as a criterion for stopping the iterative process than reference-free measures because they are more strongly correlated with the image quality perceived by a human. However, in practice, only distorted images are available to automated restoration systems. In this work, an approach for determining the number of iterations for the Lucy – Richardson method is proposed based on predicting the optimal number of iterations of the PieAPP reference measure using the CS reference-free measure. The key recovery problem, the estimation of the distorting operator, has been solved using a neural network algorithm based on the ideas of autoencoders and the Xception neural network architecture. It was demonstrated that the use of the proposed approach allows the improvement of the reconstructed image quality for the PieAPP reference measure compared with a reconstruction scenario with a fixed number of iterations. Thus, the quality of automated (with no operator participation) reconstruction of distorted images by the Lucy – Richardson method can be improved.

Текст научной работы на тему «Автоматизация определения числа итераций в задаче восстановления смазанных изображений методом Люси – Ричардсона»

ИНФОРМАЦИОННО-КОММУНИКАЦИОННЫЕ

ТЕХНОЛОГИИ INFORMATION-COMMUNICATION TECHNOLOGIES

Научная статья УДК 004.932.4

doi:10.24151/1561-5405-2024-29-4-539-550 EDN: GUFPVG

Автоматизация определения числа итераций в задаче восстановления смазанных изображений методом Люси - Ричардсона

В. Бордюжа, К. В. Брейкина, С. В. Умняшкин

Национальный исследовательский университет «МИЭТ», г. Москва, Россия

vrinf@miee.ru

Аннотация. Построение автоматизированной системы восстановления смазанных изображений по методу Люси - Ричардсона напрямую связано с определением оптимального количества итераций данного метода для получения наиболее качественного изображения. Эталонные меры качества предпочтительнее использовать в роли критерия остановки итерационного процесса, чем безэталонные меры, ввиду того, что они сильнее коррелируют с качеством изображения, воспринимаемым человеком. Однако на практике автоматизированным системам восстановления доступны только искаженные изображения. В работе предложен подход к определению количества итераций для метода Люси - Ричардсона, основанный на предсказании оптимального числа итераций эталонной меры PieAPP с помощью безэталонной меры CS. Ключевая проблема восстановления -оценка искажающего оператора - решена с помощью нейросетевого алгоритма, построенного на идеях автоэнкодеров и нейросетевой арихектуры Хсерйоп. Показано, что использование предложенного подхода позволяет улучшить качество восстановленного изображения для эталонной меры PieAPP относительно сценария восстановления с фиксированным числом итераций. Таким образом, качество автоматизированного (без участия оператора) восстановления искаженных изображений по методу Люси -Ричардсона может быть улучшено.

Ключевые слова: восстановление изображений, компенсация смаза, метод Люси -Ричардсона, автоматизированные системы, нейронные сети

Для цитирования: Бордюжа В., Брейкина К. В., Умняшкин С. В. Автоматизация определения числа итераций в задаче восстановления смазанных изображений методом Люси - Ричардсона // Изв. вузов. Электроника. 2024. Т. 29. № 4. С. 539-550. https://doi.org/10.24151/1561-5405-2024-29-4-539-550. - EDN: GUFPVG.

© В. Бордюжа, К. В. Брейкина, С. В. Умняшкин, 2024

Original article

Automation of determining the number of iterations in the problem of blurred images restoration by the Lucy - Richardson method

V. Bordiuzha, K. V. Breykina, S. V. Umnyashkin

National Research University of Electronic Technology, Moscow, Russia vrinf@miee.ru

Abstract. The implementation of an automated system for restoring blurred images by the Lucy - Richardson method is directly connected with determining the optimal number of iterations of this method to obtain the best quality image. It is preferable to use reference quality measures as a criterion for stopping the iterative process than reference-free measures because they are more strongly correlated with the image quality perceived by a human. However, in practice, only distorted images are available to automated restoration systems. In this work, an approach for determining the number of iterations for the Lucy -Richardson method is proposed based on predicting the optimal number of iterations of the PieAPP reference measure using the CS reference-free measure. The key recovery problem, the estimation of the distorting operator, has been solved using a neural network algorithm based on the ideas of autoencoders and the Xception neural network architecture. It was demonstrated that the use of the proposed approach allows the improvement of the reconstructed image quality for the PieAPP reference measure compared with a reconstruction scenario with a fixed number of iterations. Thus, the quality of automated (with no operator participation) reconstruction of distorted images by the Lucy - Richardson method can be improved.

Keywords: image restoration, blur compensation, Lucy - Richardson method, automated systems, neural networks

For citation: Bordiuzha V., Breykina K. V., Umnyashkin S. V. Automation of determining the number of iterations in the problem of blurred images restoration by the Lucy - Richardson method. Proc. Univ. Electronics, 2024, vol. 29, no. 4, pp. 539-550. https://doi.org/10.24151/1561-5405-2024-29-4-539-550. - EDN: GUFPVG.

Введение. Основная проблема применения классических итерационных методов восстановления изображений, искаженных линейной пространственно-инвариантной системой [1], - сложность определения момента остановки итерационного процесса. Вопрос выбора оптимального номера итерации усложняется тем, что в процессе восстановления оригинальное (неискаженное) изображение недоступно. Следовательно, оценка качества восстановления, как и определение момента остановки итерационного процесса, может происходить лишь на основе каких-то косвенных измерений.

В настоящей работе предлагается подход определения количества итераций для метода Люси - Ричардсона, основанный на предсказании оптимального числа итераций эталонной меры PieAPP с помощью безэталонной меры CS. Оценка параметров искажающего оператора проводится нейронной сетью на базе архитектуры Xception.

Постановка задачи. Сформулируем математическую постановку задачи компенсации искажений для цифровых изображений. Пусть f(x, y) - неискаженное монохромное изображение; g(x, y) - монохромное искаженное изображение; h(x, y) - импульсная характеристика оператора искажения; ^(x, y) - некоррелированный с изображением белый шум. Полагаем x е у, y е у . Двумерная импульсная характеристика h(x, y), или функция рассеяния точки, представляет собой реакцию двумерной дискретной системы на единичный импульс [1, 2]:

d(n, m)

|1, n = m = 0, (О, n Ф 0 или m Ф 0.

Фурье-образы функций f(x, y), g(x, y), h(x, y), x, y), полученных с помощью дискретного преобразования Фурье [1, 2], обозначим соответственно F(u,v), G(u,v), H (u, v), N(u, v).

Рассмотрим линейную модель искажений [1] (рис. 1):

g(x, y) = h(x, y) ® f(x, y) +ф, y), (1)

где ® - операция двумерной свертки изображения f(x, y) с импульсной характеристикой искажающей системы h(x, y) размером (2a+1) х (2b+1), которая описывается выражением [1]

h(x,y)®f(x,y) = ]T Y,h(s,t)f(x-s,y-1).

s=—at=—b

Процесс искажения моделируется как результат фильтрации исходного изображения согласно схеме, представленной на рис. 1. Импульсная характеристика к(х, у) считается неизвестной. Ввиду воздействия внешних факторов к искажениям также добавляется белый шум х, у), который считается некоррелированным с изображением.

Шум

v)

Импульсная

изображение Их, у) искажения w

Axi у) W

Рис. 1. Линейная модель искажения изображения Fig. 1. Linear model of image distortion

Умножение в частной области и свертка в пространственной области эквивалентны, поэтому процесс искажения в частотной области (1) имеет вид [2]

G(u, v) = H (u, v)F(u, v)+N(u, v).

Основная причина возникновения смаза изображения - движение камеры относительно сцены, а вид импульсной характеристики зависит от направления и скорости движения. В простейшем случае камера движется линейно с постоянной относительно

сцены скоростью. Тогда импульсная характеристика при равномерном прямолинейном движении по направлению оси координат у следующая [3]:

h(x, y) =

-^,0 <y < L, x = 0,

L+1 ^ (2)

0 в остальных случаях,

где Ь - величина смаза в пикселях.

Выражение (2) является одним из вариантов функции рассеяния точки. Смаз может моделироваться не только линейным отрезком, но и более сложной кривой, например второго или третьего порядка.

Задача восстановления изображения заключается в получении оценки /(х, у) оригинального изображения /(х, у) из (1). На основании результатов предыдущих исследований [4] принято решение восстанавливать смазанные изображения по методу Люси - Ричардсона [5]. Приведем формулу для оценки неискаженного изображения

/к(х, у) на ^й итерации в методе Люси - Ричардсона [5]:

fk (x y)=fk-i(x y)

h(-x, -y) 8(x y)

h(x, y) ® f -i(x, y)

(3)

где /к-1

(х, у) - оценка неискаженного изображения на ^-1)-й итерации алгоритма Люси - Ричардсона; g(x, у) - искаженное изображение; к(х, у) - импульсная характеристика искажающей системы.

Один из недостатков рассматриваемого метода - его чувствительность к ошибкам при оценке искажающего оператора к(х, у), поэтому важно определить искажающий оператор как можно точнее. Помимо этого, в процессе восстановления изображение может начать деградировать, т. е. до определенного момента метод Люси - Ричардсона улучшает качество изображения, а затем с увеличением номера итерации качество изображения ухудшается. Предлагается оценивать искажающий оператор с помощью алгоритма [4], после чего выполнять итерационное восстановление изображения (3).

Восстановление изображений. Рассмотрим алгоритм оценки искажающего оператора для дальнейшего использования в методе Люси - Ричардсона. Предлагаемый подход основан на использовании идеи автоэнкодера [6] и нейросетевой архитектуры Xception [7] (рис. 2).

Рис. 2. Архитектура нейронной сети для оценки импульсной характеристики Fig. 2. Neural network architecture for impulse response estimation

В исходной архитектуре Xception модернизировали слой субдискретизации (пулин-га), а также выходной слой нейронной сети в соответствии с задачей оценки искажающего оператора. В работе [7] в качестве слоя субдискретизации выступает усреднение, а функция ошибки - перекрестная энтропия, однако исходная задача в [7] состояла в классификации.

В ходе исследований рассмотрены различные функции потерь для улучшения аппроксимации искажающего оператора: MSE, MAE [8] и кросс-энтропия. Проверяли также возможность замены усреднения в слое субдискретизации на максимум. По результатам тестирования наилучший результат показало использование максимального пулинга в сочетании с функцией потерь в виде кросс-энтропии [4]. Оценка импульсной характеристики искажающей системы, полученная обученной нейронной сетью Xception, далее используется в методе Люси - Ричардсона (3) [4].

Показатели качества изображений. Для корректного восстановления изображения и рационального использования вычислительных ресурсов необходимо задать требуемое число итераций алгоритма Люси - Ричардсона. Для этого проводится оценка качества восстановления изображения. Рассмотрим такие показатели качества изображений, как эталонные меры качества, использующие для вычислений информацию об оригинальном (неискаженном) изображении: PSNR [9], SSIM [10] и PieAPP[11]; безэталонные меры качества: BRISQUE [12], NIQE [13].

Мера PSNR количественно характеризует близость восстановленного изображения к неискаженному оригиналу. Величина SSIM может принимать значения от -1 до 1: чем ближе значение этой меры к единице, тем ближе восстановленное изображение к оригинальному (неискаженному).

Мера PieAPP позволяет оценить качество изображений. Вместо того чтобы использовать данные с оценками качества, сделанными с помощью экспертов, в работе [11] предложен подход на основе попарного обучения ошибкам восприятия изображений. Для реализации этой стратегии подготовлен отдельный набор данных, состоящий из 200 качественных изображений и 75 видов искажений. Оценка качества изображения проходит в два этапа. На первом этапе из эталонного и искаженного изображений извлекают признаки с помощью нейросетевой модели, состоящей из 11 сверточных слоев. Для этого оба изображения делят на 36 частей (в общем случае перекрывающихся) размером 64 х 64 пикселя и проводят извлечение признаков. Признаки, извлеченные из соответствующих частей, попарно подают на вход другой нейросетевой модели, которая, в свою очередь, уже предсказывает меру качества. Итоговое значение качества изображения представляет собой взвешенную сумму оценок всех 36 частей.

Мера BRISQUE извлекает точечную статистику локальных нормализованных сигналов яркости и измеряет «естественность» изображения. Для оценки качества используется метод опорных векторов для задачи регрессии [14]. В наборе данных для обучения должны присутствовать как искаженные, так и неискаженный экземпляры изображений, также необходима информация о типе искажения. В [12] обучающий набор данных содержит примеры с артефактами сжатия, размытия, шума, а также исходные версии неискаженных изображений.

NIQE - безэталонный анализатор качества изображения. От других подходов его отличает процесс обучения, в котором не принимают участия искаженные изображения или экспертные оценки. Оценка качества основывается на вычислении отклонений от статических признаков естественных изображений. Данный метод проще (BRISQUE, TMIQ [12]), а мера обеспечивает показатели на уровне наиболее эффективных моделей без эталона, требующих обучения на данных с экспертными оценками качества.

Известно [4], что чем меньше значения мер BRISQUE и NIQE, тем лучше качество восстановления. Недостатком этих мер является то, что для их вычисления требуются значительные вычислительные затраты.

Безэталонная мера CS. Для того чтобы определить количество итераций, достаточное для восстановления искаженного изображения, используется мера CS (Correlation Speed) [15]. Эта мера построена на основе анализа межстрочной и межстолбцовой корреляций пикселей изображения, а именно на скорости и характере ее изменения. Неискаженные или качественно восстановленные изображения отличаются от размытых тем, что на них больше границ и деталей, а значит имеются области, в которых пиксели пространственно менее коррелированы.

Введем понятия межстрочной и межстолбцовой корреляций, которые будут характеризовать сходство пикселей между строками и столбцами изображения соответственно. Под коэффициентом межстрочной корреляции crow(f) будем понимать выборочное значение коэффициента корреляции соседних пикселей в столбце изображения f Соответственно, коэффициент межстолбцовой корреляции ссо/ (f) - выборочное значение коэффициента корреляции соседних пикселей в строке изображения f

Определим скорость изменения межстрочной корреляции:

где его№(/к), ег(Ж(Ук_1) - соответственно коэффициенты межстрочной корреляции изображений /к и У , построенных с применением формулы (3).

Скорость изменения межстолбцовой корреляции определяется аналогично (4):

При выборе корректного оператора искажения метод Люси - Ричардсона постепенно улучшает изображение. Предполагается, что скорость изменения межстрочных и межстолбцовых коэффициентов корреляции должна уменьшаться и по достижении требуемого количества итераций стать минимальной [15].

Рассмотрим модуль разности между скоростями изменения межстрочных и межстолбцовых коэффициентов корреляции на ^й итерации метода Люси - Ричардсона:

где КГ(М (/к), КсЫ (/к ) - скорость изменения межстрочной и межстолбцовой корреляции

изображения /к (3) соответственно.

Числовая характеристика (5) названа мерой СБ [15]. Скорости изменения коэффициентов корреляции по строкам и столбцам имеют близкие значения в случае выбора правильных параметров. Следовательно, с помощью величины (5) можно отследить момент, когда итерационный процесс восстановления входит в «установившийся» режим, т. е. значение (5) становится малым и практически не изменяется от итерации к итерации. Тогда дальнейшие итерации метода Люси - Ричардсона становятся ненужными и, возможно, могут привести к постепенной деградации изображения.

Оценка количества итераций. Безэталонная мера СБ хорошо себя показывает при восстановлении фотографических изображений, когда оператор смаза аппроксимируется кривой 2-го или 3-го порядка. Среди рассмотренных мер качества следует выделить меру Р1еАРР: она лучше всего согласуется с экспертной оценкой качества, но она явля-

(4)

CS(fk) = Rrow (fk) - Rcol (fk),

(5)

ется эталонной, значит, ее невозможно напрямую использовать в качестве критерия остановки итерационного процесса в методе Люси - Ричардсона. Эталонные меры всегда предпочтительнее безэталонных: как правило, их проще вычислить, они сильнее коррелируют с качеством изображения, воспринимаемым человеком. Однако на практике встречаются уже искаженные изображения, поэтому можно применять только безэталонные меры качества.

Воспользуемся безэталонной мерой CS для аппроксимации эталонной меры PieAPP и поставим следующую задачу: по значениям меры CS, вычисленной на каждой из 100 итераций метода Люси - Ричардсона, надо предсказать номер итерации, на котором мера PieAPP достигает своего наименьшего значения. Для экспериментов создан набор из 5000 искусственно смазанных монохромных изображений. Импульсную характеристику оператора искажения h(x, у) моделировали с помощью открытой программной реализации, имплементирующей алгоритм из работы [16]. Размер матрицы искажающего оператора составлял 32 х 32 точки. Примеры импульсной характеристики искажающего оператора представлены на рис. 3.

Рис. 3. Примеры импульсной характеристики (функции рассеяния точки) искажающего оператора Fig. 3. Examples of pulse response (point spread function) of a distorting operator

Для решения поставленной задачи аппроксимации применим метод опорных векторов для регрессии (SVR) [14]. В качестве вектора признаков выступают значения меры CS, вычисленные на каждой из 100 итераций алгоритма Люси - Ричардсона, и разность между соседними отсчетами CS для этих же 100 итераций. Искомое значение распознавателя - номер итерации, на котором мера PieAPP достигает своего минимального значения. Реализация метода опорных векторов взята из библиотеки машинного обучения Scikit-learn [17]. SVR обучена с радиальными ядрами и параметром gamma = 0,0025. В качестве функции штрафа выбрана MSE для номера итерации. Такую функцию ошибок целесообразно использовать, поскольку график функции условно симметричен относительно точки минимума меры PieAPP (рис. 4).

Для обучения и тестирования SVR сформирован набор из 5000 примеров, разделенный на две подвыборки: обучающую (80 %) и тестовую (20 %). Оценку качества обученной модели проводили с помощью функций потерь MAE и RMSE. Предсказанное количество итераций сравнивали с оптимальным значением, соответствующим минимуму меры PieAPP. Результаты SVR на обучающем и тестовом датасетах приведены в табл.1. Среднее число итераций, предсказанное алгоритмом SVR, - 15.

1,4 1,2

0 5 10 15 20 25 30 35 40

Номер итерации

Рис. 4. Зависимость меры PieAPP от номера итерации

Fig. 4. The plot of dependence of the PieAPP measure on number of iterations

Таблица 1

Результаты работы SVR на обучающем и тестовом наборах данных

Table 1

SVR results on the training and test dataset

Набор данных RMSE MAE

Обучающий 8,7 6,7

Тестовый 8,8 6,9

Рассмотрим пример восстановления изображения с использованием данного алгоритма, а также сравним качество восстановления относительно стратегии с фиксированным числом итераций (10, 30, 100). Исходное изображение (рис. 5, а) искажено оператором импульсной характеристики (рис. 5, б), в результате получилось искаженное изображение (рис. 5, в). Оценка импульсной характеристики, полученная с помощью нейросетевого алгоритма на основе архитектуры Xception, приведена на рис. 5, г. Так как областью интереса на изображении является человеческое лицо, то оценка качества изображения для всех мер будет проводиться по области лица (рис. 6), расширенной на 20 пикселей в каждую из сторон. Результаты восстановления изображений для различных стратегий компенсации искажений приведены в табл. 2.

Согласно табл. 2 качество изображения по мерам PSNR и PieAPP становится лучше по сравнению с изображениями, восстановленными при фиксированном количестве итераций (10, 30, 100). Высокие показатели по мере PSNR позволяют сделать вывод о том, что качество изображения удалось в значительной степени улучшить. Это согласуется со значением меры качества PieAPP: на 15 итерациях она достигает своего наименьшего значения (см. табл. 2). Для мер BRISQUE, SSIM и NIQE восстановление при 15 итерациях позволяет достичь второго по величине значения.

Рис. 5. Процесс восстановления: а - исходное изображение; б - искажающий оператор; в - искаженное изображение; г - оценка искажающего оператора Fig. 5. Reconstruction process: a - original image; b - distorting operator; c - distorted image; d - evaluation of the distorting operator

Рис. 6. Область интересов, восстановленная при разном количестве итераций: а - 10 итераций;

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

б - 15 итераций (оценка получена через SVR); в - 30 итераций; г - 100 итераций Fig. 6. Area of interest recovered at different number of iterations: a - 10 iterations; b - 15 iterations (estimate obtained by SVR); c - 30 iterations; d - 100 iterations

Таблица 2

Значения метрик качества для восстановленных изображений

Table 2

Values of quality metrics for the reconstructed images

Количество итераций PSNR t SSIM t PieAPP ^ BRISQUE ^ NIQE ^

Искаженное изображение 31,7 0,92 1,22 44,35 19,34

10 итераций 34,87 0,94 0,60 35,06 12,31

15 итераций (8УЯ) 35,96 0,94 0,52 31,55 9,89

30 итераций 34,5 0,92 0,71 26,14 7,87

100 итераций 27,15 0,49 1,13 50,73 17,94

Примечание: Т - метрики качества, для которых большее значение меры означает более хорошее качество, — - метрики качества, для которых меньшее значение меры означает более хорошее качество; жирным шрифтом выделены лучшие значения в столбце, курсивом -вторые по величине.

Результаты и их обсуждение. Для сравнения качества работы методов проведем ряд экспериментов на тестовом наборе из 5000 полутоновых фотографий машинистов с разрешением 640 х 480 пикселей. Эти изображения получены с устройств компании «КСОР» (г. Москва), установленных в головных вагонах Московского метрополитена. Оператор смаза для каждого случая моделируется случайным образом: интенсивность -случайная величина из равномерного распределения на отрезке [0; 1], размер матрицы искажающего оператора 32 х 32. Оценим искажающий оператор с помощью нейронной сети, основанной на архитектуре Хсерйоп, и восстановим изображение с помощью метода Люси - Ричардсона. Рассмотрим четыре случая восстановления: 10, 30 и 100 шагов алгоритма Люси - Ричардсона (количество итераций фиксировано), количество итераций вычисляется с помощью Результаты восстановления для набора данных из 5000 изображений приведены в табл. 3.

Как следует из табл. 3, при использовании оптимального числа итераций удается улучшить показатели меры PieAPP. Это соответствует тому, что в процессе восстановления получено более качественное изображение. Преимуществом наличия критерия остановки итерационного алгоритма является сокращение вычислительных затрат: при небольших искажениях фиксированное число итераций может оказаться избыточным.

Таблица 3

Среднее значение мер качества для различных случаев восстановления изображения методом Люси - Ричардсона

Table 3

Mean value of quality measures for different recovery cases of image restoration

by the Lucy - Richardson method

Количество итераций PSNR t SSIM t PieAPP - BRISQUE - NIQE -

Искаженное изображение 32,28 0,91 0,99 63,13 15,27

10 итераций 32,91 0,91 0,53 44,60 11,89

30 итераций 31,22 0,83 0,58 17,09 8,98

100 итераций 26,16 0,48 1,63 41,54 14,15

Количество итераций вычисляется с помощью БУЯ 32,76 0,90 0,37 35,51 10,36

Примечание: t - метрики качества, для которых большее значение меры означает более хорошее качество, — - метрики качества, для которых меньшее значение меры означает более хорошее качество; жирным шрифтом выделены лучшие значения в столбце, курсивом -вторые по величине.

Заключение. Использование предложенного подхода к определению количества итераций для метода Люси - Ричардсона, основанного на предсказании оптимального числа итераций эталонной меры PieAPP с помощью безэталонной меры CS, позволяет улучшить качество восстановленного изображения для эталонной меры PieAPP относительно сценария восстановления с фиксированным числом итераций. В результате качество автоматизированного (без участия оператора) восстановления искаженных изображений по методу Люси - Ричардсона улучшается.

Литература

1. Гонсалес Р. С., Вудс Р. E. Цифровая обработка изображений. 3-е изд., испр. и доп. М.: Техносфера, 2012. 1104 с.

2. Умняшкин С. В. Основы теории цифровой обработки сигналов: учеб. пособие. 6-е изд., испр. М.: Техносфера, 2021. 550 с. EDN: XJXXWU.

3. Biemond J., Lagendijk R. L., Mersereau R. M. Iterative methods for image deblurring // Proceedings of the IEEE. 1990. Vol. 78. No. 5. P. 856-883. https://doi.org/10.1109/5.53403

4. Бордюжа В., Умняшкин С. В. Предобработка изображений для повышения качества распознавания лиц на цифровых фото // Цифровая обработка сигналов и ее применение (DSPA-2023): доклады XXV Междунар. конф. (Москва, 29-31 мар. 2023). М.: Рос. НТО радиотехники, электрон. и связи им. А. С. Попова, 2023. С. 299-304. EDN: BSVLHJ.

5. Lucy L. B. An iterative technique for the rectification of observed distributions // Astron. J. 1974. Vol. 79. No. 6. P. 745-754. https://doi.org/10.1086/111605

6. BankD., Koenigstein N., Giryes R. Autoencoders // Machine Learning for Data Science Handbook / eds L. Rokach et al. Cham: Springer International, 2023. P. 353-374. https://doi.org/10.1007/978-3-031-24628-9_16

7. Chollet F. Xception: Deep learning with depthwise separable convolutions // ArXiv [Электронный ресурс]. 07.10.2016. URL: https://doi.org/10.48550/arXiv.1610.02357 (дата обращения: 20.05.2024).

8. Statistics for the evaluation and comparison of models / C. J. Willmott, S. G. Ackleson, R. E. Davis et al. // J. Geophys. Res. 1985. Vol. 90. Iss. C5. P. 8995-9005. https://doi.org/10.1029/JC090iC05p08995

9. Eskicioglu A. M., Fisher P. S. Image quality measures and their performance // IEEE Transactions on Communications. 1995. Vol. 43. No. 12. P. 2959-2965. https://doi.org/10.1109/26.477498

10. Wang Z., Bovik A. C., Sheikh H. R., Simoncelli E. P. Image quality assessment: From error visibility to structural similarity // IEEE Transactions on Image Processing. 2004. Vol. 13. No. 4. P. 600-612. https://doi.org/10.1109/TIP.2003.819861

11. Prashnani E., Cai H., Mostofi Y., Sen P. PieAPP: Perceptual image-error assessment through pairwise preference // 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Salt Lake City, UT: IEEE, 2018. P. 1808-1817. https://doi.org/10.1109/CVPR.2018.00194

12. Mittal A., Moorthy A. K., Bovik A. C. No-reference image quality assessment in the spatial domain // IEEE Transactions on Image Processing. 2012. Vol. 21. No. 12. P. 4695-4708. https://doi.org/10.1109/ TIP.2012.2214050

13. Mittal A., Soundararajan R., Bovik A. C. Making a "completely blind" image quality analyzer // IEEE Signal Processing Letters. 2013. Vol. 20. No. 3. P. 209-212. https://doi.org/10.1109/LSP.2012.2227726

14. Smola A. J., Scholkopf B. A tutorial on support vector regression // Statistics and Computing. 2004. Vol. 14. Iss. 3. P. 199-222. https://doi.org/10.1023/B:STC0.0000035301.49549.88

15. Брейкина К. В., Умняшкин С. В. Оценка качества изображения при компенсации смаза по методу Люси - Ричардсона // Изв. вузов. Электроника. 2020. Т. 25. № 2. С. 167-174. https://doi.org/10.24151/ 1561-5405-2020-25-2-167-174

16. Mei C., Reid I. Modeling and generating complex motion blur for real-time tracking // 2008 IEEE Conference on Computer Vision and Pattern Recognition. Anchorage, AK: IEEE, 2008. P. 1-8. https://doi.org/ 10.1109/CVPR.2008.4587535

17. Scikit-learn: Machine learning in Python // Scikit-Learn [Электронный ресурс]. URL: https://scikit-learn.org/stable (дата обращения: 20.05.2024).

Статья поступила в редакцию 18.10.2023 г.; одобрена после рецензирования 29.11.2023 г.;

принята к публикации 14.06.2024 г.

Информация об авторах

Бордюжа Виктор - аспирант кафедры высшей математики № 1 Национального исследовательского университета «МИЭТ» (Россия, 124498, г. Москва, г. Зеленоград, пл. Шокина, 1), victor30608@yandex.ru

Брейкина Кристина Владимировна - ассистент кафедры высшей математики № 1 Национального исследовательского университета «МИЭТ» (Россия, 124498, г. Москва, г. Зеленоград, пл. Шокина, 1), panfilova_krista@mail.ru

Умняшкин Сергей Владимирович - доктор физико-математических наук, профессор кафедры высшей математики № 1 Национального исследовательского университета «МИЭТ» (Россия, 124498, г. Москва, г. Зеленоград, пл. Шокина, 1), vrinf@miee.ru

References

1. Gonzalez R. C., Woods R. E. Digital Image Processing. 3rd ed. Upper Saddle River, NJ, Pearson, 2007. 976 p.

2. Umnyashkin S. V. Fundamentals of the theory of digital signal processing, study guide. 6th ed., rev. Moscow, Tekhnosfera Publ., 2021. 550 p. (in Russian). EDN: XJXXWU.

3. Biemond J., Lagendijk R. L., Mersereau R. M. Iterative methods for image deblurring. Proceedings of the IEEE, 1990, vol. 78, no. 5, pp. 856-883. https://doi.org/10.1109/5.53403

4. Bordiuzha V., Umnyashkin S. V. Image preprocessing to improve facial recognition in digital photos. Tsifrovaya obrabotka signalov i eye primeneniye (DSPA-2023), proceedings of 25th International conf. (Moscow, March 29-31, 2023). Moscow, Ros. NTO radiotekhniki, elektron. i svyazi im. A. S. Popova Publ., 2023, pp. 299-304. (In Russian). EDN: BSVLHJ.

5. Lucy L. B. An iterative technique for the rectification of observed distributions. Astron. J., 1974, vol. 79, no. 6, pp. 745-754. https://doi.org/10.1086/111605

6. Bank D., Koenigstein N., Giryes R. Autoencoders. Machine Learning for Data Science Handbook, eds L. Rokach et al. Cham, Springer International, 2023, pp. 353-374. https://doi.org/10.1007/978-3-031-24628-9 16

7. Chollet F. Xception: Deep learning with depthwise separable convolutions. ArXiv. 07.10.2016. Available at: https://doi.org/10.48550/arXiv.1610.02357 (accessed: 20.05.2024).

8. Willmott C. J., Ackleson S. G., Davis R. E., Feddema J. J., Klink K. M., Legates D. R., O'Donnell J., Rowe C. M. Statistics for the evaluation and comparison of models. J. Geophys. Res., 1985, vol. 90, iss. C5, pp. 8995-9005. https://doi.org/10.1029/JC090iC05p08995

9. Eskicioglu A. M., Fisher P. S. Image quality measures and their performance. IEEE Transactions on Communications, 1995, vol. 43, no. 12, pp. 2959-2965. https://doi.org/10.1109/26.477498

10. Wang Z., Bovik A. C., Sheikh H. R., Simoncelli E. P. Image quality assessment: From error visibility to structural similarity. IEEE Transactions on Image Processing, 2004, vol. 13, no. 4, pp. 600-612. https://doi.org/ 10.1109/TIP.2003.819861

11. Prashnani E., Cai H., Mostofi Y., Sen P. PieAPP: Perceptual image-error assessment through pairwise preference. 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Salt Lake City, UT, IEEE, 2018, pp. 1808-1817. https://doi.org/10.1109/CVPR.2018.00194

12. Mittal A., Moorthy A. K., Bovik A. C. No-reference image quality assessment in the spatial domain. IEEE Transactions on Image Processing, 2012, vol. 21, no. 12, pp. 4695-4708. https://doi.org/10.1109/ TIP.2012.2214050

13. Mittal A., Soundararajan R., Bovik A. C. Making a "completely blind" image quality analyzer. IEEE Signal Processing Letters, 2013, vol. 20, no. 3, pp. 209-212. https://doi.org/10.1109/LSP.2012.2227726

14. Smola A. J., Schölkopf B. A tutorial on support vector regression. Statistics and Computing, 2004, vol. 14, iss. 3, pp. 199-222. https://doi.org/10.1023/B:STC0.0000035301.49549.88

15. Breykina K. V., Umnyashkin S. V. Image quality estimation for blur compensation using Lucy - Richardson method. Izv. vuzov. Elektronika = Proc. Univ. Electronics, 2020, vol. 25, no. 2, pp. 167-174. (In Russian). https://doi.org/10.24151/1561-5405-2020-25-2-167-174

16. Mei C., Reid I. Modeling and generating complex motion blur for real-time tracking. 2008 IEEE Conference on Computer Vision and Pattern Recognition. Anchorage, AK, IEEE, 2008, pp. 1-8. https://doi.org/ 10.1109/CVPR.2008.4587535

17. Scikit-learn: Machine learning in Python. Scikit-Learn. Available at: https://scikit-learn.org/stable (accessed: 20.05.2024).

The article was submitted 18.10.2023; approved after reviewing 29.11.2023;

accepted for publication 14.06.2024.

Information about the authors

Viktor Bordiuzha - PhD student of the High Mathematics-1 Department, National Research University of Electronic Technology (Russia, 124498, Moscow, Zelenograd, Shokin sq., 1), victor30608@yandex.ru

Kristina V. Breykina - Assistant of the High Mathematics-1 Department, National Research University of Electronic Technology (Russia, 124498, Moscow, Zelenograd, Shokin sq., 1), panfilova_krista@mail.ru

Sergey V. Umnyashkin - Dr. Sci. (Phys.-Math.), Prof. of the High Mathematics-1 Department, National Research University of Electronic Technology (Russia, 124498, Moscow, Zelenograd, Shokin sq., 1), vrinf@miee.ru

i Надоели баннеры? Вы всегда можете отключить рекламу.