CC BY
32
ОБРАБОТКА ИЗОБРАЖЕНИЙ, РАСПОЗНАВАНИЕ ОБРАЗОВ
ЭФФЕКТИВНЫЕ ЛОКАЛЬНЫЕ ЛИНЕЙНЫЕ ПРИЗНАКИ ЦИФРОВЫХ СИГНАЛОВ И ИЗОБРАЖЕНИЙ
В.В. Мясников Институт систем обработки изображений РАН, Самарский государственный аэрокосмический университет
Аннотация
В работе предлагается метод построения новых эффективных локальных линейных признаков (ЛЛП) сигналов и изображений, которые по построению наилучшим образом согласованы с некоторым критерием качества признака(ов). Под эффективным ЛЛП понимается пара: конечная импульсная характеристика (КИХ) и вычислительно эффективный алгоритм расчета свертки сигнала с этой КИХ (алгоритм вычисления признака). При построении используется разработанный автором метод построения эффективного алгоритма вычисления свертки [5,6], в частности, представленный в работе [5] прямой способ построения эффективного алгоритма. Показано, что построение эффективного ЛЛП приводит к КИХ-ам, отсчеты которых соответствуют последовательностям со специальными свойствами. Такие последовательности названы нормализованными МС-последовательностями. Для КИХ в виде нормализованной МС-последовательности соответствующий алгоритм расчета ЛЛП обладает наименьшей сложностью среди всех других алгоритмов, построенных для последовательностей того же класса. Представлен явный вид алгоритмов вычисления эффективных ЛЛП. Приведены примеры нормализованных МС-последовательностей и их семейств, дан пример эффективного набора ЛЛП.
Введение
Формирование признаков - один из важнейших этапов, возникающий при построении любой системы обработки информации (распознавания, анализа и т. п.). Связано это с тем, что итоговые качественные характеристики конструируемой системы являются жестко зависимыми от того описания в виде признаков, которое используется в ней для анализируемых объектов или явлений. В реальных практических задачах проблема построения и выбора признаков является чрезвычайно сложной, поскольку требует учета многих ограничений и удовлетворения многим требованиям, которые не только противоречивы, но к тому же не всегда допускают четкую математическую постановку: простейшим примером являются субъективные (и, часто, противоречивые) оценки пользователей системы, которые определяют «качество» ее работы в процессе эксплуатации. Поэтому до настоящего времени в большинстве практических задач процесс построения/синтеза признаков (указания, как именно из объекта или явления получить ту или иную характеристику, и какие именно характеристики следует считать признаками) остается в значительной степени процедурой эвристической, существенным образов зависимой как от специфики предметной области, так и от опыта и квалификации разработчика.
Естественно, что при построении и выборе признаков принципиальным моментом является качество обработки в системе. Универсальное требование «высокого качества» в зависимости от типа задачи и прикладной области может быть представлено в виде ряда специфических требований к признакам. Например [4], для задач распознавания и при-
нятия решений требование «качества» трансформируется в ряд требований к формируемому признаковому описанию: ограничения на значения (в частном случае это компактность классов в пространстве признаков), устойчивости, инвариантности к искажениям допустимого класса и т.д. Для задач другого типа и другой прикладной области эти требования могут быть иными. В то же время для рассматриваемого круга задач, связанных с обработкой цифровых сигналов и изображений, есть устоявшийся набор требований, которые неизменно предъявляются к используемым признакам.
Одним из основных требований к признакам в задачах рассматриваемого класса является требование вычислительного характера. Оно заключается в том, чтобы существовал алгоритм расчета признаков, и этот алгоритм был вычислительно эффективен. Необходимость первого требования обусловлена тем, что разработка любой системы происходит, как правило, в рамках некоторого лимита "ценового" ресурса. Это ограничивает возможности использования ряда средств формирования признаков. Например, подобное ограничение в области распознавания изображений может отразиться на ограничениях в использовании видеоаппаратуры, регистрирующей цветные изображения, либо обеспечивающей повышенную разрешающую способность. Второе требование к признакам появляется из необходимости удовлетворения определенным временным ограничениям, накладываемым на процесс распознавания в целом. Это требование типично для систем обработки реального времени, например, для бортовых систем дистанционного зондирования, систем оперативного контроля и других.
Ниже рассматривается метод построения отдельных (и групп) локальных линейных признаков (ЛЛП) цифровых сигналов и изображений, которые:
• обладают наилучшими (в классе) характеристиками вычислительной сложности при их вычислении по сигналу/изображению и
• позволяют при фиксированной (минимальной в классе) вычислительной сложности произвести выбор наилучшего(их) по качеству признака(ов) для конкретной задачи.
С учетом гарантированной вычислительной эффективности конструируемых ЛЛП, целесообразной областью их применения являются системы обработки цифровых сигналов и изображений, функционирующие в рамках жестких ограничений по времени. В частном случае - системы реального времени.
В основной части изложения рассматривается метод построения признаков применительно к обработке одномерных сигналов. Признаки для изображений могут быть получены, в простейшем случае, путем декартового произведения одномерных эффективных признаков. Более сложные способы построения, в частности построение наборов эффективных признаков или эффективных признаков с неразделимыми КИХ, будут являться предметом исследования в последующих работах автора.
Следует также отметить, что представленные ниже результаты существенным образом опираются на те положения и результаты, которые были получены в авторских работах [5,6]. Поэтому ниже приводится краткое описание полученных в указанных работах результатов.
Настоящая работа организована следующим образом. В первом разделе дается очень краткое изложение основных понятий и результатов работ [5,6]. Эти же работы рекомендуются читателю в случае возникновении неясностей в этом разделе.
Второй раздел является центральным в работе. В п. 2.1 определено понятие ЛЛП, сформулирована общая задача его построения, показана некорректность такой общей задачи и определены основные цели настоящей работы. В п. 2.2 второго раздела приведен вид алгоритма вычисления ЛЛП, приведены выражения для его сложности. В п. 2.3 выделен определенный подкласс признаков (последовательностей), которые порождают эффективные алгоритмы их вычисления. В п. 2.4 второго раздела приводятся положения, определяющие условия существования таких последовательностей и их единственность, приводится описание процедуры построения таких последовательностей. В п. 2.5 формулируется окончательная частная задача построения эффективного ЛЛП как задача построения последовательности обозначенного класса, порождающей алгоритм вычисления признака с наименьшей сложностью и наилучшим образом согласованной с заданным производящим функционалом.
В третьем разделе приводятся различные методы построения эффективных признаков, которые используют предложенную во втором разделе процедуру построения последовательностей, а также
сформулированную частную задачу построения эффективного ЛЛП.
Четвертый раздел содержит примеры различных эффективных ЛЛП и их семейств.
Пятый раздел содержит эскиз метода построения эффективного набора ЛЛП, а также один иллюстративный пример такого набора.
В заключение работы приводятся благодарности фондам, поддерживающим данную научную работу, а также список литературы.
1. Эффективный алгоритм над множеством алгоритмов вычисления свертки
Настоящий раздел содержит краткое изложение необходимых сведений и понятий из работ [5,6].
Рассмотрим задачу 2 вычисления одномерной (линейной) свертки конечного входного сигнала
{х (п)}" 0 длины N и КИХ {И (т)} 0 длины М:
у (п) = И (п)* х (п) = ^ И (т)х (п - т)
(1)
п = М -1, N -1,
которая известна до решения
результатом решения которой является сигнал
( / м+1
{у (п)} о длины N - М +1, называемый выходным сигналом. Отсчеты всех сигналов являются элементами некоторого коммутативного кольца К с единицей.
Для решения задачи (1) существует целый ряд известных алгоритмов, которые условно можно разбить на множества [4,7-14]: алгоритмов прямой свертки {Аос}, алгоритмов быстрой свертки {Арс }
и рекурсивных алгоритмов {А} . Идея построения алгоритма заключается в использовании некоторого опорного множества алгоритмов (программ) {А} , а также априорной информации о задаче
зо =({И (т С0\ З ),
задачи вычисления свертки и представлена в виде КИХ и априорной информации Зх о свойствах обрабатываемого сигнала, для получения так называемого эффективного алгоритма. Под эффективным алгоритмом понимается алгоритм, который в вычислительном плане:
• для любой задачи 2 оказывается не хуже наилучшего алгоритма опорного множества,
• для некоторых задач 2 оказывается лучше наилучшего алгоритма опорного множества (строго эффективен).
Таким образом, определение процесса построения эффективного алгоритма заключается в конструировании отображения
Зо ^ АЗ, (2)
которое для заданного опорного множества алгоритмов {А} и заданной априорной информации З0
дает алгоритм АЗ с наименьшей вычислительной сложностью решения соответствующей задачи (1).
т=0
Поскольку процесс построения должен учитывать всю априорную информацию о задаче, искомый алгоритм А3 в дальнейшем называется алгоритмом, индуцированным априорной информацией о задаче.
Следует отметить, что идея использования множества алгоритмов для построения «наилучшего» в некотором смысле алгоритма, была предложена в 70-х годах академиком Ю.И. Журавлевым [3] для построения корректного алгоритма распознавания. Статья [6] автора настоящей работы развивает эту идею применительно к задаче вычисления свертки, используя другое формализованное представление алгоритма и, как следствие, иную алгебраическую систему.
Для построения отображения (2) в работе [6] вводится алгебраическая система алгоритмов вычисления сверток: конкретизируются отношения между алгоритмами (лучше, хуже и т.п.), а также операции (распространения, сужения и сложения).
Также вводится расширение [{А}] опорного множества алгоритмов {А}, построенное на основе простого эквивалентного преобразования выражения (1). Расширением [{А}] оказывается множество алгоритмов определенной модели СЯ. Каждый алгоритм АСЯ е [{А}] модели СЯ использует при
вычислении (1) некоторые алгоритмы опорного множества. В результате задача конструирования отображения (2) заключается в поиске в расширении алгоритма с наименьшей сложностью. Такой
[{А}]
алгоритм и определяется как алгоритм А3, индуцированный априорной информацией о задаче.
В общем случае, то есть при произвольном опорном множестве, процесс построения индуцированного (эффективного) алгоритма оказывается чрезвычайно сложным. Однако, на практике основной интерес представляет множество алгоритмов вида {АВС}и{АГС}и{Акр}. В работе [6] показано, что для построения эффективного алгоритма над множеством {АПС }и {АГС }и {АЯР } достаточно построить индуцированный алгоритм над множеством алгоритмов {АОС} и {АРС } . Как показано в той же
работе, процесс построения состоит из трех хорошо формализованных операции. Он представляет собой конечную (по объему вычислений) численную процедуру, которая дает решение в виде точных значений параметров модели СЯ для индуцированного алгоритма А3.
В работе [5] рассмотрен частный случай построения эффективного (индуцированного) алгоритма, который позволяет указать его параметры напрямую, то есть без использования численной процедуры. Такое построение оказывается возможным, если КИХ представлена в виде обобщенного (дискретного) сплайна, удовлетворяющего определенным ограничениям. В работе [5] показано, что в этом случае можно установить биекцию между та-
кими сплайнами и алгоритмами модели СЯ, построенными для пустой априорной информации о свойствах сигнала 3 =( N, 0) и использующими в качестве опорного множества единственный алгоритм прямого вычисления свертки АОС, {А} = {АОС}
(|{А}| = 1). Наличие биекции, кроме того, позволяет
по сплайн-представлению КИХ моментально получить информацию о сложности соответствующего алгоритма модели СЯ, порождаемого этим сплайн-представлением.
Для построения эффективных локальных линейных признаков используется похожий подход. А именно, вначале обобщаются результаты работы [5] в том смысле, что вместо сплайн-представления (дискретно-заданной) КИХ используется множество последовательностей, удовлетворяющих некоторым ограничениям. Как показано ниже, в этом случае также удается установить биекцию между основными параметрами последовательности и порождаемым ею алгоритмом. Сложность порождаемого алгоритма также оказывается прямой функцией основных параметров последовательности. Тогда для построения эффективного признака остается выбрать последовательность (КИХ), которая порождает алгоритм его вычисления с минимальной сложностью в классе последовательностей.
2. Эффективные локальные линейные признаки
Определение 1. Локальным линейным признаком (ЛЛП) длины М над К называется пара
({к (т)} о,а) , где {к (т)} о - некоторая КИХ,
задаваемая в виде конечной последовательности над К и удовлетворяющая ограничению к (т) Ф 0, к (М -1) Ф 0 , а А - алгоритм вычисления свертки (1) произвольного входного сигнала над К с КИХ {к (т )}М
\м-1 /т=0 '
На практике, как правило, используется не один, а несколько признаков [10-14]. Они могут использовать как отдельные алгоритмы вычисления (независимо-вычисляемые признаки), так и единый алгоритм. В последнем случае данное выше определение может быть обобщено следующим образом.
Определение 2. Набором из Я локальных линейных признаков (набором ЛЛП) длины М над К
называется пара ({(т)} _ _,А), где:
г \\ г у пт = 0,м-1; г=0,я-1 )
- Уг = 0, Я -1 {кг (т)} 0 - некоторые КИХ, задаваемые в виде конечных последовательностей над К и удовлетворяющие ограничению
/0 (0)Ф 0,
Уг е 0,Я-1 Зт е 0,М -1 кг (т)ф 0, 3 г е 0, Я -1 кг (М - 1)ф 0.
- А - алгоритм (множественной корреляции) вычисления набора сверток (1) произвольного входного сигнала над К с набором КИХ
{ (т)}т=07М-1,.
г = 0,Я-1
Настоящая работа посвящена задаче построения эффективного в вычислительном плане ЛЛП. Построение набора эффективных ЛЛП может быть выполнено путем обобщения излагаемого подхода.
2.1. Общая задача построения эффективных локальных линейных признаков
Задачу построения эффективных ЛЛП удобно определить, используя введенную в работах [5,6] и описанную в первом разделе настоящей работы формализацию задачи вычисления свертки и собственно метод построения эффективного алгоритма (2). В этом случае задача построения вычислительно эффективного ЛЛП может быть определена как задача конструирования отображения
3„
где пара
(3)
> ({ (пО3),
({й (п )}М0', А3) связана отображением (2)
({и (по,).
в котором з0 =
Прежде чем дать окончательное определение рассматриваемой ниже задачи построения эффективных ЛЛП, сделаем ряд замечаний, связанных с практическими ограничениями такой задачи. На практике при построении признаков класс обрабатываемых сигналов либо не известен, либо чрезвычайно обширен. Это не позволяет серьезно учитывать априорную информацию о свойствах сигнала 3,. Кроме того, естественным требованием является максимальная «автономность» функционирования алгоритмов вычисления признаков. Это выражается в том, что при построении признака не следует ориентировать на «богатое» опорное множество алгоритмов. С практической точки зрения наиболее интересным является решение, когда такое множество вообще отсутствует, а вычисление свертки производится напрямую по выражению (1). Учитывая, что такой способ вычисления свертки выполняет алгоритм прямого вычисления свертки Аос, далее считаем, что только этот алгоритм и формирует доступное опорное множество. Таким образом, рассматриваемая ниже задача решается при ограничениях:
• 3, = (, 0), (4)
н={АДс: ((:=1).
(5)
Как показано в [5,6], эти ограничения приводят к тому, что алгоритмы Аск е[{Авс} из расширения
оказываются подобными рекурсивному алгоритму вычисления свертки с функцией сложности вида:
и+ 1 =(ки -1) + |^|, (6)
í=0
где {А}
интервалы/области допустимого по-
.ум + ки-1
крытия КИХ {И (т)} , полученной сверткой
' У т=0
исходной КИХ {й (т)} , с некоторой КИХ
& (к Г.
Теперь можно дать
Определение 3. Общей задачей синтеза эффективного ЛЛП длины М называется задача определения ЛЛП ({й(п)}-,А3), где А3 е [{Авс}]
является алгоритмом, индуцированным априорной информацией о задаче
:({и (п):(N, 0)).
Очевидно, что решением этой общей задачи может являться на одна, а целое множество пар
({й(т)} 0,А3). Поэтому общая задача построения
эффективного ЛЛП является аналитически некорректной.
С учетом сделанных замечаний основными целями настоящей работы являются:
• определение дополнительных ограничений, которые делают постановку общей задачи построения эффективного ЛЛП аналитически корректной или однозначно разрешимой (частная задача),
• нахождение решения этой (однозначной разрешимой) частной задачи в тех случаях, когда решение существует.
То, что задача построения эффективного ЛЛП есть также и задача построения индуцированного алгоритма, позволяет использовать весь аппарат, изложенный в работах [5,6] и кратко представленный в первом разделе. Наиболее близкой постановкой задачи, с учетом ограничений (4)-(5), является задача нахождения прямого решения задачи построения индуцированного алгоритма, рассмотренная в работе [5] и использующая сплайн-представление КИХ. Ниже использован аналогичный подход, но с обобщением на случай, когда КИХ есть конечная последовательность над К. Для использование этого подхода ниже даны некоторые определения из работы [5], необходимые в дальнейшем.
Определение 4. Представление последовательности И(0),И(1),...,И(М-1) над К в виде:
И (т) =
0,
т < 0,
^ акИ (т - к ) + ф (т ), т е Z+
(7)
к=1
называется расширенным линейным рекуррентным соотношением (РЛРС) К-го порядка (К>0)1. Отсчеты т е{п е Z+ : ср (п) Ф 0} называются отсчетами неоднородности РЛРС, множество © = {п е Z+: ррп) ф 0} - областью отсчетов неоднородности РЛРС, а вектор (м,К,{ак}}К=1,{т,ср(т)} ©)
- вектором параметров РЛРС.
Очевидно, для любой конечной линейной рекуррентной последовательности (ЛРП) порядка К>0 можно указать вектор параметров РЛРС, воспользовавшись соотношением (7). Обратное, вообще говоря, не верно. То есть не любой вектор параметров
((, К,{ак }кК=1, {т, ср (т)} ©) РЛРС соответствует
конечной ЛРП длины М. Для того чтобы выделить подмножество таких векторов, дадим следующее
Определение 5.
Вектор ((,К,{акср(т)} ©) называется
корректным вектором параметров РЛРС, если последовательность {к (т)}, являющаяся решением РЛРС (7) с этим вектором параметров, конечна и Ут £ 0, М -1 к (т ) = 0.
Естественно, представление конечной ЛРП с помощью РЛРС всегда дает корректный вектор параметров РЛРС.
2.2. Алгоритм модели СЯ, порождаемый кусочно-однородной последовательностью над К
Настоящий раздел содержит обобщение алгоритма модели СЯ, порождаемого сплайн-представлением КИХ, на случай когда КИХ представлена в виде последовательности (над К) определенного класса.
Пусть, далее, конечная последовательность
{к (т)} 0 над К удовлетворяет некоторому РЛРС
порядка2 К с вектором коэффициентов
а =(а1, а2,..., аК ), а множество {т, ср (т)}
(©с[0,М + К -1] П Z) определяет отсчеты неоднородности РЛРС и их значения. Введем ограничения на последовательности:
- на порядок РЛРС: К < М ,
(8')
- на сетку (интервалы разбиения) АМ-1 £ :
1 При К=0 выражение (7) записывается в виде: 10, т < 0,
к (т) =
|ф(т), т > 0.
0 = т0 < ... < тх < ... < т£ = М -1 (т5 е Z) У 5 = 1, £ -1 т5-1 + К < т5. - на расположение отсчетов неоднородности:
(8'')
У5 = 1, £ -1
т
5 е ©л[т5 + К,т5+1)П© = 0 л т£ £©,
- на значения последовательности: к (0 )ф 0, к (М - 1)ф 0.
(8''')
(8'''')
На ограничения (8')-(8'''') будем в дальнейшем ссылаться как на (8).
М-1 т=0
Определение 6. Последовательность {к (т)}
над К, удовлетворяющая РЛРС порядка К с вектором коэффициентов а (ак е К) и множеством
отсчетов неоднородности {т, ср (т)} ©
(©с[0,М +К -1] П Z), удовлетворяющая ограничениям (8), называется кусочно-однородной (КО) последовательностью типа (К, £, а ) над К.
Проводя аналогию со сплайнами, каждая КО-
последовательность с сеткой АМ
может быть
разбита на £ однородных ЛРП {(т)} для каждой из которых есть начальные значения ЛРП р5 (т5),..., р5 (т5 + К -1). А значения последовательности р5 (тх + К),... могут быть получены с
помощью однородного ЛРС порядка К с вектором коэффициентов а . Естественно, не любая последовательность может быть представлена как КО-последовательность в силу ограничений (8).
Далее можно ввести характеристики КО-последовательности типа (К, £, а) следующим образом (за пределами области определения конечной
последовательности
полагаем
к (т) = 0 т е 0,М -1).
у. к П [К, I, + К -1], ' К П [ +1, ^ + К ],
5 = 0, £ -1, 5 = £
К,
гти т,
те< пеУ*: ^ акк(п - к )ф 01
5 = 0, £ -1, 5 = £
(9')
С =
' Сплайны порядка К удовлетворяют РЛРС порядка (К+1).
агг тах т, 5 = 0, £ -1,
\ • К 1
те< пеУ* : к(п )ф ^ акк(п - к) 1
I к=1 1 агг тах т, 5 = £.
1 , К 1
те\ пеУ*: ^ акк(п - к )ф 0 1
v = z+ п [<, с], s=о, s,
{m eVs : h (m) Ф 2 akh (m - k)}, s = 0, S -1, (9'') !n e VS : 2 akh(n-k) 0} s = S.
Определение 7. Дискретным дефектом в узле т5 (5 = 0, £) КО-последовательности {й (т)} 0 типа (К, £, а) над К, заданной на сетке ЛМ-1 £ , называется величина г; = |б; | . Дискретным дефектом КО-последовательности типа (К, £, а) и
ее суммарным дискретным дефектом называются величины, соответственно, г и гЕ:
r = max rs, rE
s=0,S
=2 rs.
Вектором дискретных дефектов называется вектор Г = (г0,...,г£) .
Для характеристик КО-последовательности и ее дискретных дефектов справедливы аналоги нескольких утверждений из работы [5]. Ниже они даются без доказательств3.
Предложение 1. Пусть {й (т)} 0 - КО-последо-вательность типа (К, £, а) над К, заданная на сетке ЛМ-1 £ . Тогда область отсчетов неоднородности © ее РЛРС удовлетворяет соотношениям:
®= U 6s
= rv
■ (10)
Лемма 1. Пусть {h (m)} о - КО-последователь-ность типа (K, S, a) над K, заданная на сетке
AM-1,s • Тогда
1 + max(S,K)<rE<(S + 1)K . ■ (11)
Также по аналогии с алгоритмом модели CR, порождаемым сплайн-представлением КИХ, введем алгоритм модели CR для КО-последовательности. Для этого представим каждое из множеств
6s (s = 0, S) в виде набора из Is > 1 подмножеств
{в:}
, удовлетворяющих ограничениям:
Напоминаем, что сплайны порядка K удовлетворяют РЛРС порядка (K+1).
(05Цщ: 05 = К,С]пZ,
е; П 0,. = 0, 05 =05 (^ = ).
ге0,7;-1
Тогда, полагая значения КИХ {й (т)} 0 за пределами области определения равными нулю, имеем
Определение 8. Пусть {й (т)} 0 - КО-последо-
вательность типа (К, £, а) над К, заданная на
сетке ЛМ-1 £ с характеристиками {0; }£=0. Алгоритм модели СЯ называется алгоритмом модели сЯ, порождаемым этой КО-последователь-ностью, если его параметры имеют вид:
- Ки = К +1, Кг = 1,
отсчеты
Я, (0) = 1, gh (k) =
КИХ {gh (k )}k=01 и { (k ft '1, k = 0,
k,-1 k=0
-ak, k = 1 Kh - 1.
число интервалов ^ 1; ;
;=0
интервалы допустимого покрытия области определения КИХ:
Dr =
minm,maxm
meQsr meB!
s = 0, S, r = 0,1 -1:
- функции {hsr (m)} :
Vm e Dsr hsr(m) = h(m)-2akh(m -k),
s = 0,S, r = 0,I, -1
параметры-алгоритмы:
Aprep = ADC , Asr = ADC ,
; = 0, £, Г = 0,1; -1.
□
Формальное представление алгоритма модели СЯ может быть упрощено и, аналогично случаю со сплайнами в работе [5], представлено в рекурсивном виде. Ниже даны две формы алгоритма: для КО-последовательности общего вида и для последовательности в виде многочлена над К.
Алгоритм модели СЯ, порождаемый КО-последовательностью над К общего вида
Шаг 1. (этапы 2-3 модели). Формирование предварительного результата:
У (n) = 2 , (n - m)p(m), n = 0, N -1.
s=0
Шаг 2. (этап 4 модели). Постобработка результата:
у (я)=Х аку (п - /)+ у (п), п = 0, М-1,
к =1
с инициирующими значениями у (/) = 0 . □
Алгоритм модели СЯ, порождаемый
КО-последовательностью в виде алгебраического многочлена над К Шаг 1. (этапы 2-3 модели). Формирование предварительного результата:
У (n) = S х (n - m)q> (m), n = 0, Ж -1
me©
Шаг 2. (этап 4 модели). Постобработка результата:
y* (n) = y (n), n = 0, N -1, yh (n )= yh (n -1)+ yh+i (n),
n = 0,N-1, k = K-1,0,(K > 1)
у (п) = ук (п), п = 0, N -1.
□
Представленные явные расчетные соотношения для алгоритма, порождаемого КО-последователь-ностью, позволяют записать также явные выражения для сложности этих алгоритмов как функции от типа (К, £, а) и характеристик (9) КО-последо-вательности.
Предложение 2. Вычислительная сложность алгоритма АСЯ модели СЯ, порождаемого КО-
последовательностью {к (т)} 0 типа (К, £, а)
над К, имеет вид
- в случае КО-последовательности общего вида:
и (acr) =-N-( + K),
v ' N - M + 1V E '
- в случае КО-последовательности в виде алгебраического многочлена над K:
u (ACR )=idM+i(+(K - ^-d). (12'')
(12')
Следствие 1. (минимальная и максимальная сложность алгоритма модели СЯ, порождаемого КО-последовательностью). Вычислительная сложность алгоритма АСЯ модели СЯ, порождаемого
КО-последовательностью {к (т)} 0 типа (К, а)
над К, удовлетворяет ограничениям - в случае КО-последовательности общего вида:
max ( S, K ) + ( K +1)-^ < < и (ACR )<(S + 2 )K
- в случае КО-последовательности в виде значений алгебраического многочлена над К:
max
(S,K) +1 + (K-1)^ <
N - M +1 <-и
N
(ACR )<
<(s+1)K+(K - 1)!add.
(13'')
Доказательство: непосредственное следствие предложения 2 и леммы 1. ■
2.3. Нормализованные МС-последовательности
Из выражений (12) очевидно, что суммарный дискретный дефект гЕ КО-последовательности типа
(К, £, а) напрямую влияет на сложность порождаемого ею алгоритма модели СЯ. Это позволяет ввести специальное подмножество КО-последователь-ностей, для каждой из которых значение вычислительной сложности порождаемого ею алгоритма модели СЯ достигает своего минимального значения.
m-1 m=0
Определение 9. КО-последовательность {h (m)}
типа (K, S, а) над K называется обобщенной МС-последовательностью (ОМС-последовательностью) типа (K, S, а), если ее суммарный дискретный дефект достигает минимального значения, определяемого выражением (11):
гЕ = 1 + max (S, K ). (14)
Определение является не только простым для проверки, но также и полезными при синтезе ОМС-последовательностей. А именно, справедливо следующее очевидное
Предложение 3. (достаточное условие) Для того, чтобы КО-последовательность {h (m)} 0 типа
(K, S, а) над K была ОМС-последовательностью
достаточно, чтобы ее дискретный дефект был равен единице:
r = max r = 1. ■ (15)
i=0,S 1
Также справедливо
Предложение 4. Алгоритм ACR модели CR, порожденный ОМС-последовательностью типа (K, S, а) над K имеет сложность - для ОМС-последовательности общего вида:
N - M +1 N '
i(Acr)
= max (S, K ) + (K +1)-^;
(16')
- для ОМС-последовательности в виде значений алгебраического многочлена над К:
■
N - M +1
u (Г)
N
= max (S,K) +1 + (K - l)Çadd.
(16'')
Доказательство: следствие определения 9 и следствия 1. ■
Очевидно, что сложность алгоритмов модели СЯ, порождаемых ОМС-последовательностями типа (К, £, а) над К, совпадает с минимальной сложностью алгоритмов модели СЯ, порожденных КО-последовательностями этого типа.
В таблице 1 приведены значения суммарного дискретного дефекта гЕ для ОМС-последовательности типа (К, £, а) при различных значениях порядка К РЛРС и количества узлов £. Серые ячейки таблицы соответствуют тем парам (£, К), для которых
вычисления выражения (11) производились по формуле гЕ = К +1, а светлые - гЕ = £ +1.
Таблица 1. Суммарный дискретный дефект ОМС-последовательности порядка К с £ интервалами
K S 1 2 3 4
1 2 3 4 5
2 3 3 4 5
3 4 4 4 5
4 5 5 5 5
5 6 6 6 6
6 7 7 7 7
7 8 8 8 8
Анализ пары выражений (16) и таблицы 1 показывает, что даже среди ОМС-последовательностей, порождающих алгоритмы модели CR с минимальной сложностью, есть такие, которые порождают алгоритмы с наименьшей сложностью. Для примеров из таблицы минимальную сложность порождаемых алгоритмов дают те ОМС-последовательности, у которых число узлов оказывается меньше порядка РЛРС и rE = K +1. Учитывая соотношение (10), которое связывает мощность множества отсчетов неоднородности © РЛРС и суммарный дефект КО-последовательности выражением |©|= rE (для ОМС последовательностей rE = K +1 или rE = S +1 ), можно дать следующее определение для таких «удобных» последовательностей.
M -1 m=0
Определение 10. Последовательность {й (т)}
над К, представимая в виде РЛРС порядка К с областью неоднородности ©, называется МС-
последовательностью порядка К над К, если выполняется ограничение:
|©| = K +1.
ОМС-последовательность, не являющаяся МС-последовательностью, называется избыточной ОМС-последовательностью.
Для удобства обозначений в дальнейшем обобщенный сплайн, отсчеты которого формируют МС-последовательность порядка К над Я, называем МС-сплайном порядка К.
Замечание 1. В некоторых очень редких случаях можно получить неравенство |©| < К +1, например, |© = К . Подобный случай рассмотрен в одном из примеров п.4.1. Поэтому более корректным было бы дать определение МС-последовательности как последовательности у которой |© < К +1. Однако, для произвольной длины КИХ, порядка ЛРС и коэффициентов ЛРС ограничение |©| = К выполнено быть принципиально не может в силу того, что число ограничений на КО-последовательность оказывается большим, чем число независимых переменных. Поэтому в дальнейшем придерживаемся соотношения (17). Исключение проблем с указанным неравенством достигается в вводимом ниже подмножестве «нормализованных МС-последовательностей».
Справедливы следующие легко доказываемые утверждения
Предложение 5 ОМС-последовательность типа (К, £, а) над К является МС-последовательно-
стью порядка К над К тогда и только тогда, когда £ < К . ■
Предложение 6. Алгоритм Ася модели СЯ, порождаемый МС-последовательностью порядка К над К, имеет вычислительную сложность - в случае МС-последовательности общего вида:
^-Mi1 = 2K +1
N
(18')
- в случае МС-последовательности в виде значений алгебраического многочлена над К:
)N^M11 = K +1 + (K -1)
N
■ (18'')
(17)
Легко убедиться в том, что любая ОМС-последовательность задается с точностью до масштаба. То есть, если все элементы ОМС-последовательности типа (К, £, а) с некоторой областью отсчетов
неоднородности умножить на некоторое ненулевое число, то полученная последовательность также будет ОМС-последовательностью типа (К, £, а) с той
же областью отсчетов неоднородности. Чтобы исключить из рассмотрения «одинаковые» в этом смысле последовательности примем следующее определение. Оно корректно, поскольку для любой
МС- и ОМС-последовательности нулевой отсчет находится в области отсчетов неоднородностей: "0" е ©.
Определение 11. МС-последовательность над К называется нормализованной, если к (0) = 1 и
X 2т1 (ср (т)ф 0)- 2М+К XI (Ф (т) = 0)-
те© те©
-11 (ср (( + К -1) = 1) тт .
2 МО (т)}те©
(19)
Замечание 2. Дополнительное условие (19), на первый взгляд, представляется ненужным или избыточным, поскольку множество отсчетов неоднородностей определяется как
© = {т = 0,М + К -1: ср (т) ф 0}, и, следовательно, сумма
X 2т I (ср (т )ф 0 )-2М+К XI (ср (т ) = 0 )
те© те©
является постоянной и равной X 2т. Однако,
те©
как уже было указано в замечании 1, возможно построение специфических МС-последователь-ностей, в которых |©| < К +1 и, следовательно,
указанная сумма может изменяться. Для того, чтобы сузить множество МС-последовательнос-тей, которые могут в этом случае претендовать на класс нормализованных МС-последователь-ностей, введено это ограничение.
Положив значение первого отсчета последовательности равным единице к (0 ) = 1, тем самым фиксировано и значение дефекта в этом отсчете: р(0 ) = 1. Следовательно, в алгоритме модели СЯ,
порождаемом нормализованной МС-последователь-ностью, можно добиться исключения одного умножения (на первом шаге).
Лемма 2. Алгоритм АСЯ модели СЯ, порождаемый нормализованной МС-последовательностью порядка К над К, имеет сложность - в случае последовательности общего вида:
и (АСЯ ) -М +1 = 2К , V > N
(20')
- в случае последовательности в виде значений алгебраического многочлена над К:
и (а СЯ = К + К
(20'')
Представляющими интерес являются вопросы: - существует или нет нормализованная МС-последовательность для заданных параметров
РЛРС М, К е N, {ак } и области отсчетов
неоднородности ©, и что является признаком ее существования (аК ф 0, N > М, М > К > 1);
- как построить МС-последовательность для указанных параметров РЛРС и области ©, если такая последовательность существует;
- единственна ли МС-последовательность для указанных параметров РЛРС и области отсчетов неоднородности;
- какое количество МС-последовательностей можно построить для указанных параметров М, К, а РЛРС.
На все эти вопросы для случая последовательностей над полем Р отвечает следующий подраздел.
2.4. О единственности нормализованной МС-последовательности. Семейство нормализованных МС-последовательностей
В рамках настоящего подраздела рассматриваются последовательности над полем Р.
Существование и единственность нормализованной МС-последовательности
Теорема 1. (о существовании нормализованной МС-последовательности)
Пусть заданы параметры РЛРС М, К е N, {ак } (аК ф 0, N > М,М > К > 1) и область отсчетов неоднородности ©, для которой выполняются соотношения:
|©| = К + 1, "0" е©, "М + К-1" е© . (21)
Нормализованная МС-последовательность порядка К над полем Р с указанными параметрами РЛРС либо не существует, либо существует и единственна.
Доказательство: В соответствие с определением РЛРС МС-последовательность должна удовлетворять (7) на всей области определения (за ее пределами доопределяем последовательность нулевыми значениями). Записывая по одному уравнению для
каждого отсчета т = 0, М + К -1, а также учитывая
ограничение к (0) = 1 для нормализованного МС-
последовательности, имеем СЛАУ (22).
В СЛАУ (22) переменными являются как значе-
ния искомой последовательности
{к (т )}}
так и
значения отсчетов неоднородности {ср (т)} ©^ .
Таким образом, в приведенной СЛАУ всего (М+К) переменных. Она может быть совместна или несовместна.
■
И (0 ) = 1,
к
И (т акИ (т - к ) = 0,
[1, М - 1]П Z
©
^ акИ (т - к ) = 0,
т е
[М, М + К - 1]П Z
©
И (т )-Ё акИ (т - к )-ср (т ) = 0 (22)
к=1
т е([1,М - 1]П Z)П©,
к
^ акИ (т - к ) + ср (т ) = 0,
к=1
т е([М,М + К - 2]П Z)П ©,
аКИ (М - 1) + ср(М + К -1) = 0.
Если ранги расширенной и основной матриц СЛАУ не совпадают, то СЛАУ (22) оказывается не совместной. Следовательно, искомая МС-последова-тельность не существует.
Допустим, ранги расширенной и основной матриц СЛАУ совпадают. В этом случае СЛАУ совместна. Тогда возможны две различные ситуации.
В первой ситуации равные ранги основной и расширенной матриц СЛАУ имеют значение М+К. Тогда решение СЛАУ существует и единственно. В этой ситуации возможны два случая:
• И (М -1) Ф 0 - тогда решением СЛАУ является
нормализованная МС-последовательность с заданными параметрами РЛРС и областью отсчетов неоднородности. В силу единственности решения СЛАУ, условие (19) выполняется автоматически, и нормализованная МС-последовательность единственна;
• И (М -1) = 0 - тогда Бирр (й (т)) < М, и полученная в результате решения СЛАУ последовательность не удовлетворяет условию (8''''). Следовательно, искомая нормализованная МС-последовательность не существует.
Во второй ситуации равные ранги основной и расширенной матриц СЛАУ имеют значение меньше М+К. Следовательно существует множество решений СЛАУ (22). Причиной этому является то, что число (линейно-независимых) уравнений оказалось меньше, чем число переменных. Выходом из этой ситуации является пополнение СЛАУ (22) некоторым количеством дополнительных уравнений. Ими являются следующие К уравнений-равенств, выполнение которых меняет значение функционала (19):
ср(т) = 0, т е© \ {0,М + К -1},
ср (М + К -1) = 1.
Число комбинаций уравнений равно, очевидно, 2К. Причем, если в СЛАУ использовать сразу все уравнения из (23), то СЛАУ оказывается переопределенной и неразрешимой. Следовательно, разре-
(23)
шимая непротиворечивая СЛАУ находится среди возможных 2к пополненных СЛАУ. Как и для первоначальной СЛАУ, каждая из этих пополненных СЛАУ может быть несовместной или совместной. Совместные СЛАУ могут быть крамеровскими (однозначно разрешимыми) или нет. Выделим из всего множества СЛАУ только крамеровские СЛАУ. Из них выделим те, решение которых удовлетворяет условию И (М -1) Ф 0. Это множество может быть
пустым или не пустым. Если это множество пусто, то нормализованная МС-последовательность не существует (эта ситуация соответствует случаю, когда для любого решения первоначальной СЛАУ (22) выполняется равенство И (М -1) = 0). Если множество
однозначных решений, для которых И (М -1) Ф 0, не
является пустым, то все решения - потенциальные претенденты на нормализованную МС-последо-вательность. Для однозначного указания одной из последовательностей достаточно ввести строгое упорядочивание на множестве найденных решений и решаемых СЛАУ. Именно такое упорядочивание вводит функционал выражения (19). Он строго упорядочивает все множество из 2к пополненных СЛАУ (22)-(23). Поскольку отобранные СЛАУ - их подмножество, то среди них существует единственная СЛАУ, соответствующая минимальному значению функционала в (19). Следовательно, получаемое решение - единственное.
■
Замечание 3. Упорядочивание решений СЛАУ, вводимое функционалом (19) основано на упорядочивании бинарных векторов-последовательностей:
I(ср(0)ф 0),I(ср(1)ф 0),...,I(ср(( + К - 1)ф 0).
Оно включает упорядочиванию по числу отсчетов неоднородности, которые оказались нулевыми, дополненное обычным лексикографическим упорядочиванием бинарных векторов.
Доказательство теоремы 1 в конструктивной форме отвечает на вопрос о существовании нормализованной МС-последовательности с заданными параметрами РЛРС. То есть позволяет, с одной стороны, установить необходимые и достаточные условия существования нормализованной МС-последовательности и, с другой стороны, позволяет указать способ построения такой последовательности, если она существует.
Предложение 7. (необходимое условие существования нормализованной МС-последователь-ности) Пусть выполняются условия теоремы 1. Для того чтобы нормализованная МС-последова-тельность с указанной областью отсчетов неоднородности © существовала необходимо, чтобы ранги обычной и расширенной матриц СЛАУ (22) были равными. ■
к=1
к=1
Предложение 8. (достаточное условие существования нормализованной МС-последовательности) Пусть выполняются условия теоремы 1. Для того чтобы нормализованная МС-последо-вательность с указанной областью отсчетов неоднородности © существовала достаточно, чтобы определитель матрицы СЛАУ (22) был отличен от нуля и решение СЛАУ удовлетворяло условию: h (M -1) Ф 0. ■
Процедура построения нормализованной МС-последовательности Процедура построения очевидным образом следует из доказанной теоремы и включает в себя в качестве основной операции решение СЛАУ (22), при необходимости пополненной дополнительными ограничениями (23). Каждое такое решение при его существовании приводит к некоторому значению функционала (19). Если множество решений пополненных СЛАУ оказалось непустым, то в качестве окончательного решения выбирается то из них, которое дает наименьшее значение функционала. Если множество решений оказалось пустым, то искомая МС-последовательность не существует.
Семейство нормализованных МС-последовательностей
Определение 12. ((,M, а) - семейством нормализованных МС-последовательностей, обозначаемым |(K, M, а ), называется множество нормализованных МС-последовательностей порядка K с носителем [0, M -1], удовлетворяющих РЛРС с коэффициентами а (ак Ф 0).
Предложение 9. (о количестве нормализованных МС-последовательностей в семействе)
VM > K > 1, а(ак Ф 0) ||(K,M,a)| < CKM+K-2. (24)
Доказательство: Поскольку |©| = K +1, а "0" е ©,
"M + K -1" е© , то число последовательностей в семействе - это количество различных размещений оставшихся K-1 отсчетов неоднородности на дискретном интервале 1, M + K - 2 . ■
Для K=1 неравенство в (24) превращается в равенство. Однако в общем случае оно дает завышенную оценку мощности семейства |(K,M,а), поскольку не для любого расположения отсчетов неоднородности можно построить нормализованную МС-последовательность. Несмотря на это, выражение (24) позволяет произвести качественный анализ. А именно, для K=2 имеем ClM = M потенциальных последовательностей. Поскольку функция CKM-+K-2 (при K<<M) возрастает по K, то число потенциально существующих нормализованных МС-последователь-
ностей в одном семействе |(K, M, а ) будет больше
числа отсчетов последовательности. Следовательно, при K>2 среди последовательностей одного семейства |( K, M, а) может оказаться большое количество линейно зависимых. Это позволяет в рамках одного семейства отбирать те из последовательностей, которые наилучшим образом приспособлены к решению основной задачи анализа данных.
Замечание 4. Предложение 9 не гарантирует, что конкретное семейство МС-последовательностей не является пустым. То есть в общем случае возможна ситуация, когда для конкретных параметров ( K, M, а ) семейства его мощность
||(K,M, а)| = 0. На практике такая ситуация
встречается редко. Причиной обычно бывает «неудачный» выбор вектора а .
Замечание 5. Минимизация функционала (19) путем решения множества пополненных СЛАУ (22)-(23) является достаточно трудоемким процессом. Однако автору настоящей работы на практике не разу не попадались СЛАУ (22), которые требовали бы пополнения. Первоначальная СЛАУ (22) оказывалась либо разрешимой единственным образом, либо не разрешимой. В таких ситуациях в алгоритме построения нормализованной МС-последовательности конечный «цикл» пополнения СЛАУ (22) уравнениями (23) не выполняется, очевидно, ни разу.
2.5. Частная задача построения эффективных локальных линейных признаков
Вернемся к основным целям работы, сформулированным в п. 2.1. Первой целью являлось определение дополнительных ограничений, которые делают постановку общей задачи построения эффективного ЛЛП аналитически корректной (частная задача). С учетом полученных результатов такие ограничения становятся очевидными и указаны ниже.
Сначала заметим, что для заданной длины последовательности, которая определяет КИХ для ЛЛП, и порядка РЛРС сложность алгоритмов модели CR, порождаемых нормализованными МС-последовательностями, оказывается минимальной среди последовательностей с теми же параметрами. Поэтому для синтеза эффективных ЛЛП целесообразно использовать именно нормализованные МС-последовательности. А для того чтобы однозначно задать эффективный признак, то есть саму нормализованную МС-последовательность над K и эффективный алгоритм расчета свертки с нею, в дополнение к длине последовательности M следует указать еще и некоторые параметры ее РЛРС.
Во-первых, это порядок РЛРС K, который должен быть таким, чтобы получаемый признак был действительно эффективным. Ограничение на порядок очевидным образом следует из сопоставления
сложности (20) алгоритма АСЯ модели СЯ, порождаемого нормализованной МС-последовательно-стью, и сложности единственного алгоритма АПС
опорного множества: (М, N )= М [5,6].
Имеем:
Т( к (0),..., к (М -1))
^ тш ;
{(т
(25)
N
-2К <М -%а
N - М +1
здесь , |ти/ е Я [0,1] - относительные сложности операций сложения и умножения, задаваемые так, чтобы выполнялось условие: + '%пш1 = 1.
Во-вторых, требуется задать значения коэффициентов РЛРС {ак }, которые определяют «тип»
последовательности.
Наконец, в-третьих, следует задать положение отсчетов неоднородностей, то есть область ©. На практике область © может быть выбрана таким образом, чтобы признак удовлетворял некоторым дополнительным условиям: слабая или сильная корре-лированность нормализованной МС-последователь-ности с некоторым заданным набором последовательностей, максимум дисперсии или энтропии рассчитываемого признака и т.д. Эти условия в общем случае могут быть заданы с помощью некоторого «производящего функционала», определение которому дано ниже.
Определение 13. Производящим функционалом Т : КМ ^ Я называется вещественнозначная функция, которая для каждого М-мерного вектора (к(0),...,к(М-1)) над К указывает вещественную величину, отражающую «степень пригодности» вектора: вектор считается «лучше», если значение производящего функционала на нем меньше.
Используя это определение, приходим к следующей формулировке частной задачи.
Определение 14. Частной задачей построения эффективного ЛЛП называется задача:
для заданных величин {ак}}= (аК ф 0) N,М,К еN,
удовлетворяющих ограничениям N > М,
N - М +1,
К <-
2 N
-(М -£,), и заданного произво-
дящего функционала Т(...) определить ЛЛП ({к (т)} 0,АСЯ), такой что:
- КИХ {к (п)} 0 является нормализованной МС-
последовательностью с минимальным значением производящего функционала:
- алгоритм АСЯ е [{АВС является алгоритмом модели СЯ, порождаемым последовательностью
{к (п )}М
\м-1 'и=0
Справедливо
Предложение 10. Пусть Т(...) - взаимнооднозначный производящий функционал. Если решение частной задачи построения эффективного ЛЛП существует, то:
- оно единственно, и
- АСЯ является строго эффективным алгоритмом над опорным множеством {АОС}.
Доказательство:
очевидное следствие теоремы 1 и замечания 4.
Ниже нам также понадобится следующее
Определение 15. Обобщенным производящим функционалом Т{ }: КЯхМ ^ Я называется вещественнозначная функция, которая для любого непустого конечного набора {(кг (0),..., кг (М -1))}
(кг (т) е К) из Я векторов длины М указывает
степень «пригодности» этого набора: набор считается «лучше», если значение обобщенной производящего функционала на нем меньше.
Обобщенный производящий функционал используется для получения численной величины, которая характеризует «качество» набора последовательностей целиком.
Производящие функционалы Т могут быть заданы либо явно, либо путем формулировки некоторой оптимизационной задачи. В четвертом разделе работы приводятся примеры нормализованных МС-последовательностей/сплайнов. Все указываемые нормализованные МС-последовательности и сплайны являются решениями задачи синтеза эффективного ЛЛП для некоторых производящих функционалов. Безусловно, эти примеры не исчерпывают все возможные нормализованные МС-последователь-ности, охватывая только небольшое их подмножество, которое соответствует случаю малого порядка К и малого числа узлов £ (для избыточных ОМС-последовательностей). Другие примеры могут быть получены аналитически или численно с использованием методов, представленных далее. Некоторые примеры ОМС-последовательностей и ОМС-сплайнов даны в работе [5].
■
3. Методы построения эффективных ЛЛП
Используя полученные теоретические результаты можно предложить различные методы построения эффективных ЛЛП как отдельных, так и целых семейств. Ниже дано краткое описание некоторых из них.
3.1. Методы построения эффективного ЛЛП
Прямой метод построения нормализованной МС-последовательности В этом методе считаются заданными:
- параметры (К,М, а) семейства МС-последо-
вательностей, в котором ищется требуемая последовательность,
- положение отсчетов неоднородностей ©. Естественно, область © должна удовлетворять ограничениям (21).
Требуется получить:
- нормализованную МС-последовательность. Работа метода заключается:
- в выполнении процедуры построения нормализованной МС-последовательности, представленного в подразделе 2.4.
Комментарий:
В силу теоремы 1 для указанной области отсчетов неоднородности © нормализованная МС-последовательность либо не существует, либо существует и единственна. Ответ о существовании требуемой последовательности и сама последовательность (если таковая существует) в общем случае могут быть получены с помощью процедуры, представленной в конце раздела 2.4.
Метод построения нормализованной МС-последовательности, согласованной с производящим функционалом В этом методе считаются заданными:
- длина последовательности М,
- набор из 1>0 параметров {к',а'}^ __ , которые
ограничивают множество семейств МС-после-довательностей, среди которых ищется требуемая последовательность,
- производящий функционал ¥(...), который
характеризует предпочтение к требуемой последовательности. Требуется получить:
- нормализованную МС-последовательность
( * / \\м-1
{И (п 10 .
Работа метода заключается:
- в получении для каждого набора параметров (к',М, а') (' = 0,I -1) семейства МС-после-
довательностей р(к',М, а') с помощью пря-
мого метода синтеза ((',M,а')-семейства
МС-последовательностей (см. ниже метод 3),
i -1
- в выборе из множества \^(k',M,а') полу-
'=0
ченных нормализованных МС-последовательностей такой, которая доставляет минимум производящего функционала:
К (nС1 = arg min. ')(h(0),...,h(M -1)).
n {h(n)} 0 e и ,mа)
i=0 v '
3.2. Методы построения подмножеств эффективных ЛЛП
Прямой метод построения (K, M, а) -семейства нормализованных
МС-последовательностей В этом методе считаются заданными:
- параметры (K, M, а) семейства МС-последова-
тельностей. Требуется получить:
- семейство нормализованных МС-последова-тельностей р(K,M,а).
Работа метода заключается:
- в генерации конечного множества {©} всех возможных областей отсчетов неоднородностей,
- в вызове для каждой области © e {©} из полученного множества прямого метода синтеза нормализованной МС-последовательности (см. первый метод п.3.1). Если для конкретной конфигурации нормализованная МС-последовательность существует, то она пополняет семейство р( K, M, а).
Метод построения подмножества из R нормализованных МС-последовательностей В этом методе считаются заданными:
- число R требуемых признаков (последовательностей),
- длина последовательности M,
- набор параметров {K', а' } _ (( > 0), которые ограничивают множество семейств МС-последовательностей, в которых ищутся R последовательностей,
- обобщенный производящий функционал ^ { } . Требуется получить:
- множество из R нормализованных МС-после-довательностей.
Работа метода заключается:
- в получении для каждого набора параметров (K', M, а') (' = 0, I -1) семейства МС-последо-
вательностей р(K',M, а') с помощью прямого
метода построения (К',М,а')-семейства нормализованных МС-последовательностей (см. первый метод, п. 3ю2),
- в генерации из множества
ир((, М, а')
всех
доступных нормализованных МС-последова-тельностей всех подмножеств из Я последовательностей;
- для каждого сгенерированного подмножества из Я нормализованных МС-последователь-ностей производится расчет значения обобщенного производящего функционала Т { } ,
- выбор среди всех подмножеств такого, для которого значение обобщенного производящего функционала оказывается минимальным.
Комментарии:
Возможное изменение в постановке задачи заключаются в замене ограничения на количество признаков Я ограничением на суммарную сложность алгоритмов модели СЯ расчета признаков. Метод решения в этом случае претерпевает минимальные изменения, связанный с процессом генерации подмножеств нормализованных МС-последовательностей - генерируются все максимальные подмножества4, сложность алгоритмов для которых оказывается не выше заданной.
Другой вариант постановки задачи - получение заданного количества ЛЛП за указанное время. В
этом случае I наборов параметров (К',М,а')
(' = 0, I -1) не задаются, а сами наборы генерируются случайным образом. Ограничение на количество наборов следует из ограниченности времени их обработки.
Пусть
ир((, М, а')
-. т . Тогда количество всех
подмножеств из Я последовательностей составляет величину СтЯ . Поскольку величина т на практике достаточно велика, представленный в методе полный перебор подмножеств, дающий оптимальное решение, на практике может быть заменен на квазиоптимальный способ. Среди широко известных способов универсальными являются два: метод последовательного присоединения (признака) и метод последовательного отсоединения (признака).
4 Максимальным подмножеством некоторого множества называется его подмножество, удовлетворяющее некоторому ограничению, и в которое нельзя добавить ни одного элемента из множества без нарушения этого ограничения.
4. Примеры нормализованных МС-последовательностей и их семейств
4.1. Нормализованные МС-последовательности
Последовательность: £=К=1
(а ф 1)
Эта однородная ЛРП представляет собой функцию экспоненциального вида:
к (т ) = а^к (0) (к (0 ) = 1).
Вычислительная сложность (20) алгоритма модели СЯ, порождаемого этой нормализованной МС-последовательностью, имеет вид
и (АСЯ ) - М +1 = 2.
V ' N
Нормализованный МС-сплайн в виде полинома нулевого порядка: £=К=1
(а. = 1)
Функция представляет собой широко известную из практики ЦОС «прямоугольную» функцию - индикатор с носителем [0,М -1]. Вычислительная
сложность (20) алгоритма модели СЯ, порождаемого этим МС-сплайном, имеет вид
N-М +1 = Л
' = 1 + tiadd .
((АСЯ )-
N
Полиномиальные нормализованные МС-сплайны: £=1, К>2 (К>£) Эти нормализованные МС-сплайны имеют только один интервал, то есть совпадают на области определения с полиномом степени К-1. С учетом допустимых значений дискретных дефектов на узлах общее строение такого полинома имеет вид:
Бк (т )=РП (т -')П ( - (М -1 +')) >
(26)
К1 + К2 = К-1.
В частном случае К1 = К -1 имеем:
Эк-1 (т ) = вП(т -'). (27)
I=1
Для К -1 > 1 сплайн (27) совпадает со сдвинутым «факториальным полиномом» или «обобщенной степенью» [1,14]. Этот тип полиномов использовался в работах по параллельно-рекурсивным алгоритмам вычисления сверток [12-14]. Их вид приведен на рисунке 1.
Вычислительная сложность (20) алгоритмов модели СЯ, порождаемых такими полиномами:
и (А-)= К + К
Полиномиальные нормализованные МС-сплайны:
£ = K = 2
Эти сплайны имеют два сегмента, на каждом из который они совпадают с линейной функцией. Вектор дискретных дефектов для этого сплайна оказывается единичным (г0,г1,г2) = (1,1,1), хотя РЛРС
имеет порядок К=2. Можно показать, что искомый нормализованный МС-сплайн в этом случае имеет следующий вид (( е Я+):
(М-1,2; г ) =
г+1, и +1
г, - м
0 < г < г1; (г-м), г1 < г <м.
Примеры таких сплайнов приведены на рисунке 2.
Вычислительная сложность (20) порождаемых этими нормализованными МС-сплайнами алгоритмов модели СЯ вычисления признака имеет вид:
^ - М +1 = 2 + 2£
- -I- .
N
1,0 0,8 0,6 0,4 0,2
4
и
"' / //• 7/
У У/
* »■V
0 2 4 6 8 10 12 14 16 18 20
Рис. 1. График я .( т) тах ЯК .(т)
К7 те[0,М-1] К-1 '
для нормализованных МС-сплайнов типа «обобщенная степень» порядков (К-1)=1,2,3,4,5, заданных на [0,20]
Полиномиальные нормализованные МС-сплайны для
£ = К = 3
Примеры полиномиальных МС-сплайнов, которые являются решениями СЛАУ (22) для рассматриваемой ситуации, приведены на рисунке 3.
Как видно из рисунка, эти сплайны имеют вид «колокола», составленного из «волнообразных» сегментов. В более общей ситуации, когда К = £ > 3, полиномиальные нормализованные МС-сплайны также имеют плавный «волнообразный» характер.
Вычислительная сложность (20) порождаемых этими квадратичными сплайнами алгоритмов модели СЯ имеет вид:
и = з + з^.
N
14 12
10
8
6
4
2
/\
✓ \
/ / г ч \ \
\ > Ч \
ч к ч Ч
ч N ч \
^ч
0 2 4 6 8 10 12 14 16 18 20
Рис. 2. Полиномиальные нормализованные МС-сплайны для Б=К=2
100 80 60 40 20
0
8 10 12 14 16 18 20
Рис. 3. Полиномиальные нормализованные МС-сплайны для К=Б=3
Нормализованная МС-последовательность: последовательность Фибоначчи
Последовательность Фибоначчи задаются следующим образом [1]:
К = 2, £ = 1;
И (0) = 1, И (1) = 1,
к(т) = к(т -1) + к(т - 2), т > 2.
Очевидно: Ф(0 )= 1, Ф(1) = 0,
ф(м)* 0, ф(М +1)* 0
^ © = 3 = К +1.
Следовательно, последовательности Фибоначчи являются нормализованной МС-последовательно-стью. Вычислительная сложность (20) алгоритма модели СЯ, порождаемого этой МС-последова-тельностью, имеет вид
^ - М +1
|(Ася )-
N
- = 4 .
(28)
Нормализованные обобщенные МС-сплайны в виде вещественного базиса Фурье:
K = 2, S = 1
Пусть a = 2cos(a),а2 =-1 (<в = ехр('а),ае R), тогда h (t) - синусная или косинусная функция. Рассматривая случай с синусной функцией, имеем: h(m) = c • sin(a(m + P)) =
I ® m ® -= СI —rom--Ю
I 2' 2'
m = 0,M -1.
Для построения нормализованного МС-сплайна необходимо обеспечить |©| = K +1 = 3. Этого можно
добиться, например, если удовлетворить двум ограничениям:
h (0) = c sin (ар) = 1, h (-1) = c sin (а(-1 + p)) = 0 .
Соотношения выполняются, если р=1, c = (sin (а)) (sin(а) ф 0). Тогда функция
sin (а( +1))
h (t)=-У ) '' t е|~0,M -1].
sin (а)
является обобщенным нормализованным МС-сплай-ном. Сложность соответствующего алгоритма модели CR задается выражением (28).
Замечание 6. Синус является периодической функцией с множеством регулярно расположенных нулей. Поэтому можно подобрать величину а и, следовательно, коэффициенты а1, а2 таким
образом, чтобы при сохранении h (-1) = 0 выполнялось равенство h (M) = 0 . Тогда величина сложности алгоритма модели CR, порождаемого этим нормализованным МС-сплайном, будет еще ниже, соответствуя суммарному дефекту |©|= K = 2. Такая ситуация возможна для узкого класса функций, в работе она отдельно не рассматривается.
Нормализованные обобщенные МС-сплайны в виде вещественного базиса Фурье:
S = K = 2
Пусть
а1 = 2со8(а),а2 = -1 (<в = ехр('а), а е Я),
тогда функции р0 (г), р1 (г), задающие КИХ к (г) на частичных интервалах [0, т1) ,[т1,М -1] являются синусными (косинусными) функциями. Несколько примеров таких обобщенных нормализованных МС-сплайнов представлены на рисунках 5а-5з, все они относятся к одному семейству и соответствуют различным положениям узла т1 . Порождаемый этим нормализованным МС-сплайном алгоритм модели СЯ имеет сложность в виде выражения (28).
«Масштабированные» B-сплайны
Можно показать, что значения любого B-сплайна [1,2] порядка K-1, взятые с равномерным шагом 1/n (n е Z+, n > K), также формируют нормализованную МС-последовательность порядка K. Порождаемый таким B-сплайном алгоритм модели CR имеет сложность в виде (20'').
4.2. Семейства нормализованных МС-последовательностей
Семейство вещественных МС-последовательностей типа «Фибоначчи»
Семейство построено при следующих параметрах РЛРС:
M = 8, K = 2, а1 = а2 = 1 .
Функции семейства и расположение соответствующего для них «свободного» отсчета неоднородности приведены на рис. 4. Последняя последовательность, изображенная на рис. 4з - это истинная последовательность Фибоначчи.
Сложность алгоритма модели CR, порождаемого каждой последовательностью этого семейства, задается выражением (28).
Семейство МС-последовательностей типа «вещественного базиса Фурье»
Семейство построено при следующих параметрах РЛРС:
M = 8, K = 2;
а1 = 2cos (31) и 1,7143346, а2 =-1.
Функции семейства и расположение соответствующего для них «свободного» отсчета неоднородности приведены на рисунке 5. Последняя последовательность, изображенная на рисунке 5з - это по-
sin (31° ( +1))
следовательность отсчетов
sin (З1° )
Сложность алгоритма модели СЯ, порождаемого каждой последовательностью этого семейства, задается выражением (28).
5. Построение эффективного набора ЛЛП
Общая задача построения эффективного набора из Я ЛЛП может быть определена как задача конструирования отображения
{(m)} =jM-l,, A
(29)
где А3 - алгоритм, индуцированный априорной информацией 30 =1 {(т)}т=„мт!,,3х I задачи множеству г=оТЯ^ ' )
венной корреляции. Аналогично случаю с отдельным эффективным ЛЛП, эта общая задача является некорректной.
Рис. 4. Семейство нормализованных МС-последовательностей длины М=8 типа «Фибоначчи»
Рис. 5. Семейство нормализованных МС-последовательностей длины M=8 типа «вещественного базиса Фурье»
Идея конструирования отображения (29) заключается в обобщении изложенного в настоящей работе метода построения эффективного ЛЛП. Можно показать, что, следуя этой идеи, процесс построения эффективного набора ЛЛП приводит к задаче построения набора взаимно-рекуррентных МС-последовательностей. Один пример набора последовательностей приведен на рис. 6.
Детальное изложение предлагаемого подхода построения эффективного набора ЛЛП будет дано в последующих работах автора.
/ ! \ У
/ / 1 / / ч <
/ / 1 1 1 / / /' / / / \ \
/ / X
У __ / /
0 2 4 6 8 10 12 14 16 18 20
Рис. 6. Пример набора последовательностей «экспоненциального типа», соответствующих эффективным наборам ЛЛП
Заключение Предложен метод построения новых эффективных ЛЛП сигналов и изображений, которые по построению являются вычислительно строго эффективными и оказываются наилучшим образом согласованы с некоторым критерием качества призна-ка(ов), задаваемым в виде производящего функционала. Показано, что построение эффективного ЛЛП приводит к КИХ-ам, которые соответствуют подмножеству последовательностей со специальными свойствами, названными в работе нормализованными МС-последовательностями. Для КИХ в виде нормализованных МС-последовательностей соответствующий алгоритм расчета ЛЛП обладает наименьшей сложностью среди всех других алгоритмов, построенных для последовательностей того же класса. Представлен явный вид алгоритмов вычисления эффективных ЛЛП, дано выражение для его вычислительной сложности. Приведены примеры нормализованных МС-последовательностей, их семейств и набора последовательностей, соответствующих эффективному набору ЛЛП.
Благодарности Работа выполнена при поддержке:
• Российского фонда фундаментальных исследований (РФФИ), проекты: № 06-01-00616-а, № 07-07-97610-р_офи;
• Фонда содействия отечественной науке.
Литература
1. Гельфонд, А. О. Исчисление конечных разностей. Изд. 3-е, испр. / А.О. Гельфонд // М.: Наука, 1967.
2. Завьялов, Ю.С. Методы сплайн-функций / Ю.С. Завьялов, Б.И. Квасов, В. Л. Мирошниченко - М.: Наука, 1980.
3. Журавлев, Ю.И. Об алгебраическом подходе к решению задач распознавания или классификации / Ю.И. Журавлев // Проблемы кибернетики, 1978. — N 33. — С. 5-68.
4. Методы компьютерной обработки изображений. Под ред. В.А.Сойфера. 2-е изд., испр. // М.: Физматлит, 2003.
5. Мясников, В.В. Сплайны как средство построения эффективных алгоритмов локального линейного преобразования / В.В. Мясников // Компьютерная оптика, 2007. — Т. 31. — № 2. — С. 52-68.
6. Мясников, В.В. Эффективный алгоритм над множеством алгоритмов вычисления свертки / В.В. Мясников // Компьютерная оптика, 2006. — В. 29. — С. 78-117.
7. Оппенгеймер, А.В. Цифровая обработка сигналов / А.В. Оппенгеймер, Р.В. Шафер — М.: Связь, 1979.
8. Рабинер, Л. Теория и применение цифровой обработки сигналов / Л. Рабинер, Б. Гоулд — М.: Мир, 1978.
9. Сергеев, В. В. Параллельно-рекурсивные КИХ-фильт-ры в задачах обработки изображений / В.В. Сергеев // Радиотехника, 1990. — № 8. — С. 38-41.
10. Форсайт, Д.А. Компьютерное зрение. Современный подход / Д.А. Форсайт, Ж. Понс — М.: ИД «Вильямс», 2004.
11. Шапиро, Л. Компьютерное зрение / Л. Шапиро, Дж. Сто-кман — М.: Бином, 2006.
12. Ярославский, Л.П. Введение в цифровую обработку изображений / Л.П. Ярославский — М.: Сов. радио, 1979.
13. Glumov, N.I. Application of polynomial bases for image processing using sliding window / N.I. Glumov, V.V. Myas-nikov, V.V. Sergeyev // SPIE, Image Processing and Computer Optics, 1994. — Vol. 2363. — P. 40-49.
14. Glumov, N.I. Parallel-Recursive Local Image Processing and Polynomial Bases / N.I. Glumov, V.V. Myasnikov, V.V. Sergeyev // Proceedings of the Third IEEE International Conference on Electronics, Circuits and Systems ICECS'96, Rodos, Greece, 1996. — Vol. 2. — P. 696-699.
15. Myasnikov, V.V. Construction of Integer-Value Polynomials for Recursive Calculation of the Convolution with FIR-Filter / V.V. Myasnikov // Тезисы 7-й Международной конференции «International Conference on Pattern Recognition and Image Analysis», Санкт-Петербург, Россия, 2004. С. 331-334.
