CC BY
74
УДК 621.391
АНАЛИЗ МЕТОДОВ АВТОМАТИЗАЦИИ ПРОЦЕССОВ РАСПОЗНАВАНИЯ ОБЪЕКТОВ
Н.С. Акиншин, А.В. Андреев, Е.А. Старожук
Рассматриваются методы принятия решения при распознавании объектов, даются их анализ и области возможного применения. Приведены обобщенные алгоритмы реализации методов
Ключевые слова: система поддержки принятия решений, распознавание объектов
Эффективная работа алгоритмов распознавания объектов практически не возможна без своевременной автоматизированной программной поддержки принятия решений (ПППР). Для создания баз данных (БД) и отработки алгоритмов, правил принятия решений (ПР), без которых невозможно создание интеллектуальных систем (ИНС), необходимо вести параллельно преобразования данных к видам удобному ИНС и человеку, оставив окончательное решение за последним (рис. 1) [1, 2].
Необходимость такого подхода была обоснована возрастающими объемами информации, увеличением числа экстремальных ситуаций; весомостью и значимостью ПР, значительным сокращением времени, отведенного для ПР; стремлением полностью исключить возможность принятия недопустимых решений, а также желанием учесть ситуации, когда имеет место выход из строя ЛПР и других квалифицированных лиц.
На данном этапе в рамках дальнейшей разработки вышеуказанной методики проведен анализ методов, определяющих ПР в структурах обработки видеоданных перспективных систем наблюдения. Среди значительного числа существующих методов ПР выделены в качестве основных (таблица) классические статистические методы (КСМ) и методы структурирования анализируемых данных (МСАД) [3, 4], которые могут быть использованы в функциональных узлах ИНС и других структурах систем обработки видеоданных. Именно предлагаемый состав основных функциональных узлов структуры комплексной ИНС и предопределил выбор этих методов ПР. Среди КСМ выделены следующие (таблица, № 1 - 5): отношение правдоподобия; Неймана-Пирсона; последовательный анализ Валь-да; байесовский подход; условное математическое ожидание, как достаточно хорошо известные и представленные во всех современных статистических программных пакетах (SPSS, STATISTICA, STATGRAPHICS и др.). Все они базируются на методе отношения правдоподобия и с большим успехом применяются при вторичной обработке видеоданных. Блок-схема обобщенного алгоритма ПР статистическими методами представлена на рис. 2.
Рис. 1. Блок-схема формирования БД ИНС и обучения НС распознаванию и классификации объектов
Методы структурирования анализируемых данных (МСАД) (таблица, № 6 - 13) являются основными при анализе данных в БД современных ДЭС, но могут применяться самостоятельно в качестве ПР в не очень
сложных ситуациях. Структурные методы иногда относят к лингвистическим методам, основанным на использовании специальных грамматик порождающих языки, с помощью которых может описываться совокупность свойств анализируемых объектов. В этом случае для различных классов объектов выделяются непроизводные элементы (признаки, подобразы) и возможные отношения между ними. Тогда под грамматикой полагают именно правила построения объектов из этих непроизводных элементов. Большинство предлагаемых к использованию МСАД представлены в программном пакете (1111) Data Mining в виде отдельных систем (таблица, графа 4). В качестве критериев ПР для МСАД в простых ситуациях определяют объект (ПР), которому соответствует максимальное число признаков (условий) в входном цифровом векторе состояний ВС [5].
Метод таблиц решений (ТР) в общем случае представляет собой таблицы, в которых указаны действия, предпринимаемые в различных условиях, причем ПР - это выбор между альтернативными действиями (рис. 3.). Обычно таблица состоит из четырех основных частей: «предварительные условия», «возможные действия», «окончательные условия», «предпринимаемые действия» - ПР.
Необходимо отметить, что все возможные комбинации признаков (условий) ВС перечислены так, что применение метода ТР всегда дает одно предпринимаемое действие.
Метод k-ближайших соседей для решения задач классификационного анализа заключается в следующем [5-7]. При классификации неизвестного объекта находится заданное число k геометрически ближайших к нему в пространстве признаков других объектов (ближайших соседей) с уже известной принадлежностью к распознаваемым классам. Решение об отнесении неизвестного объекта к тому или иному классу принимается путем анализа информации об известной принадлежности его ближайших соседей с помощью простого подсчета голосов.
Если приходится оперировать объектами, которые описываются большим количеством качественных признаков, при этом размерность пространства признаков соизмерима или превышает объем исследуемой выборки, то в таких условиях удобно интерпретировать каждый объект обучающей выборки, как отдельный линейный классификатор. Тогда диагностический класс представляется не одним прототипом, а набором линейных классификаторов. Совокупное взаимодействие линейных классификаторов дает в итоге кусочно-линейную поверхность, разделяющую в пространстве признаков распознаваемые классы. Вид разделяющей поверхности, состоящей из кусков гиперплоскостей, может быть разнообразным и зависит от взаимного расположения классифицируемых совокупностей.
(
ч Ввод выборок и Z- У
i
г Л
ч Определение размера выборок и 2 1 i у
1
/ Размерность выборки Яд ~ Л
ч У
Нет
Известна ли априорная вероятность
Да
Метод ПР: БП
Выбор меры U, а и ß: (0,01-0,5)
Метод ПР:
л рО
ОПП = 11( У i) = k
i=l / -
Выбор функции потерь П
Метод ПР: ПАВ
г \
Метод ПР:
Н-П
ч /
Определение: А = а + пМ(г)
и1^ =В = Ъ + пМ(1) при А > В
А = 1- /3/а В = р/1-а
Простая функции потерь П
ПР по критерию: выбор процедуры
ПР min ß при фиксированном а
ПР по критерию: гшп среднего риска /?
ПР по
критерию:
UKp<k<UKp
ПР по
критерию: шах правдоподобия
У V
ПР по
критерию: Ё>А-*Н0
к<В^>Н1
В <к < А —> мб
Рис. 2. Блок-схема обобщенного алгоритма ПР КСМ
Также можно использовать другую интерпретацию механизмов классификации по методу ^-ближайших соседей. В ее основе лежит представление о существовании некоторых латентных переменных, абстрактных или связанных каким-либо преобразованием с исходным пространством признаков. Если в пространстве латентных переменных попарные расстояния между объектами такие же, как и в пространстве исходных признаков, и количество этих переменных значительно меньше числа объектов, то интерпретация метода ^-ближайших соседей может рассматриваться под углом зрения сравнения непараметрических оценок плотностей распределения условных вероятностей.
Анализ методов принятия решений
bJ
о
№ п|п Наименование метода Критерии принятия решений (ПР) Исходные данные Примечание
1 2 3 4 5
1 Отношение правдоподобия (ОПП) {\(Р{1Ъ...,2П/Н0у \ /Р(гъ...,2п1Н1))-к и К, <к< иК2 Случайные независимые выборки и их распределения; мера рассогласования £/; уровень значимости а; оперативная хар-ка Д размерность выборки «=С0П81 Классический статистический метод (КСМ). ПП: SPSS, STATISTIC А, ST A ¡'GRAPHICS И др.
2 Неймана - Пирсона (НП) По критерию ОПП при заданном а выбрать процедуру ПР, когда Дтт Случайные выборки и их распределения; мера рассогласования £/; уровень значимости ос; оперативная хар-ка Д размерность выборки КСМ. Ошибка а, та которую важнее избежать. ПП: SPSS, ST A TISTICA, ST A TGRAPHICS и др.
3 Последовательный анализ Вальда (ПАВ) А~\-р!а\В = Р1{\-а) при А > В Ц°кР=А а 1 пМ(2); I]1 Кр=В =Ъ +пМ(2) А< к < В В<к<А—>мб (может быть -анализ продолжить) Случайные выборки и их законы распределения; мера рассогласования ¿7; уровень значимости а; оперативная хар-ка Д размерность выборки п=уаг КСМ. Размерность выборки по результатам. Эффективен, если а и (5 не слишком сильно различаются. ПП: SPSS, STATISTIC А, STATGRAPHICS и др.
1 I
г; §
-с
г; §
г;
3
§
о*
а §
н
•X.
г; §
о а
3 §
г; а
а -а г; г;
1 2 3 4 5
4 Байесовский подход (БП): Р(2/в) = Р(в/2)Р(2)/Р0(&) при условном риске min среднего риска R Случайные выборки и их законы распределения, мера рассогласования 1/; уровень значимости а; оперативная хар-ка Д размерность выборки иссопе!; априорная вероятность Ро(в)\ функция потерь 0, © | КСМ, Мода: Mf\p{zi<d) = R_]- максимальное правдоподобие, при простой ПП: SPSS, STATISTICA, STATGRAPHICSи др.
5 Условное математическое ожидание (УМО): 2=М[г/хь ...,х„]=<р(х1, ...,х„) мнк min M[(z-cp(x,a))2] M[(z-(p(x, а))2] < M[(z- yyfx, а))2] ф)фу/(х), о-неизвестные параметры модельной функции (р(х,а) Результаты наблюдений г независимые случайные величины; ошибки наблюдений нормальные, центрированные, не зависят от входной переменой л-,с одинаковой дисперсией; априорное знание вида^лг) КСМ. Применяется в регрессионном анализе ПП: SPSS, STATISTICA, STATGRAPHICS и др.
6 Таблицы решений (ТР) Мах число признаков во входном векторе состояния, принадлежащих ПР (по "большинству голосов") Специальная грамматика, элементы, сигнатуры и отношения между ними. Перечень допустимых решений; выделение ИВОР и стандартизованное их представление Метод структурирования анализируемых данных (МСАД). Лингвистический подход (ЛП). ПП Data Mining
05 ГЪ о
§
м *
а s; -с
fü
О «
Si ГЪ
а «
s;
Kj
о ^
to
CT
•>4
а
LtJ О LtJ
1 2 3 4 5
7 ¿-ближайших соседей (к- МС) Выявление сходства\различия с образцом по "большинству голосов" Специальная грамматика, элементы, сигнатуры и отношения между ними. Одномерное пространство признаков. МСАД. ЛИ. Полный перебор обучающей выборки (ППОВ); трудоемкость. Зависимость от метрики (ЗОМ). ПП Data Aiming
8 Деревья решений (ДР) 0< к<1. У =тах М{\]}%Х)) ы 2. иК] <к< ик, з. хш{в;) = \-±г* /=1 Независимые события. Специальная грамматика, элементы, сигнатуры и отношения между ними. Мера рассогласования IIм, Критическая область С^иР); уровень значимости а; размерность выборки О=С0П81 МСАД. Исходные данные разбиваются на группы на основе значений переменных. Последовательное ПР зависит от выбора критерия расщепления. ПП Data Mining: CHAID, CART, ID3, See5, IDIS, S1PINA, Clementine
9 Алгоритм вычисления оценок (ABO) Выявление сходства\различия с образцом по "большинству голосов" Эталонные объекты; параметры в виде порогов и весов; настройка по обучающей выборке. Специальная грамматика, элементы, сигнатуры и отношения между ними. МСАД. ППОВ. ЗОМ. Расширение к- БС. ПП Data Mining
1 ¡
s; §
-с
s; §
s;
3
§
о*
a §
ГЪ H S
s; §
о a
3 §
a
a
-Si
s; s;
Окончание
1 2 3 4 5
10 Сравнения с прототипом (СП) Выявление сходства\различия с образцом по "большинству голосов" Специальная грамматика, элементы, сигнатуры и отношения между ними. МСАД. ЗОМ ПП Data Mining
11 Экспертные системы (ЭС) МСАД; TP; ДР; к-БС; ABO; СП; НС; МГУА - эвристический отбор и иерархический (последовательный итеративный) синтез членов полинома Колмогорова-Габора (ПКГ) до достижения экстремума критерия качества ДЭС. Структурированная БЗ. Процедуры ПР, обобщений и аргументации; СУБД МОЭВМЗ. Проверочные выборки, выбираемые эвристически для ПКГ на каждой итерации МАД в условиях неопределённости (статистической, последействия выбора, процесса ПР). ПП Data Mining, Nebro Shell, НС TMNN
12 Нейронные сети (НС) y = fjF(wi,x,) = F(w,X) ¿—i WTA - Winner Take All, МГУА. Двоичные гомогенные НС. Архитектура сети; характер и метод обучения; характер связей. Входной вектор Х=(х1, ...,хп)т. Весовой вектор \¥=(\У1.. уу„). Оператор преобразования ф-ция активизации. Существенный объем обучающей выборки. Шаг обучения а=(0-ь 1). Контролируемое конкурентное обучение Метод анализа данных (МАД) в условиях неопределённости (статистической, последействия выбора, процесса ПР). ПП: MATLAB 6, Mathcad 2001, Nebro Shell, Brain Maker, OWL и др. НС Кохена, Гроссберга, TMNN
05 ГЪ о
§
м н
•X.
s; -с
fü
О «
Si ГЪ
а «
s;
Kj
о ^
to
CF
•>4
Начало
Ввод информационных слов (ИСл) ИВОР
Выбор ИСл из БД того же класса ИВОР, что у входного
Определение решения по тт расстоянию
Определение решения по критерию тах среднего выигрыша /ияхЕя^Х,
Определение окончательного решения по критерию тах среднего выигрыша
таххаЖ;
Вывод полученного решения
Конец
Рис. 3. Блок-схема алгоритма ТР
При использовании метода &-ближайших соседей для распознавания образов решается сложная проблема выбора метрики для определения близости диагностируемых объектов. Эта проблема в условиях высокой размерности пространства признаков чрезвычайно обостряется вследствие достаточной трудоемкости данного метода, которая становится значимой даже для высокопроизводительных компьютеров. Поэтому здесь так же, как и в методе сравнения с прототипом (рис. 4), необходимо решать задачу анализа многомерной структуры экспериментальных данных для минимизации числа объектов, представляющих диагностические классы.
Принцип действия алгоритмов вычисления оценок (АВО) состоит в вычислении приоритета (оценок сходства), характеризующих "близость" распознаваемого и эталонных объектов по системе ансамблей признаков, представляющей собой систему подмножеств заданного множества признаков.
В отличие от всех ранее рассмотренных методов алгоритмы вычисления оценок принципиально по-новому оперируют описаниями объектов. Для этих алгоритмов объекты существуют одновременно в самых разных подпространствах пространства признаков. Класс АВО доводит идею использования признаков до логического конца: поскольку не всегда известно, какие сочетания признаков наиболее информативны, то в АВО степень сходства объектов вычисляется при сопоставлении всех возможных или определенных сочетаний признаков, входящих в описания объектов [8]. Используемые сочетания признаков (подпространства) называют опорными множествами или множествами частичных описаний объектов.
Здесь вводится понятие обобщенной близости между распознаваемым объектом и объектами обучающей выборки (с известной классификацией), которые называют эталонными объектами. Эта близость представляется комбинацией близостей распознаваемого объекта с эталонными объектами, вычисленных на множествах частичных описаний.
Таким образом, АВО является расширением метода ^-ближайших соседей, в котором близость объектов рассматривается только в одном заданном пространстве признаков.
Суть метода деревьев решений (ДР) состоит в разбиении задачи на ряд подзадач, а те, в свою очередь, на другие подзадачи, и так далее. В результате основная задача представляется в виде ДР. В части вершин ДР выбор осуществляется непосредственно ЛПР, в другой части - на основе субъективной вероятности свершения событий. ДР завершается исходами, каждому из которых приписывается определенная полезность.
Вероятность каждого исхода подсчитывается как произведение субъективных вероятностей на пути, идущем от вершины ДР. Путем "сворачивания" ДР от конца к началу выбирается исход с наибольшей субъек-
тивной ожидаемой полезностью. Метод ДР позволяет ЛПР, определить оптимальную последовательность действий (стратегию) с учетом личных оценок и предпочтений. Выбранная стратегия будет "лучшей" на данный момент из тех многих, которые имеются в распоряжении.
В основу метода группового учета аргументов (МГУА) положен принцип самоорганизации. В алгоритмах МГУА особым образом синтезируются и отбираются члены обобщенного полинома, называемого полиномом Колмогорова-Габора. Этот синтез и отбор производится с нарастающим усложнением, и заранее нельзя предугадать, какой окончательный вид будет иметь обобщенный полином. Сначала обычно рассматривают простые по парные комбинации исходных признаков, из которых составляются уравнения решающих функций, как правило, не выше второго порядка. Каждое уравнение анализируется как самостоятельная решающая функция, и по обучающей выборке тем или иным способом находятся значения параметров составленных уравнений. Затем из полученного набора решающих функций отбирается часть в некотором смысле лучших. Проверка качества отдельных решающих функций осуществляется на контрольной (проверочной) выборке, что иногда называют принципом внешнего дополнения. Отобранные частные решающие функции рассматриваются далее как промежуточные переменные, служащие исходными аргументами для аналогичного синтеза новых решающих функций и т. д.
Процесс такого иерархического синтеза продолжается до тех пор, пока не будет достигнут экстремум критерия качества решающей функции, что на практике проявляется в ухудшении этого качества при попытках дальнейшего увеличения порядка членов полинома относительно исходных признаков.
Проведенный анализ ПР: КСМ, МСАД и МАД позволил выбрать приемлемые методы для решения рассматриваемой проблемы, исходя из структурных особенностей предлагаемого подхода [4,5] (табл. 1, граф. «Наимен.метода», выделенные шрифтом методы).
В качестве одного из разработанных методов ПР предложено смешанное применении двух МСАД: ДР, ТР и критерия Гурвица (ДТРГ). Здесь необходимо обратить внимание, что исходные анализируемые данные представляются в виде стандартизированного информационного ВС объекта, размерностью 64 разряда. Когда количество составляющих векторов много меньше общего числа объектов, то решение принимается по методу ДР, в противном случае решение принимается по методу ТР. При наличия весовых коэффициентов (приоритетов) объектов/ИВОР ПР основываются на критерии Гурвица. Согласно Гурвица выбирается такая стратегия, которая занимает некоторое промежуточное положение между крайним пессимизмом и оптимизмом:
E = max j
р min ej + (l - p) max ej
i i
где p - коэффициент пессимизма, выбираемый в интервале [0,1]; ej - элемент матрицы решений.
Рис. 4. Блок-схема алгоритма СП
308
При р = 1 критерий Гурвица превращается в критерий Вальда (пессимиста), а при р = 0 - в критерий азартного игрока. В технических приложениях правильно выбрать этот множитель бывает так же трудно, как и правильно выбрать критерий. Поэтому чаще всего весовой множитель р = 0,5 принимается в качестве средней точки зрения.
Общая блок-схема алгоритма структурирования данных ДТРГ представлена на рис. 5.
К преимуществам такого подхода к анализу данных при ПР относятся:
возможность ПР по части ВС, т.е. при неполной входной информации;
возможность учитывать динамику событий, описывающих входным ВС наиболее информационно важных объектов, по которых принимаются решения.
Информационная подсистема ПППР, на ряду с динамической экспертной системой (ДЭС) и эмулятором нейросети (ЭНС), входит в состав комплексной ИНС [4] и является неотъемлемой составляющей программно-аппаратного комплекса обработки видеоданных. ДЭС выполняет функции анализа на основе ВС наиболее важных объектов распознавания в режиме реального времени.
Источником информации для ПР служат данные, получаемые при многоспектральной обработке видеоизображения программными приложениями, созданными в проектной среде Hyperception ImageDSP. В качестве современных хранилищ данных выступают БД, имеющие такие динамические показатели как возможности наращения и подтипизации.
Архитектура БД выбирается из условия обеспечения процессов дешифрирования, анализа разноспектральных и гиперспектральных данных изображений и повышения их эффективности [3].
Формирование БД выполняется поэтапно. На первом этапе прове-дится анализ предметной области, в ходе которого определяются типы объектов (площадные, линейные и точечные) и их свойства, являющиеся наиболее существенными для ПР.
В ходе второго этапа осуществляется формализация предметной области в соответствии с требованиями выбранной реляционной модели, которая для удобства проектирования представляется семантической схемой «сущность-связь».
Для описания структуры БД могут быть использованы автоматизированные средства проектирования ИС CASE- систем (ПО Allfusion Erwin Data Modeler). Эти средства позволяют сгенерировать отношения и сценарий создания БД, что в значительной мере упростило задачу в плане её реализации и сократило время разработки.
Рис. 5. Блок-схема смешанного алгоритма ДТРГ ПР
В ходе формализации БД может оказаться, что реальные объекты, отражениями которых являются сущности модели, обладают рядом одинаковых свойств: положение относительно выбранной системы координат, приоритет и состояние, в котором объект находится. Однако, так же может быть выявлено, что существуют и взаимоисключающие характеристики, уникальные для каждого типа объектов, например, атрибут «запас хода», отражающий расстояние, которое преодолевает подвижное техническое средство, бессмыслен для сооружений. Для исключения подобных проти-
воречий, а так же для возможности наращения БД, должна быть определена сущность верхнего уровня - супертип, содержащая общие для всех объектов атрибуты. При этом характеристики, имеющие смысл только для определенных типов, объединяются в подтипы. Благодаря такому подходу возможно добавление в БД новых типов объектов и детализация свойств уже существующих. На данном этапе для формирования записей БД используется стандартизованный входной ВС, имеющий ограниченную разрядность, а значит, и определенное количество описываемых свойств, но в дальнейшем возможно использование других источников входной информации.
Список литературы
1. Симанков В.С., Луценко Е.В. Адаптивное управление сложными системами на основе теории распознавания образов. Краснодар: Техн. ун-т Кубан. гос. технол. ун-та, 1999. 318 с.
2. Bay H., Ess A., Tuytelaars T. SURF: Speeded Up Robust Features // Computer Vision and Image Understanding (CVIU). Vol. 110. No. 3, 2008. P. 346 - 359.
3. Калинина Н.Д., Куров А.В. Анализ методов распознавания и поиска образов на космических снимках // Вестник МГТУ им. Н.Э. Баумана. Сер. Приборостроение. 2012. С. 174 - 188.
4. Загоруйко Н.Г. Прикладные методы анализа данных и знаний. Новосибирск: ИМ СО РАН, 1999. 270 с.
5. Фу К. Структурные методы распознавания образов / пер. с англ. М.: Мир, 1977. 318 с.
6. Миркин Б.Г. Методы кластер-анализа для поддержки принятия решений: обзор: препринт WP7/2011/03. М.: Изд. Дом Национального исследовательского университета «Высшая школа экономики», 2011. 88 с.
7. Мандель И. Д. Кластерный анализ. М.: Финансы и статистика,
1988.
8. Горелик А.Л., Скрипкин В.А. Методы распознавания. 2-е изд. М.: Высш. шк., 1984. 219 с.
Акиншин Николай Степанович, д-р техн. наук, проф., нач. отдела, nakinshin@,yandex.ru, Россия, Тула, Центральное конструкторское бюро аппарато-строения,
Андреев Андрей Владимирович, нач. отдела, sokol-atsainhox.ru, Россия, Белгород, ЗАО «Сокол АТС»
Старожук Евгений Андреевич, канд. экон. наук, доц., проректор по экономике и инновациям, ahiturienta hmstu.ru, Россия, Москва, Московский государственный университет им. Н.Э. Баумана
ANALYSIS METHODS OF OBJECTS RECOGNITION PROCESS AUTOMATION N.S. Akinshin, A. V. Andreev, E.A. Starozhuk
The methods of decision-making with the recognition of objects are considered. Their analysis and the field of possible applications are given. The generalized algorithm implementation methods are adduced.
Key words: decision support system, object recognition.
Akinshin Nikolay Stepanovich, doctor of technical sciences, professor, head of department, nakinshin@yandex. ru, Russia, Tula, Central Design Bureau of Apparato-stroyeniye,
Andreev Andrey Vladimirovich, head of department, sokol-atsainbox. ru, Russia, Belgorod, JSC "Sokol ATS",
Starozhuk Eugene Aleksandrovich, candidate of economic sciences, vice-rector for economy and innovation, abiturient@,bmstu. ru, Russia, Moscow, Moscow State University named after N.E. Bauman
