Научная статья на тему 'Приложение кластерного анализа к автоматическому распознаванию дефектов'

Приложение кластерного анализа к автоматическому распознаванию дефектов Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
339
54
i Надоели баннеры? Вы всегда можете отключить рекламу.

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Васильев И. Л., Сидоров Д. Н.

Рассмотрена задача автоматического распознавания и классификации дефектов, возникающая при разработке систем машинного зрения. Предложен подход к ее решению, в соответствии с которым на первом этапе осуществляется автономный процесс обучения системы, во время которого обучающие выборки анализируемых признаков дефектов разбиваются на кластеры, в которых находятся медианы. На втором этапе в режиме реального времени реализуется процесс инспектирования, при котором входящий образец классифицируется в соответствии с типом ближайшей медианы. Отмечено, что сравнительный анализ с другими методами показал эффективность предложенного подхода.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Васильев И. Л., Сидоров Д. Н.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

CLUSTER ANALYSIS APPLICATION TO AUTOMATIC FLAW DETECTION

The problem of automatic detection and categorization of flaws that arises in machine vision system development is discussed. A method of its solution is proposed. At the first stage, an autonomous process of system learning is performed where the learning samples of the analyzed flaw symptoms are split into clusters with medians. At the second stage, the real-time inspection process is performed where each incoming pattern is categorized according to the nearest median type. The paper notes that the comparative analysis against other techniques showed the effectiveness of the method proposed.

Текст научной работы на тему «Приложение кластерного анализа к автоматическому распознаванию дефектов»

УДК 519.68:681.513.7:519.854.2

ПРИЛОЖЕНИЕ КЛАСТЕРНОГО АНАЛИЗА К АВТОМАТИЧЕСКОМУ РАСПОЗНАВАНИЮ ДЕФЕКТОВ1

И.Л. Васильев(1), Д.Н. Сидоров(2)

(1)Институт динамики систем и теории управления СО РАН, г. Иркутск; (2)Институт систем энергетики СО РАН, г. Иркутск

Рассмотрена задача автоматического распознавания и классификации дефектов, возникающая при разработке систем машинного зрения. Предложен подход к ее решению, в соответствии с которым на первом этапе осуществляется автономный процесс обучения системы, во время которого обучающие выборки анализируемых признаков дефектов разбиваются на кластеры, в которых находятся медианы. На втором этапе в режиме реального времени реализуется процесс инспектирования, при котором входящий образец классифицируется в соответствии с типом ближайшей медианы. Отмечено, что сравнительный анализ с другими методами показал эффективность предложенного подхода.

ВВЕДЕНИЕ

Важную роль в производственных системах машинного зрения, применяемых для контроля качества выпускаемой продукции, играют автоматические распознавание и классификация объектов. Современные аппаратные средства позволяют с высокой скоростью получать и хранить изображения с высоким разрешением. В связи с этим актуальна задача разработки быстрых и эффективных методов обработки изображений, основанных на визуальной схожести объектов. На их основе возможно создание автоматических систем распознавания дефектов на производственных линиях, работающих в режиме реального времени.

Как правило, процесс классификации изображений состоит из двух этапов. На первом этапе из изображения объекта выделяются его основные признаки и характеристики, т. е. осуществляется переход от реального образа в пространство признаков (дескрипторов). Существуют различные подходы, позволяющие описывать такие признаки

1 Исследование выполнено при финансовой поддержке РФФИ (проекты 05-01-00110 и 05-01-00336) и НАТО (проекты RIG981258 и RIG98127).

изображений, как текстура, форма, контур и цвет

[1]. В отличие от реальных изображений, данные признаки представляют собой числовые векторы и поэтому достаточно просто их сравнивать. На втором этапе происходит непосредственно классификация объектов в соответствии с их признаками. Человеческий мозг отлично справляется с задачами классификации изображений даже в условиях больших помех и отсутствия существенных признаков. Однако искусственные классификаторы все еще далеки от совершенства.

В данной статье рассматривается практическая производственная задача распознавания и классификации образов, которая возникает в системе автоматического распознавания дефектов (АРД), работающей в режиме реального времени при изготовлении полупроводниковых микросхем.

Система АРД должна находить дефект на изображении объекта и определять: является ли данный дефект браком в производстве (например, царапина, трещина или наплыв), или же это всего лишь так называемый «оверкилл» — посторонний предмет, не влияющий на качество продукции (например, волос, волокно или пыль). Таким образом, система АРД должна классифицировать входящий образец как «брак» или «оверкилл». Од-

но из главных требований систем реального времени — достаточное быстродействие. Поэтому только недорогие в вычислительном плане алгоритмы могут быть использованы при извлечении признаков изображений и их классификации. Примеры систем АРД можно найти в энергетике (инспектирование трубопроводных систем [2]), целлюлозно-бумажном производстве [3], деревоперерабатывающей промышленности [4] и др.

Проведенные эксперименты показали, что методы, хорошо зарекомендовавшие себя в задачах классификации, такие как метод нейронных сетей [5] и метод SVM (Support Vector Machine) [6], не подходят для рассматриваемого случая. При анализе ряда пространств признаков изображений было замечено, что в общем случае образцы брака и оверкиллов не могут быть разделены на два подпространства. Тем не менее, они концентрируются в нескольких слабо пересекающихся областях. В связи с этим возникла идея применения кластерного анализа при классификации. Задача кластерного анализа заключается в разбиении исходного множества объектов на заданное число подмножеств схожих объектов (кластеров), и затем выбирается наиболее «типичный» представитель (медиана) из каждого кластера. Предлагается следующий подход, состоящий из двух основных этапов: 1) автономный этап обучения, 2) этап классификации, выполняемый в режиме реального времени. На первом этапе обучающие выборки брака и оверкиллов разбиваются на кластеры. На втором этапе входящий образец классифицируется в соответствии с типом ближайшей медианы.

Задача кластерного анализа может быть сформулирована в виде хорошо известной задачи комбинаторной оптимизации — задачи о p-медиане [7]. Рассмотрим граф, в котором каждой вершине сопоставлено изображение объекта. Расстояние между вершинами графа (вес дуг) определяется схожестью соответствующих изображений. Под схожестью изображений понимается расстояние между векторами признаков изображений, вычисленных по определенной метрике в пространстве признаков. Таким образом, чтобы разбить исходное множество на определенное число кластеров (скажем, p), необходимо найти p медианных вершин графа, минимизирующих сумму весов дуг до остальных вершин.

Известно, что задача о p-медиане является NP-трудной [7]. Обширный обзор литературы по этой задаче можно найти в работе [8], а также в работах [9, 10]. Отдельно отметим последние работы, касающиеся решения задачи о p-медиане большой размерности: VNS (Variable Neighborhood Search)

[11], GRASP эвристики [10], метод ветвей, отсечений и оценок [9].

Для решения задачи кластеризации в настоящей работе используется подход, предложенный в работе [9] с ограничением по времени счета. В результате численного эксперимента на данных производства полупроводниковых микросхем были получены решения, уменьшающие ошибки классификации 8УМ и нейронных сетей на 10—20 %.

1. СИСТЕМА АВТОМАТИЧЕСКОГО РАСПОЗНАВАНИЯ ДЕФЕКТОВ

Структура системы АРД представлена на рис. 1. Объект снимается цифровой камерой высокого разрешения, и изображения передаются программному блоку «сегментатор». В нем в изображении выделяются сегменты, отличающиеся от «идеального» изображения, т. е. от изображения объекта без дефектов. Далее, из каждого сегмента извлекаются их числовые признаки, которые передаются в блок «классификатор». Описание процесса сегментации и извлечения признаков дано в § 2.

Основным компонентом классификатора является так называемая функция классификации. Остановимся на ее описании более подробно.

Пусть дано т признаков изображений X раз-

п •

мерности п, т. е. X е Я 1, i = 1, ..., т. Функция

Ит п

классификации/(•): Я г =1 г — {—1,1} определяется следующим образом:

/(X) = /(х1, ..., Л =

-1, если х соответствует оверкиллу,

1, если х соответствует браку.

На практике для построения функции классификации широко используются метод SVM [6] и нейронные сети [5]. Процессу классификации предшествует процесс обучения, в ходе которого на обучающей выборке подбираются параметры функции.

При классификации методами SVM и нейронными сетями пространство признаков в некото-

Цифровые

Сегментатор признаки^ Классификатор

і і

Изображение

Цифровая

камера

Рис. 1. Структура системы АРД

Рис. 2. Характерный пример пространства признаков:

х — оверкиллы; — брак

Рис. 3. Схема обучения

ром смысле делится на два подпространства, что в рассматриваемом случае сделать невозможно. Проиллюстрируем это на примере двух проекций данных на плоскость одного из признаков (рис. 2). Видно, что точки брака и оверкиллов не разделяются. Тем не менее, можно заметить, что точки разного типа группируются в несколько кластеров.

Поэтому предлагается построение функции классификации на основе кластерного анализа. Степень схожести между изображениями определяется как взвешенная сумма расстояний (в определенной метрике) между соответствующими признаками, т. е.

где с — заданные веса признаков. Рассматривались метрики Ь1 (Манхеттен) и Ь2 (Евклида). Схема процесса обучения представлена на рис. 3. Обучение производится на обучающей выборке оверкиллов 01 и брака Dl. В данных выборках соответственно выбираются ро и рй медиан (подробности алгоритма кластеризации см. в § 3).

Обозначим их множества через Ро и Рй, соответственно. Входящий образец классифицируется в соответствии с типом ближайшей к нему медианы:

/(x)

-1, если min d(x, y) < min d(x, y), y e Po y e Pd

1, в противном случае.

d(x, y)

X СIX - УІІ, І = 1

Таким образом, процесс обучения заключается в выборе метрики при подсчете расстояния между признаками изображений, подборе весов

с = (с1, ..., ст)т и выборе числа медиан ро и ра. Качество подобранных параметров определяется по числу ошибок классификации на тестирующих выборках оверкиллов 0^ и брака Dt. Процесс обучения может производиться автономно и не имеет жестких временных ограничений. Поэтому в процессе обучения выбирались лучшие по критерию качества параметры путем полного перебора из дискретных ограниченных множеств параметров. Детали практических экспериментов описываются в § 4.

2. ПРОСТРАНСТВА ПРИЗНАКОВ

Пространства признаков (дескрипторов) формируются на этапе, следующем за выделением (сегментацией) дефекта из исходного изображения продукта. При выборе признаков возникают два основных подхода к описанию выявленной области изображения: по характеру границы и по структуре расположения элементов изображения внутри области. Отметим, что при построении дескрипторов дефектов необходимо учитывать их инвариантность к перемещению по полю изображения (сдвиг, поворот), а также в некоторых случаях масштаб.

2.1. Дескрипторы границ

Существует ряд методов, позволяющих компактно представлять контуры областей, подробный обзор которых представлен в работах [1, 12]. Простейшие геометрические признаки контуров, такие как периметр, кривизна, площадь и др., широко используются в практических приложениях. В данной работе использовались следующие признаки для описания контуров.

m

• Нормализированный цепной код. Компактный дескриптор контуров, основанный на цепном коде Фримена [1, 13] был предложен в середине прошлого века и получил широкое распространение в силу вычислительной простоты и инвариантности относительно поворота и сдвига. Суть метода заключается в линейном приближении контура последовательностью соединенных отрезков, для которых указана длина и направление. В качестве дескриптора использовалась нормализованная функция распределения направлений этих отрезков. В настоящей работе также использовался более компактный дифференциальный цепной код [13], в котором кодируются не длины, а только изменения направлений.

• Приближение кривой контура рядами Фурье [1].

• Инвариантные моменты. Данный признак основан на теореме, гарантирующей возможность описания кусочно-непрерывной функции последовательностью ее моментов [14]. В качестве признака, обладающего свойством инвариантности относительно сдвига, поворота и изменения масштаба, был выбран набор из семи моментов, представляющих собой специальную комбинацию моментов второго и третьего порядков [15].

2.2. Текстурные дескрипторы

Для описания внутренних элементов изображений использовались следующие дескрипторы.

• Нормализованная гистограмма изображения, которая подсчитывается по всем элементам изображения, включая границу [13].

• Дескрипторы Харлика. Отметим, что гистограмма не несет никакой информации о взаимном расположении элементов изображения. Один из способов учета подобной информации заключается в построении матриц совместного распределения яркостей и вычислении по ним текстурных характеристик, таких как контраст, энергия, энтропия, однородность, максимум вероятности и обратный момент разности. Такие дескрипторы известны как статистические дескрипторы Харлика [1, 2]. Практическое использование дескрипторов Хар-лика состоит в обучении на выборке из различных текстур, состоящем в выборе способа построения матрицы совместного распределения яркостей. Для анализа текстуры изображений используются также признаки Габора [1, 16], основанные на неортогональном вейвлет-преобразовании, но их вычисление требует значительных временных затрат и, следовательно, не подходит для работы в режиме реального времени.

• Признак совокупной направленности текстуры. Такой признак, основанный на внешнем восприятии текстуры изображения, был впервые предложен в работе [17]. На первом этапе распознаются

перепады (границы) в анализируемой области и для каждого элемента изображения подсчитывается угол и значение перепада. Далее составляется функция распределения вероятностей перепадов (гистограмма), характеризующая все значения перепадов, превышающие определенное пороговое значение, и квантованная по значениям углов вычисленных перепадов. В итоге, острота всплесков такой функции, подсчитанная по их вторым моментам, была использована в качестве признака совокупной направленности.

Отметим, что задача построения эффективных дескрипторов методически близка к задаче сжатия информации, так как ставит целью компактное представление тех или иных признаков. Различные ортогональные преобразования (Фурье, косинус, Хаара, вейвлет) использовались для поиска признаков в задачах обработки сигналов и изображений (см. например, работы [13, 18] и др). Однако в случае построения эффективных систем АРД необходимо также учитывать специфику тех или иных дефектов. Поэтому ключевым моментом является автоматизация выбора пространства признаков по обучающей и тестирующей выборкам.

3. ЗАДАЧА КЛАСТЕРИЗАЦИИ

Один из подходов к решению задачи кластерного анализа состоит в использовании моделей дискретной оптимизации [19—24]. На практике данный подход мало распространен, так как его применение относительно сложно с вычислительной точки зрения. Действительно, задача о р-ме-диане, как уже отмечалось, относится к классу ЛР-трудных задач, т. е. сложность задачи растет экспоненциально относительно ее размерности. Тем не менее, современный уровень развития теории методов дискретной оптимизации и вычислительной техники позволяет успешно решать эту задачу достаточно большой размерности [9—11].

Рассмотрим задачу кластерного анализа в терминах комбинаторной оптимизации. Пусть множества объектов V = {1, ..., п} — суть признаки изображений и расстояния между ними, как определено в § 1. Рассмотрим полный, взвешенный ориентированный граф G(V, А), где V — множество вершин графа, А = {иу : и е V, V е V, и ^ V} — множество дуг графа и wцг, = й(и, у) — веса дуг (расстояние между объектами). Введем бинарные переменные уи (хил), которые будут соответствовать вершинам и е V(дугам иу е А). Переменная уиравна 1, если вершина и является медианой. Переменная хт равна 1, если вершина V относится к кластеру, определяемому медианой и. В этих обозначениях задача о р-медиане может быть сформу-

Рис. 4. Допустимая точка

лирована как задача целочисленного программирования:

І ^ XV ^ тіп , (1)

ыу є А (х, у)

І xUv + Уv = 1, є V, (2)

ы є V, ы ф у

хиу < уи, Уыу є А, и є V (3)

І л=р (4)

ы є V

Уи є {0, 1}, є V, (5)

хт є {0, 1}, Уыу є А (6)

Ограничения (2) гарантируют, что каждая вершина V является либо медианой, либо имеет одну входящую дугу из медианной вершины. Неравенства (3) исключают существование выходящих дуг из немедианных вершин. Число медиан определяется уравнением (4).

Допустимая точка задачи на графе представляет из себя р «звезд», вершины которых образуют кластеры с медианами посредине, как проиллюстрировано на рис. 4. Для решения задачи применялся подход, основанный на алгоритме ветвей, отсечений и оценок, детально описанный в работе [9]. Данный подход хорошо зарекомендовал себя при решении задач о р-медиане большой размерности. В этой статье отметим только основные компоненты этого подхода (общая теория и методы дискретной оптимизации может быть найдена в книге [25]).

• Лагранжевая эвристика. Данный метод позволяет находить как нижние, так и верхние оценки целевой функции. Кроме того, информация из этого алгоритма использовалась при оценивании переменных на следующем этапе.

• Методы генерации столбцов и строк для решения задачи линейного программирования (ЛП), полученной из (1)—(6) путем ослабления условий

целочисленности. Данный метод позволяет рассматривать большинство переменных хиу и ограничений (3) в неявном виде, тем самым значительно уменьшая объем используемой памяти и ускоряя работу алгоритмов решения ЛП задач.

• Метод отсечений. В ходе генерации столбцов и строк также ведется поиск специальных ограничений, не входящих в формулировку задачи (1)—(6), которые позволяют улучшить нижние оценки метода ветвей и границ.

• Метод ветвей и границ — хорошо известный метод неявного перебора, который широко применяется для решения задач дискретной оптимизации.

Результаты, представленные в работе [9], показывают, что данный подход позволяет на ранних этапах вычисления находить хорошие решения. Поэтому в настоящей работе было установлено ограничение в 30 с при решении одной задачи кластеризации. Численный эксперимент показал, что в рассматриваемых задачах при таком временном ограничении относительная погрешность решения не превосходит 1 %, что вполне допустимо.

4. ЧИСЛЕННЫЙ ЭКСПЕРИМЕНТ

Предложенный подход к классификации для системы АРД был протестирован на примере производства полупроводниковых микросхем. Была рассмотрена база данных, состоящая из 1194 изображений дефектов. Примеры брака и оверкилла представлены на рис. 5. База данных была случайным образом разбита на обучающую и тестирующую выборки, как представлено в табл. 1. Из каждого изображения было извлечено 6 признаков (нормализованные цепочки кодов, коэффициенты Фурье, нормализованная гистограмма, признаки по матрице смежности, моменты и признак направленности).

Рис. 5. Примеры оверкиллов и брака на печатной плате:

а — посторонние частицы (нить и пыль); б — критический брак (царапина)

Таблица 1

База данных изображений

Число изображений в выборке Брака Оверкиллов

обучающей 257 322

тестирующей 269 346

Всего 526 668

Таблица 2

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Ошибка классификации

Ро Ра Ошибка, % Ро Ра Ошибка, %

16 11 26,5 11 10

9 26,8 12 9

13 11 27,0 10

16 10 27,2 13 7 28,3

13 9 27,3 14 10

20 11 27,5 17 9

11 27,6 20

13 10 15 10 28,5

12 17

14 11 13 8

15 27,8

17 16 12 28,6

20 9 13

14 20

17 12 28,0 14 7 28,8

13 12

13 12 15 12 28.9

15 9 28,1 17 7

17 14 19 13

11 9 28,3 13 6 29,1

На первом этапе экспериментов при обучении рассматривались все возможные варианты параметров из множеств, определенных следующим образом:

— метрики Ьх и Ь2;

— веса е1 = 0, 1, 2, исключая из рассмотрения эквивалентные векторы весов (т. е. пропорциональные векторы);

— число медиан ро и ра от 5 до 20 с шагом 5.

Результаты вычислений показали, что дефекты наилучшим образом характеризуются контуром и наиболее адекватным признаком является нормализованный цепной код. Данное заключение также подтверждается мнением экспертов в данной области. Использование различных метрик не выявило существенной разницы в результатах. Только в некоторых случаях евклидова метрика показала незначительно лучшие результаты. С учетом этих замечаний, на втором этапе рассматривались только цепной код, евклидова норма, значения ро и ра изменялись от 5 до 20 с шагом 1. Лучшие результаты вычислений представлены в табл. 2.

Предложенный подход сравнивался с результатами классификации, полученными методом SVM (табл. 3). Были использованы программные пакеты SVM-Lite [26] и LIBSVM [27]. Основным компонентом в методе SVM является кернфункция, с помощью которой определяется вид разделяющей области. Самые распространенные кернфункции:

• линейная — с линейным ядром К(х, у) = х * у.

• полином К(х, у) = (х * у + е)а.

• радиальный базис К(х, у) = ехр(—у||х — у||2).

• сигмоид — с нейронным ядром К(х, у) = = Ш(ах * у + Ь),

где «звездочка» означает скалярное произведение.

Другие пакеты, реализующие метод SVM [6] и нейронные сети [5], не улучшают полученные ошибки классификации. Таким образом, применяя кластерный анализ для решения задачи классификации промышленных дефектов, нам удалось снизить ошибку классификации с 37,4 до 26,5 % по сравнению с методом SVM.

Таблица 3

Ошибки классификации методом SVM, %

Кернфункция SVM SVM-Lite LIBSVM

Линейная 38,2 38,1

Полином степени 2 38,1

" " 3 37,6 43,7

Радиальный базис 37,4

Сигмоид 44,3

ЗАКЛЮЧЕНИЕ

В данной работе предложена новая методика классификации образов при идентификации промышленного брака. Численные результаты на практических данных показали ее эффективность, обусловленную учетом неоднородности распределения пространства признаков благодаря построению функции классификации на основе кластерного анализа и автоматическим выбором опти-

мальных параметров функции классификации из широкой области их допустимых значений.

Однако выбор параметров функции классификации осуществляется простым перебором из большой области значений, что требует значительных временных затрат. Для уменьшения времени счета целесообразно исследовать возможность применения методов искусственного интеллекта для поиска оптимальных параметров и распараллеливания алгоритма. Отметим, что на практике важна не только классификация на два множества (брак и оверкилл), но и более детальная классификация каждого из этих множеств для анализа производственного процесса. Например, знание преобладающих видов брака и оверкиллов может помочь в поиске и устранении причин, способствующих их возникновению.

Авторы благодарят компанию «Microview Technologies Ltd.» (Сингапур) за любезно предоставленные экспериментальные материалы, профессоров Pasquale Avella и Jean-Francois Lerallut за полезные дискуссии и критические замечания.

ЛИТЕРАТУРА

1. Гонзалес Р., Вудс Р. Цифровая обработка сигналов. — М: Техносфера, 2005. — 1072 с.

2. Mery D, Berti M.A. Automatic detection of welding defects using texture features // CTIP2003 Proceedings. — Berlin, 2003. — P. 676—681.

3. Kunttu I., Lepisto L., Visa A. Efficient Fourier shape descriptor for industrial defect images using wavelets // SPIE Optical Engineering Letters. — 2005. — Vol. 44. — P. 345—351.

4. Niskanen M, Silven O, Kauppinen H. Wood inspection with non-supervised clustering // Machine Vision and Applications Journal. — 2003. — Vol. 13. — P. 275—285.

5. Хайкин C. Нейронные сети: полный курс. — M: Изд. дом «Вильямс», 2006.

6. Scholkopf B., Burges C.J.C., Smola A.J. Advances in Kernel Methods. Support Vector Learning. — The MIT Press, 1999.

7. Kariv O, Hakimi L. An algorithmic approach to network location problems. ii: the p-medians // Operations Research. — 1979. — Vol. 37. — P. 539—560.

8. Mladenovic N, Brimberg J, Hansen P., Perez J. p-median problem: A survey of metaheuristic approaches // European Journal of Operations Research. — 2007. — Vol. 179. — P. 927—939.

9. Avella P., Sassano A, Vasil’ev I. Computational study of large-scale p-median problems // Mathematical Programming. — 2006. In press, available online.

10. Resende M.G.C., Werneck R.F.F. A hybrid heuristic for the p-median problem // Journal of Heuristics. — 2004. — Vol. 10. — P. 59—88.

11. Hansen P., Mladenovic N, Perez-Brito D. Variable neighbourhood decomposition search // Journal of Heuristics. — 2001. — Vol. 7. — P. 335—350.

12. Marshall S. Review of shape coding techniques // Image and Vision Computing. — 1989. — Vol. 7. — P. 281—294.

13. Павлидис Т. Алгоритмы машинной графики и обработки изображений. — M.: Радио и связь, 1986.

14. Papoulis A. Characteristic Functions. — N.-Y.: McGraw-Hill, 1991. — P. 153—162.

15. Hu M. Visual pattern recognition by moment invariants // IRE Trans. Information Theory. — 1962. — Vol. 8. — P. 179—187.

16. Ohanian P., Dubes R. Performance evaluation for four classes of textural features // Pattern Recognition. — 1992. — Vol. 25. — P. 819—833.

17. Tamura H., Mori S., Yamawaki T. Texture features corresponding to visual perception // IEEE Transactions on Systems, Man and Cybernetics. — 1978. — Vol. 8. — P. 460—472.

18. Sidorov D.N., Lerallut J.-F, Cocquerez J.-P, Azpiroz J. Robust retrieval from compressed medical image archives // Proc. of SPIE: Medical Imaging 2005. — San Jose, 2005. — Vol. 5748. — P. 419—426.

19. Bradley P.S., Mangasarian O.L. Feature selection via concave minimization and support vector machines // Proc. of the Fifteenth Intern. Conf. on Machine Learning (ICML’98). San Francisco, California, — 1998. — P. 82—90.

20. Fung G, Mangasarian O.L. Semi-supervised support vector machines for unlabeled data classification // Optimization Methods and Software. — 2000. — Vol. 1. — P. 29—44.

21. Hansen P., Jaumard B. Cluster analysis and mathematical programming // Mathematical Programming. — 1997. — Vol. 79. — P. 191—215.

22. Mulvey J.M, Crowder H.P. Cluster analysis: an application of Lagrangian relaxation // Management Science. — 1979. — P. 329—340.

23. Vinod H.D. Integer programming and the theory of groups // Journal of the American Statistical Association. — 1969. — Vol. 6. — P. 506—519.

24. Rao M.R. Cluster analysis and mathematical programming // Ibid. — 1971. — Vol. 6. — P. 622—626.

25. Nemhauser G.L., Wolsey L.A. Integer and Combinatorial Optimization. — N.-Y.: Willey, — 1988.

26. Joachims T. Making large-scale SVM learning practical. — The MITPress, 1999.

27. Chang C.-C, Lin C.-J. LIBSVM: a library for support vector machines. Department of Computer Science and Information Engineering. — National Taiwan University Publ., — 2001.

8 +7-395-251-13-98, +7-395-242-84-40;

е-mail: [email protected], [email protected]

Статья представлена к публикации членом редколлегии

С.Н. Васильевым. □

Ж

Читайте в следующем номере статью В.В. Баранова и В.В. Матросова «Модели полезности и риска в задачах управления деградирующими системами», в которой строятся модель полезности, определяющая априорные предпочтения на альтернативах управления, и модель риска при выборе альтернатив диагностики ситуаций, ориентированные на применения в задачах управления деградирующими системами.

i Надоели баннеры? Вы всегда можете отключить рекламу.