CC BY
0
ИНФОРМАТИКА, ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА И УПРАВЛЕНИЕ
COMPUTER SCIENCE, COMPUTER ENGINEERING AND CONTROL
УДК 004.023
doi: 10.21685/2072-3059-2024-3-1
Метод классификации объектов с гетерогенным набором информационных признаков, основанный на генерации графо-хроматических карт
А. С. Бождай1, Л. Н. Горшенин2
1,2Пензенский государственный университет, Пенза, Россия [email protected], [email protected]
Аннотация. Актуальность и цели. В современном мире непрерывно обрабатываются большие объемы данных. Один из видов обработки данных - классификация. Задача классификации часто осложняется необходимостью классифицировать объекты с гетерогенным набором признаков. Одним из основных путей решения таких задач является приведение разнородных признаков объекта к одному универсальному типу. В данной работе изложен собственный оригинальный подход к решению таких задач. Материалы и методы. Предлагаемый метод основан на приведении объектов к универсальному растровому представлению графо-хроматических карт и имеет ряд особенностей, выгодно отличающих его от аналогичных методов. Рассмотрена возможность использования уже существующих сверточных нейронных сетей в качестве классификатора создаваемых графо-хроматических карт. Результаты и выводы. Разработана структурная схема системы классификации объектов предложенным методом и описаны ее составные элементы. Предложен алгоритм генерации графо-хроматической карты. Сделаны выводы о потенциальных возможностях и преимуществах предложенного подхода.
Ключевые слова: классификация, методы классификации, гетерогенные данные, машинное обучение, нейронные сети, графо-хроматическая карта Для цитирования: Бождай А. С., Горшенин Л. Н. Метод классификации объектов с гетерогенным набором информационных признаков, основанный на генерации графо-хроматических карт // Известия высших учебных заведений. Поволжский регион. Технические науки. 2024. № 3. С. 5-13. doi: 10.21685/2072-3059-2024-3-1
A method for classifying objects with a heterogeneous set of information features based on the generation of graph-chromatic maps
A.S. Bozhday1, L.N. Gorshenin2
© Бождай А. С., Горшенин Л. Н., 2024. Контент доступен по лицензии Creative Commons Attribution 4.0 License / This work is licensed under a Creative Commons Attribution 4.0 License.
1,2Penza State University, Penza, Russia [email protected], [email protected]
Abstract. Background. In the modern world, large volumes of data are continuously processed. One type of data processing is classification. A classification task is often complicated by the need to classify objects with a heterogeneous set of features. One of the main ways to solve such problems is to reduce heterogeneous features of an object to one type. This work outlines our own original approach to solving such problems. Materials and methods. The proposed method is based on transformation objects to a universal raster representation of grapho-chromatic maps, and has a number of features that distinguish it for the better from similar methods. The possibility of using already existing convolutional neural networks as a classifier of created grapho-chromatic maps is considered. Results and conclusions. A block diagram of a system for classifying objects using the proposed method has been developed. Each element of the system is described in detail. An algorithm for generating a grapho-chromatic map is proposed. Conclusions are drawn about the potential capabilities and advantages of the proposed approach.
Keywords: classification, methods of classification, heterogeneous data, machine learning, neural networks, graph-chromatic map
For citation: Bozhday A.S., Gorshenin L.N. A method for classifying objects with a heterogeneous set of information features based on the generation of graph-chromatic maps.
Izvestiya vysshikh uchebnykh zavedeniy. Povolzhskiy region. Tekhnicheskie nauki = University proceedings. Volga region. Engineering sciences. 2024;(3):5-13. (In Russ.). doi: 10.21685/2072-3059-2024-3-1
Введение
Сегодня в мире создаются и обрабатываются огромные объемы разнородных данных. При этом одним из самых распространенных способов обработки и анализа является классификация [1, 2].
В качестве примера рассмотрим задачу нейросетевой классификации пользователей социальной сети. Ее решение во многом будет зависеть от заданных целевых установок, связанных с формированием множества пользовательских признаков, их сравнительной значимостью, способами их измерения и т.п. Очевидно, что целевые установки могут постоянно меняться и поэтому необходимо обеспечить возможность гибкой настройки параметров классификации без переобучения нейронной сети. К тому же профиль пользователя может не иметь полного набора необходимых признаков, и поэтому должна быть предусмотрена возможность работы с объектами в условиях недостаточности данных. Задача усложняется еще и тем, что объект, представляющий пользователя, может обладать признаками различной природы: числовыми, категориальными, текстовыми, мультимедиа, функционально-поведенческими и др.
Существует ряд методов, позволяющих классифицировать объекты с гетерогенным набором информационных признаков: M3DN [3], Extended k-NN [4], методы, основанные на деревьях решений, Extended Naive Bayes [5], методы, основанные на нечеткой логике. Из перечисленного только классификатор M3DN, представляющий собой по сути набор объединенных нейросетей, может быть расширен для работы с признаками любого типа. Остальные методы способны обрабатывать только численные и категориальные признаки. При этом для классификации с возможностью задания важности отдельных признаков не подходит ни один из перечисленных методов.
Это делает актуальной разработку метода, способного решить подобного рода задачи без необходимости многократного (т.е. под разные наборы признаков) переобучения нейронного классификатора.
Одним из возможных методов решения поставленной задачи является приведение признаков к общему типу [4]. При этом желательно, чтобы приведение было обратимым и существенным образом не искажало пространство признаков объекта. В настоящей работе предлагается оригинальный подход, использующий приведение информации об объекте к унифицированному графическому виду с использованием растровых примитивов с управляемыми характеристиками.
Материалы и методы
Предлагаемый метод классификации в качестве универсального типа, к которому будут приводиться все другие типы признаков, использует растровое изображение (графо-хроматическую карту - ГХК) по аналогии с QR-кодами. Информация о свойствах объекта наносится (кодируется) на ГХК в виде управляемого множества графических примитивов, что позволяет учитывать сравнительный вес каждого признака в их общем наборе. При этом управляемость процесса кодирования обеспечивается за счет предварительного установления корреляции между весом (важностью) каждого признака и параметрами соответствующего ему графического кода: количеством графических элементов, их размером, цветом, формой, плотностью расположения, штриховкой, заливкой и т.д. В случае пропусков значений отдельных признаков (или их явной неадекватности) они просто не будут закодированы в ГХК, что существенным образом не повлияет на общий результат классификации. Это позволяет уменьшить требования к предобработке данных.
Приведение разнородных признаков объекта к графическому виду значительно упрощает процесс классификации в сложных предметных областях, поскольку задача сводится к хорошо изученному и унифицированному процессу нейросетевой классификации изображений. При этом в качестве классификатора, как правило, используются сверточные нейросети, которые хорошо справляются с анализом растровых изображений. На сегодня существует множество сверточных нейронных сетей с самой разной архитектурой: AlexNet [6], GoogleNet [6], ResNet50 [7], VGG16 [7], DenseNet [8]. Выбор одной из готовых архитектур потребует лишь единовременного дообучения нейросети на специальной обучающей выборке, составленной из множества ГХК, сгенерированных автоматическим образом.
Предлагаемый метод классификации включает в себя следующие этапы:
1. Формирование запроса к базе данных для выборки объектов, подлежащих классификации.
2. Настройка управляющих параметров, связанных с заданием набора признаков классификации и их весовых коэффициентов.
3. Предобработка данных (признаков) выбранных объектов (очистка, фильтрация, унификация числовых единиц измерения и масштабов измерительных шкал).
4. Формирование информационного вектора признаков.
5. Автоматическая генерация ГХК с учетом заданных управляющих параметров.
6. Преобразование растрового изображения ГКХ в одномерный входной вектор для нейросети.
7. Нейросетевая классификация ГКХ.
Результаты и обсуждение
С учетом перечисленных этапов на рис. 1 предлагается структурная схема системы классификации объектов, включающая 8 основных подсистем: блок выборки объектов, блок предобработки данных, блок подготовки вектора информационных признаков, блок генерации ГХК, блок классификации ГХК, блок обработки результатов, блок управления и настройки параметров, блок генерации обучающих выборок ГХК. Также у системы имеются графический и программный интерфейсы, через которые пользователь может управлять процессом классификации и оценивать полученные результаты. Кроме того, на схеме показаны хранилища для обучающего набора ГХК и для данных об объектах, подлежащих классификации.
Параметры генерации и классификации
Запрос
Запрос/ Результат
База данных предметной области
Объект предметной области
Блок предобработки данных
-1--
Подготовленный объект
Блок подготовки
признаков
—1— Вектор информационных признаков т
Блок генерации Банк обучающих
ГХК ГХК
ГХК ▼ А — Обучающие выборки
Блок Блок генерации обучающих выборок ГХК
классификации
Результат классификации
▲
Запрос
I
Блок обработки результатов
Обработанный результат Рис. 1. Структурная схема системы классификации
Взаимодействие пользователя с системой осуществляется через графический интерфейс. Интерфейс предусматривает две основные панели. С помощью первой пользователь может формировать запросы на выборку объектов,
управлять параметрами и весами признаков, получать результаты классификации. С помощью второй - управлять генерацией обучающей выборки ГХК.
Блок выборки объектов отвечает за формирование набора объектов, соответствующих критериям, описанным в запросе. Через соответствующий интерфейс API пользовательский запрос транслируется в SQL-представление на уровень системы управления базами данных с последующим возвратом требуемых данных на вход блока предобработки.
Блок предобработки данных отвечает за предварительную обработку данных об объектах [9]. Предобработка включает в себя устранение несоответствий формату и аномальных значений, нормализацию числовых значений (приведение их к одному масштабу). Также в этом блоке происходит извлечение метаданных из признаков, имеющих формат мультимедиа, и преобразование графовых признаков в матрицы весов. Обработанные объекты передаются блоку формирования вектора информационных признаков.
Блок формирования вектора информационных признаков преобразовывает данные об объекте в формат «понятный» блоку генерации ГХК, - вектор трехэлементных кортежей вида <идентификатор признака, тип признака, значение признака>. При этом признак может иметь массив данных определенного типа, тогда этот массив целиком записывается в значение признака. Вектор информационных признаков передается блоку генерации ГХК.
Блок генерации ГХК является одним из ключевых элементов системы и отвечает за создание графо-хроматической карты по вектору информационных признаков с учетом управляющих параметров, полученных с блока управления. От блока управления в виде числового вектора, содержащего значения от 0 до 255, передается информация о важности каждого признака в классификации. Если значение важности равно нулю - данный признак не наносится на ГХК и, следовательно, вообще не участвует в классификации. Сгенерированное растровое изображение передается в блок классификации.
Информация о признаке включает в себя пять составляющих: семантику признака, его тип, значение (-ия), количество значений, важность для классификации. Эта информация отображается на ГХК в виде графических примитивов различных форм и цветов, в различном количестве расположенных в определенных местах ГХК. Цвет пустой ГХК следует выбрать черным (RGB - 0,0,0), так как при этом по умолчанию на вход сверточной нейросети будут поданы нули. Семантика признаков передается с помощью формы примитивов. Если признак имеет несколько значений (набор текстов постов, набор изображений на странице пользователя и т.п.), то он наносится на ГХК в виде нескольких примитивов. Важность признаков передается с помощью прозрачности примитивов - чем меньше важность, тем менее заметен (вплоть до полной прозрачности) примитив на ГХК. Отмасштабированные значения численных признаков можно передавать с помощью размера примитива. Значения категориальных признаков лучше передавать с помощью формы примитива, как и их семантику, так как их значения не имеют отношения порядка, в отличие от численных. Значения текстовых признаков можно наносить на ГХК в формате модифицированного QR-кода, поверх которого будет изображаться графический примитив, передающий семантику. Тем же способом предлагается отображать и метаданные мультимедиа признаков. Графовые признаки можно наносить на ГХК, кодируя их матрицу весов в виде клетчатого поля, где каждая клетка соответствует ребру, а ее цвет - весу.
В качестве примера рассмотрим три тестовых объекта и возможные варианты ГХК для каждого из них. Объектам соответствуют несколько гетерогенных признаков (табл. 1): возраст (числовой признак), пол (категориальный признак), социальный статус (категориальный признак) и профессия (текстовый признак). Возможные варианты растрового кодирования показаны на рис. 2.
Таблица 1
Информация об объектах
Объекты\Признаки Возраст Пол Социальный статус Профессия
1 17 Ж не в браке -
2 35 М в браке учитель
3 52 М разведен сварщик
£
О
Л эД э
Рис. 2. Варианты ГХК для тестовых объектов
Численный признак возраста закодирован в виде треугольного векторного примитива, размер которого меняется в зависимости от значения признака. Категориальные признаки пола и социального статуса отображены на карте в виде составных примитивов, одна из частей которых меняет форму в зависимости от значения. Значение текстового признака профессии представлено в виде упрощенного QR-кода. При этом семантика этого признака отображена в виде графического примитива в правом верхнем углу упрощенного QR-кода. У первого объекта отсутствует значение признака профессии, и поэтому признак отсутствует на соответствующей ГХК.
Для преобразования вектора информационных признаков в ГХК используется алгоритм, состоящий из следующих шагов:
1. Получение вектора информационных признаков от предыдущего
блока.
2. Получение вектора, содержащего информацию о важности каждого признака, от блока управления.
3. Если вектор признаков не пуст, то переход к шагу 4, иначе - к шагу 10.
4. Взятие очередного элемента вектора (кортежа <идентификатор, тип, значение>).
5. Если важность признака с таким идентификатором не равна нулю, то переход к шагу 6, иначе - к шагу 3.
6. Выбор векторного графического примитива в зависимости от идентификатора признака.
7. Выбор способа изображения на ГХК в зависимости от типа признака и его важности.
8. Нанесение выбранного векторного графического примитива выбранным способом на ГХК с учетом значения признака.
9. Переход к шагу 3.
10. Преобразование ГХК в растровый формат.
Блок классификации также является одним из ключевых элементов системы и отвечает за классификацию ГХК с учетом целевых параметров, полученных с блока управления.
Принимая во внимание, что требуется классифицировать растровое изображение, лучшим вариантом будет использовать одну из существующих сверточных нейросетей [6-8], дообученную на обучающем наборе ГХК.
Сверточная нейросеть извлекает абстрактные признаки из изображений [10]. Для проведения классификации в ее структуре чаще всего имеется завершающая полносвязная часть. За счет наличия нескольких полносвязных частей, каждая из которых обучена определению класса ГХК из заданного набора классов, одни и те же ГХК можно классифицировать по разным наборам классов.
Алгоритм классификации состоит из следующих шагов:
1. Получение ГХК от блока генерации в виде одномерного вектора данных.
2. Получение идентификатора цели классификации от блока управления.
3. Выделение абстрактных признаков из ГХК с помощью сверточной части нейросети.
4. Выбор той полносвязной части нейросети, которая обучена определять класс ГХК из набора классов, соответствующего цели классификации.
5. Выполнение классификации полносвязной частью нейросети.
6. Передача результатов классификации (числового вектора) и идентификатора цели классификации блоку обработки результатов.
Блок обработки результатов отвечает за анализ результатов классификации. При работе в режиме обучения этот блок передает на пользовательский интерфейс результаты классификации и показатели точности классификации на обучающей выборке. При работе в обычном режиме этот блок передает на пользовательский интерфейс распределение объектов по классам.
Блок управления отвечает за управление параметрами блока генерации ГХК и параметрами блока классификации. Пользователь посредством этого блока может настраивать важность тех или иных признаков при классификации, проводить классификацию по определенному им поднабору признаков, а также задавать целевой набор классов. Данные о важности признаков передаются в виде числового вектора блоку генерации ГХК. Идентификатор целевого набора классов передается блоку классификации.
Блок генерации обучающих выборок ГХК по запросу пользователя производит наборы обучающих ГХК, соответствующие заданным пользователем критериям. Сгенерированные ГХК передаются либо в банк обучающих выборок, либо напрямую блоку классификации.
Заключение
В ходе работы была рассмотрена задача классификации объектов с гетерогенным пространством информационных признаков. Для ее решения был предложен оригинальный метод классификации, основанный на преобразо-
вании гетерогенного пространства признаков объекта в универсальное представление графо-хроматической карты. Была разработана и подробно описана структурная схема системы, классифицирующей с помощью этого метода. Изложен алгоритм генерации ГХК.
Предложенный подход к классификации объектов с разнородными признаками обладает рядом преимуществ:
1. Изменение набора признаков объекта потребует лишь перегенерации графо-хроматической карты, но не переобучения нейронной сети.
2. Благодаря унифицированному представлению информации об объекте классификатор (в данном случае - нейросеть) значительно упрощается. На текущий момент существует достаточное количество свободно распространяемых нейронных сетей различной архитектуры, специально обученных выделению признаков из графического растрового изображения. Для практической реализации предлагаемого подхода достаточно дообучить готовую нейросеть на выборке ГХК, которая может быть сгенерирована автоматически в достаточном объеме и разнообразии.
3. Метод может работать с самыми разными типами данных, достаточно иметь алгоритм преобразования данных этого типа в графический формат.
4. Классифицируемые объекты могут отличаться друг от друга не только типами признаков, но и их количественным составом, позволяя применять данный подход в условиях низкого качества данных (пропуски данных, «мусорные» значения и т.п.).
Список литературы
1. Berisha В., Mëziu E., Shabani I. Big Data Analytics in Cloud Computing: An overview // Journal of cloud computing. 2022. № 11 (24). doi: 10.1186/s13677-022-00301-w
2. Lim J. What is data classification? // Alation. URL: https://www.alation.com/blog/what-is-data-classification/ (дата обращения: 12.04.2024).
3. Yang Y., Yi-Feng Wu, De-Chuan Zhan, Zhi-Bin Liu, Yuan Jiang. Complex object classification: A multi-modal multi-instance multi-label deep network with optimal transport // Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. 2018. P. 2594-2603.
4. Ali N., Neagu D., Trundle P. Evaluation of k-nearest neighbour classifier performance for heterogeneous data sets // SN Applied Sciences. 2019. № 1 (1559). doi: 10.1007/s42452-019-1356-9
5. Chung-Chian Hsu, Yan-Ping Huang, Keng-Wei Chang. Extended Naive Bayes classifier for mixed data // Expert Systems with Applications. 2008. № 3. P. 1080-1083. doi: 10.1016/j.eswa.2007.08.031
6. Waseem Rawat, Zenghui Wang. Deep convolutional neural networks for image classification: A comprehensive review // Neural Computation. 2017. № 29. P. 2352-2449.
7. Theckedath D., Sedamkar R. R. Detecting affect states using VGG16, ResNet50 and SE-ResNet50 networks // SN Computer Science. 2020. № 1. P. 79. doi: 10.1007/s42979-020-0114-9
8. Zhang K., Guo Y., Wang X., Yuan J., Ding Q. Multiple feature reweight densenet for image classification // IEEE Access. 2019. № 7. P. 9872-9880. doi: 10.1109/ ACCESS.2018.2890127
9. Data Preprocessing in Data Mining // Geeks For Geeks. URL: https://www. geeksforgeeks.org/data-preprocessing-in-data-mining/ (дата обращения: 01.05.2024).
10. Introduction to Convolution Neural Network // GeeksForGeeks. URL: https:// www.geeksforgeeks.org/introduction-convolution-neural-network/ (дата обращения: 03.05.2024).
References
1. Berisha B., Meziu E., Shabani I. Big Data Analytics in Cloud Computing: An overview. Journal of cloud computing. 2022;(11). doi: 10.1186/s13677-022-00301-w
2. Lim J. What is data classification? Alation. Available at: https://www.alation.com/ blog/what-is-data-classification/ (accessed 12.04.2024).
3. Yang Y., Yi-Feng Wu, De-Chuan Zhan, Zhi-Bin Liu, Yuan Jiang. Complex object classification: A multi-modal multi-instance multi-label deep network with optimal transport. Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. 2018:2594-2603.
4. Ali N., Neagu D., Trundle P. Evaluation of k-nearest neighbour classifier performance for heterogeneous data sets. SN Applied Sciences. 2019;(1). doi: 10.1007/s42452-019-1356-9
5. Chung-Chian Hsu, Yan-Ping Huang, Keng-Wei Chang. Extended Naive Bayes classifier for mixed data. Expert Systems with Applications. 2008;(3):1080-1083. doi: 10.1016/j.eswa.2007.08.031
6. Waseem Rawat, Zenghui Wang. Deep convolutional neural networks for image classification: A comprehensive review. Neural Computation. 2017;(29):2352-2449.
7. Theckedath D., Sedamkar R.R. Detecting affect states using VGG16, ResNet50 and SE-ResNet50 networks. SN Computer Science. 2020;(1):79. doi: 10.1007/s42979-020-0114-9
8. Zhang K., Guo Y., Wang X., Yuan J., Ding Q. Multiple feature reweight densenet for image classification. IEEE Access. 2019;(7):9872-9880. doi: 10.1109/ACCESS.2018.2890127
9. Data Preprocessing in Data Mining. GeeksForGeeks. Available at: https://www. geeksforgeeks.org/data-preprocessing-in-data-mining/ (accessed 01.05.2024).
10. Introduction to Convolution Neural Network. GeeksForGeeks. Available at: https://www.geeksforgeeks.org/introduction-convolution-neural-network/ (accessed 03.05.2024).
E-mail: [email protected]
Авторы заявляют об отсутствии конфликта интересов / The authors declare no conflicts of interests.
Поступила в редакцию / Received 27.06.2024
Поступила после рецензирования и доработки / Revised 20.08.2024 Принята к публикации / Accepted 19.09.2024
Информация об авторах / Information about the authors
Александр Сергеевич Бождай доктор технических наук, профессор, профессор кафедры систем автоматизированного проектирования, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
E-mail: [email protected]
Aleksandr S. Bozhday
Doctor of engineering sciences, professor,
professor of the sub-department of computer
aided design systems, Penza State
University (40 Krasnaya street,
Penza, Russia)
Лев Николаевич Горшенин
аспирант, Пензенский государственный университет (Россия, г. Пенза, ул. Красная, 40)
Lev N. Gorshenin
Postgraduate student, Penza State University (40 Krasnaya street, Penza, Russia)
