CC BY
45тивном случае входному вектору присваивается набор счетчиков категорий, каждый элемент которого вычисляется по следующей формуле:
count_ctgctg = count_ctg™ + + Y, count_ctgctg • weight,
i^N ■
"win
где Nwin - узлы, связанные с узлом win; weight - весовой коэффициент, равный 0,1.
После ассоциирования с векторами изображения счетчиков категорий вычисляется их среднее значение. Изображению присваивается категория, имеющая наибольшее количественное значение.
Для проверки предложенного метода использовалась база изображений COREL 1000, состоящая из 10 тематических наборов по 100 изображений в каждом. При этом для обучения использовалось по 60 изображений каждой категории, а остальные 40 - для тестирования. Параметры сЕЗОГКЫ были установлены следующим образом: X = 200, agemax = 50, с1 = 0,1, c2 = 1,0. Вычисления повторялись 20 раз, после чего точность усреднялась. В таблице приведены числовые данные по точности категоризации для каждой категории изображений.
Средние значения точности категоризации изображений из базы COREL
Категории изображений Точность, % Категории изображений Точность, %
Африка 81,1 Слоны 90,4
Пляжи 85,5 Цветы 98,3
Здания 80,7 Лошади 95,8
Автобусы 94,9 Горы 77,3
Динозавры 98,8 Еда 93,1
Среднее значение 89,6
Как видно из приведенных данных, предложенный метод способен разделить изображения на категории с точностью от 77,3 до 98,8 %. При этом система, раз-
работанная на основе этого метода, способна обучаться в течение жизненного цикла, без необходимости повторных вычислений. В дальнейших работах планируется разработать быстрый алгоритм сегментации изображений на однородные прямоугольные регионы, используя локальный показатель однородности.
Библиографические ссылки
1. Bosch A., Zisserman A. Scene classification using a hybrid generative / discriminative approach // IEEE Transactions on Pattern Analysis and Machine Intelligence. Vol. 30(4). 2008. P. 712-727.
2. Проскурин А. В. Формирование визуальных слов для автоматического аннотирования изображений на основе самоорганизующейся нейронной сети // Цифровая обработка сигналов и ее применение : 16-я междунар. конф. В 2 т. Т. 2. М., 2014. С. 487-491.
3. Shen F., Ogura T., Hasegawa О. An enhanced self-organizing incremental neural network for online unsupervised learning // Neural Networks. 2007. Vol. 20, No. 8. P. 893-903.
References
1. Bosch A., Zisserman A. Scene classification using a hybrid generative / discriminative approach. IEEE Transactions on Pattern Analysis and Machine Intelligence. Vol. 30(4). 2008. P. 712-727.
2. Proskurin A. V., 16-ya mezhdunarodnaya konferentsiya "Tsifrovaya obrabotka signalov i ee primenenie" (16 International conference "Digital signal processing and applications"). Moscow, 2014. T. 2. P. 487-491.
3. Shen F., Ogura T., Hasegawa O. An enhanced self-organizing incremental neural network for online unsupervised learning. Neural Networks. Vol. 20, No. 8. 2007. P. 893-903.
© Проскурин А. В., 2014
УДК 519.68
ГИБРИДНЫЙ ЭВОЛЮЦИОННЫЙ АЛГОРИТМ ДЛЯ АВТОМАТИЧЕСКОГО ГЕНЕРИРОВАНИЯ НЕЙРОСЕТЕВЫХ КЛАССИФИКАТОРОВ
О. Е. Семенкина, О. Э. Семенкина
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31 E-mail: [email protected], [email protected]
Разработан, реализован и исследован гибридный эволюционный алгоритм, использующий для настройки структуры нейронной сети самоконфигурируемый генетический алгоритм, а для настройки весовых коэффициентов - стайный алгоритм оптимизации. Показана эффективность применения метода самоконфигурации к стохастическим алгоритмам при решении задач классификации.
Ключевые слова: самоконфигурирование, генетический алгоритм, классификация, стайный алгоритм, нейронные сети.
Программные средства и информационные технологии
HYBRID EVOLUTIONARY ALGORITHM FOR AUTOMATIC GENERATION NEURAL NETWORK CLASSIFICATORS
O. E. Semenkina, O. E. Semenkina
Siberian State Aerospace University named after academician M. F. Reshetnev 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660014, Russian Federation E-mail: [email protected], [email protected]
Hybrid evolutionary algorithm, that uses self-configuring genetic algorithm for neural network structure design and particle swarm optimization for neural network weights tuning, is developed, realized and investigated. The efficiency of application of the self-configuring method to stochastic algorithms for solving classification problems is demonstrated.
Keywords: self-configuring, genetic algorithm, classification, particle swarm optimization, neural networks.
Интеллектуальный анализ данных набирает все большую значимость в современной науке, что связано с фактической неограниченностью его применения. Фундаментальной проблемой во многих областях можно назвать классификацию, а потому изучение методов и алгоритмов, позволяющих решать эту задачу, является важной и актуальной темой. Практическое применение включает в себя очень широкий круг задач, в том числе распознавание эмоций [1], категоризацию документов и семантический анализ [2], медицинскую диагностику [3], управление космическими аппаратами [4].
Существует множество различных методов решения задачи классификации, наиболее популярным из которых является проектирование искусственных нейронных сетей [5], которые могут создаваться с использованием различных методов, таких как генетические алгоритмы [6; 7], нечеткие правила [8], кооперативный бионический алгоритм [9] и др.
При этом основной проблемой применения стохастических алгоритмов является сложность подбора параметров алгоритма под конкретную задачу. В настоящее время эта проблема решается созданием адаптивных алгоритмов, которые настраивают свои параметры в ходе решения задачи [10]. Исследования автора показали, что применение адаптивных стохастических алгоритмов при решении задачи комбинаторной оптимизации показывает хорошие результаты [11]. В данной работе в качестве метода оптимизации использовался самоконфигурируемый генетический алгоритм (Self-configuringgeneticalgorithm - 8СОЛ), зарекомендовавший себя эффективным методом [12].
В разработанной программе SCGA использует в качестве индивидов различные структуры нейронных сетей, закодированные как бинарные строки, где отдельные участки соответствуют одному из нейронов (активационной функции). При этом вещественный 0, или соответствующий бинарный участок строки из нулей, означает отсутствие в этом месте нейрона как такового. Таким образом, программе необходимо задать максимальное количество слоев нейронной сети и максимальное количество нейронов на каждом слое, а также вероятность существования нейрона при инициализации начальной популяции структур. Однако для оценки пригодности каждого такого индивида требуется определить весовые коэффициенты связей между нейронами, для чего используется стайный алгоритм [13]. Вектор всех весовых коэффициентов,
упорядоченный определенным образом, в данном случае представляет собой вектор координат частицы в поисковом пространстве. Каждому такому вектору можно сопоставить значение целевой функции -ошибки классификации данной нейронной сети.
Сравнение эффективности предложенного алгоритма с алгоритмом, использующим стандартный генетический алгоритм (ГА), проводилось на нескольких задачах из международного репозитория задач машинного обучения. Самоконфигурируемый алгоритм показывает надежность, сопоставимую с надежностью стандартного ГА для выбора структуры нейронной сети при лучших его настройках, выявленных на этапе тестирования на задачах вещественной оптимизации. В то же время он устраняет необходимость выбора подходящих под задачу настроек алгоритма, а значит, освободившиеся таким образом вычислительные ресурсы можно использовать для дальнейшего уточнения решения.
Библиографические ссылки
1. Sidorov M., Brester C., Minker W., Semenkin E. Speech-Based Emotion Recognition: Feature Selection by Self-Adapted Multi-Criteria Genetic Algorithm // Proceedings of the 9th edition of the Language Resources and Evaluation Conference. Reykjavik, Iceland, 2014.
2. Akhmedova Sh. A. [et al.] Opinion Mining and Topic Categorization with Novel Term Weighting // Proceedings of the 5th Workshop on Computational Approaches to Subjectivity, Sentiment & Social Media Analysis. 2014. P. 84-89.
3. Popov E. A., Semenkina M. E. Self-configuring genetic programming algorithm for medical diagnostic problems // Вестник СибГАУ. 2013. № 4 (50). С. 116-123.
4. Semenkin E., Semenkina M. Stochastic Models and Optimization Algorithms for Decision Support in Spacecraft Control Systems Preliminary Design // Informatics in Control, Automation and Robotics. Lecture Notes in Electrical Engineering. 2014. Vol. 283. P. 51-65.
5. Bukhtoyarov V. V., Semenkin E. S. A comprehensive evolutionary approach for neural network ensembles automatic design // Вестник СибГАУ. 2010. № 7. С. 14-19.
6. Brester C., Semenkin E. Development of adaptive genetic algorithms for neural network models multicriteria design // Вестник СибГАУ. 2013. № 4 (50). С. 99-103.
7. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design // ВестникСибГАУ. 2013. № 4 (50). С. 112-116.
8. Stanovov V., Semenkin E. Self-adjusted evolutionary algorithms based approach for automated design of fuzzy logic systems // Вестник СибГАУ. 2013. № 4 (50). С. 148-152.
9. Akhmedova Sh. A., Semenkin E. S. Data Mining Tools Design with Co-Operation of Biology Related Algorithms // Fifth International Conference on Swarm Intelligence (ICSI'2014). 2014.
10. Semenkin E., Semenkina M. Self-Configuring Genetic Algorithm with Modified Uniform Crossover Operator. Advances in Swarm Intelligence / Eds. Y. Tan, Y. Shi, Z. Ji. ICSI 2012. Part 1. LNCS 7331. Springer, Heidelberg, 2012. P. 414-421.
11. Semenkina O., Popov E., Semenkina O. Self-Configuring Nature Inspired Algorithms for Combinatorial Optimization Problems // Proceedings of the Conference on Engineering and Applied Sciences Optimization (OPT-/). Kos Island, Greece, 2014.
12. Гуменникова А. В., Емельянова М. Н., Семен-кин Е. С., Сопов Е. А. Об эволюционных алгоритмах решения сложных задач оптимизации // Вестник Сиб-ГАУ. 2003. № 4. С. 14.
13. Akhmedova S., Semenkin E.Co-operation of biology related algorithms // IEEE Congress on Evolutionary Computation (CEC). 2013. P. 2207-2214.
References
1. Sidorov M., Brester C., Minker W., Semenkin E. Speech-Based Emotion Recognition: Feature Select/on by Self-Adapted Multi-Criteria Genetic Algorithm. Proceedings of the 9th edition of the Language Resources and Evaluation Conference, Reykjavik, Iceland, 2014.
2. Akhmedova Sh. A., Semenkin E. S., Gasanova T. O., Sergienko R. B., Minker W. Opinion Mining and Topic Categorization with Novel Term Weighting. Proceedings of the 5th Workshop on Computational Approaches to Subjectivity, Sentiment & Social Media Analysis. 2014. p. 84-89.
3. Popov E. A., Semenkina M. E. Self-configuring genetic programming algorithm for medical diagnostic problems.Vestnik SibGAU. 2013. № 4 (50). p. 116-123.
4. Semenkin E., Semenkina M. Stochastic Models and Optimization Algorithms for Decision Support in Spacecraft Control Systems Preliminary Design. Informatics in Control, Automation and Robotics. Lecture Notes in Electrical Engineering. Vol. 283. 2014. p. 51-65.
5. Bukhtoyarov V. V., Semenkin E. S. A comprehensive evolutionary approach for neural network ensembles automatic design.Vestnik SibGAU. 2010. № 7. p. 14-19.
6. Brester C., Semenkin E. Development of adaptive genetic algorithms for neural network models multicriteria design.Vestnik SibGAU. 2013. № 4 (50). pp. 99-103.
7. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design.Vestnik SibGAU. 2013. № 4 (50). p. 112-116.
8. Stanovov V., Semenkin E. Self-adjusted evolutionary algorithms based approach for automated design of fuzzy logic systems. Vestnik SibGAU. 2013. Vol. 4 (50). pp. 148-152.
9. Akhmedova Sh. A., Semenkin E. S. Data Mining Tools Design with Co-Operation of Biology Related Algorithms. Fifth International Conference on Swarm Intelligence (ICSI'2014). 2014.
10. Semenkin E., Semenkina M. Self-Configuring Genetic Algorithm with Modified Uniform Crossover Operator..Advances in Swarm Intelligence (Eds.: Tan Y., Shi Y., Ji Z.), ICSI 2012, Part 1, LNCS 7331, Springer, Heidelberg. 2012. p. 414-421.
11. Semenkina O., Popov E., Semenkina O. Self-Configuring Nature Inspired Algorithms for Combinatorial Optimization Problems. Proceedings of the Conference on Engineering and Applied Sciences Optimization (OPT-i), Kos Island, Greece, 2014.
12. Gumennikova A. V., Emelyanova M. N., Semenkin E. S., Sopov E. A. About evolutionary algorithms for solving complex optimization problems. Vestnik SibGAU. 2003, № 4, р. 14.
13. Akhmedova S., Semenkin E.Co-operation of biology related algorithms // IEEE Congress on Evolutionary Computation (CEC). 2013. p. 2207-2214.
© Семенкнна О. Е., Семенкнна О. Э., 2014
УДК 004.415.25
РАЗРАБОТКА ИНФОРМАЦИОННОЙ СИСТЕМЫ УЧЕТА ГРАНТОВ СИБГАУ
А. А. Сидора, А. В. Финк
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
Е-таП: [email protected]
Разработан и внедрён модуль «Гранты» для единой системы управления вузом «Паллада» на базе ОрепЕРР. В ходе работы был проведён анализ предметной области, в результате которого были найдены и проанализированы существующие решения подобных вопросов, спроектирована база данных, разработана структура программного продукта и определены основные функции модуля.
Ключевые слова: ОрепЕРР, база данных, информационная система, проектирование, внедрение.
