Научная статья на тему 'Программная система автоматического генерирования нейросетевых классификаторов эволюционными алгоритмами'

Программная система автоматического генерирования нейросетевых классификаторов эволюционными алгоритмами Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
70
19
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ / ARTIFICIAL NEURAL NETWORKS / КОЛЛЕКТИВЫ ИНТЕЛЛЕКТУАЛЬНЫХ ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ / ENSEMBLES OF INTELLECTUAL INFORMATION TECHNOLOGIES / ЭВОЛЮЦИОННЫЕ АЛГОРИТМЫ / EVOLUTIONARY ALGORITHMS / САМОКОНФИГУРИРОВАНИЕ / SELF-CONFIGURING

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Хритоненко Д. И.

Рассматривается новый алгоритм формирования коллективов искусственных нейронных сетей. На его основе реализована программная система, обладающая рядом особенностей. Описываются этапы работы программы. Эффективность программной системы проверяется на ряде реальных задач классификации. На основании проведенного тестирования выдвигаются рекомендации по использованию программной системы.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

PROGRAM SYSTEM FOR AUTOMATED DESIGN OF ANN-BASED CLASSIFIERS BY MEANS OF EVOLUTIONARY ALGORITHMS

The new algorithm for forming ensembles of artificial neural networks is considered. The program system that has several features is implemented on its basis. The program system work stages are described. The efficiency of the program system is proved for a set of classification problems. On the basis of this the tests for several recommendations for using the program system are proposed.

Текст научной работы на тему «Программная система автоматического генерирования нейросетевых классификаторов эволюционными алгоритмами»

требуется регуляризация, учитывающая значения искомых величин в соседних пикселях. Если известны два значения из набора Р, В, а, то третье значение находится однозначно, кроме вырожденных случаев [1].

Одним из основных методов регуляризации является «Байесовский вывод» (рис. 2). Пиксели обрабатываются, начиная с границ регионов объекта / фона, сужая неизвестную область шаг за шагом. Пиксели, обработанные на предыдущих шагах, также учитываются в выборках объекта и фона в дополнение к пикселям из известных областей. В качестве цветовой модели используется множество ориентированных гауссиан. Алгоритм использует схему Байеса для максимизации правдоподобия значений [2].

Распределения, оцениваемые с помощью плотности гауссиан объекта и фона, вычисляются на основе как размеченных пикселов объекта / фона, так и ранее обработанных. Образцы цветов для вычисления этих распределений берутся из окрестности обрабатываемого пиксела. Радиус окрестности может быть адаптивным и увеличиваться в случае, если образцов цвета не найдено (т. е. если окрестность целиком лежит в неизвестной области) либо найдено недостаточно для надежной оценки параметров распределения.

Рис. 2. Иллюстрация работы алгоритма «Байесов вывод»

Цветовые выборки собираются по окрестности обрабатываемого пикселя и кластеризуются. Далее для каждой пары цветовых гауссианов объекта и фона вычисляются оптимальные значения Р, В, а. В качестве Р и В выбираются не центры гауссианов, а точки, максимизирующие условную вероятность Р(Р, В, а|С). Таким образом, здесь используется метод мак-

симального правдоподобия. Для оценки этой вероятности используется формула Байеса:

Р (F, B, а | C ) = Р (C|F,B a);((CF))' ^ (B^(a), (2)

где вероятность P (C|F,B, а) оценивается через расстояние между цветом C и смесью F; B с коэффициентом а по формуле (1); P(F), P(B) оцениваются через плотность вероятности для гауссианов цветов объекта и фона; Р(а) игнорируется; P(C) - константа относительно параметров максимизации [3].

В данной работе было рассмотрено использование формулы Байеса для матирования изображений. В результате было разработано приложение для матирования изображений, в основе которого лежит данный метод. Также в приложении реализованы функции сегментирования исходного изображения и замены фона у вырезаемого объекта.

Библиографические ссылки

1. Синдеев М. Исследование и разработка алгоритмов матирования видеопоследовательности : дис. ... канд. техн. наук : Д 002.024.01: Защищена 21.05.2013. М., 2014.

2. Рузон M., Томаши C. Оценка альфа-канала в изображениях // CVPR. 2000. С. 18-25.

3. Чанг И., Керлес Б., Салешин Д., Слезински Р. Байесовский подход к цифровому матированию // Proc. of IEEECVPR. 2001. С. 264-271.

References

1. Sindeev М. Research and development of video matting algorithms : dissertation of Cand. of Techn. Sciences: Council D 002.024.01: defended 21.05.2013. М., 2014.

2. Ruzon M., Tomasi C. Alpha estimation in natural images // CVPR 2000. Р. 18-25.

3. Chuang Y. Curless B., Salesin D., Szeliski R. A Bayesian Approach to Digital Matting // Proc. of IEEE CVPR, 2001. Р. 264-271.

© Томилина А. И., Савельев А. С., 2014

УДК 519.87

ПРОГРАММНАЯ СИСТЕМА АВТОМАТИЧЕСКОГО ГЕНЕРИРОВАНИЯ НЕЙРОСЕТЕВЫХ КЛАССИФИКАТОРОВ ЭВОЛЮЦИОННЫМИ АЛГОРИТМАМИ

Д. И. Хритоненко

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

E-mail: [email protected]

Рассматривается новый алгоритм формирования коллективов искусственных нейронных сетей. На его основе реализована программная система, обладающая рядом особенностей. Описываются этапы работы программы. Эффективность программной системы проверяется на ряде реальных задач классификации. На основании проведенного тестирования выдвигаются рекомендации по использованию программной системы.

Ключевые слова: искусственные нейронные сети, коллективы интеллектуальных информационных технологий, эволюционные алгоритмы, самоконфигурирование.

Решетневскуе чтения. 2014

PROGRAM SYSTEM FOR AUTOMATED DESIGN OF ANN-BASED CLASSIFIERS BY MEANS OF EVOLUTIONARY ALGORITHMS

D. I. Khritonenko

Siberian State Aerospace University named after academician M. F. Reshetnev 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660014, Russian Federation E-mail: [email protected]

The new algorithm for forming ensembles of artificial neural networks is considered. The program system that has several features is implemented on its basis. The program system work stages are described. The efficiency of the program system is proved for a set of classification problems. On the basis of this the tests for several recommendations for using the program system are proposed.

Keywords: artificial neural networks, ensembles of intellectual information technologies, evolutionary algorithms, self-configuring.

Широкое распространение искусственных нейронных сетей для решения задач интеллектуального анализа данных, в частности классификации, требует создания средств их автоматического проектирования. При этом такие средства должны позволять использовать их повсеместно, независимо от уровня знаний специалиста в области нейронных сетей.

Один из распространенных инструментов создания нейронных сетей - использование эволюционных алгоритмов. На сегодняшний день существует множество их модификаций [1-3]. Рассматриваемая программная система включает в себя некоторые из них [4]. Стоит отметить, что она позволяет пользователю сформировать коллектив интеллектуальных информационных технологий [5; 6] представленными в ней методами и схемами [7; 8]. При этом возможно как генерирование нейронных сетей внутри программной системы, так и подключение внешних классификаторов. Работа алгоритма и программной системы происходит в два этапа. На первом этапе генерируется множество обученных нейронных сетей. На втором -при помощи алгоритма генетического программирования формируются их коллективы.

Реализованная программная система была успешно использована для ряда реальных задач классификации [9; 10]: классификации ирисов, вина, медицинской диагностики, банковского скоринга, классификации эмоций по звуковому сигналу речевой коммуникации. Тестирование показало работоспособность и высокую эффективность рассматриваемых подходов [4; 10]. В частности, использование оператора равномерного скрещивания в генетическом программировании одновременно с самоконфигурированием [8] показало наилучший результат среди всех возможных комбинаций параметров. Кроме того, были определены две эффективные схемы формирования коллективов. Важно отметить, что коллективный подход привлекает значительные вычислительные ресурсы. Это важно учитывать, выбирая начальные числовые параметры алгоритма.

Библиографические ссылки

1. Akhmedova Sh. A. Development and investigation of the effectiveness of the particle swarm optimization algorithm // Вестник СибГАУ. 2012. № 4. С. 78.

2. Semenkina O. E., Popov E. A., Semenkina O. E. Self-configuring evolutionary algorithms for travelling salesman problem // Вестник СибГАУ. 2013. № 4 (50). С. 134-139.

3. Galushin P. V., Semenkin E. S. The asymptotic probabilistic genetic algorithm // Вестник СибГАУ. 2009. № 5. С. 45-49.

4. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design // Вестник СибГАУ. 2013. № 4 (50). C. 112-116.

5. Попов Е. А., Семенкина М. Е., Липинский Л. В. Принятие решений коллективом интеллектуальных информационных технологий // Вестник СибГАУ. 2012. № 5 (45). С. 95-99.

6. Семенкин Е. С., Шабалов А. А., Ефимов С. Н. Автоматизированное проектирование коллективов интеллектуальных информационных технологий методом генетического программирования // Вестник СибГАУ. 2011. № 3. С. 77-81.

7. Bukhtoyarov V. V., Semenkina O. E. Comprehensive evolutionary approach for neural network ensemble automatic design // 2010 IEEE World Congress on Computational Intelligence, WCCI 2010 - 2010 IEEE Congress on Evolutionary Computation, CEC 2010. Barcelona, 2010.

8. Семенкина М. Е. Cамоадаптивные эволюционные алгоритмы проектирования информационных технологий интеллектуального анализа данных // Искусственный интеллект и принятие решений. 2013. № 1. С. 13-23.

9. Семенкин Е. С., Семенкина M. E. Применение генетического алгоритма с модифицированным оператором равномерной рекомбинации при автоматизированном формировании интеллектуальных информационных технологий // Вестник СибГАУ. 2007. № 3. С. 27-33.

10. Popov E. A., Semenkina M. E. Self-configuring genetic programming algorithm for medical diagnostic problems // Вестник СибГАУ. 2013. № 4 (50). С. 116-123.

References

1. Akhmedova Sh. A. Development and investigation of the effectiveness of the particle swarm optimization algorithm // Vestnik SibGAU. 2012. № 4. p. 78.

2. Semenkina O. E., Popov E. A., Semenkina O. E. Self-configuring evolutionary algorithms for travelling salesman problem // Vestnik SibGAU. 2013. № 4 (50). p. 134-139.

3. Galushin P. V., Semenkin E. S. The asymptotic probabilistic genetic algorithm // Vestnik SibGAU. 2009. № 5. p. 45-49.

4. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design // Vestnik SibGAU. 2013. № 4 (50). p. 112-116.

5. Popov E. A., Semenkina M. E., Lipinskij L. V. // Vestnik SibGAU. 2012. № 5 (45). p. 95-99.

6. Semenkin E. S., Shabalov A. A., Efimov S. N. // Vestnik SibGAU. 2011. № 3. p. 77-81.

7. Bukhtoyarov V. V., Semenkina O. E. Comprehensive evolutionary approach for neural network

ensemble automatic design // The collection: 2010 IEEE World Congress on Computational Intelligence, WCCI 2010 - 2010 IEEE Congress on Evolutionary Computation, CEC 2010 2010 6th IEEE World Congress on Computational Intelligence, WCCI 2010 - 2010 IEEE Congress on Evolutionary Computation, CEC 2010. Barcelona, 2010.

8. Semenkina M. E. // Artificial intelligence and decision-making. 2013. № 1. p. 13-23.

9. Semenkin E. S., Semenkina M. E. // Vestnik SibGAU. 2007. № 3. p. 27-33.

10. Popov E. A., Semenkina M. E. Self-configuring genetic programming algorithm for medical diagnostic problems // Vestnik SibGAU. 2013. № 4 (50). p. 116-123.

© XpHTOHeHKO A. H., 2014

УДК 004.942

ПРОЕКТИРОВАНИЕ ИНФОРМАЦИОННЫХ ПОРТАЛОВ ДЛЯ АВТОМОБИЛИСТОВ

Р. С. Шайдуров1, К. А. Андреева2

Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660014, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31 E-mail: [email protected], [email protected]

Производится анализ основных проблем специализированных автомобильных порталов. Решена актуальная задача по созданию удобного информационного портала как большой и развитой информационной системы. Разработаны основные модули. Обозначены основные перспективы развития по созданию интеллектуальной системы выбора транспортного средства.

Ключевые слова: информационные системы, веб-порталы, интеллектуальные системы.

DESIGN OF INFORMATION PORTAL FOR CAR DRIVERS R. S. Shaydurov1, K. A. Andreeva2

Siberian State Aerospace University named after academician M. F. Reshetnev 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660014, Russian Federation E-mail: [email protected], [email protected]

The main problems of specialized automotive portals are analised. An urgent task for building a knowledge portal as a large and well-developed information system is solved. Core modules are developed. The broad development prospects for the creation of the intellectual system of vehicle choice are determined.

Keywords: information systems, web-portals, intellectual systems.

После появления всемирной сети Интернет произошел резкий скачок в развитии информационных порталов, которые охватили все сферы экономических отношений. Одной из такой сфер стал автомобильный рынок, который включает в себя производство и сбыт механических транспортных средств, а также продажу сопутствующих комплектующих к ним.

В настоящие время существует большое количество специализированных автомобильных порталов,

созданных для облегчения жизни автолюбителей, главным образом позволяющих сократить затрачиваемые силы и время пользователя на поиск необходимой ему информации в специализированной области.

Но, несмотря на большое количество существующих автомобильных сайтов, далеко не каждый из них является достаточно большой структурированной информационной системой, удовлетворяющей потребности пользователя в интересующей его инфор-

i Надоели баннеры? Вы всегда можете отключить рекламу.