CC BY
10Решетнеескцие чтения. 2015
5. Kovalev I. V., Polyanskij K. V., Zelenkov P. V., Brezickaya V. V., Sidorova G. A. [Sistemapoiska, analiza i obrabotki mul'tilingvisticheskih tekstov, integrirovan-naya s informacionno-poiskovymi sistemami] // Vestnik SibGAU. 2013. No. 1(47), pp. 48-52.
6. Zelenkov P. V., Kayukov E. V., Carev R. Y., Shtarik E. N., Shtarik A. V. [K probleme sinteza raspre
delennyh informacionno-analiticheskih system podderz-hki prinyatiya reshenij] // Fundamental 'nye issledovaniya. 2013. No. 4-2, pp. 286-289.
7. Raspopin N. A., Karaseva M. V., Zelenkov P. V., Kayukov E. V., Kovalev I. V. [Modeli i metody opti-mizacii sbora i obrabotki informacii] // Vestnik SibGAU. 2012. No. 2(42), pp. 69-72.
© Брезицкая В. В., Зеленков П. В., Прохорович Г. А., 2015
УДК 519.87
ДВУХКРИТЕРИАЛЬНАЯ ТЕХНОЛОГИЯ ПРОЕКТИРОВАНИЯ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ КОЛЛЕКТИВНЫМ ЭВОЛЮЦИОННЫМ АЛГОРИТМОМ*
К. Ю. Брестер1, О. Э. Семенкина2, М. Колемайнен3
1,2Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31 Е-mail: :abahachy@mail.ru, 2semenkina.olga@mail.ru
3Университет Восточной Финляндии Финляндия, 70211, Куопио, Илиопистонранта, 1E Е-mail: 3mikko.kolehmainen@uef.fi
Предлагается технология нейросетевого моделирования, позволяющая проектировать классификаторы с учетом дополнительного критерия «вычислительная сложность». Преимущества данного подхода предопределяют целесообразность его использования в аэрокосмической отрасли, где требования высокой точности и быстродействия являются ключевыми.
Ключевые слова: полносвязный персептрон, коллективный эволюционный алгоритм, многокритериальная оптимизация.
TWO-CRITERION TECHNIQUE OF NEURAL NETWORK DESIGN WITH THE COLLECTIVE EVOLUTIONARY ALGORITHMI
Ch. Yu. Brester1, O. E. Semenkina2, M. Kolehmainen3
1,2Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: :abahachy@mail.ru, 2semenkina.olga@mail.ru 3University of Eastern Finland 1E, Yliopistonranta, Kuopio, 70211, Finland Е-mail: 3mikko.kolehmainen@uef.fi
In this paper we propose the technique of neural network modeling to design classifiers taking into account the additional criterion "computational complexity". Due to the advantages of this approach, it might be successfully applied in the aerospace field, where the requirements of high accuracy and speed are the most essential.
Keywords: multilayer perceptron, collective evolutionary algorithm, multi-objective optimization.
* Работа выполнена в рамках и при финансовой поддержке проекта RFMEFI57414X0037 [Research is performed with the financial support of the Ministry of Education and Science of the Russian Federation within the federal R&D programme (project RFMEFI57414X0037)].
Математические методы моделирования, управления и анализа данных
Стремительное развитие интеллектуальных информационных технологий приводит к их повсеместному внедрению. Однако существуют отрасти, например аэрокосмическая, где к алгоритмической и аппаратной части систем предъявляются жесткие требования по точности и быстродействию. Поэтому нередко применение стандартных методов машинного обучения становится неприемлемым.
Зачастую в программных пакетах, содержащих реализации алгоритмов интеллектуального анализа данных, структура нейронных сетей определяется однозначно по следующему правилу: на единственном скрытом слое число нейронов равно
Nfeatures + Nclasses
\
+1
(1)
где И-рининт - размерность входного вектора признаков; ^сЬххех - число различных классов в выборочных данных; тип активационной функции - сигмоид. Однако такая структура может быть избыточной: число связей достаточно велико, а на обучение модели и оценку выходных значений тратится значительное количество вычислительных ресурсов. Поэтому целесообразно использовать нейросетевые модели, отвечающие не только требованиям точности, но и вычислительной сложности.
Пусть ю е О, О - множество полносвязных пер-септронов с различными скрытыми слоями. Введем критерии:
Критерий 1. Относительная ошибка классификации:
K1( ю) = E (ю) = -
N,
incorrectly
(ю)
N
min,
(2)
all
где Мисотгесйу(ю) - число примеров из выборки, классифицированных неверно персептроном ю; Ыац - общее количество примеров в выборке.
Критерий 2. Вычислительная сложность:
Nn
K2(Ю) = Nweights (ю) +
K _ Tact/Tweight
, (ю)
z
j=1
K, ^ min,
(3)
слое модели ю; N.
weights
(ю) - число связей в сети ю.
определяются эмпирически.
Обучение проектируемых нейронных сетей и оценку эффективности моделей по критерию К1 предлагается осуществлять с помощью метода обратного распространения ошибки [5].
где К = Т Т " - не зависящий от аппаратной реализации коэффициент относительной сложности вычисления активационной функции /-го нейрона; Т/с' -время вычисления активационной функции на /-м нейроне; ТещЫ - время обработки одной связи; N„еитпАю) - число нейронов на скрытом и выходном
Значения Т/асг и ГещЫ
Для решения поставленной задачи могут быть привлечены различные эвристические методы [1-3]. Однако в данной работе предлагается использовать коллективный генетический алгоритм, работа которого основана на сочетании нескольких эвристик [4]. Структура нейронной сети кодируется следующим образом (см. рисунок): хромосома содержит коды активационных функций каждого нейрона скрытого слоя, при этом нулевой код означает отсутствие нейрона. Входными параметрами являются множество активационных функций (с кодами) и максимальное число нейронов на скрытом слое.
Представление скрытого слоя персептрона в виде бинарной хромосомы
Поскольку при двухкритериальной постановке задачи выходом эволюционного алгоритма является набор недоминируемых решений, то у пользователя, во-первых, появляется возможность выбора «компромиссной» с его точки зрения модели (в смысле точности и вычислительной сложности), а во-вторых, сгенерированные сети могут быть включены в ансамбль классификаторов для принятия коллективного решения.
В ходе тестирования данного подхода на практических задачах [6] было выявлено, что использование эволюционной технологии проектирования нейронных сетей позволяет:
- генерировать полносвязные персептроны с компактной, менее сложной (в вычислительном смысле) структурой, не снижая точности модели;
- повысить качество получаемых решений путем использования ансамбля нейросетевых классификаторов.
Автоматически генерируемые модели обладают более простой структурой, что важно для систем, функционирующих в режиме реального времени, а возможность проектирования коллектива классификаторов позволяет повысить надежность системы в целом.
Библиографические ссылки
1. Stanovov V. V., Semenkin E. S. Self-adjusted evolutionary algorithms based approach for automated design of fuzzy logic systems // Вестник СибГАУ. 2013. № 4(50). С. 148-152.
2. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design // Вестник СибГАУ. 2013. № 4(50). С. 112-116.
3. Akhmedova Sh. A., Semenkin E. S. Development of a new optimization metaheuristic based on cooperation of biology related algorithms // Вестник СибГАУ. 2013. № 4(50). С. 92-99.
4. Brester C., Semenkin E. Cooperative Multi-Objective Genetic Algorithm with Parallel Implementation // 6th Intern. Conf. on Swarm Intelligence (ICSI 2015). Beijing, China, 2015. P. 471-478.
Решетнееские чтения. 2015
5. Круглов В. В., Борисов В. В. Искусственные нейронные сети: теория и практика. М. : Горячая линия - Телеком, 2002.
6. Brester C., Semenkin E., Sidorov M., Semenkina O. Multicriteria Neural Network Design in the Speech-Based Emotion Recognition Problem // Proceedings of the 12th Intern. Conf. on Informatics in Control, Automation and Robotics (ICINC0'2015). Colmar, France, 2015. Vol. 1. P. 621-628.
References
1. Stanovov V. V., Semenkin E. S. Self-adjusted evolutionary algorithms based approach for automated design of fuzzy logic systems // Vestnik SibGAU. 2013. No. 4, рp. 148-152.
2. Khritonenko D. I., Semenkin E. S. Distributed self-configuring evolutionary algorithms for artificial neural networks design // Vestnik SibGAU. 2013. No. 4, рp. 112-116.
3. Akhmedova Sh. A., Semenkin E. S. Development of a new optimization metaheuristic based on cooperation
of biology related algorithms // Vestnik SibGAU. 2013. No. 4, рp. 92-99.
4. Brester C., Semenkin E. Cooperative Multi-Objective Genetic Algorithm with Parallel Implementation // 6th International Conference on Swarm Intelligence (ICSI 2015), Beijing, China, 2015, рp. 471-478.
5. Kruglov V. V., Borisov V. V. Iskusstvennye ney-ronnye seti: teoriya i praktika [Artificial neural networks: theory and practice]. Moscow, Goryachaya liniya - Telecom, 2002.
6. Brester C., Semenkin E., Sidorov M., Semenkina O. Multicriteria Neural Network Design in the Speech-Based Emotion Recognition Problem // Proceedings of the 12th International Conference on Informatics in Control, Automation and Robotics (ICINC0'2015), Colmar, France, 2015. Vol. 1, рp. 621-628.
© Брестер К. Ю., Семенкина О. Э., Колемайнен М., 2015
УДК 004.09
О ПРОГНОЗИРОВАНИИ РЫНКА ЦВЕТНЫХ МЕТАЛЛОВ
Е. В. Бурдина
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева Российская Федерация, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: burdilena@sibsau.ru
Решение проблемы прогнозирования, вследствие быстрых, порой плохо предсказуемых, изменений внешней среды, за последние десятилетия стало особенно сложным. В условиях практически полной переориентации предприятий отечественной цветной металлургии на экспорт проблема прогнозирования изменения цен на цветные металлы на мировом рынке металлов приобретает особо острый характер.
Ключевые слова: временные ряды, прогнозирование, рынок, цветные металлы, нейронные сети.
ABOUT FORECASTING MARKET OF NONFERROUS METALS
E. V. Burdina
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660037, Russian Federation E-mail: burdilena@sibsau.ru
The forecasting problem for fast, sometimes poorly predictable changes in the external environment over the past decade has become particularly difficult. In the context of an almost complete reorientation of the domestic non-ferrous metallurgy enterprises to export the problem of forecasting changes in prices for non-ferrous metals on the world metals market has become extremely acute.
Keywords: temporary series, forecasting, market, non-ferrous metals, neural networks.
Необходимость прогнозирования объективна. Будущее многих явлений неизвестно, но весьма важно для решений, принимаемых в настоящий момент.
Проблема прогнозирования, вследствие быстрых, порой плохо предсказуемых, изменений внешней среды, за последние десятилетия стала особенно слож-
ной. С учетом этих трудностей и критичности ошибок в прогнозах некоторые специалисты были вынуждены заговорить о тщетности прогнозирования. На самом деле прогнозирование - это обязанность, которую в явной или неявной форме неизбежно должны выполнять все организации [1].
