CC BY
214
Б01: 10.24143/2072-9502-2020-3-61-73 УДК 614.849
РАЗРАБОТКА И ОБУЧЕНИЕ МОДЕЛИ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ ДЛЯ СОЗДАНИЯ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ
А. О. Чупакова, С. В. Гудин, Р. Ш. Хабибулин
Академия Государственной противопожарной службы МЧС России, Москва, Российская Федерация
Значительный рост промышленных мощностей и автоматизации производства требует принятия эффективных управленческих решений ответственным лицом. Рассмотрены основные достижения ученых в применении искусственных нейронных сетей в различных сферах деятельности и системах поддержки приятия решений, предполагающих использование данной технологии для проведения анализа и обработки информации с последующим выведением результата. Предложен обзор публикаций по вопросам обучения искусственных нейронных сетей и эффективности их применения при решении задач классификации, прогнозирования и управления. Исследованы наиболее распространенные структуры нейронных сетей, их преимущества и недостатки, а также используемые методики создания массивов данных обучающей выборки. Проведен сравнительный анализ применения различных структур искусственных нейронных сетей и эффективность существующих методов обучения и перспективы их использования. Определена наиболее предпочтительная топология нейросети для решения задач в области управления пожарной безопасностью производственных объектов в качестве активной системы поддержки принятия решений. На основе полученного анализа определены наиболее распространенные и эффективные методики обучения, применение которых целесообразно для создания и обучения нейронных сетей различных типов. Обосновано применение искусственных нейронных сетей для снижения количества ошибок при обработке информации, финансовых затрат на обеспечение безопасности, а также возможность применения нейронных сетей в системах поддержки принятия управленческих решений для оптимизации этих систем.
Ключевые слова: пожарный риск, искусственные нейронные сети, системы поддержки принятия решений, пожарная безопасность.
Для цитирования: Чупакова А. О., Гудин С. В., Хабибулин Р. Ш. Разработка и обучение модели искусственной нейронной сети для создания систем поддержки принятия решений // Вестник Астраханского государственного технического университета. Серия: Управление, вычислительная техника и информатика. 2020. № 3. С. 61-73. Б01: 10.24143/2072-9502-2020-3-61-73.
Введение
В последнее время наблюдается тенденция к сокращению производственных площадей за счет автоматизации технологических процессов, что, в свою очередь, значительно повышает пожарные и производственные риски и увеличивает степень ответственности лица, принимающего управленческие решения. В настоящий момент существуют методики по расчету пожарных рисков [1], которые активно внедряются в целях профилактики пожаров и их последствий. К сожалению, расчет риска, в соответствии с методикой, включает большое количество этапов и вычислительных операций. Это приводит к возникновению неопределенности на каждом из этапов, а следовательно, к доле погрешности результата. Одним из этапов является подбор мероприятий, компенсирующих превышение значения величины пожарного риска. Для комплексной оценки и подбора этих мероприятий необходимо привлечение экспертов и большое количество времени, т. к. применение любого из мероприятий ведет к перерасчету всего проекта, а большое количество существующих мероприятий приводит к тому, что эксперт не в состоянии рассмотреть их все.
Для решения данной проблемы необходима разработка системы поддержки принятия управленческих решений (СППР) в области обеспечения пожарной безопасности с мощным вычислительным аппаратом, который позволит устранить возникающую неопределенность и самостоятельно обработает массив существующих мероприятий с последующим составлением оптимального их перечня.
Для повышения работоспособности СППР и оптимизации процессов в области анализа и обработки информации все чаще российскими и зарубежными компаниями применяются технологии искусственного интеллекта и искусственных нейронных сетей (ИНС). На сегодняшний день нейросети используются не только в научных исследованиях, но и в различных сферах человеческой деятельности: бизнесе, медицине, экономике и т. д. Прогресс в обучении нейронных сетей достиг значительного уровня, когда стало возможно не просто распознавать объекты, но и генерировать их, определять лица людей, голосовые команды, проводить анализ дорожного покрытия в режиме реального времени и управлять автомобилем, проводить анализ рынка и прогнозировать возможные риски на предприятии, решать задачи в области управления, диагностировать различные заболевания по определенному набору признаков, распознавать импульсы головного мозга человека и на основе полученных данных создавать высокотехнологичные протезы и многое другое. Благодаря своей структуре нейронные сети значительно сокращают временные и трудовые затраты на проведение рутинных процессов, требующих объективной оценки и исключающих человеческий фактор. Именно этим обуславливается их активное применение в различных типах СППР.
Учитывая обширный опыт применения ИНС в различных сферах деятельности, рассмотрен вариант применения этого метода для оптимизации систем поддержки управленческих решений в области пожарной безопасности. Требуется создать модель нейросети для подбора противопожарных мероприятий, компенсирующих значение величины пожарного риска на производственных объектах. Применение ИНС поможет устранить существующую проблему неопределенности, связанную с погрешностью при расчетах пожарных рисков, а также значительно сократить время, затрачиваемое на проведение таких расчетов.
Для создания нейросетевой модели, реализующей решение поставленной задачи, необходимо провести анализ существующих структур нейронных сетей и способов их обучения. В работах российских и зарубежных авторов по вопросам целесообразности применения методик обучения ИНС различной архитектуры, основанных на интеллектуальных технологиях, для решения целевых задач определен ряд основных архитектур нейронных сетей и область их применения. На данный момент существует значительное количество различных типов нейросетей, но все они, в свою очередь, построены на основе базовых структур (табл. 1).
Таблица 1
Основные структуры искусственных нейронных сетей
Искусственная нейронная сеть
Структурная схема
Описание
Нейронные сети прямого распространения, или перцептроны [2]
Передают информацию от входа к выходу, при этом клетки слоя не связаны между собой, в отличие от слоев. Данная структура обучается методом обратного распространения. Данную структуру нередко комбинируют с другими для получения необходимой комбинации слоев. В качестве примера данной структуры можно привести сети Кохонена
Сеть Хопфилда [3]
Полносвязная нейронная сеть с симметричной матрицей связей. В данной сети каждый узел является входным, в процессе обучения преобразуется в скрытый, а затем - в выходной
Цепи Маркова [4]
Данная структура является предшественником сети Хопфилда, в которой каждый следующий слой является результатом вычислений предыдущего. Несмотря на то, что сами цепи не являются моделью нейронных сетей, они служат теоретической основой для последующих структур, таких как сети Хопфилда и машина Больцмана
Окончание табл. 1
Основные структуры искусственных нейронных сетей
Искусственная нейронная сеть
Структурная схема
Описание
Машина Больцмана [5]
Главное отличие данной структуры от сети Хопфилда заключается в том, что некоторые нейроны изначально помечены как входные или как скрытые.
Автокодировщики [6]
Основной характеристикой сети данной структуры является автоматическое кодирование информации, т. е. ее сжатие. Структура сети полносвязна, симметрична, причем количество скрытых слоев может быть как меньше входных и выходных, так и равно этим слоям.
Сеть типа Deep Belief [7]
Данная структура объединяет автокодировщики и ограниченную машину Больцмана. Применяется как для генерирования новых данных, так и для поиска локальных оптимальных решений
Сверточные нейронные сети, глубинные сверточные нейронные сети [8]
Структура данной сети принципиально отличается от остальных и зачастую применяется для распознавания объектов на изображениях. Входные данные передаются через сверточные слои, соединенные между собой. Для получения результата на конце такой структуры располагают автокодировщик
Развертывающие нейронные сети [9].
Данная структура также называется обратной графической сетью и является обратной сверточной. Применяется данная структура, как правило, для генерирования изображений
Зачастую для решения различных типов задач, стоящих перед пользователем, возникает необходимость в комбинировании (гибридизации) нескольких структур или в незначительном их изменении, что вполне обосновано обширным кругом задач, решаемых ИНС.
Обзор публикаций в области обучения ИНС
Многие авторы применяли ИНС для различного круга задач. Для этого они использовали различные методы обучения (рис. 1).
Рис. 1. Основные методы обучения ИНС
Обзор публикаций исследователей, занимающихся проблематикой обучения различных структур нейросетей, а также поиском оптимальных методов их обучения, показал актуальность использования и эффективность нейросетевых моделей. Помимо этого были выявлены основные недостатки каждого исследованного метода обучения или же самой структуры сети.
В работе [10] рассматриваются несколько различных структур нейронных сетей и методы их обучения, особенности и возможности их применения для решения задач прогнозирования. В рамках проводимого эксперимента авторы [10] рассматривают 4 типа нейронных сетей, таких как многослойный перцептрон, карты самоорганизации, сети на основе радиальных базисных функций и рекуррентные нейронные сети.
В качестве обучающих методик авторами [10] предлагается использование метода обратного распространения ошибки, применяемого для корректировки весов сети в процессе обучения. Это происходит за счет разделения сети на два потока - прямой и обратный, - которые, соответственно, передают сигнал и получают отклик об ошибках. В результате определяется вектор ошибок, показывающий, на какую величину следует скорректировать значения весов. Данный способ обучения относится к группе «обучение с учителем».
Чтобы скорректировать метод обучения обратным распространением и не дать модели сети попасть в зону локального минимума, предлагается применять метод модельной «закалки», предполагающий целенаправленное ухудшение работы нейросети с последующим ее усовершенствованием на основе изменения части системы.
Работы, представленные далее, направлены на создание качественной обучающей выборки.
В статьях [11-14] одним из методов обучения ИНС является использование генетических алгоритмов. Это продиктовано сложностью правильного распределения веса матрицы на начальном этапе, в условиях неопределенности. Достоинство данного метода заключается в большей точности и снижении количества времени, затрачиваемого на обучение. Он эффективен для обучения нейросети типа «многослойный перцептрон», «ИНС с общей регрессией», «сетей Кохонена» и др. Сам метод заключается в создании базы входных значений и выходных данных для обучения сети методом обратного распространения ошибки или же селективного отбора наиболее «влиятельных» значений матрицы. Применение эволюционных генетических алгоритмов на этом этапе обучения помогает, как следует из [11], сократить количество обучающих циклов за счет использования параметров, имеющих наибольший вес.
В работе [12] предлагается использование генетических алгоритмов для обучения математической модели нейронной сети TSK, описанной посредством построения дерева решений, где каждый узел соответствует собственному объекту и имеет свое решение. Эффективность предложенного метода обучения заключается в более корректном распределении значений весов, а также в снижении влияния параметрических факторов. Целесообразность данной модели заключается в улучшенной аппроксимации сложных функций по сравнению с сетью «многослойный перцептрон». Значение целевой функции определяется через построение дерева решений, вычисление параметров нечеткой сети и вычисление выходного значения. На структуру дерева и точность модели влияет множество факторов - параметры функций, количество элементов в множестве, количество классов входной переменной и т. д. Неточность модели устраняется при использовании эволюционных генетических алгоритмов.
В работе [15] автором рассматривается методика создания обучающего массива и обучение нейросети Хопфилда для решения задач прогнозирования. Описываются основные проблемы
при создании обучающих массивов данных и способы обучения ИНС в целом. Также автор приходит к выводу о необходимости создания качественной обучающей выборки, от которой зависит эффективность работы нейросетевой модели.
Оригинальный алгоритм обучения ИНС был предложен в работе [16]. Здесь предлагается использование гибридного алгоритма, основанного на алгоритмах муравьиной колонии и обратного распространения ошибки для решения задач классификации. Данный стохастический гибридный алгоритм основан на непрямом взаимодействии между автономными агентами и является предпочтительным для решения задач классификации реальных данных, в том числе медицинской диагностики.
В работе [17] проводится сравнительный анализ алгоритмов обучения ИНС. В качестве примера приводится разделение методов обучения нейросетей на 4 категории: нулевого порядка, первого порядка, второго порядка и нелокальные модификации одноточечных методов. Авторы [17] рассматривают эффективность применения генетических, адаптивных и гибридных алгоритмов для решения задачи нахождения глобального экстремума. На основе результатов проведенного эксперимента сделан вывод о том, что применение адаптивного генетического алгоритма более эффективно для решения поставленной задачи, но при этом нельзя утверждать, что данный алгоритм будет столь же эффективен для решения задач иного характера.
В [18] приводится обоснование применения алгоритма эластичного распространения для обучения нейросетей, являющихся адаптивными системами прогнозирования и обучения, в соответствии с индивидуальными особенностями пользователей. В работе авторы приводят примеры, доказывающие эффективность работы алгоритма обратного распространения, и предлагают его использование для решения задач в области прогнозирования. По своей сути данная работа является обоснованием применения ИНС в области создания СППР и для решения задач прогнозирования.
Анализ и сравнение методов обучения ИНС проведены в работе [19]. Авторами рассматриваются возможности использования нейросетевых технологий для решения задач поиска глобального аттрактора функции энергии и сравнительный анализ градиентных методов обучения, таких как метод обратного распространения ошибки, метод сопряженных градиентов, метод градиентного спуска с учетом моментов, «дельта-дельта с чертой», модель Хопфилда. В результате анализа был сделан вывод об эффективности способов обучения методом градиентного спуска с учетом моментов и адаптивным обучением для решения поставленной задачи.
Вопросы эффективной структуры входных данных для обучения нейронных сетей были рассмотрены также в работе [20]. Автором рассматривался метод обратного распространения ошибки искусственной сети типа перцептрон для создания авторегрессионного алгоритма, производящего выборку оптимальных исходных данных. На вход подавались данные, сгенерированные алгоритмом, после чего при помощи меры ошибки SMAPE определялись погрешность сети и, соответственно, эффективность данных, сгенерированных алгоритмом. Данный алгоритм, по мнению автора, поможет работать с ИНС пользователям, которые не являются специалистами в данной области, а также повышает точность распознавания сети, т. к. исключает человеческий фактор на самом важном этапе работы с сетью — задании входных значений. В работе автором рассматривались такие методы, как метод совместной информации, автокорреляции, оценки совместного обучающего набора, модифицированный алгоритм к-ближайших соседей, метод приращения энтропии и метод ранжирования. Результаты исследования показали, что каждый метод является эффективным для определенного класса задач, соответственно, целесообразно использование данных методов при создании авторегрессионного алгоритма для подбора эффективных входных значений при работе с ИНС.
Авторами работы [21] рассматривались вопросы применения численных методов обучения ИНС для решения задач широкого спектра. Целью работы являлся поиск методов, минимизирующих ошибки обучения сети при помощи аппарата математической теории оптимального управления, который помогает в поиске оптимальных значений весовых коэффициентов для дискретной нейронной сети. В результате серии экспериментов авторами была доказана эффективность данной методики.
В работе [22] авторами была поставлена целевая задача по использованию сверточной нейросети для решения задачи прогнозирования. При создании выборки данных и обучении применялся метод регрессионного анализа, который позволяет определить предиктор для зависимой переменной и установить возможные причинные связи между переменными. В ходе экспериментов были выявлены зависимости между показателями износа и состоянием строительных конструкций. Помимо результатов, полученных на основе самообучения, сетью была проведена
укрупненная классификация признаков состояния конструкций и дефектов. Данный эксперимент позволяет сделать вывод о том, что нейросети эффективнее классифицируют данные, чем человек или даже группа людей. Соответственно, применение ИНС в производстве позволит значительно сократить финансовые издержки за счет своевременного прогноза об износе конструкций или технологического оборудования.
Некоторыми исследователями поднимался вопрос обучения нейросетей для решения задач классификации по нескольким признакам. Например, в работе [23] предложено использование ИНС для проведения статистической классификации. В качестве среды разработки и обучения ИНС авторами предлагаются программный комплекс MATLAB и использование коэффициента корреляции Пирсона для нахождения статистической взаимосвязи между входными и выходными значениями. В результате эксперимента было установлено, что сеть можно использовать для решения задачи классификации, но для этого подходят далеко не все входные данные. Таким образом, можно сделать вывод о том, что ИНС целесообразно применять для конкретной задачи поиска или классификации, т. е. для поиска нескольких статистических критериев данную технологию применять нецелесообразно.
В работе [24] автором предлагается использовать рой частиц в качестве метода оптимизации при обучении нейронных сетей. В статье приводится описание одного из самых распространенных методов обучения ИНС - метода обратного распространения ошибки, в основе которого лежит метод градиентных спусков. Также, помимо описания данного способа обучения, приводятся основные недостатки, такие как «паралич сети», попадание в локальный минимум, неопределенность при выборе длины шага. На основе данных заключений о низкой сходимости результатов автор предлагает оптимизировать обучение ИНС методом роя частиц, который является метаэвристическим и заключается в том, что поиск значений ведется сразу в нескольких точках пространства значений. Благодаря такому подходу возможно избегание попадания сети в локальный минимум, повышение сходимости значений, а также сокращение времени, затрачиваемого на проведение вычислительных операций. Автором был проведен сравнительный анализ методов обучения для решения задач классификации и аппроксимации и сделаны выводы о том, что обучение методом роя частиц для решения данных задач эффективнее или показывает одинаковый результат с эволюционными алгоритмами или методом обратного распространения, однако требует на проведение расчетов значительно меньше времени.
Некоторыми исследователями для решения задач прогнозирования рассматривались возможности комбинирования стохастических и детерминированных методов. В работе [25] предлагается использование стандартных методов обучения, таких как генетические алгоритмы или метод обратного распространения, совместно с методом регуляризации по Тихонову, который широко применяется для стабилизации решений при обучении ИНС.
В качестве основных преимуществ данного метода обучения авторы называют следующие:
- ускорение процесса итерации за счет стохастических измененных начальных значений;
- ускорение сходимости итераций при использовании управляемого градиентного метода -градиентного оптимального коэффициента релаксации;
- отсутствие ограничений для структуры и сложности сети ввиду возможности численного выполнения расчета градиента.
Таким образом, авторами [25] сделан вывод о том, что данный метод обучения является эффективным при решении задач прогнозирования с неявными зависимостями показателей, а также при построении прогнозных карт в сложных геологических условиях.
Авторы [26] рассматривают вопрос обучения и применения нейронных сетей для решения задач классификации. В работе обосновывается применение нейросетевых технологий для классификации объектов акватории при максимальном удалении от источника. Для решения задачи были выбраны два типа нейросетей: многослойный перцептрон и сеть встречного распространения ошибки. Данные структуры обучались методами локальной оптимизации и градиентного спуска. Для создания обучающей выборки был использован комплекс имитационного моделирования, при помощи которого были отобраны данные, наиболее приближенные к реальным. Этот метод позволяет выстроить систему навигации на основе нейросетевых методов и использовать ее на реальных объектах и акваториях.
Подводя итоги вышесказанного, можно сделать вывод о том, что ИНС являются перспективной областью исследований и применяются во многих отраслях и СППР для оптимизации вычислительных процессов, анализа и обработки информации, решении задач классификации
и прогнозирования. При этом, несмотря на их очевидные преимущества, основным недостатком является сложность выбора эффективной методики обучения и создания обучающего массива данных. На основе проведенного анализа была построена диаграмма распространения различных методов обучения (рис. 2).
■ Обратное распространение
□ Генетический алгоритм
□ Гибридные алгоритмы
□ Пакетный метод
□ Упругое распространение
□ Стохастический метод
□ Другое
Рис. 2. Распространение различных методов обучения ИНС
Как видно из диаграммы, несмотря на недостатки, самыми популярными методами обучения ИНС являются генетический алгоритм и метод обратного распространения. Это связано с простотой использования данных методов, доступностью обучающих материалов, а также с достаточной точностью и надежностью. Тем не менее, в последнее время все чаще появляются новые или гибридные методы обучения нейронных сетей, составляющие значительную конкуренцию проверенным методикам. Но широкого распространения они не получают в основном потому, что предназначены для решения узкоспециализированных задач или же не получают достаточной огласки и подробного описания методов их работы.
Создание модели искусственной нейронной сети
Для решения практической задачи, направленной на создание и обучение ИНС для определения списка противопожарных мероприятий, компенсирующих величину значения пожарного риска, проанализированы две архитектуры ИНС с наиболее подходящими характеристиками. Сравнение архитектур ИНС приведено в табл. 2.
Таблица 2
Сравнение архитектур искусственных нейронных сетей
Критерий Сверточная нейронная сеть Сеть типа Deep Belief
Возможность поэтапного обучения Возможно автономное обучение каждого фильтра свертки путем подачи случайного фрагмента выборки, используя для этого любой обучающий алгоритм без учителя. Данная сеть обучается поблочно, причем для обучения каждому блоку необходимо закодировать предыдущий.
Возможность решать задачи с большим массивом исходных данных Структура сети ориентирована на обработку запроса и генерирование входного сигнала в виде суммы сверток карт признаков с учетом применяемых фильтров данных, соответствующих запросу. Это позволяет генерировать базу исходных данных, удовлетворяющих заданным параметрам. Структура сети позволяет обрабатывать большие потоки информации и отображать информацию в виде вероятностных моделей. При свободном обучении такая сеть способна генерировать новые данные.
Архитектура модели ИНС В операции свертки используется лишь ограниченная матрица весов небольшого размера, которую «двигают» по всему обрабатываемому слою, формируя после каждого сдвига сигнал активации для нейрона следующего слоя с аналогичной позицией. То есть для различных нейронов выходного слоя используется одна и та же матрица весов, которую также называют ядром свертки. Архитектура модели подразумевает симбиоз ограниченной машины Больцмана и вариационного автокодировщика, принимающего во внимание влияние нейронов.
Метод обучения Для данного типа сети самым эффективным является обучение методом обратного распространения ошибки и различными алгоритмами, схожими по принципу действия. Данный тип сети целесообразно обучать методом обратного распространения ошибки, а также с применением технологии «жадного обучения».
Таким образом, рассматриваемые структуры ИНС могут использоваться как классификаторы или генераторы данных. В случае с разработкой систем поддержки принятия управленческих решений возможно применение обеих структур. Но, тем не менее, для решения управленческих задач целесообразно применять именно сверточную нейронную сеть.
Структура модели сверточной нейронной сети позволяет решать более обширный круг задач в связи с тем, что состоит, по сути, из симбиоза различных типов нейронных сетей, причем комбинировать слои сети возможно в любом, необходимом для решения задачи, порядке. Несомненным плюсом данной структуры является возможность ее послойного обучения. Соответственно, появляется возможность каждый блок нейронов обучать на решение блока задач, результаты которых будут переданы в виде обучающих последующему блоку, и так до тех пор, пока на выходе не будут достигнуты оптимальные решения, представленные в виде вероятностной модели. Помимо этого, каждый фильтр свертки возможно обучать без учителя, он начнет генерировать новые значения, которые также возможно использовать при создании массива данных.
Можно предположить, что структура сверточной ИНС подходит для использования при создании системы поддержки принятия решений в управлении пожарной безопасностью нефтегазовых объектов, т. к. с ее помощью возможно генерирование и анализ списка оптимальных мероприятий, необходимых для приведения объекта защиты в соответствие с нормативными документами в области пожарной безопасности.
На начальном этапе создания нейросети на основе технологий свертки [27] была создана структурная схема (рис. 3), описывающая несколько этапов, которые необходимо осуществить для качественного обучения нейросетевой модели.
Рис. 3. Структурная схема обучения модели ИНС
Как видно из представленной схемы, обучение модели ИНС необходимо начинать с генерирования массива исходных данных обучающей выборки. Чтобы обеспечить высокую точность при обучении, необходимо около 10 000 объектов с различными характеристиками. Для первоначальной модели принято решение о допустимой погрешности, не превышающей 10 %.
Чтобы формализовать решаемую задачу, принято решение использовать в качестве технологических объектов резервуары для хранения нефти и нефтепродуктов с различными параметрами. В качестве входных данных указываются физические и технологические параметры производственного оборудования. В качестве выходных данных планируется получение списка компенсирующих мероприятий по взрывопожарной и пожарной опасности, обеспечивающих соответствие величины пожарного риска требованиям нормативных документов.
На начальном этапе с помощью алгоритма генерирования объектов (рис. 4) со случайным набором противопожарных мероприятий сформирован массив обучающей выборки для двух типов резервуаров - РВС и РВСП. Данный алгоритм использует следующие условные обозначения: РВС - резервуар вертикальный стальной; РВСП - резервуар вертикальный стальной с понтоном; К - количество объектов; Н - высота точки координат; W - ширина точки координат; О - генерирование массива технологических установок; 0[i] - генерирование массива резервуаров; Da - дыхательная арматура; Ot - остальные типы установок пожаротушения; At - автоматическая установка пожаротушения; P - вероятность нахождения человека в зоне поражения; diking - обвалование; V - объем резервуара; L - расстояние от человека до технологического объ-
екта; М - массив сгенерированных проектов, при помощи которого происходит случайный подбор различных характеристик технологических объектов, с учетом установленных ограничений; у - шаг вычислений; I - порядковый номер генерируемого объекта [28].
Рис. 4. Алгоритм генерирования обучающей выборки технологических объектов
Следующим этапом является расчет риска всех полученных объектов, проводимый в специализированном программном комплексе, с учетом различных комбинаций противопожарных мероприятий. Расчет проводится в соответствии с Приказом МЧС России от 10 июля 2009 г. № 404 «Об утверждении методики определения расчетных величин пожарного риска на производственных объектах» [1] с занесением результатов в базу данных.
После получения результатов, используя метод регрессионного анализа, суть которого состоит в статистической методике исследования влияния некоторых независимых переменных на зависимую, определена градация зависимости величины пожарного риска от каждого из применяемых мероприятий, при помощи метода парной регрессии. После процедуры масштабирования данных был определен весовой коэффициент каждого из мероприятий. Таким образом,
определяя вес каждого мероприятия для настройки модели нейросети, получили массив входных данных с определенным набором параметров. На данном этапе принято использовать упрощенную модель сети, которая имеет 8 входных нейронов и 2 слоя свертки.
Следующими этапами являются обучение сети методом обратного распространения и тестирование выходных значений на базе данных реальных производственных объектов. При низкой сходимости результатов проводится генерация дополнительных параметров с помощью вышеуказанного алгоритма, с последующей корректировкой значений весов.
Заключение
В результате проведенного исследования сделан вывод об эффективности применения ИНС в области пожарной безопасности, создана структурная схема обучения и представлен алгоритм генерирования обучающей выборки. При помощи метода регрессионного анализа определены весовые коэффициенты мероприятий, влияющих на величину значения пожарного риска. Создана упрощенная модель сети для проведения обучения и серии тестирований. Также был сделан вывод о том, что применение данной технологии в области пожарной безопасности может значительно сократить экономические издержки за счет анализа данных и своевременного прогнозирования износа оборудования, чрезвычайных ситуаций или же всех видов производственных рисков.
СПИСОК ЛИТЕРА ТУРЫ
1. Об утверждении Методики определения расчетных величин пожарного риска на производственных объектах: приказ МЧС России от 10 июля 2009 г. № 404. URL: https://base.garant.ru/196118/ (дата обращения: 16.07.2019).
2. Rosenblatt F. The perceptron: a probabilistic model for information storage and organization in the brain // Psychological review. 1958. V. 65. N. 6. P. 386.
3. Hopfield J. J. Neural networks and physical systems with emergent collective computational abilities // Proceedings of the national academy of sciences. 1982. V. 79. N. 8. P. 2554-2558.
4. Петров Е. П., Харина Н. Л., Ржаникова Е. Д. Математическая модель цифровых полутоновых изображений на основе цепей Маркова с несколькими состояниями // Нелинейный мир. 2013. Т. 11. № 7. С. 487-492.
5. Hinton G. E. et al. Learning and relearning in Boltzmann machines // Parallel distributed processing: Explorations in the microstructure of cognition. 1986. V. 1. N. 2. P. 282-317.
6. Bourlard H., Kamp Y. Auto-association by multilayer perceptrons and singular value decomposition // Biological cybernetics. 1988. V. 59. N. 4-5. P. 291-294.
7. Bengio Y. et al. Greedy layer-wise training of deep networks // Advances in neural information processing systems. 2007. P. 153-160.
8. LeCun Y. et al. Gradient-based learning applied to document recognition // Proceedings of the IEEE. 1998. V. 86. N. 11. P. 2278-2324.
9. Zeiler M. D., Krishnan D., Taylor G. W. et al. Deconvolutional networks // IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (San Francisco, USA, 13-18 June 2010). 2010. V. 10. P. 7.
10. Воронов И. В., Политов Е. А., Ефременко В. М. Обзор типов искусственных нейронных сетей и методов их обучения // Вестн. Кузбас. гос. техн. ун-та. 2007. № 3. С. 38-42.
11. Хайкин С. Нейронные сети. М.: Вильямс, 2006. 1104 с.
12. Остроух Е. Н., Чегодарь М. Ю. Обучение нейронной сети с использованием генетических алгоритмов // Изв. Юж. федер. ун-та. Технические науки. 2008. Т. 88. № 11. С. 86-87.
13. Тененёв В. А., Тененёва А. В. Обучение нечетких нейронных сетей генетическим алгоритмом // Интеллектуальные системы в производстве. 2010. № 1. С. 76-85.
14. Мищенко В. А., Коробкин А. А. Использование генетических алгоритмов в обучении нейронных сетей // Современные проблемы науки и образования. 2011. № 6. С. 116-119.
15. Горбачевская Е. Н. Обучение искусственной нейронной сети для задач прогнозирования // Вестн. Волж. ун-та им. В. Н. Татищева. 2012. № 2 (19). С. 94-98.
16. Котляров Е. В. Обучение нейронной сети на основе алгоритма муравьиной колонии для задачи классификации // Електротехшчш та комп'ютершсистеми. 2012. № 8. С. 122-129.
17. Полупанов А. А., Гарнага В. В., Кольцов Ю. В. Эволюционный подход к обучению искусственной нейронной сети // Информатика, вычислительная техника и инженерное образование. 2013. № 3. С. 10-15.
18. Лавров Е. А., Барченко Н. Л. Нейронная сеть как элемент системы управления обучением // Теория и методика обучения математике, физике, информатике. 2005. Т. 5. № 3. С. 148-152.
19. Федосин С. А., Ладяев Д. А., Марьина О. А. Анализ и сравнение методов обучения нейронных сетей // Вестн. Мордов. ун-та. 2010. № 4. С. 79-88.
20. Грицай А. А. Определение эффективной структуры входных данных для обучения нейронной сети решению задачи прогнозирования спроса // Вестн. Твер. гос. ун-та. Сер.: Прикладная математика. 2014. № 2. С. 95-106.
21. Андреева Е. А., Мазурова И. С. Численные методы обучения искусственной нейронной сети // Уч. зап. Петрозав. гос. ун-та. 2014. Т. 1. № 8 (145). С. 14-20.
22. Котельников В. В., Рыков А. Н., Козельская С. О. Использование нейронных сетей с глубинным обучением для прогнозирования и оценки уровня критичности дефектов конструкций // Промышленные АСУ и контроллеры. 2016. № 12. С. 39-45.
23. Сорокин А. С., Бондарев В. Ю., Кротова Е. Л. Создание и обучение искусственной нейронной сети для статистического оценивания данных // Вестн. УрФО. Безопасность в информационной сфере. 2016. № 2. С. 29-32.
24. Ермаков Б. С. Оптимизация роем частиц в обучении искусственных нейронных сетей // Системный анализ и логистика-2017. 2017. № 1 (14). С. 3-9.
25. Приезжев И. И., Егоров С. В. Гибридное обучение нейронных сетей с целью прогноза параметров нефтегазовой продуктивности горных пород // Сейсмические технологии-2017: материалы науч.-практ. конф. (Москва, 18-20 апреля 2017 г.). М.: ООО «Издательство Полипресс», 2017. С. 205-208.
26. Пятакович В. А., Василенко А. М., Мироненко М. В. Обучение нейронной сети как этап разработки экспертной системы для классификации источников физических полей при мониторинге акваторий // Вестн. Инженер. шк. Дальневосточ. федер. ун-та. 2017. № 3 (32). С. 138-149.
27. Чупакова А. О., Гудин С. В., Хабибулин Р. Ш. Методика применения нейросетевых технологий для моделирования и проведения численных экспериментов // Тр. 12-й Мультиконф. по пробл. управления (МКПУ-2019) (Дивноморское, Краснодарский край, 23-28 сентября 2019 г.). Ростов н/Д.: Изд-во Южного федерального университета, 2019. С. 144-146.
28. Чупакова А. О., Гудин С. В., Хабибулин Р. Ш. Методика создания нейросетевой модели для решения задач классификации по оптимизации пожарных рисков // Проблемы управления и моделирования в сложных системах: тр. XXI Междунар. конф. Самара: ООО «Офорт», 2019. С. 551-554.
Статья поступила в редакцию 14.08.2019
ИНФОРМАЦИЯ ОБ АВТОРАХ
Чупакова Анна Олеговна - Россия, 129366, Москва; Академия Государственной противопожарной службы МЧС России; адъюнкт; [email protected].
Гудин Сергей Витальевич - Россия, 129366, Москва; Академия Государственной противопожарной службы МЧС России; канд. техн. наук; научный сотрудник учебно-научного комплекса автоматизированных систем и технологий; [email protected].
Хабибулин Ренат Шамильевич - Россия, 129366, Москва; Академия Государственной противопожарной службы МЧС России; канд. техн. наук, доцент; начальник учебно-научного комплекса автоматизированных систем и технологии; [email protected].
DEVELOPING AND TRAINING MODEL OF ARTIFICIAL NEURAL NETWORK FOR CREATING DECISION SUPPORT SYSTEMS
A. O. Chupakova, S. V. Gudin, R. Sh. Khabibulin
State Fire Academy of EMERCOM of Russia, Moscow, Russian Federation
Abstract. The article highlights the significant increase of industrial capacities and automation of production, which requires taking effective management decisions by a responsible person. There have been outlined the important achievements of the scientists in application of the artificial neural networks in the various fields of activity and decision support systems involving the information
analysis and processing with the results obtained. There has been proposed a review of publications on training artificial neural networks and on their efficient application in solving problems of classification, prediction and control. The most common structures of neural networks, their advantages and disadvantages, as well as the methods used to create training data arrays have been studied. A comparative analysis of using various structures of artificial neural networks and the effectiveness of existing teaching methods and the prospects for their use has been carried out. There has been defined the most preferred neural network topology for solving problems of fire safety management at the production facilities as an active decision support system. Using the analysis results, the most common and effective training methods have been identified, application of which is appropriate for developing and training various types of neural networks. The use of the technology is well grounded for reducing the errors in data processing, the financial costs for ensuring security, as well as for possible using the neural networks in the decision support systems to optimize these systems.
Key words: fire risk, artificial neural networks, decision support systems, fire safety.
For citation: Chupakova A. O., Gudin S. V., Khabibulin R. Sh. Developing and training model of artificial neural network for creating decision support systems. Vestnik of Astrakhan State Technical University. Series: Management, Computer Science and Informatics. 2020;3:61-73. (In Russ.) DOI: 10.24143/2072-9502-2020-3-61-73.
REFERENCES
1. Ob utverzhdenii Metodiki opredeleniia raschetnykh velichin pozharnogo riska na proizvodstvennykh ob"ektakh. Prikaz MChSRossii ot 10 iiulia 2009 g. № 404 [On approval of methods for determining calculated values of fire risk at production facilities: Order of the Ministry of Emergencies of Russia of July 10, 2009 No. 404]. Available at: https://base.garant.ru/196118/ (accessed: 16.07.19).
2. Rosenblatt F. The perceptron: a probabilistic model for information storage and organization in the brain. Psychological review, 1958, vol. 65, no. 6, p. 386.
3. Hopfield J. J. Neural networks and physical systems with emergent collective computational abilities. Proceedings of the national academy of sciences, 1982, vol. 79, no. 8, pp. 2554-2558.
4. Petrov E. P., Kharina N. L., Rzhanikova E. D. Matematicheskaia model' tsifrovykh polutonovykh izobra-zhenii na osnove tsepei Markova s neskol'kimi sostoianiiami [Mathematical model of digital halftone images based on Markov chains with several states]. Nelineinyi mir, 2013, vol. 11, no. 7, pp. 487-492.
5. Hinton G. E. et al. Learning and relearning in Boltzmann machines. Parallel distributed processing: Explorations in the microstructure of cognition, 1986, vol. 1, no. 2, pp. 282-317.
6. Bourlard H., Kamp Y. Auto-association by multilayer perceptrons and singular value decomposition. Biological cybernetics, 1988, vol. 59, no. 4-5, pp. 291-294.
7. Bengio Y. et al. Greedy layer-wise training of deep networks. Advances in neural information processing systems, 2007, pp. 153-160.
8. LeCun Y. et al. Gradient-based learning applied to document recognition. Proceedings of the IEEE, 1998, vol. 86, no. 11, pp. 2278-2324.
9. Zeiler M. D., Krishnan D., Taylor G. W. et al. Deconvolutional networks. IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (San Francisco, USA, 13-18 June 2010), 2010, vol. 10, p. 7.
10. Voronov I. V., Politov E. A., Efremenko V. M. Obzor tipov iskusstvennykh neironnykh setei i metodov ikh obucheniia [Overview of artificial neural network types and their training methods]. Vestnik Kuzbasskogo gosudarstvennogo tekhnicheskogo universiteta, 2007, no. 3, p. 38-42.
11. Khaikin S. Neironnye seti [Neural networks]. Moscow, Vil'iams Publ., 2006. 1104 p.
12. Ostroukh E. N., Chegodar' M. Iu. Obuchenie neironnoi seti s ispol'zovaniem geneticheskikh algoritmov [Training neural network using genetic algorithms]. Izvestiia Iuzhnogo federal'nogo universiteta. Tekhnicheskie nauki, 2008, vol. 88, no. 11, pp. 86-87.
13. Tenenev V. A., Teneneva A. V. Obuchenie nechetkikh neironnykh setei geneticheskim algoritmom [Training fuzzy neural networks by using genetic algorithm]. Intellektual'nye sistemy vproizvodstve, 2010, no. 1, pp. 76-85.
14. Mishchenko V. A., Korobkin A. A. Ispol'zovanie geneticheskikh algoritmov v obuchenii neironnykh setei [Use of genetic algorithms in training neural networks]. Sovremennye problemy nauki i obrazovaniia, 2011, no. 6, pp. 116-119.
15. Gorbachevskaia E. N. Obuchenie iskusstvennoi neironnoi seti dlia zadach prognozirovaniia [Training artificial neural network for forecasting problems]. Vestnik Volzhskogo universiteta im. V. N. Tatishcheva, 2012, no. 2 (19), pp. 94-98.
16. Kotliarov E. V. Obuchenie neironnoi seti na osnove algoritma murav'inoi kolonii dlia zadachi klassi-fikatsii [Training neural network using ant colony algorithm for problem of classification]. Elektrotekhnichni ta komp'iuternisistemi, 2012, no. 8, pp. 122-129.
17. Polupanov A. A., Garnaga V. V., Kol'tsov Iu. V. Evoliutsionnyi podkhod k obucheniiu iskusstvennoi neironnoi seti [Evolutionary approach to training artificial neural network]. Informatika, vychislitel'naia tekhnika i inzhenernoe obrazovanie, 2013, no. 3, pp. 10-15.
18. Lavrov E. A., Barchenko N. L. Neironnaia set' kak element sistemy upravleniia obucheniem [Neural network as element of training control system]. Teoriia i metodika obucheniia matematike, fizike, informatike, 2005, vol. 5, no. 3, pp. 148-152.
19. Fedosin S. A., Ladiaev D. A., Mar'ina O. A. Analiz i sravnenie metodov obucheniia neironnykh setei [Analysis and comparison of methods of training neural networks]. VestnikMordovskogo universiteta, 2010, no. 4, pp. 79-88.
20. Gritsai A. A. Opredelenie effektivnoi struktury vkhodnykh dannykh dlia obucheniia neironnoi seti resh-eniiu zadachi prognozirovaniia sprosa [Determination of effective input data structure for training neural network to solve demand forecasting problem]. Vestnik Tverskogo gosudarstvennogo universiteta. Seriia: Prikladnaia matematika, 2014, no. 2, pp. 95-106.
21. Andreeva E. A., Mazurova I. S. Chislennye metody obucheniia iskusstvennoi neironnoi seti [Numerical methods for training artificial neural network]. Uchenye zapiski Petrozavodskogo gosudarstvennogo universiteta, 2014, vol. 1, no. 8 (145), pp. 14-20.
22. Kotel'nikov V. V., Rykov A. N., Kozel'skaia S. O. Ispol'zovanie neironnykh setei s glubinnym obucheniem dlia prognozirovaniia i otsenki urovnia kritichnosti defektov konstruktsii [Using deep training neural networks to predict and evaluate level of criticality of structural defects]. Promyshlennye ASUi kontrollery, 2016, no. 12, pp. 39-45.
23. Sorokin A. S., Bondarev V. Iu., Krotova E. L. Sozdanie i obuchenie iskusstvennoi neironnoi seti dlia statisticheskogo otsenivaniia dannykh [Developing and training artificial neural network for statistical data estimation]. Vestnik UrFO. Bezopasnost' v informatsionnoi sfere, 2016, no. 2, pp. 29-32.
24. Ermakov B. S. Optimizatsiia roem chastits v obuchenii iskusstvennykh neironnykh setei [Particle swarm optimization in training artificial neural networks]. Sistemnyi analiz i logistika-2017, 2017, no. 1 (14), pp. 3-9.
25. Priezzhev I. I., Egorov S. V. Gibridnoe obuchenie neironnykh setei s tsel'iu prognoza parametrov nefte-gazovoi produktivnosti gornykh porod [Hybrid training of neural networks for predicting parameters of rock oil and gas productivity]. Seismicheskie tekhnologii-2017: materialy nauchno-prakticheskoi konferentsii (Moskva, 18-20 aprelia 2017 g.). Moscow, OOO «Izdatel'stvo Polipress», 2017. Pp. 205-208.
26. Piatakovich V. A., Vasilenko A. M., Mironenko M. V. Obuchenie neironnoi seti kak etap razrabotki ek-spertnoi sistemy dlia klassifikatsii istochnikov fizicheskikh polei pri monitoringe akvatorii [Neural network training as stage in development of expert system for classifying sources of physical fields when monitoring water areas]. Vestnik Inzhenernoi shkoly Dal'nevostochnogo federal'nogo universiteta, 2017, no. 3 (32), pp. 138-149.
27. Chupakova A. O., Gudin S. V., Khabibulin R. Sh. Methods of using neural network technologies for modeling and conducting numerical experiments. Trudy 12-i Mul'tikonferentsii po problemam upravleniia (MKPU-2019) (Divnomorskoe, Krasnodarskii krai, 23-28 sentiabria 2019 g.). Rostov-na-Donu, Izd-vo Iuzhnogo federal'nogo universiteta, 2019. Pp. 144-146.
28. Chupakova A. O., Gudin S. V., Khabibulin R. Sh. Metodika sozdaniia neirosetevoi modeli dlia resh-eniia zadach klassifikatsii po optimizatsii pozharnykh riskov [Methods of developing neural network model for solving classification problems of fire risk optimization]. Problemy upravleniia i modelirovaniia v slozhnykh sistemakh: trudy XXI Mezhdunarodnoi konferentsii. Samara, OOO «Ofort», 2019. Pp. 551-554.
The article submitted to the editors 14.08.2019
INFORMATION ABOUT THE AUTHORS
Chupakova Anna Olegovna - Russia, 129366, Moscow; State Fire Academy of EMERCOM of Russia; Postgraduate Student; [email protected].
Gudin Sergey Vital'evich - Russia, 129366, Moscow; State Fire Academy of EMERCOM of Russia; Candidate of Technical Sciences; Researcher of the Educational Research Complex of Automated Technological Systems; [email protected].
Khabibulin Renat Shamil'evich - Russia, 129366, Moscow; State Fire Academy of EMERCOM of Russia; Candidate of Technical Sciences, Assistant Professor; Head of the Educational Research Complex of Automated Technological Systems; [email protected].
