CC BY
58
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
DOI: 10.32786/2071-9485-2020-01-29 JUSTIFICATION OF ALGORITHMS AND TOOLS FOR NEURAL NETWORK FORECASTING OF AGRICULTURAL PRODUCTIVITY USING RETROSPECTIVE DATA
A. F. Rogachev1' 2, E. V. Melikhova1,
1 Volgograd State Agrarian University, Volgograd 2 All Russian research Institute of irrigated agriculture, Volgograd
Received 25.12.2019 Submitted 06.03.2020
The article was prepared with the financial support of the RFBR and the administration of the Volgograd region under project No. 19-416-340014 «Creating a neural network system for managing programmed agricultural production using retrospective data and remote sensing results
for the arid conditions of the Volgograd region»
Summary
The features of the autocorrelation function of the time series of grain crop yields were revealed using the methods of pre-forecast statistical analysis. An artificial neural network was constructed for predicting grain yields in the SNN environment. The MLP multilayer perceptron architecture is based on the minimum of the MSE criterion.
Abstract
Introduction. Ensuring food security requires improving methods for predicting the productivity of cultivated crops. In the field of agricultural production, various technologies for building artificial neural networks (ANN) are used, mainly for predicting crop yields. Pre-sum representative samples of time series (TS) of long-term yield levels, perform their pre-forecast processing, justify the architecture and macroparameters of the designed ins, as well as algorithms for its training that are adequate to the problem. At the same time, it is necessary that the developer of the neural network modeling program has a priori knowledge about the structure and specifics of the simulated VR in order to justify the architecture and macroparameters of the created artificial neural networks. Object. The object of the study is the time series of long-term yield levels of a group of grain crops, the patterns of change of which are modeled using artificial neural networks. Method of research. The methodology and results of justifying the choice of algorithms and computer tools for predicting crop yields using retrospective data are presented. The regression model and autocorrelation analysis of time series levels were constructed using statistical analysis methods. The BP approximation of grain yield was performed for the Volgograd region for 69 years, including 2018. The Classification of the characteristics of the basic ins architectures was carried out to build the ins family in order to justify its preferred architecture, configuration, and macroparameters. Results and discussion. Statistical analysis of the BP yield of grain allowed us to establish that the approximation of the 3rd degree polynomial showed unsatisfactory results for the criterion R2 = 0.46. It was found that in the conditions of risky agriculture, the statistical distributions of the BP yield levels differ significantly from the normal one, which hinders the use of linear methods based on MNC estimates for constructing forecast models of the BP yield of agricultural crops, in particular, cereals. In order to take into account and use it when configuring the projected ins, an autocorrelation analysis of the yield BP in question was performed in the Excel environment, which revealed noticeable peaks for 1-2-3-4-year level shifts. The remaining time lags are characterized by monotonically decreasing significantly lower ACF values. As a result of the revealed features of the dynamics and unsteadiness of BP levels, the use of a neural network approach for forecasting yields in risky farming conditions, in particular in the Lower Volga region, is justified. It is recommended to use the neural network module SNN V. 4 of the computer system of statistical analysis Statistixa, which provides flexible construction of ins. The ins architecture in the form of a multi-layer perceptron MLP and an algorithm for its formation in the SNN V. 4 environment are justified for predicting yield on the example of grain crops. The main goal of the numerical experiments was to identify patterns of influence of the value of the parameter "time window Size" on the optimal
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
configuration and quality indicators of the ins. The results of the numerical experiments are presented in tabular form. The most successful network configurations according to the R2 criterion were obtained for the number of neurons in the layers (5-8-1; 1-9-1 and 2-8-1), which can be used to build and configure ins that target other crop groups. Conclusions. Methods of statistical analysis revealed that in conditions of risky agriculture, the statistical distribution of levels of BP yields differ significantly from the normal one, which hinders the use of linear methods based on MNC estimates to build predictive models of crop yields of time series. It is established that when the built-in tool of the SNN module for building ins a priori offers the user to accept the number of neurons in the hidden layer in the amount of half the sum of the number of neurons at the ins inputs and outputs, then as a result of automated network runs, their number changes for optimal options. This requires numerical experiments and research, which can be implemented in the automated mode of SNN operation. A method for constructing a STATISTICA system in the automated SNN mode and training ins models for predicting the yield of grain crops has been developed. The method includes identifying the cyclical nature of the simulated BP at the stage of pre-forecast analysis, and taking these indicators into account in the formation of ins macroparameters, which improves the quality of neural network models according to the MSE criterion.
Key words: agricultural crops, productivity, vegetation index, monitoring, unmanned aerial vehicles.
Citation: Rogachev A. F. Melikhova E. V. Justification of algorithms and tools for neural network forecasting of agricultural productivity using retrospective data. Proc. of the Lower Volga Agro-University Comp. 2020. 1(57). 290-302 (in Russian). DOI: 10.32786/2071-9485-2020-01-29.
Author's contribution. All authors of this research paper have directly participated in the planning, execution, or analysis of this study. All authors of this paper have read and approved the final version submitted.
Conflict of interest. The authors declare no conflict of interest.
УДК 631.559:519.237.5
ОБОСНОВАНИЕ АЛГОРИТМОВ И ИНСТРУМЕНТАРИЯ ДЛЯ НЕЙРОСЕТЕВОГО ПРОГНОЗИРОВАНИЯ УРОЖАЙНОСТИ АГРОКУЛЬТУР С ИСПОЛЬЗОВАНИЕМ РЕТРОСПЕКТИВНЫХ ДАННЫХ
А. Ф. Рогачев1'2, доктор технических наук, профессор Е. В. Мелихова1, кандидат технических наук, доцент
1Волгоградский государственный аграрный университет, г. Волгоград 2 ФГБНУ «Всероссийский НИИ орошаемого земледелия», г. Волгоград
Дата поступления в редакцию 25.12.2019 Дата принятия к печати 06.03.2020
Статья подготовлена при финансовой поддержке РФФИ и Администрации Волгоградской
области по проекту № 19-416-340014 «Создание нейросетевой системы управления программируемым аграрным производством с использованием ретроспективных данных и результатов дистанционного зондирования для засушливых условий Волгоградской области»
Актуальность. Обеспечение продовольственной безопасности требует совершенствования методов прогнозирования продуктивности возделываемых сельскохозяйственных культур. В сфере аграрного производства применяют различные технологии построения искусственных нейронных сетей (ИНС), преимущественно для прогнозирования урожайности сельскохозяйственных культур. Предварительно формируют репрезентативные выборки временных рядов (ВР) многолетних уровней урожайности, выполняют их предпрогнозную обработку, обосновывают архитектуру и макропараметры проектируемой ИНС, а также алгоритмы ее обучения, адекватные проблеме. При этом необходимо, чтобы разработчик программы нейросете-вого моделирования располагал априорными знаниями о структуре и специфике моделируемых
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
ВР для обоснования архитектуры и макропараметров создаваемой ИНС. Объект исследования -временные ряды многолетних уровней урожайности группы зерновых культур, закономерности изменения которых моделируют с использованием ИНС. Методы исследования. Представлена методология и результаты обоснования выбора алгоритмов и компьютерного инструментария для прогнозирования урожайности сельскохозяйственных культур с использованием ретроспективных данных. Построение регрессионной модели и автокорреляционный анализ уровней ВР проводилось методами статистического анализа. Аппроксимация ВР урожайности зерновых выполнялась для Волгоградской области за 69 лет, включая 2018 г. Классификация характеристик базовых архитектур ИНС была проведена для построения семейства ИНС с целью обоснования его предпочтительной архитектуры, конфигурации и макропараметров. Результаты и обсуждение. Статистический анализ ВР урожайности зерновых позволил установить, что аппроксимация полиномом 3-й степени показала неудовлетворительные результаты по критерию R2 = 0,46. Установлено, что в условиях рискованного земледелия, статистические распределения уровней ВР урожайностей, существенно отличаются от нормального, что сдерживает использование основанных на МНК-оценках линейных методов, для построения прогнозных моделей ВР урожайности сельскохозяйственных культур, в частности, зерновых. С целью учета и использования при конфигурировании проектируемой ИНС, в среде Excel был проведен автокорреляционный анализ рассматриваемого ВР урожайности, который выявил заметные пики для 1-2-3-4- летних смещений уровней. Остальные временные лаги характеризуются монотонно убывающими значительно меньшими значениями АКФ. Вследствие выявленных особенностей динамики и не стационарности уровней ВР обосновано применение нейросетевого подхода для прогнозирования урожайности в условиях рискованного земледелия, в частности Нижнего Поволжья. Рекомендовано применение нейросетевого модуля SNN v.4 компьютерной системы статистического анализа Statistiсa, обеспечивающей гибкое построение ИНС. Для прогнозирования урожайности на примере зерновых культур обоснована архитектура ИНС в форме многослойного персептрона MLP и алгоритм для ее формирования в среде SNN v.4. Основной целью численных экспериментов было выявление закономерностей влияния значения параметра «Размер временного окна» на оптимальную конфигурацию и показатели качества ИНС. Результаты проведенных численных экспериментов представлены в табличной форме. Наиболее удачные конфигурации сетей по критерию R2 получены для числа нейронов в слоях (5-8-1; 1-9-1 и 2-8-1), что можно использовать для построения и конфигурирования ИНС, ориентированных на другие группы сельскохозяйственных культур. Выводы. Методами статистического анализа выявлено, что в условиях рискованного земледелия статистические распределения уровней ВР урожайностей существенно отличаются от нормального, что сдерживает использование основанных на МНК-оценках линейных методов, для построения прогнозных моделей ВР урожайности агрокультур. Установлено, что в случае когда встроенное средство модуля SNN построения ИНС априори предлагает пользователю принять количество нейронов в скрытом слое в размере полусуммы числа нейронов на входах и выходах ИНС, то в результате автоматизированных прогонов сети их количество для оптимальных вариантов меняется. Это требует проведения численных экспериментов и исследований, что возможно реализовать в автоматизированном режиме функционирования SNN. Разработана методика построения в автоматизированном режиме SNN системы Statistiсa и обучения ИНС-моделей для прогнозирования урожайности зерновых культур. Методика включает выявление на этапе предпрогнозного анализа цикличности моделируемых ВР и учет этих показателей при формировании макропараметров ИНС, что обеспечивает повышение качества нейросетевых моделей по критерию MSE.
Ключевые слова: сельскохозяйственные культуры, урожайность сельскохозяйственных культур, вегетационный индекс, мониторинг урожайности, беспилотные летательные аппараты, прогнозирование урожайности.
Цитирование: Рогачев А. Ф. Мелихова Е. В. Адаптация алгоритмов и обоснование инструментария для нейросетевого прогнозирования урожайности агрокультур с использованием ретроспективных данных. Известия НВ АУК. 2020. 1(57). 290-302. DOI: 10.32786/2071-94852020-01-29.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
Авторский вклад. Все авторы настоящего исследования принимали непосредственное участие в планировании, выполнении или анализе данного исследования. Все авторы настоящей статьи ознакомились и одобрили представленный окончательный вариант.
Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов.
Введение. Обеспечение продовольственной безопасности требует совершенствования методов прогнозирования продуктивности возделываемых сельскохозяйственных культур [13, 14, 16]. В сфере аграрного производства традиционно применяемые технологии построения искусственных нейронных сетей (ИНС) [2, 4, 5, 9], преимущественно для прогнозирования урожайности сельскохозяйственных культур, базируются на следующем подходе [1, 3, 6, 12]. Предварительно подбирают репрезентативные выборки временных рядов (ВР) многолетних уровней урожайности, выполняют их предпрогнозную обработку, обосновывают архитектуру и макропараметры проектируемой ИНС, а также алгоритмы ее обучения, адекватные проблеме. ИНС для решения задачи прогнозирования в автоматизированном режиме воспроизводит структуру и внутренние закономерности ВР исходных данных. При этом желательно, чтобы разработчик программы нейросетевого моделирования располагал априорными знаниями о структуре и специфике моделируемых ВР для обоснования архитектуры и макропараметров создаваемой ИНС. Ряд авторов отмечает, что уровень априорной информации для успешного применения таких методов существенно уже, чем при использовании классических методов эконометрики и математической статистики [15, 17].
Ввиду сложности и нестационарности структуры моделируемого ВР урожайности, необходим анализ различных конфигураций проектируемой ИНС, проведения которого целесообразно на основе специализированной программной оболочки, обеспечивающей вариацию архитектур в автоматизированном режиме [18, 19].
Материалы и методы. Объект исследования - временные ряды многолетних уровней урожайности группы зерновых культур, закономерности изменения которых моделируют с использованием ИНС. Исходными данными для нейросетевого моделирования и прогнозирования были представленные на рисунке 1 многолетние ряды урожайности, полученные из официальных сборников Федеральной службы государственной статистики по Волгоградскому региону. С целью обоснования выбора специализированной нейросетевой программной оболочки авторами были выявлены коммерческие программы (статистический пакет STATISTrcA с нейросетевым модулем SNNv. 4.0, среда компьютерного моделирования MatLab, платформа DEDUCTOR. Кроме того, анализировались облачные сервисы, в частности Google Colaboratory на языке высокого уровня Python 3, обладающие обширным набором встроенных библиотек машинного обучения (ML) и другие. По сочетанию таких функциональных возможностей, как удобство интеграции с другими программными пакетами, мобильности, масштабируемости и доступности исследователем, для дальнейших численных экспериментов был выбран пакет Statist^a, сопрягаемый с нейросетевым модулем SNNv. 4.0.
Задача прогнозирования уровней ВР различной природы является частным случаем более общей классической задачи построения регрессии. Отметим, что в модуле ST Neural Networks предусмотрена возможность прогноза ВР и номинальных переменных, в том числе нечетких лингвистических. Применения пакета ST Neural Networks обеспечивает построения прогноза во времени будущих значений уровней ВР урожайности, зависящих от предыдущих.
Пакет ST Neural Networks (SNN) позволяет выполнять прогноз уровней ВР c различными периодами построения прогнозов. Предусмотрена возможность построения т.н. «проекции» ВР. После получения предсказываемого текущего прогнозного
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
значения уровня ВР оно может вводиться в ИНС совместно с предыдущими, после чего с его использованием формируется новый прогноз. Таким образом реализуется проекция ВР, которую можно осуществлять при прогнозировании на один шаг.
Понятно, что точность проекции ВР понижается с увеличением периода прогноза. В случае когда необходима большая протяженность прогноза, (например, при средне- и долгосрочном прогнозе), формирование обучающей, проверочной и тестовой выборок для процедуры обучения сети необходимо проводить именно на такую глубину.
Результаты и обсуждение. Предпрогнозный анализ и формирование обучающей, проверочной и тестовой выборок.
Аппроксимация ВР урожайности зерновых для Волгоградской области за 69 лет, включая 2018 г. (рисунок 1) посредством полинома 3-й степени представлена зависимостью (1).
Y = 0,0002 t3 - 0,0216 t2 + 0,767 t + 3,0966, (1)
где Y - урожайность, ц/га; t - номер года исследований.
Аппроксимация показала неудовлетворительную сходимость по критерию R = 0,46. Вследствие этого обосновано применение нейросетевого подхода для прогнозирования ВР урожайности в условиях рискованного земледелия, в частности Нижнего Поволжья (рисунок 1).
Для учета и использования при конфигурировании проектируемой ИНС был реализован автокорреляционный анализ рассматриваемого ВР урожайности, проведенный в среде Excel, который выявил заметные пики для 1-2-3-4- летних лагов исходного ВР (сдвигов по времени R1-R4) (рисунок 2). Остальные временные лаги характеризуются монотонно убывающими значительно меньшими значениями АКФ.
Для задания архитектуры и конфигурации ИНС в программном модуле SNN используются два параметры окна - «create Network» Число шагов (Steps) и Горизонт предвидения (Lookahead). Первый задает количество подаваемых ИНС предшествующих уровней ВР. Значение Горизонт предвидения задает количество шагов, на которое формируют прогноз поведения ВР. В рассматриваемой модели ВР входной и выходной являются уровни одной и той же переменной урожайности.
Рисунок 1 - Диаграмма ВР урожайности зерновых культур, Волгоградская область Figure 1 - TS diagram of grain yield, Volgograd region
294
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА: НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
Рисунок 2 - Коррелограмма ВР урожайности зерновых культур Figure 2 - Correlogram of TS of grain yield
Для задачи прогнозирования ВР используют предобработку (препроцессирование) подаваемых на вход ИНС данных [11], используя не каждый из уровней, а их агрегированные значения. Процедура обучения ИНС методом обратного распространения реализуется обычным образом.
При нейросетевом моделировании уровней ВР возникает проблема трактовки обучающей, проверочной и тестовой выборок, а также данных, не учитываемых в процессе обучения ИНС.
Отметим, что часть начальных уровней ВР могут быть использованы исключительно в качестве входных. Выбор номеров уровней ряда определяется выходными значениями. Поэтому несколько первых наблюдений нельзя выбирать произвольно, так как для этого необходимы предшествующие наблюдения, поэтому они автоматически помечаются программой SNN как «не учитываемые».
Create Network I ^ I1
lype Time Series Steps
Multilayer Perception
E
1
Q Lookahead ^ Pre/Post Processing
» Outputs [i Q No Layers Q
Advisf
Create
Close
Inputs
тыт\ UROG ZEF! Convert
Minimaх
UROG ZER Minimax
< _l ►
\№\Ы№\ Layer 1 Units
Layer 2 20
Layer 3
< "J ►
Рисунок 3 - Окно формирования ИНС для прогнозирования ВР урожайности
Figure 3 - Window for generating ANN for predicting BP yields
После разделения входных переменных на перечисленные категории построение ИНС предусматривало следующие рекомендуемые этапы:
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
- Выбор начальной конфигурации ИНС. По умолчанию, встроенный Советник (Network Advisor) рекомендует конфигурацию с одним скрытым слоем, количество элементов которого равно полусумме числа нейронов на входном и выходном слоях.
- Реализовать ряд экспериментов в автоматизированном режиме с набором конфигураций ИНС, фиксируя наилучшую из них по принятому критерию точности. Отметим, что для каждого прогона следует выполнить несколько запусков, чтобы избежать случайного попадания в локальные минимумы рассчитываемой сетью целевой функции ошибок.
Обоснование архитектуры проектируемой нейросети. Основные рекомендации по выбору общей архитектуры ИНС, которыми авторы руководствовались при построении нейросетевых моделей, сведены в таблице 1.
Таблица 1 - Основные характеристики архитектур ИНС Table 1 - Main characteristics of ANN architectures
Название / Name Тип ИНС / type of ANN Принцип работы / Principle of operation Решаемые задачи / Tasks to be Solved
1 2 3 4
Многослойный персептрон / Multilayer perceptron MLP Каждый из нейронов ИНС рассчитывает взвешенную сумму своих входов с добавлением порогового значения, которую преобразует посредством функции активации. Слои организованы в полносвязную топологию / Each of the ANN neurons calculates a weighted sum of its inputs with the addition of a threshold value, which it converts using the activation function. Layers are organized in a fully connected topology Моделирует произвольные функции, сложность которых задается количеством слоев и нейронов в них. / Simulates arbitrary functions whose complexity is determined by the number of layers and neurons in them.
Радиальная базисная функция/ Radial basic function RBF ИНС включает скрытый слой из радиальных нейронов, каждый из которых воспроизводит гауссову поверхность. Для произвольной функции необходимо достаточное количество радиальных элементов / The ANN includes a hidden layer of radial neurons, each of which reproduces a Gaussian surface. An arbitrary function requires a sufficient number of radial elements. Обучается значительно быстрее по сравнению с MLP. Очень чувствительны к проблеме «проклятия размерности», при значительном числе входов / It learns much faster than MLP. Very sensitive to the «dimension curse» problem, with a significant number of inputs
Веро-ятнос-тная нейро-сеть / Probabilistic neural network PNN Сеть включает входной, радиальный и выходной слои. Радиальные элементы используются на каждое из обучающих наблюдений и формируют гауссову функцию с центром в нем. Каждому определяемому классу соответствует один выходной элемент. Значения выходных сигналов пропорциональны вероятности принадлежности соответствующим классам / The network includes input, radial, and output layers. Radial elements are used for each of the training observations and form a Gaussian function with the center in it. Each defined class has one output element. The values of the output signals are proportional to the probability of belonging to the corresponding classes. Применяется в нейро-генетических алгоритмах подбора значимых входных переменных. Выходные значения несут интерпретируемый вероятностный смысл. PNN обучается быстро / It is used in neuro-genetic algorithms for selecting significant input variables. The output values have an interpreted probabilistic meaning. PNN learns quickly.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
Окончание таблицы 1
1 2 3 4
Обобщенно-регрессионная нейросеть / Generalized regression neuronetwork GRN N Первый из скрытых слоев включает радиальные нейроны. Второй скрытый слой включает нейроны, позволяющие оценить взвешенное среднее. Число нейронов во втором скрытом слое на единицу больше, чем в выходном / The first of the hidden layers includes radial neurons. The second hidden layer includes neurons that allow you to estimate the weighted average. The number of neurons in the second hidden layer is one more than in the output layer Сеть предназначена для решения задач регрессии, ов которых обычно оценивают единственное значение. Второй скрытый слой содержит 2 элемента / The network is intended for solving regression problems, the s of which usually evaluate a single value. The second hidden layer contains 2 elements
Линейная сеть / A linear network Не содержит скрытых слоев, в выходном слое только элементы с линейной активацией. Сеть умножает вектор входов на матрицу весовых коэффициентов и суммирует с вектором смещений / Does not contain hidden layers, only elements with linear activation in the output layer. The network multiplies the input vector by the weight coefficient matrix, and sums it with the offset vector Удобная база для сравнения качества других ИНС. Когда в задаче не много данных, то нет смысла усложнять архитектуру / A convenient base for comparing the quality of other ins. When there is not a lot of data in the task, it makes no sense to complicate the architecture
Сеть Кохонена / kohonen network Содержит только 2 слоя из радиальных элементов: входной и выходной, являющийся двумерной топологической картой. Обучение выполняется итерационно, «без учителя», начиная со случайно выбираемого начального расположения центров / Contains only 2 layers of radial elements: input and output, which is a two-dimensional topological map. Training is performed itera-tively, «without a teacher», starting with a randomly selected initial location of centers Применение для предварительного анализа данных. Сеть может выявлять кластеры. Возможно улучшение понимания структуры данных для последующего уточнения ИНС / Application for preliminary data analysis. The network can identify clusters. It is possible to improve the understanding of the data structure for further clarification of the ANN
Если выявляется эффект переобучения ИНС, то следует уменьшить число нейронов в скрытых слоях или удалить один из скрытых слоев ИНС.
Практика численных экспериментов показывает, что поиск оптимальных конфигураций ИНС достаточно трудоемкий, поэтому в модуле SNN предусмотрен режим автоматического поиска - AND (Automatic Network Designer). Алгоритм AND позволяет проводить численные эксперименты с различным количеством нейронов в скрытых слоях. В алгоритме AND используются различные методы, например, {{искусственного отжига» (simulated annealing).
Для формирования файла входных данных из модуля Нейронные сети необходимо выполнить:
1. В окне Создать набор данных (Create Data Set), используя пункт Набор данных (Data Set) из меню Файл — Новый.
2. Ввести значения для числа входных - (Inputs) и выходных (Outputs) переменных в наборе данных.
3. Кнопкой Создать (Create) запустить процесс выполнения.
Отметим, что имена входных переменных выводятся черным цветом, выходных -голубым, а входы от выходов отделяются темными вертикальными линиями.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА: НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
В компьютерной среде Statistica для формирования многослойного персептрона применяли следующий алгоритм:
1. Запуск модуля Нейронные сети.
2. Открытие файла входных данных, например «Урожайность зерновых культур», пункт (File-Open).
3. После открытия файла данных переходят к созданию ИНС, для чего выбирают команды: Новая Сеть (New—Network) из меню File.
4. Создают структуру сети. Для этого в диалоговом окне выбирают параметры:
- В поле Тип (Туре) — устанавливают тип ИНС, например, Многослойный пер-септрои (MLP).
- Задают параметр Число шагов (Steps) с учетом результатов проведенного предварительно авторегрессионного анализа, например согласно лагу 4 ВР.
- Параметр Горизонт предвидения (Lookahea)d устанавливаем равным 1 для получения краткосрочного прогноза.
Уровни ВР урожайности являются значениями одной переменной. Чтобы определить ее как входную/выходную, необходимо на заголовке таблицы ее выделить, а в появившемся меню выбрать Input/Output. В окне Число слоев (№ Layers) выбирают число скрытых слоев ИНС. В SNN предусмотрены режимы - Советовать (Advise) и -Создать (Create). Следовательно, модуль SNN позволяет формировать требуемую архитектуру ИНС. Анализ построенной ИНС обеспечивается следующими встроенными средствами SNN:
1. Элемент управления Создать (Create) выводит в рабочее окно SNN графическое изображение структуры созданной сети. Отметим, что встроенный Интеллектуальный Советник (Intelligent Problem Solver) позволяет реализовать алгоритм создания и конфигурирования ИНС в автоматизированном режиме, включая рекомендованный выше выбор временного окна (рисунок 4).
2. В режиме Редактора сети (Network Set Editor) возможно просматривать или редактировать ИНС, выбирать вид функции активации нейронов каждого слоя, а также пороговые значения активации нейронов.
ПУ
Рисунок 4 - Ввод размера временного окна для создаваемой ИНС в «Intelligent Problem Solver»
Figure 4 - Entering the size of the time window for the created ANN in «Intelligent Problem Solver»
При использовании построенной ИНС с применением сформированных в Statistica файлов входных данных проводились численные эксперименты с различными архитектурами и конфигурациями.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА: НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
Основной целью экспериментов было выявление закономерностей влияния значения параметра «Размер временного окна» на оптимальную конфигурацию и показатели качества ИНС .
Результаты проведенных численных экспериментов, представленные в табличной форме, могут быть использованы для конфигурирования ИНС, ориентированных на другие группы сельскохозяйственных культур (таблица 2). Наиболее удачные конфигурации сетей по критерию R2 (5-8-1; 1-9-1 и 2-8-1) в таблице 2 залиты цветом.
jet Network Set Editor (UROG.ZERN.50.12.f5.st_5) | a 4 S S3
Current network I2 [p fietai shown i^ii 3 Ofifont... I
mmm
01
02-
03
04
05
08
07
08
09
10
12
13
14
15
18
17
18
19
Type Ieicm llncuts ll
Hidden
F'eiloiri-i.jnre
Linear RBF RBF RBF RBF MLP MLP MLP MLP MLP RBF RBF Linear MLP MLP MLP MLP MLP MLP
UT D
6.060423 4.960121 4.610 4.549 4.500 3.713 3.705 3.6S4
s.sie
3.372 5.008 4.853 4.112 4.081 4.07 4.070 4.06 4.063 4.041
- 1.060421 4 1.056098
Network Editor (UROG.ZERN_50_12_f5.st_5,02) | cd || S
□
Errof furtclton
Layer fi IJnil$ Act fn | Linear
Belete | Width pi § gSPfn |Linear
Connections Shown | Cunent layer
HNHallui
UROG ZER- lUROG ZER- lUROG ZER
• luROG
ZER-
Рисунок 5 - Ввод опций в окне Редактора нейронной сети
Figure 5 - Entering options in the neural network Editor window
Таким образом, реализована возможность построения архитектуры многослойного персецтрона - с оптимальным количеством слоев и составляющих их нейронов.
Таблица 2 - Сравнение архитектуры и характеристик MLP
Table 2 - Comparison of M LP architecture and characteristics
№ архитектуры / architecture Число нейронов во входном слое / Number of neu- Число нейронов в скрытом слое / Number of neurons in the hidden S.D. Ratio R2
rons in the input layer layer
1 1 9 0,96 0,31
2 2 8 0,92 0,39
3 3 8 0,72 0,70
4 4 7 0,39 0,92
5 5 8 1,02 0,20
6 6 9 0,93 0,37
7 7 8 0,54 0,84
8 8 8 0,93 0,38
9 9 10 0,94 0,34
10 10 4 0,24 0,96
11 11 11 0,74 0,69
12 12 8 0,56 0,83
13 13 13 0,51 0,86
14 14 15 0,70 0,74
15 15 15 0,93 0,36
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
Отметим, что если «мастер построения сети» рекомендует число нейронов в скрытом слое, равном половине сумм нейронов на входах и выходах, то в результате автоматизированных прогонов сети их число для оптимальных вариантов, представленных в таблице 3, меняется.
В качестве перспективного направления совершенствования нейросетевого подхода можно рассматривать нечеткие методы прогнозирования ВР [7, 8, 10].
Выводы. Методами статистического анализа установлено, что в условиях рискованного земледелия статистические распределения уровней ВР урожайностей существенно отличаются от нормального, что сдерживает использование основанных на МНК-оценках линейных методов, для построения прогнозных моделей ВР урожайности агрокультур. Установлено, что в случае когда встроенное средство модуля SNN построения ИНС априори предлагает пользователю принять количество нейронов в скрытом слое в размере полусуммы числа нейронов на входах и выходах ИНС, в результате автоматизированных прогонов сети их количество для оптимальных вариантов меняется. Это требует проведения численных экспериментов и исследований, что возможно реализовать в автоматизированном режиме функционирования SNN. Разработана методика построения в автоматизированном режиме SNN системы Starist^ и обучения ИНС-моделей для прогнозирования урожайности зерновых культур. Методика включает выявление на этапе предпрогнозного анализа цикличности моделируемых ВР и учет этих показателей при формировании макропараметров ИНС, что обеспечивает повышение качества нейросетевых моделей по критерию MSE.
Библиографический список
1. Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение. М.: ДМК Пресс, 2018. 652 с.
2. Заводчиков Н. Д., Спешилова Н. В., Таспаев С. С. Использование нейросетевых технологий в прогнозировании эффективности производства зерна // Известия Оренбургского государственного аграрного университета. 2015. № 1 (51). С. 216-219.
3. Каширина И. Л., Демченко М. В. Исследование и сравнительный анализ методов оптимизации, используемых при обучении нейронных сетей // Вестник ВГУ, Сер.: Системный анализ и информационные технологии. 2018. № 4. С. 123-132.
4. Михайленко И. М. Развитие методов и средств применения данных дистанционного зондирования земли в сельском хозяйстве // Тенденции развития науки и образования. 2018. № 41-3. С. 70-83.
5. Михайленко И. М. Управление агротехнологиями и роботизированные средства реализации // Инновации в сельском хозяйстве. 2019. № 1 (30). С. 242-258.
6. Николенко C., Кадурин А., Архангельская Е. Глубокое обучение. СПб.: Питер, 2018. 480 с.
7. Averkin A. N., Pilato G., Yarushev S. A. An approach for prediction of user emotions based on ANFIS in social networks // Fuzzy Technologies in the Industry - FTI 2018 Proceedings of the II International Scientific and Practical Conference. 2018. P. 126-130.
8. Crops reclamation management based on hybrid neuro-fuzzy systems. IOP Conference Series / K.E. Tokarev at al. // Earth and Environmental Science. 2020. N.421(4), art. no. 042015.
9. Estimation of condition of cultivated pastures under remote sensing of earth / V. I. Trukha-chev at all.// Engineering for Rural Development Proceedings. 2019. P. 442-449.
10. Gunasekaran M., Ramaswami K.S. A Fusion Model Integrating ANFIS and Artificial Immune Algorithm for Forecasting Indian Stock Market // Journal of Applied Sciences. 2011. N.11(16). P. 3028-3033. DOI: 10.3923/jas.2011.3028.3033.
11. Jordan J. Intro to optimization in deep learning: Gradient Descent // Paperspace. Series: Optimization. 2018. URL: https://blog.paperspace.com/intro-to-optimization-in-deep-learning-gradient-descent.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
12. Kawaguchi K. Deep Learning without Poor Local Minima // Advances in Neural Information Processing Systems. 2016. URL: http://arxiv.org/abs/1605.07110.
13. Rogachev A. F., Mizyakina O. B., Myagkova T. L. Food Security of Region as Component of Economic Security // Revista ESPACIOS. 2018. Vol. 39 (# 03) P. 23.
14. Rogachev A. F., Shokhnekh A. V., Melikhova E. V. Monitoring and Economic & Mathematical Modeling of Manufacture and Consumption of Agricultural Products as a Tool of Food Security Management // Revista ESPACIOS. 2018. Vol. 39 (N° 01) P. 1
15. Rogachev A.F. Fuzzy Set Modeling of Regional Food Security. Perspectives on the Use of New Information and Communication Technology (ICT) in the Modern Economy. ISC 2017. Advances in Intelligent Systems and Computing. 2019. Vol. 726. Springer, Cham.
16. Rogachev A.F., Melikhova E.V., Shokhnekh A.V. Monitoring and economic & mathematical modeling of manufacture and consumption of agricultural products as a tool of food security management // Espacios. 2018. V. 39. № 1. P. 255.
17. Ruder S. An overview of gradient descent optimization algorithms // Cornell University Library. 2016. URL: https://arxiv.org/abs/1609.04747.
18. Ruder S. Optimization for Deep Learning Highlights in 2017 // Optimization for Deep Learning Highlights in 2017. 2017. URL: http://ruder.io/deep-learning-optimization-2017.
19. Schraudolph N. N., Yu J., Gunter S. A Stochastic Quasi-Newton Method for Online Convex Optimization // Statistical Machine Learning. 2017. URL: http://proceedings.mlr.press/v2/schraudolph07a/schraudolph07a.pdf
20. Understanding deep learning requires rethinking generalization / C. Zhang, S. Bengio, S. Bengio, M. Hardt, B. Recht, O. Vinyals // Cornell University Library. 2016. URL: https://arxiv.org/abs/1611.03530.
21. Wilson, R. Roelofs, M. Stern, N. Srebro, B. Recht // Cornell University Library. 2017. URL: https://arxiv.org/abs/1705.08292.
Conclusions. Statistical analysis methods revealed that in conditions of risky agriculture, the statistical distributions of the BP yield levels differ significantly from the normal one, which hinders the use of linear methods based on MNC estimates to build predictive models of the BP yield of agricultural crops. It is established that when the built-in tool of the SNN module for building ins a priori offers the user to accept the number of neurons in the hidden layer in the amount of half the sum of the number of neurons at the ins inputs and outputs, then as a result of automated network runs, their number changes for optimal options. This requires numerical experiments and research, which can be implemented in the automated mode of SNN operation. A method for constructing a STATISTICA system in the automated SNN mode and training ins models for predicting the yield of grain crops has been developed. The method includes identifying the cyclical nature of the simulated BP at the stage of pre-forecast analysis, and taking these indicators into account in the formation of ins macroparameters, which improves the quality of neural network models according to the MSE criterion.
References
1. Gudfellou Ya., Bendzhio I., Kurvill' A. Glubokoe obuchenie. M.: DMK Press, 2018. 652 p.
2. Zavodchikov N. D., Speshilova N. V., Taspaev S. S. Ispol'zovanie nejrosetevyh tehnologij v prognozirovanii ]ffektivnosti proizvodstva zerna // Izvestiya Orenburgskogo gosudarstvennogo agrar-nogo universiteta. 2015. № 1 (51). P. 216-219.
3. Kashirina I. L., Demchenko M. V. Issledovanie i sravnitel'nyj analiz metodov optimizacii, ispol'zuemyh pri obuchenii nejronnyh setej // Vestnik VGU, Ser.: Sistemnyj analiz i informacionnye tehnologii. 2018. № 4. P. 123-132.
4. Mihajlenko I. M. Razvitie metodov i sredstv primeneniya dannyh distancionnogo zondi-rovaniya zemli v sel'skom hozyajstve // Tendencii razvitiya nauki i obrazovaniya. 2018. № 41-3. P. 70-83.
НИЖНЕВОЛЖСКОГО АГРОУНИВЕРСИТЕТСКОГО КОМПЛЕКСА НАУКА И ВЫСШЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
5. Mihajlenko I. M. Upravlenie agrotehnologiyami i robotizirovannye sredstva realizacii // In-novacii v sel'skom hozyajstve. 2019. № 1 (30). P. 242-258.
6. Nikolenko C., Kadurin A., Arhangel'skaya E. Glubokoe obuchenie. SPb.: Piter, 2018. 480 p.
Authors Information
Alexey Fruminovich Rogachev, head of the Department of mathematical modeling and Informatics, Volgograd state agrarian University (26 Universitetskiy Ave., Volgograd, 400002), doctor of technical Sciences, Professor, e-mail: [email protected]
Elena Valentinovna Melikhova, associate Professor, Department of mathematical modeling and Informatics, Volgograd state agrarian University (26 Universitetskiy Ave., Volgograd, 400002), candidate of technical Sciences, associate Professor, e-mail: [email protected]
Информация об авторах Рогачев Алексей Фруминович, заведующий кафедрой математического моделирования и информатики ФГБОУ ВО «Волгоградский государственный аграрный университет» (400002, Волгоград, пр-т Университетский, 26), доктор технических наук, профессор, e-mail: [email protected] Мелихова Елена Валентиновна, доцент кафедры математического моделирования и информатики ФГБОУ ВО «Волгоградский государственный аграрный университет» (400002, Волгоград, пр-т Университетский, 26), кандидат технических наук, доцент, e-mail: [email protected]
DOI: 10.32786/2071-9485-2020-01-30 INCREASING THE BRAKING EFFICIENCY OF WHEELED VEHICLE WITH
ANTI-LOCK SYSTEMS
V. M. Zotov1, V. N. Khavronina1, E. V. Shishkina1, V. V. Bumagin2
1 Volgograd State Agrarian University, Volgograd 2Volgograd State University, Volgograd
Received 09.01.2020 Submitted 06.03.2020
Summary
This article presents the results of a theoretical and numerical study to improve the active safety of wheeled vehicles due to the efficiency of anti-lock braking systems (ABS). The effectiveness of the ABS is achieved by changing the response algorithm of the logical control unit of the ABS modulators according to the measured in real time angular velocity and pressure in the brake cylinder on the wheel. As a result, the braking distance is minimized during emergency braking of wheeled vehicles while maintaining controllability and directional stability.
Abstract
Introduction. To ensure the active safety of wheeled vehicles, anti-lock braking systems (ABS) are used. The ABS super-task is to minimize the braking distance in the absence of wheel lock while maintaining directional stability and handling. To do this, it is necessary to provide a ratio of the angular ю and longitudinal V speeds for each wheel at which the longitudinal slippage coefficient S(m; V) of the wheel in the spot of contact with the road belongs to the gap
S = (S* ± AS) < Sm, (1)
where Sm is the value at which the coefficient of longitudinal adhesion ф (S) of the wheel with the road is equal to its maximum value: ф щ=ф (Sm).
Parameter S* is set in such a way that, over a larger portion of the braking distance, the longitudinal adhesion coefficient ф would be close in magnitude to its maximum value:
ф (S *) ~ ф т=ф (Sm) при S*< Sm.
In this case, the negative longitudinal acceleration of the wheel axis relative to the road is on average close to its maximum. Thus, for the anti-lock system to fulfill the above-mentioned super-task, it is necessary to know at each moment of time the angular and longitudinal wheel speeds. The methods for determining the angular velocity of the wheel during braking are technically well developed and
