CC BY
159
УДК 338.2
Г орбатков Станислав Анатольевич
Финансовый университет при Правительстве российской Федерации
Уфимский филиал Российская Федерация, Уфа Доктор экономических наук, профессор.
E-Mail: sgorbatkov@mail.ru
Белолипцев Илья Игоревич
Финансовый университет при Правительстве российской Федерации
Уфимский филиал Российская Федерация, Уфа E-Mail: red7315@gmail.com
Гибридный метод оценки риска банкротств на базе байесовского ансамбля нейросетей и ^ії-модели
Аннотация: Построение эффективных моделей диагностики банкротств представляет интерес как для кредитных организаций при оценке кредитоспособности заемщиков, так и для инвесторов и владельцев бизнеса при проведении анализа финансового состояния предприятия. В настоящее время существует более 200 моделей диагностики банкротств, большая часть которых основана на методах дискриминантного анализа. Однако существует ряд проблем, ограничивающих использование дискриминантных моделей на практике: проблема мультиколлинеарности факторов, необходимость соблюдения нормального закона распределения переменных модели, наличие зон неопределенности. Современные методы logit-анализа, нейросетевые и нечеткие методы позволяют создавать эффективные модели оценки риска банкротства, отвечающие современным условиям. В данной статье предлагается оригинальный метод построения нейросетевой модели оценки риска банкротства, основанный на байесовской методологии регуляризации. Получаемая модель, свободна от недостатков, присущих дискриминантным моделям, позволяет учитывать нелинейный характер связи моделируемой величины от факторов и определяет конкретную вероятность наступления банкротства, то есть отсутствуют зоны неопределенности, что значительно облегчает принятие управленческих решений. Предложенный метод был апробирован в вычислительных экспериментах. Было получено убедительное подтверждении эффективности байесовского подхода к моделированию сложных экономических систем.
Ключевые слова: Нейросеть; вероятность банкротства; ^^-трансформация;
байесовский подход; модели банарного отклика.
Идентификационный номер статьи в журнале 25БУЫ613
Stanislav Gorbatkov
Financial University under the Government of the Russian Federation
Ufa branch Russia, Ufa E-Mail: sgorbatkov@mail.ru
Iliya Beloliptsev
Financial University under the Government of the Russian Federation
Ufa branch Russia, Ufa E-Mail: red7315@gmail.com
A hybrid method for estimating the risk of bankruptcies based on Bayesian neural network ensemble and the logit-model
Abstract: Effective models for diagnostics of bankruptcies is of interest for credit institutions in assessing the creditworthiness of borrowers and investors and business owners in the analysis of the financial condition of the company. There are more than 200 models of diagnostics of bankruptcies, most of which is based on the methods of discriminant analysis. However, there are a number of problems that make it difficult using of discriminant models in practice: the problem of multicollinearity of factors, nesessity of normal distribution of the variables in the model, the presence of areas of uncertainty. Modern methods of logit-analysis, neural networks and fuzzy methods allow to create an effective models, meet modern conditions. In this paper we propose an original method of constructing neural network model of assessment of bankruptcy risk, based on Bayesian methodology of regularization. The resulting model is free from the drawbacks of the discriminant models, takes into account the non-linear nature of the relationship of the simulated values of factors, determines the specific probability of bankruptcy, that is, there are no areas of uncertainty, which greatly facilitates decision-making. The proposed method was tested in computational experiments. It was found conclusive proof of the effectiveness of Bayesian approach to modeling complex economic systems.
Keywords: Neural network; the probability of bankruptcy; logit-transformation; the Bayesian approach; model of binary response.
Identification number of article 25EVN613
Введение
Проблема прогнозирования банкротства предприятий впервые была затронута западными учеными в 30-е годы XX века и продолжает быть одной из актуальных тем исследования в настоящее время. Особенно актуальной проблема диагностики банкротств становится в кризисные периоды, когда влияние всех факторов, приводящих к будущей неплатежеспособности, усиливается. Начало исследований в данной области бы положено Альтманом в 1968 г. Широко известна предложенная им модель [1], основанная на методе множественного дискриминантного анализа. Позже, в рамках дискриминантного анализа в России и за рубежом был предпринят ряд попыток усовершенствования модели Альтмана путем изменения групп факторов банкротства (от 2 до 21), способа их оценки (рыночной вместо балансовой) и правила отнесения новых объектов к классам: Р. Тафффлер и Г. Тишоу (1977 г.) [2] , У. Бивер (1966) [3], Фулмер (1984) [4], Шеремет А. Д., Сайфуллин Р. С., Негашев Е.В. (1988) [5] и др.
В настоящее время наибольшей популярностью на западе пользуются logit-модели диагностики банкротств Ольсена [6] и его последователей. Среди российских разработок в данной области следует отметить исследования В. Ю. Жданова [7].
В последние годы бурно развиваются нейросетевые, интеллектуальные информационные технологии, нечеткие и нейронечёткие методы. Новые методы построения моделей банкротств принципиально отличаются от классического регрессионного и дискриминантного анализа рядом положительных свойств:
1. не требуется соблюдения условия подчинения переменных многомерному нормальному закону распределения;
2. не возникает проблема мультиколлинеарности объясняющих переменных;
3. получаемая модель может учитывать нелинейную зависимость выходной величины от факторов;
4. получаемая модель, в отличие от дискриминантных моделей, определяет конкретную вероятность наступления банкротства, то есть отсутствуют зоны неопределенности, что значительно облегчает принятие управленческих решений.
В данной статье предлагается оригинальный метод построения нейросетевой модели диагностики банкротств, основанный на байесовской методологии регуляризации.
1. Выбор инструментария моделирования
В общем случае эконометрическая модель имеет вид
.У = Р(Ъ,х), (1)
где х = (х,х2хп) - вектор независимых переменных; Ь - вектор оцениваемых
параметров модели. В задаче диагностики банкротств зависимая переменная У является качественной и может принимать только два возможных значения (1 и 0), соответствующие двум возможным состояниям изучаемых объектов: «банкрот» и «не банкрот». То есть модель (1) представляет собой модель бинарного отклика [8].
В качестве моделируемой величины у в (1) будем рассматривать вероятность того, что при заданных значениях факторов х. = (хя,хі2,...,хіп), предприятие с номером і окажется банкротом.
У г (X ) = Р( Уг = т) = F (Ът, х), т = 1;0, (2)
где Е(•) - некоторая непрерывная функция. Так как левая часть (2) имеет смысл вероятности, необходимо, чтобы значения Е(•) принадлежали интервалу [0;1]. Чаще всего в
качестве Е(Ът,X) используют интегральную нормализованную функцию распределения Лапласа. Тогда выражение (2) можно записать в виде:
-.иг2
уг () = Р(Уг = 1) = Ф(и) = “7= {е 2 Ж , (3)
у12к-х
где и = Ъ х - аргумент функции Лапласа. Такие модели получили название probit-моделей. Однако модели вида (3) обладают одним существенным недостатком: при использовании функции распределения Лапласа для оценки вероятности банкротства, значения аргумента и в (3) должны быть распределены по нормальному закону, что выполняется далеко не всегда.
~*'Р ,
В качестве функционала Е (Ъ , х) предлагается использовать логистическую трансформацию вероятности банкротства:
у1 (X) = Р(Уг = т) = 1/[1 + в- ]; и = ф(х) ; т = 1;0. (4)
При использовании logit-модели (4) не требуется соблюдения условия подчинения переменных многомерному нормальному закону распределения.
Очевидно, что значение аргумента и в (4) зависит от значений входных факторов х = (х:,х2хи), то есть и = ф(х) . При этом характер этой связи заранее неизвестен, и, скорее всего, не является линейным. Для того, чтобы еще более усилить положительные свойства модели (4), для восстановления зависимости и = ф( х) предлагается применить нейросетевое моделирование. Как известно, нейросети являются универсальными аппроксиматорами и позволяют восстанавливать практически любые закономерности, скрытые в данных, в том числе многомерные и нелинейные. На вход нейросети будут подаваться значения входных факторов х , а откликом сети будут значения аргумента и . В процессе обучения нейросеть в неявном виде восстанавливает зависимость и = ф(х) путем подбора оптимальной комбинации синаптических весов Ш, которые можно рассматривать как аналог вектора оцениваемых параметров Ъ в (1).
Значения и в обучающих примерах можно считать известными. Если в исходной базе данных у = 1, это означает, что Р(у = 1) = 1 /[1 + е~и ] = 1. Это равенство выполняется при и « -7 . Если у = 0, это означает, что Р(у = 1) = 1 /[1 + е- ] = 0 и соответствующее значение аргумента и « 7.
Предъявляя обученной сети новые наборы данных х* = (х* х* .., х* ), получим
смоделированное нейросетью значение аргумента и., зная которое, можно оценить вероятность того, что предприятие с номером г* является банкротом
Р(У* = 1) = 1/[1 + е-5 ]. (5)
2. Описание метода построения нейросетевой модели диагностики банкротств
1. На основе данных бухгалтерской отчетности группы примерно однородных предприятий (принадлежащих к одной отрасли или примерно одинакового масштаба) формируется система показателей (СП) Н, характеризующая финансово-экономическое состояние предприятий:
где N - количество факторов (независимых переменных) X.. Вопрос оптимального
выбора показателей для моделей диагностики банкротств в литературе практически не исследован. В работе [9] авторами статьи был предложен формализованный нейросетевой метод оптимального выбора системы экономических показателей для моделей диагностики банкротств. Однако, его подробное описание выходит за рамки данной статьи.
2. Для обеспечения необходимой точности и устойчивости нейросетевой модели, из данных удаляются аномальные наблюдения, нарушающие однородность данных. Для выявления аномальных наблюдений предлагается следующее правило: вектор-строка
< Х, У і > признается аномальной, если хотя бы один компонент вектора хі нарушает правило:
где х - среднее по выборке значение фактора xj; ох - выборочное среднеквадратическое отклонение фактора х1; I - экспертно задаваемое значение (I = 1..4).
Аномальные наблюдения удаляются из базы данных и не участвуют в обучении нейросети, но включаются в тестовое множество и используются для оценки качества обучения.
3. Одним из элементов байесовской методологии регуляризации модели, является то, что для построения модели диагностики банкротств следует использовать не одну нейросеть,
а ансамбль априорных гипотез-нейросетей А {X,Ш | Н}, принадлежащих к одному классу
(например, многослойный персептрон) - мета-гипотезе. Нейросети, входящие в ансамбль могут отличаться количеством скрытых слоев, количеством нейронов в скрытых слоях и видом активационных функций. Количество нейросетей в ансамбле Q жестко не регламентируется. Для обучения нейросетей ансамбля используется выбранная ранее система показателей Н . При этом используется один и тот же алгоритм обучения, одинаковое количество эпох обучения, фиксируется количество записей в обучающем и тестовом множестве.
4. Оценка качества полученных нейросетевых моделей проводится по результатам тестирования на данных, не участвовавших в обучении. При этом недостаточно просто вычислить долю правильно идентифицированных предприятий, необходимо учитывать количество, а главное, характер допущенных моделью ошибок. Если предприятие-банкрот было классифицировано как платежеспособное, то это ошибка первого рода («пропуск цели» по терминологии радиолокации), если, наоборот, платежеспособное предприятие было идентифицировано как банкрот, то это ошибка второго рода («ложная тревога»). Очевидно, что при диагностике банкротств цена ошибок первого и второго рода различна. В большинстве случаев, гораздо опаснее ошибки первого рода (лучше отказать в займе надежному заемщику, чем выдать кредит потенциальному банкроту). Для окончательной оценки качества нейросетевых моделей предлагается использовать следующий критерий:
Н =< X,, У >, і = 1, N,
(6)
(7)
где Nд - количество предприятий, верно идентифицированных q -ой нейросетью; ^ -количество ошибок 1 -го рода; N'4 - количество ошибок 2-го рода; Г , Г , Г - удельный вес каждого показателя. Веса г , Г , Г назначаются согласно правилу Фишберна [10]:
г = 2(п - г + 1)/(п + 1)п , (8)
где п - количество ранжируемых параметров. Формулу (8) можно использовать в случае, если некоторое множество критериев упорядочено в порядке убывания их значимости. В нашем случае будем считать, что при оценке качества диагностики, наиболее важным является общее количество верно идентифицированных предприятий, а затем следует учитывать количество ошибок первого и второго рода. Таким образом п = 3.
5. Очевидно, что качество нейросетевых моделей байесовского ансамбля будет различным, поэтому после обучения проводится процедура фильтрации, в результате которой будут отсеяны наименее удачные гипотезы-нейросети. Фильтрация нейросетевых моделей байесовского ансамбля проводится по правилу
Кч ^ Ч =1Q (9)
где Т]- экспертно задаваемое значение. Те нейросети, для которых правило (9) не выполняется, удаляются из байесовского ансамбля.
6. В соответствии с байесовским подходом к моделированию проводится осреднение выходных характеристик гипотез-нейросетей, прошедших процедуру фильтрации. В
частности, находится среднее значение нейросетевого отклика У на отфильтрованном
байесовском ансамбле.
1 *
гг = Ту IУч • ч = 1-Q• ‘ = 1-м<« • (>0)
Q ч=1
где ^ - количество нейросетей-гипотез, прошедших процедуру фильтрации, N^ -количество предприятий, составляющих тестовое множество.
7. Оценки вероятности банкротства для всех предприятий тестового множества
вычисляются по (5). В качестве показателя экспоненты в (5) используются значения у .
Заметим, что изложенный байесовский подход к регуляризации нейросетевой модели реализует общую парадигму теории регуляризации: механизм регуляризации осуществляется за счет сужения класса искомых решений обратной задачи при использовании априорной информации об искомом решении. В предлагаемом методе этот механизм реализуется в три ступени:
1. При выборе априорных гипотез-нейросетей {А } .
2. При апостериорной фильтрации {кд} по правилу (9).
3. При осреднении выходных характеристик модели на отфильтрованном
ансамбле нейросетей по (10).
3. Результаты вычислительных экспериментов
В распоряжении авторов были данные о финансовом состоянии 136 российских строительных предприятий, причем 68 из них - банкроты, а 68 - стабильно работающие предприятия. Очевидно, что полнота и достоверность исходных данных во многом определяют качество будущем модели. По мнению Бэстенса [11], одним из недостатков существующих моделей диагностики банкротств является то, что параметры этих моделей рассчитываются на основе выборок, соответствующих периодам массовых банкротств (например, экономический кризис 2008-2009 годов); использование таких моделей на практике может оказаться неэффективным.
Кроме того, многие авторы отмечают, что большое значение имеет региональная специфика. В свете последних двух замечаний имеющуюся выборку можно считать достаточно удачной и информативной: в базе данных представлены предприятия практически всех регионов РФ, а сами данные соответствуют широкому временному диапазону с 2006 по 2011 годы.
Была сформирована система показателей из 16 факторов {X.}, предложенная А. О.
Недосекиным, подробное описание которой можно найти в работе [10]. Как показали исследования авторов [9], эта система показателей хорошо зарекомендовала себя в задачах диагностики банкротств.
В сформированной базе данных было обнаружено 16 аномальных по (6) вектор-строк. Аномальные вектор-строки не участвовали в обучении, но были принудительно включены в тестовое множество. Количество записей в обучающем и тестовом множестве составило - 95 и 41 строк соответственно (70% и 30% от общего объема выборки). Перед обучением все данные были нормированы стандартным образом.
Был создан байесовский ансамбль из 10 нейросетевых моделей (НСМ). Обучение НСМ проводилось в нейроэмуляторе Neuro Solutions 4.0. Характеристики байесовского ансамбля приведены в таблице 1.
Предварительные расчеты показали, что из всех видов активационных функций, доступных пользователю в Neuro Solutions, функция гиперболического тангенса обеспечивает наилучшее качество обучения. Поэтому именно эта функция используется в большинстве нейросетей байесовского ансамбля. Оптимальное количество нейронов в скрытых слоях подбиралось, используя специальные возможности программы Neuro Solutions.
После обучения для каждой нейросети на тестовом множестве был рассчитан критерий качества обучения K , q = 1,10 по (7). Фильтрация нейросетей проводилась по правилу (9). Был выбран уровень отбраковки ^ = 14. Результаты тестирования байесовского ансамбля нейросетей приведены в таблице 2 (серым цветом в таблице выделены нейросети, прошедшие процедуру фильтрации). Процедуру фильтрации прошли только 5 из 10 сетей байесовского ансамбля: НСМ2, НСМ3, НСМ4, НСМ7 и НСМ9.
Таблица 1
Характеристики байесовского ансамбля нейросетей
№ сети Количество скрытых слоев Оптимальное количество нейронов в скрытых слоях Вид активационной функции в скрытых слоях
НСМ1 1 7 Гиперболический тангенс
НСМ2 1 6 Сигмоид
НСМ3 2 14, 9 Гиперболический тангенс в обоих слоях
НСМ4 2 14, 11 Гиперболический тангенс в первом слое, сигмоид - во втором
НСМ5 2 8, 13 Сигмоид в первом слое, гиперболический тангенс - во втором
НСМ6 2 13, 12 Сигмоид в обоих слоях
НСМ7 3 14, 13, 14 Гиперболический тангенс в первом и третьем слое, сигмоид - во втором
НСМ8 3 8, 14, 12 Гиперболический тангенс во всех слоях
НСМ9 3 12, 14, 10 Гиперболический тангенс во всех слоях
НСМ10 3 14, 13, 15 Гиперболический тангенс во всех слоях
Таблица 2
Результаты тестирования байесовского ансамбля нейросетей
№ сети Доля верно распознанных предприятий Всего ошибок Количество ошибок 1-го рода Количество ошибок 2-го рода К,
НСМ1 78,05% 9 4 5 13,83
НСМ2 80,49% 8 6 2 14,16
НСМ3 85,37% 6 4 2 15,83
НСМ4 85,37% 6 3 3 16,0
НСМ5 75,61% 10 5 5 13,0
НСМ6 53,66% 19 0 19 7,83
НСМ7 85,37% 6 5 1 15,66
НСМ8 78,05% 9 6 3 13,5
НСМ9 80,49% 8 2 6 14,83
НСМ10 75,61% 10 4 6 13,16
Среднее на отфильтрованном Ансамбле 87,8% 5 3 2 16,66
Как видно из таблицы 2, качество идентификации «банкротов» и «не банкротов» у разных нейросетей ансамбля существенно отличается. Поэтому при составлении окончательной классификации предприятий в формулу (10) были введены весовые коэффициенты С , учитывающие качество каждой НСМ:
У = —
і £
£ ул - с,
,=1
; с, = К, / К^; , = 1, е ; і = 1, Nte
Оценки вероятности банкротства были получены по (5), при этом если Р(у = 1) > 0,5, то предприятие классифицировалось как банкрот, в противном случае - считалось платежеспособным. Результаты окончательной классификации отражены в последней строке таблицы 2. Доля верно распознанных предприятий составила 87,8% (36 из 41 предприятия тестового множества). Этот результат превосходит показатели каждой из нейросетей байесовского ансамбля в отдельности. Таким образом, мы получили убедительное свидетельство эффективности байесовского подхода.
Отметим, что из 41 предприятия, составляющих тестовое множество, 16 предприятий были признаны аномальными, нарушающими правило (6). При этом большинство этих предприятий были верно идентифицированы нейросетевой моделью.
Заключение
Цели исследования можно считать достигнутыми: предложен и апробирован в вычислительных экспериментах метод построения нейросетевой модели диагностики банкротств на основе байесовского подхода. Получено убедительное подтверждение эффективности байесовского подхода при построении моделей диагностики банкротств с использованием интеллектуальных информационных технологий. Дальнейшие исследования будут посвящены развитию байесовской идеологии применительно к задачам данного класса, а также использованию нечетких методов классификации экономических объектов.
ЛИТЕРАТУРА
1. Altman E.I. Financial ratios, discriminant analysis and the predittion of corporate bankruptcy, Journal of Finance, 23 (4) (1968) 589-609.
2. Taffler, R. 1984. Empirical models for the monitoring of UK corporations. Journal of Banking and Finance 8(2): 199-227.
3. Beaver, W. H., "Financial Ratios as Predictors of Failure," Journal of Accounting Research, supplement, 1966, 71-127.
4. Fulmer, J., J. Moon, T. Gavin and J. Erwin. 1984. A bankruptcy classification model for small firms. The Journal of Commercial Bank Lending66(11): 25-37.
5. Шеремет А. Д., Сайфулин Р. С., Негашев Е. В. Методика финансового анализа. — М.: ИНФРА-М, 2008. — 371 с.
6. Ohlson J. A. Financial Ratios and the Probabilistic Prediction of Bankruptcy // Journal of Accounting Research, 18 (1980), p. 109-131.
7. Жданов В. Ю. Диагностика риска банкротства предприятия в трехмерном пространстве // Управление экономическими системами: электронный научный журнал [Электронный ресурс]. - Режим доступа: http://www.uecs.ru.
8. Горбатков С. А., Полупанов Д. В., Фархиева С. А., Коротнева М. В. Эконометрика: учебное пособие / под ред. д-ра техн. наук, проф. С. А. Горбаткова. - Уфа: РИЦ БашГУ, 2012. - 204 с.
9. Горбатков С. А., Белолипцев И. И., Макеева Е. Ю. Выбор системы экономических показателей для диагностики и прогнозирования банкротств на основе байесовского подхода и интеллектуальных информационных технологий // Вестник Финансового Университета при Правительстве РФ, 2013, №4(76), с. 50-63.
10. Недосекин А. О. Методологические основы моделирования финансовой деятельности с использованием нечетко-множественных описаний: диссертация доктора экономических наук: 05.13.10. - С.Петербург, - 2003. - 280 с.
11. Бэстенс Д.-Э., ванн дер Берг В.-М., Вуд Д. Нейронные сети и финансовые рынки: принятие решений в торговых операциях. - М.: ТВП, 1998. - 240 с.
REFERENCES
1.
2.
3.
4.
5.
6.
7.
8.
9.
10. 11.
Altman E.I. Financial ratios, discriminant analysis and the predittion of corporate bankruptcy, Journal of Finance, 23 (4) (1968) 589-609.
Taffler, R. 1984. Empirical models for the monitoring of UK corporations. Journal of Banking and Finance 8(2): 199-227.
Beaver, W. H., "Financial Ratios as Predictors of Failure," Journal of Accounting Research, supplement, 1966, 71-127.
Fulmer, J., J. Moon, T. Gavin and J. Erwin. 1984. A bankruptcy classification model for small firms. The Journal of Commercial Bank Lending66(11): 25-37.
Sheremet A. D., Sayfullin R. S., Negashev E. V. Methods of financial analysis, Moscow, Infra-M, 2008, p. 371. (in Russian).
Ohlson J. A. Financial Ratios and the Probabilistic Prediction of Bankruptcy // Journal of Accounting Research, 18 (1980), p. 109-113.
Zhdanov V. Ju. Diagnostika riska bankrotstva predprijatija v trehmernom prostranstve // Upravlenie jekonomicheskimi sistemami: jelektronnyj nauchnyj zhurnal
[Jelektronnyj resurs]. - Rezhim dostupa: http://www.uecs.ru.Nedosekin A. O. Methodological foundations of the financial modeling using fuzzy multiple descriptions, Thesis of Doctor of Economics, Saint Petersburg, 2003, 280 p. (in Russian).
Gorbatkov S. A., Polupanov D. V., Farhieva S. A., Korotneva M. V., Econometrics, a tutorial under edition of professor Gorbatkov S.A., Doctor of Technical Sciences, Ufa, BGU, 2012, 204 p. (in Russian).
Gorbatkov S. A., Beloliptsev I. I. Makeeve E. J. Vybor sistemy jekonomicheskih pokazatelej dlja diagnostiki i prognozirovanija bankrotstv na osnove bajesovskogo podhoda i intellektual'nyh informacionnyh tehnologij // Vestnik Finansovogo Universiteta pri Pravitel'stve RF, 2013, №4(76), s. 50-63.
Nedosekin A. O. Metodologicheskie osnovy modelirovanija finansovoj dejatel'nosti s ispol'zovaniem nechetko-mnozhestvennyh opisanij: dissertacija doktora
jekonomicheskih nauk: 05.13.10. - S.Peterburg, - 2003. - 280 s.
Bjestens D.-Je., vann der Berg V.-M., Vud D. Nejronnye seti i finansovye rynki: prinjatie reshenij v torgovyh operacijah. - M.: TVP, 1998. - 240 s.
