CC BY
31
УДК 004.021
DOI: 10.24412/2071-6168-2022-7-228-234
ПРОГНОЗИРОВАНИЕ ОТТОКА КЛИЕНТОВ ТЕЛЕКОММУНИКАЦИОННОЙ КОМПАНИИ НА ОСНОВЕ МЕТОДА ОПОРНЫХ ВЕКТОРОВ
Ю.А. Леонов, Н.С. Дьячков, А.А. Кузьменко, Л.Б. Филиппова
Целями исследования являются решение задачи прогнозирования оттока клиентов телекоммуникационной компании и поиск закономерностей использования клиентами соответствующих услуг с помощью метода опорных векторов. Для этого разработано программное средство, которое рассмотрено в данной работе. Оно реализует один из алгоритмов обучения метода - последовательную минимальную оптимизацию. В статье приводится описание исходного набора данных и результаты его предварительного анализа на основе исследования описательных статистик и корреляционных зависимостей. Проведено тестирование разработанного программного средства, результаты которого позволяют оценить качество прогноза и производительность при обучении модели.
Ключевые слова: классификатор, прогнозирование оттока клиентов, метод опорных векторов.
Для организаций, предлагающих услуги в сфере телекоммуникаций, вопрос взаимодействия с клиентами стоит наиболее остро и имеет высокий приоритет, так как решение задачи способствует формированию качественной стратегии работы с клиентами и выделению тех из них, которые с высокой вероятностью откажутся от услуг в ближайшее время. Точность прогнозов и возможность проверять сложные гипотезы достигаются благодаря разнообразию данных, описывающих бизнес-процессы, поэтому необходимо обогащать данные и увеличивать временной промежуток, который они охватывают.
Путь к получению качественного прогноза об оттоке клиентов лежит в понимании одной из задач интеллектуального анализа данных - классификации. Суть задачи сводится к обучению математической модели на накопленной за долгое время клиентской базе, с целью определения класса клиента по доступной о нем информации. В рамках прогнозирования оттока клиентов выделяют два класса, поэтому для их обозначения принято использовать понятие «метка», принимающее состояния:
Путь к получению качественного прогноза об оттоке клиентов лежит в понимании одной из задач интеллектуального анализа данных - классификации. Суть задачи сводится к обучению математической модели на накопленной за долгое время клиентской базе, с целью определения класса клиента по доступной о нем информации.
В рамках прогнозирования оттока клиентов выделяют два класса, поэтому для их обозначения принято использовать понятие «метка», принимающее состояния:
1. Клиент откажется от услуг с высокой вероятностью (отток).
2. Клиент продолжит пользоваться услугами с высокой вероятностью.
Исходная информация, влияющая на принадлежность к классу агрегирована по среднемесячным значениям и представлена следующими индикаторами:
1. Количество отправленных сообщений (sms).
2. Продолжительность дневных звонков в минутах (day Min).
3. Количество дневных звонков (dayCall).
4. Продолжительность вечерних звонков в минутах (eveMin).
5. Количество вечерних звонков (eveCall).
6. Продолжительность ночных звонков в минутах (nightMin).
7. Количество ночных звонков (nightCall).
8. Продолжительность международных звонков в минутах (intlMin).
9. Количество международных звонков (intlCall).
10. Количество обращений в сервис (service).
Полный набор представлен двенадцатью столбцами и тремя тысячами строк. Фрагмент исходных данных представлен в табл. 1, где одна строка содержит данные об одном клиенте. Также в данных содержится столбец «churn» с описанной выше меткой класса.
В данном исследовании был использован метод опорных векторов. Его преимуществами относительно других алгоритмов является высокая скорость работы и обучения, простая интерпретация модели, возможность визуализации процесса обучения, высокая точность,
особенно для линейно разделимых данных, а также отсутствие необходимости нормализации данных. Кроме этого, SVM эффективно работает как с категориальными, так и с количественными индикаторами.
Таблица1
Фрагмент набора данных об оттоке клиентов ___
phone sms dayMin dayCall eveMin eveCall nightMin nightCall intlMin intlCall service churn
3824657 25 265.1 110 197.4 99 244.7 91 10.0 3 1 1
3717191 26 161.6 123 195.5 103 254.4 103 13.7 3 1 0
3581921 0 243.4 114 121.2 110 162.6 104 12.2 5 0 0
3759999 0 299.4 71 61.9 88 196.9 89 6.6 7 2 0
3306626 0 166.7 113 148.3 122 186.9 121 10.1 3 3 0
3918027 0 223.4 98 220.6 101 203.9 118 6.3 6 0 1
2908654 4 263.1 33 55.6 66 90.9 90 0 0 1 0
2892222 40 263.9 50 280.5 78 200.1 41 0 0 0 0
Принцип работы метода сводится к решению следующей задачи. Существует множество объектов Xi для которых имеется множество ответов Y¡ (указывает какому классу относятся объекты). Также существует множество объектов Хк, для которых принадлежность к классу не определена. Требуется построить алгоритм a: X ^ Y, аппроксимирующий целевую зависимость Y(X) на всём пространстве X = Xt + Хк. Таким образом, можно определять класс нового объекта, на основании выборки, где метки класса для объектов уже известны.
Каждый клиент (объект) Xj е X характеризуется набором признаков í¿. Необходимо найти оптимальный вектор весов w, с помощью которого, можно определить класс для любого объекта используя следующую математическую зависимость:
aj = Z?=i (wi*tiJ)-b, ü)
где j - номер клиента; i - номер индикатора для j-го клиента; w - вес индикатора, вычисляется в процессе обучения; t - значение индикатора для конкретного клиента; b - свободный член модели, вычисляется в процессе обучения.
Данное правило называется классификатором. Если значение классификатора a¡ > 0, объект относится к первому классу, в противном случае - ко второму. Нулевое значение классификатора означает, что объект Xj принадлежит гиперплоскости, разделяющей два класса. Размерность гиперплоскости всегда соответствует размерности вектора, описывающего индикаторы объекта. Операция произведения вектора весов w¿ на вектор координат объекта í¿J- является скалярным произведением <w,t> [4], которое также используется в обучении модели.
Все подходы к обучению предназначены для того, чтобы найти оптимальные веса. Существуют различные методы - например, INCAS, SMO, но все они базируются на общем принципе - максимизации отступа:
Mj = y¡ * aj, (2)
где y¡ - реальное значение оттока клиента; a¡ - значение оттока клиента, полученное классификатором.
Чтобы корректно использовать значение отступа, необходимо предварительно закодировать столбец с метками оттока значениями 1 и -1. В этом случае, если значение классификатора соответствует по знаку реальной метке оттока, то отступ будет положительным. Если значения отличны по знаку, отступ будет отрицательным. В процессе обучения, в зависимости от получаемых выходных данных, выбирается следующая ветвь алгоритма. Объекты с большим отступом в большей степени корректируют веса модели и называются опорными векторами.
Перед обучением важно подготовить данные и задать начальные параметры для работы метода. От этого зависит точность прогноза и скорость работы алгоритма обучения. Поэтому, в первую очередь, данные были очищены от выбросов и пустых значений. Результаты корреляционного анализа, проведенного для устранения дублирующих индикаторов, позволили извлечь дополнительную информацию о данных. Коррелограмма представлена на рис. 1. Инди-
каторы представлены строками и столбцами таблицы, а зависимости между ними отражены в ячейках. Для удобного восприятия высокому значению корреляции соответствует насыщенный цвет ячейки. Значения больше нуля характеризуются оттенками красного, значения меньше нуля - оттенками синего. Полное отсутствие корреляции соответствует белому цвету.
На основе коррелограммы были получены следующие закономерности:
1. Коэффициент корреляции для индикаторов sms и nightMin составляет 0.84.
2. Коэффициент корреляции для индикаторов dayCall и тАМт составляет 0.77.
Таким образом, было принято решение дважды обучить модель с исключением дублирующих индикаторов и без их исключения.
Чтобы сравнить точность обоих моделей, выборка была разделена случайным образом на тестовую и тренировочную в соотношении 30/70.
Коррелограмма независимых индикаторов
-0-4
service о и -О 3J ОЗЬ OZ1 -а 1 {127 OU 017 014
Рис. 1. Результаты корреляции для исключения дублирующих индикаторов
Для решения задачи была разработана программа, реализующая работу метода опорных векторов. Чтобы получить максимально точный результат на выходе классификатора, необходимо обучить модель на описанном раннее наборе данных. Для загрузки в программу значений индикаторов, необходимо подготовить набор данных в требуемом формате и задать гиперпараметры (рис. 2). Требуемый формат предполагает, что данные содержатся в файле "Ш" или 'Ъу", записаны через запятую. Перед запуском обучения необходимо указать номер столбца с информацией о классе для каждого клиента.
Загрузка набора данн ® Загрузить из файла
Цф ^ ЩЦ © Горячая перезагрузка
Открыть..
382-4657.25,265. 1,110,197 .4, 99,244.7,91,10.0,3,1, False 371-7191.26,161.6,123,195.5,103,254.4,103,13.7,1,False 358-1921,0,243.4,114,121.2,110,162.6,104,12.2,5Д False 175-9999,0,299.4,71,61.9,58,196.9,89,6.6,7,2,False
Столбец со значениями отклика: [з О Демонстрационный пример - Задать пользовательский набор
Подвердить
Рис. 2. Интерфейс загрузки данных
По итогам обучения необходимо определить и интерпретировать закономерности, которые способна извлекать модель и убедиться, что процент верно классифицированных клиентов удовлетворяет минимальной заданной точности. Приемлемым показателем точности для задачи прогнозирования оттока клиентов считается 85%, что подтверждает опыт предыдущих исследований [5]. При успешном соблюдении данного требования можно применять модель для классификации новых клиентов.
При интерпретации модели можно опираться на следующую выходную информацию в программе:
1. Визуальное представление гиперплоскости и объектов обоих классов.
2. Отображение опорных векторов.
3. Вывод итоговых весов модели.
Чтобы выполнить первый пункт, необходимо выбрать те индикаторы, которые нужно визуализировать. Клиент представлен десятью индикаторами, но в качестве отображаемых индикаторов выбрать все не представляется возможным в связи с физическими ограничениями восприятия. Выходная информация по завершению обучения классификатора представлена на рис. 3. Как видно, для визуализации используются «Количество SMS» и «Продолжительность разговоров».
• vnuiisvw ^ЯЯИД ДИВАМИ □ х
Характеристики набора данных
Загрузить исходные Данные.. Размерности г Ко^ао объектов: 10 Кол-во классов: г Обучение без визуализации
кол-ва CMC - Продолжятельжип "
П&ЙДСШХИТСАЬНОСТЬ ДИС1 1Mb« раЯСЯЮроВ ]
Параметры модели
Ядро функции: Линейное Параметре 0,5 Числовом допуск (Tolerance): 0,02 Максимальное число проходов: 30
Множители Ллгрлмжа:
w | e.wn
« | №4
и | е,е?б5 « | ( «4 I С
п I
V« I
*7 I в
п I е
и I е
Опорные авторы
вые веса WI = -0.112183070418721. W2 = OA W0-2,4243*614083744
Рис. 3. Интерфейс обучения модели
Также для интерпретации работы метода и формирования выводов важно знать основную описательную информацию о рассматриваемых данных. Так, в табл. 2 относительно существующих индикаторов представлены средние значения, медианы, квартили, а также максимальные и минимальные значения выборки.
Таблица 2
Описательные статистики
Параметры sms dayMin dayCall eveMin eveCall nightMin nightCall intlMin intlCall
mean 8.1 180 100 201 100 200.8 100 10.2 4.5
std 13.7 54.5 20 51 20 50.5 19.5 2.8 2.5
min 0 0 0 0 0 23 33 0 0
25% 0 143.7 87 166.6 87 167 87 8.5 3
50% 0 179.4 101 201.4 100 201 100 10.3 4
75% 20 216.4 114 235.3 114 235 113 12.1 6
max 51 350.8 165 363.7 170 395 175 20 20
По завершении обучения модели сравнение реальных и предсказанных значений оттока клиентов проводилось на тестовой части выборки в соответствии с метриками precision (точность) и recall (полнота). Как было отмечено ранее, обучение модели предполагалось проводить дважды, используя данные с исключением индикаторов по результатам корреляционного анализа и без исключения индикаторов.
В первом случае были исключены продолжительность ночных звонков в минутах и продолжительность международных звонков в минутах. Верное предсказание оттока клиентов, характеризующееся метрикой «точность модели» равно 92%. Метрика «полнота», определяющая отношение верно-классифицированных клиентов ко всем клиентам с меткой оттока, равно 87%.
Для данных без исключения коррелирующих индикаторов точность и полнота модели составили 92% и 89% соответственно, что свидетельствует о получении положительных результатов тестирования.
На этапе интерпретации модели был обнаружен ряд очевидных закономерностей, когда с возрастанием числа обращений в сервис или со снижением количества звонков в любое время, вероятность ухода клиента повышается. Наибольший практический интерес представляют нетривиальные зависимости. Далее рассмотрены некоторые из них, вместе с предполагаемыми причинами:
Среди клиентов, отправляющих большое количество сообщений (более пятнадцати), число покинувших компанию значительно возрастает. Одно из возможных объяснений - уход к оператору-конкуренту, предлагающему более выгодные условия отправки SMS или мобильного интернета, так как в последнее время мессенджеры или электронная почта вытесняют коммуникацию через SMS.
Среди клиентов, совершающих большое количество средних по продолжительности международных звонков, значимая часть также покинула компанию. Предполагаемая причина - отъезд клиентов за рубеж, где услуги мобильного оператора не распространяются.
Высокие весовые коэффициенты имеют индикаторы, связанные с дневными разговорами, а общение в вечернее время соответствует небольшим отрицательным весам. На тестовой выборке было обнаружено, что в компании остались все клиенты, у которых:
количество звонков в вечернее время превышает средний показатель;
количество дневных звонков уступает среднему показателю.
В данном случае обосновать возможную причину проблематично.
Результаты. Таким образом, в ходе использования и интерпретации метода опорных векторов был получен ряд закономерностей, нуждающихся в подтверждении другими методами интеллектуального анализа данных, а также мнениями экспертов предметной области. Полученное с использованием метрик precision и recall, качество прогнозирования позволяет высоко оценить результат применения данного метода в решении подобных задач.
Также в рамках данного исследования проводилось тестирование работы вышеописанного программного средства, реализующего работу SVM-классификатора. Технические характеристики аппаратной платформы соответствуют устройству с процессором Intel Core i5-8250U с тактовой частотой 1.6 GHz (3.6 GHz c TurboBoost) и оперативной памятью типа DDR-4 (6 ГБ) с работой в двухканальном режиме.
Результаты тестирования представлены на рис. 4.
Время обучения и отрисовки объектов
о ю га а.
ä 2 со
1 0
6,98
^ 5,48
4,41 L
2,15 3,3
162
1,15
200
800
1000
1200
400 600
Количество входных объектов Рис. 4. Исследование влияния количества входных объектов на время работы
232
Заключение. Полученные результаты несут в себе как теоретическую, так и практическую ценность. Метод опорных векторов подтвердил свою эффективность в решении задач бинарной классификации на примере прогнозирования оттока клиентов. Разработанное программное средство, реализующее данный метод, может в дальнейшем использоваться для описанной задачи. При необходимости его функциональность можно расширять, используя иные аналитические алгоритмы. При должной проверке на собственных данных компании могут опираться на выявленные закономерности, чтобы своевременно определить недовольных клиентов.
Список литературы
1. Карякина А.А., Мельников А.В. Сравнение моделей прогнозирования оттока клиентов интернет-провайдеров // Машинное обучение и анализ данных, 2017. Том 3, № 4. С. 250256.
2. Пономарёв А.А. Сегментация пользователей мобильных операторов с помощью моделей Больших Данных. СПбГУ, 2018. [Электронный ресурс] URL: https://dspace.spbu.ru/bitstream/11701/11992/1/vkr.docx (дата обращения: 05.07.2020).
3. Akay M.F. Support vector machines combined with feature selection for breast cancer diagnosis // Expert Systems with Applications. 2009. Vol. 36(2).DOI: 10.1.1.473.6145.
4. Липаев В.В. Тестирование компонентов и комплексов программ: учебник. М.: СИНТЕГ, 2010. 393 c.
5. Арзамасцев С.А., Бгатов М.В., Картышева Е.Н. Прогнозирование оттока абонентов: сравнение методов машинного обучения. СПбГУ, 2018. [Электронный ресурс] URL: http://cte.eltech.ru/ojs/index.php/kio/article/download/1542/1522 (дата обращения: 04.07.2020).
6. Кожухар В.М., Аверченков В.И., Подвесовский А.Г., Сазонова А.С. Мониторинг и прогнозирование региональной потребности в специалистах высшей научной квалификации: монография // Брянский государственный технический университет. Брянск, 2010. 162 с.
7. Leonov YU.A., Leonov E.A., Kuzmenko A.A., Martynenko A.A., Averchenkova E.E., Filippov R.A. Selection of rational schemes automation based on working synthesis instruments for technological processes // Yelm, WA, USA: Science Book Publishing House LLC, 2019. 192 p.
8. Kuzmenko A.A., Filippova L.B., Sazonova A.S., Filippov R.A. Intelligent System of Classification and Clusterization of Environmental Media for Economic Systems // Proceedings of the International Conference on Economics, Management and Technologies 2020 (ICEMT 2020). Advances in Economics, Business and Management Research, volume 139. P. 583-586. DOI: 10.2991/aebmr.k.200509.103.
9. Leonov E.A., Intellectual subsystems for collecting information from the internet to create knowledge bases for self-learning systems / E.A. Leonov, Y.A. Leonov, Y.M. Kazakov, L.B. Fil-ippova/ In: Abraham A., Kovalev S., Tarassov V., Snasel V., Vasileva M., Sukhanov A. (eds) — Text : electronic // Proceedings of the Second International Scientific Conference "Intelligent Information Technologies for Industry" (IITI'17). IITI 2017. Advances in Intelligent Systems and Computing. 2017. Vol. 679. Springer, Cham. P. 95-103. D0I:10.1007/978-3-319-68321-8_10.
10.Тищенко А.А., Симоненкова О.М., Казаков Ю.М., Филиппова Л.Б., Кузьменко А.А. Методы продвижения российских инноваций на международный рынок // Новые информационные технологии в научных исследованиях Материалы XXIII Всероссийской научно-технической конференции студентов, молодых ученых и специалистов. Рязань: Рязанский государственный радиотехнический университет, 2018. Т. 2. С. 39-41.
11.Лозбинев Ф.Ю., Сазонова А.С., Филиппова Л.Б. Прогнозирование живучести корпоративной сети связи на основе нейро-нечеткого подхода // Виртуальное моделирование, про-тотипирование и промышленный дизайн. Материалы IV Международной научно-практической конференции. Тамбов: Тамбовский государственный технический университет, 2017. С. 224231.
Леонов Юрий Алексеевич, канд. техн. наук, доцент, yorleon@,yandex. ru, Россия, Брянск, Брянский государственный технический университет,
Дьячков Никита Сергеевич, студент, libv88@yandex.ru, Россия, Брянск, Брянский государственный технический университет,
Кузьменко Александр Анатольевич, канд. биол. наук, доцент, alex-rf-32@yandex.ru, Россия, Брянск, Брянский государственный технический университет,
Филиппова Людмила Борисовна, канд. техн. наук, доцент, libv88@mail.ru, Россия, Брянск, Брянский государственный технический университет
FORECASTING THE OUTFLOW OF CUSTOMERS OF A TELECOMMUNICATIONS COMPANY
BASED ON THE SUPPORT VECTOR METHOD
Yu.A. Leonov, N.S. Dyachkov, A.A. Kuzmenko, L.B. Filippova
The objectives of the study are to solve the problem of forecasting the outflow of customers of a telecommunications company and to search for patterns of customer use of relevant services using the support vector method. For this purpose, a software tool has been developed, which is considered in this paper. It implements one of the learning algorithms of the method - sequential minimal optimization. The article describes the initial data set and the results of its preliminary analysis based on the study of descriptive statistics and correlation dependencies. The developed software has been tested, the results of which allow us to assess the quality of the forecast and performance when training the model.
Key words: classifier, customer churn prediction, support vector machine.
Leonov Yury Alekseevich, candidate of technical sciences, docent, yorleon@yandex.ru, Russia, Bryansk, Bryansk State Technical University,
Dyachkov Nikita Sergeevich, student, libv88@yandex.ru, Russia, Bryansk, Bryansk State Technical University,
Kuzmenko Aleksander Anatolyevich, candidate of biological sciences, docent, alex-rf-32@yandex.ru, Russia, Bryansk, Bryansk State Technical University,
Filippova Lyudmila Borisovna, candidate of technical sciences, docent, libv88@mail.ru, Russia, Bryansk, Bryansk State Technical University
УДК 658.3 + 06
DOI: 10.24412/2071-6168-2022-7-234-239
АНАЛИЗ МЕТОДОВ ОЦЕНКИ ПОТЕНЦИАЛЬНЫХ РИСКОВ В ОБЛАСТИ ОХРАНЫ ТРУДА ПРЕДПРИЯТИЙ ЖЕЛЕЗНОДОРОЖНОГО МАШИНОСТРОЕНИЯ
Л.И. Воробинская, В.А. Финоченко, Т.А. Финоченко
В статье рассматриваются вопросы, связанные внедрением риск ориентированного подхода в области охраны труда на предприятиях железнодорожного машиностроения. В частности проведен анализ существующих методов оценки потенциальных рисков, А также отмечено, что для получения корректного результата по оценке профессиональных рисков необходимо использование в качестве входящей информации достоверных данных. В области охраны труда такой массив данных предоставляет специальная оценка условий труда. Ключевые слова: охрана труда, профессиональные риски, методы оценки.
Одним из основных рисков в охране труда является профессиональный или риск, связанный с повреждением здоровья и трудоспособности работников в результате выполнения ими своих должностных обязанностей. В настоящее время установлено, что профессиональный риск существенно влияет на уровень заболеваемости хроническими заболеваниями.
234
