CC BY
136
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION.
TECHNICAL SCIENCE. 2020. No 1
УДК 05.13.18 DOI: 10.17213/1560-3644-2020-1-33-40
ПРИМЕНЕНИЕ НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ В ЗАДАЧЕ КОНТРОЛЯ ПОВЕРХНОСТНЫХ ДЕФЕКТОВ*
© 2020 г. П.В. Васильев, А.В. Сеничев
Донской государственный технический университет, г. Ростов-на-Дону, Россия
THE USE OF NEURAL NETWORK TECHNOLOGIES IN THE TASK OF CONTROLLING SURFACE DEFECTS
P.V. Vasiliev, A.V. Senichev
Don State Technical University, Rostov-on-Don, Russia
Васильев Павел Владимирович - аспирант, кафедра «Информационные технологии», Донской государственный технический университет, г. Ростов-на-Дону, Россия. E-mail: [email protected]
Сеничев Александр Вадимович - аспирант, кафедра «Информационные технологии», Донской государственный технический университет, г. Ростов-на-Дону, Россия. E-mail: [email protected]
Vasiliev Pavel V. - Postgraduate Student, Department «Information Technologies», Don State Technical University, Rostov-on-Don, Russia. E-mail: [email protected]
Senichev Alexandr V. - Postgraduate Student, Department «Information Technologies», Don State Technical University, Rostov-on-Don, Russia. E-mail: [email protected]
Предлагается модель на основе глубокой сверточной искусственной нейронной сети. Решается задача идентификации дефектов на изображениях дорожного покрытия. Особенностью предложенной модели типа энкодер-декодер является ее небольшой размер, высокая степень повторяемости по сравнению с известными аналогами. Особое внимание уделено специфике решаемой задачи, в связи с этим применяют некоторые регуляризирующие техники как на уровне набора данных, так и на уровне гиперпараметров модели. В условиях небольшого количества объема исходных данных модель успешно проводит идентификацию дефектов и может быть использована в смежных областях в задачах сегментации.
Ключевые слова: машинное обучение; дорожное покрытие; идентификация дефектов; сверточные нейронные сети; сегментация; бинарная маска.
In this paper, the authors propose a model based on a deep convolutional artificial neural network. The problem of identifying defects in pavement images was solved. The main feature of the proposed model with encoder-decoder type is its small size and a high degree of repeatability in comparison with known existing analogs. The authors pay special attention to the specifics of the problem and use some regularizing techniques both at the level of the data set and at the level of the hyper-parameters of the model. The model with a small amount of initial data successfully identifies defects and can be applied in related areas in segmentation problems.
Keywords: machine learning; pavement; defect identification; convolutional neural networks; segmentation; binary mask.
* Работа выполнена при поддержке РФФИ в рамках проекта № 19-08-00074.
33
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION. TECHNICAL SCIENCE. 2020. No 1
Автоматизированный процесс мониторинга состояния поверхностных дефектов поможет инженерам в надлежащем планировании работ по обслуживанию и ремонту дорожных поверхностей. Своевременное обнаружение проблемных участков и эффективное управление техническим обслуживанием гарантируют постоянную доступность объектов инфраструктуры.
Автоматизация процесса идентификации поверхностных дефектов и мониторинга состояния дорожного покрытия является основной задачей в данной работе. Применение современных методов машинного обучения дает большие возможности в области распознавания образов. Предложенный авторами метод заключается в построении и обучении модели, на основе аппарата сверточных нейронных сетей. Данные, необходимые для обучения, были получены путем ручной разметки. Благодаря специальной предложенной архитектуре, учитывающей особенности исследуемой области, модель, при меньшем размере, чем существующие аналоги, успешно справляется с поставленной задачей идентификации дефектов на дорожном покрытии.
Обзор литературы
Большое внимание в опубликованных работах уделяется исследованию и разработке автоматизированных методов обнаружения трещин на изображениях [1 - 9]. Некоторые из рассматриваемых работ более специфичны, например [10, 11] в области дорожно-транспортных инфраструктур, [12, 13] в области мостов и сооружений.
До глобального распространения нейросе-тевых технологий и машинного обучения, поддерживаемого вычислительными мощностями графических процессоров, основной тенденцией являлось применение ручных техник, таких как морфологические операции [13], извлечение геометрических особенностей [6], применение фильтров Габора [14], вейвлет-преобразований [15], гистограмм ориентированных градиентов (далее HOG) [16], текстурного анализа и машинного обучения [17].
Последние открытия в области искусственных сверточных нейронных сетей дали исследователям уникальный инструмент и ряд преимуществ. С ростом вычислительных мощностей графических процессоров стало возможным применять более глубокие архитектуры моделей машинного обучения [18]. Современные
техники, такие как увеличение данных, регуляризация и другие, дали возможность избегать переобучения [19]. С развитием сверточных нейронных сетей стала доступна возможность более эффективно изучать и обобщать особенности изображений. С их помощью решаются задачи классификации [20], идентификации образов [21], в том числе транспортные задачи.
В работе [22] рассматривается подход автоматического обнаружения трещин на асфальте и их классификация с использованием нейронных сетей. Авторы предложили подход, в котором они делят изображение на фрагменты, и после этого каждую ячейку классифицируют как трещину, используя среднее значение и дисперсию значений оттенков серого. Было показано, что дефлектометры с падающим весом (далее FWD) являются полезными инструментами для оценки трещин в слое асфальта. В 98 % случаев система эффективно обнаруживает трещину на изображении.
Постановка задачи
Необходимо решить задачу сегментации трещин и других дефектов на изображениях асфальта. Для этого нужно дать ответ - какая область изображения содержит дефект, а какая нет. Таким образом, задача сводится к решению задачи бинарной классификации изображений. В качестве исходных данных используются реальные изображения (фотографии асфальта), которые содержат различные дефекты, продольные и поперечные трещины. В качестве дополнительной информации применяются бинарные маски, созданные человеком, соответствующие этим изображениям. Они показывают наличие или отсутствие дефекта на исходном изображении.
Необходимо уделить особое внимание особенностям обрабатываемых данных. Сравнительно небольшой динамический диапазон градаций серого цвета, наличие шумов, обусловленное присутствием посторонних объектов в исследуемой области, а также искажения, создаваемые техническими средствами фото- и видеоконтроля. На изображениях одновременно могут присутствовать различные типы дефектов, при этом их форма и размер также варьируются. Все эти факторы усложняют решение поставленной задачи. На рис. 1 показаны части изображений, используемых в данной работе и бинарные маски, построенные вручную.
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION.
TECHNICAL SCIENCE. 2020. No 1
Рис. 1. Результат искусственного увеличения набора данных. В первой строке представлены фрагменты изображений дорожного покрытия, во втором - соответствующие им бинарные маски, созданные человеком / Fig. 1. The result of an artificial increase in the data set. The first line contains fragments of images of the pavement, in the second - the corresponding binary masks
created by hand
Следовательно, необходимо провести сегментацию изображения, выделить соответствующие классы, определить, является ли часть изображения дефектом или нет. Для этого возможно применить нейросетевой инструмент и на основе исходной информации и соответствующей ей дополнительной информации, построить и обучить модель.
Метод идентификации
Задачу сегментации изображений возможно решить с применением методов машинного обучения. Сверточные нейронные сети и модели, реализующие их всевозможные модификации, показывают отличные результаты.
В настоящее время существует большое количество наборов данных, которые можно использовать для обучения нейронных сетей. Таие наборы включают в себя входные и выходные сведения - изображения дорожного покрытия и бинарные маски, размеченные вручную. Но вследствие специфики изображений дорожных покрытий авторами предлагается собственная упрощенная модель глубокой сверточной нейронной сети.
Fully Convolutional Networks (далее FCN) используются для сегментации изображений и в большинстве своих случаев имеют структуру Encoder-Decoder. Изображение дорожного покрытия подается на вход системы, на выходе получается бинарное изображение-маска. Таким образом, в результате имеем сегментированное изображение, которое идентифицирует наличие и отсутствие дефектов.
Сверточная нейронная сеть - это многослойная архитектура, использующая сверточные слои, которые реализуют рецептивные поля. Рецептивное поле является одним из наиболее важных понятий в сверточных нейронных сетях,
которое заслуживает большого внимания. Рецептивное поле - это область входного пространства, которая влияет на конкретную часть сети. Эта область может быть не только входом сети, но и выходом из других слоев в сети. Поэтому рецептивное поле может быть рассчитано относительно входных данных, а также относительно частей сети, которые выступают в качестве приемника информации. Рецептивное поле может быть увеличено с использованием различных методов, например таких как: использование большего количества слоев (увеличение глубины сети), применение слоев субдискретизации, увеличение количества применяемых фильтров.
Чтобы определить рецептивное поле для каждого слоя, помимо количества объектов n в каждом измерении, нужно отслеживать некоторую дополнительную информацию для каждого слоя. Она включают в себя текущий размер воспринимающего поля r, расстояние между двумя соседними объектами j и координату верхнего левого (первого) объекта start. Центральная координата объекта определяется как центральная координата его рецептивного поля. При применении операции свертки с размером ядра k, размером заполнения p (padding size) и размером шага s (stride size) атрибуты выходного слоя могут быть рассчитаны по следующим уравнениям:
n™,t —
2 p - к
1;
Jout Jin ' s ;
rout=rin +(к -1 )• Jin;
к -1
start0ut=startin +
P • Jn
где nin и nout - количество входных и выходных объектов соответственно.
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION. TECHNICAL SCIENCE. 2020. No 1
Первое уравнение вычисляет количество выходных объектов на основе количества входных объектов и свойств свертки. Второе уравнение вычисляет j-скачок в выходной карте объектов, который равен скачку во входной карте, умноженному на количество входных объектов, которые мы пропустили при применении свертки. Третье уравнение вычисляет размер рецептивного поля карты выходных объектов. Четвертое уравнение вычисляет центральную позицию рецептивного поля первого выходного объекта.
Архитектурная модель сети представляет собой сверточную нейронную сеть, которая имеет входной слой, для подачи на него изображений, сверточные слои и несколько слоев субдискретизации. В разверточной (deconvolutional, decoder) части находятся слои, основная задача которых генерирование фрагментов изображений, согласно входным импульсам-характеристикам, полученным от первой (encoder) части сети. Изображения, проходя через разверточные слои, приобретают размерность, соответствующую заданному выходному формату данных. Последний сверточной слой сети с сигмовидной актива-ционной функцией генерирует сегментированное изображение, которое имеет ту же размерность, что и входное изображение.
Первая часть сеть состоит из пяти сверточ-ных слоев с наборами фильтров (256, 128, 64, 64, 64). Применяется инструмент batch normalization (BN). В качестве активационных функций применяется «выпрямитель» rectified linear unit (ReLU). Далее следуют слои субдискретизации (Pooling) с окном 2x2. Таким образом, происходит уменьшение изображения в 2 раза, после его прохождения через этот слой. Вторая часть сети является зеркальным отражением первой части. Для того чтобы восстановить размер изображения до исходного и сформировать карту вероятностей, на основе признаков входного изображения, применяются upsampling слои в комбинации со сверточными слоями. В результате построенная модель содержит 929 655 обучаемых параметров и состоит из 10 сверточных слоев.
Также для обучения построенной модели используется аннотированная база данных дорожных трещин CrackForest dataset. Вследствие того, что работа и обучение нейронной сети основаны на подходе Path-based, необходим этап аугментации, на котором происходит увеличение выборки данных для обучения через модификацию существующего набора. Набор состоит из 117 изображений. В свою очередь, он разделяет-
ся на обучающую, тестовую и валидационную выборки. Для каждого изображения из обучающей и тестовой выборки случайно выбираются фрагменты размером 64x64. Исследования показали, что в рамках поставленной задачи гамма-коррекция изображений способствует повышению качества работы нейронной сети. Каждый фрагмент изображения подвергается вращению, отражению и деформации. Было установлено, что наиболее оптимальное соотношение фрагментов с дефектом (дефект занимает не менее 5 % площади изображения) и без него составляет соответственно 95 % к 5 %. Установлено, что размер выборки влияет на процесс обучения и качество работы сети, и наиболее рациональным соотношением является 15200 фрагментов обучающей выборки и 3968 тестовой.
Обучение нейронной сети
В связи со спецификой исследуемого объекта контроля используются метрики IoU (intersect over union) - коэффициент Жаккара, dice - мера Серенсена (она же коэффициент F1) и 1-J - функция потерь:
\А о В 2А О В|
J (А, В) =-; S (А, В) = , , ,',
|А и В| |А| + |В|
здесь A, B - истинное изображение и предсказанное нейронной сетью соответственно.
Инициализация весов в слоях нейронной сети проводится методом Glorot. Для уменьшения внутреннего ковариационного сдвига путем нормацилизации входных распределений слоев применяется batch normalization. Для обучения используется алгоритм оптимизации Adam (Method for Stochastic Optimization).
Обучение нейронной сети состоит из нескольких этапов. Суть первого этапа заключается в обучении сети на небольшом объеме данных (30 % от основного набора). Обучение продолжается пять эпох.
На втором этапе нейронная сеть обучается на 100 %-м объеме данных с установленным количеством эпох. Параметр learning rate определяет в какой степени вновь полученная информация переопределяет старую информацию, изменяется с каждой эпохой, согласно найденной зависимости, что показано на рис. 2.
В рамках поставленной задачи было определено наиболее рациональное количество эпох обучения, равное 25 (5 эпох на первом этапе и 20 эпох на втором этапе обучения). Установлено, что при увеличении количества итераций обучения точность работы модели остается на одном уровне.
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION.
TECHNICAL SCIENCE. 2020. No 1
0
5
10
Эпоха
15
20
Рис. 2. Изменение параметра learning rate во время обучения сети / Fig. 2. Changing the learning rate during network learning
Для реализации разработанной архитектуры используются Keras API и Tensorflow.
Идентификация дефектов на дорожном покрытии
В процессе валидации тестовых данных каждый фрагмент изображения подается на вход нейронной сети, а на выходе получается сгенерированная бинарная маска наличия дефекта. Результат работы обученной сети продемонстрирован на рис. 3. Полученная маска сравнивается с истинным значением. В связи со специфическим отношением площади дефекта к площади всего изображения, а также форматов маски ручной разметки и маски, полученной от нейронной сети, метрики IoU и Dice имеют характерные значения. Стоит отметить, что при использовании метрики IoU для фрагментов, на которых отсутствует дефект (таких фрагментов в наборе 5 %, что равно 198 фрагментам из тестовой выборки), значения метрики равны 0, что видно на рис. 4. Чтобы компенсировать эту
особенность, необходимо использовать дополнительную метрику Dice (также известную как F1 коэффициент). Это позволит в более полной мере оценить работу обученной нейронной сети.
Качество подготовленного набора данных оказывает большое влияние на процесс обучения и результаты использования сети. Периодически, в результате ее работы, можно наблюдать ситуации, в которых отсутствуют дефекты на реальных изображениях, а на изображениях разметки дефект показан, либо наоборот. Это сказывается на общей оценке качества работы представленной модели. На рисунке ниже показано изображение из тестовой выборки, при этом разметка, построенная человеком, имеет некоторые неточности. Несмотря на это, нейронная сеть провела сегментацию дефектов корректно. Поэтому не стоит воспринимать значения метрик как абсолютные.
Гистограмма точности предсказания нейронной сети Средняя точность (Dice): 0,7381, (IoU): 0,3488
700 600
о 500
5 400 | 300 ^ 200
100 0
0,0
0,2
0,8
1,0
0,4 0,6 Сходство
Рис. 4. Количество изображений, идентифицированных с определенной точностью / Fig. 4. The number of images identified with a certain accuracy
Для более точной оценки модели необходимо ввести специальную функцию потерь, используемую в процессе обучения, и расширить набор метрик.
Рис. 3. Результаты работы обученной нейронной сети. Слева направо показано реальное изображение дорожного покрытия, изображение разметки дефектов, созданное человеком, и сегментированное изображение, построенное нейронной сетью / Fig. 3. The results of the learned neural network. From left to right, the real image of the pavement, the image of the marking of defects created by hand, and the segmented image constructed by the neural network are shown
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION.
TECHNICAL SCIENCE. 2020. No 1
Рис. 5. Валидационные изображения, обработанные обученной нейронной сетью. В первом столбце реальное изображение с дефектом, во втором - маска дефекта, созданная человеком, в третьем - маска дефекта, сгенерированная нейронной сетью / Fig. 5. Validation images processed by a learned neural network. In the first column, the real image with the defect, in the second - the defect mask created by the hand, in the third - the defect mask generated by the neural network
В рамках данной работы, была проведена оценка некоторых моделей FCN-нейронных сетей. Для архитектуры сети из 10 слоев и 929 665 обучаемых параметров с количеством фильтров 256, 128, 64, 64, 64, ..., показатели метрик равны Dice: 0.7381, IoU: 0.3488. Для модели из 16 слоев и 43 441 параметров c фильтрами 32, 32, 16, 16, 16, 8, 8, 8, ... - Dice: 0.7040, IoU: 0.3324. Для модели из 12 слоев и фильтрами 32, 32, 16, 16, 8, 8, ... и 37~537 параметров - Dice: 0.6757, IoU: 0.3212. Количество обучаемых параметров влияет на время обучения модели и отражает сложность сети. Следует отметить, что количество фильтров на второй части сети зеркально отражено.
Для обработки изображений высокого разрешения применяется метод скользящего окна с заданным шагом, регулирующим скорость обработки и детализацию. Таким образом формируется результирующая карта вероятностей (тепловая карта) наличия дефекта для всего изображения. Небольшая выборка изображений из вали-дационного набора и результат обработки их нейронной сетью представлена на рис. 5.
Заключение
В данной работе продемонстрировано применение нейросетевых технологий в задаче контроля поверхностных дефектов. Благодаря
исследованиям и практическим экспериментам построенная система способна проводить локализацию дефектов на дорожном покрытии, что позволяет существенно повысить скорость и качество обследования дорожного полотна.
Полученные результаты имеют теоретическую и практическую значимость. Предложенная модель обладает высокой степенью повторяемости и может быть использована в различных задачах сегментации.
Литература
1. Soloviev A.N., Sobol B. V., Vasiliev P. V. Ultrasonic and Magnetic Flow Inspection Methods of Identification of Cracks in the Pipe Coupled with Artificial Neural Networks // Parinov I., Chang SH., Jani M. (eds) Advanced Materials. Springer Proceedings in Physics. 2017, Vol. 193. Springer, Cham.
2. Mahler D.S., Kharoufa Z.B., Wong E.K., Shaw L.G. Pavement Distress Analysis Using Image Processing Techniques. Computer-Aided Civil and Infrastructure Engineering. 1991. № 6. P. 1 - 14.
3. Tizhoosh H.R., Krell G., Michaelis B. Locally adaptive fuzzy image enhancement // Reusch B. (eds) Computational Intelligence Theory and Applications. Fuzzy Days 1997. Lecture Notes in Computer Science. Vol 1226. Springer, Berlin, Heidelberg.
4. Zou, Qin & Cao, Yu & Li, Qingquan & Mao, Qingzhou &
Wang, Song. Crack Tree: Automatic crack detection from pavement images. Pattern Recognition Letters. 2012. Vol. 33. P. 4093 - 4097.
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION. TECHNICAL SCIENCE. 2020. No 1
5. Xu W., Tang Z., Zhou J., Ding J. Pavement crack detection based on saliency and statistical features // IEEE International Conference on Image Processing, Melbourne, VIC, 2013, Р. 4093 - 4097.
6. Oliveira, Henrique & Correia, Paulo CrackIT. An Image Processing Toolbox for Crack Detection and Characterization // IEEE International Conference on Image Processing, ICIP, 2014.
7. Shi, Yong & Cui, Limeng & Qi, Zhiquan & Meng, Fan & Chen, Zhensong. Automatic Road Crack Detection Using Random Structured Forests // IEEE Transactions on Intelligent Transportation Systems. 2016. Vol. 17. Р. 1 - 12.
8. Соболь Б.В., Соловьев А.Н., Рашидова Е.В., Васильев П.В. Идентификация трещиноподобного дефекта и исследование концентрации напряжений в полосе с покрытием // Вестн. Пермского нац. исслед. политехи. ун-та. Механика. 2019. № 4. С. 165 - 174. DOI: 10.15593/perm.mech/2019.4.16.
9. Sun, Bo-Cheng & Qiu, Yan-jun. Automatic Identification of Pavement Cracks Using Mathematic Morphology, 2007.
10. Chambon S. Detection of road cracks with multiple images // International Joint Conference on Computer Vision Theory and Applications, VISAPP, 2010.
11. Zhang, Lei & Yang, Fan & Zhang, Yimin & Julie Zhu, Ying. Road crack detection using deep convolutional neural network, 2016.
12. Prasanna, Prateek & Dana, Kristin & Gucunski, Nenad & Basily, Basily & La, Hung & Lim, Ronny & Parvardeh, Hooman & Gucunski, N & Basily, B. Automated Crack Detection on Concrete Bridges // IEEE Transactions on Automation Science and Engineering. 2014. Р. 1 - 9.
13. Jahanshahi M.R., Masri S.F., Padgett C.W. [et al.]. Machine Vision and Applications. 2013. Vol. 24. 277 р.
14. Medina, Roberto & Llamas, Jose & Zalama, Eduardo & Gomez-Garcia-Bermejo, Jaime Enhanced. Automatic detec-
tion of road surface cracks by combining 2D/3D image processing techniques // IEEE International Conference on Image Processing, ICIP 2014. P. 778 - 782.
15. Chanda S. [et al.]. Automatic Bridge Crack Detection - A Texture Analysis-Based Approach // Gayar N., Schwenker F., Suen C. (eds) Artificial Neural Networks in Pattern Recognition. ANNPR 2014. Lecture Notes in Computer Science, Vol. 8774. Springer, Cham, 2014.
16. Kapela, Rafal & Rydzewski, Pawel & Michal, Wyczalek & Bloch, Adam & Sniatala, Pawel & Pozarycki, Andrzej & Rybarczyk, Adam & Turkot, Adam. Asphalt Surfaced Pavement Cracks Detection Based on Histograms of Oriented Gradients, 2015.
17. Qin Zou, Yu Cao, Qingquan Li, Qingzhou Mao, Song Wang CrackTree. Automatic crack detection from pavement images, Pattern Recognition Letters. 2012. Vol. 33, Issue 3, P. 227 - 238.
18. Arel I., Rose D.C., Karnowski T.P. Deep machine learning -a new frontier in artificial intelligence research // IEEE Computational Intelligence Magazine. 2010. Vol. 5(4). P. 13 - 18.
19. Simard P.Y., Steinkraus D., Platt J.C. Best practices for convolutional neural networks applied to visual document analysis // Proc. of International Conference on Document Analysis and Recognition (ICDAR). 2003. P. 958 - 963.
20. Szegedy C. [et al.]. Going deeper with convolutions // IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Boston, MA. 2015. P. 1 - 9.
21. Girshick R., Donahue J., Darrell T., Malik J. Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation // IEEE Conference on Computer Vision and Pattern Recognition, Columbus, OH. 2014. P. 580 - 587.
22. Saar T., Talvik O. Automatic Asphalt pavement crack detection and classification using Neural Networks. 12th Biennial Baltic Electronics Conference, Tallinn, 2010. P. 345 - 348.
References
1. Soloviev A.N., Sobol B.V., Vasiliev P.V. (2017) Ultrasonic and Magnetic Flow Inspection Methods of Identification of Cracks in the Pipe Coupled with Artificial Neural Networks. In: Parinov I., Chang SH., Jani M. (eds) Advanced Materials. Springer Proceedings in Physics, vol 193. Springer, Cham.
2. Mahler, D. S., Kharoufa, Z. B., Wong, E. K., and Shaw, L. G. Pavement Distress Analysis Using Image Processing Techniques. Computer-Aided Civil and Infrastructure Engineering, 6: 1-14, 1991.
3. Tizhoosh H.R., Krell G., Michaelis B. Locally adaptive fuzzy image enhancement. In: Reusch B. (eds) Computational Intelligence Theory and Applications. Fuzzy Days 1997. Lecture Notes in Computer Science, vol 1226. Springer, Berlin, Heidelberg.
4. Zou, Qin & Cao, Yu & Li, Qingquan & Mao, Qingzhou & Wang, Song. Crack Tree: Automatic crack detection from pavement images. Pattern Recognition Letters. 33. 227-238, 2012.
5. W. Xu, Z. Tang, J. Zhou and J. Ding Pavement crack detection based on saliency and statistical features, 2013 IEEE International Conference on Image Processing, Melbourne, VIC, 2013, pp. 4093-4097.
6. Oliveira, Henrique & Correia, Paulo CrackIT - An Image Processing Toolbox for Crack Detection and Characterization. 2014 IEEE International Conference on Image Processing, ICIP 2014.
7. Shi, Yong & Cui, Limeng & Qi, Zhiquan & Meng, Fan & Chen, Zhensong. Automatic Road Crack Detection Using Random Structured Forests. IEEE Transactions on Intelligent Transportation Systems. 17. 1-12, 2016.
8. Sobol' B.V., Solov'ev A.N., Rashidova E.V., Vasil'ev P.V. Identifikatsiya treshchinopodobnogo defekta i issledovanie kontsen-tratsii napryazhenii v polose s pokrytiem [Identification of crack-like defect and investigation of stress concentration in coated bar]. Vestnik Permskogo natsional'nogo issledovatel'skogo politekhnicheskogo universiteta. Mekhanika, 2019, no. 4, pp. 165-174. (In Russ.)
9. Sun, Bo-Cheng & Qiu, Yan-jun Automatic Identification of Pavement Cracks Using Mathematic Morphology, 2007.
10. Chambon S. Detection of road cracks with multiple images. In International Joint Conference on Computer Vision Theory and Applications, VISAPP, 2010.
11. Zhang, Lei & Yang, Fan & Zhang, Yimin & Julie Zhu, Ying Road crack detection using deep convolutional neural network, 2016.
ISSN 1560-3644 IZVESTIYA VUZOV. SEVERO-KAVKAZSKIYREGION. TECHNICAL SCIENCE 2020. № 1
12. Prasanna, Prateek & Dana, Kristin & Gucunski, Nenad & Basily, Basily & La, Hung & Lim, Ronny & Parvardeh, Hooman & Gucunski, N & Basily, B. Automated Crack Detection on Concrete Bridges. IEEE Transactions on Automation Science and Engineering. 1-9, 2014.
13. Jahanshahi, M.R., Masri, S.F., Padgett, C.W. et al. Machine Vision and Applications, 24: 277, 2013.
14. Medina, Roberto & Llamas, Jose & Zalama, Eduardo & Gomez-Garcia-Bermejo, Jaime Enhanced automatic detection of road surface cracks by combining 2D/3D image processing techniques. 2014 IEEE International Conference on Image Processing, ICIP 2014. 778-782.
15. Chanda S. et al. Automatic Bridge Crack Detection - A Texture Analysis-Based Approach. In: El Gayar N., Schwenker F., Suen C. (eds) Artificial Neural Networks in Pattern Recognition. ANNPR 2014. Lecture Notes in Computer Science, vol 8774. Springer, Cham, 2014.
16. Kapela, Rafal & Rydzewski, Pawel & Michal, Wyczalek & Bloch, Adam & Sniatala, Pawel & Pozarycki, Andrzej & Rybarczyk, Adam & Turkot, Adam. Asphalt Surfaced Pavement Cracks Detection Based on Histograms of Oriented Gradients, 2015.
17. Qin Zou, Yu Cao, Qingquan Li, Qingzhou Mao, Song Wang CrackTree: Automatic crack detection from pavement images, Pattern Recognition Letters, Volume 33, Issue 3, 2012, Pages 227-238.
18. Arel, I., Rose, D.C., Karnowski, T.P. Deep machine learning - a new frontier in artificial intelligence research. IEEE Computational Intelligence Magazine 5(4), 13-18 (2010).
19. Simard, P.Y., Steinkraus, D., Platt, J.C. Best practices for convolutional neural networks applied to visual document analysis. In: Proc. of International Conference on Document Analysis and Recognition (ICDAR), pp. 958-963 (2003).
20. Szegedy C. et al. "Going deeper with convolutions," 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Boston, MA, 2015, pp. 1-9.
21. Girshick, R., Donahue J., Darrell T. and Malik J. "Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation," 2014 IEEE Conference on Computer Vision and Pattern Recognition, Columbus, OH, 2014, pp. 580-587.
22. Saar T. and Talvik O. "Automatic Asphalt pavement crack detection and classification using Neural Networks," 2010 12th Biennial Baltic Electronics Conference, Tallinn, 2010, pp. 345-348.
Поступила в редакцию /Received 03 февраль 2020 г. /February 03, 2020
