CC BY
3Труды МАИ. Выпуск № 92 www.mai.ru/science/trudy/
УДК 629.7
Минимизация вероятности ошибок в распознавании объектов бортовыми компьютерными системами беспилотных летательных
аппаратов
Протасов В.И.1*, Шаронов А.В.2, Шарнин М.М.3, Клименко А.С.3
1 Национальный исследовательский технологический университет «МИСиС», Ленинский проспект, 4, Москва, 119991, Россия, Московский авиационный институт (национальный исследовательский университет), МАИ, Волоколамское шоссе, 4, Москва, A-80, ГСП-3, 125993,
Россия
о
Институт физико-технической информатики, Заводской проспект 6, Протвино, Московской обл., 142281, Россия * e-mail: protasov vi@mail. ru
Аннотация
Предлагается использовать метод эволюционного согласования в задачах нейросетевого распознавания объектов коллективом бортовых вычислительных устройств беспилотных летательных аппаратов. Поставлена и решена проблема принятия решений с минимальной вероятностью ошибочного распознавания объектов. Сформулированы и доказаны теоремы об условиях существования такого решения.
Ключевые слова: вероятность принятия правильного решения, распознавание, сетевая система принятия решений, беспилотные летательные
аппараты, нейросети, метод эволюционного согласования решений, модель Раша, контекстное распознавание.
Минимизация вероятности ошибок в распознавании объектов
Постановка задачи. Перед группой беспилотных летательных аппаратов (БПЛА), оснащенных системами технического зрения, поставлена задача совместного использования всех бортовых вычислительных мощностей для надежной идентификации ряда объектов с использованием нейросетевого распознавания. Известно, что использование нейросетей в задачах распознавания может привести к трем типам ответов -«правильный ответ», «неправильный» и «объект не распознан».
Основным требованием, предъявляемым к группе нейронных сетей, эмулированных на бортовых компьютерах, является требование минимизации вероятности ошибочного распознавания, которая для единичной сети достаточно велика. При этом результатами распознавания должны быть либо «правильный» ответ, либо ответ «объект не распознан» с вероятностью неправильного ответа, не превышающей наперед заданной малой величины.
До сих пор в известной нам литературе эта проблема не обсуждалась, хотя потребность в ее решении возникает во многих прикладных задачах, таких, например, как принятие решений в технических системах, в
медицинской диагностике, при чрезвычайных ситуациях и многих других случаях, в которых цена ошибки велика.
Действительно, как показывает опыт, в ряду равномерно расположенных по степени трудности заданий, начиная с некоторого критического ее значения, существует зона, в которой нейросеть дает неправильное решение с вероятностью, превышающей наперед заданную величину.
В этой связи возникает ряд проблем. Во-первых, проблема доказательства возможности создания группы нейронных сетей, дающей неправильные решения задач любой степени трудности с вероятностью, не превышающей наперед заданную малую величину. Во-вторых, проблема определения предельной степени трудности решения задачи распознавания с заданной наперед вероятностью правильного ответа группой нейронных сетей с определяемыми заранее их характеристиками.
Подобные проблемы рассматривались Журавлевым Ю.И. в работах [13]. В них впервые была предложена формализация различных алгоритмов распознавания и сформированы модели совокупностей некорректных алгоритмов, повышающих вероятность правильного распознавания.
Теоретическая часть. В [4] приведено описание метода эволюционного согласования решений, координирующего совместную работу группы нейронных сетей и потенциально удовлетворяющего сформулированным выше требованиям.
Этот метод объединяет две стадии. На первой - стадии формирования популяции решений, нейронные сети, работая поодиночке, генерируют возможные варианты ответов, причем им предоставляется и возможность отказаться от них, на второй и последующих стадиях - стадиях обмена вариантами - нейронной сети, которые отказались от ответа, выбирают из предложенных ответов правильные на их взгляд или вновь отказываются от них. Процесс итераций продолжается до тех пор, пока у большинства нейронных сетей не совпадут ответы.
Ясно, что этот ответ может быть трех видов: «правильный», «неправильный» или «не могу решить». Вероятностей таких ответов зависят от числа нейронных сетей М в группе, трудности задачи в, от исходных вероятностей генерации правильных и неправильных ответов у одиночных нейронных сетей и соответственно и от вероятностей правильного или неправильного выбора . чужих ответов на стадиях согласования решений.
В [4] доказано, что при использовании этого метода и соблюдении ряда условий, вероятность правильного решения группой нейронных сетей, по сравнению с вероятностью такого решения одиночной нейронной сетью, может достигать единицы, а вероятность неправильного решения снизиться до нуля. Результаты компьютерного моделирования искомых вероятностей при использовании метода эволюционного согласования приведены на рисунке 1
р
о.
о.
о.
о.
-2 А
О
1
2
П
РR, РN - вероятности правильного и неправильного решения задачи трудности р одиночными нейронными сетями в составе группы по окончании итераций согласования;
QR, QN - соответствующие вероятности решения задачи группой нейронных сетей
Рис.1. Зависимости вероятностей правильного и неправильного решения одиночными нейронными сетями и группой нейронных сетей от трудности задачи
Использование результатов теоремы Кондорсе о "присяжных"[5] и модели Раша [6] позволило найти методом эволюционного согласования аналитическое решение задач определения условий ошибочного принятия решений с вероятностью, не превышающей наперед заданной малой величины в предположении о произвольной их трудности.
В этой связи сформулирована и доказана теорема о вероятности неправильного решения задачи произвольной трудности группой нейронных сетей.
Теорема 1. Пусть групповая нейронная сеть состоит из М одиночных нейронных сетей с подготовленностями к решению задач , , и , численные значения которых лежат в интервале , и .
Здесь вск - подготовленность одиночной нейронной сети к генерации правильных решений, по всем правильным и
неправильным решениям, вЕК и вЕ5 - соответствующие подготовленности при оценивании чужих решений.
Утверждается, что при М — о и 5<1 п 2 вероятность Ры неправильного решения задачи произвольной трудности группой нейронных сетей стремится к нулю.
Доказательство. Из всего множества значений подготовленностей в с к, ввБ, вЕК и вЕ5 выберем такие, для которых вероятность получения неправильного решения групповой нейронной сетью будет максимальной, то есть
всн = в- 8,вСБ = в + 8,вЕЯ = в-8,вЕБ = в + 8. (1)
Согласно модели Раша соответствующие вероятности правильных и неправильных решений имеют вид
г = 1 г = 1
ик ! + ер-в+8 , ±+ер-в-8 ,
а вероятность ответа «не могу решить»
ву = 1 - вБ = 1 + е_р+в+ 5,
1 1 в N = вБ- вЯ = ±+е/3-в-5 - ± + ер-в+5- (2)
Такие же выражения с учетом (1) можно записать соответственно и для Ек,Е5 и Е^
Ек = в к, Е5 = и EN = GN (3)
Можно показать, что в конце итерационного цикла согласований при вероятность принятия неправильного решения одиночной нейронной сетью в составе группы будет иметь вид
Рщ = вщ+^ву . (4)
Подставляя (2) и (3) в (4), после преобразований получим зависимость
1 г+еР-0-8
Рщ (Ю - ±+еР - в-5 + 2+е-Р+в+5+еР -в-5 . (5)
Выполнение необходимого условия существования экстремума Рщ ( () и отрицательности ее второй производной гарантирует его достижение на единственном значении (( - в для любых 8. и это значение ( доставляет максимальное значение. Очевидно, что, если вероятность принятия неправильного решения одиночной нейронной сетью в точке максимума меньше 0.5, то и для всего интервала изменения от эта вероятность также меньше 0.5.
Следовательно, на всем интервале изменения ( при М — оо согласно теореме
Кондорсе вероятность принятия неправильного решения групповой нейронной сетью ((ы стремится к нулю.
Максимально допустимое значение 8 = 1п2 определяется из решения уравнения (5) при Р п = 0 . 5 .
Можно также показать, что при подготовленности и
находящихся в интервале и при прежних значениях
и , величина предельного значения будет определяться соотношением 8± = 1п-\/5 .
Результаты этой теоремы, приводят к выводу о том, что наличие базы сертифицированных нейронных сетей с заранее известной их подготовленностью позволяет сформировать группу нейронных сетей, которая либо решит подобные задачи правильно, либо даст ответ «не могу решить» при заранее заданной как угодно малой величине вероятности неправильного решения. Методика сертификации нейронных сетей, для определения их подготовленностей приведена в [7].
Для определения предельной трудности задачи (( с, которую выбранная группа нейронных сетей может правильно решить с наперед заданной вероятностью q докажем следующую теорему.
Теорема 2. Для произвольной группы из М нейронных сетей существует задача с пределом трудности , при превышении которого эта группа уже не в состоянии правильно решить задачу с заданной вероятностью q.
Доказательство. Поскольку в общем случае подготовленность нейронных сетей может быть разной, то каждая из них может решить задачу трудности в с вероятностью р¿, определяемой по формуле Раша [6]
_ 1
= ^ Р-в
1 + е , для ¡=1,2,3...М.
Тогда вероятность правильного решения задачи группой нейронных сетей будет выглядеть следующим образом
Мл Мл
д=1 П(1 -)=1-П
г=1 1 + е г =1 1 + е . (6)
Поскольку каждый сомножитель в правой части (6) является монотонно возрастающую функцию по аргументу в, то и их произведение является монотонно возрастающей функцией. Следовательно, эта функция, имеет только одну точку пересечения с функцией ,, которая заведомо находится в интервале области существования монотонно возрастающей функции. Что и требовалось доказать.
Решение обратной задачи, определения величины предельного значения трудности задачи (( с. для наперед заданной величины q следует из соотношения (6). При этом при одинаковой подготовленности нейронных сетей0 из (7) можно получить явное выражение для этой величины:
-1
Ра = в- 1п((1 -д)М -1)
Доказанные теоремы носят универсальный характер и могут применяться, например, в задачах составления индекса контекстного научного цитирования [8].
Технология «безошибочного» распознавания объектов группой БПЛА.
Предположим, что система распознавания одиночного БПЛА состоит из системы технического зрения и компьютерного бортового вычислителя, оснащенного программами предварительной обработки графической полутоновой информации, с помощью которой осуществляется выделение контуров искомых объектов так, как это, допустим, приведено в [9,10]. Полученный контур преобразуется в контур, расположенный в единичном квадрате по алгоритму, предложенному в [10]. В основе этого преобразования, инвариантного относительно трансляций, поворотов и изменения масштаба лежат сравнительно простые процедуры, графически проиллюстрированные на рисунке.2.
Рис.2. Нахождение характерных точек контура и его преобразование
На начальном этапе производится выбор характерных точек контура [12] gо правилу: первая характерная точка - точка наиболее удаленная от центра тяжести контура, вторая характерная точка - точка контура, наиболее далеко отстоящая от первой. Третья и последующие точки определяются как наиболее удаленные от двух точек, между которыми они находятся. Этот процесс продолжается до тех пор, пока отношение расстояния к от искомой точки до прямой, соединяющей две предыдущие точки, к длине отрезка Ь между ними не станет меньше некоторой, заранее заданной величины, которая является одним из немногих настроечных параметров программы и подбирается экспериментально таким образом, чтобы программа различала два наиболее близких друг к другу контуров двух разных объектов из всей группы.
Результат нахождения характерных точек для некоторого частного примера проекции трехмерного объекта на плоскость х0у представлен на левой части рисунка 2.
Достоинство такого метода поиска характерных точек контура состоит в том, что этот процесс инвариантен относительно поворотов, трансляций и изменения масштаба. В [11] показана слабая чувствительность такого метода к искажениям части контура, при котором положение характерных точек в частях, не подвергшихся искажениям, остается прежним.
Каждой полученной по приведенному выше алгоритму линеаризации контура точке ставится в соответствие точка в единичном квадрате Соединяя полученные таким образом точки в единичном квадрате в соответствии с обходом контура на плоскости х0у, получим отображение исходного контура на единичный квадрат, инвариантное относительно трансляций, ротации и изменения масштаба контура.
Единичный квадрат очевидным образом разбивается на 256 клеток квадрата 16х16, образующих входы нейронной сети. Если линия контура, изображенная на правой части рисунка. 2 проходит через клетку единичного квадрата, то на соответствующий вход нейронной сети подается единица.
В бортовых компьютерах БПЛА, входящих в состав группы, эмулируется и обучается нейронная сеть, для каждого из объектов, подлежащих последующему распознаванию. Обучающие выборки при этом для разных нейронных сетей делаются намеренно разными, совпадение
объектов допускается при этом не более, чем в 0.2 доли случаев от общего размера выборки.
Выполнение этого требования необходимо для того, чтобы полученные нейронные сети обладали требуемым для принятия коллективных решений разнообразием.
Здесь следует еще раз подчеркнуть, что основное внимание уделяется сложным случаям, в которых одиночные нейронные сети могут правильно распознавать объекты с малой вероятностью, не превышающей, например, величину в 0.5, но при этом допускается возможность ошибочного решения с вероятностью, значительно отличающейся от нуля.
Именно из таких нейронных сетей необходимо сформировать коллектив, ошибающийся в сложных случаях с вероятностью, не превышающей наперед заданную малую величину. В простых случаях осуществляется правильное распознавание с вероятностью, приближающейся к единице, что особенно важно при решении задач поиска цифровых снимков в больших базах данных [13], [14].
Использование метода эволюционного согласования для решения поставленной задачи предполагает наличие возможностей нейронных сетей выполнять две функции - на первой стадии генерировать решения, а на второй оценивать чужие решения (в работе рассматривается организация только двух стадий процесса работы коллектива нейронных сетей над задачей распознавания объектов).
Очевидно, что нейронные сети идеально приспособлены для выполнения первой функции. Примеры же нейронных сетей выполняющих вторую функцию авторам не известны.
В этой связи предлагается проверка возможности выполнения этой функции методом компьютерной симуляции с использованием следующего эвристического приема.
Допустим, что на стадии обучения для каждого из объектов определяется и запоминается не только набор коэффициентов, определяющих нейросетевое распознавание объекта, но и усредненные по всей обучающей выборке значения компонент входного вектора Б ^к, где I -номер бортового компьютера, у - номер объекта, к - номер входа нейронной сети.
Предположим также, что на стадии генерации решений несколько компьютеров дали разные решения и искомый объект п с компонентами Тп к, подлежащий распознаванию, распознан ими как объект I или как т, или п, а остальные компьютеры не смогли распознать сложный случай.
На второй стадии коллектив нейронных сетей должен выбрать большинством голосов правильное решение из набора решений. Если ни одно из них не наберет большинства, то это равносильно тому, что коллектив дал ответ «объект не распознан».
Каждый р-й компьютер, не принявший решения на стадии генерации, загружает последовательно в нейронную сеть матрицу коэффициентов
вначале соответствующую объекту I, а на вход компоненты Бр1к + Тпк и осуществляет операцию распознавания, затем аналогично выполняет действия, соответствующие объекту т, а затем п. Очевидно, что с наибольшей вероятностью в данном случае распознается объект п , так как сумма входных компонент Брпк + Тпк будет наиболее близкой к Тпк. Поскольку это справедливо и для остальных компьютеров, осуществляющих оценивание решений, то ясно, что большинство голосов в данном сложном случае получит объект п или не получит никакой из объектов. В последнем случае коллектив даст ответ «объект не распознан».
Результаты экспериментов
Предложенная методика была использована в проведении серии компьютерных симуляций распознавания объектов коллективом нейронных сетей.
Сформированная по классической схеме на 256 входов однослойная нейронная сеть обучалась на серии серия из 100 фотографий четырех объектов в разных ракурсах, снятых в разных условиях освещения.
Методом обратного распространения ошибки при обучении были получены компоненты векторов весовых коэффициентов нейронных сетей на разных обучающих выборках, предъявляемых случайным образом из ста исходных для 11 вычислителей и 4-х объектов. Так же были получены усредненные значения по соответствующим выборкам.
Далее были получены по десять фотографий каждого из 4-х объектов, которые подвергались с помощью специальной процедуры разной степени «зашумления».
Анализ результатов компьютерного моделирования решения задачи распознавания объектов коллективом нейронных сетей показал, что слабая степень «зашумленности» не приводит к неправильному распознаванию объектов как для одиночных, так и для коллектива нейронных сетей.
При средней степени «зашумленности» вероятность неправильного распознавания объектов у одиночных нейронных сетей была равна 0.27 при вероятности правильного распознавания в среднем 0.38.
У коллектива из 11 нейронных сетей соответствующие вероятности были равны 0.002 и 0.98. В случае сильного «зашумления» фотографий объектов вероятности у одиночных сетей имели значения соответственно 0.44 и 0.12 при вероятности ответа «объект не распознан» равной 0.44, а у коллектива составили соответственно 0.02 и 0.47 при вероятности ответа «объект не распознан» равной 0.51. Выводы
1. Проведенные эксперименты полностью подтвердили положения теории о том, что коллектив нейронных сетей может давать близкие к нулю вероятности ошибочных распознаваний даже в сложных случаях.
2. Применение одиночных нейронных сетей не дает гарантии правильного распознавания, а в сложных случаях вероятность ошибочного решения может составлять величину, близкую к 0.5.
3. Использование нейронных сетей для оценивания результатов распознавания объектов другими нейронными сетями в схеме метода эволюционного согласования решений может значительно увеличить вероятность правильного распознавания в простых случаях и снизить практически до нуля вероятность ошибочного распознавания.
Работа выполнена при частичной поддержке гранта РФФИ 16-07-00756 а «Исследование и разработка семантических методов построения «Индекса
контекстного научного цитирования»»
Библиографический список
1. Журавлев Ю.И. Корректные алгебры над множествами некорректных (эвристических) алгоритмов. Часть 1. // Кибернетика. 1977. №4. С. 5-17.
2. Журавлев Ю.И. Корректные алгебры над множествами некорректных (эвристических) алгоритмов. Часть II // Кибернетика. 1977. №6. С. 21-27.
3. Журавлев Ю.И. Корректные алгебры над множествами некорректных (эвристических) алгоритмов. Часть III // Кибернетика. 1978. №2. С. 35-43.
4. Протасов В.И. Конструирование метасистемных переходов. - М.: Изд-во института физико-технической информатики, 2009. - 186 с.
5. Condorcet, marquis Marie-Jean-Antoine-Nicolas de Caritat. Essai sur l'application de l'analyse à la probabilité des décisions rendues à la pluralité des voix. Imprimerie Royale, Paris, 1785.
6. Rasch G. Probabilistic Models for Some Intelligence and Attainment Tests /Expanded Edition, with Foreword and Afterword by B.D. Wright. Chicago: University of Chicago Press, 1980.
7. Протасов В.И., Потапова З.Е., Осипчук О.К. Сертификация агентов и определение относительной цены задачи в зависимости от ее сложности // Труды ХХ Байкальской Всероссийской конференции «Информационные и математические технологии в науке и управлении». Часть 2, Иркутск, ИСЭМ СО РАН, 2015, С. 164-175.
8. Ezhela V.V, Klimenko S.V., Raikov A.N.,. Sharnin M.M. A Semantic Approach to the Evaluation of the Quality of Academic Publications. ISSN 00051055, //Automatic Documentation and Mathematical Linguistics. 2015, vol. 49, No. 4. pp. 117-121.
9. Малышев О.В.,. Хмаров И.М,. Кондрашов Н.Г. Алгоритмы выделения и распознавания находящихся на земле самолетов по результатам их космической фотосъемки // Вестник Московского авиационного института. 2011. №1. Т.18. С. 142-148.
10. Максимов Н.А, Шаронов А.В. Анализ формы изображения и распознавание объектов на основе скелетных контурных представлений //
Научный вестник Московского государственного технического университета гражданской авиации. 2014. №207(09). С. 67-76.
11. I. Kalaev, V Protasov, W. Shapowal. An Efficient Method for the Recognition of Three- Dimensional Objects from a Contour Segment. //Pattern Recognition and Image Analysis. 1998, vol.8. No 2, pp. 196-197.
12. Gupta L., Sayeh M.R. Neural networks for planar shape classification. IEEE. 1988. p. 936.
13. Ким В.В., Крылов И.Г. Групповое применение беспилотного летательного аппарата в задачах наблюдения // Труды МАИ, 2012, № 62: http://www.mai.ru/science/trudy/published.php?ID=35507
14. Шаронов А.В., Максимов Н.А., Синча Д.П. Устойчивый метод поиска изображений в визуальных базах данных // Труды МАИ, 2011, №49: http: //www.mai .ru/science/trudy/published.php?ID=2 8119&PAGEN 2=2
