CC BY
57
DOI: 10.24412/2413-2527-2021-125-35-45
Актуальные проблемы автоматического управления транспортными средствами
к.ф.-м.н. А. Р. Ураков, Т. В. Тимеряев Уфимский государственный авиационный технический университет
Уфа, Россия urakov@ufanet.ru, timeryaev@gmail.com
Аннотация. Рассматривается задача автоматического управления автомобильными транспортными средствами. Проведен обзор проблем в целом и некоторых ее подзадач, приведены ссылки на существующие оценки их алгоритмической сложности. Рассмотрены задачи управления беспилотным автотранспортом. Приведены этапы решения задачи автоматического управления. Рассмотрены сложности проектирования управляющей системы беспилотным автотранспортом. Формулируются дополнительные проблемы, к которым приводит высокая сложность задачи в совокупности со специфическими условиями использования транспортных средств. Оцениваются подходы, применяемые для решения затронутых проблем, и перспективы их реализации на практике. Читателю предлагается самостоятельно оценить вероятность появления автоматически управляемых автомобильных транспортных средств в ближайшее время.
Ключевые слова: автономное транспортное средство, беспилотный автомобиль, автоматизация, робототехника, искусственный интеллект, принятие решений, безопасность, страхование.
Введение
Беспилотным автотранспортом (БА) называют транспортные средства, способные анализировать текущую дорожную ситуацию и осуществлять безопасное передвижение по правилам дорожного движения (ПДД) без вмешательства человека. В основе системы управления БА лежит программное обеспечение, которое для оценки текущей ситуации использует совокупность различных устройств: камеры, лидары, радары, системы спутниковой навигации и т. д.
Классификацию автомобилей по автоматизации управления (степени ответственности автоматизированной системы управления) принято разделять на 6 уровней [1]:
0. «Без автоматизации». Полное управление автомобиля человеком. Система может лишь выдавать предупреждения и вмешиваться в экстренных ситуациях торможением или рулением;
1. «Помощь водителю». Используя информацию об окружающей обстановке, система может помогать в определенных режимах вождения либо рулевым управлением, либо ускорением/замедлением. За все остальные аспекты вождения отвечает водитель.
2. «Частичная автоматизация». Используя информацию об окружающей обстановке, система может помогать в определенных режимах вождения рулевым управлением и ускорением/замедлением. За все остальные аспекты вождения отвечает водитель.
3. «Условная автоматизация». Система полностью управляет автомобилем в определенных режимах вождения, ожидая адекватного вмешательства водителя по запросу.
4. «Высокая автоматизация». Система полностью управляет автомобилем в определенных режимах вождения, даже при отсутствии адекватного вмешательства водителя по запросу.
5. «Полная автоматизация». Система полностью управляет автомобилем при любых дорожных обстоятельствах и условиях окружающей среды, при которых способен водить человек.
При этом предполагается, что в уровнях 0-2 за мониторинг окружающей обстановки отвечает человек, а в уровнях 3-5 — автоматизированная система управления. Уровни 0-1 реализованы во многих выпускаемых в настоящее время автомобилях. Примеры подобных систем: антиблокировочная система, система динамической стабилизации автомобиля, помощник при парковке, круиз-контроль. Уровень 2 в своих автомобилях реализован несколькими автопроизводителями, это, например, такие системы помощи водителю, как Mercedes-Benz Distronic Plus, Nissan ProPilot Assist и Tesla Autopilot. Будем подразумевать под БА автотранспорт с автоматизацией управления уровня 5.
Особый практический интерес вызывает именно уровень 5 автоматизации, так как предполагается [2, 3], что его реализация и массовое распространение будет иметь ряд позитивных последствий:
• уменьшение числа пострадавших и смертности в автомобильных авариях за счет исключения фактора человеческих ошибок;
• увеличение производительности труда из-за высвобождения времени и усилий, которые тратятся на управление автомобилем;
• позитивный экономический эффект как следствие удешевления автомобильных перевозок без оплаты водительского труда;
• увеличение мобильности инвалидов, пожилых людей и детей;
• более эффективное градостроительное планирование благодаря использованию земли, освободившейся за счет переноса парковок и пр.
Технический прогресс в разработке датчиков, используемых автоматизированными системами управления автотранспортом, приведший к увеличению их точности и удешевлению, развитие существующих и появление совершенно новых — таких, как глубинные нейронные сети — алгоритмических подходов, а также проведение значимых соревнований с государственной поддержкой [4, 5], произошедшие в последние 20 лет, привели к усилению интереса к этой области и способствовали ряду серьезных достижений. Последние несколько лет различные автопроизводители при содействии технологических компаний
на регулярной основе анонсируют появление БА в течение ближайших 3-10 лет. Однако пока появление такого автотранспорта так и не произошло, и в настоящее время имеющийся прогресс сводится к испытаниям в определенных условиях достаточно ограниченного числа частично автоматизированных автомобилей с присутствием инженера на водительском сиденье, способным взять управление автомобилем на себя в критических или нештатных ситуациях.
В этой связи возникает естественный вопрос о принципиальной возможности реализации БА при использовании текущих подходов и имеющихся технологиях, а также о том, какие при этом могут возникнуть проблемы. Статья устроена следующим образом. В начале дается краткий обзор задач, возникающих при построении системы управления БА, часть из которых не решается точно. В разделе 2 рассматривается влияние неточности решений на характер функционирования БА. Разделы 3 и 4 посвящены сложностям, присущим разработке системы принятия решений БА, и проблеме страхования БА.
Задачи управления БА
Задачу управления автотранспорта автоматической системой согласно разным источникам [6-8] можно разделить на несколько основных этапов или подзадач (рис. 1):
1. Построение маршрута для перемещения из исходного пункта в пункт назначения.
2. Принятие решений при движении по построенному маршруту:
а) восприятие окружающей обстановки, выделение и интерпретация находящихся в ней объектов;
б) построение карты окружающего пространства и локализация БА в этом пространстве;
в) предсказание поведения остальных участников дорожного движения (УДД).
3. Нахождение траектории и скорости движения БА для принятого системой решения.
Пункт назначения/
2
1 Построение маршрута Восприятие окружения Локализация в пространстве Предсказание поведения 3 Генерация маневра
Г / г/
/ Датчики / / Сенсоры /
Рис. 1. Этапы решения задачи автоматического управления
Кратко опишем указанные этапы, укажем, где это возможно, вычислительную сложность и точность применяемых на каждом из этапов способов решения.
При построении маршрута для БА используются данные о дорожной сети местности, в пределах которой осуществляется перевозка. В математике этот класс проблем называется задачей о кратчайшем пути [9]. При этом дорожная сеть моделируется графом, вершины которого представляют собой пункты отправления/назначения, а ребра соответствуют расстояниям (или другой метрике, например времени в пути) между этими пунктами. Эта задача хорошо изучена и может быть решена точно достаточно эффективно, с вычислительной сложностью 0(т + п log п), где п — количество вершин, т — количество ребер [10]. В случаях, когда дорожная сеть местности является достаточно большой, с целью уменьшения времени построения последующих маршрутов могут быть использованы алгоритмы, которые на начальном этапе выполняют предрасчет [11].
Этап 2а может быть разбит на 2 основные задачи: детектирование объектов и их отслеживание. В задаче детектирования объектов [12] необходимо по данным камер и ли-даров идентифицировать и определить местоположение и размер имеющихся в сцене трехмерных объектов из интересующего набора категорий, таких как автомобили, пешеходы, препятствия, знаки и т. д. Это одна из фундаментальных задач компьютерного зрения, сложность решения которой зависит как от количества распознаваемых категорий, так и от количества положений, в которых распознаваемые объекты могут находиться, и масштабов, которые
они могут принимать. Так как задача не является строго формализованной, то принято говорить не о ее теоретической сложности, а о скорости работы алгоритмов решения, важно, чтобы она была приемлема для использования в реальном времени. На текущий момент доминирующий подход к решению задачи базируется на методах глубокого обучения, а лучшие из существующих алгоритмов имеют ошибку детектирования, превышающую 15 % [13].
Выделенные в сцене нестатичные объекты необходимо сопоставить с их наблюдаемым до текущего момента движением и на основании этого предсказать траекторию и скорость движения в ближайшем будущем. Формально это соответствует еще одной проблеме из области компьютерного зрения — задаче отслеживания объектов [14]. На текущий момент методы глубокого обучения показывают лучшие результаты при решении данной задачи, которые принято оценивать с применением агрегированных метрик. На известных наборах данных существующие алгоритмы демонстрируют верное решение задачи не более чем в 60 % случаев [15].
Для решения задачи, возникающей на этапе 2б, существует несколько подходов, среди которых можно выделить три, показывающих наилучшие результаты.
1. GPS/IMU Fusion [16] — совместное использование системы глобального позиционирования (СГП, GPS) и инерциального измерительного модуля (гиростабилиза-тора, IMU). В этом подходе показания гиростабилизатора с определенной частотой корректируются с учетом показаний СГП. Погрешность определения местоположения
СГП, а значит и погрешность полученного решения, затрудняет применение этого метода в реальных городских условиях.
2. SLAM — одновременная локализация и построение карты [17]. Для приближенного решения возникающей при формулировке задачи системы линейных уравнений, как правило, используют расширенный фильтр Калмана. Сама постановка задачи имеет вероятностный характер и не может иметь точного решения.
3. Подходы, в которых сопоставлением текущих показаний сенсоров БА с заранее подготовленной детальной картой местности определяется наиболее вероятное положение БА [18]. Существенным недостатком таких подходов является необходимость иметь актуальные детализированные карты для всех доступных для использования автотранспортом дорог, что в ближайшее время не представляется возможным.
Полученные на этапе 2а предсказания траекторий движения остальных УДД имеют механический характер и основываются лишь на наблюдениях за их перемещением до текущего момента. Однако водитель автомобиля или пешеход в любой момент может принять решение, которое существенно изменит его траекторию или скорость. Причем выбранный маневр может не всегда соответствовать ПДД, казаться нелогичным или выполняться внезапно. Поэтому возникает необходимость предсказания поведения УДД (этап 2в). Подходы к решению этой задачи используют различные статистические инструменты: методы машинного обучения с применением скрытых Марковских моделей, байесовских сетей и т. д. [19]. Вероятностная природа данной задачи не предполагает получения точного, безошибочного решения.
Полученные решения задач этапов 2а-2в являются исходными данными для системы принятия решений БА. Эта информация может использоваться вместе с заложенными в систему инструкциями — ПДД, поведенческими моделями, ценностными установками и т. д. — для выбора в каждый момент времени следующего корректного поведения БА. Можно выделить несколько подходов к процессу принятия решений: на основе системы правил и знаний, эвристические алгоритмы, методы нечеткой логики, имитация человеческого мышления [20]. Ни один из этих подходов не гарантирует принятия системой управления корректного, безошибочного решения: в каких-то случаях из-за проблемы сбора и поддержки полной базы знаний, в других — из-за сложности обучения искусственного интеллекта принятию правильных решений для всего многообразия возможных ситуаций, а где-то — по самому определению используемых методов.
Для тех принятых системой решений, которые касаются передвижения, необходимо найти траекторию и скорость движения БА в пространстве, реализующие выбранный маневр без столкновений. В робототехнике эта проблема соответствует задаче планирования движения (Motion Planning, [21]). Даже для голономного робота (робота, способного двигаться в любом направлении) нахождение точного решения задачи при условии двигающихся помех является очень вычислительно сложным, и в зависимости от наложенных ограничений задача может принадлежать следующим классам сложности: NP, PSPACE [22],
NEXPTIME [23]. В этой связи на практике для решения задачи используется ряд методов, дающих приближенное решение [24].
Следует отметить, что также существует подход, при котором задача управления решается без разбиения на подзадачи с помощью монолитной системы (рис. 2), которая в неявном виде учитывает все вышеописанные этапы [25]. Такие системы строятся на основе искусственных нейронных сетей (ИНС), и с этим связано несколько трудностей в их практическом применении. Во-первых, сложность обучения. Необходим очень большой массив данных для обучения ИНС, желательно учитывающий каждую из возможных ситуаций, возникающих на реальных дорогах. Во-вторых, периодическая необходимость переобучения. Например, при изменении или добавлении пункта ПДД необходимо заново обучать ИНС, так как принимаемые системой решения могут противоречить нововведениям. В-третьих, при создании ИНС невозможно явно задать правила поведения, касающиеся безопасности, которые должны жестко соблюдаться системой управления в любых ситуациях, т. е. нельзя гарантировать безопасность принимаемых системой решений. Из-за указанных особенностей автомобили с такого вида системой управления не тестировались на дорогах общего пользования, поэтому возможность их практического применения остается неясной. Будем считать, что далее в статье рассматриваются системы управления БА описанного выше типа — с декомпозицией на этапы.
Рис. 2. Решение задачи автоматического управления монолитной системой
Как видно, задача управления БА является достаточно сложной, с необходимостью учитывать множество возможных комбинаций правил и разнообразие дорожных ситуаций, распознавать элементы окружения и определять свое местоположение относительно них, отслеживать движение и предсказывать поведение остальных УДД. При этом, как показано выше, часть подзадач не может быть решена точно: в каких-то случаях сама постановка задачи не предполагает существования точного решения, какие-то из задач слишком вычислительно сложны и поэтому решаются с помощью приближенных методов. Следовательно, необходимо рассмотреть влияние приближенного характера решения задачи управления на функционирование БА.
Режимы оперирования БА После того как становится ясно, что точное решение задачи управления невозможно, приходится рассматривать результаты решения в приближенном виде. Одним из следствий этого является то, что не все комбинации входной информации будут корректно обработаны системой управления БА.
Реакцию системы управления на все многообразие входных данных можно условно разделить на следующие группы — режимы оперирования:
A. Система понимает и правильно обрабатывает входную информацию.
АЕ. Система понимает входную информацию, но обрабатывает ее неправильно из-за ошибок в программной реализации (в идеальном случае в полностью отлаженной системе подобное невозможно).
B. Система не имеет возможности правильно обработать входную информацию, однако распознает это и переходит в режим корректного выхода из ситуации. Корректный выход может предполагать: немедленную остановку работы, перезапуск системы, обращение к оператору для перехода на ручное управление.
C. Система не имеет возможности не только корректно обработать входную информацию, но и распознать эту ситуацию, поэтому принимает ошибочные управляющие решения.
Простые системы, не жизненно важные, не связанные с механическим управлением не нуждаются в режиме В. При переходе к режиму С система продолжает некорректную работу, пользователь сам решает, взаимодействовать ли с системой дальше или прекратить ей пользоваться (возможно, форсировать режим В).
В сложных системах, управляющих большими механическими объектами, режим оперирования С недопустим, так как может привести к тяжелым последствиям: серьезным повреждениям, человеческим травмам. В таком случае задача управляющей системы — отличить режим А от С, и при малейшей вероятности отклонения от режима А перевести систему в режим В, то есть запустить процедуру корректного выхода. Причем чем выше опасность объекта, тем более строгие требования к точности определения аварийных режимов В и С.
Основная проблема управления транспортными системами без оператора заключается в том, что режима оперирования В может не существовать. Массивный движущийся механический объект представляет опасность сам по себе, поэтому перезагрузка не является выходом из ситуации. Мгновенная остановка быстро движущегося объ-
екта в лучшем случае невозможна из-за его инерции и времени реакции механической системы, в худшем случае попытка мгновенной остановки может привести к более разрушительным последствиям, чем ошибки управления, которых требовалось избежать. Попытка переключиться в режим В в таких системах означает переход к режиму С.
Так как БА предполагает отказ от использования режима В, требуется покрытие системой управления БА всех возможных вариантов входных данных режимом А. Как показано выше, система управления БА не может гарантировать корректность решения во всех возможных случаях, поэтому придется допустить функционирование БА при определенных условиях в режиме С, рассчитывая на достаточно малую вероятность такого рода событий.
Понимая неизбежность перехода к режиму С и губительные последствия такого перехода, разработчики системы управления БА должны сделать все возможное, чтобы минимизировать подобные случаи. Это означает, что нужно не только корректно обработать все события, известные на момент разработки. По мере обнаружения новых случаев перехода к режиму С следует оперативно корректировать систему управления, добиваясь правильной реакции системы на подобные ситуации. Далее рассмотрим трудности разработки сложной управляющей системы в подобном режиме.
Сложности проектирования управляющей системы
Процесс разработки управляющей системы (рис. 3) можно упрощенно описать следующим образом. Рассматривается некий набор условий и состояний, в которых система должна работать, т. е. выдавать корректные управляющие решения, в соответствии с определенными правилами (ограничениями, пожеланиями). Далее эти условия, состояния и правила формализуются. В ходе формализации определяются некие сущности. Одни сущности соответствуют объектам, другие — состояниям и свойствам, третьи — неким закономерностям и правилам взаимодействия объектов. Весь этот набор сущностей объединяется в модель, на основе которой строится управляющая система: разрабатываются алгоритмы и реализуются в виде программного обеспечения.
Введение Разработка Введение Коррекция Программная Отладка
новых новых сущностей существующих реализация
сущностей алгортнмов взаимодействия алгоритмов
Рис. 3. Процесс разработки управляющей системы
Разработка сложной управляющей системы происходит поэтапно. На каждом этапе реализуется небольшая часть планируемого функционала, для определенных ситуаций и режимов работы, т. е. реализуется определенный сравнительно ограниченный набор сущностей. Часть управляющей системы, разработанная на каждом этапе, должна адекватно реагировать на некоторый ограниченный набор условий. Если система достаточно простая и полностью покрывает все возможные сочетания сущностей, то после отладки программного обеспечения можно считать разработку законченной.
Если система достаточно сложная, как в случае с БА, количество этапов разработки оказывается довольно большим. Мы говорим о единой управляющей системе, все сущности, которыми она оперирует, связаны между собой. Это значит, что появление новых сущностей должно предусматривать их взаимодействие со всеми сущностями, уже реализованными системой. Для осуществления такого взаимодействия также придется вводить новые взаимодействующие сущности (правила, статусы, алгоритмы), причем их количество пропорцио-
нально количеству уже реализованных сущностей. Другими словами, прирост количества сущностей у зависит от этапа х по правилу
йу ~ уйх . (1)
Это означает, что количество сущностей по мере разработки системы будет расти экспоненциально.
Если предполагать, что разработка системы заключается во введении и кодировании новых сущностей, указанная экспоненциальность означает следующее. Ресурсы на разработку (количество специалистов и общее время их работы) также должны расти экспоненциально (экспоненциальный рост числа специалистов, в свою очередь, экспоненциально увеличивает число связей между ними и затраты на организацию процесса). Экспоненциальный рост требуемого ресурса постоянно отодвигает окончание разработки тем дальше, чем дольше идет разработка. Экспоненциальный рост числа сущностей также требует экспоненциального роста размера памяти ЭВМ, управляющей БА.
Может ли не быть экспоненциального роста? Отсутствие такого роста означает, что правая часть выражения (1) не содержит у. Сущности отражают не только объекты, но и связи между ними. Если объем добавляемых сущностей не зависит от объема текущей реализации (количества сущностей, учтенных системой), это означает, что разрабатываемую задачу можно разбить на большое количество частей. Для задачи управления БА это могут быть такие части (приведены лишь некоторые примеры): учет разметки, обработка знаков дорожного движения, учет состояния дороги, природных условий, объезд препятствий. Далее все части связываются между собой фиксированными неизменяемыми протоколами и при необходимости могут разрабатываться параллельно. Важно, чтобы протоколы, т. е. наборы сущностей, передаваемых через них, были определены заранее. Если такая фиксация произошла, можно говорить о переходе к полиномиальному росту размера программного кода, значит, задача становится реализуемой на практике.
Если сложность системы сравнительно высока, количество сущностей велико и фиксация протоколов взаимодействия между ее частями невозможна. Выход заключается в принудительном упрощении реализуемой модели и в неполной реализации. Первое означает, что условия, в которых будет работать управляющая система, ограничены специальным образом: закрытая территория, помещение, допуски — так, чтобы значительно ограничить список сущностей, которые требуется реализовать. Второе означает, что не все сущности будут реализованы, а в случае появления непредусмотренной ситуации произойдет переход либо в режим B (остановка или передача управления человеку), либо в режим С (принятие ошибочного решения; такое допустимо, если это не приведет к нежелательным последствиям).
К сожалению, работа БА предполагается в таких условиях, в которых невозможно как принудительное упрощение модели, так и переход в режим B, а режим C может привести к разрушительным последствиям. Сказанное выше означает, что разработка БА должна начинаться со строгой формализации связей между частями системы. Например, до начала разработки должна быть однозначным
образом решена задача определения оптимальной и максимально допустимой скорости для каждого участка пути при любых внешних условиях. После такой формализации разработка подзадач может происходить одновременно.
Насколько реальна такая формализация? С одной стороны, нельзя рассчитывать на полную непротиворечивую систему правил (аксиом), с другой стороны, полная система на практике и не требуется. Достаточно реализовать такую формализацию связей, которая будет охватывать только практически осуществимые или реальные ситуации. Более того, использование системы страхования (см. ниже) позволяет не реализовывать уникальные или неповторяемые ситуации. Остается требование, чтобы формализованные протоколы не влияли друг на друга (формализация, реализация и отладка одного протокола не могла изменять содержание остальных) и не приводили к комбинаторному росту их сложности. Возможно ли это при том, что подобных формализаций для сложных реальных систем пока не происходило? Вопрос остается открытым.
Несмотря на то, что подобные формализации отсутствуют, разработчики БА в настоящее время уже реализуют будущие части системы, т. е. функционал, который обеспечивает управление для определенных частных случаев. Можно делать расчет на то, что как алгоритмы, так и их программная реализация случайным образом будут соответствовать или почти соответствовать формальным правилам, которые пока не сформулированы и появятся гораздо позже. Однако подобное случайное совпадение кажется маловероятным. Скорее всего, понадобится перестройка уже реализованных алгоритмов под формализованные правила. Тогда список сущностей разделится на: а) реализованные; б) излишние по новым правилам; в) требующие корректировки; г) нереализованные. Добавление сущностей из группы «г» и редактирование сущностей из группы «в» вызовет необходимость согласования связей этих сущностей с уже существующими, что приведет к комбинаторному усложнению задачи. В такой ситуации окажется, что разработать все алгоритмы заново проще, чем пытаться переделывать старые.
Проблема страхования БА
Высокая вычислительная сложность решения задачи управления БА, как показано выше, исключает получение точного решения. Следовательно, возникает необходимость оценки безопасности БА. Используемый сейчас для дорожных транспортных средств стандарт ISO 26262 («Дорожные средства — Функциональная безопасность») [26] не может быть использован для БА, так как касается только функциональных неисправностей аппаратного и программного обеспечения, но не рассматривает принятия БА ошибочных решений (в этом случае никаких функциональных неисправностей нет).
Существуют несколько подходов к оценке безопасности БА:
1. Подтверждение безопасности посредством большого количества пройденного испытуемым БА расстояния. В [27] показано, что данный подход может потребовать пробега в миллиарды километров, что кажется сложно реализуемым, так как для даже большого флота испытуемых автомобилей на это может потребоваться не один десяток лет. Кроме того, применение данного метода осложняет
необходимость доработки БА путем изменения программного обеспечения, возникающая в случае каждого обнаружения ошибки в управлении БА, что будет дополнительно увеличивать необходимое пройти расстояние.
2. Методы формального доказательства безопасности. Не могут быть использованы для БА, так как являются еще более вычислительно сложными, чем сама задача управления БА [28].
3. Подтверждение безопасности с помощью симуляции дорожных ситуаций. Этот подход также не может гарантировать безопасность БА, поскольку симуляция не может быть исчерпывающей, моделирующей все возможные сценарии и учитывающей разнообразные возникающие неопределенности (например, нерациональное поведение остальных участников дорожного движения) [29].
Отсутствие гарантии безопасного управления БА допускает возникновение ДТП по его вине с ущербом, причиненным как владельцу БА, так и третьим лицам. В этой связи возникает вопрос компенсации ущерба пострадавшим сторонам. В обычной практике это происходит через систему страхования.
Первый возникающий в этой связи вопрос: кто является страхователем? Или в такой постановке: чья ответственность за возможный ущерб, причиненный БА, должна быть застрахована? Так как БА по своей сути предполагает отсутствие лица, управляющего автомобилем, возможны следующие страхователи: пассажир БА, владелец БА, производитель БА.
Рассмотрим случай, когда страхователем является пассажир. Страхование БА по принципу изначально напоминает страхование ответственности при использовании кар-шеринга. Если пассажир хочет воспользоваться БА, он к стоимости использования доплачивает некую сумму, которая является страховой премией. Отличия заключаются не только в способе использования автомобиля, но и в моменте, когда начинает действовать страховка.
При каршеринге можно считать, что водитель получил услугу и оплатил ее вместе со страховкой в тот момент, когда он принимает на себя управление автомобилем, так как суть услуги заключается именно в предоставлении возможности управления. При пользовании БА в общем случае автомобиль должен самостоятельно добраться до той точки, где в него сядет пассажир. Так как ошибки управления возможны на этом участке точно так же, как и на всех остальных, необходимость страхования возникает с того момента, как БА начал движение к пассажиру.
Суть услуги по перевозке — в своевременной доставке пассажира из одной желаемой точки в другую. Совсем необязательно, что пассажир будет готов ждать приезда БА бесконечно долго (услуга имеет ценность только в ограниченном временном интервале). Если при оказании услуги по перевозке пассажир не был доставлен не по своей вине, можно считать, что услуга не предоставлена и пассажир имеет право ее не оплачивать. Однако в случае БА пассажир либо оплачивает страховку даже в том случае, когда он не получил услугу (не дождался приезда БА), либо возникает ситуация, когда перемещение БА не застраховано. Это означает, что в случае БА либо пассажир не может быть единственным страхователем (часть поездки страхователем является владелец БА), либо пользование БА пассажиром является не услугой по перевозке, а чем-то большим.
Следующий возможный вариант — страхователем является разработчик БА. Этот случай предполагает, что возможный ущерб от ошибок управления является непосредственной ответственностью разработчика. Компания, финансирующая разработку, страхует эту ответственность, выплачивает страховую премию страховщику, далее страховщик компенсирует возможный ущерб как владельцам БА, так и третьим лицам.
Использование такой схемы страхования имеет наибольший смысл при опытном или единичном производстве, причем в условиях, когда эксплуатация БА происходит под управлением разработчиков. При этом вероятность страхового случая соответствует вероятности ошибки управления БА, приводящей к ДТП. При массовом производстве каждая ошибка в схеме управления БА распространяется на все экземпляры и суммарная вероятность страхового случая для всех проданных БА пропорциональна: 1) объему продаж, 2) времени эксплуатации проданных БА. Это означает, что страховая премия, выплачиваемая разработчиком, не может быть фиксированной, а должна увеличиваться пропорционально этим двум величинам.
Чтобы реализовать подобное, страховая премия должна быть включена в продажную стоимость каждого БА и в стоимость его технического обслуживания (ТО). Получается, владелец опосредованным образом выплачивает страховую премию, рассчитывая на компенсацию возможного ущерба со стороны страховой компании. С учетом того, что разработчики не в состоянии управлять тем, как владельцы эксплуатируют БА, страхование ответственности разработчика становится аналогичным страхованию ответственности владельца БА.
Таким образом, оба случая, когда страхователем является либо пассажир, либо производитель БА, частично или полностью фактически сводятся к случаю, когда страхователем является владелец БА.
При страховании транспорта в настоящее время владелец либо сам является управляющим лицом, либо передает права управления некоторому ответственному лицу. Рассмотрим второй случай, как более общий. Передача управления всегда происходит вместе с передачей ответственности за возможные последствия. Страхование не может покрывать убытки от управления в любом случае (безусловно), иначе у страхователя появится возможность имитировать страховое событие и получать доход от страховых выплат.
Страхование подразумевает выполнение следующих условий:
1. Лицо, получающее управление, может начать потенциально опасные действия (движение) только, если уверено в корректной работе всех необходимых органов управления. Другими словами, если у водителя есть подозрение, что сломан или некорректно работает некий узел управления, он должен либо: а) не использовать при управлении этот узел (круиз-контроль, датчик парковки); б) не начинать движение, если не использовать этот узел невозможно (тормозная система).
2. От владельца транспортного средства требуется в момент передачи управления проинформировать водителя обо всех известных ему недостатках или поломках в системе управления.
1п1е11есШа1 Technologies оп ТтатроН. 2021. N0 1
Таким образом, условия страхования требуют, чтобы любая ошибка в системе управления или поломка могли случиться только неожиданно как для водителя, так и для владельца. После того, как случилась поломка некоторого узла управления, водитель должен или перестать пользоваться этим узлом (если у него есть такая возможность), или прекратить движение до восстановления работоспособности. Игнорирование этих требований переносит ответственность со страховой компании на лицо, допустившее нарушение.
Рассмотрим теперь систему управления БА. Владелец БА знает, что управляющая программа БА может ошибиться, но пока не знает в чем, точно так же, как это происходит с обычным транспортом: владельцу и водителю известно, что машина может сломаться, но неизвестно, когда и как. Далее возникает расхождение. Программа управления БА обязательно содержит в себе подсистемы, которые ведут себя детерминировано. Это означает, что если при определенных условиях некая ошибка управления уже возникла на одной из БА, такая же (или почти такая же) ошибка, вполне вероятно, может возникнуть при схожих условиях на всех машинах под управлением этого же программного обеспечения.
В случае обнаружения ошибок в управлении БА, приводящих к ДТП, можно останавливать весь флот под управлением данного программного обеспечения на время устранения ошибки (вполне стандартная и регулярная процедура). Однако это существенно снижает пользу БА для владельцев и таким образом серьезно угрожает коммерческой привлекательности проекта для производителя из-за возможности высокой частоты таких случаев. Чтобы не терять коммерческого смысла, БА должен продолжать использоваться даже при обнаружении таких ошибок в расчете на покрытие возможных убытков со стороны страховых компаний.
Это означает, что застрахованный владелец, обнаружив подобную ошибку в управлении БА, может попытаться злонамеренно ее воспроизвести путем помещения БА в определенные условия и породить тем самым страховое событие, не нарушая условия страхования. Следовательно, актуальным становится вопрос о возможности исключения подобного злоупотребления страховым правом со стороны страхователя БА.
Возможным способом исключить злонамеренное поведение со стороны страхователя — владельца БА является устранение детерминированности в принятии решений системой управления БА. Если управляющая система будет действовать все время по-разному, владелец не будет знать реакцию БА заранее. Это означает, что владелец не будет знать, что программа перейдет к действиям в режиме С, как и при страховании обычного транспорта.
Рассмотрим момент, когда можно ввести недетерминированность. Как упоминалось выше, область оперирования системы управления БА можно условно разделить на режим А (система работает корректно) и режим С (система принимает ошибочные решения, осознавая или не осознавая этого). Вводить недетерминированность при оперировании в режиме С кажется наиболее удобным. Казалось бы, если система не может найти корректное решение, она может выбрать любое из ошибочных, имеющих одинаковую
оценку возможного ущерба. Однако введение недетерминированности в поведение системы нужно как раз для того, чтобы исключить ситуации, при которых владелец знает момент, когда начнется ошибочная реакция управляющей системы. Следовательно, если вводить недетерминированность при оперировании в режиме С, момент перехода к ошибочному поведению БА (и появлению страхового случая) останется тем же самым, просто появится разнообразие ошибочных исходов.
Введение недетерминированности в режиме оперирования А не имеет смысла, поскольку по определению поведение БА в этом режиме не может быть виной ДТП, и, значит, не предоставляет возможности злоупотребления страховым правом владельцем БА. Таким образом, исключением детерминированности проблема злоупотребления со стороны страхователя не решается.
При детерминированной реализации системы управления БА попытка на стадии проектирования БА исключить злоупотребление со стороны страхователя сталкивается с трудностями.
Страхователь оперирует общим с системой управления БА набором сущностей: ПДД, принципы здравого смысла (например, не задевать предметы), ценностные установки (приоритет человеческой жизни и здоровья над повреждением имущества), погодные условия и т. д. Страхователь в состоянии распознать и принять адекватное (допустимое) управляющее решение для любой комбинации известных ему сущностей. Он изначально ожидает такой же реакции от управляющей системы БА.
Соответственно, в случае принятия системой управления БА ошибочных решений, ведущих к страховым случаям, страхователь имеет возможность выделить подмножество факторов (упоминаемых выше сущностей), которые привели к аварийной ситуации. Страхователь не может строго определить границы перехода управляющей системы БА к оперированию в режиме С, но ему и не требуется. Страхователю достаточно найти некоторую область, набор частных случаев, для которой прямая связь между сочетанием входных данных и переходом к режиму С, будет если не выражена в строгих формулировках, то хотя бы интуитивно понятна. С учетом ограниченного, эвристического подхода к решению задачи управления БА, размер пространства возможных комбинаций сущностей будет многократно превышать пространство успешно решаемых системой управления БА вариантов и поиск комбинаций, приводящих к ДТП, — просто вопрос времени.
Таким образом, страхователь имеет теоретическую возможность для злонамеренного генерирования страховых случаев путем помещения БА в определенные условия (например, заданием маршрута) с последующим получением денежных выплат, при этом формально не нарушая условий страхования. Из этого следует, что вопрос страхования БА в данный момент является открытым.
Заключение
Высокий экономический эффект, который возник бы после решения задачи автоматического управления автомобильным транспортом, некоторое время назад привлек к этой проблеме очень большое количество ресурсов. Незначительность комбинаторного усложнения на первых шагах
позволила получить довольно быстрое решение (разработанное программное обеспечение) для некоторых подзадач. Благодаря этому у всех заинтересованных сторон появилось ощущение возможности решения проблемы за разумное время. Однако по мере разработки таких систем управления сложность их реализации увеличивалась, разработчики стали сталкиваться с проблемами, приведенными в том числе и в этой статье. Уровень сложности задачи сейчас вырос в достаточной степени, чтобы решение или исключение приведенных в статье проблем оказалось обязательным для получения результата, имеющего практический смысл. Поэтому нам представляется преждевременным планирование окончания разработки подобного рода управляющих систем. Требуется либо формализация задачи и разработка новых принципов страхования, либо внедрение других способов управления, использующих алгоритмические подходы, принципиально отличающиеся от применяемых на данный момент.
Литература
1. Deliverable D2.1. System Classification and Glossary // AdaptiVe — Automated Driving. URL: http://www. adaptive--ip.eu/files/adaptive/content/downloads/Delivera-bles%20&%20papers/AdaptIVe-SP2-v12-DL-D2.1-System%20Classification.pdf (дата обращения 01.11.2020).
2. Gruel, W. Assessing the Long-Term Effects of Autonomous Vehicles: A Speculative Approach / W. Gruel, J. M. Stanford // Towards Future Innovative Transport: Visions, Trends and Methods: Selected Proceedings of the 43rd European Transport Conference (Frankfurt, Germany, 28-30 September 2015) / P. Coppola (ed.) // Transportation Research Procedia. 2016. Vol. 13. Pp. 18-29. DOI: 10.1016/j.trpro.2016.05.003.
3. Duarte, F. The Impact of Autonomous Vehicles on Cities: A Review / F. Duarte, C. Ratti // Journal of Urban Technology. 2018. Vol. 25, Is. 4. Pp. 3-18.
DOI: 10.1080/10630732.2018.1493883.
4. The DARPA Urban Challenge: Autonomous Vehicles in City Traffic / M. Buehler, K. Iagnemma, [et al.] (eds). — Berlin: Springer-Verlag, 2009. — 663 p. — (Springer Tracts in Advanced Robotics; Vol. 56).
5. The Grand Cooperative Driving Challenge 2016: Boosting the Introduction of Cooperative Automated Vehicles / C. Englund, L. Chen, J. Ploeg, [et al.] // IEEE Wireless Communications. 2016. Vol. 23, Is. 4. Pp. 146-152.
DOI: 10.1109/MWC.2016.7553038.
6. A Survey of Motion Planning and Control Techniques for Self-Driving Urban Vehicles / B. Paden, M. Cap, S. Z. Yong, [et al.] // IEEE Transactions on Intelligent Vehicles. 2016. Vol. 1, Is. 1. Pp. 33-55.
DOI: 10.1109/TIV.2016.2578706.
7. A Survey of Autonomous Driving: Common Practices and Emerging Technologies / E. Yurtsever, J. Lambert, A. Carballo, K. Takeda // IEEE Access. 2020. Vol. 8. Pp. 58443-58469. DOI: 10.1109/ACCESS.2020.2983149.
8. CAAD: Computer Architecture for Autonomous Driving / S. Liu, J. Tang, Z. Zhang, J.-L. Gaudiot // Computer. 2017. Vol. 50, Is. 8. Pp. 18-25. DOI: 10.1109/MC.2017.3001256.
9. Ураков, А. Р. Алгоритм поиска кратчайших путей для разреженных графов большой размерности / А. Р. Ураков, Т. В. Тимеряев // Прикладная дискретная математика. 2013. № 1 (19). С. 84-92.
10. Introduction to Algorithms. Third Edition / T. H. Cor-men, C. E. Leiserson, R. L. Rivest, C. Stein. — Cambridge (MA): MIT Press, 2009. — 1292 p.
11. Contraction Hierarchies: Faster and Simpler Hierarchical Routing in Road Networks / R. Geisberger, P. Sanders, D. Schultes, D. Delling // Proceedings of the 7th International Conference on Experimental Algorithms (WEA'08) (Province-town, MA, USA, 30 May-01 June 2008). — Berlin: SpringerVerlag, 2009. — Pp. 319-333. — (Theoretical Computer Science and General Issues. Lecture Notes in Computer Science; Vol. 5038). DOI: 10.1007/978-3-540-68552-4.
12. You Only Look Once: Unified, Real-Time Object Detection / J. Redmon, S. Divvala, R. B. Girshick, A. Farhadi // Proceedings of the 29th IEEE Conference on Computer Vision and Pattern Recognition (CVPR2016) (Las Vegas, NV, USA, 27-30 June 2016). — Los Alamitos (CA), [et al.]: Conference Publishing Services: IEEE Computer Society, 2016. — Vol. 1. — Pp. 779-788. DOI: 10.1109/CVPR.2016.91.
13. Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning / C. Szegedy, S. Ioffe, V. Vanhoucke, A. A. Alemi // Proceedings of the 31st AAAI Conference on Artificial Intelligence (AAAF17) (San Francisco, CA, USA, 04-09 February 2017). — AAAI Press, 2017. — Vol. 5. — Pp. 4278-4284.
14. Yilmaz, A. Object Tracking: A Survey / A. Yilmaz, O. A. Javed, M. Shah // ACM Computing Surveys. 2006. Vol. 38, Is. 4. Article No. 13. 45 p. DOI: 10.1145/1177352.1177355.
15. Deep Learning in Video Multi-Object Tracking: A Survey / G. Ciaparrone, F. L. Sánchez, S. Tabik, [et al.] // Neurocomputing. 2020. Vol. 381. Pp. 61-88.
DOI: 10.1016/j.neucom.2019.11.023.
16. An Innovative Information Fusion Method with Adaptive Kalman Filter for Integrated INS/GPS Navigation of Autonomous Vehicles / Y. Liu, X. Fan, C. Lv, [et al.] // Mechanical Systems and Signal Processing. 2018. Vol. 100. Pp. 605-616. DOI: 10.1016/j.ymssp.2017.07.051.
17. Durrant-Whyte, H. Simultaneous Localization and Mapping: Part I / H. Durrant-Whyte, T. Bailey // IEEE Robotics and Automation Magazine. 2006. Vol. 13, Is. 2. Pp. 99-110. DOI: 10.1109/MRA.2006.1638022.
18. Robust Localization Using 3D NDT Scan Matching with Experimentally Determined Uncertainty and Road Marker Matching / N. Akai, L. Y. Morales, E. Takeuchi, [et al.] // Proceedings of the 28th IEEE Intelligent Vehicles Symposium (IV" 2017) (Redondo Beach, CA, USA, 11-14 June 2017). — IEEE, 2017. — Pp. 1356-1363.
DOI: 10.1109/IVS.2017.7995900.
19. Human Motion Traj ectory Prediction: A Survey / A. Ru-denko, L. Palmieri, M. Herman, [et al.] // The International Journal of Robotics Research. 2020. Vol. 39, Is. 8. Pp. 895-935. DOI: 10.1177/0278364920917446.
20. A Study on AI-Based Approaches for High-Level Decision Making in Highway Autonomous Driving / L. Claussmann, M. Revilloud, S. Glaser, D. Gruyer // Proceedings of the 2017 IEEE International Conference on Systems, Man, and Cybernetics (SMC 2017) (Banff, AB, Canada, 05-08 October 2017). — IEEE, 2017. — Pp. 3671-3676.
DOI: 10.1109/SMC.2017.8123203.
21. LaValle, S. M. Planning Algorithms. — New York (NY): Cambridge University Press, 2006. — 844 p.
22. Reif, J. Motion Planning in the Presence of Moving Obstacles / J. Reif, M. Sharir // Proceedings of the 26th Annual Symposium on Foundations of Computer Science (SFCS'85) (Portland, OR, USA, 21-23 October 1985). — Washington (DC): IEEE Computer Society, 1985. — Pp. 144-154.
DOI: 10.1109/SFCS.1985.36.
23. Canny, J. New Lower Bound Techniques for Robot Motion Planning Problems / J. Canny, J. Reif // Proceedings of the 28th Annual Symposium on Foundations of Computer Science (SFCS'87) (Los Angeles, CA, USA, 12-14 October 1987). — Washington (DC): IEEE Computer Society, 1987. — Pp. 49-60. DOI: 10.1109/SFCS.1987.42.
24. A Review of Motion Planning Techniques for Automated Vehicles / D. González, J. Pérez, V. Milanés, F. Nashash-ibi // IEEE Transactions on Intelligent Transportation Systems. 2016. Vol. 17, Is. 4. Pp. 1135-1145.
DOI: 10.1109/TITS.2015.2498841.
25. End to End Learning for Self-Driving Cars / M. Bojarski, D. Del Testa, D. Dworakowski, [et al.] // ArXiv. 2016. Vol. 1604.07316. 9 p.
26. ISO 26262-1:2018. Road vehicles — Functional safety — Part 1: Vocabulary. URL: http:IIwww.iso.orgIstan-dardI68383.html (дата обращения 01.11.2020).
27. Kalra, N. Driving to Safety: How Many Miles of Driving Would It Take to Demonstrate Autonomous Vehicle Reliability? I N. Kalra, S. M. Paddock II Transportation Research Part A: Policy and Practice. 2016. Vol. 94. Pp. 182-193. DOI: 10.1016Ij.tra.2016.09.010.
28. Facing ADAS Validation Complexity with Usage Oriented Testing I L. Raffaëlli, F. Vallée, G. Fayolle, [et al.] // ArXiv. 2016. Vol. 1607.07849. 13 p.
29. Safety Demonstration of Autonomous Vehicles: A Review and Future Research Questions I T. F. Koné, E. Bonjour, E. Levrat, [et al.] // Proceedings of the X International Conference on Complex Systems Design and Management (CSDM 2019) (Paris, France, 12-13 December 2019) I G. A. Boy, [et al.] (eds). — Cham: Springer Nature, 2020. — Pp. 176-188. DOI:10.1007/978-3-030-34843-4_15.
DOI: 10.24412/2413-2527-2021-125-35-45
Actual Problems of Autonomous Vehicle Control
PhD A. R. Urakov, T. V. Timeryaev Ufa State Aviation Technical University
Ufa, Russia urakov@ufanet.ru, timeryaev@gmail.com
Abstract. The problem of automatic control of motor vehicles is considered. A review of the problems in general and some of its subtasks carried out, and links to existing estimates of their algorithmic complexity are given. The problems of unmanned vehicle management are considered. The stages of solving the problem of automatic control are given. The difficulties of designing a control system for unmanned vehicles are considered. Additional problems formulated, which caused by the high complexity of the task in conjunction with the specific conditions for the use of vehicles. The approaches used to solve the problems raised and the prospects for their implementation in practice assessed. The reader is invited to independently assess the likelihood of the appearance of automatically controlled automobile vehicles in the near future.
Keywords: autonomous vehicle, self-driving car, automation, robotics, artificial intelligence, decision making, safety, insurance.
References
1. Deliverable D2.1. System Classification and Glossary, AdaptiVe — Automated Driving. Available at: http://www.adaptive-ip.eu/files/adaptive/content/down-loads/Deliverables%20&%20papers/AdaptIVe-SP2-v12-DL-D2.1-System%20Classification.pdf (accessed 01 Nov 2020).
2. Gruel W., Stanford J. M. Assessing the Long-Term Effects of Autonomous Vehicles: A Speculative Approach. In: Coppola P (ed.) Towards Future Innovative Transport: Visions, Trends and Methods: Selected Proceedings of the 43rd European Transport Conference, Frankfurt, Germany, September 28-30, 2015. Transportation Research Procedia, 2016, Vol. 13, Pp. 18-29. DOI: 10.1016/j.trpro.2016.05.003.
3. Duarte F., Ratti C. The Impact of Autonomous Vehicles on Cities: A Review, Journal of Urban Technology, 2018, Vol. 25, Is. 4, Pp. 3-18. DOI: 10.1080/10630732.2018.1493883.
4. Buehler M., Iagnemma K., et al. (eds) The DARPA Urban Challenge: Autonomous Vehicles in City Traffic. Berlin, Springer-Verlag, 2009, 663 p.
5. Englund C., Chen L., Ploeg J., et al. The Grand Cooperative Driving Challenge 2016: Boosting the Introduction of Cooperative Automated Vehicles, IEEE Wireless Communications, 2016, Vol. 23, Is. 4, Pp. 146-152.
DOI: 10.1109/MWC.2016.7553038.
6. Paden B., Cáp M., Yong S. Z., et al. A Survey of Motion Planning and Control Techniques for Self-Driving Urban Vehicles, IEEE Transactions on Intelligent Vehicles, 2016, Vol. 1, Is. 1, Pp. 33-55. DOI: 10.1109/TIV.2016.2578706.
7. Yurtsever E., Lambert J., Carballo A., Takeda K. A Survey of Autonomous Driving: Common Practices and Emerging Technologies, IEEE Access, 2020, Vol. 8, Pp. 58443-58469. DOI: 10.1109/ACCESS.2020.2983149.
8. Liu S., Tang J., Zhang Z., Gaudiot J.-L. CAAD: Computer Architecture for Autonomous Driving, Computer, 2017, Vol. 50, Is. 8, Pp. 18-25. DOI: 10.1109/MC.2017.3001256.
9. Urakov A. R., Timeryaev T. V. All-Pairs Shortest Paths Algorithm for High-Dimensional Sparse Graphs [Algoritm poiska kratchayshikh putey dlya razrezhennykh grafov bol'shoy razmernosti], Applied Discrete Mathematics [Prikladnaya dis-kretnaya matematika], 2013, No. 1 (19), Pp. 84-92.
10. Cormen T. H., Leiserson C. E., Rivest R. L., Stein C. Introduction to Algorithms. Third Edition. Cambridge (MA), MIT Press, 2009, 1292 p.
11. Geisberger R., Sanders P., Schultes D., Delling D. Contraction Hierarchies: Faster and Simpler Hierarchical Routing in Road Networks, Proceedings of the 7th International Conference on Experimental Algorithms (WEAS08), Provincetown, MA, USA, May 30-June 01, 2008. Lecture Notes in Computer Science, Vol. 5038. Berlin, Springer-Verlag, 2009, Pp. 319-333.
12. Redmon J., Divvala S., Girshick R. B., Farhadi A. You Only Look Once: Unified, Real-Time Object Detection, Proceedings of the 29th IEEE Conference on Computer Vision and Pattern Recognition (CVPRS2016), Las Vegas, NV, USA, June 27-30, 2016, Volume 1. Los Alamitos (CA), Conference Publishing Services, IEEE Computer Society, 2016, Pp. 779-788. DOI: 10.1109/CVPR.2016.91.
13. Szegedy C., Ioffe S., Vanhoucke V., Alemi A. A. Incep-tion-v4, Inception-ResNet and the Impact of Residual Connections on Learning, Proceedings of the 31st AAAI Conference on Artificial Intelligence (AAAF17), San Francisco, CA, USA, February 04-09, 2017, Volume 5. AAAI Press, 2017, Pp. 4278-4284.
14. Yilmaz A., Javed O.A., Shah M. Object Tracking: A Survey, ACM Computing Surveys, 2006, Vol. 38, Is. 4, Article No. 13, 45 p. DOI: 10.1145/1177352.1177355.
15. Ciaparrone G., Sánchez F. L., Tabik S., et al. Deep Learning in Video Multi-Object Tracking: A Survey, Neurocomputing, 2020, Vol. 381, Pp. 61-88.
DOI: 10.1016/j.neucom.2019.11.023.
16. Liu Y., Fan X., Lv C., et al. An Innovative Information Fusion Method with Adaptive Kalman Filter for Integrated INS/GPS Navigation of Autonomous Vehicles, Mechanical Systems and Signal Processing, 2018, Vol. 100, Pp. 605-616. DOI: 10.1016/j.ymssp.2017.07.051.
17. Durrant-Whyte H., Bailey T. Simultaneous Localization and Mapping: Part I, IEEE Robotics and Automation Magazine, 2006, Vol. 13, Is. 2, Pp. 99-110.
DOI: 10.1109/MRA.2006.1638022.
18. Akai N., Morales L. Y., Takeuchi E., et al. Robust Localization Using 3D NDT Scan Matching with Experimentally Determined Uncertainty and Road Marker Matching, Proceedings of the 28th IEEE Intelligent Vehicles Symposium (IV2017), Redondo Beach, CA, USA, June 11-14, 2017. IEEE, 2017, Pp. 1356-1363. DOI: 10.1109/IVS.2017.7995900.
19. Rudenko A., Palmieri L., Herman M., et al. Human Motion Trajectory Prediction: A Survey, The International Journal of Robotics Research, 2020, Vol. 39, Is. 8, Pp. 895-935.
DOI: 10.1177/0278364920917446.
20. Claussmann L., Revilloud M., Glaser S., Gruyer D. A Study on AI-Based Approaches for High-Level Decision Making in Highway Autonomous Driving, Proceedings of the 2017 IEEE International Conference on Systems, Man, and Cybernetics (SMC 2017), Banff AB, Canada, 05-08 October 2017. IEEE, 2017, Pp. 3671-3676.
DOI: 10.1109/SMC.2017.8123203.
21. LaValle S. M. Planning Algorithms. New York (NY), Cambridge University Press, 2006, 844 p.
22. Reif J., Sharir M. Motion Planning in the Presence of Moving Obstacles, Proceedings of the 26th Annual Symposium on Foundations of Computer Science (SFCS'85), Portland, OR, USA, October 21-23, 1985. Washington (DC), IEEE Computer Society, 1985, Pp. 144-154. DOI: 10.1109/SFCS.1985.36.
23. Canny J., Reif J. New Lower Bound Techniques for Robot Motion Planning Problems, Proceedings of the 28th Annual Symposium on Foundations of Computer Science (SFCS'87), Los Angeles, CA, USA, October 12-14, 1987. Washington (DC), IEEE Computer Society, 1987, Pp. 49-60.
DOI: 10.1109/SFCS.1987.42.
24. González D., Pérez J., Milanés V., Nashashibi F. A Review of Motion Planning Techniques for Automated Vehicles, IEEE Transactions on Intelligent Transportation Systems, 2016, Vol. 17, Is. 4, Pp. 1135-1145.
DOI: 10.1109/TITS.2015.2498841.
25. Bojarski M., Del Testa D., Dworakowski D., et al. End to End Learning for Self-Driving Cars, ArXiv, 2016, Vol. 1604.07316, 9 p.
26. ISO 26262-1:2018. Road vehicles — Functional safety — Part 1: Vocabulary. Available at: http://www.iso.org/stand-ard/68383.html (accessed 01 Nov 2020).
27. Kalra N., Paddock S. M. Driving to Safety: How Many Miles of Driving Would It Take to Demonstrate Autonomous Vehicle Reliability? Transportation Research Part A: Policy and Practice, 2016, Vol. 94, Pp. 182-193.
DOI: 10.1016/j.tra.2016.09.010.
28. Raffaëlli L., Vallée F., Fayolle G., et al. Facing ADAS Validation Complexity with Usage Oriented Testing, ArXiv, 2016, Vol. 1607.07849, 13 p.
29. Koné T. F., Bonjour E., Levrat E., et al. Safety Demonstration of Autonomous Vehicles: A Review and Future Research Questions. In: Boy G. A., et al. (eds) Proceedings of the X International Conference on Complex Systems Design and Management (CSDM 2019), Paris, France, December 12-13, 2019. Cham, Springer Nature, 2020, Pp. 176-188. DOI:10.1007/978-3-030-34843-4 15.
