CC BY
209
)УНИВЕРСИТЕТА
имени O.E. Кутафина (МГЮА)
Степеням А. Ж.
Проблемы регулирования беспилотных транспортных средств
ПРОБЛЕМЫ РЕГУЛИРОВАНИЯ БЕСПИЛОТНЫХ ТРАНСПОРТНЫХ СРЕДСТВ1
Аннотация. Предметом статьи является попытка выявить проблемы регулирования сектора беспилотных (автономных) транспортных средств, которые будет решать законодатель, сделан обзор текущего регулирования на международном, интеграционном и национальном уровнях.
Ключевые слова: автономные машины, беспилотные транспортные средства, искусственный интеллект.
DOI: 10.17803/2311-5998.2019.56.4.169-174
A. Z. STEPANIAN,
Associate Professor, Integration and European Law chair, Moscow State Law
Academy, PhD in Law armen@stepanyan.com 125993, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9
PROBLEMS OF REGULATION OF UNMANNED VEHICLES
Abstract. The subject of the article is an attempt to identify problems of regulation of the sector of driverless (autonomous) vehicles, which the legislator will decide, a review of current regulation at the international, integration and national levels.
Keywords: autonomous vehicles, driverless vehicles, artificial intelligence.
Армен Жоресович СТЕПАНЯН,
доцент кафедры интеграционного и европейского права Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук armen@stepanyan.com 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
По данным газеты «The Economist», 90 % дорожно-транспортных происшествий происходят из-за ошибок человека2. Достаточно логично предположить, что аварийность можно свести к нулю, если заставить человека не ошибаться либо убрать человека с места водителя. Первое сделать невозможно, причиной этому является сущность человека: errare humanum est. Но можно ли убрать человека как водителя-пилота3?
Представляется, что технически этот вопрос будет решен на обычном для обывателя уровне через 1—2 года за рубежом и через 3—5 лет в России, а раз-
1 Работа выполнена при финансовой поддержке РФФИ, грант № 18-29-16150.
2 Look, no hands // The Economist. Technology Quarterly. 09.2012 // URL: https://www. economist.com/ technology-quarterly/2012/09/01/look-no-hands (Accessed: 24.02.2019).
3 Представляется, что в пределах настоящей работы термины «водитель» и «пилот» синонимичны в том, что касается общей роли человека в управлении транспортным средством, и различны в том, что фактически касается типов транспортных средств — дорожных и летательных. Аналогичный подход автор применяет к терминам «капитан»
и «рулевой» для плавательных средств. © А Ж Степанян 2019
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
ница обусловлена сложным климатом, недисциплинированностью дорожных служб и невысокой законопослушностью водителей-людей.
Более сложной задачей технически является отсутствие пилота в транспортных средствах в воздухе: самолетах, вертолетах. Создается также целый класс машин, заведомо не могущих иметь пилота в силу своего размера и конструкции. Повышенный интерес в таких областях, как военная и правоохранительная деятельность, промышленность с тяжелыми и опасными для человека природными условиями работы, представляют транспортные средства, в которых также отсутствует человек.
Сущностно транспортное средство без водителя как относительно новое явление, объект ставит перед законодателем множество вопросов. Во-первых, это роль искусственного интеллекта (далее — ИИ) в управлении, что проявляется даже терминологически. По-английски синонимичны понятия «driverless car» (машина без водителя), «autonomous car» (автономная машина), «robotic car» (роботизированная машина) и «self-driving car» (самодвижущаяся машина или самоуправляемая машина). Но они существенно отличаются по смыслу, по действиям, по возможностям ИИ и человека. Различие в стилистике словосочетания подчеркивает эти отличия. Само по себе слово «автономия» уже говорит о степени свободы «воли машины» (этот вопрос неоднократно поднимался4 и будет подниматься в литературе).
Во-вторых, это степень ИИ в управлении транспортом: фактически сегодня самолеты и автомобили являются полуавтономными средствами. Круиз-контроль, автопилот, слежение за полосой. По сути, полуавтономные средства оперируют самостоятельно частью функций: разгон, торможение, но требуют надзора и контроля со стороны водителя, имеющего право на управление. Стоит не забывать, что водительские права в Российской Федерации являются документом о специальном праве, наделяемом государством только после сдачи экзамена. По сути, они являются лицензией в смысле административного права, что прямо закреплено в законодательстве некоторых стран, например США.
По уровням автоматизации в настоящее время в США и в иных странах (Китай, Нидерланды и др.) используется классификация SAE5:
— уровень 0 — нет автоматизации. Постоянное выполнение человеком-водителем всех аспектов динамического вождения, даже если оно улучшено системами предупреждения или вмешательства;
— уровень 1 — помощь водителю: осуществление системой в зависимости от режима вождения помощи водителю либо рулевого управления, либо ускорения (замедления) с использованием информации об окружающей среде вождения и с ожиданием того, что водитель-человек выполнит все остальные аспекты задачи динамического вождения;
4 Классическими являются законы робототехники, сформулированные Айзеком Азимовым в рассказе «Хоровод» в 1942 г. Постоянно идет дискуссия, являются ли эти законы полными и применимыми в настоящее время.
5 SAE International, J3016_201806: Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles (Warrendale: SAE International, 15 June 2018) // URL: https://www.sae.org/standards/content/ j3016_201806/ (Accessed: 24.02.2019).
ВЕСТНИК Степанян А. Ж.
УНИВЕРСИТЕТА Проблемы регулирования беспилотных транспортных средств ' *
имени О.Е. Кутафина (МГЮА)
— уровень 2 — частичная автоматизация: осуществление в зависимости от режима вождения одной или несколькими системами помощи водителю как в рулевом управлении, так и в ускорении (замедлении) с использованием информации об окружающей среде вождения и с учетом того, что водитель-человек выполняет все остальные аспекты задачи динамического вождения;
— уровень 3 — условная автоматизация: с помощью автоматизированной системы вождения производительность, характерная для соответствующих режимов вождения, по всем аспектам задачи динамического вождения с расчетом на то, что водитель-человек соответствующим образом ответит на запрос о вмешательстве;
— уровень 4 — высокая автоматизация: эффективность режима вождения с помощью автоматизированной системы вождения во всех аспектах задачи динамического вождения, даже если человек-водитель не отвечает должным образом на запрос о вмешательстве;
— уровень 5 — полная автоматизация: постоянная работа автоматизированной системы вождения по всем аспектам задачи динамического вождения при любых дорожных условиях и условиях окружающей среды, которой может управлять человек-водитель.
Представляется важным отметить то, что даже в США после представления своей попытки классификации была выбрана классификация отраслевой организации.
Какие вопросы встают еще перед создателями законодательства о беспилотных транспортных средствах?
Один из самых популярных вопросов6: «Кто несет гражданскую ответственность в случае ДТП с участием беспилотного транспортного средства?». Это также один из важных вопросов с точки зрения этики, ибо он затрагивает категорию справедливости, а также вопрос равенства машин и людей. С точки зрения конституционной экономики развитый рынок страховых услуг должен помочь решить этот вопрос, сделав нетрудным фактический ответ на него. В этом также должно помочь развитое законодательство. Одним из возможных решений ви-
*т ПР И Н П>п
и, скорее, является показательно «капиталистическим». -LCti
sOm
6 См., например: Kelkar K. How Will Driverless Cars Make Life-or-Death Decisions? PBS 5>m
дится введение режима, подобного режиму «источника повышенной опасности»: тогда в ДТП ответственность будут разделять все участвующие в нем стороны. Но такое решение представляется далеко не лучшим с точки зрения морали и этики
28/05/2016 // URL: http://www.pbs.org/newshour/rundown/how-will-driverless-cars-make-life-or-
□
S^i
death-decisions/ ; Gurney J. Crashing into the Unknown: An Examination of Crash-Optimization
Algorithms Through the Two Lanes of Ethics and Law (March 8, 2016). 79 Albany Law Review mj^ I 183 (2016) // URL: https://ssrn.com/Annotation=2622125 ; Glancy D. What Will the Law Do
About Autonomous Vehicles? 23/05/2013 // URL: http://dx.doi.org/102139/ssrn.2293051, Q □ A
Research. AAJ. Driven to Safety: Robot Cars and the Future of Liability. 07.02.2017 // URL: g ;>ji
http://dx.doi.org/10.2139/ssrn.2913028 ; RapaczynskiA. Driverless Cars and the Much Delayed [j>! Tort Law Revolution. 14.04.2016 // Columbia Law and Economics Working Paper. No. 540.
URL: http://dx.doi.org/10.2139/ssrn.2764686. TEXHOFIOr/ll
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Вопросы этики возникают при выдаче разрешений на использование таких средств, ведь право на вождение является специальным правом, по сути, прерогативой лишь определенных лиц. Разрешенное использование полной автоматизации можно трактовать и как дозволение определенных механизмов, но и как дарование равного с определенными квалифицированными людьми права машине. И если для людей выработаны достаточные критерии такой квалификации, то для машины таких критериев пока еще нет.
В процессе перемещения транспортные средства будут собирать большое количество данных об объектах как снаружи, так и внутри салона. Рискну предположить, что как минимум первое время производители будут фактически нарушать право на частную жизнь, собирая данные, не относящиеся напрямую к улучшению статистики вождения, хотя и могущие затронуть ее. Достаточно многие автолюбители произносят целые монологи, передвигаясь по дороге, в том числе относящиеся к удобству вождения именно в этом автомобиле.
Представляется также скорым изменение законодательства о градоустройстве и строительстве с целью развития стандартов, адаптированных в том числе для беспилотных средств. Необходима будет также либерализация законодательства в области частот, столь необходимых для взаимодействия транспортных средств друг с другом, а также с инфраструктурой пользователей и путей сообщения7.
Важнейшим вопросом является уровень регулирования использования автономных, полуавтономных транспортных средств: национальный, интеграционный или международный.
Венская конвенция по дорожному движению 1968 г.8, сторонами которой являются 78 государств, в п. 1 ст. 8 указывает, что каждое транспортное средство или состав транспортных средств, которые находятся в движении, должны иметь водителя. При этом п. 5 требует, чтобы водитель был всегда в состоянии управлять своим транспортным средством. Данный пункт фактически сводит на нет преимущества автономного самоуправления для водителя. Примечательно, что Норвегия, ратифицировавшая эту Конвенцию лишь в 1985 г., сделала оговорку именно в отношении п. 5 ст. 89. В 2014 г. в ст. 8 были внесены изменения, позволяющие автомобилю ехать самому, если система «может быть переопределена или выключена водителем», т.е., по сути, хотя и открывается возможность автономной езды, но под присмотром человека, т.е. никак не без водителя.
На национальном уровне представлено широкое разнообразие форм регулирования. Возглавляет это разнообразие США с отсутствием компетенции федерации в области роботизированного движения и законами, постановлениями
7 Autonomous Cars Self-Driving the New Auto Industry Paradigms Morgan Stanley 06.11.2013 // URL: https://orfe.princeton.edu/~alaink/SmartDrivingCars/PDFs/Nov2013M0RGAN-STANLEY-BLUE-PAPER-AUT0N0M0US-CARS%EF%BC%9A-SELF-DRIVING-THE-NEW-AUT0-INDUSTRY-PARADIGM.pdf (Accessed: 24.02.2019).
8 Сборник действующих договоров, соглашений и конвенций, заключенных СССР с иностранными государствами. Вып. 33. М., 1979. С. 385—435.
9 Статус ратификации конвенции // URL: https://treaties.un.org/Pages/ViewDetailsIII. aspx? src=TREATY&mtdsg_no=XI-B-19&chapter=11&Temp=mtdsg3&lang=en (Accessed:
24.02.2019).
™^ЕСТНИК
в Я УНИВЕРСИТЕТА
/-имени О. Е. Кутафина (МГЮА)
Степанян А. Ж.
Проблемы регулирования беспилотных транспортных средств
173
и даже просто анонсами инициатив по разрешению использования беспилотных транспортных средств на дорогах общего пользования. Самым продвинутым штатом является Калифорния с правилами10, разрешающими полное автономное вождение на дорогах общего пользования. Первым штатом, принявшим законодательство о беспилотных транспортных средствах, была Невада, за ним Аризона.
Китай представляет действующие на уровне самых развитых городов (Пекин, Шанхай, Шэньджэнь и др.) правила испытаний11 для автономных автомобилей по дорогам общего пользования; Германия — на уровне земель12. Нидерланды также приняли закон о тестовой эксплуатации автономных транспортных средств в 2017 г.13 Южная Австралия, Сингапур, Япония и множество других регионов и стран идут тем же путем. Новая Зеландия утвердила тесты летающего такси14.
Несмотря на то, что в передовых областях Европейский Союз старается принять законодательство или хотя бы осветить свое видение политик регулирования раньше, чем начинается повсеместное использование технологий обывателями, в настоящее время не принято ни одного акта, ни «книги» лишь в области управления транспортом15 и т.д. Представляется необходимым, чтобы ЕС сделал публичной свою позицию относительно возможности использования беспилотных средств с элементами искусственного интеллекта.
Как видно из обзора действующего регулирования, национальное регулирование достаточно фрагментарно, международное как таковое отсутствует и отстает от национального. Именно поэтому интеграционные объединения — Европейский Союз и Евразийский экономический союз могут, проявив законодательную инициативу даже в формах мягкого права (soft law), обеспечить рост экономики и развитие транспортного и логистического сектора путем принятия актов, направленных на всестороннюю поддержку использования беспилотных транспортных средств на своей территории.
California's Autonomous Vehicle Regulations // URL: https://www.dmv.ca.gov/portal/wcm/
connect/dbcf0f21-4085-47a1-889f-3b8a64eaa1ff/AVRegulationsSummary.pdf?MOD=AJPERES p
(Accessed: 24.02.2019). ^
//URL: https://mp.weixin. □
qq.com/s?_biz=Mzl5NTg2NDg3MA==&mid=2247483843&idx=1 &sn=2a48fbd30f5c04356
bd84fedd383d29a&chksm=ec4c5e8adb3bd79c113c1e01ab63349b1b48dcba79eb7ffe6798
800c229c875ac1ebd08848f4&mpshare=1&scene=1&srcid=0702mos6FzXbJ9Ny6lu5HYj3& /H pass_ticket=uvuY80l1e97EwKHe7DgFx2EafIn2Kqq1kEP%2F7pwarR61cPdWKOwr8MsLE
quReOQz#rd (Accessed: 24.02.2019). rn^Q
iom
rnAE
Germany creates its driverless car legislation // URL: https://www.telematics.com/germany-creates-its-driverless-car-legislation/ (Accessed: 24.02.2019).
n^M
13 New legislation allows for the testing of cars with remote drivers // URL: https://www. 0 S U government.nl/latest/news/ 2017/11/22/new-legislation-allows-for-the-testing-of-cars-with- p> 1 remote-drivers (Accessed: 24.02.2019). ^
14 Air taxi trials possible in six years as tech company trials flying vehicle in Canterbury URL: https://www.stuff.co.nz/technology/102203642/air-taxi-trials-possible-in-six-years-as-tech- ® p A company-trials-flying-vehicle-in-canterbury (Accessed: 24.02.2019). 0>-£
15 Roadmap to a Single European Transport Area — Towards a competitive and resource efficient transport system. Brussels, 28.3.2011 C0M(2011) 144 final // URL: https://eur-lex.europa.eu/
legal-content/en/TXT/PDF/?uri=CELEX:52011DC0144. TEXH0n0r/ll
>
10
11
12
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
БИБЛИОГРАФИЯ
1. Glancy D. What Will the Law Do About Autonomous Vehicles? 23/05/2013 // URL: http://dx.doi.org/10.2139/ssrn.2293051, Research, AAJ, Driven to Safety: Robot Cars and the Future of Liability 07.02.2017 // URL: http://dx.doi.org/10.2139/ ssrn.2913028.
2. Gurney J. Crashing into the Unknown: An Examination of Crash-Optimization Algorithms Through the Two Lanes of Ethics and Law (March 8, 2016). 79 Albany Law Review 183 (2016) // URL: https://ssrn.com/Annotation=2622125.
3. Kelkar K. How Will Driverless Cars Make Life-or-Death Decisions? PBS 28/05/2016 // URL: http://www.pbs.org/newshour/rundown/how-will-driverless-cars-make-life-or-death-decisions/.
4. Rapaczynski A. Driverless Cars and the Much Delayed Tort Law Revolution 14.04.2016. Columbia Law and Economics Working Paper. No. 540 // URL: http:// dx.doi.org/10.2139/ssrn.2764686.
