CC BY
4
DOI: 10.17803/1729-5920.2024.210.5.083-095
Единообразие терминологии и пределы оценки ее особенностей и функций при разработке концепции криминализации деяний с беспилотными аппаратами
Резюме. Беспилотные аппараты, независимо от их назначения и вида, представляют значительный интерес для ученого-правоведа, правоприменителя и законодателя. Количество упоминаний беспилотных аппаратов и их видов в нормативных правовых актах велико, однако постоянно встречаются статьи, поднимающие вопрос о разнообразии терминологии в сфере беспилотных технологий. Более того, во многих работах относительно концепции уголовно-правового регулирования затрагивается та же проблема. Поскольку беспилотные аппараты — не первые, вопрос о регулировании использования которых интересует правоведов, в статье предпринята попытка рассмотреть проблему, экстраполируя имеющийся опыт. В частности, автор предлагает обратиться к теории технологий и использовать ее как отправную точку для ответа на вопрос, возможно ли выделение единой системы признаков высокой общности для беспилотных аппаратов. И, соответственно, возможно ли в достаточной мере абстрагироваться от особенностей отдельных продуктов и сервисов так, чтобы вывести общий термин. Используя в качестве примера имеющиеся на рынке беспилотные транспортные средства, автор показывает, какова широта варьирования функций этих средств и как это может привести к правовым коллизиям и усилению частных случаев при попытке построить общую норму. На основе анализа автор делает вывод относительно поставленной в названии статьи проблемы.
Ключевые слова: беспилотные аппараты; беспилотные транспортные средства; беспилотные летательные аппараты; дроны; правовое регулирование беспилотного управления; криминализация; технология; гармонизация терминологии
Для цитирования: Кучина Я. О. Единообразие терминологии и пределы оценки ее особенностей и функций при разработке концепции криминализации деяний с беспилотными аппаратами. Lexrussica. 2024. Т. 77. № 5. С. 83-95. DOI: 10.17803/1729-5920.2024.210.5.083-095
Uniformity of Terminology and Limits of Assessment of its Features and Functions in the Development of the Concept of Criminalization of Acts involving Unmanned Vehicles
Yaroslava O. Kuchma
University of Macau People's Republic of China:
Abstract. Unmanned aerial vehicles, regardless of their purpose and type, are of considerable interest to a legal scientist, law enforcement officer and legislator. The number of mentions of unmanned vehicles and their types in regulatory legal acts is large; however, academic papers constantly raise the issue of multiple terms and concepts existing in the field of unmanned technologies. Moreover, many papers on criminal law regulation raise the same question. Since the issue of unmanned aerial vehicles regulation is not the first one of a kind to be discussed among legal academia, the paper attempts to consider the problem by extrapolating from existing experience. In particular, the author suggests turning to the theory of technologies and using them as a starting point to
© Кучина Я. О., 2024
Я. О. Кучина
Университет Макао Макао, Китайская Народная Республика
LEX 1Р?Ж
answer the question of whether it is possible to identify a single system of signs of high generality for unmanned vehicles. Accordingly, is it possible to sufficiently abstract from the particular features of products and services in order to construct a general term? Using unmanned vehicles available on the market as an example, the author shows the breadth of variation in the functions of these vehicles and how this can lead to legal conflicts and the strengthening of particular cases when trying to build a general norm. Based on the analysis, the author draws a conclusion regarding the problem posed in the title of the article.
Keywords: unmanned vehicles; automated vehicles; unmanned aerial vehicles; drones; legal regulation of unmanned control; criminalization; technology; harmonization of terminology
Cite as: Kuchina YaA. Uniformity of Terminology and Limits of Assessment of its Features and Functions in the Development of the Concept of Criminalization of Acts involving Unmanned Vehicles. LexRussica. 2024;77(5):83-95. (In Russ.). DOI: 10.17803/1729-5920.2024.210.5.083-095
Введение
Говоря о правовом регулировании того или иного явления на рынке современных технологий, ученые задаются вопросом, каков момент его начала и где пределы этого регулирования. В процессе проводимого нами исследования мы неоднократно сталкивались с тем, что интерес с позиции потенциального регулирования вызывают такие технологические решения, которые можно было бы назвать частными случаями общей концепции. Из-за чего при разработке законодательных проектов могут упускаться из виду совершенно объективные особенности рынка высоких технологий.
В статье мы предлагаем рассмотреть проблему на примере сектора беспилотных аппаратов, поскольку он, как никакой другой, зависит от особенностей наименования продукта (аппарата). Анализ литературы показывает, что термины, которыми обозначаются указанные аппараты, крайне разнообразны. Изучение статей, опубликованных за последние пять лет, позволяет обнаружить, что в качестве синонима термина «беспилотные аппараты» используются следующие выражения:
1) «беспилотные мобильные средства»1;
2) «роботизированные автомобили, машины2;
3) «автономные транспортные средства3;
4) «воздушные беспилотные транспортные средства», «беспилотные летательные аппараты» и др.4
Впрочем, если мы обратимся к материалам за пределами юридического научного сектора, то там терминологическое разнообразие практически отсутствует. При анализе патентов на беспилотные аппараты мы увидим монополию термина «беспилотный аппарат».
Эти аппараты, в свою очередь, подразделяются:
1) на беспилотные летательные аппараты и их виды (привязные и нет);
2) беспилотные авиационные системы;
3) роботизированные беспилотные аппараты;
4) беспилотные наземные аппараты;
5) беспилотные транспортные аппараты (пассажирские, для грузоперевозки) и пр.
Терминология нормативных актов также достаточно последовательна. В приложении к постановлению Правительства РФ от 14.08.1992 № 587 «Вопросы частной детективной (сыскной) и частной охранной деятельности» перечислены средства противодействия «беспилотным воздушным, подводным и надводным судам и аппаратам, беспилотным транспорт-
Фокин М. С., Рязанов Н. С. Актуальные проблемы уголовно-правовой регламентации противоправного использования беспилотных мобильных средств // Актуальные проблемы российского права. 2018. № 1 (86). С. 103-110.
Мамычев А. Ю., Гайворонская Я. В., Мирошниченко О. И. Современные доктринально-правовые и этические проблемы разработки и применения роботизированных технологий и систем искусственного интеллекта (на примере автономных необитаемых подводных аппаратов) // Территория новых возможностей. 2018. № 3 (42). С. 135-150.
Березина Е. А. Автономные автомобильные транспортные средства: правовой опыт Сингапура, Китая и Южной Кореи // Азиатско-Тихоокеанский регион: экономика, политика, право. 2022. № 3 (24). С. 100123.
Коробеев А. И., Чучаев А. И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex russica. 2019. № 2 (147). С. 9-28.
i
2
3
ным средствам и иным автоматизированным беспилотным комплексам». То есть в глазах авторов нормативного правового акта наличествует разница между судами, аппаратами, транспортными средствами и комплексами; соответственно, можно говорить о четырех видах технических решений.
Тексты классификаторов и иных стандартизирующих актов также терминологически однообразны. В них выделяются беспилотные комплексы, системы, суда, транспортные средства и аппараты5, которые, в свою очередь, подразделяются на иные виды в специальных актах. Например, в постановлении Правительства РФ от 16.09.2023 № 15106 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации сельскохозяйственных беспилотных авиационных систем» беспилотные воздушные суда по способу управления делятся на прямые, использующие автопилот, действующие с заданными точками пути и пр.
Итак, мы видим, что технологический сектор не испытывает тех проблем, с которыми сталкивается юридическая наука, поскольку, если судить по исследованным публикациям и документам, описывает аппарат через его основные функциональные признаки и элементы системы. Более того, судя по последним публикациям, правовая наука также старается пойти по этому пути. Однако для закона такой подход не всегда приемлем7. Рассмотрим почему и так
ли это важно при разработке концепции правового регулирования.
Основная часть
Прежде чем анализировать этот вопрос, обратимся к другому: что же такое беспилотный аппарат и что именно подразумевается под всеми терминами, которые используются как синонимы при их описании (интерактивный, автономный, роботизированный и пр.)? Для этого обратимся к Стратегии развития беспилотной авиации Российской Федерации8. Стратегия ввела в оборот две крупных терминологических общности — «беспилотная авиация» и «беспилотные воздушные суда», которые ее формируют, предусмотрев на с. 7 виды беспилотных воздушных судов. В разделе 11 Стратегии также перечислены возможности и риски развития беспилотной авиации, и анализ этого раздела позволяет нам выделить основные функциональные и технологические признаки, которые дают ответ на вопрос, что же такое беспилотный аппарат. Так, на с. 38 Стратегии мы встречаем упоминание относительно возможности «длительного автоматического выполнения полетного задания», а на с. 40 упоминается «автономность беспилотных воздушных судов». Кроме того, по всему тексту Стратегии беспилотный аппарат (или судно) упоминается как устройство, которое пилотируется (или управляется) за пределами кабины (корпуса) такого аппарата. То есть сам аппарат и его пилот (оператор управле-
См.: Единый кодификатор предметов снабжения для федеральных государственных нужд ЕК 001-2014 (принят и введен в действие приказом Росстандарта от 25.11.2014 № 7-ек) ; Рекомендации по каталогизации Р 50.5.002-2001 «Каталогизация продукции для федеральных государственных нужд. Единый кодификатор предметов снабжения и порядок разработки и ведения разделов федерального каталога продукции для федеральных государственных нужд» (введены в действие постановлением Госстандарта РФ от 29.08.2001 № 362-ст) ; проект постановления Правительства РФ «О внесении изменений в Положение о лицензировании разработки, производства, испытания и ремонта авиационной техники» (подготовлен Минпромторгом России 22.08.2019).
Постановление Правительства РФ от 16.09.2023 № 1510 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации сельскохозяйственных беспилотных авиационных систем».
Кучина Я. О. Уголовное право и цифровизация общественных отношений: об отражении процессов цифровизации в УК РФ и науке уголовного права // Уголовное право: стратегия развития в XXI веке : материалы XVII Международной научно-практической конференции (г. Москва, 23-24 января 2023 г.). М. : РГ-Пресс, 2020. С. 130-135.
Распоряжение Правительства РФ от 21.06.2023 № 1630-р «Об утверждении Стратегии развития беспилотной авиации Российской Федерации на период до 2030 года и на перспективу до 2035 года и плана мероприятий по ее реализации» // СЗ РФ. 2023. № 27. Ст. 5055.
5
6
7
8
да трэж
ния) разделены в пространстве, или последний может и вовсе отсутствовать, как в случае с привязными беспилотными аппаратами9. Иными словами, беспилотный аппарат, наземный, воздушный, водный, не имеет в пространстве самого аппарата (его корпуса) команды управления или пилота управления, т.е. физического лица, им управляющего.
Одновременно в Федеральных правилах использования воздушного пространства беспилотный летательный аппарат определяется как «летательный аппарат, выполняющий полет без пилота (экипажа) на борту и управляемый в полете автоматически, оператором с пункта управления или сочетанием указанных способов»10.
Именно это обстоятельство, по нашему мнению, является причиной отсутствия единообразия в научно-правовых подходах и мнениях о том, что такое «беспилотный аппарат» и какие его признаки нужно выносить в качестве основных в предполагаемом уголовном законе. Дело в том, что способов обеспечить беспилотное функционирование аппаратов множество и тенденции к снижению их разнообразия на рынке мы не видим. Рассмотрим почему.
В Стратегии развития беспилотной авиации Российской Федерации указано, что «сложившаяся ситуация характеризуется автономным проведением перспективных научно-исследовательских и опытно-конструкторских работ» (с. 24), и это как нельзя лучше характеризует рынок высоких технологий вообще, а не только беспилотных аппаратов. Дело в том, что он имеет следующие важные качества:
1) высокая инновационность, что подразумевает внедрение экспериментальных уникальных продуктов на базе сочетания различных технологий без повторения технологических качеств продуктов конкурентов;
2) кастомизируемость11 — производство узкоспециальных аппаратов и устройств с уникальными функциями для выполнения конкретных задач по запросу потребителя, что только повышает разнообразие и уникальность состава рынка;
3) высокая конкуренция, которая приводит к тому, что производитель концентрируется на первых двух качествах, т.е. удовлетворяет узкий, часто индивидуальный спрос посредством разработки уникального продукта на основе экспериментального сочетания функций.
Беспилотные аппараты могут быть водными, воздушными, наземными, выполнять различные функции в разных сочетаниях, управляться оператором, командой операторов, стандартной программой или программой на основе искусственного интеллекта. И каждая из этих особенностей может, в силу свойства кастомизации, быть настолько уникальной и единственной в своем роде, что даже попытка классифицировать или типологизировать беспилотные аппараты как конечные продукты не даст результата, необходимого законодателю. Однако это вовсе не отвечает на вопрос, а как же регулировать использование беспилотных аппаратов и, главное, каким образом можно криминализировать деяния с беспилотными аппаратами в заданных условиях.
Когда мы обращаемся к проблеме регулирования технологий или технологических продуктов из категории «разрушительных»12, т.е. инновационных настолько, что они своим существованием в обороте буквально разрушают установленный порядок общественных отношений и их сложившейся правовой оценки, мы каждый раз задаемся вопросом о том, следует ли регулировать эти технологии и как это делать. Очевидно, у законодателя есть три пути решения этой проблемы:
9 См., например, информацию Государственной Думы Федерального Собрания РФ от 05.11.2020 «О некоторых вопросах предоставления муниципальной услуги по выдаче разрешения на выполнение авиационных работ, парашютных прыжков, демонстрационных полетов воздушных судов, полетов беспилотных летательных аппаратов, подъемов привязных аэростатов над населенными пунктами, а также посадку (взлет) на расположенные в границах населенных пунктов площадки, сведения о которых не опубликованы в документах аэронавигационной информации».
10 Федеральные правила использования воздушного пространства Российской Федерации (утв. Постановлением Правительства РФ от 11.03.2010 № 138).
11 Термин, означающий, что именно спрос является основанием для разработки продуктов, т.е. процесс выхода на рынок начинается с заявки потребителя, а не с выпуска продукта, как на неинновационных, традиционных рынках.
12 Трахтенберг А. Д. Информационные технологии для государства: разрушительные или поддерживающие инновации? // Вопросы политологии и социологии. 2013. № 1 (4). С. 14-20.
1) запретить, что, однако, не гарантирует удаление объекта из оборота, причем гарантии тем ниже, чем более инновационная технология лежит в основе запрещенного объекта (классический пример — биткоин);
2) игнорировать технологическую составляющую и применить аналогию права и закона, опираясь на принцип технологической нейтральности13 (т.е. оценивая не саму технологию, а лишь причины и последствия ее применения), так как в силу изменчивости рынка ИТ не каждая технология успевает заслужить специальную норму, быстро лишаясь системности и устойчивости с точки зрения свойств правоотношения14;
3) реформировать законодательство под технологию или объект, на основе которого она создана, причем кардинальность реформ зависит от того, насколько инновационной по сравнению с традиционными объектами является конкретная технология (пример — искусственный интеллект, вводящий в правовое поле проблему имитации когнитивных функций человека, т.е. имитацию дееспособности техническим продуктом).
Для выбора варианта решения проблемы законодатель должен прежде всего определить, какие свойства, функции и характеристики технологии являются значимыми для права, т.е. признаками, которые впоследствии позволят правоприменителю безошибочно отделять один объект от другого и определять, о каких правоотношениях идет речь. Это, в особенности в российской правовой традиции, важнейший этап, вопрос, ответом на который является решение о регулировании, его степени, глубине и, главное, необходимости. Поэтому в науке дискуссия о понятии, свойствах и признаках беспилотных аппаратов так обширна и, судя по всему, даже нормативный правовой акт не способен будет разрешить спорные вопросы. По крайней мере, ранее принятые отдельные нормы о беспилотных аппаратах, а также упомянутая Стратегия только подстегнули ее.
Мы также в рамках данной статьи рассмотрим вопрос, до каких пределов необходимо углубляться в особенности и функции конкретной технологии при разработках концепции криминализации деяний с беспилотными (транспортными) аппаратами. Беспокойство правоведов объяснимо: примеры причинения вреда беспилотными аппаратами порой носят вопиющий характер. Однако применительно к криминализации деяний, т.е. к уголовной ответственности за причинение вреда такими аппаратами, взгляд исследователя всё же должен быть сужен: мы не рассматриваем все вопросы и проблемы сектора беспилотных аппаратов, а концентрируемся на вопросах привлечения к уголовной ответственности при причинении вреда с использованием беспилотных аппаратов.
И здесь необходимо обратиться к тому, что такое технология и не является ли проблема причинения вреда при помощи беспилотных аппаратов и уголовной ответственности за него лишь чрезмерным углублением в технические свойства и функции. Для этого надо определить, что такое технология сама по себе, из чего она состоит и что такое технологический продукт, услуга, т.е. конечное воплощение технологической концепции согласно спросу на рынке.
Корни определения понятия «технология» можно обнаружить еще в Древней Греции, а в современном мире этот термин встречается особенно часто. Только в федеральных нормативных правовых актах мы можем встретить его упоминание около 120 тыс. раз. Наибольший интерес для нас представляет формулировка, содержавшаяся в утратившей силу ст. 1542 ГК РФ о праве на технологию. В ней под единой технологией признавался «выраженный в объективной форме результат научно-технической деятельности, который включает в том или ином сочетании изобретения, полезные модели, промышленные образцы, программы для ЭВМ или другие результаты интеллектуальной деятельности, подлежащие правовой охране в соответствии с правилами настоящего
13 Болдырев В. А. Период технологической нейтральности законодателя и цифровые технологии // Правосудие на современном этапе. Новые вызовы времени : сборник материалов национальной научно-практической конференции (г. Чита, 21 сентября 2022 г.). Чита : Забайкальский гос. ун-т, 2022. С. 47-50.
14 Здесь мы хотели бы привести в пример социальную сеть звуковых сообщений Clubhouse, которая вызвала целый шквал инициатив о регулировании в период первых месяцев пандемии и карантинов, в том числе в рамках реформы интеллектуальных прав, но перестала быть актуальной для пользователей, как только карантинные меры были смягчены по всему миру. Вторым примером является мета-вселенная, концепция, которая перестала быть актуальной с рыночной точки зрения, так как технологическое развитие не позволяет метавселенным конкурировать с реальным миром или с технологиями
LEX IPS»
раздела, и может служить технологической основой определенной практической деятельности в гражданской или военной сфере (единая технология)». По нашему мнению, для любого исследования технологий неважно, в рамках складывающегося технологического права или нет, а важны два положения из этой статьи:
1) о том, что технология — это выраженный в объективной форме результат научно-технической деятельности;
2) и о том, что технология может служить технологической основой определенной практической деятельности в гражданской или военной сфере (единая технология).
Это объективно существующее разъяснение понятия «технология», его содержания и, главное, того, что составляет технологии. Причем такое разъяснение, существовавшее в ГК РФ до 2020 г., совпадает с международным объяснением понятия, применяемым в праве. Так, в исследовании Р. Волти «Общество и технологические изменения» технология определяется как «созданная людьми система, которая организована таким образом и так использует знания, чтобы производить объекты и методы для достижения конкретных целей»15. Здесь мы бы хотели отдельно отметить слово «методы», в совокупность которых входят как теоретические, так и практические способы воплощения научной концепции в жизнь. Иные авторы подчеркивают, что технология вряд ли возникла случайно, т.е. не была создана разумным человеком16. Именно человек (или человечество, как настаивают некоторые) дает «врожденные знания и необходимую организацию технологии как системы, которая позволяет ей производить объекты и применять методы для достижения целей»17.
В нормативных правовых актах определение понятия «технология» встречается очень редко, в отличие от термина, который обычно
используется без разъяснения. Но его можно найти в Кодексе Соединенных Штатов, где говорится, что «технология» означает современную информацию, компьютерные и коммуникационные продукты, услуги или инструменты, включая Интернет и другие сети связи, компьютерные устройства и другое компьютерное и коммуникационное оборудование, программное обеспечение, приложения, системы данных и другой электронный контент (включая мультимедийный контент) и хранилище данных18.
Итак, что такое технология как таковая? И чем являются беспилотные аппараты — технологией или продуктом применения технологии? Так, ряд авторов полагает, что технология — это «форма человеческой культурной деятельности, которая применяет принципы науки и механики для решения проблем»19. Этой точке зрения предшествовала научная концепция, в которой изложена идея технологии, а технология, согласно исследованию Буша, — практическое воплощение. При этом «практическое» не значит «материальное», но применимое на практике, то есть потенциально возможное к потреблению.
Технология имеет определенный материальный или физический компонент, о чем свидетельствует «множество общепринятых примеров, которые окружают нас в физическом мире»20. Наука, философия и знания ложатся в основу концепции, известной как технология. Когда этот термин впервые был использован в XVII в., он применялся для описания ремесла, под которым подразумевалось «только прикладное искусство»21 — то, что не является полностью идеей, но может быть реализовано практически, пусть даже и потенциально. С тех пор этот термин используется для описания «создания, использования и знания инструментов, техник, ремесел, систем или методов орга-
виртуальной реальности, и потому инициативы по ее регулированию пока не актуальны в связи со стремительным снижением правоотношений в метавселенных и их ценности (в том числе материальной).
15 Volti R. Society and technological change. New York : St. Martin's Press, 1995. P. 315.
16 Educational technology: A definition with commentary / A. Januszewski, M. Molenda (eds). New York : Routledge, 2013. P. 1-15.
17 Carroll L. S. L. A comprehensive definition of technology from an ethological perspective // Social Sciences. 2017. No. 6 (4). P. 126-134.
18 Title 20 of U. S. Code. § 7801 «Definitions».
19 Lyndon J. et al. Contact lens technologies of the future // Contact Lens and Anterior Eye. 2021. Vol. 44. No. 2. P. 398-430.
20 Lyndon J. et al. Op. cit.
21 Carroll L. S. L. Op. cit. P. 126-134.
низации для решения проблемы или достижения какой-то цели или целей».
По мнению Бьюкенена, технология основана на концепции и методах, которые обеспечивают ее стабильность и устойчивость22. Теория о технологии как инструменте (теория технологии производства) объясняет конструкцию технологии, с помощью которой одну технологию всегда можно описать как систему признаков и функций и этим отличить от другой. Каждая технология имеет эти основные характеристики, так как является «результатом закономерностей»23, которые можно применять. Эти закономерности позволяют найти технологический замысел в основе изделия, созданного в рамках технологии или нескольких технологий. Это также позволяет отличить технологию от инструмента, продукта или услуги, т.е. от ее практического воплощения.
На этом этапе разъяснений мы предлагаем вернуться к проблеме определения беспилотных аппаратов. При рассмотрении ее через изложенную нами, пусть и вкратце, теорию технологий наименование беспилотного аппарата перестает представлять сложность. Неважно, будет ли, например, автомобиль компании Tesla именоваться роботизированным, автономным или беспилотным — термин может быть любым, — ведь действительную проблему для законодателя составляет технологическая функция, которая есть практическое воплощение теоретической идеи автономного управления.
Беспилотный аппарат, независимо от того, является ли он наземным, водным или воздушным, по технологической концепции автономности может быть отнесен к одному из трех типов обеспечения беспилотного управления, а именно:
1) программируемый беспилотный аппарат, движение которого осуществляется по заранее рассчитанному алгоритму без участия оператора управления (например, привязные БПЛА), равно как аппараты, управляемые заранее запрограммированным модулем по алгоритму, который находится за пределами корпуса аппарата;
2) аппарат дистанционного управления, когда оператор управления находится за пределами корпуса аппарата в удалении, в том числе значительном;
3) автопилотируемые беспилотные аппараты, когда функция управления (когнитивная функция) передается самому аппарату, а пилот либо отсутствует (полное ИИ-управление), либо на определенный период не вмешивается в управление, но находится внутри корпуса аппарата и может управление вернуть.
Разница между этими тремя видами заключается в степени автономности от когнитивных функций человека — оператора управления. Первый и третий тип беспилотных аппаратов отличаются от второго тем, что когнитивная функция управления в их случае полностью или частично (на время) делегирована самому аппарату. Во втором случае делегирования не происходит, речь идет лишь о разделении оператора и аппарата в пространстве, т.е. о дистанционном управлении человеком, а не об автономном движении без какого-либо человеческого участия в процессе. При этом в любом из типов конкретные особенности беспилотного движения — того, как именно воплощена технология, — зависят от конкретной модели беспилотного аппарата. Как и в случае с любым иным транспортным средством, при совершении деяния, подпадающего под признаки состава преступления, необходимо установить точные технические обстоятельства. В случае с беспилотным транспортным средством количество обстоятельств и технических особенностей, которые должны быть установлены, увеличивается. Рассмотрим предполагаемые проблемы на примере автомобилей марки Tesla.
Согласно типовой технической документации автомобили (вернее, электромобили) этой марки обладают функцией Full Self-Driving, что можно перевести как «полное самоуправление». Эта функция описана как «усовершенствованная система помощи водителю, которая помогает вашему автомобилю управлять автомобилем, ускоряться и тормозить относительно других транспортных средств и пешеходов в пределах своей полосы движения, <...> помогает выполнять самые трудные этапы вождения и действует вместе с такими функциями, как экстренное торможение, предупреждение о столкновении и мониторинг слепых зон»24. Целиком систему автономного
22 Buchanan T., Sainter P., Saunders G. Factors affecting faculty use of learning technologies: Implications for models of technology adoption // Journal of Computing in Higher Education. 2013. No. 25. P. 1-11.
23 Buchanan T., Sainter P, Saunders G. Op. cit.
24 Описания здесь и далее приведены в переводе автора статьи, текст описаний взят из официальной документации для автомобилей марки Tesla.
LEX RUSSCA
беспилотного управления автомобиля составляют:
1) функция полного самоуправления (Full Self-Driving);
2) компьютер Full Self-Driving версии 3.0 или выше;
3) стандартный автопилот системы Basic Autopilot или улучшенный автопилот системы Enhanced Autopilot.
При этом важно отметить, что данная функция, хотя и является предустановленной (т.е. потенциально возможной) для автомобилей марки, но само ее использование основано на подписке. То есть автомобиль не является беспилотным сам по себе, а становится таким по желанию владельца при приобретении подписки (посредством помесячной оплаты) на оперативную функцию и после загрузки программного обеспечения этой функции через облачное приложение и идентификации в нем автомобиля и пользователя. Также функция ограничена географически, и ее доступность, а также набор возможностей варьируются в зависимости от места приобретения и эксплуатации автомобиля. Иными словами, будучи потенциально беспилотным (т.е. имея в составе технической конструкции модуль автопилота и компьютер, позволяющий подключить функцию беспилотного движения через облачное приложение путем скачивания, регистрации и оплаты), автомобиль марки может не быть таковым в процессе эксплуатации.
Это техническое решение представляет собой пример ставшего уже классическим приобретения облачной услуги software-as-aservice (SaaS, или «программа как услуга») посредством подписки с месячной оплатой25. То есть техническое обеспечение (материальный компонент услуги) предусмотрено в качестве части комплектующих устройства, но возможность эксплуатации в полном объеме — это облачное программное обеспечение, подключаемое при заключении отдельного соглашения между владельцем автомобиля и провайдером беспилотного управления через облако, компанией Tesla. Подключение, и, соответственно, использование функции, активно только при соблюдении пользователем условий облачного договора.
Отсюда возникает целый ряд вопросов, которые существенно усложняют возможную правовую оценку деяния с участием такого автомобиля, если оно будет совершено в процессе беспилотного управления.
Представим, что деяние с причинением смерти было совершено на территории, на которой в связи с отсутствием официальных дилерских центров функция беспилотного управления автомобилем Tesla недоступна, что прямо предусмотрено в соглашении о приобретении и Правилах и условиях эксплуатации в составе лицензионного договора облачного приложения. Однако она была подключена с введением в заблуждение провайдера услуги — компании, путем регистрации другого лица в качестве пользователя, с оплатой от его имени, с указанием того, что лицо проживает и использует автомобиль на территории, где компанией разрешено подключать эту функцию. То есть в таком введении в заблуждение, как правило, участвуют не менее двух лиц — собственник автомобиля и лицо, заключившее облачное соглашение на подключении функции самоуправления, чем нарушен принцип добросовестности, предусмотренный облачным соглашением. После чего во время беспилотного управления автомобилем был причинен вред другому лицу в степени, влекущей уголовную ответственность.
Возникает вопрос, каким образом возможно привлечение к ответственности в этом случае и кто будет эту ответственность нести.
На первый взгляд правильным будет ответ «никто», потому что функция управления автомобилем осуществляется при помощи искусственного интеллекта, а физическое лицо с момента включения автопилота оператором автомобиля не является, передавая эту когнитивную функцию ИИ. Привлечение же к ответственности ИИ, как и любая форма придания правосубъектности чему-либо, построенному на базе искусственного интеллекта, невозможно и недопустимо, так как нарушает основополагающие принципы права и, главное, не соответствует основаниям признания правосубъектности. Дело в том, что ИИ, как бы ни были результаты его деятельности похожи на результаты человеческого мышления, все равно
25 Подробнее о подписках на сервисы и функции через облачные приложения и об особенностях их правового регулирования см.: Кучина Я. О. Правовое регулирование облачных технологий (вычислений). М. : Юрлитинформ, 2018.
не мыслит аналогичным способом, поскольку воссоздать биологические основы мышления26 техническим путем невозможно27. А полноценное осознание лицом морально-нравственных аспектов совершения преступления или любого причинения вреда, причин и следствий этого28 — то, что является неотъемлемыми признаками субъекта преступления и элементами субъективной стороны (вменяемость, вина), — без этой биологической основы невозможно29.
Соответственно, мы обращаемся к вопросу, возможно ли привлечение к ответственности лица или лиц, которые так или иначе были вовлечены в эксплуатацию беспилотного аппарата на основе ИИ в данном случае, а также в иной ситуации с эксплуатацией аппарата на основе беспилотного управления.
Итак, как мы уже сказали, существует три технологических вида беспилотного управления, описательную классификацию которого мы предложили. При этом только в случае с подключаемым автопилотом в корпусе аппарата находятся лицо или лица, которые могут управлять этим аппаратом в периоды отключения автопилота. Для примера с автомобилем Те$!а это означает следующее: находящееся в автомобиле лицо в определенные периоды является водителем автомобиля и делегирует свои полномочия ИИ-автопилоту на конкретный период, который определяется совокупностью его желания (намерения) такого делегирования и особенностей функционирования конкретной версии приложения автопилота в совокупности с версией автомобиля, т.е. комплекса из программного обеспечения и технического устройства автомобиля. Потому именно на такое лицо, согласно общим положениям закона об эксплуатации транспортных средств и эксплуатации источников повышенной опасности, возлагается ответственность за нее.
Впрочем, в данной ситуации, когда мы рассматриваем случай с незаконным приобретением подписки облачного приложения, без которого невозможно считать автомобиль беспилотным (или имеющим беспилотный режим), присутствует ряд особенностей, которые позволяют отнести пример к категории коллизион-
ных. Дело в том, что, во-первых, автомобиль с такой архитектурой построения беспилотной функции не может считаться беспилотным априори: он становится таковым только после приобретения подписки и только на период ее действия. Это типовая особенность офисных приложений категории «программное обес-печение-как-услуга». И эта особенность неочевидна при регистрации транспортного средства и прохождении технического осмотра.
Далее, согласно действующему облачному соглашению, лицо, которое приобретает подписку, должно соответствовать условию, согласно которому «только учетная запись Те$!а, которой принадлежит автомобиль, может приобретать обновления в приложении Те$1а». То есть при наличии географического ограничения на приобретение приложения, приобрести подписку на функцию самоуправления невозможно. Условия соглашения прямо связывают собственника учетной записи с собственником подписки, а эти две категории — с собственником автомобиля. В случае же, если автомобиль принадлежит одному лицу, а подписка и учетная запись — другому, возникает коллизия ответственности, поскольку принцип доверия в основе облачного соглашения исключает возможность законного и открытого приобретения беспилотной функции (подписки) в странах, в которых такое приобретение ограничено.
Отсюда, при рассмотрении вопроса об ответственности лица при причинении вреда автомобилем в фазе беспилотного управления не нужно касаться, на наш взгляд, того, есть ли возможность привлечь к уголовной ответственности ИИ за транспортное преступление. Вопрос касается того, сколько лиц должно привлекаться к ответственности за причинение вреда по неосторожности (в форме преступного легкомыслия) при эксплуатации автомобиля с подключенной беспилотной функцией в условиях, когда производителем доступ к такой функции собственника автомобиля не предусмотрен.
Доступ и учетная запись обеспечивают прежде всего исправность автомобиля и соблюдение правил его эксплуатации. Автомобили
26 Chugani H. T. Biological basis of emotions: Brain systems and brain development // New perspectives in early emotional development. Miami : Johnson & Johnson Pediatric Institute, 1998. P. 5-16.
27 Wilson E. O. The biological basis of morality // The Atlantic Monthly. 1998. Vol. 281. No. 4. P. 53-70.
28 Suhler C., Churchland P. The neurobiological basis of morality // The Oxford handbook of neuroethics. Oxford ; New York : Oxford University Press, 2011. P. 33-58.
29 Ayala F. J. The biological roots of morality // Biology and philosophy. 1987. Vol. 2. P. 235-252.
да трэж
этой марки обслуживаются только в филиалах производителя и никак иначе в силу сложности технического устройства, в том числе необходимости обеспечивать работу бортового компьютера на основе ИИ. То есть сам факт подключения в источнике повышенной опасности функции беспилотного самоуправления без соблюдения условий облачного соглашения и вопреки обязанностям собственника источника повышенной опасности, несомненно, определяет форму вины. А причинение вреда, если за таковое предусмотрена уголовная ответственность, позволяет привлекать к уголовной ответственности без углубления в коллизии и теории об ответственности ИИ.
Более того, в Российской Федерации существует достаточное количество актов, регулирующих применение автопилотов, которые по аналогии вполне могут быть экстраполированы при создании нормы или оценке правоотношения. Поскольку в данной статье мы рассматриваем не столько возможность нормотворчества, сколько значимость структурной композиции технологического решения и его элементов, то есть смысл рассмотреть, что именно уже имеется в распоряжении правоприменителя.
Во-первых, анализ актов, касающихся нормативных требований использования автопилота воздушного судна, показывает, что стандартизация технологии автопилотирования воздушного судна и автомобиля несоизмеримо разнятся — и последняя практически полностью отсутствует. Более того, соотношение стандартов международного и национального права в отношении автопилотов самолетов и автомобилей также не в пользу последних. Причина разницы в том, что беспилотные аппараты и автопилотируемые инновационные аппараты и транспортные средства не рассчитаны на пересечение трансграничного пространства, в отличие от самолетов. Соответственно, вопросы стандартизации, если и поднимаются, то исключительно в рамках поправок к внутреннему законодательству отдельных государств.
Далее, как мы видим, вопросы цифровиза-ции и степени внедрения «разрушительных» технологий вроде искусственного интеллекта, стандарты такого внедрения, которые интересуют ученых, в случае с системами авто-
пилотирования практически не упоминаются. Например, в одном из постановлений Правительства РФ30 сказано, что «в ходе полета автопилотом обрабатываются данные от бортовых датчиков беспилотного воздушного судна, что позволяет следовать заданному маршруту полета с учетом возмущающих воздействий». А при эксплуатации беспилотной авиационной системы «могут осуществляться подготовка беспилотного воздушного судна к полету, программирование полетного плана посредством использования станции внешнего пилота, направление плана полета в органы обслуживания воздушного движения в установленном порядке, а также управление беспилотным воздушным судном в ходе выполнения полета и корректировка полетного задания при возникновении неисправностей, при невозможности выполнения полета в соответствии с планом полета, при непредвиденных изменениях воздушной обстановки или других нештатных ситуациях».
Что касается иных воздушных судов, то тут нужно учитывать, что авиационные правила и нормы летной годности устанавливаются для всех видов, типов и категорий воздушных судов в отдельности, что заставляет нас прежде всего задуматься не об определении беспилотного аппарата (а также транспортного средства, комплекса, судна и пр.) в уголовном законе, а о том, что до внесения изменения в уголовный закон нормативная база для беспилотных аппаратов должна соответствовать той, что касается привычных для нас судов, транспортных средств и пр. Более того, как мы видим из примера с беспилотным автомобилем (вернее, с подключаемым режимом беспилотного управления), стандартизировать таковой в степени максимальной общности практически невозможно. Как показывает опыт стандартизации других высококастомизируемых технологий, сервисов и продуктов инновационной природы, это практически всегда означает, что закон с высокой вероятностью не будет действовать при выводе на рынок новой, конкурентной модели с уникальной структурой функций и их цифровой основой. Собственно, подтвердить это может анализ модельного ряда автомобилей компании Tesla.
30 Постановление Правительства РФ от 09.11.2023 № 1874 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Самарской области».
Заключение
В итоге мы опять возвращаемся к проблеме определения пределов потенциального регулирования и установления уголовной ответственности при совершении преступления с беспилотным аппаратом. И, как видно из даже беглого обзора, невозможно включить в уголовный закон все возможные составы преступлений с беспилотными аппаратами.
Главной причиной, разумеется, является видовое разнообразие тех технологических продуктов, которые в рамках этой статьи мы называем общим термином «беспилотные аппараты». Согласно действующему закону они подразделяются на комплексы, системы, суда, транспортные средства и собственно аппараты, и каждая из этих категорий имеет свои собственные виды. Эти виды, несмотря на общее название «технологии беспилотного управления», существенно разнятся. И автомобиль с подключаемой функцией беспилотного управления на базе искусственного интеллекта полностью отличается от воздушного судна с автопилотом, морского судна с автоштурманом и беспилотного воздушного аппарата с автопилотом. При этом любая степень концентрации на технологической составляющей при правотворчестве, с высокой степенью вероятности, будет губительна для качества и эффективности нормы.
Как показывает вышеприведенный пример, уголовная ответственность за причинение вреда не столько зависит от того, что вред был причинен при эксплуатации беспилотного ап-
парата, сколько от обстоятельств причинения. То есть лицо, умышленно причинившее смерть при помощи аппарата с дистанционным управлением (оператор), будет нести ответственность за убийство, тогда как аппарат будет выступать орудием или средством совершения преступления. Если привязной беспилотный аппарат стал причиной смерти ввиду ненадлежащей эксплуатации, несоблюдения требований или бездействия ответственного лица, то состав преступления будет квалифицирован по соответствующим статьям УК РФ. При этом в каждом конкретном случае правоприменитель будет вынужден, как и всегда при таких преступлениях, устанавливать обстоятельства, связанные с правилами эксплуатации аппарата, обстоятельства причинения вреда и субъективную сторону в зависимости от конкретной категории, вида и модели беспилотного аппарата, его функций и целей эксплуатации.
Таким образом, мы опять возвращаемся к вопросу о необходимости погружения в технологическое своеобразие (и разнообразие) беспилотных аппаратов и предлагаем рассматривать его с позиции максимальной технологической нейтральности, так как, судя по проведенному нами анализу, излишняя концентрация на технических аспектах (не только в области беспилотных аппаратов) способна сделать проблему практически неразрешимой, создав ложное впечатление о невозможности привлечения к уголовной ответственности и о наличии пробелов в действующем уголовном праве.
СПИСОК ЛИТЕРАТУРЫ
Березина Е. А. Автономные автомобильные транспортные средства: правовой опыт Сингапура, Китая и Южной Кореи // Азиатско-Тихоокеанский регион: экономика, политика, право. 2022. № 3 (24). С. 100-123.
Болдырев В. А. Период технологической нейтральности законодателя и цифровые технологии // Правосудие на современном этапе. Новые вызовы времени : сборник материалов национальной научно-практической конференции (г. Чита, 21 сентября 2022 г.). Чита : Забайкальский гос. ун-т, 2022. С. 47-50.
Коробеев А. И., Чучаев А. И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex russica. 2019. № 2. С. 9-28.
Кучина Я. О. Правовое регулирование облачных технологий (вычислений). М. : Юрлитинформ, 2018. 165 с.
Кучина Я. О. Уголовное право и цифровизация общественных отношений: об отражении процессов цифровизации в УК РФ и науке уголовного права // Уголовное право: стратегия развития в XXI веке : материалы XVII Международной научно-практической конференции (г. Москва, 23-24 января 2023 г.). М. : РГ-Пресс, 2020. С. 130-135.
Мамычев А. Ю., Гайворонская Я. В., Мирошниченко О. И. Современные доктринально-правовые и этические проблемы разработки и применения роботизированных технологий и систем искусственного
LEX RUSSICA
интеллекта (на примере автономных необитаемых подводных аппаратов) // Территория новых возможностей. 2018. № 3 (42). С. 135-150.
ТрахтенбергА. Д. Информационные технологии для государства: разрушительные или поддерживающие инновации? // Вопросы политологии и социологии. 2013. № 1 (4). С. 14-20.
Фокин М. С., Рязанов Н. С. Актуальные проблемы уголовно-правовой регламентации противоправного использования беспилотных мобильных средств // Актуальные проблемы российского права. 2018. № 1 (86). С. 103-110.
Ayala F. J. The biological roots of morality // Biology and philosophy. 1987. Vol. 2. P. 235-252. Buchanan T., Sainter P., Saunders G. Factors affecting faculty use of learning technologies: Implications for models of technology adoption // Journal of Computing in Higher Education. 2013. No. 25. P. 1-11.
Carroll L. S. L. A comprehensive definition of technology from an ethological perspective // Social Sciences. 2017. No. 6 (4). P. 126-134.
Chugani H. T. Biological basis of emotions: Brain systems and brain development // New perspectives in early emotional development. Miami : Johnson & Johnson Pediatric Institute, 1998. P. 5-16.
Educational technology: A definition with commentary / A. Januszewski, M. Molenda (eds). New York : Routledge, 2013.
Lyndon J. et al. Contact lens technologies of the future // Contact Lens and Anterior Eye. 2021. Vol. 44. No. 2. P. 398-430.
Suhler C., ChurchlandP. The neurobiological basis of morality // The Oxford handbook of neuroethics. Oxford ; New York : Oxford University Press, 2011. P. 33-58.
Volti R. Society and technological change. New York : St. Martin's Press, 1995.
Wilson E. O. The biological basis of morality // The Atlantic Monthly. 1998. Vol. 281. No. 4. P. 53-70.
REFERENCES
Ayala FJ. The biological roots of morality. Biology and philosophy. 1987;2:235-252.
Berezina EA. Autonomous motor vehicles: the legal experience of Singapore, China and South Korea. Aziatsko-Tikhookeanskiy region: ekonomika, politika, pravo. 2022;24(3):100-123. (In Russ.).
Boldyrev V A. The period of technological neutrality of the legislator and digital technologies. In: Justice at the present stage. New challenges: Proceedings of the National Practical Conference. Chita; 2022. Pp. 47-50. (In Russ.).
Buchanan T, Sainter P, Saunders G. Factors affecting faculty use of learning technologies: Implications for models of technology adoption. Journal of Computing in Higher education. 2013;25:1-11.
Carroll LSL. A comprehensive definition of technology from an ethological perspective. Social Sciences. 2017;6(4):126-134.
Chugani HT. Biological basis of emotions: Brain systems and brain development. New perspectives in early emotional development. Miami: Johnson & Johnson Pediatric Institute; 1998. Pp. 5-16.
Fokin MS, Ryazanov NS. Current issues of criminal law regulation of wrongful use of unmanned vehicles. Aktual'nye problemy rossijskogo prava. 2018;1(86):103-110. (In Russ.).
Januszewski A, Molenda M. (eds). Educational technology: A definition with commentary. New York; 1968.
Lyndon J. et al. Contact lens technologies of the future. Contact Lens and Anterior Eye. 2021;44(2):398-430.
Korobeev AI, Chuchaev AI. Unmanned Vehicles: New Challenges to Public Security. Lexrussica. 2019;2:9-28. (In Russ.).
Kuchina YaO. Criminal law and digitalization of public relations: On the reflection of digitalization processes in the Criminal Code of the Russian Federation and the science of criminal law. In: Criminal law: Development strategy in the 21st century. Proceedings of the XVII International Scientific and Practical Conference. Moscow; 2020. Pp. 130-135. (In Russ.).
Kuchina YaO. Legal regulation of cloud technologies (computing). Moscow: Yurlitinform Publ.; 2019. (In Russ.).
Mamychev AYu, Gayvoronskaya YaV, Miroshnichenko OI. Modern doctrinal, legal and ethical problems of the development and application of robotic technologies and artificial intelligence systems (on the example of autonomous uninhabited underwater vehicles). Territoriya novykh vozmozhnostey. 2018;3(42):135-150. (In Russ.).
Suhler C, Churchland P. The neurobiological basis of morality. The Oxford handbook of neuroethics. 2011;33-58.
Trachtenberg AD. Information technologies for the state: Disruptive or supportive innovations? Voprosy politologii i sotsiologii. 2013;1(4):14-20. (In Russ.).
Volti R. Society and technological change. New York: Martin's Press; 1995. Wilson EO. The biological basis of morality. The Atlantic Monthly. 1998;281(4):53-70.
ИНФОРМАЦИЯ ОБ АВТОРЕ
Кучина Ярослава Олеговна, кандидат юридических наук, доцент, докторант Университета Макао,
о. Тайпа, Макао, Китайская Народная Республика
INFORMATION ABOUT THE AUTHOR
Yaroslava O. Kuchma, Cand. Sci. (Law), Associate Professor, Doctoral Student, University of Macau,
Taipa Island, Macau, People's Republic of China
Материал поступил в редакцию 6 января 2024 г. Статья получена после рецензирования 9 февраля 2024 г. Принята к печати 15 апреля 2024 г.
Received 06.01.2024. Revised 09.02.2024. Accepted 15.04.2024.
