CC BY
10
12.00.08 Уголовное право и криминология;
уголовно-исполнительное право
Criminal Law and Criminology; Criminal Enforcement Law
DOI: 10.33693/2223-0092-2021-11-4-82-91
УДК 343.3
Уголовно-правовое регулирование робототехники: результаты социологического исследования
И.Р. Бегишев ©
Казанский инновационный университет имени В.Г. Тимирясова, г. Казань, Российская Федерация
E-mail: begishev@mail.ru
Аннотация. Цель исследования. В целях установления подходов к определению понятия «робот», уяснения технолого-правовой сущности робототехники, формирования модели правового регулирования робототехники, проработки вопросов уголовной ответственности за общественно опасные деяния, осложненные использованием робототехнических устройств, описания робота как предмета преступного посягательства и выработки перспективного механизма применения уголовного закона в случае причинения вреда в процессе функционирования автономных роботов был проведен опрос (анкетирование) респондентов (N = 305) с использованием современных цифровых технологий и интерактивного способа сбора информации. Выводы. Результаты проведенного социологического опроса практически полностью подтверждают достоверность и правильность предыдущих научных изысканий автора, однозначно доказывают их актуальность и востребованность в обществе.
Ключевые слова: автономный робот, вина, вред, закон, искусственный интеллект, несанкционированный доступ, общественная опасность, общественные отношения, оружие, ответственность, правовое регулирование, преступление, робот, робототехника, социологическое исследование, опрос, субъект преступления, уголовная ответственность, уголовное право, угроза, цифровая информация, цифровая экономика, цифровые технологии
DOI: 10.33693/2223-0092-2021-11-4-82-91
Criminal Law Regulation of Robotics: Results of a Sociological Study
I.R. Begishev ©
Kazan Innovative University named after V.G. Timiryasov, Kazan, Russian Federation
E-mail: begishev@mail.ru
Abstract. The purpose of the research. In order to establish approaches to the definition of the concept of "robot", to understand the technological and legal essence of robotics, to form a model of legal regulation of robotics, to study the issues of criminal liability for socially dangerous acts complicated by the use of robotic devices, to describe the robot as a subject of criminal encroachment
and to develop a promising mechanism for applying the criminal law in the event of harm in the course of functioning of autonomous robots, a survey (questionnaire) of respondents (N = 305) was conducted using modern digital technologies and an interactive method of collecting information. Results. The results of the conducted sociological survey almost completely confirm the reliability and correctness of the author's previous scientific research, unequivocally prove their relevance and relevance in society.
Key words: autonomous robot, guilt, harm, law, artificial intelligence, unauthorized access, public danger, public relations, weapons, responsibility, legal regulation, crime, robot, robotics, sociological research, survey, subject of crime, criminal liability, criminal law, threat, digital information, digital economy, digital technologies
ВВЕДЕНИЕ
В начале исследования нами была сформирована анкета, состоящая из 25 вопросов, затрагивающих различные аспекты уголовно-правового регулирования робототехники. Большинство вопросов содержали одиночный выбор, только два из них (№ 2 и 17) имели множественный выбор ответов. Затем было проведено онлайн-анкетирование, в ходе которого респондентам
задавались вышеуказанные вопросы. На основе ответов опрашиваемых был проведен анализ и сделаны выводы об уровне правового регулирования робототехники в России, о сущности и тенденциях развития робопре-ступности, о создании механизмов уголовно-правового регулирования общественных отношений, возникающих в процессе разработки, производства и применения роботов. Результаты социологического исследования в относительных показателях приведены в табл. 1.
Таблица 1
Результаты социологического исследования [Results of the sociological study]
Номер вопроса [Question number] Варианты ответов в относительных показателях,% [Answer options in relative terms,%]
Ответ 1 [Answer 1] Ответ 2 [Answer 2] Ответ 3 [Answer 3] Ответ 4 [Answer 4] Ответ 5 [Answer 5]
1 19,3 55,7 25,0 - -
2* 18,1 24,5 21,5 71,1 17,4
3 20,9 18,2 60,9 - -
4 31,8 43,6 16,9 5,7 2,0
5 15,9 40,0 44,1 - -
6 12,5 59,8 5,7 22 -
7 39,8 51,0 9,2 - -
8 69,6 23,4 7,0 - -
9 75,4 17,4 7,2 - -
10 52,7 44,6 2,7 - -
11 56,5 39,5 4,0 - -
12 28,4 59,5 7,4 4,7 -
13 67,9 18,1 11,0 3,0 -
14 43,7 39,9 13,3 3,1 -
15 12,4 33,1 20,7 8,6 25,2
16 42,4 44,1 13,5 - -
17* 25,8 28,5 12,9 50,2 32,2
18 31,1 51,0 15,5 2,4 -
19 35,7 31,6 27,8 4,7 -
20 18,0 27,5 54,5 - -
21 9,1 73,6 17,3 - -
22 19,7 19,6 60,7 - -
23 63,4 13,0 17,5 6,1 -
24 68,3 21,6 10,1 - -
25 65,4 28,1 6,5 - -
* В указанных вопросах ответы содержали множественный выбор. В остальных вопросах - одиночный выбор. [* In these questions, the answers contained multiple choice. In the rest of the questions - a single choice.]
МЕТОДИКА ПРОВЕДЕНИЯ ИССЛЕДОВАНИЯ
Анкетирование респондентов проводилось через портал anketolog.ru - цифровой сервис, позволяющий создать индивидуальный социологический опрос и провести онлайн-исследование. Временным интервалом исследования установлен период с мая по июнь 2021 г.
Представителям целевых аудиторий посредством различных ресурсов (мессенджеров WhatsApp и Viber, социальных сетей «Instagram» и «ВКонтакте», электронной почты) предлагалась прямая ссылка, по которой они могли перейти к анкете и принять участие в опросе. На вопросы анкеты респонденты могли ответить в удобное время с любого цифрового устройства. Ответы фиксировались по времени и 1Р-адресам. Повторное заполнение анкеты было запрещено. Среднее время заполнения анкеты составляло 12 минут 20 секунд.
В качестве целевой аудитории были выбраны несколько категорий опрашиваемых: ученые-правоведы и практикующие юристы, профессорско-преподавательский состав, докторанты, аспиранты и студенты юридических факультетов и вузов, представители правотворческих органов и судейского сообщества, сотрудники правоохранительных структур. Всего опрошено 305 респондентов.
РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ
Вопрос 1. Сложился ли, по Вашему мнению, в настоящее время оборот (покупка, продажа, использование, создание, разработка и т.д.) роботов в отдельную сферу общественных отношений?
1) да, сложился;
2) да, но только в отношении отдельных видов роботов;
3) нет, не сложился.
Ответы на данный вопрос показывают, что большая часть респондентов (55,7%) считают, что в настоящее время оборот роботов сложился в отдельную сферу общественных отношений, но только касательно отдельных видов роботов. Почти каждый пятый (19,3%) утверждает, что такой оборот сформировался, а четверть опрошенных (25%) в ответе на поставленный вопрос высказали противоположную точку зрения.
Таким образом, можно с уверенностью сказать, что большинство опрошенных (75%) считают, что так или иначе оборот роботов в отдельную сферу общественных отношений сложился. Это говорит о том, что роботы оказались полноценными участниками общественных отношений, а процессы роботизации, изменяющие экономику страны и общество, стали устойчивым трендом.
В опрос 2. Что, по Вашему мнению, представляет собой робот?
1) человекоподобный механизм, способный перемещаться в пространстве;
2) любой механизм способный перемещаться в пространстве без участия человека;
3) устройство, способное хранить, обрабатывать и передавать компьютерную информацию;
4) программно-аппаратное средство, способное как к физическим манипуляциям, так и к хранению, обработке и передаче информации;
5) цифровое устройство, используемое в производстве или сфере оказания услуг.
Подавляющее большинство опрошенных (71,1%) под роботом понимают программно-аппаратное средство, способное как к физическим манипуляциям, так и к хранению, обработке и передаче информации. Указанный показатель однозначно свидетельствует о том, что большая часть респондентов имеет корректное общее представление о технологической сущности робота, отличительной (дифференцирующей) чертой которого выступает наличие способности к механическим манипуляциям. Указанная способность может проявляться в том числе и как перемещение в пространстве. Данный признак, в качестве основного выбрали 24,5% опрошенных лиц. Без возможностей хранения, обработки и передачи информации робототехническое устройство не в состоянии функционировать, ввиду чего данный признак в равной степени имеет высокое значение (21,5%) и должен осознаваться как обязательный для робота. Лишь малая часть респондентов ассоциируют робота с человекоподобным механизмом (18,1%), способным перемещаться в пространстве либо цифровым устройством, используемым в производстве или сфере оказания услуг (17,4%).
Следует отметить, что А.А. Арямов и Ю.В. Грачева также под робототехникой понимают программируемые машины, которые могут автономно или автоматически выполнять те или иные действия [Арямов, Грачева, 2019: 109].
Вопрос 3. Известны ли Вам какие-либо нормативные правовые акты, регулирующие правоотношения, возникающие по поводу роботов (их использования, хранения, купли-продажи и т.д.)?
1) известны;
2) известны только акты Президента и Правительства РФ;
3) не известны.
Результаты ответов на указанный вопрос представляют высокий интерес и практическую значимость для представителей юридической науки. Подавляющее большинство респондентов (60,9%) не осведомлены о юридических инструментах регулирования общественных отношений с участием роботов. Данный результат следует рассматривать в корреляции с тем обстоятельством, что большинство опрошенных считает оборот отдельных видов роботов сложившимся и реально существующим. Структура мнений респондентов по данному вопросу может выступать самостоятельным, но не единственным, обстоятельством, актуализирующим научную дискуссию относительно выработки соответствующих нормативно-правовых механизмов.
Примерно пятой части опрошенных (18,2%) известны только акты Президента и Правительства РФ. Вероятно, к таким актам респонденты относят Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской
Федерации»1 и Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р «Об утверждении концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»2.
Вопрос 4. Считаете ли Вы, что процессы создания, разработки и эксплуатации роботов образуют какие-либо риски (выпуск в оборот некачественной продукции, создание «опасных» роботов, создание роботов, способных скрыто получать информацию, неправильное использование роботов и т.д.)?
1) да, такие риски кажутся мне существенными;
2) да, такие риски существуют;
3) сейчас этих рисков нет, но они могут появиться в будущем;
4) такие риски есть и могут появиться, однако они не являются существенными;
5) данный вид деятельности риски не образует.
В ответе на указанный вопрос подавляющее большинство опрашиваемых лиц в той или иной степени проявили единство во мнении о том, что оборот роботов порождает риски и угрозы (92,3%). Наличествует некоторая категоризация отношения респондентов к указанным рискам, так, 31,8% опрошенных находят их существенными, 43,6% считают, что такие риски существуют, 16,9% респондентов относят окончательное формирование рисков к сфере будущего (при этом не ставя под сомнение сам факт таких рисков).
Такое положение влечет категоричный вывод о том, что в обществе имеется понимание характера робота как предмета, использование которого создает повышенную опасность. Полагаем, возможно обоснованно констатировать готовность и одобрение обществом принятия нормативных правовых актов, предусматривающих ограничительные механизмы и меры контроля в отношении роботов.
Там образом, широкомасштабная роботизация становится одним из вызовов современного общества [Грачева, Арямов, 2020: 169].
Вопрос 5. Считаете ли Вы, что процессы создания, разработки и эксплуатации роботов в настоящее время в достаточной степени регулируются существующими нормативными правовыми актами?
1) в целом нормативного регулирования достаточно, однако отдельные области вызывают вопросы;
2) отдельные области урегулированы, однако система правового регулирования отсутствует;
3) существующего нормативного регулирования явно недостаточно.
Подавляющее большинство респондентов (84,1%) находят существующее правовое регулирование общественных отношений в сфере робототехники в различной степени пробельным, при этом большая часть тех, кто разделяет эту точку зрения, убеждены, что существующего нормативного регулирования недостаточно.
1 Собрание законодательства Российской Федерации от 14 октября 2019 г. № 41. Ст. 5700.
2 Собрание законодательства Российской Федерации от 31 августа 2020 г. № 35. Ст. 5593.
Подобное положение однозначно свидетельствует о формировании в обществе запроса на достаточное, полное и всестороннее законодательное регулирование робототехники. В совокупности с ответами на иные вопросы, касающиеся легальной базы регулирования общественных отношений с участием роботов, можно однозначно утверждать, что решение об издании нормативных правовых актов вызовет однозначную общественную поддержку.
Вопрос 6. Какие процессы в робототехнике Вы считаете неурегулированными?
1) правовое «делегирование» решений роботам;
2) ответственность за причинение вреда с использованием роботов;
3) считаю, что все урегулировано;
4) затрудняюсь с ответом.
Ответы респондентов на вышеуказанный вопрос свидетельствуют о том, что в обществе обеспокоены наличием правовой неопределенности в вопросах ответственности за вред, причиненный в процессе функционирования роботов (59,8%). Сложившаяся структура спектра мнений позволяет предполагать, что выработка и издание охранительных правовых норм с высокой вероятностью может найти одобрение общественности, выступить выражением интересов граждан Российской Федерации. Часть респондентов (12,5%) считает неурегулированным правовое «делегирование» решений роботам. В то же время в процентном соотношении имеется ощутимое количество лиц, затруднившихся с выбором (22%). Означенное может свидетельствовать о том, что робототехника, являясь сквозным цифровым феноменом, затрагивает существенное количество сфер общественной жизни, в каждой из которых ее участие обоснованно должно регламентироваться нормативными положениями, ввиду чего респонденты затруднились с обозначением своего предпочтения. И только 5,7% опрошенных полагают, что все процессы в робототехнике урегулированы.
Вопрос 7. Считаете ли Вы, что процессы создания, разработки и эксплуатации роботов должны быть урегулированы в рамках федерального закона о робототехнике?
1) да, это будет наиболее эффективным;
2) такой федеральный закон должен существовать, однако одного его недостаточно, он должен применяться только во взаимосвязи с иными правовыми положениями;
3) создание отдельного федерального закона видится мне нецелесообразным.
Подавляющее число респондентов солидарны во мнении о том, что для конструирования эффективно действующей правовой системы в сфере робототехники необходимо издание единого нормативного правового акта в форме отраслевого федерального закона (90,8%). В то же время, находясь в общем согласии о необходимости такого закона, отдельное количество опрошенных полагает, что его применению будет способствовать корреляция с иными правовыми актами (51%). Лишь менее десятой части опрошенных (9,2%)
полагают создание отдельного федерального закона нецелесообразным. Таким образом снова возможно констатировать наличие в обществе устоявшегося запроса на издание федерального закона, направленного на регулирование отношений в сфере оборота роботов. Ответы на данный вопрос позволяют определить вектор развития и однозначно свидетельствуют о необходимости создания отдельного федерального закона о робототехнике.
Вопрос 8. Как Вы считаете, могут ли роботы быть использованы для совершения преступлений?
1) да, могут;
2) могут, но только в будущем;
3) не могут.
Среди лиц, прошедших опрос, преобладает мнение о том, что роботы вполне могут быть использованы для целей совершения преступлений как в настоящее время (69,6%), так и в будущем (23,4%). Подобная структура мнений по вопросу свидетельствует о потенциальном наличии у граждан опасений относительно изменения характера преступной деятельности после активного вхождения роботов в гражданский оборот. Сообразно изложенному внесение изменений в уголовный закон в той его части, которая касается установления ответственности за общественно опасные деяния, связанные с использованием роботов, скорее будет находить оправдание и одобрение общества. Напротив, уклонение и дистанцирование от уголовно-правового обеспечения охраны общественных отношений от общественно опасного применения роботов может повлечь за собой снижение эффективности уголовно-правового регулирования, что подтверждается материалами опроса.
Вопрос 9. Как Вы полагаете, могут ли роботы быть специально созданы для совершения преступлений?
1) да, могут;
2) могут, но только в будущем;
3) не могут.
Среди опрошенных лиц превалирует мнение о том, что роботы могут быть использованы для совершения преступлений (92,8%), однако часть опрошенных (17,4%) связывает возникновение такой возможности со сферой будущего. Мнение о том, что робот не может быть специально (целенаправленно) изготовлен для целей совершения преступлений, разделяется наименьшим количеством респондентов (7,2%).
Вопрос 10. Если робот был создан для совершения преступления, должно ли само это деяние влечь уголовную ответственность?
1) да, сам факт создания достаточно общественно опасен;
2) должно квалифицироваться как приготовление к соответствующему преступлению;
3) нет, не должно.
Среди опрошенных лиц преобладает мнение о том, что сам факт создания робота, заранее предназначенного для совершения противоправного деяния, образует достаточную общественную опасность и подлежит самостоятельной правовой оценке. Данной позиции
придерживается 52,7% лиц, прошедших опрос. Позиция о том, что сам факт такого создания не должен влечь уголовную ответственность, практически не нашла поддержки (2,7%). Кроме того, 44,6% респондентов полагают, что данное деяние должно квалифицироваться как приготовление, таким образом связывая его со сферой уголовно-правовых отношений и признавая общественно опасным. С точки зрения действующего регулирования содеянное действительно влечет ответственность за приготовление, однако респонденты едины во мнении о его общественной опасности, ввиду чего отсутствуют какие-либо препятствия для выделения данного деяния в самостоятельное преступление. Следует отметить, что подобное решение согласуется с результатами ответов на вопрос, поскольку опрошенные лица в подавляющем большинстве признают общественную опасность содеянного.
Вопрос 11. Считаете ли Вы необходимым издавать юридически обязательные правила создания, эксплуатации, ремонта или иного использования роботов?
1) да, это необходимая мера;
2) да, но зависит от их содержания;
3) нет.
Респонденты придерживаются мнения о том, что процессы создания, эксплуатации, ремонта или иного использования роботов должны получить нормативную регламентацию. Полагаем, подобная структура ответов на означенный вопрос коррелирует с позицией опрошенных лиц о том, что оборот роботов влечет возникновение определенных рисков. Отдельный вывод можно сделать о том, что граждане связывают локализацию и устранение наличествующих угроз с достаточностью и всесторонностью нормативного регулирования. Следует заметить, что большая часть опрошенных (56,5%) считает, что такая мера необходима, и демонстрирует небезразличие к тому, какие именно предписания будут содержать подобные правила. Причем 39,5% респондентов также поддерживают необходимость издания юридически обязательных правил создания, эксплуатации, ремонта или иного использования роботов, но ставит это в зависимость от их содержания. Такое положение видится закономерным и косвенно свидетельствует о заинтересованности граждан в развитии отечественной робототехники, поскольку, указывая на то, что целесообразность правил коррелирует с их содержанием, респонденты тем самым демонстрируют наличие интереса к обеспечению устойчивого и безопасного развития российской робототехники. Лишь незначительное число опрошенных (4%) полагают издание указанных правил нецелесообразным.
Вопрос 12. Как Вы полагаете, если нарушение юридически обязательных правил создания, эксплуатации, ремонта или иного использования роботов повлекло общественно опасные последствия, должно ли это влечь уголовную ответственность?
1) да;
2) да, но зависит от характера последствий;
3) нет, следует ограничиться административной ответственностью;
4) нет, установление уголовной ответственности избыточно.
В вопросе о том, должно ли образовывать состав преступления нарушение правил оборота роботов, повлекшее причинение существенного вреда, респонденты в основном положительно оценивают целесообразность установления такой уголовной ответственности. Данное мнение в сумме разделяют 87,9%. В то же время большее количество из тех, кто положительно относится к установлению такой ответственности, связывают ее наступление с характером последствий (59,5%). Некоторое количество опрошенных (7,4%) полагают более целесообразным установление административной ответственности. Думается, что характер наступивших последствий может быть признаком, разграничивающим основания уголовной и административной ответственности, которые вполне могут существовать в единой системе правового регулирования робототехники.
В опрос 13. Может ли, по Вашему мнению, программное обеспечение робота быть подвергнуто несанкционированному доступу?
1) да, такие риски присутствуют;
2) да, но только с использованием вредоносных программ;
3) да, но только с использованием специально изготовленных технических средств;
4) нет.
Применительно к рискам неправомерного доступа к программному обеспечению робота заметим, что преобладающее число опрошенных сочли их реальными (97%). Некоторая градация присутствует относительно мнения по поводу способа такого доступа: 18,1% опрошенных считают, что он возможен с использованием вредоносной компьютерной информации, 11% придерживаются мнения, что способ такого доступа будет сопряжен с использованием специально изготовленных технических средств. Обобщая изложенное, следует отметить, что способ неправомерного доступа в затронутом контексте выступает частным обстоятельством, респонденты едины во мнении о потенциальной возможности такого доступа.
Вопрос 14. Как Вы считаете, образует ли состав преступления неправомерный доступ к информации, хранящейся в роботе?
1) да, состав образует;
2) да, в зависимости от обстоятельств образует состав преступления, ответственность за которое предусмотрена статьей 272 или статьей 273 УК РФ;
3) деяние не образует состав, но требует криминализации;
4) деяние не является общественно опасным и не образует состав преступления.
В вопросах квалификации неправомерного доступа респонденты демонстрируют наличие определенных специальных познаний. Так, большинство (83,6%) придерживается мнения, что само по себе это действие достаточное общественно опасно и образует состав преступления. Некоторое количество опрошенных не определились с квалификацией, однако указали, что деяние требует криминализации (13,3%), чем признали
его общественную опасность и необходимость применения уголовно-правовых мер воздействия. Изложенное позволяет прийти к выводу, что большинство осознает характер и значимость циркулирующей в роботе информации, признает необходимость ее уголовно-правовой охраны.
Вопрос 15. Как Вы считаете, для целей квалификации несанкционированного доступа к программному обеспечению робота структура составов преступлений, предусмотренных статьями 272 и 273 УК РФ, должна быть дополнена соответствующими признаками?
1) нет, существующие составы вполне пригодны;
2) да, должны;
3) да, должны быть дополнены признаком, характеризующим предмет;
4) да, должны быть дополнены признаком, характеризующим последствие;
5) да, должны быть дополнены признаком, характеризующим предмет и последствие.
Респонденты демонстрируют преобладающее мнение о том, что признаки, характеризующие составы преступлений, предусмотренные ст. 272, 273 УК РФ, не в полной мере пригодны для квалификации неправомерного доступа к цифровой информации, обращающейся в робототехнических устройствах (33,1%). Большинство опрошенных считают, что подлежат дополнению признаки, характеризующие предмет (20,7%), следующая по численности группа полагает необходимым внести изменения в признаки, описывающие последствия (8,6%), причем 25,2% опрошенных полагают целесообразным дополнить обе указанные группы признаков. Только 12,4% респондентов полагают, что существующие составы УК РФ вполне пригодны для квалификации несанкционированного доступа к программному обеспечению робота.
Вопрос 16. Если робот был снабжен оружием, взрывчатыми веществами, взрывными устройствами, должно ли это образовывать самостоятельный состав преступления или охватывается объективными признаками составов, предусматривающих ответственность за незаконный оборот оружия, взрывчатых веществ, взрывных устройств?
1) да, должно образовывать самостоятельный состав;
2) должно образовывать самостоятельный состав и квалифицироваться по совокупности;
3) нет, самостоятельный состав вышеуказанное деяние не образует.
Респонденты в целом едины во мнении, что наделение робота вооружением само по себе подлежит самостоятельной уголовно-правовой оценке. Такой позиции придерживаются 86,5% опрошенных, причем 44,1% из них полагают, что данное деяние должно образовывать не только самостоятельный состав, но и квалифицироваться по совокупности. Такое положение убедительно демонстрирует, что в обществе осознают повышенную общественную опасность вооруженных роботов и соглашаются с самостоятельной уголовно-правовой оценкой деяния.
Вопрос 17. Если Вам скажут, что определенный робот является автономным, как Вы это поймете?
1) этот робот не зависит от воли и действий человека;
2) этот робот может самостоятельно принимать решения;
3) у этого робота очень длинный и сложный цифровой код его программы;
4) этот робот может самостоятельно не только принимать решения, но и совершать какие-либо действия;
5) это робот, которым человек не управляет, однако подает ему команды и робот сам выполняет требуемые действия.
Вопросы автономности вызвали наиболее планомерное распределение ответов респондентов среди предложенных вариантов. Больше половины респондентов (50,2%) связывают автономность робота с возможностью самостоятельного осуществления действий и самостоятельного принятия решений. Чуть больше четверти (25,8%) опрошенных считают, что автономность следует раскрывать как независимость робота от воли и решений человека. Почти треть опрошенных (28,5%) полагает, что автономный робот может самостоятельно принимать решения. 12,9% респондентов демонстрируют вероятное наличие технических познаний и отмечают, что автономность связана с длиной и сложностью кода цифровой программы робота. Полагаем, что единое представление об автономном роботе к настоящему моменту сформироваться не могло вследствие объективных причин. Следует отметить, что указанный вопрос имел множественный выбор ответов.
Вопрос 18. Как Вы полагаете, может ли быть создан автономный робот, который будет самостоятельно обучаться и совершать действия на основе полученной из окружающей среды информации?
1) создание такого робота возможно только в отдаленном будущем;
2) создание такого робота возможно в ближайшем будущем;
3) создание такого робота теоретически возможно, однако я сомневаюсь, что когда-либо он будет реально произведен;
4) создание такого робота невозможно. Подавляющее количество респондентов полагают, что создание робота, обладающего способностью к самообучению, возможно только в перспективе. Причем 51% опрошенных полагают, что создание такого робота возможно в ближайшем будущем, а 31,1% респондентов предполагают создание автономного робота в отдаленном будущем. Такое мнение закономерно: обоснованно связывать создание высокоперспективных технологий с дальнейшим развитием науки, техники и технологий, которое неминуемо будет характеризовать будущее человечества. В то же время обращает на себя внимание крайне малое количество лиц, придерживающихся мнения о принципиальной невозможности создания такого робота (2,4%). Следует особо отметить, что большинство респондентов не ставит под сомнение перспективы создания таких прорывных технологий, что однозначно свидетельствует об актуальности научных изысканий в данной области.
Вопрос 19. Если автономный робот будет создан, возникнут ли существенные угрозы (утрата над ним контроля, причинение им вреда и т.д.)?
1) однозначно возникнут;
2) вероятно, возникнут;
3) могут возникнуть;
4) даже если такой робот будет создан, угроз не возникнет.
Значительная часть опрошенных связывает создание автономного робота с возникновением новых угроз. В то же время мнения о вероятности их появления разделились: 35,7% в утвердительной форме, категорично выразили мнение об однозначном возникновении таких рисков, 31,6% полагают возникновение таких рисков как вероятное, 27,8% предполагают возникновение таких рисков. Обращает на себя внимание то обстоятельство, что в относительном соотношении число лиц, полагающих невозможность возникновения означенных рисков, крайне мало и составляет всего 4,7%.
Изложенное позволяет прийти к однозначному выводу о том, что респонденты предвидят образование рисков и угроз, вызванных появлением автономных роботов, что приводит к убеждению о том, что выработка уголовно-правовых норм охранительного характера для данной области является актуальной и востребованной.
Вопрос 20. Если в процессе функционирования автономного робота был причинен вред охраняемым уголовным законом интересам, то:
1) ответственность за это всегда должен нести человек (пользователь и/или разработчик) вне зависимости от вины;
2) человек в данном случае может быть невиновен;
3) человек в любом случае виновен поскольку не обеспечил должный уровень безопасности при создании и применении автономного робота.
Данный вопрос посвящен наиболее дискуссионному аспекту деликтных правоотношений с участием роботов. Возможность самостоятельного формулирования автономным роботом поведенческих алгоритмов путем дополнения собственного программного кода порождает неопределенность относительно причинно-следственных корреляций между виновным поведением надлежащего субъекта и фактом причинения вреда в процессе функционирования робота, который действовал во исполнение самостоятельно сформулированного поведенческого алгоритма. 54,5% опрошенных полагают, что годный субъект виновен в неисполнении обязанности по поддержанию робота в исправном и надлежаще функционирующем состоянии. Данного мнения придерживается большинство опрошенных, что косвенно указывает на необходимость выработки нормативно-технических правил поведения, устанавливающих формы и виды обязанного поведения субъекта - собственника робота. 27,5% полагают, что человек в данном случае может быть невиновен.
Вопрос 21. Предположите, что в процессе функционирования автономного робота был причинен вред охраняемым законом интересам, однако отсутствует
виновный субъект (не виновен и не причастен как разработчик, так и пользователь), какую правовую оценку должен получить данный факт?
1) данный факт не подлежит правовой оценке;
2) существующие правовые механизмы, институты, положения не позволяют произвести юридическую оценку;
3) необходимо привлекать пользователя или разработчика, несмотря на то, что он не виновен.
Указанный вопрос является логическим продолжением предыдущего. Отличие состоит в том, что вопрос отталкивается от гипотетически возможной ситуации, когда вред причинен, а лицо, виновное в таком причинении, отсутствует. Примечательно, что подавляющее большинство опрошенных (73,6%) сочли существующие правовые механизмы недостаточными для юридической оценки содеянного. Думается, подобное положение продиктовано тем, что существующие правовые позиции относительно ответственности за вред неизбежно связывают ее наступление с надлежащим субъектом. 9,1% респондентов нашли, что указанные обстоятельства не подлежат правовой оценке. 17,3% полагают необходимым привлекать разработчика или пользователя вне зависимости от наличия или отсутствия у них виновного отношения, что выступает проявлением объективного вменения.
Вопрос 22. Как Вы полагаете, мнение о том, что в случае причинения вреда автономным роботом при обстоятельствах, когда отсутствует вина человека (пользователя или разработчика), он должен быть привлечен к уголовной ответственности, является:
1) согласующимся с принципом вины;
2) не соответствует принципу вины, однако является единственно возможным;
3) не соответствует принципу вины и является незаконным.
Вопросы объективного вменения применительно к контексту рассуждений обоснованно не получили одобрения среди подавляющего большинства лиц, прошедших опрос. Привлечение к ответственности за вред, наступивший в результате деятельности робота, невиновных субъектов рассматривают как незаконную и необоснованную правовую оценку 60,7% опрошенных. В то же время такой подход находят хотя и не согласующимся с принципом вины, однако единственно возможным 19,6%. Практически равное количество (19,7%) придерживаются мнения о законности такой правовой оценки и ее корреляции с принципом вины.
Вопрос 23. Как Вы полагаете, следует ли предусмотреть в уголовном законе механизмы, позволяющие применять какие-либо меры (уничтожение, переделку, переплавку, перепрограммирование и т.д.) к автономным роботам?
1) да, вполне возможно;
2) в целом возможно, однако это противоречит доктрине уголовного права;
3) невозможно, данные меры следует применять, однако они являются по своей правовой природе административными;
4) данные меры применять нецелесообразно.
Подавляющее большинство респондентов едины во мнении о том, что причинение вреда в процессе функционирования автономного робота должно влечь применение к нему определенных мер, устраняющих его общественную опасность и предотвращающих возможность причинения им вреда в будущем (93,9%). Из указанного числа опрошенных 17,5% находят, что такие меры имеют административно-правовую природу, 13% полагают, что применение подобных мер возможно, однако оно не в полной мере согласуется с теоретическими положениями уголовно-правовой науки. Большинство опрошенных (63,4%) разделяют мнение о том, что применение подобных мер возможно без каких-либо ограничений и органически встраивается в существующее правовое регулирование.
Вопрос 24. В случае если автономный робот был снабжен оружием, это:
1) влечет существенные угрозы всему человечеству;
2) создает определенные риски, однако мир и безопасность человечества угрозе не подвергаются;
3) сам этот факт угроз и рисков не влечет.
Наличие у робота одновременно вооружения и признаков автономности закономерно влечет формирование у респондентов подавляющего мнения о том, что такое робототехническое устройство создает существенные угрозы миру и безопасности человечества (68,3%). Такое распределение мнений отражает в целом правильное понимание опрошенными сущности автономного робота, его повышенной опасности и невозможности полного контроля за ним со стороны человека. 21,6% опрошенных полагают, что, если автономный робот был снабжен оружием, это создает определенные риски, однако мир и безопасность человечества угрозе не подвергаются. И только десятая часть респондентов считает, что этот факт угроз и рисков не влечет.
Вопрос 25. Как Вы считаете, процессы разработки роботов и внедрения их в общественные отношения требуют внесения изменений и дополнений в уголовный закон?
1) да, требуют уже сейчас;
2) да, потребуют в будущем;
3) нет, не требуют.
Подавляющее большинство (93,5%) респондентов увязывают повышение интенсивности оборота роботов, его становление и формирование в качестве отдельной области общественных отношений с возникновением необходимости в адаптации существующего правового регулирования к тем рискам и угрозам, которые такой оборот несет. Большинство из опрошенных, разделяющих вышеуказанную позицию, полагают, что такая необходимость образовалась в настоящий момент (65,4%), меньшая часть считает, что ее окончательное установление - вопросы будущего (28,1%), в целом находясь при едином мнении о том, что такая необходимость является объективной. Лишь незначительная часть опрошенных (6,5%) считает, что процессы разработки роботов и внедрения их в общественные отношения не требуют внесения изменений и дополнений в уголовный закон.
ОСНОВНЫЕ РЕЗУЛЬТАТЫ И ВЫВОДЫ
Исходя из анализа результатов социологического опроса, автор исследования пришел к выводу, что в обществе рассматривают оборот роботов в качестве высокоперспективного и формирующегося в самостоятельную отрасль общественных отношений феномена, влекущего образование определенных вызовов и рисков. Указанная позиция разделяется большинством респондентов.
В то же время результаты опроса однозначно свидетельствуют, что граждане с должной осмотрительностью относятся к указанной формирующейся сфере и находят в ней определенные угрозы. В контексте изложенного результаты исследования свидетельствуют о том, что в обществе актуальность приобретает не только выработка позитивно-правового регулирования робототехники, но и издание охранительных, в том числе юридическо-запретительных и обязывающих нормативных правовых актов.
Положения действующего уголовного законодательства респонденты находят не в полной мере адаптированными к тем вызовам, которые влечет расширение оборота роботов. Опрошенные осознают возможность вовлечения робота в орбиту преступной деятельности, что выступает дополнительным актуализирующим ос-
ЛИТЕРАТУРА
1. Арямов А.А., Грачева Ю.В. Цифровизация: уголовно-правовые риски в сфере экономики // Актуальные проблемы российского права. 2019. № 6. С. 108-116.
2. Бегишев И.Р. Автономные военные роботы - угроза для мира и безопасности человечества? // Военно-юридический журнал. 2021. № 4. С. 3-7.
3. Бегишев И.Р. Об обороте роботов, их составных частей (модулей) (инициативный проект федерального закона). Казань: Изд-во «Познание» Казанского инновационного университета, 2021. 28 с.
4. Бегишев И.Р. Правовая терминология в сфере технологий искусственного интеллекта и робототехники // Безопасность бизнеса. 2021. № 2. С. 10-14.
5. Бегишев И.Р. Робот и искусственный интеллект: вопросы разграничения понятий // Юридическое образование и наука. 2021. № 1. С. 31-36.
6. Бегишев И.Р. Криминологическая классификация роботов: риск-ориентированный подход // Правоприменение. 2021. Т. 5. № 1. С. 185-201.
7. Бегишев И.Р. Цифровая терминология: подходы к определению понятия «робот» и «робототехника» // Информационное общество. 2021. № 2. С. 53-66.
8. Бегишев И.Р. Проект федерального закона «Об обороте роботов, их составных частей (модулей) // Актуальные проблемы экономики и права. 2021. Т. 15. № 2. С. 379-391.
9. Бегишев И.Р. Уголовно-правовые и криминологические аспекты применения робототехники // Алтайский юридический вестник. 2020. № 4 (32). С. 72-79.
10. Бегишев И.Р. Социальная обусловленность уголовно-правового регулирования общественных отношений, связанных с робототехникой и киберфизическими системами // Сибирское юридическое обозрение. 2021. Т. 18. № 1. С. 17-29.
11. Бегишев И.Р. Создание, распространение, приобретение или применение вооруженных роботов // Российский следователь. 2021. № 5. С. 47-51.
12. Бегишев И.Р. Ответственность за вред, причиненный беспилотными транспортными средствами: комплексно-
нованием, однозначно детерминирующим выработку новых средств и методов уголовно-правового обеспечения охраны общественных отношений с участием роботов.
Имеется в обществе и определенное, достаточно достоверное понимание автономности роботов, связываемое с возможностью самостоятельного осуществления действий и решения задач. Респонденты предполагают возникновение особых рисков и угроз (в том числе миру и безопасности человечества), вызванных созданием автономных роботов, допуская при этом, что в случае причинения таким роботом вреда виновное физическое лицо может отсутствовать. Опрошенные не склонны полагать, что императивное привлечение к ответственности человека - единственно возможная уголовно-правовая реакция на факты причинения вреда автономным роботом. Логическим развитием изложенного выступает мнение о том, что существующих правовых механизмов недостаточно для правовой оценки вреда, причиненного автономным роботом.
Результаты проведенного опроса практически полностью подтверждают достоверность и правильность предыдущих научных изысканий автора [Бегишев, 2020-2021], однозначно доказывают их актуальность и востребованность в обществе.
REFERENCES
1. Aryamov AA., Gracheva Yu.V. Digitalization: Criminal and legal risks in the sphere of economy. Aktualnye Problemy Rossijskogo Prava. 2019. No. 6. Pp. 108-116. (In Russ.)
2. Begishev I.R. Autonomous military robots - a threat to the peace and security of mankind? Voenno-yuridicheskij Zhurnal. 2021. No. 4. Pp. 3-7. (In Russ.)
3. Begishev I.R. On the turnover of robots, their components (modules) (initiative draft of the federal law). Kazan, 2021. 28 p.
4. Begishev I.R. Legal terminology in the field of artificial intelligence and robotics technologies. Bezopasnost Biznesa. 2021. No. 2. Pp. 10-14. (In Russ.)
5. Begishev I.R. Robot and artificial intelligence: Issues of differentiation of concepts. Yuridicheskoe Obrazovanie iNauka. 2021. No. 1. Pp. 31-36. (In Russ.)
6. Begishev I.R. Criminological classification of robots: A risk-oriented approach. Pravoprimenenie. 2021. Vol. 5. No. 1. Pp. 185-201. (In Russ.)
7. Begishev I.R. Digital terminology: Approaches to the definition of the concept of "robot" and "robotics". Informacionnoe Obshchestvo. 2021. No. 2. Pp. 53-66. (In Russ.)
8. Begishev I.R. Draft federal law "On the turnover of robots, their component parts (modules)". Aktualnye Problemy Ekonomiki i Prava. 2021. Vol. 15. No. 2. Pp. 379-391. (In Russ.)
9. Begishev I.R. Criminal-legal and criminological aspects of the use of robotics. Altajskij Yuridicheskij Vestnik. 2020. No. 4 (32). Pp. 72-79. (In Russ.)
10. Begishev I.R. Social conditionality of criminal law regulation of public relations related to robotics and cyberphysical systems. Sibirskoe Yuridicheskoe Obozrenie. 2021. Vol. 18. No. 1. Pp. 17-29. (In Russ.)
11. Begishev I.R. Creation, distribution, acquisition or use of armed robots. Rossijskij Sledovatel. 2021. No. 5. Pp. 47-51. (In Russ.)
12. BegishevI.R. Liability for damage caused by unmanned vehicles: Complex legal aspects. Transportnoe Pravo i Bezopasnost. 2021. No. 2. Pp. 68-74. (In Russ.)
юридические аспекты // Транспортное право и безопасность. 2021. № 2. С. 68-74.
13. Бегишев И.Р. Криминологические риски применения летального автономного оружия // Военно-юридический журнал. 2021. № 6. С. 13-17.
14. Бегишев И.Р. Этика вооруженного конфликта с участием «автономного разума»: проблемно-правовое поле // Право в Вооруженных Силах - Военно-правовое обозрение. 2021. № 6. С. 18-23.
15. Бегишев И.Р. Уголовная ответственность за создание и (или) распространение роботов, предназначенных для целей совершения преступлений // Северо-Кавказский юридический вестник. 2021. № 2. С. 140-148.
16. Бегишев И.Р. Наказание автономных роботов: уголовно-правовые перспективы // Проблемы экономики и юридической практики. 2021. № 3. С. 303-313.
17. Бегишев И.Р. Цифровые преступления, совершаемые в отношении роботов // Социально-политические науки. 2021. № 3. С. 67-74.
18. Бегишев И.Р. Пределы уголовно-правового регулирования робототехники // Вестник Санкт-Петербургского университета. Право. 2021. № 3. С. 96-105.
19. Бегишев И.Р., Хисамова З.И. Искусственный интеллект и уголовный закон. М.: Проспект, 2021. 192 с.
20. Грачева Ю.В., Арямов АА. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15. № 6. С. 169-178.
13. Begishev I.R. Criminological risks of using lethal autonomous weapons. Voenno-yuridicheskij Zhurnal. 2021. No. 6. Pp. 13-17. (In Russ.)
14. Begishev I.R. Ethics of an armed conflict with the participation of an «autonomous mind»: A problem-legal field. Pravo v Vooruzhennyh Silah - Voenno-pravovoe Obozrenie. 2021. No. 6. Pp. 18-23. (In Russ.)
15. Begishev I.R. Criminal liability for the creation and (or) distribution of robots intended for the purpose of committing crimes. Severo-Kavkazskij Yuridicheskij Vestnik. 2021. No. 2. Pp. 140-148. (In Russ.)
16. Begishev I.R. Punishment of autonomous robots: Criminal-legal perspectives. Problemy Ekonomiki i Yuridicheskoj Praktiki. 2021. No. 3. Pp. 303-313. (In Russ.)
17. Begishev I.R. Digital crimes committed against robots. Socialno-politicheskie nauki. 2021. No. 3. Pp. 67-74. (In Russ.)
18. Begishev I.R. Limits of criminal law regulation of robotics. Vestnik Sankt-Peterburgskogo Universiteta. Pravo. 2021. No. 3. Pp. 96-105. (In Russ.)
19. Begishev I.R., Hisamova Z I. Artificial intelligence and criminal law. Moscow, 2021. 192 p.
20. Gracheva Yu.V., Aryamov A A. Robotization and artificial intelligence: Criminal law risks in the field of public security. Aktualnye ProblemyRossijskogo Prava. 2020. Vol. 15. No. 6 (115). Pp. 169-178. (In Russ.)
Статья проверена программой Антиплагиат. Оригинальность - 94,92%
Рецензент: Бикеев И.И., доктор юридических наук, профессор, заслуженный юрист Республики Татарстан; первый проректор, проректор по научной работе, профессор кафедры уголовного права и процесса Казанского инновационного университета им. В.Г. Тимирясова
Статья поступила в редакцию 03.06.2021, принята к публикации 15.06.2021 The article was received on 03.06.2021, accepted for publication 15.06.2021
СВЕДЕНИЯ ОБ АВТОРЕ
Бегишев Ильдар Рустамович, кандидат юридических наук, заслуженный юрист Республики Татарстан; старший научный сотрудник Казанского инновационного университета им. В.Г. Тимирясова. Казань, Российская Федерация. ORCID: https://orcid.org/0000-0001-5619-4025; Web of Science Researcher ID: T-2409-2019; Scopus Author ID: 57205305394; Author ID: 595003; E-mail: begishev@mail.ru
ABOUT THE AUTHOR
Ildar R. Begishev, Cand. Sci. (Law), Honored Lawyer of the Republic of Tatarstan; senior researcher of the Kazan Innovative University named after V.G. Timiryasov. Kazan, Russian Federation. ORCID: https://orcid.org/0000-0001-5619-4025; Web of Science Researcher ID: T-2409-2019; Scopus Author ID: 57205305394; Author ID: 595003; E-mail: begishev@mail.ru
