--
ЮРИДИЧЕСКИЕ НАУКИ
УДК 340.1
новый субъект права?
NEW SUBJECT OF LAW?
Черкасов Валерий Николаевич
кандидат технических наук, доктор экономических наук, профессор, Заслуженный деятель науки РФ, заместитель главного редактора научно-практического журнала «Информационная безопасность регионов», Саратовский социально-экономический институт (филиал) Российского экономического университета им. Г. В. Плеханова.
Valery N. Cherkasov
PhD (Technical), DSc (Economics), Professor, Honored Worker of Science of the Russian Federation, Deputy Editor-in-Chief of the Scientific and Practical Journal "Information Security of Regions", Saratov Socio-Economic Institute (branch) of Plekhanov Russian University of Economics.
И cherkvalerij@yandex.ru
Аннотация. В статье рассматриваются правовые проблемы, возникающие с появлением принципиально нового объекта права — робота. Прогнозируется возможность превращения этого объекта в субъект права. Анализируются изменения и дополнения к Гражданскому кодексу Российской Федерации.
Ключевые слова: информация, робот, робототехника, объект и субъект права, юридическое лицо.
Abstract. The article deals with legal problems arising with the appearance of a fundamentally new object of la w - the robot. The possibility of turning this object into a subject of law is predicted. Changes and additions to the Civil Code of the Russian Federation are analyzed.
Key words: information, robot, robotics, object and subject of law, legal entity.
Три закона робототехники
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.
Айзек Азимов
Казалось бы, какое отношение имеет юриспруденция к техническому прогрессу? Вообще-то никакого. Европейских юристов две тысячи лет вполне устраивало Римское право, и они готовы продолжать руководствоваться им ещё столько же.
А вот технический прогресс невольно, но весьма сильно влияет на право. Учёные-естественники время от времени «подсовывают» правоведам такие казусы, что просто невозможно не обращать на них внимание.
Не так давно (в историческом масштабе) появился новый объект преступных посягательств - так называемая компьютерная информация. Все юристы (от законодателей до правоприменителей) изначально пытались делать вид, что ничего не происходит. Но суровая действительность взяла своё, пришлось вводить в правовой оборот такие понятия, как «информация», «ЭВМ и компьютер», «информационные технологии», «вирусы», «информационные системы», «информационно-телекоммуникационные сети» и пр.
Научно-практический журнал. ISSN2587-8042
к
■ SIS*®*
< X
ш
о ш
о. £
Появился и новый правовой субъект: обладатель - владелец - собственник информации. В конечном счёте в праве сформировалось понятие о принципиально новом виде преступности - компьютерной [1].
Теперь каждый российский юрист уже обязан знать, что в УК РФ существует гл. 28, статьи которой устанавливают уголовную ответственность за совершение преступлений в сфере компьютерной информации.
Утешает правоведов только то, что появился всего лишь новый объект. Конечно, непривычный, сложный, неоднозначный, с массой особенностей, причём таких, из-за которых не все привычные для юристов понятия могут быть полностью использованы [2].
Например, относительно компьютерной информации традиционный юридический термин «кража» приобретает новую, странную трактовку: украденная из компьютера информация одновременно остаётся в пользовании её владельца (объект кражи размножился?). Отсутствуют у компьютерной информации такие понятия, как подлинник документа и его копия. Очень сложно определение цены/стоимости этой информации. Ведь, как известно, материальные объекты имеют цену производства и потребительскую стоимость, они объективно связаны между собой (кроме предметов искусства, объектов коллекционирования и т. п.). А информация по своей сути обладает только потребительской стоимостью, определяемой субъектом, владельцем этой информации [3].
Правовая наука и практика постепенно адаптировались к этим новеллам, стало совершенствоваться законодательство в этой сфере [4], появились новые научные направления (информационное право) и учебные специальности (информационная безопасность), в органах внутренних дел и безопасности созданы и работают подразделения по раскрытию и расследованию компьютерных преступлений.
А между тем, пока юристы разбирались с особенностями информации, компьютер продолжал совершенствоваться.
Он уже гораздо лучше нас играет в шахматы. В 1997-м году Deep Blue победил Г. Каспарова в матче-реванше (2 победы, 3 ничьих, 1 поражение) и стал первым компьютером, одолевшим сильнейшего шахматиста мира.
Начиная с 2000-х годов даже сильнейшие игроки-люди не имеют
шансов в противостоянии с шахматными программами.
С тех пор компьютеры становились только сильнее. Рейтинг Эло (метод расчёта относительной силы игроков в играх для двоих) самой сильной шахматной программы Stockfish составляет 3341 пункт. Показатели людей существенно ниже: у Г. Каспарова был 2851 пункт, у нынешнего лидера - 2850,6.
Становится трудно не признать за такой машиной право на наличие интеллекта!
Мы и не заметили, что компьютер теперь водит машины, поезда и самолёты и делает это лучше людей (в метро некоторых стран водитель присутствует только для спокойствия пассажиров, в управление он не вмешивается).
То есть компьютер со всей своей информацией не только объект управления. Он субъект, так как управляет уже сам!
А если он поехал не туда? Кто будет отвечать? И кто такой робот?
Навигатор, который управляет машиной через нас, - это робот? Нет, он только подсказывает нам, куда ехать. Суть роботизации - элемент, который соединит навигатор с машиной, именно тогда машина превратится в робота. Вот теперь и возникает вопрос: если машина сбила человека, что-то сделала, кто здесь виноват? Будет сложно определить: виноват ли производитель этих машин или производитель навигатора, а может быть, соседней машине с роботами тоже неправильно дали данные, и она столкнулась с другим транспортом. Об этом обязательно нужно думать заранее.
Что же такое робот с точки зрения юридической, гражданского права? Постараемся ответить на этот вопрос.
Сейчас можно выделить два основных взгляда на робота как на субъект.
Одни считают, что искусственный интеллект как таковой не может в отсутствии эмоций делать роботов субъектами права, но роботы схожи с животными, поскольку способны совершать автономные действия.
Другие обращают внимание на то, что в отличие от животных, искусственный интеллект и его оболочки умеют излагать и доносить информацию.
Роботам необходимо предоставить усечённые права людей, а не регулировать их по аналогии с животными, как считают, например, в компании по производству сервисных роботов Promobot.
Первый проректор Московского технологического института Е. Плужник напомнил, что сейчас в России разрабатываются меры по регулированию беспилотных средств транспорта.
По его мнению, «необходимо юридически формализовать когнитивные функции роботов и предоставить им усечённые права людей в Гражданском кодексе, а не приравнивать роботов к животным, когнитивные функции которых крайне ограничены. Например, уже
Базис. 2017. № 1(1). www.engels.ruc.su/science/basis/
сейчас можно робота научить, что хорошо и что плохо, а домашнее животное не может делать таких выводов», - отметил Плужник, добавив, что через некоторое время искусственный интеллект позволит роботам принимать вполне осознанные решения1.
В принципе, попытки регулировать всё, что касается роботов, уже предпринимаются. Причём существенную роль в этом процессе играют экономические мотивы: отсутствие понятного законодательства является одним из главных барьеров для развития инвестиционной привлекательности этой области.
К сожалению, по данным Национальной ассоциации участников рынка робототехники, плотность промышленной роботизации в России пока в 70 раз ниже, чем в среднем по миру. В прошлом году в нашей стране на 10 тысяч работников приходился всего один робот. Тем не менее глобальный взрыв робототехники -ожидаемое событие ближайших десятилетий. А в век роботов лучше вступать с уже подготовленной правовой базой, чтобы не повторилась история с расцветом Интернета: миллиарды людей подключены к сети, а отсутствие международных норм уже становится причиной мировой кибервойны.
Один из основателей компании Mail. ruGroup и основатель инвестиционного фонда GrishinRobotics Д. Гришин вместе с управляющим партнёром офиса Dentons (в Санкт-Петербурге) и руководителем российской практики в области интеллектуальной собственности, IT и телекоммуникаций В. Наумовым разработали концепцию будущего закона о робототехнике в России - проект Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники»2.
Следует отметить, что в данном законопроекте весьма удачно сформулировано основное понятие «робот» - устройство, способное действовать, определять свои действия и оценивать их последствия без полного контроля со стороны человека по результатам обработки информации, поступающей из внешней среды3.
По мнению автора, в данном проекте выбран, пожалуй, оптимальный вариант правового субъекта, которым может стать робот.
Пока речь не идёт о так называемом истинном искусственном интеллекте, выработать юридическую сущность для роботов можно
1 URL: http://mti.edu.ru/press/432871 (дата обращения: 30.03.2017).
2 URL: http: //nepa.ru>.. .novosti/v.. .proekt-federalnogo-zakonam (дата обращения : 30.03.2017).
3 О роботах-преступниках автор писал давно, но в жанре
компьютерно-юмористической фантастики. См.: Черкасов В. Н. Виртуальное убийство. Саратов, 2000. 256 с. ISBN 5-89038-041-4; Черкасов В. Н. Ошибка киллера // Искатель. № 11. 2001; Черкасов В. Н. Смерть в Интернете // Человек и Закон. № 6. 2001.
по образу и подобию существующих правовых конструкций.
Действительно, полагать его полноценным физическим субъектом пока рановато, поэтому ему следует предоставить усечённые права человека, так как он обладает рядом качеств, близких к юридическому лицу.
Это весьма условное понятие. Оно (это лицо) как таковое не существует, нет некоего реального физического юридического лица. Это придуманная идея, для того чтобы каким-то образом систематизировать и описать то, как люди взаимодействуют между собой.
Соответственно у юридического лица есть собственники, у него есть устав. То есть эта конструкция придумана для того, чтобы решить некоторую проблему. Юридические лица - это как бы фикция, но они являются активными участниками правовых отношений.
При таком подходе появляется возможность создания реестра роботов по аналогии с нынешним единым государственным реестром юридических лиц (ЕГРЮЛ). Кроме того, к создателям роботов можно будет применять нормы об ответственности владельца источника повышенной опасности.
В частности, можно предположить различные сценарии, когда действия робота попадают под уголовное право: конструирование робота-убийцы специально для совершения правонарушения; отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку; конструирование робота, способного причинить вред человеку и конструирование робота без осознания того, что он может быть использован для причинения вреда человеку. Здесь, конечно, речь больше идёт о роботах для военных нужд, однако в связи с тем, что роботы внедряются в повседневную жизнь, это может быть применено и к ним4.
Очень чётко определил позицию один из наиболее компетентных в данном вопросе юристов, соавтор закона о роботах, управляющий партнёр находящегося в Санкт-Петербурге офиса Dentons (одной из крупнейших юридических фирм в мире) Виктор Наумов: «Право на протяжении тысячелетий отставало от прогресса. Если ещё в XIX веке это было допустимо, то сейчас это означает, что возникает очень тяжёлый и опасный разрыв. Прямых ответов для таких сложных устройств, когда они уже являются автономными, в законодательстве нет. Это, конечно, не ближайшие перспективы, это не требования поправок мгновенных в законо-
4 В данной статье мы не рассматриваем вопрос о правовом статусе специализированных боевых роботах, обладающих машинным интеллектом. Таких, например, как «Нерех-та-2», которая способна действовать самостоятельно, распознавать цели и выявлять, какие из них представляют наибольшую угрозу «опекаемому» бойцу, принимать решение о способах их нейтрализации и уничтожения, в случае необходимости «принимать огонь на себя» (URL: http://go.mail.ru/redir?q=«Нерехта-2»).
Научно-практический журнал. ISSN2587-8042
■ SIS*®*
дательство, но осознавать то, что скоро у нас будет не только человек, но и кто-то ещё, необходимо».
Теперь уже становится ясно, что сформулированные ещё в 1942 году известным писателем-фантастом А. Азимовым «три закона робототехники», могут иметь практический характер в современной юриспруденции. Озвученные уже тогда постулаты во многом подходят для современной реальной ситуации с роботами. При нынешних темпах развития робототехники в мире, необходимость расширения административного и уголовного права в этой сфере очевидна.
Возникает только вопрос: а не торопимся ли мы с этими законами? Ведь робот пока явный «недочеловек». Тут автор вынужден вернуться к пробле-
ме борьбы с компьютерной преступностью и к своему опыту. Сорок лет назад (в 1976 году) учёный совет Академии МВД СССР отклонил первую попытку автора утвердить тему кандидатской диссертации о борьбе с преступлениями, использующими ЭВМ, с формулировкой: «Научной фантастикой адъюнктура Академии не занимается». Прошло не так уж много времени, и любой первоклассник знает, что такое киберпреступность.
И ещё два слова по поводу законов робототехники. Вернёмся в самое начало, к эпиграфу статьи. Эти законы хороши только для роботов? А для людей они не годятся? Попробуем заменить в п. 2: «робота» на «полицейского», «человека», «начальника». Неплохо было бы?
Материалы поступили в редакцию 03.04.2017 г.
Библиографический список (References)
<
X
ш
s
^
о
ш
Û. 2
1. Быков, В. М. Преступления в сфере компьютерной информации: криминологические, уголовно-правовые и криминалистические проблемы / В. М. Быков, В. Н. Черкасов. М. : Юрлитинформ, 2015. 328 с. ISBN 9785-4396-1005-1.
2. Черкасов, В. Н. Информация как объект права/ В. Н. Черкасов // Теоретические и прикладные проблемы следствия и дознания : сб. трудов науч.-практ. конф. Саратов : СЮИ МВД РФ, 2009. 296 с. ISBN 978-5-7485-0536-9.
3. Черкасов, В. Н. Методологические и правовые проблемы информатизации : сб. статей / В. Н. Черкасов. Saarbrucken : LapLambertAcademicPublishing, 2013. 212 с. ISBN 978-3-659-33638-6013.
4. О внесении изменений в отдельные законодательные акты Российской Федерации по вопросам защиты интеллектуальных прав в информационно-телекоммуникационных сетях [Электронный ресурс] : федер. закон № 187-ФЗ : [принят 2 июля 2013 г.]. URL: http://www.consultant. ru/document/cons_doc_LAW_148497/ (дата обращения: 10.05.2016).
1. Bykov, V. M., Cherkasov, V. N. (2015). Prestuplenija v sfere kompjuternoj informacii: kriminologicheskie, ugolovno-pravovye i kriminalisticheskie problemy [Crime in the field of computer information: criminological, criminally-legal and forensic problems]. Moscow. Jurlitinform. 328 p. ISBN 978-5-4396-1005-1.
2. Cherkasov, V. N. (2009). Informacija kak ob#ektprava [Information as an object of law]. Teoreticheskie i prikladnye problemy sledstvija i doznanija : sb. trudov nauchno-prakt. konf. Saratov. SUIMVD RF. 296 p. ISBN 978-5-7485-0536-9.
3. Cherkasov, V. N. (2013). Metodologicheskie i pravovye problemy informatizacii. [Methodological and legal problems of informatization]. Saarbrucken : LapLambertAcademicPublishing. 212 p. ISBN 9783-659-33638-6013.
4. (2013). O vnesenii izmenenij v otdel'nye zakonodatel'nye akty Rossijskoj Federacii po voprosam zashhity intellektual'nyh prav v informacionno-telekommunikacionnyh setjah. Feder. zakon № 187-FZ [On the introduction of amendments to certain legislative acts of the Russian Federation on the protection of intellectual rights in information and telecommunications networks].. Available at: http://www.consultant.ru/document/ cons_doc_LAW_148497/ (accessed 10 May, 2016).
Базис. 2017. № 1(1). www.engels.ruc.su/science/basis/