CC BY
263
ПРОБЛЕМЫ КОНСТИТУЦИОННОГО, МЕЖДУНАРОДНОГО И АДМИНИСТРАТИВНОГО ПРАВА
УДК 34:004.896
ПРАВОВОЕ РЕГУЛИРОВАНИЕ РОБОТОТЕХНИКИ И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В РОССИИ: НЕКОТОРЫЕ ПОДХОДЫ К РЕШЕНИЮ ПРОБЛЕМЫ
Баранов доктор юридических наук, профессор,
Павел заведующий кафедрой конституционного
Петрович и муниципального права, Южно-Российский
институт управления - филиал Российской академии народного хозяйства и государственной службы при Президенте РФ
(344002, Россия, г. Ростов-на-Дону, ул. Пушкинская, 70/54). E-mail: [email protected]
Аннотация
Работа посвящена актуальным проблемам правового регулирования робототехники и искусственного интеллекта в современной России. Рассматриваются базовые идеи в сфере формирования законодательства о робототехнике и искусственном интеллекте. Даются авторские рекомендации по решению основных проблем правового регулирования в данной сфере.
Ключевые слова: автономное производство, беспилотные летательные аппараты, блокчейн, гражданское право, дорожное движение, законотворчество, правосубъектность, робот, робототехника, страхование, информационная система, информационное право, искусственный интеллект, электронная торговля, уголовное право, юридическая ответственность.
В современную эпоху появляются все новые и новые пробелы в праве, требующие своего восполнения. Так, например, на правовом поле появился новый объект, а, возможно, в недалеком будущем и субъект - робототехника и искусственный интеллект.
Роботы и искусственный интеллект все шире и шире проникают в мир людей. США, Китай, Япония, ЕС, Южная Корея очень серьезно подходят к робототехнике и официально признают за ней будущее. При этом на фоне соперничества на этом поприще на первый план выходят вопросы правового регулирования робототехники, которые могут привести к осязаемым технологическим и экономическим результатам. Так, например, принятый в Южной Корее в 2008 г. закон «О развитии и распространении умных роботов» позволил повысить их производство в 2016 г. на 80 % и принести государству более 4 млрд. долларов дохода. Поэтому государственная поддержка может ускорить развитие в этой сфере, а на созданные при этом стандарты будут ориентированы и остальные страны.
Следует отметить, что наша страна, как это часто бывало ранее, запаздывает в плане создания общих с другими странами принципов организации регулирования этой сферы. А промедление здесь грозит нашей стране тем, что различные регламен-
ты и правила игры в этой сфере, которые уже разрабатываются на Западе, будут впоследствии навязываться нам.
Например, в феврале 2017 г. Европейский парламент проголосовал за резолюцию по регулированию развития робототехники и искусственного интеллекта в рамках Европейского Союза. Учитывая рекомендации, которые представил Комитет по правовым вопросам, к предлагаемым правилам относится выработка этических норм для развития искусственного интеллекта и введения системы страхования для покрытия ответственности за дорожно-транспортные происшествия с участием самоуправляемых автотранспортных средств.
Больших успехов в деле разработки закона о роботах достигла Эстония. В разрабатываемом законе речь идет не только о самоуправляемых беспилотных автомобилях, но и о создании нового правового субъекта, так называемой электронной личности и возможности определения степени ответственности искусственного интеллекта. Разработчики планируют подготовить данный нормативно-правовой акт в ближайшие два года.
В Российской Федерации в декабре 2016 г. глава совета директоров Mail.ru и основатель компании Grishin Robotics Дмитрий Гришин представил свою концепцию закона о робототехнике, в котором он предложил относиться к роботам как к животным и юридическим лицам. По мнению этого эксперта, умные машины не могут быть субъектами права, так как лишены эмоций. Тем не менее, машины могут производить автономные действия, как те же животные и поэтому они должны быть юридическими объектами. При этом, Гришин подчеркивает, что необходимо установить ответственность разработчиков робототехники, которая может причинить ущерб людям, а также нужно создать общий единый международный реестр роботов. Не так давно с важной инициативой создания киберкодекса, как свода законов выступила юридическая компания HEADS Consalting.
А что же думают обо всем этом наши законодатели? Они как всегда, мягко говоря, раскачиваются. Председатель Государственной Думы Федерального Собрания РФ Вячеслав Володин в феврале 2017 г. в ходе рабочей поездки в Татарстан заявляет, что депутатам необходимо подготовить законопроект о регулировании взаимоотношений робота и человека. При этом Председатель Госдумы считает, что Россия может стать пионером в правовом регулировании развития робототехники и искусственного интеллекта и разработать такой закон к 2022 году.
В юридической науке рассматриваемая тема пока не получила должного освещения, хотя, нельзя не заметить, что определенные шаги в этом направлении уже делаются. Так, предпринимаются попытки рассмотрения искусственного интеллекта в качестве субъекта права [1, с. 41 - 44; 2, с. 357 - 360] и анализируются общие вопросы правового регулирования в сфере робототехники и искусственного интеллекта.
Следует также отметить работы, авторы которых анализируют частные проблемы, возникающие, например, в процессе заключения электронных розничных договоров купли-продажи. Речь идет о правовых последствиях электронного договора, заключенного программой-роботом, наделенной искусственным интеллектом [3, с. 18 - 20]. Сфера использования искусственного интеллекта в настоящее время настолько широка, что искусственный интеллект предлагается активно использовать при дистанционном обучении, что даст возможность постоянно обновлять и расширять материал обучающей системы, что особенно важно для дисциплин, относящихся к динамично развивающимся наукам, в частности, таким как юриспруденция [4, с. 22 - 25].
Рассмотрение всего круга вопросов в сфере робототехники и искусственного интеллекта необходимо производить, прежде всего, с позиции защиты и обеспечения прав человека, а не «прав робота». Например, кто будет виноват в случаях ошибок автономной робототехники? Можно ли привлечь виновного к юридической ответственности в соответствии с действующим законодательством?
На наш взгляд, требуется значительная корректировка правового регулирования в данной сфере для создания условий внедрения робототехники в такие области как медицина, транспорт, дорожное движение, страхование и т.д. В первую очередь отечественная юридическая наука должна выработать совместно со всеми заинтересованными лицами общий круг важнейших принципов, которые будут положены в основу разработки будущего федерального закона о робототехнике и тех изменений, которые затронут отраслевое законодательство. Обоснование этих принципов может коснуться пересмотра некоторых положений общей теории права, касающихся, прежде всего, теории правоотношений, включая вопросы правоспособности и дееспособности субъектов и объектов правоотношений, юридических фактов и их классификации и т. д.
А начинать надо с определения понятия «робот», «робототехника» и «искусственный интеллект». Нельзя сказать, что данные понятия полностью отсутствуют в правовом поле России. Как правило, на уровне подзаконных правовых актов данные понятия периодически используются. Так, например, о важности, которая придается концепции искусственного интеллекта свидетельствует его упоминание в стратегии научно-технологического развития Российской Федерации (Указ Президента РФ от 01.12.2016 № 642) и стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы (Указ Президента РФ от 09.05.2017 № 203). Термин «робот» можно встретить, например, в Приказе Минтруда России от 29.10.2015 №799н «Об утверждении профессионального стандарта «Оператор демонтажных роботов для работ в высоких радиационных полях». Однако единое понимание проблемы, как и соответствующая систематизация категориального аппарата в данной сфере на данный момент в современном российском праве отсутствуют.
На наш взгляд, в широком смысле понятие «робот» можно было бы определить, как «программируемое автономное автоматическое устройство, способное выполнять различные манипуляции и взаимодействовать с окружающей средой без помощи человека и заменять его труд». При этом в законодательстве следует отметить, что роботы могут быть трех категорий: промышленные, исследовательские и образовательные. По своему происхождению роботы могут быть отечественного производства, иностранного производства и совместного производства. По своей сути робот представляет собой подвижный электромеханический объект, который действует по заложенной в него программе и является закрытой системой с собственными ресурсами. Однако, абсолютно полностью автономным робот не может быть даже с экономической точки зрения, так как он имеет своего владельца.
И все же по мнению большинства ученых и экспертов, робот как раз и отличается от других механизмов, облегчающих труд человека автономностью своего поведения, так как он сам собирает окружающую информацию, самостоятельно обрабатывает ее и делает определенные выводы. Пока в большинстве развитых зарубежных стран роботы рассматриваются как механизмы, которые выполняют человеческую волю. Но в ближайшем будущем роботы могут достичь абсолютной степени своей автономности и тогда появится возможность говорить о них как о специальных субъектах права, участниках гражданско-правового оборота, которые имеют правовые обязанности и несут ответственность за свое поведение.
На наш взгляд, в разрабатываемом законодательстве должны быть зафиксированы следующие признаки робота: обладание собственной автономностью, наличие программного обеспечения и механизма, способность производить в пространстве определенные физические действия, безопасность для людей и присутствие функции блокирования возможности причинения вреда людям.
Робототехнику, на наш взгляд, можно было бы определить, как «научно-техническую базу для проектирования, производства и использования роботов на практике».
Искусственный интеллект является научным направлением, разрабатывающим методы, которые позволяют электронно-вычислительным машинам самостоятельно решать интеллектуальные задачи, если они решаются людьми. На наш взгляд, искусственный интеллект можно определить, как «совокупность функциональных возможностей электронно-вычислительной машины решать человеческие задачи».
К основным базовым принципам, которые должны быть отражены в законодательстве о робототехнике и искусственном интеллекте, следует отнести:
1. Несомненный приоритет прав человека и их защиты в сфере использования роботов и искусственного интеллекта.
2. Ответственность разработчиков и собственников роботов за то, что они сделают. При этом, следует учитывать автономность роботов в принятии решений. Чем эта автономность выше, тем меньшую ответственность должен нести владелец робота.
3. Робот является только вещью, его нельзя гуманизировать или считать личностью. Он лишен самосознания и эмоций и этим отличается даже от животных. Поэтому очеловечивание роботов является не менее важной проблемой, чем, скажем, роботопреступность. Здесь происходит балансировка на грани этики и права. И если в этической сфере можно отстаивать какую-то нейтральную позицию, то право не может терпеть расплывчатых формулировок.
4. Введение специального страхования ответственности за причиненный роботом вред (по аналогии с ОСАГО), что позволит пострадавшему от деятельности робота гарантированно получить компенсацию.
5. Жесткий государственный контроль за производством и распространением автономных военных роботов, потому что создание роботов, которые способны самостоятельно принимать решение об убийстве противника, вполне вероятно.
Также следует обсудить вопрос о возможности внесения в гражданское право нового правового статуса для роботов «электронное лицо», что в принципе могло бы позволить включить их в существующую систему гражданско-правовой ответственности. При этом в гражданском праве должно быть закреплено положение о праве на установление причинно-следственных связей между действиями (бездействиями) робота и ущербом, который он нанес, чтобы иметь возможность взыскать компенсацию с производителя этого робота.
Уже в ближайшее время изменится рынок труда, так как появятся прототипы роботов водителей, врачей, юристов, полицейских, музыкантов и т.д. Именно теоретическая возможность замещениями роботами большинства юридических профессий особенно волнует современное юридическое сообщество [5, с. 8 - 11; 1, с. 11 - 12]. В этой связи обязательно встанут вопросы о наделении роботов определенными правами и обязанностями и о том, могут ли в принципе такие объекты обладать свободой выбора. Здесь же попутно может возникнуть очень важный вопрос о том, мо-
гут ли роботы сознавать последствия своих действий и делать в сложных ситуациях какой-то моральный выбор. Роботы могут быть такими же умными (если не умнее) как люди, но они вряд ли могут обладать такими важнейшими пороговыми этическими проявлениями как испытывать боль и сопереживание, иметь самосознание, смотреть на вещи и свои поступки с позиций морали.
Конечно же вся проблема, на наш взгляд, будет концентрироваться вокруг вопроса степени автономности робота и реальных возможностях измерить и оценить эту автономность.
Как полагают ученые, к 2020 г. 75 % информации будет создаваться электронно-вычислительными машинами. Постепенно эти устройства будут становиться экономическими субъектами. И поэтому вполне было бы логично наделить их экономическими полномочиями, например, правом производить различные платежи. И в этом важнейшую роль должна будет играть существующая технология блокчейн (так называемый цифровой реестр транзакций или цепочка блоков транзакций). Надо сказать, что в отечественной науке технологии блокчейн уделяется достаточно пристальное внимание. Это касается как общих перспектив развития данной технологии в России, так и использования данной технологии в государственной сфере [7, с. 123 - 128]. И уже американская компания Hanson Rubotics планирует в ближайшее время внедрить технологию блокчейн в искусственный интеллект.
Американская компания Google научила искусственный интеллект самостоятельно создавать искусственный интеллект, который превышает эффективность аналогичных систем, созданных людьми. Проект AutoML («автоматизированное машинное обучение») был запущен в мае 2017 года. Цель проекта - создание нейросе-тей с помощью искусственного интеллекта. Созданные таким образом системы определяют показанные изображения в 82 % процентов случаев. Лучший же результат в подобных экспериментах среди нейросетей созданных человеком только 39%. То есть искусственный интеллект создает самостоятельный искусственный интеллект, который минимум в два раза эффективнее подобного искусственного интеллекта, созданного человеком. Надо сказать, что проблемам творческого потенциала искусственного интеллекта также уделяется достаточное внимание в современной науке [8, с. 138 - 141].
Все вышеперечисленное может стать основой для внесения изменений в отраслевое законодательство, прежде всего в Гражданский Кодекс РФ. В частности, речь может идти об уточнении положений ст. 1079 ГК РФ об ответственности за вред, причиненный деятельностью, создающей повышенную опасность для окружающих, потому что возникает вопрос о том, что если роботы признаются источником повышенной опасности, то каковы критерии этого?
Под источниками повышенной опасности в гражданском праве, на наш взгляд, следует понимать различные вещи, которые имеют опасные свойства, а эксплуатация этих вещей не может контролироваться человеком в полной мере. В случае с причинением вреда имуществу роботом ответственность будет нести владелец робота как владелец источника повышенной опасности. Но тогда роботы необходимо признать объектом гражданского права и гражданского оборота. В этом случае роботы войдут в перечень объектов правового регулирования, подобно, например, домашним животным. Совершенно другое дело, если роботы будут отнесены к субъектам права, которые будут обладать правосубъектностью. Некоторые отечественные эксперты приходят к выводу, что роботы соответствуют доктрине юридического лица. Поэтому нормы гражданского права о юридических лицах могут и должны распространяться на роботов.
В рассматриваемой сфере необходимы будут изменения в уголовном законодательстве. Если, например, робот совершит убийство, то по существующему положению в соответствии со ст. 105 УК РФ, робот будет рассматриваться только как оружие убийства его владельца. Поэтому, на наш взгляд, требуется разработка специальных статей о преступлениях совершенных с использованием особых технических средств - роботов.
На наш взгляд, всю работу по правовому регулированию рассматриваемой сферы следует построить последовательно и поэтапно.
На первом этапе, помимо внесения соответствующих изменений в отраслевое законодательство, о чем говорилось выше, следует сконцентрировать усилия на правовом регулировании беспилотных летательных аппаратов или дронов, которые широко используются в различных сферах жизни. Сначала в Воздушный кодекс РФ были внесены поправки, вступившие в силу в марте 2016 года, которые обязали собственников дронов массой более 250 г. зарегистрировать их в Росавиации. Но уже 21 июня 2016 г. Государственная Дума приняла поправки в Воздушный кодекс РФ о том, что вышеназванное правило о регистрации дронов в Росавиации, касаются только тех из них, которые весят более 30 кг. Однако, эти положения нисколько не решают огромного множества существующих проблем. Федеральный закон от 30.12.2015 г. № 462-ФЗ «О внесении изменений в Воздушный кодекс Российской Федерации в части использования беспилотных воздушных судов» до сих пор не подкреплен необходимыми правовыми актами. Поэтому исполнение этого закона затруднительно. Плохо регламентированы вопросы, о регистрации беспилотных летательных аппаратов, проведении аттестации пилотов (операторов), порядка установления ответственности за неправомерное использование дронов и за возможный нанесенный дронами ущерб.
Также пока еще не решена проблема правового регулирования использования дронов в Вооруженных силах и Росгвардии, в которых они уже активно используются.
Еще одой актуальной проблемой, из рассматриваемых нами, является правовое регулирование беспилотных автомобилей, которые в скором времени могут появиться на наших дорогах.
Российские законодатели в марте 2016 года при обсуждении этого вопроса предложили разрешить использование беспилотных автомобилей на дорогах общего пользования, в случае, если в кабине будет водитель, который в случае необходимости сможет перевести управление в ручной режим. Было предложено определение понятия беспилотного транспортного средства, как механического транспортного средства, оборудованного системой автоматического управления, которое может управляться без участия водителя. Предполагалось внести изменения в статьи ФЗ №196 «О безопасности дорожного движения, Уголовный, Гражданский кодексы и кодекс об административных правонарушениях. Но, к сожалению, пока эти предложения практически остались только предложениями.
Затем следовало бы, на наш взгляд, подготовить базовый для всей робототехники Федеральный закон «О робототехнике и искусственном интеллекте», в котором были бы закреплены общие принципы, понятия и положения, о чем мы говорили выше.
На втором же этапе необходимо проработать вопрос о создании новой комплексной отрасли права - робототехнического права, обладающего самостоятельным предметом и методом правового регулирования. Предмет этой новой отрасли составит совокупность правовых норм, регулирующих общественные отношения в сфере разработки, производства и использования различных роботов и относящихся
к разным отраслям права. В эту комплексную отрасль должны будут войти нормы публичного права - конституционного, уголовного, административного, земельного и т.д., а также нормы отраслей частного права.
В заключение хотелось бы сказать следующее. Часто приходится слышать, что в условиях, когда в России роботы еще используются довольно редко, а в экономике существуют серьезные проблемы, правовое регулирование робототехники как минимум несвоевременно. Однако следует иметь в виду, что правовое регулирование в этой сфере необходимо для выработки стандартов, без которых в России будет невозможно эффективно развивать робототехнику и искусственный интеллект.
Литература
1. Черкасов В. Н. Новый субъект права? // Базис. 2017. № 1.
2. Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3.
3. Еманова Н. С. Порядок заключения электронного розничного договора купли-продажи // Юрист. 2015. № 3.
4. Маматов А. В., Немцев А. Н., Загороднюк Р. А. Моделирование и методы реализации информационной системы распределенной обработки данных с элементами искусственного интеллекта // Известия Южного федерального университета. Технические науки. 2006. № 5 (60).
5. Ралько В. В. Будущее нотариата // Нотариус. 2016. № 8.
6. Бычков А. Роботы-адвокаты будущего. Как меняется рынок юридических услуг // Финансовая газета. 2016. № 33.
7. Клечиков А. В., Пряников М. М., Чугунов А. В. Блокчейн-технологии и их использование в государственной сфере // International Journal of Open Information Technologies. 2017. Т. 5. № 12.
8. Рыжов В. В., Сайфулин В. Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7: Философия. Социология и социальные технологии. 2011. № 1 (13).
Baranov Pavel Petrovich, Doctor of Law, Professor, the head of the department of the constitutional and municipal law, the South-Russian Institute of Management - branch of the Presidential Academy of the National Economy and Public Administration (70/54, Pushkin-skaya St., Rostov-on-Don, 344002, Russian Federation). E-mail: [email protected]
LEGAL REGULATION OF ROBOTICS AND ARTIFICIAL INTELLIGENCE IN RUSSIA: SOME APPROACHES TO SOLVING THE PROBLEM
Abstract
The author considers actual problems of legal regulation of robotics and artificial intelligence in modern Russia. The basic ideas in the field of the legislation on robotics and artificial intelligence are analyzed. Author's recommendations on solving the main problems of legal regulation in this area are given.
Key words: artificial intelligence, autonomous production, blockchain, civil law, criminal law, electronic commerce, information law, information system, insurance, lawmaking, legal personality, legal responsibility, robot, robotics, traffic, unmanned aerial vehicles.
