CC BY
338
A.П. ПИСАРЕНКО
Старший преподаватель кафедры криминологии, ЧОУ ВО ТИУиЭ, г. Таганрог
B.В. ИГНАТЕНКО
Студентка группы Ю-14 юридического факультета, ЧОУ ВО ТИУиЭ, г. Таганрог
К ВОПРОСУ О «НЕЧЕЛОВЕЧЕСКОМ» ЗАКОНЕ: ТЕНДЕНЦИИ И ПЕРСПЕКТИВЫ
В статье рассмотрены тенденции и перспективы введения в российское правовое поле так называемого «нечеловеческого» закона - закона о робототехнике. Представлены подходы современных ученых к определению искусственного интеллекта и его взаимодействию с интеллектом
естественным. Авторами проводится анализ состояния зарубежного и отечественного законодательства в рамках исследуемой проблемы и вырабатываются собственные суждения по поводу исследуемого вопроса.
Робототехника, робот, искусственный интеллект, юнит, правовое регулирование, перспектива, правовой статус искусственного интеллекта.
Тематический рубрикатор e-Library: 10.35.00
A.P. PISARENKO, V. V. IGNATENKO
TO THE QUESTION OF THE «NON HUMAN» LAW: TRENDS AND PERSPECTIVES
The article examines the trends and prospects for introducing the so-called «non human» law - the Law on Robotics - into the Russian legal field. The approaches of modern scientists to the question of determining artificial intelligence and its interaction
with natural intelligence are presented. The authors analyze the state of foreign and domestic legislation in the framework of the problem under study, and develop their own judgments about the issue under study.
Robotics, robot, artificial intelligence, unit, legal regulation, perspective, the legal status of artificial intelligence.
Еще в 2006 г. Германия одной из первых в мире приступила к внедрению программы роботизации и информатизации промышленности. В 2013 г. власти Евросоюза создали партнерство SPARC - проект, целиком посвященный финансированию и развитию робототехники. В 2017 г. была принята резолюция Европарламента «Нормы гражданского права о робототехнике», посвященная самым разным аспектам и проблемам робототехники и искусственного интеллекта и предусматривающая создание специализированного агентства по робототехнике и искусственному интеллекту. Теперь так называемые умные машины (роботы) будут заносить в особый реестр. США, Китай, Япония, Южная Корея, крупные страны Евросоюза видят за роботами будущее и признают это официально. Роботы должны справиться с теми проблемами, которые сейчас не может решить человечество. И действительно, искусственный интеллект все шире проникает в жизнь человека. Китай активно внедряет промышленных роботов на производствах. Япония ищет в роботах возможность решить проблемы стареющего населения и одиночества человека в социуме. США лидирует по числу компаний, занимающихся исследованиями и разработкой роботов. Южная Корея видит будущее в использовании роботов в промышленном производстве и полной замене человека. Активно развивающиеся наука и техника внушают человечеству, что искусственный интеллект умнее человеческого разума. Умные
машины не только управляют авиаполетами и выигрывают у человека в шахматы, но и принимают широкий круг жизненно важных решений как настоящая электронная личность. В этой связи назревает естественный вопрос - какими правами будет обладать такой интеллект и в чем его преимущество или, напротив, уязвимость перед интеллектом человека?
В истории современного общества можно насчитать четыре основные промышленные революции (число их до определенной степени условно и зависит от видения конкретного исследователя данной проблемы). В первой промышленной революции сила воды и пара механизировала производство. Во второй электроэнергия помогла развить массовое производство. В третьей электроника и информационные технологии автоматизировали производство. На проходившем в Давосе в 2016 г. Всемирном экономическом форуме была представлена концепция четвертой промышленной революции, выраженная в сочетании технологий, которые размывают границы между физической, цифровой и биологической сферами жизни. Скорость, с которой сейчас совершаются открытия, беспрецедентна. Возможности миллиардов людей стали безграничны благодаря мобильным устройствам с их мощностью, памятью и доступом к знаниям. Развитие искусственного интеллекта, робототехники, 3D-печати, нано- и биотехнологий, квантовых компьютеров и материалов приумножит число этих возможностей.
Границы между цифровыми технологиями и биологическим, органическим миром стираются. По оценкам европейских экспертов у четвертой промышленной революции есть все шансы улучшить качество жизни и повысить уровень доходов всего мирового населения. В будущем транспортные и коммуникационные услуги будут стоить дешевле, логистика станет более эффективной. Появятся новые рынки, которые будут стимулировать экономический рост. В то же время на рынке труда многие рабочие места займут роботы. Разрыв между окупаемостью капиталовложений и окупаемостью труда увеличится. При пессимистичном прогнозе, по мнению всё тех же экспертов, четвертая промышленная революция приведет к роботизации, дегуманизации общества. Поэтому именно для того чтобы на фоне инновационных научных открытий найти тот самый баланс, благоприятствующий развитию общества, необходимо прийти к всеобщему консенсусу в понимании происходящих в науке и технике изменений, их нужности обществу и самое главное, их правовой регуляции.
В документе Европейского экономического и социального комитета от 31.08.2017 «Искусственный интеллект - последствия искусственного интеллекта на (цифровом) едином рынке, в производстве, потреблении, занятости и обществе» отмечено, что использование искусственного интеллекта может способствовать достижению множества целей, в частности, целей искоренения бедности, обеспечения безопасности транспорта, качественной медицины, более персонализированного образования, развития промышленности [1]. Собственно, термин «искусственный интеллект» был введён в научное обращение Джоном Маккарти в 1956 г. В настоящее время искусственный интеллект рассматривается большинством ученных как компьютерная или киберфизи-ческая система с антропоморфным (человекоподобным) «интеллектом» и иначе именуется «умной машиной» или «юнитом». Надо заметить, что до настоящего времени учеными не выработано единое, доктринальное мнение относительно определения искусственного интеллекта. Сложности выработки общеупотребительной и однозначной дефиниции искусственного интеллекта определяются, в числе прочего, и тем, что предметно-объектная область работы специалистов в сфере искусственного интеллекта находится на стыке разнообразных научных и профессиональных отраслей и дисциплин: компьютерного программирования и психологии, техники и лингвистики, математики и нейрофизиологии, биоэтики и философии [2, с.7].
Робот с искусственным интеллектом - это машина, обладающая способностью к самообучению. Он может делать определенные действия, которые в него заложил создатель, развивать свои способности, исходя из алгоритма. При этом робот не имеет эмоций и чувств. Это значит, что нельзя приравнивать робота к человеку. Развитие и использование технологий и юнитов искусственного интеллекта порождает целый ряд правовых и нравственно-этических проблем. В Российской Федерации, как справедливо замечает Н. Куликов, «слова "робот" и
"робототехника" упоминаются лишь в нескольких законодательных актах далеко не первостепенной важности». Но такое состояние законодательства Российской Федерации в исследуемой сфере не может быть признано удовлетворительным, тогда как в законах и подзаконных актах целого ряда зарубежных государств уже сегодня закреплено «Право роботов» (правовое регулирование робототехники) как обязанность государств содействовать развитию и контролю за разработкой, производством, распространением и использованием технологий и юнитов искусственного интеллекта.
В процессе регулирования искусственного интеллекта примечателен опыт Японии. В стране создан комитет по политике в сфере робототехники. Данная структура занимается тремя основными задачами, совместное решение которых лежит на органах публичной власти и частных организациях: 1) разработать условия рынка роботов; 2) обеспечить безопасность роботов. Здесь главным является определение юридической ответственности за действия роботов в двух контекстах: до взаимодействия роботов с людьми (что включает в себя разработку стандартов проектирования и производства роботов); и в контексте взаимодействия роботов с людьми (что подразумевает решение вопросов определения ответственности за нанесение травм людям в результате действий роботов, определение ответственности производителей, а также определение механизмов страхования); 3) обеспечить развитие технологий в сфере робототехники на основе требований и потребностей, определяемых органами государственной власти. Так, всемирно известный создатель роботов японский ученый, глава лаборатории робототехники Университета Осаки, профессор Хироси Исигуро максимально приблизился к созданию интерактивного робота, полностью копирующего поведение человека [3]. Его роботы играют в театре, беседуют и даже читают лекции вместо него в университете. По мнению Исигуро, нельзя будет представить жизнь без андроидов в мегаполисе XXI века: в будущем они смогут заменить человека практически во всех сферах деятельности: транспорт без водителей, электронные продавцы, музыканты, актёры - это уже окружает людей в развитых странах, готовых апробировать новые технологии и вкладывать в них средства (Япония, Китай, Южная Корея, ОАЭ, США и др.).
В настоящее время в Японии готовы к выпуску роботы-партнеры, так как проблема одиночества в стране стоит остро. Люди тратят миллионы и огромное количество времени, чтобы найти партнёра, при этом никто не даст гарантий, что они найдут человека, который будет их любить или даже просто соответствовать их желаниям. Поэтому роботы для семейной жизни, общения, секса имеют место быть и планируются к массовому запуску с 2020 г. Разумеется, что с подобными новациями в технологиях необходимо будет вводить и правовую регуляцию на межотраслевом уровне, затрагивающем гражданско-правовые, семейные и уголовно-правовые правоотношения. Таким образом, можно констатировать полную замену человека роботом, замещение естест-
венного интеллекта искусственным. В этой связи, по мнению некоторых ученых, вполне вероятны различного вида отклонения. Так, ученый Минсу Канг в 2009 г. изложил теорию восприятия угрозы, суть которой в том, что андроиды, которые находятся в пространстве между категориями «робот» и «человек», вводят человека в состояние постоянного когнитивного диссонанса и сталкивают с неизвестностью, рождая вопросы: чего именно ждать от такого существа? Управляет ли человек ситуацией? Относительно возможности нанесения вреда роботами вышеупомянутый профессор Исигуро - человек, имя которого входит в сотню ныне живущих гениев, рассуждает так: «Задача учёного - развивать технологии, а уж как их использовать - решать обществу. Я не моделирую будущее, я не Бог. Моя задача проста - понять себя и человечество, это я пытаюсь сделать с помощью своих исследований... Например, учёные-ядерщики дали нам атомные электростанции и ядерную бомбу, но вина за использование этой бомбы во вред людям лежит не на учёных». Из столь размытых формулировок создателей искусственного интеллекта совершенно очевидно, что назрела острая необходимость не только создавать, но и развивать правовое регулирование робототехники, так как мировая индустрия разработок в сфере роботов, идентичных человеку, растёт с каждым годом. Как вариант, государство может реализовать подход, предполагающий наблюдение за развитием техно ло-гий с возможно более быстрым реагированием на конкретные изменения. Однако при этом требуется создание специфических инструментов быстрого реагирования на возникающие риски в связи с использованием роботов, призванных взаимодействовать, помогая человеку исходя из принципа «prima non nocere» («прежде всего - не навреди»). Ясно одно: государство, принявшее всестороннее законодательство в этой сфере, задаст стандарты, на которые будет ориентироваться весь мир.
На сегодняшний день в России нет законодательства об автономных роботах. Государство пока что не проявляет интереса к данной проблематике, поскольку плотность промышленной роботизации в России в 70 раз ниже, чем в среднем по миру: в мире на 10 000 работников в 2015 г. приходилось в среднем 69 промышленных роботов, а в России всего один. Однако в 2016 г. проработкой вопроса занялись программисты, ведь они в первую очередь и заинтересованы в логичном и четком решении вопроса [4]. Речь идёт об основателе Grishin Robotics Дмитрии Гришине, разработавшем концепцию закона о робототехнике. Документ предлагает частично использовать в отношении роботов регулирование, которое применяется к животным и юридическим лицам. Искусственный интеллект как таковой не может в отсутствие эмоций делать роботов субъектами права, гласит рассматриваемая концепция, но роботы схожи с животными, поскольку способны совершать автономные действия. Как и юридическое лицо, робот является особой юридической конструкцией. Автор допускает создание реестра роботов, а также считает, что к создателям роботов могут применяться нормы об ответственности владельца источника повышен-
ной опасности: ведь робот может причинить вред. Так, исходя их концепции автора, возможны следующие сценарии, в которых действия робота подпадают под юрисдикцию Уголовного кодекса РФ: 1) конструирование робота-убийцы специально для совершения правонарушения; 2) отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку; 3) конструирование робота, способного причинить вред человеку; 4) конструирование робота без осознания того, что он может быть использован для причинения вреда человеку. Но остается открытым вопрос: какие роботы и по каким критериям могут быть отнесены к источникам повышенной опасности?
Автор концепции указывает, что законы робототехники, сформулированные писателем Айзеком Азимовым, могут иметь актуальное практическое применение в юриспруденции. Они базируются на четырех законах робототехники, сформулированных писателем еще в 1942 г.: 1) робот не может причинить вред человеку; 2) робот должен подчиняться человеку; 3) робот должен заботиться о своей безопасности, если это не противоречит первым двум законам; 4) робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред [5, с.105].
Эти четыре закона решают большинство проблем, связанных с использованием искусственного интеллекта, но, безусловно, далеко не все. Так, например, не определен правовой статус робота. Что же это? Конечно, имущество. Однако потенциально это имущество может нанести вред. Является ли оно источником повышенной опасности? Робот-пылесос вряд ли, а если это какой-то более «серьезный» робот? Поэтому нужно дать роботам с искусственным интеллектом в силу их особенностей определенный правовой статус. Они имеют свои особые принципы регулирования, которых нет ни в одной другой отрасли права.
Из этого положения вытекает, что нужно разграничить типы роботов по назначению и по степени опасности, которую они несут. Так, гипотетически можно предположить, что робот может быть изначально создан для нанесения вреда; у робота могут быть отдельные функции, которые наносят вред (например, если производитель не учел); могут быть роботы без опасных функций; могут быть роботы, которые используются в противоправных интересах, но без изначального заложения такой функции. Исходя из предложенной классификации, можно выделить различные уровни ответственности за действия робота. Как неодушевленное существо, имущество, он не может считаться право- и дееспособным, а потому не может нести ответственность. Возникает резонный вопрос: кто должен нести ответственность за вред? Вернемся к вопросу об источниках повышенной опасности. Если владелец предупрежден, что робот является источником повышенной опасности, то он и несет ответственность (например, если он выступает заказчиком опасного робота). Если повышенной опасности нет, то ответственность несет производитель (например, если на покупателя напал робот-пылесос). При этом нужно учитывать степень
автономности робота: чем большему он учится сам, тем меньше ответственность, и наоборот. Для этого нужно разработать понятные метрики, которые отражали бы степень автономности робота и, конечно, чек-листы для реагирования на критические ситуации. Можно также выделить некоторые виды роботов как источники повышенной опасности и ввести обязательное страхование по типу ОСАГО.
Рассматривая позицию лиц, которые выступают с тезисом, что роботы не настолько распространены, чтобы создавать для них отдельное правовое регулирование, примечателен небезызвестный случай: беспилотная машина Uber насмерть сбила пешехода в США. Это явилось прецедентом. Теперь предстоит внимательно изучить обстоятельства этого исторического происшествия (робот выступил убийцей человека) и по итогам расследования определить ответственных лиц. Ведь при проверке оказалось, что робот «видел» человека, но не стал тормозить, в результате чего был нанесен непоправимый вред. Подобный пример, пока что единичный, говорит о том, что все-таки регулирование роботов с искусственным интеллектом нужно. Будущее не просто не за горами, оно здесь и даёт реальный повод задуматься над последствиями использования новейших технологий. Это тот случай, когда правовое развитие, должно опережать технологическое. Таким образом, поскольку роботы с искусственным интеллектом являются особенной конструкцией, необходимы отдельное регулирование их статуса и, соответственно, надлежащая и эффективная процедура урегулирования причиненного вреда. Стоит надеяться, что так и будет. Так, при посещении нового российского инновационного института «Иннополис» спикер Государственной Думы РФ Вячеслав Володин высказал в этом уверенность, заявив, что исходя из прогнозов футурологов, мир примерно через пять лет столкнется с необходимостью комплексного правового регулирования в
сфере робототехники и искусственного интеллекта [6]. Вместе с тем в России намерены создать совет по законодательному обеспечению развития цифровой экономики, и в связи с этим уже скоро роботы могут быть вписаны в законодательное поле России. БИБЛИОГРА ФИЧЕСКИЙ СПИСОК
1. Незнамов А. Новые законы робототехники/ А. Незнамов // Популярная механика. - 2017. - №8. [Электронный ресурс]. - URL: https://www.popm ech.ru/technologies/379112-novye-zakony-robototeh niki-kak-v-evrope-reguliruyut-prava-robotov/
2. Морхат П.М. Искусственный интеллект: правовой взгляд: монография / П.М. Морхат. - М.: Буки Веди, 2017.-257 с.
3. Шмагун О. Профессор Хироси Исигуро о роботах и городах будущего/ О. Шмагун // The Village -новостной интернет-портал о культурной и общественной жизни [Электронный ресурс]. -URL: http ://www.the -village.ru/village/city/situation /1128 75-hiroshi
4. Россия может первой узаконить роботов //Ведомости [Электронный ресурс]. - URL: https://www.vedomosti.ru/technology/articles/2016/1 2/15/669703-rossiya-uzakonit-robotov
5. Азимов А. Мечты роботов/ А. Азимов. - М.: ЭКСМО; СПб.: Валери СПД, 2002. - 848 с.
6. Замахина Т. Госдума примет закон об отношениях робота и человека/ Т. Замахина // Российская газета. Электронный выпуск от 13.02.2017 [Электронный ресурс]. - URL: https://rg.ru/2017/02/13/ reg-pfo/gosduma-primet-zakon-ob-otnosheniiah-robo ta-i-cheloveka. html
7. Козюлин В.Б., Ефимов А.Р. Новый Бонд - машина с лицензией на убийство/ В.Б. Козюлин, А.Р. Ефимов // Индекс безопасности. - 2016. - Т. 22. - № 1.
8. Ужов Ф.В. Искусственный интеллект как субъект права/ Ф.В. Ужов // Пробелы в российском законодательстве. - 2017. - № 3.
© Писаренко Аксинья Петровна, 2018 © Игнатенко Виктория Владиславовна, 2018 © Частное образовательное учреждение высшего образования «Таганрогский институт управления
и экономики», 2018
