CC BY
832
УНИВЕРСИТЕТА
имени О.Е. Кутафина (МГЮА)
ИСКУССТВЕННЫМ ИНТЕЛЛЕКТ: ОТ ОБЪЕКТА К СУБЪЕКТУ?
Аннотация. В настоящее время наука и техника вплотную подошли к активному внедрению систем искусственного интеллекта в самые разные сферы жизни общества. Целью данной статьи является попытка наметить некоторые правовые проблемы, возникающие или потенциально способные возникнуть в этой связи в будущем. С развитием науки и техники искусственный интеллект постепенно получит возможности совершать самостоятельные, в том числе юридически значимые, действия. В статье искусственный интеллект рассматривается как вещь с функцией искусственного интеллекта, обеспечиваемого с помощью специальных программ, способных к самообучению на основе анализа собственных успешных и ошибочных действий, и характеризующихся автономной (т.е. не требующей вмешательства оператора) работой. На сегодняшний день несомненно, что системы искусственного интеллекта — это объекты гражданско-правовых отношений. Но искусственный интеллект все активнее входит в самые разные сферы, которые ранее считались доступными только для человека — это, в частности, создание произведений литературы и искусства. В статье анализируется проблема определения автора таких произведений. Искусственный интеллект входит и в те области, где его деятельность напрямую может затронуть жизнь и здоровье людей, такие как медицина, транспорт. В статье рассматривается проблема ответственности за вред, который может быть причинен устройством, обладающим искусственным интеллектом. Также в статье рассматривается возможность присвоения роботам с искусственным интеллектом статуса субъекта права.
Ключевые слова: искусственный интеллект, объект гражданского правоотношения, субъект гражданского правоотношения, источник повышенной опасности.
Семен Алексеевич СОМЕНКОВ,
доцент кафедры гражданского права Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук, доцент [email protected] 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
DOI: 10.17803/2311-5998.2019.54.2.075-085
© С. А. Соменков, 2019
/" Ж УНИВЕРСИТЕТА
"М имени O.E. Кугафина (МГЮА)
S. А. SOMENKOV, Candidate of Law, Associate Professor, Associate Professor of the Department of the Civil Law of the Kutafin Moscow State Law University (MSAL) [email protected] 125993, Russia, Moscow, ul. Sadovaya-Kudrinskaya, 9 ARTIFICIAL INTELLIGENCE: FROM OBJECT TO SUBJECT? Abstract. Currently, science and technology have come close to the active implementation of artificial intelligence systems in various spheres of society. The purpose of this article is to attempt to identify some of the legal problems that arise or are potentially capable of arising in this connection in the future. With the development of science and technology, artificial intelligence will gradually receive opportunities to perform independent, including legally significant, actions. The article considers artificial intelligence as a thing with the function of artificial intelligence, provided with the help of special programs capable of learning based on the analysis of their own successful and erroneous actions and characterized by autonomous (that is, not requiring operator intervention) work. Today, there is no doubt that artificial intelligence systems are objects of civil law relations. But artificial intelligence is increasingly entering various spheres that were previously considered accessible only to humans — this, in particular, the creation of works of literature and art. The article analyzes the problem of determining the author of such works. Artificial intelligence is also included in those areas where its activity can directly affect the lives and health of people, such as medicine and transport. The article deals with the problem of liability for harm that may be caused by a device with artificial intelligence. The article also considers the possibility of assigning the status of a subject of law to robots with artificial intelligence. Keywords: artificial intelligence, the object of civil legal relations, the subject of civil legal relations, a source of increased danger.
Вопросы искусственного интеллекта (далее также — ИИ) разрабатываются учеными в течение многих десятилетий, но только сейчас наука и техника вплотную подошли к активному внедрению систем искусственного интеллекта в самые разные сферы нашей жизни. Уже сейчас мы используем в повседневной жизни компьютеризированные устройства, или, как еще говорят, «умные вещи», о которых еще лет 30—40 назад могли писать только фантасты, причем зачастую относили возможность их появления к гораздо более далекому будущему. Эти устройства кардинально меняют нашу жизнь. И этот процесс продолжается. Целью данной статьи является попытка наметить некоторые правовые проблемы, возникающие или потенциально способные возникнуть в будущем в сфере применения искусственного интеллекта.
На сегодняшний день искусственный интеллект становится предметом изучения не только кибернетиков, биологов, психологов, лингвистов, математиков,
УНИВЕРСИТЕТА
имени О.Е. Кутафина (МГЮА)
инженеров, но и юристов. С развитием науки и техники в данной сфере искусственный интеллект постепенно получит возможность совершать самостоятельные, в том числе юридически значимые, действия.
И это уже не фантастика. В правовых актах термин «искусственный интеллект» уже активно используется. Например, Международная классификация товаров и услуг для регистрации знаков (МКТУ)1 называет такой вид товара: «Роботы человекоподобные с искусственным интеллектом» (класс 09, базовый № 090778).
В соответствии с распоряжением Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы "Цифровая экономика Российской Федерации"» искусственный интеллект отнесен к основным сквозным цифровым технологиям, которые входят в рамки указанной Программы2.
Прежде чем говорить о понятии искусственного интеллекта, попытаемся ответить на вопрос, что же такое интеллект? Традиционно слово «интеллект» связывают исключительно с человеком. Так, толковые словари русского языка определяют интеллект как ум, рассудок, мыслительную способность у человека3; как мыслительную способность, умственное начало у человека, определяющее его деятельность4. Философский энциклопедический словарь определяет интеллект как способность мышления, рационального познания, при этом такие, например, душевные способности, как чувство, воля, интуиция, воображение и т.п., к интеллекту не относятся5. В психологии под интеллектом понимается «относительно устойчивая структура умственных способностей индивида»6. Энциклопедия «Britannica» определяет человеческий интеллект как умственное качество, которое состоит из способности учиться на опыте, адаптироваться к новым ситуациям, понимать и обрабатывать абстрактные понятия и использовать знания для воздействия на окружающую среду7.
Что такое искусственный интеллект? Что охватывает собой это понятие? По мнению Джона Маккарти, который и ввел этот термин в 1956 г., ИИ — «это наука и технология создания интеллектуальных машин, особенно интеллектуальных К
компьютерных программ. Это связано с аналогичной задачей использования
компьютеров для понимания человеческого интеллекта, но ИИ не должен ограничиваться биологически наблюдаемыми методами»8.
Также понятием «искусственный интеллект» обозначаются технические системы, способные к адаптивному поведению и решению задач, в том числе и таких, Рп
П
О
1 Международная классификация товаров и услуг для регистрации знаков (МКТУ) (Один- ^
надцатая редакция, издание 1-е, принята в г. Ницце 15.06.1957) (с изм. и доп. от 2017 Е
года) // СПС «КонсультантПлюс». СЗ РФ. 2017. № 32. Ст. 5138.
Ушаков Д. Н. Большой толковый словарь современного русского языка. М., 2009. С. 311. р
р
Ожегов С. И. Словарь русского языка. М. : Советская энциклопедия, 1968. С. 245.
Философский энциклопедический словарь. М. : Советская энциклопедия, 1989. С. 215. Д
Философский энциклопедический словарь. С. 216. Н
7 Encyclopedia Britannica // URL: https://www.britannica.com/science/human-intelligence-psy- П chology (дата обращения: 16.09.2018). О
8 McCarthy J. What is artificial intelligence? // URL: http://www-formal.stanford.edu/jmc/whatisai/ 0 node1.html (дата обращения: 16.09.2018). ПРАВА
СГ
в Я УНИВЕРСИТЕТА
имени О.Е. Кугафина(МГЮА)
которые относятся к сфере восприятия, организации движений, понимания текста и т.п.9 Некоторые авторы также добавляют сюда способность таких систем выполнять творческие функции, которые традиционно рассматриваются как атрибут человека10. Характерно, что все эти определения искусственного интеллекта не учитывают правовых аспектов данного явления. В литературе отмечается проблема отсутствия «легального определения термина "искусственный интеллект", в то время как в науке существует порядка пятнадцати его естественно-научных определений»11.
В целом проблема создания искусственного интеллекта сводится к максимально точному воспроизведению работы мозга человека с помощью технических средств. Эта задача сможет быть решена с помощью создания нейронных сетей, над созданием которых сейчас активно работают специалисты в области ИИ. Подобно нервной системе человека нейронные сети «обучаются на основе опыта, обобщают предыдущие прецеденты на новые случаи и извлекают существенные свойства из поступающей информации, содержащей излишние данные»12. Пока еще создание полноценного ИИ делает первые шаги, хотя и они выглядят достаточно впечатляюще. Примером системы ИИ на основе нейронной сети является голосовой помощник, разработанный компанией «Яндекс». С его помощью можно разговаривать со своим компьютером или мобильным устройством и осуществлять поиск в Интернете. При этом данная система является самообучающейся (т.е. не ограничивается набором заранее заданных ответов) и совершенствуется, «общаясь» с пользователями.
Нас в первую очередь интересует второе понятие искусственного интеллекта (как технической системы), и в дальнейшем применительно к ИИ мы будем говорить именно о вещах с функцией искусственного интеллекта, обеспечиваемого с помощью специальных программ, способных к самообучению на основе анализа собственных успешных и ошибочных действий и характеризующихся автономной (т.е. не требующей вмешательства оператора) работой. При этом не все автономно действующие вещи могут признаваться имеющими функцию ИИ.
Можно создать робота, который будет запрограммирован выполнять какую-то функцию, например будет танцевать. Но если он будет выполнять ее чисто механически, то нет оснований говорить о наличии в этой вещи признаков ИИ. Если же робот научился танцевать сам, наблюдая за делающим это человеком, и постоянно совершенствует этот процесс, учитывая свой предыдущий опыт, в том числе негативный, есть основания считать, что он наделен ИИ. Если компьютерная программа по запросу пользователя выдает из базы данных определенные значения, она еще не обладает ИИ. Но если данная программа после обучения может самостоятельно решать определенные задачи, есть основания говорить
9 Философский энциклопедический словарь. С. 216.
10 Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту. М. : Радио и связь, 1992.
11 Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизиче-ских систем // Закон. 2018. № 2. С. 69—89.
12 Уоссермен Ф. Нейрокомпьютерная техника: теория и практика / пер. с англ. Ю. А. Зуева, В. А. Точенова. М. : Мир, 1992. С. 5.
УНИВЕРСИТЕТА
имени O.E. Кутафина (МГЮА)
о наличии признаков ИИ. Например, когда справочно-правовые системы будут на основании загруженных в них данных о споре выдавать правовое заключение по этой ситуации, можно будет говорить о наличии у данной программы ИИ.
Искусственный интеллект все активнее входит в самые разные сферы, которые ранее считались доступными только для человека. Применительно к гражданско-правовым отношениям на сегодняшний день несомненно, что системы ИИ — это объект таких отношений. Но объект достаточно специфичный. Всегда считалось, что творчество доступно лишь человеку. Но, как уже отмечалось выше, способность выполнять творческие функции также рассматривается некоторыми исследователями как свойство ИИ. Так, Google осуществляет разработки, совмещающие нейросети, рисование и искусственный интеллект. Одной из таких разработок является проект Sketch-RNN, представленный в 2017 г.13 Он представляет собой самообучающуюся нейросеть, которая может рисовать эскизы различных предметов, имеющихся в ее базе. Смысл в том, что человек рисует предмет, а Sketch-RNN распознает, что именно нарисовано, и рисует аналогичную картинку. Но это не копирование распознанного рисунка. Если системе предложить нарисовать, скажем, кошку, она создаст свой уникальный рисунок кошки. Более того, система может улучшать предложенные ей рисунки. Так, когда системе было дано изображение кошки с тремя глазами, она нарисовала нормальную кошку с двумя глазами. При этом рисунок нейросети получился лучше, чем человеческий.
Но простейшими рисунками дело не ограничивается. Ученые из Ратгерского университета лаборатории Facebook's AI создали систему, в которой две нейронные сети взаимодействуют друг с другом как оппоненты — одна сеть предлагает решение, а другая его критикует. Это способствует получению наилучшего результата и самосовершенствованию ИИ. Интересно, что картины, созданные ИИ, предложили оценить людям наряду с картинами, написанными рукой человека. При этом опрошенным не сообщили, какие картины «написал» ИИ. Результат опроса удивил разработчиков данной системы — во многих случаях картины, К
созданные ИИ, были оценены выше, чем написанные человеком14. Т
Искусственный интеллект успешно пробует себя и на ниве художественной литературы. Исследователи из Университета будущего в Хакодате (Япония) создали робота-писателя. Роман, написанный роботом, был отправлен на соискание престижной Литературной премии имени Хоси Синъити и вышел в финал. Е Интересна оценка данного произведения со стороны японского писателя-фан- Р таста Сатоши Хасэ. Выступая на пресс-конференции после конкурса, он сказал: □ «Я был удивлен работой, потому что это был хорошо структурированный роман. л Но есть еще некоторые препятствия для того, чтобы выиграть приз, такие как М описания персонажей»15. ЕЕ
Г
- А
13 См.: David Ha, Douglas Eck. A Neural Representation of Sketch Drawings // URL: https:// arxiv.org/pdf/1704.03477.pdf (дата обращения: 16.09.2018). Д
14 См.: Ефимова Е. Новое слово в живописи: искусственный интеллект «пишет» картины Н в уникальном стиле // Вести^и. URL: http://www.vesti.ru/doc.html?id=2905726 (дата об- П ращения: 16.09.2018). О
15 См.: Clark B. While Microsoft's Tay was being racist, an AI entered a writing contest — and 0 nearly won // TNW. URL: https://thenextweb.com/insider/2016/03/24/while-microsofts-tay- ПРАВА
в Я УНИВЕРСИТЕТА
имени O.E. Кугафина (МГЮА)
Есть успешные попытки разработки ИИ, способного сочинять музыку. В августе 2017 г. система ИИ Amper сочинила музыку для альбома «I AM AI», что в переводе с английского означает «Я — искусственный интеллект»16.
Возникает вопрос — кто является автором таких произведений? Разработчик ИИ или пользователь, давший ИИ задание на создание произведения? Сам ИИ, разумеется, не может быть признан автором, по крайней мере в рамках действующего законодательства. Но можно ли признать автором разработчика такой системы? Или владельца, эксплуатирующего систему и загружающего в нее определенное задание? Думается, что их также нельзя признать авторами, так как согласно ст. 1257 ГК РФ «автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано». Применительно к разработчику ИИ можно сказать, что его творческим трудом создана данная система, но то, что она делает сама, — никак нельзя отнести к творческому труду ни разработчика, ни эксплуатанта.
Возможно, придется выработать новую категорию произведений — созданных ИИ. Может быть, следует отнести их к произведениям, не являющимся объектами авторских прав (п. 6 ст. 1259 ГК РФ). Да, пока произведения ИИ несовершенны. Пока они существуют только как «удивительное рядом». Но со временем все может измениться. Этот вопрос станет особенно актуальным, если произведения ИИ станут коммерчески привлекательными для издателей.
Сфера применения ИИ постоянно растет. Выяснилось, что ИИ может взять на себя роль посредника на переговорах и поддерживать отношения эффективнее людей. Для этих целей исследователи из Университета Бригама Янга и Масса-чусетского технологического института создали соответствующую систему ИИ. Выяснилось, что в большинстве случаев устройства превосходили людей в поиске компромиссов, которые приносят пользу обеим сторонам. Сами разработчики считают, что это может иметь долгосрочные последствия для человеческих отношений. Один из них, профессор Якоб Крэнделл, отмечает, что «в обществе отношения постоянно портятся, и люди, которые были друзьями в течение многих лет, внезапно становятся врагами. Поскольку машине зачастую удается в лучшей степени достигнуть компромисса, чем нам, искусственный интеллект может научить нас, как это лучше сделать»17.
Искусственный интеллект входит и в те области, где его деятельность напрямую может затронуть жизнь и здоровье людей. Так, ИИ активно внедряется в сферу медицинских услуг. Китайская компания «iFlytek» создала интеллектуального робота Xiaoyi (Сяо И), который впервые сдал экзамен на врача и получил лицензию на врачебную деятельность. Конечно, это можно рассматривать,
was-being-racist-an-ai-entered-a-writing-contest-and-nearly-won/#gref (дата обращения: 16.09.2018).
16 См.: Galeon D. The World's First Album Composed and Produced by an AI Has Been Unveiled // Сайт futurism.com. URL: https://futurism.com/the-worlds-first-album-composed-and-produced-by-an-ai-has-been-unveiled/ (дата обращения: 16.09.2018).
17 Искусственный интеллект сможет вести переговоры и поддерживать отношения // Портал искусственного интеллекта. URL: http://www.aiportal.ru/news/13566.html (дата обращения: 16.09.2018).
УНИВЕРСИТЕТА
имени O.E. Кутафина (МГЮА)
скорее, как рекламный ход, чтобы привлечь интерес медицинских организаций к новой продукции. Никто не собирается ставить этого робота на место врача. Его назначение — ассистировать врачам, чтобы повысить качество их работы. Как сообщается, этот робот сосредоточится на противоопухолевой терапии, а также на обучении врачей общей практики, которых в сельских районах Китая недостаточно18. Непосредственную ответственность за работу такой машины несет эксплуатирующая ее медицинская организация, как и применительно к любому медицинскому оборудованию. Но здесь встает вопрос и об ответственности производителя системы ИИ, к которому эксплуатант может предъявить требования в случае, если неправильное лечение было осуществлено вследствие недостатков самой системы ИИ.
Автомобили, управляемые ИИ, уже появляются на дорогах. Такие эксперименты идут и за рубежом, и в России. Так, 12 июня 2018 г. компания «КамАЗ» продемонстрировал в Казани прототип беспилотного электробуса КамАЗ-1221 «ШАТЛ» (широко адаптивная транспортная логистика). Это транспортное средство разработано ПАО «КамАЗ» совместно с ФГУП «НАМИ». Внедрению этого электробуса в широкую эксплуатацию препятствует то, что в России в настоящее время отсутствует законодательство, регулирующее движение беспилотного транспорта19.
22.06.2018 было объявлено, что беспилотный автомобиль, разрабатываемый российской компанией «Яндекс», впервые в автономном режиме проехал из Москвы в Казань. Автомобиль преодолел 789 км за 11 часов. 99 % пути были преодолены в режиме автопилота. Все время поездки на водительском месте находился пилот-испытатель, готовый взять на себя управление в случае нештатной ситуации.
Законодательство и общество пока не готовы к полноценному допуску автомобилей, управляемых ИИ, на дороги общего пользования, но со временем ситуация изменится. К
За рубежом соответствующая правовая база уже появляется. Так, в марте
2012 г. в штате Невада вступил в силу закон, разрешающий езду по автомагистралям «автомобилей, которые используют искусственный разум, сенсоры и систему глобального позиционирования, чтобы передвигаться самостоятельно, без
активного вмешательства водителя-человека». Данный закон именует водителя Гп
«оператором», при этом он остается им, даже если «физически не присутству- Р
ет» в автомобиле. У таких автомобилей особые номера — с красным фоном □
и значком бесконечности (когда начнется коммерческое использование машин, л
фон поменяют на зеленый). Оператор такой машины должен получить не только М
обычные права, но и специальный документ, удостоверяющий его способность п
управлять именно роботом, а не просто машиной20. Очевидно, фигура оператора Р
А
--Ж
18 См.: Шестакова К. Герои будущего. Как работает искусственный интеллект // URL: https://
www.iphones.ru/iNotes/781064 (дата обращения: 16.09.2018). Н
I П К
https://ria.ru/avto/20180612/1522556402.html (дата обращения: 16.09.2018). □
Автомобили, умеющие ездить без водителя // Сетевой журнал «Softmixer». URL: http:// □
www.softmixer.com/2012/10/blog-post_9748.html (дата обращения: 16.09.2018). ПРАВА
19 «КамАЗ» представил в Казани беспилотный электробус «ШАТЛ» // РИА Новости. URL: П
□□
20 Автомобили, умеющие ездить без водителя // Сетевой журнал «Softmixer». URL: http:// □
>
в Я УНИВЕРСИТЕТА
имени O.E. Кугафина (МГЮА)
нужна для того, чтобы можно было без проблем определить субъекта ответственности за возможный вред, причиняемый таким транспортным средством. Вероятно, некоторое время ИИ в автомобиле будет выполнять функцию автопилота. Со временем можно ожидать, что автомобили-роботы будут перевозить пассажиров и грузы без номинального присутствия в кабине оператора.
Как мы уже отмечали ранее, на сегодняшний день с точки зрения гражданского права система, оснащенная ИИ, — это вещь. При этом законодательство не содержит каких-либо особенностей правового режима этих вещей и не ограничивает их оборот. Однако у этого объекта есть ряд особенностей, связанных с возможностью его автономного функционирования. Поэтому деятельность, связанная с использованием ИИ, нуждается в специальном правовом регулировании. Особенно очевидно это на примерах использования ИИ в медицине, на транспорте и в других сферах, где ценой выхода ИИ из-под контроля может быть не только имущественный вред, но даже здоровье и жизнь человека.
К таким системам ИИ, как беспилотные транспортные средства, применимы положения ГК РФ об источнике повышенной опасности (ст. 1079). А то, что опасность для человека они представляют, к сожалению, недавно подтвердилось — в марте 2018 г. беспилотный автомобиль передвигался в автономном режиме по улицам города Темпе (штат Аризона, США) и на скорости 63 км/ч в темное время суток совершил наезд на женщину, которая позже умерла в больнице. При этом испытатель, который находился на водительском кресле и должен был следить за обстановкой, не сумел избежать столкновения21.
Думается, что есть смысл рассматривать ИИ как источник повышенной опасности и в других случаях. Чем ИИ становится «умнее», тем он становится опаснее, так как моральных ограничений у него нет. Интересно, что предпринимаются попытки сформировать у ИИ определенные моральные установки. Так, ученые из Массачусетского технологического института создали проект, названный ими «Moral Machine». На специально созданном сайте посетителям предлагается решить моральные дилеммы, где управляемый ИИ автомобиль должен выбрать наименьшее из двух зол: например, смерть двух пассажиров или пяти пешеходов22.
В этой связи нельзя забывать и об ответственности разработчика ИИ за его дальнейшее поведение. Искусственный интеллект сродни ребенку — как его воспитаешь, что вложишь в него, таким он и будет. Потому представляется, что со временем потребуется лицензирование деятельности, связанной с производством и, возможно, даже с эксплуатацией ИИ. Возможно, потребуется регистрация систем ИИ, как это сейчас установлено для транспортных средств. Помочь в случае причинения вреда искусственным интеллектом третьим лицам может страхование ответственности за причинение вреда (ст. 931 ГК РФ). Думается, что следовало бы сделать такое страхование обязательным. Но для этого необходимо четко определить в законе критерии отнесения соответствующих систем к ИИ.
21 Wakabayashi D. Self-Driving Uber Car Kills Pedestrian in Arizona, Where Robots Roam // The New York Times. URL: https://www.nytimes.com/2018/03/19/technology/uber-driverless-fatality.html?smid=fb-nytimes&smtyp=cur (дата обращения: 16.09.2018).
22 Moral Machine. URL: http://moralmachine.mit.edu/hl/ru (дата обращения: 16.09.2018).
УНИВЕРСИТЕТА
имени O.E. Кутафина (МГЮА)
Может ли ИИ когда-нибудь перейти из объектов в субъекты правоотношений? Постановка вопроса на первый взгляд кажется фантастической. Тем не менее такой вопрос за рубежом уже обсуждается на весьма серьезном уровне. В Европейском парламенте рассматривается законопроект о предоставлении роботам статуса «электронной личности». Автором законопроекта является представитель социалистов из Люксембурга Мади Дельво-Стер (Mady Delvaux-Stehres). По его мнению, сейчас из-за внедрения роботов, андроидов и других форм искусственного интеллекта в мире происходит «технологическая революция», и ЕС необходимо установить базовые этические принципы и юридические рамки, регулирующие работу устройств. Он считает, что по мере того, как роботы начинают действовать все более автономно, становится все сложнее считать их «лишь орудиями в руках других субъектов» — производителя, владельца или пользователя. Данный законопроект предполагает возможность возложить на роботов ответственность за совершаемые ими действия. «Обычные нормы ответственности становятся неэффективными, и появляется необходимость создать новые нормы, которые в первую очередь определят, как аппараты могут быть привлечены к ответственности — полной или частичной — за свои действия или бездействие», — говорится в тексте документа. Данный законопроект получил одобрение Комитета по юридическим вопросам Европарламента23.
В Европарламенте заявили, что закон будет касаться «умных» роботов, способных учиться, приобретая новый опыт и адаптируя свои поведение и действия к окружающей среде. Сюда отнесены автономные транспортные средства и беспилотные летательные аппараты, заводские роботы и некоторые модификации домашней техники, например робот-пылесос. Наделять роботов всеми правами человека, например правом голоса, правом на жизнь или правом на владение имуществом, не предполагается.
Этот законопроект вызвал резкую критику специалистов в области искусственного интеллекта, робототехники, права и этики. Более 150 экспертов из 14 стран К подписали открытое письмо Европейскому парламенту с осуждением данного
законопроекта. По мнению ученых, невозможно доказать ответственность машины, если она из-за сбоя или недостаточного совершенства своих алгоритмов
< Ь
Ь
нанесла окружающим вред24. Здесь также можно задать вопрос: как реализовать Ы
ответственность машины, если у нее даже согласно этому законопроекту не мо- гп
жет быть своего имущества? Разве что разобрать ее на запчасти и продать их? Р
Проекты нормативных актов, призванные создать специальное правовое ре- □
гулирование в сфере применения искусственного интеллекта, разрабатываются л
и в России. Так, Д. С. Гришин (основатель «Grishin Robotics») представил проект М
закона25, которым предлагается закрепить в ГК РФ понятие робота-агента. Такой п
Г
- А
23 Европарламентарии могут предоставить роботам юридический статус // РИА Новости.
URL: https://ria.ru/world/20170114/1485715425.html?inj=1 (дата обращения: 16.09.2018). Д
24 Ксенофонтова А. Бесправный механизм: почему ученые выступили против присвое- Н ния роботам статуса «электронной личности» // RT. URL: https://russian.rt.com/science/ П article/504118-roboty-evroparlament-yuridicheskoye-lico (дата обращения: 16.09.2018). □
25 Проект федерального закона «О внесении изменений в Гражданский кодекс Российской □ Федерации в части совершенствования правового регулирования отношений в области ПРАВА
в Я УНИВЕРСИТЕТА
имени O.E. Кугафина (МГЮА)
робот, согласно проекту, должен иметь обособленное имущество и отвечать им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. К гражданским отношениям с участием роботов-агентов предлагается применять по аналогии нормы о юридических лицах.
А. В. Незнамов и В. Б. Наумов разработали проект Конвенции о робототехнике и искусственном интеллекте26. В статье 29 этого документа указано, что роботы могут выступать в гражданском обороте как самостоятельные лица, в том числе выступать собственниками других роботов, если это прямо установлено применимым законодательством. Сами авторы этого проекта указывают, что тем самым они «сознательно оставили за его пределами регулирование вопроса о том, должны ли в будущем умные роботы стать субъектами права или остаться объектами»27.
Кто заинтересован в попытках законодательного присвоения роботам с ИИ статуса субъекта права? Это не только и не столько энтузиасты новых технологий. Реально в таких законодательных нововведениях заинтересованы компании, производящие системы ИИ. В рамках действующего законодательства они вполне могут быть привлечены к ответственности за недостатки в своей продукции, оснащенной ИИ. Признание же роботов «личностью» позволит им избежать такой ответственности.
На сегодняшний день ни одна система ИИ не является полностью автономной и не может обойтись без того или иного участия человека в ее работе. Смогут ли когда-либо осуществиться идеи фантастов о роботах, являющихся полноценными (или почти полноценными) членами общества? Пока об этом говорить преждевременно. Современный уровень науки и техники не позволяет создать робота, который смог бы мыслить подобно человеку. Но попытки «очеловечить» робота не только на уровне технического воплощения в человекообразной форме, но и юридически, уже есть. В 2017 г. в прессе появилась информация, что человекообразный робот София, произведенный гонконгской компанией «Hanson Robotics», получил гражданство Саудовской Аравии28.
Искусственный интеллект уже меняет нашу жизнь. Станет ли он благом или проблемой — во многом зависит от людей. Во всяком случае, определенные со-
робототехники» // Сайт Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо». URL: http://robopravo.ru/matierialy_dlia_ skachivaniia#ul-id-4-35 (дата обращения: 16.09.2018).
26 Модельная конвенция о робототехнике и искусственном интеллекте. Правила создания и использования роботов и искусственного интеллекта // URL: http://robopravo.ru/ modielnaia_konvientsiia (дата обращения: 16.09.2018).
27 Незнамов А. В., Наумов В. Б. Указ. соч.
28 Даная информация выглядит сомнительной, так как была озвучена модератором дискуссии на конференции «Инвестиционная инициатива будущего», проходившей в Эр-Рияде, и не была подтверждена официально (но и не была опровергнута). Во всяком случае, в настоящее время эта информация доступна на сайте Саудовского центра международных коммуникаций (URL: https://cic.org.sa/2017/10/saudi-arabia-is-first-country-in-the-world-to-grant-a-robot-citizenship/ (дата обращения: 16.09.2018)).
в
85
имени O.E. Кутафина (МГЮА)
циальные последствия его внедрение уже порождает. В сентябре 2016 г Герман Греф сказал, что Сбербанк через пять лет сможет принимать 80 % всех решений с помощью искусственного интеллекта. При этом Г Греф заметил: «Это означает, что в нашем случае десятки тысяч людей потеряют свою сегодняшнюю работу»29. В январе 2017 г зампред правления Сбербанка Вадим Кулик, выступая на Гайдаровском форуме в РАНХиГС, сообщил, что Сбербанк в 2017 г сократит 3 тысячи рабочих мест из-за робота-юриста, который будет выполнять функции соответствующих сотрудников, сокращениям по мере развития роботизации подвергнутся и другие специальности. Этот робот может сам писать исковые заявления. По словам В. Кулика, Сбербанк будет предлагать юристам пройти переобучение, но всех это не спасет от увольнений30.
Жюль Верн сказал: «Успехи науки не должны обгонять совершенствование нравов»31. Но зачастую бывает наоборот. Если наука и техника сумеют приблизиться к созданию реально мыслящего ИИ, аналогичного человеческому разуму, то, возможно, понадобятся временные ограничения на разработку таких систем, аналогично тому, как это сейчас сделано в отношении клонирования человека32, до тех пор, пока общество не будет готово разумно взаимодействовать с ИИ. А для этого нужно в том числе и преобразование правовых подходов к проблеме искусственного интеллекта.
БИБЛИОГРАФИЯ
1. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика / пер. с англ. Ю. А. Зуева, В. А. Точенова. — М. : Мир, 1992. — С. 5.
2. Ушаков Д. Н. Большой толковый словарь современного русского языка. — М., 2009. — С. 311.
3. Философский энциклопедический словарь. — М. : Советская энциклопедия, К
1989. — С. 215. Т
У
Ь
Ь I
гп П
Р □
Б Л m
гп
Греф: Сбербанк сможет принимать 80 % решений искусственным интеллектом // РИА р
Новости. URL: https://ria.ru/economy/20160908/1476449735.html (дата обращения: ^
16.09.2018). Д
Сбербанк в 2017 году сократит три тысячи рабочих мест из-за робота-юриста // РИА Но- 1
вости. URL: https://ria.ru/economy/20170112/1485611123.html (дата обращения: 16.09.2018). П
Верн Ж. Собрание сочинений в двенадцати томах. Т. 9. М., 1957. С.384. □
См.: Федеральный закон от 20.05.2002 № 54-ФЗ «О временном запрете на клонирова- □
ние человека» // СЗ РФ. 2002. № 21. Ст. 1917. ПРАВА
29
30
>
