CC BY
113
го см
о со см
см
3
£ <
СО О х
X £
К вопросу о правоспособности и дееспособности электронного профайла человека
Е. Н. Ирискина,
директор по правовым вопросам и корпоративному управлению, ЗАО «Элекард Девайсез»
elena.iriskina@elecard.ru
К. О. Беляков,
вице-президент по стратегическому развитию и внешним связям, ЗАО «Элекард Девайсез»
konstantin.belyakov@elecard.ru
П. П. Ананьев,
к. т. н., генеральный директор НП «ЦИГТ»
cigt@mail.ru
Статья посвящена проблеме правового регулирования отношений в сети Интернет. Стремительное развитие искусственного интеллекта, доступность сети Интернет, развитие цифровой реальности на уровне смешения с физической реальностью способно приводить к разного рода проблемам, в том числе правового характера. В работе предложены общетеоретические положения, относящиеся к проблеме правового регулирования цифровой реальности, а именно прав и обязанностей электронных профайлов человека.
Ключевые слова: правосубъектность, искусственный интеллект, интеллектуальные роботы, электронный профайл человека (ЭПЧ), электронная личность.
В настоящее время бурного развития и применения искусственного интеллекта миру уже стали известны первые прецеденты с участием роботов, обладающих искусственным интеллектом (далее — Робот). Все современные алгоритмы строятся на технологии самообучения. Роботы самостоятельно делают выводы о связях, сходствах, свойствах предметов и объектов. Предсказать результат работы алгоритма и решения, сделанные на его основе невозможно в принципе.
Если говорить о таком Роботе, как о личности, то для того, чтобы Роботу получить статус личности, необходимо обладать соответствующими признаками, а именно поступать не всегда разумно, делать ошибки и обманывать. Взаимосвязь разумного поведения и поведения человека отражена на рис. 1.
Человеческое поведение
Неразумное поведение человека
Тест Тьюринга
Разумное поведение
Разумное поведение, но человек так не поступает
Рис. 1. Поведение человека и разумное поведение [1]
С тестом Тьюринга для определения похожести на человека искусственный интеллект уже смог успешно справиться [2, 3]. Однако искусственному интеллекту недоступна человеческая рефлексия [4]. Вейценбаум писал, что не следует заменять человека в тех сферах, которые связаны с межличностными отношениями, например, заменять судью роботом [5]. Поэтому говорить о Роботе как о личности преждевременно, но имеет смысл говорить о Роботе, как о квазисубъекте права в перспективе. Но в будущем, возможно, понятие «электронной личности» заменит понятие «электронный профайл человека» (ЭПЧ).
На рис. 2 показано, что на данный момент искусственный интеллект обладает интеллектуальными способностями на уровне 4-летнего ребенка в силу недостаточно развитого логического мышления, но по тенденции развития, машинное мышление очень скоро превзойдет биологическое.
Приведем некоторые наиболее известные примеры современного поведения искусственного интеллекта. Разработчики из Швейцарии создали робота, который делал случайные покупки в магазинах Даркнета. Ему выделили денежные средства и отправили совершать случайные покупки, которые разработчики планировали потом показать на выставке. В итоге робот купил себе фальшивый венгерский паспорт и немного экстази [7]. Разработчики наделили Робота определенными правами и обязанностями, позволив самостоятельно совершать сделки, что привело к приобретению за-
Рис. 2. Сингулярность 2045, год когда искусственный интеллект превзойдет человека [6]
прещенного товара (наркотиков), а, следовательно, нарушению закона.
В ближайшем будущем использование самоуправляемых автомобилей станет доступно широкому кругу населения. Технический директор Volvo подтвердил, что самоуправляемые автомобили являются безопасным видом транспорта путем проведения эксперимента. Суть эксперимента заключалась в том, что человек встал на пути робоавтомобиля и перегородил ему дорогу на глубине 1,3 км под землей, в шахте на севере Швеции. Самоуправляемый автомобиль остановился и посигналил человеку [8]. Несмотря на эти эмпирические доказательства безопасности самоуправляемых транспортных средств они попадают в ДТП в том числе по своей вине. Например, самоуправляемый автомобиль попал в ДТП, в результате которого погиб человек [9]. Возможно, что причина была в техническом несовершенстве систем распознавания, либо в решении самоуправляемого алгоритма (Робота). Робот принял неверное решение или сделал неверный выбор, хотя мог сделать верный. Расследование еще не завершено.
При этом искусственный интеллект был наделен правами и обязанностями, свободой их осуществления. Вопросы ответственности за причинения вреда действиями Роботов в том числе ДТП по вине самоуправляемых автомобилей рассматривались, но предлагалось возлагать ответственность на определенные категории лиц, а не на Робота [10]. Искусственный интеллект будет принимать решение кого убить, а кого оставить жить в случаях, когда потерпевшие неизбежны. Митч Терк абсолютно уверен, что людям придется дать Роботам определенную свободу в принятии решений, в том числе решений убийства человека. Действительно, в том случае, если в алгоритмах не будет заложена такая свобода, они не смогут функционировать [11].
Кроме опасности робоавтомобилей появляются случаи, когда самоуправляемый автомобиль спасает человеку жизнь [12]. Ситуация имела место в Миссури,
человеку за рулем автомобиля стало плохо (внезапная закупорка легочной артерии или ее ветвей тромбами или другими эмболиями) в результате чего он был неспособен управлять автомобилем. Чтобы спастись, необходимо было сделать выбор между ожиданием скорой и доверием самоуправляемому автомобилю. Выбор был сделан в пользу Робота, который благополучно со скоростью 32 км/ч доставил человека в больницу. Кроме этого случая известен случай спасения жизни пилоту истребителя. Автоматическая система избегания столкновений с землей (Auto-GCAS — Automatic Ground Collision Avoidance System) переняла управление и выровняла полет самолета в тот момент, когда пилот потерял сознание и не мог управлять самостоятельно [13].
Искусственный интеллект применяется не только в самоуправляемых роботах, но и заменяет представителей профессий искусства, например IBM Watson и созданный им трейлер [14]. Искусственный интеллект способен собирать и обрабатывать большие данные, а также заниматься таргетированием рекламы.
Искусственный интеллект применяется во многих прикладных областях, в том числе в сети Интернет. В настоящее время сеть Интернет стала доступна широкому кругу населения. По оценкам экспертов, уже к концу 2011 г., количество пользователей сети Интернет превышало 2 млрд человек [4]. Профили в социальных сетях имеет большинство тех, кто имеет доступ в сеть Интернет. Многие вынуждены иметь какой-то след в сети Интернет, например, рабочую электронную почту с активным профайлом личности. Благодаря этому происходит размытие границ между цифровой и физической реальностью, смешение понятий реального и цифрового миров, выдвижение на первый план не реального человека, а его профиля в сети Интернет, так называемого виртуального образа или электронного профайла человека (далее — ЭПЧ). Виртуальный образ создается реальным человеком путем внесения персо-
h-о
СМ
о со сч
см
J <
со О
ho
CM
О CO CM
CM
J <
CQ
о
нальных данных в профиль, регистрацией на Интернет-сайтах, а также оставлением сообщений и комментариев. Актуальными становятся вопросы определения такого квазисубъекта гражданского права как ЭПЧ, наделение его правами и обязанностями.
В связи с развитием искусственного интеллекта и Роботов, как описано выше, неизбежен тот момент, когда ЭПЧ сможет отделиться от реального человека и заживет самостоятельной жизнью, т.е. будет обладать правами, обязанностями, совершать сделки и, возможно, не всегда в интересах реального человека, который его создал. Уже сейчас мы активно совершаем покупки в сети Интернет через свои ЭПЧ, привязываем номера банковских карт к профилям на различных сайтах. Позволяем производить регулярные платежи. Мы идем к тому, что искусственный интеллект будет принимать решения для нас и за нас. Но будут ли они всегда в пользу реального человека?
В данной статье предлагается рассмотреть ЭПЧ, обладающие искусственным интеллектом и определенной свободой действий в качестве квазисубъектов гражданского права. Под ЭПЧ будем понимать профиль (совокупность информации о субъекте существующем в цифровой реальности вне зависимости существует ли проекция реальной личности в реальном мире или нет) в социальной сети, либо на Интернет-сайте, самообучившийся и способный принимать решения самостоятельно, т. е. обладающий искусственным интеллектом. Под ЭПЧ также подпадают персональные ассистенты, которые в настоящее время не обладают искусственным интеллектом, и выполняют точно запрограммированные команды, но в ближайшем будущем смогут принимать решения самостоятельно, и возможно, также не всегда в пользу своего хозяина. Персональные ассистенты могут анализировать и оценивать поведение владельца по запросам и предсказывать его действия, его намерения, возможно, предсказывать противоправные действия.
Рассмотрим такие составляющие правосубъектности ЭПЧ, как правоспособность и дееспособность. Данная статья не затрагивает вопросы ответственности за причинение вреда ЭПЧ, так как частично эти вопросы были рассмотрены, и предлагалось ввести определенные категории лиц [10]. Возможно, что в будущем и Роботам понадобится правовой защитник.
В подтверждение неизбежности появления ЭПЧ, самостоятельности Роботов можно привести следующие примеры. В 2018 г. в Евросоюзе вступит в силу новая версия Общего положения о защите данных. Брюс Гудман и Сэт Флаксмен проанализировали документ и сделали вывод, что положение закрепит за европейцами «право на объяснение»: они смогут потребовать объяснить решение, которое приняли алгоритмы и которое касается их жизни [15]. ЭПЧ будут способны принимать решения самостоятельно. Им придется доказывать, что решение было законно и обосновано.
Facebook уже сегодня активно применяет прикладные возможности искусственного интеллекта для целей манипулирования сознанием реальных пользователей путем установления определенных рамок: самостоятельно подбирает им контент и друзей в соответствии с их интересами и взглядами. У Facebook есть возможность
рекомендовать друзей по геолокации [16]. Facebook следит за нами и предлагает нам добавить в друзья людей, которых мы, возможно, никогда не видели. Сайт учитывает много информации, такой как общие друзья, место работы, но полный перечень «слежки» остается скрытым [16]. Facebook регистрирует имена пользователей всех сайтов, на которых установлены кнопочки «like», «share». Следовательно, данную информацию он также может использовать для выбора «людей, которых вы можете знать». В статье рассматривается случай, когда Facebook предложил пациентам психиатра подружиться друг с другом [17]. Не низка вероятность, что Facebook может подобрать не только друзей, но и любовниц. У Facebook есть возможность использовать социальный граф, составленный на базе телефонных номеров из списка контактов в телефоне. Многие люди, не читающие правила использования сайта, не понимают, что Facebook имеет доступ к их контактам, если в телефоне установлено мобильное приложение Facebook. Следовательно, если в списке контактов есть люди, не знакомые друг с другом, то Facebook может, теоретически, предложить им познакомиться. В итоге у пользователей формируется крайне ограниченная картина мира, исчезает возможность заинтересоваться чем-то новым или услышать людей с альтернативными взглядами [18]. Реальные люди начинают жить в мире профилей, в котором реальные люди непрерывно публикуют информацию о себе, часто не соответствующую реальному положению дел, делятся успехами, молчат о неудачах, тем самым создавая электронную личность, которая имеет мало общего с реальной личностью, так называемое «конструирование имиджа». Качественно созданный профиль вызывает стойкие ассоциации с реальным человеком. Facebook позаботился о том, чтобы электронная личность жила, так называемый «аккаунт в памятном статусе». Никто не сможет войти в такой аккаунт. Это значимый шаг в направлении самостоятельного существования «электронных личностей» в цифровом мире.
Как видно из приведенных выше примеров, появление ЭПЧ является неизбежным и уже сегодня актуально предлагать законодателю возможные варианты решения будущих проблем и расширение правовых норм для регулирования новых будущих ситуаций. Это определяет актуальность темы и ее своевременность. Люди через ЭПЧ совершают множество юридически значимых действий, таких как покупка через Интернет услуг и товаров, оставление комментариев на различных сайтах, публикация статей. Мы живем в постиндустриальном способе организации общества, с преобладанием инновационной экономики, в которой работы и услуги зачастую оторваны от материального предложения. И, при появлении замкнутых циклов спроса-предложения могут представлять собой бесконечные экономические последовательности — отрыв нематериальных активов от реальной экономической основы. Это влечет за собой нереальные электронные суррогаты виртуальной экономики.
Любое действие остается в сети и часто не подлежит отмене. В таких условиях ЭПЧ достигает вначале ограниченной, а затем абсолютной самостоятельности, обладает свободой и абсолютно способна принимать
решения на уровне субъекта гражданско-правовых отношений. Неизбежно произойдет отрыв ЭПЧ от реального субъекта, при этом, если не ограничить ЭПЧ и не вмешаться с точки зрения правового регулирования, то неизбежным станет доминирование ЭПЧ над реальным субъектом.
Как известно, право в области регулирования цифровой реальности слабо развито. В данной ситуации актуальным является предлагать законодателю варианты решения вопроса регулирования Интернет-среды, электронных услуг, электронных профайлов человека.
Из существующих законов можно выделить Федеральный закон от 27.07.2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации», Федеральный закон от 27 июля 2006 г. № 152-ФЗ «О персональных данных».
Законодателю предлагается разработать и принять федеральный закон об ЭПЧ в сети Интернет в целях дополнения правового регулирования отношений, возникающих в сфере информации, информационных технологий и защиты информации, обеспечение защиты прав и свобод человека и гражданина.
В данный закон необходимо ввести понятие «электронный профайл человека» (ЭПЧ). Он должен регулировать отношения в правовом поле между ЭПЧ, оказание услуг посредством размещения информации об услуге ЭПЧ, отношения между ЭПЧ и реальными субъектами гражданского правоотношения, обеспечение прав и обязанностей ЭПЧ, обеспечение прав и обязанностей реальных субъектов по отношению к ЭПЧ.
В качестве обязательных положений в закон должно содержаться обязательство жесткой привязки ЭПЧ к реальной. Это положение государственного регулирования в сфере применения информационных технологий не имеет цели поставить под тотальный контроль государства всех граждан и виртуальный мир, а имеет цель предотвратить ущемление прав реальной личности посредством господства ЭПЧ, а также избежания фантомных бесконечных экономических последовательностей.
В федеральном законе следует предусмотреть объем прав и обязанностей ЭПЧ.
Реальная личность вправе самостоятельно определять объем прав, принадлежащих ЭПЧ. В зависимости от объема прав ЭПЧ будут различаться по силе.
Список использованных источников
1. https://c0mm0ns.wikimedia.0rg/wiki/File:Human_Behavi0ur.
2. Российский конкурент Siri признан лучшим искусственным интеллектом. http://www.cnews.ru/news/top/rossijskij_ konkurent_siri_priznan_luchshim.
3. Turing Test success marks milestone in computing history. http:// www.reading.ac.uk/news-and-events/releases/PR583836.aspx.
4. И. В. Цвык. Компьютерная этика и проблемы интеллектуальной безопасности//Вестник РУДН. Серия «Философия». 2013. № 3. С. 125-134.
5. Дж. Вейценбаум. От суждений к вычислениям. М., 1982.
6. Искусственный интеллект в 2013 г. не умнее четырехлетнего ребенка. http://yvek.ru/искусственный-интеллект/ искусственный-интеллект-в-2013.
7. What happens when a software bot goes on a darknet shopping spree? https://www.theguardian.com/technology/2014/dec/05/ software-bot-darknet-shopping-spree-random-shopper.
8. «Спасибо, что остановился»: топ-менеджер Volvo встал на пути беспилотного грузовика. https://meduza.io/shapito/2016/09/07/ spasibo-chto-ostanovilsya-top-menedzher-volvo-vstal-na-puti-bespilotnogo-gruzovika.
9. Tesla сообщила о первом смертельном ДТП при использовании автопилота и расследовании властей США. https://vc.ru/n/ tesla-fatal-crash.
10. Е. Н. Ирискина, К. О. Беляков. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений/Под ред. Г. В. Можаевой//Гуманитарная информатика: сб.статей. 2016. Вып. 10. С. 63-72.
11. An Autonomous Car Might Decide You Should Die. https://backchannel.com/reinventing-the-trolley-problem-85f3d1730756#.biqf2oczr.
12. Автопилот Tesla Model X спас жизнь водителю, безопасно доставив его в больницу после приступа. http://itc.ua/news/ avtopilot-tesla-model-x-spas-zhizn-voditelyu-bezopasno-dostaviv-ego-v-bolnitsu-posle-pristupa.
13. Автопилот истребителя F-16 спас жизнь летчику, потерявшему сознание из-за перегрузок. http://itc.ua/news/avtopilot-istrebitelya-f-16-spas-zhizn-letchiku-poteryavshemu-soznanie-iz-za-peregruzok-video.
14. Первый в мире трейлер фильма, смонтированный искусственным интеллектом. http://hi-news.ru/entertainment/pervyj-v-mire-trejler-filma-smontirovannyj-iskusstvennym-intellektom. html?utm_source=dlvr.it&utm_medium=facebook.
15. EU citizens might get a 'right to explanation' about the decisions algorithms make. http://fusion.net/story/321178/european-union-right-to-algorithmic-explanation.
16. Справочный центр. Связь с людьми, которых Вы можете знать. https://www.facebook.com/help/501283333222485.
17. Facebook рекомендовал пациентам психиатра подружиться между собой. Как он это узнал? http://nnm.me/blogs/ madrabbitt/facebook-rekomendoval-pacientam-psihiatra-podruzhitsya-mezhdu-soboy-kak-on-eto-uznal.
18. «Адвокат робота»: кто отвечает за преступления, которые совершают алгоритмы. https://vc.ru/p/robot-advocat.
19. J. Moor What is Computer Ethics?//Metaphilosophy. 1985. № 16. Р. 266-275.
20. Royakkers, LMM Lamber, Est, van QC Rinie. A Literature Review on New Robotics: Automation from Love to War//International Journal of Social Robotics. Vol. 7, No. 5. P. 549-570.
Заключение
Таким образом в работе сделан обзор положения дел в сфере развития искусственного интеллекта и его прикладного применения в сети Интернет. Предложено введение нового федерального закона «Об электронных профайлах человека». Предложено наделение ЭПЧ правами и обязанностями. Разработка и введение данного закона предотвратит ущемление прав реальной личности посредством господства ЭПЧ, а также должно предотвратить появление фантомных бесконечных экономических последовательностей. Введение в действие такого закона позволит России выйти на первый план в вопросах регулирования электронного пространства.
Revisiting legal status and capacity of a human's electronic profile
E. N. Iriskina, chief legal officer and corporate secretary, Elecard devices, CJSC.
K. O. Belyakov, vice-president of strategic development and external affairs, Elecard devices, CJSC.
P. P. Ananjev, candidate of technical sciences.
The article is devoted to issues with legal regulation of Internet relationships. There are many problems including legal problems due to rapid evolution of artificial intelligence, usability of Internet, combination digital reality and physical reality. General theoretical provisions referred to the issues of legal regulation of digital reality, namely the rights and responsibilities of a person's digital profile are proposed.
Keywords: Legal capacity, artificial intelligence, artificial intelligent robot, person's digital profile (EP^), digital persona.
ho
CM
о
CO N
CM
J <
CQ
о
