CC BY
35Жамият ва инновациялар -Общество и инновации -Society and innovations
Journal home page: https://inscience.uz/index.php/socinov/index
Responsibility of controlling persons for the work of artificial intelligence or piercing the electronic veil
Utkirbek KHOLMIRZAEV1
Tashkent State University of Law
ARTICLE INFO
Article history:
Received May 2021 Received in revised form 20 May 2021 Accepted 15 June 2021 Available online 15 July 2021
Keywords: artificial intelligence, liability for the work of artificial intelligence, tort liability, strict liability, controlling persons of corporation, piercing corporate veil, piercing the electronic veil.
ABSTRACT
The article discusses the issues of the legal status (legal personality) of artificial intelligence and the civil liability of the owner, operator and developer of artificial intelligence for work in the event of harm (piercing the electronic veil). The types of liability (tort, subsidiary, non-fault liability) and the cases of their application in the EU countries according to the report of the EU Expert Group are considered in detail. Also, an analysis of the responsibility of the controlling persons of the owner of artificial intelligence for its work is given. At the same time, it is also concluded that the responsibility of the controlling persons of the owner-a legal entity of artificial intelligence will be internal - he is responsible to the corporation, and the corporation to the victim. But external responsibility is not excluded - piercing the electronic veil. In addition, it has been clarified that it is premature and inappropriate to grant legal personality to artificial intelligence, although some scientists call for recognizing legal personality with a special set of rights and obligations, as was the case with a legal entity in the mid-19th century.
2181-1415/© 2021 in Science LLC.
This is an open access article under the Attribution 4.0 International (CC BY 4.0) license (https://creativecommons.org/licenses/by/4.0/deed.ru)
Сунъий интеллект фаолияти учун назорат цилувчи шахсларнинг жавобгарлиги ёхуд электрон пардани кутариш
Калит сузлар:
сунъий интеллект, сунъий интеллкт фаолияти учун жавобгарлик,
АННОТАЦИЯ
Ушбу ма;олада сунъий интеллектнинг хукуций ма;оми (хукук; лаёкати), унинг оператори, эгаси, ишлаб чикувчи шахсларнинг сунъий интеллект фаолияти натижасида етказилган зарар учун фу;аролик хукук;ий жавобгарлиги
1 Lecturer, Tashkent State University of Law, Tashkent, Uzbekistan. E-mail: [email protected].
зарар етказганлик учун жавобгарлик, ;атъий жавобгарлик, корпорациянинг назорат ;илувчи (бош;арувчи) шахслари,
корпоратив пардани ечиш, электрон пардани ечиш.
(piercing the electronic veil) масалалари куриб чи;илган. Бунда фу;аролик жавобгарликнинг турлари (деликт, субсидиар, айбни ани;ламай жавобгарлик) ва уларнинг кулланилиш х,олатлари Европа Иттифо;и Эксперт гурух,и х,исоботига мувофи; куриб чи;илган. Шу жумладан, сунъий интеллект эгаси булган корпорацияни бош;арувчи шахслари жавобгарлиги х,ам мух,окама ;илинган. Бунда хулосалардан бири шуки, бош;арувчи шахсларнинг сунъий интеллект иши учун жавобгарлиги ички жавобгарлик булиб, у юридик шахс олдида вужудга келади, юридик шахс эса даъвогар олдида жавобгар булади. Бундан таш;ари, ма;олада сунъий интеллектга хуку;ий лаёат (субъект сифатида) бериш ма;садга мувофи; эмаслиги х,а;ида хулоса ;илинган, гарчи 19 асрда корпорацияларга ху;у;ий лаё;ат бериш масаласи х,ам худди шундай бах,сларни келтириб чи;арган булса х,ам.
Ответственность контролирующих лиц за работу искусственного интеллекта или снятия электронного покрова
_ АННОТАЦИЯ_
Ключевые слова:
искусственный интеллект,
ответственность за работу
искусственного
интеллекта,
деликатная
ответственность,
строгая ответственность,
контролирующие лица
корпорации,
снятие корпоративного
покрова,
снятие электронного покрова.
В статье обсуждаются вопросы правового статуса (правосубъектность) искусственного интеллекта и гражданско-правовой ответственности владельца, оператора и разработчика искусственного интеллекта за работу в случае причинения вреда (piercing the electronic veil). Подробно рассмотрены виды ответственности (деликтная, субсидиарная ответственность без установления вины) и случаи их применения в странах ЕС согласно отчету Экспертной группы ЕС. Также, приводится анализ ответственности контролирующих лиц владельца искусственного интеллекта за ее работу. При этом также сделан вывод о том, что ответственность контролирующих лиц владельца-юридического лица искусственного интеллекта будет внутренним - он отвечает перед корпорацией, а корпорация перед потерпевшим, но не исключается и внешняя ответственность - piercing the electronic veil. Кроме того, выяснена преждевременность и нецелесообразность предоставления правосубъектности искусственному интеллекту, хотя некоторые ученые призывают признать правосубъектность с особым набором прав и обязанностей, как было с юридическим лицом в середине 19 века.
Цифровизация и появление искусственного интеллекта (далее - ИИ) приносят фундаментальные изменения в нашу среду, некоторые из которых имеют влияние на вопросы юридической ответственности. Такие изменения, в том числе возникают из-за некоторых особенностей высоких технологий, такие как:
(a) сложность (complexity),
(b) непрозрачность (opacity),
(в) открытость (openness),
(d) автономия (autonomy),
(e) предсказуемость (predictability),
(f) управляемость данными (data-driven ness)
(g) уязвимость (vulnerability) новых цифровых технологий [1].
Вопросы о юридической личности (правосубъектности) (Legal personality) искусственного интеллекта.
На протяжении многих лет учеными и специалистами выдвигались много предложений о предоставлении некой правосубъектности ИИ и роботам, даже некоторые из таких предложений относятся к прошлому столетию [2]. Также, в последнее время некоторые специалисты призывают Европейскую Комиссию создать законодательную базу для ответственности за действия ИИ (связанные с ИИ и роботами). Предлагалось рассмотреть вопроса предоставить роботам и ИИ «конкретный правовой статус» (хотя бы ограниченный), «применяя электронную правосубъектность», в качестве одного из решений проблемы ответственности.
Юридическая личность и правоспособность существует во многих формах и вменяется по-разному, даже в отношении физических лиц (например, дети) с определенными ограничениями. Особое внимание заслуживает правосубъектность корпораций, которые также являются конструкциями и считаются юридической фикцией. Корпорации, как особый субъект права, имеют ограниченный набор прав и обязанностей, что позволяет им заключить сделки, иметь право собственности, выступать истцом и ответчиком, и даже в некоторых правопорядках нести уголовную или административную ответственность. Сторонники предоставления ИИ и роботам юридическую личность не предлагают вменять им всех прав и обязанности физических лиц, а предоставить им только ограниченный набор прав и обязанностей. Теоретически, правосубъектность может состоять исключительно из обязательств, но такое решение не будет справедливым и полезным. Гражданская ответственность является производным явлением от обязательства и требует наличия соответствующих прав.
Тем не менее, большинство экспертов полагают, что в настоящее время нет необходимости придавать правосубъектность (статус юридического лица) ИИ и его новым проявлениям. Ответственность за вред, причиненный полностью автономными технологиями ИИ, как правило, возлагается на физических или юридических лиц, которые управляют или владеют этими технологиями. Но новые механизмы распределения ответственности за работу ИИ технологий между управляющими или владеющими лицами будет лучшим ответом права на риски новых технологий, чем создания новой категории юридической личности [1].
Предоставление правосубъектности новым явлениям может породить ряд этических проблем. Имеет смысл создать новых субъектов права, когда они помогают решить проблем, связанных с новыми цифровыми технологиями [3]. И главное следует учитывать, что создание электронной или цифровой юридической личности должно предусмотреть ответственность ее операторов или владельцев. Злоупотреблять ограниченной ответственности ИИ технологий является основанием привлечение к ответственности соответствующих физических лиц -операторов, владельцев и других управляющих. Данную проникающую
ответственность можно назвать метафорически - «снятие электронного покрова» (piercing the electronic veil) [4].
Ответственность за работу искусственного интеллекта (ИИ)
Хотя существующие виды и основания гражданской ответственности предлагают решения в отношении рисков, возникающих в связи с новыми цифровыми технологиями, они не всегда способствуют достижению справедливого и эффективного распределения ответственности и ущерба причиненного в результате работы искусственного интеллекта (ИИ). Также, существующие конструкции не позволяют справедливого распределения рисков и ответственности между корпораций-владельцем ИИ и физическим лицом -оператором ИИ, разработчиком-изготовителем ИИ. В результате отсутствия адекватного реагирования права на риски цифровых технологий, особенно ИИ, потерпевшие получают меньшую компенсацию или вообще не получают никакой компенсации по сравнению с эквивалентной ситуацией, связанной с человеческим поведением и традиционной технологией, доступ к правосудию становится неоправданно обременительно и дорого.
Одна из основных причин, по которой существующие режимы ответственности могут давать неудовлетворительные результаты, заключается в том, что убытки, связанные с ИИ, не распределяются между сторонами, которые в наибольшей степени способны нести эти убытки. Как правило, ущерб обычно ложится на самих жертв (casum sentit dominus), если только не существует убедительных причин для передачи его другой стороне. Традиционная деликтная ответственность не обеспечивает справедливость по причине очень сложности или иногда невозможности доказывания вины субъекта (оператора или разработчика) и особенно причинно-следственной связи между вредом и неправомерных действий причинителя. Ученые предлагают вменять строгую безвинную ответственность (Strict Liability) (независимо от того, презюмируется ли вина или нет) за убытки (например, за недостатки товаров), связанные с работой технологий ИИ [1]. Также, другие виды договорной ответственности может применяться параллельно.
Ущерб (Damage), причиненный, например, автономными алгоритмами на финансовых рынках, зачастую останутся без компенсации, поскольку некоторые правовые системы не обеспечивают защиту таких интересов с помощью деликтного права [1].
Причинность (Causation). Одним из условий деликтной ответственности является причинно-следственная связь. Как правило, потерпевшему необходимо доказать причинную связь. Однако, сложно, например, доказать, такую причинную связь, когда причинителем выступает умные высокие технологии.
Неправомерность действий оператора или владельца и вина. Традиционно, деликтная ответственность на неправомерные действия деликвента, что означает нарушение субъективны и объективных прав потерпевшего. Иногда действия оператора, которых он должен выполнять определяются заранее в инструкциях, предписывающих или запрещающих определенное конкретное поведение (например, правила эксплуатации в сфере трудовой безопасности). Однако, новые цифровые технологии затрудняют применение правил ответственности, основанных на нарушениях определенных правил, в связи с тем, что отсутствие
устоявшихся моделей надлежащего функционирования этих технологий и возможности их развития без прямого человеческого контроля.
Процессы, протекающие в системах искусственного интеллекта, не могут измеряться в соответствии с обязанностями по эксплуатации, предназначенными для человеческого поведения.
Субсидиарная ответственность (Vicarious Liability). Существующие в модели деликтного права различаются по своему подходу к привлечению субсидиарного ответчика к ответственности за поведение другого основного должника [5]. Некоторые предусматривают ответственность субсидиарного ответчика без дополнительных условий (за исключением представительства) [6].
Субсидиарная ответственность в национальном праве подразумевает строгой ответственности независимо от вины субсидиарного ответчика. Именно такой подход свойственен и к ответственности директора и других контролирующих лиц за убытки, связанные с работой технологии ИИ.
Строгая ответственность (Strict liability) без вины. Развитые правопорядки (например, английское право) начали реагировать на риски, вызванные новыми технологиями путем введения строгой ответственности, заменяя понятие ответственности за нарушения субъективных и объективных права с ответственностью независимо от вины [7, 8].
Строгая ответственность за работу высокотехнологичных машин (компьютеров, программного обеспечения и т.п.) до сих пор широко не известна даже в развитых правопорядках, кроме стран такие как Австрия, Бельгия и Германии [9]. Например, во Франции хранение вещи влечет за собой строгую ответственность за убытки и недостатки.
Преимущество строгой ответственности за убытки, связанные с высокими технологиями, особенно, с ИИ в том, что она освобождает потерпевшего от необходимости доказывать правонарушение и причинность. А перекладывание бремя доказывания вины, обеспечивает доступ к правосудию обычным гражданам - потерпевшим.
Проблематичным моментом является распределение ответственности корпорации - владельца технологии ИИ перед потерпевшим. Данный вопрос уже решается в рамках деликатного права, что означает возложение ответственности на определенных контролирующих лиц, которые управляли технологиями в режиме бек энд или фронт энд. Более современные подходы предусматривают пропорциональную ответственность, по каждому деликвенту.
Заключение. Самой справедливой моделью ответственности за работу технологий ИИ является строгая ответственность независимо от вины. Строгая ответственность должна возлагаться на лицо, которое контролирует риск, связанный с функционированием новых цифровых технологий и ИИ, также кто извлекает выгоду из их функционирования.
Если технологии эксплуатируются (управляются)двумя или более операторами, в частности:
(a) лицом, принимающим решение и получающее выгоду от использования, соответствующего технология (front-end оператор);
(b) лицом, постоянно определяющим особенности соответствующей технологии и обеспечение необходимой и постоянной поддержки back-end (backend оператор),
iMlSf 1РПГР
Ull lv"'" Жамият ва инновациялар - Общество и инновации - Society and innovations
Special Issue - 6 (2021) / ISSN 2181-1415
тогда строгая ответственность возлагается на лица, кто больше контролирует риски, связанные с функционированием технологий ИИ.
Таким образом, за работу искусственного интеллекта отвечает, в первую очередь его владелец - корпорация, а ответственность по этим обязательствам может возлагаться на директора в общих основаниях: в случае мошенничества, неправомерные действия, действия за рамки полномочия и тд.
Однако данная ответственность будет скорее всего внутренней, так как директор не сможет нести личную ответственность если же действия искусственного интеллекта не совершены им непосредственно.
БИБЛИОГРАФИЧЕСКИЕ ССЫЛКИ:
1. Liability for Artificial Intelligence and other emerging digital technologies. Report from the Expert Group on Liability and New Technologies - New Technologies Formation. European Union, 2019. doi:10.2838/573689. - С. 32.
2. L Solum, 'Legal Personhood for Artificial Intelligences', 70 NC L Rev 1231 (1992).
3. Abbott, Ryan Benjamin and Sarch, Alex F., Punishing Artificial Intelligence: Legal Fiction or Science Fiction (February 1, 2019). 53 UC Davis Law Review 1, 323 (2019), Available at SSRN: https://ssrn.com/abstract=3327485or http://dx.doi.org/10. 2139/ssrn.3327485.
4. U. Pagallo, 'Apples, oranges, robots: four misunderstandings in today's debate on the legal status of AI systems', in Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences 376 (2018). - P. 2133.
5. H. Koziol et al. (ed.), Product Liability - Fundamental Questions in a Comparative Perspective (World Tort Law Society series), Berlin: De Gruyter 2017, (fn 54), p. 795 ff.
6. F Wagner von Papp/ J Fedtke in European Tort Law: Basic Texts2 [fn 46] 144).
7. R Abbott, 'The Reasonable Computer: Disrupting the Paradigm of Tort Liability', 86 Geo. Wash. L. Rev. 1 (2018).
8. S Galand-Carval, 'Comparative Report on Liability for Damage Caused by Others', in J Spier (ed), Unification of Tort Law: Liability for Damage Caused by Others (2003), 289 (290).
9. BA Koch/H Koziol, 'Comparative Conclusions', in BA Koch/H Koziol (eds), Unification of Tort Law: Strict Liability (2002), p. 395 ff.
