CC BY
20
Теория и практика общественного развития. 2021. № 11. С. Theory and Practice of Social Development. 2021. No. 11. P.
Научная статья УДК 34.096 https://doi.org/
Юнит искусственного интеллекта как субъект права: целесообразность и перспективы развития идеи в контексте цифрового банкинга
Андрей Владимирович Гаврилин1, Антон Андреевич Филатов2
12Финансовый университет при Правительстве Российской Федерации, Москва, Россия
1avgavrilin@fa.ru, https://orcid.org/0000-0002-9793-7726
2toiia.980@gmail.com
Аннотация. В настоящее время с развитием общественных отношений информационные технологии прочно вошли в нашу современную жизнь, что обусловливает необходимость правового регулирования этой сферы. Кредитно-финансовые организации в развитых и развивающихся странах постепенно отказываются от классического ведения бизнеса, отдавая предпочтение технологизации и цифровизации предоставления финансовых услуг. Это помогает им не только снизить издержки, но и расширить клиентскую базу, а также сферу влияния. Развитие получила также и технология искусственного интеллекта, которая обладает неограниченным потенциалом использования, в связи с чем многие коммерческие предприятия стремятся внедрить ее в свой бизнес для снижения издержек. Искусственный интеллект развивается достаточно быстро, что говорит о его возможности к самообучению и повышенной автономности. Все чаще в научных исследованиях ставится вопрос о субъективизации искусственного интеллекта, однако целесообразность этого пока остается дискуссионной.
Ключевые слова: банк, искусственный интеллект, юнит, современные технологии Для цитирования: Гаврилин А.В., Филатов А.А. Юнит искусственного интеллекта как субъект права: целесообразность и перспективы развития идеи в контексте цифрового банкинга // Теория и практика общественного развития. 2021. № 11. С. ... https://doi.org/...
Original article
Artificial intelligence unit as a subject of law: feasibility and prospects for the idea's development in the context of digital banking
Andrey V. Gavrilin1, Andrey A. Filatov2
12Financial University under the Government of the Russian Federation, Moscow, Russia
1avgavrilin@fa.ru, https://orcid.org/0000-0002-9793-7726
2toiia.980@gmail.com
Abstract. Currently, with the development of social relations, there is also a significant technological progress. Information technologies have firmly entered modern life, which necessitates appropriate legal regulation. In addition to specialized regulatory legal acts, most countries are developing their digital development strategies, including at the integration and international levels. All this has a significant impact on the development of the banking sector. A significant number of banks in developed and developing countries are gradually moving away (and some have moved away almost completely) from the classical banking business, giving priority to the provision of financial services to more technological methods. This helps not only to reduce the costs of credit institutions, but also to expand the client base and, as a consequence, the sphere of influence. In the second half of the 10s of the 21st century, the technology of artificial intelligence was greatly developed. This technology has unlimited potential, and therefore many commercial enterprises are seeking to introduce it into their businesses to reduce costs. However, over time, artificial Intelligence is developing quite rapidly, which suggests that it is capable of self-learning and increased autonomy. The question of subjectivization of artificial intelligence is increasingly being raised in scientific research, but the feasibility of this is still debatable.
Key words: bank, artificial intelligence, unit, modern technologies
For citation: Gavrilin, A.V., Filatov, A.A. (2021) Artificial Intelligence Unit as a subject of law: feasibility and prospects for the idea's development in the context of digital banking. Theory and Practice of Social Development. 165 (11), ........ Available from: doi:10.24158/tipor.2021.11.1. (In Russian)
© Гаврилин А.В., Филатов А.А., 2021
Одним из наиболее перспективных направлений в развитии информационных технологий, в том числе для банковского сектора, является технология искусственного интеллекта1. Существует множество ее интерпретаций. Например, в Национальной стратегии развития искусственного интеллекта в РФ2 указанная технология понимается как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с продуктом умственной деятельности человека. В наиболее общем виде искусственный интеллект представляет собой способность отдельной технологической единицы (так называемого юнита искусственного интеллекта - компьютерной программы, робота, системы) относительно самостоятельно выполнять поставленные перед ней интеллектуальные и творческие функции и задачи, присущие человеку, а также делать выводы и совершать действия на основе имеющихся данных. Из приведенного определения следует основная цель указанной технологии - повышение эффективности человеческой деятельности за счет более успешного выполнения отдельных операций с помощью соответствующих компьютерных программ и технических средств.
При этом невозможно отрицать тот факт, что с каждым годом юниты искусственного интеллекта становятся все более автономными. Они требуют все меньше человеческого присутствия. Некоторые виды деятельности ряда компаний (например, составление типовых исковых заявлений о взыскании просроченной задолженности в Сбербанке, робоэдвайзинг) практически полностью автоматизированы и нуждаются только в человеке-администраторе, который по большей части лишь контролирует ход производства, и в персонале, который выполняет преимущественно «вспомогательную» функцию (например, отвечает за внесение сведений о сумме иска, заполнение реквизитов документов, настройку пределов совершения сделок). Это наталкивает на мысль о возможной «полной замене» человека искусственным интеллектом в отдельных общественных сферах, в том числе в банковской. Учитывая неограниченный потенциал данной технологии, такое предположение представляется вполне реализуемым в определенной перспективе.
В связи со сказанным в юридической науке возникает все больше дискуссий о правовом положении юнитов искусственного интеллекта. Доктрина в отношении данного понятия находится на начальном этапе своего становления. Как следствие, появилось множество теорий и концепций, касающихся статуса искусственного интеллекта в современном обществе (Никитенко, 2020: 42). В их в основе лежит принципиальный вопрос: допустимо ли признание юнита субъектом права. Анализ отдельных концепций не является предметом исследования настоящей работы, поэтому мы лишь отметим, что каждая из них имеет как преимущества, так и недостатки. Однако представляется, что аспекту целесообразности субъективизации юнита искусственного интеллекта уделяется недостаточно внимания в современной науке.
В этой связи мы считаем необходимым рассмотреть указанное явление в свете необходимости изменения его юридического статуса. По нашему мнению, следует обратить пристальное внимание на допустимость введения данного института с точки зрения правосубъектности. Как справедливо заметила С.С. Горохова, определение юнитов искусственного интеллекта в качестве субъекта или объекта права связано с тем, что «современные технологии могут совершать юридически значимые действия, при этом зачастую оставаясь механизмом, лишенным признаков социализации» (Горохова, 2020: 26). Следует сделать оговорку, что согласно классическому подходу юридически значимые действия носят волевой характер и являются результатом волеизъявления. В силу отсутствия воли у юнита искусственного интеллекта данные действия нельзя признать юридически значимыми. Однако важна сама суть приведенного выше высказывания -юниты своими действиями (не в юридическом смысле) способны создавать юридические факты, которые приводят к возникновению, изменению или прекращению правоотношений (например, умеют подавать исковое заявление в суд от лица правообладателя юнита; могут участвовать в совершении сделок на организованных торгах). Следовательно, если технологический прогресс дойдет до такого уровня, когда у юнитов искусственного интеллекта появится относительно полная автономность (в качестве аналога воли), собственный интерес и мотивация, то наделение их абстрактной способностью иметь субъективные права и обязанности (правоспособность), реальной возможностью ими пользоваться (дееспособность) и нести ответственность за свои деяния (деликтоспособность) представляется теоретически допустимым. Но для этого требуется обосновать необходимость субъективизации носителей искусственного интеллекта.
1 Елкина В. Искусственный интеллект научился сочинять музыку, совсем как человек [Электронный ресурс] // Rusbase. URL: https://rb.ru/story/ai-composer/ (дата обращения: 17.10.2021).
2 Указ Президента РФ от 10.10.20l9 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») [Электронный ресурс]. Доступ из справ.-правовой системы «КонсультантПлюс».
Следует прокомментировать позицию некоторых ученых, которые развивают концепцию юнита искусственного интеллекта по модели юридического лица. Действительно, фактически интерес и воля юридического лица носят производный от причастных к его созданию и управлению физических лиц характер, но при этом само оно существует лишь «на бумаге» и не имеет материальной формы, в то время как юнит искусственного интеллекта характеризуется собственным физическим оформлением. Хоть он и представляет собой, по сути, компьютерную программу (или их совокупность), т. е. определенную последовательность символов, образующих код, однако необходимым условием функционирования юнита искусственного интеллекта является выражение его действий через конкретное техническое средство. В противном случае (т. е. при рассмотрении последовательности символов самой по себе, компьютерного кода как информации без внешнего выражения) юнит теряет свойство искусственного интеллекта. В связи с этим развитие идеи субъективизации носителей искусственного интеллекта по модели юридического лица допускается с большими условностями. Утверждение, что юридическое лицо тоже имеет материальное выражение в виде вещей (здания и т. п.), нельзя признать состоятельным, т. к. они являются самостоятельными объектами права.
Целесообразность введения правовой субъектности юнита искусственного интеллекта с сущностной точки зрения также дискуссионна. Если обратиться к приведенным ранее дефинициям и цели применения искусственного интеллекта, то можно сделать вывод, что данная технология создана для упрощения и (или) улучшения ряда человеческих функций. То есть по своей сути искусственный интеллект рассматривается как «инструмент», следовательно, как объект. При этом справедливо утверждение, что юридическое лицо также создается для более успешного достижения человеком определенных целей (коммерческой, социально-полезной и т. д.), а значит, тоже может рассматриваться как своего рода «инструмент». Но если в случае юридического лица цель может не достигаться за счет того, что воля физического лица не совпадает с волей компании (собрание участников приняло противоположное решение), то в случае с юнитом искусственного интеллекта цель может не достигаться лишь за счет технической ограниченности (человека или юнита) или сбоя, а не в результате принятого юнитом иного волевого решения. Таким образом, при рассмотрении главного вопроса работы крайне важна онтологическая постановка проблемы: преследует ли человечество задачу использования данной технологии лишь в качестве способа достижения определенных результатов либо оно относится к юнитам как к неким «младшим собратьям», которые с помощью технического прогресса впоследствии станут «самостоятельными личностями». Данный аспект выходит за рамки правового поля, однако более четко указывает на основания для возможной субъективизации юнитов искусственного интеллекта. Применительно к банковской сфере можно выделить ряд направлений, в которых субъ-ективизация искусственного интеллекта не является целесообразной, даже если юниты будут способны к высокому уровню самообучения: например, когда они действуют в качестве замены сотрудников банка, осуществляющих координирующие функции («улучшенная» версия голосового помощника на горячей линии и др.). Другой вопрос, когда юнит будет выступать в роли не представителя кредитной организации, чьи полномочия явствуют из обстановки (в контексте абзаца 2 п. 1 ст. 182 ГК РФ), а самостоятельного субъекта гражданских правоотношений (например, доверительный управляющий).
Целесообразность введения рассматриваемого института является спорной и с точки зрения юридической ответственности. В результате признания носителей искусственного интеллекта субъектами права ответственность за их действия перейдет с разработчиков и правообладателей юнитов на самих юнитов. Это приведет к тому, что в случае причинения вреда носителями данной технологии третьим лицам пострадавшим будет значительно сложнее получить компенсацию за понесенный ущерб в полной мере, т. к. ответственность виновника будет ограничена имуществом, находящимся на балансе юнита. Это представляется неправильным с политико-правовой точки зрения. При дальнейшем техническом прогрессе будет расти вариативность поведения юнитов искусственного интеллекта, негативные последствия которого должны «лечь на плечи» создателей. Именно разработчики данной технологии должны контролировать и предупреждать возможные последствия. Это может повысить качество искусственного интеллекта, хоть и, возможно, потребует больше времени. Особенно важен данный вопрос для банковской сферы, учитывая ее значимость для общественных отношений в связи со значительностью финансовых потоков. Именно банкинг является одной из наиболее зарегулированных отраслей.
Целесообразность введения института субъектности искусственного интеллекта с экономической точки зрения также нуждается в тщательном анализе. С одной стороны, это повлечет за собой ограничение ответственности производителя и правообладателя, т. к. юнит искусственного интеллекта будет нести самостоятельную ответственность в установленных пределах и способствовать развитию прогресса из-за меньшего количества сдерживающих факторов. С другой стороны, могут вырасти издержки на поддержание соответствия юнита всем установленным требованиям, в том числе издержки материального характера (государственные пошлины, отчисления в специальные фонды страхования и т. д.).
На данном этапе спрогнозировать экономическую выгоду от субъективизации юнитов искусственного интеллекта представляется проблематичным, т. к. достаточно сложно определить потенциальные нормативные требования для реализации этой идеи.
Необходимо также рассмотреть целесообразность введения понятия субъектности для юнитов искусственного интеллекта с точки зрения принадлежности результатов их деятельности. В мире известны случаи, когда юниты искусственного интеллекта создавали музыкальные и иные произведения1. При этом согласно ст. 1257 ГК РФ автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано. В результате возникает ситуация, когда сам юнит искусственного интеллекта (можно сказать, «фактический автор») de jure не может быть признан автором созданного им произведения. Но и разработчик юнита, по сути, не должен считаться автором такого произведения, т. к. оно не было прямо создано его творческим трудом. В результате возникает правовое противоречие. Данный пример является весомым аргументом для идеи субъективизации носителей искусственного интеллекта, что отражается в работах ученых (Морхат, 2017).
Таким образом, целесообразность идеи признания юнита искусственного интеллекта в качестве субъекта права зависит от уровня развития данной технологии. Допуская реализацию данной идеи в теории, следует задуматься о перспективах ее развития.
Как указывалось ранее, с учетом технического прогресса концепция субъективизации юнитов искусственного интеллекта находит все больше сторонников среди представителей юридического сообщества. На современном этапе идет активное изучение человеческого мозга, ассамблей нейронов, когнитивных функций человека (Баррат, 2015: 120). В случае успеха подобных проектов человечество качественно продвинется в развитии искусственного интеллекта и волевой автономности его носителей. Однако текущий прогресс не позволяет достоверно спрогнозировать временной горизонт этого события.
Существует классификация «слабого» и «сильного» искусственного интеллекта, созданная Дж. Серлом (Серл, 1990: 9). Признаками технологии, отнесенной к первой категории, являются ал-горитмизированность и ограниченность функционала детерминированными задачами. Носители такого типа искусственного интеллекта выполняют заданные программы без какого-либо осознания своей деятельности. К «сильному» относят искусственный интеллект, способный к самосознанию, имеющий продвинутый механизм принятия решений, в том числе выходящий за рамки поставленных задач. Представляется, что «слабый» искусственный интеллект не должен быть субъектом права, т. к. по своей сути он является именно инструментом, способом достижения целей и находится в зависимости от воли человека. Представляется, что, несмотря на единичные случаи воплощения (например, когда робот София стала гражданином Саудовской Аравии2), идея субъективизации искусственного интеллекта не будет реализована в ближайшей перспективе.
Таким образом, вопрос о признании юнита искусственного интеллекта субъектом права остается открытым. Несмотря на большой опыт человечества в моделировании «сильного» искусственного интеллекта в художественных произведениях, реализация данной технологии в обычной жизни на данный момент кажется практически невозможной. Более того, достаточно сложно однозначно определить предел технологического развития. Достоверно неизвестно, будет ли юнит подобен человеку в плане мышления, наличия собственной мотивации и полного самосознания своей сущности, либо он будет представлять собой всего лишь более совершенную компьютерную программу, способную к обучению, но действующую под контролем и (или) с помощью человека. Считаем, что в среднесрочной перспективе (10-15 лет) признавать субъектность юнита искусственного интеллекта нецелесообразно. Представляется, что такая позиция наиболее удобна и для банковской сферы, т.к. издержки по приведению юнитов в соответствие с потенциальным нормативным регулированием субъективизации искусственного интеллекта намного выше тех, которые несет банк, пока юниты продолжают оставаться объектом гражданских прав.
Список источников:
Баррат Дж. Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens. М., 2015. 306 с.
Горохова С.С. К вопросу о необходимости института правосубъектности искусственного интеллекта на современном этапе развития правового государства // Правовое государство: теория и практика. 2020. № 3 (61). С. 23-33. https://doi.org/10.33184/pravgos-2020.3.3.
Морхат П.М. Правосубъектность юнитов искусственного интеллекта и ответственность за их действия // Право и государство: теория и практика. 2017. № 11 (155). С. 30-36.
1 Искусственный интеллект в банковском секторе [Электронный ресурс] // Expert. URL: https://raexpert.ru/researches/banks/bank_ai2018/ (дата обращения: 17.10.2021).
2 Правда ли, что у робота-гражданки больше прав, чем у саудиток? [Электронный ресурс] // BBC News. Русская служба. URL: https://www.bbc.com/russian/features-4l778669 (дата обращения: 17.10.2021).
Никитенко С.В. Концепции правосубъектности искусственного интеллекта // Научные междисциплинарные исследования : сборник статей международной научно-практической конференции: в 2 ч. Саратов, 2020. Ч. 2. С. 39-50. Серл Д. Разум мозга - компьютерная программа? // В мире науки. 1990. № 3. С. 7-13.
References:
Barrat, Dzh. (2015) Poslednee izobretenie chelovechestva: iskusstvennyi intellekt i konets ery Homo sapiens [Humanity's Latest Invention: Artificial Intelligence and the End of the Era of Homo sapiens]. Moscow. 306 р. (in Russian).
Gorokhova, S. S. (2020) On the Issue of the Need for the Institution of Legal Personality of Artificial Intelligence at the Present Development Stage of the Rule-of-law State. Pravovoe gosudarstvo: teoriya i praktika. 3 (61), 23-33. Available from: https://doi.org/10.33184/pravgos-2020.3.3 (in Russian).
Morkhat, P. M. (2017) The Legal Personality of Artificial Intelligence Units and Responsibility for Their Actions. Pravo i gosudarstvo: teoriya i praktika. 11 (155), 30-36. (in Russian).
Nikitenko, S. V. (2020) Kontseptsii pravosub"ektnosti iskusstvennogo intellekta [Concepts of Legal Personality of Artificial Intelligence]. In: Nauchnye mezhdistsiplinarnye issledovaniya : sbornik statei mezhdunarodnoi nauchno-prakticheskoi konfer-entsii. Chast' 2. Saratov, рр. 39-50. (in Russian).
Serl, D. (1990) Razum mozga - komp'yuternaya programma? [The Mind of the Brain is a Computer Program?]. V mire nauki. 3, 7-13. (in Russian).
Информация об авторах А.В. Гаврилин - доцент департамента банковского дела и финансовых рынков Финансового университета при Правительстве Российской Федерации, Москва, Россия. https://www.elibrary.ru/author_items.asp?authorid=709376.
А.А. Филатов - магистрант юридического факультета Финансового университета при Правительстве Российской Федерации, Москва, Россия.
Information about the authors A.V. Gavrilin - Associate Professor, Banking and Financial Markets Department, Financial University under the Government of the Russian Federation, Moscow, Russia. https://www.elibrary.ru/author_items.asp?authorid=709376.
A.A. Filatov - Master's degree student, Department of Law, Financial University under the Government of the Russian Federation, Moscow, Russia.
Статья поступила в редакцию / The article was submitted 30.09.2021; Одобрена после рецензирования / Approved after reviewing 22.09.2021; Принята к публикации / Accepted for publication 02.11.2021.
