человеко-ориентированного искусственного интеллекта в юридической теории и практике Текст научной статьи по специальности «Право»

Научная статья

УДК 340.143:004.8

EDN: https://elibrary.ru/sadrzw

DOI: https://doi.org/10.21202/jdtl.2023.24

з

%

Check for updates

Возможность и необходимость человеко-ориентированного искусственного интеллекта в юридической теории и практике

Андрей Владимирович Резаев О

Санкт-Петербургский государственный университет г. Санкт-Петербург, Российская Федерация

Наталья Дамировна Трегубова 0

Санкт-Петербургский государственный университет г. Санкт-Петербург, Российская Федерация

Аннотация

Цель: определение проблем, которые ставит распространение технологий искусственного интеллекта перед юридической теорией и практикой, и соотнесение этих проблем с человеко-ориентированным подходом к искусственному интеллекту (Human-Centered AI). Методы: исследование основано на критическом анализе релевантной литературы из разных дисциплинарных областей: юриспруденции, социологии, философии, компьютерных наук.

Результаты: в статье сформулированы основные перспективы и проблемы, которые ставит перед правовой системой развитие цифровых технологий в целом и алгоритмов искусственного интеллекта в частности. Выделенные проблемы соотнесены с положениями человеко-ориентированного подхода к искусственному интеллекту. Авторы утверждают необходимость того, чтобы разработчики программ искусственного интеллекта, владельцы компаний, участвующих в гонке по внедрению технологий искусственного интеллекта, сосредоточивались на том, чтобы люди и человек как базовая ценность общества находились в центре внимания. В частности, специальные усилия следует направить на сбор и анализ

Ключевые слова

Алгоритм, искусственная социальность, искусственный интеллект, право,

регулирование, социология, цифровая экономика, цифровые технологии, человек,

человеко-ориентированный искусственный интеллект

н Контактное лицо © Резаев А. В., Трегубова Н. Д., 2023

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

высококачественных данных для организации разработок инструментов искусственного интеллекта, поскольку сегодня алгоритмы искусственного интеллекта эффективны настолько, насколько эффективны данные, на которых они обучаются. Авторы формулируют три принципа человеко-ориентированного искусственного интеллекта для правовой сферы: 1) человек как необходимое звено в цепочке принятия и исполнения правовых решений; 2) необходимость регулирования искусственного интеллекта на уровне международного права; 3) формулировка «табу» для внедрения технологий искусственного интеллекта.

Научная новизна: статья представляет собой первую в русскоязычной научной литературе попытку обозначить перспективы развития области человеко-ориентированного искусственного интеллекта в юриспруденции. На основании анализа специальной литературы авторы формулируют три принципа включения искусственного интеллекта в юридическую теорию и практику с точки зрения человеко-ориенти-рованного подхода к искусственному интеллекту. Практическая значимость: принципы, сформулированные в статье, будут полезны как для правового регулирования технологий искусственного интеллекта, так и для гармоничного их включения в юридические практики.

Для цитирования

Резаев, А. В., Трегубова, Н. Д. (2023). Возможность и необходимость челове-

ко-ориентированного искусственного интеллекта в юридической теории

и практике. Journal ofDigital Technologies and Law, 7(2), 564-580. https://doi.

org/10.21202/jdtl.2023.24

Содержание

Введение

1. Цифровые технологии и право

2. Искусственный интеллект в юридической практике и теории: pro et contra

3. Человеко-ориентированный искусственный интеллект

Выводы

Список литературы Введение

В 1948 г. Норберт Винер, основатель кибернетики, писал: «Мы уже в состоянии построить искусственные машины почти со сколь угодно сложным поведением. Еще задолго до Нагасаки и до того, как общественности стало известно о существовании атомной бомбы, мне пришла мысль, что мы стоим перед лицом другой социальной силы, несущей неслыханные возможности для добра и для зла» (Винер, 1983).

Сегодня «искусственные машины» уже решают (или вскоре будут способны решить) многочисленные проблемы, с которыми сталкивается человечество. Однако

эти машины, без сомнения, создают и новые проблемы1. То, что Винер называл «искусственными машинами», сегодня в том или ином виде стало частью жизни общества, и нам уже сложно представить свою жизнь без технологий искусственного интеллекта. И не удивительно, что в последние годы было много информационного «шума» вокруг искусственного интеллекта и его потенциала кардинально изменить мир, в котором мы живем и работаем.

Цель наших размышлений - показать, что по мере того, как технологии искусственного интеллекта продолжают разрабатываться и внедряться в повседневную жизнь, в той же прогрессии растет необходимость, чтобы разработчики программ, владельцы старых и новых компаний, участвующих в гонке по внедрению новых инструментов, сосредоточивались в первую очередь на том, чтобы люди и человек как базовая ценность общества находились в центре внимания. Не цели одного человека или одной компании, не технологии и машины, но человек и отношение к человеку как мерилу нравственности и гуманизма. Понимая, что благостные призывы к гуманизму могут звучать абстрактно в логике технологически ориентированного развития, мы хотели бы более конкретно показать необходимость ориентироваться в работе с искусственным интеллектом в рамках подхода, который получил в научной литературе название Human-Centered AI (HCAI) - «человеко-ориентированный искусственный интеллект».

Проблема ориентации искусственного интеллекта на благо человека стоит во всех сферах жизни общества, но в некоторых из них - особенно остро. К ним относятся образование, медицина и юриспруденция, где цена ошибки - ошибки человека или алгоритма - является наиболее высокой. Юридические решения регулируют жизнь человека, его отношения с другими людьми, порой они касаются экзистенциальных вопросов - жизни, смерти, справедливости.

В данной статье мы рассматриваем, какие проблемы ставит распространение технологий искусственного интеллекта перед юридической теорией и практикой и как эти проблемы соотносятся с человеко-ориентированным подходом к искусственному интеллекту. Искусственный интеллект мы определяем как «ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил, которые организуют процессы, позволяющие имитировать интеллектуальные структуры, производить и воспроизводить целерациональные действия, а также осуществлять последующее кодирование и принятие инструментальных решений вне зависимости от человека» (Резаев, Трегубова, 2019).

Сегодня одним из определяющих факторов развития технологий искусственного интеллекта является онлайн-культура - «ансамбль (гармоническая совокупность) сетей коммуникаций, технических устройств, алгоритмов, формальных и неформальных правил взаимодействия, паттернов поведения, культурных символов, которые делают возможной и структурируют активность людей в сети Интернет и аналогичных сетях, обеспечивающих удаленный доступ к созданию, обмену и получению информации» (Резаев, Трегубова, 2019).

1 В подтверждение можно привести недавнее высказывание Сэма Альтмана, основателя компании OpenAI, в которой был разработан получивший широкую известность чат-бот ChatGPT: «Думаю, что сейчас мы находимся не там, где хотим быть. Есть весьма широкие границы того, что могут делать подобные системы, и эти границы должны определяться не Microsoft или OpenAI, а обществом, правительствами, чем-то в этом роде, людьми и прямой демократией. <...> Это совсем новая технология, и мы не знаем, как с ней обращаться». Bing's Revenge and Google's A.I. Face Plant. https://www.nytimes.com/2023/02/10/podcasts/bings-revenge-and-googles-ai-face-plant.html

Интернет обеспечивает как колоссальные объемы данных, на которых обучаются алгоритмы искусственного интеллекта, так и «площадку» для действия этих алгоритмов.

Как следствие одновременного развития вычислительных мощностей искусственного интеллекта и развития онлайн-культуры, искусственный интеллект все более включается в повседневную жизнь людей и отношения между ними. Возникает «искусственная социальность»: искусственный интеллект становится активным посредником и участником социальных взаимодействий (Резаев, Трегубова, 2019).

Проект искусственного интеллекта с самого своего начала имел а-дисциплинар-ный характер. Создатели искусственного интеллекта стремились воспроизвести человеческий интеллект и потому смело заимствовали нужные им положения из математики, психологии, кибернетики и т. д. (Рассел, Норвиг, 2007). Но если создание машин, воспроизводящих деятельность человеческого разума, требовало обращения к достижениям различных областей знания, то это тем более верно для понимания того, как эти машины входят в повседневную жизнь общества, взаимодействуют с людьми, встраиваются в общественные отношения. Иными словами, исследование проблем искусственной социальности должно иметь междисциплинарный, а в перспективе а-дисциплинарный характер. Поэтому в настоящей статье мы опираемся как на философский и социологический анализ проблем искусственного интеллекта, так и на результаты правовых исследований.

Дальнейшее рассуждение организовано следующим образом. Сначала мы обратим внимание на несколько принципиальных моментов, которые касаются внедрения цифровых технологий в юридические практики. Затем - на проблемы и перспективы стремительного проникновения искусственного интеллекта в повседневную жизнь общества, что изменяет характер правовой работы и структуру юридических систем. В завершение мы обратимся к человеко-ориентированному подходу к искусственному интеллекту и его следствиям для правовой сферы жизни общества.

1. Цифровые технологии и право

В самом общем виде суммируя влияние цифровых технологий на правовую систему, в первую очередь необходимо отметить следующее.

Во-первых, цифровые технологии упростили доступ к правовой информации через онлайн-базы данных, правовые поисковые системы и другие онлайн-ресурсы. Данное обстоятельство, соответственно, создало возможности для проведения онлайн-исследований, ориентированных на получение юридической информации, практически для каждого пользователя Интернета (а это почти 90 % населения РФ)2. Интернет революционизировал поиск во всех сферах жизни людей (Утехин, 2019), и юридическая информация не является исключением.

Во-вторых, цифровые технологии улучшили коммуникацию между юристами, клиентами и другими заинтересованными сторонами в правовой системе. К примеру, технология видео-конференц-связи позволяет юристам дистанционно общаться с клиентами, что расширило доступ к юридическим услугам для жителей отдаленных районов.

Дмитрий Чернышенко: Сегодня в России насчитывается около 130 миллионов интернет-пользователей - это практически 90 % населения. http://government.ru/news/46639/

2

В-третьих, цифровые технологии сделали возможными подачу и хранение юридических документов в электронном виде. Иными словами, организация юридических практик с помощью цифровых технологий значительно уменьшает потребность в бумажных документах и упрощает поиск и обмен информацией (Русакова, 2020; Степанов и др., 2021).

В-четвертых, цифровые технологии привели к автоматизации многих юридических процессов, таких как рутинная проверка документов и составление контрактов (включая так называемые смарт-контракты (Ефимова и др., 2020)). Соответственно, значительно уменьшилась потребность в рутинизированном ручном труде юристов и их помощников.

В-пятых, использование цифровых технологий в юридических практиках вызвало к жизни новые области права, такие как киберправо/право в киберпространстве (Мажорина, 2020), право интеллектуальной собственности и право защиты данных (Войниканис, 2020).

Таким образом, цифровые технологии уже оказали значительное влияние на развитие права, сделав юридические услуги и практики более доступными, эффективными и действенными. Вместе с тем практикующие юристы, специальная литература, массмедиа и ежедневный потребитель юридических услуг практически в один голос обращают внимание на тот факт, что цифровые технологии порождают новые проблемы для развития правовой системы. В первую очередь это проблемы конфиденциальности (Талапина, 2022) и доступности (Панченко, 2012) юридических баз данных, а также проблема критической оценки информации, полученной из Интернета (Грегер, 2017).

Современный этап развития цифровых технологий в онлайн-культуре с необходимостью предполагает обратить внимание на то, каким образом искусственный интеллект трансформирует и определяет дальнейшее развитие юридических практик, каковы плюсы и минусы для правоведов в использовании технологий искусственного интеллекта в повседневной юридической практике.

2. Искусственный интеллект в юридической практике и теории: pro et contra

Есть как преимущества, так и недостатки использования технологий искусственного интеллекта в повседневной юридической практике. К основным преимуществам можно отнести следующие:

- Эффективность в организации работы юристов. Технологии искусственного интеллекта автоматизируют и ускоряют решение таких задач, как просмотр документов, предварительные юридические исследования литературных источников, анализ контрактов (Талапина, 2021).

- Искусственный интеллект может выполнять определенные задачи с более высоким уровнем точности, чем люди. Например, выявлять закономерности в данных или проверять документы на наличие фактических ошибок или грамматических и стилистических несоответствий (Андреев и др., 2020).

- Очевидно, что использование технологий искусственного интеллекта, снижая потребность в ручном труде, обусловливает экономию средств юридических фирм и их клиентов.

- Технологии искусственного интеллекта предоставляют юристам более полную, многостороннюю и подробную информацию, позволяющую им принимать более обоснованные решения.

Среди основных недостатков использования искусственного интеллекта выделяются следующие:

- Общий минус использования искусственного интеллекта для всех профессий: происходит исчезновение одних профессий и появление других (Ли, 2019). Широкое использование технологий искусственного интеллекта в юридической практике пока еще потенциально, но очень скоро в обязательном порядке приведет к пересмотру номенклатуры рабочих мест в структуре юридической системы, особенно это будет касаться помощников юристов и другого вспомогательного юридического персонала (Лессиг, 2019).

- Системы искусственного интеллекта в той или иной степени являются трансляторами предвзятости, предубеждений, которые характерны для их создателей (Горохова, 2021). Алгоритмы искусственного интеллекта могут быть в той или иной степени предвзятыми или ошибочными в результате как минимум двух обстоятельств: а) если они основываются и разработаны на массивах данных, которые ошибочны и предвзяты; б) если они не используются должным образом. Отсюда внедрение технологий искусственного интеллекта предполагает поиски ответов на вопросы о том, как обеспечить справедливость и беспристрастность систем искусственного интеллекта.

- Технологии искусственного интеллекта, как и всякие технологии, несут в себе риски безопасности. Технологии искусственного интеллекта не могут обеспечить стопроцентную кибербезопасность (О'Нил, 2018). Искусственный интеллект может минимизировать, но не исключить полностью утечку данных или взлом. Соответственно, основа основ юридических практик - конфиденциальность - остается под угрозой при использовании технологий искусственного интеллекта.

Таким образом, использование технологий искусственного интеллекта в повседневной юридической практике очевидно обеспечивает многочисленные преимущества, но важно взвесить их с потенциальными рисками и недостатками. Юристы должны не только понимать возможности технологий искусственного интеллекта, но и тщательно продумать их использование, видеть их ограничения и потенциальные риски.

Кроме проблем использования искусственного интеллекта, которые уже проявляются в повседневной жизни, следует также иметь в виду и реальные проблемы, порождаемые повсеместным проникновением искусственного интеллекта в юридические практики:

- Проблемы, касающиеся конфиденциальности. Для эффективной работы системам искусственного интеллекта часто требуется доступ к большим объемам персональных данных, что вызывает опасения по поводу конфиденциальности и защиты данных. Регуляторы и законодатели должны найти баланс между защитой частной жизни и продвижением инноваций в сфере искусственного интеллекта (Горохова, 2021).

- Юридическая ответственность за те или иные действия, совершаемые искусственным интеллектом. По мере того, как системы искусственного интеллекта становятся более автономными и принимают решения без вмешательства человека, возникают вопросы о том, кто несет ответственность за их действия (Вавилин, 2021; Батурин, Полубинская, 2022). Например, если автомобиль без водителя, основанный

на работе искусственного интеллекта, стал причиной аварии, должны ли нести ответственность производитель, владелец или сама система искусственного интеллекта (Руденко, 2020)? На кого следует возлагать ответственность, когда что-то идет не так в других случаях использования инструментов искусственного интеллекта? Кто несет ответственность за несчастные случаи или ошибки, вызванные системой искусственного интеллекта: программист, владелец или сам искусственный интеллект? Это юридические вопросы уже сегодняшнего дня.

- Вопросы, касающиеся интеллектуальной собственности на продукты, созданные технологиями искусственного интеллекта (Lee et al., 2021). Например, кого считать изобретателем или художником, если система искусственного интеллекта создает произведение искусства или изобретает новую технологию?

- Принципиальным моментом становится использование инструментов искусственного интеллекта (таких, например, как ChatGPT) для юридической интерпретации документов и применения юридических норм, особенно в отношении сложного и нюансированного характера юридического обоснования того или иного решения. Есть все основания опасаться, что искусственный интеллект не сможет полностью охватить человеческие рассуждения и суждения, необходимые для эффективного принятия юридических решений (Цветков, 2021).

- Отсутствие общения и реальных человеческих контактов. Это очень существенный недостаток для юридических практик, которые по определению могут затрагивать экзистенциальные проблемы жизни и смерти, ограничение свободы человека. Сами судьи отмечают: правосудие невозможно без целостного видения ситуации, включающего моральные и эмоциональные аспекты, - без того, что недоступно искусственному интеллекту (Быков, Нарская, 2022).

Следует отметить, что сам вопрос, следует ли регулировать технологии искусственного интеллекта и как именно это делать, является предметом обсуждения (Etzioni & Etzioni, 2017). Принципы здесь только начинают вырабатываться, причем «пионерами» часто выступают законодатели Европейского союза (Hickman & Petrin, 2021; Fink & Finck, 2022; Ulnicane, 2022). В России также ведется работа по юридическому регулированию технологий искусственного интеллекта: в 2019 г. была принята Национальная стратегия развития искусственного интеллекта на период до 2030 г.3, в которой прописаны базовые определения и общие принципы использования технологий искусственного интеллекта.

Таким образом, развитие искусственной социальности представляет и практическую, и концептуальную проблему для юриспруденции. Практическую - в отношении того, как технологии искусственного интеллекта будут менять юридические практики, концептуальную - в отношении их правового регулирования.

Нам представляется, что набор проблем, которые уже возникли и обязательно будут возникать в самом ближайшем будущем в юридической практике, можно решать более продуктивно с помощью подхода, который получил название «челове-ко-ориентированный искусственный интеллект» (Human-Centered AI).

О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации. http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWANwVtMOfPDhcbRpvd1HCCsv.pdf

3

3. Человеко-ориентированный искусственный интеллект

Подход, который получил в научной литературе название Human-Centered AI (Ford et al., 2015; Shneiderman, 2021)4, предполагает в первую очередь понимание очень простого факта: люди и машины - не одно и то же5. Нет необходимости ориентироваться на то, чтобы сделать абсолютно подобный человеку инструмент искусственного интеллекта. Напротив, скорее всего, успех будет в противоположном направлении, когда человек останется человеком со своим интеллектом, сознанием, подсознанием и эмоционально-духовным миром, а машины и алгоритмы будут разрабатываться человеком и в «самообучении» следовать своей, отличной от человека логике развития.

К сожалению, данным обстоятельством, как, впрочем, и в целом человеко-ориен-тированным подходом, пренебрегают. Большинство технологических лидеров в США и других странах продолжают тратить значительные средства на разработку программного обеспечения, которое может делать то же самое, с чем прекрасно справляются люди. Разработчики отчетливо осознают, что могут легко заработать, продавая свои продукты корпорациям, у которых нет других ориентаций в своем развитии, кроме тех, что заданы логикой рынка и получения прибыли (Зубофф, 2022). Все сосредоточены на использовании искусственного интеллекта для сокращения затрат на рабочую силу, мало заботясь о сути социального прогресса и развитии нравственного человека и справедливого общества.

Human-Centered AI требует уделять первоочередное внимание сбору и анализу высококачественных данных для организации разработок инструментов искусственного интеллекта. Алгоритмы искусственного интеллекта эффективны ровно настолько, насколько эффективны данные, на которых они обучаются, а предвзятые или неполные данные могут привести не только к несправедливым/ложным, но и к прямо противоположным первоначальной цели результатам. Сбор информации для самообучающихся моделей должен быть не только разнообразным, но и репрезентативным, данные должны отражать реальный мир, в котором мы живем, и людей, с которыми мы работаем, вне зависимости от их социальных и классовых различий.

Мы уже обращали внимание на тот факт, что при современном этапе развития капитализма, в ситуации предельной ориентации на финансовые показатели, прибыль и функциональную эффективность, практически невозможно обеспечить решение этих проблем (Rezaev, 2021)6. Тем не менее вообще их не рассматривать, не пытаться предлагать варианты их решения - неправильная тактика развития социальных наук.

Следует отметить, что в 2019 г. в Стэнфордском университете США был организован Институт человеко-ориентированного искусственного интеллекта (Stanford University Human-Centered AI) -крупнейший исследовательский центр по данной проблематике.

В философии и социальных науках это суждение высказывалось неоднократно. См. (Дрейфус, 1978; Wolfe, 1993; Esposito, 2017).

Так, Илон Маск (на его деньги была создана компания OpenAI, которая разработала ChatGPT) с очевидным сожалением сказал, что он давал деньги (1 млрд долларов) на то, чтобы была создана открытая платформа, ориентированная на бесплатный и открытый доступ, а сейчас ChatGPT представляет собой прямо противоположную модель - закрытую и полностью ориентированную на прибыль. Причем в настоящий момент Илон Маск уже не имеет никакого контроля ни над OpenAI, ни над ChatGPT. Elon Musk at the 2023 World Government Summit in Dubai. https://www.youtube. com/watch?v=jmNrlNgXx_U&ab_channel=ElonAlerts

4

5

6

Рынок никогда не был и не может быть (даже в условиях искусственной социальности) высшим мерилом красоты, добра и истины. Стратегически социальное знание обосновало невозможность гармоничного, нравственного и справедливого мира, где нет эксплуатации человека человеком и отсутствует социальное и культурное неравенство, в системе координат капиталистического хозяйствования7. Но вот какие существуют проблемы для общества и каковы варианты траекторий развития общества в условиях пока еще бесконтрольного распространения инструментов искусственного интеллекта - темы, которые явно с запозданием только начинают рассматриваться.

Характеризуя особенности развития искусственного интеллекта, следует иметь в виду, что данные технологии не являются нейтральными по своей сути. Они созданы людьми и отражают ценности, предубеждения, предрассудки их создателей. Отсюда при создании инструментов искусственного интеллекта следует с необходимостью придерживаться этического и ориентированного на человека подхода к разработке и развертыванию систем искусственного интеллекта. В том числе это означает учет различных точек зрения и мнений в процессе проектирования, обеспечение прозрачности и подотчетности, а также уделение приоритетного внимания человеческой личности, благополучию общества в целом, а не отдельных субъектов или технологических систем.

Принципиальным моментом остается понимание того, что инструменты искусственного интеллекта действительно уже сейчас являются мощным средством для решения некоторых из самых насущных проблем, стоящих перед обществом, но это не панацея. Определяя и формулируя направления общественного развития, нельзя полагаться исключительно на искусственный интеллект при решении социальных и экономических, культурных и политических проблем. Даже в условиях «искусственной социальности» люди должны оставаться в реальности человеческого опыта и признавать, что социальный прогресс требует большего, чем простые технологические решения.

7 К примеру, «Богатство народов» Адама Смита. Хотя Смита часто считают первым теоретиком политической экономии и основным защитником капитализма, его работы критически относятся ко многим аспектам капиталистического хозяйствования. Так, он утверждает, что погоня за прибылью может привести к отсутствию заботы о благополучии рабочих и общества в целом и что для обеспечения справедливого и равноправного общества необходима определенная форма государственного вмешательства. Карл Поланьи в работе «Великая трансформация» утверждает, что капитализм - исторически недавно возникшее явление, которое породило абсолютно негативные последствия для развития общества, включая превращение труда в товар, разрушение традиционного образа жизни и подъем националистических и фашистских движений. Торстейн Веблен в «Теории праздного класса» показывает, что капитализм создает культуру демонстративного потребления и расточительства, при которой люди ценятся за их способность потреблять и демонстрировать богатство, а не за их вклад в общество. Современная исследовательница из Канады Наоми Кляйн утверждает, что капитализм часто навязывается обществу посредством насилия и принуждения и что он часто используется богатой элитой как средство сохранения политической и экономической власти (Klein, 2007). Более подробно см. (Harvey, 2014).

Выводы

Настоящее рассуждение начиналось цитатой Норберта Винера - отца-основателя кибернетики. Завершим его суждениями одного из основателей области исследований искусственного интеллекта Джозефа Вейценбаума. Вейценбаум утверждал, что использование вычислительных машин следовало бы запретить или, по меньшей мере, ограничить в двух случаях (Вейценбаум, 1982). Первый случай связан с попытками заменить человека машиной в сферах, связанных с межличностными отношениями, любовью, пониманием. Второй случай - использование компьютеров в ситуации, когда оно может привести к необратимым последствиям. Вейценбаум, как нам представляется, удачно формулирует базовые положения человеко-ориентиро-ванного искусственного интеллекта, которые касаются распространения технологий искусственного интеллекта в целом и использования их в теории и практике юриспруденции в частности.

В заключение сформулируем три принципа включения искусственного интеллекта в юридическую теорию и практику с точки зрения человеко-ориентированного подхода к искусственному интеллекту.

Первое. Человек всегда должен оставаться в цепочке принятия/исполнения юридических решений. Данный тезис неоднократно формулировался и отечественными (Степанов и др., 2021), и зарубежными (Лессиг, 2019) правоведами. Технологии искусственного интеллекта могут брать на себя многие задачи в юридической практике, но контролировать, проверять, осмысливать, взвешивать действия и решения искусственного интеллекта должен человек.

Второе. Сегодня мы стоим перед необходимостью разработки законов, определяющих рациональный и понятный modus Vivendi для деятельности искусственного интеллекта в социальных системах, ориентированных на человека, а не на прибыль и рынок. Это почти невозможно сделать в рамках одного государства, особенно если это капиталистическое государство. Вот почему мир стоит перед необходимостью создания международного права в области искусственного интеллекта. Закон, как и любое правило, может быть нарушен - по недоразумению или по злому умыслу. Однако нарушение закона не отменяет самого закона, нарушение просто выявляет злонамеренных лиц, извративших закон.

Третье. Развитие искусственного интеллекта ставит вопрос о необходимости запретов, в том числе юридических, своего рода табу на использование искусственного интеллекта в некоторых сферах жизни человека (Rezaev, 2021). Прежде всего, это сферы, связанные с экзистенциальными вопросами. Например, большой вопрос -следует ли использовать искусственный интеллект, чтобы установить, лжет ли человек (Oravec, 2022), или может ли искусственный интеллект выступать автономным оружием (International Committee, 2020). Определение таких сфер на международном, национальном и локальном уровнях, формулировка правовых запретов и создание механизмов правоприменения - одна из важнейших задач для человеко-ориентиро-ванного искусственного интеллекта.

Список литературы

Андреев, В. К., Лаптев, В. А., Чуча, С. Ю. (2020). Искусственный интеллект в системе электронного

правосудия при рассмотрении корпоративных споров. Вестник Санкт-Петербургского университета.

Право, 1, 19-34. https://doi.org/10.21638/spbu14.2020.102

Батурин, Ю. М., Полубинская, С. В. (2022). Искусственный интеллект: правовой статус или правовой

режим? Государство и право, 10, 141-154. https://doi.org/10.31857/s102694520022606-7 Быков, А. В., Нарекая, А. И. (2022). Закон, мораль и машинное обучение: взгляд судей на сущность и перспективы роботизации правосудия. Мониторинг общественного мнения: экономические и социальные перемены, 5, 278-298. https://doi.Org/10.14515/monitoring.2022.5.2137 Вавилин, Е. В. (2021). Искусственный интеллект как участник гражданских отношений: трансформация права. Вестник Томского государственного университета. Право, 42, 135-146. https://doi. org/10.17223/22253513/42/11 Вейценбаум, Дж. (1982). Возможности вычислительных машин и человеческий разум. От суждений

квычислениям. Москва: Радио и связь. Винер, Н. (1983). Кибернетика, или управление и связь в животном и машине (2-е изд.). Москва: Наука;

Главная редакция изданий для зарубежных стран. Войниканис, Е. А. (2020). Регулирование больших данных и право интеллектуальной собственности:

общие подходы, проблемы и перспективы развития. Закон, 7, 135-156. Горохова, С. С. (2021). Искусственный интеллект: инструмент обеспечения кибербезопасности финансовой сферы или киберугроза для банков. Банковское право, 1, 35-46. https://doi.org/10.18572/1812-3945-2021-1-35-46

Грегер, Р. (2017). Судья как интернет-серфер. Выяснение обстоятельств дела в Интернете. Вестник

гражданского процесса, 7(4), 161-173. https://doi.org/10.24031/2226-0781-2017-7-4-161-173 Дрейфус, Х. (1978). Чего не могут вычислительные машины: Критика искусственного разума. Москва: Прогресс.

Ефимова, Л. Г., Михеева, И. В., Чуб, Д. В. (2020). Сравнительный анализ доктринальных концепций правового регулирования смарт-контрактов в России и в зарубежных странах. Право. Журнал Высшей школы экономики, 4, 78-105. https://doi.org/10.17323/2072-8166.2020.4.78.105 Зубофф, Ш. (2022). Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах

власти. Москва: Изд-во Института Гайдара. Лессиг, Л. (2019). Искусственный интеллект вытеснит широкий пласт юристов. Закон, 5, 8-30. Ли, К.-Ф. (2019). Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой

порядок. Москва: Манн, Иванов и Фербер. Мажорина, М. В. (2020). Киберпространство и методология международного частного права. Право.

Журнал Высшей школы экономики, 2, 230-253. https://doi.org/10.17323/2072-8166.2020.2.230.253 О'Нил, К. (2018). Убийственные большие данные. Как математика превратилась в оружие массового поражения. Москва: АСТ.

Панченко, В. Ю. (2012). Информационная доступность юридической помощи: идеальная модель

и реальное состояние. Аграрное и земельное право, 11 (95), 95-102. Рассел, С., Норвиг, П. (2007). Искусственный интеллект: современный подход (2-е изд.). Москва: Вильямс. Резаев, А. В., Трегубова, Н. Д. (2019). «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий. Мониторинг общественного мнения: Экономические и социальные перемены, 6, 35-47. https://doi.org/10.14515/monitoring.2019.6.03 Руденко, Н. И. (2020). Социотехнические барьеры разработки беспилотных автомобилей в России. В кн. Л. В. Земнухова и др. Приключения технологий: барьеры цифровизации в России (с. 17-70). Москва - Санкт-Петербург: ФНИСЦ РАН. https://doi.org/10.31119/978-5-89697-339-3 Русакова, Е. П. (2020). Интегрирование современных цифровых технологий в судопроизводство Китайской Народной Республики и Сингапура. Государство и право, 9, 102-109. https://doi.org/10.31857/ s102694520011323-6

Степанов, О. А., Печегин, Д. А., Дьяконова, М. О. (2021). К вопросу о цифровизации судебной деятельности.

Право. Журнал Высшей школы экономики, 5, 4-23. https://doi.org/10.17323/2072-8166.2021.5.4.23 Талапина, Э. В. (2021). Искусственный интеллект и правовые экспертизы в государственном управлении. Вестник Санкт-Петербургского университета. Право, 4, 865-881. https://doi.org/10.21638/ spbu14.2021.404

Талапина, Э. В. (2022). Право на информационное самоопределение: на грани публичного и частного.

Право. Журнал Высшей школы экономики, 15(5), 24-43. Утехин, И. (2019). Поиск и его интерфейсы. Laboratorium: журнал социальных исследований, 11(1),

152-165. https://doi.org/10.25285/2078-1938-2019-11-1-152-165 Цветков, Ю. А. (2021). Искусственный интеллект в правосудии. Закон, 4, 91-107.

Esposito, E. (2017). Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für

Soziologie, 46(4), 249-265. https://doi.org/10.1515/zfsoz-2017-1014 Etzioni, A., & Etzioni, O. (2017). Should Artificial Intelligence Be Regulated? Issues in Science and Technology, 33(4), 32-36.

Fink, M., & Finck, M. (2022). Reasoned A(I)administration: explanation requirements in EU law and the automation

of public administration. European Law Review, 47(3), 376-392. Ford, K. M., Hayes, P. J., Glymour, C., & Allen, J. (2015). Cognitive Orthoses: Toward Human-Centered AI.

AI Magazine, 36(4), 5-8. https://doi.org/10.1609/aimag.v36i4.2629 Harvey, D. (2014). Seventeen Contradictions and the End of Capitalism. Oxford: Oxford University Press. Hickman, E., & Petrin, M. (2021). Trustworthy AI and Corporate Governance: The EU's Ethics Guidelines for Trustworthy Artificial Intelligence from a Company Law Perspective. European Business Organization Law Review, 22, 593-625. https://doi.org/10.1007/s40804-021-00224-0 International Committee of the Red Cross (2020). Artificial intelligence and machine learning in armed conflict: A human-centred approach. International Review of the Red Cross, 702(913), 463-479. https://doi. org/10.1007/s40804-021-00224-0 Klein, N. (2007). The Shock Doctrine: The Rise of Disaster Capitalism. New York: Henry Holt. Lee, J.-A., Hilty, R. M, & Liu, K.-C. (Eds.). (2021). Artificial Intelligence and Intellectual Property. Oxford: Oxford University Press.

Oravec, J. A. (2022). The emergence of "truth machines"? Artificial intelligence approaches to lie detection.

Ethics and Information Technology, 24, 6. https://doi.org/10.1007/s10676-022-09621-6 Rezaev, A. V. (2021). Twelve Theses on Artificial Intelligence and Artificial Sociality. Monitoring of Public Opinion:

Economic and Social Changes, 1, 20-30. https://doi.org/10.14515/monitoring.2021.1.1894 Shneiderman, B. (2021). Human-centered AI. Issues in Science and Technology, 37(2), 56-61. Ulnicane, I. (2022). Artificial Intelligence in the European Union: policy, ethics and regulation. In T. Hoerber, I. Cabras, G. Weber (Eds.). Routledge Handbook of European Integrations (pp. 254-269). London: Routledge. https://doi.org/10.4324/9780429262081-19 Wolfe, A. (1993). The Human Difference: Animals, Computers, and the Necessity of Social Science. Berkeley: University of California Press.

Сведения об авторах

Резаев Андрей Владимирович - доктор философских наук, профессор, руководитель Международной исследовательской лаборатории ТАНДЕМ, Санкт-Петербургский государственный университет

Адрес: 191124, Российская Федерация, г. Санкт-Петербург, ул. Смольного, 1/3 E-mail: [email protected] ORCID ID: https://orcid.org/0000-0002-3918-835X

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=13004674100 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/K-3472-2013 Google Scholar ID: https://scholar.google.ru/citations?user=Uzv39ccAAAAJ РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=648768

Трегубова Наталья Дамировна - кандидат социологических наук, доцент кафедры сравнительной социологии, Санкт-Петербургский государственный университет

Адрес: 191124, Российская Федерация, г. Санкт-Петербург, ул. Смольного, 1/3

E-mail: [email protected]

ORCID ID: https://orcid.org/0000-0003-3259-5566

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=56645016900 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/K-3487-2013

Google Scholar ID: https://scholar.google.com/citations?user=8dhGr3gAAAAJ&hl

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=832705

А. В. Резаев и Н. Д. Трегубова внесли равный вклад как в формулировку ключевых положений статьи, так и в подготовку рукописи к публикации.

Конфликт интересов

Авторы заявляют об отсутствии конфликта интересов.

Финансирование

Исследование выполнено при финансовой поддержке РФФИ и Министерства по науке и технологиям Тайваня в рамках научного проекта № 21-511-52002.

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: OM / Law

Рубрика ГРНТИ: 10.07.49 / Планирование и прогнозирование в праве Специальность ВАК: 5.1.1 / Теоретико-исторические правовые науки

История статьи

Дата поступления - 3 марта 2023 г. Дата одобрения после рецензирования - 4 мая 2023 г. Дата принятия к опубликованию - 16 июня 2023 г. Дата онлайн-размещения - 20 июня 2023 г.

Research article

DOI: https://doi.org/10.21202/jdtl.2023.24

3

%

Check for updates

Possibility and Necessity of the Human-Centered Artificial Intelligence in Legal Theory and Practice

Andrey V. Rezaev H fö

Saint Petersburg State University Saint Petersburg, Russian Federation

Natalia D. Tregubova ©

Saint Petersburg State University Saint Petersburg, Russian Federation

Keywords

Abstract

Algorithm, artificial intelligence, artificial sociality, digital economy, digital technologies, human,

human-centered artificial

intelligence,

law,

regulation, sociology

Objective: the paper aims to define the problems juridical theory and practice face with the progress of AI technologies in everyday life and correlate these problems with the human-centered approach to exploring artificial intelligence (Human-Centered AI).

Methods: the research critically analyzes the relevant literature from various disciplines: jurisprudence, sociology, philosophy, and computer sciences.

Results: the article articulates the prospects and problems the legal system confronts with the advancement of digital technologies in general and the tools of AI specifically. The identified problems are correlated with the provisions of the human-centered approach to AI. The authors acknowledge the necessity for AI inventors, as well as the owners of companies participating in the race to develop artificial intelligence technologies, to place humans, not machines, into the focus of attention as a primary value. In particular, special effort should be directed towards collecting and analyzing high-quality data for the organization of artificial intelligence tools development, taking into account that nowadays, the tools of AI are as practical as the data on which they are trained are effective.

H Corresponding author © Rezaev A. V., Tregubova N. D., 2023

The English translation of the original text has been provided by the Editorial of the Journal of Digital Technologies and Law.

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

The authors formulate three principles of human-centered AI for the legal sphere: 1) a human as a necessary link in the chain of making and executing legal decisions; 2) the need to regulate artificial intelligence at the international law level; 3) formulating "a taboo" for introducing the artificial intelligence technologies.

Scientific novelty: the article manifests one of the first attempts in the Russian-language scientific literature to outline the prospects of developing human-centered AI methodology in jurisprudence. Based on an analysis of special literature, the authors formulate three principles of including artificial intelligence into juridical theory and practice according to the assumptions of a human-centered approach to AI.

Practical significance: the principles and arguments the article advances can be helpful in the legal regulation of artificial intelligence technologies and their harmonious inclusion into legal practices.

For citation

Rezaev, A. V., Tregubova, N. D. (2023). The Possibility and Necessity of the Human-Centered AI in Legal Theory and Practice. Journal ofDigital Technologies and Law, 7(2), 564-580. https://doi.org/10.21202/jdtl.2023.24

References

Andreev, V. K., Laptev, V. A., & Chucha S. Yu. (2020). Artificial intelligence in the system of electronic justice by consideration of corporate disputes. Vestnik of Saint Petersburg University. Law, 7 7(1), 19-34. (In Russ.). https://doi.org/10.21638/spbu14.2020.102

Baturin, Yu. M., & Polubinskaya, S. V. (2022). Artificial intelligence: legal status or legal regime? Gosudarstvoiparvo, 10, 141. (In Russ.). https://doi.org/10.31857/s102694520022606-7

Bykov, A. V., & Narskaya, A. I. (2022). Law, Morality, and Machine Learning: Judges' Perspective on the Essence of Justice and the Prospects of Its Robotization. Monitoring of Public Opinion: Economic and Social Changes Journal (Public Opinion Monitoring), 5, 278-298. (In Russ.). https://doi.org/10.14515/monitoring.2022.5.2137

Dreyfus, H. (1978). What computers can't do: A critique of artificial reason. Moscow: Progress. (In Russ.).

Efimova, L., Mikheeva, I., & Chub, D. (2020). Comparative Analysis of Doctrinal Concepts of Legal Regulating Smart Contracts in Russia and Foreign States. Journal of the Higher School of Economics, 4, 78-105. (In Russ.).

Esposito, E. (2017). Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie, 46(4), 249-265. https://doi.org/10.1515/zfsoz-2017-1014

Etzioni, A., & Etzioni, O. (2017). Should Artificial Intelligence Be Regulated? Issues in Science and Technology, 33(4), 32-36.

Fink, M., & Finck, M. (2022). Reasoned A(I) administration: explanation requirements in EU law and the automation of public administration. European Law Review, 47(3), 376-392.

Ford, K. M., Hayes, P. J., Glymour, C., & Allen, J. (2015). Cognitive Orthoses: Toward Human-Centered AI. AI Magazine, 36(4), 5-8. https://doi.org/10.1609/aimag.v36i4.2629

Gorokhova, S. S. (2021). Artificial intelligence: an instrument ensuring cybersecurity of the financial sphere or a cyber threat to banks? Banking Law, 7, 35-46. (In Russ.). https://doi.org/10.18572/1812-3945-2021 -1-35-46

Greger, R. (2017). Judge as an Internet Surfer. Identification of the Circumstances of the Case on the Internet. Herald of Civil Procedure, 7(4), 161-173. (In Russ.). https://doi.org/10.24031/2226-0781-2017-7-4-161-173

Harvey, D. (2014). Seventeen Contradictions and the End of Capitalism. Oxford: Oxford University Press.

Hickman, E., & Petrin, M. (2021). Trustworthy AI and Corporate Governance: The EU's Ethics Guidelines for Trustworthy Artificial Intelligence from a Company Law Perspective. European Business Organization

Law Review, 22, 593-625. https://doi.org/10.1007/s40804-021-00224-0 International Committee of the Red Cross (2020). Artificial intelligence and machine learning in armed conflict: A human-centred approach. International Review of the Red Cross, 702(913), 463-479. https://doi. org/10.1007/s40804-021-00224-0 Klein, N. (2007). The Shock Doctrine: The Rise of Disaster Capitalism. New York: Henry Holt. Lee, J.-A., Hilty, R. M, & Liu, K.-C. (Eds.). (2021). Artificial Intelligence and Intellectual Property. Oxford: Oxford University Press.

Lee, K.-F. (2019). AI Superpowers: China, Silicon Valley and the new world order. Moscow: Mann, Ivanov i Ferber. (In Russ.).

Lessig, L. (2019). Artificial intelligence is going to oust a wide circle of lawyers. Zakon, 5, 8-30. (In Russ.). Mazhorina, M. (2020). Cyberplace and Methodology of International Private Law. Journal of the Higher School

of Economics, 2, 230-253. (In Russ.). Oravec, J. A. (2022). The emergence of "truth machines"? Artificial intelligence approaches to lie detection.

Ethics and Information Technology, 24, 6. https://doi.org/10.1007/s10676-022-09621-6 O'Neil, C. (2018). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Moscow: AST. (In Russ.).

Panchenko, V. Yu. (2012). Information availability of legal assistance: ideal and real state. Agrarnoye izemelnoye

parvo, 7 7(95), 95-102. (In Russ.). Rezaev, A. V. (2021). Twelve Theses on Artificial Intelligence and Artificial Sociality. Monitoring of Public Opinion:

Economic and Social Changes, 7, 20-30. https://doi.org/10.14515/monitoring.2021.1.1894 Rezaev, A. V. & Tregubova, N. D. (2019). Artificial intelligence, On-line Culture, Artificial Sociality: Definition of the Terms. Monitoring of Public Opinion: Economic and Social Changes, 6, 35-47. https://doi.org/10.14515/ monitoring.2019.6.03

Rudenko, N. (2020). Sociotechnical barriers to developing autonomous vehicles in Russia. In L. Zemnukhova, K. Glazkov, O. Logunova, A. Maksimova, D. Sivkov, & N. Rudenko, The Adventures of Technologies: Digitalization Barriers in Russia (17-70). Moscow - Saint Petersburg: FNISTS RAN. (In Russ.). https://doi.org/10.31119/978-5-89697-339-3

Rusakova, E. (2020). The integration of modern digital technologies to the legal proceedings of People's Republic of China and Singapore, Gosudarstvo i parvo, 9, 102. (In Russ.). https://doi.org/10.31857/ s102694520011323-6

Russell, S., & Norvig, P. (2007). Artificial Intelligence: A Modern Approach (2d ed.). Moscow: Vilyams. (InRuss.). Shneiderman, B. (2021). Human-centered AI. Issues in Science and Technology, 37(2), 56-61. Stepanov, O., Pechegin, D., & Diakonova, M. (2021). Towards the Issue of Digitalization of Judicial Activities. Journal of the Higher School of Economics, 5, 4-23. (In Russ.). https://doi.org/10.17323/2072-8166.2021.5A23 Talapina, E. V. (2021). Artificial intelligence and legal expertise in public administration. Vestnik of Saint Petersburg

University. Law, 72(4), 865-881. (In Russ.). https://doi.org/10.21638/spbu14.2021.404 Talapina, E. V. (2022). The right to informational self-determination: on the edge of public and private. Law.

Journal of the Higher School of Economics, 75(5), 24-43. (In Russ.). Tsvetkov, Yu. A. (2021). Artificial Intelligence in Justice. Zakon, 4, 91-107. (In Russ.). Ulnicane, I. (2022). Artificial Intelligence in the European Union: policy, ethics and regulation. In T. Hoerber, I. Cabras, G. Weber (Eds.). Routledge Handbook of European Integrations (pp. 254-269). London: Routledge. https://doi.org/10.4324/9780429262081-19 Utekhin, I. (2019). Search and Interfaces for Search. Laboratorium: Russian Review of Social Research, 7 7 (1),

152-165. (In Russ.). https://doi.org/10.25285/2078-1938-2019-11-1-152-165 Vavilin, E. V. (2021). Artificial intelligence as a participant in civil relations: the transformation of law. Vestnik Tomskogo gosudarstvennogo universiteta. Pravo, 42, 135-146. (In Russ.). https://doi. org/10.17223/22253513/42/11 Voinikanis, E. A. (2020). Regulation of big data and intellectual property right: common approaches, problems

and prospects of development. Zakon, 7, 135-156. (In Russ.). Weizenbaum, J. (1982). Computer Power and Human Reason: From Judgment to Calculation. Moscow: Radio i svyaz. (In Russ.).

Wiener, N. (1983). Cybernetics: Or Control and Communication in the Animal and the Machine (2d ed.). Moscow:

Nauka; Glavnaya redaktsiya izdanii dlya zarubezhnykh stran. (In Russ.). Wolfe, A. (1993). The Human Difference: Animals, Computers, and the Necessity of Social Science. Berkeley:

University of California Press. Zuboff, Sh. (2022). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Moscow: Izd-vo Instituta Gaidara. (In Russ.).

Authors information

Andrey V. Rezaev - Doctor of Philosophical Sciences, Professor, Head of the International Research Laboratory TANDEM at the Faculty of Sociology, St Petersburg State University

Address: 1/3 Smolnogo Str., 191124 Saint Petersburg, Russian Federation E-mail: [email protected] ORCID ID: https://orcid.org/0000-0002-3918-835X

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=13004674100 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/K-3472-2013 Google Scholar ID: https://scholar.google.ru/citations?user=Uzv39ccAAAAJ РMНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=648768

Natalia D. Tregubova - PhD (Sociology), Associate Professor of the Department of Comparative Sociology, St Petersburg State University Address: 1/3 Smolnogo Str., 191124 Saint Petersburg, Russian Federation E-mail: [email protected] ORCID ID: https://orcid.org/0000-0003-3259-5566

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=56645016900 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/K-3487-2013 Google Scholar ID: https://scholar.google.com/citations?user=8dhGr3gAAAAJ&hl РMНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=832705

Authors' contributions

A. V. Rezaev and N. D. Tregubova contributed equally to the formulation of the article's key provisions and preparation of the manuscript for publication.

Conflict of interests

The authors declare no conflict of interests.

Financial disclosure

The study was supported by RFBR and MOST, the research project No. 21-511-52002.

Thematic rubrics:

OECD: 5.05 / Law PASJC: 3308 / Law WoS: OM / Law

Article history

Date of receipt - March 3, 2023 Date of approval - May 4, 2023 Date of acceptance - June 16, 2023 Date of online placement - June 20, 2023