Научная статья на тему 'ЭТИЧЕСКИЕ ПРИНЦИПЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ФИНАНСОВО-БАНКОВСКОМ СЕКТОРЕ КИТАЯ И РОССИИ (СРАВНИТЕЛЬНО-ПРАВОВОЙ АСПЕКТ)'

ЭТИЧЕСКИЕ ПРИНЦИПЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ФИНАНСОВО-БАНКОВСКОМ СЕКТОРЕ КИТАЯ И РОССИИ (СРАВНИТЕЛЬНО-ПРАВОВОЙ АСПЕКТ) Текст научной статьи по специальности «Право»

CC BY
187
36
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / ЭТИКА / ФИНТЕХ / ФИНАНСОВЫЙ РЕГУЛЯТОР / ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ / КИТАЙ

Аннотация научной статьи по праву, автор научной работы — Горян Элла Владимировна

Объектом исследования являются отношения в сфере этического регулирования применения технологий искусственного интеллекта (далее - ИИ) в финансово-банковском секторе. Предмет исследования представлен нормативными документами Китая и России, устанавливающими требования к развертыванию и применению технологий искусственного интеллекта. Цель исследования - определить особенности китайского и российского подходов к регулированию этических отношений в сфере использования искусственного интеллекта и выделить специфичные черты каждого из подходов. С целью получения наиболее достоверных научных результатов был использован ряд общенаучных (системно-структурный и формально-логический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы). В Китае этические предписания охватывают все аспекты отношений и акцентируют внимание на безопасности персональных данных, свободе конкуренции и ответственности субъектов. Особо отметим акцент китайских властей на важности недискриминации отдельных социальных групп и административно-территориальных образований, что позволит сократить и нивелировать разрыв в использовании цифровых технологий в общегосударственном масштабе, а также будет способствовать сплочению нации. В России этические принципы определены исключительно для ИИ-технологий, применяемых исключительно в гражданских (невоенных) целях. Особое внимание уделено контролю рекурсивного самосовершенствования систем искусственного интеллекта, а вопрос применения технологий «сильного» искусственного интеллекта находится под контролем государства. Вопросы вызывает неоднозначность формулировки об ответственности за последствия функционирования технологий, что требует уточнения, равно как и термин «национальные приоритеты», которые должны учитываться при определении «пользы для людей». В финансово-банковском секторе России этические стандарты использования искусственного интеллекта не установлены: финансовый регулятор ориентируется на общие нормы о защите персональных данных и стандарты по управлению рисками.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по праву , автор научной работы — Горян Элла Владимировна

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ETHICAL PRINCIPLES OF ARTIFICIAL INTELLIGENCE IN FINANCIAL AND BANKING SECTOR OF CHINA AND RUSSIA (A COMPARATIVE LEGAL ASPECT)

The object of the study is the ethical regulation of the artificial intelligence (AI) technologies use in financial-banking sector. The subject of the study is the Chinese and Russian regulations comprising the standards for the deployment and application of the AI technologies. The aim of the study is to determine the features of Chinese and Russian approaches to the ethical regulation of AI use. The methodology comprises the general scientific (system-structural and formal-logical methods) and special legal methods of cognition (comparative-legal and formal-legal methods). AI ethical regulations in China cover all aspects of its use and focus on the security of personal data, freedom of competition, and liability issues. The Chinese authorities emphasize the principle of non-discrimination towards certain social groups and state provinces to diminish the gap of digital technologies use on a national scale and to unite the nation. Ethical principles in Russia are applied exclusively in civilian (non-military) field for AI use. The particular attention is paid to the control of recursive self-improvement of AI systems, and to the issue of dominative governmental involvement in a case of so-called strong AI systems. The ambiguity arises in terms of the norm on liability for the negative consequences of the AI use, which requires a legal clarification, as well as the term ‘national priorities’ while determining the ‘benefit to people’. Ethical standards for the AI use in the financial and banking sector are absent in Russia: the Bank of Russia still relies on general regulations for the personal data protection and risk management standards.

Текст научной работы на тему «ЭТИЧЕСКИЕ ПРИНЦИПЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ФИНАНСОВО-БАНКОВСКОМ СЕКТОРЕ КИТАЯ И РОССИИ (СРАВНИТЕЛЬНО-ПРАВОВОЙ АСПЕКТ)»

Территория новых возможностей. Вестник Владивостокского государственного университета . 2022. Т. 14, № 4. С. 60-71 The Territory of New Opportunities. The Herald of Vladivostok State University . 2022. Vol. 14, № 4. Р. 60-71

Научная статья

УДК 346.62:346.246: 172.12

DOI: https://doi.org/10.24866/VVSU/2949-1258/2022-4/060-071

Этические принципы искусственного интеллекта в финансово*

банковском секторе Китая и России (сравнительно-правовой аспект)

Горян Элла Владимировна

Владивостокский государственный университет

Владивосток. Россия

Аннотация. Объектом исследования являются отношения в сфере этического регулирования применения технологий искусственного интеллекта (далее - ИИ) в финансово-банковском секторе. Предмет исследования представлен нормативными документами Китая и России, устанавливающими требования к развертыванию и применению технологий искусственного интеллекта. Цель исследования - определить особенности китайского и российского подходов к регулированию этических отношений в сфере использования искусственного интеллекта и выделить специфичные черты каждого из подходов. С целью получения наиболее достоверных научных результатов был использован ряд общенаучных (системно-структурный и формально-логический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы). В Китае этические предписания охватывают все аспекты отношений и акцентируют внимание на безопасности персональных данных, свободе конкуренции и ответственности субъектов. Особо отметим акцент китайских властей на важности недискриминации отдельных социальных групп и административно-территориальных образований, что позволит сократить и нивелировать разрыв в использовании цифровых технологий в общегосударственном масштабе, а также будет способствовать сплочению нации. В России этические принципы определены исключительно для ИИ-технологий, применяемых исключительно в гражданских (невоенных) целях. Особое внимание уделено контролю рекурсивного самосовершенствования систем искусственного интеллекта, а вопрос применения технологий «сильного» искусственного интеллекта находится под контролем государства. Вопросы вызывает неоднозначность формулировки об ответственности за последствия функционирования технологий, что требует уточнения, равно как и термин «национальные приоритеты», которые должны учитываться при определении «пользы для людей». В финансово-банковском секторе России этические стандарты использования искусственного интеллекта не установлены: финансовый регулятор ориентируется на общие нормы о защите персональных данных и стандарты по управлению рисками.

Ключевые слова: искусственный интеллект, этика, финтех, финансовый регулятор, информационная безопасность, Китай.

Для цитирования: Горян Э.В. Этические принципы регулирования искусственного интеллекта в финансово-банковском секторе Китая и России (сравнительно-правовой аспект) // Территория новых возможностей. Вестник Владивостокского государственного университета. 2022. Т. 14, № 4. С. 60-71. DOI: https://doi.org/. https://doi.org/10.24866/VVSU/2949-1258/2022-4/060-071.

Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта 20-011-00454 «Обеспечение прав инвесторов в банковском и финансовом секторах в условиях цифровизации экономики в РФ и ведущих финансовых центрах Восточной Азии: сравнительно-правовой аспект». © Горян Э.В., 2022 60

Original article

Ethical principles of artificial intelligence in financial and banking sector of China and Russia (a comparative legal aspect)

Ella V.Gorian

Vladivostok State University Vladivostok. Russia

Abstract. The object of the study is the ethical regulation of the artificial intelligence (AI) technologies use in financial-banking sector. The subject of the study is the Chinese and Russian regulations comprising the standards for the deployment and application of the AI technologies. The aim of the study is to determine the features of Chinese and Russian approaches to the ethical regulation ofAI use. The methodology comprises the general scientific (system-structural and formal-logical methods) and special legal methods of cognition (comparative-legal and formal-legal methods). AI ethical regulations in China cover all aspects of its use and focus on the security of personal data, freedom of competition, and liability issues. The Chinese authorities emphasize the principle of non-discrimination towards certain social groups and state provinces to diminish the gap of digital technologies use on a national scale and to unite the nation. Ethical principles in Russia are applied exclusively in civilian (non-military) field for AI use. The particular attention is paid to the control of recursive self-improvement of AI systems, and to the issue of dominative governmental involvement in a case of so-called strong AI systems. The ambiguity arises in terms of the norm on liability for the negative consequences of the AI use, which requires a legal clarification, as well as the term 'national priorities' while determining the 'benefit to people'. Ethical standards for the AI use in the financial and banking sector are absent in Russia: the Bank of Russia still relies on general regulations for the personal data protection and risk management standards.

Keywords: artificial intelligence, ethics, fintech, financial regulator, information security, China. For citation: Gorian E. V. Ethical principles of artificial intelligence in financial banking sector of China and Russia (a comparative legal aspect) // The Territory of New Opportunities. The Herald of Vladivostok State University. 2022. Vol. 14, № 4. P. 60-71. DOI: https://doi.org/10.24866/VVSU/-2949-1258/2022-4/060-071.

Введение

Искусственный интеллект является важным составляющим элементом модернизации. Сам термин «модернизация» получил важное значение в международных отношениях в связи с акцентом, сделанным на нем Генеральным секретарем Коммунистической партии Китая Си Цзиньпинем в своей приветственной речи на ХХ Всекитайском съезде Коммунистической партии Китая (далее -КПК) в октябре 2022 года. Политический лидер подчеркнул уникальные черты китайской модернизации, которая, по его словам, является «социалистической», так как осуществляется под руководством КПК. Китайская модернизация - это модернизация огромного населения, общего процветания для всех, материального и культурно-этического прогресса, гармонии между человечеством и природой и мирного развития [19].

В своем докладе Си Цзиньпин всесторонне и систематически раскрыл сущность китайской модернизации, сформировав полную теоретическую систему, которая разделяет монополию Запада на практику и теорию модернизации. Западная модель модернизации в первую очередь движима частными интересами и характеризуется отсутствием плана, то есть имеет незапланированный характер. Китайская модернизация имеет большое новаторское значение для глобальной модернизации, поскольку она сломала «теорию, ориентированную на Запад», предоставила развивающимся странам новый выбор для реализации

61

модернизации и является противоположностью западной модели [16]. Учитывая всё большую ориентацию бывших колоний на самостоятельность и стремление их к многополярной миросистеме, столкновение моделей модернизации неизбежно.

На технологическом уровне это уже наблюдается в глобальной конкуренции в сфере ИИ-технологий. Неприкрытое участие в «гонке за ИИ» [20] может иметь неоднозначные последствия как в политическом, так и технологическом контексте. Научное сообщество призывает государство к более решительным действиям по регулированию новых технологий, так как обеспечение доверия общества к ним не только позволит минимизировать риски, но и будет способствовать продвижению государств в технологической гонке.

Фундаментальный подход Китая в этой сфере приносит свои плоды, о чем отчитался глава китайского государства. За пять лет реализации государственной стратегии «План развития искусственного интеллекта нового поколения» (^^^АХ^Ш^ШМЙ) нация существенно приблизилась к поставленным целям [21]: стать мировым лидером в области искусственного интеллекта к 2030 г., монетизировать искусственный интеллект и превратить его в отрасль стоимостью в триллион юаней (около 150 млрд долл.), стать движущей силой в определении этических норм и стандартов для искусственного интеллекта [1].

Цель нашего исследования - определить особенности китайского и российского подходов к регулированию этических отношений в сфере использования искусственного интеллекта в финансово-банковском секторе. Для этого будут исследованы китайский и российский «кодексы» применения искусственного интеллекта и выделены специфичные черты каждого из национальных подходов.

С целью получения наиболее достоверных научных результатов был использован ряд общенаучных (системно-структурный и формально-логический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы).

Источниковую базу исследования составили китайские и российские нормативные акты в сфере искусственного интеллекта, а также доктринальные источники по теме исследования.

За последние два года этические аспекты применения ИИ-технологий стали весьма популярными в российской научной среде. Однако сравнительно-правовых исследований по этой теме наблюдается мало. Можно отметить работу Е.В. Скурко [11], посвященную характеристике этических аспектов применения средств искусственных интеллектуальных систем и их правового регулирования как на международно-правовом уровне, так и в отдельных странах и юрисдикциях, в частности в Китае. Характеристика этических требований, выдвигаемых китайским государством, была дана нами в рамках гранта РФФИ «Обеспечение прав инвесторов в банковском и финансовом секторах в условиях цифровизации экономики в РФ и ведущих финансовых центрах Восточной Азии: сравнительно-правовой аспект» [1].

62

Основная часть

В Китае Кодекс этики искусственного интеллекта нового поколения [5] был утвержден Национальным профессиональным комитетом по управлению искусственным интеллектом осенью 2021 г., спустя пару месяцев Народный банк Китая опубликовал План развития финтеха на 2022-2025 гг. [9], в котором были изложены основные принципы системы управления этикой в области финансовых технологий.

Кодекс этики искусственного интеллекта нового поколения устанавливает как основные этические требования, так и специальные требования к конкретным видам деятельности. Сфера применения Кодекса охватывает деятельность физических и юридических лиц (и других связанных с ними учреждений) по управлению искусственным интеллектом, по научным исследованиям, снабжению (поставкам) и использованию (ст. 2).

Основные этические требования к ИИ изложены в статье 3 Кодекса. Они включают шесть детализированных позиций, на подробном анализе которых мы останавливались в нашей предыдущей работе [1]: улучшение благосостояния человека; соблюдение принципов универсальности и инклюзивности, эффективной защиты законных прав и интересов всех субъектов; обеспечение и защита частной жизни; управляемость ИИ-технологий; ужесточение ответственности субъектов, ответственных за ИИ-технологии; повышение этической грамотности.

В финансово-банковском секторе вопросам этики уделил особое внимание один из финансовых регуляторов - Народный банк Китая, закрепивший задачу разработки системы этических принципов в трехлетнем Плане развития финансовых технологий на 2022-2025 гг. [9]. Финрегулятор отметил, что данная система должна включать в себя не только материальный компонент (этические нормы сами по себе), но и процессуальный - процедуры самоуправления, используемые финансовыми институтами в отношении существующих и появляющихся с развитием научно-технического прогресса финансовых продуктов и услуг. Такие процедуры должны обязательно включать такой аспект, как управление рисками.

В 2021 г. Народный банк Китая утвердил специальный стандарт, содержащий требования к ИИ-технологиям, которые применяются в финтехе - в мобильных и декстопных приложениях [12]. Этот стандарт обязывает финансовые институты к регулярной систематической оценке ИИ-технологий на предмет безопасности, точности и производительности. Данные проверки тесно связаны с системой управления рисками, установленной специальным стандартом фин-регулятора.

Следует отметить комплексный подход Народного банка Китая к построению целой экосистемы искусственного интеллекта, включающей в себя всех причастных к финансово-банковской сфере субъектов: финансовые учреждения, их отраслевые ассоциации, а также всех сотрудников финтех-компаний. В рамках своего участия в процессах с использованием ИИ-технологий они должны разрабатывать локальные документы (политики) и соглашения, создавать внутренние комитеты по этике, проводить тренинги и аудиты. Потребность в эффек-

63

тивной экосистеме ИИ объясняется ростом финансово-банковского сектора Китая и увеличением финансовых операций, осуществляемых в информационной среде.

Стержнем экосистемы искусственного интеллекта Народный банк Китая определил защиту потребителей услуг. Поэтому этические нормы должны способствовать противодействию совершения финансовыми учреждениями незаконных действий, направленных на получение прибыли в отношении: персональных данных (компрометация, незаконное распространение); дискриминации пользователей; недобросовестной конкуренции. Особое внимание должно уделяться устранению так называемого «цифрового неравенства» в обществе. Это неравенство является результатом неравномерного формирования цифровых компетенций у разных социальных групп населения и даже в рамках отдельных административно-территориальных единиц. Большинство финансовых продуктов разрабатываются с помощью технологий, требующих достаточно высокие навыки для их использования. Как правило, такими навыками обладают представители молодежи и лица среднего возраста. Пенсионеры, лица с ограниченными возможностями и этнические меньшинства являются уязвимой в цифровом плане категорией населения, что снижает для них доступность финансовых продуктов и технологий [15].

Такая жесткая акцентуация китайского финрегулятора на этических аспектах деятельности финтех-компаний объяснима объективной необходимостью, вызванной интенсивным развитием финтех-индустрии в самом государстве и укоренением Китая в качестве мирового лидера этой индустрии. Так, объем финансовых операций, осуществляемый финансовыми учреждениями Китая, составил 527 трлн юаней за 2013-2021 гг. [18], а количество пользователей системой мобильных платежей только Alipay и WeChat Pay уже перевалило отметку в 1,3 млрд и 900 млн соответственно [14]; 87 % населения Китая использует две и более категории финансовых услуг, предлагаемых финтех-компаниями. В отчете Global Fintech Hub Report 2021 Пекин был назван лучшим глобальным центром финтеха, за ним следуют Сан-Франциско, Нью-Йорк, Шанхай, Шэньчжэнь и Лондон. Пекин три года подряд занимает лидирующие позиции в рейтинге Global Fintech Hub [17].

В России Кодекс этики в сфере искусственного интеллекта [4] был разработан Альянсом в сфере искусственного интеллекта и согласован крупнейшими технологическими компаниями России (Сбер, Яндекс, МТС, VK, «Газпром нефть» и Российский фонд прямых инвестиций) на международном форуме «Этика искусственного интеллекта: начало доверия» в октябре 2021 г.

Кодекс состоит из двух разделов: раздел I посвящен принципам этики и правилам поведения, раздел II - применению кодекса. Особенностью Кодекса РФ является определение сферы его применения - это системы искусственного интеллекта (СИИ), применяемые исключительно в гражданских (не военных) целях. В отличие от китайского документа российский кодекс устанавливает всего шесть общих принципов: 1) защита прав и интересов человека и общества; 2) осознание ответственности при создании и использовании ИИ; 3) конечный

64

субъект ответственности - человек; 4) применение технологий ИИ по назначению и для пользы общества; 5) добросовестная конкуренция при разработке и внедрении ИИ; 6) прозрачность и открытость информации.

1. Принцип защиты прав и интересов человека и общества раскрывается через человеко-ориентированный и гуманистический подход, при котором права и свободы человека должны рассматриваться как наивысшая ценность. Технологии ИИ должны учитывать сохранение и развитие когнитивных способностей человека и его творческого потенциала; сохранение нравственных, духовных и культурных ценностей; содействие культурному и языковому многообразию, самобытности; сохранение традиций и устоев наций, народов, этносов и социальных групп. При взаимодействии с продуктами и услугами ИИ необходимо сохранять автономию и свободу воли человека в принятии им решений, предоставлять ему право выбора, а минимальные требования к функционированию ИИ-технологий основываются на законодательстве Российской Федерации, в том числе на принципе недискриминации. Разработчики и пользователи обязаны постоянно проводить оценку потенциальных рисков применения СИИ и воздействия, которое может быть оказано на человека и общество.

2. Осознание ответственности при создании и использовании ИИ раскрывается через применение риск-ориентированного подхода, ответственного отношения к вопросам влияния ИИ-технологий на общественные отношения и конкретного человека. Для этого необходимо предпринимать все меры, способные предотвратить наступление последствий, могущих причинить ущерб охраняемым законом отношениям. Любые действия, относящиеся к ИИ на любом этапе его существования, не должны угрожать или препятствовать осуществлению прав и интересов человека, его жизни, окружающей среде, правопорядку, имуществу и т.д. При потенциальном взаимодействии с ИИ человек должен быть проинформирован о таком контакте и иметь возможность не взаимодействовать по своему желанию. Под особый контроль должны быть взяты вопросы защиты персональных данных и информационной безопасности при использовании СИИ. Кодекс предусматривает возможность добровольной сертификации соответствия разработанных ИИ-технологий российскому законодательству, для чего могут создаваться системы добровольной сертификации и маркировки. Отметим особенность российского подхода к регулированию этических норм - контроль рекурсивного самосовершенствования систем ИИ, для чего акторам ИИ рекомендуется сотрудничать в выявлении и проверке информации о способах и формах создания так называемых универсальных («сильных») СИИ и предотвращении возможных угроз, которые они несут. Вопрос применения технологий «сильного» ИИ должен находиться под контролем государства.

3. Человеческий фактор определяет ответственность за возможные негативные последствия применения технологий ИИ. Решения человека на всех этапах функционирования ИИ-технологии являются судьбоносными, поэтому субъектам, являющимся операторами систем ИИ, необходимо осуществлять полномасштабный надзор и не допускать передачи полномочий ответственного нравственного выбора. Не допускается делегирование ответственности за последст-

65

вия принятия решений системами ИИ. Неоднозначность толкования вызывает тезис об ответственности за последствия работы технологии. Утверждение «всегда должен отвечать человек» в отношении человека авторы пояснили: «физическое или юридическое лицо, признаваемое субъектом ответственности в соответствии с действующим законодательством Российской Федерации» [4]. На наш взгляд, такое пояснение противоречит предыдущему утверждению о человеке как субъекте ответственности, поскольку человеком признается биологическое существо, относящееся к виду homo sapiens [13], а нормы института ответственности применяются в отношении граждан, определяемых через категорию физических лиц (ст. 17 ГК РФ). Юридическим же лицом Гражданский кодекс Российской Федерации признает организацию, которая имеет обособленное имущество и отвечает по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности, быть истцом и ответчиком в суде (ст. 48) [2]. Вследствие этого такая неопределенность должна быть уточнена.

4. Принцип применения ИИ-технологий по назначению с пользой для людей включает в себя учет национальных приоритетов при разработке, внедрении и развитии подобных систем. На наш взгляд, термин «национальные приоритеты» требует своего уточнения, поскольку в российском законодательстве сложившейся является практика использования терминов «национальные интересы» и «стратегические национальные приоритеты», раскрытие которых дано в Стратегии национальной безопасности [7].

5. Отказ от конкуренции разработчиков при развитии ИИ-технологий - важный принцип, лежащий в основе классических научных исследований. Поиск объективной истины, благо человечества - это ряд идеалистических (даже идеологических) установок, нацеленных на воспитание и стимулирование молодых талантов. Это то, какими видятся научные исследования в идеальном мире. Поскольку Кодекс не является источником права, не содержит нормативно обязательных предписаний и посвящен этическим аспектам применения искусственного интеллекта, то и формулировки принципов могут носить идеологическую окраску. Однако за «мягкими», на первый взгляд, рекомендательными установками кроются вполне реальные с юридической точки зрения каузы, то есть ближайшие правовые цели. Конкуренция входит в правовое поле регулирования государства, а нарушение антимонопольных предписаний влечет вполне реальную административную ответственность. Поэтому, на наш взгляд, этический принцип имеет важное значение для развития всего научно-промышленного ландшафта и закладывает основания для применения (пусть даже с оговорками) норм конкурентного права, в том числе законодательства о государственных закупках. Этот принцип раскрывается через требование использования единой методики измерений, а также достоверной и сравнимой информации о возможностях технологий в сфере ИИ применительно к задаче.

Развитие человеческого потенциала в количественных и качественных показателях неотъемлемо вытекает из содержания рассматриваемого принципа. Авторы Кодекса указывают на важную роль профессионального сообщества в

66

формировании этических стандартов ИИ, а также подчеркивают необходимость сотрудничества разработчиков и предлагают наиболее важные пути такого сотрудничества. Особое внимание авторы Кодекса уделили необходимости активных действий по привлечению российских инвестиций и сотрудничеству ведущих научно-исследовательских центров и образовательных организаций России.

6. Поскольку сфера применения Кодекса - гражданская, а не военная, то и информация, которая так или иначе связана с ИИ-технологиями, не должна иметь никаких ограничений в использовании (по крайней мере, в публично-правовом аспекте). Весьма специфичным может быть подход к определению информации в качестве коммерческой тайны или секрета производства (ноу-хау), а также в случае изобретений, полезных моделей или промышленных образцов (поскольку речь идет о технологиях). В любом случае, согласно общему этическому принципу, прозрачность и правдивость информации, когда речь идет об искусственном интеллекте, - это императив, так как речь идет, прежде всего, о массивах данных, используемых в ИИ-технологиях, да и сфера применения таких технологий имеет критическое значение для личности, общества и государства. Любой сбой может иметь катастрофические последствия. Поэтому необходимо иметь общественный и государственный консенсус относительно того, насколько допустимы риски, каковы вред или польза, а также какие ограничения связаны с той или иной технологией. Информирование общества, проставление акцентов, в том числе и на этичных аспектах ИИ-технологий наряду с техническими, конструктивная критика и дискуссия - это минимальные этические стандарты, которые должны соблюдаться всеми задействованными субъектами.

Несмотря на то, что ИИ-технологии активно используются российским финансово-банковским сектором, Центральный банк России, будучи финансовым регулятором, пока не уделяет должного внимания этическим стандартам. В 2021 г. им был опубликован Доклад для общественных консультаций под названием «Использование больших данных в финансовом секторе и риски финансовой стабильности» [3]. В нем констатируется факт отсутствия специального регулирующего инструмента и отмечается несколько нормативных инструментов -Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» и ряд собственных положений документов [6, 8], которые устанавливают стандарты по управлению банками модельным риском в рамках системы управления операционным риском, во внутренних процедурах оценки достаточности капитала и при применении ПВР-подхода в целях оценки достаточности капитала.

В связи с этим российский финрегулятор предлагает к обсуждению несколько мер, которые помогут, по его мнению, заполнить имеющиеся лакуны. В частности, он выступает за разработку специальных этических принципов, которые могут быть закреплены на уровне стандарта СРО. Эти принципы должны покрывать вопросы использования больших данных в маркетинге (CRM) и ценообразовании, в особенности данных, полученных из внешних источников, и результатов моделей, разработанных на основе этих данных. В том числе должны быть регламентированы вопросы обеспечения сохранности, конфиденциаль-

67

ности и этичного использования в отношении внешних больших данных, таких как данные социальных сетей, поисковых запросов в Интернете, операторов сотовой связи, платежные данные, данные геолокации и прочие (которые не являются обезличенными). Под этичным использованием понимается, в частности, отсутствие какой-либо дискриминации, как ценовой, так и иной, включая гендерную, расовую, национальную и прочую, отсутствие ограничений свободы выбора финансовых услуг, соблюдение прав и свобод человека (в том числе отсутствие злоупотреблений частной информацией пользователей, размещенной в Интернете). Кроме того, указанные принципы должны регламентировать порядок использования больших данных в директ-маркетинге (таком, как «холодные» звонки, рассылка так называемых «пре-додобренных предложений» и прочее) [3, с. 29]. При этом финрегулятор отметил, что положения Кодекса могут быть расширены и конкретизированы для отдельных секторов экономики с учетом их особенностей (п. 2 Кодекса «Допустимость отраслевых кодексов»).

Ведущий российский банк Сбер первым из финансовых институтов разработал свой этический «кодекс» [10], установив пять принципов (Secure AI. Контролируемость и управляемость систем ИИ; 2) Explainable AI. Прозрачность и предсказуемость функционирования; 3) Reliable AI. Стабильность и надежность систем ИИ; 4) Responsible AI. Ответственное применение ИИ; 5) Fair AI. Непредвзятый ИИ) и кратко объяснив, каким образом он их реализует - путем создания «первого в России специального органа для спорных этических вопросов ИИ» - специальной рабочей группы в рамках Комитета ESG.

Заключение

В результате проведенного исследования можно сделать следующие выводы. В Китае этические предписания охватывают все аспекты отношений и акцентируют внимание на безопасности персональных данных, свободе конкуренции и ответственности субъектов. Особо отметим акцент китайских властей на важности недискриминации отдельных социальных групп и административно-территориальных образований, что позволит сократить и нивелировать разрыв в использовании цифровых технологий в общегосударственном масштабе, а также будет способствовать сплочению нации. В России этические принципы определены исключительно для ИИ-технологий, применяемых в гражданских (невоенных) целях. Особое внимание уделено контролю рекурсивного самосовершенствования систем искусственного интеллекта, а вопрос применения технологий «сильного» искусственного интеллекта находится под контролем государства. Вопросы вызывает неоднозначность формулировки об ответственности за последствия функционирования технологий, что требует уточнения, равно как и термин «национальные приоритеты», которые должны учитываться при определении «пользы для людей». В финансово-банковском секторе России этические стандарты использования искусственного интеллекта не установлены: финансовый регулятор ориентируется на общие нормы о защите персональных данных и стандарты по управлению рисками.

68

Список источников

1. Горян Э.В. Этическое регулирование искусственного интеллекта как фактор безопас-

ности финансово-банковского сектора: опыт Китая // Вопросы безопасности. 2022. № 2. С. 41-52.

2. Гражданский кодекс Российской Федерации: Федеральный закон от 30.11.1994 № 51-

ФЗ (посл. ред. от 25.02.2022 № 20-ФЗ) // КонсультантПлюс. URL: http://www. consultant.ru/document/cons_doc_LAW_5142/

3. Использование больших данных в финансовом секторе и риски финансовой стабиль-

ности: доклад для общественных консультаций. Москва: Банк России, 2021. 32 с.

4. Кодекс этики в сфере искусственного интеллекта // Альянс в сфере искусственного

интеллекта. URL : https://a-ai.ru/wp-content/uploads/202M 0/Кодекс_этики_в_сфере_-И^финальный^!"

5. Кодекс этики искусственного интеллекта нового поколения

(^—{^ЛХШв^ШЩШ) // Ministry of Science and Technology of the People's Republic of China. URL: http://www.most.gov.cn/kjbgz/202109/t20210926_177063.html

6. О порядке расчета величины кредитного риска на основе внутренних рейтингов: По-

ложение Банка России от 06.08.2015 № 483-П (посл. ред. от 06.07.2021, с изм. и доп., вступ. в силу с 01.01.2022) // КонсультантПлюс. URL: https://www.consultant.ru/-document/cons_doc_LAW_186639/

7. О Стратегии национальной безопасности Российской Федерации: Указ Президента РФ

от 02.07.2021 № 400 // КонсультантПлюс. URL: https://www.consultant.ru/document/-cons_doc_LAW_389271/

8. О требованиях к системе управления операционным риском в кредитной организации

и банковской группе: Положение Банка России от 08.04.2020 № 716-П (посл. ред. от 25.03.2022) // КонсультантПлюс. URL: https://www.consultant.ru/document/cons_doc_-LAW_355380/

9. План развития финансовых технологий на 2022-2025 годы (-ЙЙШЙ^Ш1Й(2022-

2025^)) // People's Bank of China. URL: http://www.pbc.gov.cn/zhengwugong-kai/4081330/4081344/4081395/4081686/4470403/index.html

10. Принципы этики искусственного интеллекта Сбера // Сбербанк. URL: https://www.sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics

11. Скурко Е.В. Этика искусственного интеллекта в развитии правовых систем современности // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Серия 4: Государство и право. 2021. № 1. С. 79-89.

12. Спецификация оценки алгоритмов искусственного интеллекта в финансовых приложениях (ЛХ^Ш^^^ШШД^^ЩШ) // National public service platform for standards information. URL: https://std.samr.gov.cn/hb/search/stdHBDetailed7id— BF61550E44D6DEDDE05397BE0A0A63D6

13. Человек // Биологический энциклопедический словарь / гл. редактор М.С. Гиляров. Москва: Советская энциклопедия, 1986. 831 с.

14. AliPay is the most popular digital wallet in the world in 2022 // FinTech News. URL: https://www.fintechnews.org/alipay-is-the-most-popular-digital-wallet-in-the-world-in-2022/

15. Bartels J. China Fintech Regulations: Fintech Ethics Governance Regulations Loom // Business Information Industry Association, URL: https://www.biia.com/china-fintech-regulations-fintech-ethics-governance-regulations-loom/

16. China's wisdom to drive global modernization // Global Times. URL: https://www.globaltimes.cn/page/202210/1277437.shtml

69

17. Fintech Companies in China: Full List 2022 // The Centre for Finance, Technology & En-trepreneurship. URL: https://blog.cfte.education/fintech-unicorns-in-china-full-list-2021/

18. FinTech in China // Statista. URL: https://www.statista.com/topics/6893/fintech-in-china/

19. Full text of the report to the 20th National Congress of the Communist Party of China // Ministry of Foreign Affairs of the People's Republic of China. URL: https://www.fmprc.gov.cn/eng/zxxx_662805/202210/t20221025_10791908.html

20. Smuha N.A. From a 'race to AI' to a 'raceto AI regulation': regulatory competition for artificial intelligence // Law, Innovation and Technology. 2021. Vol. 13, iss. 1. P. 57-84.

21. Towards a new generation of artificial intelligence in China / F. Wu, C. Lu, M. Zhu [et al.] // Nature Machine Intelligence. 2020. Vol. 2. P. 312-316.

References

1. Gorian E.V. Ethical regulation of artificial intelligence as a security factor for financial

banking sector: China's experience. Security Issues. 2022; (2): 41-52.

2. Civil Code of Russian Federation: Federal Act of Russian Federation 30.11.1994 № 51-FZ

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

(amend. 25.02.2022 № 20-FZ). ConsultantPlus. URL: http://www.consultant.ru/-document/cons_doc_LAW_5142/

3. Use of Big Data in the Financial Sector and Financial Stability Risks: Public Consultation

Report. Moscow: Bank of Russia, 2021. 32 p.

4. Code of Ethics for Artificial Intelligence. AI Alliance. URL: https://a-ai.ru/wp-

content/uploads/2021/10/KogeK^THKH_B_c$epe_HH_$HHMbHbin.pdf

5. Ethical norms for a new generation of artificial intelligence (S^ftAI^^feSS®).

Ministry of Science and Technology of the People's Republic of China. URL: http://www.most. gov.cn/kjbgz/202109/t20210926_177063 .html

6. On the procedure for calculating the amount of credit risk based on internal ratings: Regula-

tions of the Bank of Russia 06.08.2015 № 483-P (amend. 06.07.2021, coming into force 01.01.2022). ConsultantPlus. URL: https://www.consultant.ru/document/-cons_doc_LAW_186639/

7. On the National Security Strategy of the Russian Federation: Decree of the President of the

Russian Federation 02.07.2021 № 400. ConsultantPlus. URL: https://www.consultant.ru/document/cons_doc_LAW_389271/

8. On the requirements for the operational risk management system in a credit institution and a

banking group: Regulations of the Bank of Russia 08.04.2020 № 716-P (amend. 25.03.2022). ConsultantPlus. URL: https://www.consultant.ru/document/-cons_doc_LAW_3 55380/

9. Financial Technology Development Plan (2022-2025) Cfe№&£®S#J(2022-2025¥)).

People's Bank of China. URL: http://www.pbc.gov.cn/zhengwugongkai/-4081330/4081344/40813 95/4081686/4470403/index.html

10. Principles of ethics of artificial intelligence of Sberbank. Sberbank. URL: https://www.sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics

11. Skurko Ye.V. Ethics of artificial intelligence in the development of modern legal systems. Social and humanitarian sciences. Domestic and foreign literature. Series 4: State and Law. 2021; (1): 79-89.

12. Evaluation Specifications for Financial Application of Artificial Intelligence Algorithms (AI^fb^ife^llHfflii^S®). National public service platform for standards information. URL: https://std.samr. gov.cn/hb/search/stdHBDetailed?id=BF61550E44-D6DEDDE05397BE0A0A63D6

70

13. A Man. Biological Encyclopedic Dictionary / ch. editor M.S. Gilyarov. Moscow: Soviet Encyclopedia; 1986. 831 p.

14. AliPay is the most popular digital wallet in the world in 2022. FinTech News. URL: https://www.fintechnews.org/alipay-is-the-most-popular-digital-wallet-in-the-world-in-2022.

15. Bartels J. China Fintech Regulations: Fintech Ethics Governance Regulations Loom. Business Information Industry Association. URL: https://www.biia.com/china-fintech-regulations-fintech-ethics-governance-regulations-loom.

16. China's wisdom to drive global modernization. Global Times. URL: https://www. globaltimes.cn/page/202210/1277437.shtml.

17. Fintech Companies in China: Full List 2022. The Centre for Finance, Technology & Entre-preneurship. URL: https://blog.cfte.education/fintech-unicorns-in-china-full-list-2021.

18. FinTech in China. Statista. URL: https://www.statista.com/topics/6893/fintech-in-china.

19. Full text of the report to the 20th National Congress of the Communist Party of China. Ministry of Foreign Affairs of the People's Republic of China. URL: http s: //www. fmprc. gov.cn/eng/zxxx_662805/202210/t20221025_10791908.html.

20. Smuha N.A. From a 'race to AI' to a 'raceto AI regulation': regulatory competition for artificial intelligence. Law, Innovation and Technology. 2021; 13 (1): 57-84.

21. Towards a new generation of artificial intelligence in China / F. Wu, C. Lu, M. Zhu [et al.]. Nature Machine Intelligence. 2020; (2): 312-316.

Информация об авторе:

Горян Элла Владимировна, канд. юрид. наук, доцент кафедры гражданско-правовых

дисциплин ВВГУ, г. Владивосток. E-mail: ella.goryan@vvsu.ru ORCID:

https://orcid.org/0000-0002-5962-3929

DOI: https://doi.org/10.24866/VVSU/2949-1258/2022-4/060-071

Дата поступления: 15.11.2022

Одобрена после рецензирования: 17.11.2022

Принята к публикации: 17.11.2022

i Надоели баннеры? Вы всегда можете отключить рекламу.