CC BY
67
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-3/086-099
УДК 341.171 Э. В. Горян
Владивостокский государственный университет экономики и сервиса Владивосток. Россия
Перспективы использования искусственного интеллекта в финансово-банковском секторе: опыт Сингапура*
Объектом исследования являются отношения в сфере применения искусственного интеллекта в финансово-банковском секторе Сингапура. Характеризуются соответствующие правительственные инициативы и нормативно-правовой инструментарий. Определяется роль финансового регулятора в развертывании цифровых технологий. На примере одного из финансовых операторов Сингапура исследуется опыт внедрения технологий искусственного интеллекта с учетом разработанных финансовым регулятором рекомендаций. С целью получения наиболее достоверных научных результатов использован ряд общенаучных (системно-структурный, формально-логический и герменевтический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы). Правовое регулирование использования искусственного интеллекта в Сингапуре носит спорадический характер: существующие отраслевые нормативно-правовые акты применяются к разным аспектам использования технологий, а специальный правовой инструмент отсутствует. Многочисленные проекты и инициативы государства направлены на саморегулируемость процессов путем широкого вовлечения всех заинтересованных субъектов (частного и публичного секторов). Первенство Сингапура в разработке всемирно признанной Рамочной модели управления искусственным интеллектом и ее применении в разных секторах экономики способствует наработке опыта и осуществлению ведущей роли в установлении стандартов. Участие финансового регулятора в данных процессах носит координирующий и интегрирующий характер, что позволяет использовать идеи всех участников финансово-банковского сектора и в дальнейшем унифицировать подходы и стандарты к применению технологий искусственного интеллекта. Разработанный Валютным управлением Сингапура инструмент для регулирования процессов в сфере искусственного интеллекта благодаря своей гибкости и лабильности позволяет, с одной стороны, стандартизировать процессы, а с другой - обеспечить права потребителей
Горян Элла Владимировна - канд. юрид. наук, доцент, доцент кафедры гражданско-правовых дисциплин; e-mail: [email protected]
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта 20-011-00454 «Обеспечение прав инвесторов в банковском и финансовом секторах в условиях цифровизации экономики в РФ и ведущих финансовых центрах Восточной Азии: сравнительно-правовой аспект». 86
финансовых и банковских услуг. Опыт крупнейшего в Юго-Восточной Азии сингапурского банка DBS Bank показывает правильность выбранной стратегии государства по стимулированию полномасштабного применения искусственного интеллекта в финансово-банковском секторе.
Ключевые слова и словосочетания: искусственный интеллект, дата-аналитика, финансовый сектор, FinTech, финансовый регулятор, Сингапур.
E. V. Gorian
Vladivostok State University of Economics and Service Vladivostok. Russia
Artificial Intelligence in the financial and banking sector: experience of Singapore
The object of the research is the peculiarities of use of artificial intelligence in the financial and banking sector of Singapore. Relevant government initiatives and regulatory instruments are characterized. The role of the financial regulator in the deployment of digital technologies is determined. A case of the largest financial operator of Singapore on deployment of AI technologies in light of methods and principles promoted by the financial regulator is being studied. In order to obtain the most reliable scientific results, a number of general scientific (system-structural, formal-logical and hermeneutic methods) and special legal methods of cognition (comparative legal and formal-legal methods) will be used. The regulation of artificial intelligence in Singapore is fragmented: existing regulations apply to different aspects of technology use, and there is no specific legal instrument. Numerous projects and government initiatives are aimed at self-regulation of processes through the broad involvement of all stakeholders (both from private and public sectors). Singapore's leadership in the development of the globally recognized Model AI Governance Framework and its application across sectors of the economy fosters experience and leadership in maintaining standards. The participation of the financial regulator in these processes is of a coordinating and integrating nature, which makes it possible to use the ideas of all participants in the financial and banking sector and leads to unification of methods and standards. The flexibility and lability of Monetary Authority of Singapore regulatory instrument allows, on the one hand, to standardize processes, and on the other hand, to ensure the rights of consumers of financial and banking services. The experience of DBS Bank, the largest Singaporean bank in Southeast Asia, proves the validity of the governmental strategy to stimulate the comprehensive deployment of artificial intelligence in the financial and banking sector.
Keywords: artificial intelligence, data analytics, financial sector, fintech, financial regulator, Singapore.
Актуальность темы исследования. В январе 2019 года на Всемирном экономическом форуме в Давосе (ВЭФ) была представлена разработанная Сингапуром Рамочная модель управления искусственным интеллектом (Model AI Governance Framework (First Edition), далее - Модель ИИ). Ее простота и актуальность позволили многим организациям перенять и внедрить ее в производственные процессы. Она была высоко оценена Группой экспертов высокого уровня Европейской Комиссии и Группой экспертов ОЭСР по ИИ. Вторая, усовершен-
87
ствованная, редакция Модели ИИ [12] была представлена спустя год на той же международной площадке и использована Центром четвертой индустриальной революции ВЭФ (Centre for the Fourth Industrial Revolution) в качестве базового документа при разработке Руководства по внедрению и самооценке для организаций (Implementation and Self-Assessment Guide for Organisations, ISAGO) [10].
Сингапурская Модель ИИ является одним из пяти проектов, реализуемых в рамках имплементации Национальной программы 2017 года AI Singapore [3] и Национальной стратегии ИИ 2019 года [14]. В качестве ключевых секторов применения ИИ Сингапур определил транспорт и логистику, производство, финансы, охрану и безопасность, кибербезопасность, «умные города» (Smart Cities) и недвижимость, здравоохранение, образование и управление (government). Сингапур является крупнейшим международным финансовым центром, поэтому результаты использования этим государством ИИ в финансово-банковском секторе будут влиять на внедрение и распространение таких технологий в других государствах, включенных в международную финансовую систему. С 2019 года Россия реализует собственную Национальную стратегию развития искусственного интеллекта [2], положения которой учитываются национальной программой «Цифровая экономика Российской Федерации», направленной, прежде всего, на обеспечение информационной безопасности всех участников публичного и частного секторов во всех сферах жизнедеятельности, использующих высокие технологии как в традиционных, так и новых отраслях экономики. Это обусловливает необходимость изучения иностранного опыта в данной сфере.
Постановка проблемы исследования. ИИ-технологии приобретают все большую популярность в банковском и финансовом секторах, что позволяет существенно экономить расходы отрасли. Это вызывает необходимость регулирования их применения. С этой целью используется один из двух подходов: нормативный (regulatory, Европейский союз) и саморегулируемый (self-regulatory, Сингапур). Очевидна целесообразность определения наиболее подходящей для России модели регулирования применения ИИ-технологий.
Цели и задачи исследования. Цель исследования - определить основные наработки Сингапура в использовании искусственного интеллекта в банковском и финансовом секторе. Задачи исследования заключаются в характеристике государственной политики и основных положений законодательства Сингапура, регулирующих применение ИИ в финансово-банковской сфере, и в определении перспектив применения его положительного опыта.
Методология. С целью получения наиболее достоверных научных результатов использован ряд общенаучных (системно-структурный, формальнологический и герменевтический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы).
Предмет исследования, источниковая база исследования, противоречия в имеющихся исследованиях и авторская позиция. Предмет исследования составляют основные программные, организационно-правовые и нормативно-правовые акты Сингапура в сфере регулирования ИИ-технологий в финансово-банковском секторе, а также ряд научных исследований по теме.
88
Выбранная нами для исследования тема еще не представлена в российской научной литературе. Поиск в электронной библиотеке научных публикаций elibrary.ru проиндексированных в РИНЦ исследований по теме показал несколько статей, косвенно затрагивающих тему исследования и посвященных экономическим и урбанистическим аспектам применения ИИ-технологий. Из зарубежных исследований следует отметить работы Р. Уолтерса [23] и Н. Ремолины [20], посвященные анализу подходов государств, в частности Сингапура, к регулированию использования ИИ-технологий.
Основная часть. Перед тем, как охарактеризовать основные положения законодательства Сингапура, регулирующие применение ИИ в финансово-банковской сфере, рассмотрим государственную политику этого государства в сфере цифровизации и искусственного интеллекта.
В ноябре 2014 года Сингапур начал реализацию полномасштабного проекта Smart Nation Singapore, направленного на цифровую интеграцию общества с обеспечением всем гражданам доступа к улучшающим повседневную жизнь технологиям, а также на приобретение навыков безопасного и уверенного использования этих технологий [15]. В область действия проекта включены три сферы: цифровая экономика, цифровое правительство и цифровое общество, что позволяет охватить всех субъектов общественных отношений. Smart Nation фокусируется на пяти ключевых секторах: транспорт, дом и окружающая среда, производительность бизнеса, здоровье и старение, услуги государственного сектора. В 2017 году Министерство связи и информации определило четыре передовых технологии, которые будут способствовать развитию базовой инфраструктуры цифровой экономики: ИИ, кибербезопасность, иммерсивные технологии в СМИ и интернет вещей [20].
В настоящее время Сингапур реализует несколько инициатив в сфере ИИ-технологий:
а) запущенный в 2017 году проект AI Singapore (Artificial Intelligence Singapore) представляет собой партнерство на уровне правительства, включающее Национальный исследовательский фонд (National Research Foundation, NRF), Офис проекта Smart Nation и цифрового правительства (Smart Nation and Digital Government Office, SNDGO), Совет по экономическому развитию (Economic Development Board, EDB), Управление по развитию информационных технологий (Infocomm Media Development Authority, IMDA), SGInnovate и Интегрированные информационные системы здравоохранения (Integrated Health Information Systems, IHiS). На финансирование этого проекта выделено 150 миллионов сингапурских долларов и в качестве результатов ожидаются активизация, синергизм и расширение возможностей ИИ в Сингапуре путем применения ИИ к решению проблем, возникающих перед отраслями экономики (практическое применение ИИ);
б) Международный отраслевой Консультативный совет по этичному использованию ИИ и данных (Advisory Council on the Ethical use of AI and Data): он привлекает экспертов в сфере технологий, права, этики и международных отношений, а также представителей потребителей и гражданского общества, помога-
89
ет Управлению по развитию информационных технологий (IMDA) налаживать сотрудничество с заинтересованными сторонами в решении вопросов развития возможностей и структур управления ИИ;
в) в сентябре 2018 года Юридическая школа Сингапурского университета менеджмента инициировала пятилетнюю Исследовательскую программу по изучению этических и правовых последствий ИИ (Research Programme to explore ethical and legal implications of AI). В рамках реализации этой программы для проведения научных исследований по политическим, правовым, нормативным, корпоративным, этическим и другим вопросам, связанным с ИИ и использованием данных, в университете был создан Центр искусственного интеллекта и управления данными (Centre of AI and Data Governance). Он работает в рамках исследовательского гранта Национального исследовательского фонда (NRF) и Управления развития информационных технологий (IMDA). Эксперты Центра тесно взаимодействуют с Консультативным советом;
г) с целью ускорения развития ИИ-технологий создана Лаборатория цифровых услуг (Digital Services Laboratory, DSL), объединяющая программистов, инженеров, экспертов по аналитическим данным, архитекторов данных, специалистов по техническому развитию бизнеса и др. Эта лаборатория сотрудничает с государственными учреждениями, высшими учебными заведениями и научно-исследовательскими институтами для использования их возможностей и применения наработок для решения практических задач;
д) Национальный лингвистический массив (National Speech Corpus), используемый для облегчения работы речевых решений ИИ с лексикой Сингапура, содержит 2000 часов аудиозаписей местного акцента и соответствующие транскрипции текста с более чем 40 тыс. уникальных слов, представляющих местную лексику. Эти данные можно использовать путем присоединения к лицензионному соглашению на условиях открытой лицензии (Singapore Open Data Licence);
е) проект, реализуемый правительством, промышленниками, предпринимателями и Национальным конгрессом профсоюзов (National Trades Union Congress, NTUC): многопрофильная образовательная программа TechSkills Accelerator (TeSA) для массовой подготовки квалифицированных кадров в сфере информационно-коммуникационных технологий;
ж) начатый в 2019 году и успешно реализуемый проект по превращению Сингапура в глобальный центр тестирования, развертывания и масштабирования решений ИИ: разработка уже упоминавшейся ранее всемирно одобренной и применяемой многими международными акторами Рамочной модели управления искусственным интеллектом (Model AI Governance Framework); обучение детей вычислительному мышлению и информационной грамотности, а взрослых - навыкам обработки и анализа данных ИИ.
Как мы видим, внедрение ИИ-технологий в Сингапуре осуществляется на всех уровнях и с привлечением всех заинтересованных субъектов на основе упомянутой в начале нашего исследования Модели ИИ, которая определяет два исходных принципа таких процессов (п. 2.7) [12]: 1) понятность, прозрачность и справедливость - организации, использующие ИИ для принятия решений,
90
должны гарантировать, что процесс принятия решений является понятным, прозрачным и справедливым. Хотя идеальной объяснимости, прозрачности и справедливости достичь невозможно, организациям следует стремиться к тому, чтобы их использование или применение ИИ осуществлялось таким образом, чтобы максимально отражать цели этих принципов; 2) антропоцентричность - решения ИИ призваны ориентироваться на человека. Поскольку ИИ используется для расширения человеческих возможностей, то защита интересов людей, включая их благополучие и безопасность, должна быть первоочередной задачей при проектировании, разработке и развертывании ИИ-решений.
Модель ИИ распространяется в первую очередь на четыре широкие области: систему и методы внутреннего управления, участие человека в процессе принятия решений с использованием ИИ, управление операциями, взаимодействие и общение с заинтересованными сторонами.
Модель ИИ направлена на разработку передовых методов управления данными в целом и в основном применима к моделям машинного обучения, однако не предназначена для разработки методов на случай кибератак. Поэтому организации несут ответственность за обеспечение доступности, надежности, качества и безопасности своих продуктов и услуг, независимо от того, используются ИИ-технологии или нет. Применение Модели ИИ не освобождает организации от соблюдения действующих нормативных актов, напротив, с ее помощью организация может гарантировать соблюдение таковых. Кроме этого, использование Модели ИИ подразумевает обязательное внедрение механизмов управления и защиты данных, предусмотренных Законом о защите персональных данных 2012 года и Принципами конфиденциальности ОЭСР.
Модель ИИ призвана помогать организациям в достижении следующих целей: а) укрепление доверия заинтересованных сторон к ИИ за счет ответственного использования для управления различными рисками при развертывании ИИ-технологий; б) применение разумных мер по согласованию внутренних политик, структур и процессов с соответствующими практиками, основанными на подотчетности, в управлении и защите данных (например, в соответствии с Законом о защите персональных данных 2012 года [17] и Принципами конфиденциальности ОЭСР [9]).
Помимо указанного закона регулирование ИИ-технологий в Сингапуре осуществляется на основе законодательных положений таких актов, как Закон об авторском праве 1987 года в редакции 2006 года [6] для защиты исходного кода компьютерных программ, лежащих в основе ИИ-технологии, а также результатов деятельности ИИ-технологий; Закон о патентах 1994 года в редакции 2005 года [16] для защиты ИИ-технологий, в основе которых лежит машинное обучение [11]; Закон о конкуренции 2004 года в редакции 2006 года [5] в отношении антиконкурентных соглашений и согласованных действий, поддерживаемых алгоритмами; Закон о кибербезопасности 2018 года [7] и Закон о защите от обмана и мошенничества в Интернете 2019 года [19], которые криминализируют определенные деяния (взлом, атаки типа «отказ в обслуживании», заражение компьютерных систем вредоносным программным обеспечением) и предот-
91
вращают электронную передачу ложных утверждений/фактов (преступным является деяние по созданию или изменению автоматизированной компьютерной программы (так называемого «бота») с намерением использовать ее для сообщения ложных фактов).
Одной из законодательных новелл Сингапура, непосредственно касающихся регулирования ИИ-технологий, являются поправки в Закон о дорожном движении (Road Traffic Act) 1961 года в редакции 2004 года [21], вводящие новые термины «автономное транспортное средство» (автомобиль, полностью или в значительной степени оборудованный автономной системой (транспортное средство без водителя)), «автономная система» (система, позволяющая управлять транспортным средством без активного физического контроля или наблюдения со стороны человека-оператора) и «технология автоматизированных транспортных средств» (любая конкретная технология, которая (а) относится к проектированию, строительству или использованию автономных транспортных средств или (б) иным образом относится к достижениям в проектировании или строительстве автономных транспортных средств). Кроме того, законодатель жестко урегулировал вопросы испытаний/использования автономных транспортных средств: запрещено испытание или использование автономного транспортного средства на любой дороге, если у человека нет специального разрешения (ст. 4 Правил дорожного движения (автономные транспортные средства) 2017 года в редакции 2020 года [22]). Как видно из приведенного перечня, основной массив правовых предписаний Сингапура состоит из отраслевых норм, регулирующих конкретные аспекты ИИ-технологий, но лишь в некоторых случаях под специальное регулирование подпадают отдельные сферы применения новых технологий.
В Модели ИИ указано (п. 2.13) [12], что определенные секторы экономики (финансово-банковский, медицина и юридический) могут регулироваться существующими отраслевыми законами, постановлениями или руководящими принципами, относящимися к данному сектору. В частности, Валютное управление Сингапура (Monetary Authority of Singapore) издало Принципы содействия справедливости, этике, подотчетности и прозрачности при использовании искусственного интеллекта и анализа данных в финансовом секторе Сингапура (Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore's Financial Sector, далее - Принципы FEAT) [18], которые должны применяться финансовыми операторами, использующими ИИ-технологии и дата-аналитику при реализации финансовых продуктов и услуг.
По своей юридической силе Принципы FEAT можно отнести к руководству (guideline), одному из инструментов Валютного управления Сингапура как финансового регулятора, уполномоченного [13] издавать такие нормативные акты, как регламенты, инструкции (директивы и предписания), руководства, кодексы, циркуляры и практические предписания. Принципы FEAT регулируют поведение финансовых операторов: нарушение таких предписаний не является правонарушением и не влечет административных санкций, однако степень их соблю-
92
дения сказывается на общей оценке риска для конкретного финансового оператора [1, с. 30].
Документ состоит из 9 разделов, которые, кроме введения и заключительных положений (благодарность разработчикам, представителям финансовых операторов и консультантам), посвящены особенностям применения этого документа, определяют сферу действия и перечень определений, дают краткое изложение принципов и характеризуют отдельно каждый их них (справедливость, этика, ответственность, прозрачность).
При разработке данного документа Валютное управление Сингапура тесно сотрудничало с Комиссией по защите персональных данных (Personal Data Protection Commission, PDPC) и Управлением по развитию информационных технологий (Infocomm Media Development Authority, IMDA) для его согласования с Моделью ИИ и получения экспертного заключения от Консультативного совета по этичному использованию ИИ и данных (Advisory Council on the Ethical use of AI and Data). Важным дополнением к Принципам FEAT является Аналитический документ об искусственном интеллекте и персональным данным Комиссии по защите персональных данных [8], содержащий рекомендации по вопросам выбора соответствующих организационных мер управления и внедрения передовых методов управления данными. Валютное управление Сингапура отдельно указало, что данное руководство содержит не предписания, а существующую на сегодняшний день основу для обсуждения и принятия регулирующих инструментов, которые будут разрабатываться финансовым регулятором в отношении конкретных технических или организационно-правовых аспектов, определяемых в процессе постоянного взаимодействия с финансовыми операторами и другими участниками отношений в финансово-банковском секторе (п. 2.2) [18].
Первый принцип, указанный Валютным управлением Сингапура в качестве основополагающего начала при применении ИИ-технологий и дата-аналитики (далее - AIDA, artificial intelligence and data analytics), - это принцип справедливости. Он обеспечивается путем выполнения двух условий: 1) обоснованность и 2) точность и пристрастность. В первом случае отдельные лица или группы лиц не должны систематически оказываться в невыгодном положении из-за решений, принимаемых AIDA, если эти решения не могут быть обоснованы, а использование персональных данных в качестве входных факторов для решений, основанных на AIDA, обосновано. Во втором случае данные и модели, применяемые при принятии решений, основанных на AIDA, должны регулярно проверяться на точность и актуальность для минимизации непреднамеренной систематической ошибки, как и сами решения, основанные на AIDA, с тем чтобы модели вели себя так, как запланировано.
Обеспечение этичности как принципа применения AIDA заключается в выполнении требования о соответствии использования этих технологий с этическими стандартами, ценностями и кодексами поведения финансового оператора, а решения, принимаемые AIDA, должны соответствовать по крайней мере тем же этическим стандартам, что и решения, принимаемые людьми.
93
Финансовые операторы, эксплуатирующие технологии AIDA, должны обеспечить реализацию принципа ответственности как на внутреннем, так и на внешнем уровне. На внутреннем уровне применение технологий AIDA в процессе принятия решений должно быть одобрено соответствующим внутренним органом. Субъекты, использующие технологии, несут ответственность за работу технологий AIDA как собственной разработки, так и полученных из внешних источников. Руководство финансовых операторов должно быть осведомлено обо всех аспектах эксплуатации той или иной технологии AIDA. На внешнем уровне предусмотрены такие гарантии, как наличие возможностей для субъектов данных запрашивать информацию и требовать пересмотра решений, принятых с помощью технологий AIDA, равно как предоставлять дополнительные данные для анализа таких решений.
Принцип прозрачности обеспечивается через систему гарантий, предусматривающих предоставление информации о технологиях AIDA субъектам данных в рамках общего обмена информацией. Кроме того, субъекты данных имеют право на получение полных и понятных разъяснений о том, какие данные применяются для принятия решений и как они влияют на решение, а также о том, какие последствия могут наступить при принятии решений с помощью технологий AIDA.
Рассмотрим реализацию Принципов FEAT и Модели ИИ в финансово-банковском секторе Сингапура на примере крупнейшего финансового оператора Юго-Восточной Азии - DBS Bank. Эта многонациональная корпорация предоставляет банковские и финансовые услуги в 18 юрисдикциях мира, имея только в Сингапуре более 100 филиалов. Для повышения операционной эффективности и результативности текущего надзора за отмыванием денег DBS Bank разработал и успешно внедрил модель искусственного интеллекта - Фильтр противодействия отмыванию денег (Anti-Money Laundering (AML) Filter Model, далее - AML-фильтр). AML-фильтр определяет прогнозные индикаторы подозрительных транзакций с целью уменьшения количества ложных срабатываний, генерируемых системой без ИИ, тем самым сокращая количество предупреждений, требующих ручной проверки. Признавая жизненно важную роль ИИ в устранении ограничений систем, не связанных с ИИ, DBS Bank определил более актуальный приоритет - принятие мер по обеспечению ответственного применения AML-фильтра. Для этого были предприняты шаги по внедрению нескольких процессов и практик управления ИИ в рамках создания единой структуры ответственного использования данных (Responsible Data Use, далее - RDU-структура), курируемой комитетом по ответственному использованию данных, в состав которого вошли старшие руководители из разных подразделений DBS Банка.
RDU-структура представляет собой трехэтапный процесс, в течение которого происходят оценка и управление рисками всех данных, используемых в DBS Bank: 1) обеспечение соответствия ИИ-модели основным правовым требованиям, вопросам соответствия, безопасности и качества данных; 2) обеспечение ответственного использования данных с соблюдением утвержденных банком принципов PURE (Purposeful, Unsurprising, Respectful and Explainable - целена-
94
правленный, предсказуемый, уважительный и объяснимый. Все данные, используемые в DBS Bank, должны соответствовать этим принципам); 3) соответствие моделей ИИ и машинного обучения техническим требованиям политики управления моделями, принятой в DBS Bank [4].
Для ведения этих процессов был создан Глобальный комитет по правилам и моделям (Global Rules and Models Committee, GRMC), состоящий из юридического подкомитета, подкомитета соответствия (Compliance) и секретариата. Отвечая за оценку всех изменений правил, моделей и параметров оценки, используемых для наблюдения за финансовыми преступлениями, GRMC провел обзор исследований по анализу данных, оценке и развертыванию AML-фильтра, после чего руководители подкомитетов и секретариата дали разрешение на ее применение.
С целью определения уровня участия человека в процессах принятия ИИ-решений DBS Bank рассчитал матрицу вероятности-серьезности ущерба (probability-severity of harm matrix). Использование AML-фильтра для «просеивания» объемных транзакций с целью выявления подозрительных, несомненно, повысит операционную эффективность, но DBS Bank признал необходимость сбалансировать эту технологию человеческим участием для учета пропущенных ложных срабатываний. Принятие подхода «человек над циклом» (human-over-the-loop) предоставляет AML-фильтру возможность определять подозрительные транзакции с вмешательством специалистов в случае необходимости. Для реализации этого подхода DBS Bank использует статистические уровни достоверности, чтобы определить момент реакции специалиста на конкретное оповещение. Если AML-фильтр сгенерировал высокий уровень уверенности в том, что оповещение является ложным положительным результатом, DBS Bank не проверяет это оповещение, потому что оно означает низкую вероятность выявления нарушений, хотя транзакции и выглядят подозрительно. Специалист принимает меры лишь в том случае, если AML-фильтр сгенерировал низкий уровень уверенности в том, что оповещение является ложным срабатыванием, поскольку это приводит к более высокой вероятности ошибки при выявлении подозрительных транзакций. В случаях, когда оповещения имеют высокий рейтинг риска, сотрудники DBS Bank проводят всестороннюю и детальную проверку. Такой подход значительно сэкономил время и позволил эффективно задействовать специалистов банка для анализа оповещений о повышенном риске.
С целью обеспечения ответственного использования данных AML-фильтром DBS Bank адаптировал предложенные в Модели ИИ методы управления данными, позволяющие определять происхождение данных, минимизировать внутренние системные ошибки и использовать различные наборы данных для обучения, тестирования и проверки. Банк признает важность определения происхождения данных при разработке любой ИИ-технологии и в случае создания AML-фильтра использовал данные из своих банковских систем, имеющие прямую связь с текущими транзакциями клиентов, что позволяет легко идентифицировать их источник. DBS Bank также использует данные из систем наблюдения и архивные отчеты о подозрительной активности, поскольку применение
95
различных видов данных - один из важных компонентов разработки ИИ-технологии. Дополнительно к этому DBS Bank ведет документарный учет сопоставления информации, позволяющий отслеживать все используемые в соответствующих полях исходной системы данные. Это помогает идентифицировать их источник даже после его преобразования (реструктуризации, переформатирования и проч.) и обобщения. Для обучения, тестирования и проверки AML-фильтра банк использует полные наборы данных вместо выборочных наборов, что позволяет снизить риск неотъемлемой систематической ошибки.
На разработку и тестирование AML-фильтра банку потребовалось два года. За это время разработчики получили полное и всестороннее понимание процессов происхождения данных и триггеров оповещений о транзакциях в сочетании с прозрачным вычислением результатов, генерируемых AML-фильтром, что дало банку возможность объяснить работу своей ИИ-технологии и прогнозировать оценку рисков.
Для обеспечения стабильности AML-фильтра DBS Bank ежемесячно отслеживает показатели, в качестве эталона для которых используются результаты этапов обучения, тестирования и проверки. Дополнительно осуществляются ежемесячные и полугодовые проверки специалистами машинного обучения. Эта дополнительная мера предосторожности гарантирует выявление любого отклонения от заранее определенных пороговых значений. Все рекомендации специалистов машинного обучения выполняются только после рассмотрения и утверждения Глобальным комитетом по правилам и моделям (GRMC). Кроме того, банк внедрил систему внутреннего контроля для устранения рисков, связанных с применением AML-фильтра, в частности, результаты работы этой технологии документируются в протоколах заседаний руководящих органов, что способствует надлежащей передаче информации на различных этапах разработки и в процессах принятия решений.
В рамках имплементации Модели ИИ организациям рекомендуется разрабатывать соответствующие коммуникационные стратегии для обеспечения обратной связи с заинтересованными сторонами. С этой целью DBS Bank разработал простую информационную панель для документирования и отслеживания эффективности AML-фильтра, которая обновляется ежемесячно и используется банком для объяснения действия своей ИИ-технологии и предоставления результатов как внутренним (высшее руководство и правление), так и внешним (Валютное управление Сингапура) заинтересованным лицам. Учитывая конфиденциальный характер и особое предназначение AML-фильтра (выявление незаконных транзакций), DBS Bank не публикует подробную информацию о своей технологии.
Выводы. Правовое регулирование использования искусственного интеллекта в Сингапуре носит спорадический характер: существующие отраслевые нормативно-правовые акты применяются к разным аспектам использования технологий. Многочисленные проекты и инициативы государства направлены на саморегулируемость процессов путем широкого вовлечения всех заинтересованных субъектов (частного и публичного секторов). Первенство Сингапура в разработке
96
всемирно признанной Рамочной модели управления искусственным интеллектом и ее применении в разных секторах экономики способствует наработке опыта и осуществлению ведущей роли в установлении стандартов. Участие финансового регулятора в данных процессах носит координирующий и интегрирующий характер, что позволяет использовать идеи всех участников финансово-банковского сектора и в дальнейшем унифицировать подходы и стандарты к применению технологий искусственного интеллекта. Разработанный Валютным управлением Сингапура инструмент для регулирования процессов в сфере искусственного интеллекта (Принципы содействия справедливости, этике, подотчетности и прозрачности при использовании искусственного интеллекта и анализа данных в финансовом секторе Сингапура) благодаря своей гибкости и лабильности позволяет, с одной стороны, стандартизировать процессы, а с другой - обеспечить права потребителей финансовых и банковских услуг. Опыт крупнейшего в Юго-Восточной Азии сингапурского банка DBS Bank свидетельствует о правильности выбранной стратегии государства по стимулированию полномасштабного применения искусственного интеллекта в финансово-банковском секторе.
1. Горян Э. В. Роль финансового регулятора в обеспечении кибербезопасности: опыт Сингапура // Финансовое право и управление. - 2018. - № 2. - С. 25-38.
2. О развитии искусственного интеллекта в Российской Федерации: Указ Президента РФ от 10.10.2019 №490 (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»). - Текст: электронный // СПС «КонсультантПлюс»: [сайт]. - URL: http://www.consultant.ru/document/cons_doc_LAW_335184/ (дата обращения: 14.08.2020).
3. AI Singapore: [сайт]. - URL: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme. - Текст: электронный (дата обращения: 14.08.2020).
4. Compendium of Use Cases: Practical Illustrations of the Model AI Governance Framework 2020. - Текст: электронный // Personal Data Protection Commission Singapore: [сайт]. -URL: https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGAIGovUseCases.pdf. - Текст: электронный (дата обращения: 14.08.2020).
5. Competition Act 2004 (revised in 2006). - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/CA2004 (дата обращения: 14.08.2020).
6. Copyright Act 1987 (revised in 2006). - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/CA1987 (дата обращения: 14.08.2020).
7. Cybersecurity Act 2018. - Текст: электронный // Cyber Security Agency of Singapore: [сайт]. - URL: https://www.csa.gov.sg/legislation/cybersecurity-act (дата обращения: 14.08.2020).
8. Discussion Paper on Artificial Intelligence (AI) and Personal Data - Fostering Responsible Development and Adoption of AI. - Текст: электронный // Personal Data Protection Commission Singapore: [сайт]. - URL: https://www.pdpc.gov.sg/help-and-resources/2020/03/discussion-paper-artificial-intelligence-and-personal-data (дата обращения: 14.08.2020).
9. Guidelines on the Protection of Privacy and Transborder Flows of Personal Data 2013. -Текст: электронный // Organisation of Economic Cooperation and Development: [сайт]. -URL: https://www.oecd.org/internet/ieconomy/privacy-guidelines.htm (дата обращения: 14.08.2020).
97
10. Implementation and Self-Assessment Guide for Organisations 2020. - Текст: электронный // Personal Data Protection Commission Singapore: [сайт]. - URL: http://go.gov.sg/ISAGO (дата обращения: 14.08.2020).
11. Lim Chong Kin. AI, Machine Learning & Big Data: Singapore 2020. - Текст: электронный // Global Legal Insights: [сайт]. - URL: https://www.globallegalinsights.com/practice-areas/ai-machine-learning-and-big-data-laws-and-regulations/singapore (дата обращения: 14.08.2020).
12. Model Artificial Intelligence Governance Framework (Second Edition) 2020. - Текст: электронный // Infocomm Media Development Authority Singapore: [сайт]. - URL: https://www.imda.gov.sg/-/media/Imda/Files/Infocomm-Media-Landscape/SG-Digital/Tech-Pillars/Artificial-Intelligence/Primer-for-second-edition-of-the-Model-Framework.pdf?la=en (дата обращения: 14.08.2020).
13. Monetary Authority of Singapore Act 1970 (revised edition 1999). - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/MASA1970 (дата обращения: 14.08.2020).
14. National Artificial Intelligence Strategy. - Текст: электронный // Smart Nation Singapore:
[сайт]. - URL: https://www.smartnation.gov.sg/why-Smart-Nation/NationalAIStrategy (дата обращения: 14.08.2020).
15. Smart Nation Singapore: [сайт]. - URL: https://www.smartnation.gov.sg/ (дата обращения: 03.08.2020).
16. Patents Act 1994 (revised in 2005). - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/PA1994 (дата обращения: 14.08.2020).
17. Personal Data Protection Act 2012. - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/PDPA2012 (дата обращения: 14.08.2020).
18. Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore's Financial Sector 2018. -Текст: электронный // Monetary Authority of Singapore: [сайт]. - URL: https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT (дата обращения: 14.08.2020).
19. Protection from Online Falsehoods and Manipulation Act 2019. - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/Act/POFMA2019 (дата обращения: 14.08.2020).
20. Remolina N. How to Address the AI Governance Discussion? What Can We Learn From Singapore's AI Strategy? - Текст: электронный // SMU Centre for AI & Data Governance Research Paper No. 2019/03. - SSRN: [сайт]. - URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3444024 (дата обращения: 03.08.2020).
21. Road Traffic Act 1961 (revised 2004). - Текст: электронный // Singapore Statutes Online:
[сайт]. - URL: https://sso.agc.gov.sg/Act/RTA1961 (дата обращения: 14.08.2020).
22. Road Traffic (Autonomous Motor Vehicles) Rules 2017 (revised 2020). - Текст: электронный // Singapore Statutes Online: [сайт]. - URL: https://sso.agc.gov.sg/SL/RTA 1961-S464-2017?DocDate=20170823 (дата обращения: 14.08.2020).
23. Walters R. Data Protection and Artificial Intelligence Law: Europe Australia Singapore -An Actual or Perceived Dichotomy? - Текст: электронный // American Journal of Science, Engineering and Technology. 2019. - SSRN: [сайт]. - URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3503392 (дата обращения: 03.08.2020).
98
Транслитерация
1. Goryan E. V. Rol' finansovogo regulyatora v obespechenii kiberbezopasnosti: opyt Sin-gapura // Finansovoe pravo i upravlenie. - 2018. - № 2. - S. 25-38.
2. O razvitii iskusstvennogo intellekta v Rossijskoj Federacii: Ukaz Prezidenta RF ot 10.10.2019 №490 (vmeste s "Nacional'noj strategiej razvitiya iskusstvennogo intellekta na period do 2030 goda"). - Tekst: elektronnyj // SPS "Konsul'tantPlyus": [sajt]. - URL: http://www.consultant.ru/document/cons_doc_LAW_335184/ (data obrashcheniya: 14.08.2020).
© Э.В. Горян, 2020
Для цитирования: Горян Э. В. Перспективы использования искусственного интеллекта в финансово-банковском секторе: опыт Сингапура // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. - 2020. -Т. 12, № 3. - С. 86-99.
For citation: Gorian E. V. Artificial Intelligence in the financial and banking sector: experience of Singapore, The Territory of New Opportunities. The Herald of Vladivostok State University of Economics and Service, 2020, Vol. 12, № 3, pp. 86-99.
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-3/086-099
Дата поступления: 17.08.2020.
