CC BY
38
Особенности правового регулировании искусственного интеллекта в Индонезии и Малайзии
Князева Наталья Анатольевна,
кандидат юридических наук, доцент, доцент кафедры уголовного права и криминологии Юридической школы Дальневосточного федерального университета E-mail: knyazeva.na@dvfu.ru
Третьякова Наталья Александрова,
Студент Юридической школы Дальневосточного
федерального университета
E-mail: tretyakova .na@students.dvfu.ru
Данная статья посвящена исследования вопросов разработки правового поля использования искусственного интеллекта в различных сферах жизни общества и государства. С учетом разных подходов при решения данного вопроса на национальной уровне, следует рассмотреть несколько вариантов формирования нормативных правил использования ИИ, которые применяют другие страны, имеющие высокий уровень технологического развития. Одними из таких являются Индонезия и Малайзия, которые являются лидерами цифрового и технологического развития в мире. В работе подробно рассматриваются принципы внедрения искусственного интеллекта согласно специальным программам, планам развития цифровой экономики и принятым Стратегиям. Выделяются плюсы и минусы использования ИИ в сфере здравоохранения и государственного управления. Сравнение этих двух стран в различных правовых плоскостях выделяет много общих черт, что позволит им заимствовать опыт друг друга в правовом регулировании, и который в свою очередь может использовать Россия.
Ключевые слова: искусственный интеллект, киберправо, право Малайзии, право Индонезии, право цифровых технологий, правовое регулирование ИИ.
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16129
Стремительное технологическое развитие привело к активной разработке и внедрения искусственного интеллекта (ИИ) в различные сферы общественной жизни - от медицины и банковского сектора до применения ИИ в области государственного управления и военного сектора. Использование ИИ способно обеспечить быстрое и точное решение сложных задач, повысить качество оказания услуг и значительно облегчить
Необходимость адекватного и качественного нормативного регулирования в этой области вызвано решением целого ряда вопросов: использования ИИ в транспортной сфере, защиты персональных данных, коммерческой, банковской тайны, вопросы ответственности при совершении ряда преступлений с использованием ИИ, возмещения вреда, причиненного искусственным интеллектом и др.
Как правильно замечает Р.И. Дремлюга существует определенный путь формирования нормативных правил использования ИИ, в разной форме на национальном уровне формулируются общие принципы и положения регулирования сферы применения искусственного интеллекта [1, с. 217]. Используя опыт других стран, которые являются лидерами в вопросах цифровизации, разработки, внедрения и использования искусственного интеллекта, мы можем определить свой путь в построении эффективной системы регулирования данной области.
Среди всех стран, которые уже создали различные механизмы нормативного закрепления основ разработки и использования ИИ, особенно хочется отметить страны Юго-восточной Азии. Многие развивающиеся страны этого региона являются перспективными и инвестиционно привлекательными, Малайзия и Индонезия не стали исключением. Выбор именно этих стран для исследования был обусловлен схожестью уровня цифровизации и регулирования в сфере цифрового права по сравнению с Россией, что позволит странам заимствовать опыт друг друга, а также освоить новые рынки и наладить сотрудничество, что особенно актуально в связи с поворотом российской политики на восток
Индонезия и Малайзия схожи по уровню общего регулирования по вопросам искусственного интеллекта - единый закон, который содержит нормы, регламентирующие отношения по поводу разработки, внедрения и применения искусственного интеллекта, в обеих странах отсутствует. В зависимости от сферы, где уже применяется или возможно в дальнейшем внедрении ИИ, существует
5 -о
сз
<
перечень законов и подзаконных актов. В зависимости от сферы, где уже применяется или возможно в дальнейшем внедрении ИИ, существует перечень определенных законов и подзаконных актах. Также для конкретных отраслей общественной жизни предусмотрена разработка собственных правил и требований по интегрированию ИИ в таких областях как транспорт, финансовые услуги, образование, здравоохранение и СМИ.
Малайзия стала одной из первых развивающихся стран, которая поставила задачу реализовать долгосрочную стратегию по развитию цифровых технологий и искусственного интеллекта. Впервые вопросы разработки и внедрения ИИ в Малайзии появились еще в 1991 г. и нашли свое отражение в Стратегии развития и укрепления национальных инновационных систем (НИС) Малайзии, которая базируется на специальной программе Wawa-san 2020 или Vision 2020 - долгосрочном плане ее экономического развития [2, дата обращения: 06.07.2022]. При этом главным объектом внимания властей Малайзии на протяжении многих лет является сектор информационно-коммуникационных технологий (ИКТ).
С начала 1990-х гг. малайзийское правительство значительно активизировало свои меры но превращению страны в один из ведущих мировых центров ИКТ при помощи крупномасштабных инвестиций в ряд специальных программ, сфокусированных на ускоренном развитии инфраструктурной и институциональной составляющих сектора ИКТ. В частности, созданный в 1994 г. Национальный совет по информационным технологиям (NITC) является главным разработчиком государственной стратегии в сфере ИКТ. Малазийская корпорация развития руководит работой Мультимедийного Супер Коридора (Multimedia Super Corridor (MSC)), -ключевого научно-технологического кластера малайзийской экономики, своеобразной «расширенной версией» сингапурской технопарковой системы, но с более узкой отраслевой привязкой.
В 2000-х гг. наметились значительные изменения относительно развития, внедрения и использования ИИ-технологий в различных сферах общественной жизни. Принятая в 2017 г. Национальная политика трансформации Малайзии до 2050 г. (2017 г.) (Malaysia's National Transformation Policy 2050 (2017)) отводит большую роль науке и технологиям во всех секторах и предусматривает экономическую трансформацию страны до 2050 г. [3, дата обращения: 11.07.2022]. В рамках усиления развития цифровых технологий в 2017 г. был принят план разработки Национальной ИИ-фреймворка для Малайзии. Однако, к сожалению, данный проект не получил своего дальнейшего развития, так как новое правительство Малайзии пока не обновило Национальную ИИ-стратегию. 5= Наибольшие подвижки в развитии ИИ наме-S тились уже в 2022 г. когда был представлен план g развития цифровой экономики Малайзии (Malay-^ sia Digital Economy Blueprint) [4, дата обращения: I 11.07.2022], который определяет траекторию ро-
ста цифровой экономики страны. Среди его основных стратегических направлений следует отметить следующие:
• Повышение конкурентоспособности экономики за счет цифровизации;
• Развитие цифровой инфраструктуры;
• Формирование цифровой квалифицированной рабочей силы;
• Создание инклюзивного цифрового общества и создание безопасной и этичной цифровой среды.
Необходимо отметить, что в отдельных штатах (султанатах) Малайзии приняты свои Планы (Стратегии), а также разработано нормативное поле для внедрения цифровых технологий с различные институты общества. Например, султанат (штат) Се-лангор в 2020 г. подготовил План действий Smart Selangor до 2025 г. (The Smart Selangor Action Plan 2025 prepared by the Smart Selangor Delivery Unit (SSDU)) [5, дата обращения: 10.07.2022]. Согласно утвержденному Плану к 2050 г. будет создано Умное правительство (Smart Government), т.е. использующее цифровые технологии для проведение своей политики, получения сведений на основе обработки данных из нескольких источников для более быстрого, беспрепятственного и эффективного оказания услуг с учетом потребностей граждан, а также для сокращения бюрократических проволочек.
В Индонезии принятая Стратегия развития (Strategi Nasional Kecerdasan Artifisial Indonesia) [6, дата обращения: 06.07.2022] является весьма многообещающим характером. Однако, горизонт ее планирования довольно отдаленный - 20202045 гг., что не характерно для азиатских стран.
В принятой стратегии выделяются четыре основных вектора для работы:
1. Положения, регулирующие отдельные виды применения технологии искусственного интеллекта (например, автоматизированное принятие решений, распознавание лиц, беспилотные автомобили);
2. Положения, которые регулируют применение технологий в определенном секторе экономики (например, финансы, здравоохранение, управление человеческими ресурсами);
3. Вопросы привлечения к юридической ответственности за негативные последствия и вред, причиненный в результате использования искусственного интеллекта;
4. Кодекс этики, созданный либо ассоциациями субъектов бизнеса искусственного интеллекта, либо инициативными группами.
Но, так как процесс работы с искусственным интеллектом в этой стране был начат совсем недавно, то видимых результатов пока не так много.
Как отмечалось ранее не смотря на отсутствие в Индонезии и Малайзии единого нормативного акта по вопросам регулирования искусственного интеллекта, можно выделить отдельные сферы деятельности, которые активно внедряют ИИ в свою деятельности. При этом следует отметить как по-
ложительные стороны правовой регламентации и использования ИИ,так и отрицательные.
В Индонезии одним из приоритетов упомянутой ранее Национальной стратегии искусственного интеллекта является здравоохранение. Исследования в области применения интеллектуальных систем в области здравоохранения Индонезии проводятся с 2000 г. Например, исследователи использовали экспертную систему, чтобы помочь диагностировать туберкулез. Экспертные системы -это компьютерные системы, которые имитируют способность человека-эксперта принимать решения, фактически такая технология является предшественником современных систем ИИ. В настоящее время система используется для диагностики различных инфекционных и неинфекционных заболеваний, таких как коклюш, дифтерия, болезни сердца и инсульт.
Однако, существует определенное правовое препятствие внедрения ИИ в здравоохранении является защита персональных данных. Закон о здравоохранении (Закон № 36 от 2009 г. о здравоохранении) [7, дата обращения: 21.07.2022] и его имплементационный регламент защищают информацию о пациентах, содержащуюся в медицинских картах. За исключением определенных обстоятельств, информация в медицинских картах должна храниться в тайне врачами и руководителями медицинских учреждений, и не может быть передана другим лицам без согласия пациентов. Кроме того, поставщики электронных услуг должны обеспечивать конфиденциальность, полноту, подлинность и доступность электронной информации или электронных документов в соответствии с действующими законами и нормативными актами.
В отличие от Индонезии в Малайзии использование ИИ в системе здравоохранения полноценно началось намного позднее - в 2019 г. В этот период началось сотрудничество между Управлением инвестиционного развития Малайзии, Центром Совместных исследований в области инженерии, науки и технологий (Crest) и M3DICINE, которому содействовала Группа развития телемедицины (TDG). Стратегия сотрудничества направлена на использование ИИ в медицинской и ветеринарной сфере. В частности, обновления и техническая поддержка Stethee Pro - стетоскопической системы с поддержкой искусственного интеллекта, которая позволяет пользователям прослушивать звуки сердца и легких с помощью сложной технологии усиления и фильтрации. Это улучшает способ исследования сердца и легких с подробным и точным анализом, позволяя передавать записи на устройство (смартфон или планшет), через технологию Bluetooth [8, дата обращения: 07.07.2022].
Развитие ИИ в области медицины и здравоохранения в Индонезии и Малайзии произошло в связи с пандемией COVID-19. В частности, в Индонезии Национальная технология обнаружения COVID-19, использующая искусственный интеллект, GeNose, получила разрешение на распространение от Министерства здравоохранения в декабре 2020 г.
В Малайзии в середине 2020 г. Huawei Malaysia начала сотрудничество с Министерством здравоохранения Малайзии, чтобы внедрить диагностическое решение Huawei с помощью облачного искусственного интеллекта в больницу COVID-19 в Малайзии, чтобы обеспечить более быструю диагностику COVID-19.
В Индонезии и Малайзии наибольшие сложности применения ИИ сложились в сфере государственного управления. В Индонезии разрабатываются проекты интегрирования ИИ в систему образования и различные области исследования, здравоохранения, продовольственной безопасности, а также для создания умных городов. В ряде государственных проектов уже используются технологии ИИ, в том числе для прогнозирования лесных пожаров, в то время как некоторые правительственные учреждения продвигают разработку ИИ и технологические решения в школах и на преподавательских факультетах. Однако, сама Национальная стратегия рассматривает в качестве препятствий для развития ИИ в сфере государственного управления доминирование импортных технологий на индонезийском рынке, нехватку квалифицированной рабочей силы и злоупотребление доступом к данными. В качестве возможного решения рекомендуется сосредоточиться на инфраструктуре и данных, исследованиях и промышленных инновациях, этике и политике, а также на подготовке кадров. Также предлагается создать совет по этике данных для контроля оборота данных, а также разработать правила и установить национальные стандарты для инноваций в области искусственного интеллекта.
В Малайзии в этой сфере ситуация куда лучше, так как данная страна на сегодняшний день является одним из лидеров по интегрированию современных информационно-телекоммуникационных технических средств в судебную деятельность. Одной из задач внедрения цифровых технологий в судебный процесс является реформирование целиком системы правосудия в Малайзии для более эффективной работы самих судом, а также в целях ее доступности и уменьшение затрат на осуществления правосудия.
Е.П. Ермакова отмечает, что сейчас система электронного правосудия в Малайзий базируется на идее создания так называемого «Зеленого суда» (E-court system) - внедрение современных инновационных технических средств в судопроизводство с целью уменьшения использования бумажных носителей [9, с. 124].
В 2004 г. в качестве пилотных проектов по созданию электронного правосудия были использованы два высших суда в Куала-Лумпуре. Однако только в 2011 г. были интегрированы в судебный р процесс следующие типы систем: Д
1) видеоконференцсвязь; Е
2) управление делами; К
3) портал общественности и адвоката; S
4) запись и транскрибация судебных решений; у
5) электронная подача документов. А
Сейчас судебная система Малайзии продолжает реформирование с целью интегрирования в процесс технологий ИИ, создания виртуальных залов судебных заседаний и голограмм, с помощью которых получается изображение [10, с. 1135]. Особо следует отметить создание в 2016 г. в Малайзии Киберсуда, расположенного Куала-Лумпуре. Причиной создания данного суда явилось огромное количество совершенных преступлений в сфере IT-технологий. Данный суд призван разрешать дела, связанные с киберпреступлениями, а также иные гражданские споры, связанные с высокими технологиями, в соответствии с практическими указаниями главного секретаря Федерального суда Малайзии № 5 от 2016 г. [11, с. дата обращения: 07.07.2022].
В Малайзии программное обеспечение для искусственного интеллекта, разработанное государственной фирмой Sarawak Information Systems, было впервые представлено в 2020 г. в двух судах в Сабахе и Сараваке на острове Борнео в рамках пилотной схемы по изучению эффективности искусственного интеллекта при вынесении приговоров. Суд штата Сабах первым в стране в тестовом испытании применил ИИ для вынесения судебного приговора, когда в 2020 г. - он признал двух мужчин виновными в хранении наркотиков.
Однако, использование ИИ в системе уголовного судопроизводства вызвало недовольство в юридической среде. В частности, малайзийские юристы утверждают, что использование системы ИИ в системе правосудия страны является «неконституционным».
Помимо критики использования ИИ в системе уголовного правосудия, все еще остается нерешенной проблема правового регулирования вопросов интегрирования ИИ в государственную сферу управления отдельными нормативными актами (в том числе и самими штатами (султанатами) Малайзии), которые не всегда идеально вписываются в принятые Планы развития Малайзии в области цифровой трансформации и искусственного интеллекта. А поскольку отсутствует единый подход к этому вопросу отсутствует, то часть сфер государственного управления просто выпадает из данного механизма.
По правильному замечанию В.М. Кузнецова интегрирование в гражданское судопроизводство различных технических средств связано с трудностями с точки зрения их правовой определенности, обеспечения безопасности и сохранения базовых гарантий [12, с. 66].
Отсутствие в Индонезии и Малайзии единой (общей) правовой основы регулирования вопросов искусственного интеллекта, а также существующие пробелы в правовом регулировании технологий с использованием ИИ - в частности, нет четко 5= проработанных механизмом защиты физических S и юридических лиц в случае причинения вреда ис-g кусственным интеллектом, отсутствие правового обеспечения решения вопросов использования Ü ИИ в осуществлении правосудия, расследования
преступлений, собирания и оценивания доказательств по делу. Все это может пагубно повлиять на дальнейшее развитие данной сферы. В частности, нет четко проработанных механизмом защиты физических и юридических лиц в случае причинения вреда искусственным интеллектом, отсутствие правового обеспечения решения вопросов использования ИИ в осуществлении правосудия, расследования преступлений, собирания и оценивания доказательств по делу.
Однако, не смотря на определенные сложности, с которыми сталкивается Индонезия и Малайзия на этапе правового обеспечения ИИ, существующая поддержка государства по данному процессу направлена на усиление использования ИИ практически во всех жизни общества, в том числе и в секторе государственного управления.
Литература
1. Дремлюга Р.И. Основы национального регулирования применения искусственного интеллекта: опыт Сингапура // Азиатско-тихоокеанский регион: экономика, политика, право. - 2022. -Т. 24. - № 1. - С. 214-224.
2. Vision 2020. 06.07.2022 г. https://www.akade-misains.gov.my/wp-content/uploads/2019/12/Vi-sion-2020_complete.pdf
3. Malaysia's Transformasi Nasional 2050 Brings Bold New Style, but to What End? 11.07.2022 г. https://www.iseas.edu.sg/images/pdf/ISEAS_Per-spective_2017_31.pdf
4. Malaysia Digital Economy Blueprint. 11.07.2022 г. https://www.epu.gov.my/sites/default/ files/2021-02/malaysia-digital-economy-blueprint. pdf
5. The Smart Selangor Action Plan 2025 prepared by the Smart Selangor Delivery Unit (SSDU). 10.07.2022 г. https://www.smartselangor.com. my/wp-content/uploads/2020/09/SSAP-0FFI-CIAL-26Aug20.pdf
6. Indonesian Artificial Intelligence Innovation Center. 06.07.2022 г. https://ai-innovation.id/strategi
7. Law on Health (Law No. 36/2009). 21.07.2022 г. https://www.ilo.org/dyn/natlex/natlex4.detail?p_ lang=en&p_isn=91185#:~: text=This%20Law%20 regulates%3A%20the%20general, realize%20 the%20highest%20possible%20health
8. AI in Healthcare in Malaysia. 07.07.2022 г. https:// conventuslaw.com/report/overview-of-artificial-intelligence-in-malaysia/
9. Ермакова Е.П. Гражданский процесс, арбитраж и медиация в Гонконге, Индонезии, Малайзии, Сингапуре и Филиппинах. Монография. - М.: Юрлитинформ, 2015. - 184 с.
10. Русакова Е.П. Электронное гражданское судопроизводство в Индонезии, Таиланде, Малайзии // Вестник РУДН. Серия: Юридические науки. - 2020 - Т. 24. - № 4. - С. 1122-1140.
11. Edwin Lee, Yong Cieh. Special cyber court and E-Court. 07.07.2022 г. https://gltlaw. my/2018/05/24/special-cyber-court-and-e-court/
12. Кузнецов М.Н. Влияние цифровизации на некоторые руководящие начала гражданского судопроизводства // Вестник Московского городского педагогического университета. Серия: Юридические науки. - 2020. - № 2 (38). -С.58-67.
FEATURES OF THE LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE IN INDONESIA AND MALAYSIA
Knyazeva N.A., Tretyakova N.A.
Far Eastern Federal University
This article is devoted to the study of the development of the legal field for the use of artificial intelligence in various spheres of society and the state. Given the different approaches to addressing this issue at the national level, it is necessary to consider several options for the formation of normative rules for the use of AI, which are used by other countries with a high level of technological development. One of these are Indonesia and Malaysia, which are leaders in digital and technological development in the world. The study discusses in detail the principles of introducing artificial intelligence in accordance with special programs, plans for the development of the digital economy and adopted strategies. The pros and cons of using AI in healthcare and public administration are highlighted. Comparison of these two countries in various legal planes highlights many common features, which will allow them to borrow each other's experience in legal regulation, and which Russia can use.
Keywords: artificial intelligence, cyber law, Malaysian law, Indonesian law, digital technology law, AI legal regulation.
References
1. Dremlyuga R.I. Fundamentals of national regulation of the use of artificial intelligence: the experience of Singapore // Asia-Pacific Region: Economics, Politics, Law. - 2022. - T. 24. -No. 1. - P. 214-224.
2. Vision 2020. 06.07.2022 r. https://www.akademisains.gov.my/ wp-content/uploads/2019/12/Vision-2020_complete.pdf
3. Malaysia's Transformasi Nasional 2050 Brings Bold New Style, but to What End? 11.07.2022 https://www.iseas.edu.sg/images/ pdf/ISEAS_Perspective_2017_31.pdf
4. Malaysia Digital Economy Blueprint. 11.07.2022 https:// www.epu.gov.my/sites/default/files/2021-02/malaysia-digital-economy-blueprint.pdf
5. The Smart Selangor Action Plan 2025 prepared by the Smart Selangor Delivery Unit (SSDU). 10.07.2022 https://www.smart-selangor.com.my/wp-content/uploads/2020/09/SSAP-0FFI-CIAL-26Aug20.pdf
6. Indonesian Artificial Intelligence Innovation Center. 06.07.2022 https://ai-innovation.id/strategi
7. Law on Health (Law No. 36/2009). 21.07.2022 https://www. ilo.org/dyn/natlex/natlex4.detail?pjang=en&p_isn=91185#:~: text=This%20Law%20regulates%3A%20the%20general, real-ize%20the%20highest%20possible%20health
8. AI in Healthcare in Malaysia. 07.07.2022 https://conventuslaw. com/report/overview-of-artificial-intelligence-in-malaysia/
9. Ermakova E.P. Civil Litigation, Arbitration and Mediation in Hong Kong, Indonesia, Malaysia, Singapore and the Philippines. Monograph. - M.: Yurlitinform, 2015. - 184 p.
10. Rusakova E.P. Electronic civil litigation in Indonesia, Thailand, Malaysia // Bulletin of RUDN University. Series: Legal Sciences. - 2020 - T. 24. - No. 4. - P. 1122-1140.
11. Edwin Lee, Yong Cieh. Special cyber court and E-Court. 07.07.2022 r. https://gltlaw.my/2018/05/24/special-cyber-court-and-e-court/
12. Kuznetsov M.N. Influence of digitalization on some guiding principles of civil legal proceedings // Bulletin of the Moscow City Pedagogical University. Series: Legal Sciences. - 2020. - No. 2 (38). - p. 58-67.
