CC BY
53
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-4/129-136
УДК 34(340) Ю. С. Матюк
Владивостокский государственный университет экономики и сервиса
Владивосток. Россия
Правовые и социальные аспекты применения
*
искусственного интеллекта в условиях пандемии
Сравнительный анализ применения правительствами стран цифровых технологий и приложений на основе искусственного интеллекта для сдерживания распространения эпидемии выявил проблемы разного характера, в том числе правового. Целью исследования является анализ применения технологий искусственного интеллекта (ИИ) для борьбы с COVID-19. В задачи исследования вошли изучение мирового опыта использования цифровых технологий и приложений на основе ИИ как части ограничительных мер, принятых государствами для борьбы с распространением ко-ронавируса, а также анализ правового и социального аспектов такого применения. Исследование выполнено с использованием общенаучных (диалектический, системно-структурный, анализ, синтез) и частноправовых методов познания (формально-юридический и сравнительно-правовой). В рамках анализа соблюдения права на конфиденциальность и защиту личных данных при осуществлении некоторых правовых и технических мер, принятых юрисдикциями для предотвращения распространения пандемии COVID-19 среди стран, присоединившихся к Конвенции о защите частных лиц в отношении автоматической обработки персональных данных, выявлено, что правовое регулирование возможных издержек массового использования ограничительных мер остается все еще недостаточно проработанным. На практике системы, созданные в условиях крайне сжатых сроков, не всегда отвечают критериям безопасности, возникает риск неправомерного доступа к персональным данным. Пандемия стала катализатором внедрения и расширения возможностей применения искусственного интеллекта. Повсеместное использование современных технологий в борьбе с вирусом обнаружило наличие правовых противоречий, что также не могло не повлиять на восприятие ограничений обществом, поэтому необходимым наряду с разработкой технологий для борьбы с пандемией является создание системы правового регулирования применения инноваций, которая способствует организации условий максимально эффективного использования возможностей искусственного интеллекта для борьбы с распространением COVID-19.
Матюк Юлия Сергеевна - ассистент кафедры теории и истории российского и зарубежного права; e-mail: [email protected]
Работа выполнена при финансовой поддержке гранта РФФИ № 20-011-31760 «Цифровые, биологические и социокультурные тренды эволюции публично-властной организации и отношений в современной России: проблемы моделирования и прогнозирования общественно-политической динамики».
129
Ключевые слова и словосочетания: искусственный интеллект (ИИ), COVID-19, пандемия, право науки и технологии, отслеживающие приложения, мировые тенденции, большие данные, право Европейского союза.
Yu. S. Matyuk
Vladivostok State University of Economics and Service Vladivostok. Russia
Legal and social aspects of the use of artificial intelligence in a pandemic
A comparative analysis of digital technologies and AI-based applications use by governments of countries to contain the spread of the epidemic revealed many problem areas, including the legal one. The aim of the study is to analyze the application of AI technologies to combat the COVID-19. The objectives of the research are to analyze the global experience of digital technologies and AI-based applications use as part of the restrictive measures taken by states to combat the spread of coronavirus, as well as analyze the legal and social aspects of such use. The study was carried out using general scientific methods of cognition (dialectical, systemic and structural methods, analysis, synthesis), as well as private law methods (formal legal and comparative legal methods). Analysis of the observance of the right to confidentiality and protection of personal data in the context of some legal and technical measures taken to prevent the spread of the pandemic among countries that have acceded to the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data, revealed that the legal regulation of the possible consequences of the massive use of restrictive measures remains still underdeveloped. In practice, systems created under extremely tight deadlines do not always meet security criteria, creating a risk of unauthorized access to personal data. The pandemic has become a catalyst for the widespread use of artificial intelligence. The use of digital technologies in the fight against the virus revealed the existence of legal contradictions that affect the perception of restrictions by society, therefore, it is necessary, along with the development of technologies to combat the pandemic, the creation of a system of legal regulation of the application of innovations. This helps create conditions for the most effective use of the capabilities of artificial intelligence to combat the spread of COVID-19.
Keywords: artificial intelligence, COVID-19, pandemic, law of science and technology, tracing apps, global trends, big data, European Union law.
Введение
Технологический прогресс, цифровые технологии уже давно и прочно вошли в жизнь современного общества. Сложившаяся эпидемиологическая обстановка в стране и в мире ставит новые задачи как в выявлении новых возможностей применения технологий, так и в формировании правового регулирования их внедрения. С возникновением пандемии во всем мире возросли важность, эффективность и незаменимость информационных технологий в целом и искусственного интеллекта в частности. Для развития новейших технологий это
130
огромный вызов, который наряду с интенсивным расширением возможностей в этой сфере будет способствовать борьбе с распространением новейшей вирусной угрозы. Повсеместное использование правительствами стран цифровых технологий и приложений на основе искусственного интеллекта выявило проблемы технического и правового характера. Чрезвычайность ситуации, беспрецедент-ность методов контроля распространения заболевания и, как следствие, возникновение теоретических и практических проблем в этой области предопределили необходимость рассмотрения отдельных аспектов применения технологий ИИ в условиях сложной эпидемиологической обстановки.
Цель исследования - проведение анализа применения технологий ИИ для борьбы с пандемией СОУГО-19. В задачи исследования вошли анализ мирового опыта использования цифровых технологий и приложений на основе ИИ как части ограничительных мер, принятых государствами для борьбы с распространением коронавируса, а также анализ правового и социального аспектов такого применения.
Исследование выполнено с использованием общенаучных (диалектический, системно-структурный, анализ, синтез), а также частноправовых методов познания (формально-юридический и сравнительно-правовой).
Основная часть
По мере того как мир борется с пандемией СОУГО-19, все большее значение приобретают медицинские цифровые технологии, использование которых помогает преодолеть это бедствие. Искусственный интеллект широко применяется в борьбе с вирусом, начиная от скрининга и диагностики до разработки лекарств и прогнозирования распространения вируса. И если медицинское применение искусственного интеллекта в большинстве своем положительно оценивается общественностью, то ограничительные мероприятия, в том числе с привлечением искусственного интеллекта, вызывают бурные обсуждения и воспринимаются неоднозначно.
Мировой опыт свидетельствует, что в период пандемии применялись беспрецедентные меры, обусловленные техническими достижениями современности. Китай, встретивший коронавирус первым, широко использовал инфракрасные камеры, в том числе с системой распознавания лиц, для сканирования скопления людей на предмет высокой температуры, ношения маски. Эта система также использовалась для обеспечения соблюдения гражданами рекомендаций по самоизоляции. Помимо камер китайские правоохранители использовали «умные» шлемы, способные определять и помечать людей с высокой температурой тела. Помехой в работе таких устройств стали маски, используемые повсеместно, однако с помощью технологий была решена и эта проблема - устройства стали распознавать человека в маске с 95% вероятностью [11]. Китай активно использовал дроны для патрулирования улиц и выявления граждан без масок. Беспилотные летательные аппараты делали замечания тем, кто не соблюдает меры безопасности, и настойчиво велели не выходить на улицу без необходимости. Также дроны применялись и для измерения температуры тела [7].
Политика общественного здравоохранения реализовывалась с помощью приложения, которое не было обязательным, но требовалось для перемещения
131
в общественных местах и на общественном транспорте. Приложение позволяет центральной базе данных собирать информацию о передвижениях пользователей и диагностике коронавируса. База анализируется алгоритмом искусственного интеллекта, который выдает цветовые QR-коды (зеленый, желтый, красный). В зависимости от цвета человек либо находится на карантине (желтый, красный), либо может перемещаться по городу (зеленый) [9]. Приложение представляет собой подключаемый модуль для приложений WeChat и Alipay и получило широкое распространение [3].
Израиль запустил отслеживание местоположения граждан через сети сотовой связи или с помощью GPS, при этом нет необходимости загружать приложение [4].
Сингапур применял приложение TraceTogether, использующее Bluetooth Low Energy, для создания записей о других ближайших телефонах, на которых также установлено приложение, но не отслеживается их местоположение. Обычно Bluetooth используется для передачи анонимных идентификаторов со сдвигом во времени на ближайшие устройства. Затем принимающие устройства фиксируют эти идентификаторы в локально сохраненном журнале истории контактов. Считается, что протоколы с Bluetooth-шифрованием имеют меньше проблем с конфиденциальностью и потребляют меньше энергии, чем аналоги на основе GPS [2].
Тайвань очень быстро предпринял широкомасштабные меры. Все люди из наиболее пострадавших материковых провинций должны были оставаться на карантине в течение четырнадцати дней, им передавался мобильный телефон, записывающий их местоположение по GPS, чтобы полиция могла «наблюдать за их передвижениями и следить за тем, чтобы они не покидали свой дом» [6].
В Италии было разработано приложение для смартфона, с помощью которого можно проследить маршрут зараженного вирусом человека и предупредить людей, контактировавших с ним. По словам разработчика, конфиденциальность гарантирована, так как приложение не будет раскрывать телефонные номера или личные данные [12].
В России в период пандемии была введена пропускная система для перемещения граждан, в том числе с использованием QR-кодов; действовало приложение «Социальный мониторинг», которое определяло местоположение человека и запрашивало фотографию в реальном времени несколько раз в день для фиксации нарушения карантина.
Широкое распространение использования правительствами стран приложений на основе искусственного интеллекта выявило проблемы разного характера. В отчете Совета Европы «Цифровые решения для борьбы с COVID-19» [8] представлен анализ соблюдения права на конфиденциальность и защиту личных данных при осуществлении некоторых правовых и технических мер, принятых правительствами для предотвращения распространения пандемии COVID-19 среди стран, присоединившихся к Конвенции о защите частных лиц в отношении автоматической обработки персональных данных («Конвенция 108»), а также углубленный технический обзор приложений для отслеживания цифровых контактов и инструменты мониторинга.
132
Совет Европы призывает правительства обеспечить прозрачность цифровых решений, чтобы гарантировать соблюдение прав на конфиденциальность и защиту данных. Целью отчета является оценка степени соответствия принятых мер конвенции о защите данных, в отчете также содержатся рекомендации по обеспечению эффективности и устойчивости системы защиты данных.
Согласно отчету в ряде стран выявляются недостатки в отношении соблюдения принципов «Конвенции 108» по таким вопросам, как требование о правовой основе принимаемых мер, их соразмерность, обоснованность общественными интересами и согласие субъекта данных для обработки данных.
Особенно сложным аспектом является ограничение целей обработки данных. В отчете указывается, что в некоторых странах границы между задачами здравоохранения и целями правоохранительных органов иногда стираются. Также указываются риски защиты данных, связанные с безопасностью, хранением и совместным использованием данных, что привело к отмене определенных мер в некоторых странах.
При рассмотрении вопроса о соблюдении принципа конфиденциальности отмечается, что из 55 сторон «Конвенции 108» 26 юрисдикций выбрали децентрализованный подход для приложений отслеживания контактов, в то время как 14 выбрали централизованный подход. Пять стран решили вообще не использовать приложения [8]. Вопрос централизации хранения данных неоднозначен. Централизованный подход предполагает, что информация, собранная с мобильных устройств, хранится в базах данных государства, децентрализованный - на телефонах пользователей.
Отчет содержит результаты опроса государств - участников «Конвенции 108» об использовании цифровых решений для контроля над распространением вируса. Из 47 респондентов, участвовавших в опросе, 36 используют приложения для отслеживания контактов или оповещений о нахождении в непосредственной близости с инфицированным человеком (77%), 20 - для самодиагностики (43%), 11 - для соблюдения карантина (23%) и 8 для составления карты маршрутов поездок (17%). Только две страны использовали приложения для борьбы с массовыми беспорядками и еще две - для паспортов иммунитета.
Согласно отчету 20 стран, принявших участие в опросе, опубликовали исходные коды приложений, что может способствовать укреплению доверия пользователей и повышению эффективности приложений. Также в отчетах рекомендуется привлекать гражданское общество к разработке цифровых решений и мер их прозрачности.
Особенно остро встает вопрос о социальных аспектах применения искусственного интеллекта в период ограничительных мероприятий, проводимых государством для борьбы с коронавирусной инфекцией. Общественностью широко обсуждаются принимаемые меры с позиции соблюдения прав человека и охраны личных данных, в том числе в период постпандемии.
Примечательно, что ограничительные меры воспринимаются в разных странах по-разному. Например, в случае применения жестких ограничений, в том числе использование дронов и камер слежения, «большинство западных граж-
133
дан были бы озабочены из-за проблем с конфиденциальностью, но в Китае люди настолько привыкли к слежке, что могут не реагировать на это» [7]. Такая разница в отношении к ограничениям может быть обусловлена менталитетом и в целом восприятием системы управления. Если на Востоке управленческие решения не осмысливаются, а принимаются априорно, то на Западе они изначально становятся объектом жесткой критики и осмысления с точки зрения их соответствия правам человека [1, с.102].
Повсеместное использованием современных технологий в борьбе с вирусом обнаружило наличие правовых противоречий, что также не могло не повлиять на восприятие ограничений обществом, поэтому важной задачей наряду с разработкой технологий для борьбы с пандемией является создание системы правового регулирования применения инноваций. Ян Клейссен, директор управления Совета Европы по борьбе с преступностью в информационном обществе отмечает, что «существующие правовые инструменты, например Европейская конвенция о правах человека, несомненно, являются базисом для защиты прав человека и обеспечения верховенства закона. Но также ясно, что сейчас существует так много приложений, использующих искусственный интеллект, которые не охватывает правовое регулирование. Совет Европы готовит предложения по ряду этих вопросов на основе ЕКПЧ и других актов, а также на основе более 200 этических хартий и актов, разработанных представителями промышленности, правительствами и неправительственными организациями. Эти акты не являются обязательными, например, нельзя ссылаться на этическую хартию в суде. Таким образом, необходима нормативная основа для эффективной правовой защиты» [10].
Советом Европы подготовлено руководство «Соблюдение принципов демократии, верховенства права и прав человека в условиях эпидемиологического кризиса СОУГО-19» [5]. Целью документа является предоставление правительствам инструментария для применения в условиях текущего беспрецедентного и крупномасштабного эпидемиологического кризиса с тем, чтобы обеспечить соблюдение основополагающих ценностей демократии, верховенства права и прав человека. Документ предлагает правовую основу, которая может послужить базисом для создания в странах - членах Совета Европы современных механизмов правового регулирования новейших технологий для борьбы с распространением коронавирусной инфекции.
Выводы
Цифровая трансформация охватывает все большее количество сфер жизни общества, и пандемия, с которой столкнулось человечество, стала катализатором внедрения и расширения возможностей применения цифровых технологий в целом и искусственного интеллекта в частности. Беспрецедентные масштабы эпидемии способствовали реализации разного рода ограничительных мер. Однако правовое регулирование возможных последствий массового использования подобных мер остается все еще не в полной мере проработанным. На практике оказывается, что системы, созданные в условиях крайне сжатых сроков, не всегда отвечают критериям безопасности, соответственно, есть вероятность неправомерного доступа и эксплуатации персональных данных в период действия
134
особых мер. Поскольку применение искусственного интеллекта невозможно без создания условий безопасной обработки большого количества информации, целесообразно создать условия для безвредного хранения и использования данных как посредством применения технологий, так и за счет обращения к существующему сегодня правовому регулированию. Без обеспечения этих условий невозможно использовать все возможности искусственного интеллекта, поскольку существует большой риск отсроченных последствий, связанных с утечкой либо потерей персональной или коммерческой информации, собранной в условиях борьбы с пандемией. Правовое регулирование необходимо для внедрения инновационных технологий, создания условий максимально эффективного использования возможностей искусственного интеллекта для борьбы с распространением СОУГО-19.
1. Мирошниченко О. И., Мамычев А. Ю. Цифровая демократия в условиях пандемии: этико-правовые и политические аспекты // Advances in Law Studies. - 2020. - Т. 8, Ч. 2. - С. 100-104.
2. Bay J., Kek J., Tan A. et al. BlueTrace: A privacy-preserving protocol for community-driven contact tracing across borders. - Текст: электронный // Government Technology Agency Singapore: [сайт]. - URL: https://bluetrace.io/static/bluetrace_whitepaper-938063656596c104632def383eb33b3c.pdf (дата обращения: 15.11.2020).
3. Ferretti L., Wymant C., Kendall M. et al. Quantifying SARS-CoV-2 transmission suggests epidemic control with digital contact tracing. - Текст: электронный // Science. 2020: [сайт]. - URL: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7164555/ (дата обращения: 14.11.2020).
4. Holmes O. Israel to track mobile phones of suspected coronavirus cases. - Текст: электронный // The Guardian. 17.03.2020: [сайт]. - URL: https://www.theguardian.com/world/2020/mar/17/israel-to-track-mobile-phones-of-suspected-coronavirus-cases (дата обращения: 15.11.2020).
5. Information Document of the Council of Europe. Respecting democracy, rule of law and human rights in the framework of the COVID-19 sanitary crisis. A toolkit for member states. SG/Inf (2020)11. Strasbourg, 7.04.2020. - Текст: электронный // Council of Europe: [сайт]. - URL: https://rm.coe.int/sg-inf-2020-11-respecting-democracy-rule-of-law-and-human-rights-in-th/16809e1f40 (дата обращения: 15.11.2020).
6. Laurent A. COVID-19: States use geolocalisation to know who respects containment -Текст: электронный // Usebk & Rica: [сайт]. - URL: https://usbeketrica.com/fr/article/covid-19-la-geolocalisation-pour-savoir-qui-respecte-confinement (дата обращения: 15.11.2020).
7. Lindberg K. S., Murphy C. Drones Take to China's Skies to Fight Coronavirus Outbreak -Текст: электронный // Bloomberg: [сайт]. - URL: https://www.bloomberg.com/news/articles/2020-02-04/drones-take-to-china-s-skies-to-fight-coronavirus-outbreak (дата обращения: 15.11.2020).
8. Media release of the Council of Europe report "Digital solutions to fight COVID-19". Strasbourg, 12.10.2020. - Текст: электронный // Council of Europe: [сайт]. - URL: https://search.coe.int/directorate_of_communications/Pages/result_details.aspx?ObjectId= 09000016809fe4c2 (дата обращения: 14.11.2020).
9. Minghe Hu. Beijing rolls out colour-coded QR system for coronavirus tracking despite concerns over privacy, inaccurate ratings - Текст: электронный // South China Morning
135
post: [сайт]. - URL: https://www.scmp.com/tech/apps-social/article/3064574/beijing-rolls-out-colour-coded-qr-system-coronavirus-tracking (дата обращения: 15.11.2020).
10. More inter-governmental cooperation is needed using Artificial Intelligence to fight Covid-19 Coronavirus: the interview of Jan Kleijssen, Director of Information Society Action against Crime (Council of Europe). - Текст: электронный // Council of Europe: [сайт]. - URL: https://www.coe.int/en/web/portal/covid-19-artificial-intelligence (дата обращения: 15.11.2020).
11. Pollard M. Even mask-wearers can be ID'd, China facial recognition firm says. - Текст: электронный // Reuters: [сайт]. - URL: https://www.reuters.com/article/us-health-coronavirus-facial-recognition/even-mask-wearers-can-be-idd-china-facial-recognition-firm-says-idUSKBN20W0WL (дата обращения: 14.11.2020).
12. Tebano E. Coronavirus, pronta la app italiana per tracciare i contagi: «Cosi possiamo fer-mare l'epidemia». - Текст: электронный // Corriere della Sera: [сайт]. - URL: https://www.corriere.it/tecnologia/20_marzo_18/coronavirus-pronta-app-italiana-tracciare-contagi-cosi-possiamo-fermare-l-epidemia-c6c31218-6919-11 ea-913c-55c2df06d574.shtml (дата обращения: 14.11.2020).
Транслитерация
1. Miroshnichenko O. I., Mamychev A. Yu. Cifrovaya demokratiya v usloviyah pandemii: etiko-pravovye i politicheskie aspekty // Advances in Law Studies. - 2020. - T. 8, Ch. 2. -S. 100-104.
© Ю. С. Матюк, 2020
Для цитирования: Матюк Ю. С. Правовые и социальные аспекты применения искусственного интеллекта в условиях пандемии // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. - 2020. - Т. 12, № 4. - С. 129-136.
For citation: Matyuk Yu. S. Legal and social aspects of the use of artificial intelligence in a pandemic, The Territory of New Opportunities. The Herald of Vladivostok State University of Economics and Service, 2020, Vol. 12, № 4, pp. 129-136.
DOI dx.doi.org/10.24866/VVSU/2073-3984/2020-4/129-136
Дата поступления: 30.11.2020.
