CC BY
85
2021
ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА ПРАВО
Т. 12. Вып. 2
ПУБЛИЧНОЕ И ЧАСТНОЕ ПРАВО: ПРИКЛАДНЫЕ ИССЛЕДОВАНИЯ
УДК 34.096, 346.7, 346.7
Основные направления правового регулирования использования искусственного интеллекта в условиях пандемии
М. А. Егорова1, А. В. Минбалеев1, О. В. Кожевина2,3, Ален Дюфло4
1 Московский государственный юридический университет имени О. Е. Кутафина, Российская Федерация, 123242, Москва, ул. Садовая-Кудринская, 9
2 Московский государственный технический университет имени Н. Э. Баумана (национальный исследовательский университет),
Российская Федерация, 105005, Москва, ул. 2-я Бауманская, 5
3 Алтайский государственный университет, Российская Федерация, 656049, Барнаул, пр. Ленина, 61
4 Юридическая фирма «Дюфло и партнеры», Франция, 69002, Лион, ул. Эдуарда Эрио, 106
Для цитирования: Егорова, Мария А., Алексей В. Минбалеев, Ольга В. Кожевина, Ален Дюфло. 2021. «Основные направления правового регулирования использования искусственного интеллекта в условиях пандемии». Вестник Санкт-Петербургского университета. Право 2: 250-262. https://doi.org/10.21638/spbu14.2021.201
Технологии искусственного интеллекта сегодня рассматриваются как неотъемлемая часть жизни нашего общества. Исследование вопросов использования искусственного интеллекта осуществляется на стыке многих областей наук, не стала исключением и юриспруденция. В последние годы наметилась тенденция гармонизации права в соответствии с новыми вызовами и глобальными трендами развития информационного общества, внедрения информационно-коммуникационных технологий в общественные процессы. Это обусловливает изменение системы общественных отношений и формирование специфических отраслей и подотраслей права, в частности информационного (цифрового) права. Российская Федерация, как и большинство современных государств, ставит серьезные задачи по созданию системы правового регулирования искусственного интеллекта. Данная задача особенно актуализировалась в условиях распространения пандемии коронавирусной инфекции СОУШ-19, ставшей фактором, повлиявшим на активизацию процессов внедрения технологий искусственного интел-
© Санкт-Петербургский государственный университет, 2021
лекта. Авторы статьи поднимают вопрос о наиболее важных направлениях регулирования использования искусственного интеллекта, в первую очередь для устойчивого развития экономики в условиях пандемии, а также для активизации инновационного технологического предпринимательства. Проанализированы стратегические документы и правовая основа регулирования искусственного интеллекта, науки и технологий цифровой экономики в России. На основе изучения зарубежной практики нормативного правового регулирования цифровой экономики и искусственного интеллекта выявлены особенности подходов в Европе и Восточной Азии. Обозначена проблема цифровой этики и этики искусственного интеллекта в условиях пандемии COVID-19, определены перспективы развития российского законодательства в области искусственного интеллекта.
Ключевые слова: правовое регулирование, искусственный интеллект, пандемия, этика, экспериментальные правовые режимы, персональные данные, информационное законодательство, предпринимательское законодательство.
1. Введение
Сегодня происходит ускоренное повсеместное внедрение технологических решений, способов, приемов, разработанных на основе искусственного интеллекта (далее — ИИ), в различные сферы экономики и иные области общественных отношений. По оценкам экспертов, благодаря внедрению таких решений рост мировой экономики в 2024 г. составит не менее 1 трлн долларов США (Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»)1. Пандемия коронавирусной инфекции СОУГО-19 ускорила эти процессы, что потребует явной переоценки уровня внедрения технологии ИИ в разы уже к 2022 г., поскольку во всем мире наблюдается повышение финансирования данного сектора исследований и научно-технических разработок и стартапов, а также увеличение запросов по разработке механизмов регулирования складывающихся отношений. Бизнес-сообщество, социальная сфера, сфера государственного управления все больше требуют не просто внедрения технологий ИИ, а обоснованного, с учетом повышенных рисков для различных видов безопасности, в первую очередь информационной. Это, в свою очередь, предполагает разработку регулирования отношений в сфере создания и использования ИИ на уровне как правовых, так и этических, договорных, организационных и иных механизмов.
2. Основное исследование
2.1. Изучение правовой проблематики регулирования искусственного интеллекта и робототехники
Технологии и системы искусственного интеллекта — один из наиболее важных факторов, влияющих на формирование общества XXI в. Цифровизация всех сегментов экономики представляет собой фундаментальный глобальный тренд,
1 Здесь и далее все ссылки на российские нормативно-правовые и подзаконные акты, а также судебную практику приводятся по СПС «КонсультантПлюс». Дата обращения 10 ноября, 2020. http://consuItant.ru.
от своевременной реализации которого в отечественной экономической практики зависят стратегическая конкурентоспособность российской экономики и базовая экономическая безопасность страны. Пандемия коронавирусной инфекции СОУГО-19 увеличивает роль ИИ, поскольку данные технологии используются в противодействии ее распространению и прогнозируют иные возможные пандемии.
Развитие технологий ИИ становится жизненно важным стимулом развития мировой экономики. Так, Президент РФ В. Путин отметил, что за развитием ИИ стоит не только будущее России, но и будущее всего мира; тот, кто займет лидерские позиции в этой сфере, получит и глобальное лидерство2.
Изучение правовой проблематики развития технологий ИИ и робототехники началось за рубежом еще в 1990-х годах. С 2017 г. большинство развитых стран приняли свои стратегии и национальные программы в данной сфере (Китай, Сингапур, Япония, Канада, Дания, Франция, Великобритания и др.). Поэтому на момент проведения настоящего исследования сформирован ряд подходов к регулированию технологий ИИ и робототехники как в государственных стратегиях, программах и нормативных правовых актах, так и в аналитических исследованиях экспертных групп, публикациях ученых и исследователей. В условиях пандемии в мире уже наработаны определенные подходы в части регулирования ИИ. Так, в России приняты базовые стратегические документы, определяющие направления, цели и задачи развития цифровой экономики, в частности Национальная программа «Цифровая экономика Российской Федерации», паспорт которой утвержден президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам (протокол от 24.12.2018 № 16), Стратегия развития информационного общества в Российской Федерации на 2017-2030 гг., утв. Указом Президента РФ от 09.05.2017 № 203. Также Правительственная комиссия по использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности утвердила План мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика Российской Федерации». Наконец, Указом Президента РФ от 10.10.2019 № 490 принята Национальная стратегия развития искусственного интеллекта в Российской Федерации до 2030 г., а Распоряжением Правительства РФ от 19.08.2020 № 2129-р утверждена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г. Россия обладает значительным потенциалом технологического лидерства в области разработки и внедрения ИИ. К числу основных задач в стратегии отнесены: достижение опережающего развития ИИ посредством поддержки научных исследований; разработка и развитие программного обеспечения с использованием ИИ; доступность и качество данных; подготовка квалифицированных кадров рынка технологий ИИ; повышение осведомленности населения о технологиях ИИ и сферах его использования; создание комплексной систем реализации стратегии — защита прав и свобод человека, безопасность, прозрачность, технологический суверенитет, целостность инновационного цикла, разумная бережливость, поддержка конкуренции. К основным факторам эффективности технологий ИИ относятся увеличение объемов доступности
2 «Путин: лидер в сфере искусственного интеллекта станет властелином мира». 2017. РИА Новости. Дата обращения 1 июня, 2020. https://ria.ru/20170901/1501566046.htmI.
данных, развитие российских информационно-коммуникационных технологий, повышение конкурентоспособности отечественного программного обеспечения.
В 2020 г. на заседании президиума Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности утвержден Паспорт федерального проекта «Искусственный интеллект». Федеральный проект направлен на обеспечение роста спроса на продукты (услуги), созданные (оказываемые) с использованием ИИ, создание высокопроизводительных центров обработки данных, реализацию образовательных программ мирового уровня для подготовки специалистов в сфере ИИ, формирование этических правил взаимодействия человека с ИИ и т. д. В части нормативного регулирования в проекте выделены вопросы: обеспечения нормативных условий для доступа к данным, создания упрощенного административно-правового и нормативно-технического порядка тестирования и внедрения разработок в области ИИ, разработки специального инвестиционного режима для финансово-правового стимулирования инвестиций, поддержания эффективного баланса между интересами компаний, разрабатывающих и внедряющих ИИ, и интересами общества, а также создания полноценной системы нормативно-технического регулирования в области ИИ3.
В современной юридической науке (см., напр.: Архипов, Наумов 2017; Незна-мов, Наумов 2017; Морхат 2017; Бакуменко и др. 2018; Понкин, Редькина 2018; Наумов, ред. 2019; Наумов, ред. 2020) предлагаются решения следующих проблем использования ИИ:
— правовой сущности ИИ, определения ИИ в качестве объекта и субъекта права, возможности использования приема юридической фикции для признания за ИИ правосубъектности;
— определения оптимальных механизмов регулирования отношений в сфере использования ИИ, в том числе определения пределов правового регулирования, возможности организационного и этического регулирования, взаимодействия технического и правового регулирования;
— обеспечения безопасности, в том числе информационной, при использовании ИИ;
— охраны интеллектуальной собственности при использовании ИИ;
— защиты прав и свобод человека и гражданина при использовании ИИ; и др.
2.2. Объективные условия и предпосылки формирования механизма правового регулирования искусственного интеллекта в условиях пандемии
Потребность в совершенствовании правового регулирования сферы робототехники и ИИ в условиях пандемии обусловлена следующими факторами:
— необходимостью легализации использования ряда технологий, которые ограничены или запрещены в современном мире; так, во время пандемии
3 «Дорожная карта развития "сквозной" цифровой технологии "Нейротехнологии и искусственный интеллект"». 2019. Министерство цифрового развития, связи и массовых коммуникаций РФ. 2019. Дата обращения 10 июля, 2020. https://digital.gov.ru/uploaded/files/07102019ii.pdf.
возросло число случаев и способов использования дронов и иных беспилотных летательных аппаратов (Егорова и др. 2020а, 76-78; Егорова и др. 2020Ь, 33-34), что детерминировало необходимость развития данной сферы регулирования;
— важностью предотвращения угроз необдуманного использования ИИ, которое может привести к причинению объектами робототехники и ИИ вреда жизни и здоровью человека, его правам и законным интересам;
— фактическим отсутствием ряда правовых норм; и др.
На настоящий момент можно выделить некоторые проблемные вопросы нормативного правового регулирования сферы ИИ и робототехники: определение правовой природы и статуса ИИ (понятие, правовой режим в системе объектов права) и роботов (понятие, правовой режим или статус); определение правосубъектности роботов; этическое регулирование и иные социальные регуляторы отношений в сфере ИИ; обеспечение безопасности, в том числе информационной, в сфере использования ИИ и робототехники; защита интеллектуальных прав на объекты, созданные с использованием ИИ; страхование в сфере использования ИИ и робототехники; возможности и пределы использования ИИ в государственном управлении; роль ИИ и робототехники в развитии трудовых отношений; снятие административных барьеров для внедрения технологий ИИ в различных отраслях экономики; и др. (Минбалеев и др. 2019, 17).
Сегодня ИИ — это алгоритмическое решение проблем с моделированием когнитивной функции. Технология ИИ может точно воспринимать, прогнозировать и предупреждать основные тенденции в инфраструктуре и операциях социального обеспечения. Однако неопределенность в развитии ИИ создает новые проблемы. Помимо неоспоримых преимуществ, ИИ имеет и потенциальные угрозы, в том числе благодаря способности к действиям без заранее сформулированного алгоритма (сильный ИИ) и возможности самообучения. Автономные системы, оперирующие большими объемами информации и скоростями, с общим или сильным ИИ могут быть использованы в преступной деятельности, разработке средств массового поражения, представляющих угрозу национальной безопасности. Также угрозу представляет любая промышленная, бытовая автономная или адаптивная интеллектуальная система, способная не только к целенаправленному действию, но и к сознательному целеполаганию, а автономная постановка целей не обязательно согласуется с общечеловеческими потребностями и даже может противоречить им. Активное проникновение технологий ИИ в производственную деятельность обусловливает снижение эффективности социальных лифтов. Автономизация глобальных вычислительных систем обработки больших объемов данных, распространение информации в таких системах и масштаб воздействия способны приводить к непредсказуемым моделям управления социальными явлениями (Колонин 2018, 20-21). Основными направлениями противодействия угрозам и снижения рисков ИИ являются: внедрение мер международного контроля за его применением, государственный контроль технических интеллектуальных систем, открытость технологий и методов ИИ, создание экосистем ИИ посредством интеграции разных сфер и смежных областей.
В условиях пандемии, когда люди готовы рисковать, чтобы сохранить жизни миллионам, часто не задумываются об опасности сиюминутного соблазна исполь-
зовать технологии ИИ. В этом состоит основная угроза использования ИИ, и государства должны обеспечить контроль за управляемым использованием ИИ в той или иной сфере. Необходимо проработать систему недопустимости принятия решения исключительно одним человеком. Не случайно в Национальной стратегии развития искусственного интеллекта на период до 2030 г., утв. Указом Президента РФ от 10.10.2019 № 490, презюмируются «недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта».
Развитие ИИ в условиях пандемии будет иметь далеко идущие последствия для трансформации как реального сектора экономики, так и социальной сферы, государственного управления, а также для глобального управления. При стремительном развитии ИИ необходимо придавать большое значение возможным рискам и угрозам безопасности, укреплять перспективные рекомендации по их предотвращению и ограничению, минимизировать риски и обеспечить безопасную, надежную и контролируемую разработку ИИ.
Во время пандемии ключевыми проблемами становятся борьба с ней, предотвращение ее дальнейшего распространения и сохранение жизни людей. ИИ позволяет прогнозировать возникновение и распространение пандемий, однако такие технологии обязательно должны использоваться под жестким контролем со стороны государства или саморегулируемых организаций, специализированных квазипубличных субъектов, в отношении которых государство делегировало полномочия sui generis, в том числе в рамках экспериментальных правовых режимов. Любой прогноз во время пандемии связывается со значительными рисками экономических, социальных и технических потерь. В связи с этим важно на государственном уровне разработать механизм реализации пандемического прогнозирования и контроля за его достоверностью и обоснованностью. Использование ИИ в этом случае возможно с обязательным участием экспертов и квалифицированной экспертной оценкой прогнозов.
Применение ИИ в сфере здравоохранения также имеет огромное значение. В Указе Президента РФ от 21.07.2020 № 474 «О национальных целях развития России до 2030 г.» основными национальными целями для осуществления прорывного развития России определены сохранение населения, здоровье и благополучие людей, цифровая трансформация, безопасная среда для жизни. Внедрение ИИ в сфере здравоохранения, безусловно, направлено на достижение указанных национальных целей.
Важное направление в сфере регулирования ИИ в условиях пандемии — обеспечение информационной безопасности в сфере использования ИИ. Обеспечение конфиденциальности информации, обрабатываемой с помощью данной технологии, особенно важно в рамках обработки медицинской информации, в том числе составляющей врачебную тайну, а также персональных данных, включая биометрические и персональные данные специальной категории (сведения о состоянии здоровья гражданина).
Наибольшую опасность представляет использование информации различными роботами, специализированными системами сбора и обработки персональных данных, а также их обработка с использованием технологии больших данных.
Персональные данные уже используются огромным количеством устройств по всему мире, и их число экспоненциально растет с распространением интернета вещей и промышленного интернета (Минбалеев и др. 2019, 203-204). Увеличение объемов обрабатываемой информации в условиях пандемии не позволяет справиться с ней при помощи только автоматизированных систем обработки информации, операторы вынуждены прибегать к более современным системам ИИ.
Пандемия актуализирует и этические вопросы ИИ. В современном обществе этика и право тесно переплетаются. Этика ИИ — часть этики технологий, характерной для роботов и других искусственных когнитивных систем. Боты на основе ИИ, моделирующие голос человека, могут направлять человеческое внимание и формировать новые акценты восприятия информации. Психологическая поддержка на основе социального моделирования важна в условиях пандемии, но следует понимать, что это автоматизированная поддержка, которая должна подталкивать людей к более полезному и безопасному поведению. В связи с этим необходимо тестирование технологий ИИ для обнаружения соответствующих правильных паттернов, а также тщательное изучение реакции машины. Это важно в целях минимизации негативных последствий использования ИИ, в том числе этических. В то же время систему ИИ нельзя натренировать на все ситуации, возникающие при взаимодействии с человеком. Отдельный этический вопрос применения ИИ — распознавание лиц, идентификация и аутентификция, в частности по видеозаписям. Вероятность ошибки при распознавании лиц достаточно высока. В ситуации обеспечения самоизоляции и социального дистанцирования неправильное распознавание лиц и применение санкций «по ошибке» порождает негативное восприятие гражданами технологий ИИ. Общественные ценности влияют на отношение к ИИ и его юридическому оформлению. Переосмысление роли роботов в общественной жизни ставит задачу гуманного подхода к правовому регулированию использования ИИ. Концептуальный подход состоит в том, что автономные интеллектуальные системы не должны нести ответственности за свои действия. Тем не менее необходимо решить вопрос о введении ответственности, ее юридическом обосновании и закреплении.
В условиях коронавирусной инфекции СОУГО-19 важно предпринять следующие шаги, направленные на правовое регулирование использования ИИ:
— совершенствование федерального законодательства, обеспечивающего возможность создания «регуляторных песочниц» — экспериментальных правовых режимов на территории РФ, в том числе Федерального закона от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»; важно усилить контроль за безопасностью использования технологий ИИ в целях недопущения вреда жизни и здоровью граждан, нарушения прав и свобод человека и гражданина;
— разработка и принятие изменений в Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» (далее — Закон о персональных данных), а также, в случае необходимости, в иные федеральные законы в части возможности свободного обезличивания персональных данных и последующего использования обезличенных данных, в том числе для целей развития технологий ИИ, при обязательном контроле недопущения вреда
жизни и здоровью граждан, нарушения прав и свобод человека и гражданина; обеспечение особого порядка доступа к данным, собираемым государственными органами, для целей их обработки с использованием ИИ, в том числе введение специальных требований к обработке данных с использованием ИИ в условиях пандемии и специальных административных режимов;
— обеспечение возможности свободного использования больших массивов данных, в том числе персональных, исследователями в сфере ИИ и разработчиками технологий ИИ при условии обезличивания данных, подтвержденных Роскомнадзором в специальном порядке, и соблюдения условий по недопущению вреда жизни и здоровью граждан, нарушения прав и свобод человека и гражданина; в Законе о персональных данных важно установить требования о необходимости прекращения обработки персональных данных с использованием технологий ИИ по заявлению субъекта персональных данных, о недопущении дискриминации человека при обработке информации ограниченного доступа (в том числе персональных данных, биометрических данных, генетической информации) системой ИИ;
— разработка и принятие дополнений в Кодекс РФ об административных правонарушениях, в частности норм, устанавливающих ответственность за нарушение порядка обработки персональных данных в связи с использованием ИИ, а также отдельного состава о нарушении прав на персональные данные в условиях пандемии и введения специальных административных режимов;
— внесение дополнений в Федеральный закон от 23.08.1996 № 127-ФЗ «О науке и государственной научно-технической политике» в части создания условий и гарантий обеспечения особых режимов для доступа к базам данных, полученных в результате сбора и обработки с использованием ИИ, в целях проведения научных исследований, создания новых технологий ИИ и разработки технологических решений на их основе;
— внесение дополнений в Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» в части регулирования государственных информационных систем и закрепление нормы о том, что режим государственных информационных систем, функционирующих на основе ИИ, устанавливается специальным федеральным законом. Также важно принять специальный федеральный закон «Об информационных системах, функционирующих на основе искусственного интеллекта», в котором будет установлен правовой режим таких систем, в том числе государственных и муниципальных информационных систем, закреплен особый режим делегирования информационным системам, функционирующим на основе ИИ, возможности принятия отдельных решений (за исключением решений, которые могут причинять вред жизни или здоровью граждан, ущемлять права, свободы и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением решений, которые могут причинять вред жизни или здоровью граждан, ущемлять права, свободы и законные интересы граждан). Также в нем предлагается установить требования к функционированию подобных информационных систем, возможность оперативного
вмешательства для прекращения реализации принятия отдельных решений, нормы об ответственности за нарушение требований закона. Особые положения должны быть предусмотрены относительно функционирования таких систем в условиях специальных административных режимов при пандемии;
— внесение изменений и дополнений в налоговое законодательство в части установления специальных налоговых режимов для организаций, осуществляющих разработки технологий и решений на основе ИИ, в том числе используемые в противодействии пандемии;
— совершенствование налогового законодательства, направленного на стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий ИИ и робототехники,
— внесение изменений и дополнений в таможенное законодательство в части установления специального таможенного режима в отношении организаций, осуществляющих экспорт продукции (работ, услуг) гражданского назначения, созданной на основе ИИ (Минбалеев и др. 2019, 336-338).
Кроме того, важно развивать предпринимательское законодательство, в том числе в части развития инвестиционных норм, направленных на стимулирование привлечения инвестиций инвесторами посредством внедрения механизмов государственной поддержки совместного участия инвесторов и государства в проектах, связанных с разработкой технологий ИИ, а также предоставления целевой финансовой поддержки, в том числе иностранным гражданам и организациям, осуществляющим деятельность по развитию и внедрению технологий ИИ. Весьма значимы разработка и принятие нормативных правовых актов, признающих отдельные системы ИИ или виды роботов источником повышенной опасности и предусматривающих систему обязательного страхования ответственности за их действия. В условиях чрезвычайных ситуаций эта норма особенно важна, поскольку риски причинения вреда в такой период многократно увеличиваются из-за ослабления контроля за ними со стороны человека. В развитие данных предложений необходимо внести изменения в Федеральный закон от 25.04.2002 № 40-ФЗ «Об обязательном страховании гражданской ответственности владельцев транспортных средств» с целью обязательного страхования отдельных категорий роботов и систем ИИ (Минбалеев и др. 2019, 337-340).
3. Заключение
Для обеспечения эффективного использования ИИ в условиях пандемии нет необходимости в принятии специального закона, но для защиты прав граждан важно внесение изменений в ряд нормативных правовых актов. В условиях пандемии в некоторых сферах общественной жизни формируется кризисная ситуация, требующая активно использовать ИИ при отсутствии должного правового регулирования. Так, сбор и обработка данных с использованием городских камер, систем отслеживания в рамках геолокации и др. требуют регулирования механизмов ограничения прав человека и гражданина, получения согласия на обработку дан-
ных с использованием ИИ. В связи с этим очень важно разработать Национальный стандарт РФ в сфере использования ИИ, закрепляющий дефиниции основных понятий (искусственный интеллект, технологии искусственного интеллекта, системы искусственного интеллекта, виды систем искусственного интеллекта), критерии классификации и виды, технологии ИИ. Также необходимо принять Национальный стандарт РФ в сфере использования ИИ в условиях действия специальных административных режимов при пандемии.
Приказом Федерального агентства по техническому регулированию и метрологии от 05.03.2021 № 120-ст утвержден и введен в действие первый национальный стандарт в области ИИ для ситуационной аналитики. «ГОСТ Р Информационные технологии. Искусственный интеллект. Ситуационная аналитика. Термины и определения» является первым в группе стандартов, устанавливающих нормативные требования в области ситуационной видеоаналитики, регламентацию размещения оборудования технических систем интеллектуального видеонаблюдения.
В части использования ИИ органами государственной власти в условиях пандемии важно на уровне Правительства РФ разработать и принять Типовые правила использования технологий ИИ в органах государственной власти, а также в подведомственных им организациях. В правилах следует закрепить этические принципы использования технологий ИИ, например можно взять за основу принципы, изложенные в Европейской этической хартии об использовании искусственного интеллекта в судебных системах и окружающих их реалиях (принята на 31-м пленарном заседании Европейской комиссии по эффективности правосудия, Страсбург, 03-04.12.2018)4, в том числе принципы соблюдения основных прав, недискриминации, качества и безопасности, прозрачности, беспристрастности и достоверности, принцип контроля пользователем. Структурно Типовые правила использования технологий ИИ в органах государственной власти, а также в подведомственных им организациях могут включать следующие компоненты: цели и задачи использования ИИ; основные направления использования ИИ; полномочия в сфере использования ИИ, порядок планирования и организации работы в сфере использования ИИ, в том числе формирование планов и показателей деятельности, координационных и совещательных органов, рабочих групп и др.; основные правила использования технологий ИИ в органах государственной власти, а также в подведомственных им организациях; контроль за использованием технологий ИИ; этические принципы использования технологий ИИ.
Важно закрепить специальные положения об использовании ИИ в условиях действия специальных административных режимов при пандемии. На государственном уровне необходимо обозначить пределы правового регулирования использования ИИ в условиях пандемии и создать комплексную систему контроля и надзора за использованием ИИ, в частности: определить перечень органов, осуществляющих функции регистрации и учета, стандартизации, лицензирования и сертификации, государственного контроля и надзора за использованием ИИ в условиях пандемии, их полномочия; определить порядок взаимодействия органов
4 «Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях». 2018. Council of Europe. Дата обращения 10 ноября, 2020. https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4.
контроля и надзора за использованием ИИ с другими государственными органами, подведомственными организациями, другими организациями и гражданами.
Анализ перспектив развития законодательства в сфере регулирования использования ИИ в условиях пандемии свидетельствует о комплексном характере предстоящих изменений в законодательстве. Все они позволят решить проблемы, обусловленные фактическим внедрением в жизнь ряда технологий ИИ. Важную роль в этом процессе будет играть и международная практика регулирования данных отношений, а также законодательство ведущих региональных организаций и платформенного права. При этом на международном уровне в решении проблем регулирования использования ИИ приоритетным станет использование механизмов «мягкого права».
Библиография
Архипов, Владислав В., Виктор Б. Наумов. 2017. «Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике». Труды СПИИРАН 6 (55): 46-62.
Бакуменко, Василий В., Александр Д. Волынец, Андрей В. Незнамов, Екатерина П. Побрызгаева, Ксения М. Смирнова, Екатерина В. Тытюк. 2018. Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта. М.: Инфотропик Медиа. Егорова, Мария А., Алексей Г. Барабашев, Виктор В. Блажеев, Олеся Ф. Засемкова, Сергей Ю. Каш-кин, Алексей В. Минбалеев, Дарья В. Пономарева, Бениамин А. Шахназаров. 2020а. Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии. М.: Проспект. Егорова, Мария А., Алексей Г. Барабашев, Алексей В. Минбалеев, Дарья В. Пономарева. 2020Ь. «Роль
искусственного интеллекта в условиях пандемии». Юридический мир 5: 29-34. Колонин, Антон Г. 2018. «Искусственный интеллект — благо или угроза для человечества?» Международные и социальные последствия использования технологий искусственного интеллекта: рабочая тетрадь Российского совета по международным делам 44: 15-22. Минбалеев, Алексей В., Гульфия Г. Камалова, Глеб И. Радченко, Игорь Л. Кафтанников, Влада М. Жернова, Игнат С. Бойченко, Ксения Ю. Никольская. 2019. Законодательное регулирование использования и развития технологий робототехники и искусственного интеллекта, зарубежный опыт: отчет о НИР (итоговый). М.: Московский государственный юридический университет имени О. Е. Кутафина (МГЮА). Морхат, Петр М. 2017. Искусственный интеллект: правовой взгляд. М.: Буки Веди. Наумов, Виктор Б., ред. 2019. Модели правового регулирования создания, использования и распространения роботов и систем с искусственным интеллектом. СПб.: НП-Принт. Наумов, Виктор Б., ред. 2020. Правовые и этические аспекты, связанные с разработкой и применением систем искусственного интеллекта и робототехники: история, современное состояние и перспективы развития. СПб.: НП-Принт. Незнамов, Андрей В., Виктор Б. Наумов. 2017. «Вопросы развития законодательства о робототехнике в России и в мире». Юридические исследования 8: 14-25. Понкин, Игорь В., Алена И. Редькина. 2018. «Искусственный интеллект с точки зрения права». Вестник Российского университета дружбы народов. Сер. Юридические науки 22 (1): 91-109.
Статья поступила в редакцию 18 октября 2020 г.;
рекомендована в печать 15 марта 2021 г.
Контактная информация:
Егорова Мария Александровна — д-р юрид. наук, проф.; [email protected]
Минбалеев Алексей Владимирович — д-р юрид. наук, доц.; [email protected] Кожевина Ольга Владимировна — д-р экон. наук, проф.; [email protected] Дюфло Ален — адвокат; [email protected]
Main directions of legal regulation of the use of artificial intelligence in
the context of a pandemic
M. A. Egorova1, A. V. Minbaleev1, O. V. Kozhevina2'3, Alain Dufolt4
1 Kutafin Moscow State Law University,
9, ul. Sadovaya-Kudrinskaya, Moscow, 123242, Russian Federation
2 Bauman Moscow State Technical University (National Research University),
5, ul. 2-ia Baumanskaya, Moscow, 105005, Russian Federation
3 Altai State University,
61, pr. Lenina, Barnaul, 656049, Russian Federation
4 Duflot & Associates Law firm,
106, rue Edouard Herriot, Lyon, 69002, France
For citation: Egorova, Mariia A., Aleksei V. Minbaleev, Ol'ga V. Kozhevina, Alain Dufolt. 2021. "Main
directions of legal regulation of the use of artificial intelligence in the context of a pandemic". Vestnik
of Saint Petersburg University. Law 2: 250-262. https://doi.org/10.21638/spbu14.2021.201 (In Russian)
Artificial intelligence technologies are considered today as an integral part of the life of our society. Problems and research on the use of artificial intelligence is carried out at the intersection of many scientific fields. Jurisprudence is no exception. In recent years, there has been a tendency to harmonize law in accordance with new challenges and global trends in the development of the information society, which includes the introduction of information and communication technologies into social processes. This causes a change in the system of public relations and the formation of specific branches and sub-branches of law, in particular information or digital law. The Russian Federation, like most modern states, has put forward serious tasks to create a system of legal regulation of artificial intelligence. This issue has become especially urgent in the context of the spread of the COVID-19 pandemic, which triggered the expansion of the introduction of artificial intelligence technologies. The authors in the study raise the question of the most important areas of regulation in the use of artificial intelligence, primarily for sustainable economic development in a pandemic as well as for the activation of innovative technological entrepreneurship. The authors analyzed strategic documents and the legal basis for regulating artificial intelligence, science and technology of the digital economy in Russia. Based on the study of foreign practices in regard to normative legal regulation of the digital economy and artificial intelligence, the features of approaches in Europe and East Asia are revealed. The problem of digital ethics and ethics of artificial intelligence in the context of the COVID-19 pandemic is acknowledged, and the prospects for the development of Russian legislation in the field of artificial intelligence are presented.
Keywords: legal regulation, artificial intelligence, pandemic, ethics, experimental legal regimes, personal data, information legislation, business legislation.
References
Arkhipov, Vladislav V., Viktor B. Naumov. 2017. "Artificial intelligence and autonomous devices in the context of law: on the development of the first law on robotics in Russia". Trudy SPIIRAN 6 (55): 46-62. (In Russian)
Bakumenko, Vasilii V., Alexander D. Volynets, Andrey V. Neznamov, Ekaterina P. Pobryzgaeva, Kse-nia M. Smirnova, Ekaterina V. Tytyuk. 2018. New laws of robotics. The regulatory landscape. World
experience in regulating robotics and artificial intelligence technologies. Moscow, Infotropik Media Publ. (In Russian)
Egorova, Maria A., Alexey G. Barabashev, Viktor V. Blazheyev, Olesya F. Zasemkova, Sergey Yu. Kashkin, Alexey V. Minbaleev, Daria V. Ponomareva, Beniamin A. Shakhnazarov. 2020a. Legal regulation of artificial intelligence in a pandemic and infodemic. Moscow, Prospekt Publ. (In Russian) Egorova, Maria A., Alexey G. Barabashev, Alexey V. Minbaleev, Daria V. Ponomareva. 2020b. "The role of
artificial intelligence in a pandemic". Iuridicheskii mir 5: 29-34. (In Russian) Kolonin, Anton G. 2018. "Artificial Intelligence — a benefit or a threat to humanity?" Mezhdunarodnye i sotsial'nye posledstviia ispol'zovaniia tekhnologii iskusstvennogo intellekta. Rabochaia tetrad' Rossiiskogo soveta po mezhdunarodnym delam 44: 15-22. (In Russian) Minbaleev, Alexey V., Gulfiya G. Kamalova, Gleb I. Radchenko, Igor L. Kaftannikov, Vlada M. Zhernova, Ignat S. Boychenko, Ksenia Yu. Nikolskaya. 2019. Legislative regulation of the use and development of robotics and artificial intelligence technologies, foreign experience. Research report (final). Moscow, Moskovskii gosudarstvennyi iuridicheskii universitet imeni O. E. Kutafina (MGIuA) Publ. (In Russian) Morkhat, Petr M. 2017. Artificial intelligence: a legal perspective. Moscow, Buki Vedi Publ. (In Russian) Naumov, Viktor B., ed. 2019. Models of legal regulation of the creation, use and distribution of robots and
systems with artificial intelligence. St. Petersburg, NP-Print Publ. (In Russian) Naumov, Viktor B. ed. 2020. Legal and ethical aspects related to the development and application of artificial intelligence systems and robotics: history, current state and development prospects. St. Petersburg, NP-Print Publ. (In Russian) Neznamov, Andrei V., Viktor B. Naumov. 2017. "Development of legislation on robotics in Russia and in the
world". Iuridicheskie issledovaniia 8: 14-25. (In Russian) Ponkin, Igor' V., Alena I. Red'kina. 2018. "Artificial intelligence from a legal perspective". Vestnik Rossiiskogo universiteta druzhby narodov. Ser. Iuridicheskie nauki 22(1): 91-109. (In Russian)
Received: October 18, 2020 Accepted: March 15, 2021
Authors' information:
Mariia A. Egorova — Dr. Sci. in Law, Professor; [email protected]
Aleksei V. Minbaleev — Dr. Sci. in Law, Assistant Professor; [email protected]
Olga V. Kozhevina — Dr. Sci. in Economy, Professor; [email protected]
Alain Dufolt — Advocate; [email protected]
