CC BY
378УДК 342.9 ББК Х401.072
DOI 10.24411 /2312-0444-2020-10176
ГОСУДАРСТВЕННО-ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И РОБОТОТЕХНИКИ В РОССИЙСКОЙ ФЕДЕРАЦИИ И ЗАРУБЕЖНЫХ СТРАНАХ
Сергей Игоревич КОНЕВ, Белла Алиевна ЦОКОВА, магистр
старший преподаватель кафедры кафедры экономических и финансовых
информационного, энергетического расследований МГУ имени М.В. Ломоносова
права и уголовно-правовых дисциплин E-mail: [email protected] РГУ нефти и газа (НИУ) имени И.М. Губкина
Научная специальность по публикуемому материалу: 12.00.14 — административное право;
административный процесс
Научный руководитель: С.И. Конева — доктор юридических наук, профессор С.М. Зырянов
Научный руководитель: Б.А. Цоковой — кандидат экономических наук, доцент А.В. Анищенко
Аннотация. Цифровые информационные технологии стали неотъемлемой частью нашей жизни. Искусственный интеллект и робототехника интегрировали в процессы государственного управления, что, в свою очередь, обязывает разработать новые направления правового регулирования.
Данная статья посвящена сравнительно-правовому исследованию информационных технологий и искусственного интеллекта в Российской Федерации, Республике Казахстан и Объединенных Арабский Эмиратах.
Учитывая опыт зарубежных государств, авторы пришли к выводу о необходимости сотрудничества на наднациональном уровне для обеспечения безопасности при использовании искусственного интеллекта, а также применения принципов и норм международного права в сфере управления для решения глобальных задач. Информационная трансформация меняет реалии и подход к государственному управлению в целом. Создание отдельного государственного регулятора для реализации политики государства в области цифрового развития будет способствовать повышению эффективности применения информационных технологий.
Ключевые слова: информация, информационные технологии, информационное общество, искусственный интеллект, кибербезопасность, цифровая безопасность, правовое регулирование, законодательство, национальная стратегия.
Annotation. Digital information technologies have become a fundamental part of our life. The integration of artificial intelligence and robotics into the sphere of public administration requires the development of legal regulations.
This article is devoted to the comparative law research of information technologies and artificial intelligence in Russia, Kazakhstan and the UAE.
From the perspective of overseas experience, the authors concluded on the need for supranational cooperation and application of the international law in the field of public administration in order to secure the use of artificial intelligence and address global challenges. The transformation of information technology is changing the fundamentals and framework of public administration. The establishment of a regulatory agency for the implementation of the government policy in the sphere of digital development will contribute to performance improvement of information technology.
Keywords: information, information technology, information society, artificial intelligence, cybersecurity, digital security, legal regulation, legislation, national strategy.
№ 4/2020
Информационные технологии (далее — ИТ) прочно вошли в нашу жизнь. В настоящее время, несмотря на объективно существующее цифровое неравенство, лишь малый процент населения не знаком с такими понятиями, как «идентификация ГасеШ», «криптовалюта», «Большие данные» и «блокчейн». В то же время число тех, кто задумывается о последствиях внедрения ИТ в каждую сферу деятельности, невелико. Кроме того, у любой медали есть обратная сторона. Следовательно, необходимо учитывать тот факт, что все, что мы создаем при помощи компьютера, имеет свое ограничение, обусловленное математическими методами работы, лежащими в основе ИТ.
Как утверждал И. Гете: «математики похожи на французов: что бы вы ни сказали, они все переведут на собственный язык. Получится нечто противоположное».
Так и в случае с ИТ: решая одну проблему, ускоряя процесс принятия решения, общество зачастую получает новые угрозы и вызовы. Наглядным примером являются технологии искусственного интеллекта (далее — ИИ), который планомерно внедряется в такие области, как медицина, образование, финансы, управление, безопасность и др.
В контексте этой проблематики авторы проанализируют законодательство Российской Федерации, Республики Казахстан и Объединенных Арабских Эмиратов с целью сопоставления правовых решений относительно регулирования ИИ и выбора наилучшей модели для возможной адаптации к правовой системе нашего государства. Выбор этих стран не случаен: каждое государство взяло на себя обязательство стать мощным центром и лидером в области искусственного интеллекта, а также внедрить эту технологию в практику публичного управления, повысив тем самым уровень жизни граждан, качество предоставляемых услуг, оперативность принятия юридических значимых решений и т.п.
Необходимо отметить, что правовая основа регулирования отношений в области ИИ только начинает свое формирование, как в нашем государстве, так и в зарубежных странах.
Так, согласно Указу Президента РФ от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 годы» искусственный интеллект назван одной из приоритетных технологий развития (подп. «в» п. 35 указанного документа).
Национальная программа «Цифровая экономика Российской Федерации» утвержденная протоколом заседания Президиума Совета при
Президенте Российской Федерации по стратегическому развитию и национальным проектам от 4 июня 2019 г. № 7 также предусматривает использование ИИ в различных областях управления, в частности: сформировать отраслевое регулирование робототехники до 2020 г. (п. 1.8 федерального проекта «Нормативное регулирование цифровой среды»), разработать и принять стандарты безопасности, в том числе и в области ИИ до 2021 г., (п. 1.20, п. 1.51 федерального проекта «Информационная безопасность»).
Кроме того, уже существуют специализированные акты, посвященные исключительно вопросам ИИ. Например, Указ Президента РФ от 10 октября 2019 г. № 490 «Национальная стратегия развития искусственного интеллекта на период до 2030 г.», который среди целей внедрения ИИ называет повышение эффективности процессов управления (подп. «а» п. 21), а также автоматизацию рутинных операций (подп. «б» п. 21).
Данный Указ тесно взаимосвязан еще с одним Указом Президента Российской Федерации от 7 мая 2018 г. № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года». Последний в качестве одной из целей, стоящих перед нашей страной в целом и Правительством в частности, определяет необходимость создания инфраструктуры обработки Больших данных (подп. «а» п. 11 Указа Президента № 204 от 07.03.2018 г.). В числе задач отмечается обеспечение информационной безопасности на основе отечественных технологий, гарантирующих защиту интересов личности, бизнеса и государства (подп. «б» п. 11 Указа Президента № 204 от 07.03.2018 г.).
И наконец, с 1 июля 2020 г. вступил в силу Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных». (далее — ФЗ об ИИ).
ФЗ об ИИ (и дорожная карта развития «сквозной» цифровой технологии «Нейротехно-логии и искусственный интеллект», равно, как и «Национальная стратегия развития искусственного интеллекта на период до 2030 г.») оперируют схожим определением искусственного интеллекта. Согласно указанным документам он является комплексом технологических реше-
№ 4/2020
ний, включающим две возможности: «имитация когнитивных функций человека (в том числе возможность самообучения и решения задач без изначально заданных алгоритмов) а также получение при выполнении результатов, сопоставимых, как минимум, с результатами интеллектуальной деятельности человека»1.
В связи с этой дефиницией позволим себе высказать ряд замечаний.
Безусловно, информационные технологии вообще и искусственный интеллект, в частности, за время своего существования прошли долгий путь, однако даже самые совершенные технологии не работают так же эффективно, как наш мозг. Одна из самых удивительных способностей человеческого мозга — способность к самовосстановлению. А что будет, если у «электронного» мозга мы изымем несколько плат?
В случае если оператор изначально не задал алгоритма функционирования в обход подобных ошибок, то система просто не будет работать. ИИ способен быстрей обрабатывать информацию, использовать огромные ее объемы, модифицировать ее форматы под нужные задачи и т.д., однако он все равно «привязан» к тем моделям, которые задает человек. Между вычислениями машины и разумом человека существует разница.
Вычисления — это совокупность математических преобразований с целью получения новых данных.
«Разум — это персонализация мозга, благодаря которой он адаптируется к разным обстоятельствам. А еще существует сознание, в котором есть подсознание и самосознание. Все перечисленное является частью живого мозга»2.
Сильный ИИ, который думает, самообучается, чувствует — это удел фантастики на данном уровне развития технологий.
Слабый ИИ — это наша реальность, которая, по существу, сводится к математическому анализу. Согласно Закону Мура, вычислительные мощности удваиваются каждые 24 месяца. Однако это не означает, что ИИ приобретает «субъектность», он просто улучшает свои возможности по решению запрограммированных задач.
Таким образом, исходя из современного уровня развития науки и техники указание в нормативных актах о «решении задач ИИ без изначально заданных алгоритмов» и сравнение его возможностей с когнитивными возможностями человека выглядит преждевременно.
Цели, которые поставлены в указанных стратегических документах, предполагается реали-
зовывать всеми управленческими структурами. Однако наиболее значимую роль при этом будут играть:
■ Подкомиссия по развитию искусственного интеллекта при Правительстве РФ (распоряжение Правительства РФ от 23.11. 2019 г. № 2791-р);
■ Министерство цифрового развития, связи и массовых коммуникаций РФ (дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект»);
■ Министерство экономического развития РФ (распоряжение Правительства РФ от 03.09.2019 г. № 1964-р «Соглашение о намерениях между Правительством Российской Федерации и акционерным обществом «Управляющая компания Российского Фонда Прямых Инвестиций» в целях развития в Российской Федерации высокотехнологичной области «Искусственный интеллект»).
В Республике Казахстан законодательство об ИИ только начинает развиваться.
Так, Государственная программа «Цифровой Казахстан», утвержденная постановлением Правительства Республики Казахстан от 12 декабря 2017 г. № 827, выделяет ИИ среди множества инновационных технологий. Планируется внедрение ИИ в промышленности, в частности в добывающие и обрабатывающие сектора, а также применение этой технологии в здравоохранении и создание инфраструктуры «умного города».
Согласно плану мероприятий по реализации Государственной программы «Цифровой Казахстан» в декабре 2019 г. должен был быть внедрен в практику управления виртуальный консультант на основе искусственного интеллекта на портале государственных услуг (п. 34 Плана по реализации Государственной программы «Цифровой Казахстан»). А начиная с 2017 г. Министерство здравоохранения Республики Казахстан ежегодно отчитывается по вопросу внедрения технологии ИИ в здравоохранение (п. 37 Плана по реализации Государственной программы «Цифровой Казахстан»).
Кроме того, Государственная программа индустриально-инновационного развития Республики Казахстан на 2020 — 2025 годы, утвержденная постановлением Правительства Республики Казахстан от 31 декабря 2019 г. № 1050 предусматривает подготовку квалифицированных кадров, в том числе и в области ИИ (раздел 1.9 указанного документа).
№ 4/2020
На момент написания данной работы определения понятия искусственного интеллекта в Республике Казахстан нет. Тем не менее анализ нормативной базы в сфере ИТ позволяет сделать выводы в отношении данной дефиниции.
Так, п. 13 приказа Министра цифрового развития, оборонной и аэрокосмической промышленности Республики Казахстан от 11 апреля 2019 г. № 37/НП «Об утверждении перечня приоритетных видов деятельности в области информационно-коммуникационных технологий и критериев собственного производства» характеризует ИИ как технологию, систему или устройство. В дополнение к этому п. 17, среди прочих алгоритмов, также называет ИИ.
Необходимо отметить, что указанные шаги в регулировании технологий искусственного интеллекта в нашем государстве и в Республике Казахстан соответствуют предписаниям Концепции сотрудничества государств — участников Содружества Независимых Государств в области цифрового развития общества и Плану первоочередных мероприятий по ее реализации от 25 октября 2019 г.
Данным актом, среди прочих направлений совместной деятельности, названа необходимость развития цифровых платформ и технологий государств-участников. В конечном счете это позволит сократить цифровое неравенство между странами СНГ и сформировать общие подходы к регулированию новых технологий (раздел 2 указанного акта).
ОАЭ в вопросах регулирования ИИ используют схему схожую с той, что применяют в России и Казахстане. Она включает ключевые показатели ИИ, закрепленные в документах стратегического планирования и возложение дополнительных полномочий на органы власти.
Правительство ОАЭ позиционирует себя как один из лидеров глобальной гонки в использовании ИИ в государственном секторе.
В 2017 г. ОАЭ стали первой страной, назначившей министра по искусственному интеллекту. Назначение совпало с обнародованием стратегического направления правительства — использовать ИИ во всем: от управления водными ресурсами до образования.
В апреле 2019 г. Кабинет министров ОАЭ утвердил 10-летний стратегический план — Национальную стратегию искусственного интеллекта до 2031 г.3. Данная стратегия включает следующие задачи:
■ увеличение конкурентоспособных активов ОАЭ в приоритетных секторах за счет внедрения ИИ;
■ внедрение ИИ в государственных службах для улучшения качества жизни;
■ привлечение и обучение талантливой молодежи для работы с ИИ;
■ использование ведущих исследовательских возможностей для работы с целевыми отраслями;
■ предоставление данных и инфраструктуры, необходимой для создания испытательного полигона ИИ;
■ обеспечение эффективного управления и регулирования ИИ.
В указанном акте дается и трактовка понятия ИИ, а именно, как компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие, как визуальное восприятие, распознавание речи, принятие решений и перевод между языками4. При этом ИИ делится на общий и узкий. Первый способен выполнять любые задачи, подвластные человеку, даже выражать эмоции. Второй специализирован на достижение конкретной цели.
Национальная стратегия искусственного интеллекта ОАЭ до 2031 г. основана на комплексном подходе, который сосредоточен на развитии возможностей страны и использовании глобального опыта для создания передовых технологических решений для правительства и частного сектора, а также на разработке правовых основ для ответственного внедрения ИИ. Цели данного плана направлены на использование искусственного интеллекта в таких жизненно важных областях, как образование, государственные услуги и благосостояние общества.
Кроме того, впоследствии будут предложены критерии оценки эффективности технологии ИИ, к числу которых предполагается отнести: эффективный обмен информацией с органами государственной власти, использование ИИ для целей, не противоречащих законодательству, безопасность личной информации пользователей и целостность данных5.
Вопросы, касающиеся конфиденциальности информации, безопасности, предвзятости и этики ИИ, указывают на доминирующую роль государства в установлении надлежащего регулирования и противодействии потенциальным угрозам использования ИИ в противоправных целях.
Отметим, что информация играет ключевую роль в разработке алгоритмов машинного обучения, но одновременно с этим появляются риски информационной безопасности: частные ком-
№ 4/2020
пании собирают сведения, в том числе и персональные данные, для разработки моделей машинного обучения, чтобы в итоге получить прибыль. Таким образом, при использовании личных данных возникает противоречие во взаимодействии с пользователем. В литературе это проблема обозначается как институт защиты социальных данных6, а в науке уже встречались попытки ее анализа по отношению к российским реалиям7.
Исходя из этого Кабинет министров ОАЭ создал отдельную структуру — Совет ОАЭ по искусственному интеллекту и блокчейну (далее — Совет ОАЭ по ИИ)8 для наблюдения за внедрением технологий искусственного интеллекта в секторах 020 и 02Б.
Совет ОАЭ по ИИ будет разрабатывать стратегии по продвижению исследований и развитию сотрудничества между государственным и частным секторами, включая международные учреждения, для ускоренного внедрения искусственного интеллекта и создания благополучной среды для ИИ. Совету ОАЭ по ИИ также поручено поощрять обмен знаниями и опытом в области искусственного интеллекта, интегрировать искусственный интеллект в образование, медицину и транспорт. Кроме того, на Совет ОАЭ по ИИ возложена обязанность по контролю использования искусственного интеллекта, конфиденциальности личных данных, их безопасности и целостности, а также эффективный обмен информацией с компетентными органами.
В рамках поставленных задач Совет ОАЭ по ИИ учредил комитет по данным9. На этот орган власти возлагаются полномочия, связанные с определением проблем сбора данных для машинного обучения и искусственного интеллекта, разработка стандартов обработки таких данных, определение политики и стандартов в области информации.
Необходимость обеспечения целостности данных, проблемы информационной безопасности личности, общества и государства создают новый класс угроз, когда алгоритмы ИИ становятся одновременно и средством атаки, и защиты информации. Правительство ОАЭ считает кибербезопасность и цифровую безопасность национальным приоритетом.
Национальная стратегия кибербезопаности ОЭА была принята в 2019 г. и рассчитана на три года10. Впоследствии она будет пересмотрена исходя из необходимости защиты активов ОАЭ в таких направлениях, как: государствен-
ное управление, энергетика, информационные технологии, финансы и др.
В рамках реализации этой стратегии Совет ОАЭ по искусственному интеллекту и блокчей-ну учредил Комитет по кибербезопасности и управлению рисками, основные задачи которого включают:
■ предоставление технических консультаций и выдвижение инициатив по распространению соответствующей информации;
■ выработку рекомендаций и предложений;
■ проведение опросов для документирования основных угроз безопасности;
■ обеспечение эффективности систем защиты кибербезопасности;
■ борьбу с преступлениями в области кибер-безопасности, искусственного интеллекта и блокчейна.
Таким образом, каждое из рассмотренных государств предлагает свое понимание искусственного интеллекта. Несмотря на отсутствие базовой дефиниции, подход Республики Казахстан является наиболее соответствующим текущему уровню развития науки и техники.
ИИ — это технология или алгоритм решения задач, в том числе возникающих в государственном управлении. Безусловно, это прогрессивная и инновационная технология, которая позволяет решать задачи на новом уровне. Однако ее характеристика через когнитивные способности и тем более наделение эмоциями — следствие излишней веры в возможности ИТ.
«Посеявший ветер — пожнет бурю». Данное словосочетание М.Ю. Лермонтова, поэтически преобразившее библейское высказывание, очень точно отражает «чувствительность» ИИ к информации, на основе которой происходит решение, в перспективе затрагивающее права и законные интересы человека. Математические алгоритмы, лежащие в основе программного кода, разумеется, объективы, а вот создающий их человек — не всегда.
Постоянный поток данных, который определяет жизнь большинства людей, — от проверок в социальных сетях до онлайн-банкинга и картографических приложений — является движущей силой обучения ИИ.
И если машинное обучение является открытым исходным кодом и регулируется таким образом, чтобы ставить во главу общественное благо, тогда искусственный интеллект будет эффективным инструментом в государственном управлении. В противном случае, он трансформируется в угрозу безопасности.
№ 4/2020
Важным представляется закрепление в нормативных актах, регулирующих ИИ, возможности принудительного отключения или возврата к контрольной точке, когда система работала правильно. Только человеческий разум пока способен быстро реагировать на оперативно изменяющуюся обстановку и ситуации, выходящие за рамки статистики.
Еще одной тенденцией, которая наглядно отражается в нормативных актах Российской Федерации, Республики Казахстан и Объединенных Арабских Эмиратах, — это вопрос компетенции органов власти в отношении ИИ.
В России эти функции распределяются внутри существующей структуры, в Республике Казахстан и Объединенных Арабских Эмиратах возложены на органы, которые специально созданы для реализации политики государства в области инновационных технологий. И если в Казахстане, как видно из названия Министерства, оно оказывает регулирующее воздействие не только в области цифрового развития, но и в сферах инноваций и аэрокосмической промышленности, то в ОАЭ ведает исключительно областью ИИ. Думается, необходимо избегать неоправданного расширения аппарата государственного управления.
И, наконец, третья тенденция, которая связана с международно-правовой составляющей в регулировании ИИ. Сотрудничество на наднациональном уровне требуется для обеспечения безопасности использования ИИ. Необходимо отдавать себе отчет, что это не только преимущество в государственном управлении, но и угроза конфиденциальности информации. Кроме того, существует проблема автономных военных систем, созданных с использованием ИИ.
Эти проблемы носят всеобщий, транснациональный характер. Применение искусственного интеллекта в государственном управлении и его регулирование со стороны международных организаций может стать составной частью предмета международного административного права.
Последнее, по мнению Ю.А. Тихомирова, представляет собой «согласованное развитие и использование принципов и норм международного права в сфере управления и решения глобальных задач, общих регуляторов и типичных процедур административного права зарубежных государств, системы национальных административно-правовых регуляторов »11.
1 СПС «Консультант Плюс» // URL: http://www.con-sultant.ru/document/cons_doc_LAW_351127/c505178 2233acca771e9adb35b47d3fb82c9ff1c/ (Дата обращения: 05.08.2020)
2 Гринфилд, Сьюзан. Один день из жизни мозга. Ней-робиология сознания от рассвета до заката. СПб.: Питер, 2018. С. 86.
3 The UAE National AI Program // URL: https://ai.gov.ae/ resources/ (Дата обращения: 13.09.2020)
4 Там же.
5 UAE AI Council talks future vision and strategy // URL: https://www.tahawultech.com/news/uae-ai-council-talks-strategy-and/ (Дата обращения: 13.09.2020)
6 Вайгенд, Андреас. Big Data. Вся технология в одной книге. М.: Эксмо, 2018.
7 Фатьянов АА. Большие данные в цифровой экономике: ценность и правовые вызовы // Экономика. Право. Общество. 2018. № 4. С. 267—270.
8 Blockchain in the UAE government // URL: https:// u.ae/en/about-the-uae/digital-uae/blockchain-in-the-uae-government (Дата обращения: 13.09.2020)
9 Data and privacy protection in the UAE // URL: https:// u.ae/en/about-the-uae/digital-uae/data/data-and-privacy-protection-in-the-uae (Дата обращения: 13.09.2020)
10 National Cybersecurity strategy 2019 // URL: https:// u.ae/en/about-the-uae/strategies-initiatives-and-awards/ federal-governments-strategies-and-plans/national-cybersecurity-strategy-2019 (Дата обращения: 13.09.2020)
11 Тихомиров ЮА. Векторы управления в фокусе права // Вопросы государственного и муниципального управления. 2019. № 1. С. 136—159.
Библиографический список
1. Вайгенд, Андреас. Big Data. Вся технология в одной книге. М.: Эксмо, 2018.
2. Гринфилд, Сьюзан. Один день из жизни мозга. Нейробиология сознания от рассвета до заката. СПб.: Питер, 2018.
3. Тихомиров ЮА. Векторы управления в фокусе права // Вопросы государственного и муниципального управления. 2019. № 1. С. 136—159.
4. Фатьянов АА. Большие данные в цифровой экономике: ценность и правовые вызовы // Экономика. Право. Общество. 2018. № 4. С. 267—270.
5. The UAE National AI Program // URL: https://ai.gov.ae/resources/ (Дата обращения: 13.09.2020)
6. UAE AI Council talks future vision and strategy // URL: https://www.tahawultech.com/ news/uae-ai-council-talks-strategy-and/ (Дата обращения: 13.09.2020)
7. National Cybersecurity strategy 2019 // URL: https://u.ae/en/about-the-uae/strategies-initiatives-and-awards/federal-governments-strategies-and-plans/national-cybersecurity-strategy-2019 (Дата обращения: 13.09.2020)
8. Blockchain in the UAE government // URL: https://u.ae/en/about-the-uae/digital-uae/ blockchain-in-the-uae-government (Дата обращения: 13.09.2020)
9. Data and privacy protection in the UAE // URL: https://u.ae/en/about-the-uae/digital-uae/ data/data-and-privacy-protection-in-the-uae (Дата обращения: 13.09.2020)
№ 4/2020
