CC BY
48
УДК 34 ББК 67
DOI 10.24411/2414-3995-2020-10159 © А.И. Халиуллин, 2020
ОСОБЕННОСТИ ПРАВОВОГО РЕГУЛИРОВАНИЯ И ВНЕДРЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ДЕЯТЕЛЬНОСТЬ ГОСУДАРСТВЕННЫХ ОРГАНОВ
Адель Ильфатович Халиуллин,
научный сотрудник
НИИ Университета прокуратуры Российской Федерации (117638, Москва, ул. Азовская, д. 2, корп. 1)
E-mail: [email protected]
Аннотация. Проанализированы основные направления развития и внедрения технологий искусственного интеллекта в деятельности государственных органов в Российской Федерации. Проведенный анализ позволил систематизировать проблемные вопросы правового регулирования применения технологий искусственного интеллекта, этико-правовые вопросы его взаимодействия с человеком.
Ключевые слова: искусственный интеллект, робототехника, информатизация, автоматизация деятельности, большие данные.
FEATURES OF LEGAL REGULATION AND IMPLEMENTATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES
IN THE ACTIVITIES OF STATE BODIES
Adel' I. Haliullin,
Research Fellow
Research Institute of the University of the Prosecutor's Office of the Russian Federation (117638, Moscow, ul. Azovskaya, d. 2, korp. 1)
Abstract. Analyzed the main directions of development and implementation of artificial intelligence technologies in the activities of state bodies in the Russian Federation. The analysis made it possible to systematize problematic issues of legal regulation of the use of artificial intelligence technologies, ethical and legal issues of its interaction with humans.
Keywords: artificial intelligence, robotics, informatization, automation of activities, big data.
Citation-индекс в электронной библиотеке НИИОН
Для цитирования: Халиуллин А.И. Особенности правового регулирования и внедрения технологий искусственного интеллекта в деятельность государственных органов. Вестник экономической безопасности. 2020;(3):77-80.
Интенсивное развитие информационно-коммуникационных технологий сформировало предпосылки перехода к качественно новому этапу развития человеческого общества. Ускорение процессов автоматизации в сфере государственного управления, общественного взаимодействия и коммерческой деятельности повысило востребованность и значимость систем искусственного интеллекта.
В научных исследованиях технологии искусственного интеллекта рассматриваются как системы интеллектуальных машин или комплекс технологических решений, имитирующих когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма [2, с. 32]. Неотъемлемыми признаками искусственного интеллекта выступают автономность и адаптивность не ниже уровня среднестатистического человека, но
самообучение не исключает наличия определенного процента ошибок в результатах работы систем искусственного интеллекта [14, с. 35].
Режим правового регулирования применения технологий искусственного интеллекта должен обеспечивать необходимую степень защиты прав и свобод человека и гражданина, отвечать интересам общества и государства. Приоритетом при использовании технологий искусственного интеллекта выступает обеспечение благополучия человека, подконтрольность человеку систем искусственного интеллекта, установление ответственности за причинение вреда, в том числе запрет на скрытую манипуляцию человеческим сознанием.
В настоящее время предпринимаются попытки применения технологий искусственного интеллекта в сфере государственного управления в
Российской Федерации по следующим направлениям: безопасность (розыск преступников с изображений видеокамер); эффективный контроль и надзор (планирование ограниченных ресурсов у проверяющих органов для распределения проверок по подконтрольным объектам с учетом математической модели выявления максимального вероятного ущерба); сервисные функции государства (автоматическое чтение и рассмотрение обращений граждан, проактивное предоставление государственных услуг, голосовые роботы и чат-бот); предиктивная аналитика на основе больших данных; законодательство (автоматическое чтение существующих правовых актов, анализа их соответствия или противоречивости, подбор наиболее адекватных норм, машиночитаемые законы); инфраструктура (робототехника и автоматизация, в том числе автономный транспорт, промышленные роботы, курьеры) [15, с. 112].
Поддержка развития технологий искусственного интеллекта в Российской Федерации является основой обеспечения технологического суверенитета, так как отставание в этой сфере сделает зависимыми от технологий других стран. Важным представляется совершенствование нормативного регулирования использования технологий искусственного интеллекта, что предлагает реализацию целей и задач, закрепленных в таких документах стратегического планирования как:
Указ Президента Российской Федерации «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» (от 07.05.2018 № 204);
Стратегия научно-технологического развития Российской Федерации (утверждена Указом Президента РФ от 01.12.2016 № 642);
Стратегия развития информационного общества в Российской Федерации на 2017-2030 годы (утверждена Указом Президента РФ от 09.05.2017 № 203);
Национальная программа «Цифровая экономика Российской Федерации», в частности федеральный проект «Нормативное регулирование цифровой среды» (паспорт национальной программы утвержден президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам протоколом от 24.12.2018 № 16).
Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента РФ от 10.10.2019 № 490).
Поставленные цели и задачи требуют сотрудничества и привлечения ресурсов многих государств, что нашло отражение в положениях цифровой повестки Евразийского экономического союза (ЕАЭС) до 2025 года (Решение Высшего Евразийского экономического совета от 11.10.2017 № 12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года»).
В настоящий момент в Российской Федерации работа по созданию комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологии искусственного интеллекта осуществляется по двум основным направлениям:
во-первых, создание основ правового регулирования новых общественных отношений, возникающих в связи с использованием технологий искусственного интеллекта;
во-вторых, устранение правовых барьеров и создание новых правовых процедур для разработки и применению технологий искусственного интеллекта.
Создание правовых механизмов безопасного оборота технологий искусственного интеллекта в различных сферах (тестирования, проведения научных исследований, внедрения, эксплуатации и т.д.) требует разрешения следующих первостепенных задач:
1) конкретизации сфер использования технологий искусственного интеллекта, в которых допускается принятие ими юридически значимых решений (государственное и муниципальное управление, основанное на больших данных; автономные транспортные средства, медицинские роботы, роботы-курьеры и т.д.) [3, с. 36];
2) расширение использования инструментов саморегулирования отрасли искусственного интеллекта, в том числе разработка модельных кодексов (сводов) этических правил взаимодействия человека и искусственного интеллекта, а также применения технологий искусственного интеллекта в различных сферах;
3) разрешение вопросов в сфере ответственности за вред, причиненный при использовании тех-
нологий искусственного интеллекта (в том числе разработки границ ответственности должностного лица, принимающего решение на основе рекомендаций искусственного интеллекта, так называемое «право на ошибку»), развитие института страхования ответственности [6, с. 65];
4) современное нормативно-правовое регулирование в области данных концентрируется преимущественно на защите конфиденциальности информации, но не учитывает высокой востребованности больших массивов данных (их систематизации и гармонизации) для создания конкурентоспособных технологий искусственного интеллекта и основанных на них технологических решений
[11, с. 24];
5) детализация существующих подходов по разграничению прав на результаты интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта, так как существующий правовой режим не обеспечивает правовую охрану результатам деятельности систем искусственного интеллекта при отсутствии творческого вклада человека [12, с. 320];
6) совершенствование системы нормативно-технического регулирования, стандартизации новых технологий, методологических подходов по измерению их эффективности (производительности), сертификации;
7) поддержка развития рынков использования технологий искусственного интеллекта, недопустимость ограничения конкуренции посредством применения технологий искусственного интеллекта [7, с. 50-53];
8) нормативное регулирование обеспечения технологического суверенитета Российской Федерации по использованию искусственного интеллекта, в частности в сфере государственного управления.
Вышеперечисленные проблемные вопросы правового регулирования применения технологий искусственного интеллекта требуют значительных изменений в законодательстве России. В качестве решения данной задачи предполагается создание экспериментальных правовых режимов или «ре-гуляторных песочниц» для тестирования и внедрения технологий искусственного интеллекта в обход избыточных административных процедур,
но без корректировки действующего законодательства и при условии обеспечения безопасности и контролируемости со стороны государственных органов1.
Наиболее сложным в этой связи представляется разрешение дилеммы между обеспечением конфиденциальности информации и востребованностью создания специальных правовых режимов облегченного доступа к данным государственных и муниципальных органов (включая персональные данные) для проведения научных исследований в сфере применения искусственного интеллекта и разработки технологических решений на их основе, а также стимулирование к раскрытию собранных массивов данных коммерческими организациями
[1, с. 53].
Также в настоящее время в Российской Федерации отсутствуют специальные процедуры государственного контроля в сфере применения технологий искусственного интеллекта, что одновременно как снижает уровень административных барьеров для их тестирования и внедрения, так и снижает уровень защищенности прав и законных интересов граждан.
Отсутствие координации полномочий существенно тормозит распространение технологий искусственного интеллекта в Российской Федерации и для эффективного функционирования системы государственного контроля за различными видами систем искусственного интеллекта востребованным является создание специализированного государственного органа в сфере систем искусственного интеллекта [9, с. 71].
Таким образом, основной проблемой на пути расширения использования технологий искусственного интеллекта выступает отсутствие достаточной степени доверия к ним со стороны общества и государства. Рост производительности и эффективности систем искусственного интеллекта неминуемо приведет к повышению степени их автономности, снижению контроля со стороны человека. При этом существующие решения в сфере применения технологий искусственного интеллекта не позволяют обеспечить прозрачность логики принятия решений
1 Решение Высшего Евразийского экономического совета от 11.10.2017 № 12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года» // СПС «КонсультантПлюс».
системами искусственного интеллекта, что влечет необходимость ограничения сфер их применения, в которых предполагается принятие юридически значимых решений.
Отсутствуют единые подходы к стандартизации и регулированию применению систем искусственного интеллекта, что связано с рядом проблемных вопросов: направлениях первоочередного внедрения технологий искусственного интеллекта [10, с. 61]; самоидентификации систем искусственного интеллекта при коммуникации с человеком, этические принципы их взаимодействия [8, с. 26]; возможности делегирования человеком принятия системами искусственного интеллекта юридически значимых решений [4, с. 34]; упрощения процедур доступа к данным государственных органов и коммерческих организаций для развития систем искусственного интеллекта [5, с. 31]; обеспечения «чистоты» больших данных, противодействие незаконному манипулированию работой систем искусственного интеллекта [13, с. 86, 87].
Технологические решения по внедрению систем искусственного интеллекта в Российской Федерации в значительной степени опережают нормативное регулирование данной сферы общественных отношений. Совершенствование правового регулирования общественных отношений в сфере использования технологий искусственного интеллекта предполагает соблюдение баланса между внедрением новых технологий, соблюдением прав и законных интересов граждан, а также интересов государства.
Литература
1. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 53.
2. Бурова А. Использование искусственного интеллекта: наука и регулирование // Право и экономика. 2018. № 9. С. 32.
3. Гаджиев Г. А., Войниканис Е.А. Может ли робот быть субъектом права? // Право. 2018. № 4. С. 36.
4. Гаджина Г.А. Может ли робот быть субъектом права? Поиск правовых норм для регулирования цифровой экономики // Право. 2010. № 4. С. 34.
5. Дроздов И. Право в цифровую эпоху // Цифровая экономика. 2017. С. 31.
6. Ирискина Е.Н., Беляков К.О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. № 10. С. 65.
7. Мамедова Г.Х. Правовые способы выявления и пресечения картелей в условиях цифровой экономики // Предпринимательское право. 2019. № 2. С. 50-53.
8. Мамонтов Д. Этические проблемы роботов: как нарушить законы робототехники // Популярная механика. 2015. № 6. С. 26.
9. Незнамов А.В., Наумов В.Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 71.
10. Никифорова Т.С., Смирнова К.М. Оставят ли роботы юристов без работы? // Закон. 2017. № 11. С. 61.
11. Серова О.А. Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право. 2018. № 3. С. 24.
12. Синельникова В.Н. Правовой режим результатов интеллектуальной деятельности, созданных саморазвивающимися программами / под ред. О.А. Кузнецовой // Пермский юридический альманах. 2019. № 1. С. 320.
13. Хабриева Т.Я., Черногор Н.Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1. С. 86, 87.
14. Шнуренко И. Искусственный интеллект на грани нервного срыва // Эксперт. 2019. № 1. С. 35.
15. Юридическая концепция роботизации: монография / Н.В. Антонова, С.Б. Бальхаева, Ж.А. Гаунова и др.; отв. ред. Ю.А. Тихомиров. М.: Проспект, 2019. С. 112.
