CC BY
99УДК 347; 004.8
ТЕОРЕТИКО-ПРАВОВЫЕ ПОДХОДЫ К ОПРЕДЕЛЕНИЮ СИСТЕМЫ ПРИНЦИПОВ ЗАКОНОДАТЕЛЬНОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА СОВРЕМЕННОМ ЭТАПЕ РАЗВИТИЯ ПРАВОВОГО ГОСУДАРСТВА
ПОПОВА Анна Владиславовна
доктор юридических наук, кандидат философских наук, доцент, профессор Департамента правового регулирования экономической деятельности ФГОБУВО «Финансовый университет при Правительстве Российской Федерации»; профессор кафедры Теория государства и права Института права ФГБОУ ВО «Башкирский государственный университет»; профессор кафедры конституционного права Юридического факультета им. М.М. Сперанского Института права и национальной безопасности ФГОБУ ВО «Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации», Россия, г. Москва, Россия. Е-mail: anna0710@yandex.ru
ГОРОХОВА Светлана Сергеевна
кандидат юридических наук, доцент, доцент Департамента правового регулирования экономической деятельности ФГОБУ ВО «Финансовый университет при Правительстве Российской Федерации», Россия, г. Москва, Россия. Е-mail: sgorohova@fa.ru
АЗНАГУЛОВА Гузель Мухаметовна
доктор юридических наук, доцент, заместитель Директора Института права, профессор кафедры теории государства и права ФГБОУ ВО «Башкирский государственный университет», г. Уфа, Россия. Е-mail: agm09@mail.ru
THEORETICAL AND LEGAL APPROACHES TO THE DEFINITION OF THE SYSTEM OF THE PRINCIPLES OF LEGISLATIVE REGULATION OF ARTIFICIAL INTELLIGENCE AT THE PRESENT STAGE OF DEVELOPMENT OF THE RULE-OF-LAW STATE
POPOVA Anna Vladislavovna
Doctor of Law, Candidate of Philosophy, Associate Professor, Professor of the Department of Legal Regulation of Economic Activity of the Financial University under the Government of the Russian Federation; Professor of the Chair of Theory of State and Law of the Institute of Law of the Bashkir State University; Professor of the Department of Constitutional Law of the Faculty of Law named after M. M. Speransky of the Institute of Law and National Security of the Russian Presidential Academy of National Economy and Public Administration, Moscow, Russia. E-mail: anna0710@yandex.ru
GOROKHOVA Svetlana Sergeevna
Candidate of Law, Associate Professor, Assistant Professor of the Department of Legal Regulation of Economic Activity of the Financial University under the Government of the Russian Federation, Russia, Moscow, Russia.
E-mail: sgorohova@fa.ru;
AZNAGULOVÂ Guzel Mukhametovna
Doctor of Law, Associate Professor, Deputy Director of the Institute of Law, Professor of the Chair of Theory of State and Law of the Bashkir state University, Ufa, Russia.
E-mail: agm09@mail.ru
В статье авторы исследуют проблему выяв- In the paper, the authors investigate the prob-
ления и обоснования принципов правового lem of identifying and substantiating the prin-
регулирования киберфизических систем, ис- ciples of legal regulation of cyber-physical sys-
кусственного интеллекта, различных видов tems, artificial intelligence, various types of го-
роботов и объектов робототехники в нацио- bots and robotics objects in national and supra-
нальном и наднациональном праве. На основе сравнительно-правового анализа существующих подходов к определению искусственного интеллекта, авторы настоящей статьи формируют систему принципов в зависимости от определения технологических систем в качестве объекта или субъекта права и правоотношений в различных отраслях права и законодательства.
Ключевые слова: искусственный интеллект, робот, робототехника, правовое регулирование, принципы законодательства, общие принципы права, цифровая экономика.
Статья подготовлена по результатам исследований, выполненных за счет бюджетных средств по государственному заданию ФГОБУВО «Финансовый университет
при Правительстве Российской Федерации»
Президент России Владимир Владимирович Путин в своём Послании к Федеральному собранию Российской Федерации в марте 2018 г. отметил, что в нашей стране должна быть запущена масштабная национальная программа по развитию искусственного интеллекта (далее по тексту - ИИ). Необходимо создать продвинутую научную инфраструктуру, которая поможет России войти в число стран-лидеров по научным технологическим направлениям. Свою сформированную в Послании позицию В.В. Путин подтвердил и в ходе проведенного им совещания о развитии технологий в области искусственного интеллекта 30 мая 2019 г., указав на то, во-первых, борьба за технологическое лидерство в сфере искусственного интеллекта уже стала полем глобальной конкуренции, во-вторых, скорость создания новых продуктов и решений растет в геометрической прогрессии, в-третьих, если кто-нибудь сможет обеспечить монополию в сфере искусственного интеллекта, тот обеспечит собственную власть над миром.
Начинать работу по подготовке к изменению законодательства Российской Федерации в части правового регулирования искусственного интеллекта, киберфизических систем, нейронных сетей, роботов и объектов робототехники следует и незамедлительно, пока есть возможность хорошо все обдумать, подготовить общество к предстоящей трансформации фундаментальных основ правовой системы, которая, как уже прогнозируется в российской и зарубежной научной литературе, пополнится новыми субъектами права, автономными от людей, с собственными правами, обязанностями, ответственностью, и потенциальной возможностью конкурировать с человечеством, совершать правонарушения и деликты. Отметим, что на текущем этапе, просто невозможно спрогнозировать все возможные последствия включения искусственного интеллекта в правовое поле и в практически каждую сферу общественной жизни. Нельзя также предсказать, какого уровня достигнет развитие искусственного интеллекта в будущем, по той простой причине, что на текущий момент, его совершенствование ограничено техническими возможностями по обеспечению «софтом», однако, в случае решения этой проблемы, его развитие, по мнению ученых-техников, не будет ограничено уже ничем. В этой связи, наиболее важным аспектом в деятельности ученых-юристов становится не формулирование конкретных правовых установлений, дающих определение искусственного интеллекта, включающих его в правовые конструкции, и снабжающих узаконенными правами (поскольку все эти положения могут очень быстро устареть, если или когда появится ис-
national law. On the basis of comparative legal analysis of existing approaches to the definition of artificial intelligence, the authors of this paper form a system of principles depending on the definition of technological systems as an object or subject of law and legal relations in various fields of law and legislation.
Key words: artificial intelligence, robot, robotics, legal regulation, principles of legislation, general principles of law, digital economy.
кусственный интеллект способный к самопознанию, саморазвитию, и собственным представлением о своем месте в мире), а формулирование правильных принципов правового регулирования, сопровождаемое надеждой, что и искусственный интеллект будет ими руководствоваться и соблюдать в той же мере, что и человечество.
Для определения принципиальных подходов необходимой правовой трансформации; исполнению поставленных цели и задач, особое значение имеет теоретико-правовая основа определения места и роли киберфизических систем, ИИ, основанных на нем нейронных сетей, различного вида роботов и робототехники в системе права и системе законодательства национального и наднационального уровня правового регулирования. Основополагающим принципом правового регулирования является гуманизм, образующий антропоцентрическую правовую оболочку, которая строится вокруг незыблемости прав и свобод человека, их высшей ценности, по отношению к другим (всем), менее значимым категориям. Такой подход, помимо прочего, обосновывался исключительностью человеческого сознания (естественного интеллекта), его превосходством над всеми иными явлениями, объективно существующими в реальном мире, ибо как утверждал софист Протагор: «человек - мерило всех вещей». Однако в конечном счете существует вероятность того, что в течение нескольких десятилетий ИИ сможет превзойти человеческий интеллектуальный потенциал, что поставит перед людьми ряд серьезных вопросов, связанных со способностью контролировать свое собственное творение, реакцией на возможность «ремонта» и улучшения людей, возможностью замены межличностных отношений (дружбы, любви, товарищества) на отношения другого рода, объединяющих творение и творца.
Такие глобальные изменения экспозиции будущего мира, просто нельзя отразить в точечных, неполных и бессистемных изменениях законодательства. Поэтому, формируя фундаментальные основы правой системы с поправкой на существование искусственного интеллекта, необходимо начинать с коррекции (или с подтверждения) философской канвы, с определения парадигмы выстраивания взаимодействия между искусственным и естественным интеллектами. В рамках достижения поставленной цели для дальнейшего развития искусственного интеллекта, нейронных сетей, роботов и объектов робототехники и их практического применения в отраслях народного хозяйства в различных сферах цифровой экономики, необходимо планомерно реализовывать намеченные задачи, создавая обновленную нормативную правовую базу. Первоочередной задачей, очевидно, является определение самих категорий «искусственный интеллект», «робот», «киборг», и других, востребованных в новом технологическом ключе. Для верного определения их статуса необходимо четко определить каждый из предлагаемых к правовому регулированию элементов.
Для России урегулирование нового типа общественных отношений, в которых будет участвовать технологический элемент в виде разного рода киберфизических систем, роботов, объектов робототехники, искусственного интеллекта, аватаров и др. представляет собой первостепенную задачу. Несмотря на отсутствие легального определения искусственного интеллекта в законодательстве Российской Федерации, сам термин широко используется [1; 2; 3; 4; 5], что актуализирует его закрепление в нормативных правовых актах. Вопрос определения содержания этих дефиниций в научной литературе является дискуссионным. В.В. Архипов и В.Б. Наумов полагают необходимым определять робототехнику как «совокупность общественных отношений, предметом которых являются производство, распределение и, немного перефразируя классическое определение экономики, использование автоматизированных технических систем» [6, а 46], поэтому законодательство, его регулирующее должно носить комплексный характер. В силу данного определения, они предлагают разделять две категории:
1. «Робот», определяемый как «устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней сре-
ды, без полного контроля со стороны человека», и являющийся в силу данного обстоятельства объектом правоотношений.
2. «Робот-агент» выступающий в роли квазисубъекта, наделенного специальной правосубъектностью, т.к. он «предназначен по решению собственника и в силу конструктивных особенностей для участия в гражданском обороте, обладающий обособленным имуществом и отвечающий им по своим обязательствам, обладающий правом от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности» [6, c. 50-51].
А.А. Васильев и Д. Шпопер по этому поводу отмечают, что в первом случае искусственный интеллект понимается всего лишь как техническое средство с правовым режимом вещи, а во втором случае за ним признается статус электронного лица по аналогии с юридическим лицом «через использование приема правовой фикции». Однако такая трактовка не вполне отвечает самой сущности искусственного интеллекта, т.к. «квалификация искусственного интеллекта как объекта права не учитывает наличия некой субъектности - способности к мышлению и принятию самостоятельных решений. Во втором случае поднимается более глубокий вопрос мировоззренческого порядка: искусственный интеллект - это личность, подобная человеку» [7, c. 24]. В Модельной конвенции о робототехнике и искусственном интеллекте «Правила создания и использования роботов и искусственного интеллекта» [8], разработанной А.В. Незнамовым и В.Б. Наумовым, отмечается, что «роботы могут выступать в гражданском обороте как самостоятельные лица, в том числе выступать собственниками других роботов, если это прямо установлено применимым законодательством». Однако авторы не определяют правовой статус таких «самостоятельных лиц».
Исходя из вышеизложенного, особое внимание следует уделить принципам правового регулирования исследуемой тематики. На наш взгляд, в число этих принципов (помимо общеправовых, таких как гуманизм, законность, запрет дискриминации и стигматизации), должны войти основные начала правового регулирования, способные задать правильный вектор выстраиванию взаимодействия между двумя видами интеллектов. Полагаем, первым, здесь должен стать принцип недопустимости причинения вреда человеку. Отметим, что этот принцип, опосредованно сформулировал еще в 1943 году в рассказе «Хоровод» [9] Айзек Азимов, через свои три закона робототехники. Интересным фактом здесь является то, что эти законы дословно приведены со ссылкой на источник в пункте М введения к Докладу Евро-парламента с рекомендациями Комиссии по нормам гражданского права в области робототехники: «(1) робот не может причинить вред человеку или своим бездействием допустить причинения вреда человеку. (2) робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы противоречат Первому Закону. (3) робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму Законам (см. Runabout, I. Asimov, 1943) и (0) робот не может причинить вред человечеству или, бездействием, позволить человечеству прийти к вреду» [10].
Однако, в данном случае, следует учитывать то обстоятельство, что системы ИИ, уже нашли свое применение не только в гражданской, но и в военной сфере, что накладывает определенные ограничения на применимость указанного принципа. Далее следуют принципы уважения человеческого достоинства и конфиденциальности, обусловленные тем, что частная информация о человеке может быть раскрыта через решения и прогнозы, сделанные ИИ, более того, от применения некоторых возможностей технологий на основе ИИ, может пострадать и человеческое достоинство, так как ИИ позволяет все более реалистичные фото, аудио и видео подделки, или «глубокие подделки», которые могут быть использованы для дискредитации граждан.
Кроме того, кредитные организации уже используют интеллектуальные системы для прогнозирования кредитного риска при выдаче кредитов, и некоторые государства (например, США) запускают разнообразные характеристики заключенных через сложные алгорит-
мы, чтобы предсказать вероятность рецидива при рассмотрении вопроса об условно-досрочном освобождении. В этих случаях очень важно обеспечить, чтобы такие факторы, как национальность, раса и сексуальная ориентация, не использовались для принятия решений на основе ИИ. Даже когда такие функции не включены непосредственно алгоритмам программы, они все равно могут сильно коррелировать с кажущимися безобидными сведениями, такими как почтовый индекс, или адрес. Тем не менее, при тщательном проектировании, тестировании и развертывании алгоритмы ИИ могут принимать менее предвзятые решения, чем типичный человек.
Поэтому, на базовом уровне лежит вопрос: будут ли люди продолжать наслаждаться перспективой одиночества в мире, пронизанном, по-видимому, социальными агентами, "живущими" в наших домах, автомобилях, офисах, больничных палатах и телефонах? Принцип раскрытия информации о разработке, производстве и, использовании роботов и искусственного интеллекта Смысл данного принципа заключаются в том, что разработчики, производители и участники хозяйственного оборота обязаны будут раскрывать информацию о количестве «умных роботов», которых они используют, об экономии средств, вносимых на социальное обеспечение за счет использования робототехники вместо человеческого персонала, об оценке суммы и доли доходов предприятия, полученных в результате использования робототехники и искусственного интеллекта.
Принцип автономности воли, который должен обеспечить возможность для граждан, принимать обоснованное, не принуждаемое решение об условиях взаимодействия с роботами. Данный принцип тесно связан с принципом информированного согласия, охватывающего, в данном случае, все аспекты преимуществ и возможных последствий взаимодействия с искусственным интеллектом, начиная от медицины, и заканчивая сферой развлечений. Граждане должны обладать правом отказаться от использования интеллектуальных технологий как в общественной, так и в частной сфере. Простого публичного уведомления об их использовании явно будет мало. Особенного внимания требует внедрение и использование технологий, связанных с распознаванием эмоций, призванной определять такие аспекты, как испытываемые индивидом чувства, состояние его психического здоровья, «вовлеченность» сотрудников (студентов) в трудовой (образовательный) процесс. Такие технологии, несмотря на то, что уже применяются, в том числе, и в России, не подкреплены сколь ни будь серьезным и длительным научным исследованием, а по сему, их использование носит характер безответственного и неэтичного, напоминая, в лучшем случае, теорию Ч. Ломброзо, а в худшем, такие псевдонауки, как френология и физиогномика.
Справедливость - принцип, предусматривающий справедливое распределение преимуществ, связанных с робототехникой и доступностью роботов. Правовое регулирование должно оцениваться с точки зрения того, способствуют ли они демократическому развитию и справедливому распределению благ ИИ или концентрируют власть и выгоды в определенных кругах. А поскольку будущие технологии искусственного интеллекта и их последствия невозможно предвидеть с полной ясностью, правовую политику необходимо будет постоянно пересматривать в контексте наблюдаемых социальных проблем и данных, полученных в результате полевых исследований.
Полагаем, с течением времени, будет дополняться и принципиальная основа (набор принципов), которые лягут в основу правового регулирования сферы искусственного интеллекта, киберфизических систем, нейронных сетей, основанных на нем, а также роботов и объектов робототехники. Борьба за технологическое лидерство в сфере искусственного интеллекта уже стала полем глобальной конкуренции, при этом, скорость создания новых продуктов и решений растет в геометрической прогрессии, в этой ситуации подготовка правового поля под новый тип правоотношений, включающий в себя искусственный интеллект, становится насущной необходимостью для всех государств, включая и Российскую Федерацию.
Наиболее важным аспектом правового регулирования в исследуемой сфере является формирование принципиальной основы этого процесса, то есть, агломерата принципов, способных заложить верную фундаментальную основу взаимодействия человека и умных машин.
Библиографические ссылки
1. Указ Президента РФ от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» // Официальный интернет-портал правовой информации [Электронный ресурс]. URL: http://www.pravo.gov.ru (дата обращения: 10.05.2017).
2. Указ Президента РФ от 1 декабря 2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации» // Официальный интернет-портал правовой информации [Электронный ресурс]. URL: http://www.pravo.gov.ru (дата обращения: 01.12.2016).
3. Постановление Правительства РФ от 15.04.2014 № 313 (ред. от 30.03.2018) «Об утверждении государственной программы Российской Федерации "Информационное общество (20112020 годы)"» // Официальный интернет-портал правовой информации [Электронный ресурс]. URL: http://www.pravo.gov.ru (дата обращения: 24.04.2014).
4. Распоряжение Правительства РФ от 28.07.2017 № 1632-р «Цифровая экономика Российской Федерации» // Официальный интернет-портал правовой информации [Электронный ресурс]. URL: http://www.pravo.gov.ru (дата обращения: 03.08.2017).
5. Приказ Министерства промышленности и энергетики РФ от 7 августа 2007 г. № 311 «О Стратегии развития электронной промышленности России на период до 2025 г.» // Еженедельник промышленного роста. 2007. № 31.
6. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Вып. 55. С. 46-62. DOI: https://doi.org/10.15622/sp.55.2.
7. Васильев А.А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского государственного университета. 2018. № 6 (104). С. 23-26 [Электронный ресурс]. URL: https://doi.org/10.14258/izvasu (дата обращения: 06.03.2018).
8. Незманов А.В., Наумов В.Б. Модельная конвенция о робототехнике и искусственном интеллекте «Правила создания и использования роботов и искусственного интеллекта» [Электронный ресурс]. URL: http://robopravo.ru (дата обращения: 13.07.2019).
9. Азимов А. Я, робот. М. : ЭКСМО, 2019.
10. Draft report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL) Committee on Legal Affairs [Электронный ресурс]. URL: http://www.europarl.europa.eu/doceo/document/JURI-PR-582443_EN.pdf (дата обращения: 18.07.2019).
References
1. Ukaz Prezidenta RF ot 9 maya 2017 g. No. 203 «O Strategii razvitiya informatsionnogo ob-shchestva v Rossiyskoy Federatsii na 2017-2030 gody» (Decree of the President of the Russian Federation of May 9, 2017, No. 203 "On the Strategy for the Development of the Information Society in the Russian Federation for 2017-2030"). Ofitsial'nyy internet-portal pravovoy informatsii. URL: http://www.pravo.gov.ru (accessed date: 10.05.2017).
2. Ukaz Prezidenta RF ot 1 dekabrya 2016 g. № 642 «O Strategii nauchno-tekhnologicheskogo razvitiya Rossiyskoy Federatsii» (Decree of the President of the Russian Federation of December 1, 2016 No. 642 "On the Strategy for the Scientific and Technological Development of the Russian
Federation"). Ofitsial'nyy internet-portalpravovoy informatsii. URL: http://www.pravo.gov.ru (accessed date: 01.12.2016).
3. Postanovleniye Pravitel'stva RF ot 15.04.2014 № 313 (red. ot 30.03.2018) «Ob utverzhdenii gosudarstvennoy programmy Rossiyskoy Federatsii "Informatsionnoye obshchestvo (2011-2020 gody)"» (Decree of the Government of the Russian Federation of April 15, 2014 No. 313 (as amended on March 30, 2018) «On approving the state program of the Russian Federation "Information Society (2011-2020)"»). Ofitsial'nyy internet-portal pravovoy informatsii. URL: http://www.pravo.gov.ru (accessed date: 24.04.2014).
4. Rasporyazheniye Pravitel'stva RF ot 28.07.2017 № 1632-r «Tsifrovaya ekonomika Rossiyskoy Federatsii» (Decree of the Government of the Russian Federation of July 28, 2017 No. 1632-r "Digital Economy of the Russian Federation"). Ofitsial'nyy internet-portal pravovoy informatsii. URL: http://www.pravo.gov.ru (accessed date: 03.08.2017).
5. Prikaz Ministerstva promyshlennosti i energetiki RF ot 7 avgusta 2007 g. № 311 «O Strategii razvitiya elektronnoy promyshlennosti Rossii na period do 2025 g.» (Order of the Ministry of Industry and Energy of the Russian Federation of August 7, 2007 No. 311 "On the Development Strategy of the Russian electronics industry for the period until 2025"). Yezhenedel'nikpromyshlennogo rosta. 2007. No. 31.
6. Arkhipov V.V., Naumov V.B. Iskusstvennyy intellekt i avtonomnyye ustroystva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototekhnike (Artificial intelligence and autonomous devices in the context of law: on the development of Russia's first law on robotics). Trudy SPIIRAN 2017, Vyp. 55, pp. 46-62. DOI: https://doi.org/10.15622/sp.55.2.
7. Vasil'yev A.A., Shpoper D. Iskusstvennyy intellekt: pravovyye aspekty (Artificial intelligence: legal aspects). Izvestiya Altayskogo gosudarstvennogo universiteta, 2018, No. 6 (104), pp. 23-26. URL: https://doi.org/10.14258/izvasu (accessed date: 06.03.2018).
8. Nezmanov A.V., Naumov V.B. Model'naya konventsiya o robototekhnike i iskusstvennom intellekte «Pravila sozdaniya i ispol'zovaniya robotov i iskusstvennogo intellekta» (Model Convention on Robotics and Artificial Intelligence "Rules for the Creation and Use of Robots and Artificial Intelligence"). URL: http://robopravo.ru (accessed date: 13.07.2019).
9. Azimov A. Ya, robot (I, robot). Moscow, EKSMO, 2019.
10. Draft report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL) Committee on Legal Affairs. URL: http://www.europarl.europa.eu/doceo/ docu-ment/JURI-PR-582443_EN.pdf (accessed date: 18.07.2019).
Дата поступления: 21.07.2019 Received: 21.07.2019
