CC BY
117
(cc)
DOI: 10.26794/1999-849X-2020-13-3-152-160 УДК 347.195(045) JEL К39
Генезис понятия искусственного интеллекта с точки зрения права в условиях реализации национального проекта «Цифровая экономика Российской Федерации»
Предмет исследования — искусственный интеллект с точки зрения права в условиях цифровой экономики как инструмент междисциплинарной сферы познания ввиду того, что он используется во многих областях человеческой деятельности и определяется исходя из единой концепции возможного применения в таких областях, как когнитивная информатика (благодаря алгоритмам, позволяющим объединять теорию познания, когнитивную психологию, нейрофизиологию, когнитивную лингвистику, невербальную коммуникацию для самообучения), машинное обучение (посредством алгоритмов, способных автономно решать поставленные задачи), развитие интеллекта (с помощью электронно-вычислительной техники) и робототехника. Цель работы - формулировка признаков искусственного интеллекта как основания для установления его правового статуса в гражданском обороте и разработки стратегии нормативного правового регулирования отношений с участием искусственного интеллекта.
Экосистема искусственного интеллекта состоит из отдельных ключевых подотраслей, объединяющих общественные отношения определенной сферы (технической, социальной, этической). В этой связи правовое регулирование искусственного интеллекта должно иметь многоуровневый характер. В статье делается вывод о том, что сущность искусственного интеллекта в целях исследования с точки зрения права можно выразить с помощью трех критериев: наличие функциональной самостоятельности (автономность); нематериальный характер; неограниченность во времени и пространстве.
Указанные выводы могут использоваться в законотворческой деятельности при разработке проектов нормативных правовых актов об искусственном интеллекте и ответственности в этой сфере.
Ключевые слова: искусственный интеллект; правовое регулирование; цифровая экономика; автономность; стратегия развития; право; правовой статус; информационное общество
Для цитирования: Свиридова Е.А. Генезис понятия искусственного интеллекта с точки зрения права в условиях реализации национального проекта «Цифровая экономика Российской Федерации». Экономика. Налоги. Право. 2020;13(3):152-160. DOI: 10.26794/1999-849Х-2020-13-3-152-160
The Genesis of the Concept of Artificial Intelligence from the Legal Perspective in the Context of the National Project "Digital Economy of the Russian Federation"
The subject of the research is artificial intelligence from the point of view of law in the digital economy as a tool of an interdisciplinary field of knowledge due to the fact that it is used in many areas of human activity and is determined based on a single concept of possible application in such areas as cognitive computer science (thanks to algorithms that allow combining the theory of knowledge, cognitive psychology, neurophysiology, cognitive linguistics, non-verbal
© Свиридова Е. А., 2020
Е. А. Свиридова
Финансовый университет, Москва, Россия https://orcid.org/0000-0002-7791-0550
АННОТАЦИЯ
E. A. Sviridova
Financial University, Moscow, Russia https://orcid.org/0000-0002-7791-0550
ABSTRACT
communication for self-Learning), machine Learning (through algorithms that can independently solve tasks), the development of the intellect (with the help of computer technology) and robotics. The purpose of the work is formulation of features of artificial intelligence as a basis for establishing its legal status in civil turnover and developing a strategy for regulatory legal regulation of relations involving artificial intelligence.
The artificial intelligence ecosystem consists of separate key sub-sectors that combine social relations of a certain sphere (technical, social, and ethical). In this regard, the legal regulation of artificial intelligence should have a multi-level character. The article concludes that the essence of artificial intelligence for research purposes from the point of view of law can be expressed using three criteria: the presence of functional independence (autonomy); immaterial nature; unlimited time and space.
These conclusions can be used in legislative activities when developing draft regulations on artificial intelligence and responsibility in this area.
Keywords: artificial intelligence; legal regulation; digital economy; autonomy; development strategy; law; legal status; information society
For citation: Sviridova E.A. The genesis of the concept of artificial intelligence from the legal perspective in the context of the national project "Digital economy of the Russian Federation". Ekonomika. Nalogi. Pravo = Economics, taxes & law. 2020;13(3):152-160. (In Russ.). DOI: 10.26794/1999-849X-2020-13-3-152-160
ВВЕДЕНИЕ
Одними из целей национального проекта «Цифровая экономика Российской Федерации» выступают разработка и формирование стабильной, безопасной и общедоступной информационно-телекоммуникационной инфраструктуры высокоскоростной передачи, обработки и хранения больших объемов данных1. Входящий в структуру национального проекта «Цифровая экономика» федеральный проект «Нормативное регулирование цифровой среды»2 направлен в том числе на создание системы правового регулирования цифровой экономики с учетом избирательного подхода к каждой сфере нормативного регулирования. Активное использование цифровых технологий в гражданском обороте приводит к необходимости разработки точечного правового регулирования правоотношений в сфере робототехники и применения технологий искусственного интеллекта. Для формирования качественных нормативных основ требуется исследование механизмов создания и использования технологий искусственного
1 Паспорт национального проекта «Национальная программа „Цифровая экономика Российской Федерации"» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 № 7). URL: https://digital.gov.ru (дата обращения: 09.01.2020).
2 Паспорт федерального проекта «Нормативное регулирование цифровой среды» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9). URL: https://digital.gov. ru (дата обращения: 09.01.2020).
интеллекта в целях повышения эффективности цифровой экономики.
Применение искусственного интеллекта в финансовой сфере трудно переоценить. Уже на сегодняшний день широкое распространение получили практика внедрения технологий искусственного интеллекта в целях выявления недобросовестного поведения участников торгов на фондовых рынках, использование машинного обучения в управлении кредитными рисками, а также применение роботизированных программ в сфере трейдинга.
В целях реализации Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг.3 (далее — Стратегия) программа «Цифровая экономика Российской Федерации»4 (далее — Программа) включает два основных направления развития цифровой среды: совершенствование базовых институтов, в рамках которых создаются условия для развития цифровой экономики, в том числе нормативное регулирование, и формирование основных инфраструктурных элементов цифровой экономики. Каждое из указанных направлений предусматривает развитие основных сквозных цифровых технологий, среди которых особое место занимают нейротехнологии и искусственный интеллект (да-
3 Указ Президента РФ от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» // Собрание законодательства Российской Федерации. № 20 от 15.05.2017, ст. 2901.
4 Распоряжение Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы «Цифровая экономика Российской Федерации» // Собрание законодательства Российской Федерации. № 32 от 07.08.2017, ст. 5138.
лее — ИИ). Одна из целей нормативного правового регулирования состоит в создании правового режима, благоприятного для цифровых технологий, а также реализации экономической деятельности, связанной с их использованием. Поэтому в Программе предлагается среди прочего сформировать комплексное законодательное регулирование отдельных правовых институтов, возникающих в связи с развитием цифровой экономики.
Однако прежде чем принимать новые нормативные правовые акты, регламентирующие деятельность ИИ в экономическом обороте, должны быть определены его понятие и правовой статус, существенно влияющие как на применение мер ответственности за незаконное применение, так и на заключение гражданско-правовых договоров.
ПОСТАНОВКА ПРОБЛЕМЫ ИССЛЕДОВАНИЯ
В настоящее время ученые анализируют ИИ в разных аспектах, чтобы прийти к его единому пониманию. Так, в когнитивной науке, объединяющей теорию познания, когнитивную психологию, нейрофизиологию, ИИ трактуется как итог совокупности всех умственных процессов высшего уровня и их взаимосвязей. Поэтому отдельные исследователи определяют интеллект как результат, наблюдаемый со стороны человеком, вовлеченным субъектом, ощущающим и действующим в своем мире посредством адаптивного поведения [1, с. 121].
В 1950-х гг. после изобретения первых компьютеров начался процесс создания ИИ, в котором приняли участие John McCarthy, Allen Newell, Nathaniel Rochester, Marvin Lee Minsky, Herbert Simon, Alan Turing, Claude Shannon, полагавшие, что ЭВМ становится интеллектом, если она начинает воспроизводить поведение человека [2, с. 11].
Согласно классическому определению Джона Мак-Карти ИИ реализуется технологическими устройствами, заменяющими человека, когда у него заимствуются его когнитивные функции [3], известные под названием «познавательные функции», являющиеся мозговыми процессами, направленными на то, чтобы индивид мог взаимодействовать с окружающим миром. Область применения ИИ находится на стыке информатики, осуществляющей передачу и координацию программируемых рефлексов, вычислительной нейробиологии, воспроизводящей биологические сети нейронов, а также философии, исследующей с практический точки зрения нравственность
и мораль, включая их возникновение, особенности и закономерности, в соответствии с которыми они развиваются. Еще в начале 1950-х гг. Alan Turing высказал предположение о том, что машина обладает способностью думать. Надо только дождаться такого развития информатики и вычислительной техники, чтобы вложить эту способность в человекоподобную форму [4].
S. Russel и P. Norvig предлагают восемь определений ИИ исходя из способности искусственного разума рассуждать и думать подобно человеку, действовать в соответствии с человеческим поведением, обладать способностью к обучению и саморазвитию [5, с. 1]. По их мнению, ИИ представляет собой сущность, способную на некоторые реакции и выбор каких-либо реакций исходя из обстоятельств, в которых он оказался. ИИ рационализирует обстоятельства и принимает решение, как себя повести в конкретной ситуации наиболее лучшим для него образом [5, с. 37-39]. ИИ анализирует возможные последствия каждого действия в зависимости от ситуации, в которых он оказался, а затем оценивает действие, которое ему кажется наилучшим, с учетом поставленных целей и знаний, которыми он обладает [6]. Чем больше ИИ имеет данных, тем больше вероятности того, что он примет правильное решение.
Заслуживает внимание определение искусственного интеллекта, сформулированное В. П. Морха-том, согласно которому ИИ представляет собой полностью или частично автономную самоорганизующуюся компьютерно-аппаратно-программную виртуальную или киберфизическую систему, имеющую антропоморфно-разумные способности мыслительных и когнитивных действий (в частности, умение распознавать образы, способность к рефлексии, рассуждению, образному мышлению, анализу и оценке), способную к саморегулированию и самоадаптации под изменяющиеся условия в силу накопленной информации и опыта, а также к антропоморфно-разумному самостоятельному (в том числе творческому) принятию решений [7, с. 68].
Если обратиться к энциклопедическим определениям ИИ, то наиболее точно его характеризует французский словарь «Богатство французского языка», который определяет его как устройство, предназначенное для поиска средств, способных обеспечивать информационные системы умственными способностями, сравнимыми с умственными способностями
человека5. Согласно Новому международному энциклопедическому словарю английского языка под ИИ понимается наделение технических устройств возможностями, которые присущи человеческому разуму. ИИ рассматривается как средство увеличения человеческих возможностей с помощью компьютерных программ и как отдельная наука об эффективных компьютерных технологиях6.
УСТАНОВЛЕНИЕ КРИТЕРИЕВ ИИ
Сущность ИИ в целях его исследования с точки зрения права можно выразить с помощью трех критериев: наличие функциональной самостоятельности (автономность); нематериальный характер; неограниченность во времени и пространстве.
Автономность искусственного интеллекта состоит не только в автоматизированном выполнении операций, но и в выборе этих операций в зависимости от обстоятельств и вводных данных, которые заложены в ИИ. В отличие от других объектов, ИИ наделен способностью принимать решения в условиях реальности при отсутствии каких-либо указаний извне. Даже если изначальные условия были заложены в ИИ его разработчиками, он способен самостоятельно осуществлять обработку имеющихся данных для того, чтобы прийти к верному решению. Речь идет о фундаментальном критерии, позволяющем классифицировать такое устройство, как ИИ. Именно этот критерий был поддержан Sonia Canselier как элемент дефиниции ИИ [8]. Согласно утверждению Ugo Pagallo в обиход входят действия, совершаемые не сугубо людьми и не просто животными, но имеющие тем не менее правовые последствия [9, с. 23].
ИИ является информационной программой, программным обеспечением, состоящим только из совокупности информационных данных [10].
Как и любое программное обеспечение, ИИ может быть представлен без оболочки (например, чат-бот) или быть воплощенным в роботе. Но в любом случае он не будет связан со своей материальной оболочкой и зависеть от нее. В этом состоит нематериальность искусственного интеллекта.
5 Словарь Trésor de la langue française. URL: http://atilf.atilf. fr/tlf.htm (дата обращения: 30.07.2019).
6 The New International Webster's Comprehensive Dictionary of the English Language: Encyclopedic Edition / By S. S. Smith. - New York: Trident Press International, 2003. 1936 p.
ИИ является сложным механизмом, предназначенным для решения определенной задачи на основе огромного количества данных под влиянием алгоритмов как конечной совокупности точно заданных правил решения произвольного класса задач или набора инструкций, описывающих порядок действий исполнителя. Это может приводить к тому, что даже сами разработчики ИИ не будут понимать логику принятия ИИ некоторых решений7.
Философ и исследователь влияния цифровых технологий в области культуры и когнитивных наук Pierre Lévy полагает, что ИИ является «маркетинговым ходом» для дизайнера и фактически представляет собой наиболее продвинутые и постоянно развивающиеся методы обработки данных [11, с. 32]. В настоящее время маркетинговый аспект востребован в продуктах, на которые ставят знак принадлежности к технологиям ИИ. Приставку «тех» можно встретить в различных отраслях экономической деятельности. Однако, по словам Meredith Whittaker, соучредительницы AI Now и руководителя группы Google Open Research, многочисленные утверждения о преимуществах и пользе ИИ не подкрепляются публично доступными научными доказательствами8.
Определение ИИ столь многовариантно, что любое применение этого термина становится охраняемым9. Согласно Devin Coldewey ИИ представляет собой технологический «естественный» эквивалент10.
Выделение ИИ в качестве самостоятельной дисциплины неоднозначно. Представляется нецелесообразным говорить о научной дисциплине с определенным предметом и методами исследования. Daniel K. Schneider считает, что у ИИ нет четко определенного предмета академического
7 Splinter H. L'insoutenable complexité de l'intelligence artificielle / H. Splinter. URL: https://rslnmag.fr/cite/linsoutenable-complexite-de-lintelligence-artificielle/ (дата обращения: 30.08.2019).
8 Whittaker Meredith. Data Genesis: AI's Primordial Soup (Eyeo Festival, Minneapolis, 2018) / M. Whittaker. // AI Now Report. 2018. URL: https://vimeo.com/287094149 (дата обращения: 11.09.2019).
9 Mallazo Mike. The BS-Industrial Complex of Phony A. I. : How hyping A.I. enriched investors, fooled the media, and confused the hell out of the rest of us. URL: https://archive. md/bMaBW#selection-173.0-177.97 (дата обращения: 12.07.2019).
10 Coldewey Devin. AI-powered' is tech's meaningless equivalent of 'all natural / D. Coldewey. URL: https://techcrunch. com/2017/01/10/ai-powered-is-techs-meaningless-equivalent-of-all-natural/ (дата обращения: 10.09.2019).
исследования, за исключением интереса к «интеллекту» и воспроизведению знаний. Ввиду отсутствия единой парадигмы исследования некоторые отрасли ИИ стали предметом междисплинарных обменов, в которых взаимодействуют философы, психологи, программисты и другие специалисты, интересующиеся проблемами в области интеллекта [12].
Существуют технологии, которые требуют участия не только программистов, но и специалистов в сфере юриспруденции, финансов, legal tech, fintech.
Benoît Charpentier приводит подробный перечень услуг и продуктов в сфере legal tech, специализирующейся на информационно-технологическом обслуживании профессиональной юридической деятельности: расчет вероятности относительно судебных решений (что можно отнести к категории «слабого» ИИ); автоматизированная генерация действующих юридических документов (здесь также речь может идти о «слабом» ИИ); развитие «умных» систем или ИИ (например, основанных на машинном обучении); решение внесудебных споров онлайн; процедуры арбитража онлайн; процедуры расторжения брака онлайн; удостоверение документов; программирование умных контрактов (smart contracts); обзор документов с помощью технологий (technology assisted review); инструменты налоговых расчетов; инструменты управления контрактами (менеджмент, аудит); инструменты юридического поиска (очень «слабый» ИИ).
Согласно исследованию, проведенному в конце 2018 г. Wolters Kluwer, в 19% legal tech используется ИИ11.
ОСНОВЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИИ
Рекомендации по искусственному интеллекту12 (далее — Рекомендации) были приняты Советом ОЭСР 22 мая 2019 г. по предложению Комитета политики цифровой экономики (CPEN), которые призваны способствовать внедрению и развитию инноваций и усилению доверия по отношению к ИИ, гарантируя соблюдение прав человека и уважение демократических ценностей.
11 Richardin Anaïs. Legaltechs françaises : les grandes tendances de l'année / A. Richardin. URL: https://www.maddyness. com/2019/01/23/legaltechs-francaises-les-grandes-tendances-de-lannee-2018/ (дата обращения: 22.09.2019).
12 OECD. Recommendation of the Council on Artificial Intelligence, 0ECD/LEGAL/0449. URL: file:///C:/ Users/surface/AppData/Local/Packages/Microsoft. MicrosoftEdge_8wekyb3d8bbwe/TempState/Downloads/OECD-LEGAL-0449-en%20(1).pdf (дата обращения: 03.09.2019).
Рекомендации содержат пять принципов, основанных на базовых ценностях ответственного подхода к использованию ИИ: инклюзивный рост, устойчивое развитие и благосостояние; человек как главная ценность и справедливость; прозрачность и понятность; надежность, гарантия и безопасность; ответственность.
В дополнение к названным принципам Рекомендации устанавливают пять указаний, которым должны следовать государственные органы при формировании своей национальной политики и осуществлении международного сотрудничества: инвестировать в исследования в области ИИ; содействовать установлению цифровой экосистемы для ИИ; определять план действий, предпочтительный для ИИ; расширять человеческие способности и готовить трансформацию рынка труда; способствовать международному сотрудничеству в области ИИ.
А. В. Незнамов и В. Б. Наумов отмечают, что правовое регулирование сети интернет в Российской Федерации осуществляется путем принятия поправок в отдельные законодательные акты на фоне слабой юридической техники [13, с. 72]. О. А. Серова полагает необходимым регулировать вопросы ИИ и робототехники в специальном законодательстве [14, с. 22]. В. А. Вайпан предлагает разработать и принять федеральный закон о робототехнике и киберфизических системах, а также внести требуемые изменения в Гражданский кодекс Российской Федерации и иные акты в части определения понятия киберфизических систем, порядка их ввода в эксплуатацию и гражданский оборот [15, с. 16].
Национальный проект «Цифровая экономика Российской Федерации» предусматривает осуществление комплексного регулирования различными отраслями законодательства (гражданским, административным, уголовным, образовательным и трудовым и т.п.) отдельных направлений цифровой экономики. В этой связи представляет интерес анализ опыта США в вопросах нормативного регулирования ИИ.
ОСОБЕННОСТИ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИИ В СФЕРЕ ЭКОНОМИЧЕСКИХ ОТНОШЕНИЙ В США
В 2016 г. Национальный совет по науке и технике (NSTC), присоединенный к исполнительному бюро при президенте США, опубликовал три документа, касающихся регулирования ИИ.
В первом документе13 называются несколько отраслей, в которых могут использоваться инновации, связанные с ИИ: здравоохранение, транспорт, электроэнергетика, разведка и оборона, уголовное судопроизводство, социальная экономика и социальное обеспечение, электронное правительство.
Органам публичной власти надлежит осуществлять следующие функции по адаптации экономической сферы к внедрению ИИ в отдельные отрасли:
• профессиональная переподготовка работников, профессии которых подвержены риску замены (или существенному вытеснению) «умными» машинами;
• профессиональное обучение, направленное на удовлетворение потребностей в области приобретения навыков и знаний в сфере высоких технологий;
• финансирование исследований, посвященных ИИ, и выявление отраслей и профессий будущего для того, чтобы соотнести приоритеты исследования с экономическими потребностями;
• разработка стандартов в вопросах кибербез-опасности.
Второй документ ШШ14 посвящен машинному обучению, и ИИ представляет собой проект стратегии ориентирования научно-исследовательских и опытно-конструкторских разработок ИИ и содержит рекомендации для федеральных органов власти в части приоритетных направлений для инвестирования:
1) в долгосрочные исследовательские проекты, направленные на достижение научных результатов и совершение научных открытий высокого уровня влияния;
2) в исследовательские проекты, нацеленные на развитие возможного сотрудничества между людьми и искусственным интеллектом;
3) в проекты, стремящиеся делать доступными публичные данные, используя которые ИИ сможет обучаться;
4) в гуманитарные научно-исследовательские проекты, направленные на решение этических, социальных и юридических проблем.
13 Preparing for the future of artificial intelligence. October 2016. URL: https://obamawhitehouse.archives.gov/sites/de-fault/files/whitehouse_files/microsites/ostp/NSTC/preparing_ for_the_future_of_ai.pdf (дата обращения: 24.08.2019).
14 The national artificial intelligence research and development strategic plan. October 2016. URL: https://obamawhite-
house.archives.gov/sites/default/files/whitehouse_files/mi-crosites/ostp/NSTC/national_ai_rd_strategic_plan.pdf (дата обращения: 24.07.2019).
Третий документ15, опубликованный в декабре 2016 г. и разработанный при участии Совета экономических советников (CEA) и Национального экономического совета (NEC), посвящен влиянию ИИ на экономику. В нем подчеркивается, что основным прогнозируемым экономическим последствием внедрения и использования ИИ станет автоматизация задач по мере развития технологий. Ожидается, что повышение производительности будет способствовать экономическому росту, но в то же время усилит экономическое неравенство, так как автоматизация процессов может отрицательно повлиять на низкооплачиваемых должностях, функционал которых связан с несложными и повторяемыми действиями, легко заменяемыми ИИ.
Согласно этому документу последствия интегрирования технологий зависят от масштаба и скорости распространения ИИ, а также проводимой общественной политики. Экономический приоритет органов публичной власти должен состоять в обеспечении работников, чьи профессии постепенно вытесняет ИИ, так называемой «конверсией рабочих мест», когда человек будет работать совместно с ИИ, а не конкурировать с ним.
Третий документ содержит следующие рекомендации по развитию стратегии в трех направлениях:
1) поддержка инноваций является приоритетной в целях сохранения лидирующих позиций США в области высоких технологий. Исследования в области искусственного интеллекта, применяемого для обеспечения кибербезопасности, предлагается сделать приоритетными. Кроме того, законодатель должен обеспечить конкурентоспособность различных рынков ИИ;
2) инвестиции в образование по направлениям подготовки в области естественных наук и информационных технологий, которые повлекут увеличение профессионалов, занимающихся разработкой, внедрением и обслуживанием ИИ;
3) усиление социальных буферов (социальная защищенность, снижение безработицы и т.п.), включая проведение политики временного перераспределения для предотвращения предполагаемой безработицы, вызванной техническим прогрессом.
В настоящее время в США не осуществляется специальное правовое регулирование ИИ. Исключение
15 Artificial Intelligence, Automation, and the Economy. December 2016. URL: https://obamawhitehouse.archives.gov/ sites/whitehouse.gov/files/documents/Artificial-Intenigence-Automation-Economy.PDF (дата обращения: 24.07.2019).
составляет автомобильная промышленность, так как согласно прогнозам автономные транспортные средства смогут выйти на рынок уже к 2022 г.
Согласно отчету «Представление о безопасности 2.0»16 необходимо выработать эффективные механизмы сбора и анализа данных транспортных средств, исключая доступ к личным устройствам водителя (смартфонам и пр.). Такая позиция принята в вопросе защиты личных данных потребителей. При этом рекомендации позволяют использовать персональные данные на стадии экспериментальных разработок. Департамент транспорта США считает, что коммерциализация автономных транспортных средств позволит существенно сократить число несчастных случаев со смертельным исходом на дорогах.
Еще в 2017 г. в Конгресс США был внесен законопроект «Об эволюции транспортных средств», который закрепляет ведущую роль федеральных органов власти в законодательном регулировании обеспечения безопасности высокоавтоматизированных транспортных средств. Законопроект запрещает штатам принимать законы, касающиеся порядка создания, особенностей конструкции или технических характеристик высокоавтоматизированных транспортных средств или автоматизированных систем вождения, если такие нормативные акты не предусматривают стандарты, идентичные федеральным стандартам17.
Законопроект обязывает производителей высокоавтоматизированных транспортных средств разрабатывать протоколы кибербезопасности и конфиденциальности для таких транспортных средств, прежде чем вводить их в коммерческий оборот. При этом под высокоавтоматизированным транспортным средством предлагается понимать некоммерческое автотранспортное средство, которое оснащено автоматической системой вождения, способной выполнять все задачи динамического вождения на постоянной основе. Данный законопроект до сих пор не принят. В этой связи правовое регламентирование автоматизированных транспортных средств осуществляется на уровне отдельных штатов. Так, 13 июня 2019 г. губернатор штата Флорида (США) утвердил законопроект, допускающий тестирование автономных машин без
16 Automated driving systems 2.0. A Vision for Safety. URL: https://www.nhtsa.gov/sites/nhtsa.dot.gov/files/ documentsA3069a-ads2.0_090617_v9a_tag.pdf (дата обращения: 29.07.2019).
17 SELF DRIVE Act. Referred in Senate (09.07.2017). URL: htt-
ps://www.congress.gov/bill/115th-congress/house-bill/3388/ text (дата обращения: 29.07.2019).
водителя на своих дорогах18. Согласно законопроекту предприятия, которые намерены реализовывать беспилотные автотранспортные средства, должны соответствовать определенным финансовым требованиям и критериям безопасности. Так, автономные автомобили должны быть застрахованы на сумму не менее одного миллиона долларов. Кроме того, при несчастном случае с участием высокоавтоматизированных транспортных средств органы правопорядка должны быть незамедлительно предупреждены владельцами транспортных средств.
ВЫВОДЫ
1. Анализ нормативных актов США в области ИИ показал, что под искусственным интеллектом понимается любая система, чьи действия идентичны действиям человека, способная в сфере выполняемых ею функций полностью заменять человека. Национальная стратегия развития ИИ в период до 2030 г. (которая должна учитываться при реализации национальной программы «Цифровая экономика Российской Федерации») содержит определение ИИ, при использовании которого на практике из-под действия данного понятия могут выводиться многие системы и алгоритмы. В рамках установления основных задач развития ИИ в Российской Федерации, а также мер, направленных на его использование в целях обеспечения национальных интересов и реализации стратегических национальных приоритетов, данное определение ИИ может использоваться. Однако в части определения его правового режима оно неприемлемо. Во-первых, Стратегия относит к ИИ только информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. За пределами данного понятия оказываются «умные» роботы, которые отнесены Стратегией к смежным областям использования ИИ, в то время как робот, оснащенный технологией ИИ, представляет собой единое целое — технологию, способную выполнять задачи путем распознавания окружающих условий и/или взаимодействия с внешними источниками и адаптации своего поведения. Во-вторых, искусственным интеллектом Стратегия считает только такой комплекс технологических решений, кото-
18 Autonomous Vehicles / GENERAL BILL by State Affairs Committee; Fischer. URL: https://www.flsenate.gov/Session/ Bill/2019/00311 (дата обращения: 29.07.2019).
рый позволяет получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. При таком подходе получается, что если «умная система», контактируя с пользователем, выдает ему простую информацию или совершает заранее детерминированные действия (в случае с автономными транспортными средствами), т.е. реализует деятельность, не приводящую в созданию результатов интеллектуальной деятельности, она не может быть признана ИИ. Возможно, авторы Стратегии имели в виду результаты умственной деятельности человека, однако в связи с общеупотребимым термином «результаты интеллектуальной деятельности» на практике может возникнуть путаница в определении.
В этой связи предлагается определить в законодательстве искусственный интеллект как совокупность различных категорий киберфизических систем, автономных систем и умных роботов, обладающих следующими характеристиками: автономность; возможность обмена данными с окружающей средой и самостоятельного анализа этих данных; способность к самообучению через опыт, обработку данных и общение с пользователем; наличие физической оболочки; способность адаптировать свое поведение и свои действия к окружающей обстановке.
2. Анализ американской нормативной базы в области ИИ показал, что на сегодняшний день США не имеют развитой системы законодательства, регулирующего правоотношения в области создания и использования искусственного интеллекта. В США регулирование вопросов ИИ осуществляется с помощью стратегий и программ его развития. Россия уже приняла Национальную стратегию развития искусственного интеллекта, но это только первый этап разработки нормативного правового регулирования. Стратегия обозначила приоритетные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий ИИ. Однако необходимо установление модели правового регулирования. Специфика нормативного регулирования в сфере ИИ определяется предметом правового регулирования. Экосистема искусственного интеллекта состоит из отдельных ключевых подотраслей, объединяющих общественные отношения определенной сферы (технической, социальной, этической, правовой). В этой связи правовое регулирование ИИ должно иметь многоуровневый характер. Прежде всего необходимо разработать фундаментальные нормы, касающиеся тех аспектов ИИ, которые требуют наличия
общей терминологии, понятийно-категориального аппарата и классификации. Требуется стандартизация вычислительных методов и средств. Развитие вычислительных методов и признаков систем ИИ приводит к необходимости унификации существующих методов, средств, свойств и характеристик, чтобы понимать и определять их тождество, архитектуру и вычислительные признаки. Третья группа норм должна быть сосредоточена вокруг правового регулирования вопросов добросовестности ИИ и его владельцев. Данные нормы должны включать все аспекты безопасности и конфиденциальности личных данных в системах ИИ, также регламентировать вопросы свободного распространения и предоставления доступа к информации. Специализированное законодательство может быть принято в части правового регулирования специальных областей применения, т.е. отраслей промышленности и экономики, в которых используется ИИ, например специальный закон об автономных транспортных средствах, автономных устройствах в сфере финансовых технологий, смарт-контрактах.
3. Вопрос об ответственности имеет принципиальное значение для предприятий, пользователей и разработчиков ИИ. Решение этого вопроса зависит от вида ИИ. Стратегия развития ИИ считает слабым искусственным интеллектом технологические решения, способные решать только узкоспециализированные задачи, в то время как сильный искусственный интеллект может решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям. Таким образом, согласно Стратегии различие между слабым и сильным искусственным интеллектом состоит в количестве решаемых задач. Однако анализ исследований в области ИИ и практики его нормативного регулирования в США позволяет прийти к выводу, что при разработке правовых основ регулирования данной области отношений необходимо принимать во внимание три основных признака ИИ: автономность, нематериальность и сложность. Именно от уровня автономности зависит применение норм об ответственности к ИИ. Наличие способности к самообучению у сильного искусственного интеллекта выделяет его среди искусственного интеллекта других уровней автономности. Данный признак служит основанием для придания искусственному интеллекту данного типа статуса субъекта права и наделения его правосубъектностью, включающей деликтоспособ-ность. В отношении слабого искусственного интеллекта низкого уровня автономности следует использовать другие правовые конструкции.
160
Е.А. Свиридова
СПИСОК ИСТОЧНИКОВ / REFERENCES
1. Pfeifer Rolf, Scheier Christian. Understanding intelligence. MIT Press, Cambridge, Mass, 1999. 697 p.
2. Leemans Thomas. La responsabilité extracontractuelle de l'intelligence artificielle // These sous la direction d'Hervé Jacquemin, Belgique, 2017.
3. McCarthy John. Recursive Functions of Symbolic Expressions and Their Computation by Machine, Part I. Communications of the ACM. 1960;3(4):184-195.
4. Turing Alan. Computing machinery and intelligence. Mind LIX. 1950;(236):433-460.
5. Norvig P., Russel S. Artificial intelligence a modern approach. saddle river, pearson education, 2010, 3e edition. 1151 p.
6. Bensoussan A. Le droit de la robotique : aux confins du droit des biens et du droit des personnes. Revue des juristes de Sciences Po. 2015;(10):777.
7. Морхат П. М. Искусственный интеллект: правовой взгляд: монография / РОО «Институт государственно-конфессиональных отношений и права».— Москва: Буки Веди, 2017.— 257 с.— ISBN 978-5-44651774-9.
Morkhat P. M. Artificial intelligence: legal view. Monograph. ROO "Institutgosudarstvenno-konfessional'nykh otnoshenii i prava". Moscow: Buki Vedi; 2017. 257 p. (In Russ.).
8. Canselier S. Les intelligences non-humaines et le droit. Observations à partir de l'intelligence animale et de l'intelligence artificielle. Archives de philosophie du droit. 2012;(55):65-87.
9. Pagallo U. The laws of robots. Crime, contracts, and torts. Springer, 2013. 200 p.
10. Barocas S., Felten E., Huey J., Kroll J., Reidenberg J., Robinson D., Yu H. Accountable Algorithms. University of Pennsylvania Law Review. 2017;165(3):43-44.
11. Morisse Tom. Intelligence artificielle, un nouvel horizon: pourquoi la france a besoin d'une culture du numérique? Comprendre et débattre ses enjeux technologiques, économiques, légaux et éthiques. Les Cahiers Lysias, Paris; 2017. 117 p.
12. Schneider Daniel K. Modélisation de la démarche du décideur politique dans la perspective de l'intelligence artificiell. Genève; 1996. 414 p.
13. Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон.— 2018.—№ 2.— С. 69-89.— ISSN 0869-4400.
Neznamov A. V., Naumov V. B. Regulation strategy for robotics and cyberphysical systems. Zakon. 2018;(2):69-89. (In Russ.).
14. Серова О. А. Роботы как участники цифровой экономики: проблемы определения правовой природы // Гражданское право.— 2018.— № 3.— С. 22-24.— ISSN 2070-2140. DOI: 10.18572/2070-2140-2018-3-22-24 Serova O. A. Robots as Digital Economy Participants: Issues of Legal Nature Determination. Grazhdanskoe pravo = Civil Law. 2018;(3):22-24. (In Russ.). DOI: 10.18572/2070-2140-2018-3-22-24
15. Вайпан В. А. Правовое регулирование цифровой экономики // Предпринимательское право. Приложение «Право и Бизнес».— 2018.— № 1.— С. 12-17.— ISSN 2309-2122.
Vaipan V. A. Legal Regulation of Digital Economy. Predprinimatel'skoe pravo. Prilozhenie "Pravo i Biznes" = Entrepreneurial Law. Application "Law and business". 2018;(1):12-17. (In Russ.).
ИНФОРМАЦИЯ ОБ АВТОРЕ
Екатерина Александровна Свиридова — кандидат юридических наук, доцент, доцент Департамента правового регулирования экономической деятельности, Финансовый университет, Москва, Россия ESviridova@fa.ru
ABOUTTHE AUTHOR
Ekaterina A. Sviridova — Cand. Sci. (Law.), Assoc. Prof, Department of Legal Regulation of Economic Activity, Financial
University, Moscow, Russia
ESviridova@fa.ru
Статья поступила 10.03.2020; принята к публикации 24.05.2020. Автор прочитала и одобрила окончательный вариант рукописи. The article was received 10.03.2020; accepted for publication 24.05.2020. The author read and approved the final version of the manuscript
