CC BY
136
АВТОРИТЕТНОЕ МНЕНИЕ
В ПОИСКАХ КОНЦЕПЦИИ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ПЛАТФОРМЕННЫЕ ПРАВОВЫЕ МОДЕЛИ1
Аннотация. Современные технологии и новые концепции управления — промышленные и продуктовые платформы — создают прорывные инновационные продукты и услуги на основе комплексной интеграции искусственного интеллекта, больших данных и интернета вещей. Стоимость коммуникаций в последнее десятилетие резко упала, что удешевило создание сетей и системное интегрирование. Платформы являются физическим воплощением сетевого взаимодействия. Они переводят традиционное производство на цифровые рельсы, снижая производственные издержки и превращая товары в услуги, обеспечивающие большую прибыль. Платформенное право могло бы стать механизмом сетевого взаимодействия искусственного интеллекта, больших данных и интернета вещей. Оно должно быть сходным с интеграционным правом, но пронизанным, в соответствии со своей обновленной природой, научно-технологическими и информационно-цифровыми алгоритмами правоотношений и взаимодействий. Чтобы соответствовать требованиям времени, правовые институты должны меняться — господство платформенных бизнес-моделей создает новые правовые отношения и потребность в поиске нового содержания и новых правовых форм институционального регулирования меняющихся общественных отношений. Правовое поле платформенных бизнес-моделей находится в постоянном поиске баланса между инновациями (технологии + экономика) и их юридическим регулированием.
Ключевые слова: искусственный интеллект, интернет вещей, большие данные, Индустрия 4.0, платформенные бизнес-модели, платформенные правовые модели, платформенное право, цифровое право, сетевая модель, инновационная экономика, право Европейского Союза, интеграционное право.
0.17803/2311 -5998.2020.68.4.026-040
Статья подготовлена в рамках проекта РФФИ № 18-29/16150 «Искусственный интеллект и робототехника: компаративистское исследование моделей правового регулирования в современных государствах, международных организациях и интеграционных объединениях».
Сергей Юрьевич КАШКИН,
заведующий кафедрой интеграционного и европейского права Университета имени O.E. Кутафина (МГЮА), доктор юридических наук, профессор, заслуженный юрист РФ info@eulaw. edu.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
Алексей Валерьевич АЛТУХОВ,
аспирант кафедры экономики инноваций, инженер лаборатории инновационного бизнеса и предпринимательства, экономический факультет МГУ имени М.В. Ломоносова
а1ехе1.аНоик1юу@ 001: gmail.com 119991, Россия, г. Москва, Ленинские Гэры, д. 1, стр. 13
© С. Ю. Кашкин, А. В. Алтухов, 2020
4/2Q2Q
)УНИВЕРСИТЕТА
имени О.Е. Кутафина (МГЮА)
Кашкин С. КЗ., Алтухов А. В.
В поисках концепции правового регулирования искусственного интеллекта: платформенные правовые модели
S. Yu. KASHKIN,
Head of the Integration and European Law Departement of the Kutafin Moscow State Law University (MSAL), Doctor of Law, Professor,
Honored Lawyer of the RF info@eulaw. edu.ru 125993, Russia, Moscow, ui. Sadovaya-Kudrinskaya, 9
A. V. ALTOUKHOV,
PhD student of "Innovation Economics" Department, Engineer of "Innovation Business & Entrepreneurship Lab", Faculty of Economics,
Lomonosov Moscow State University [email protected] 119991, Russia, Moscow, Leninskie Gory, 1-13
THE CONCEPT OF LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE: PLATFORM LEGAL MODELS
Abstract. Modern technologies and new management concepts — industrial and product platforms — create breakthrough innovative products and services based on the integrated integration of Artificial Intelligence, Big Data and the Internet of Things. The cost of communications has plummeted over the past decade, making network and system integration less expensive. Platforms are the physical embodiment of networking. They take traditional production to digital footing, lowering production costs and turning products into services that provide greater profit. Platform law could become a mechanism for the network interaction of Artificial Intelligence, Big Data and the Internet of Things. It should be like integration law, but permeated, in accordance with its updated nature, scientific, technological and information-digital algorithms of legal relations and interactions. To meet the requirements of the time, legal institutions must change — the dominance of platform business models creates new legal relations and the need to seek new content and new legal forms of institutional regulation of changing social relations. The legal field of platform business models is in a constant search for a balance between innovations (technologies + economics) and their legal regulation. Keywords: Artificial Intelligence, Internet of Things, Big Data, Industry 4.0, Platform Business Models, Platform Legal Models, Platform Law, Digital Law, Network Model, Innovative Economy, European Union Law, Integration Law.
Введение
Развитие науки в наш цифровой век происходит таким образом, что наилучших успехов можно добиться скорее в глубоких междисциплинарных исследованиях, в которых профессионально соединяются ранее трудно совместимые науки. Современное правовое регулирование искусственного интеллекта и связанных с ним технологий требует именно такого подхода. Вот почему вместо того, что-
I О m
МНЕНИЕ
>
4/2Q2Q
2 В АВТОРИТЕТНОЕ МНЕНИЕ
¿я—I
ЕСТНИК
УНИВЕРСИТЕТА
О.Е. Кугафина (МПОА)
бы делать две отдельные статьи на одну тему, авторы — по образованию физик и экономист А. В. Алтухов и юрист и филолог С. Ю. Кашкин предпочли совместить свои познания в стремлении достичь искомой междисциплинарной синергии. В то же время статью можно весьма логично разделить на технолого-юридический раздел 1 (А. В. Алтухов) и юридико-технологический раздел 2 (С. Ю. Кашкин).
1. Возможность применения аналогов платформенных бизнес-моделей в праве (или платформенные бизнес- и правовые модели)
Синергия новейших технологий и управленческих решений2— промышленных3 и продуктовых платформ4 — позволяет создавать уникальные инновационные продукты и услуги, требующие принципиально нового по форме и содержанию правового регулирования, пути к которому еще только намечаются. Их создание стало возможным лишь благодаря совершенствованию всепроникающих инновационных научно-технологических процессов. Прежде «мертвые» научно-технологические компоненты стали интегрироваться в «живого» человека, в его тело, мозг, ежедневный быт, семейные и многообразные общественные отношения, традиционно регулируемые правом.
Хронологически первым был линейный процесс «технологического толчка» (от науки — к рынку), развитие науки носило объективный, независимый от рынка характер, что можно проследить по научным революциям и коррелирующим-ся с ними сменам технических укладов. Следующий за ним линейный процесс «давления рыночного спроса» (от потребностей рынка — к науке) связывает развитие инновационного потенциала экономики с требованиями рынка. Процессы «толчка» и «давления» являются двумя экстремумами общего процесса взаимодействия — интерактивной модели, моделирующей нелинейный характер инновационного процесса5.
В последнее десятилетие стоимость коммуникаций резко упала, что позволило перейти от линейных моделей управления инновациями к созданию сетей и комплексному системному интегрированию, гарантирующих скорость и гибкость развития. Внешняя среда способствует формированию и развитию экосистем бизнеса6.
2 Макафи Э., Бриньолфсон Э. Машина, платформа, толпа. М. : Манн, Иванов, Фербер, 2019. 320 с.
3 Афинская 3. Н., Алтухов А. В. Эвристический потенциал кочевых понятий: платформа // Коммуникативные исследования. 2020. № 1.
4 Афинская 3. Н., Алтухов А. В. Указ. соч.
5 Алтухов А. В., Тищенко С. А., Иващенко Н. П. Математическое моделирование сетевого симбиотического взаимодействия компаний на базе платформенных решений // Математика. Компьютер. Образование : материалы Двадцать седьмой Международной конференции (г. Дубна, 27 января — 1 февраля 2020 г.).
6 Экономика инноваций : учебное пособие / Н. П. Иващенко, А. А. Энговатова, М. С. Шахова [и др.]. М. : Теис, 2016. 310 с.
4/2020
в
ЕСТНИК Кашкин С. ИЗ., Алтухов А. В.
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования
имени o.e. кугафина(мгюА) искусственного интеллекта: платформенные правовые модели
Платформы являются физическим воплощением сетевого взаимодействия. Цифровые платформы создают оборудование и программное обеспечение, необходимые для перевода традиционного производства на цифровые рельсы, что позволит снизить производственные издержки и превратить товары в услуги. Это меняет и производственные процессы, и отношения, и характер получения прибыли, и сами общественные отношения, а соответственно, и их правовое регулирование.
А. Моазед и Н. Джонсон7 вводят лестницу, определяющую развитие качества сети:
— сообщество: нормы поведения в экосистеме платформы;
— взаимосвязь: максимально возможное количество взаимодействий;
— взаимодействие: акторы экосистемы сотрудничают для создания дополнительной ценности;
— общение: взаимодействие акторов;
— курирование: хранение и аналитика информации об экосистеме. Доходность платформы зависит от размера и качества сети. Базовой транзакцией является как обмен, когда стороны обмениваются ценностями напрямую, так и распространение информации, когда активная сторона рассылает информацию заинтересованным пассивным сторонам.
После создания сетевой интеграции и возникновения обмена ценностями начинается усиление сетевых эффектов из-за мобилизации пользователей. Усиливая взаимодействие, платформенные бизнес-модели обеспечивают пользователям удовлетворение базовых интересов и улучшает качество сети, создавая новые типы ценностей. В апогее развития платформа может дать возможность пользователям контролировать сообщество, управляя сетью. С каждой итерацией происходят усиление сетевых эффектов платформы и создание ценности сети. Интеграция ступеней творит «экосистему создания ценностей».
Хронология появления 5 типов существующих на сегодняшний день платформ (на начало 2020 г.) следующая: рекламные платформы (Google, Facebook, 2000), облачные платформы (Amazon Web Services (AWS), Salesforce, 2005), промышленные платформы (GE, Siemens, 2008), продуктовые платформы (Rolls-Royce, Spotify, 2012), бережливые платформы (Uber, Airbnb, 2015)8.
Концепция «умного» города опирается на научно-технологическое и личностное развитие общества. Основой «умных» городов с «умными» домами являются индустриальные платформы9. Разработка индустриальных платформ для «умного» города на основе промышленного интернета вещей и искусственного интеллекта (ИИ), созданных на основе галлий-нитридных технологий для све-
Моазед А., Джонсон Н. Платформа, практическое применение бизнес-модели. М. : Аль-пина Паблишер, 2019. 288 с.
Altoukhov А. V. Industrial product platforms and blockchain in aquaculture // ЮР Conference Series. Vol. 421 of Earthand Environmental Science. England, 2020.
Алтухов А. В., Ефимов А. В. Индустриальные платформы для создания светоцветовой среды в условиях «умного» города//Вестник МГХПУ. Декоративное искусство и предметно-пространственная среда. 2019. № 4. С. 133—143.
I О m
МНЕНИЕ
>
4/2Q2Q
за
АВТОРИТЕТНОЕ МНЕНИЕ
"Т^ЕСТНИК
в Я УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
тодиодов10, лазеров для передачи информации и транзисторов в качестве вычислительных элементов, позволит реализовать самые смелые дизайнерские и архитектурные проекты.
По мере того, как сбор, хранение и анализ данных становятся более дешевыми, все больше компаний пытаются внедрять платформы в традиционное производство. Самые заметные из этих попыток происходят под рубрикой ИИ, интернета вещей (loT), больших данных (Big Data) и Индустрии 4.011. В управление ядром платформенных бизнес-моделей — анализе и перенаправлении информационных потоков — особая роль принадлежит искусственному интеллекту12, что вытекает из Указа Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»13. В нашей стране назрела необходимость реализации «междисциплинарных исследовательских проектов в области искусственного интеллекта в различных отраслях экономики»14.
Актуальной задачей юристов являются разработка и апробация правового модуля киберпространства, состоящего из ряда концептов: киберправа, «платформенного права», интернет-права. Колоссальное количество международных цифровых сделок совершается клиентами платформенных компаний, пока правовая наука пытается осмыслить фазовые юридические переходы, вызванные новой технологической парадигмой15. Экспериментально в Российской Федерации формируется правовая практика, адаптированная к вызовам цифровой среды, например метод «регуляторных песочниц» и «регуляторной гильотины».
Многие юристы знакомы с недавними громкими дебатами по поводу применимости актуального законодательства к компаниям-платформам, на которых выяснялось: является ли такси бережливая платформа Uber, должны ли облагаться налогом транзакции на облачной платформе Amazon Web Store, возможно ли организовать проверки конфиденциальности информации на рекламных платформах Google или Facebook16.
10 Altoukhov A., Levrat J., Feitin Б., Carlin J.-F., Castiglia A., Butté R., Grandjean N. High reflectivity airgap distributed Bragg reflectors realized by wet etching of AlInN sacrificial layers//Applied Physics Letters. 2009. Vol. 95. № 19. 191102—3.
11 Срничек H. Капитализм платформ. M. : ИД Высшей школы экономки, 2019. 128 с.
12 Морхат П. М. Искусственный интеллект: правовой взгляд. М. : Буки Веди, 2017. 257 с. ; Он же. Право интеллектуальной собственности и искусственный интеллект : монография. М. : Юнити, 2018. 121 с. ; Он же. Правосубъектность юнитов искусственного интеллекта: гражданско-правовое исследование : монография. М. : Юнити-Дана, 2018. 112 с.
13 Указ Президента РФ от 10.10.2019 №490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года) // Представительная власть. 2019. № 5—6 (172—173). С. 18. См. также: Любимов А. П., Пономарева Д. В., Барабашев А. Г. О национальной стратегии развития искусственного интеллекта // Там же. С. 1—7.
14 Кашкин С. Ю., Покровский А. В. Искусственный интеллект, робототехника и защита прав человека в Европейском Союзе // Вестник Университета имени O.E. Кутафина (МГЮА). 2019. №4. С. 64—90.
15 Мажорина М. В. Цифровые платформы и международное частное право, или Есть ли будущее у киберправа? // Lex russica. 2019. № 2. С. 107—120.
16 Lobe! О. The Law of the Platform, 101 MINN // L. Rev. 2016. 87. 117—166.
4/2Q2Q
в
ЕСТНИК Кашкин С. HJ., Алтухов A.B. _ _
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования |
имени o.e. кугафина(мгюА) искусственного интеллекта: платформенные правовые модели
Юридические отделы компаний, построенных на платформенных бизнес-моделях, стараются минимизировать свою ответственность перед законом и максимально расширить возможности для самоопределения и самоуправления. Их вмешательство ускорило и изменило траекторию институциональной эволюции. Компании, использующие платформенные бизнес-модели, разработали набор стратегий17 для того, чтобы избегать ответственности в судебных процессах18. В то же время надо признать, что платформы остаются практически не затронутыми юридическими правилами19. Относительно редкие судебные иски, выигранные против платформенных компаний, мало влияют на разработку актуального и эффективного законодательства в этой сфере.
Два громких примера связаны с рекламными платформами Facebook и Google. В 2010 г. компании Facebook был присужден штраф в размере 9,5 млн долл. США за раскрытие конфиденциальной информации ее службой Beacon, которая автоматически перенаправила пользовательские сообщения, предназначенные только для ограниченного распространения, для рекламы продуктов и услуг, о которых упоминали пользователи20. В 2011 г. компания Google по решению суда вынуждена была заплатить 8,5 млн долл. США для урегулирования претензий, связанных с развертыванием службы социальных сетей Google Buzz. Социальные сети использовали контакты пользователей электронной почты Gmail для заполнения общедоступных профилей21. Размеры штрафов выглядят внушительно в абсолютном значении, но минимальны по отношению к обороту и биржевой стоимости платформенных корпораций.
Корпорации-платформы были обязаны изменить практику сбора информации и сообщить о ней потребителям, но не полностью ее прекратить. Рекламные и облачные платформенные компании, для которых сбор и анализ информации является сердцевиной бизнеса, попадают под удар из-за неразвитого законодательства.
Судебные иски против бережливой платформы Uber начали следовать по похожим схемам. Были поданы групповые иски пассажиров такси Uber, беспокоящихся за свою безопасность. От них не отстают водители Uber, утверждающие, что они являются сотрудниками, имеющими право на возмещение расходов на топливо и техническое обслуживание22.
17 Gillian K. Hadfield, rules for a flat world: why humans invented law and how to reinvent it for a complex global economy (2016).
18 Cohen J. E. Information Privacy Litigation as Bellwether for Institutional Change, 67 Depaul // L. Rev. 2017. 535.
19 In re: Linkedln User Privacy Litig., 309 F. R. D. 573, 584 (N. D. Cal. 2015) ; In re: Google Referrer Header Privacy Litig., No. 5:10-cv-04809 EJD, 2014 WL 1266091, at *2—4 (N. D. Cal. Mar. 26, 2014); In re : Netflix Privacy Litig., No. 5:11-CV-00379 EJD, 2012 WL 2598819, at *2—4 (N. D. Cal. July 5, 2012).
20 Kravets D. Judge Approves $9.5 Million Facebook'Beacon'Award//Wired. 2000. Mar. 17. 2:18 PM ; Singel R. Facebook Beacon Tracking Program Draws Privacy Lawsuit//Wired. 2008. Aug. 14. 1:48 PM.
21 Darlin D. Google Settles Suit over Buzz and Privacy// N. Y. Times (Nov. 3, 2010, 12:19 AM); HelftM. Critics Say Google Invades Privacy with New Service // N. Y. Times. 2010. Feb. 12.
22 Levin S. Uber Lawsuits Timeline: Company Ordered to Pay Out $161. 9m Since 2009 // Guardian. 2016. Apr. 13. 7:00 AM.
I О m
МНЕНИЕ
>
4/2Q2Q
32 АВТОРИТЕТНОЕ МНЕНИЕ
аН—i
ЕСТНИК
УНИВЕРСИТЕТА
O.E. Кугафина (МПОА)
В Европейском Союзе23 правовое поле в области информации, как нам представляется, регулируется более эффективно — Суд Европейского Союза и Европейская комиссия четко сформулировали необходимость учитывать общественные интересы в отношении свободы слова и доступа к информации, ее индексацию поисковыми системами и ее архивирование по исходным сайтам24.
Чтобы соответствовать требованиям времени, правовые институты должны меняться — господство платформенных бизнес-моделей создает новые правовые отношения и новые институциональные и юридические механизмы урегулирования. Детали правового регулирования, кажущиеся на первый взгляд маленькими или не заслуживающими внимания, могут вызывать глубокие системные последствия в обществе, экономике, политике, даже в самом человеке. Правовое поле платформенных бизнес-моделей находится в постоянном диалектическом поиске баланса между инновациями (технологии+экономика) и их правовым регулированием, т.е. к этим двум компонентам должно добавиться право (технологии + экономика + право). И на этом пути усилия ученых, экономистов и юристов должны синергетически объединиться во имя интересов человека! В результате может появиться платформенная правовая модель или платформенное право.
2. Возможность и перспективы использования правовых платформенных моделей для правового регулирования искусственного интеллекта и связанных с ним технологий
Что сегодня могут предложить юристы? Цифровая среда ускоренно расширяется, углубляется и приобретает новые формы и содержание, что требует адекватного нашему цифровому веку гибкого и при этом устойчивого комплексного правового регулирования. В нем должна быть и правовая определенность, стабильность, и способность к быстрому правовому регулированию, реагированию, а также к эффективному контролю в соответствующих сферах в интересах общества. Оно должно быть способным предвидеть будущее и содействовать позитивному развитию общества в цивилизационно прогрессивном направлении, а также
23 Право Европейского Союза : учебник : в 2 т. / под ред. С. Ю. Кашкина. 4-е изд., перераб. и доп. М. : Юрайт, 2015. Т. 2: Особенная часть. Основные отрасли и сферы регулирования права Европейского Союза. Правовые аспекты участия России в европейских интеграционных процессах / С. Ю. Кашкин, А. О.Четвериков [и др.]. 1023 с.
24 Case С-131/12, Google Spain SL v. Agencia Española de Protección de Datos (AEPD), ECLI:EU:C:2014:317, 81, 85—86 (2014) ; Article 29 data prot. working party, guidelines on the implementation of the court of justice of the european union judgment on 'Google Spain and Inc v. Agencia Española de protección de datos (AEPD) and Mario Costeja Gonzales' C-131/12 2 (2014) // URL: http://ec.europa.eu/justice/data-protection/article-29/documentation/ opinion-recommendation/files/2014/wp225_en.pdf; Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the Protection of Natural Persons with Regard to the Processing of Personal Data and on the Free Movement of Such Data, and Repealing Directive 95/46/EC (General Data Protection Regulation), 65—66 & arts. 17, 19, 85, 88, 2016 O.J. (L 119) 1.
4/2Q2Q
в
ЕСТНИК Кашкин С. ИЗ., Алтухов А. В.
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования
имени o.e. кугафина(мгюА) искусственного интеллекта: платформенные правовые модели
предвосхищать и устранять риски и опасности развития современного общества.
Представляется, что новое платформенное право должно быть в чем-то сходным с интеграционным правом, которое строится на основе совмещения взаимных интересов участников, закрепляется международным договором, а затем соблюдается стой же степенью обязательности, что и национальное право государства25.
Платформенное право призвано приспособить и гармонично соединить право с цифровыми технологиями настоящего и будущего в единый непротиворечивый научно-юридический многодисциплинарный комплекс. Оно должно, конвергируя науку и технологии в право, своевременно модифицировать старые и находить новые юридические принципы взаимодействия человека, научных технологий и общества и быть способным адекватно регулировать все разнообразие взаимосвязанных сфер современных инновационных технологических направлений: искусственного интеллекта и робототехники, цифровых и информационных технологий, интернета вещей и т.д.
Подобно коммунитарному методу Монне — Шумана платформенное право должно:
1) определить максимально широкую социально определенную правовую «платформенную» цель, области применения и ее функционалы;
2) найти неотъемлемые жизненно важные интересы государств и народов (состоящих из отдельных граждан), пользующихся социальными благами «платформ», цели которых все они разделяют;
3) определить достаточно четко выраженные этапы движения в направлении выбранной цели, с тем чтобы на каждом этапе движения к ней государства и их граждане отчетливо видели позитивные социально значимые результаты этого движения;
4) создать соответствующую институционально-организационную систему (институтов и органов), которой государства готовы были бы передать свои прежде суверенные полномочия управления общественными отношениями в строго определенных цивилизационно прогрессивных сферах жизнедеятельности, учитывая, однако, новейшие тенденции мирового развития человечества в интересах человека.
При этом такая система институтов платформенного права должна состоять из единого комплекса элементов разделения, баланса и взаимодействия властей и при этом быть обеспечена надежными демократическими и авторитетными контрольными органами, способными сдерживать избыток как центростремительных, так и центробежных тенденций, неизбежных в развитии такого рода отношений.
Широкое и действенное правовое регулирование искусственного интеллекта и связанных с ним технологических комплексов весьма трудно обеспечить в узких рамках одной страны. Подобного рода законодательство, чтобы стать достаточно эффективным, поскольку оно регулирует явления практически глобального масштаба с всемирными последствиями, должно приобретать экстерриториальный характер, выходить на международный, региональный, межконтинентальный и даже глобальный уровень. По мере накопления такого законодательства, ро-
25 Кашкин С. Ю. Интеграционное право : учебник. М. : Проспект, 2017. 720 с.
I О m
МНЕНИЕ
>
4/2Q2Q
34
АВТОРИТЕТНОЕ МНЕНИЕ
"Т^ЕСТНИК
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
ста количества и качества актов, принципиального признания их необходимости и реализации на практике должна происходить и их кодификация.
В каком направлении может идти поиск правовых механизмов регулирования искусственного интеллекта и связанных с ним технологий?
Прежде всего необходимо выработать морально-нравственные, этические критерии обновляемого права современности.
Изначально в человеческом обществе право возникло в большой степени на основе морали, нравственности, этики, прошло через идеологию религий, политики, оттачивалось экономикой и отношениями между классами и группами людей. Теперь новая социально-цифровая революция более, чем какая-либо прежняя промышленная, технологическая или научная революция, имеет главным своим объектом не только и не столько производство, сколько человека, суверенитет и неприкосновенность данной ему природой личности.
В условиях этой новой по своей сути революции обновление и формирование нового права снова должно осуществляться прежде всего на основе морали, нравственности и этики26, ставящих человека и его личность в качестве основной ценности, защищаемой правом. Именно эти ценности и представляют собой подлинное социально-человеческое содержание личности и соответствующий элемент современной социально-цифровой революции. Именно целостность личности и должно защитить право в резко меняющихся общественных отношениях. В этой ситуации люди должны обеспечить при помощи права, чтобы «цифра», которую придумал человек, служила человеку, а не человек — «цифре»!
Первое естественное и неоспоримое право человека — право на жизнь — предполагает одновременно и естественное и неоспоримое право и привилегию человека на обладание естественным интеллектом личности. Все прежние экономические, промышленные, политические и технические революции не пытались вторгаться в святая святых — в интеллект, принадлежащий человеку в силу его природы, в интеллект суверенной и свободной личности. А нынешняя социально-цифровая революция в качестве своей главной конечной цели видит создание искусственного интеллекта, который готов вторгаться в интеллект естественный, в личность самого человека. Поэтому такая революция может иметь самый непредсказуемый для судеб человечества эффект.
Именно эта главная ценность должна проходить красной нитью через все этапы правового регулирования искусственного интеллекта и связанных с ним технологий в текущую эпоху современной социально-цифровой революции!
В вероятном правовом регулировании искусственного интеллекта и связанных с ним технологий в современную эпоху нам представляется возможной следующая логическая схема развития: от саморегулирования (через логику его удобства для участников правоотношений без нарушения суверенитета государства) к мягкому праву, когда мы наблюдаем весьма логично просматривающееся движение от общих слов в виде «протоколов о намерениях», к «дорожным картам», как бы дающим общее стратегическое видение развития в разных сферах
26 На это обращено внимание в п. 57 Указа Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации».
4/2020
в
ЕСТНИК Кашкин С. ИЗ., Алтухов А. В.
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования
имени o.e. кугафина(мгюА) искусственного интеллекта: платформенные правовые модели
правового регулирования (по конкретным областям общественной жизни) в желательном направлении.
Затем — движение к более четкой «программе действий», конкретизирующей основные конкретные стратегические направления (рисующие определенные механизмы, ресурсы и подцели). Мягкое право является результатом понимания необходимости некоторых уступок прежде суверенных прав государств и через усиление логики принятия выгод таких уступок как участниками этих отношений, так и государствами и их интеграционными объединениями. Важным условием является поддержка этих действий населением.
Особую роль приобретает в современных условиях то, что реальное значение мягкого права тем больше, чем оно логичнее и аргументированнее выражает неотъемлемые интересы сторон, участвующих в интеграционных отношениях. Опять мы видим действие коммунитарного принципа Монне — Шумана! Обладающее высокой степенью убедительности, признаваемое и ставшее привычным, мягкое право подчас принимается и на практике действует почти как жесткое, обязательное. Оно имеет перспективы в будущем перерастать и в полноценное обязательное право.
Промежуточное положение может занять появившееся недавно в Европейском Союзе новое понятие «полужесткое право» (hoft law = hard and soft Law). Оно позволяет по некоторым вопросам принимать на себя определенные общие обязательства (opt in), а по некоторым — отказываться от них (opt out), как, например, Великобритания в рамках ЕС27. Но это возможно в отношении ИИ скорее как временная мера, необходимая для формирования сравнительно однородного правового пространства и в поисках консенсуса по более важным вопросам.
После этого логичен переход к серьезной, устраивающей все участвующие стороны комплексной и системной взаимосвязанной гармонизации правовых отношений в области регулирования искусственного интеллекта и связанных с ним технологий.
Поэтому от полужесткого права становится уже совершенно обоснованным обращение к стандартному обязательному правовому регулированию на наднациональном уровне (с применением известных европейскому праву директив и регламентов). По мере укрепления и усиления доверия и роста понимания неотъемлемых взаимных интересов стран и удовлетворенности населения ходом совершенствования правового регулирования технологий искусственного интеллекта возможно и дальнейшее движение уже от гармонизации к более широкому применению метода унификации законодательства в этой сфере и территориальное расширение ее применения.
В правовом регулировании искусственного интеллекта и связанных с ним технологий огромное значение имеют механизмы ответственности и правового контроля за его развитием, в том числе и за деятельностью создателей юнитов искусственного интеллекта. Большую роль в этом имеют и технический и технологический контроль, стандартизация, и создание гармонизированных или унифицированных технических регламентов.
В правовом регулировании технологий искусственного интеллекта возможна попытка обращения законодателя к модельным, памятным еще с нашего совет-
27 Edward D., Lane R. European Community Law. An Introduction. Edinburg, 1995. P. 64.
I О m
МНЕНИЕ
>
4/2Q2Q
ЗВ АВТОРИТЕТНОЕ МНЕНИЕ
¿я—I
ЕСТНИК
УНИВЕРСИТЕТА
O.E. Кугафина (МПОА)
ского юридического прошлого, Основам законодательства (в области искусственного интеллекта) — привычной и достаточно эффективной форме модельного законотворчества. Такая форма позволяет обеспечить некоторую свободу соблюдения общего правила при учете обычно менее принципиальных для его реализации национальных особенностей субъектов федерации, регионов и государств. Это очень близко к практике применения директив в праве Европейского Союза.
Крайне полезно для деятельности судебных органов в области правового регулирования искусственного интеллекта более творческое и решительное применение классической американской концепции «подразумеваемых полномочий» и революционного «судебного активизма», которые часто используются органами судебной власти интеграционных организаций, в частности Судом Европейского Союза.
К этим методам тесно примыкают близкие по своим правовым последствиям методы рецепции, трансформации и стандартизации, широко применяемые в процессе интеграции.
«В юридическом смысле "интеграция" — это создание оптимальных механизмов и алгоритмов правового регулирования общественных отношений, направленных на достижение совершенствования и саморазвития общества в его стремлении к более целостному позитивному цивилизационному развитию»28.
В праве ЕС заложена концепция хорошего управления, а граждане Союза на основе Лиссабонского договора имеют право на хорошее управление. Оно рассматривается как один из краеугольных механизмов, совершенствующих на наднациональном уровне взаимодействие властей, институтов и органов Европейского Союза между собой, оптимально строящих отношения с гражданами, а также успешно представляющих Союз на международной арене.
Среди зарубежных исследователей единого мнения о сущности концепции хорошего управления нет. Они как бы расширительно дополняют один другого. Поэтому хорошее управление рассматривается и как образец разумной политики Союза, процесса стабилизации и объединения, европейской политики соседства и устойчивого развития29; и как фактор целостности и сплоченности, включая административный, юридический и этический аспекты30; и даже как «один из трех краеугольных камней любого современного государства» (вместе с верховенством закона и демократией). Эта концепция развивается в региональном и международном масштабах31, приобретая дополнительные оттенки и подчас весьма различные значения. Это и «хорошее администрирование», и «новое публичное» управление, и «умное правление», приобретающие в разных странах не только популярность, но и своеобразие.
28 Кашкин С. Ю. Интеграционное право — важнейший компонент правовой глобалистики // Международно-правовые чтения. Вып. 14. Воронеж, 2014.
29 Good governance in the European Union / T. A. Börzel [et al.] // Berlin Working Paper on European Integration. 2008. №7. P. 11, 15—45.
30 Addink G. H. Good governance in EU member states. Utrecht University, 2015. P. 44—45.
31 Cuculoska I. The Right to Good Administration of the EU: Definition, Scope and Content// Justinianus Primus Law Review. 2014. Vol. 5:2. P. 2—3.
4/2Q2Q
в
ЕСТНИК Кашкин С. HJ., Алтухов А. В.
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования f
имени o.e. кугафина(мгюА) искусственного интеллекта: платформенные правовые модели
Следовательно, концепция хорошего управления сегодня не только выражает «идеи прав человека, демократизации и демократии, верховенства закона, гражданского общества, децентрализованного разделения власти и благоразумного публичного администрирования»32, но и содействует обеспечению эффективности и законности осуществления ЕС его внутренней и внешней политики.
Хорошее управление представляет собой эффективную общую идеологически окрашенную концепцию, не имеющую четкого легального определения. Однако принципы хорошего управления довольно обстоятельно разработаны в доктрине и судебной практике Союза. Общая концепция хорошего управления на практике разделяется всеми государствами — членами ЕС и популярна за рубежом. К принципам хорошего управления относятся прозрачность, адекватность, участие, эффективность, подотчетность и права человека33.
Нет сомнения, что, будучи демократичной, эффективной и столь популярной, концепция хорошего управления должна использоваться для правового регулирования искусственного интеллекта и связанных с ним технологий. Она соответствует принципам гуманизма, морали и нравственности человека. Будучи достаточно гибкой, она может успешно обеспечивать законность, справедливость, идеалы правового демократического государства и права человека, приспосабливаясь к меняющимся условиям общественных отношений нашего цифровизирующегося мира.
Право на хорошее управление имеет реальный потенциал не только превратиться постепенно в один из принципов, признаваемых в различных государствах, но и стать признанным международным правом. Относительно того, считать ли право на хорошее управление принципом международного права (как, например, принцип уважения прав и свобод человека), в настоящее время на доктриналь-ном уровне между европейскими исследователями ведется полемика34.
В Российской Федерации для ускоренного внедрения технологий искусственного интеллекта планируется использовать в качестве экспериментального правового механизма регулирования искусственного интеллекта и связанных с ним технологий так называемые «регуляторные песочницы». Это специальные правовые режимы для бизнеса, создание которых предусмотрено подготовленным Минэкономразвития РФ законопроектом «Об экспериментальных правовых режимах в сфере цифровых инноваций»35. Этот механизм предусматривает апробацию инновационных товаров и услуг в области цифровых технологий. В рамках «регуляторных песочниц», как планируется, должно действовать особое правовое регулирование, исключающее применение к определенным видам бизнеса ряда требований. Такие экспериментальные площадки дадут возможность обеспечить ускорение внедрения инноваций, в том числе в сфере искусственного интеллекта.
32 European Commission. 2003:4.
33 Addink G. H. Good governance in Ell member states. P. 11—12.
34 См., например: Addink G. H. Good Governance: A Principle of International Law. "What's Wrong with International Law?". Leiden/Boston, 2015. P. 288.
35 Проект федерального закона «Об экспериментальных правовых режимах в сфере цифровых инноваций» // СПС «КонсультантПлюс». 14.01.2019.
I О m
МНЕНИЕ
>
4/2Q2Q
ЗВ АВТОРИТЕТНОЕ МНЕНИЕ
¿я—I
ЕСТНИК
УНИВЕРСИТЕТА
О.Е. Кугафина (МПОА)
Для ускорения проведения технологических реформ в России также предполагается использование открытого компанией «Джейкобе, Кордова и партнеры» на основе удачного опыта таких интеграционных объединений и стран, как ОЭСР, Швеция и Южная Корея, метода «регуляторной гильотины». К настоящему времени этот правовой инструмент применили в своей практике уже более 100 стран. В их числе Хорватия, Великобритания, Мексика, Вьетнам, Египет, Южная Корея и др. Успешнее всего внедрение «регуляторной гильотины» произошло в Казахстане.
Это метод осуществления реформ для упрощения норм регулирования бизнес-процессов. В его основу входит пересмотр регулирующих норм, которых стало слишком много и надзор за которыми чрезвычайно затянут по времени. Суть его состоит в упрощении норм, которые обоснованы законом, но мешают ускоренному развитию бизнеса. Мы наблюдаем, как экономика и право подчиняются логике прогресса и модели бизнес-платформ и правовых платформ следуют подобным правилам, заимствуя черты другу друга.
Широкий комплекс мер правового регулирования искусственного интеллекта и связанных с ним технологий вытекает из Указа Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года) и Национальной программы «Цифровая экономика Российской Федерации»36.
Правовое регулирование искусственного интеллекта и связанных с ним технологий через комплексные платформенные правовые модели может начинаться и осуществляться в рамках правовых систем разных или нескольких государств. Однако, чтобы стать эффективным и масштабным, оно должно получить международное признание и применение.
Соответственно, его развитие, распространение и действие возможны через международное право и более всего, как нам представляется, через интеграционное право (право интеграционных организаций), а также через наиболее масштабный механизм интеграции — механизм интеграции интеграций, имеющий в конечном счете глобальную направленность. Быть может, интеграционные механизмы удастся запустить сначала не по максимально широким сферам деятельности, а по наиболее важным вопросам, связанным с перспективами выживания человека и человечества в соревновании с искусственным интеллектом в нашу цифровую эпоху.
36 Национальная программа принята в соответствии с Указом Президента России от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» и утверждена 24.12.2018 на заседании президиума Совета при Президенте России по стратегическому развитию и национальным проектам.
4/2020
в
ЕСТНИК Кашкин С. HJ., Алтухов А. В.
УНИВЕРСИТЕТА ^ поисках концепции правового регулирования
именио.е, Кутафина(мгюа) искусственного интеллекта: платформенные правовые модели
БИБЛИОГРАФИЯ
1. Алтухов А. В., Ефимов А. В. Индустриальные платформы для создания светоцветовой среды в условиях «умного» города //Декоративное искусство и предметно-пространственная среда. Вестник МГХПУ. — 2019. — № 4. — С. 133—143.
2. Алтухов А. В., Тищенко С. А., Иващенко Н. П. Математическое моделирование сетевого симбиотического взаимодействия компаний на базе платформенных решений // Математика. Компьютер. Образование : материалы Двадцать седьмой Международной конференции (г. Дубна, 27 января — 1 февраля 2020 г.).
3. Афинская 3. Н., Алтухов А. В. Номадические термины в процессе циркуляции знания: платформа // Вестник Московского университета. — Сер. 19 : Лингвистика и межкультурная коммуникация. — 2020. — № 1.
4. Афинская 3. Н., Алтухов А. В. Эвристический потенциал кочевых понятий: платформа // Коммуникативные исследования. — 2020. — № 1.
5. Иващенко Н. П. Экономика инноваций : учебное пособие. — М. : Теис, 2016. — 310 с.
6. Кашкин С. Ю. Интеграционное право : учебник. — М. : Проспект, 2017. — 720 с.
7. Кашкин С. Ю. Становление права науки как новой комплексной отрасли права // Вестник Университета имени O.E. Кутафина (МГЮА). — 2018. — № 5. — С. 16—27.
8. Кашкин С. Ю., Покровский А. В. Искусственный интеллект, робототехника и защита прав человека в Европейском Союзе // Вестник Университета имени O.E. Кутафина (МГЮА). — 2019. — № 4. — С. 64—90.
9. Любимов А. П., Пономарева Д. В., Барабашев А. Г. О национальной стратегии развития искусственного интеллекта // Представительная власть. — 2019. — № 5—6 (172—173). —С. 1—7.
10. Мажорина М. В. Цифровые платформы и международное частное право, или Есть ли будущее у киберправа? // Lex russica. — 2019. — № 2. — С. 107—120.
11. Макафи Э., Бриньолфсон Э. Машина, платформа, толпа. — М. : Манн, Иванов, Фербер, 2019. — 320 с.
12. Марш П. Новая промышленная революция. Потребители, глобализация и конец массового производства. — М. : Изд-во Института Гайдара, 2015. —419 с.
13. Моазед А., Джонсон Н. платформа, практическое применение бизнес-модели. — М. : Апьпина Паблишер, 2019. — 288 с.
14. Морхат П. М. Искусственный интеллект: правовой взгляд. — М. : Буки Веди, 2017, —257 с.
15. Морхат П. М. Право интеллектуальной собственности и искусственный интеллект : монография. — М. : Юнити, 2018. — 121 с.
16. Морхат П. М. Правосубъектность юнитов искусственного интеллекта: гражданско-правовое исследование : монография. — М. : Юнити-Дана, 2018. — 112 с.
17. Право Европейского Союза : учебник : в 2 т. / под ред. С. Ю. Кашкина. — 4-е изд., перераб. и доп. — М. : Юрайт, 2015. —1.2 \ Особенная часть. Ос-
I О m
МНЕНИЕ
>
4/2Q2Q
4Q
АВТОРИТЕТНОЕ МНЕНИЕ
"J^ECTHHK
новные отрасли и сферы регулирования права Европейского Союза. Правовые аспекты участия России в европейских интеграционных процессах / С. Ю. Кашкин, А. О.Четвериков [и др.]. — 1023 с.
18. Срничек Н. Капитализм платформ. — М. : ИД Высшей школы экономки,
2019, —128 с.
19. Addink G. H. Good governance in EU member states. — Utrecht University, 2015.
20. Altoukhov A. V. Industrial product platforms and blockchain in aquaculture // ЮР Conference Series. — Vol. 421 of Earth and Environmental Science. — England,
2020.
21. Altoukhov A., LevratJ., Feltin E, Carlin J.-F., CastigliaA., Butté R., Grandjean N. Highreflectivity airgap distributed Bragg reflectors realized by wet etching of AlInN sacrificial layers //Applied Physics Letters. — 2009. —Vol. 95. — № 19.
22. Baldwin C., Woodard C. J. The Architecture of Platforms: A Unified View // Platforms, Markets and Innovation /А. Gawer (ed.). — Cheltenham : Edward Elgar, 2009, —P. 19—44.
23. Cohen Julie E. Law for the Platform Economy (June 22, 2017) // UC Davis Law Review, Forthcoming ; SSRN // URL: https://ssrn.com/abstract=2991261 (дата обращения: 01.12.2019).
24. Cusumano M. A., Gawer A., Yoffie D. B. The Business of Platforms: Strategy in the Age of Digital Competition, Innovation, and Power. — Harper Collins Publishers, 2019, — 320 p.
25. Lobel O. The Law of the Platform // Minnesota Law Abstract. — 2016. — Vol. 101.
26. Loffler M., Tschiesner A. The Internet of Things and the Future of Manufacturing. McKinsey & Company // URL: https://www.mckinsey.com/business-functions/ mckinsey-digital/our-insights/the-internet-of-things-and-the-future-of-manufacturing (дата обращения: 01.12.2019).
27. Parker G. G., Marshall W. V.-A., Choudary S. P. Platform Revolution : How Networked Markets Are Transforming the Economy and How to Make Them Work for You — W. W. Norton & Company, 2017. — 352 p.
28. Reillier L. C., Reillier B. Platform Strategy : How to Unlock the Power of Communities and Networks to Grow Your Business. — Taylor & Francis, 2017. — 240 p.
4/2Q2Q
