CC BY
9DOI 10.47643/1815-1337_2021_11_83 УДК 340, 342, 34.03, 34.04, 349
ГОСУДАРСТВО НАУКИ И ВЫСОКИХ ТЕХНОЛОГИЙ КАК «ДЕГУМАНИЗИРОВАННОЕ ГОСУДАРСТВО»: ЭТИКО-ПРАВОВОЕ ИЗМЕРЕНИЕ State of Science and High Technologies as a "Dehumanized State":
Ethical and Legal Dimension
КАПЛИЕВ Андрей Сергеевич,
аспирант юридического факультета, кафедра теории государства и права и политологии, Московский государственный университет имени М.В. Ломоносова (МГУ). Советник по юридическим вопросам
Государственного бюджетного учреждения города Москвы «Агентство инноваций города Москвы». 119991, Россия, ул. Ленинские горы, 1. E-mail: kapliev@gmail.com;
Kapliev Andrei Sergreevich,
Moscow State University named after M.V. Lomonosov
Postgraduate of Law Faculty, Department of Theory of State and Law and Political Science, Counselor of Moscow Agency of Innovations. 1 Leninskie Gory str., 119991, Russia. E-mail: kapliev@gmail.com
Краткая аннотация: государство науки и высоких технологий рассматривается как тип современного государства. Анализируются этико-правовые проблемы, связанные с государством науки и высоких технологий. Исследуется вопрос об этических принципах для искусственного интеллекта. Ставится теоретическая проблема существования государства без человека (не для людей). Речь может идти о возникновении особых форм «дегуманизированного» государства и даже «сверхдержавы искусственного интеллекта», которые будут более соответствовать экономике небесных тел, астероидной экономике. Признается, что угроза выживания человеческого вида есть угроза существованию государства в гуманитарном измерении. Рассматриваются документы этико-правового характера, регулирующие введение в хозяйственный оборот технологии искусственного интеллекта. В статье предлагается разработать юридический оптимум для недискриминационного слияния людей и машин, открывающих феномену жизни путь для экспансии в пространстве и времени. Эффективным форматом для определения такого оптимума может быть деятельность Международного агентства по искусственному интеллекту, создать которое предлагается с учетом опыта и при участии Международного агентства по атомной энергии и Обсерватории Организации Экономического Сотрудничества и Развития по искусственному интеллекту.
Abstract: the state of science and technology as a type of a modern state. The state of science and technologies is defined as an ethical and legal problem:"dehumanized" state, the issue of ethics for Artificial Intelligence is considered. The theoretical problem of the Existence of a State without a person (not for people) is raised. We can talk about the emergence of special forms of a "dehumanized" state and even a "superstate (superpowers) of artificial intelligence", which will be more consistent with the economy of celestial bodies, the asteroid economy. It is recognized that the threat to the survival of the human species is a threat to the existence of the state in the humanitarian dimension. Documents of an ethical and legal nature regulating the introduction of artificial intelligence technology into economic circulation are considered. The article proposes to develop a legal optimum for a non-discriminatory merger of people and machines, which opens the way for the phenomenon of life to expand in space and time. An effective format for determining such an optimum can be the activities of the International Agency for Artificial Intelligence, which is proposed to be created with the participation of the International Atomic Energy Agency and the Organization for Economic Cooperation and Development Observatory on Artificial Intelligence.
Ключевые слова: Теория государства и права; государство науки и технологий; технологический подход к теории государства; искусственный интеллект; юридические науки; правовое регулирование.
Keywords: theory of state and law; state of science and technology; technological approach to state theory; Artificial Intelligence; legal science; legal regulation.
Дата направления статьи в редакцию: 13.09.2021
Дата публикации статьи: 30.11.2021
В Стратегии научно-технологического развития Российской Федерации1 в качестве приоритетов указанного развития в ближайшие 1015 лет названы те направления, которые позволят получить научные и научно-технические результаты и создать технологии, являющиеся основой инновационного развития внутреннего рынка продуктов и услуг, устойчивого положения России на внешнем рынке, и обеспечат, в том числе, возможность эффективного ответа российского общества на большие вызовы2 с учетом взаимодействия человека и природы, человека и технологий, социальных институтов на современном этапе глобального развития, в том числе применяя методы гуманитарных и социальных наук (подпункт «ж» пункта 20). Приоритет технологического развития ставится сегодня во многих странах: многие государства последовательно выделяют все больше ресурсов на развитие науки и высоких технологий3. Инстинкт политического самосохранения побуждает к ответственности за судьбу будущих поколений и, прежде всего, экологическую ответственность, требует направлять все больше государственных, а также частных ресурсов, на развитие высоких технологий. Указанная функция государства приобретает еще большее значение в условиях «глобальной
1 Утверждена указом Президента Российской Федерации от 01.12.2016 № 642. СЗ РФ, 05.12.2016, № 49, ст. 6887.
2 Под «большими вызовами» в рассматриваемой Стратегии понимается объективно требующая реакции со стороны государства совокупность проблем, угроз и возможностей, сложность и масштаб которых таковы, что они не могут быть решены, устранены или реализованы исключительно за счет увеличения ресурсов (подпункт «б» пункта 4).
3 Эта тенденция подтверждается докладами о состоянии развития науки и технологий в различных государствах (например, The Council of Canadian Academies. The State of Science and Technology in Canada http://scienceadvice.ca/en/assessments/completed/science-technology.aspx (accessed: 1.11.2019); The Council of Canadian Academies. The State of Science and Technology in Canada http://scienceadvice.ca/en/assessments/completed/science-technology.aspx (accessed: 1.11.2019); The Council of Canadian Academies. The State of Science and Technology in Canada. 2012. https://ru.scribd.com/document/108707661/The-State-of-Science-and-Technology-in-Canada-2012 (accessed: 1.11.2019); Sulfikar Amir. The Technological State in Indonesia: The Co-constitution of High Technology and Authoritarian Politics. 2012 https://books.google.ru/books?id=pUlKd0jzPqIC&dq=Technological+type+of+the+state&hl=ru&source=gbs_navlinks_s (accessed: 1.11.2019); State of Artificial Intelligence in China https://www.stateof.ai/ (accessed: 1.11.2019); China AI Development report 2018 https://telegra.ph/Kitaj-uverenno-shagaet-v-svetloe-AI-budushchee-09-16 (accessed: 1.11.2019)).
технологической революции»1 и нового цикла ускорения научного и технологического развития. Поэтому можно сделать вывод о соответствии обозначенных отечественных подходов тенденциям, имеющимся за рубежом.
Инновационное развитие через создание и внедрение новых технологий, и прежде всего, технологии искусственного интеллекта2, как правило, связано с автоматизацией процессов и заменой человека технологиями, которые становятся настолько совершенными, что всерьез обсуждается вопрос о признании их субъектами или, по крайней мере, о наличии у технологии искусственного интеллекта определенной степени автономности и непредсказуемости ее действий3. Сегодня также обсуждаются технологии, которые могут заменять повреждённые части живых организмов людей новыми, в том числе бионическими (роботизированными), что может привести к еще более масштабным и радикальным изменениям общественных отношений4. Многие современные ученые хорошо понимают, что «мегатехнологии»5 и «большие данные» (Big Data) не только несут с собой целую серию угроз, но и открывают новые возможности для повышения качества жизни населения6 и позитивно влияют на право и государство7: они будут определять основы правосудия и расширят доступ к нему, упростят и удешевят правоприменение и создадут более справедливое общество, позитивно улучшат экономику юридических услуг8.
Актуальность данного направления исследований также обосновывается проведением серии междисциплинарных встреч российских и иностранных исследователей по темам «искусственный интеллект: этика и право»9, разработкой соответствующих этических кодексов российскими корпорациями10.
Несмотря на предпринятые в том числе на нормативно-правовом уровне11 попытки сделать как можно больше акцентов на человеко-ориентированность в регулировании технологии искусственного интеллекта, более широкий взгляд на данную проблему позволяет констатировать формирование сегодня нового типа «дегуманизированного» государства - «государства науки и высоких технологий» (или техногосударства)12.
В настоящей статье под «дегуманизированным государством» предлагается понимать государство, применяющее в своей деятельности (включая, но не ограничиваясь, законотворческую деятельность) алгоритмическое регулирование13 на основе технологии искусственного интеллекта.
Такое государство предполагает также цифровизацию сферы государственного управления («государство в смартфоне»), которая и приводит к «дегуманизации» государства в узком смысле, т.е. к сокращению численности человеческой составляющей бюрократического аппарата и расходов на его содержание, в первую очередь, за счет введения в хозяйственный оборот наилучших доступных информационно-коммуникационных технологий (цифровизация сферы государственных услуг), являющихся технологической, алгоритмической составляющими бюрократического аппарата.
Дегуманизацию государства можно понимать и по-другому (шире). Например, с учетом формирующейся классификации современных государств в зависимости от роли искусственного интеллекта в регулировании общественных отношений, степени проникновения указанной технологии в жизнь общества. Очевидно, что далеко не все страны мира способны осуществить капитальные и интеллектуальные вложения для разработки и введения в хозяйственный оборот технологии искусственного интеллекта, в том числе в необходимые для их развития огромные энергетические мощности.
Таким образом, можно предположить существование государства без человека (не для людей). Речь может идти о возникновении особых форм «дегуманизированного» государства и даже «сверхдержавы», которые будут более соответствовать экономи ке небесных тел, асте-
1 Richard Silberglitt, Anny Wong. The Global Technology Revolution China, In-Depth Analyses. 2009. Available at: https://www.rand.org/content/dam/rand/pubs/technical_reports/2009/RAND_TR649.pdf (accessed: 2.10.2019); Шваб. К. Четвертая промышленная революция. М., 2018. С. 17; Шваб. К., Дэвис Н. Технологии Четвертой промышленной революции. М., 2018. С. 10-274; Урри Д. Как выглядит будущее? М., 2018. 7-291; Исаев И.А. Технологии власти. Власть технологии: монография. М., 2019. С. 5-143.
2 Сегодня в России имеется целый ряд нормативных правовых актов, принятых в целях поддержки развитии инновационных технологий, например: Распоряжение Правительства РФ от 19.08.2020 N 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»; Федеральный закон от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных». СЗ РФ, 27.04.2020, № 17, ст. 2701; Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». СЗ РФ, 14.10.2019, № 41, ст. 5700; Указ Президента Российской Федерации от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации». СЗ РФ, 05.12.2016, № 49, ст. 6887; Перечень поручений Президента Российской Федерации от 31.12.2020 № Пр-2242 «Перечень поручений по итогам конференции по искусственному интеллекту» // СПС «КонсультантПлюс».
3 См.: Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»
4 Франклин Д. Указ. Соч. С. 18; Болдуин Р. Великая конвергенция: информационные технологии и новая глобализация. М., 2018.
5 Франклин Д. Указ. Соч. С. 7-383.
6 Так, Кеннет Кукьер, старший редактор «Экономист» (The Economist) по цифровым продуктам, убежден: «В XIX веке все приводилось в действие паром, в XX - нефтью, в XXI веке важнейшим «топливом» станут данные» (Там же С. 284.).
7 См.: Морхат П.М. Право и искусственный интеллект. М.: 2018. С. 9-418; Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации: Монография / Г.Ф. Ручкина, М.В. Дьяченко, А.В. Попова (и др.); под ред. Г.Ф. Ручкиной. М.: Прометей, 2020; Франклин Д. Указ. Соч. С. 291.
8 Франклин Д. Указ. Соч. С. 293-294.
9 https://youtu.be/yZQx4MIspdA дата обращения 22.06.2021; https://youtu.be/8LQMa13ZLks дата обращения 22.06.2021; https://youtu.be/M6OkcZDon7A дата обращения 22.06.2021; https://youtu.be/Fdyye5wE6mw (дата обращения: 22.06.2021); Международная конференция по устойчивости технологий искусственный интеллекта «Trustworthy Artificial Intelligence: Transparency, Stability, Robustness», (5-7 июля 2021) https://www.youtube.com/watch?v=_Ve9lJO2dHs (дата обращения: 05.07.2021).
10 https://www.sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics (дата обращения: 05.07.2021).
11 Франклин Д. Указ. Соч. С. 293-294.
12 О сверхдержавах искусственного интеллекта см., например: Кай-фу Ли. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. М.: Манн, Иванов и Фербер, 2019.
Вывод о формировании нового типа государства косвенно подтвержают и высказывания мировых лидеров. Так Президент Российской Федерации В. В. Путин заявил: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира...» (URL: https://tass.ru/ekonomika/6489864?fbclid=IwAR3iB9N_kIZ37JIO9j6C6OgsD3U4vXmnsYULlzAZdy7lRZgyYkU-JVCQtko дата обращения: 30.05.2019.
13 O'Reilly Т. Open Data and Algorithmic Regulation. URL: https://beyondtransparency.org/chapters/part-5/open-data-and-algorithmic-regulation/ (accessed: 25.03.2020); Morozov E. The rise of data and the death of politics. URL: https://www.theguardian.com/technology/2014/jul/20/rise-of-data-death-of-politics-evgeny-morozov-algorithmic-regulation (accessed: 20.07.2014); https://apparat.cc/world/algorithmic-regulation/ (дата обращения: 20.07.2018).
роидной экономике1, экспансии разумных и самодостаточных машин в космическом пространстве с ограниченным2 участием и даже без участия людей3. Эта гипотеза уже подтверждается примером из практики деятельности в сфере искусственного интеллекта транснациональной корпорации «Фейсбук» (Facebook), руководство которой, «вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали»4.
Признаки техногосударства
Для некоторых из современных авторов техногосударство в наибольшей степени обладает признаками высокотехнологичной корпорации (например, ориентация на прибыль, накопление капитала, в том числе интеллектуального капитала) чем любые другие известные в истории типы государств5. Мартин ван Кревельд в работе «Расцвет и упадок государства»6 убедительно доказывает, что государство является корпорацией. Он описывает процессы становления и кризиса типа «государство-корпорация». По его мнению, в настоящее время такой тип государства, в некотором смысле подражающий технологической корпорации, находится в упадке7. Он также как и Б. Джессоп в фундаментальной государствоведческой работе «Государство: прошлое, настоящее и будущее»8 отмечает важнейшую роль экологических проблем, связанных с развитием науки, техники и высоких технологий, особенно после 1945 года9. Кроме того, в будущем государство-корпорация превратится в государство-«искусственный интеллект» (Artificial Intelligence, AI) и даже «сверхдержаву искусственного интеллекта»10. Таким образом характеристикой техногосударства следует признать его соответствие признакам «гигантских» корпораций, активы которых превышают 1 млрд долларов США11.
Подчеркивается также, что становление нового типа государства связано с беспрецедентным научно-техническим прогрессом12. И потому, к числу факторов, которые будут определять этот тип государства ряд ученых относит: развитие государствообразующей суверенной технологии искусственного интеллекта (state-of-art AI); на ее основе - конвергентных технологий и «конвергентной культуры»13; различного рода технологические «мегатренды»14. Большие надежды возлагаются на упомянутую ментальную модель (фрейм) «конвергентной культуры», которая за счет синергетического эффекта позволит добиться больших результатов также в области робототехники и аддитивных технологий. Например, синергетический эффект в результате конвергенции современных информационных, энергетических и биотехнологий значительно превосходит влияние на общественную жизнь результатов научно-технологической революции в каждой из упомянутой сфер по отдельности.
Регуляторные проблемы и их решения на основе этических принципов
Переход к техногосударству, опасность наукоемких технологий15, замена человека технологией и прочие связанные с этим проблемы, делают необходимым создание всеобъемлющего регулирования16, и, прежде всего, решение целой серии этико-правовых проблем.
Выработке этико-правовых приоритетов и стратегии защиты человечества от опасности таких технологий были посвящены несколько Асиломарских конференций (США), собравших представителей мировой научно-технологической элиты17. Некоторые из этих стратегий уже были восприняты законодательствами развитых стран18. Этико-правовые проблемы в сфере техногосударства, в том числе «дегуманизированного», сформулированные в январе 2017 года в Принципах Асиломарской конференции, Принципах Организации Экономического Сотрудничества и
1 Bank of America: To Infinity And Beyond - Global Space Primer. URL: https://api.guidants.com/db/a2/1e1ffc185c1d44bd.pdf (accessed: 26.03.2020); Morgan Stanley: Investment Implications of the Final Frontier. URL: https://www.morganstanley.com/ideas/investing-in-space (accessed: 26.03.2020); Snyder B. Humanity's Move Into Space Will Depend on Mining. URL: https://www.bloomberg.com/news/articles/2019-10-25/giant-leap-humanity-s-move-into-space-will-depend-on-mining (accessed: 26.03.2020)
2 Keach S. Amazon's Jeff Bezos wants to put a TRILLION humans in space - and promises '1,000 Mozarts and Einsteins'. URL: https://www.thesun.co.uk/tech/8503517/amazon-jeff-bezos-space-blue-origin/ (accessed: 26.03.2020).
3 Farah T. Made in Space: Why Earth's Industries Might One Day Leave Our Planet. URL: https:llwww.discovermagazine.comlthe-sciences/made-in-space-why-earths-industries-might-one-day-leave-our-planet#.XR2-C-szaaE (accessed: 26.03.2020)
4 https://www.bbc.com/russian/features-40778454 01.06.2019.
5 Юваль Ной Харари (Харари Ю. Н. Homo Deus. Краткая история его. M.: 2018) проводит любопытную аналогию между правами, в том числе правами собственности, которыми были наделены боги древности, уже наделены современные высокотехнологичные корпорации (Гугл, Mайкрософт) и, вероятно, будут наделены алгоритмы искусственного интеллекта. По его мнению, вполне возможна ситуация, когда люди, например, будут арендовать жилье в жилищах (как реальных, так и виртуальных), которые не только управляются и обслуживаются алгоритмами искусственного интеллекта, но и принадлежат этим алгоритмам на праве собственности.
6 Кревельд M. Расцвет и упадок государства. Mосква, Челябинск: ИРИСЭН, Социум, 2019. СС. 3-544.
7 Там же. СС. 463-482.
8 Джессоп Б. Государство: прошлое, настоящее и будущее. M., 2019. С. 11 -501.
9 Кревельд M. Указ. Соч. С. 467.
10 Кай-фу Ли. Указ. Соч. СС. 11-234.
11 Conard A., Butzel H., Corporations in Perspective. N.Y., 1976. P.101.
12 Так, по экспертным оценкам Рея Курцвейла, технического директора корпорации «Гугл» (Google): «В следующем веке уместится 20000 лет научного прогресса» (Кузина С. Футуролог Рэй Курцвейл: «В XXI веке мы совершим рывок на 20 тысяч лет вперед» ll Комсомольская правда. 2012. Mарт. 12 ll URL: https://www.kp.ru/daily/25848.5/2818580/ (дата обращения: 02.10.2019)).
13 Дженкинс Г. Конвергентная культура. Столкновение старых и новых медиа. M., 2019. С. 5-382.
14 Франклин Д. Mегатех. Технологии и общество 2050 года в прогнозах ученых и писателей. M., 2018. 7-383; Шваб. К. Указ. Соч. С. 9-269; Шваб. К., Дэвис Н. Указ. Соч. С. 10-274.
15 Например, передовые химические технологии, ядерная физика, с использованием суперкомпьютеров и квантовых компьютеров, - создают ситуации, когда накопление расщепляющихся материалов уже не будет такой длительной и ресурсоемкой деятельностью. Это, в свою очередь, повышает актуальность таких глобальных проблем человечества, как: нераспространение ядерного оружия и борьба с международным терроризмом. Заметим, что ядерная энергетика подвергается радикальной критике, во многом обоснованной, современными политическими экологами. Так, французский философ Андре Горц (1923-2007) рассматривает ядерную энергетику как угрозу для всего человечества.: «Ядерная энергетика требует, таким образом, сильного и стабильного государства, многочисленной и надежной полиции, постоянной слежки за населением и тайны. Вы получаете зерна тоталитарного драйва» (Gorz A. Où va l'écologie?//Le Nouvel Observateur. Decembre 2013-Janvier 2014. №3. P. 58.) 16Исследователь программы изучения эволюционной динамики Гарвардского университета, преподаватель в Mассачусетском технологическом институте M. Хоффман в своей работе «Система права и государственного управления у искусственного интеллекта» вводит представление об «юриспруденции ИИ» (см.: URL: https://www.sites.google.com/site/hoffmanmoshe (дата обращения: 06.06.2019)). В Гарвардской школе права профессор У. Гассер в рамках «юриспруденции искусственного интеллекта» создал теорию «цифрового конституционализма», в которой идет речь о формировании всеобъемлющих норм регулирования (см.: URL: https://hls.harvard.edu/faculty/directory/10298/Gasser (дата обращения: 06.06.2020); Lex Gill, Dennis Redeker & Urs Gasser, Towards Digital Constitutionalism? Mapping Attempts to Craft an Internet Bill of Rights (Berkman Ctr. Research Publ'n No. 2015-15, Nov. 9, 2015).
17 URL: https://futureoflife.org/ai-principles-russian/ (дата обращения: 15.01.2018).
18 Жданов С. Рей Курцвейл: слиться с искусственным неокортексе в облаке ^Батенька. 2017. Декабрь. 6. Режим доступа: https://batenka.ru/explore/lectures/kurzweil/ (дата обращения 15.01.2018).
Развития (ОЭСР) в сфере искусственного интеллекта 2019 года1 (им идентичны Принципы «Большой Двадцатки») получили высокую оценку в «Римском воззвании Ватикана об этике для искусственного интеллекта» от 28.02.2020 (Rome Call for AI Ethics)2.
В воззвании Ватикана определяются такие принципы, как: открытость, инклюзивность, ответственность, надежность, безопасность и приватность. Также в этом важнейшем в условиях научно-технологической революции документе есть ссылки на статьи Всеобщей Декларации прав человека (в частности, первую и вторую статьи ВДПЧ3), что позволяет говорить о тесной связи этической и юридической проблематики. На практике для гигантских корпораций этот и другие документы, в разработке которых их представители приняли непосредственное участие, будут играть гораздо более важную роль, чем законы некоторых государств и их объединений, где население активно использует их продукты и услуги, в том числе пренебрегая запретами со стороны государства4.
По результатам изучения около тридцати документов этико-правового характера, регулирующих введение в хозяйственный оборот технологии искусственного интеллекта можно признать, что в той или иной степени указанные принципы имеют место в восьми базовых этико-правовых направлениях регулирования искусственного интеллекта: человекоцентричность или продвижение человеческих ценностей, ответственность профессионального сообщества, контроль людьми технологии, прозрачность и доступность толкования, подотчетность, справедливость и недопустимость дискриминации, приватность. Каждое из этих направлений содержит до десяти принципов, понимаемых юристами как нормы. Например, экологические принципы могут быть включены в направление человекоцентричности или продвижения человеческих ценностей, так как машины (без людей) могут существовать и в вакууме космического пространства, в отличие от людей стремительно уничтожающих естественную среду обитания (биосферу). Позднейшим и наиболее совершенным документом этико-правового характера является «Римское воззвание Ватикана об этике для искусственного интеллекта».
Этико-правовые проблемы в сфере технологии искусственного интеллекта и современного техногосударства привлекают пристальное внимание современных ученых. Известный российский правовед И.А. Исаев в своей работе «Технология власти. Власть технологии» (2019) обращается к работам ряда западных авторов, которые утверждают, что: «отчуждаемая техника формирует технократию, не подчиненную человеческим целям»; техника превращается «в опасный для человека мир на стадии аномального и компьютерного развития становящийся уже неотвратимой угрозой»5. В качестве примера также сошлемся на исследование профессора Оксфордского университета Л. Флориди «Этика искусственного интеллекта»6. В своей работе он приводит слова директора и собственника одной из самых дорогостоящей американской корпорации «Тесла» (Tesla) Илона Маска: «Если бы пришлось делать прогноз относительно наиболее серьезной угрозы нашему существованию как вида, я, вероятно, назвал бы именно искусственный интеллект»7. Можно согласиться с упомянутыми мнениями признав, в свою очередь, что угроза выживания человеческого вида есть угроза существованию государства в гуманитарном измерении.
Этико-правовые проблемы, связанные с внедрением технологии искусственного интеллекта, глубоко вскрывает и основатель
Давосского форума Клаус Шваб: «Если результатом революции станет ... мир прекариата, социального класса работников, которые
зарабатывают на жизнь от заказа к заказу, при этом лишаясь трудовых прав, прав на заключение трудового договора и гарантированной
занятости, станет ли он источником социальных волнений и политической нестабильности? ... Может произойти регулятивный рикошет, когда
8
законодатели вновь укрепят свои властные полномочия, а адаптивные силы исключительно сложной системы окажутся перегруженными»8. Вынужденная поденщина и девальвация трудовых прав как побочный результат научно-технологической революции действительно несет серьезную угрозу существованию государства, основным правам и свободам человека9.
Упомянутые международные организации (в том числе ОЭСР10) и их Принципы уже оказали значительное влияние на политику в сфере искусственного интеллекта таких стран как США, КНР, а также Европейского ^юза. Это выражается в принятии соответствующих национальных стратегий, планов и иных актов по их реализации11.
1 URL: http://www.oecd.org/going-digital/ai/principles/ (дата обращения: 01.07.2019).
2 URL: http://www.academyforlife.va/content/pav/en/news/2020/intelligenza-artificiale-2020.html (дата обращения: 29.02.20220).
3 Рецепция норм ВДПЧ в материале упомянутого Римского воззвания Ватикана не является уникальным явлением. Конституция Российской Федерации и конституции иных государств восприняли значительное число норм ВДПЧ, затрагивающих гражданские права и свободы человека. Так в Конституции России было воспринято около сорока таких норм (URL: http://www.ksrf.ru/RU/NEWS/SPEECH/Pages/ViewItem.aspx?ParamId=20 (дата обращения: 01.07.2019.)). Рецепция норм ВДПЧ Ватиканом в указанном воззвании доказывает готовность этого государства и транснациональных высокотехнологичных корпораций, включая мегакорпорации «Майкрософт» (Microsoft) и «Ай-Би-Эм» (IBM), к ответственному нормотворческому процессу, в том числе к разработке актов наднационального характера.
Общеизвестны тщетные дорогостоящие попытки уполномоченного государственного органа запретить использование мессенджера «Телеграм» (Telegram) в Российской Федерации от которых чиновники были вынуждены отказаться 18 июня 2020 года.
5 Исаев И. А. Технология власти. Власть технологии. М., 2019. С.40.
6 Франклин Д. Указ. Соч. С. 268-282.
7 Там же С. 268-282.
8 Шваб К. Указ. Соч. С. 82-83.
9 Форд М. Развитие технологий и будущее без работы. М., 2019. С. 7-498; Флорида Р. Большая перезагрузка. Как кризис изменит наш образ жизни и рынок труда. М., 2012. С. 7-234; Баррат Д. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo Sapiens. М., 2019. С. 50-103.
10 Основным центром обеспечения подготовки наднациональных политик в сфере искусственного интеллекта в настоящее время является Обсерватория ОЭСР по политике в области искусственного интеллекта (OECD AI Policy Observatory), учрежденная в феврале 2020 года (см.: Кулешов А., Игнатьев А., Абрамова А. Система международного мониторинга в области развития искусственного интеллекта: вклад ОЭСР. Режим доступа: URL: http://d-russia.ru/sistema-mezhdunarodnogo-monitoringa-v-oblasti-razvitija-iskusstvennogo-intellekta-vklad-ojesr.html (дата обращения: 15.03.2020)). Также можно отметить вклад специализированного экспертного центра при Межрегиональном научно-исследовательском институте Организации Объединенных Наций (The United Nations Interregional Crime and Justice Research Institute (UNICRI) Centre for Artificial Intelligence and Robotics) и ряда других экспертных центров.
11 Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // Official Journal of the European Union // URL: http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ EN.html (дата обращения: 05.08.2019); Council of Europe adopts first European Ethical Charter on the use of artificial intelligence in judicial systems // Council of Europe. URL: https:// search.coe.int/directorate_of_communications/Pages/result_details.aspx?0bjectId=09000016808fed10 (дата обращения: 09.09.2019); Declaration by the Committee of Ministers on the manipulative capabilities of algorithmic processes. Decl(13/02/2019)1. 13 February 2019 // Council of Europe. URL: https://search.coe.int/cm/pages/result_details. aspx?0bjectId=090000168092dd4b (дата обращения: 09.09.2019); Ethics guidelines for trust worthy AI // European Union. URL: https:// ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419 (дата обращения: 01.08.2019).
Таким образом, не только менеджеры высокотехнологичных корпораций, но и российские и иностранные правоведы проявляют интерес к тем угрозам, которые несет в себе небывалый технический прогресс. Техногосударство может стать антиподом правового государства, с которым в юридической науке связывают обеспечение фундаментальных личных прав человека.
Вывод
Итак, исследовав ряд проблем, возникающих в связи с угрозами дегуманизации техногосударства, следует отметить ряд первых шагов для их преодоления, обозначить способы регулирования техногосударства. В качестве этих способов предлагается рассматривать этические и правовые нормы, включая ранее упомянутые в статье принципы Римского воззвания об этике для искусственного интеллекта.
В связи с этим чрезвычайно возрастает роль правоведов, которые должны разработать юридический оптимум для недискриминационного слияния людей и машин, открывающих хрупкому феномену жизни путь для экспансии в пространстве и времени. Эффективным форматом для определения такого оптимума может быть деятельность Международного агентства по искусственному интеллекту, с учетом опыта и при участии Международного агентства по атомной энергии, Обсерватории ОЭСР по искусственному интеллекту и иных организаций.
Российские правоведы также могут внести свой вклад в развитие суверенной технологии искусственного интеллекта с учетом упомянутых в статье этико-правовых принципов. Содержащиеся в них положения уже сегодня могут быть признаны в качестве и законодательных приоритетов, и направлений деятельности созданного Института перспективных исследований проблем искусственного интеллекта и интеллектуальных систем Московского Государственного Университета имени М. В. Ломоносова, в том числе как будущего Национального центра компетенций в сфере алгоритмического регулирования и юриспруденции искусственного интеллекта.
Библиогра фия:
1. Баррат Д. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo Sapiens. М., 2019.
2. Болдуин Р. Великая конвергенция: информационные технологии и новая глобализация. М., 2018.
3. Дженкинс Г. Конвергентная культура. Столкновение старых и новых медиа. М., 2019.
4. Джессоп Б. Государство: прошлое, настоящее и будущее. М., 2019.
б. Искусственный интеллект - надежды и опасения (сборник: перевод с английского В. Желнинова) / под ред. Д. Брокмана. М., 2020.
6. Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте/ под ред. Д. Брокмана. М., 2017.
7. Исаев И.А. Технологии власти. Власть технологии: монография. М., 2019.
8. Кай-фу Ли. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. М., Манн, Иванов и Фербер, 2019.
9. Кревельд М. Расцвет и упадок государства. Москва, Челябинск, ИРИСЭН, Социум, 2019.
10. Морхат П.М. Право и искусственный интеллект. М., 2018.
11. Ручкина Г.Ф., Дьяченко М.В., Попова А.В. (и др.) Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации. М.: Прометей, 2020.
12. Урри Д. Как выглядит будущее? М., 2018.
13. Флорида Р. Большая перезагрузка. Как кризис изменит наш образ жизни и рынок труда. М., 2012.
14. Форд М. Развитие технологий и будущее без работы. М., 2019.
15. Франклин Д. Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей. М., 2018.
16. Шваб. К. Четвертая промышленная революция. М., 2018.
17. Шваб. К., Дэвис Н. Технологии Четвертой промышленной революции. М., 2018.
18. Gorz A. Où va l'écologie?//Le Nouvel Observateur. Decembre 2013-Janvier 2014. №3.
19. Conard A., Butzel H., Corporations in Perspective. N.Y., 197б. P.101.
References (transliterated):
1. Barrat D. Poslednee izobretenie chelovechestva: Iskusstvennyj intellekt i konec ery Homo Sapiens. M., 2019.
2. Bolduin R. Velikaya konvergenciya: informacionnye tekhnologii i novaya globalizaciya. M., 2018.
3. Dzhenkins G. Konvergentnaya kul'tura. Stolknovenie staryh i novyh media. M., 2019.
4. Dzhessop B. Gosudarstvo: proshloe, nastoyashchee i budushchee. M., 2019.
5. Iskusstvennyj intellekt - nadezhdy i opaseniya (sbornik: perevod s anglijskogo V. ZHelninova) I pod red. D. Brokmana. M., 2020.
6. CHto my dumaem o mashinah, kotorye dumayut: Vedushchie mirovye uchenye ob iskusstvennom intellektel pod red. D. Brokmana. M., 2017.
7. Isaev I.A. Tekhnologii vlasti. Vlast' tekhnologii: monografiya. M., 2019.
8. Kaï-fu Li. Sverhderzhavy iskusstvennogo intellekta. Kitaj, Kremnievaya dolina i novyï mirovoï poryadok. M., Mann, Ivanov i Ferber, 2019.
9. Krevel'd M. Rascvet i upadok gosudarstva. Moskva, CHelyabinsk, IRISEN, Socium, 2019.
10. Morhat P.M. Pravo i iskusstvennyj intellekt. M., 2018.
11. Ruchkina G.F., D'yachenko M.V., Popova A.V. (i dr.) Teoriya pravovogo regulirovaniya iskusstvennogo intellekta, robotov i ob"ektov robototekhniki v Rossijskoj Federacii. M.: Prometej, 2020.
12. Urri D. Kak vyglyadit budushchee? M., 2018.
13. Florida R. Bol'shaya perezagruzka. Kak krizis izmenit nash obraz zhizni i rynok truda. M., 2012.
14. Ford M. Razvitie tekhnologij i budushchee bez raboty. M., 2019.
15. Franklin D. Megatekh. Tekhnologii i obshchestvo 2050 goda v prognozah uchenyh i pisatelej. M., 2018.
16. SHvab. K. CHetvertaya promyshlennaya revolyuciya. M., 2018.
17. SHvab. K., Devis N. Tekhnologii CHetvertoj promyshlennoj revolyucii. M., 2018.
18. Gorz A. Où va l'écologie?//Le Nouvel Observateur. Decembre 2013-Janvier 2014. №3.
19. Conard A., Butzel H., Corporations in Perspective. N.Y., 197б. P.101.
