CC BY
29
www.hjournal.ru
Journal of Institutional Studies, 2022, 14(3): 31-45 DOI: 10.17835/2076-6297.2022.14.3.031-045
ОСОБЕННОСТИ НОВЫХ ИНСТИТУТОВ В ЦИФРОВОЙ ЭКОНОМИКЕ
ТАМАРА НИКОЛАЕВНА ЮДИНА,
МГУ имени М.В. Ломоносова, Москва, Россия e-mail: orchidflower@list.ru,
ПЕТР СЕРГЕЕВИЧ ЛЕМЕЩЕНКО,
Белорусский государственный университет,
Минск, Белоруссия e-mail: lempeter9@gmail.com
ЕЛЕНА ВАЛЕРЬЕВНА КУПЧИШИНА,
МГУ имени М.В. Ломоносова, Москва, Россия e-mail: sigrdriva@inbox.ru
Цитирование: Юдина Т.Н., Лемещенко П.С., Купчишина Е.В. (2022). Особенности новых институтов в цифровой экономике (цифровое доверие, кибер-, информационная и цифровая экономическая безопасность, искусственный интеллект) // Journal of Institutional Studies 14(3): 31-45. DOI: 10.17835/2076-6297.2022.14.3.031-045
В контексте современных тенденций развития социально-экономических систем: информатизации, интернетизации, сетеизации, цифровизации - актуализировалась проблема цифрового доверия и одновременно глобального недоверия. Глобальное недоверие А. Гутерриш позиционирует как одного из четырех «всадников апокалипсиса»», угрожающего всему человечеству в настоящее время. Уязвимость позиций России в глобальном информационно-цифровом пространстве, выражающаяся в превалировании зарубежного (прежде всего - западного) программного обеспечения (ПО) и китайского «железа», кибератаках на стратегические объекты инфраструктуры, утечках и фактической незащищенности персональных данных населения (зачастую практически беспрепятственный доступ мошенников к персональным данным резидентов и нерезидентов), актуализирует необходимость укрепления национальной информационной безопасности и формирования новых институтов (цифрового доверия, экономической безопасности, искусственного интеллекта). На основе методов институционально-экономического, междисциплинарного, эмпирического обобщения, интерпретации новых экономических институтов и концептов, выдвижения и проверки гипотез и научного подхода к анализу новой цифровой социально-экономической действительности проведено исследование цифрового доверия вкупе с искусственным интеллектом и кибер-, информационной и цифровой экономической безопасностью. Результатами исследования являются, во-первых, подтвержденная взаимосвязь цифрового доверия и цифровой экономической безопасности; во-вторых, цифрового доверия и искусственного интеллекта; в-третьих, цифрового недоверия и институциональных ловушек в контексте искусственного интеллекта; в-четвертых, институциональные аспекты
© Юдина Т.Н., Лемещенко П.С., Купчишина Е.В., 2022
ИИ на примере Китая. Авторская гипотеза сводится к следующему положению: не формируются ли деструктивные институты и институционально-экономическое мышление в условиях цифровизации экономики и общества, созидания российской модели цифровой экономики с противоречивыми институтами? Новизна исследования заключается в уточнении определений института доверия, цифрового глобального недоверия, а также цифровых институциональных ловушек, уровня цифрового доверия, (для бизнеса он отражается в построении системы доверия, в цепочках поставок, измеряется в показателях уверенности пользователей относительно информационно-цифровых благ, в защите цифровыми организациями персональных данных, их конфиденциальности).
Ключевые слова: цифровое доверие; глобальное недоверие; искусственный интеллект как институт; фьючерсы на человеческое поведение; нематериальные активы как контроль над социальным поведением и социальными сетями; кибер- и информационная безопасность; кибермошенничество; цифровая экономическая безопасность; цифровой суверенитет; институциональные ловушки; институциональные элементы модели российской цифровой экономики
FEATURES OF NEW INSTITUTIONS IN THE DIGITAL ECONOMY
TAMARA N. YUDINA,
Lomonosov Moscow State University, Moscow, Russia, e-mail: orchidflower@list.ru;
PETR S. LEMESHCHENKO,
Belarusian State University, Minsk, Belarus, e-mail: lempeter9@gmail.com;
ELENA V. KUPCHISHINA,
Lomonosov Moscow State University, Moscow, Russia, e-mail: sigrdriva@inbox.ru
Citation: Yudina T.N., Lemeshchenko P.S., Kupchishina E.V. Features of new institutions in the digital economy (digital trust, cyber, information and digital economic security, artificial intelligence). Journal of Institutional Studies 14(3): 31-45 (in Russian). DOI: 10.17835/2076-6297.2022.14.3.031-045
Digital trust and, simultaneously, global distrust became a topical issue in the context of modern trends in the socioeconomic systems development: informatization, internetization, networkization, digitalization. A. Guterres asserts global distrust as one of the four "horsemen of the apocalypse" that threaten all of humanity at the present time. Vulnerability of Russia's positions in the global information and digital space, represented in the predominance of foreign (primarily Western) software and Chinese hardware, cyber-attacks on strategic infrastructure facilities, leaks and the actual vulnerability of personal data of the population (often almost unhindered access for fraudsters to the personal data of residents and nonresidents), actualizes the need to strengthen national information security and, therefore, the perspective of the article. A research of digital trust, coupled with artificial intelligence and cyber, information and digital economic security, is conducted based on the methods of institutional-economic, interdisciplinary, empirical generalization, interpretation of new economic institutions and concepts, hypothesizing and scientific approach to the analysis of a new digital socio-economic reality. The research results are, firstly, a
confirmed relationship between digital trust and digital economic security; second, digital trust and artificial intelligence; third, digital distrust and institutional traps in the context of artificial intelligence; fourth, the institutional aspects of AI on the example of China. The authorial hypothesis is formulated as the following: are destructive institutions and institutional-economic thinking formed in the context of the economy and society digitalization, the development of a Russian digital economy model with conflicting institutions? The novelty of the study involves clarifying the definitions of the institution of trust, digital global distrust, as well as digital institutional traps, the level of digital trust (for business, the abovementioned is reflected in building a trust system in supply chains, measured in terms of user confidence in information and digital goods, in the protection of personal data, their confidentiality).
Keywords: digital trust; global distrust; artificial intelligence as an institution; human behavior futures; intangible assets as control over social behavior and social networks; cyber and information security; cyber fraud; digital economic security; digital sovereignty; institutional traps; institutional elements of the Russian digital economy model
JEL: A13, D72, D85, L14, L86
Введение
В настоящее время проблема цифрового доверия (digital trust) как нового явления цифровой эпохи, института информационно-цифровой экономики приобрела особую актуальность наряду с кибернетической и информационной, а также цифровой экономической безопасностью (digital economic security) человека и человечества; государств, национальных и глобальных институтов и организаций. Актуальность темы искусственного интеллекта (artificial intelligence) в контексте доверия обосновал Сатья Наделла в предисловии к бестселлеру Клауса Шваба «Технологии четвертой промышленной революции» (Шваб, 2018). Он провозгласил: «Главное в современном цифровом мире — доверие. Нам нужен новый нормативно-правовой климат, без которого невозможно применение инновационных технологий (информационно-коммуникационных и/или цифровых технологий — ИКТ и ЦТ; а также курсив — доп. авторами)» (Шваб, 2018: 12). Однако сразу нужно определиться с тем, что это за положение: гипотеза, аксиома, постправда, фейк, научная истина? Оставим этот вопрос как риторический на усмотрение читателей статьи. Известно, что где есть деньги и интересы, там научная реальность может закончиться. Еще в конце XIX века С.Ф. Шарапов писал, что капиталисты импортируют «не столько технологическую культуру, сколько мировоззренческую».
В сложных социально-экономических системах действует принцип адекватной сложности. Он означает, что для эффективного выживания общества сложность социальных институтов должна соответствовать сложности самой социальной среды, в которой эти правила и нормы (институты), формальные и неформальные, функционируют (Майнцер, 2015).
К. Шваб вслед за С. Наделла показывает прямую связь между доверием в условиях глобальной цифровизации, «новым нормативно-правовым климатом», информационно-коммуникационными и/или цифровыми технологиями, на первое место среди которых сегодня претендует искусственный интеллект (ИИ), позиционируемый вкупе с большими данными (БД) авторами статьи как новый институт экономики нового технологического уклада (Осипов и др., 2020: 27). Вместе с Д. Нортом, Дж. Ходжсоном, А.И. Московским, В.Л. Тамбовцевым, В.В. Вольчик развивает знаковый концепт «технология-институт». Вольчик под технологиями понимает набор правил, умений, навыков, т.е. институтов, соответствующих конкретной производственной и хозяйственной среде (Вольчик, 2003: 132).
Сами социальные институты и сети в условиях цифровизации экономики играют новую роль (Нуреев, Сурхаев, 2021: 6).
Доверие как много- и междисциплинарная категория просматривается в контексте концепций социального капитала, прежде всего Дж. Коулмана, А. Селигмена и Ф. Фукуямы. Согласно широко распространенной трактовке Дж. Коулмана «социальный капитал» — потенциальная совокупность взаимного доверия и взаимопомощи, которая целенаправленно формируется в
межличностных отношениях (обязательствах и ожиданиях, каналах информации и социальных нормах) (Коулман, 2001: 122—139). Иными словами, «социальный капитал» по Дж. Коулману представляет собой ресурсы общественных отношений и сетей, которые оптимизируются посредством доверия, позиционирования обязанностей и ожиданий, а также норм и формирования организаций. По А. Селигмену, «доверие как социальный капитал означает наличие между людьми тесных ассоциативных связей» (Селигмен, 2002). В своей книге «Доверие: социальные добродетели и путь к процветанию» Ф. Фукуяма последствием приоритета доверия в социуме считает порождение социального капитала. Последний, в отличие от человеческого капитала, формируется за счет религий, традиций, исторических привычек (Фукуяма, 2004).
Новизна авторского подхода сводится к определению качества формирующихся новых институтов (цифровое доверие, кибер-, информационная и цифровая экономическая безопасность, искусственный интеллект) в процессе создания российской модели цифровой экономики.
Авторами выдвинута научная гипотеза: в условиях цифровизации экономики и общества, формирования российской модели цифровой экономики, наряду с конструктивными институтами возникают деструктивные институты и институционально-экономическое мышление.
Доверие вкупе с цифровым доверием является новым институтом в условиях новой реальности, формируемой под влиянием цифровизации всего и вся, не как норма и правило, а как механизм. Можно согласиться с М.А. Вахтиной, что «под механизмом, приводящим в действие правила ... понимается система взаимосвязанных и взаимообусловленных форм и методов поддержания доверия» (Вахтина, 2018: 22). На наш взгляд, доверие как институция — категория «старого» (традиционного или оригинального) институционализма и доверие как механизм — понятие нового институционализма (неоинституционализма) в представлении Д. Норта. Действительно, «диапазон доверия оказывается широким: от простого ожидания изолированными индивидами значений важных для них экономических переменных, через ожидание честного поведения, лишенного коварства и обмана, он доходит до вершины общечеловеческих ценностей, сфокусированных в понятиях вера, надежда и любовь» (Вахтина, 2018: 22).
1. Доверие, цифровое доверие и кибер-, информационная, цифровая экономическая безопасность
Если цифровую экономику (ЦЭ) позиционируют как экономику данных, точнее больших данных (это одно важное из почти сотни дефиниций ЦЭ), где данные с позиции не науки, а метафоры называют «нефтью» — ее кровью, а цифровое доверие — ее сердцем, «водой в пустыне», «самой важной валютой», «ценным ресурсом».
Под доверием А.А. Аузан подразумевает обмен ожиданиями, который предполагает, что действия актора будут корреспондировать его обязательствам (Заседание, 2020). В.И. Даль определял слово доверие как «веру в надежность кого или чего-либо» (Даль, 2000: 1114). Доверие выступает не как константа, а как переменная величина.
Представляет интерес концепт доверия и модернизации институтов, в частности, метаинститута В.В. Вольчика. Он справедливо пишет: «Метаинститут не надо путать с институтами как правилами и механизмами, обеспечивающими их выполнение. Метаинститут, если говорить образно, представляет собой тот материал, на базе которого формируются правила, впоследствии становящиеся институтами». Однако не бесспорным является утверждение автора, что «из социального капитала, основанного на доверии и солидарности, формируются институты более эффективные, чем институты, основанные на принципах коллективизма, принуждения и патернализма» (Вольчик, 2012: 16). Д.Д. Кривошеева-Медянцева развивает концепцию В.В. Вольчика, позиционируя доверие как фактор экономического развития в контексте институциональной экономической теории (Кривошеева-Медянцева, 2013: 15). Е.Н. Никишина, Н.А. Припузова представили актуальный оригинальный концепт институционального доверия как фактор отношения к новым технологиям (Никишина, Припузова, 2022: 22).
Доверие является одним из факторов, определяющих конкурентоспособность цифровой, а точнее — информационно-цифровой экономики — ИЦЭ того или иного государства.
Согласно данным рейтинга Digital Evolution Index 2017 компании Mastercard Школы права и дипломатии имени Флетчера в университете Тафтс (США), показателями доверия являются потребительское поведение, отношение к новым технологиям, опыт их использования, инновационный климат. Действительно, социальное поведение, частью которого является потребительское поведение, и социальные сети стали новыми нематериальными активами в информационно-цифровой экономике (ИЦЭ).
Цифровое доверие — это, прежде всего, уверенность акторов информационно-цифровой экономики (государства, бизнеса и общества) в возможности ее институтов, организаций, информационно-коммуникационных и/или цифровых технологий, новых моделей бизнеса и концептов управления создать «новый дивный мир» как безопасный для жизнедеятельности человека и человечества, веру в его институциональную и технологическую надежность. Ведь в условиях ИЦЭ главным объектом присвоения стали новые нематериальные активы, установился контроль над информационными потоками, над социальным поведением ее акторов и социальными сетями. Главным продуктом транснациональных цифровых компаний стали фьючерсы на человеческое поведение — новый товар ИЦЭ.
Уровень цифрового доверия для бизнеса отражается в построении системы доверия в цепочках поставок, измеряется в показателях уверенности пользователей относительно информационно-цифровых благ (ИЦБ), а также в защите цифровыми организациями персональных данных, их конфиденциальности. Это уже особый прикладной аспект анализа цифрового доверия как основы цифровой экономики, предметом же авторского исследования являются теоретико-методологические аспекты институциональной цифровой экономики в контексте новых институтов.
Отечественная практика ИЦЭ показывает свои примеры цифрового доверия. Так пользователей продукции вирусных аналитиков компании АО «Лаборатория Касперского» насчитывается около 400 млн в 34 странах мира. Этот эмпирический пример говорит сам за себя в отношении цифрового доверия к АО «Лаборатория Касперского» с его безупречной репутацией.
Однако т.н. цифровая экономика — это, по сути, т.н. «подглядывающий капитализм» («Surveillance Capitalism») (Zuboff, 2015: 75-89; 2019). Она представлена прежде всего знаменитой FAGMA (Facebook, ныне Meta1, Amazon, Google, Microsoft, Apple). Их главным продуктом являются прежде всего фьючерсы на человеческое поведение. «Подглядывающий капитализм» («Surveillance Capitalism») не обеспечивает доверие, информационную безопасность (Юдина, 2018: 13-17). Наблюдается глобальное цифровое недоверие.
Во время президентских выборов в США в 2020 году цифровая империя (в лице Facebook, Instagram, Google,) вмешивалась в политическую жизнь этой страны. Возможность вмешательства в политическую жизнь других стран, в том числе России, у этих цифровых гигантов имеется, поскольку они устанавливают контроль над глобальными информационными потоками. Исследуя деятельность Фейсбука как одного из пяти Силиконовых IT-гигантов, производящего фьючерсы на человеческое поведение и являющегося одновременно «криминальным синдикатом», Е. Пустовойтова опирается на данные Национального общества по предупреждению жестокого обращения с детьми (NSPCC). Пустовойтова отмечает, что «за год — 23 млн жалоб на 33 млн видео и почти 30 млн изображений сексуального насилия над детьми. 90% случаев — на Facebook» (Пустовойтова, 2021). Она отмечает разнообразие преступлений Фейсбука: «от мошенничества с конфиденциальностью, киберзапугивания и кражи личных данных до грабежа, диффамации, преследований по различным поводам и пропаганды расизма... и случаи сокрытия военных преступлений, шантаж, торговлю людьми» (Пустовойтова, 2021).
Имеют место нарушения российского законодательства со стороны другого IT-гиганта Google и ее видеохостинга YouTube. Их нарушения отечественного законодательства связаны с доступом к запрещенной в РФ информации.
На рис. 1 проиллюстрировано цифровое недоверие к смартфонам населения России.
1 Facebook, ныне Meta, и Instagram являются экстремистскими организациями. Далее в тексте статьи эти западные социальные сети также считать экстремистскими организациями.
Россияне "под колпаком" смартфона
Тотальная слежка
20,9%
Слежка через камеру/ микрофон
14,1%
Отслеживаются все действия
25,5%
Отслеживается история поиска
25,5%
Уверены в слежке
77%
0% 10% 20% 30% 40% 50% 60% 70% 80% 90%
Рис. 1. Цифровое недоверие к смартфонам населения России
Источник: ESET. ОТР. 13.08.2021 (https://otr-online.ru/programmy/segodnya-v-rossii/u-smartfona-pod-kolpakom-52547.html - Дата обращения: 25.08.2021).
В целом, феномен цифрового доверия нуждается в фундаментальном научном исследовании, доведении его результатов до широкой мировой общественности и принятии государством соответствующих законов. Понятие цифрового доверия остается до сих пор недоопределенным в зарубежной и отечественной научной литературе, несмотря на множество его определений. Доверие как «вера в надежность кого или чего-либо» по В.И. Далю, когда эта надежность технологически и институционально обеспечена, наиболее четко отражает его глубинную сущность.
Авторами выявлено одно из ключевых противоречий в цифровой экономике, которое состоит в том, что параллельно с процессом формирования баз данных посредством технологии больших данных присутствует их незащищенность и развитая мошенническая сеть. Стремление органов власти создать единую базу персональных данных (на примере российского закона о едином федеральном информационном регистре — ЕФИР, чему посвящена часть 3 статьи) порождает также цифровое недоверие населения.
Несмотря на успехи в защите от компьютерных вирусов и отдельные прорывы в развитии отечественных цифровых технологий (искусственного интеллекта, блокчейн и др.), в целом система кибер- и информационной, финансовой и экономической безопасности России недостаточно развита в силу зависимости от импорта западных цифровых технологий, программного обеспечения (Microsoft) и преимущественно китайских компьютеров. Монопольное положение транснациональных цифровых корпораций позволяет им контролировать информационные ресурсы, де-факто устанавливать выгодные для себя с точки зрения борьбы за глобальное информационное пространство «правила игры», которые препятствуют реализации национальных интересов Российской Федерации, блокируя доступ к альтернативным источникам информации2.
В контексте поставленной авторами проблемы нельзя не упомянуть концепцию доверия и безопасности в цифровой экономике России, разработанную Национальным центром цифровой экономики МГУ имени М.В. Ломоносова (Ершова, 2018). Очевидно, что доверие и безопасность как нецифровые факторы развития российской экономики нового технологического уклада, несут едва ли не ключевую смысловую нагрузку концепции и подразумевают прежде всего доверие акторов — граждан, бизнеса — к цифровым технологиям (в частности, облачным сервисам), а также обеспечению приватности в сети Интернет. При этом в концепции подробно не раскрыт
2 Указ Президента Российской Федерации .№ 400 от 02.07.2021 «О Стратегии национальной безопасности Российской Федерации» (http:// www.consultant.ru/document/cons_doc_LAW_389271/ - Дата обращения: 05.07.2021)
механизм развития российского ИКТ-сектора, отечественной Индустрии 4.0 (данная проблема решается, например, в Германии, но не в России), что позволило бы укрепить независимость экономики Российской Федерации от иностранных цифровых технологий, а, следовательно, и институтов стран с более развитой цифровой экономикой (США, Китай и др.). В этой связи неясно, каким образом и за счет каких технологий будет обеспечиваться безопасность для российских хозяйствующих субъектов в глобальном информационном пространстве, а также «выращиваться» институт цифрового доверия граждан. В то же время, подобная концепция развития российской цифровой экономики льет воду на мельницу кибермошеннической деятельности, недобросовестных практик навязывания излишних финансовых продуктов (на примере рынка услуг банков и микрофинансовых организаций возможно отметить незначительную долю жалоб, по которым решение принято в пользу клиентов, что показано на рис. 2), а также утечек персональных данных российских граждан и бизнеса, своеобразных фьючерсов на человеческое поведение, которые впоследствии могут стать основой производимых вышеупомянутыми транснациональными цифровыми ИТ-гигантами (FAGMA: Facebook, Amazon, Google, Microsoft, Apple) информационно-цифровых благ (ИЦБ), реализуемых российскому же населению.
Жалобы россиян в службу финансового уполномоченного (первое полугодие 2021 года)
7000 6000 5000 4000 3000 2000 1000 0
6665
2359
В отношении банков
В отношении МФО
Поступило
Принято к рассмотрению
Принято решение в пользу заёмщиков
Принято решение в пользу банка/ МФО
Принято решение о прекращении рассмотрения заявления
Рис. 2. Статистика жалоб клиентов российских банков и микрофинансовых организаций в Службу финансового уполномоченного РФ (первое полугодие 2021 года) Источник: Служба финансового уполномоченного. Алмакунова Р. (2021). Чек греха таить: россияне стали жаловаться омбудсмену на допуслуги банков. Известия. (https://iz.ru/1205916/roza-almakunova/chek-grekha-tait-rossiiane-stali-zhaLovatsia-ombudsmenu-na-dopuslugi-bankov. — Дата обращения: 29.08.2021).
Формирующаяся цифровая цивилизация со своими информационно-коммуникационными и/ или цифровыми технологиями (ИКТ, ЦТ): искусственный интеллект, большие данные, роботизация, блокчейн, интернет вещей, виртуальная и дополненная реальность, ЗБ-печать и далее по списку из 12 цифровых технологий К. Шваба (Шваб, 2018), которые формируют цифровую экономику, ставит новые проблемы для научного осмысления цифровых технологий — ЦТ и в целом ЦЭ. Человек и человечество должны осмыслить эти цифровые технологии, понять степень полноты
контроля над ЦТ, созданными человеком, со стороны человека; нет ли угрозы для человека и человечества стать в зависимое положение от созданных человеком ЦТ (например, от роботов); каково воспроизводство и/или репродукция ЦТ; каков потенциал у ЦТ воспроизводить самих себя, свои элементы; когда «сетка» начнет учить себя, т.е. «сетку» (возможно ли научить сетку учиться); какие угрозы для человека и человечества несет утеря ими контроля над ЦТ и какими будут последствия в контексте финансовой и экономической, информационной и кибербезопасности для отечественной экономики.
Что касается авторского уточненного определения ЦЭ в контексте экономических или производственных отношений, то здесь обнаруживается трансформация человека из субъекта экономических отношений в «объект» — «машину». Гипотетически можно позиционировать будущие производственные отношения как М2М: машина-машина. Это связано с дальнейшим развитием ИИ вкупе с большими данными (БД), роботизацией, развитием нейронных сетей и другими ЦТ. В этой связи ЦЭ можно определить как кибернетизирующийся и интернетизирующийся механизм (Юдина, 2018: 13-15).
Наряду с экономическими, кибер- и информационно-цифровыми угрозами можно позиционировать отдельные успехи отечественного финтеха. Действительно, современными ИКТ и ЦТ владеют некоторые финансовые организации РФ, среди них СБЕР. Они постоянно внедряют систему средств защиты от внешних угроз. Так, VPN — информационно-цифровая технология, предназначенная для «туннелирования» и шифрования канала по разным стандартам, -применяется для работы «на удаленке» (в условиях онлайн работы, а также в целом для работы при удаленном доступе). Механизм действия таков: осуществляется подсоединение, например, ноутбука фактически к любым проводным и беспроводным сетям, не обеспечивающим стандарты безопасности. Информационно-цифровая технология VPN создает «туннель», например, до момента безопасного соединения офисной сети. Это относительно безопасно даже в условиях, когда доступ к интернету осуществляют публичные коммуникационные сети. Реализации системы гарантий цифровой экономической безопасности в России и в целом в мире уделяется особое внимание.
Формирующаяся российская модель цифровой экономики имеет свои институциональные элементы, которые должны обеспечить ей безопасность. Среди 175 стран мира Российская Федерация в 2018 году заняла 26-место в глобальном индексе кибербезопасности (Костылева, 2019).
2. Цифровое доверие и искусственный интеллект
Доверие к т.н. искусственному интеллекту (зачастую к машинному обучению) является междисциплинарной проблемой. Так, специалисты в области компьютерных наук Д.С. Паркс (D.C. Parkes), М.П. Уэллман (M.P. Wellman) исследуют процесс принятия решений актором нового типа — «экономической машиной» (machina economicus), своего рода искусственным актором, на поведение которого наложен ряд ограничений, в т.ч. ценностных ориентиров. Исследователи концентрируются, в частности, на том, как восприятие и действия искусственно созданного агента («экономической машины») согласуются с поставленными перед ним целями, как агент ведет себя во взаимодействии с другими искусственными агентами в смоделированном мире, обращают внимание в особенности на то, как «экономическая машина» выстраивает предположения о рассуждениях других, подобных ей, машин, определяют место доверию в межмашинном взаимодействии (Parkes et al., 2015: 267).
Исследователи в области управленческих наук А. Зюйдервийк (A. Zuiderwijk), Ю-Ч. Чен (Y.-C. Chen), Ф. Салем (F. Salem) в качестве предмета исследований избрали проблему доверия к «искусственному интеллекту» в области государственного управления (Zuiderwijk et al., 2021: 1—19).
Действительно, информационно-коммуникационные и/или цифровые технологии, среди которых первенство в настоящее время принадлежит искусственному интеллекту, стали тем фактором, который предопределил сущность цифровой экономики — этой новой гибридной (реальной и виртуальной) экономики. Взаимосвязь и взаимодействие цифрового доверия и
искусственного интеллекта многоаспектны: это и определение места доверия у акторов нового типа — «экономической машины» (machina economicus) в смоделированном искусственном мире; это и доверие к «искусственному интеллекту» в области государственного управления.
Однако не следует пренебрегать дальнейшим исследованием природного естественного интеллекта. Философ Э.В. Ильенков сделал открытие на основе обобщения опыта Загорского эксперимента, в котором исследовалось развитие интеллекта слепоглухих детей. Опираясь на результаты данного эксперимента, философ показал, что интеллект не саморазвивается — его развитие происходит в процессе воспитания, во взаимодействии с обществом (Ильенков, 1999).
С.А. Дятлов отмечает, что искусственный интеллект (AI) «обычно определяют как компьютерно-вычислительные технологии с набором математических алгоритмов» (Дятлов, 2021: 25). Дятлов подчеркивает, что искусственный интеллект в широком смысле определяется как совокупность «взаимосвязанных с ним технико-вычислительных процессов и технологий, таких как, например, информатика, кибернетика, математические алгоритмы, виртуальные агенты и цифровые двойники, машинное глубокое обучение (Machine Deep Learning)» (Дятлов, 2021: 25). В документах конференции ООН по торговле и развитию искусственный интеллект определен как «способность машин подражать интеллектуальному поведению человека» (UN, UNCTAD, 2017: 5).
Цифровые технологии развиваются дальше. Наступает время квантовых компьютеров, квантовых вычислениях (Шваб, 2018: 93), которые уже предносят новые институциональные изменения.
Серьезной проблемой, требующей глубокого философско-хозяйственного осмысления и институционального анализа, является мера доверия искусственному интеллекту: в какой мере человечество может доверять решениям, принимаемым искусственным интеллектом (нейро-сетевым искусственным суперинтеллектом) в различных сферах экономики и жизни общества.
3. Цифровое недоверие и институциональные ловушки
Эффект ловушки был введен в научный оборот американскими экономистами К. Шапиро и Х. Вэрианом (Shapiro and Varian, 1999). Они обратили внимание на то, что в современных сетях клиенты оказываются «пойманными» условиями уже заключенных ранее контрактов, которые, как правило, довольно трудно расторгнуть. Для того чтобы правильно пользоваться сетевым благом, необходимо предварительное обучение. Объем этих предварительных знаний стремительно возрастает, поэтому многие далеко не в полном объеме пользуется благами.
С апреля 2020 года на территории города Москвы действует «специальный правовой режим», в рамках которого осуществляется пятилетний эксперимент по внедрению технологий «искусственного интеллекта» в экономические процессы столицы Российской Федерации. Данный режим институционализирован Федеральным законом № 123-Ф33, цели которого носят декларативный характер — улучшение качества жизни населения, эффективности функционирования органов власти на государственном и муниципальном уровнях, эффективности субъектов экономической деятельности — и по тексту нормативно-правового акта не сопровождаются конкретными механизмами их реализации. Стоит отметить, что само определение «искусственного интеллекта», данное в ст. 2, — «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» — не подразумевает наличие правил, стандартов использования «искусственного интеллекта».
В рассматриваемом законе нет ни критериев обезличивания данных, ни механизмов контроля за сбором персональных данных участниками эксперимента. На практике информация
3 Федеральный закон от 24.04.2020 №№ 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»» (http://www. consultant.ru/document/cons_doc_LAW_351127/ - Дата обращения: 07.05.2020)
о лицах, временно или постоянно находящихся на территории Москвы, собирается о них посредством, в частности, технологий распознавания лиц видеокамерами, без их согласия, прозрачного разъяснения того, куда данные направляются и как конкретно используются, и возможности запросить удаление персональных данных из баз. Вышеупомянутый институт не предусматривает и механизма защиты права человека на приватность. В дополнение к тому, что нарушение закона о защите персональных данных № 152-ФЗ в Российской Федерации не влечет за собой применение к нарушителю ощутимых санкций (в то время как, например, нарушение аналогичных норм законодательства в Европе грозит нарушителю многомиллионными штрафами, существенными репутационными рисками), данный институт порождает ловушку цифровой дискриминации человека. Содержательно данный закон, по крайней мере, не препятствует приобретению крупными игроками глобального ИТ-рынка фьючерсов на человеческое поведение, на продажу данных бизнесу. Примером цифровой дискриминации может выступить ограничение предложений благ по цене на основании данных о Bluetooth-окружении устройств, используемых потенциальным клиентом. Данные о регулярном подключении гаджета к «умным» устройствам в автомобиле бизнес-класса, оказавшиеся в распоряжении автомобильного дилера, позволяют последнему предлагать клиенту автомобили по цене не дешевле вышеупомянутого транспортного средства бизнес-класса. Если обратиться к практике скоринга в банках, то цифровая дискриминация в данном контексте может выразиться в форме отказа кредитной организации выдать клиенту-физическому лицу кредит. Вышеупомянутый отказ будет результатом анализа данных из баз, проданных банку различными платформами, в силу чего кредитная организация зачастую не может предоставить человеку аргументированное заключение относительно принятого ею решения.
В июне 2020 года вступил в силу Федеральный закон, предусматривающий создание единого федерального информационного регистра народонаселения России (ЕФИР)4. Утверждается, что данный регистр будет включать только следующие сведения о физических лицах: фамилию, имя, отчество, новые — в случае их смены; дата и место рождения; дата и место смерти; гражданство России, в случае наличия иностранного гражданства (подданства) — сведения о вышеуказанном; информация об образовании; сведения о воинской обязанности; информация о семейном положении; сведения об обязательном социальном, медицинском, пенсионном страховании; информация, связанная с учетом физического лица в службе занятости, налоговой; близкие родственные связи физического лица (родители, супруг/супруга, дети). При этом нет оснований утверждать, что данный перечень со временем не будет дополнен, например, биометрическими, геолокационными данными, а также данными о здоровье конкретного физического лица. Посредством данного закона фактически проводится «конвертация» людей из субъектов в объекты — им не дают возможности повлиять на процесс сбора и обработки данных, исключена возможность удаления данных из регистра по запросу физического лица (что особенно актуально, например, когда речь идет о сокрытии информации о детях как способе предотвращение попыток их похищения).
Закон о ЕФИР фактически ликвидирует действие Федерального закона о персональных данных 152-ФЗ. Так, ст. 5 152-ФЗ устанавливает принцип работы с персональными данными, имплементирующий правовой механизм реализации установленного Конституцией РФ права человека на частную жизнь. Согласно данному принципу недопустимо объединение баз, содержащих данные разной целевой направленности (например, сведения о регистрации брака и информация, обрабатываемая службой занятости).
Налицо цепь институциональных ловушек. Одно из «звеньев» прежде всего связано с нарушением права на приватность и частную жизнь людей, предусмотренных Конституцией Российской Федерации, где в ч. 4 ст. 24 устанавливается запрет на сбор, хранение и применение данных о частной жизни физического лица без его согласия (кроме специально оговоренных, обоснованных законодательством, случаев). Более того, российский специалист в области компьютерных наук, предметно исследующий вопросы «искусственного интеллекта»,
4 Федеральный закон от 08.06.2020 № 168-ФЗ «О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации» (https://www.garant.ru/products/ipo/prime/doc/74132857/ - Дата обращения: 29.10.2020)
И.С. Ашманов, обращает внимание на следующий аспект: под политические заявления об обеспечении безопасности территории крупных российских городов буквально «ковровым способом» покрывают камерами наблюдения, что автоматически переводит все население без различий в статус подозреваемых. Рассматриваемый закон вкупе с вышеозначенными обстоятельствами «подтачивает» институт доверия граждан к органам власти, усиливает социальную напряженность и может спровоцировать рост теневого сектора экономики.
Примечательно, что ст. 5 Федерального закона предусматривает обогащение регистра вышеуказанными данными не только о гражданах Российской Федерации, но и о нескольких категориях иностранных граждан — в т.ч. тех, кто получил временное убежище в России, а также временно или постоянно проживает и работает на территории страны. В данном контексте очевидна ловушка нарушения международного законодательства, нормативно-правовых актов иностранных государств, для которых защита прав и интересов собственных граждан является безусловным приоритетом. Возможно также предположить, что рассматриваемый закон таким образом провоцирует инициирование судебных разбирательств на международном уровне, эскалацию напряженности во взаимоотношениях Российской Федерации с другими государствами.
ЕФИР позиционируется как единая база федерального уровня, данные в которой будут аккумулироваться для повышения качества предоставления услуг органами власти, противодействия мошенничеству, совершенствования политики в социальной сфере. Провозглашаемые цели противоречат типу деятельности органа исполнительной власти, в ведение которого отдан ЕФИР, — Федеральная налоговая служба (ФНС), не совсем ясно то, как данный орган исключительно собственными силами намерен достигать вышеозначенных целей, тем более принимая во внимание инциденты, связанных с утечкой данных, ярким примером которых может выступить публикация данных о 20 млн российских налогоплательщиков в открытых источниках (Хвостик, Шестоперов, 2019). Ощутимо существенна вероятность расхождения заявленных и реальных целей разработки федерального регистра.
Принимая во внимание доминирование китайского «железа» и западного (прежде всего — американского) ПО, которое используют в т.ч. и российские органы власти, четко прорисовываются контуры еще одной институциональной ловушки. В настоящее время отсутствуют такие информационные системы, которые полностью были бы защищены от угроз внешнего вмешательства, взломов и хищений данных. Хранение всей информации о народонаселении Российской Федерации в одной базе данных культивирует угрозу личной и национальной безопасности, может обернуться масштабной утечкой и компрометацией, несанкционированным доступом к информации, ее использованием для совершения преступлений (Ашманов, 2020). Кроме того, закон о ЕФИР коррупциогенен в том смысле, что провоцирует лиц, обладающих доступом к персональным данным в регистре, на получение взяток в ответ на раскрытие информации, способствование реализации целей групп интересов (лоббированию) и т.д. При этом очевидно расхождение между статусом персональных данных народонаселения как государственной ценности, которая должна охраняться на уровне государственной тайны (следовательно, относить управление федеральным регистром к силовым структурам) и функциями назначенного оператором ЕФИР органа исполнительной власти, степень ответственности которого за нарушение конфиденциальности информации и уровень секретности определенно ниже, нежели у силовых структур (ФСБ, МВД).
4. Институциональные аспекты искусственного интеллекта (ИИ) на примере Китая
Государственный Совет Китайской Народной Республики принял «План развития искусственного интеллекта в КНР» в июне 2017 года. Институциональными основами внедрения искусственного интеллекта в Китае служат планы развития ИИ: «Сделано в Китае 2025», «Руководящее мнение по внедрению Интернет+»; «План развития роботоотрасли»; «Программа внедрения 3-летнего плана Интернет+».
Искусственный интеллект в Китае стал основой цифровой трансформации экономики, общества, государственного управления, кибер- и информационной, финансовой безопасности. Результатом реализации этого плана стал тот факт, что по уровню развития искусственного интеллекта КНР занимает второе место после США
Китайские лидеры в воспроизводстве ИИ — это цифровые платформы (ЦП): Алибаба, Тенсент, Байду (Осипов и др., 2019: 51—60).
С 1 января 2021 года в Китае действует повсеместная система социального рейтинга (система социального кредита), основой которой стали ИИ вкупе с большими данными, представляющими новый институт нового технологического уклада, а также сети 5G, видео и онлайн мониторинга.
Областями внедрения искусственного интеллекта в Китае являются контроль за населением; государственные услуги; социальные услуги: образование, медицина, общественный транспорт; финансовая деятельность; коммерческая сфера; правоохранительная деятельность; судебная сфера.
Использование ИИ в Китае в период «пандемии» осуществляется путем внедрения робототехники (дронов, беспилотных автомобилей и др.). ИИ все шире внедряется в военно-техническую сферу; правоохранительную область; судебную сферу и другие.
Примерами использования ИИ как института в судебной сфере являются тестирования «умных судов» (разбирательство с использованием ИИ, даже без участия судьи). ИИ применяют для исследования малозначительных уголовных дел. Используется и такая цифровая технология, как большие данные для судебных решений, исков.
Анализ показывает преимущества новой правоохранительной и судебной систем с точки зрения отсутствия коррупции, беспристрастности, позитивного (буквального) соблюдения закона; отсутствия политического и иного давления; неограниченности рабочего дня, недели, года. ИИ как институт самостоятельно принимает решения, действует в правоохранительной деятельности. В Китае создана специальная система — Платформа объединенных интегрированных операций, IJOP (Integrated Joint Operations Platform) с большими данными — БД. В нее собираются данные о «подозрительных лицах».
Отношение китайской власти к цифровым технологиям (ЦТ) и информационно-цифровым благам (ИЦБ) неоднозначно, различают свои и чужие (западные) ИЦБ. В силу обеспечения кибер- и информационной безопасности в КНР не используется американская ОС Windows. Очевидно стремление Китая к лидерству в области искусственного интеллекта, его внедрения в судебной и правохранительной системах. С одной стороны, с 1 января 2021 года действует по всей стране система социального рейтинга (система социального кредита), к которой в Китае есть доверие, что соответствует культурному коду граждан Китая. С другой стороны, например, наблюдается ограниченный доступ (в праздники и по одному часу в будни) детей к цифровым играм, к которым нет адекватного доверия.
Заключение
Научная гипотеза, выдвинутая авторами, о том, что формируются деструктивные институты и институционально-экономическое мышление в условиях цифровизации экономики и общества, развития российской модели цифровой экономики, нашла достаточное подтверждение. Действительно, возможен глобальный контроль над социальным поведением и социальными сетями, контроль над информационными потоками глобализирующегося мира в условиях «подглядывающего капитализма» («Surveillance Capitalism») в «новом дивном мире» с институциональными ловушками и фьючерсами на человеческое поведение как главном продукте цифровых гигантов Силиконовой долины. Глобальное недоверие как дамоклов меч висит над цифровым доверием. Кибер- и информационную безопасность, цифровую экономическую безопасность, цифровой суверенитет глобальные транснациональные цифровые компании не гарантируют национальным государствам и их народонаселению.
Население стран, сохраняющих или уже потерявших суверенитет, оказалось и оказывается «отстраненным» от институционализации цифровой экономики, оно не бенефициар.
Это отстранение, элементарная неосведомленность являются причинами угроз кибер- и информационной безопасности, цифровой экономической безопасности России. Растет недоверие граждан РФ к веб-порталам государственных и муниципальных органов власти, электронной торговле, онлайн-бизнесу и другим сферам информационно-цифровой экономики и в целом к формирующейся модели российской цифровой экономики с ее противоречивыми институтами.
Изложенные выше теоретические выкладки имеют практическое значение для дальнейшего развития информационно-цифровой экономики, поскольку отсутствие должного осмысления проблематики деструктивных институтов и мышления провоцирует большие риски для общества, в том числе, риски разработки и продвижения заинтересованными группами лиц интеллектуальных систем как таких технологий-институтов, которые потенциально будут контролировать общество. Риски возникновения антиутопии наяву ставят множество вопросов, в частности: насколько справедлива «шкала», по которой судит людей такая система? Могут ли оказаться исключения среди членов общества, не подпадающие под параметры «объектов контроля», которые могут действовать в обход навязанных системой норм и избежать санкций за их нарушение? Эти и иные вопросы знаменуют возникновение сложных институциональных ловушек в информационно-цифровой экономике.
СПИСОК ЛИТЕРАТУРЫ/REFERENCES
Ашманов И.С. (2020). Нас разбудят в другой стране: завтра налоговая получит все сведения о вас и вашей семье (https://roem.ru/20-05-2020/282321/nas-razbudyat-v-drugoj-strane/. — Дата обращения 28.10.2020). [Ashmanov, I.S. (2020). We will wake up in another country: tomorrow the tax office will receive all the information about you and your family. (In Russian).] Вахтина М.А. (2018). Является ли доверие признаком института? Journal of Economic Regulation 9(3): 22-36. [Vakhtina, M.A. (2018). Whether the trust is sign of institute? Journal of Economic Regulation 9(3): 22-36. (In Russian).] Вольчик В.В. (2003). Институционализм: вторичность нового мифа? (Возможности и пределы институциональной экономики). Экономический вестник Ростовского государственного университета 1(1): 132. [Volchik, V.V. (2003). Institutionalism: the secondary nature of a new myth? (Possibilities and limits of institutional economics). Economic Bulletin of Rostov State University 1(1): 132. (In Russian).] Вольчик В.В. (2012). Проблема доверия и модернизация институтов. Terra Economicus 10(2): 12-14. [Volchik, V.V. (2012). The issue of confidence and institutional modernization. Terra Economicus 10(2): 12-14. (In Russian).] Даль В.И. (2000). Толковый словарь живого великорусского языка: В 4 т. Т. 1: А-З / Под ред. Проф. И.А. Бодуэна де Куртенэ. М.: Терра, 912 с. [Dal, V.I. (2000). Explanatory Dictionary of the Russian Language: In 4 volumes. Vol. 1: A-Z / Ed. Prof. I.A. Baudouin de Courtenay. Moscow, Terra, 912 p. (In Russian).] Дятлов С.А. (2021). Искусственный интеллект как институт развития цифровой нейросетевой экономики. Известия Санкт-Петербургского государственного экономического университета (2): 25-29. (https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-institut-rak-vitiya-tsifrovoy-neyro-setevoy-ekonomiki/viewer. - Дата обращения: 30.08.2021). [Dyatlov, S.A. (2021). Artificial intelligence as an institute for the development of a digital neural network economy. Izvestiya of the St. Petersburg State University of Economics, 2(128): 25-29. (In Russian).]
Ершова Т.В. (2018). Доверие и безопасность в цифровой экономике. Цифровизация и национальная безопасность. Абалкинские чтения - форум Вольного экономического общества России. Москва, 06.03.2018 (https://digital.msu.ru/wp-content/uploads/2018-03-06-Доверие-и-безопасность_Ершова-v.2.pdf. - Дата обращения: 07.07.2021). [Ershova, T.V. (2018). Trust and security in the digital economy. Digitalization and national security. Abalkin Readings - Forum of the Free Economic Society of Russia. Moscow, 06.03.2018. (In Russian).]
Заседание Научно-экспертного совета при председателе СФ. Запись трансляции 13 ноября 2020 года (https://www.youtube.com/watch?v=SeEtgsqNoLg&t=4374s. - Дата обращения: 25.11.2020). [Meeting of the Scientific and Expert Council under the Chairman of the Federation Council. Broadcast recording. 13.11.2020. (In Russian).] Костылева Т. (2019). Россия заняла 26 место в индексе кибербезопасности МСЭ 2018 (https:// d-russia.ru/rossiya-zanyala-26-mesto-v-indekse-kiberbezopasnosti-mse-2018.html. — Дата обращения: 31.08.2021). [Kostyleva, T. (2019). Russia ranked 26th in the ITU 2018 Cybersecurity Index. (In Russian).]
Коулман Дж. (2001). Капитал социальный и человеческий. Общественные науки и современность (3): 122—139. [Coleman, J. (2001). Social and human capital. Social Sciences and Contemporary World (3): 122—139. (In Russian).] Кривошеева-Медянцева Д.Д. (2013). Доверие как фактор экономического развития: исследования с позиций институциональной экономической теории. Terra Economicus 11(2): 15—20. [Krivosheeva-Medyantseva, D.D. (2013). Trust as a factor of economic development: studies conducted within the framework of institutional economic theory. Terra Economicus 11(2): 15—20. (In Russian).] Майнцер К. (2015). Исследуя сложность: от искусственной жизни и искусственного интеллекта к киберфизическим системам. Философия науки и техники 20(2): 85—105. [Mainzer, K. (2015). Exploring Complexity: from Artificial Life and Artificial Intelligence to Cyberphysical Systems. Philosophy of Science and Technology 20(2): 85—105. (In Russian).] Никишина Е.Н., Припузова Н.А. (2022). Институциональное доверие как фактор отношения к новым технологиям. Journal of Institutional Studies 14(2): 22—35. [Nikishina, E.N., Pripuzova, N.A. (2022). Institutional trust as a factor in attitudes toward new technologies. Journal of Institutional Studies 14(2): 22—35. (In Russian).] Нуреев Р.М., Сурхаев И.Д. (2021). Цифровизация экономики: новая роль социальных сетей. Journal of Institutional Studies 13(2): 6—26. [Nureev, R.M., Surkhaev, I.D. (2021). Digitalization of the economy: The new role of social media. Journal of Institutional Studies 13(2): 6—26. (In Russian).] Осипов Ю.М., Юдина Т.Н., Гелисханов И.З. (2019). Информационно-цифровая экономика: концепт, основные параметры и механизмы реализации. Вестник Московского университета. Серия 6: Экономика (3): 51—60. [Osipov, Yu.M., Yudina, T.N., Kupchishina, E.V. (2019). InformationDigital Economy: Concept, Basic Parameters and Implementation Mechanisms. Moscow University Economics Bulletin. Series 6: Economics (3): 51—60. (In Russian).] Осипов Ю.М., Юдина Т.Н., Купчишина Е.В. (2020). «Искусственный интеллект», большие данные как институты экономики нового технологического поколения. Вестник Московского университета. Серия 6: Экономика (4): 27—46. [Osipov, Yu.M., Yudina, T.N., Kupchishina, E.V. (2020). Artificial Intelligence, Big Data as Institutions of New Technological Generation of Economy. Moscow University Economics Bulletin. Series 6: Economics (6): 27—46. (In Russian).] Пустовойтова Е. (2021). Власть цифры. «Facebook можно назвать криминальным синдикатом» (https://ruskline.ru/opp/2021/04/20/vlast_cifry. — Дата обращения: 20.04.2021). [Pustovoitova, E. (2021). The Power of a Digit. «Facebook can be called a crime syndicate». (In Russian).] Селигмен А. (2002). Проблема доверия. М.: Идея-Пресс, 254 с. [Seligman, A. (2002). The Problem
of Trust. M.: Idea-Press, 254 p. (In Russian).] Фукуяма Ф. (2004). Доверие: социальные добродетели и путь к процветанию. М.: ООО «Издательство АСТ»: ЗАО НПП «Ермак», 730 с. [Fukuyama, F. (2004). Trust: The Social Virtues and The Creation of Prosperity. M., AST Publishers LLC, SIE Ermak JSC, 730 p. (In Russian).] Хвостик Е., Шестоперов Д. (2019). ФНС считает провокацией публикацию об утечке персональных данных 20 млн россиян. Компания Comparitech ранее сообщила, что база с налоговой информацией попала в открытый доступ. Коммерсант. 01.10.2019 (обновлено 02.10). (https:// www.kommersant.ru/doc/4110818. — Дата обращения: 30.10.2020). [Khvostik, E., Shestoperov, D. (2019). FTS considers the publication about the leakage of personal data of 20 million Russians as a provocation. Comparitech previously reported that the database with tax information was made publicly available. Kommersant. 01.10.2019 (updated 02.10). (In Russian).]
Шаститко А.Е. (2022). Достоверность обязательств в контрактных отношениях: где пределы возможного? Управленец 13(2): 20—33. [Shastitko, A.E. (2022). Credible commitments in contract relations: Where are the limits of the possible? Upravlenets/The Manager 13(2): 20-33. (In Russian).]
Шваб К. (2018). Технологии четвертой промышленной революции: [пер. с английского] / К. Шваб, Н. Дэвис. М.: Эксмо, 320 с. [Schwab, K. (2018). Shaping the Fourth Industrial Revolution / K. Schwab, N. Davis. Moscow, EKSMO, 320 p. (In Russian).]
Э.В. Ильенков: личность и творчество / Редактор-составитель И.П. Фарман (1999). М.: «Языки русской культуры», с. 178. [E.V. Ilyenkov: personality and creativity / Editor-compiler I.P. Farman (1999). Moscow, «Languages of Russian culture». P. 178. (In Russian).]
Юдина Т.Н. (2018). «Подглядывающий капитализм» как «цифровая экономика» и/или «цифровое общество». Теоретическая экономика 4(46): 13-17. [Yudina, T.N. (2018). «Surveillance Capitalism» as «Digital Economy» and/ or "Digital Society". Theoretical Economics 4(46): 13-17. (In Russian).]
Brynjolfsson, E., McAfee, A. (2017). The Business of Artificial Intelligence. (https://hbr.org/cover-story/2017/07/the-business-of-artificial-intelligence. — Access date: 15.12.2020).
Parkes, D.C., Wellman, M.P. (2015). Economic Reasoning and Artificial Intelligence. Science 349(6245): 267-272.
UN, UNCTAD (2017). Information Economy Report: Digitalization, Trade and Development. N.Y. & Geneva, UN, UNCTAD, 112 p.
Zuboff, S. (2015). Big Other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology 30(1): 75-89.
Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. NY, Public Affairs, Hachette Book Group.
Zuiderwijk, A, Chen, Y.-C., Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly 38(3): 1-19.
