CC BY
19
СИСТЕМНЫМ УЧЕТ
ПОСЛЕДСТВИЙ
ЦИФРОВИЗАЦИИ
ОБЩЕСТВА И ПРОБЛЕМЫ
БЕЗОПАСНОСТИ
SYSTEMIC
CONSIDERATIONS
OF THE CONSEQUENCES
OF DIGITALIZATION
OF SOCIETY AND THE
PROBLEM OF SECURITY
Г.Б. КЛЕЙНЕР
Член Президиума ВЭО России, заместитель научного руководителя, руководитель научного направления «Мезоэкономика, микроэкономика, корпоративная экономика» ЦЭМИ РАН, член-корреспондент РАН, академик
G.B. KLEINER
Member of the Presidium of VEO of Russia, Deputy Scientific Leader, Head of the Research Division «Mesoeconomics, Microeconomics, Corporate Economics», CEMI RAS, Corresponding Member of RAS, Academician of RANS, Doctor of Economics, Professor
АННОТАЦИЯ
Ключевые факторы и источники нарушения безопасности личности и общества в цифровой экономике рассматриваются в статье с позиций системной экономической теории. Обосновывается необходимость системного подхода к процессам становления и развития цифрового общества, что позволяет выявить не только ожидаемые, но и неожиданные явления в цифровом обществе,угрожающие его безопасности. «Интернет людей», «интернет вещей», «интернет идей», «интернет путей» и, наконец, «интернет систем» рассматриваются как стадии развития цифрового общества в
ABSTRACT
In the article key factors and sources of violation of the security of the individual and society in the digital economy from positions of system economic theory are considered. The necessity of a system approach to the processes of formation and development of a digital society, which allows to reveal not only expected, but also unexpected phenomena in the digital society that threaten its security is grounded.The internet of people, the internet of things, the internet of ideas, the internet of ways and, at last, the internet of systems as stages of development of a digital society in Russia are considered.
КЛЮЧЕВЫЕ СЛОВА
Цифровое общество, безопасность, системная экономическая теория, «интернет людей», «интернет вещей», «интернет идей», «интернет путей», «интернет систем»
KEYWORDS
Digital society, security, system economic theory, internet of people, internet of things, internet of ideas, internet of ways, internet of systems.
Ускоренное развитие и кардинальное расширение применения цифровых технологий в экономике приведет, по сути дела, к появлению нового организационно-экономического уклада общества (Иванов, Мали-
нецкий, 2017; Бойченко, 2016). Уровень безопасности при этом не только не возрастет, но и может существенно снизиться. Пространственная безопасность, т.е. укрытие элементов данных в местах, недоступных ни чужому глазу, ни чужим рукам, в случае электронной записи данных будет по существу недостижима. Доступ к личным данным уже сейчас практически не контролируется. В дальнейшем орудия взлома устройств, хранящих конфиденциальную информацию, будут усовершенствованы настолько, что могут стать практически «абсолютным оружием». Если для ограничения доступа к информации бумажный носитель достаточно положить в сравнительно недорогой сейф, то для охраны баз данных необходимы затраты, сопоставимые с усилиями по охране периметра границ государства. Тем не менее мир бумажных носителей информации, включая деньги, уже сейчас уступает место миру виртуальных баз (фрагментов) данных.
Решающее значение в деле обеспечения общей многоуровневой безопасности в цифровой экономике имеет системный учет всех существенных факторов, способных разрушить конструкцию безопасности общества. Естественной теоретической базой для такого учета может стать современная теория социально-экономических систем, или системная экономика (Клейнер, 2013; Клейнер, Рыбачук, 2017). Для структуризации факторов угроз безопасности заметим, что все виды материи делятся на следующие четыре группы:
• материя неживая;
• материя живая;
• материя духовная;
• материя социальная.
Переход к цифровой эре затрагивает все эти четыре сферы. В сфере неживой материи цифровые технологии и раньше охватывали процессы автоматического сбора данных о природных явлениях и состояниях природы во всех уголках планеты.
В цифровой экономике эта сфера расширяется и включает в себя данные о состоянии и движении многочисленных артефактов: приборов, устройств, оборудования, зданий, сооружений, транспортных средств, средств накопления и передачи данных и т.п. Здесь расширяется дистанционное взаимодействие между управляемыми устройствами без участия человека, а также обеспечивается взаимодействие с цифровыми данными, относящимися к сфере природных явлений. В совокупности такая ситуация кратко обозначается в современном дискурсе как «интернет вещей».
Живая материя — мир флоры, фауны и человека в его физическом выражении — также испытывает на себе влияние развития цифровых технологий. Наблюдение за флорой и фауной в данный период сводится в основном к пассивному сбору информации о жизнедеятельности отдельных особей, однако уже сейчас автоматическое оборудование для содержания сельскохозяйственных животных (а в последнее время и домашних питомцев) подключается к интернету и управляется без участия человека. Наблюдение за физическими лицами также получило широкое распространение благодаря телевизионной технике, персональным компьютерам, переговорным устройствам, смартфонам и т.д. Очевидным образом в ближайшем будущем следует ожидать активизации обратных связей — воздействия внешних сигналов на поведение человека, животных, растений и других представителей живой материи. Фактически происходит
интеграция систем сбора данных и регулирования живой и неживой материи. В современном дискурсе ситуация в этой сфере описывается выражением «интернет людей».
Сфера идеологии, или духовная сфера, очевидно, также будет выходить из-под непосредственного влияния человека. Разнообразные идейные и идеологические конструкции, попадая во всемирную компьютерную сеть, начнут вступать во взаимодействие друг с другом и порождать новые идеи и идеологии. Технологии создания искусственного интеллекта позволят структурировать смысловую сферу данных, конструировать и деконструировать новые смыслы. Уплотнение идеосферы неизбежно будет порождать «информационные сгустки» — насыщенные интеллектуальной энергией системы, способные к самостоятельному существованию и развитию в течение определенного времени, обладающие неограниченным доступом к информации и практически неограниченными возможностями влияния на миры живой и неживой материи. Такие пространственно-временные конфигурации в цифровой сфере можно уподобить шаровой молнии в атмосфере. Технологии дополненной реальности и сокращенной реальности сделают проблему различения реального от виртуального мира теоретически неразрешимой. Эта ситуация может быть кратко охарактеризована выражением «интернет идей». Духовный мир человека теряет определенность, отделимость, самостоятельность и, по сути, растворяется в общественном сознании.
Общественное сознание в этих условиях не сводится к простому объединению сознания индивидов, а представляет собой сложную амальгаму идеосфер отдельных людей, групп, слоев, кланов, дополненную автоматически возникающими тезисами, идеями, образами, целевыми
68
ориентирами. Это позволяет, с одной стороны, манипулировать общественным сознанием за счет использования собираемой информации, с другой — ожидать непредсказуемых изменений общественного, или группового, сознания в результате случайного сочетания цифровых информационных последовательностей. В таких случаях возможно возникновение неожиданных общественных движений, базирующихся на не продуманных человеком идеологических схемах. Условно данную ситуацию можно охарактеризовать как «интернет путей» (имеются в виду траектории социального развития и маршруты социальных движений).
Таким образом, развитие интернет-технологий и сопряженных с ними общественных явлений можно охарактеризовать как:
• «интернет людей»;
• «интернет вещей»;
• «интернет идей»;
• «интернет путей».
Проблемы безопасности возникают на каждом из этих уровней, но наибольшего внимания требуют идеосфера как результат функционирования «интернета идей» и сфера социально-экономических решений как результат функционирования «интернета путей». Формирование системы критериев, которые позволили бы отсекать опасные для распространения в обществе идеи и решения, представляет собой весьма сложную задачу. Такую задачу невозможно поручить искусственному интеллекту, поскольку критерии отсечения вариантов по мотивам безопасности должны опираться не только на исторические прецеденты, межстрановые аналогии и экстраполяционные прогнозы, но и учитывать
эмоции, настроения, склонности и другие элементы индивидуального, коллективного и общественного сознания.
Вопрос о роли, месте и возможностях искусственного интеллекта в принятии социально значимых решений требует особого внимания с точки зрения общественной безопасности. Если такие решения принимаются реальными людьми, то они, как правило, являются результатом осознания, изучения и сопоставления проблем, возникающих в социальной, экономической, технико-технологической или природной сферах. После выявления проблема детализируется, анализируется, сопровождается кругом возможных вариантов решений и, наконец, принятием снимающего проблему решения. В целом речь идет об известной последовательности: идентификация проблемы — постановка задачи — формирование вариантов решений — выбор (отбор) решения — принятие (утверждение) решения. Какие составляющие этой последовательности могут быть безоговорочно поручены искусственному интеллекту? Следует полагать, что первый и последний этапы вряд ли могут выполняться без участия человека. Если решение задачи, включая формирование множества допустимых вариантов и выбор из них наилучшего, может быть поручено искусственному интеллекту, то выявление задачи и утверждение предназначенного для реализации варианта решения задачи не могут входить в прерогативы автоматических систем.
Такой подход не ограничивает совершенствование искусственного интеллекта, но обеспечивает безопасность развития человека и общества. Различие между искусственным интеллектом системы и естественным интеллектом человека обусловлено следующим. Для того чтобы искусственный интеллект был подобен естественному интеллекту челове-
ка, искусственный прототип должен прожить жизнь, соответствующую жизни человека, начиная с внутриутробного развития и заканчивая обретением социального статуса. В последнее время делаются попытки подмены такой эволюции отдельного индивида совокупностью данных о развитии множества индивидов, находящихся на разных стадиях эволюции (своеобразный эргодический принцип). Такая замена не может считаться эквивалентной, поскольку основой поведения индивида является именно его жизненный опыт, а не фрагменты жизненного опыта большой совокупности других индивидов (размер совокупности должен быть значительным, чтобы отразить все значимые этапы эволюции отдельного индивида).
В подавляющем большинстве работ, посвященных анализу последствий цифровизации общества с точки зрения безопасности, основное внимание уделяется безопасности личных данных (Иванов, Малинецкий, 2017; Ведута, Джакубова, 2017). Между тем личные данные составляют лишь небольшую часть исходной информации, используемой для постановки и анализа задач и принятия решений. Каждый индивид является членом (ассоциированным членом) нескольких социальных систем, включая семью, место его работы, обучения, проведения досуга и т.п. Среди этих систем есть долговременные и кратковременные, локализованные и не имеющие определенных границ. Некоторые из систем являются формализованными, имеют законодательное оформление и могут рассматриваться как своеобразные системные субъекты в обществе. Другие носят неформальный характер и с трудом выявляются и идентифицируются. В будущем неизбежным шагом станет цифровизация соци-
ально-экономических систем со всеми их особенностями и свойствами. Цифровое отражение таких систем в инфор-мационно-коммуникационнойирегуляторно-управляющей средах приведет к еще одной стадии развития цифрового общества, которую можно условно назвать «интернет систем». Общение таких систем, как предприятия, политические партии, федеральные, региональные, муниципальные и иные органы власти, сетевые сообщества, фондовый рынок и т.п., между собой без участия человека создает благоприятную ситуацию для появления упомянутых выше в связи с проблемами искусственного интеллекта информационных сгустков. На стадии развитого цифрового общества такие информационные сгустки, как мы упоминали выше, фактически могут становиться субъектами принятия решений, от которых зависит жизнедеятельность огромного количества физических и юридических лиц. Проблема возникновения и непредсказуемого воздействия на общество спонтанных и безответственных информационных сгустков представляет собой один из наиболее значимых вызовов для безопасности общества. Отсюда следует, что «интернету систем» должно быть уделено первостепенное внимание при реализации программ становления информационного общества в России. Неучет системных свойств экономики и общества — характерная черта большинства программных документов в сфере информатизации (Программа «Цифровая экономика...», 2017).
Проблему безопасности в контексте развития цифрового общества необходимо рассматривать в системном ключе. Неучет системности грозит утратой эффективности во всех сферах цифровизации. Разумеется, невозможно учесть
72
все системные связи и взаимодействия в экономике и обществе, однако необходимо каждый раз четко осознавать, какие системные аспекты учтены в данной модели цифро-визации, а какие — нет (см. (Клейнер, 2018)).
Библиографический список
1. Бойченко A.B. Причины возникновения и особенности информационного общества // Ученые записки Института социальных и гуманитарных знаний. — Казань. — 2016. — Вып. № 1 (14).
2. Ведута E.H., Джакубова Т.Н. Big Data и экономическая кибернетика [Электронный ресурс] // Государственное управление. Электронный вестник. 2017. — Режим доступа: https://cyberleninka.ru/ article /n/big-data-i-ekonomicheskaya-kibernetika (дата обращения: 17.03.2018).
3. Иванов В.В., Малинецкий Г.Г. Цифровая экономика: мифы, реальность, перспектива [Электронный ресурс] / РАН. — М., 2017. — Режим доступа: www.ras.ru (дата обращения: 17.03.2018).
4. Клейнер Г. Системная экономика как платформа развития современной экономической теории // Вопросы экономики. — 2013. — № 6.-С.4-28.
5. Клейнер Г.Б. Системные основы цифровой экономики // Философия хозяйства. - 2018. - № 1. - С. 131-142.
6. Клейнер Г.Б., Рыбачук М.А. Системная сбалансированность экономики: монография / Федеральное государственное бюджетное учреждение науки Центральный экономико-математический институт Российской академии наук. — М.: Издательский дом «Научная библиотека», 2017. — 320 с.
7. Программа «Цифровая экономика Российской Федерации», утв. Распоряжением Правительства РФ от 28 июля 2017 г. № 1632-р [Электронный ресурс]. — Режим доступа: http: //static.government.
ru /media /files /9gFM4FHj4PsB79I5v7yLVuPgu4bvR7M0.pdf (дата обращения: 17.03.2018). References
1. Bojchenko A.V. Prichiny vozniknovenija i osobennosti informacionno-go obshhestva // Uchenye zapiski Instituta social'nyh i gumanitarnyh znanij. - Kazan'. - 2016. -Vyp. № 1 (14).
2. Veduta E.N., Dzhakubova T.N. Big Data i jekonomicheskaja kibernet-ika [Jelektronnyj resurs] // Gosudarstvennoe upravlenie. Jelektronnyj vestnik. 2017. — Rezhim dostupa: https://cyberleninka.ru/article/n/big-data-i-ekonomicheskaya-kibernetika (data obrashhenija: 17.03.2018).
3. Ivanov V.V., Malineckij G.G. Cifrovaja jekonomika: mify, real'nost', perspektiva [Jelektronnyj resurs] / RAN. — M., 2017. — Rezhim dostupa: www.ras.ru (data obrashhenija: 17.03.2018).
4. Klejner G. Sistemnaja jekonomika как platforma razvitija sovremen-noj jekonomicheskoj teorii //Voprosy jekonomiki. — 2013. — № 6. — S. 4-28.
5. Klejner G.B. Sistemnye osnovy cifrovoj jekonomiki // Filosofija hozjajstva. - 2018. - № 1. - S. 131-142.
6. Klejner G.B., Rybachuk M.A. Sistemnaja sbalansirovannost' jekonomiki: monografija/Federal'noe gosudarstvennoe bjudzhetnoe uchre-zhdenie nauki Central'nyj jekonomiko-matematicheskij institut Rossijskoj akademii nauk. — M.: Izdatel'skij dorn «Nauchnaja bibliote-ka», 2017. -320 s.
7. Programma «Cifrovaja jekonomika Rossijskoj Federacii», utv. Raspor-jazheniem Pravitel'stva RF ot 28 ijulja 2017 g. № 1632-r [Jelektronnyj resurs]. — Rezhim dostupa: http: //static.government.ru/media/ files/9gFM4FHj4PsB79I5v7yLVuPgu4bvR7M0.pdf (data obrashhenija: 17.03.2018).
