CC BY
142УДК 008
Малинецкий Георгий Геннадьевич,
д-р физ.-мат. наук, профессор, зав.отделом
ПЕРСПЕКТИВЫ И РИСКИ ЦИФРОВОЙ РЕАЛЬНОСТИ
Россия. Москва.
Институт прикладной математики им. М.В. Келдыша РАН
GMalin@Keldysh.ru
Аннотация. С междисциплинарных позиций рассматривается концепция цифровой экономики и ее воплощение в программах, принятых в России. Показывается тесная связь этих документов с теорией четвертой промышленной революции, выдвинутой основателем Давосского экономического форума Клаусом Швабом. Выделен ряд ключевых направлений, развитие которых может существенно повысить социально-экономическую эффективность программы цифровой экономики. Особое внимание уделено рискам и угрозам цифровой реальности. Намечены пути, позволяющие парировать эти угрозы.
Ключевые слова: цифровая экономика, теория самоорганизации, гуманитарно-технологическая революция, система распределенных ситуационных центров, управление рисками
Georgii G. Malinetskiy, Prospects and risks of digital reality
PROSPECTS AND RISKS OF DIGITAL REALITY
Russia. Modkau.
RAS Keldysh Institute of Applied Mathematics GMalin@Keldysh.ru
From an interdisciplinary perspective, I view the concept of the digital economy and its implementation in programs adopted in Russia. I show the close connection of these documents with the theory of the fourth industrial revolution, put forward by the founder of the Davos Economic Forum, Klaus Schwab. I highlight a number of key areas, the development of which can significantly improve the socio-economic effectiveness of the digital economy program. I pay special attention to the risks and threats of digital reality. I outline ways to counter these threats.
Keywords: digital economy, self-organization theory, humanitarian and technological revolution, system of distributed situational centers, risk management
1. Предыстория
В этих заметках рассматриваются концепции цифровой революции, сложившиеся в ходе работы научного семинара «Будущее прикладной математики» в ИПМ им. М.В.Келдыша РАН, а также в ходе выполнения ряда российско-белорусских проектов.
Концепция современной цифровой экономики развивает тради-
цию, заложенную в XVII в. выдающимся философом, математиком, физиком, юристом, языковедом Готфридом Вильгельмом Лейбницем (1646-1716). Этот мыслитель высказал две пророческие идеи, относящиеся к цифровой революции. Первая связана с трактовкой математики, как «науки о возможных мирах». Эта идея была высказана задолго до появления неевклидовых геометрий и нестандартного анализа. Лейбниц предложил двоичную систему счисления и на этой основе построил механический калькулятор, который мог делить и умножать. Вторая идея Лейбница связана со «считающими машинами», которым принадлежит будущее, которые будут настолько точны и эффективны, что им можно будет поручить судопроизводство.
Появление и стремительное развитие компьютерной индустрии сделало мечту Лейбница реальностью. В американском правосудии всё чаще используются электронные помощники адвокатов, прокуроров, судей, следователей [1], им передают всё больше функций.
Ведущим идеологом новый цифровой реальности является основатель Давосского экономического форума, в котором на основе работы сотен экспертов намечаются контуры желаемого и планируемого будущего, Клаус Шваб. По его мысли «Мы стоим у истоков четвертой промышленной революции. Она началась на рубеже нового тысячелетия и опирается на цифровую революцию. Ее основные черты - это «вездесущий» и мобильный Интернет, миниатюрные производственные устройства (которые постоянно дешевеют), искусственный интеллект и обучающиеся машины». [2]. Эксперты Давосского форума выделили 21 переломный момент, которые ожидаются до 2025 г. Среди них: «10% носят одежду, подключенную к сети Интернет; 1 трлн датчиков, подключенных к сети Интернет; первый имеющийся в продаже имплантируемый мобильный телефон; правительство впервые собирает налоги их помощью цепочки блоков (технологии блокчейн); первый робот с искусственным интеллектом в составе корпоративного совета директоров...».
Реализация этого проекта кардинально изменит многое - она сделает мир «прозрачным», наблюдаемым и управляемым гораздо в большей степени, чем раньше. Человек при этом, по сути, лишается личной свободы и личного пространства. Возможные последствия этого наглядно представлены в фильме антиутопии «Матрица», снятом братьями Ва-човски в 1999 г. Реализация давосского проекта приведет к огромным социальным рискам и коренным переменам в обществе.
Эту проблему прекрасно осознавал создатель кибернетики Нор-берт Винер. В 1947 г., размышляя о «второй» (цифровой) революции, он писал: «Современная промышленная революция должна обесценить человеческий мозг, по крайней мере в его наиболее простых и рутинных
функциях. Но представим себе, что вторая революция завершена. Тогда средний человек со средними или ещё меньшими способностями не сможет предложить для продажи ничего, за что стоило бы платить деньги. Выход один - построить общество, основанное на человеческих ценностях, отличных от купли-продажи» [3]. Капитализм и технологическое развитие становятся несовместимы.
2. Российские реалии
Российские программы развития цифровой экономики в значительной степени следуют логике давосского проекта. В частности, в программе «Цифровая экономика РФ» обозначены 8 ключевых направлений: «государственное регулирование; информационная инфраструктура; исследования и разработки; кадры и образование; информационная безопасность; государственное управление; умный город; цифровое здравоохранение». В эту программу предполагается ежегодно вкладывать более 100 млрд, а в общем речь идет о триллионах. Мне довелось обсуждать эту программу в Российском союзе промышленников и предпринимателей, на факультете вычислительной математики и кибернетики МГУ и еще на нескольких площадках с разработчиками, будущими исполнителями, заинтересованными лицами. Однако ни сама программа, ни один из моих собеседников не дали ответа на очевидный вопрос, -каким образом удастся хотя бы вернуть вложенные деньги.
Вопрос не праздный. Например, данные по скорости роста муль-тифакторной (труда и капитала) производительности экономики США показывают, что, по сравнению с «золотым десятилетием» 1958-1968, она уменьшилась примерно в 10 раз, несмотря на тотальное внедрение компьютеров. Кроме того, глобальный валовой продукт в 2015 и 2016 гг. вырос на 2,3-2,5%. В то же время мировой сегмент цифровой экономики, составляющий 5% мирового продукта и более $3,4 трлн, не вырос вообще. В 2015 г. он сократился на 5,8%, а в 2016 г. уменьшился на 0,6% [4]. Это не обещает радужных перспектив.
Очевидно, «давосские императивы» связаны не с экономикой, а с решением социальных, гуманитарных, политических проблем. По выражению известного экономиста В.В. Иванова, в настоящее время происходит гуманитарно-технологическая революция. Вероятно, она приведет к смене социального строя, социально-экономической формации, самого мироустройства. В самом деле, в развитых странах в сельском хозяйстве работают около 2% населения, в промышленности 10%, в управлении -13%. Что должны делать остальные 75%? Чем их занять? Ведь праздный мозг - мастерская дьявола. Пока эту задачу - убийство свободного времени - успешно решают компьютеры. Социологические данные показывают, что российские мужчины в среднем уделяют женщинам и де-
тям 45 минут в сутки, а виртуальным развлечением за экранами компьютеров или со своими гаджетами... более 6 часов. Это раскалывает общество. Например, 92,3% людей в возрасте от 14 до 25 лет в России следят за рэп-баттлами, участники которых непристойно оскорбляют друг друга [5].
Вместе с тем у России есть насущные потребности, решение которых непосредственно связано с цифровой экономикой.
В настоящее время в кризисе находится электроника, что представляет угрозу для национальной безопасности, а в условиях санкций и для экономического развития, лишая нас многих конкурентных преимуществ. В частности, до введения санкций в 2013 г. Россия закупала более, чем на $12 млрд электроники и более, чем на $6 млрд компьютерно-офисной техники. При этом «Микрон» и «Ангстрем» в своё время работали на мировом уровне. Есть и традиции, и подготовленные кадры. Важны целеполагание, координация усилий и инвестиции в модернизацию оборудования. Это могло бы стать одним из ключевых направлений программы развития цифровой экономики.
Другое направление связано со стремительно развивающейся робототехникой. Сейчас в мире на 10 000 работающих приходится 69 промышленных роботов, в Южной Корее - 540, в Японии более 300 в России. 2. Эту ситуацию надо быстро менять - в промышленном производстве и сельском хозяйстве уже недалекого будущего роботы будут играть ключевую роль. Это другое, более высокое качество работы, а также способность выполнять технологические операции, недоступные для человека. Кроме того, у России и здесь есть большой научный, технологический и кадровый задел. Например, российские и белорусские школьники заняли первые места на мировой олимпиаде школьников по робототехнике в 2017 г. в Коста-Рике.
Принципиальную роль в социальных системах играет управление. Цифровые технологии позволяют организовать более быструю и короткую связь между субъектом и объектом управления. Источником нестабильности и недоверия к власти являются процедуры голосования, реальные или вымышленные фальсификации результатов выборов (известное: «Неважно кто и как голосует, важно, кто считает»). Технологии блокчейн позволяют снять проблему. Каждому избирателю может быть выдан уникальный анонимный цифровой код (как кошелёк при генерировании криптовалют). Результаты голосования записываются в распределенный реестр, и каждый может проверить, в чью пользу был посчитан его голос, и немедленно доказать наличие ошибки. Широко применяемые процедуры прямой демократии могут многое изменить в обществе.
Кроме того, эффективность государственного, регионального,
корпоративного управления зависит от качества мониторинга социально-экономических процессов, от уровня рефлексии (глубины и адекватности) положения дел, от прогноза наиболее вероятной реакции системы на предлагаемые управляющие воздействия субъекта и от контроля выполнения решений.
Чтобы обеспечить всё это, в настоящее время в России создается система распределенных ситуационных центров субъектов федерации, органов государственной власти, крупнейших компаний и отраслей промышленности. Было бы важно, чтобы это были не обычные ситуационные центры, для которых характерно только наличие больших экранов, наглядное представление информации и удобная мебель для участников обсуждения, но и нечто большее - они должны стать когнитивными центрами. В последних имеются системы математических моделей управляемых объектов, большие базы данных и знаний, возможность привлечения территориально удаленных экспертов, а также алгоритмы работы с большими информационными потоками, позволяющие выделять предвестники чрезвычайной ситуации. Подобные структуры могут быть использованы в различных режимах. В частности, для знакомства представителей общественных организаций с реальным положением дел в регионе и моделирования последствий выдвигаемых ими инициатив. В этом случае можно говорить о центрах развития, меняющих социально-политическую ситуацию на разных уровнях, позволяющих перейти к управлению на основе знания, к формированию стратегического субъекта, готового взять на себя ответственность за различные сферы жизнедеятельности [6].
По мировой статистике каждый рубль, вложенный в прогноз и предупреждение бедствий и катастроф, позволяет сэкономить от 10 до 100 рублей, которые пришлось бы вложить в смягчение и ликвидацию последствий уже произошедших бед. Поэтому когнитивные центры, центры развития с их цифровой периферией могли бы дать очень большой экономический эффект и стать одним из главных направлений развития цифровой экономики.
В соответствии с теорией выдающегося экономиста Н.Д. Кондратьева войны, кризисы, революции определяются большими волнами технологического развития, сменой технологических укладов. В настоящее время страны-лидеры входит в VI технологический уклад, среди локомотивных отраслей которого биотехнология, робототехника, высокие гуманитарные технологии [7, 8]. И в этом контексте микроэлектроника, интернет, компьютеры, с экономической точки зрения, не будущее и не настоящее, а, скорее, недавнее прошлое. Развивая отрасли, связанные с цифровой экономикой, мы, скорее, «подтягиваем тылы» и
восполняем пробелы, чем рвемся вперед.
Одно из наиболее интересных приложений цифровой экономики -биотехнологии в целом и технологии секвенирования генома в частности. Наступает эра персональной геномики. Здесь происходит революция - цена секвенирования генома за 10 лет упала в 20 тыс. раз (суперкомпьютеры играют важную роль в этих методиках).
К концу правления Барака Обамы каждый доллар, вложенный в программу «Геном человека», дал $140 прибыли, сейчас эта сумма намного выше. Эта технология кардинально изменила медицину и фармацевтику США, правоохранительную систему и ряд военных программ. Естественно и ее рассматривать в контексте программы развития цифровой экономики.
Подводя итог, можно сказать, что в большинстве принятых и разрабатываемых в России документов цифровая экономика имеет сходство с морской свинкой - не морская и не свинка, не цифровая и не экономика. Однако есть ряд направлений, которые обладают высокой экономической эффективностью, решают ряд наших острых проблем и, будучи учтены в соответствующих программах, и воплощены в жизнь, могут дать большой импульс нашему развитию.
3. Управление рисками. Постановка задачи
В настоящее время технологии управления рисками имеют стратегическое значение. Они дают возможность объективно, в той мере, в которой это возможно на современном уровне знаний, оценивать опасность выдвигаемых проектов и принимаемых решений. В экономике связанные с управлением рисками процедуры позволяют экономить средства, ресурсы и повышают устойчивость экономических агентов по отношению ко внешним неблагоприятным обстоятельствам. Мировая статистика показывает, что каждый рубль, вложенный в прогноз и предотвращение бедствий и катастроф, может сэкономить от 10 до 100 рублей, которые пришлось бы вложить в ликвидацию уже произошедших бед. Именно технология управления рисками в совокупности с представлением о гарантированном взаимном уничтожении в случае масштабной ядерной войны обеспечивали стратегическую стабильность и позволили в течение последних 70 лет обходиться без мировых войн.
В принципе технология управления рисками представляется достаточно простой и наглядной [9]. Для предлагаемого проекта или управленческого решения вычисляется функционал Б, называемый ожидаемой полезностью
N
(1)
где N - полное число вариантов рассматриваемых событий, рг -вероятность реализации г -го сценария, х1 - приобретения и выгоды либо, соответственно, ущерб или потери в этом случае. Если рассматривать несколько вариантов - 1,...к, то выбирается тот, в котором ожидаемая полезность максимальна.
Технологии управления рисками в выбираемом варианте связаны с приведением объекта при выбранном варианте действий в состояние,
- в котором меняется N, то есть исключаются наиболее опасные, неблагоприятные варианты развития событий;
- принимаются меры, позволяющие изменить вероятность возможных нежелательных сценариев рг ;
- увеличиваются возможные приобретения и снижаются потери хг для г -го сценария развития событий.
При необходимости рассматриваются возможности «улучшения» нескольких вариантов, и затем они вновь сравниваются на основе соотношения (1), чтобы выбрать лучший.
С XVI в. именно такой способ действий, связанный с объективной оценкой ожидаемой полезности, представляется наиболее разумным. Однако исследования показывают, что очень часто лица, принимающие решения, действуют иначе. Они оценивают субъективную полезность Б и вместо соотношения (1) явно или неявно вычисляют другой функционал
м
~ = Ё (р1,Хг) • 8, (хг). (2)
г=1
Здесь М - число сценариев, берущихся в расчет, М < N. При этом зачастую игнорируются особенно «неприятные» или «шокирующие» возможности; £(р1,х1) - субъективная вероятность, отражающая наше представление о том, что «может произойти «на самом деле»». (Практика показывает, что £ (р1,х1) может очень сильно отличаться от
р1 - руководители, как правило, игнорируют то, что может произойти с
вероятностью меньшей 10-5 , а также то, что не связано со слишком большими потерями х1), 8 (хг) - субъективное представление о выгодах и потерях (психологи утверждают, что многие люди склонны преуменьшать ожидаемые потери и преувеличивать возможные выгоды).
Другими словами, принимая решения, многие руководители пользуются «кривым зеркалом» субъективной полезности. Функция исследователей, аналитиков, экспертов в данном контексте состоит в том, чтобы приблизить субъективные оценки лиц, принимающих решения, к объективным.
В последние годы проблемы управления рисками вновь оказались в центре внимания. В этом отношении большую роль сыграла концепция «черных лебедей», выдвинутая Нассимом Талебом: «То, что мы будем называть Черным лебедем (с большой буквы), - это событие, обладающее следующими тремя характеристиками. Во-первых, оно аномально, потому что ничто в прошлом его не предвещало. Во-вторых, оно обладает огромной силой воздействия. В-третьих, человеческая природа заставляет нас придумывать объяснения случившемуся после того, как оно случилось, делая событие, сначала воспринятое как сюрприз, объяснимым и предсказуемым» [10: 10].
Речь идет, на языке рисков, о том, что поле возможностей оказалось более широким, - наряду с N сценариями, которые оценивались и рассчитывались, события пошли по ^1-му, который ранее был неизвестен. В предсказании, конструировании таких возможностей, с которыми раньше дело не имели, у фантастов и футурологов есть преимущество перед учёными, которые стремятся оставаться на почве фактов и уже имеющихся знаний и опыта.
Кроме того, Талеб рассматривает и другой вариант: «Мандельбро-товские Серые лебеди - Черные лебеди, появления которых можно ожидать (землетрясения, бестселлеры, обвалы фондового рынка), но свойства которых неопределимы и параметры невычислимы» [10: 470].
На математическом языке такие «лебеди» обычно связаны со степенными, негауссовыми распределениями плотности вероятности, при которых нельзя пренебрегать очень редкими катастрофическими событиями гигантского масштаба (рк очень мало, а рк-хк сравнимо со всей суммой Б).
Наконец, есть ещё возможность, связанная с тем, что мы имеем дело с необратимо меняющимися системами, в которых и р^ и х1 изменяются со временем, либо в ходе развития приходится пересматривать и рь и
х, и N.
Прогноз - дело неблагодарное, но очень полезное. Несбывшиеся прогнозы становятся поводом для упреков в адрес ученых, а о сбывшихся предсказаниях и предотвращенных опасностях часто становится известно немногим. С другой стороны, вековая мудрость гласит: «Кто предупрежден, тот вооружен». Поэтому несбывающиеся прогнозы могут оказаться более ценными, чем сбывшиеся. В этом контексте мы и рассмотрим риски становления и развития компьютерной реальности.
4. «Быстрый мир» и барьер Лема
Машины считают и действуют, если им позволяют, гораздо быстрее людей. Многие аналитики говорят, что глобальные компьютерные сети приводят к появлению «быстрого мира», в котором именно человек
будет самым медленным, ненадежным и уязвимым звеном. Это показывает эволюция бирж, в которых интернет-брокеры вытеснили людей.
Активно развивается космический интернет, который позволит реагировать на происходящее ещё быстрее и даст широкополосный доступ в интернет из любой точки Земли. Спутниковые системы HughesNet и ViaSat находятся на геостационарной орбите (35 тыс. км и задержка 600 мс); навигационные системы GPS, ГЛОНАСС и Galilleo используют среднюю околоземную орбиту (выше 2000 км и задержка 140 мс). Спутники Starlink и OneWeb ориентируются на орбиты 335-346 км, а также на сетевые технологии (речь идет о десятках тысяч новых спутников на орбите) и уменьшении задержки до 10 мс. Этот уровень достаточен для управления беспилотными автомобилями и многими другими техническими системами с использованием космического сегмента, а также для ряда других приложений [11]. Человек реагирует на происходящее примерно в 100, а то и в 1000 раз медленнее.
Естественно, возникает соблазн использовать эти возможности, возникающие в цифровой реальности, в военной сфере. В настоящее время в мире насчитывается примерно 14,5 тыс. ядерных зарядов, из которых около 9,5 тыс. находятся на боевом дежурстве. За 70 с лишним лет ядерной эры не было ни одного несанкционированного случая применения ядерного оружия. В литературе описано множество нештатных ситуаций, связанных со стратегическими ядерными силами (СЯС), которые, тем не менее, не привели к катастрофе. Прежде всего, это связано с мудростью, осторожностью и здравым смыслом людей в контуре управления СЯС.
Однако в настоящее время мы видим другую тенденцию, направленную, в конце концов, на вытеснение человека из этого контура. В самом деле, сейчас после информации о ракетном нападении у политических руководителей остается около 45 минут на принятие решения об ответном ударе. После выхода США из Договора о ракетах средней и малой дальности это время сократиться до 9 минут. Перспективные системы оружия ещё более уменьшат это время. И в конце концов, на информацию о нападении в «быстром мире» будут реагировать машины.
При этом возникает опасная иллюзия «что машины лучше нас во всем разберутся» либо соблазн за счёт более совершенных систем искусственного интеллекта AI нанести упреждающий удар, не получив ответного. «AI меняет главную парадигму ядерного сдерживания. В ситуации, когда у вас и у меня хватает оружия, чтобы уничтожить друг друга десять тысяч раз, становится понятно, что соревноваться в дальнейшем совершенствовании этого оружия бессмысленно. Все системы управления сейчас переключаются понемножку на то, что называется AI против AI,
потому что он быстрее. Если, как Путин говорил, будет у них две минуты на подлетное время, то за две минуты можно очень много проанализировать и понять, что это - нападение, или отвлекающий маневр, или ошибка.
Более того, на что полагались со времен Карибского кризиса, - это так называемый прямой телефон, где очень быстро успевают переговорить двое. А с А1 они успеют переговорить, допустим, шестьдесят миллионов раз. Задать друг другу два миллиарда уточняющих вопросов и получить два миллиарда уточняющих ответов. Короче, система принятия решений неотвратимо переходит на то, что мы называем А1... Есть вещи, которые не имеют корректного решения, но всё равно будут сделаны. Также и передача управления штабов командования, оценка ситуации и принятия последних решений уже сейчас потихоньку передаются на уровень А1, и в грядущие годы будет полностью туда выведено. Это означает, что с точки зрения доктрины взаимного уничтожения не меняется ничего. Изменения произойдут в области психологии. Если мы считаем, что наш искусственный интеллект мощнее, мы ударим. В результате, скорее всего, конец мира будет столь же ужасен, как без искусственных интеллектов», - говорит один из ведущих экспертов в этой области С.Карелов [12]. Трудно согласиться с последним утверждением, и мы к нему ещё вернемся.
Нынешнюю ситуацию и связанный с ней риск («Черный лебедь» в терминологии Н. Талеба) предвидел и описал польский фантаст и футуролог С. Лем. Поэтому меры, направленные на то, чтобы предотвратить передачу «последних решений» на уровень машин, можно назвать «барьером Лема». В 1980-х гг. писатель опубликовал шутливое эссе -воспоминания историка из далекого будущего о развитии систем вооружений XXI в. Во многих отношениях это эссе оказалось пророческим. Процитируем фрагмент этого текста: «Научно-технический прогресс был чреват парадоксом особого рода: чем более совершенные порождал он виды оружия, тем в большей степени эффективность их применения зависела от случайности, не поддающейся точному расчёту. Появляющиеся одна за другой новые системы оружия характеризовались возрастающим быстродействием, начиная с принятия решений (атаковать или не атаковать, где, каким образом, с какой степенью риска, какие силы оставить в резерве и т.д.); и именно это возрастающее быстродействие снова вводило в игру фактор случайности, который принципиально не поддается расчету. Это можно выразить так: системы неслыханно быстрые ошибаются неслыханно быстро». [13: 540-551]
Разница между осознанно принятым руководителем решением и игрой в «русскую рулетку» принципиальна. История в целом и Кариб-
ский кризис в частности показывают, что в первом случае шансы уцелеть у большей части человечества гораздо выше. Однако для этого у руководителей должна быть возможность принять решение. В «быстром времени», после барьера Лема мы окажемся заложниками искусственного интеллекта, наших компьютеров, программ и алгоритмов, и шансов у нас не останется.
Ситуацию усугубляет несколько обстоятельств. Во-первых, модели, алгоритмы и программы описывают явления, процессы, системы, которые мы представляем. Они ориентированы, как правило, на то, что уже происходило или происходит. Масштабный ядерный конфликт -вещь невиданная, типичный «Черный лебедь». Поэтому надеяться на адекватность моделей или на то, что «наш AI сильнее», не приходится.
Во-вторых, ещё со времен Сунь-Цзы и Клаузевица понятно, что война - область неопределенного. И военные, и спецслужбы постоянно заняты подготовкой «сюрпризов», неожиданностей для противника. Поэтому блестящая игра компьютеров в шахматы и в го, где правила четко установлены и набор фигур фиксирован, не должны вводить нас в заблуждение. В реальном конфликте на доске могут появиться совсем другие фигуры и использоваться парадоксальные стратегии. Можно вспомнить про «мягкую силу», «оранжевые революции», кибервойны, «стратегию троянского коня» и т.д. Переменные в формуле (1) могут оказаться совсем не такими, как планировали в генеральных штабах. Это прекрасно иллюстрирует опыт и Первой, и Второй мировых войн.
В-третьих, пока не удается создавать программы, в которых ошибок гораздо меньше, чем 1 на 1000 команд. По оценке экспертов, в операционной системе Windows около 50 тыс. уязвимостей и масса «недек-ларируемых возможностей». «Звездные войны» были свернуты во времена Рейгана, потому что отладка программы потребовала миллионов человеко-лет работы квалифицированных программистов. С тех пор ничего существенно не изменилось к лучшему.
В-четвертых, никто не отменял «проклятие размерности». В автомобиле около 10 тыс. деталей, в самолете - около 100 тыс. Число способов связать между собой N объектов, считая, что в каждый входит и из
него выходит лишь одна связь, равно N! = N-(N-1)-...-2-1. Но 70! > 10100,
80
а атомов во вселенной только 10 . Поэтому не стоит слишком полагаться на возможности компьютеров, и остается лишь удивляться и радоваться тому, что машины ездят, а самолеты летают.
Кроме того, опыт Фукусимы, Челленджера, Чернобыля, Титаника, катастроф на морских буровых платформах показывает, что надежность сложных технических систем в повышение которой были вложены огромные усилия, оказалось совсем не так велика, как это предполагали. В
нашем случае цена подобной ошибки несопоставимо выше.
Откуда следует один вывод - «последние решения» не могут приниматься компьютерами в «быстром времени». Нашей цивилизации нельзя преодолеть барьер Лема. Поэтому надо садиться и договариваться о пределах использования А1 в военных системах. Важно было бы сделать это сейчас, до ближайшего большого военного конфликта. Это повысит шансы на то, что он не будет последним.
5. Большие данные, социальные сети и эпоха гиперконтроля
В ходе цифровой революции по мысли давосских экспертов должен возникнуть «прозрачный мир». Иными словами, речь идет о тотальной наблюдаемости, о возможности проследить жизнь каждого человека. Это означает крупнейший культурный слом. Со времен Античности, по мысли Канта, человечество развивалось по направлению ко всё большей свободе. Если для осуществления власти на заре истории был необходим бич надсмотрщика, то сейчас мы пришли к «мягкой силе», которая стремится не принуждать, а убеждать. Тотальный контроль, который делают возможным современные цифровые технологии, дает возможность обеспечить тотальный контроль над всем обществом. Но контроль кого?
По мнению французского футуролога Жака Аттали и академика Н.Н. Моисеева, этот контроль будет осуществляться, исходя из интересов транснациональных корпораций, которые постараются уничтожить существующие государства или, по крайней мере, существенно уменьшить их влияние. «Наблюдение - модное словечко грядущих времен. С помощью новейших технологий можно будет узнавать всё о происхождении продукции и передвижении людей, что в далеком будущем станут использовать для военных целей. Датчики и миниатюрные камеры на всех общественных и частных территориях, в офисах и местах отдыха, даже в мобильных устройствах начнут следить за приездами и отъездами.
Контроль за состоянием здоровья тела, души или качества продукции станет осуществляться с помощью многочисленных аналитических машин. Ничего не удастся держать в секрете, больше не останется причин для скромности и скрытности. Все будут знать всё обо всех. Компании будут диктовать людям как жить: что есть и знать, как управлять и вести себя, как защищаться, производить и потреблять. Они станут наказывать курильщиков, пьяниц, лиц, страдающих ожирением, безработных, незащищенных, агрессивных, рассеянных, опрометчивых, растяп, мотов. Появится возможность создать человека на заказ в искусственной матке и выбрать признаки, которыми он должен обладать» [14: 176, 177, 178, 205]. Наступает, пользуясь терминологией Аттали,
эпоха гиперимперии, рынок победит демократию.
Эти тенденции мы уже видим. В 2018 г. Д. Трамп распорядился резко сократить выплаты по многим социальным программам, принял решение, затрагивающее интересы наименее обеспеченных граждан. Решения в каждом конкретном случае сейчас планируется принимать на основе использования автоматизированных систем с искусственным интеллектом (ИИ). У людей, которых это затрагивает, практически нет возможности опротестовать эти решения. Обработка данных осуществляется в наднациональном облаке, зачастую на основе аутсорсинга. Ответственность за последствия решений, затрагивающих конкретных людей, перекладывается на машины.
Общим местом стала тема вмешательства в выборы и манипулирование общественным мнением. В частности, компания Facebook передала подробные профили 80 млн пользователей компании Cambridge Ana-lytica, которая использовала их для того, чтобы повлиять на политические процессы в странах «первого мира».
Системы искусственного интеллекта становятся инструментом осуществления глобальной власти в соответствии с принципом Маршалла Маклюэна: «Мы придаем форму нашим инструментам, а потом наши инструменты придают форму нам».
Нью-Йоркский институт AI Now выделил три ключевые проблемы искусственного интеллекта (ИИ):
- «Углубление неравенства между теми, кто владеет, и теми, кто не владеет ИИ;
- Непрозрачность алгоритма, эффект «черного ящика»;
- Критичность ошибок для тех, кто становится их жертвой»
и сделал вывод: «Нужны моральные нормы использования ИИ, так же, как они появились в связи с использованием ядерной реакции» [15: 40].
В нескольких провинциях Китая была введена система социального рейтингования, в соответствии с которой ежедневно происходит компьютерная оценка граждан, которым не известен список «грехов» и «добродетелей», которые оцениваются, ни, тем более, алгоритм, который это делает. И далее, в зависимости от этого рейтинга, гражданам становится доступны или недоступны определенные социальные блага. В частности, летом 2018 г. около 11 млн китайцев потеряли право летать на самолетах и ещё 4 млн - право ездить на высокоскоростных поездах. Применение в такой роли больших данных и систем ИИ - это не только вопрос социальной политики, но и очень важный цивилизационный выбор.
Риск использования ИИ как социального регулятора пока явно недооценивается. Один из классиков философии техники Мартин Хайдег-
гер писал в работе «О технологии»: «Угроза человеку исходит в первую очередь не от потенциально смертоносных машин и технологических аппаратов. Настоящая угроза всегда направлена против сути человека».
Мы имеем дело именно с такой угрозой. Достаточно близкая к осуществлению мечта Лейбница о том, что машины будут управлять людьми и судить людей, что это приведет к созданию гиперимперии, частью общества воспринимается как огромная опасность и страшная антиутопия. Например, Жак Аттали полагает, что к 2050 г. гиперимперия рухнет - большинство людей не захочет быть ни машинами, ни товаром. Начнется время гиперконфликта - войны всех со всеми, которая уже при нынешних технологиях может обернуться самыми трагическими последствиями.
В то же время другая, пока небольшая часть человечества воспринимает это как утопию, как желанную перспективу.
В бестселлере Ю.Н. Харари «Homo Deus. Краткая история будущего» приводятся результаты исследования, проведенного по заказу Face-book, в котором приняло участие более 86 тыс. добровольцев. Итогом этого эксперимента стал следующий вывод: «Люди могут отказаться от собственных субъективных суждений и доверить компьютерам принятие жизненно важных решений типа выбора профессии, любимых занятий и даже романтического партнера. Возможно, что такие основанные на данных решения благотворно скажутся на жизни людей» [16: 398].
Сам автор бестселлера считает, что «Демократия и свободный рынок рухнут, когда Google и Facebook будут знать нас лучше, чем знаем себя мы сами: власть, полномочия и компетенции перейдут от живых людей к сетевым алгоритмам.
Люди не будут противостоять машинам, они сольются в единое целое» [16: 498].
Масштаб вызова настолько велик, что речь идет о возникновении новой религии, которую Харари называет «датаизмом». «С точки зрения датаистов, весь род человеческий можно интерпретировать как систему обработки данных, где каждый человек - её микропроцессор. Если человечество и впрямь является системой обработки данных, то каков её конечный продукт? Датаисты скажут, что таковым станет новая, ещё более эффективная система обработки данных под названием Интернет Всех Вещей. Как только эта миссия человечества будет выполнена, Homo Sapiens исчезнет. Подобно капитализму, датаизм зародился как абстрактная научная теория, однако теперь он мутирует в религию, которая порывается установить критерии добра и зла. Высшая ценность этой религии - «поток информации». Как у всякой религии, у него есть практические заповеди, заветы, предписания. Первое и главное: датаист
обязан максимизировать поток данных, подключаясь ко всё возрастающему числу медиа и потребляя всё возрастающий поток информации. Датаизм - первое с 1789 г. движение, породившее новую ценность -свободу информации. Её не следует путать со старой либеральной ценностью - свободой слова. Свобода слова была дана людям и защищала их право думать и говорить что им хочется, а также право держать язык за зубами, а мысли при себе. Свобода информации, напротив, дается не людям, она дается самой информации... Современный девиз таков: «Видишь что-то - запиши. Записал - загрузи. Загрузил - поделись с другими». Если гуманизм повелевал: «Слушайся своих чувств!», - датаизм повелевает: «Слушайся алгоритмов! Они знают, что ты чувствуешь». Но откуда берутся эти великие алгоритмы? Это тайна датаизма. По примеру христианства, согласно которому нам не дано постичь Бога и Его замысел, датаизм объявляет новые алгоритмы высшего порядка. Исходный алгоритм может быть придуман людьми, но далее, развиваясь, он идет своей дорогой, направляясь туда, где не ступала нога человека. Туда, куда человеку путь заказан». [16: 442, 446-448, 453, 460].
Длинная цитата, приведенная выше, показывает, насколько странным и нелепым, на первый взгляд, является этот новый культ. Однако он действительно отражает важные черты происходящих перемен. Смартфоны привели к тому, что заурядное родительское собрание, установка нового забора или невыплата премии порождает сотни сообщений. Мир становится более экстравертным. Митинг, собрание, утренник тут же фотографируется, записывается, информация о них рассылается. Мы все стали «немного журналистами». Руководители стран ведут блоги и комментируют себя.
Психологи показали, что человек может содержательно, творчески общаться с 5^7 людьми, с остальными либо стереотипно, либо опосредованно. Но анализ социальных сетей показал, что значительная часть их пользователей имеет сотни и тысячи «друзей» и стремится заиметь их как можно больше. При этом общение, естественно, упрощается - поздравление часто сводится к картинке, а письмо, чтобы его лучше поняли, снабжается смайликами. «Население» Facebook составляет 1,4 млрд чел., Twitter - 646 млн, Instagram - 152 млн [2].
Общение поневоле становится поверхностным. Данные социологов показывают, что миллиарды человек ежедневно по много часов проводят в призрачном, виртуальном мире и живут не своей, а чужой жизнью. Психологически это надо оправдать. Поэтому появление таких религий как «датаизм», оправдывающий такое времяпрепровождение и стремящихся придать ему глубокий смысл, вполне естественно.
Возникают и иные религии, связанные с компьютерной реально-
стью. Одну из них, опирающуюся на науку, представил всемирно известный автор детективов Дэн Браун в романе «Происхождение». За основу создатель этой религии взял строку У. Блейка: «Религий темных больше нет, царит блаженная наука!». Он полагает, что возникло новое царство природы - Техниум - царство неживых существ, которые очень скоро станут равноправными партнерами людей, а вскоре и сольются с ними в единое целое. Его молитва в рамках этой религии, которую он создал со своим alter ego - системой AI, звучит так: «Да живут в согласии философия и технология! Да будет сила всегда сострадательной! И да движет нами не страх, но любовь!» [17]. С точки зрения детективов это тоже принципиальный шаг - главным преступником, поиску которого посвящена вся книга, становится . компьютерная программа, созданная творцом новой религии, которая по его повелению уничтожает и его самого, и себя.
Почему же значительная часть человечества оказалась готова к эре гиперконтроля и к тому, что власть над людьми перейдет к сетевым алгоритмам?
Убедительным представляется ответ, который дает трансакцион-ная теория, предложенная выдающимся американским психологом Эриком Берном [18]. Он выделяет в структуре каждой личности три ипостаси - ребенок, родитель и взрослый. Ребенок считает, что есть старший, которого надо слушаться, который знает, как надо. Этот старший накажет, если делать не так, как он велит, но и защитит в случае чего. Родитель полагает, что он должен дать своим детям то, что в своё время дали ему. Это человек традиции. Взрослый осознает реальность, очерчивает круг своего влияния и берет ответственность за происходящее в этом круге. Он понимает, что тут нет старшего и он сам будет нести ответственность за свои ошибки и получать бонусы за свои удачные действия. Он не хочет следовать алгоритмам своих родителей, поскольку понимает, что они жили в иное время и сталкивались с другими вызовами [18].
И сейчас замыкается обратная связь. Отсутствие настоящей, полезной и содержательной работы у значительной части человечества толкает эту часть в виртуальную реальность. Эта реальность - царство игры, в котором ведущий процесс - геймификация, где «всё не по-настоящему». Это приводит к инфантилизации огромной части населения, не желающей осознавать и осмысливать происходящее (которое является совсем не таким простым и радужным, как за экраном компьютера) и, тем более, брать на себя ответственность. Напротив, её хочется поскорее кому-нибудь отдать, даже сетевым алгоритмам. Это порождает новый запрос на расширение пределов виртуальной реальности за счет настоящей - главной и единственной. Поэтому перспектива наступления
эры гиперконтроля, гиперимперии с ее катастрофическими социальными последствиями представляется более, чем вероятной.
6. Гуманитарно-технологическая революция и цифровое образование
В настоящее время происходят перемены, масштаб которых трудно переоценить. Они связаны с проходящей гуманитарно-технологической революцией, в ходе которой человек становится не только субъектом, но и объектом происходящих перемен [19]. Продолжительность активной, здоровой жизни становится важнейшим аргументом в конкуренции цивилизаций. Эта революция происходит при переходе от индустриальной к постиндустриальной фазе развития цивилизации. Индустриализация требовала стандартизации и взаимозаменяемости. (Из этого времени пришло «Незаменимых нет». Человека мыслился как «винтик» огромной социально-технологической машины). Императивом индустриальной фазы была массовость - массовое производство, армии, культура, образование, оружие уничтожения, вовлечение в сферу производства и обслуживания подавляющего большинства экономически активного населения (в США до сих пор работает более 92% женщин).
В постиндустриальном мире важнейшим ресурсом развития становится разнообразие. В промышленности, сельском хозяйстве, управлении занята меньшая часть общества. Перемены, инновации становятся нормой. Развитие определяется в очень большой степени тем, удастся ли в раннем возрасте найти талантливых детей, дать им отличное образование и помочь им найти место в социально-технологической структуре своего государства, где они могут наиболее эффективно реализовать свой потенциал во благо себе и обществу.
При этом меняется и сам человек, и его внутренний мир. На это обращал внимание американский социолог, один из авторов теории постиндустриального общества Д. Белл: «На протяжении большей части человеческой истории реальностью была природа: и в поэзии, и в воображении люди пытались соотнести своё «я» с окружающим миром. Затем реальностью стала техника, инструменты и предметы, сделанные человеком, однако получившие независимое существование вне его «я», в овеществлённом мире. В настоящее время реальность является в первую очередь социальным миром - не природным, не вещественным, а исключительно человеческим - воспринимаемым через отражение своего «я» в других людях.
Поэтому неизбежно, что постиндустриальное общество ведет к появлению нового утопизма, как инженерного, так и психологического. Человек может быть переделан или освобожден, его поведение - запро-
граммировано, а сознание изменено. Ограничители прошлого исчезли вместе с концом эры природы и вещей.
Но не исчезла двойственная природа самого человека - с одной стороны, убийственная агрессивность, идущая от первобытных времен и направленная на разрушение и уничтожение буквально всего, а с другой - поиск порядка в искусстве и в жизни, понимаемого как приведение воли в состояние гармонии» [20: 603].
Образование в нынешнее переломное время играет ещё более важную, программирующую и преобразующую роль в жизни общества, становится политической технологией. С ним связаны и большие возможности, и очень серьёзные риски в контексте стремительного развития компьютерной реальности.
Можно сориентировать систему образования на «компетенции», простейшие навыки, «умения нажимать кнопки». Человека нетрудно превратить в «придаток машины».
Напротив, новая реальность, если подходить с позиции субъекта, а не объекта перемен, требует иных навыков и значительно расширяет возможности учителей, преподавателей, профессоров. Например, большой задел и потенциал в области образовательной робототехники позволяет конвертировать его в развитие важной и стремительно растущей отрасли промышленности, определяющей сегодня уровень машиностроения, энергетики и ряда других отраслей [22].
В своё время Джон Кеннеди говорил, что Советский Союз обогнал Америку в космосе за школьной партой. Исходя из этого, он выдвинул масштабную программу повышения качества школьного образования в области математики и естественных наук. Акцент на школьном образовании понятен. Именно в школе можно выявить и развить способности, наметить будущую профессиональную траекторию. Многие «пробелы средней школы» в вузе восполнить не удастся.
Уровень школьного образования отражает желание и возможности стран форсировать технологическое развитие и меняет её место в мире. Это наглядно показывает таблица 1, в которой представлены результаты теста PISA за 2016 г. Этот тест, проводившийся во многих странах, отражает умение 15-летних ребят применять свои знания в области математики, естественных наук, родного языка. Лидирующие позиции занимают системы образования стремительно развивающихся «тихоокеанских тигров».
В России за последние 30 лет было проведено множество реформ -гуманитаризация, гуманизация, информатизация, егэзация, болонизация, интернетизация, цифровизация. Их результат также очевиден из приведенной таблицы. Если советские школьники занимали первые места в
подобных тестах, то российские ребята оказались в конце третьего десятка.
Таблица 1
Математика Естественные науки Родной язык
1. Сингапур 564 1. Сингапур 556 1. Сингапур 535
2. Гонконг, Китай 548 2. Япония 538 2. Канада 527
3. Макао, Китай 532 3. Эстония 536 3. Гонконг 527
4. Тайвань 542 4. Тайвань 532 4. Финляндия 526
5. Япония 532 5. Финляндия 531 5. Ирландия 521
6. Китай 531 6. Макао, Китай 529 6. Эстония 519
7. Корея 524 7. Канада 528 7. Южная Корея 517
8. Швейцария 521 8. Вьетнам 525 8. Япония 516
9. Эстония 520 9. Гонконг 523 9. Норвегия 513
10. Канада 516 10. Китай 518 10. Макао, Китай 509
25. Россия 494 25. США 496 23. Тайвань 497
26. Франция 493 24. США 497
27. Великобритания 492 32. Россия 487 25. Испания 496
33. Люксембург 483 26. Россия 495
39. США 470 34. Италия 481 27. Китай 494
И это неудивительно. Дело не в средствах и инструментах, а в цели реформ. Один из министров образования упрекал советскую систему за то, что она готовила творцов, людей, ориентированных на творчество, на создание нового, в то время как надо готовить «квалифицированного потребителя» (очевидно, придуманного и сделанного другими).
Если страна планирует занять роль «сырьевого донора» более развитых в технологическом отношении государств, то такой подход оправдан. Более того, образованные, энергичные, активные молодые люди, для которых нет работы по специальности, могут стать источником социальной нестабильности.
Если страна стремится обрести технологический, научный, а через это экономический и политический суверенитет, как это обозначено в последних посланиях президента РФ Федеральному собранию, то такой подход, много лет продвигаемый Высшей школой экономики (ВШЭ), является ошибкой.
Математические модели, построенные более двадцати лет назад [23] показали, что недофинансирование системы «наука + образование» в сочетании с низкой восприимчивостью экономики к новым кадрам и
технологиям приведет к распаду системы образования, кадровой катастрофе и критическому замедлению экономического роста в перспективе нескольких десятилетий. К сожалению, жизнь подтверждает этот прогноз.
Несмотря на это, российское образование следует прежним курсом.
Реформы, проводимые в образовании, представляют собой гигантский социальный эксперимент, хотя бы из-за масштаба реформируемой системы. По подсчетам ректора МГУ им. М.В. Ломоносова академика В.А. Садовничего в сфере образования РФ задействовано более 40 млн чел., в стране 53,5 тыс. школ (34 тыс. сельских школ и 19 тыс. городских). В них работают 1,36 млн учителей, и в 2010 г. училось 13,36 млн детей, число студентов в вузах России составило 7 млн, а количество преподавателей - 341 тыс. [24: 16-17].
Стоит привести оценку образовательных реформ новой России, данную деканом философского факультета МГУ В.В. Мироновым: «Долгое время Россия имела, даже по признанию западных ученых и политиков, один из самых высоких в мире уровней образования, доставшийся нам в наследство от предыдущего периода её развития. Именно образование могло стать фактором устойчивого экономического роста, способного вывести Россию в число наиболее развитых стран мира. Однако этого не произошло, как мне кажется, именно из-за той модели реформирования образования, которая была принята.
Реформа образования в нашей стране не была подготовлена теоретически, не прошла апробации научного и преподавательского сообщества, опиралась на результаты нечисто проведенного эксперимента, представляя собой реализацию политической воли, а поэтому она была обречена на провал. Она проводилась непоследовательно, скорее разрушая то положительное в нашем образовании, что в нем всегда присутствовало» [24: 17-62].
Сейчас под всем этим подводится черта, начинается новый этап. В мире и в России делается попытка расчеловечивания, дегуманизации людей с помощью машинизации образования. В нынешней кризисной ситуации вновь и вновь возникает в обществе концепция «сверхчеловека», трансгуманизма, в которой нынешний человек - лишь «черновик» того «бессмертного киборга», которые вскоре составят основу человечества.
Появление таких идей неудивительно и крайне опасно. В постиндустриальном обществе для большинства людей нет работы. В рамках капиталистической системы, рассматривающей человека только как экономического агента, потребителя и т.д., ответа на вопрос, чем занять человека или как его «утилизировать», нет.
Будущее, которое он предвидел наступило. Американский предприниматель и инженер Илан Маск пишет: «За автоматизацией последует лавина дешевых товаров и услуг, но нужно понять, что делать с предназначением человека. Как и какое человек будет иметь значение, если значение для многих неразрывно связано с их работой? Если твоя работа больше не нужна, какой в тебе смысл? Посему будущее представляет для нас серьёзное социальное испытание» [25: 12].
Если отбрасываются коммунистические идеи о свободе, равенстве и братстве, то с неизбежностью встает вопрос о «новом неравенстве», уже не только на социальном, но и на биологическом или цифровом уровне. Антиутопия О. Хаксли «О дивный новый мир» (1932), в которой человечество разбивается на расы господ и рабов, отличных друг от друга биологически (а, в, у...), может стать реальностью в ближайшие десятилетия. Ю.Н. Харари пишет: «обращение человека с животными дает достаточное представление о том, как в будущем усовершенствованные люди будут поступать со всеми остальными» [16: 498]. Это удивительно напоминает грезы Фридриха Ницше о сверхчеловеке.
Президент НИЦ «Курчатовский институт» член-корр. РАН М.И. Ковальчук в выступлении в Совете Федерации 15.09.2015 заявил, что сегодня возникла реальная технологическая возможность создания принципиально нового подвида Homo Sapiens - служебного человека. «Свойство популяции служебных людей очень простое: ограниченное самосознание, и когнитивно это регулируется элементарно, мы с вами видим, это уже происходит. Вторая вещь - управление размножением, и третья вещь - дешевый корм, это генно-модифицированные продукты. И это тоже всё готово. Значит фактически возникла реальная технологическая возможность выведения служебного подвида людей. И этому помешать уже не может никто, что по факту происходит, и мы с вами должны понимать, какое место в этой цивилизации мы можем занять» [25: 158-159]. Иными словами, речь идет о создании «зомби», «людей, которых не жалко», о новом рабстве.
Но для того, чтобы перейти к «новому рабству», принять его, надо сломать систему образования и воспитания, а с ней смыслы, ценности, идеалы, культуру, мораль, расчеловечить людей.
Простейший способ осуществить это, как в одном из рассказов Лема - заставить людей вести себя как роботов или считать себя алгоритмами, как предлагает Ю.Н. Харари [16].
Помощник президента А.Р. Белоусов говорит о крупнейшем социальном сдвиге, обеспечивающем формирование нового типа человека -человека виртуального.
Руководитель Агентства стратегических инициатив Д. Песков, представляя в 2016 г. Национально-технологическую инициативу, выра-
зил её суть так: «технология свободной продажи смыслов и безопасности на мировом рынке». В качестве примера для подражания он привел покемонов и компанию №1епёо, выпустившую эту игру и заработавшую на ней больше денег, чем центробанк печатает за год - за 10 дней капитализация этой компании выросла на $20 млрд. При этом основная ставка должна делаться на таланты, следует «капитализировать эти таланты с детства, превращать группы ребят в компании, которые разрабатывают технологические решения уже сегодня. Которые уже умеют вырастать в десятки раз за год, захватывать без каких-либо преград мировые рынки» [25: 279]. Духовный и интеллектуальный мир, таланты, смыслы и мечты хотят сделать товаром, продуктом, капиталом.
В известной книге Дж. Перкинса «Исповедь экономического убийцы» есть два главных рецепта для того, чтобы развалить экономику страны и общество. Первый - принизить и дискредитировать все высокие смыслы, ценности, идеалы. Второй - перевести все отношения и договоренности на уровень денежных расчетов. После этого многое будет разваливаться само по себе. Многие проекты, связанные с «цифровиза-цией образования» следует этой логике.
Реформаторами отвергается очевидный принцип - человек должен учить человека. 7 ноября 2017 г. в Петербурге прошла презентация Университета НТИ «20.35». Упоминавшийся Д. Песков представил его как первый университет в мире, в котором «человек будет учить искусственный интеллект, а искусственный интеллект - человека». Это будет «университет без стен, без ректоров, без дипломов».
В развале российского образования велика роль Высшей школы экономики и ее руководителей. В соответствии с их инициативой вузы разделены на три категории. Вузы первой категории должны записывать лекции своих профессоров на видео и рассылать их остальным, которым, очевидно, профессора уже не будут нужны. Вместо доцентов будут методички и электронные тесты. По сути дела, в случае реализации замысла реформаторов основная часть российского образования станет заочной, «дистанционной». В октябре 2018 г. ректор ВШЭ Я.И. Кузьминов сообщил, что в этом вузе через два года будут только онлайн-лекции: «лекционные занятия в классической форме мы отменим, потому что их КПД даже в ВШЭ, где лекции читают исследователи, низкий».
В настоящее время реализуется проект «Московская электронная школа». Закупаются интерактивные доски (около Ш0.5 млн). На уроках дети (с начальной школы) должны, пользуясь планшетами или смартфонами, связываться по с этими досками, заполнять в них тесты, читать электронные учебники, ходить в электронные библиотеки и пользоваться электронными лабораториями. Все уроки учителя должны подготовить в электронном виде. По-видимому, настоящее образование «с
людьми» реформаторы хотят оставить только для очень дорогих, элитных школ, полагая, что «быдло» обойдется всей этой электронностью.
Заметим, что проект начали реализовывать, не представив его ни родителям, ни специалистам, проведя общественного обсуждения. Даже министр просвещения О. Васильева заявила: «Это дичь. Невозможно ввести «цифру» в школе, не зная, как она будет влиять на детей определенного возраста. Этого нельзя делать. Невозможно этим заниматься, не зная, как это отражается на детях в раннем возрасте». [25: 273]. Однако в том же выступлении она сказала, что её ведомство поддерживает идею «цифровой школы», потому что без неё будет «каменный век».
К сожалению, мы имеем дело с типичной системной ошибкой, -отсутствием обратной связи, когда конъюнктурные действия совершаются без анализа тех долговременных последствий, которые они могут иметь. «Машинизация» управления дошла до того уровня, когда руководители ведомств зачастую даже не могут объяснить, зачем предпринимается тот или иной шаг, в конце концов, ссылаясь на «политические решения». Это касалось и протаскивания ЕГЭ, ставшего катализатором развала средней и высшей школы, и программы 5-100-20 (в соответствии с которой 5 российских вузов должны к 2020 г. войти в первую сотню некого западного рейтинга), и продвигаемого сейчас «электронного портфолио» (по сути социального рейтингования всех школьников, студентов, а затем и всего населения России - «портфолио» будет привязано к человеку всю жизнь) и многого другого. Впрочем, советы и указания зарубежных специалистов по российскому образованию, начиная с Джорджа Сороса и экспертов Всемирного банка, тоже не следует сбрасывать со счетов.
В книге В.В. Миронова [24] прослеживается характерный паттерн российской истории реформы - контрреформы - вновь реформы. В ходе контрреформ часто восстанавливается то ценное и важное, что рушилось в ходе реформ. Видимо, что-то похожее произойдет с российским образованием.
В конечном итоге дело, не в цифровых или каких-либо других инструментах, а в людях, которые их используют. Это тем более верно в эпоху гуманитарно-технологической революции.
В самом деле, создатель интернета Тим Бернерс-Ли задумывал всемирную компьютерную сеть как место, где личность будет свободна, где обмен идеями и информацией, не будучи стесненным правительством или другими структурами. Прошло почти 30 лет и теперь он заявляет: «Мы потеряли ощущение личного контроля над тем, что расширяло наши права и возможности. Власть Паутины не была отнята или украдена - миллиарды нас самих коллективно отдавали её всякий раз, когда мы подписывали пользовательское соглашение. Facebook, Google, Amazon
монополизировали сегодня практически всё, что происходит онлайн, начиная с того, что мы покупаем и читаем, и кончая тем, что любим. Вместе с горсткой правительственных агентов эти корпорации в состоянии отслеживать действия людей, манипулировать, шпионить за ними так, как когда-то ни один человек и представить себе не мог» [26: 35].
Интернет может быть источником наживы, полем боя, обителью компьютерных вирусов, червей, логических бомб. Задуманный как площадка для объективного честного обсуждения интернет становится иным: «Тренды меняются. Лидеры цифровых платформ уже хором обсуждают, как уменьшить негативное влияние алгоритмов на общественную жизнь и психологическое здоровье людей - как бороться с враньем, агрессией и бессмысленной потерей времени в интернет-сетях» [27: 15]. Психолог О.Лобач обратила внимание на новый тренд: «тролли (те, кто издевается и профанирует обсуждение) уходят, а травля становится повсеместной. У тех, кто травит, уже не в чести злая шутка - это серьезная, большая настоящая война» [27: 15]. На место троллинга приходит бул-линг... Интернет может стать важнейшим оружием психологической войны. Можно ожидать, что благодаря искусственному интеллекту довольно быстро появится компьютерный синхронный перевод, языковых барьеров не будет. Это может кардинально изменить интернет пространство, сделав его ареной столкновения цивилизаций.
Риски, опасности и угрозы цифровой реальности требуют серьёзного отношения. Иначе они могут привести к катастрофам различных масштабов. Но можно взглянуть и с другой точки зрения. Эти риски -препятствия, вызовы, источники проблем. Однако успешное преодоление этих препятствий сможет сделать нас сильнее, мудрее, дальновиднее. Будем надеяться, что это нам удастся.
Работа была выполнена при поддержке РФФИ (проекты 19-010-00423 и
18-511-00008).
Список литературы
1. Овчинский В.С. Технологии будущего против криминала («Коллекция Избор-ского клуба») - М.: Книжный мир, 2017. - 288 с.
2. Шваб К. Четвертая промышленная революция. - М.: Издательство «Э», 2017. С. 16.
3. Винер Н. Кибернетика или управление и связь в животном и машине. - М.: Советское радио, 1958. - С.44.
4. Иванов В.В., Малинецкий Г.Г. Цифровая экономика: мифы, реальность возможности// Препринт Российской академии наук, 2017. - 62 с.
5. Тихонов С. Баттл-революция молодежного сознания. Или что на самом деле смотрят ваши дети// Эксперт. 5-11 февраля 2018, №6(1062), с.48-57.
6. Социогуманитарные аспекты ситуационных центров развития/ Под ред. В.Е.Лепского, А.Н.Райкова. - М.: Когито-Центр, 2017. - 416 с.
7. Малинецкий Г.Г. Чтоб сказку сделать былью.: Высокие технологии - путь России в будущее/ Изд. 3-е. - М.: Ленанд, 2015. - 224 с. (Синергетика: от прошлого к будущему. №58. Будущая Россия. №17).
8. Россия: XXI век. Стратегия прорыва. Технологии. Образование. Наука/ Изд. 2-е. - М.: Ленанд, 2017. - 304 с. (Будущая Россия. №26).
9. Владимиров В.А., Воробьёв Ю.Л., Малинецкий Г.Г. и др. Управление риском: Риск. Устойчивое развитие. Синергетика. - М.: Наука, 2000. - 431 с. - (Серия «Кибернетика: неограниченные возможности и возможные ограничения»).
10. Талеб Н.Н. Черный лебедь. Под знаком непредсказуемости. - М.: Издательство Колибри, 2010. - 578 с.
11. Мамедьяров З., Хазбиев А. Гигабайты прилетят с орбиты // Эксперт, 2019, №11, с.13.
12. Гурова Т. Хакнуть человечество // Эксперт, 2019, №10, с.40-46.
13. Лем С. Системы оружия двадцать первого века / Библиотека XXI века. - М.: ООО «Издательство АСТ», 2003. - 602 с. - (Philosophy).
14. Аттали Ж. Краткая история будущего. - СПб: Питер, 2014. - 288с.
15. Шкуренко И. Искусственный интеллект на грани нервного срыва // Эксперт, 2019, №1-3, с.38-42.
16. Харари Ю.Н. Homo Deus. Краткая история будущего. - М.: Синбад, 2018. -498 с.
17. Браун Д. Происхождение. - Москва.: Издательство АСТ, 2018 . - 576 с. - (Величайший интеллектуальный триллер).
18. Берн Э. Игры, в которые играют люди. Психология человеческих взаимоотношений; Люди, которые играют в игры. Психология человеческой судьбы. - СПб.: Лениздат, 1993. - 400 с.
19. Контуры цифровой реальности. Гуманитарно-технологическая революция и выбор будущего / Под ред. В.В.Иванова, Г.Г.Малинецкого, С.Н.Сиренко. - М.: ЛЕНАНД, 2018. - 344с. - (Будущая Россия №28).
20. Белл Д. Грядущее постиндустриальное общество. Опыт социального прогнозирования. - М.: Academia, 2004.
21. Громыко Ю.В. Российская система образования сегодня: Решающий фактор развития или путь в бездну? Образование как политическая технология. - М.: ЛЕНАНД, 2019. - 368 с. - (Будущая Россия №30).
22. Сиренко С.Н. Образовательная парадигма цифровой эпохи/ Проектирование будущего. Проблемы цифровой реальности. (8-9 февраля 2018г., Москва). - М.: ИПМ им. М.В.Келдыша, 2018. - 174 с.
23. Капица С.П., Курдюмов С.П, Малинецкий Г.Г. Синергетика и прогнозы будущего/ 2-е изд. - М.: Эдиториал УРСС, 2001. - 288 с.
24. Миронов В.В. Размышление о природе российского образования/ 2-изд. - М.: Центр стратегической конъюнктуры, 2014. - 64 с.
25. Четверикова О.Н. Трансгуманизм в российском образовании. Наши дети как товар. - М.: Книжный мир, 2018. - 384 с.
26. Шнуренко И. Как технологии рождают диктатуру и могут ли они спасать демократию // Эксперт, 2018, №47, с. 34-37.
27. Рыжкова А., Резниченко А., Лейбин В. Буллинг вместо троллинга // Русский репортер, 2019, 11-25 марта, с. 10-17.
