CC BY
54
Философия науки и техники 2023. Т. 28. № 1. С. 48-65 УДК 004.8
Philosophy of Science and Technology 2023, vol. 28, no. 1, pp. 48-65 DOI: 10.21146/2413-9084-2023-28-1-48-65
Л.А. Василенко, Н.Н. Мещерякова
Гибридность цифрового общества: инновационная реальность или утопия?
Василенко Людмила Александровна - доктор социологических наук, кандидат философских наук, профессор, почетный работник высшего профессионального образования РФ, сопредседатель Исследовательского комитета Российского общества социологов «Социология цифрового общества». ФГБОУ ВО «Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации». Российская Федерация, 119571, г. Москва, пр. Вернадского, д. 82; е-mail: [email protected]
Мещерякова Наталия Николаевна - доктор социологических наук, заведующая кафедрой политической социологии и социальных технологий, ведущий научный сотрудник Научного центра цифровой социологии «Ядов-центр». Российский государственный гуманитарный университет. Российская Федерация, 125993, г. Москва, Миусская пл., д. 6; е-mail: [email protected]
Проблема гибридности представляет совокупность относительно новых, противоречивых, сложных теоретико-методологических и практических вопросов, с которыми столкнулось человечество в период цифровой трансформации. Цель настоящей статьи рассмотреть вопрос двойственной природы гибридности становящегося цифрового общества. Противоречивость гибридности обусловлена симбиозом реального и виртуального (цифрового) миров, которые сливаются с единую целостность. Возникла принципиально новая среда обитания человека. И человек уже не всегда может понять, в каком из пространств - реальном или виртуальном - он находится в то или иное мгновение, и каким предстает перед нами бытие человека в этом гибридном инновационном мире? В этой гибридной среде человек коммуницирует не только с себе подобными, но и с искусственными субъектами (техносубъектами), что обусловливает проблему гибридности следующего порядка. Бытие усложняется гибридным симбиозом естественного и искусственного интеллектов, новыми способами экстернализации, расширением личной идентичности человека за счет цифровой или сетевой идентификации. С другой стороны, в совместном эволюционном развитии начинает оформляться тенденция вытеснения самого человека этими искусственными саморазвивающимися
© Василенко Л.А., 2023 © Мещерякова Н.Н., 2023
системами, в которых всё более проявляются человеческие качества. Человек при этом не всегда готов нести ответственность за последствия и качество воссозданного искусственного образа себя. А мир уже входит в следующий уровень сложности бытия - в мир пост-человека, гибридность которого порождена симбиозом человеческого организма и встроенных в него электронных устройств. В данной статье рассматривается, как происходит взаимопроникновение ранее разнородных элементов в различных сферах жизни и какие риски это порождает. Авторы предлагают сформулированный концепт гибридности как своеобразный аналитический инструмент для изучения социальных процессов с точки зрения их двойственной природы, возникающих рисков и уязвимостей для понимания развития цифрового общества.
Ключевые слова: информационное общество, цифровое общество, гибридность, реальный мир, цифровой мир, риски, экстернализация, искусственный интеллект, интеллектуальные системы
«Гибридность» как двойственность
современной среды бытия человека
Феномен гибридности требует переосмысления его восприятия сознанием человека и «пересамоопределения» в новых условиях общественного бытия, ибо «традиционное понимание техники как послушного инструмента не может адекватно объяснить характерные для современной эпохи автономию техники и ее трансформирующее воздействие на социум» [Попкова, 2018, с. 49]. Возникает вопрос, что это за феномен «гибридность»? Это зонтичный термин, под который сегодня пытаются поместить всё, что угодно, или это понятие, обладающее специфическим значением и объяснительной силой?
В российском научном дискурсе «гибридность» трактуется зачастую в контексте взаимозаменяемости: «Идея взаимозаменяемости влияет на государственные, национальные, технические, технологические, образовательные, религиозные, гендерные границы. Взаимозаменяемость размывает указанные границы: субъект может поменять государство, национальность, технический объект, используемую технологию, форму образования, религию, пол и т.п. Одной из базовых идей, лежащих в основе гибридной оценки, является тотальный релятивизм: ничего не имеет значения - всё взаимозаменяемо» [Волков, Кизилова, 2016, с. 103]. С другой стороны, мы слышим «гибридная война», «гибридное обучение», «гибридный формат работы». Каждый раз понятие «гибридность» подразумевает совмещение в себе признаков различных предметов и явлений. Например, в гибридной войне не собственно вооружение является главным инструментом воздействия на противника. Именно аспекты инаковости позволяют использовать термин «гибридность» для определения «чего-то не типичного, построенного на смешении элементов, например, гибридные политические институты» [Морозова, 2015, с. 34-46].
Сегодня о феномене гибридности всё чаще говорят в контексте объединения реального и цифрового миров. Как заметила Т.Ю. Загрязкина, термин «гибридность» уже отпочковался от биологии и совершил свой транзит в иные терминосистемы, обрастая дополнительными коннотациями [Загрязкина, 2022]. Гибридная реальность объединяет физические и цифровые миры. Две эти
реальности отмечают противоположные границы спектра, который называется виртуальный континуум [Milgram, Kashino, 1994]. На одном его конце - физическая реальность, в которой существуют люди, а на другом - соответствующая цифровая реальность. При этом обе реальности сегодня составляют общую целостность среды бытия человека.
В этой общей информационно-социальной гибридной среде легко сопрягаются компьютеры, мобильники, планшеты, датчики, перемещая различные форматы электронных документов между собой. Вот идет человек, в ухе которого микронаушник, на запястье смарт-часы, в кармане смартфон, а в портфеле лэптоп. И он почувствует себя голым и беспомощным, если мы лишим его всех этих предметов. Информационные технологии встроились в нашу жизнь. Уже не существует дихотомии реальности и виртуальности, они соединились в целостную среду существования. Все процессы виртуального пространства реальны. Мы тратим реальное время на пребывание в интернете, реальные деньги на покупку продуктов и услуг, испытываем реальные эмоции, просматривая какой-то контент или коммуницируя с людьми, которых мы никогда не встречали. Мы совершаем социально и индивидуально значимые действия при посредничестве информационно-коммуникационных технологий: голосуем на выборах, устраиваемся на работу, пользуемся услугами телемедицины и прочее. Отсюда следует вывод, что все эти технические системы и устройства в гибридном мире становятся в какой-то мере частью нас самих, без них сегодня как без рук.
Для нас, авторов статьи, именно взаимопроникновение, прорастание друг в друга реального и цифрового миров стало ведущим определением понятия «гибридность», конституирующим признаком цифрового общества. Мы полагаем, что гибридность - определяющая черта современного цифрового общества, которая отличает его от предыдущих этапов развития информационного общества в трактовке Д. Белла [Bell, 1973] и его последователей. Мы подразумеваем под гибридностью взаимопроникаемость виртуального и реального миров [Василенко, Мещерякова, 2021]. Они существуют не параллельно, а взаимообусловленно.
Для современного человека характерна мультисредовость бытия. Находясь и взаимодействуя с другими людьми в реальной физической среде, он может быть погружен в медийную среду, находясь в контакте с медиа, и одновременно в виртуальную среду, коммуницируя с кем-то посредством смартфона. И все эти среды важны для его жизнедеятельности.
«Условные рефлексы» гибридной системы
Формирующееся гибридное социальное пространство выступает единой сложной самоорганизующейся системой с внутренним социокультурным разнообразием, продуцирующим новые смыслы в областях пересечения различных дисциплин. При этом наблюдается процесс интеграции термина «гибрид-ность» как имеющего собственно специфическое значение, продуцирующее противоречивость своего восприятия, поскольку различные его смысловые аспекты исходят из его двойственной сущности.
Так, кибернетики называют гибридностью тип искусственного интеллекта, основанный на высокоуровневом копировании отдельных аспектов функционирования человеческого интеллекта [Dushkin, Andronov, 2020]. Свой подход авторы основывают на гибридном подходе к использованию создаваемых интеллектуальных агентов, способных обучаться, адекватно вести себя в неизвестном окружении и «объяснять причины своих решений». Архитектура такой гибридной системы строится на совмещении «чистого и грязного подходов». «Чистый» подход состоит в применении экспертных систем, баз знаний, базирующихся на логике символьных вычислений. «Грязный» подход использует технологии нейронных сетей и эволюционных вычислений в сочетании с биокомпьютингом, рассматривая интеллектуальную систему как развивающийся живой организм. Техносубъекты в виде устройств мобильных коммуникаций, роботов, алгоритмов работы с Большими данными, программ машинного обучения; встроенных в программно-технологические комплексы ИИ-агентов, создаваемых реальными субъектами на основе генетического программирования, - все они обладают некоторой самостоятельностью в поведении, постепенно обретая способность вступать в социальные отношения [Игнатьев, 2019]. С.А. Кравченко и К.В. Ракова пишут о «возникающих гибридных феноменах, представляющих собой сложные сети и переплетения между индивидами, техническими устройствами и природными объектами одновременно» [Кравчено, Ракова, 2021, с. 16-17]. Д. Лаптон вводит понятие «сборка» (the assemblage) человека и не-человека различными динамическими способами, взаимодействующими каждый с каждым [Lupton, 2015, p. 24].
В процессе чтения перечисленных выше работ создается впечатление, что мы имеем дело с развивающимися живыми организмами. И возникает закономерный вопрос: может ли восприятие таких систем как «живых» быть адекватным? Подобный посыл порожден выводом авторов об «условных рефлексах» гибридной системы, «одаренной разумом», который не только может выполнять действия, заданные алгоритмом искусственного интеллекта, но и наделяется некими «самостоятельными свойствами рефлексирования, восприятия гибридной системой воздействий со стороны окружающей среды» [Dushkin, Andronov, 2020, p. 167]. Именно свойство гибридности, по мнению Р.В. Душкина и М.Г. Андронова, предполагает снижение риска некорректных результатов со стороны нейронной сети «в случае попадания некорректных данных в выборку, на которых обучалась сеть», а также возможность адаптации к изменяющимся условиям внешней среды, поскольку это предусмотрено в архитектуре гибридного агента. В такой системе имеются компоненты проверки входных данных на корректность и дополнительный проактивный уровень управления, включающий «самообучение, прогнозирование своего состояния и состояния среды на основе моделирования среды и данных о ней, а также построение планов действий и адаптация к изменяющимся условиям» [Ibid., p. 167]. И что это как не те самые «условные рефлексы» гибридной системы»? Можно ли эти «условные рефлексы» трактовать как зачатки самосознания по Д. Деннету [Dennet, 2003] или как зародыши гомеостатического формирования самости по А. Дамасио [Damasio, 2010, p. 200-329], или как «самости автобиографической, формируемой в результате наследования опыта»,
о которой рассуждал в своей статье известный российский ученый Г.Л. Туль-чинский [Тульчинский, 2020, с. 19]. Для темы нашей статьи важно понимание проблемы многообразия интеллектуальных искусственно созданных систем как проявлений многоликой гибридности, с которыми может выстраиваться взаимодействие человека в среде его обитания. Понимание архитектуры и технологических возможностей по адаптации интеллектуального агента, ограничений или расширений его способностей позволит снизить риски от его применения.
Кибернетическое понимание гибридности кардинально меняется в исследованиях на стыке этнографических и социологических подходов. Здесь сущность гибридности смещается в направлении смешанной идентичности индивида, главным образом расовой [Rosbrook-Thompson, 2021]. И это «другая сторона медали», т.е. совершенно иное представление о гибридности, поскольку речь уже идет о влиянии гибридизации на преодоление у представителей смешанной расы интегрированного самоощущения, связанного со своеобразием способов мышления [Aspinall, Song, 2013]. Это, скорее, то, что П. Гилрой называл расиологией, т.е. знанием, которое привносит виртуальная реальность в разрушение жизни [Gilroy, 2000]. Дж. Росбрук-Томсон в своем исследовании демонстрирует наличие некоторой путаницы в понимании смешанных форм идентичности, что отражает противоречия, подпитывающие логику противопоставления, благодаря которым сохранялись расовые и гендерные различия [Rosbrook-Thompson, 2021]. Для нас важно понимание, что гибридность - это всегда результат смешения/слияния некоторых природных различающихся субстанций с образованием качественно новой ипостаси.
Филолог Т.Ю. Загрязкина показала трехэтапный трансфер термина «гибридность» из одного языка (французского) во многие языки; из одной тер-миносистемы (биология) в общий язык и другие терминосистемы; из одной культуры в другую/другие. Автор отмечает такие значения лексемы, как гетерогенность, отсутствие фиксированной структуры, переход границ, высокая степень изменчивости [Загрязкина, 2022].
Для темы настоящей статьи представляет интерес демонстрация эффекта обрастания лексемы новыми смыслами, дополнительными коннотациями, что является причиной взаимного непонимания новых смысловых оттенков представителями разных научных школ. В этом плане мы полностью солидарны с Е.А. Алексеевой, что «в тематике ИИ проблема возникает на уровне употребления самого понятийного аппарата» [Лекторский и др., 2022, с. 9]. Так, Е.А. Алексеева разделяет термины «общий искусственный интеллект (ИИ) -Artificial general intelligence (AGI)» и интеллектуальные системы - «intelligent systems». По ее мнению, создавая общий ИИ, мы пытаемся моделировать человеческий интеллект или даже психику в целом. Интеллектуальные системы предназначены для выполнения отдельных человеческих функций, т.е. сильно ограничены. При этом мы приписываем им некоторую субъектность. Даже если мы объединим все эти ограниченные функции, мы не получим Artificial general intelligence и ими нельзя, например, полноценно заменить «педагогов-людей, исходя из экономических или еще каких-либо "рациональных" соображений». Но «если вы возьмете любую западную энциклопедию, даже
и Стэнфордскую философскую энциклопедию, там такой разницы вы не найдете. В понятие Artificial intelligence входит всё, даже то, что мы называем интеллектуальными системами. Считается, что это одно и то же!» [Лекторский и др., 2022, с. 10-11].
Гибридный человек в гибридной среде
Одно из проявлений гибридности в цифровом обществе - объединение Homo Digitals и Homo Sapiens. Homo Digitals дополняет качественные характеристики Homo Sapiens разнообразием цифровых воплощений [Василенко, 2021, с. 9]:
- различными виртуальными субъектами, не имеющими определенного места жительства и возраста, действующими активно и противоречиво в социальной реальности;
- техносубъектами, наделенными ИИ, обладающими способностью вступать в социальные отношения через мобильники, планшеты, роботов;
- ИИ-агентами, создаваемыми реальными субъектами на основе генетического программирования и обладающими некоторой самостоятельностью в поведении.
Сегодня возникает обеспокоенность, вызванная следующими сентенциями: «Не приводит ли чрезмерное распространение... "интеллектуальных ассистентов" к нашей интеллектуальной деградации?», «зная, что у меня под рукой всегда есть калькулятор, я с большим трудом могу заставить себя подсчитать цифры в уме или "в столбик" - отсутствие подобной практики приводит к утрате навыка. Чем больше появляется подобных "ассистентов", тем больше мы "отдаем" им на откуп и теряем сами» [Лекторский и др., 2022, с. 14]. Но можем ли мы точно понять, а что же мы приобретаем в этой настигающей нас гибридности?
Гибридный интеллект сочетает возможности человеческого и искусственного интеллектов. В.И. Игнатьев пишет о возможной полезной применимости роботов в деле «поиска и спасения людей, дополнения физических и когнитивных человеческих возможностей, работы в хирургии, протезировании, помощи в повседневной жизни, сопровождении пожилых и т.п.» [Игнатьев, 2019, с. 68]. В 2015 г. в Российской Федерации зарегистрирован патент на компьютерную программу для обучения и тренировки операторов интерфейса «мозг - компьютер», с поддержкой биологической обратной связи. В 2014-2015 гг. компания «Нейроботикс» (г. Москва, Зеленоград) провела эксперименты с техническими устройствами на основе интерфейсов «мозг - компьютер» (BCI)1. Появились технологии «свертывания информации», «психонетики», «эйдографики», технологии построения новых словарей, «выращивание» нового языка2. Мы наблюдаем
См.: Когниграф - модуль ИМК/ИМК-ПРО. URL: https://neurobotics.ru/catalog/neurophysiol-ogy/eeg/modul-imk/ (дата обращения: 27.02.2023).
См.: Психонетика. Выпуск 16: Олег Бахтияров. Формирование новых технологий и форм мышления. URL: https://www.youtube.com/watch?v=MF5LViI-9FM (дата обращения: 27.02.2023).
также гибридность в процессах соединения человеческого и искусственного интеллектов, например, в условиях нейропротезирования, позволяющего восстанавливать двигательные, чувствительные и познавательные функции, утраченные человеком. Нейростимуляция и нейросенсинг позволяют влиять на нервную систему человека посредством инвазивных и неинвазивных методов.
Закономерен вопрос, сможем ли мы предсказать, с какими рисками мы столкнемся в процессе применения аналогичных технологий? Следующий вопрос: насколько гармонично бурное интегрирование интеллектуальных технологий в нашу жизнь и в наше сознание включительно. В чем отличие таких гибридных образований, как «кентавры», т.е. «симбиоз человека и робота», групп, состоящих из людей и роботов, о которых пишет В.И. Игнатьев и ставит вопрос, смогут ли они «стать новой формой социальности» [Игнатьев, 2019, с. 68]? А.И. Ракитов обсуждает, может ли «сознание как индивидуальное, так и общественное... существовать без человека», замечая, что «если ко-гнитивистика позволит утверждать и докажет экспериментально, что сознание может быть отделено от мозга человека и "пересажено" в компьютер, то многие философские проблемы просто потеряют всякий смысл.» [Ракитов, 2019, с. 50-51].
Е.О. Труфанова обращает внимание на соответствующие сюжеты в научной фантастике: «Самым ярким примером я бы назвала... HAL9000 из "Космической одиссеи 2001 года" А. Кларка. Эти страхи связаны именно с ожиданием, что искусственный интеллект станет-таки самостоятельным, независимым от своего создателя субъектом и, обладая значительно большими "мощностями" (скорость реакции, объем памяти и т.д.), способен будет с легкостью победить». И происходит это, по ее мнению, потому что «вместо развития по пу-« »
ти сильного искусственного интеллекта, как показала практика, развивался прежде всего "слабый" искусственный интеллект, решающий сугубо прикладные задачи» [Лекторский и др., 2022, с. 14].
Поэтому важен ответ на вопрос Е.О. Труфановой «как провести грань между искусственным интеллектом в качестве помощника в моей деятельности и искусственным интеллектом, который начинает с помощью своих подсказок полностью мной руководить?» [Там же, с. 14-15]. И.Г. Меркулова, отвечая на аналогичный по смыслу вопрос, подчеркивает, что «опасность нашей порабощенности искусственным интеллектом - это, конечно, не образ фантастических романов XX в. и страшного существа, которое нас поработит, а это проблема жизни по подсказке - жить, ориентируясь на то, что нам скажут. подсказка будет основана на том, что у нас уже есть. ориентируясь на наши интересы». И главный ее посыл - «ИИ не предложит кардинально нового.» [Там же, с. 15].
В заключение этого фрагмента подчеркнем, что данная тема не нова. Так, великий русский философ Н.А. Бердяев еще в 1933 г. выражал очень созвучную современной обеспокоенность:
С точки зрения органической жизни техника означает развоплощение, разрыв в органических телах истории, разрыв плоти и духа. Техника раскрывает новую ступень действительности, и эта действительность есть создание человека, результат прорыва духа в природу и внедрение разума в стихийные
процессы... Но машина совсем не повинуется тому, что требует от нее человек, она диктует свои законы. Организм человека оказывается беззащитным перед собственными изобретениями человека [Бердяев, 1933, с. 11-12].
Представляется, что избежать негативных последствий возможно только в условиях применения «умного» управления.
«Умное» управление в условиях гибридной среды
Одной из позитивных линий развития социума выступает «умное» публичное управление. Этот концепт нашел свое развитие в ряде публикаций [Тихонов, Богданов, 2020; Дудихин, Шевцова, 2020; Исаков, Никитина, 2020; Лунев и др., 2020; Василенко, 2021; Миронова, Абоян, 2021]. Авторы настоящей статьи рассматривают «умное управление» в трактовке А.В. Тихонова и В.С. Богданова - как равное коммуникативное взаимодействие власти и общества, основанное на принципах обратной связи между лицами, принимающими решения и выполняющими их с использованием средств искусственного интеллекта [Тихонов, Богданов, 2020, с. 79]. Взаимодействующими субъектами в процессах принятия управленческих решений и их реализации могут выступать как реальные люди, так и человеко-машинные гибридные образования в формате интеллектуальных интерактивных моделей (цифровых двойников) [Patsias et а1., 2020]. Гибридность в таких системах обретает формат симбио-тического интеллекта. Поскольку искусственный интеллект не может полностью заменить человека в решении сложных задач, требующих креативности, интуиции, эмоционального интеллекта и других качеств, присущих только людям, то создается взаимовыгодный симбиотический союз между компьютерами и людьми. И это гибридное образование более высокого уровня сложности. В такой гибридной системе в качестве системы ИИ могут выступить цифровые двойники сетевых коллективных субъектов групп политического влияния. Последние статистически выделены в результате анализа управляемости процессов социального группообразования в регионах с разным уровнем социокультурной модернизации и поддержки населением стратегии развития страны до 2024 г. [Тихонов, Мерзляков, ред., 2021].
В аналогичных гибридных взаимодействиях каждый участник должен обладать качествами некоторой самости, субъектности [Мерзляков, 2018] в логике движения к «гибридно-сетевому управлению» и «гибридным инфосоциальным системам» [Тихонов и др., 2018, с. 229]. Все гибридные системы базируются на закономерностях обращения информации в гибридном смешении виртуальной и естественной реальностей - «около двух третей информации, необходимой по работе, приобретается сотрудниками посредством межличностной коммуникации: в виде неформальных бесед, непосредственного общения, рассказов, историй, наставничества, стажировок и ученичества» [Каныгин, Кононова, 2021, с. 100]. Здесь парадокс открытости и доступности информации и повседневного применения новых типов цифровой самопрезентации и выражения своей самости индивидами - профили в блогах и социальных сетях, видеоролики, сторителлинг, авторские каналы в мессенджерах, самообучающиеся мобильные тренинги. Личная идентичность в гибридной среде расширяется за счет цифровой или сетевой
идентификации, обретая дополнительную весомость и самостоятельность. Но попытки ее ограничить также весьма настойчивы и регулярны.
Отметим, что сегодня применение ИИ в политических процессах достаточно разнообразно. Например, создание ботов, имитирующих реальных политиков в период избирательных компаний. Н.Н. Емельянова приводит высказывание такого бота в Новой Зеландии: «Моя память бесконечна, поэтому я никогда не забуду и не проигнорирую то, что вы мне скажете. В отличие от человека-политика при принятии решений я учитываю позицию каждого без предвзятости» [Лекторский и др., 2022, с. 22]. Второй ее пример - использование ИИ как инструмента по переформатированию личности, в частности, Единая система оценки благонадежности, через начисление социального кредита в КНР, работающая с 2014 г.; строгое цифровое наблюдение с использованием анализа больших данных, которое имеет место в Синьцзян-Уйгурском автономном округе. «В перспективе, - заключает Н.И. Емельянова, - ИИ может стать постоянным источником угнетения просто в силу того, что благодаря виртуальным технологиям будет конструироваться специальный виртуальный авторитарный лидер, который будет проецировать самые разные механизмы угнетения вплоть до того, что ИИ может стать причиной начала третьей мировой войны» [Там же, с. 23].
Такие прогнозы обусловливают обязательность учета рисков последствий деятельности гибридных субъектов цифрового общества.
Цифровые риски гибридности: экстернализация неявного знания
Мы наблюдаем размывание границ публичного и приватного, с одной стороны, и неготовность личности к ответственности за созданный им образ себя в сети, - с другой. При этом даже «полный отказ от использования современных коммуникативных средств не является выходом из сложившейся ситуации - он будет восприниматься как эскапизм, бегство, затворничество - современный человек вынужден оставаться в режиме "онлайн", поскольку только так он может оставаться активным членом общества» [Trufanova, 2021, с. 34]. Но, главное, своеобразные цифровые двойники Homo Sapiens будут в цифровом обществе почти самостоятельно действовать одновременно с реальным их прототипом. Сможем ли мы понять, кто есть кто? Сможет ли сам реальный субъект справиться со своими цифровыми двойниками, подменяющими его в разных социальных реалиях?
И.Г. Меркулова, ссылаясь на О. Бернхайм и Ф. Венсан, обращает внимание на то, что алгоритмы ИИ появляются «в результате целой цепочки причинно-следственных связей: те, кто его разрабатывает, кодирует, тестирует и использует, чаще всего бессознательно воспроизводит собственные предрассудки и стереотипы. Как сделать так, чтобы алгоритмы стали непредвзятыми?». И мы находим ответ на свой вопрос: «Появились специализированные компании, разрабатывающие инструменты для оценки степени предвзятости алгоритмов... Тот факт, что человеческое общество уже не довольствуется принципом использования и сосуществования с ИИ, а стремится к выработке
описывающих его этических критериев, открывает перед нами перспективы устойчивого прогресса на благо человечества» [Лекторский и др., 2022, с. 21-22].
В этом плане логично обратиться к такому феномену, как экстернализация знаний индивида, т.е. представления своей идентичности вовне (а в нашем случае в виртуальном и реальном мирах), включая собственные инстинкты, желания, настроения и стиль мышления в условиях дуальности знания. И.Г. Меркулова со ссылкой на Ю.М. Лотмана поднимает вопрос, что «реальная коммуникация - это не передача информации от А и В в константном объеме, она возникает именно в недосказанности, непонимании, и именно тогда появляется то, что называется переводом в широком смысле слова. вопрос перевода нашего языка и языка ИИ - это те самые лакуны, недосказанности, на которые нужно обращать внимание, чтобы не жить по подсказке» [Там же, с. 15-16].
Экстернализация фактически ведет к раскрытию скрытых, латентных, неявных знаний. Г.В. Каныгин и О.В. Кононова указывают на «невнимание информационных аналитиков к прагматическому методу экстернализации неявного знания». Это «приводит к "дотехнологическому" разделению акторов ИКТ на человеческих и компьютерных агентов», поскольку «разработчики современных "умных" технологий считают само собой разумеющимся выражение неявного знания посредством речи в виде потока текста», не рассматривая «повседневное прагматическое применение естественного языка любым человеком в процессе социальной коммуникации» [Каныгин, Кононова 2021, с. 96]. Некоторые возможности мы видим в SECI-модели И. Нонака и Х. Такеучи с использованием четырех типов преобразования неявного знания - «socialization», «ex-ternalization», «combination», «internalization» [Nonaka, Takeuchi, 1995].
Обратим внимание, что цифровое общество в своей эволюции предоставляет множество неформализованных и нестандартных способов для выражения экстернализации от примитивных аватаров с никнеймами на этапе становления информационного общества до более развитых прототипов самообучающихся цифровых двойников сегодняшнего дня. Но при этом полной экстернализации, преобразования латентной информации в гибридном социальном пространстве не происходит и, скорее всего, не может произойти в силу того, что мы имеем дело с «живыми» системами, которые известный российский философ В.С. Степин определял как гомеостатические системы третьего типа [Степин и др., 2016]. Это означает, что ни при каких условиях в эволюционном процессе развития мы не сможем создать адекватные версии цифрового двойника человека. Но надо ли это нам? Скорее всего, достаточно воспроизводить в цифровом двойнике какие-то отдельные стороны удивительного многогранного феномена под названием «человек». И его цифровой двойник только в каких-то чертах будет повторять особенности своего реального прототипа, хотя мы будем сталкиваться и с неявными отличиями, которые не проектировали в момент его создания. Важно при этом помнить, что взаимодействующий с нами интеллектуальный агент имеет свои ограничения.
Еще большую сложность вызывает процесс создания цифрового двойника некоторого сообщества как «фабрики знаний». Г.В. Каныгин и О.В. Кононова ставят закономерный вопрос: «Кто из этого сообщества должен оказаться носителем знаний?»; при этом возможность «коллективного неявного знания»
наукой вообще не обсуждается, подчеркивают они [Каныгин, Кононова, 2021, с. 97] со ссылкой на И. Виртонена, т.к. «сама идея кажется невозможной для обсуждения (idea seems unaccountable)» [Virtanen, 2014, p. 72].
Но, как известно, в биологии межвидовой гибрид не способен к размножению, поколения его потомков содержат значительную долю нежизнеспособных, стерильных и полустерильных особей - неудачных вариантов рекомбинаций. Природой запланирована защита от таких случайностей. Можем ли мы запрограммировать специальную защиту для продуктов социо-технической гибридизации?
В кибернетике гибридный интеллект потенциально опасен потерей человеческого контроля над ним. В.И. Игнатьев исследует коэволюцию человека и техносубъектов, к которым он относит роботов, алгоритмы работы с Большими Данными, программы машинного обучения, ИИ-агентов, создаваемых на основе генетического программирования, Интернет вещей, промышленный Интернет, устройства мобильных коммуникаций со встроенным ИИ, и приходит к неутешительному прогнозу: при всех возможных вариантах развития событий нам грозит возникновение общества новых видов субъектов без человека [Игнатьев, 2019]. И всё это несет повышенный риск в условиях отсутствия встроенных компонентов проверки входных данных на корректность в алгоритмах самообучения искусственного агента.
В англоязычной социологии исследователи межрасовой гибридности на фоне политизированного общественного дискурса в логике «black lives matter» осторожно говорят о критическом и непраздничном подходе к суперразнообразию [Rosbrook-Thompson, 2021], напряжениях и противоречиях смешанной идентичности, двойном сознании и гиперкомпенсации. Смешанные идентичности порождают путаницу, которая, в свою очередь, подпитывала логику противопоставления, благодаря которой сохранялись расовые и гендерные различия [Мещерякова, 2020]. Сложные модели - более уязвимые, гибридность порождает новые риски. С.А. Кравченко, например, полагает, что смешение реального и виртуального миров порождает парадоксальное сосуществование реальных и инсценированных рисков, формируя девиантный характер сознания и поведения людей. Он дает им определение гибридных макро-микро рисков [Кравченко, 2021, с. 46].
Новые гибридные риски как «гибридные смешения, или встречи, двух средств коммуникации - момент истины и откровения, из которого рождается новая форма» [Маклюен, 2003, с. 32], но энергия, которая высвобождается при этой встрече, сопоставима с той, что «высвобождается при расщеплении ядра или термоядерном синтезе» [Там же, с. 28]. Куда будет направлена эта энергия?
Заключение
Систематизируя представленные выше суждения о феномене гибрид-ности, можно сделать вывод о складывании гибридной реальности, трансгрессии виртуальных отношений в реальный мир. Преодоление непреодолимого предела уже произошло. Реальное/виртуальное, естественное/искусственное,
даже когда мы говорим об интеллекте или естестве человека, это уже не дихотомии, а целостности.
Одним из аспектов снижения рискогенности процессов гибридизации является становление цифровых социальных институтов. Если в естественном мире человек проходит длительный процесс социализации, то гибридный социальный организм такого процесса лишен в силу отсутствия цифровых институтов. Авторы статьи о цифровизации глобального общества указывают на необходимость целенаправленного формирования цифровых социальных институтов в связи со сложностью происходящих процессов самоорганизации [Vasilenko et al., 2022]. Государство пытается регулировать эти процессы с помощью тех же инструментов, которые действуют в реальном мире. Но природа виртуального мира иная. Люди собираются в сетевые сообщества в соответствии со своими ценностями, социокультурными и биологическими особенностями, а национальные границы и социальные институты здесь не сформированы, законов и табу здесь пока нет. Поэтому в процессе цифровой трансформации необходимо предусмотреть специальные механизмы для выполнения социализирующих функций каждым субъектом: онлайн-инстру-менты для выражения интересов, прав и обязанностей граждан в рамках социальных институтов, а также санкционные и согласительные механизмы, позволяющие разрешать возникающие конфликты.
Авторы настоящей статьи пока крайне осторожно относятся к возможности исследовать представленные в тексте феномены даже на уровне простой постановки исследовательской задачи, хотя поиск подходов к проблеме социальных рисков цифрового общества и методологии их исследования должен осуществляться. Такой взгляд порождает некоторые основания для заключения, что концепт гибридности цифрового общества было бы полезно использовать как аналитическую оптику для изучения социальных процессов с точки зрения их двойственной природы и возникающих уязвимостей при построении научно обоснованных прогнозов. Теоретическая модель позволяет углубить понимание современного цифрового общества, оценить перспективы его дальнейшего развития, сосредотачиваясь на безопасности перехода на цифровые технологии без сохранения аналоговых копий, изменения человеческой идентичности в различных вариантах сборки человека/не-человека и всех иных рисках сложных процессов гибридизации.
Список литературы
Бердяев, 1933 - Бердяев Н.А. Человек и машина (проблема социологии и метафизики техники) // Путь. 1933. № 38. С. 8-12.
Василенко, 2021 - Василенко Л.А. Цифровой прорыв: достаточно ли умным в цифровом государстве буцет публичное управление и насколько умны элита и граждане // Цифровая социология / Digital Sociology. 2021. Т. 4. № 3. С. 6-15.
Василенко, Мещерякова, 2021 - Василенко Л.А., Мещерякова Н.Н. Социология цифрового общества. Томск: Изд-во Томского политехнического университета, 2021. 226 с.
Волков, Кизилова, 2016 - Волков А.А., Кизилова А.С. Гибридность как отражение современного мира. Гибридное образование // Science Time. 2016. Т. 12. № 36. С. 103-108.
Дудихин, Шевцова, 2020 - Дудихин В.В., Шевцова И.В. Умное управление - управление с использованием искусственного интеллекта // Государственное управление. Электронный вестник. 2020. № 81. С. 49-65.
Загрязкина, 2022 - Загрязкина Т.Ю. Феномен hybridité/гибридность в гуманитарном дискурсе, межкультурной коммуникации и культурном трансфере // Вестник Московского университета. Серия 19: Лингвистика и межкультурная коммуникация. 2022. № 1. С. 17-34.
Игнатьев, 2019 - Игнатьев В.И. И грядет «другой» актор... Становление техносубъекта в контексте движения к технологической сингулярности // Социология науки и технологий. 2019. Т. 10. № 1. С. 64-78.
Исаков, Никитина, 2020 - Исаков А.С., Никитина А.С. Цифровизация социального контроля в системе государственного управления в оценках экспертного сообщества // Дневник науки. 2021. № 10 (58). URL: http://dnevniknauki.ru/images/publications/2021/10/ sociology/Isakov_Nikitina.pdf (дата обращения: 17.03.2023).
Каныгин, Кононова, 2021 - Каныгин Г.В., Кононова О.В. Прагматическая эпистемология: подходы к выражению неявного знания социальными акторами // Социология науки и технологий. 2021. Т. 12. № 4. С. 93-115.
Кравченко, 2021 - Кравченко С.А. Социология цифровизации: учебник для вузов. М.: Юрайт, 2021. 236 с.
Кравченко, Ракова, 2021 - Кравченко С.А., Ракова К.В. «Умные часы» как фактор становления гибридной коммуникации между врачом и пациентом // Коммуникология. 2021. Т. 9. № 3. С. 15-28.
Лекторский и др., 2022 - Лекторский В.А., Алексеева Е.А., Емельянова Н.Н. Искусственный интеллект в исследованиях сознания и общественной жизни (к 70-летию статьи А. Тьюринга «Вычислительные машины и разум») (материалы круглого стола) // Философия науки и техники. 2022. Т. 27. № 1. С. 5-33.
Лунев и др., 2020 - Лунев В.В., Лунева Т.А., Модестов Ф.А., Рахинский Д.В. Умное управление и организационное развитие // Современная наука: актуальные проблемы теории и практики. Серия: Экономика и право. 2020. № 9. С. 43-47.
Маклюен, 2003 - Маклюэн М. Понимание медиа: Внешние расширения человека / Пер. с англ. В.Г. Николаева. М.; Жуковский: КАНОН-пресс-Ц: Кучково поле, 2003. 464 с.
Мерзляков, 2018 - Мерзляков А.А. Проблема субъектности в социологии управления // Социологическая наука и социальная практика. 2018. Т. 6. № 4. С. 95-104.
Мещерякова, 2020 - Мещерякова Н.Н. Di Angelo Robin J. White fragility: why it's so hard to talk to white people about racism. Description: Boston: Beacon Press, [2018]. Рец. Н.Н. Мещерякова // Социологические исследования. 2020. № 9. C. 159-162.
Миронова, Абоян, 2021 - Миронова А., Абоян М. Умное управление - управление с использованием искусственного интеллекта // Развитие предпринимательства в России -история, опыт, перспективы: региональный аспект: сборник материалов Международной научно-практической конференции преподавателей, студентов, магистрантов, аспирантов: в 2 ч. Симферополь, 2021. С. 103-107.
Морозова, Мирошниченко, 2015 - Морозова Е.В., Мирошниченко И.В. Гибридные политические институты в современных политиях // Вестник Московского университета. Серия 21: Управление (государство и общество). 2015. № 3. С. 34-46.
Попкова, 2018 - Попкова Н.В. Социальная природа техники // Философия науки и техники. 2018. Т. 23. № 2. С. 49-60.
Ракитов, 2019 - Ракитов А.И. Философия и NBIC // Философия науки и техники 2019. Т. 24. № 2. С. 43-52.
Степин и др., 2016 - Степин В.С., Еськов В.М., Буданов В.Г. Новые представления о гомеостазе и эволюции // Сложность. Разум. Постнеклассика. 2016. № 3. С. 52-58.
Тихонов, Богданов, 2020 - Тихонов А.В., Богданов В.С. От «умного регулирования» к «умному управлению»: социальная проблема цифровизации обратных связей // Социологические исследования. 2020. № 1. С. 74-81.
Тихонов, Мерзляков, ред., 2021 - Реформирование властно-управленческой вертикали в условиях реализации национальных проектов и активизации процессов спонтанного группообразования / Отв. ред. А.В. Тихонов, А.А. Мерзляков. М.: ФНИСЦ РАН, 2021. 455 с.
Тихонов и др., 2018 - Тихонов А.И., Федотова М.А., Инь Бинь. Экспертно-аналити-ческие методы в метасценировании международных образовательных проектов // Аналитический журнал «Риск». 2018. № 1. С. 228-231.
Тульчинский, 2020 - Тульчинский Г.Л. Sciences и humanities: уточнение различий и перспектив синтеза // Философия науки и техники. 2020. Т. 25. № 2. С. 17-20.
Aspinall, Song, 2013 - Aspinall P., Song M. Mixed race identities. L.: Palgrave Macmillan, 2013. 229 р.
Bell, 1973 - Bell D. The Coming of Post-Industrial Society: A Venture in Social Forecasting. N.Y.: Basic Books, 1973. 507 p.
Damasio, 2010 - Damasio A. Self Comes to Mind: Constructing the Conscious Brain. N.Y.: Pantheon, 2010. 367 p.
Dennett, 2003 - DennettD. Freedom Evolves. N.Y.; L.: Penguin Books, 2003. 347 p.
Dushkin, Andronov, 2019 - Dushkin R.V., Andronov M.G. The Hybrid Design for Artificial Intelligence Systems // Proceedings of the 2020 Intelligent Systems Conference (IntelliSys 2020), Vol. 1 (1250) / Ed. by K. Arai, S. Kapoor, R. Bhatia. Switzerland: Springer: Cham, 2020. P. 164-170.
Gilroy, 2000 - Gilroy P. Against race: Imagining political culture beyond the color line. Harvard: Harvard University Press, 2000. 406 р.
Lupton, 2015 - Lupton D. Digital Sociology. L.; N.Y.: Routledge, 2015. 236 p.
Milgram, Kashino, 1994 - Milgram P., Kashino A.F. Taxonomy of Mixed Reality Visual Displays // IEICE Transactions on Information and Systems. 1994. Vol. E77-D. No. 12. P. 13211329.
Nonaka, Takeuchi, 1995 - Nonaka I., Takeuchi H. The Knowledge-Creating Company: How Japanese Companies Create the Dynamics of Innovation. N.Y.: Oxford University Press, 1995. 394 p.
Patsias et al., 2020 - Patsias N.G., Nejdl W., Kompatsiaris Y. Digital Twins of Social Groups: A Review of Recent Advances and Future Directions // IEEE Transactions on Computational Social Systems. 2020. Vol. 8. No. 6. P. 1467-1479.
Rosbrook-Thompson, 2021 - Rosbrook-Thompson J. The construction and understanding of mixed-race identities at a super diverse youth football club: Hybridity, confusion and contrafusion // The Sociological Review. 2021. Vol. 6. No. 2. P. 365-381.
Trufanova, 2021 - Trufanova E.O. Private and public in the digital space: blurring of the lines // Galactica Media: Journal of Media Studies. 2021. No. 1. P. 14-38.
Vasilenko, Meshcheryakova, Zotov, 2022 - Vasilenko L., Meshcheryakova N., Zotov V. Digitalization of Global Society: From the Emerging Social Reality to its Sociological Conceptualisation // WISDOM. 2022. Vol. 21. No. 1. P. 123-129. DOI: 10.24234/wisdom. v21i1.720.
Virtanen, 2014 - Virtanen I. How Tacit Is Tacit Knowledge? Polanyi's Theory of Knowledge and Its Application in the Knowledge Management Theories. Academic Dissertation. Tampere University Press, 2014. URL: https://trepo.tuni.fi/bitstream/handle/10024/95444/978-951-44-9493-2.pdf;sequence=1 (дата обращения: 17.03.2023).
Digital hybridity: innovative reality or utopia?
Liudmila A. Vasilenko
The Russian Presidential Academy of National Economy and Public Administration. 82 Vernadsky Avenue, Moscow 119571, Russian Federation; e-mail: [email protected]
Nataliya N. Meshcheryakova
Russian State University for the Humanities. 6 Miusskaya sq., Moscow, GSP-3 125993, Russian Federation; e-mail: [email protected]
The problem of hybridity is a set of relatively new, controversial, complex theoretical, methodological and practical issues that humanity has faced during the period of digital transformation. The purpose of this article is to address the dual nature of hybridity in the emerging digital society. The inconsistency of hybridity is due to the symbiosis of the real and virtual (digital) worlds, which merge into a single integrity. A fundamentally new human habitat has emerged. And a person can no longer always understand which of the spaces - real or virtual - he is in at one moment or another, and how does human existence appear to us in this hybrid innovative world? In this hybrid environment, a person com -municates not only with his own kind, but also with artificial subjects (technosubjects), giving rise to the problem of hybridity of a higher order. Being is complicated by the hybrid symbiosis of natural and artificial intelligence, new ways of externalization, the expansion of personal identity through digital or network identification. On the other hand, in the joint evolutionary development, a tendency begins to take shape to displace man himself with these artificial self-developing systems, in which human qualities are increasingly manifested. At the same time, a person is not always ready to bear responsibil -ity for the consequences and quality of the created artificial self-image. Meanwhile, the world is already entering the next level of complexity of being - the Post-Human world, the hybridity of which is generated by the symbiosis of the human body and the electronic devices built into it. This article examines how the interpenetration of previously heterogeneous elements occurs in various spheres of life and what risks this generates. The authors propose the formulated concept of hybridity as a kind of analytical tool for studying social processes from the point of view of their dual nature, emerging risks and vulnera -bilities.
Keywords: information society, digital society, digital transformation, hybridity, real world, digital world, risks, externalization, artificial general intelligence (AGI), intelligent systems
References
Aspinall, P., Song, M. Mixed race identities. L.: Palgrave Macmillan, 2013. 229 pp.
Bell, D. The Coming of Post-Industrial Society: A Venture in Social Forecasting. N.Y.: Basic Books, 1973. 507 pp.
Berdyayev, N.A. "Chelovek i mashina (problema sotsiologii i metafiziki tekhniki)" [Man and machine (a problem of sociology and metaphysics of technology)], Put', 1933, no. 38, pp. 8-12. (In Russian)
Damasio, A. Self Comes to Mind: Constructing the Conscious Brain. N.Y.: Pantheon, 2010. 367 pp.
Dennett, D. Freedom Evolves. N.Y., London: Penguin Books, 2003. 347 pp.
Dudikhin, V.V., Shevtsova, I.V. "Umnoye upravleniye - upravleniye s ispol'zovaniyem iskusstvennogo intellekta" [Smart Management - Management Using Artificial Intelligence], Public administration. E-journal, 2020, no. 81, pp. 49-65. (In Russian)
Dushkin, R.V., Andronov, M.G. "The Hybrid Design for Artificial Intelligence Systems", Proceedings of the 2020 Intelligent Systems Conference (IntelliSys 2020), Vol. 1 (1250), ed. by K. Arai, S. Kapoor, R. Bhatia. Switzerland: Springer, Cham, 2020, pp. 164-170.
Gilroy, P. Against race: Imagining political culture beyond the color line. Harvard: Harvard University Press, 2000. 406 pp.
Ignatyev, V.I. "I gryadet 'drugoj' aktor... Stanovlenie tekhnosub"ekta v kontekste dvizheniya k tekhnologicheskoj singulyarnosti" [And the 'other' actor is coming. The formation of techno-subject in the context of the movement to technological singularity], Sociology of Science and Technology, 2019, vol. 10, no. 1, pp. 64-78. (In Russian)
Isakov, A.S., Nikitina, A.S. "Tsifrovizatsiya sotsial'nogo kontrolya v sisteme gosudar-stvennogo upravleniya v otsenkakh ekspertnogo soobshchestva" [Digitalization of social control in the public governance system in the assessments of the expert community], Dnevnik nauki, 2021, no. 10 (58). [http://dnevniknauki.ru/images/publications/2021/10/sociology/Isakov_Nikitina.pdf, accessed on 17.03.2023]. (In Russian)
Kanygin, G., Kononova, O. "Pragmaticheskaya epistemologiya: podhody k vyrazheniyu neyavnogo znaniya social'nymi aktorami" [Pragmatic Epistemology: Approaches to the Expression of Implicit Knowledge by Social Actors], Sociology of Science and Technology, 2021, vol. 12, no. 4, pp. 93-115. (In Russian)
Kravchenko, S.A. Sociologiya cifrovizacii: uchebnik dlya vuzov [Sociology of Digitalization: a textbook for universities]. Moscow: Yurayt Publ., 2021. 236 pp. (In Russian)
Kravchenko, S.A., Rakova, K.V. "'Umnye chasy' kak factor stanovleniya gibridnoj kommunikacii mezhdu vrachom i pacientom" ['Smart watch' as a Factor for the Formation of Hybrid Communication Doctor - Patient], Communicology, 2021, vol. 9, no. 3, pp. 15-28. (In Russian)
Lektorskii, V.A., Alexeeva, E.A., Emelyanova, N.N. et al. "Iskusstvennyj intellekt v is-sledovaniyah soznaniya i obshchestvennoj zhizni (k 70-letiyu stat'i A. T'yuringa 'Vychislitel'nye mashiny i razum') (materialy kruglogo stola)" [Artificial Intelligence in Studies of Consciousness and Social Life (to the 70th anniversary of A. Turing's article 'Computing Machines and Mind') (round table proceedings)], Filosofiya nauki i tekhniki / Philosophy of science and technology, 2022, vol. 27, no. 1, pp. 5-33. (In Russian)
Lunev, V.V., Luneva, T.A., Modestov, F.A., Rakhinsky, D.V. "Umnoye upravleniye i orga-nizatsionnoye razvitiye" [Smart management and organizational development], Modern science: topical problems of theory and practice. Series: Economics and Law, 2020, no. 9, pp. 43-47. (In Russian)
Lupton, D. Digital Sociology. London, N.Y.: Routledge, 2015, 236 pp. McLuhan, M. Understanding Media: The Extensions of Man, trans. by V.G. Nikolaev. Moscow, Zhukovskii: KANON-press-C Publ., Kuchkovo pole Publ., 1964. 464 pp.
Merzlyakov, A.A. "Problema sub"yektnosti v sotsiologii upravleniya" [The Problem of Subjectivity in the Sociology of Management], Sociologicheskaja nauka i social'naja praktika, 2018, vol. 4, no. 6, pp. 95-104. (In Russian)
Meshcheryakova, N.N. "DiAngelo R.J. White fragility: why it's so hard to talk to white people about racism. Description: Boston: Beacon Press, 2018. Rec. N.N. Meshcheryakova" [DiAngelo R.J. White fragility: why it's so hard to talk to white people about racism. Description: Boston: Beacon Press, 2018. Rev. N.N. Meshcheryakova], Sociologicheskie issledovaniya, 2020, vol. 46, no. 9, pp. 159-162. (In Russian)
Milgram, P., Kashino, A.F. "Taxonomy of Mixed Reality Visual Displays", IEICE Transactions on Information and Systems, 1994, vol. E77-D, no. 12, pp. 1321-1329.
Mironova, A., Aboyan, M. Umnoye upravleniye - upravleniye s ispol'zovaniyem iskus-stvennogo intellekta [Smart management - management using AI], Development of Entre-preneurship in Russia - History, Experience, Prospects: Regional Aspect: Collection of materials of the International scientific-practical conference of teachers, students, undergraduates, graduate students, in 2 parts. Simferopol, 2021, pp. 103-107. (In Russian)
Morozova, E.V., Miroshnichenko, I.V. "Gibridnye politicheskie instituty v sovremennyh politiyah" [Hybrid Political Institutions in Modern Polities], Moscow University Bulletin, Series 21. Public Administration, Management (state and society), 2015, no. 3, pp. 34-46. (In Russian)
Nonaka, I., Takeuchi, H. The Knowledge-Creating Company: How Japanese Companies Create the Dynamics of Innovation. N.Y.: Oxford University Press, 1995. 394 pp.
Patsias, N.G., Nejdl, W., Kompatsiaris, Y. "Digital Twins of Social Groups: A Review of Recent Advances and Future Directions", IEEE Transactions on Computational Social Systems, vol. 8, no. 6, pp. 1467-1479.
Popkova, N.V. "Sotsial'nyy kharakter tekhniki" [The social nature of technique], Filosofiya nauki i tekhniki / Philosophy of science and technology, 2018, vol. 23, no. 2, pp. 49-60. (In Russian)
Rakitov, A.I. "Filosofija i NBIC" [Philosophy and NBIC], Filosofiya nauki i tekhniki / Philosophy of science and technology, 2019, vol. 24, no. 2, pp. 43-52. (In Russian)
Reformirovaniye vlastno-upravlencheskoy vertikali v usloviyakh realizatsii natsional'nykh proyektov i aktivizatsii protsessov spontannogo gruppoobrazovaniya [Reforming the powermanagement vertical in the context of the implementation of national projects and the activation of the processes of spontaneous group formation: monograph], ed. by A.V. Tikhonov, A.A. Mer-zlyakov. Moscow: FNISC RAS Publ., 2021. 455 pp. (In Russian)
Rosbrook-Thompson, J. "The construction and understanding of mixed-race identities at a super diverse youth football club: Hybridity, confusion and contra-fusion", The Sociological Review, 2021, vol. 6, no. 2, pp. 365-381.
Stepin, V.S., Eskov, V.M., Budanov, V.G. "Novye predstavleniya o gomeostaze i evolyutsii" [New ideas about homeostasis and evolution], Slozhnost'. Razum. Postneklassika [Complexity. Mind. Postnonclassics], 2016, no. 3, pp. 52-58. (In Russian)
Tikhonov, A.V., Bogdanov, V.S. "Ot 'umnogo regulirovaniya' k 'umnomu upravleniyu': social'naya problema cifrovizacii obratnyh svyazej" [From 'clever regulation' to 'clever management': social problem of digitalization of feedbacks], Sociological Studies, 2020, no. 1, pp. 74-81. (In Russian)
Tikhonov, A.I., Fedotova, M.A., Yin Binh. "Ekspertno-analiticheskie metody v meta-scenirovanii mezhdunarodnyh obrazovatel'nyh proektov" [Expert-analytical methods in the meta-screening of international educational projects], Analytical Journal 'Risk', 2018, no. 1, pp. 228231. (In Russian)
Trufanova, E.O. "Private and public in the digital space: blurring of the lines", Galactica Media: Journal of Media Studies, 2021, no. 1, pp. 14-38.
Tulchinskii, G.L. "Sciences i humanities: utochnenie razlichij i perspektiv sinteza" [Science and humanities: clarification of differences and synthesis prospects], Filosofiya nauki i tekhniki / Philosophy of science and technology, 2020, vol. 25, no. 2, pp. 17-20. (In Russian)
Vasilenko, L.A. "Cifrovoj proryv: dostatochno li umnym v cifrovom gosudarstve budet publichnoe upravlenie i naskol'ko umny elita i grazhdane" [Digital breakthrough: will public administration be smart enough in a digital state and how smart are the elite and citizens], Cifrovaja sociologija /Digital Sociology, 2021, vol. 4, no. 3, pp. 6-15. (In Russian)
Vasilenko, L., Meshcheryakova, N. Sociologiya cifrovogo obshchestva [Sociology of Digital Society]. Tomsk: Izd-vo TPU Publ., 2021. 226 pp. (In Russian)
Vasilenko, L., Meshcheryakova, N., Zotov, V. "Digitalization of Global Society: From the Emerging Social Reality to its Sociological Conceptualisation", WISDOM, 2022, vol. 21, no. 1, pp. 123-129.
Virtanen, I. How Tacit Is Tacit Knowledge? Polanyi's Theory of Knowledge and Its Application in the Knowledge Management Theories. Academic Dissertation. Tampere University Press, 2014. [https://trepo.tuni.fi/bitstream/handle/10024/95444/978-951-44-9493-2.pdf; sequence=1, accessed on 17.03.2023].
Volkov, A.A., Kizilova, A.S., Stepanov, M.B. "Gibridnost' kak otrazhenie sovremennogo mira. Gibridnoe obrazovanie" [Experience in the hybrid environmental education in the polytechnic university of Milan. Hybrid education], Science Time, 2017, vol. 12, no. 36, pp. 152-158. (In Russian)
Zagryazkina, T. "Fenomen hybridité/gibridnost' v gumanitarnom diskurse, mezhkul'turnoj kommunikacii i kul'turnom transfere" [The hybridité phenomenon in humanitarian discourse, intercultural communication and cultural transfer], Vestnik (Herald) of Moscow University. Series 19: Linguistics and Intercultural Communication, 2022, no. 1, pp. 17-34. (In Russian)
