CC BY
1
Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2024. Т. 24, вып. 1. С. 62-66 Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2024, vol. 24, iss. 1, pp. 62-66
https://phpp.sgu.ru
https://doi.org/10.18500/1819-7671-2024-24-1-62-66, EDN: JSDFKE
Научная статья УДК [316:1]+004
Проблема приватности в цифровом обществе роевого интеллекта
М. А. Шаткин
Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского, Россия, 410012, Саратов, ул. Астраханская, д. 83
Шаткин Максим Александрович, кандидат философских наук, доцент кафедры философии и методологии науки, maximshatkin@gmail. com, https://orcid.org/0000-0002-8138-6819
Аннотация. Введение. Развитие цифровых технологий требует конкретизации типа формирующегося цифрового общества. Одним из сценариев развития является становление цифрового общества роевого интеллекта. Теоретический анализ. Понятие роевого интеллекта означает оптимизационный алгоритм, подражающий поведению роев или колоний насекомых и птичьих стай. Для человеческого общества характерно проявление роевого интеллекта как условия совместной организованной деятельности, однако развитие цифровых технологий переводит роевый интеллект на более высокий уровень. Создание приватных роев обусловливает возникновение рисков в виде «византийского робота» - взломанной частицы роя, передающего ложную информацию и ставящего под угрозу весь рой. Решением является включение во взаимодействие частиц элементов экономической игры, поддерживающих ценности честности, сотрудничества и солидарности. Это ведет к превращению приватности в «процесс» и изменению ее ценностного статуса. Защита приватности в обществе роевого интеллекта способно привести к потере трудом его общественного статуса и приобретение им приватного, скрытого статуса и анонимизации занятости. Заключение. Возможный сценарий развития человеческого общества в сторону цифрового общества роевого интеллекта может стать источником глубоких социальных изменений и прежде всего переосмысления основанной на разделении труда социальной стратификации и социальной иерархии в целом. Ключевые слова: роевый интеллект, общество роевого интеллекта, приватность, византийский робот, риски Для цитирования: Шаткин М. А. Проблема приватности в цифровом обществе роевого интеллекта // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2024. Т. 24, вып. 1. С. 62-66. https://doi.org/10.18500/1819-7671-2024-24-1-62-66, EDN: JSDFKE
Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0) Article
The problem of privacy in a digital society of swarm intelligence M. A. Shatkin
Saratov State University, 83 Astrakhanskaya St., Saratov 410012, Russia
Max A. Shatkin, maximshatkin@gmail.com, https://orcid.org/0000-0002-8138-6819
Abstract. Introduction. The development of digital technologies requires the specification of the type of the emerging digital society. One of the development scenarios is the formation of a digital society of swarm intelligence. Theoretical analysis. The concept of swarm intelligence means an optimization algorithm that imitates the behavior of swarms or colonies of insects and bird flocks. Human society is characterized by the manifestation of swarm intelligence as a condition of joint organized activity, but the development of digital technologies brings swarm intelligence to a higher level. Creation of private swarms causes risks in the form of "Byzantine robot" - a hacked particle of the swarm, transmitting false information and jeopardizing the whole swarm. The solution is to incorporate elements of the economic game that support the values of honesty, cooperation and solidarity into the particle interactions. This leads to making privacy a "process" and changing its value status. Protecting privacy in swarm intelligence society has the potential to cause labor to lose its public status and acquire a private, hidden status and anonymize employment. Conclusion. The possible scenario of human society development towards the digital society of swarm intelligence can become a source of profound social changes and, above all, a rethinking of the social stratification based on the division of labor and social hierarchy in general. Keywords: swarm intelligence, digital society of swarm intelligence, privacy, Byzantine robot, risks
For citation: Shatkin M. A. The problem of privacy in a digital society of swarm intelligence. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2024, vol. 24, iss. 1, pp. 62-66 (in Russian). https://doi.org/10.18500/1819-7671-2024-24-1-62-66, EDN: JSDFKE
This is an open access article distributed under the terms of Creative Commons Attribution 4.0 International License (CC-BY 4.0)
© Шаткин М. А., 2024
М. А. Шаткин. Проблема приватности в цифровом обществе роевого интеллекта
Введение
Внедрение цифровых технологий во все сферы жизни общества и получение ими статуса не только инструментов решения практических задач, но обеспечивающей социальные и экономические взаимодействия инфраструктуры обусловило возникновение понятия «цифровое общество», которое часто ассоциировалось в первую очередь с функционированием цифровых платформ. Однако сегодня понятие «цифровое общество» требует конкретизации, поскольку прорывы в развитии цифровых технологий обусловливают разные сценарии становления этого общества. Речь идет о создании генеративного искусственного интеллекта (далее - ИИ), а также о развитии алгоритмов «роевого интеллекта» (англ. swarm intelligence, далее - РИ), под которым понимается коллективный результат локальных взаимодействий между членами роя (называемых частицами), ведущего себя как разумный объект [1, p. 13-17]. Если проблемы, связанные с развитием ИИ сегодня активно обсуждаются в российской философии [2, 3], то тема РИ в силу своей специфичности до сих пор остается вне поля зрения социально-философских исследований.
РИ предполагает наличие организованного с помощью алгоритмов роевой оптимизации множества отдельных элементов робототехники. Роевая организация позволяет существенно увеличить адаптивные способности роботов и их способности решать поставленные задачи благодаря скоординированным усилиям. При этом взаимоотношения между человеческим субъектов и роем могут иметь две формы. В первом случае роботизированный рой управляется человеком-оператором, в то время как рой функционально является продолжением нервной системы человека. В этом случае речь идет о «совместной петле» человека и роя, а точнее, кибернетической системе, включающей в себя человека, рой и интерфейс взаимодействия между ними [4]. В втором случае человек и рой образуют гибридный суперорганизм, способный к саморегуляции (например, в игровой ситуации решения задачи защиты человека от воздействий окружающей среды) посредством обмена сигналами, получившими название «виртуальные феромоны» [5]. Логично предположить, что распространение роевых алгоритмов на более широкий спектр социальных и экономических взаимодействий будет способствовать формированию общества, чьей отличительной характеристикой будет саморе-
гуляция на основе логики роя. Однако, как будет показано в следующем разделе, роевая логика уже лежит в основе человеческого общества. Вхождение роевой робототехники в социальные взаимодействия облегчается тем, что последние уже подчиняются роевым алгоритмам. В то же время усиление этой логики благодаря цифровым технологиям не только раскрывает новые горизонты для возможностей саморегуляции общества, но и формирует новые риски для как для общества в целом, так и для отдельных личностей.
Теоретический анализ
1. Роевая логика человеческого общества
В 2019 г. биолог и эколог Марк Моффетт опубликовал книгу «Человеческий рой» [6], в которой описал переход организации человеческого общества от малых сообществ, в основе которых лежит личное узнавание членов своего сообщества (такая организация характерна для всех высших приматов), к крупным сообществам, в которых господствует логика колоний (роев) общественных насекомых, птичьих стай и косяков рыб. В рамках последней нет необходимости постоянного укрепления доверительных отношений с друзьями, что ограничивает максимальный размер сообщества, но требуется наличие «маркеров идентичности», подтверждающих принадлежность группе (колонии, улью, культурному или религиозному сообществу). Чтобы выполнять свои функции, получать и передавать информацию о нахождении источника пищи, общественным насекомым не нужно лично знать друг друга, а нужно уметь действовать в соответствии с общими интересами и правильно формулировать и понимать данные, которые передаются между особями (умение, которым не обладают шимпанзе). Биологической предпосылкой, благодаря которой наши предки смогли перенять логику другого класса животного мира, стала способность людей к совместному вниманию и решению общих задач, что также может быть описано как наличие общего и разделяемого между членами общества опыта, - одной из ключевых характеристик РИ.
Способность координировать внимание и усилия, иметь одинаковые представления и образ мышления позволили людям создавать государства, религии и культуры. РИ может быть представлен как идеальная организация социальных взаимодействий в человеческом обществе. Классическим примером органи-
зации и действия определенной анонимной совокупности людей как единого разума является хор, начиная с ранних древнегреческих драм [7, р. 83-84]. В социологии и социальной психологии проблематика роевого поведения и интеллекта изучалась имплицитно как « групповое поведение» и «групповое мышление» и в эксплицитной форме с 2010 г. [8]. К первым попыткам философского осмысления РИ в человеческом обществе можно отнести разные формы критики «массового общества» и особенно работу Э. Канетти «Масса и власть», написанную в условиях более низкого уровня знаний закономерностей роевого поведения и интеллекта как в живой природе, так и в человеческом мире, и поэтому в некоторых аспектах уже устаревшую. Поэтому нами предлагается обзорное описание основных черт общества РИ с учетом современного уровня знаний.
Основной характеристикой общества РИ является разделение между членами общества опыта, ценностей, когнитивных паттернов, а также наличие совместного принятия решений. Обращаясь к истории русской философии, следует отметить, что сходными чертами обладала «соборность», понятие которой было развито у А. С. Хомякова. В данном обществе индивидуальные способности и знания объединены в целях достижения общего блага. Члены общества РИ обладают умением слушать и учитывать точки зрения других, а также готовностью к коммуникации и сотрудничеству. Это способствует максимально эффективной реализации задач и принятию оптимальных решений. Кроме того, общество РИ характеризуется информационной открытостью и доступностью знаний. В нем каждый член осведомлен о событиях и происходящих изменениях в обществе. Знания и опыт широко распространяются, что способствует повышению общего уровня интеллекта и качества принимаемых решений.
Препятствием к достижению такого состояния общества являются не только корыстные устремления отдельных индивидов, но и биологические ограничения в распространении и обработке информации людьми. Если в религиозной философии предполагалось, что эти ограничения будут сняты благодатным преображением человеческой природы, то в современном обществе «функцию» благодати в определенной мере начинают выполнять технологии. Полноценное человеческое общество
РИ требует внешнего подкрепления и может быть либо «соборным и благодатным», либо «цифровым».
На первом этапе своего развития цифровые технологии позволили большинству жителей развитых стран получить новый статус существования - «онлайн», означающий способность мгновенно получать сигналы и делиться опытом с другими членами общества вне зависимости от расстояния. Подключение к Интернету все большего числа материальных объектов (далее - роботов), обменивающихся информацией между собой и людьми, расширило возможности обмена информацией и саморегуляции. Следующим, активно обсуждаемым сегодня на уровне организации военных действий и правового регулирования, шагом является получение роботами права на принятие самостоятельных решений. Помимо рисков для человеческих жизней, здесь возникают другие риски, и прежде всего риски для приватности личности.
2. «Византийский робот» и риски приватности в цифровом обществе роевого интеллекта
Эффективность роя определяется его способностью действовать как разумный объект, решающий возникающие задачи. Достижение эффективности требует распределения между частицами роя достоверной информации о полученном ими опыте. Эффективный рой повышает для своих частиц шанс на адаптацию и выживание (а для личности - благополучие). Поэтому для идеального роя опыт частиц является публичным (в этом контексте получает новое звучание древнегреческое обозначение лиц, отстранившихся от публичной сферы, как «идиотов»). Роботизированные частицы роя, получая достоверную информацию о физическом мире и в перспективе психических состояниях человека, снижают риск получения личностями (чьи интересы поддерживает рой) ущерба от физического насилия, хищения и мошенничества со стороны других личностей. Условием для этого является доверие личностью роботам функций сбора полной информации о его жизни для обеспечения ее безопасности от возможных злоумышленников и происшествий. Эта информация поступает в общую информационную сеть для координации с действиями и интересами других личностей и потенциально - саморегуляции всего общества как роя высшего уровня. Однако вопросы обеспечения личной безопасности цифровыми средствами, а также тот факт, что, с точки зрения способно-
М. А. Шаткин. Проблема приватности в цифровом обществе роевого интеллекта
стей саморегуляции, РИ превышает интеллект отдельной частицы, создают давление на сферу приватности личности, причем это давление может выходить за границы исключительно вопросов безопасности.
При наличии изолированных (приватных) роев с конкурирующими интересами какая-то частица роя может быть взломана и начнет предоставлять другим частицам ложную информацию, ставя под угрозу интересы всего роя. Такая частица получила название «византийский робот», который даже в единственном экземпляре способен разрушить рой [9, р. 1]. «Византийский робот» не обязательно передает приватную информацию о человеке или наносит прямой или косвенный ущерб, но в любом случае следует и транслирует иную стратегию поведения, чем сотрудничество и честность. Результатом становится снижение возможностей для саморегуляции и адаптации роя и личности, чью деятельность рой поддерживает.
Проблема «византийского робота» требует переосмысления феномена приватности, в которую, помимо защиты жилища и персональных данных, должны быть включены аспекты, обычно относившиеся к ценностным и этическим нормам социальных взаимодействий. Приватность в цифровом обществе РИ предполагает защиту целостности, честности и солидарности внутри частной сферы личности, а не только в отношениях с другими личностями и обществом в целом, или в отношениях с супермощным ИИ при другом сценарии развития общества. Эта проблема соответствует начавшейся в социальных науках дискуссии о ценностных основаниях и ограничениях функционирования ИИ, однако только обращение к цифровым роям позволяет конкретизировать предмет обсуждения. Ключевым концептуальным и техническим вопросом здесь является создание инструментов, содействующих честному и «порядочному» поведению частиц роя. Исследователи отвечают на этот вопрос через включение во взаимодействие между частицами экономических правил, регулирующих взаимодействие роботов [9]. Роботы не просто обмениваются информацией, а «продают» ее, и те, чья информация оказывается истинной, со временем приобретают больше богатства, чем «византийские роботы», продающие ложную информацию. Это помогает создать своеобразную «атмосферу доверия», когда сигналы от более «богатых» частиц требуют меньше проверки, чем от «бедных», а отсутствие бо-
гатства, практически по-кальвинистски, может быть знаком «неблагонадежности» частицы.
Включение элементов экономической игры в функционирование роя ведет к важным последствиям. Во-первых, данный подход демонстрирует распространение на РИ ценностных установок через их связь с непосредственным накоплением «виртуального богатства», что отсылает к распространенным формам религиозности, обосновывающей пользу этичного поведение материальным процветанием. Во-вторых, меняется концептуальный статус приватности, которая из геометрической метафоры «сферы» трансформируется в динамичный процесс, или «работу», связанную с подсчетом внутренней целостности, доверия и балансов взаимодействия частиц роя. В свою очередь, это повышает для личности ценность приватности, поскольку ее нарушение ведет к более существенным рискам для благополучия, чем получение спама или размещение личной переписки в Интернете. В-третьих, в качестве более отдаленного последствия трансформации приватной сферы в «процесс приватности» можно указать реверсивное распространение логики приватности на все рабочие процессы и выведение труда из публичной сферы в приватную. Потребуют переосмысления понятия общественного производства и социальной стратификации на основании престижности профессий, поскольку профессия личности станет скрытой через опосредование выполнения трудовых обязанностей РИ. Внедрение технологий блокчейна в этом направлении может привести к ситуации, когда руководитель не может знать, кто является его подчиненными или коллегами, хотя точно сможет сказать, кому из них можно доверять. Это станет предельным воплощением логики анонимного роя в публичной сфере - логики, которая проявляет в наши дни все возрастающую настойчивость.
Заключение
Краткий обзор специфики цифрового общества РИ в целом и проблемы приватности в рамках данного общества в частности позволяют заключить, что внедрение алгоритмов оптимизации, заимствованных из мира общественных насекомых, птиц и рыб, способно оказать глубокое трансформирующее влияние на ценностные установки общества, и в первую очередь на сферу приватности. Это обусловлено тем, что эффективность РИ напрямую
зависит от честности и открытости частиц роя, вследствие чего личность, использующая для поддержки своей жизни РИ, в дополнение к расширению своих возможностей получает рост уязвимости перед новыми рисками, такими, как «византийский робот». Социальными последствиями развития общества по данному сценарию может стать уход труда из сферы публичности в сферу приватности и последующая проблематизация социальной стратификации и, возможно, переосмысление социальной иерархии в целом. Таким образом, цифровое общество РИ может стать той социальной реальностью, в которой произойдут одни из наиболее глубоких перемен в истории человеческого рода.
Список литературы
1. Kennedy J., Eberhart R. C., Shi Y. Swarm Intelligence. San Francisco, Morgan Kaufmann, 2001. 512 p.
2. Глуздов Д. В. Философско-антропологический анализ противоречий развития искусственного интеллекта // Философская мысль. 2023. № 10. С. 106-123. https://doi.org/10.25136/2409-8728.2023.10.40062
3. Швырков А. И. Искусственный интеллект как философская проблема и искусственные интеллектуальные системы // NOMOTHETIKA: Философия. Социология. Право. 2022. Т. 47, № 4. С. 670-681. https://doi.org/10.52575/2712-746X-2022-47-4-670-681
4. Hasbach J. D., Bennewitz M. The design of self-organizing human-swarm intelligence // Adaptive Behavior. 2022. Vol. 30, iss. 4. P. 361-386. https://doi. org/10.1177/10597123211017550
5. Rockbach J. D. Enhancing Human Self-Regulation with Controllable Robot Swarms Acting as Extended Bodies // 2023 IEEE International Conference on Systems, Man, and Cybernetics (SMC). Honolulu, Oahu, HI, USA, 2023. P. 4104-4109. https://doi.org/10.1109/ SMC53992.2023.10394344
6. Моффетт М. Человеческий рой: Естественная история общества. М. : КоЛибри, Азбука-Аттикус, 2022. 704 с.
7. DuBois P. Democratic Swarms: Ancient Comedy and the Politics of the People. University of Chicago Press, 2022. 278 p.
8. Krause J., Ruxton G. D., Krause S. Swarm intelligence in animals and humans // Trends in Ecology and
Evolution. 2010. Vol. 25, iss. 1. P. 28-34. https://doi. org/10.1016/j.tree.2009.06.016
9. Van Calck, L., Pacheco A., Strobel V., Dorigo M., Reina A. A blockchain-based information market to incentivise cooperation in swarms of self-interested robots // Scientific Reports. 2023. Iss. 13. Article number 20417. https://doi.org/10.1038/s41598-023-46238-1
References
1. Kennedy J., Eberhart R. C., Shi Y. Swarm Intelligence. San Francisco, Morgan Kaufmann, 2001. 512 p.
2. Gluzdov D. V. Philosophical anthropology analysis of contradictions in the development of artificial intelligence. Filosofskaya mysl' [Philosophical Thought], 2023, no. 10, pp. 106-123 (in Russian). https://doi. org/10.25136/2409-8728.2023.10.40062
3. Shvyrkov A. I. Artificial Intelligence as a Philosophical Problem and Artificial Intellectual Systems. NOMOTHETIKA: Filosofiya. Sotsiologiya. Pravo [NOMOTHETIKA: Philosophy. Sociology. Law], 2022, vol. 47, no. 4, pp. 670-681 (in Russian). https://doi.org/10.52575/2712-746X-2022-47-4-670-681
4. Hasbach J. D., Bennewitz M. The design of self-organizing human-swarm intelligence. Adaptive Behavior, 2022, vol. 30, iss. 4, pp. 361-386. https://doi. org/10.1177/10597123211017550
5. Rockbach J. D. Enhancing Human Self-Regulation with Controllable Robot Swarms Acting as Extended Bodies. In: 2023 IEEE International Conference on Systems, Man, and Cybernetics (SMC). Honolulu, Oahu, HI, USA, 2023, pp. 4104-4109. https://doi.org/10.1109/ SMC53992.2023.10394344
6. Moffett M. Chelovecheskiy roy: Estestvennaya istoriya obshchestva [The Human Swarm: How our Societies Arise, Thrive, and Fall]. Moscow, KoLibri, ABC-Atticus, 2022. 704 p.
7. DuBois P. Democratic Swarms: Ancient Comedy and the Politics of the People. University of Chicago Press, 2022. 278 p.
8. Krause J., Ruxton G. D., Krause S. Swarm intelligence in animals and humans. Trends in Ecology and Evolution, 2010, vol. 25, iss. 1, pp. 28-34. https://doi.org/10.1016/j. tree.2009.06.016
9. Van Calck L., Pacheco A., Strobel V., Dorigo M., Reina A. A blockchain-based information market to incentivise cooperation in swarms of self-interested robots. Scientific Reports, 2023, iss. 13, article no. 20417. https://doi.org/10.1038/s41598-023-46238-1
Поступила в редакцию 26.09.2023; одобрена после рецензирования 20.12.2023; принята к публикации 12.01.2024 The article was submitted 26.09.2023; approved after reviewing 20.12.2023; accepted for publication 12.01.2024
