CC BY
2
Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2023. Т. 23, вып. 4. С. 404-408 Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2023, vol. 23, iss. 4, pp. 404-408
https://phpp.sgu.ru https://doi.org/10.18500/1819-7671-2023-23-4-404-408, EDN: ENZNRV
Научная статья УДК [[316:1]+111.32]:004.8
Проблема цифрового распознавания поведения личности в условиях современных вызовов: социально-философский и теологический анализ
В. Б. Устьянцев, М. О. Орлов, Е. В. Листвина А. В. Рязанов
Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского, Россия, 410012, г. Саратов, ул. Астраханская, д. 83
Устьянцев Владимир Борисович, доктор философских наук, профессор, профессор кафедры теоретической и социальной философии, ystvb@mail.ru, https://orcid.org/0000-0002-6045-7577
Орлов Михаил Олегович, доктор философских наук, доцент, декан философского факультета, orok-saratov@mail.ru, https://orcid. org/0000-0001-7312-5881
Листвина Евгения Викторовна, доктор философских наук, профессор, заведующий кафедрой философии культуры и культурологии, listvamer@yandex.ru, https://orcid.org/0000-0003-2179-6477
Рязанов Александр Владимирович, доктор философских наук, доцент, профессор кафедры теоретической и социальной философии, alexandr.ryazanov@gmail.com, https://orcid.org/0000-0002-4297-3471
Аннотация. Введение. В статье рассматривается проблема цифрового распознавания личности как одно из измерений искусственного интеллекта (ИИ) с позиций социально-философского и теологического анализа. Теоретический анализ. Одна из отличительных черт научно-технического развития современного общества состоит в том, что различные системы ИИ из разряда фантастики, утопических проектов, инновационных разработок, опытных образцов и рыночных новинок перешли в разряд привычных и мало замечаемых элементов повседневной жизни. Данная технология, также известная как Интернет поведения, предполагает выявление и оценку поведения личности как с точки зрения соответствия требованиям, так и с точки зрения выявления шаблонов поведения личности, которые могут стать основанием для ее идентификации. Анализируются предпосылки и условия возникновения явления «големизация» личности, т.е. ее сведения к совокупности внешних физических действий и проявлений без учета внутренних мотивов как одного из рисков, нуждающихся в социальной философской и теологической рефлексии. Заключение. В рамках социально-философского и теологического дискурса цифровое распознавание поведения личности может иметь позитивное значение, так как повышает внимание к ответственности за свои поступки и потенциально ведет к снижению уровня преступности, а также негативное значение из-за возможности создания виртуальных идентичностей, отличающихся от истинной личности человека. Ключевые слова: искусственный интеллект, личность, Интернет поведения, распознавание поведения, идентичность Для цитирования: Устьянцев В. Б., Орлов М. О., Листвина Е. В., Рязанов А. В. Проблема цифрового распознавания поведения личности в условиях современных вызовов: социально-философский и теологический анализ // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2023. Т. 23, вып. 4. С. 404-408. https://doi.org/10.18500/1819-7671-2023-23-4-404-408, EDN: ENZNRV
Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0) Article
The problem of digital recognition of personal behavior in the context of modern challenges: Socio-philosophical and theological analysis
V. B. Ustyantsev, M. O. Orlov, E. V. Listvina H, A. V. Ryazanov
Saratov State University, 83 Astrakhanskaya St., Saratov 410012, Russia
Vladimir B. Ustyantsev, ystvb@mail.ru, https://orcid.org/0000-0002-6045-7577
Mikhail O. Orlov, orok-saratov@mail.ru, https://orcid.org/0000-0001-7312-5881
Evgeniya V. Listvina, listvamer@yandex.ru. https://orcid.org/0000-0003-2179-6477
Alexander V. Ryazanov, alexandr.ryazanov@gmail.com, https://orcid.org/0000-0002-4297-3471
Abstract. Introduction. The article examines the problem of digital personality recognition as one of the dimensions of artificial intelligence from the perspective of socio-philosophical and theological analysis. Theoretical analysis. One of the distinctive features of the scientific and technological development of modern society is that various artificial intelligence (AI) systems have moved from the category of science fiction,
© Устьянцев В. Б., Орлов М. О., Листвина Е. В., Рязанов А. В., 2023
В. Б. Устьянцев и др. Проблема цифрового распознавания поведения личности
Utopian projects, innovative developments, prototypes and market innovations to the category of familiar and little-noticed elements of everyday life. This technology, also known as the Internet of Behavior, involves identifying and assessing an individual's behavior both from the point of view of compliance with requirements and from the point of view of identifying patterns of individual behavior that can become the basis for his identification. The prerequisites and conditions for the emergence of the phenomenon of "golemization" of the individual are analyzed, i.e. its reduction to a set of external physical actions and manifestations without taking into account internal motives as one of the risks that require social philosophical and theological reflection. Conclusion. Within the framework of socio-philosophical and theological discourse, digital recognition of personal behavior can have a positive meaning, because increases attention to responsibility for one's actions and potentially leads to a decrease in crime rates, as well as a negative value due to the possibility of creating virtual identities that differ from a person's true identity. Keywords: artificial intelligence, personality, Internet of Behavior, behavior recognition, identity
For citation: Ustyantsev V. B., Orlov M. O., Listvina E. V., Ryazanov A. V. The problem of digital recognition of personal behavior in the context of modern challenges: Socio-philosophical and theological analysis. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2023, vol. 23, iss. 4, pp. 404-408 (in Russian). https://doi.org/10.18500/1819-7671-2023-23-4-404-408, EDN: ENZNRV This is an open access article distributed under the terms of Creative Commons Attribution 4.0 International License (CC-BY 4.0)
Введение
К середине 20-х гг. текущего столетия можно говорить уже о наличии истории развития ИИ, прошедшей сквозь различные фазы. Если сначала ИИ бросал вызов исключительности человеческого разума в интеллектуальных играх (шахматы, го), затем открыл возможность для различных форм алгоритмического анализа больших данных, то сегодня одним из ключевых вызовов со стороны ИИ является его внедрение в социальные процессы, связанные с распознаванием (т.е. определением значения) поведения личности. Прежде всего это касается таких сфер, как образование, здравоохранение, безопасность и потребительское поведение. В этих сферах люди часто вступают во взаимодействие (в качестве наблюдаемых объектов) с ИИ без добровольного согласия и даже информированности об этом факте. Поэтому риски, возникающие при внедрении технологий цифрового распознавания поведения личности (ЦРПЛ), не получают достаточного внимания со стороны общества и не воспринимаются в качестве рисков, а данные технологии внедряются без обсуждения их этичности и законности.
Теоретический анализ
В связи с исследуемой проблемой уместно вспомнить высказывания теоретика «общества риска» Ульриха Бека, который писал о «латентных побочных воздействиях», характерных для рисков техногенной цивилизации: риски «узакониваются» (становятся нормой) благодаря тому, что их не замечают [1, с. 40].
Основанные на новых поколениях ИИ, технологии распознавания поведения личности могут быть названы вызовом для общества в том смысле, что они уже вторглись в те сферы жизни общества, которые были упомянуты ранее и ко-
торые являются наиболее чувствительными для безопасности и будущего развития человечества. ЦРПЛ требует переосмысления значения человеческой свободы, достоинства, самореализации в контексте того, что все связанные с этими явлениями действия человека объективируются, анализируются, обобщаются нечеловеческим машинным интеллектом, как правило, для получения его собственником прибыли или утверждения власти [2, с. 17]. Этот вызов обусловливает возникновение новых рисков: развитие новых поколений человеческих личностей под влиянием ИИ, реальная или фиктивная «пер-сонализация» обучения или потребительского опыта, проблема самоидентификации личности в условиях ее фрагментации в качестве набора шаблонов поведения, выделенных машинным интеллектом, и т.д.
Порождаемые технологиями ЦРПЛ вызовы и риски требуют широкого трансдисциплинарного изучения и осмысления, которое позволит сформировать целостный взгляд на условия и последствия применения данных технологий. В современной научной литературе эта тема преимущественно освещается с точки зрения инженерного и организационного воплощения технологий, а также социологического изучения их восприятия в разных контекстах. Например, оценка преподавателями университетов про-кторинга как эффективного средства обеспечения честности со стороны студентов [3], оценка эмоциональной вовлеченности студентов во время занятия [4], анализ поведения пациента для эффективного процесса лечения [5]. При этом технологии распознавания поведения непрерывно совершенствуются, обучаясь выделять взаимодействия отдельных людей на сложном динамичном фоне (например, разговор двух учащихся в заполненной аудитории) [6].
Однако целостное понимание рисков ЦРПЛ требует более широкого взгляда на данное
явление, которое может обеспечить социально-философское исследование. Кроме того, присутствие в обществе представлений о личности человека, имеющих иррациональные и прежде всего религиозные основания, обусловливает необходимость учета теологической перспективы на то, что происходит с человеческой личностью в рамках ЦРПЛ. В связи с этим целью данной статьи является осмысление рисков, обеспечиваемых ИИ технологий распознавания поведения личности через призму социально-философского и теологического дискурсов. Это осмысление должно выходить за пределы чисто технических и правовых аспектов ЦРПЛ (проблема приватности, ошибок, недостаточности развитости сегодняшних технологий для фиксации определенных нюансов и т.д.). Достижение указанной цели требует последовательного обсуждения следующих вопросов: 1) в каком смысле ЦРПЛ может быть объектом социально-философского и теологического анализа? 2) Как ЦРПЛ может быть осмыслено с точки зрения социальной философии? 3) Какие позитивные и негативные моменты ЦРПЛ могут быть выявлены с теологической перспективы?
Цифровое распознавание поведения личности как объект социально-философского и теологического анализа
В современной научной литературе технологии ЦРПЛ с помощью ИИ также получили название «Интернет поведения». Выбор такого неочевидного термина, который часто смешивается с «поведением людей в сети Интернет», обусловлен тем, что Интернет поведения является разновидностью так называемого Интернета вещей, под которым понимается сеть физических объектов, «оснащенных датчиками, программным обеспечением и иными технологиями для подключения и обмена данными с другими системами и устройствами через Интернет» [5, р. 1]. В широком смысле Интернет поведения - это распознавание поведения любых движущихся предметов (в отличие от компьютерного зрения, распознающего статичные картинки) [7, р. 1]. В Интернете поведения человек представляет физическое тело, чьи действия (включая движение мышц лица, связанное с эмоциями) фиксируются, трансформируются в данные, передаются через сетевые протоколы и обрабатываются с целью выявления соответствия этого поведения определенным шаблонам или с целью обнаружения повторяющихся шаблонов поведения личности.
В настоящее время не только в российской, но и международной науке основной
работой, в которой осуществлен комплексный анализ Интернета поведения, является статья М. А. Шаткина и М. О. Орлова [8]. В данной работе выделяются следующие виды распознавания поведения личности: медицинский Интернет поведения (направленный на сбор и анализ информации о состоянии здоровья), бинарный Интернет поведения (фиксирующий соответствие поведения личности установленным требованиям, например, во время экзамена) и социальный Интернет поведения, который собирает и обобщают информацию об эмоциях личности и принятии решений в различных контекстах, определяя шаблон поведения [8, с. 372-373]. Также указанные авторы предлагают на примере высшего образования оригинальные описания моделей Интернета поведения, имеющих интересное социально-философское содержание. Это «модель обобщенного алгоритмического Другого». В ней ИИ выступает в роли безличного зрителя, перед которым люди вынуждены играть социальные спектакли, чтобы алгоритмы ЦРПЛ дали им высокую оценку. Речь также идет о «модели цифровой сервитизации образования», где высшее образование из процесса «подготовки специалистов» превращается в сервис персонализированного обучения студента в соответствии с его профилем, созданным ИИ, с последующими персонализированными рекомендациями по трудоустройству [8, с. 375-376]. Наконец, авторы предлагают исчерпывающий перечень принципов распознавания поведения личности, а именно приватность, учет многозначности поведения, непрерывность наблюдения (для целостного понимания особенностей поведения личности), релевантности и рефлексивности, т.е. возможности наблюдаемого комментировать выводы, к которым ИИ может прийти на основе наблюдения.
Краткое описания содержания ЦРПЛ на уровне сегодняшних технологий позволяет определить направления проблематизации ЦРПЛ в социально-философском и теологическом контекстах. В первую очередь ЦРПЛ является вызовом для представления личности о самой себе как о социальном и духовном существе, для которого внешнее поведение служит выражением внутренних убеждений, ценностей, мотивов и т.д., а также подтверждением принадлежности к определенной социальной группе. Развертывание цифровых технологий распознавания поведения личности меняет понимание поведения личности, которое интерпретируется как совокупность действий, соответствующих определенным шаблонам. При этом акцент делается на физические
В. Б. Устьянцев и др. Проблема цифрового распознавания поведения личности
проявления сознательной и вегетативной человеческой активности, под которыми понимаются внешние действия, движение лицевых мышц и глаз, сердцебиение, активизация различных участков мозга и т.д. Происходит то, что уместно назвать «големизацией» личности, т.е. ее понимания исключительно как физического существа без внутреннего мира, который «не существует» для систем распознавания поведения и потому не имеет ценности (или, возможно, наоборот, «не существует» потому, что «не имеет ценности»).
Более того, развитие генеративного ИИ привело к тому, что и творческие проявления человеческой личности - написание осмысленных текстов, картин, музыки - также теряют свою уникальность, а значит и ценность. Даже попытки реконструировать эволюционно и культурно обусловленные особенности (точнее, «предвзятости») человеческого мышления сводятся к изучению распределения нейронных ресурсов в мозге, что в перспективе должно позволить ИИ «мыслить, как человек» и разрабатывать новые методы и содержание обучения детей и тем самым защитить их от риска некачественного обучения [9, р. 391]. Данный подход является вызовом не только для традиционной системы образования (хотя в условиях постоянных оптимизаций он, вероятно, станет решением, а не проблемой), но и для религиозного мировоззрения, основанного на том, что не всякий интеллект может передавать знания, а только следующий на практике этому знанию.
«Големизация» личности сопровождается акцентом на внешнюю, фиксируемую деятельность как главный продукт функционирования личности. Чтобы получить данные о поведении личности, личность должна что-то делать, одновременно генерируя данные о своем поведении. В этом аспекте цифровое распознавание поведения личности является еще одним выражением общей тенденции, связанной с цифровизацией общества, а именно интерпретацией социальности как способности генерировать контент [10, с. 295-296]. Отношение к себе как к голему, непрерывно генерирующему контент, а не как к форме бытия, открытой и обусловленной социальными, в том числе интерперсональными отношениями, формирует новый тип идентичности и является основным вызовом для традиционной социальной философии и теологии. Кроме того, «големизация» личности обусловливает появление еще одного вызова традиционным представлениям о личности и ее автономии. Тот факт, что ЦРПЛ фиксирует непосредственное поведение личности без учета внутренних мотивов
и ценностей, обусловливающих данное поведение, снижает значение влияющих на поведение факторов (в упомянутой статье М. А. Шаткина и М. О. Орлова это подробно рассмотрено в качестве условного примера [8, с. 371-372]).
В центре внимания находится физическое тело, сознательно или бессознательное совершающее определенные действия. На сегодняшний день ИИ обучен выявлять повторяющиеся шаблоны, но не обучен устанавливать причины и факторы, которые, соответственно, остаются за пределами распознавания. Это означает, что в ЦРПЛ личность предстает как более автономная, чем она есть на самом деле, не зависящая от внешнего контекста. Автономия личности для ИИ предстает скорее как инерционная самодостаточность голема, подчиненного внутренним правилам и закономерностям, чем автономия свободного выбора личности, следующей ценностям и (или) искушениям.
Заключение
Для социально-философского и теологического дискурса проблемы цифрового распознавания поведения личности вращаются вокруг трансформации процессов самоопределения (самоидентификации) личности в условиях ее идентификации ИИ как тела, совершающего действия, «голема». Далее эта проблема будет рассмотрена отдельно с точки зрения социальной философии и православной теологии.
Список литературы
1. Бек У. Общество риска. На пути к другому модерну. М. : Прогресс-Традиция, 2000. 384 с.
2. Зубофф Ш. Эпоха надзорного капитализма : битва за человеческое будущее на новых рубежах власти. М. : Издательство Института Гайдара, 2022. 784 с.
3. Gribbins M. L., Bonk C. J. An exploration of instructors' perceptions about online proctoring and its value in ensuring academic integrity // British Journal of Educational Technology. 2023. Vol. 54, iss. 6. P. 1693-1714. https:// doi.org/10.1111/bjet.13389
4. Li L. Emotion Recognition of Foreign Language Teachers in College English Classroom Teaching // Frontiers in Psychology. 2021. Vol. 12. P. 788552. https://doi. org/10.3389/fpsyg.2021.788552
5. Javaid M., Haleem A., Singh R. P., Khan S., Suman R. An extensive study on Internet of Behavior (IoB) enabled Healthcare-Systems: Features, facilitators, and challenges // BenchCouncil Transactions on Benchmarks, Standards and Evaluations. 2022. Vol. 2, iss. 4. P. 100085. https://doi.org/10.1016/j.tbench.2023.100085
6. Li Y, Qi X., Saudagar A. K. J., Badshah A. M, Muhammad K, Liu S. Student behavior recognition for interaction detection in the classroom environment // Image and Vision Computing. 2023. Vol. 136. P. 104726. https:// doi.org/10.1016/j.imavis.2023.104726
7. Zhang L, Wang Y, Yan K, Su Y, Alharbe N., Feng S. Behaviour recognition based on the integration of mul-tigranular motion features in the Internet of Things // Digital Communications and Networks. 2022. https:// doi.org/10.1016/j.dcan.2022.10.011
8. Шаткин М. А., Орлов М. О. Интернет поведения: виды, модели, принципы // Вестник Санкт-Петербургского университета. Философия и конфликтология. 2023. Т. 39, вып. 2. С. 368-380. https:// doi.org/10.21638/spbu17.2023.212
9. Pantsar M. Developing Artificial Human-Like Arithmetical Intelligence (and Why) // Minds & Machines. 2023. Vol. 33, iss. 3. P. 379-396. https://doi.org/10.1007/ s11023-023-09636-y
10. Шаткин М. А. Агентность цифровых платформ: ценностный подход // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2022. Т. 22, вып. 3. С. 293-297. https:// doi.org/10.18500/1819-7671-2022-22-3-293-297
References
1. Beck U. Risikogesellschaft: auf dem Weg in eine andere Moderne. Frankfurt am Main, Suhrkamp, 1986. 391 S. (Russ. ed.: Beck U. Obshchestvo riska: na puti k drugomu modernu. Moscow, Progress-Traditsiya, 2000. 384 p.).
2. Zuboff Sh. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York, PublicAffairs, 2018. 691 p. (Russ. ed.: Zuboff Sh. Epokha nadzornogo kapitalizma: bitva za chelovecheskoe budushchee na novykh rubezhakh vlasti. Moscow, Institut Gajdara Publ., 2022. 784 p.).
3. Gribbins M. L., Bonk C. J. An exploration of instructors' perceptions about online proctoring and its value in ensuring academic integrity. British Journal of Educational Technology, 2023, vol. 54, iss. 6, pp. 1693-1714. https:// doi.org/10.1111/bjet.13389
4. Li L. Emotion Recognition of Foreign Language Teachers in College English Classroom Teaching. Frontiers in Psychology, 2021, vol. 12, pp. 788552. https://doi. org/10.3389/fpsyg.2021.788552
5. Javaid M., Haleem A., Singh R. P., Khan S., Suman R. An extensive study on Internet of Behavior (IoB) enabled Healthcare-Systems: Features, facilitators, and challenges. BenchCouncil Transactions on Benchmarks, Standards and Evaluations, 2022, vol. 2, iss. 4, pp. 100085. https:// doi.org/10.1016/j.tbench.2023.100085
6. Li Y., Qi X., Saudagar A. K. J., Badshah A. M., Muhammad K., Liu S. Student behavior recognition for interaction detection in the classroom environment. Image and Vision Computing, 2023, vol. 136, pp. 104726. https://doi. org/10.1016/j.imavis.2023.104726
7. Zhang L., Wang Y., Yan K., Su Y., Alharbe N., Feng S. Behaviour recognition based on the integration of mul-tigranular motion features in the Internet of Things. Digital Communications and Networks, 2022. https://doi. org/10.1016/j.dcan.2022.10.011
8. Shatkin M. A., Orlov M. O. Internet of Behavior: Types, models, principles. Vestnik of Saint Petersburg University. Philosophy and Conflict Studies, 2023, vol. 39, iss. 2, pp. 368-380 (in Russian). https://doi.org/10.21638/ spbu17.2023.212
9. Pantsar M. Developing Artificial Human-Like Arithmetical Intelligence (and Why). Minds & Machines, 2023, vol. 33, iss. 3, pp. 379-396. https://doi.org/10.1007/ s11023-023-09636-y
10. Shatkin M. A. The agency of digital platforms: A value-based approach. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2022, vol. 22, iss. 3, pp. 293-297 (in Russian). https://doi.org/10.18500/1819-7671-2022-22-3-293-297
Поступила в редакцию 07.10.2023; одобрена после рецензирования 17.10.2023; принята к публикации 13.11.2023 The article was submitted 07.10.2023; approved after reviewing 17.10.2023; accepted for publication 13.11.2023
