CC BY
32МИКРОЭКОНОМИЧЕСКАЯ ТЕОРИЯ
ИССЛЕДОВАТЕЛЬСКАЯ СТАТЬЯ
Междисциплинарный синтез в теории поведенческого дизайна1
доктор экономических наук, профессор Волгоградский государственный аграрный университет Российская Федерация, 400002, г. Волгоград, пр. Университетский, 26 e-mail: rskokov@mail.ru
Для цитирования: Скоков Р. Ю. Междисциплинарный синтез в теории поведенческого дизайна // AlterEconomics. 2022. Т. 19, № 2. С. 374-390. https://doi.org/L0.31063/AlterEconomics/2022.19-2.9.
Аннотация. Популярные цифровые продукты, такие как ТикТок, Instagram, Twitter, Facebook, YouTube, созданы с применением цифровых технологий убеждения, которые являются современным этапом развития поведенческого дизайна, недостаточно изученного в российской науке. Современный уровень крайне неоднозначного применения сетевых цифровых продуктов для воздействия на образ мышления и действия людей определяют актуальность темы статьи. Целью исследования является построение эволюции концепции поведенческого дизайна. Междисциплинарный подход является основным методом исследования, на основе которого осуществлена интеграция данных, инструментария, приемов, концепций физиологии, психологии, аддиктологии, социологии, информатики, политологии, экономики, этики. Концепция поведенческого дизайна возникла и развивается как синтез идей физиологической теории рефлексов и подкрепления, психоаналитической теории толпы и оперантного обусловливания, теорий управления общественным мнением и организационных изменений, институциональных концепций потребительского поведения, компьютеризации и развития сетей передачи данных. В зарубежной практике поведенческий дизайн применяется в архитектуре, в процессах снижения преступности, защите от ошибок при организации процессов в здравоохранении, создании энергосберегающих, ресурсосберегающих и эко-продуктов, решении проблем с коронавирусом, сокращении непродуктивного экранного времени, создании виртуальных продуктов для здравоохранения, образования, социального обеспечения. В то же время существует необходимость этизации и ограничения применения цифровых технологий поведенческого дизайна в политике и социально-политических процессах, в частности для влияния на несовершеннолетних, манипулирования общественным мнением. Ключевые слова: поведенческий дизайн, аддиктивный дизайн, каптология, цифровые аддиктивные товары, цифровые товары
Благодарность: Исследование выполнено при финансовой поддержке РФФИ и ЭИСИ в рамках научного проекта № 21-011-31619.
Роман Ю. СКОКОВ
http://orcid.ora/0000-0003-1026-0538
1 © Скоков Р. Ю. Текст. 2022.
RESEARCH ARTICLE
Interdisciplinary Synthesis of Behavioral Design Theory
Roman Yu. SKOKOV http://orcid.org/0000-0003-1026-0538
Dr. Sci. (Econ.), Professor Volgograd State Agrarian University
26, Universitetsky prospect, Volgograd, 400002, Russian Federation e-mail: rskokov@mail.ru
For citation: Skokov, R. Yu. (2022). Interdisciplinary Synthesis of Behavioral Design Theory. AlterEconomics, 19(2), 374-390. https://doi.org/10.31063/AlterEconomics/2022.19-2.9.
Abstract. Popular digital products such as TikTok, Instagram, Twitter, Facebook, and YouTube are created by using digital persuasion technologies, which mark the modern stage in the development of behavioral design. This study seeks to outline the evolution of the concept of behavioral design by applying an interdisciplinary approach and bringing together physiology, psychology, addictology, sociology, computer science, political science, economics, and ethics. The concept of behavioral design originated and is developing as a synthesis of the ideas of the physiological theory of reflexes and reinforcement, psychoanalytic crowd theory and operational conditioning, theories of public opinion management and organizational change, institutional concepts of consumer behavior, computerization and the development of data networks. Behavioural design is used in a variety of areas ranging from architecture to health care and social security. Regarding the use of digital technologies in politics and socio-political processes, however, it is necessary to identify, monitor and control online manipulative practices, especially in relation to minors.
Keywords: behavioural design, addictive design, captology, digital addictive goods, digital goods Acknowledgments: The research has been funded by RFBR and EISR, project No. 21-011-31619. UDC 339.138:366.1 JEL B25, D11, D85, I12
1. Введение
Цифровая эпоха, в которой человек и машина тесно связаны, является важным этапом в истории цивилизации. Роль и значение цифровых технологий растет во всех сферах жизни. Мировыми лидерами по рыночной капитализации являются крупнейшие американские технологические корпорации Google, Apple inc., Facebook, Amazon Inc., Microsoft (так называемая олигополия GAFAM) и китайские Alibaba Group, Tencent. Влияние цифровых корпораций, особенно американских, вышло за рамки товарных отношений и стремительно распространилось в социально-политические процессы, что более подробно рассмотрено в статье Р. Ю. Скокова и И. П. Зеленевой (Скоков, Зеленева. 2021. С. 84-90).
Но уже в обозримом будущем четвертого-пятого десятилетия может произойти переход цивилизации от этапа постиндустриального (информационного) развития к киберфизическим системам. Последние исследования нейротехнологиче-ских компаний Neuralink и Synchron во многом ознаменовали предпосылки такого перехода. Компания Neuralink, изначально созданная, чтобы помочь людям с черепно-мозговыми травмами, разрабатывает имплантируемые нейроинтер-фейсы («мозг — компьютер»). Например, имплант для квадриплегиков — людей, у которых полностью или частично парализованы руки и ноги. Предполагается, что чип-имплант обеспечит им «цифровую свободу», дав возможность взаимодействовать с компьютерами и телефонами натуралистическим способом с высокой пропускной способностью. Компания работает над созданием 1024-каналь-
376 AlterEconomics. 2022. Т. 19. № 2 https://jet-russia.com
ного устройства (N1 Link), которое после имплантации становится полностью не-
видимым и передает данные по беспроводной связи. Это разработка будущих продуктов, испытанных на крысах, свиньях и обезьяне, которая благодаря импланту смогла играть в видеоигру пинг-понг. Ближайшим большим шагом для №игаИпк станут клинические испытания его устройства на людях.
Компания Stentrode получила разрешение от Управления по контролю за продуктами и лекарствами (США) на тестирование своего устройства на людях. Она планирует поместить устройство размером меньше спички в мозг, чтобы помочь парализованным пациентам управлять цифровыми устройствами через свои мысли.
До сих пор в качестве инструмента, технологии создания цифровых благ нового поколения используется цифровой (или компьютерный) поведенческий дизайн, который позволяет формировать потребительские привычки, манипулировать поведением людей. Существуют различные модели описания данного процесса, например, «крючка» Эяля и Р. Хувера, представленного четырехэтапным процессом из триггера, действия, переменного вознаграждения и инвестиции. Цифровой поведенческий дизайн базируется главным образом на психологии.
Разработчики нейроинтерфейсов нацелены на создание целостного интерфейса мозга, способного более тесно связывать биологический и искусственный интеллект. Нейрокомпьютерный интерфейс, как система для обмена информацией непосредственно между мозгом и электронным устройством, базируется на нейробиологии. Нейрокомпьютерный интерфейс открывает на порядок большие возможности по воздействию на поведение человека по сравнению с цифровым поведенческим дизайном. Поведенческий дизайн преобразует, воздействует, влияет на поведение, приближает его к определенному проекту. Нейронный интерфейс способен абсолютно определять потребительское поведение в соответствии с проектом. Он сможет задавать, устанавливать потребительское поведение в полном диапазоне в зависимости от целей управления: абсолютно рациональным, рациональным, ограниченно рациональным, и даже иррациональным, которое отсутствует в мейнстриме экономической науки.
Одной из долгосрочных целей нейротехнологических компаний декларируется снижение рисков искусственного интеллекта для человечества. Однако существуют и двунаправленные нейроинтерфейсы, которые позволят мозгу и внешним устройствам обмениваться информацией в обоих направлениях: в основе нейро-компьютерного интерфейса используется метод биологической обратной связи. Поэтому риски будут зависеть от применения технологии.
Технологии нейрокомпьютерного интерфейса не заменят, а дополнят цифровой поведенческий дизайн новым инструментарием, приведут к формированию следующего поколения широкого спектра новейших товаров и потребностей.
Поэтому, когда сегодня зарубежные транснациональные технологические корпорации меняют мир и стремятся им управлять через цифровой поведенческий дизайн, а его теория и практика не нашли должного исследования в отечественной экономической науке, настоящее исследование актуально и значимо.
Междисциплинарный подход является основным руководящим принципом создания и применения цифровых технологий поведенческого дизайна в экономических благах. Чтобы продвинуть понимание фундаментальной проблемы исследования и ответить на вопросы, изучение которых выходит за пределы воз-
можностей экономической науки, необходима интеграция данных, инструментария, приемов, концепций целого ряда специализированных дисциплин.
2. Роль поведенческого дизайна и цифровых товаров в экономической науке и на рынке
В зарубежной экономической науке и практике междисциплинарные исследования потребительского поведения стали прорывными. Известные нобелевские лауреаты Г. Саймон, М. Фридман, Г. Беккер, Дж. Акерлоф, М. Спенс, Дж. Стиглиц, Д. Канеман и В. Смит, А. Дитон, Р. Талер уделили значительное внимание аспектам потребительского поведения, его моделям, не укладывающимся в рамки классических представлений. Анализ их концепций представлен в монографии Р. Ю. Скокова (Скоков, 2019).
Первенство в развитии технологий поведенческого дизайна («behavioural design») принадлежит Великобритании и США, которые с первой половины XX в. применяют их в общественно-политической, экономической и других сферах.
Д. Локтон, Д. Харрисон, Н. А. Стэнтон (2010. P. 382-392) определили поведенческий дизайн как разновидность дизайна, который может формировать или использоваться для влияния на поведение человека. «Дизайн с намерением» («Design with Intent», DWI) предназначен для воздействия или приведения к определенному поведению пользователя. По мнению А. Иванова, поведенческий дизайн, или дизайн поведения, — комплекс упрощенных методик, заимствованных из поведенческих наук. Они помогают целенаправленно изменять привычки и работать над собственным поведением1.
Технологии поведенческого дизайна могут конструктивно использоваться во многих сферах, в том числе здравоохранении, бизнесе, безопасности и образовании. В зарубежной практике поведенческий дизайн применяется в архитектуре, в процессах снижения уровня преступности, защите от ошибок при организации процессов в здравоохранении, создании энергосберегающих и ресурсосберегающих продуктов, создании эко-продуктов, повышении безопасности использования продуктов, решении проблем, связанных с коронавирусом, сокращении экранного времени пользователей цифровых устройств, создании виртуальных продуктов для здравоохранения, образования, социального обеспечения.
Современные IT-компании используют поведенческий дизайн в своих товарах. Многие цифровые товары не случайно вызывают привыкание, а по замыслу создаются настолько привлекательными, чтобы как можно больше времени держать потребителя «на крючке». Для создания цифровых игр, сообществ, онлайн-торговых площадок, приложений и многочисленных других цифровых продуктов, которые хочется использовать все больше и больше (характеристика аддиктивных товаров), ведущими технологическими компаниями, обладающими огромными ресурсами, привлекаются психологи и специалисты по поведенческим наукам. В цифровых технологиях используются технологии убеждения («persuasive design») — новая область исследований, которая изучает, как компьютеры могут изменить образ мышления и действий людей. Метод дизайна убеждения встроен в игры, приложения и используется такими компаниями, как Facebook, YouTube, Twitter, TikTok, Instagram, Snapchat, Amazon, Apple,
1 Дизайн поведения: самый простой способ менять привычки. URL: https://reminder.media/longread/ dizayn-povedeniya-samyy-prostoy-sposob-menyat-privychki (дата обращения: 07.09.2021).
Microsoft и др., чтобы формировать у пользователей конкретные модели поведения с самого раннего возраста1. Продукты создаются такими, чтобы привлечь внимание потребителя и он тратил на них больше времени. Например, чем больше пользователей и времени они будут проводить в социальных сетях, тем больше просмотров будет у рекламы; чем больше игроков и времени они будут проводить в игре, тем больше покупать платного контента для нее, что в итоге увеличивает доходы технологических компаний.
В 2020 г. специализацией пяти из двенадцати самых дорогих в мире компаний, с совокупной рыночной капитализацией 48 % всех компаний Топ 12, были цифровые товары (по сост. на 20.01.20г.): Apple inc. (персональные компьютеры и планшеты, мобильные телефоны, аудиоплееры), (США); Microsoft (Microsoft Office, Microsoft Windows, Xbox), (США); Alphabet Inc. (Google, AdWords, Android, YouTube), (США); Facebook (социальная сеть), (США); Tencent (социальные сети, обмен мгновенными сообщениями, средства массовой информации, веб-порталы, многопользовательские онлайн-игры), (Китай)2. Еще три компании, с рыночной капитализацией 20 % всех компаний Топ 12, во многом благодаря цифровой трансформации вошли в Топ 12: Amazon Inc. (электронная торговля различными товарами), (США); Alibaba Group (электронная коммерция, хостинг онлайн-аукционов, он-лайн-переводы денег, мобильная коммерция), (Китай); Visa Inc (электронные платежи), (США) (Скоков, 2021. С. 205-216).
В период пандемии COVID-19 в 2021-2022 гг. рыночная капитализация компаний, специализирующихся на производстве и обращении цифровых товаров, растет опережающими темпами по сравнению с традиционными организациями3. Пандемия стала катализатором цифровизации многих сервисов и услуг.
3. Эволюция теории поведенческого дизайна 3.1. Физиологические и психологические предпосылки теории поведенческого дизайна
В основе теории поведенческого дизайна лежат идеи о психологии толпы Г. Лебона (1895 г.), исследования подкрепления, безусловных и условных рефлексов физиолога И. П. Павлова (1901-1903 гг.), идеи психоаналитической теории толпы (1921 г.) З. Фрейда (2017).
Г. Лебон полагал, что в силу волевой неразвитости и низкого интеллектуального уровня больших масс людей ими правят бессознательные инстинкты, особенно тогда, когда человек оказывается в толпе, где всякие чувства и действия заразительны, происходит снижение уровня интеллекта, падают ответственность, самостоятельность, критичность, повышается восприимчивость к внушению, исчезает сознательная личность как таковая (Лебон, 2015. С. 211). Исследования Лебона стали основой пиар-технологий и техник манипуляции массовым сознанием.
З. Фрейд затронул область социологии и политической психологии. По его мнению, люди в толпе действуют иначе, чем люди, которые мыслят индивидуально.
1 Tech companies use "persuasive design" to get us hooked. Psychologists say it's unethical. URL: https:// www.vox.com/2018/8/8/17664580/persuasive-technology-psychology (дата обращения: 27.09.2021).
2 Пашкевич А. Г. ТОП 10 самых дорогих компаний мира в 2020 году. URL: https://m.fxssi.com/top-10-samyx-dorogix-kompanij-mira (дата обращения: 21.09.2021).
3 Пашкевич А. Г. ТОП 10 самых дорогих компаний мира в 2021 году. URL: https://ru.fxssi.com/top-10-samyx-dorogix-kompanij-mira (дата обращения: 30.01.2021).
Психическое состояние индивида в толпе характеризуется резким усилением влияния следующих факторов (Социальная психология... 1975): повышение эмоциональности восприятия всего, что он видит и слышит; повышение внушаемости и уменьшение степени критического отношения к самому себе и способности рациональной обработки воспринимаемой информации; подавление чувства ответственности за собственное поведение; появление чувства силы и сознания анонимности; переоценка психической реальности (желания, фантазии, представления) при сравнении ее с реальностью объективной.
Чтобы понять многие явления феномена толпы, Г. Лебон и З. Фрейд опирались на открытия физиологии. Огромное влияние на объективный, количественно измеримый подход физиологических процессов организма в бихевиоризме, рефлексологии, условно-рефлекторной терапии оказали исследования И. П. Павлова. Он впервые сформулировал принципы физиологии высшей нервной деятельности, понятия подкрепление, безусловный и условный рефлексы, которые стали одними из основных в науке о поведении.
Значительное влияние на теорию дизайна поведения оказали исследования Б. Ф. Скиннера, представителя психологической школы бихевиоризма, которая понимает человеческое поведение как функцию стимулов и вознаграждений (Leslie, 2016). Его именем назван ящик Скиннера (Skinner box), созданный в 1930-1931 гг. (Skinner, 1931) Б. Ф. Скиннер поместил голодную крысу в камеру с рычагом, нажав на который крыса получала кусочек корма. После нескольких визитов в камеру крыса научилась нажимать на рычаг, чтобы утолить голод. Вознаграждение сформировало определенную модель поведения. Скиннер предположил, что этот принцип оперантного научения применим к любому операнту от крысы до человека. Теория оператного обусловливания Б. Ф. Скиннера широко применяется в техниках модификации поведения как форма социальной инженерии, например, в программированном обучении. Также с ящиком Скиннера сравнивают игровые автоматы, которые созданы для использования убеждающей силы переменного вознаграждения, а также социальные сети.
Развивая идеи И. П. Павлова, советский физиолог, создатель теории функциональных систем (модель, описывающая структуру поведения) П. К. Анохин (1935 г.) показал, что принципу обратной связи принадлежит решающая роль в регулировании как высших приспособительных реакций человека, так и его внутренней среды.
3.2. Концепции управления общественным мнением в основе теории поведенческого
дизайна
Развитие теории поведенческого дизайна во многом связано с исследованиями Тавистокского института человеческих отношений (1946г.) (Coleman, 2006). Дж. Коулман считает, что Тависток успешно сохранял свою секретную роль в формировании дел США, их правительства и народа с начала своего существования в Лондоне, в 1913 г., в Веллингтон-Хаусе.
В ходе своего становления Тавистокский институт для построения рабочей модели опирался на исследования К. М. Уолша (1917 г.) (Walsh, 1917), О. Шпенглера (Spengler, 1918). В тот период проектами Тавистокского института были: манипулирование общественным мнением в поддержку объявления войны Великобританией Германии; манипулирование американским об-
щественным мнением в рамках подготовки к вступлению США в Первую мировую войну, информирование и влияние на президента В. Вильсона (Coleman, 2006).
Значительными фигурами в довоенном Тавистоке были американцы У. Липпман и Э. Бернейс. У. Липпман является автором концепции общественного мнения (1922 г.) (Липпман, 2004). Исследовал природу, формы существования, модели формирования и функционирования общественного мнения, механизмы воздействия на него средств массовой информации. У. Липпман ввел в научный оборот термин «стереотип», определил место и роль стереотипов в системе общественного мнения.
Э. Бернейс создавал и развивал концепцию массового убеждения, основанного не на разуме, а на манипуляции подсознательными чувствами и импульсами при помощи средств массовых коммуникаций (Бернейс, 1923, 1928, 1955). Работая во время Первой мировой войны в Комитете по общественной информации администрации В. Вильсона, Э. Бернейс занимался продвижением идеи о том, что усилия американских военных прежде всего направлены на «установление демократии во всей Европе». Учитывая успех, пропагандистская модель поддержки демократии Э. Бернейса используется и в мирное время. Он доработал и популяризировал концепцию пресс-релиза, развил для манипулирования общественным мнением метод авторитетов, разработал план по убеждению целевой группы изменить свое мнение по важной проблеме, которая может поменять курс страны (Коулман, 2011. С. 182).
Под руководством К. Левина Тависток учредил «Бюро стратегических служб» (предшественника ЦРУ). К. Левин является автором теории «управления кризисами», суть которой в том, чтобы искусственно создать серию кризисов и манипулировать населением («тактика террора Левина»). К. Левин обнаружил, что управления социумом в широких масштабах можно достичь, используя средства массовой информации, в особенности телевидения. В 1950-х гг. К. Левин разработал теорию организационных изменений (модель перемен).
Ф. и М. Эмери исследовали эффекты просмотра телевидения, организационный дизайн (Emery, 1999). Они рассматривали телевидение как систему, блокирующую аналитические возможности человека, высшие контролирующие функции, рациональные компоненты, активирующие эмоциональные компоненты. Данное поведение имеет общие черты с поведением человека в толпе.
В 1967 г. директор Тавистокского института человеческих отношений Ф. Эмери указывал на то, что «синергетику подросткового роя» на рок-концертах можно будет эффективно использовать для разрушения национального государства уже к концу 90-х гг. (Tarpley, 2008). Однако с использованием этих методов связывают уже европейские «цветные революции» середины XX в. («пражскую весну» и «парижскую революцию» 1968 г.) (Сундиев, Смирнов, 2016. С.17). В 1967 г. Ф. Эмери через тридцать лет прогнозировал очень существенную трансформацию всех социальных институтов, подчеркивал существование не только простого изменения, но и активного формирования нужной социальной среды (Emery, 1967). В 1975 г. Ф. и М. Эмери подчеркивали, что непредсказуемость социальных сетей для индивида растет одновременно с ростом предсказуемости и контролируемости физической среды (Emery, 1975).
3.3. Роль институциональных исследований потребительского поведения в формировании теории поведенческого дизайна
Г. Саймон (1969 г.) определил дизайн как «разработку способов действий для преобразования существующих ситуаций в предпочтительные» (Simon, 1969). Дизайн от англ. design — проектировать, чертить, задумать, а также проект, план, рисунок. Г. Саймон является разработчиком концепции ограниченной рациональности (Simon, 1955), ставшей альтернативой классической доктрины абсолютной рациональности. Г. Саймон и А. Ньюэлл являются авторами психологических исследований, направленных на изучение реализуемых людьми микропроцессов принятия решений и разрешения проблем (Мировая экономическая мысль, 2004). Также они считаются пионерами в области искусственного интеллекта, создав программы Logic Theory Machine (1956 г.) и General Problem Solver (GPS) (1957 г.). Ими совместно сформировано теоретическое направление психологии обработки информации посредством компьютерного программирования и моделирования (Newell, Simon, 1972).
Фундаментом, на котором строится поведение, являются привычки, автоматические действия, основанные на предыдущем опыте. H. C. Триандис подчеркивал важность привычек в качестве опосредованного фактора поведенческих изменений в интегрированной модели межличностного поведения, включающей социальные факторы, эмоции, привычки (Triandis, 1977).
Дж. Стиглер и Г. Беккер (1977 г.) являются авторами теории рационального привыкания. Они объединили товары, вызывающие привыкание (например, алкоголь и наркотики), в группу аддиктивных. По их мнению, пристрастия, или зависимое поведение не являются антитезой рациональному поведению. В теории рациональных пристрастий «рациональный» означает, что индивиды согласованно во времени максимизируют полезность, и некоторый товар является потенциально аддиктивным, если увеличение потребления в прошлом ведет к повышению потребления в настоящем.
Рациональный подход к поведению аддиктивных потребителей подвергается критике со стороны Р. Ванга, Дж. Томера, К. Вангена, А. Дитона, В. Юнина, Р. Скокова. Действительно, в экономической теории рациональный выбор обозначает поведение потребителя, стремящегося к равновесию и максимизирующего полезность при ограниченных ресурсах. Однако из позиции Г. Беккера неясно, как согласуется рациональность выбора с максимизацией будущей отрицательной полезности потребления товаров, вызывающих привыкание, можно ли считать выбор рациональным или разумным (от лат. ratio — разум), когда тяжело зависимый потребитель находится в «ситуации без выбора», максимизируется ли полезность по мере продвижения потребителя к летальному исходу.
Аддиктивное потребительское поведение, основанное на формировании привыкания, выходит за рамки абстрактной модели неоклассического мейнстрима и является моделью ограниченно рационального экономического поведения, имеющей выход на практику, наряду с существующими институциональными и неоинституциональными теориями потребительского поведения.
Многие цифровые товары так же, как аддиктивные, реализуют потребность ухода от реальности и вызывают зависимость, поэтому являются аддиктивными, например, видеоигры, социальные сети, видеохостинги. Аддиктивные цифровые товары по замыслу производителей вызывают привыкание. Игровые зависимо-
сти в 2018 г. включены Всемирной организацией здравоохранения в 11-е издание Международной классификации болезней. Игровое расстройство определяется как модель поведения при игре в цифровые или видеоигры, отличающаяся нарушением контроля за игрой, отведением игре все большего приоритета до такой степени, что ей отдается предпочтение перед другими интересами и повседневными занятиями.
Г. Беккер также разрабатывал теорию распределения времени между различными видами деятельности (Беккер, 2003. С. 196). Подход основан на учете ценности времени. Г. Беккер заметил, что с точки зрения экономического благосостояния характер распределения и эффективность использования нерабочего времени могут иметь большее значение, чем характер распределения и эффективность использования рабочего времени, однако, первому экономисты уделяют значительно меньше внимания. Целью применения поведенческого дизайна IT-компаниями при создании продуктов является максимальное использование времени пользователей. Частные и общественные издержки от использования потребителями в непроизводственных целях цифровых аддиктивных товаров колоссальные. При современном уровне развития технологические компании могут их достаточно точно оценить. Однако технологические компании не заинтересованы в оценке издержек общества от потребления их цифровых аддиктивных товаров, поскольку они превращаются в их прибыль.
С точки зрения современного фактически неконтролируемого по времени использования потребителями цифровых товаров, например, смартфонов детьми и молодежью, представляется важнейшим вывод Г. Беккера, что при изучении любых форм использования нерабочего времени необходимо принимать в расчет упущенную ценность времени, которое пришлось на них израсходовать. В данном аспекте вновь проявляется проблема соотношения рационального и ограниченно рационального поведения.
Поэтому столь важно пристальное внимание к инструментарию цифрового поведенческого дизайна, реализованного в цифровых благах, что может лежать в основе формирования моделей ограниченно рационального поведения потребителей.
При создании сайтов широко используется теория неприятия потерь (loss aversion) Д. Канемана и А. Тверски (1979). Суть данной теории заключается в том, что люди больше стремятся избегать потерь, чем получать эквивалентные прибыли (поведенческая аномалия).
Теорию поведенческого дизайна или дизайна для изменения поведения тесно связывают с работой по психологии дизайна Д. Нормана (1988). Д. Норман представил принципы, применяемые к дизайну вещей, такие как аффорданс, ограничение, обратная связь и отображение.
3.4. Развитие цифровых технологий поведенческого дизайна
После 1970 г. произошло стремительное увеличение числа сетей передачи данных. По оценкам экспертов, в 1983 г. в эксплуатации за рубежом находилось свыше 80 типов локальных вычислительных сетей, а общее их число превысило 8000 (Бойченко, Кальфа, 1985. С. 286).
В двенадцатом докладе Римского клуба «Микроэлектроника и общество: на радость или на горе» (Schaff, Friedrichs, 1982) обращалось внимание на двойственный
характер компьютеризации мира и вторжения микропроцессоров во все сферы жизни современного общества (Лейбин, 1997). С одной стороны, эта революция ведет к созданию благоприятных возможностей для повышения производительности труда, развития сервисной экономики и реорганизации способов коммуникации между людьми, совершенствования процессов обучения и медицинского обслуживания. С другой стороны, она сопровождается увольнением рабочих, занятых в традиционных отраслях промышленности, использованием электронных досье с целью осуществления контроля над людьми или оказания давления на них, ограничением возможностей свободного развития личности и роботизацией человека.
В 1997 г. Б. Дж. Фогг выступил с докладом на тему использования компьютеров для влияния на поведение пользователей. Он отметил, что компьютер перестал быть чисто рабочим инструментом и стал частью жизни. На доклад было два типа реакции:
1. Это опасно, поскольку с помощью этого инструмента можно создать «атомную бомбу».
2. Это великолепно и можно заработать миллиарды.
Б. Дж. Фогг является разработчиком дисциплины «каптология» (термин captology введен в 1996 г. — начальные буквы словосочетания «Computers as Persuasive Technologies»), изучающей компьютеры как технологии убеждения. Включает разработку, исследование и программный анализ интерактивных вычислительных продуктов (Интернет, настольное программное обеспечение, специализированные устройства и т. д.), созданных с целью изменения отношения или поведения людей.
В 1998 г. Б. Дж. Фогг опубликовал статью «Компьютеры убеждения: перспективы и направления исследований» (Fogg, 1998), обозначив перспективы каптоло-гии. Убеждением он считает попытку формирования, усиления или изменения поведения, чувства или мысли о проблеме, объекте или действиях.
Фогг является основателем и директором Стенфордской лаборатории технологий убеждения (Стенфордская лаборатория дизайна поведения). Лаборатория исследовала механизм оценки людьми доверия к веб-сайтам (2002 г.), использование мобильных устройств для улучшения здоровья обычных людей (2005 г.). В части мобильных устройств экспериментальные работы включали изучение того, как телефоны могут мотивировать и убеждать людей — область, получившая название «мобильного убеждения». Позже Фогг стал основателем и директором Стэнфордской конференции по мобильному здоровью (2008-2012 гг.).
В 2007 г. Б. Дж. Фогг с Д. МакКлюром преподавали Стэнфордский курс по приложениям Facebook, где студенты использовали дизайн убеждения для их создания, который собрал миллионы пользователей в течение 10 недель. В 2010 г. Фогг стал соавтором книги, чтобы помочь родителям понять Facebook и защитить своих детей.
Facebook, Instagram и другие технологические компании IT-индустрии развили поведенческий дизайн до нового уровня. Одним из самых соблазнительных триггеров являются другие люди. Социальное взаимодействие (и даже его симуляция) запускает приятные, формирующие привычку химические реакции. В социальных сетях мотивацией является желание людей общаться или страх отторжения обществом. Разработчики социальных сетей создают алгоритмы, чтобы пользователи
384 ЛНвгЕсопотсз. 2022. Т. 19. № 2 https://jet-russia.com
как можно больше времени проводили на сайте. В компьютерных играх элемен-
тами поведенческого дизайна являются желание получить навыки, добиться достижений, простота использования, виртуальные бонусы и др.
Теория дизайна поведения Б. Дж. Фогга включает «Модель поведения» и «Метод нанопривычки по созданию поведения». Модель поведения Фогга (Fogg Behavior Model — FBM) (2009 г.) для анализа и проектирования человеческого поведения показывает, что три элемента должны сходиться в один и тот же момент, чтобы поведение могло произойти: мотивация, способность и подсказка (Фогг, 2020). В рамках курса дизайна поведения он разработал метод нанопривычки (2020 г.), помогающий менять собственное поведение, начиная с малого, при формировании устойчивых привычек для более счастливой и здоровой жизни (Фогг, 2020).
Модель дизайна эмоций П. Десмета и П. Хеккерта (2002 г.) объясняет процесс, ответственный за эмоциональную реакцию на конкретный дизайн продукта, отношения между дизайном продукта и эмоциональными реакциями. П. Десмет в общей модели «Эмоции продукта» установил три основных параметра: оценка, озабоченность и стимул. П. Десмет, П. Хеккерт и М. Хиллен исследовали отношения между эмоциями, вызванными дизайном автомобиля и базовыми человеческими ценностями (Desmet, Hekkert, Hillen, 2003). Авторы справедливо заметили, что дизайнеры могут предсказать или манипулировать эмоциональным воздействием их конструкций, когда они знают о проблемах конкретного человека, для которого они разрабатывают эти продукты. Цифровые продукты, которыми пользуются сегодня потребители, позволяют составить портрет клиента без его согласия.
При разработке дизайна сайтов также применяется архитектура выбора или теория подталкивания Р. Талера (2008), когда пользователям не навязываются продукты или услуги, манипулируя их выбором по умолчанию, а делается выгодное и интересное предложение, которое слегка подталкивает пользователей к принятию решения.
Д. Локтон, Д. Харрисон, Н. А. Стэнтон (2010 г.) ввели определение «дизайна с намерением» («Design with Intent», DWI) как предназначенного для воздействия или приведения к определенному поведению пользователя (Lockton, Harrison, Stanton, 2010).
Н. Эяль и Р. Хувер (2014) продолжили адаптацию идеи Б. Дж. Фогга для коммерческой сферы. Бизнесу предложена техника создания продуктов нового поколения, которые могут манипулировать поведением людей, способны завоевать любовь потребителей. Н. Эяль и Р. Хувер описали модель «крючка» — четырехэтап-ного процесса (триггер, действие, переменное вознаграждение и инвестиция), который успешные компании используют для формирования потребительских привычек.
Исследование С. Венделя (2013) является практическим руководством по разработке продуктов, помогающих людям, стремящимся к действию и достижению конкретных целей, изменить свое поведение: физические упражнения, контроль над своими финансами, организация электронной почты. С. Вендель ввел четыре стадии проектирования продуктов для коррекции поведения пользователей: понимание, ознакомление, проектирование, улучшением1.
1 Нейромаркетинг: Дизайн, меняющий поведение. URL: https://lpgenerator.ru/blog/2016/03/03/ nejromarketing-dizajn-menyayushij-povedeme/ (дата обращения: 27.09.2021).
Рис. Междисциплинарный синтез в теории поведенческого дизайна
Т. Д. Комбс и Р. А. Браун представили формализованный фреймворк для программирования поведения пользователей (Combs, Brown, 2018). Авторы фокусируются на конкретной области поведенческого дизайна — привычках, как они работают, как использовать поведенческий дизайн при создании продукта, чтобы превратить его в ежедневную привычку пользователей. Также представлены этические принципы при эффективном изменении поведения. Авторы основали компанию Boundless Mind (2015 г.) в противовес технологическим гигантам и используют технологии убеждения не для максимального увеличения времени просмотра пользователем экрана смартфона, а для построения его здорового использования.
М. Валларт (2019) предложил модель применения поведенческой науки на практике, включающую четыре этапа: разработка поведенческой стратегии, поведенческий анализ, поведенческий дизайн, оценка воздействия на поведение.
На рисунке условно представлен междисциплинарный синтез в теории поведенческого дизайна.
Каптология сформировалась в результате междисциплинарного синтеза исследований физиологии, психологии, социологии, аддиктологии, информатики, стала инструментом политологии, экономики и на современном этапе требует активного привлечения этики. Очевидна теоретическая и эмпирическая переориентация исследований поведенческого дизайна из сферы развития бизнеса в область защиты потребителей, разработку направлений здорового поведения, этических подходов.
4. Выводы
В рамках теории потребительского поведения, развитию которой уделяется большое внимание в зарубежных исследованиях, сформировалась концепция поведенческого дизайна, включающая инструментарий приведения поведения пользователя к заранее определенной модели.
386 ЛНвгЕсопотсз. 2022. Т. 19. № 2 https://jet-russia.com
Проведенный поиск, анализ и синтез научных концепций и опыта позволили
выделить следующие периоды эволюции теории поведенческого дизайна: возникновение предпосылок концепции поведенческого дизайна в исследованиях физиологии и психологии в 90-е гг. XIX в. — 30-е гг. XX в.; формирование инструментария поведенческого дизайна для управления общественным мнением в 20-е — 70-е гг. XX в.; становление концепции поведенческого дизайна в социально-политических науках и институциональной экономической теории в 70-е — 90-е гг. XX в.; формирование цифровых технологий поведенческого дизайна в условиях компьютеризации, развития сетей передачи данных и цифровых методов — 90-е гг. XX в. — 20-е гг. XXI в.
Теория поведенческого дизайна возникла и развивается как синтез идей физиологической теории рефлексов и подкрепления, психоаналитической теории толпы, авторитетов и оператного обусловливания, подталкивания и неприятия потерь, теорий управления общественным мнением и организационными изменениями, институциональных концепций потребительского поведения (включая демонстративное и аддиктивное поведение), компьютеризации и развития сетей передачи данных. Возникновение и развитие современного ее этапа компьютерных технологий убеждения связано с появлением микроэлектроники, компьютеров, сетей передачи данных.
В результате междисциплинарного синтеза создана наука каптология, изучающая компьютеры как технологии убеждения. Технологии цифрового поведенческого дизайна реализованы во многих цифровых товарах и услугах (видеоиграх, платформах электронной торговли, социальных сетях, сервисах обмена мгновенными сообщениями и голосовой связи, службах электронной почты, мультимедийных сервисах и многих других цифровых приложениях).
Будущее цифрового поведенческого дизайна связано с нейрокомпьютерным интерфейсом, развитие которого приведет к формированию следующего поколения широкого спектра новых товаров и потребностей. Нейронный интерфейс способен абсолютно определять потребительское поведение в соответствии с проектом. Он сможет задавать, устанавливать потребительское поведение в полном диапазоне в соответствии с целями управления — от абсолютно рационального до иррационального, которое фактически отсутствует в мейнстриме экономической науки.
Нейроинтерфейс может как способствовать снижению рисков искусственного интеллекта для человечества, так и использоваться нейротехнологическими компаниями в деструктивных целях. Очевидно, что уже на современном этапе требуется теоретическая и эмпирическая переориентация исследований и практики применения цифрового поведенческого дизайна из сферы развития бизнеса в область защиты потребителей, разработку направлений здорового поведения, этических подходов.
Список источников
Беккер Г. С. Человеческое поведение: экономический подход. Избранные труды по экономической теории : пер. с англ. сост., науч. ред., послесл. Р. И. Капелюшников; предисл. М. И. Левин. М.: ГУ ВШЭ, 2003. 672 с.
Бернейс Э. Кристаллизация общественного мнения : пер. с англ. М.: ООО «И. Д. Вильямс», 2015. 272 с.
Бернейс Э. Инженерия согласия // Полис. Политические исследования. 2013. № 4. С. 122-131.
Бернейс Э. Пропаганда : пер. с англ. И. Ющенко. М.: Hippo Publishing, 2010. 176 с.
Бойченко Е. В., Кальфа В., Овчинников В. В. Локальные вычислительные сети. М.: Радио и связь, 1985. 304 с.
Коулман Дж. Иерархия заговорщиков: Комитет Трёхсот : пер. с англ. М.: «Древнее и современное», 2011. 608 с.
Лебон Г. Психология народов и масс. 3- е изд. М.: Академический проект, 2015. 239 с.
Лейбин В. М. Римский клуб: хроника докладов // Философия и общество. 1997. № 6. URL: https://cyberleninka.ru/article/n/rimskiy-klub-hronika-dokladov (дата обращения: 27.07.2021).
Липпман У. Общественное мнение : пер. с англ. Т. В. Барчуновой, редакторы перевода К. А. Левинсон, К. В. Петренко. М.: Институт Фонда «Общественное мнение», 2004. 384 с.
Мировая экономическая мысль. Сквозь призму веков: в 5 т. / Сопред. редкол. Г. Г. Фетисов, А. Г. Худоркомов. Т. V: в 2 кн. Всемирное признание: Лекции нобелевских лауреатов / Отв. ред. Г. Г. Фетисов. Кн.1. М.: Мысль, 2004. 767 с.
Скоков Р. Ю. Цифровые аддиктивные товары и COVID-19: запретить нельзя ограничить // Генезис ноономики: НТП, диффузия собственности, социализация общества, солидаризм. Том 2: Сборник пленарных докладов Объединенного международного конгресса СПЭК-ПН0-2020 / Под общ. ред. С. Д. Бодрунова. М.: ИНИР, 2021. С. 205-216.
Скоков Р. Ю. Экономическая теория рынков аддиктивных товаров: монография / Федер. гос. авт. образоват. учреждение высш. образования «Волгогр. гос. ун-т». Волгоград : Изд-во ВолГУ, 2019. 484 с.
Скоков Р. Ю., Зеленева И. П. Цифровой поведенческий дизайн в политических технологиях // Гуманитарные и социально-экономические науки. 2021. № 6 (121). С. 84-90. DOI: 10.18522/19972377-2021-121-6-84-90.
Социальная психология. Краткий очерк : под ред. Предвечного Г. П., Шерковина Ю. А. М.: Политиздат, 1975. 320 с.
Сундиев И. Ю., Смирнов А. А. Теория и технологии социальной деструкции (на примере «цветных революций»). М.: Русский биографический институт, Институт экономических стратегий, 2016. 433 с.
Талер Р., Санстейн К. Nudge. Архитектура выбора. Как улучшить наши решения о здоровье, благосостоянии и счастье / Пер. с англ. Е. Петровой. М.: Манн, Иванов и Фербер, 2017. 240 с.
Фогг Б. Дж. Нанопривычки: маленькие шаги, которые приведут к большим переменам : пер. с англ. Е. А. Кваша. М.: Эксмо, 2020. 352 с.
Фрейд З. Психология масс и анализ Я // Зигмунд Фрейд. Тотем и табу: пер. с нем. Р. Ф. Додель-цева. СПб.: Азбука-Аттикус, 2017. 247 с.
Эяль Н., Хувер Р. Покупатель на крючке. Руководство по созданию продуктов, формирующих привычки : пер. с англ. С. Филина. М.: Манн, Иванов и Фербер, 2014. 224 с.
Becker G. S. A Theory of the Allocation of Time // The Economic Journal. 1965. Vol. 75, No. 299. P. 493-517. DOI: 10.2307/2228949.
Coleman J. The Tavistock Institute of Human Relations: Shaping the Moral, Spiritual, Cultural, Political and Economic Decline of the United States of America. World in Review, 2006. 286 p.
Combs T. D., Brown R. A. Digital behavioral design. 2018. URL: https://usetemper.com/digital-behavioral-design/ (дата обращения: 27.09.2021).
Desmet P. M. A., Hekkert P. The basis of product emotions // Pleasure with Products, beyond usability. 2002; W. Green and P. Jordan (Eds.). London: Taylor & Francis. P. 60-68.
Desmet P., Hekkert P., Hillen M. Values and Emotions; an empirical investigation in the relationship between emotional responses to products and human values // Proceedings of Techne: Design Wisdom 5th European Academy of Design conference. 2003. Barcelona, Spain.
Emery F. E. The Next Thirty Years: Concepts, Methods and Anticipations // Human Relations. 1967. Vol. 20, No. 3. P. 199-237. DOI: https://doi.org/10.1177/001872676702000301.
Emery F., Emery M. A choice of futures. To enlighten or inform. Canberra: Centre for Continuing Education, Australian National University, 1975. 213 p.
Emery M. Searching: The theory and practice of making cultural change. Amsterdam: John Benjamins Publishing, 1999. 258 p.
Fogg B. J. Persuasive computers: perspectives and research directions // (CHI '98): Proceedings of the SIGCHI Conference on Human Factors in Computing Systems. 1998. P. 225-232. DOI: https://doi. org/10.1145/274644.274677
Fogg B. J. Tiny Habits: The Small Changes that Change Everything Boston, Massachusetts, U.S.: Houghton Mifflin Harcourt, 2020. 362 p.
Kahneman D., Tversky A. Prospect theory: An analysis of decision under risk // Econometrica. 1979. Vol. 47, No. 2. P. 313-327. DOI: https://doi.org/10.2307/1914185.
Leslie I. The scientists who make apps addictive // The Economist. Oct. 20th. 2016. URL: https:// www.economist.com/1843/2016/10/20/the-scientists-who-make-apps-addictive (дата обращения: 27.09.2021).
Lockton D., Harrison D. J., Stanton N. A. The Design with Intent Method: a design tool for influencing user behaviour // Applied Ergonomics. 2010. Vol. 41, No. 3, P. 382-392. DOI: http://dx.doi.org/10.1016/j. apergo.2009.09.001.
Newell A., Simon H. A. Human Problem Solving, 1972. 920 p.
Norman D. A. The psychology of everyday things. Cambridge: MIT Press, 1988.
Schaff A., Friedrichs G. Microelectronics and Society: for Better or for Worse. Oxford: Pergamon Press, 1982. 353 p.
Simon H. A. A behavioral model of rational choice // The Quarterly Journal of Economics. 1955. Vol. 69, No. 1. P. 99-118. DOI: https://doi.org/10.2307/1884852.
Simon H. A. The science of the artificial. Cambridge: MIT press, 1969. 123 p.
Skinner B. F. The concept of the reflex in the description of behavior // Journal of General Psychology. 1931. Vol. 5, No. 4. P. 427-458. DOI: https://doi.org/10.1080/00221309.1931.9918416.
Spengler O. Der Untergang des Abendlandes. Umrisse einer Morphologie der Weltgeschichte. Wien, Leipzig: K. K. Universitäts-Verlagsbuchhandlung G. m.b. H. Wilhelm Braumüller, 1918. 639 s.
Stigler G., Becker G. De Gustibus Non Est Disputandum // The American Economic Review. 1977. Vol. 67, No. 2. P. 76-90.
Tarpley W. G. Obama: the postmodern coup. Making of a Manchurian candidate. Progressive Press, 2008. 291 p.
Triandis H. C. Interpersonal Behavior. Monterey, CA: Brooks/Cole, 1977. 329 p.
Walsh C. M. The climax of civilization. New York, 1917. 148 p.
Wendel S. Designing for behavior change: Applying psychology and behavioral economics.1st edition. Sebastopol, CA: O'Reilly Media, Inc., 2013. 394 p.
References
Becker, G. S. (1965). A Theory of the Allocation of Time. The Economic Journal, 75(299), 493-517. DOI: 10.2307/2228949.
Becker, G. S. (2003). Chelovecheskoe povedenie: ekonomicheskiy podkhod. Izbrannye trudy po ekonomicheskoy teorii [The Economic Approach to Human Behavior]. Translated from Eng. In R. I. Kapelyushnikov (Eds.); foreword by M. I. Levin. Moscow, Russia: HSE, 672. (In Russ.)
Bernays, E. (2015). Kristallizatsiya obshchestvennogo mneniya [Crystallizing Public Opinion]. Translated from English. Moscow, Russia: LLC "I. D. Williams", 272. (In Russ.)
Bernays, E. (2010). Propaganda [Propaganda]. Translated from English by I. Yushchenko. Moscow, Russia: Hippo Publishing, 176. (In Russ.)
Bernays, E. (2013). Inzheneriya soglasiya [The Engineering of Consent]. Polis. Politicheskie issledovaniya [Polis. Political Studies], 4, 122-131. (In Russ.)
Boychenko, E. V., Kal'fa, V. & Ovchinnikov, V. V. (1985). Lokal'nye vychislitel'nye seti [Local computer networks]. Moscow, Russia: Radio i svyaz', 304. (In Russ.)
Coleman J. (2006). The Tavistock Institute of Human Relations: Shaping the Moral, Spiritual, Cultural, Political and Economic Decline of the United States of America. World in Review, 286.
Coleman, J. (2011). Ierarkhiya zagovorshchikov: Komitet Trekhsot [Conspirators' Hierarchy: The Story of the Committee of 300]. Translated from English. Moscow, Russia: "Drevnee i sovremennoe", 608. (In Russ.)
Combs, T. D. & Brown, R. A. (2018). Digital behavioral design. Retrieved from: https://usetemper. com/digital-behavioral-design/ (Date of access: 27.09.2021).
Desmet, P. M. A. & Hekkert, P. (2002). The basis of product emotions. Pleasure with Products, beyond usability. In W. Green and P. Jordan (Eds.). London: Taylor & Francis, 60-68.
Desmet, P., Hekkert, P. & Hillen, M. (2003). Values and Emotions; an empirical investigation in the relationship between emotional responses to products and human values. Proceedings of Techne: Design Wisdom 5th European Academy of Design conference. Barcelona, Spain.
Emery, F. & Emery, M. (1975). A choice of futures. To enlighten or inform. Canberra: Centre for Continuing Education, Australian National University, 213.
Emery, F. E. (1967). The Next Thirty Years: Concepts, Methods and Anticipations. Human Relations, 20(3), 199-237. DOI: https://doi.org/10.1177/001872676702000301.
Emery, M. (1999). Searching: The theory and practice of making cultural change. Amsterdam: John Benjamins Publishing, 258.
Eyal, N. & Hoover, R. (2014). Pokupatel' na kryuchke. Rukovodstvo po sozdaniyu produktov, formiruyushchikh privychki [Hooked. How to Build Habit-Forming Products]. Translated from English by S. Filin. Moscow, Russia: Mann, Ivanov and Ferber, 224. (In Russ.)
Fetisov, G. G. (Eds.) (2004). Mirovaya ekonomicheskaya mysl'. Skvoz'prizmu vekov [WorldEconomic Thought: Through the Prism of Ages]. In 5 vol. Co-chairmen of the Editorial Board G. G. Fetisov, A. G. Khudorkomov. Vol. V: in 2 books. Book 1. Vsemirnoe priznanie: Lektsii nobelevskikh laureatov [World Recognition: Lectures by Nobel Laureates]. Moscow, Russia: Mysl', 767. (In Russ.)
Fogg, B. J. (1998). Persuasive computers: perspectives and research directions. CHI '98: Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, 225-232. DOI: https://doi. org/10.1145/274644.274677.
Fogg, B. J. (2020). Nanoprivychki: malen'kie shagi, kotorye privedut k bol'shim peremenam [Tiny Habits: The Small Changes that Change Everything]. Translated from English by E. A. Kvasha. Moscow, Russia: Eksmo, 352. (In Russ.)
Fogg, B. J. (2020). Tiny Habits: The Small Changes that Change Everything. Boston, Massachusetts, U.S.: Houghton Mifflin Harcourt, 362.
Freud, S. (2017). Psikhologiya mass i analiz Ya [Psychology and the Analysis of the Ego]. Totem i tabu [Totem and Taboo]. Translated from German by. R. F. Dodeltsev. St Petersburg, Russia: Azbuka-Attikus, 247. (In Russ.)
Kahneman, D. & Tversky, A. (1979). Prospect theory: An analysis of decision under risk. Econo-metrica, 47(2), 313-327. DOI: https://doi.org/10.2307/1914185.
Le bon, G. (2015). Psikhologiya narodov i mass [The Crowd: A Study of the Popular Mind]. Moscow, Russia: Akademicheskiy proekt, 239. (In Russ.)
Leibin, V. M. (1997). Rimskiy klub: khronika dokladov [Club of Rome: Chronicle of Reports]. Filosofiya i obshchestvo [Philosophy and Society], 6 . Retrieved from: https://cyberleninka.ru/ article/n/rimskiy-klub-hronika-dokladov (Date of access: 27.07.2021). (In Russ.)
Leslie, I. (2016). The scientists who make apps addictive. The Economist. Oct. 20th. Retrieved from: https://www.economist.com/1843/2016/10/20/the-scientists-who-make-apps-addictive (Date of access: 27.09.2021).
Lippman, W. (2004). Obshchestvennoe mnenie [Public Opinion]. Translated from English by T. V. Barchunova. In K. A. Levinson, K. V. Petrenko (Eds.). Moscow, Russia: Foundation Institute "Obshchestvennoe mnenie", 384. (In Russ.)
Lockton, D., Harrison, D. J. & Stanton, N. A. (2010). The Design with Intent Method: a design tool for influencing user behaviour. Applied Ergonomics, 41(3), 382-392. DOI: http://dx.doi.org/10.1016/j. apergo.2009.09.001.
Newell, A. & Simon, H. A. (1972). Human Problem Solving, 920.
Norman, D. A. (1988). The psychology of everyday things. Cambridge: MIT Press.
Predvechnyy, G. P. & Sherkovin, Yu. A. (Eds.) (1975). Sotsial'naya psikhologiya. Kratkiy ocherk [Social psychology. A Brief Overview]. Moscow, Russia: Politizdat, 320. (In Russ.)
Schaff, A. & Friedrichs, G. (1982). Microelectronics and Society: for Better or for Worse. Oxford: Pergamon Press, 353.
Simon, H. A (1955). A behavioral model of rational choice. The Quarterly Journal of Economics, 69(1), 99-118, DOI: https://doi.org/10.2307/1884852.
Simon, H. A. (1969). The science of the artificial. Cambridge: MIT press, 123.
Skinner, B. F. (1931). The concept of the reflex in the description of behavior. Journal of General Psychology, 5(4), 427-458. DOI: https://doi.org/10.1080/00221309.1931.9918416.
Skokov, R. Yu. & Zeleneva, I. P. (2021). Tsifrovoy povedencheskiy dizayn v politicheskikh tekhnologi-yakh [Digital behavioral design in political technology]. Gumanitarnye i sotsial'no-ekonomicheskie nauki [The Humanities and Social-Economic Sciences], 6(121), 84-90. DOI: 10.18522/1997-23772021-121-6-84-90. (In Russ.)
Skokov, R. Yu. (2019). Ekonomicheskaya teoriya rynkov addiktivnykh tovarov: monografiya [Economic theory of addictive goods markets: monograph]. Volgograd State University. Volgograd, Russia: Publishing House VolGU, 484. (In Russ.)
Skokov, R. Yu. (2021). Tsifrovye addiktivnye tovary i COVID-19: zapretit' nel'zya ogranichit' [Digital Addictive Goods and Covid-19: Banning Can't Be Restricted]. Genezis noonomiki: NTP, diffuziya sobstvennosti, sotsializatsiya obshchestva, solidarizm [Genesis of noonomy: scientific and technological progress, diffusion of ownership, socialization of society, solidarism]. Vol. 2. Collection of plenary reports of Joint International Congress SPEC-PNO-2020. In S. D. Bodrunov (Eds.). Moscow, Russia: INID, 205-216. (In Russ.)
Spengler, O. (1918). Der Untergang des Abendlandes. Umrisse einer Morphologie der Weltgeschichte. Wien, Leipzig: K. K. Universitäts-Verlagsbuchhandlung G. m.b. H. Wilhelm Braumüller, 639. (In German)
Stigler G. & Becker G. (1977). De Gustibus Non Est Disputandum. The American Economic Review, 67(2), 76-90.
Sundiev, I. Yu. & Smirnov, A. A. (2016). Teoriya i tekhnologii sotsial'noy destruktsii (na primere "tsvetnykh revolyutsiy") [Theory and Technologies of Social Destruction (on Example of "Color Revolutions")]. Moscow, Russia: Russian Biographical Institute, Institute of Economic Strategies, 433. (In Russ.)
Tarpley, W. G. (2008). Obama: the postmodern coup. Making of a Manchurian candidate. Progressive Press, 291.
Thaler, R. & Sunstein, C. R. (2017). Nudge. Arkhitektura vybora. Kak uluchshit' nashi resheniya o zdorov'e, blagosostoyanii i schast'e [Nudge. Improving decisions about health, wealth and happiness]. Translated from English by E. Petrova. Moscow, Russia: Mann, Ivanov i Ferber, 240. (In Russ.)
Triandis, H. C. (1977). Interpersonal Behavior. Monterey, CA: Brooks/Cole, 329.
Walsh, C. M. (1917). The climax of civilization. New York, 148.
Wendel, S. (2013). Designing for behavior change: Applying psychology and behavioral economics. Sebastopol, CA: O'Reilly Media, Inc., 394.
Дата поступления рукописи: 30.09.2021.
Прошла рецензирование: 23.02.2022.
Принято решение о публикации: 25.03.2022.
Received: 30 Sep 2021.
Reviewed: 23 Feb 2022.
Accepted: 25 March 2022.
