Влияние новых технологий на экономическое поведение и свободу выбора потребителя: от нейромаркетинга к нейроправам Текст научной статьи по специальности «Право»

Научная статья

УДК 34:004:347.451:004.8

EDN: https://elibrary.ru/nifbkj

DOI: https://doi.org/10.21202/jdtl.2024.5

Влияние новых технологий на экономическое поведение и свободу выбора потребителя: от нейромаркетинга к нейроправам

Людовика Спозини О

Школа перспективных исследований Сант'Анна, Пиза, Италия

Ключевые слова

биотехнологии, европейское право, защита прав потребителей, искусственный интеллект, нейромаркетинг, нейроправа, нейроэтика, свобода выбора, право,

цифровые технологии

Аннотация

Цель: выявить возможности адекватного ответа существующего правового режима на различные вызовы, которые системы искусственного интеллекта, лежащие в основе методов нейромаркетинга, ставят перед европейским правом.

Методы: исследование основано на риск-ориентированном подходе, формально-логическом, формально-юридическом и сравнительно-правовом методах, а также на методе правового прогнозирования, позволяющих выявить проблемы законодательства, обусловленные развитием технологий, способных распознавать человеческие эмоции и использовать их для управления поведением потребителей, и предложить пути их решения.

Результаты: в проведенном исследовании представлен краткий обзор наиболее широко распространенных методов нейромаркетинга, используемых алгоритмами и машинным обучением, позволяющим выявить точки когнитивной и эмоциональной уязвимости, собрать и обработать данные, а затем выстроить наиболее эффективные маркетинговые приемы, подталкивающие потребителя к выбору определенного товара или услуги. Проанализированы этические проблемы, возникающие при использовании методов нейромаркетинга в отношении некоторых базовых ценностей, таких как индивидуальная независимость, человеческое достоинство и свобода выбора. Показана тонкая грань между приемами, манипулирующими поведением потребителя (метод манипуляции), и теми приемами, которые, напротив, оказывают убеждающее воздействие, что само по себе не делает их противозаконными (метод убеждения). Представлен обзор существующей правовой базы, а также прецедентного права как Европейского суда, так и национальных судов государств-участников, с особым упором на Директиву о недобросовестной коммерческой практике, Общий регламент ЕС по защите персональных данных (жесткое право) и этические кодексы (мягкое право).

> Спозини Л., 2024

^Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (СС BY 4.0) (https://creativecommons.0rg/licenses/by/4.O/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

Научная новизна: в работе отмечается трансформация традиционных правовых категорий и важные проблемные точки существующего регулирования, обусловленные ростом признания потенциала нейро-маркетинга как инструмента, способного объяснить и спрогнозировать поведение потребителей, а также воздействовать на экономическое поведение субъектов отношений.

Практическая значимость: полученные выводы и предложения могут быть учтены при совершенствовании регулирования искусственного интеллекта в части его безопасности и надежности, повышения доверия к системе, с учетом обеспечения защиты этических принципов и сохранения фундаментальных человеческих ценностей.

Для цитирования

Спозини, Л. (2024). Влияние новых технологий на экономическое поведение и свободу выбора потребителя: от нейромаркетинга к нейроправам. Journal of Digital Technologies and Law, 2(1), 74-100. https://doi.Org/10.21202/jdtl.2024.5

Содержание

Введение

1. Появление нейромаркетинга и новые горизонты искусственного эмоционального интеллекта

2. Возможности нейромаркетинга и его потенциальная угроза фундаментальным человеческим ценностям

3. Защита потребителя от необоснованных влияний современных технологий на его экономическое поведение и свободу выбора

Заключение Список литературы

Введение

Изначально потребитель рассматривался как абсолютно рациональный экономический субъект, всегда делающий наиболее эффективный выбор. Другими словами, согласно классической экономической теории, потребитель отождествляется с homo economicus, т. е. субъектом, наделенным совершенной рациональностью1. Однако по концепции бихевиоризма человеческий разум - это «черный ящик» (Camerer et al., 2005), а значит, все процессы в нем происходят в результате воздействия внешних стимулов. Отсюда следует, что когнитивные процессы, не наблюдаемые извне, непознаваемы, т. е. не могут быть изучены2.

1 Более подробно об эволюции консьюмеризма см. (Bauman, 2010;А1ра & Catricala, 2016; Fabris, 2003).

2 Эта теория была разработана в 1913 г. психологом Джоном Уотсоном из Чикагского университета и опубликована вжурнале Psychological Review. См. (Watson, 1994).

Этот неоклассический подход начал оспариваться с 1970-х гг. во все большем числе научных исследований. В них же разрабатывалась новая экономическая модель, основанная на гипотезе об «ограниченной рациональности» человека3. По мнению их авторов, когда потребитель делает выбор в пользу той или иной покупки, на его сознание влияют различные внешние факторы (например, социальная и экономическая среда, в которой он находится в данный момент, или его эмоциональное состояние), и прежде всего, когнитивные ограничения самого разума.

Одно из наиболее значимых исследований в этом контексте принадлежит Дэниелу Канеману (Daniel Kahneman). Он показал, что человек использует эвристику - когнитивные упрощения, которые позволяют ему делать экономический выбор с наименьшими усилиями (затратами времени и энергии). Однако именно потому, что потребители используют эвристику для оптимизации времени принятия решений, они часто допускают ошибки в рассуждениях и оценках, называемые когнитивными предубеждениями4.

Благодаря этим исследованиям появилась новая концепция человеческого мозга, который рассматривается не как единое целое, а как две постоянно взаимодействующие системы (Kahneman, 2011; Shiv & Fedorikhin, 1999). Первая система, относящаяся к области интуиции, работает быстрее и сохраняет информацию в форме представлений, не прилагая никаких умственных усилий для ее обработки. Вторая система, представляющая более рациональную часть, обрабатывает полученную информацию, затрачивая значительные усилия. Если говорить конкретно о процессе принятия решения о покупке, то от идеи, что он полностью рационален (потребители всегда выбирают наиболее эффективное решение) ученые перешли ктак называемой теории беспорядочного среднего5. Согласно этому подходу, процесс покупки состоит из нескольких беспорядочных и хаотичных фаз, когда люди пытаются найти информацию о продукте, но в итоге оказываются перегружены многочисленными доступными вариантами.

Эти открытия привели к появлению новой дисциплины - нейроэкономики, которая на основе психологии и нейробиологии пытается еще глубже изучить процессы принятия решений потребителями. В традиционных моделях эмоциональный аспект

Теория ограниченной рациональности была разработана Гербертом Саймоном в 1978 г. Более подробно см. (Viale, 2019;Damasio, 1994). В работе говорится: «Мы не думающие машины, которые чувствуют, мы чувствующие машины, которые думают». Тем самым подчеркивается, что эмоциональная часть действует раньше рациональной, т. е. «в начале была эмоция. Поэтому чувство не является пассивным процессом». См. также (Morin, 2011).

В работах (Tversky & Kahneman, 1974; Thaler, 2000; Ceschi et al., 2012) были сделаны попытки создания таксономии когнитивных предубеждений. В частности, были классифицированы основные эвристики, включая «предвзятость подтверждения» или «предвзятость убеждений», когда люди более склонны верить информации, которая подтверждает их убеждения; «фрейминг», когда на процесс принятия решений влияет контекст, т. е. «фрейм»; «предвзятость привязки», которая возникает, когда человек полагается на уже известное значение как на точку отсчета для определения другого значения неизвестной величины (ярким примером является восприятие цены);«предвзя-тость желания», когда личные желания влияют на решения людей; «предвзятость затрат», в том смысле, что потери и затраты воспринимаются как более значительные, чем на самом деле;нако-нец, «предвзятость выбора», когда по мере увеличения количества доступных вариантов выбора становится все труднее обработать всю информацию и принять окончательное решение.

Rennie, A., Protheroe, J., Charron, С., & Breatnach, G. (2020). Decoding Decisions: making sense of the messy middle, https://clck.ru/bmxnd

3

4

5

не имел никакого значения и, по сути, поведение человека рассматривалось как результат линейного процесса принятия решений, направленного на максимизацию индивидуальной полезности. В нейроэкономике, напротив, эмоциональный аспект приобретает фундаментальное значение настолько, что поведение человека признается результатом автоматических и бессознательных когнитивных процессов, которые действуют ниже уровня осознания ^¡пИе1тап & ВеггИде, 2003; гарпс, 1980, 1998; ВесИага & Оатаэю, 2005)6.

1. Появление нейромаркетинга и новые горизонты искусственного эмоционального интеллекта

Указанные теории, несомненно, послужили благодатной почвой для «нейромаркетинга». Эта новая область исследований, появившаяся в 1990-х гг., направлена на разработку более эффективной продающей рекламы, способной влиять на покупательское поведение потребителей за счет изучения их мотивации и психических процессов7.

Стремительное развитие технологий привело к созданию множества методик в этой области. Результатом такого разнообразия стала невозможность прийти к единой и окончательной классификации, и до сих пор учеными было сделано лишь несколько тщетных попыток в этом направлении.

Одна из классификаций рассматривает этапы процесса принятия решения потребителем, на которых применяется нейромаркетинг. Так, первую группу составляют технологии, изучающие поведение потребителя до покупки и использующие инструменты для выявления глубинных причин, которые подталкивают потребителя к тому или иному выбору. К ним относятся все технологии, которые оценивают движение глаз (окулография), выражение лица и другие биометрические показатели, такие как уровень потоотделения или частота сердечных сокращений. Во вторую группу входят технологии, изучающие реакцию потребителя после покупки, чтобы усилить способность товара или рекламы вызывать у покупателя положительные эмоции. Для этих целей наиболее часто используются электроэнцефалография (далее - ЭЭГ8),

6 О влиянии этих технологий на науку в Италии см. (Seminara, 2020).

7

В настоящее время нет единого мнения относительно создателя термина «нейромаркетинг», но точно известно, что впервые его использовал профессор Але Смидтс в одной из своих

самых известных работ, опубликованной в 2002 г. В ней нейромаркетинг определялся как «изучение механизмов мозга для понимания поведения потребителей с целью улучшения маркетинговых стратегий». Ср. (Smidts, 2002). Уже в следующем году профессор Рид Монтегю провел первое исследование в области нейромаркетинга, сканируя с помощью аппарата функциональной магнитно-резонансной томографии (фМРТ) мозг людей, пьющих пепси-колу и кока-колу. Однако началом практических исследований в области нейромаркетинга следует считать 1971 г., когда Герберт Э. Кругман, сотрудник компании General Electric, впервые измерил спонтанное расширение зрачков у покупателей, посчитав его показателем заинтересованности людей, которые искали товар или смотрели рекламу. Краткий обзор литературы по этому вопросу см. в работе (Lee et al., 2018).

Электроэнцефалограмма регистрирует электрическую активность мозга с помощью шлема, поверхность которого полностью покрыта маленькими электродами. Это неинвазивный метод, позволяющий выявить изменения в электрическом потоке мозговых волн в ответ на воздействие различных стимулов.

8

функциональная магнитно-резонансная томография (далее - фМРТ9) и магнитоэн-цефалография (далее - МЭГ10), которые напрямую показывают активность человеческого мозга.

Согласно другой классификации, практики нейромаркетинга подразделяются в зависимости от объекта анализа (ср. УегИШзг ег а1., 2019). По этому критерию можно выделить три большие категории: во-первых, это инструменты нейровизуализа-ции, которые измеряют активность определенной области мозга. К ним относятся, например, ЭЭГ (поскольку она вычисляет колебания электрической активности мозга) и фМРТ (которая измеряет изменения кровотока в мозге). Особняком стоят инструменты, которые измеряют активность мозга не напрямую, а косвенно, т. е. получают информацию о когнитивных процессах через анализ реакции других частей тела на определенные маркетинговые стимулы. Таким образом, ко второй группе можно отнести окулографию, которая измеряет положение, движения глаз и расширение зрачка, и кардиоваскулярные методики, где вариабельность сердечного ритма используется как индикатор для определения импульсов человека. Кроме того, существуют технологии для изучения биохимических компонентов человеческого тела, например гормонов и нейромедиаторов - тестостерона, кортизола или дофамина, - выделяемыхорганизмом при воздействии маркетинговыхстимулов.

Наконец, нейромаркетинговые практики можно разделить в зависимости от их способности регистрировать сигналы мозга, а не неврологическую активность11, выделив таким образом три группы. К первой относятся инструменты, которые связаны с регистрацией метаболической активности мозга: фМРТ, МЭГ и позитронно-э-миссионная томография (далее - ПЭТ12). Вторая группа - это методы, регистрирующие электрическую активность мозга. Среди них наиболее широко используется ЭЭГ, цель которой - спровоцировать изменения в электрической активности мозга с помощью различных визуальных и звуковых стимулов, чтобы проследить корреляцию между характером стимулов и соответствующими областями мозга, которые они активируют. Наконец, существуют приборы, которые лишь косвенно регистрируют активность мозга, фиксируя физические реакции. Это, например, электрокардиография (далее - ЭКГ), которая измеряет и регистрирует электрическую активность

10

Функциональная магнитно-резонансная томография измеряет активность мозга через наблюдение за кровотоком и насыщением кислородом рассматриваемых участков мозга. Было замечено, что воздействие маркетингового стимула приводит к повышению уровня насыщения крови кислородом в определенных областях мозга, что приводит к изменению его электромагнитного поля. Более подробное обсуждение см. в работе (Lim, 2018).

Неинвазивный медицинский метод, регистрирующий электрическую активность мозга. В отличие от ЭЭГ здесь измеряется магнитное поле, создаваемое внутричерепными токами. Используются сверхпроводящие квантовые интерференционные датчики (SQUID), которые способны измерять бесконечно малые изменения магнитного поля, благодаря чему можно с высокой точностью обнаружить источники магнитных сигналов в мозге.

11 Эта классификация была предложена в работе (Вегсеа, 2012).

12 Это инвазивный метод визуализации мозга, относящийся к области так называемой ядерной медицины, поскольку предполагает введение в организм вещества, испускающего позитронные частицы. Метод позволяет после воздействия маркетингового стимула измерить изменения уровня глюкозы в мозге испытуемого (его метаболическую активность), вызванные этим радиоактивным веществом.

сердца, помещая электроды на кожу испытуемого13, и прежде всего отслеживание глаз. В последнем случае с помощью датчиков определяются активность и размер зрачков, из чего можно извлечь информацию о том, как направить внимание испытуемого на нужный объект.

Несмотря на большое разнообразие вышеупомянутых практик, совершенно очевидны большие возможности - и опасность - применения искусственного интеллекта в этой области. Они заключаются в способности ИИ повысить точность предсказания поведения покупателей в такой степени, что «исследования, несмотря на небольшие размеры выборки, могут обеспечить прочную основу для прогнозирования рынка для более крупных групп населения» (Royo-Vela & Varga, 2022, Ramirez et al., 2021).

Особое направление ИИ, получившее развитие в последнее время, стало известно как «аффективные вычисления», или «искусственный эмоциональный интеллект» (далее - ИЭИ). Оно объединяет различные области, включая инженерные науки, нейробиологию и психологию поведения, с целью создания машин, способных не только интерпретировать, но и моделировать человеческие эмоции и таким образом адаптировать свою реакцию в зависимости от психологического состояния субъекта.

В настоящее время многие системы на основе ИЭИ используют технологии отслеживания глаз и выражения лиц, поскольку, согласно многочисленным исследованиям, лицо - это та часть человеческого тела, с помощью которой мы чаще всего выражаем свои мысли14.

В частности, на мобильном или стационарном устройстве можно поместить модуль для окулографии, который будет фиксировать расширение и сжатие зрачков (что считается показателем психической и когнитивной активности центральной нервной системы), а также траекторию движения глаз потребителя (показатель активности вегетативной нервной системы, отвечающей за эмоциональные реакции) при просмотре рекламы. Согласно этой гипотезе, зрительное внимание определяется факторами двух типов. Первые, так называемые восходящие факторы, воздействуют на области мозга; это такие качества, как цвет, образ и яркость, именно они схватываются первыми. Вторые, так называемые нисходящие факторы, - это то, что вызывает чувства, воспоминания и эмоции.

Таким образом, эта технология регистрирует огромное количество данных, как количественных (основанных на анализе числовых данных, таких как количество или продолжительность фиксаций), так и качественных (относящихся к графической визуализации поведения субъекта, например, тепловые карты или графики движения глаз). Именно по этой причине окулография и кодирование лица в основном

13 На частоту сердечных сокращений влияют два основных элемента: симпатическая нервная система, которая вызывает чувство возбуждения от маркетингового стимула, и парасимпатическая нервная система, которая, напротив, способствует расслаблению, снижая частоту сердечных сокращений.

14 Более подробное обсуждение этой технологии см. в работе (Cherubino et al., 2019). Ekman и Friesen разработали систему Facial Action Coding System (FACS) для измерения и классификации выражения лица. Система основана на распознавании семи «первичных эмоций», трех «универсальных чувств», нескольких «сложных эмоций» и 19 «единиц поведения». Более подробное обсуждение этой темы см. в работах (Ekman & Friesen, 1978;Ekman, 2004).

используются крупнейшими компаниями (Barnett & Cerf, 2015; Bellman et al., 2016)15. Например, компания Affectiva специализируется на разработке ИЭИ, с помощью технологий глубокого обучения и компьютерного зрения анализирующего выражение лица и эмоции субъекта, с которым взаимодействует16. Иными словами, это программное обеспечение, получившее название Affidex, выявляет все ключевые точки лица, а затем классифицирует их по «классам эмоций». В основном эта технология применяется в маркетинге, поскольку она позволяет оценить эмоциональную вовлеченность потребителей, вызываемую определенным рекламным продуктом. Это означает, что кодирование лиц при использовании искусственного интеллекта и видеоанализа позволяет измерить мельчайшие реакции, даже неосознанные, на процесс покупки и на рекламные стимулы. Таким образом, маркетинговые агентства могут фокусировать свои рекламные кампании на конкретных рекламных продуктах, определять параметры света, звука, изображения в зависимости от того, что наиболее интересно и привлекательно для потребителей, вплоть до предсказывания их эмоциональной реакции, основываясь «всего лишь» на выражении лица17.

Поэтому неудивительно, что разработка и применение технологий, направленных на понимание и предвидение процессов принятия решений, привычек и эмоций потребителей, неизбежно порождают глубокие сомнения и вопросы. Мы должны спросить себя, «относимся ли мы к другим как к людям с их надеждами и желаниями? Или мы относимся к ним как к вещам, которыми мы можем манипулировать, основываясь на нашем понимании работы мозга?» (Garvey, 2016)18.

2. Возможности нейромаркетинга и его потенциальная угроза фундаментальным человеческим ценностям

Целью маркетинга всегда было побудить потребителя купить определенный товар, привлекая его внимание. Например, в рекламе сигарет Camel, транслировавшейся с 1936 по 1939 г., говорилось: «Ради хорошего пищеварения курите Camel»19. Это наглядно показывает, что не только нейромаркетинг, но и традиционные приемы всегда

15 McStay (2018) пишет: «Самое примечательное в кодировании лиц - это разнообразие и масштабы его применения. Например, более трети компаний из списка Fortune Global 500 используют кодирование лица для проверки эффективности рекламы перед ее запуском» (Cerf et al., 2015; Alexander et al., 2015; Hedgcock et al., 2012;Mesly, 2016;Shiv et al., 2005).

16 Подробно о том, как работает такое программное обеспечение, см. (McStay, 2018).

17 Авторы ссылаются на программу для распознавания эмоций Cognitive Services от Microsoft, которая дает представление не только о том, что доступно сегодня, но и о более широких возможностях использования вербальных и невербальных коммуникаций с помощью семантического анализа, анализа тона голоса и многого другого, а также распознавания эмоций по видео. Arthmann, С., & Li, I. Р. (2017). Neuromarketing - The Art and Science of Marketing and Neurosciences Enabled by loT Technologies. IIC Journal of Innovation, 1-10. https://clck.ru/37rq8m

18 Здесь также говорится: «„не нужно быть Кантом, чтобы задуматься о том, что некоторые методы, рекомендуемые нейромаркетологами, похоже, расценивают человека как объект, вещь, которую можно изучать и которой можно манипулировать ради финансовой выгоды, а не как личность со своими собственными целями, которую мы должны уважать».

19 Этот лозунг оказал настолько сильное воздействие на население, что некоторые авторы отмечали: «Кампания создала группу потребителей, которые в противном случае не стали бы курить табак и, возможно, пошли против своей интуиции, решив курить только благодаря убеждающему воздействию рекламы Camel». Ср. (Clark, 2017;Thomas et al., 2017;Peeler, 1996).

имели целью повлиять на потребителей, используя их когнитивные предубеждения и слабости, настолько, что уже в 1950 г. люди начали говорить о «скрытом маркетинге». Его определяют как «точку, в которой техники нейромаркетинга достигают критической эффективности и используются таким образом, чтобы манипулировать решениями потребителей без их ведома или согласия» (Murphy et al., 2008)20. Такая практика появилась в США: Джеймс Викари признал, что увеличил продажи еды и напитков в кинотеатрах, вставляя в фильмы подсознательные сообщения, побуждающие потребителей пить кока-колу и есть попкорн (Vicary, 1951)21.

Таким образом, очевидно, что убеждение является естественным компонентом нейромаркетинга, однако проблема возникает, в частности, с некоторыми приемами, выходящими далеко за рамки простого убеждения человека. Это опасение всегда существовало в данной дисциплине и неоднократно высказывалось различными авторами (Cenizo, 2022)22. В частности, нейромаркетинг рассматривался как потенциальная угроза фундаментальным человеческим ценностям, поскольку он позволяет использовать слабости, неуверенность и эмоции в чисто коммерческих целях (Lungu, 2016; Durante & Arsena, 2015; Durante et al., 2011; Saad &Stenstrom, 2012).

Другие исследователи считают эти опасения чрезмерными, утверждая, что современный уровень развития технологий не настолько высок, чтобы влиять на этические вопросы. Они также не верят, что нейромаркетинг действительно может манипулировать человеческим сознанием, поскольку, по их мнению, возможность влиять на подсознание потребителей не обязательно означает, что они не контролируют свой выбор при покупке23.

Однако что точно не подлежит сомнению, так это способность нейромаркетинга вызывать у потребителей желание покупать. Таким образом, реальный вопрос заключается в том, можно ли считать их выбор по-прежнему свободным, даже если на него существенно влияют физиологические факторы, которые они не могут контролировать (Stanton et al., 2016)24.

20 По мнению этих авторов, нейромаркетинг способен убедить потребителей «принять участие в связанной с продуктом деятельности, которую в противном случае они, вероятно, не выбрали бы», см. (Clark, 2017). Другие исследователи считают нейромаркетинг неэтичным (Lee et al., 2007).

21 Критику этого исследования см. в работе Karremans et al. (2006).

22 В том же смысле в работе Murphy et al. (2008) утверждается, что «сам факт того, что приходится вставлять такие оговорки, как "в настоящее время", дает достаточно оснований для тщательного рассмотрения как возможных последствий такого развития событий, так и средств, с помощью которых им можно разумно управлять».

23 Ряд исследователей считают, что нынешняя степень развитости нейробиологических практик не позволяет манипулировать поведением человека. В этом смысле работа Stanton et al. (2016) указывает, что «большинство новых этических опасностей, которые приписываются нейромарке-тингу, нереалистичны, поскольку предполагают, что нейромаркетинг обладает полномочиями, которые он не сможет получить в ближайшем будущем». Схожей позиции придерживаются и такие авторы, как Renvoise & Morin (2007), Murphy et al. (2008).

24 Также в работе Wilson et al. (2008) отмечается, что «когда потребитель покупает продукт на основании решения, при котором маркетинговые стимулы, не связанные с характеристиками продукта, заставляют аффективные нейронные системы преобладать над когнитивными процессами, конечный результат покупки не всегда отвечает интересам потребителя».

Хотя о манипуляции писали многие авторы, до сих пор не существует единогласно принятого определения этого феномена25. Среди имеющихся точек зрения особенно интересна для нашего анализа теория манипуляции как «скрытого влияния»: практика может считаться манипулятивной, если она влияет на потребителей намеренно и скрытно, таким образом, что они не осознают или не могут легко осознать, что повлияло на процесс принятия решения» (Süsser et al., 2019). Другими словами, различие между чисто убеждающей практикой и манипулятивной заключается в том, что последняя формирует мотивацию потребителей таким образом, что снижает их способность рационально управлять своими собственными мотивами, побуждая их создавать эмоциональные ассоциации между своим жизненным опытом и продуктом. В этом случае желание, возникающее в сознании потребителя, проистекает не из реальной потребности, а из стимула, который влияет на его независимость, поскольку «агент действует независимо, если его действия вызваны мотивом, приобретенным посредством соответствующего использования его способности рационально управлять своими собственными мотивами. В противном случае он действует менее независимо» (Cave, 2014)26.

При всем этом нейромаркетинг может быть средством нарушения определенных фундаментальных человеческих ценностей, таких как индивидуальная автономия (Ulman et al., 2015; Stanton et al., 2016; Ariely & Berns, 2010; Murphy et al., 2008; Marcus, 2002), которую Р. Гиллон определяет как «способность думать, принимать решения и действовать на основе этих мыслей и решений свободно и независимо» (Gillon, 1985). Именно потому, что нейромаркетинг побуждает потребителя к покупке, стимулируя его эмоции, а не предоставляя ему точную информацию о продукте, он может нарушить способность человека определять и реализовывать свои предпочтения (Fisher et al., 2010)27. Другими словами, страдает самостоятельность потребителя в принятии решений, поскольку его принуждают к предпочтениям и решениям без полного понимания, осознания и согласия28.

Риск причинения вреда увеличивается в тех случаях, когда используются слабые места отдельных групп людей, считающихся особенно уязвимыми. Так, в ряде исследований было показано, что нейромаркетинг может подтолкнуть подростков к началу курения, а люди с компульсивными расстройствами, связанными с покупками, особенно чувствительны к сообщениям, побуждающим их совершать

25 В работе Noggle выделены три возможных подхода к определению понятия манипуляции. См. Noggle, R. (2017). The ethics of manipulation, https://clck.ru/37rwke. Теории манипуляции см. в работах (Barnhill, 2014; Wilkinson, 2012;Susser et al., 2019;Klenk, 2021; Wood, 2016).

26 В работе Garvey (2016) еще более категорично указывается, что «любой метод убеждения, который заставляет нас действовать, не предоставляя нам веских причин, уменьшает силу воздействия разумных доводов». См. также (Grant, 2011;Lewis, 2013).

27 В работе Wilson et al. (2008) отмечено в этой связи, что «в той мере, в какой эти стимулы не связаны с характеристиками продукта, результатом является попытка манипулировать решением потребителя о покупке». Авторы утверждают, что «нейротехнологии позволяют маркетологам совершенствовать методы убеждения, используя неинформативный или дезинформативный контент, с возможностью вызывать у потребителей крайне позитивные аффективные реакции». Ср. также (Haggard, 2011).

28 (Dierichsweiler, 2014), в которой цитируется работа (Wilson et al., 2008). Интересная точка зрения высказана в работе (Sunstein, 2015), согласно которой, если человек хочет подвергнуться манипуляции, его желание следует уважать.

покупки в Интернете (Henriksen et al., 2010). Подростки также особенно чувствительны и поддаются манипулированию: неравномерное развитие систем мозга, участвующих в когнитивном контроле, и чрезмерная реактивность так называемой системы вознаграждения - это факторы, связанные с эмоциональной гиперчувствительностью к стимулам вознаграждения, лицам и социально-эмоциональным стимулам (Steinberg, 2017; van Hoorn et al., 2016; Casey et al., 2008; Galvan et al., 2006; Hare et al., 2008; Gogtay et al., 2004; Shaw et al., 2008). Это может привести к развитию нездоровых привычек, сохраняющихся даже во взрослой жизни (Bault & Rusconi, 2020).

Специалисты по нейроэтике, по сути, обеспокоены не столько возможностью использования нейромаркетинга для воздействия на особо чувствительных людей, сколько его способностью создавать новые формы уязвимости. Поэтому представляется предпочтительным следующее подтвержденное фактами определение уязвимости потребителей: она «ситуативна, т. е. потребитель может быть более уязвим в одной ситуации, чем в другой, и некоторые потребители могут быть более уязвимы, чем другие»29.

3. Защита потребителя от необоснованных влияний современных технологий на его экономическое поведение и свободу выбора

Следует решить еще ряд вопросов нейроэтики, чтобы нейромаркетинг не стал инструментом, с помощью которого компании смогут обойти независимость потребителей во всех ее различных смыслах и использовать слабости и уязвимости конкретных групп субъектов в коммерческих целях.

Решение этих вопросов затруднено, прежде всего, оттого, что стремительное развитие новых технологий не позволяет раз и навсегда определить эти фундаментальные ценности. Пока что для решения этой проблемы некоторые специалисты по биоэтике предлагают создать новые нейроправа, «специально разработанные с учетом особенностей информации о мозге и новых возможностей, открывающихся благодаря технологиям изучения мышления» (lenca & Andorno, 2017), например, право на «психологическую конфиденциальность». Таким образом, стремление защитить «каждый бит информации или набор информации о мозге человека, записанный нейроустройством и распространяемый в цифровой экосистеме», отражает попытку адекватно отразить новые технологии в законе (lenca & Andorno, 2017)30.

29 Consumer vulnerability across key markets in the European Union - документ, который дает определение уязвимости и выделяет пять ее условий. European Commission. (2016). European Commission, Consumers, Health, Agriculture and Food Executive Agency, Consumer vulnerability across key markets in the European Union - Executive summary. Publications Office. https://clck.ru/37rtX3 См. также (Fineman, 2008), где говорится об уязвимости как онтологическом состоянии человека.

30 Среди других предлагаемых прав - право на «психологическую цельность», которое направлено на сохранение личной идентичности и цельности психической жизни от внешних изменений со стороны третьих лиц; право на «психическую целостность», которое, будучи уже гарантированным ст. 3 Хартии ЕС по правам человека, должно быть расширено для защиты от незаконных и вредных манипуляций, осуществляемых с помощью нейротехнологий;и, наконец, право на «когнитивную свободу», которое направлено на защиту свободы принимать независимые решения.

Предложения о создании новых «нейроправ» основаны на все более распространенном убеждении, что существующая нормативная база недостаточна для адекватного охвата систем искусственного интеллекта, используемых в нейромаркетинге для воздействия на человеческие эмоции и когнитивные процессы.

Нейромаркетинг, несомненно, подпадает под широкое определение коммерческой практики, данное в Директиве 2005/29/ЕС31. В ст. 5 этого документа дается определение «недобросовестности»32, согласно которому практика считается недобросовестной и, следовательно, запрещенной, если она противоречит правилам профессиональной добросовестности, и прежде всего, если она существенно искажает или может существенно исказить экономическое поведение в отношении продукта со стороны усредненного потребителя, к которому она обращена, или усредненного члена группы, когда коммерческая практика направлена на определенную группу потребителей.

Наряду с общим запретом на недобросовестную коммерческую практику существуют две макрокатегории, а именно вводящая в заблуждение коммерческая практика33 и агрессивная коммерческая практика34, а также «черный список» практик, которые считаются недобросовестными в любом случае без возможности представить доказательства обратного.

Из этих положений ясно, что их целью является защита свободы потребителя от необоснованных влияний. В настоящее время принято считать, что положение Директивы о коммерческих практиках, способных «исказить» экономическое поведение человека, следует понимать в широком смысле, т. е. включая любую форму заметного изменения восприятия при принятии коммерческого решения.

Нейромаркетинг, используя когнитивные заблуждения потребителей, побуждающие их к определенному покупательскому поведению, вполне подпадает под определение тех влияний, которые скрытно изменяют восприятие и понимание потребителя. Хотя психологическое воздействие, препятствующее свободе потребителя в принятии решений, прямо не упоминается, агрессивная коммерческая практика также включает в себя поведение, которое путем «неправомерного влияния»35 существенно ограничивает свободу выбора или экономическое поведение потребителя, побуждая его принять решение, которое в противном случае он бы не принял.

Кроме того, намерение европейского законодателя четко ограничено объявлением незаконными только тех видов практики, которые существенно препятствуют

31 Директива 2005/29/ЕС Европейского парламента и Совета от 11 мая 2005 г. о недобросовестных коммерческих практиках в отношениях между предприятиями и потребителями на внутреннем рынке. Коммерческая практика - это «любое действие, бездействие, образ действий или представление, коммерческая коммуникация, включая рекламу и маркетинг, со стороны торговца, непосредственно связанное с продвижением, продажей или поставкой продукта потребителям».

32 Статья 2 Директивы 2005/29/ЕС. Отмечается, что это законодательство имеет структуру «пересекающихся кругов». См. об этом (Fusi & Testa, 2006;Duivenvoorde, 2015).

33 Статьи 6и7о вводящем в заблуждение бездействии.

34 Статья 8 Директивы о недобросовестных коммерческих практиках.

35 Согласно статье 2(j) Директивы 2005/29/ЕС, оно определяется как использование «главенствующего положения по отношению к потребителю с целью оказания давления, даже без применения или угрозы применения физической силы, таким способом, который существенно ограничивает способность потребителя принять осознанное решение». Ср. (Strycharz & Duivenvoorde, 2021).

самоопределению36, вследствие чего те формы психоэмоционального давления, которые не способны повлиять на свободу экономического выбора потребителя, исключаются из этого запрета.

Однако именно потому, что особенность нейромаркетинга заключается в использовании эмоциональных факторов для бессознательного управления процессами принятия решений экономическими агентами, потребителю нелегко, во-первых, отличить законную практику от той, которая превысила установленный законом предел «неправомерного влияния»37.

Кроме того, с точки зрения интерпретации права, когда в определении неправомерного влияния говорится о практике, которая «значительно» ограничивает способность потребителя принять осознанное решение, не совсем понятно, каков предел, за которым можно говорить о достижении этого уровня, особенно когда речь идет о сложных инструментах ЭИИ38.

Однако особое значение в этой области придается также инструментам «мягкого права», в частности этическим кодексам. Среди них «Этический кодекс применения нейробиологии в бизнесе», разработанный в 2013 г. Всемирной торговой ассоциацией Neuromarketing Science and Business Association. Он содержит ряд общих принципов, которые должна соблюдать каждая компания, проводящая исследования потребителей с использованием методов нейромаркетинга39.

Несомненно, этические кодексы являются полезными инструментами саморегулирования, цель которых - сделать компании ответственными за соблюдение определенных этических принципов; однако некоторые авторы критикуют их за бесполезность подвум причинам.

С одной стороны, этические кодексы малоэффективны, поскольку основаны на принципе добровольного присоединения и, следовательно, не имеют обязательной силы40. С другой стороны, компании, ставящие своей целью монетизацию приложений ИИ, руководствуются скорее экономическими, чем этическими соображениями (McNamara et al., 2018), поскольку «в бизнес-контекстах во многих случаях скорость -это все», а значит, «практика разработки, внедрения и использования приложений ИИ очень часто имеет мало общего с ценностями и принципами, постулируемыми этикой» (Hagendorff, 2020).

Осознавая эти трудности, Европейский союз принял Акт об ИИ для обеспечения «мирового лидерства в разработке безопасного, надежного и этичного искусственного интеллекта»41.

Практики нейромаркетинга, основанные на системах искусственного интеллекта, подпадают под широкое определение понятия «системы искусственного

36 Ср. Recital 6 of directive 2005/29/ЕС. For a comment (Abbamonte, 2007).

37 Следует отметить, что в работе Seminara (2020) было выдвинуто предположение, что предел, за которым реклама может быть признана агрессивной, можно определить по так называемому психологическому шоку.

38 Ср. также (Strycharz & Duivenvoorde, 2021).

39 NMSBA. Code of Ethics. https://clck.ru/37rwiB. См. также Probst, L., Frideres, L., Demetri, D., & Vomhof, B. (2014). Customer Experience. Neuro-marketing innovations. PwC Luxembourg. https://clck.ru/37rzBE.

40 Критику эффективности этических кодексов см. (Sacconi, 1991; Trevino & Nelson, 2006; Rossi, 2006,2005).

41 EU Artificial intelligence Act. https://clck.ru/38x5h6

интеллекта», предложенное в Проекте регулирования ИИ. Это любое «программное обеспечение, разработанное с использованием одного или нескольких методов и подходов, перечисленных в Приложении I, и способное для заданного набора целей, определяемых человеком, генерировать такие результаты, как контент, прогнозы, рекомендации или решения, влияющие на среду, с которой оно взаимодействует»42.

Как известно, Проект регулирования ИИ использует «подход, основанный на оценке риска», имея в виду риск, создаваемый системами ИИ в отношении основных прав и свобод. Таким образом, выделяются практики, которые создают «неприемлемый риск» и поэтому запрещены43; «системы ИИ с высоким риском», которые разрешены, но только при определенных условиях44; и, наконец, приложения с «низкой или минимальной степенью риска», условия применения которых состоят в основном в требовании прозрачности45.

Статья 5(1) Проекта запрещает воздействия двух типов, которые считаются мани-пулятивными. Это системы ИИ, которые используют сублиминальные методы - методы «вне сознания человека с целью существенного искажения поведения, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «а»), а также «использующие какую-либо уязвимость определенной группы лиц в силу их возраста, физических или психических недостатков с целью существенного искажения поведения лица, относящегося к этой группе, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «б»)46. Таким образом, это правило, по-видимому, относится исключительно к тем системам ИИ, которые, манипулируя поведением соответствующих лиц, причиняют (или могут причинить) физический или психологический вред. Это означает, что, если практика ИИ является манипулятивной, но не способна причинить физический или психологический вред, она сама по себе не будет считаться системой повышенного риска по смыслу раздела 5 Проекта регулирования ИИ47.

Как уже отмечалось, не о каждой практике нейромаркетинга можно сказать, что она является манипулятивной, поскольку в противном случае вся эта область была бы незаконной. Тогда отражены ли эти системы в Проекте регулирования ИИ?

Еще одна категория «высокорисковых» ИИ регулируется разделом III Проекта регулирования ИИ. К этим системам предъявляются строгие обязательные требования, которые поставщики должны соблюдать уже на этапе проектирования48.

42 Art. 3, para. 1 (European Commission, 2021). Критику чрезмерной обобщенности определения систем ИИ см. (Ebers et al., 2021).

43 Статья 5 Проекта регулирования ИИ.

44 Статья 6 Проекта регулирования ИИ и Приложение III.

45 Статья 52 Проекта регулирования ИИ. Анализ Проекта см. (Stuurman & Lachaud, 2022; Veale & Zuiderveen Borgesius, 2021;Ebers et al., 2021;Smuha et al., 2021;Sovrano et al., 2022; Ebers et al., 2021; Ebers, 2021;Hupont et al., 2022a).

46 Статья 5(1)(c) и (d) соответственно запрещает государственным органам использовать системы социальных баллов и системы биометрической идентификации, расположенные в общественных местах, в правоохранительных целях.

47 STOA. (2022). Regulatory divergences in the draft AI Act: Differences in public and private sector obligations. https://clck.ru/37ryK3

48 Обязательства, налагаемые на системы ИИ с высокой степенью риска, должны проходить проверку соответствия как до, так и после их выпуска на рынок (Mökander et al., 2022;Hupont et al, 2022b; Hof, 2022;Ali&Yu, 2021; Cooman, 2022).

Фактически поставщик обязан внедрить и задокументировать систему управления рисками для выявления и анализа возможных рисков, возникающих при использовании системы ИИ, и принять соответствующие меры для надлежащего управления ими49, а также гарантировать качественный уровень управления базами данных50. Кроме того, поставщик должен разработать и поддерживать в рабочем состоянии подробную, полную и актуальную техническую документацию и обеспечить проверяемость и отслеживаемость процессов, используемых системами искусственного интеллекта, предоставив инструменты как для целей регистрации, так и для адекватного человеческого контроля за их работой51. Другими словами, они должны быть спроектированы и разработаны таким образом, чтобы обеспечить высокий уровень точности, надежности и кибербезопасности, а также прозрачности за счет предоставления четких, кратких и понятных инструкций по использованию52.

Однако методы нейромаркетинга, как представляется, не подпадают даже под действие ст. 6(1) Проекта и тем более не входят в число систем, перечисленных в Приложении III (на которое ссылается ст. 6(2)), где в п. 1 говорится лишь о системах, используемых для биометрической идентификации и категоризации физических лиц. Но, поскольку целью нейромаркетинга не является идентификация физического лица ни в режиме реального времени, ни апостериори, такая практика не может быть включена в число систем ИИ с высоким уровнем риска53.

В числе «низкорисковых» систем ИИ ст. 52(2) Проекта регулирования ИИ упоминает системы распознавания эмоций и биометрической категоризации54. Однако, поскольку они считаются системами с низкой степенью риска, на их внедрение и применение распространяются лишь требования прозрачности, которые, однако, не представляются достаточными в отношении опасности этих практик. Между тем «эти системы основаны на весьма сомнительных доказательствах, но генерируют потенциально крайне вредные результаты (в виде решений или поведенческих актов)», что приводит к «ограничениям, отчуждению и неуважению к людям из групп, которые не вписываются в установленные категории»55.

49 Статья 9 Проекта регулирования ИИ.

50 Статья 10 Проекта регулирования ИИ.

51 Статья 11-14 Проекта регулирования ИИ.

52 Статья 13(1) гласит: «Системы искусственного интеллекта с высокой степенью риска должны быть спроектированы и разработаны таким образом, чтобы обеспечить достаточную прозрачность их функционирования, чтобы пользователи имели возможность интерпретировать результаты работы системы и использовать их надлежащим образом».

53 Hildebrandt, M. (2021). Commentary on the Proposal for an EU Al Act of 21 April 2021.

54 Статья 52 Проекта регулирования ИИ.

55 В работе Hildebrandt M. (2021). A brief commentary by Mireille Hildebrandt комментируется: «То, что в настоящее время системы распознавания эмоций и биометрической категоризации не всегда относятся к категории высокого риска, хотя в зависимости от вида их использования или контекста они могут быть отнесены к категории высокого риска или даже запрещены, запутывает и неоправданно усложняет ситуацию». Делается вывод, что «их следует если не запретить, то хотя бы включить вп.1 Приложения III».

Заключение

В итоге следует отметить, что развитие технологий, способных распознавать человеческие эмоции и использовать их для управления поведением потребителей, требует наличия соответствующего законодательства для обеспечения надежной системы поддержки базовых ценностей. Хотя существующая нормативная база, включая, прежде всего, Директиву о недобросовестных коммерческих практиках, несомненно, обеспечивает эффективную защиту потребителя, тем не менее существует несколько проблемных точек, которые требуют более пристального внимания со стороны законодателя ЕС и обусловлены влиянием систем искусственного интеллекта на традиционные правовые категории. В этом смысле Проект регулирования ИИ может стать еще одним инструментом для создания безопасной, надежной и заслуживающей доверия системы, поскольку «на этом фоне призыв к прозрачности основывается на необходимости заглянуть внутрь технологии ИИ, чтобы попытаться полностью понять ее логику и регулировать ее действия» (АН & Yu, 2021). Однако в своей нынешней формулировке Проект не относит к системам повышенного риска те приложения ИИ, которые основаны на сборе, обработке и использовании когнитивной и эмоциональной информации.

Прямое включение в Проект таких приложений позволило бы избежать риска неоднозначного толкования и послужить эффективному созданию «экосистемы доверия, предложив правовые рамки для надежного ИИ», где «люди могут быть уверены, что технологии используются безопасным образом и в соответствии с законом, включая соблюдение основных прав»56.

Список литературы

Abbamonte, G. В. (2007). The Unfair Commercial Practices Directive and its General Prohibition. In S. Weatherill & U. Bernitz (Eds.), The Regulation of Unfair Commercial Practices under EC Directive 2005/29: New Rules and New Techniques (pp. 11-32). https://doi.org/10.5040/9781472560001.ch-002 Alexander, V., Tripp, S., & Zak, P. J. (2015). Preliminary evidence for the neurophysiology effects of online coupons: Changes in oxytocin, stress, and mood. Psychology & Marketing, 32(9), 977-986. https://doi.org/10.1002/mar.20831 All, G. S., & Yu, R. (2021). Artificial intelligence between transparency and secrecy: from the EC whitepaper

to the AIA and beyond. European Journal of Law and Technology, 12(3). Alpa, G., & Catricala, A. (Eds.) (2016). Diritto dei consumatori. II Mulino. (In Ital.).

Ariely, D., & Berns, G. S. (2010). Neuromarketing: the hope and hype of neuroimaging in business. Nature Reviews

Neuroscience, 11(4), 284-292. https://doi.org/10.1038/nrn2795 Barnett, S., & Cerf, M. (2015). Connecting on Movie Night? Neural Measures of Engagement Differ By Gender.

Advances in Consumer Research, 43, 314-318. Barnhill, A. (2014). What Is Manipulation? In C. Coons & M. Weber (Eds.), Manipulation: Theory and Practice

(pp. 51-72). Oxford University Press. https://doi.Org/10.1093/acprof:oso/9780199338207.003.0003 Bault, N., & Rusconi, E. (2020). The Art of Influencing Consumer Choices: A Reflection on Recent Advances

in Decision Neuroscience. Frontiers in Psychology, 10. https://doi.org/10.3389/fpsyg.2019.03009 Bauman, Z. (2010). Consumo, dunque sono. Roma-Bari: Laterza. (In Ital.).

Bechara, A., & Damasio, A. R. (2005). The somatic marker hypothesis: A neural theory of economic decision.

Games and Economic Behavior, 52(2), 336-372. https://doi.Org/10.1016/j.geb.2004.06.010 Bellman, S., Nenycz-Thiel, M., Kennedy, R., Larguinat, L., McColl, В., & Varan, D. (2016). What Makes a Television Commercial Sell? Using Biometrics to Identify Successful Ads. Journal of Advertising Research, 57(1), 53-66. https://doi.org/10.2501/jar-2016-051

56 European Commission, 2021. https://clck.ru/37rtX3

Bercea, M. D. (2012). Anatomy of methodologies for measuring consumer behavior in neuromarketing research. In Proceedings of the Lupcon Center for Business Research (LCBR) European Marketing Conference. Ebermannstadt, Germany.

Camerer, C., Loewenstein, G., & Prelec, D. (2005). Neuroeconomics: How Neuroscience Can Inform Economics.

Journal of Economic Literature, 43(1), 9-64. https://doi.org/10.1257/0022051053737843 Casey, B. J., Getz, S., & Galvan, A. (2008). The adolescent brain. Developmental Review, 28(1), 62-77.

https://doi.Org/10.1016/j.dr.2007.08.003 Cave, E. M. (2014). Unsavory Seduction and Manipulation. In C. Coons & M. Weber (Eds.), Manipulation: Theory and Practice (pp. 176-200). Oxford University Press. https://doi.Org/10.1093/acprof:oso/9780199338207.003.0009 Cenizo, C. (2022). Neuromarketing: concept, historical evolution and challenges. Icono 14,20(1). https://doi.

org/10.7195/ri14.v20i1.1784 Cerf, M., Greenleaf, E., Meyvis, T., & Morwitz, V. G. (2015). Using Single-Neuron Recording in Marketing: Opportunities, Challenges, and an Application to Fear Enhancement in Communications. Journal of Marketing Research, 52(4), 530-545. https://doi.org/10.1509/jmr.13.0606 Ceschi, A., Sartori, R., Rubaltelli, E., & Weller, J. (2012). Un approccio empirico per una tassonomia dei bias cognitivi. In 1992-2012: Psicologia, Scienza, Societa - Congresso Nazionale delle Sezioni dell'Associazione Italiana di Psicologia. Chieti. 20-23 Settembre. 2012 (In Ital.). Cherubino, P., Martinez-Levy, A. C., Caratu, M., Cartocci, G., Di Flumeri, G., Modica, E., Rossi, D., Mancini, M., STrettel, A. (2019). Consumer Behaviour through the Eyes of Neurophysiological Measures: State-of-the-Art and Future Trends. Computational Intelligence and Neuroscience, 1-41. https://doi.org/10.1155/2019/1976847 Clark, K. R. (2017). Dealing with the Devils: The Responsibility of Neuromarketing Practitioners in Conducting Research for Ethically Questionable Client Agendas. In A. R. Thomas, N. Pop, A. lorga, C. Ducu. (Eds.), Ethics and Neuromarketing: Implications for Market Research and Business Practice (pp. 147-156). Cham: Springer International Publishing, https://doi.org/10.1007/978-3-319-45609-6_9 Damasio, A. (1994). Descartes' Error: Emotion, Reason and the Human Brain. New York: Avon book. De Cooman, J. (2022). Humpty dumpty and high-risk Al systems: the ratione materiae dimension of the proposal for an EU artificial intelligence act. Market and Competition Law Review, 6(1), 49. https://doi.org/10.34632/ mclawreview.2022.11304

Dierichsweiler, K. L. A. (2014). Ethical Issues in Neuromarketing. In 3rd tIBA Bachelor Thesis Conference, July

3rd, 2014 (pp. 1-14). Enschede, The Netherlands. Duivenvoorde, B. B. (2015). The Consumer Benchmarks in the Unfair Commercial Practices Directive. Springer

International Publishing, https://doi.org/10.1007/978-3-319-13924-1 Durante, K. M., & Arsena, A. R. (2015). Playing the Field: The Effect of Fertility on Women's Desire for Variety.

Journal of Consumer Research, 41 (6), 1372-1391. https://doi.org/10.1086/679652 Durante, K. M., Griskevicius, V., Hill, S. E., Perilloux, C., & Li, N. P. (2011). Ovulation, Female Competition, and Product Choice: Hormonal Influences on Consumer Behavior. Journal of Consumer Research, 37(6), 921-934. https://doi.org/10.1086/656575 Ebers, M. (2021). Standardizing Al - The Case of the European Commission's Proposal for an Artificial Intelligence Act. The Cambridge Handbook of Artificial Intelligence: Global Perspectives on Law and Ethics. http://doi.org/10.2139/ssrn.3900378 Ebers, M., Hoch, V. R. S., Rosenkranz, F., Ruschemeier, H., & Steinrotter, B. (2021). The European Commission's Proposal for an Artificial Intelligence Act - A Critical Assessment by Members of the Robotics and Al Law Society (RAILS). J, 4(4), 589-603. https://doi.org/10.3390/j4040043 Ekman, P. (2004). Emotions Revealed: Recognizing Faces and Feelings to Improve Communication and Emotional

Life. NewYork: Henry Holt and Company. Ekman, P., & Friesen, W. V. (1978). Facial action coding system: a technique for the measurement of facial movement. Facial Action Coding System [dataset]. In PsycTESTS Dataset. American Psychological Association (APA). https://doi.org/10.1037/t27734-000 Fabris, G., (2003). Il nuovo consumatore: verso il postmoderno. Franco Angeli. (In Ital.). Fineman, M. A. (2008). The Vulnerable Subject: Anchoring Equality in the Human Condition. Yale Journal of Law & Feminism, 20(1).

Fisher, C. E., Chin, L., & Klitzman, R. (2010). Defining Neuromarketing: Practices and Professional Challenges.

Harvard Review of Psychiatry, 18(4), 230-237. https://doi.org/10.3109/10673229.2010.496623 Fusi, M.,& Testa P. (2006). Diritto e pubblicita. Milano: Lupetti. (In Ital.).

Galvan, A., Hare, T. A., Parra, C. E., Penn, J., Voss, H., Glover, G., & Casey, B. J. (2006). Earlier Development of the Accumbens Relative to Orbitofrontal Cortex Might Underlie Risk-Taking Behavior in Adolescents. Journal of Neuroscience, 26(25), 6885-6892. https://doi.org/10.1523/jneurosci.1062-06.2006

Garvey, J. (2016). The Persuaders: The Hidden Industry That Wants to Change Your Mind. London: Icon Books, Limited.

Gillon, R. (1985). Autonomy and the principle of respect for autonomy. BMJ, 290(6484), 1806-1808.

https://doi.org/10.1136/bmj.290.6484.1806 Gogtay, N., Giedd, J. N., Lusk, L., Hayashi, K. M., Greenstein, D., Vaituzis, A. C., Nugent, T. F., Herman, D. H., Clasen, L. S., Toga, A. W., Rapoport, J. L., & Thompson, P. M. (2004). Dynamic mapping of human cortical development during childhood through early adulthood. Proceedings of the National Academy of Sciences, 707(21), 8174-8179. https://doi.org/10.1073/pnas.0402680101 Grant, R. W. (2011). Strings Attached: Untangling the Ethics of Incentives. Princeton: Princeton University Press.

https://doi.org/10.23943/princeton/9780691151601.001.0001 Hagendorff, T. (2020). The Ethics of Al Ethics: An Evaluation of Guidelines. Minds and Machines, 30(1), 99-120.

https://doi.org/10.1007/s11023-020-09517-8 Haggard, P. (2011). Neuroethics of Free Will. In J. Illes &B. J. Sahakian (Eds.), Oxford Handbook of Neuroethics

(p. 219). Oxford University Press, https://doi.org/10.1093/oxfordhb/9780199570706.013.0058 Hare, T. A., O'Doherty, J., Camerer, C. F., Schultz, W., & Rangel, A. (2008). Dissociating the Role of the Orbitofrontal Cortex and the Striatum in the Computation of Goal Values and Prediction Errors. The Journal of Neuroscience, 28(22), 5623-5630. https://doi.org/10.1523/jneurosci.1309-08.2008 Hedgcock, W. M., Vohs, K. D., & Rao, A. R. (2012). Reducing self-control depletion effects through enhanced sensitivity to implementation: Evidence from fMRI and behavioral studies. Journal of Consumer Psychology, 22(4), 486-495. Portico. https://doi.Org/10.1016/j.jcps.2012.05.008 Henriksen, L., Schleicher, N. C., Feighery, E. C., & Fortmann, S. P. (2010). A Longitudinal Study of Exposure to Retail Cigarette Advertising and Smoking Initiation. Pediatrics, 726(2), 232-238. https://doi.org/10.1542/ peds.2009-3021

Hof, M. J. (2022). Human-AI teaming for Conformity Assessment of Welded Joints: A Human Factors Perspective. University of Twente.

Hupont, I., Micheli, M., Delipetrev, B., Gomez, E., & Garrido, J. S. (2022a). Documenting High-Risk Al: A European

Regulatory Perspective. TechRxiv. https://doi.org/10.36227/techrxiv.20291046 Hupont, I., Tolan, S., Gunes, H., & Gomez, E. (2022b). The landscape of facial processing applications in the context of the European Al Act and the development of trustworthy systems. Scientific Reports, 72(1). https://doi.org/10.1038/s41598-022-14981-6 lenca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology.

Life Sciences, Society and Policy, 73(1). https://doi.org/10.1186/s40504-017-0050-1 Kahneman, D. (2011). Thinking, Fast and Slow. N. Y.: Farrar, Straus and Giroux. https://doi.org/10.1007/s00362-013-0533-y

Karremans, J. C., Stroebe, W., & Claus, J. (2006). Beyond Vicary's fantasies: The impact of subliminal priming and brand choice. Journal of Experimental Social Psychology, 42(6), 792-798. https://doi.org/10.1016/j. jesp.2005.12.002

Klenk, M. (2021). (Online) manipulation: sometimes hidden, always careless. Review of Social Economy, 80(1),

85-105. https://doi.org/10.1080/00346764.2021.1894350 Lee, N., Broderick, A. J., & Chamberlain, L. (2007). What is 'neuromarketing'? A discussion and agenda for future research. International Journal of Psychophysiology, 63(2), 199-204. https://doi.Org/10.1016/j. ijpsycho.2006.03.007

Lee, N., Chamberlain, L., & Brandes, L. (2018). Welcome to the jungle! The neuromarketing literature through the eyes of a newcomer. European Journal of Marketing, 52(1/2), 4-38. https://doi.org/10.1108/ejm-02-2017-0122

Lewis, D. (2013). The Brain Sell: When Science Meets Shopping; How the new mind sciences and the persuasion industry are reading our thoughts, influencing our emotions, and stimulating us to shop. London: Nicholas Brealey Publishing.

Lim, W. M. (2018). Demystifying neuromarketing. Journal of Business Research, 97, 205-220. https://doi.

org/10.1016/j.jbusres.2018.05.036 Lungu, N. (2016). The Limits and the Ethics of Consumer Profiling. In A. R. Thomas, N. Pop, A. lorga & C. Ducu. (Eds.), Ethics and Neuromarketing: Implications for Market Research and Business Practice (pp. 157-169). Cham: Springer International Publishing, https://doi.org/10.1007/978-3-319-45609-6_10 Marcus, S. J. (Ed.). (2002). Neuroethics: Mapping the Field: Conference Proceedings, May 73-74, 2002, San Francisco, California. N. Y.: Dana Press.

McNamara, A., Smith, J., & Murphy-Hill, E. (2018). Does ACM's code of ethics change ethical decision making in software development? In Proceedings of the 2018 26th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering (pp. 729-733). https://doi.org/10.1145/3236024.3264833 McStay, A. (2018). Emotional AI: The Rise of Empathie Media. SAGE Publications Ltd. https://doi.

org/10.4135/9781526451293 Mesly, 0. (2016). Prey positions as consumers' behavioural patterns: Exploratory evidence from an fMRI study.

Journal of Consumer Behaviour, 16(1), 51-62. https://doi.org/10.1002/cb.1602 Mokander, J., Axente, M., Casolari, F., & Floridi, L. (2022). Conformity Assessments and Post-market Monitoring: A Guide to the Role of Auditing in the Proposed European AI Regulation. Minds and Machines, 32(2), 241-268. https://doi.org/10.1007/s11023-021-09577-4 Morin, C. (2011). Neuromarketing: The New Science of Consumer Behavior. Society, 48(2), 131-135.

https://doi.org/10.1007/s12115-010-9408-1 Murphy, E. R., Illes, J., & Reiner, P. B. (2008). Neuroethics of neuromarketing. Journal of Consumer Behaviour,

7(4-5), 293-302. https://doi.org/10.1002/cb.252 Noggle, R. (2017). Manipulation, salience, and nudges. Bioethics, 32(3), 164-170. https://doi.org/10.1111/ bioe.12421

Peeler, C. L. (1996). Cigarette testing and the Federal trade commission: a historical overview. The FTC test method for determining tar, nicotine, and carbon monoxide yields of US cigarettes: report of the NCI Expert Committee.

Ramirez, M., Kaheh, S., & George, K. (2021). Neuromarketing Study Using Machine Learning for Predicting Purchase Decision. In 2021 IEEE 12th Annual Ubiquitous Computing, Electronics & Mobile Communication Conference (UEMCON) (pp. 0560-0564). https://doi.org/10.1109/uemcon53757.2021.9666539 Renvoise, P. & Morin, C. (2007). Neuromarketing: Understanding the Buy Buttons in Your Customer's Brain. HarperCollins Leadership.

Rossi, G. (2005). Conuito morale per gli etici, economici, politici, di don Pio Rossi. Portata prima, seconda. (In Ital.). Rossi, G. (2006). Il gioco delle regole (Saggi Nuova serie, 2 Ed.). Adelphi. (In Ital.).

Royo-Vela, M., & Varga, Â. (2022). Unveiling Neuromarketing and Its Research Methodology. Encyclopedia, 2(2),

729-751. https://doi.org/10.3390/encyclopedia2020051 Saad, G., & Stenstrom, E. (2012). Calories, beauty, and ovulation: The effects of the menstrual cycle on food and appearance-related consumption. Journal of Consumer Psychology, 22(1), 102-113. https://doi. org/10.1016/j.jcps.2011.10.001 Sacconi, L. (1991). Etica degli affari: individui, imprese e mercati nella prospettiva di un'etica razionale. Milano: Saggiatore. (In Ital.).

Seminara, A. P. (2020). Liberté del consumatore e psicologia délia pubblicità. Contratto e impresa, 1(1), 493-526. (In Ital.).

Shaw, P., Kabani, N. J., Lerch, J. P., Eckstrand, K., Lenroot, R., Gogtay, N., Greenstein, D., Clasen, L., Evans, A., Rapoport, J. L., Giedd, J. N., & Wise, S. P. (2008). Neurodevelopmental Trajectories of the Human Cerebral Cortex. The Journal of Neuroscience, 28(14), 3586-3594. https://doi.org/10.1523/jneurosci.5309-07.2008 Shiv, B., & Fedorikhin, A. (1999). Heart and Mindin Conflict: the Interplay of Affect and Cognition in Consumer

Decision Making. Journal of Consumer Research, 26(3), 278-292. https://doi.org/10.1086/209563 Shiv, B., Bechara, A., Levin, I., Alba, J. W., Bettman, J. R., Dube, L., Isen, A., Mellers, B., Smidts, A., Grant, S. J., & Mcgraw, A. P. (2005). Decision Neuroscience. Marketing Letters, 16(3-4), 375-386. https://doi.org/10.1007/ S11002-005-5899-8

Smidts, A. (2002). Kijken in het brein: Over de mogelijkheden van neuromarketing. Rotterdam: Erasmus University Rotterdam. (In Dutch).

Smuha, N. A., Ahmed-Rengers, E., Harkens, A., Li, W., MacLaren, J., Piselli, R., & Yeung, K. (2021). How the EU Can Achieve Legally Trustworthy Al: A Response to the European Commission's Proposal for an Artificial Intelligence Act. SSRN Electronic Journal, https://doi.org/10.2139/ssrn.3899991 Sovrano, F., Sapienza, S., Palmirani, M., & Vitali, F. (2022). Metrics, Explainability and the European AI Act Proposal.

J, 5(1), 126-138. https://doi.org/10.3390/j5010010 Stanton, S. J., Sinnott-Armstrong, W., & Huettel, S. A. (2016). Neuromarketing: Ethical Implications of its Use and Potential Misuse. Journal of Business Ethics, 144(4), 799-811. https://doi.org/10.1007/s10551-016-3059-0 Steinberg, L. (2017). A social neuroscience perspective on adolescent risk-taking. In Biosocial Theories of Crime (pp. 435-463). Routledge https://doi.org/10.4324/9781315096278-19

Strycharz, J., & Duivenvoorde, B. (2021). The exploitation of vulnerability through personalised marketing communication: are consumers protected? Internet Policy Review, 70(4). https://doi.org/10.14763/2021.4.1585 Stuurman, K., & Lachaud, E. (2022). Regulating Al. A label to complete the proposed Act on Artificial Intelligence.

Computer Law & Security Review, 44,105657. https://doi.Org/10.1016/j.clsr.2022.105657 Sunstein, C. R. (2015). Fifty Shades of Manipulation. SSRN Electronic Journal. https://doi.org/10.2139/ ssrn.2565892

Susser, D., Roessler, B., & Nissenbaum, H. (2019). Technology, autonomy, and manipulation. Internet Policy

Review, 8(2). https://doi.Org/10.14763/2019.2.1410 Thaler, R. H. (2000). From Homo Economicusto Homo Sapiens. Journal of Economic Perspectives, 74(1),

133-141. https://doi.Org/10.1257/jep.14.1.133 Thomas, A. R., Pop, N. A., lorga, A. M., & Ducu, C. (Eds.). (2017). Ethics and Neuromarketing: Implications for

Market Research and Business Practice, https://doi.org/10.1007/978-3-319-45609-6 Trevino, L. K., & Nelson, K. A. (2006). Managing Business Ethics: Straight talk about how to do it right (4th ed.). Wiley & Sons.

Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 785(4157),

1124-1131. https://doi.org/10.1126/science.185.4157.1124 Ulman, Y. I., Cakar, T., & Yildiz, G. (2015). Ethical Issues in Neuromarketing: "I Consume, Therefore I am!". Science

and Engineering Ethics, 27(5), 1271-1284. https://doi.org/10.1007/s11948-014-9581-5 van Hoorn, J., Fuligni, A. J., Crone, E. A., & Galván, A. (2016). Peer influence effects on risk-taking and prosocial decision-making in adolescence: insights from neuroimaging studies. Current Opinion in Behavioral Sciences, 70, 59-64. https://doi.Org/10.1016/j.cobeha.2016.05.007 Veale, M., & Zuiderveen Borgesius, F. (2021). Demystifying the Draft EU Artificial Intelligence Act - Analysing the good, the bad, and the unclear elements of the proposed approach. Computer Law Review International, 22(4), 97-112. https://doi.org/10.9785/cri-2021-220402 Verhulst, N., De Keyser, A., Gustafsson, A., Shams, P., & Van Vaerenbergh, Y. (2019). Neuroscience in service research: an overview and discussion of its possibilities. Journal of Service Management, 30(5), 621-649. https://doi.org/10.1108/josm-05-2019-0135 Viale, R. (2019). La razionalitá limitata" embodied" alia base del cervello sociale ed economico. Sistemi intelligent/', 37(1), 193-203. (In Ital.).

Vicary, J. M. (1951). How psychiatric methods can be applied to market research. Printers' Ink, 235(6), 39-48. Watson, J. B. (1994). Psychology as the behaviorist views it. Psychological Review, 707 (2), 248-253.

https://doi.Org/10.1037/0033-295x.101.2.248 Wilkinson, T. M. (2012). Nudging and Manipulation. Political Studies, 67(2), 341-355. https://doi.org/10.1111/ j.1467-9248.2012.00974.x

Wilson, R. M., Gaines, J., & Hill, R. P. (2008). Neuromarketing and Consumer Free Will. Journal of Consumer

Affairs, 42(3), 389-410. https://doi.Org/10.1111/j.1745-6606.2008.00114.x Winkielman, P., & Berridge, K. (2003). Irrational Wanting and Subrational Liking: How Rudimentary Motivational and Affective Processes Shape Preferences and Choices. Political Psychology, 24(4), 657-680. https://doi.Org/10.1046/j.1467-9221.2003.00346.x Wood, A. (2016). Unjust Exploitation. The Southern Journal of Philosophy, 54(S1), 92-108. https://doi.org/10.1111/ sjp.12187

Zajonc, R. B. (1980). Feeling and thinking: Preferences need no inferences. American Psychologist, 35(2),

151-175. https://doi.Org/10.1037/0003-066x.35.2.151 Zajonc, R. B. (1998). Emotions. In D. T. Gilbert, S. T. Fiske, & G. Lindzey (Eds.), The handbook of social psychology (pp. 591-632). NewYork: McGraw-Hill.

Сведения об авторе

Людовика Спозини - соискатель степени PhD в области права, Институт DIRPOLIS (Институт права, политики и развития), Школа перспективных исследований Сант'Анна

Адрес: 56127, Италия, г. Пиза, ул. Доменико Вернагалли, 22R E-mail: ludovica.sposini@santannapisa.it ORCID ID: https://orcid.org/0000-0003-2188-8996

Google Scholar ID: https://scholar.google.com/citations?user=AVR7_bMAAAAJ

Конфликт интересов

Автор сообщает об отсутствии конфликта интересов.

Финансирование

Исследование не имело спонсорской поддержки.

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: ОМ / Law

Рубрика ГРНТИ: 10.07.45/ Право и научно-технический прогресс Специальность ВАК: 5.1.3 / Частно-правовые (цивилистические) науки

История статьи

Дата поступления - 24 августа 2023 г. Дата одобрения после рецензирования - 8 сентября 2023 г. Дата принятия к опубликованию -15 марта 2024 г. Дата онлайн-размещения - 20 марта 2024 г.

Research article

UDC 34:004:347.451:004.8

EDN: https://elibrary.ru/nifbkj

DOI: https://doi.org/10.21202/jdtl.2024.5

Impact of New Technologies on Economic Behavior and Consumer Freedom of Choice: from Neuromarketing to Neuro-Rights

Ludovica Sposini 0

Sant'Anna School ofAdvanced Studies, Pisa, Italy

Keywords

artificial intelligence, biotechnology, consumer protection, digital technologies, European law, freedom of choice, law,

neuro-ethics,

neuromarketing,

neuro-rights

Abstract

Objective: to identify the possibilities for an adequate response of the existing legal regime to the various challenges posed to European law by artificial intelligence systems underlying neuromarketing techniques.

Methods: the study is based on the risk-oriented approach, formal-logical, formal-legal and comparative-legal methods, as well as on the method of legal forecasting, in order to identify the problems of legislation caused by the emerging technologies capable of recognizing human emotions and using them to control consumer behavior, and to propose ways to solve them.

Results: the conducted research provides a brief overview of the most widely used neuromarketing techniques used by algorithms and machine learning. These allow identifying points of cognitive and emotional vulnerability, collecting and processing data, and then building the most effective marketing techniques that push a consumer to choose a certain product or service. Ethical problems are analyzed which arise from the use of neuromarketing techniques in relation to some basic values such as individual independence, human dignity, and freedom of choice. The subtle line is shown between techniques that manipulate consumer behavior (manipulation technique) and those that, on the contrary, have a persuasive effect, which in itself does not make them illegal (persuasion technique). An overview of the existing legal framework is presented, as well as case law from both the European Court of Justice and national courts of member states with a particular focus on the Unfair Commercial Practices Directive, the EU General Regulation on the Protection of Personal Data (hard law), and codes of ethics (soft law).

© Sposini L., 2024

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.Org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

Scientific novelty: the paper points out the transformation of traditional legal categories and important problem points of the existing regulation due to the growing recognition of the potential of neuromarketing as a tool capable of explaining and predicting consumer behavior, as well as influencing the economic behavior of the subjects of relations. Practical significance: the obtained conclusions and proposals can be taken into account in improving the regulation of artificial intelligence in terms of its safety and reliability, increasing trust in the system, given the need to protect ethical principles and maintain fundamental values.

For citation

Sposini, L. (2024). Impact of New Technologies on Economic Behavior and Consumer Freedom of Choice: from Neuromarketing to Neuro-Rights. Journal of Digital Technologies and Law, 2(1), 74-100. https://doi.org/10.21202/jdtl.2024.5

References

Abbamonte, G. B. (2007). The Unfair Commercial Practices Directive and its General Prohibition. In S. Weatherill & U. Bernitz (Eds.), The Regulation of Unfair Commercial Practices under EC Directive 2005/29: New Rules and New Techniques (pp. 11-32). https://doi.org/10.5040/9781472560001.ch-002 Alexander, V., Tripp, S., & Zak, P. J. (2015). Preliminary evidence for the neurophysiology effects of online coupons: Changes in oxytocin, stress, and mood. Psychology & Marketing, 32(9), 977-986. https://doi.org/10.1002/mar.20831 All, G. S., & Yu, R. (2021). Artificial intelligence between transparency and secrecy: from the EC whitepaper

to the AIA and beyond. European Journal of Law and Technology, 72(3). Alpa, G., & Catricala, A. (Eds.) (2016). Diritto dei consumatori. II Mulino. (In Ital.).

Ariely, D., & Berns, G. S. (2010). Neuromarketing: the hope and hype of neuroimaging in business. Nature Reviews

Neuroscience, 7 7(4), 284-292. https://doi.org/10.1038/nrn2795 Barnett, S., & Cerf, M. (2015). Connecting on Movie Night? Neural Measures of Engagement Differ By Gender.

Advances in Consumer Research, 43, 314-318. Barnhill, A. (2014). What Is Manipulation? In C. Coons & M. Weber (Eds.), Manipulation: Theory and Practice

(pp. 51-72). Oxford University Press. https://doi.Org/10.1093/acprof:oso/9780199338207.003.0003 Bault, N., & Rusconi, E. (2020). The Art of Influencing Consumer Choices: A Reflection on Recent Advances

in Decision Neuroscience. Frontiers in Psychology, 10. https://doi.org/10.3389/fpsyg.2019.03009 Bauman, Z. (2010). Consumo, dunque sono. Roma-Bari: Laterza. (In Ital.).

Bechara, A., & Damasio, A. R. (2005). The somatic marker hypothesis: A neural theory of economic decision.

Games and Economic Behavior, 52(2), 336-372. https://doi.Org/10.1016/j.geb.2004.06.010 Bellman, S., Nenycz-Thiel, M., Kennedy, R., Larguinat, L., McColl, B., & Varan, D. (2016). What Makes a Television Commercial Sell? Using Biometrics to Identify Successful Ads. Journal of Advertising Research, 57(1), 53-66. https://doi.org/10.2501/jar-2016-051 Bercea, M. D. (2012). Anatomy of methodologies for measuring consumer behavior in neuromarketing research. In Proceedings of the Lupcon Center for Business Research (LCBR) European Marketing Conference. Ebermannstadt, Germany.

Camerer, C., Loewenstein, G., & Prelec, D. (2005). Neuroeconomics: How Neuroscience Can Inform Economics.

Journal of Economic Literature, 43(1), 9-64. https://doi.org/10.1257/0022051053737843 Casey, B. J., Getz, S., & Galvan, A. (2008). The adolescent brain. Developmental Review, 28(1), 62-77.

https://doi.Org/10.1016/j.dr.2007.08.003 Cave, E. M. (2014). Unsavory Seduction and Manipulation. In C. Coons & M. Weber (Eds.), Manipulation: Theory and Practice (pp. 176-200). Oxford University Press. https://doi.Org/10.1093/acprof:oso/9780199338207.003.0009 Cenizo, C. (2022). Neuromarketing: concept, historical evolution and challenges. Icono 74,20(1). https://doi. org/10.7195/ri14.v20i1.1784

Cerf, M., Greenleaf, E., Meyvis, T., & Morwitz, V. G. (2015). Using Single-Neuron Recording in Marketing: Opportunities, Challenges, and an Application to Fear Enhancement in Communications. Journal of Marketing Research, 52(4), 530-545. https://doi.org/10.1509/jmr.13.0606 Ceschi, A., Sartori, R., Rubaltelli, E., & Weller, J. (2012). Un approccio empirico per una tassonomia dei bias cognitivi. In 7992-2072: Psicologia, Scienza, Societa - Congresso Nazionale delle Sezioni dell'Associazione Italiana di Psicologia. Chieti. 20-23 Settembre. 2012 (In Ital.). Cherubino, P., Martinez-Levy, A. C., Caratu, M., Cartocci, G., Di Flumeri, G., Modica, E., Rossi, D., Mancini, M., STrettel, A. (2019). Consumer Behaviour through the Eyes of Neurophysiological Measures: State-of-the-Art and Future Trends. Computational Intelligence and Neuroscience, 1-41. https://doi.org/10.1155/2019/1976847 Clark, K. R. (2017). Dealing with the Devils: The Responsibility of Neuromarketing Practitioners in Conducting Research for Ethically Questionable Client Agendas. In A. R. Thomas, N. Pop, A. lorga, C. Ducu. (Eds.), Ethics and Neuromarketing: Implications for Market Research and Business Practice (pp. 147-156). Cham: Springer International Publishing, https://doi.org/10.1007/978-3-319-45609-6_9 Damasio, A. (1994). Descartes' Error: Emotion, Reason and the Human Brain. New York: Avon book. De Cooman, J. (2022). Humpty dumpty and high-risk Al systems: the ratione materiae dimension of the proposal for an EU artificial intelligence act. Market and Competition Law Review, 6(1), 49. https://doi.org/10.34632/ mclawreview.2022.11304

Dierichsweiler, K. L. A. (2014). Ethical Issues in Neuromarketing. In 3rd tIBA Bachelor Thesis Conference, July

3rd, 2074 (pp. 1-14). Enschede, The Netherlands. Duivenvoorde, B. B. (2015). The Consumer Benchmarks in the Unfair Commercial Practices Directive. Springer

International Publishing, https://doi.org/10.1007/978-3-319-13924-1 Durante, K. M., & Arsena, A. R. (2015). Playing the Field: The Effect of Fertility on Women's Desire for Variety.

Journal of Consumer Research, 47 (6), 1372-1391. https://doi.org/10.1086/679652 Durante, K. M, Griskevicius, V., Hill, S. E, Perilloux, C., & Li, N. P. (2011). Ovulation, Female Competition, and Product Choice: Hormonal Influences on Consumer Behavior. Journal of Consumer Research, 37(6), 921-934. https://doi.org/10.1086/656575 Ebers, M. (2021). Standardizing Al - The Case of the European Commission's Proposal for an Artificial Intelligence Act. The Cambridge Handbook of Artificial Intelligence: Global Perspectives on Law and Ethics. http://doi.org/10.2139/ssrn.3900378 Ebers, M., Hoch, V. R. S., Rosenkranz, F., Ruschemeier, H., & Steinrotter, B. (2021). The European Commission's Proposal for an Artificial Intelligence Act - A Critical Assessment by Members of the Robotics and Al Law Society (RAILS). J, 4(4), 589-603. https://doi.org/10.3390/j4040043 Ekman, P. (2004). Emotions Revealed: Recognizing Faces and Feelings to Improve Communication and Emotional

Life. NewYork: Henry Holt and Company. Ekman, P., & Friesen, W. V. (1978). Facial action coding system: a technique for the measurement of facial movement. Facial Action Coding System [dataset]. In PsycTESTS Dataset. American Psychological Association (APA). https://doi.org/10.1037/t27734-000 Fabris, G., (2003). Il nuovo consumatore: verso il postmoderno. Franco Angeli. (In Ital.). Fineman, M. A. (2008). The Vulnerable Subject: Anchoring Equality in the Human Condition. Yale Journal of Law & Feminism, 20(1).

Fisher, C. E., Chin, L., & Klitzman, R. (2010). Defining Neuromarketing: Practices and Professional Challenges.

Harvard Review of Psychiatry, 78(4), 230-237. https://doi.org/10.3109/10673229.2010.496623 Fusi, M.,& Testa P. (2006). Diritto e pubblicita. Milano: Lupetti. (In Ital.).

Galvan, A., Hare, T. A., Parra, C. E., Penn, J., Voss, H., Glover, G., & Casey, B. J. (2006). Earlier Development of the Accumbens Relative to Orbitofrontal Cortex Might Underlie Risk-Taking Behavior in Adolescents. Journal of Neuroscience, 26(25), 6885-6892. https://doi.org/10.1523/jneurosci.1062-06.2006 Garvey, J. (2016). The Persuaders: The Hidden Industry That Wants to Change Your Mind. London: Icon Books, Limited.

Gillon, R. (1985). Autonomy and the principle of respect for autonomy. BMJ, 290(6484), 1806-1808.

https://doi.org/10.1136/bmj.290.6484.1806 Gogtay, N., Giedd, J. N., Lusk, L., Hayashi, K. M., Greenstein, D., Vaituzis, A. C., Nugent, T. F., Herman, D. H., Clasen, L. S., Toga, A. W., Rapoport, J. L., & Thompson, P. M. (2004). Dynamic mapping of human cortical development during childhood through early adulthood. Proceedings of the National Academy of Sciences, 707(21), 8174-8179. https://doi.org/10.1073/pnas.0402680101 Grant, R. W. (2011). Strings Attached: Untangling the Ethics of Incentives. Princeton: Princeton University Press. https://doi.org/10.23943/princeton/9780691151601.001.0001

Hagendorff, T. (2020). The Ethics of Al Ethics: An Evaluation of Guidelines. Minds and Machines, 30(1), 99-120.

https://doi.org/10.1007/s11023-020-09517-8 Haggard, P. (2011). Neuroethics of Free Will. In J. Illes &B. J. Sahakian (Eds.), Oxford Handbook of Neuroethics

(p. 219). Oxford University Press, https://doi.org/10.1093/oxfordhb/9780199570706.013.0058 Hare, T. A., O'Doherty, J., Camerer, C. F., Schultz, W., & Rangel, A. (2008). Dissociating the Role of the Orbitofrontal Cortex and the Striatum in the Computation of Goal Values and Prediction Errors. The Journal of Neuroscience, 28(22), 5623-5630. https://doi.org/10.1523/jneurosci.1309-08.2008 Hedgcock, W. M., Vohs, K. D., & Rao, A. R. (2012). Reducing self-control depletion effects through enhanced sensitivity to implementation: Evidence from fMRI and behavioral studies. Journal of Consumer Psychology, 22(4), 486-495. Portico. https://doi.Org/10.1016/j.jcps.2012.05.008 Henriksen, L., Schleicher, N. C., Feighery, E. C., & Fortmann, S. P. (2010). A Longitudinal Study of Exposure to Retail Cigarette Advertising and Smoking Initiation. Pediatrics, 726(2), 232-238. https://doi.org/10.1542/ peds.2009-3021

Hof, M. J. (2022). Human-AI teaming for Conformity Assessment of Welded Joints: A Human Factors Perspective. University of Twente.

Hupont, I., Micheli, M., Delipetrev, B., Gomez, E., & Garrido, J. S. (2022a). Documenting High-Risk Al: A European

Regulatory Perspective. TechRxiv. https://doi.org/10.36227/techrxiv.20291046 Hupont, I., Tolan, S., Gunes, H., & Gomez, E. (2022b). The landscape of facial processing applications in the context of the European Al Act and the development of trustworthy systems. Scientific Reports, 72(1). https://doi.org/10.1038/s41598-022-14981-6 lenca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology.

Life Sciences, Society and Policy, 73(1). https://doi.org/10.1186/s40504-017-0050-1 Kahneman, D. (2011). Thinking, Fast and Slow. N. Y.: Farrar, Straus and Giroux. https://doi.org/10.1007/s00362-013-0533-y

Karremans, J. C., Stroebe, W., & Claus, J. (2006). Beyond Vicary's fantasies: The impact of subliminal priming and brand choice. Journal of Experimental Social Psychology, 42(6), 792-798. https://doi.org/10.1016/j. jesp.2005.12.002

Klenk, M. (2021). (Online) manipulation: sometimes hidden, always careless. Review of Social Economy, 80(1),

85-105. https://doi.org/10.1080/00346764.2021.1894350 Lee, N., Broderick, A. J., & Chamberlain, L. (2007). What is 'neuromarketing'? A discussion and agenda for future research. International Journal of Psychophysiology, 63(2), 199-204. https://doi.Org/10.1016/j. ijpsycho.2006.03.007

Lee, N., Chamberlain, L., & Brandes, L. (2018). Welcome to the jungle! The neuromarketing literature through the eyes of a newcomer. European Journal of Marketing, 52(1/2), 4-38. https://doi.org/10.1108/ejm-02-2017-0122

Lewis, D. (2013). The Brain Sell: When Science Meets Shopping; How the new mind sciences and the persuasion industry are reading our thoughts, influencing our emotions, and stimulating us to shop. London: Nicholas Brealey Publishing.

Lim, W. M. (2018). Demystifying neuromarketing. Journal of Business Research, 97, 205-220. https://doi.

org/10.1016/j.jbusres.2018.05.036 Lungu, N. (2016). The Limits and the Ethics of Consumer Profiling. In A. R. Thomas, N. Pop, A. lorga & C. Ducu. (Eds.), Ethics and Neuromarketing: Implications for Market Research and Business Practice (pp. 157-169). Cham: Springer International Publishing, https://doi.org/10.1007/978-3-319-45609-6_10 Marcus, S. J. (Ed.). (2002). Neuroethics: Mapping the Field: Conference Proceedings, May 73-74, 2002, San

Francisco, California. N. Y.: Dana Press. McNamara, A., Smith, J., & Murphy-Hill, E. (2018). Does ACM's code of ethics change ethical decision making in software development? In Proceedings of the 2078 26th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering (pp. 729-733). https://doi.org/10.1145/3236024.3264833 McStay, A. (2018). Emotional AI: The Rise of Empathic Media. SAGE Publications Ltd. https://doi.

org/10.4135/9781526451293 Mesly, 0. (2016). Prey positions as consumers' behavioural patterns: Exploratory evidence from an fMRI study.

Journal of Consumer Behaviour, 76(1), 51-62. https://doi.org/10.1002/cb.1602 Mokander, J., Axente, M., Casolari, F., & Floridi, L. (2022). Conformity Assessments and Post-market Monitoring: A Guide to the Role of Auditing in the Proposed European Al Regulation. Minds and Machines, 32(2), 241-268. https://doi.org/10.1007/s11023-021-09577-4

Morin, C. (2011). Neuromarketing: The New Science of Consumer Behavior. Society, 48(2), 131-135.

https://doi.org/10.1007/s12115-010-9408-1 Murphy, E. R., Illes, J., & Reiner, P. B. (2008). Neuroethics of neuromarketing. Journal of Consumer Behaviour,

7(4-5), 293-302. https://doi.org/10.1002/cb.252 Noggle, R. (2017). Manipulation, salience, and nudges. Bioethics, 32(3), 164-170. https://doi.org/10.1111/ bioe.12421

Peeler, C. L. (1996). Cigarette testing and the Federal trade commission: a historical overview. The FTC test method for determining tar, nicotine, and carbon monoxide yields of US cigarettes: report of the NCI Expert Committee.

Ramirez, M., Kaheh, S., & George, K. (2021). Neuromarketing Study Using Machine Learning for Predicting Purchase Decision. In 2021 IEEE 12th Annual Ubiquitous Computing, Electronics & Mobile Communication Conference (UEMCON) (pp. 0560-0564). https://doi.org/10.1109/uemcon53757.2021.9666539 Renvoise, P. & Morin, C. (2007). Neuromarketing: Understanding the Buy Buttons in Your Customer's Brain. HarperCollins Leadership.

Rossi, G. (2005). Conuito morale per gli etici, economici, politici, di don Pio Rossi. Portata prima, seconda. (In Ital.). Rossi, G. (2006). Il gioco delle regole (Saggi Nuova serie, 2 Ed.). Adelphi. (In Ital.).

Royo-Vela, M., & Varga, Â. (2022). Unveiling Neuromarketing and Its Research Methodology. Encyclopedia, 2(2),

729-751. https://doi.org/10.3390/encyclopedia2020051 Saad, G., & Stenstrom, E. (2012). Calories, beauty, and ovulation: The effects of the menstrual cycle on food and appearance-related consumption. Journal of Consumer Psychology, 22(1), 102-113. https://doi. org/10.1016/j.jcps.2011.10.001 Sacconi, L. (1991). Etica degli affari: individui, imprese e mercati nella prospettiva di un'etica razionale. Milano: Saggiatore. (In Ital.).

Seminara, A. P. (2020). Liberté del consumatore e psicologia délia pubblicità. Contratto e impresa, 1(1), 493-526. (In Ital.).

Shaw, P., Kabani, N. J., Lerch, J. P., Eckstrand, K., Lenroot, R., Gogtay, N., Greenstein, D., Clasen, L., Evans, A., Rapoport, J. L., Giedd, J. N., & Wise, S. P. (2008). Neurodevelopmental Trajectories of the Human Cerebral Cortex. The Journal of Neuroscience, 28(14), 3586-3594. https://doi.org/10.1523/jneurosci.5309-07.2008 Shiv, B., & Fedorikhin, A. (1999). Heart and Mindin Conflict: the Interplay of Affect and Cognition in Consumer

Decision Making. Journal of Consumer Research, 26(3), 278-292. https://doi.org/10.1086/209563 Shiv, B., Bechara, A., Levin, I., Alba, J. W., Bettman, J. R., Dube, L., Isen, A., Mellers, B., Smidts, A., Grant, S. J., & Mcgraw, A. P. (2005). Decision Neuroscience. Marketing Letters, 16(3-4), 375-386. https://doi.org/10.1007/ S11002-005-5899-8

Smidts, A. (2002). Kijken in het brein: Over de mogelijkheden van neuromarketing. Rotterdam: Erasmus University Rotterdam. (In Dutch).

Smuha, N. A., Ahmed-Rengers, E., Harkens, A., Li, W., MacLaren, J., Piselli, R., & Yeung, K. (2021). How the EU Can Achieve Legally Trustworthy Al: A Response to the European Commission's Proposal for an Artificial Intelligence Act. SSRN Electronic Journal, https://doi.org/10.2139/ssrn.3899991 Sovrano, F., Sapienza, S., Palmirani, M., & Vitali, F. (2022). Metrics, Explainability and the European AI Act Proposal.

J, 5(1), 126-138. https://doi.org/10.3390/j5010010 Stanton, S. J., Sinnott-Armstrong, W., & Huettel, S. A. (2016). Neuromarketing: Ethical Implications of its Use and Potential Misuse. Journal of Business Ethics, 144(A), 799-811. https://doi.org/10.1007/s10551-016-3059-0 Steinberg, L. (2017). A social neuroscience perspective on adolescent risk-taking. In Biosocial Theories of Crime

(pp. 435-463). Routledge https://doi.org/10.4324/9781315096278-19 Strycharz, J., & Duivenvoorde, B. (2021). The exploitation of vulnerability through personalised marketing communication: are consumers protected? Internet Policy Review, 10(4). https://doi.org/10.14763/2021.4.1585 Stuurman, K., & Lachaud, E. (2022). Regulating Al. A label to complete the proposed Act on Artificial Intelligence.

Computer Law & Security Review, 44,105657. https://doi.Org/10.1016/j.clsr.2022.105657 Sunstein, C. R. (2015). Fifty Shades of Manipulation. SSRN Electronic Journal. https://doi.org/10.2139/ ssrn.2565892

Susser, D., Roessler, B., & Nissenbaum, H. (2019). Technology, autonomy, and manipulation. Internet Policy

Review, 8(2). https://doi.Org/10.14763/2019.2.1410 Thaler, R. H. (2000). From Homo Economicusto Homo Sapiens. Journal of Economic Perspectives, 14(1),

133-141. https://doi.Org/10.1257/jep.14.1.133 Thomas, A. R., Pop, N. A., lorga, A. M., & Ducu, C. (Eds.). (2017). Ethics and Neuromarketing: Implications for Market Research and Business Practice, https://doi.org/10.1007/978-3-319-45609-6

Trevino, L. K., & Nelson, K. A. (2006). Managing Business Ethics: Straight talk about how to do it right (4th ed.). Wiley & Sons.

Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 785(4157),

1124-1131. https://doi.org/10.1126/science.185.4157.1124 Ulman, Y. I., Cakar, T., & Yildiz, G. (2015). Ethical Issues in Neuromarketing: "I Consume, Therefore I am!". Science

and Engineering Ethics, 27(5), 1271-1284. https://doi.org/10.1007/s11948-014-9581-5 van Hoorn, J., Fuligni, A. J., Crone, E. A., & Galván, A. (2016). Peer influence effects on risk-taking and prosocial decision-making in adolescence: insights from neuroimaging studies. Current Opinion in Behavioral Sciences, 70, 59-64. https://doi.Org/10.1016/j.cobeha.2016.05.007 Veale, M., & Zuiderveen Borgesius, F. (2021). Demystifying the Draft EU Artificial Intelligence Act - Analysing the good, the bad, and the unclear elements of the proposed approach. Computer Law Review International, 22(4), 97-112. https://doi.org/10.9785/cri-2021-220402 Verhulst, N., De Keyser, A., Gustafsson, A., Shams, P., & Van Vaerenbergh, Y. (2019). Neuroscience in service research: an overview and discussion of its possibilities. Journal of Service Management, 30(5), 621-649. https://doi.org/10.1108/josm-05-2019-0135 Viale, R. (2019). La razionalitá limitata" embodied" alia base del cervello sociale ed economico. Sistemi intelligent/', 37(1), 193-203. (In Ital.).

Vicary, J. M. (1951). How psychiatric methods can be applied to market research. Printers' Ink, 235(6), 39-48. Watson, J. B. (1994). Psychology as the behaviorist views it. Psychological Review, 707 (2), 248-253.

https://doi.Org/10.1037/0033-295x.101.2.248 Wilkinson, T. M. (2012). Nudging and Manipulation. Political Studies, 67(2), 341-355. https://doi.org/10.1111/ j.1467-9248.2012.00974.x

Wilson, R. M., Gaines, J., & Hill, R. P. (2008). Neuromarketing and Consumer Free Will. Journal of Consumer

Affairs, 42(3), 389-410. https://doi.Org/10.1111/j.1745-6606.2008.00114.x Winkielman, P., & Berridge, K. (2003). Irrational Wanting and Subrational Liking: How Rudimentary Motivational and Affective Processes Shape Preferences and Choices. Political Psychology, 24(A), 657-680. https://doi.Org/10.1046/j.1467-9221.2003.00346.x Wood, A. (2016). Unjust Exploitation. The Southern Journal of Philosophy, 54(S1), 92-108. https://doi.org/10.1111/ sjp.12187

Zajonc, R. B. (1980). Feeling and thinking: Preferences need no inferences. American Psychologist, 35(2),

151-175. https://doi.Org/10.1037/0003-066x.35.2.151 Zajonc, R. B. (1998). Emotions. In D. T. Gilbert, S. T. Fiske, & G. Lindzey (Eds.), The handbook of social psychology (pp. 591-632). NewYork: McGraw-Hill.

Author information

Ludovica Sposini - PhD Candidate in Law, DIRPOLIS Institute (Institute of Law,

Politics and Development), Sant'Anna School ofAdvanced Studies

Address: Via Domenico Vernagalli 22R, 56127 Pisa, Italy

E-mail: ludovica.sposini@santannapisa.it

ORCID ID: https://orcid.org/0000-0003-2188-8996

Google Scholar ID: https://scholar.google.com/citations?user=AVR7_bMAAAAJ

Conflict of interest

The author declares no conflict of interest.

Financial disclosure

The research had no sponsorship.

Thematic rubrics

OECD: 5.05 / Law PASJC:3308/ Law WoS: OM/Law

Article history

Date of receipt - August 24, 2023 Date of approval - September 8, 2023 Date of acceptance - March 15, 2024 Date of online placement - March 20, 2024