CC BY
1Противодействие обучению других и их «троянское» обучение:
цифровые технологии в социальных практиках и исследованиях
Александр Поддьяков, Всеволод Грудинин
АННОТАЦИЯ
| Такие явления, как противодействие реальному получению знаний другими субъектами и «троянское» (т. е. обманное) обучение, выгодное лишь его организатору, представляют собой актуальную проблему в различных областях. В ее развитии все более важную роль играют компьютерные технологии. Они используются на разных уровнях: от межкомпьютерного взаимодействия, когда системы машинного обучения испытывают атаки «отравляющими» обучающими примерами, до проектирования сложной социальной инженерии при мошенничествах. В статье дается анализ некоторых аспектов этой фундаментальной проблемы.
В рамках проведенного недавно эмпирического исследования в данной работе представлена методика изучения того, как люди помогают или мешают обучению в соревновательной видеоигре. Методика перспективна в отношении дальнейшего изучения темы, например, для исследования связей особенностей изобретаемых стратегий и познавательных и личностных характеристик участников, возможностей создания других методик на ее основе и т. д. В целом можно полагать, что развитие технологий будет и дальше вносить существенный вклад, в том числе с непредсказуемыми последствиями, в переплетение двух фундаментальных типов взаимодействий: а) помощи обучению и развитию и б) противодействия им.
КЛЮЧЕВЫЕ СЛОВА
противодействие обучению других, «троянское» обучение, компьютерные технологии 1РЯ1 10.22394/2078-838X-2024-3-32-41
ССЫЛКА ДЛЯ ЦИТИРОВАНИЯ
Поддьяков А. Н., Грудинин В. А. Противодействие обучению других и их «троянское» обучение: цифровые технологии в социальных практиках и исследованиях. Образовательная политика, (2024), 3(99), 32-41. DOI: 10.22394/2078-838Х-2024-3-32-41
Поступила: 08.2024 Принята: 08.2024 Дата публикации: 10.2024
Постановка проблемы
В последние несколько лет в мире фиксируется резкий рост мошенничества с использованием компьютерных технологий по следующей, достаточно сложной, схеме. Небогатого и ищущего работу человека обманными обещаниями высокой оплаты труда заманивают в место, больше напоминающее тюрьму, отбирают у него документы и с угрозами обучают его технике создания фейковых профилей в социальных сетях. Его тренируют выглядеть в соцсетях богатым и успешным, а также заводить и поддерживать потенциально выгодные личные контакты. Затем в качестве доброго и богатого интернет-друга он начинает
давать пользователям (в соответствии с полученными им инструкциями) финансовые советы и проводить инструктаж по интернет-инвестированию, интернет-игре на бирже и т. п. Конечная цель - так психологически обработать и обучить поверившего во все клиента, чтобы он вложил как можно больше денег туда, куда ему скажут. Организаторы мошеннической схемы забирают со счетов все средства и обрывают контакты (Podkul, Liu, 2022; McCready, 2022; Newman, 2023). Эта социальная инженерия относительно сложна, но, судя по всему, высокоприбыльна, в том числе за счет относительной массовости привлечения «инструкторов» и использования интернет-технологий. Ее жертвами становятся
Александр Николаевич ПОДДЬЯКОВ
д. псих. н., профессор департамента психологии Национального исследовательского университета «Высшая
школа экономики», ведущий научный сотрудник Школы антропологии будущего Российской академии народного хозяйства
и государственного управления (101000, РФ, Москва, пер. Армянский, 4/2, каб. 402). ORCID: 0000000167939985, ResearcherID: H93242015. E-mail: [email protected]
Всеволод Александрович ГРУДИНИН
преподаватель департамента психологии
Национального исследовательского университета «Высшая школа экономики», аспирант
(101000, РФ, Москва, пер. Армянский, 4/2, каб. 415). ORCID: 0000-0002-5810-8036, ResearcherID: A-1009-2008.
E-mail: [email protected]
самые разные люди, в том числе вполне образованные, занятые в финансовом секторе, полицейские и др.
Сделаем отступление. Сама идея обучения с обманом, после которого получивший знания оказывается в худшем положении, чем ранее, известна очень давно: достаточно вспомнить сказки, где один персонаж (например, лиса) учит кого-либо себе на пользу и на его несчастье, а также аналогичные реальные практики ложных
советов и инструкций. Систематическое описание такого рода случаев дано в книге А. Н. Поддьякова (2006). Изучение явления требует введения понятийного аппарата. В 2001-2002 гг. один из авторов этой статьи, А. Н. Поддьяков, ввел понятие «троянское обучение» (основано на использовании метафоры троянского коня) (Поддьяков, 2002; Poddiakov, 2001). Это «скрытое, неявное для субъектов обучение их тому, что организатор (учитель) считает необходимым для достижения тех или иных целей (часто при декларировании обучаемому существенно иных целей)... Преднамеренное троянское обучение включает ... два вида, выделяемые в соответствии с целями организатора: троянское обучение со скрытой целью помощи другому субъекту . и обучение со скрытой целью нанесения ущерба» (Поддьяков, 2022).
В настоящее время понятие троянского обучения широко используется российскими специалистами по борьбе с мошенничеством в финансовой сфере и защите прав потребителей: см., например, памятку для потребителей от Роспотребнадзора1 и материалы Федерального фонда по защите прав вкладчиков и акционеров: ««Удочка» как приманка в троянском обучении» (2019), «Троянское обучение, недобросовестная реклама» (2019), «Финансовая грамотность как средство повышения качества жизни» (2023), «Программа VIII Международной конференции по защите прав потребителей финансовых услуг» (2023), презентации управляющего Федеральным фондом по защите прав вкладчиков и акционеров М. Ш. Сафиулина (2020, 2022) и др. Анализ троянского обучения включен в практический курс повышения квалификации «Цифровой маркетинг» Финансового университета при правительстве РФ.2
1 Финансовая киберграмотность и борьба с мошенничеством. (п. d.). Памятка для потребителей от Роспотребнадзора. http://clck.ru/Wh7sP (дата обращения 20.06.2024).
2 Цифровой маркетинг. (п. d.). Курс повышения квалификации Финансового Университета при правительстве РФ. https://eworld.pro/menedzhment/tsifrovoj-marketing-digital-marketing (дата обращения 20.06.2024).
Также троянское обучение упоминается в психолого-педагогических работах (Ерохина, 2023; Кларин, 2019; Орлов, 2021; Тарелкин, 2013; Valsiner, van der Veer, 2014). И. Н. Ионов (2020) рассматривает троянское обучение и образование в трансдисциплинарном анализе цивилизационных представлений.
Существует связанное с троянским обучением явление - противодействие тому, чтобы другие научились чему-то полезному для них. Оно может быть обусловлено, например, соображениями конкуренции, безопасности, защиты своего исключительного статуса. Еще Александр Македонский писал своему учителю Аристотелю: «Ты поступил неправильно, опубликовав те учения, которые предназначались только для устного преподавания. Чем же мы будем отличаться от остальных людей, если те самые учения, на которых мы были воспитаны, сделаются
всеобщим достоянием? Я хотел бы не столько могуществом превосходить других, сколько знаниями о высших предметах» (цит. по: Никоненко, 2016, с. 13).
В книге по истории математики М. Брукс пишет, что в XVI в. хорошее владение алгеброй стало очень востребованным в банковском деле, торговле, путешествиях, войнах. Как следствие, возникла серьезная конкуренция среди математиков за высокооплачиваемые должности, поэтому они участвовали в специальных «дуэлях», решая придуманные друг другом задачи. По результатам соревнований один мог лишиться очень выгодного места, а другой его получить. Это вело к тому, что математики очень тщательно подходили к отбору учеников, опасаясь, что те выдадут секреты расчетов другим, и не спешили с ними этими секретами делиться. В результате математика развивалась медленнее, чем могла бы (Брукс, 2024, с. 17). Аналогичная картина иногда наблюдается и в современных высококонкурентных
в статье представлена методика изучения того, как люди организуют помощь и противодействие обучению на материале соревновательной видеоигры
областях. Наставники не всегда спешат делиться знаниями с подопечными, поскольку те сразу после обучения могут уйти с полученными секретами мастерства в конкурирующую фирму или же начать теснить своего учителя (Поддьяков, 2011).
В целом в сложном обществе имеется значительное число индивидуальных и групповых субъектов с качественно различными системами жизненных ценностей и интересами в сфере образования. Причем в некоторых случаях эти интересы прямо противоположны. Наличие у субъекта определенных ценностей, знаний,
компетентностей может быть в разной степени выгодно или невыгодно другим субъектам, ценно или неприемлемо для них. А удар по способности учиться становится одним из наиболее эффективных для того, чтобы притормозить конкурента в быстро меняющемся мире
(Поддьяков, 2004).
Отталкиваясь от понятия «зона ближайшего развития» Л. С. Выготского и работ исследователей, изучающих связи обучения и развития в широком социальном контексте, А. Н. Поддьяков классифицировал зоны развития по четырем типам в зависимости от условий взаимодействий. В первом и втором понятии отражены те следствия помощи и противодействия, которые кажутся наиболее понятными: если человеку помогать, то он развивается, а если подавлять, то нет.
1. Зона успешного развития в условиях помощи - то, что человек еще не может сделать самостоятельно, но уже может сделать с помощью более компетентного субъекта (зона ближайшего развития по Выготскому).
2. Зона подавленного развития в условиях социального противодействия - то, чему человек мог бы научиться и развить в себе, но не научился и не развил из-за чинимых ему препятствий (Асмолов, 1996; Поддьяков, 2004; Diaz, Hernandez, 1998).
В третьем и четвертом понятии отражены те следствия помощи и противодействия для развития, которые кажутся парадоксальными: развитие происходит вопреки противодействию или тормозится в условиях помощи.
3. Зона успешного развития в условиях социального противодействия - то, чему человек не мог научиться и развить в себе сам, но научился и развил в ходе и вследствие чинимых ему препятствий.
4. Зона подавленного развития в условиях помощи - то, чему субъект мог бы научиться и развить в себе, но не научился и не развил вследствие особенностей оказанной ему помощи.
В самом общем плане результат попыток влияния на развитие другого, в том числе через его обучение, может быть оценен по различию между:
• новизной и сложностью проблем, которые субъект ставил и решал до попыток воздействия на него;
• новизной и сложностью проблем, которые субъект может ставить и решать после оказанного на него влияния.
Если субъект (индивидуальный или групповой) становится способен ставить и решать проблемы большей новизны и сложности, чем прежде, то влияния (воздействия) можно оценивать как конструктивные. Если субъект может ставить и решать проблемы лишь меньшей новизны и сложности, чем прежде, то влияния (воздействия) следует оценивать как деструктивные (Поддьяков, 2014).
После этого введения перейдем к обсуждению противодействия обучению других и их троянского обучения в контексте компьютерных технологий. Остановимся подробнее на некоторых аспектах проблемы.
Компьютерные технологии, атакующие системы машинного обучения
25 лет назад, в 1999 г. в работе А. Н. Поддьякова было выдвинуто следующее предположение (Поддьяков, 1999; Poddiakov, 2001). Возможными направлениями развития искусственного
интеллекта может стать разработка компьютерных технологий:
1) противодействующих обучению других технических систем;
2) обучающихся в условиях противодействия.
За прошедшие четверть века появилось
целое научно-практическое направление по изучению воздействия враждебных отравляющих атак (adversarial attacks, poisoning attacks) на системы машинного обучения и защиты от них. Эти атаки могут осуществляться, например, путем ввода хакерами в общий «легальный» массив примеров очень небольшой и тщательно спроектированной порции «отравленных». Это ведет к непропорционально масштабным последствиям: модель научается не тому, что требовалось (Намиот, 2023). В докладе Банка России «Применение искусственного интеллекта на финансовом рынке» (2023, с. 28-29) говорится следующее: «Системы ИИ подвержены рискам мошеннических атак на стадии как обучения (атаки данных), так и эксплуатации моделей (атаки моделей). Изменение данных приводит к ухудшению результативности работы алгоритмов машинного обучения и нарушению работы модели. Ключевая проблема атак данных в том, что для модели измененные данные являются такими же легитимными, как и реальные данные, необходимые для обучения и проверки модели. В связи с этим нет явного способа установить достоверную причину ухудшения качества данных».
Как может происходить взаимодействие множества агентов, помогающих и противодействующих обучению друг друга? А. Н. Поддьяков в демонстрационных целях разработал виртуальную среду «Вредные пчелы». Агенты в ней - это три вида «пчел», конкурирующих за ценный ресурс - нектар случайным образом расположенных на поле «цветов». Метафора отравления при обучении здесь обыграна следующим образом. Каждый «цветок» в разное время продуцирует то нектар, то снотворное. Выпив несколько раз подряд нектар, пчела «рождает» еще одну пчелу, а снотворного - «умирает». Среди пчел есть как молодые и неопытные, потребляющие
содержимое цветков без разбора, так и опытные, выбирающие только нектар. Опытная пчела, обнаружившая молодое насекомое своего вида, обучает его, что пить, а что нет. При встрече с молодым представителем второго вида та же пчела «троянски» обучает его пить из цветков в снотворной фазе (жесткая конкуренция). Обнаружив молодую пчелу третьего вида, тренируемую инструктором, опытная пчела блокирует обучение в этой паре, и молодая не научается в этом раунде ничему - ни вредному, ни полезному (умеренная конкуренция). Эти три вида «пчел» конкурируют друг с другом по принципу «камень, ножницы, бумага», представленному в реальных биологических системах.
Результаты моделирования с визуализациями показывают, что без троянского обучения и противодействия обучению численность всех «пчел» растет до насыщения. «Пчелы» всех трех видов представлены примерно в равных количествах и распределены («перемешаны») на поле равномерно, без кластеризации. Введение троянского обучения и противодействия обучению приводит к появлению в разных частях поля скоплений «пчел» одного вида. По мере увеличения радиуса действия увеличивается ширина расположенных между движущимися «роями» «мертвых зон», где никого нет; падает общая численность «пчел»; растет частота случаев, когда один или два вида «вымирают» и остается только один (Поддьяков, 2019).
Пока остается без ответа вопрос, возможны ли системы искусственного интеллекта, активно конкурирующие между собой за более высокие уровни обучаемости, повышающие свою и понижающие чужую обучаемость (Поддьяков, 2008).
Стратегии помощи и троянского обучения, создаваемые людьми в соревновательной видеоигре
С целью изучения стратегий помощи и троянского обучения, создаваемых людьми, В. А. Грудинин, второй автор данной статьи, разработал методику на материале соревновательной видеоигры (Грудинин, 2024). В качестве материала была взята бесплатная версия видеоигры TrackMania Nations Forever. Задача игрока - управляя гоночным болидом, как можно быстрее добраться от старта до финиша. Соперников нет, борьба идет только за
время.
Для нас основной интерес представляет то, что играющий может сам создавать трассы разной сложности, используя встроенный в среду конструктор. Участнику исследования предлагалось:
1) помочь в обучении, т. е. сделать трассу, после тренировки на которой виртуальный гонщик сможет пройти базовую целевую трассу быстрее;
2) противодействовать обучению, т. е. сделать трассу, после тренировки на которой виртуальный гонщик пройдет базовую целевую трассу медленнее.
Этическая приемлемость эксперимента обеспечивается тем, что помогать и противодействовать надо лишь обучению воображаемого гонщика, а не реального человека.
Похожий методический прием описан в статье М. Родес «Управление сообщением: использование дошкольниками информации, чтобы учить и обманывать других» (Rhodes et al., 2015). Возраст участников составлял от 4 до 6 лет. В соответствии с методикой, ребенка обучали, как устроена новая техническая игрушка. После этого в одной серии детям предлагалось показать кукле по имени Дэйзи работу этой игрушки. В другой серии детям говорили: «Давайте пошутим над Дейзи и заставим ее думать, что...» (здесь экспериментатор формулировал обманное,
пока остается без ответа вопрос, возможны ли системы искусственного интеллекта, повышающие свою и понижающие чужую обучаемость
Рис. 1. Целевая трасса (вид сверху). Источник: бесплатная версия видеоигры TrackMania Nations Forever. Fig. 1. A target track (top view). Source: the free version of the video game TrackMania Nations Forever.
Рис. 2. Фрагмент целевой трассы с препятствием посередине. Источник: бесплатная версия видеоигры TrackMania Nations Forever.
Fig. 2. A section of the target track with the obstacle in the middle. Source: the free version of the video game TrackMania Nations Forever.
дезинформирующее сообщение о работе игрушки). Оказалось, что дети и принимают задачу обманного обучения, проводимого в шутку, и могут его реализовать.
Вернемся к нашему эксперименту с использованием гоночной видеоигры. Участники исследования (все взрослые) проходили следующие этапы:
1) знакомство с игровой средой (прохождение 10 обучающих трасс нарастающей сложности);
2) знакомство с особенностями игрового конструктора (просмотр 10-минутного видеоролика, объясняющего, как пользоваться основными элементами конструктора и создавать трассы на разных площадках);
3) создание трасс для улучшения и ухудшения успешности прохождения целевой трассы.
Целевая трасса задавалась экспериментатором и характеризовалась формой (траекторией) и наличием на пути различных элементов и конструкций (рис. 1, 2).
При постановке задачи на создание трасс в качестве ориентира давался воображаемый человек, не имеющий опыта взаимодействия с данной видеоигровой средой. Основной критерий эффективности гонщика — именно время прохождения трассы (различные огрехи вождения не учитываются).
Всего в исследовании приняло участие 70 студентов НИУ ВШЭ (47 женщин, 23 мужчины), обучавшихся по профилям социальных, гуманитарных и компьютерных наук. Средний возраст в выборке составлял 20 лет.
По результатам проведенного исследования был выявлен ряд помогающих стратегий (Грудинин, 2024). В общем виде данные стратегии характеризуются двумя параметрами:
1) содержательной направленностью на отработку конкретных игровых навыков;
2) направленностью на повышение мотивации — вовлеченности и интереса воображаемого участника к игровому пространству путем создания разнообразных игровых ситуаций.
Для планируемой помощи в обучении участники использовали следующие стратегии:
а) повторение сложных элементов целевой трассы, например сложных поворотов, требующих резкого набора скорости и резкого торможения, маневрирования, избегания препятствий;
б) добавление облегченных элементов, схожих с элементами целевой трассы, например более плавных поворотов; уменьшение общего количества поворотов, увеличение времени принятия решения перед поворотом или препятствием за счет создания большего обзора трассы, установка указателей направления дальнейшего движения;
в) добавление усложненных элементов, схожих с элементами целевой трассы: удаление ограждений, добавление более сложных поворотов, добавление новых типов препятствий.
Участники создавали трассы с несколькими кругами для отработки ключевых навыков, дублировали ключевые элементы целевой трассы, упрощали и усложняли их.
Приведем некоторые из ответов участников на вопрос экспериментатора: «Какие элементы из обучающей трассы, на ваш взгляд, должны улучшать успешность прохождения целевой трассы? Опишите эти элементы и то, как они должны работать».
Ответы
«Обучающая трасса должна содержать элементы, прохождение которых дает игроку нужный опыт для принятия решений в реальном заезде. Я провел исследование трассы, несколько раз обновив свой рекорд, выявил наиболее проблемные места, добавил похожие элементы в обучающую трассу и повторил их несколько раз, чтобы у человека в голове выработалась схема преодоления подобных элементов в реальном заезде».
«Я сделала акцент на неоднократное прохождение трассы пользователем. То есть несколько вариаций маршрута, своего рода «лабиринт», который может быть усложнен разными элементами. В том числе включила в него подсказки. На мой взгляд, улучшающая трасса также должна включать различные повороты, а не прямолинейное движение».
«Большое количество поворотов, извилистость, мертвые петли - эти элементы усложняют обучающую трассу, позволяя игроку потренироваться на сложном маршруте, после которого целевая трасса будет сильно проще для прохождения, следовательно, игрок пройдет ее успешнее».
При организации противодействия обучению и «троянского» обучения участники использовали следующие стратегии:
а) чрезмерное усложнение тренировочной трассы (невозможность пройти маршрут, если хотя бы немного потерять скорость; необходимость выполнить длинный прыжок и попасть в очень небольшой участок при приземлении);
б) неадекватное упрощение трасс (вплоть до езды по короткой прямой без каких-либо препятствий);
в) добавление развилок, тупиков
и ловушек (сокрытие дальнейшего маршрута и точки финиша; добавление провалов и дополнительных препятствий на трассе; необходимость прохождения контрольных
точек на двух параллельных участках трассы) и др.
Вот некоторые ответы участников на вопрос: «Какие элементы из обучающей трассы, на ваш взгляд, должны ухудшать успешность прохождения целевой трассы? Опишите эти элементы и то, как они должны работать».
Ответы
«При создании трассы на ухудшение я руководствовался логикой «хуже человека, который делает что-то в первый раз, сделать может только человек с нерелевантным опытом». Именно поэтому трасса на ухудшение представляет из себя абсолютно не похожую на оригинальную: заменен тип дороги, добавлены элементы, которые не используются в оригинальной трассе. По сути, мы учим человека другому, чтобы он как можно хуже показал себя в нужном месте. Нерелевантный опыт равен проигрышу».
«Ухудшать могут отвлекающие факторы, которые никак не отражают элементы трассы-примера. К примеру, я использовала ускорители, набор высоты и снижение, развилку».
«Сложные элементы, не связанные с целевой трассой и только ухудшающие самооценку игрока».
участники эксперимента,
в соответствии с поставленными задачами, организовывали помощь и противодействие обучению и изобретали соответствующие своим целям стратегии
Рис. 3. Короткая прямая трасса без каких-либо элементов на ней. Бесполезна для обучения прохождению целевой трассы. Источник: бесплатная версия видеоигры TrackMania Nations Forever.
Fig. 3. A short, straight track without any elements. It is useless for training the passage of the target track. Source: the free version of the video game TrackMania Nations Forever.
Рис. 4. Фрагмент трассы с обрывом и препятствием на нем. Затрудняет прохождение и не имеет сходных элементов с целевой трассой (проходить этот участок трудно и бесполезно с точки зрения будущего прохождения целевой трассы). Источник: бесплатная версия видеоигры TrackMania Nations Forever. Fig. 4. A fragment of the track features a cliff with an obstacle. It makes a pass difficult and lacks similar elements to the target track. Passing this section is challenging and not helpful for preparing for the target track. Source: the free version of the video game TrackMania Nations Forever.
«Отсутствие поворотов, препятствий, ровная трасса. Это никак не поможет в прохождении, дает нулевой эффект».
Ниже мы приводим изображения некоторых созданных участниками трасс и их фрагментов (рис. 3-5).
Таким образом, участники, в соответствии с поставленными задачами, организовывали помощь и противодействие обучению и изобретали соответствующие своим целям стратегии. Можно утверждать, что разработанная методика позволяет проводить этически приемлемые эмпирические исследования помощи и противодействия обучению на материале соревновательных видеоигр. Она вызывает живой интерес
участников и позволяет получить содержательные данные о приемах помощи и противодействия обучению.
Заключение
Такие явления, как противодействие реальному получению знаний и «троянское» (т. е. обманное) обучение, выгодное лишь его организатору, представляют собой актуальную проблему в различных областях. При организации противодействия и «троянского» обучения все более важную роль играют компьютерные технологии. Они используются на разных уровнях: от межкомпьютерного взаимодействия, при котором осуществляются атаки на системы машинного обучения с помощью «отравляющих» обучающих примеров, до проектирования сложной социальной инженерии человеческих взаимодействий при мошенничестве. Что касается машин, пока остается без ответа вопрос, возможны ли системы искусственного интеллекта, активно конкурирующие между собой за более высокие уровни обучаемости, повышающие свою обучаемость и понижающие чужую.
В рамках проведенного недавно эмпирического исследования в статье представлена методика изучения того, как люди организуют помощь и противодействие обучению на материале соревновательной видеоигры. Она вызывает живой интерес участников и позволяет получить
Рис. 5. Трасса с наибольшим количеством «троянских» элементов (обозначены кругами). Источник: бесплатная версия видеоигры TrackMania Nations Forever. Fig. 5. A track with the most Trojan elements (marked with circles). Source: the free version of the video game TrackMania Nations Forever.
содержательные данные о приемах помощи и противодействия обучению. Методика перспективна в отношении дальнейшего изучения темы - например, исследования связей особенностей изобретаемых стратегий и познавательных и личностных характеристик участников, возможностей создания других методик на ее основе и т. д.
В целом можно полагать, что развитие технологий будет и дальше вносить существенный вклад, в том числе с непредсказуемыми последствиями, в переплетение двух фундаментальных типов взаимодействий: а) помощи обучению и развитию и б) противодействия им.
Список источников
Асмолов, А. Г (1996). Культурно-историческая психология и конструирование миров. М.: Институт практической психологии.
Брукс, М. (2024). Искусство большего. Как математика создала цивилизацию. М.: АСТ: CORPUS.
Грудинин, В. А. (2024). Методика изучения стратегий, помогающих или противодействующих обучению. Вопросы психологии, 70 (1), 104-113.
Ерохина, Т. Н. (2023). Развитие конкурентного поведения студентов первого курса СПО. Актуальные проблемы модернизации профессионального образования: прогнозирование и возможности реализации (с. 35-38). Екатеринбург: Рос. гос. проф.-пед. ун-т.
Ионов, И. Н. (2020). Теория культурного трансфера Мишеля Эспаня и трансдисциплинарный анализ цивилизационных представлений. Общественные науки и современность, (1), 148-163. DOI: 10.31857/ S086904990008520-4.
Кларин, М. В. (2019). Корпоративный тренинг, наставничество, коучинг: Учебное пособие для бакалавриата и магистратуры. М.: Юрайт.
Никоненко, С. В. (2016). Почему Александр отошел от Аристотеля? (критический анализ историографии). Метаморфозы истории. Научный альманах, (8), 9-24. УДК 94(3):930-051.
Намиот, Д. Е. (2023). Схемы атак на модели машинного обучения. International Journal of Open Information Technologies, 77(5), 68-86.
Орлов, А. А. (2021). Цель и смыслы изучения образовательной динамики «сетевой личности». Образовательная динамика сетевой личности (с. 10-17). Письма в Эмиссия.Оффлайн (The Emissia.Offline Letters).
Погожина, И. Н., Сергеева, М. В. (2021). Логический компонент мышления как предиктор принятия решений о наличии в ситуации коррупционного риска. Психологический журнал, 42(6), 25-34. DOI: 10.31857/ S020595920017069-1.
Поддьяков, А. Н. (2011). Дисфункциональные отношения в наставничестве и обучении. Организационная психология, (2), 4-13. https://orgpsyjournal.hse.ru/2011-1-2/44574362.html (дата обращения 01.08.2024).
Поддьяков, А. Н. (2014). Компликология: создание развивающих, диагностирующих и деструктивных трудностей. М.: Изд. дом Высшей школы экономики. https://bit.ly/3SvQ9S7 (дата обращения 01.08.2024).
Поддьяков, А. Н. (2002). Ориентировочная и дезориентирующая основы деятельности: иерархии целей обучения в конфликтующих системах. Вопросы психологии, (5), 79-89.
Поддьяков, А. Н. (2019). Пространственное распределение интеллектуальных агентов при разном радиусе троянского обучения в среде «Вредные пчелы». Когнитивная наука в Москве: новые исследования. Материалы конференции 19 июня 2019 г. (с. 432-437). М.: Буки Веди.
Поддьяков, А. Н. (2004). Противодействие обучению и развитию другого субъекта. Психологический журнал, (3), 61-70.
Поддьяков, А. Н. (2022). Троянское обучение. Большая Российская энциклопедия. https://bigenc.ru/c/troianskoe-obuchenie-7f7e60 (дата обращения 01.08.2024).
Поддьяков, А. Н. (2008). Троянское обучение в информационных технологиях. Компьютерра, (13), 48-51. http://old.computerra.ru/354133.
Поддьяков, А. Н. (1999). Философия образования: проблема противодействия. Вопросы философии, (8), 119-128.
Применение искусственного интеллекта на финансовом рынке. (2023). Банк России. https://www.cbr.ru/Content/Document/File/156061/ Consultation_Paper_03112023.pdf (дата обращения 01.07.2024).
Программа VIII Международной конференции по защите прав потребителей финансовых услуг. (2023).
https://conference.fedfond.ru/2023/programma-i-spikery/ (дата обращения 01.07.2024).
Сафиулин, М. Ш. (2022). О некоторых особенностях пирамидного бизнеса и о современном противодействии. https://clck.ru/3C9Kui (дата обращения 01.07.2024).
Сафиулин, М. Ш. (2020). Финансовая грамотность взрослого населения и финансовая безопасность. Доклад на вебинаре по финансовой журналистике, 21 апреля. https://clck.ru/3C9LHU (дата обращения 22.06.2024).
Тарелкин, А. И. (2013). Морально-нравственные аспекты проблемы межличностного манипулирования в педагогическом общении. Психология обучения, (3), 97-109.
Троянское обучение, недобросовестная реклама. (2019). Федеральный фонд по защите прав вкладчиков и акционеров. https://fedfond.ru/ news/2019/troyanskoe-obuchenie-nedobrosovestnaya-reklama/ (дата обращения 22.06.2024).
Удочка как приманка в троянском обучении. (2019). Проект «Стоп пирамида». https://stoppiramida.ru/news/1756/ (дата обращения 22.06.2024).
Финансовая грамотность как средство повышения качества жизни. (2023). Федеральный фонд по защите прав вкладчиков и акционеров. https://fedfond.ru/news/2023/finansovaya-gramotnost-kak-sredstvo-povysheniya-kachestva-zhizni/ (дата обращения 20.06.2024).
Финансовая киберграмотность и борьба с мошенничеством. (n. d.). Памятка для потребителей от Роспотребнадзора. http://clck.ru/Wh7sP (дата обращения 20.06.2024).
Цифровой маркетинг. (п. d.). Курс повышения квалификации Финансового Университета при правительстве РФ. https://eworld.pro/menedzhment/ tsifrovoj-marketing-digital-marketing (дата обращения 20.06.2024).
References
Diaz, E., & Hernandez, J. (1998). Zones of negative development: Analysis of classroom activities and the academic performance of bilingual, Mexican American students in the United States. Abstracts of the 4th Congress of the ISCRAT, 399-400.
McCready, A. (2022, July 13). From industrial-scale scam centers, trafficking victims are being forced to steal billions. VICE. https://www.vice.com/en/ article/n7zb5d/pig-butchering-scam-cambodia-trafficking/ (Date of access 20.06.2024).
Newman, L. H. (2023, January 2). Hacker lexicon: What is a pig butchering scam? Wired. https://www.wired.com/story/what-is-pig-butchering-scam/ (Date of access 15.07.2024).
Poddiakov, A. N. (2001). Counteraction as a crucial factor of learning, education and development: Opposition to help. Forum: Qualitative Sozialforschung / Forum: Qualitative Social Research, 2(3).
https://www.qualitative-research.net/index.php/fqs/article/view/910 (Date of access 15.07.2024).
Podkul, C., & Liu, C. (2022, September 15). Human trafficking's newest abuse: Forcing victims into cyberscamming. ProPublica. https://www.propublica.org/ article/human-traffickers-force-victims-into-cyberscamming (Date of access 15.07.2024).
Rhodes, M., Bonawitz, E., Shafto, P., Chen, A., & Caglar, L. (2015). Controlling the message: Preschoolers' use of information to teach and deceive others. Frontiers in Psychology, 6, 867. https://doi.org/10.3389/fpsyg.2015.00867 (Date of access 10.07.2024).
RCIPS warns against sophisticated global investment/romance scam utilizing virtual currency. (2023, August 8). The Royal Cayman Islands Police Service. https://www.rcips.ky/rcips-warns-against-sophisticated-global-investmentromance-scam-utilising-virtual-currency (Date of access 10.07.2024).
Valsiner, J., & van der Veer, R. (2014). Encountering the border: Vygotsky's zona blizhaishego razvitia and its implications for theories of development. In A. Yasnitsky, R. van der Veer, & M. Ferrari (Eds.), The Cambridge Handbook of Cultural-Historical Psychology (pp. 148-174). Cambridge University Press. (Date of access 10.07.2024).
ABSTRACT
Counteraction toothers' learning and their Trojan Horse teaching: digital technologies in social practices and research
Alexander N. PODDIAKOV,
PhD, Tenured Prof., Department of Psychology, HSE University; Leading Research Fellow at the School of Anthropology of the Future, The Russian Academy of National Economy and Public Administration. 4/2, of. 402, Armyanskiy Ln., 101000, Moscow, Russian Federation. ORCID: 0000000167939985. ResearcherID: H93242015. E-mail: [email protected]
Vsevolod A. GRUDININ,
Teacher, Department of Psychology, HSE University, PhD student. 4/2, of. 415, Armyanskiy Ln., 101000, Moscow, Russian Federation. ORCID: 0000-0002-5810-8036. ResearcherID: A-1009-2008. E-mail: [email protected]
Counteraction to others' learning and their "Trojan horse" teaching (deceptive teaching that benefits the organizer and disadvantages the learners) is an urgent problem in various fields. Computer technologies play an increasingly important role in the organization of this counteraction and "Trojan horse" teaching. The technologies are used at different levels: from computer-to-computer adversarial poisoning attacks on machine learning to fraud in human interactions. In the article, some aspects of this problem are analyzed.
An empirical study of people's help and counteraction to others' learning in a competitive video game is presented. It arouses the participants' keen interest and provides an opportunity to study strategies of help and counteraction to others' learning. The methodology is promising in relation to further study of the topic - e. g., studies of relationships between the strategies invented by participants and their cognitive and personal characteristics, design of new methods based on it, etc. In general, one can assume that development of technologies will continue to make significant contributions to interweaving of two fundamental types of interactions: (a) help to learning and development; and (b) counteraction to them.
counteraction to others' learning, "Trojan horse" teaching, computer (digital) technologies
KEY WORDS
THE CITATION REFERENCE
Poddiakov A. N., Grudinin V. A. Counteraction toothers' learning and their Trojan Horse teaching: digital technologies in social practices and research. Educational Policy, (2024), 3(99), 32-41. D0I:10.22394/2078-838X-2024-3-32-41
Received: 08.2024 Accepted: 08.2024 Date of publication: 10.2024
This is an open access article distributed under the terms of the Attribution-NonCommercial-NoDerivatives 4.0 (CC BY-NC-ND 4.0).
