Научная статья на тему 'Влияние межмодального конфликта на восприятие вербальных стимулов'

Влияние межмодального конфликта на восприятие вербальных стимулов Текст научной статьи по специальности «Языкознание и литературоведение»

CC BY
454
86
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ПОЛИМОДАЛЬНОСТЬ / ПОЛИМОДАЛЬНЫЕ ТЕКСТЫ / ПОЛИМОДАЛЬНОЕ ВОСПРИЯТИЕ / ЭКСПЕРИМЕНТ / ВОСПРИЯТИЯ ТЕКСТА / МЕЖМОДАЛЬНЫЙ КОНФЛИКТ / MULTIMODAL PERCEPTION / MULTIMODAL TEXT / MULTIMODALIT / PERCERTION OF THE TEXT / MULTIMODAL CONFLICT

Аннотация научной статьи по языкознанию и литературоведению, автор научной работы — Некрасова Елена Дмитриевна

Статья посвящена решению одного из аспектов проблемы восприятия адресатом монокодового вербального текста, находящегося в условиях полимодального существования, выявлению особенностей полимодального восприятия вербальных стимулов. Подробно описываются ход и результаты двух экспериментальных исследований, направленных на выявление доминирующей модальности при восприятии вербальных стимулов, существующих в условиях конфликта модальностей, определяется влияние конфликтной «фоновой» информации на восприятие информации из поля произвольного внимания, выделяется ведущая модальность при бимодальном (аудиально-визуальном) восприятии.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

The influence of intermodal conflict on perception of verbal stimuli

This paper deals with the problem of multimodal perception of verbal signs. Human perception is multimodal. The study of multimodal texts and multimodal perception of words is a step towards the study of multimodal perception in general. The author conducted a series of experiments aimed at the study of the competition of the audial and visual channels while homogeneous verbal information is being presented in the condition of modality conflict. The author pursued the following research objectives: to study characteristics of bimodal perception of verbal stimuli in conflict modalities; to identify the impact of conflict "background" information on the perception of information extracted from the field of voluntary attention; to select a leading modality in bimodal (audial-visual) perception. The research hypothesis is that when the voluntary attention is focused on verbal information оf one of the modalities (visual), information acquired automatically via the second modality (audial) will affect the perception of the former original modality as well as the solution of the tasks related to this original modality. The experiment method was selected as the leading research method. The experimental series consisted of two independent experiments. The main experiment presupposed parallel bimodal presentation of words that contain identical or conflicting information in animateness category, and consisted of preparatory (pretest) and primary stages. The second experiment aimed at identifying the dominant modality in the multimodal perception of verbal stimuli. Visual modality proves to be a leading modality for the perception of verbal information. In other words, modality has a leading role in the modality type of the information opposition in case of multimodal perception. The experimental data show that the existing functional asymmetry of intermodal verbal perception (visual modality playing a leading role) does not depend on the type of category (no interaction between factors). Therefore, this result should be replicable in terms of other semantic factors. However, the difference in speed during the perception of audio-visual pairs with conflict and identical information (mismatch pairs are perceived significantly faster) shows significant effects of type of information on perception: the background information (which sounds outside voluntary attention of respondents) accelerates or slows down the perception of information from the field of voluntary attention. Thus, it is possible to speak about some cognitive processes, accompanying the perception of information which are not determined by a leading modality.

Текст научной работы на тему «Влияние межмодального конфликта на восприятие вербальных стимулов»

Вестник Томского государственного университета. 2015. № 392. С. 21-26. Б0! 10.17223/15617793/392/3

УДК 81'22

Е.Д. Некрасова

ВЛИЯНИЕ МЕЖМОДАЛЬНОГО КОНФЛИКТА НА ВОСПРИЯТИЕ ВЕРБАЛЬНЫХ СТИМУЛОВ

Статья посвящена решению одного из аспектов проблемы восприятия адресатом монокодового вербального текста, находящегося в условиях полимодального существования, - выявлению особенностей полимодального восприятия вербальных стимулов. Подробно описываются ход и результаты двух экспериментальных исследований, направленных на выявление доминирующей модальности при восприятии вербальных стимулов, существующих в условиях конфликта модальностей, определяется влияние конфликтной «фоновой» информации на восприятие информации из поля произвольного внимания, выделяется ведущая модальность при бимодальном (аудиально-визуальном) восприятии.

Ключевые слова: полимодальность; полимодальные тексты; полимодальное восприятие; эксперимент; восприятия текста; межмодальный конфликт.

В настоящее время не вызывает сомнений психологическая реальность полимодального характера человеческого восприятия. Неоднократно в работах отечественных и зарубежных исследователей-психологов [1-7] говорилось о полимодальном поле перцепции (Б.Г. Ананьев, А. Вежбицкая, А.В. Запорожец, Б.Ф. Ломов, С.Л. Рубинштейн, С.В. Кравков, Л.М. Веккер, Е.Ю. Артемьева и др.), изучению отдельных полимодальных структур посвящены работы В.А. Лабунской, О.В. Абдуллиной, Н.А. Баевой, М. В. Анисимовой и др.

В лингвокогнитивных исследованиях термин модальность, в отличие от омонимичного в собственно лингвистической традиции1, апеллирует прежде всего к психологическому термину модальности как принадлежности к определенной сенсорной системе. Таким образом, полимодальность традиционно определяется как совокупность ощущений, поступающих путем разных модальностей при чувственном восприятии объекта действительности [9. С. 89-112].

Нужно отметить, что в более ранних трудах (Г.В. Ейгер, В.Л. Юхт, А.Г. Сонин, Ю.А. Сорокин, Е.Ф. Тарасов) полимодальность (при определенном терминологическом смешении) зачастую трактуется как типологическая характеристика текста, заключающаяся в его семиотической гетерогенности: соединении информации разного кода (чаще всего икони-ческой и вербальной природы) в рамках моно- либо полимодального восприятия. В нашей интерпретации соединение разных кодов получает терминологическое обозначение поликодовость, соединение разных модальность - полимодальность. Мы не будем останавливаться на явлении первого типа (более подробно см. [10]) и перейдем к рассмотрению явления полимодальности.

В отличие от собственно когнитивной проблемы изучения полимдальности восприятия, в лингвоко-гнитивных исследованиях данный феномен приобретает некоторое своеобразие, обусловленное неоднородностью объекта изучения. В частности, речь идет о разграничении двух объектов изучения:

1) языковые единицы, семантически репрезентирующие уже сформированный на многоканальной перцептивной основе «чувственный образ объекта»;

2) «полимодальные тексты», под которыми мы понимаем тексты, задействующие различные сен-

сорные каналы восприятия адресата для собственной репрезентации (например, кинотексты).

Интерпретация языковых единиц. Широта научной интерпретации терминов «модальность» и «полимодальность» детерминирует разнообразие объектов изучения в рамках лингвокогнитивных исследований.

Повторим, что восприятие одного и того же объекта действительности возможно в рамках одновременно нескольких сенсорных каналов: предмет можно увидеть, можно ощутить тактильно, попробовать на вкус и т. д. Все полученные на физиологическом уровне ощущения ложатся в основу формирования психологического образа объекта.

Полимодальный перенос. Наиболее наглядно подобные чувственные образы выражаются в языковых единицах, имплицитно соединяющие в себе информацию разной перцептивной природы (слова типа сухой [на вид] - сухой [на ощупь]; шершавый [на вид] -шершавый [на ощупь]). В данном случае речь идет о наслоении информации из тактильного и визуального секторов. Другим примером может служить соединение информации обонятельного и вкусового характера: пряный [запах] - пряный [вкус] [11].

Таким образом, в случаях с полимодальным переносом мы имеем дело с комплексным чувственным образом, сформированным на основе информации из нескольких смежных каналов восприятия. При этом речь идет о реально воспринимаемых характеристиках предмета.

Интермодальный перенос. Наряду с моно- и полимодальным восприятием некоторые ученые дополнительно выделяют интермодальное [12], предполагающее бимодальный характер сочетания сенсорных каналов (например, визуальный и аудиальный) [13. С. 9].

В отличие от рассмотренного выше полимодального переноса, интермодальный опирается на такую характеристику объекта, которая в действительности не соответствует реальному перцептивному ощущению. Примером может служить словосочетание яркий звук, соединяющее в себе информацию из визуального и аудиального секторов. Именно интермодальный перенос лежит в основе метафорического явления синестезии и соощущения [14, 15].

Нужно добавить, что подобные комплексные чувственные образы могут быть сформированы на основе интрамодального (одноименного) и интермодального

(разноименного - не следует путать с вышеописанным интермодальным переносом) сочетания информации.

Одноименные, или интрамодальные, взаимодействия предполагают сочетания ощущений из одного перцептивного канала (форма, цвет, размеры - визуальный канал восприятия).

Разноименные, или интермодальные, взаимодействия сочетают ощущения из разных перцептивных каналов.

Восприятие полимодальных текстов. Вторым объектом лингвокогнитивных полимодальных исследований становятся так называемые полимодальные тексты, особенность которых заключается в актуализации сразу нескольких перцептивных каналов восприятия адресата для собственной репрезентации.

Текст, как и единичные вербальные стимулы, выступает не только в качестве субстрата существования полимодального чувственного образа объекта, посредством которого этот образ может изучаться, но и сам становится самостоятельным объектом полимодального исследования (существует в разных модальностях).

Таким образом, мы имеем два лингвокогнитивных объекта изучения в рамках полимодальных исследований и, соответственно, две проблемы:

- полимодальная природа образа, обозначенного языковой единицей / текстом;

- полимодальная природа восприятия собственно языковой единицы / текста, т.е. восприятие через разные сенсорные каналы.

Каждая из этих проблем существует на уровне единичного вербального стимула или на уровне текста (рис. 1).

Слово

ОБЪЕКТ ИССЛЕДОВАНИЯ

1

Предложение

Полимодальная природа восприятия (внешняя характеристика)

Полимодальная природа образа

(внутренняя характеристика)

Полимодальная природа образа

(внутренняя характеристика)

Полимодальная природа восприятия

(внешняя характеристика)

1

Г

i

Мономодальность

слово в одной модальности

Полимодальность

слово в двух или нескольких модальностях

Монокодовость

вербальный текст

Мономодальность

\

Полимодальность

\

Поликодовость

вербально-иконический текст (инструкция, комикс)

Монокодовость

только вербальный текст в обеих модальностях

Поликодовость

использование поликодового текста в одной или нескольких модальностях

Рис. 1. Характеристика объекта исследования. Границы поликодовости и полимодальности

В данной смехе полимодальная природа восприятия слова обладает меньшими характеристиками в сравнении с текстом, поскольку слово может существовать только в рамках вербального кода (не может быть достроено в поликодовость). При этом слова (равно как и тексты), содержащие либо не содержащие полимодальную природу образа, могут быть двумя самостоятельными объектами исследования в рамках изучения полимодальной природы восприятия (могут восприниматься посредством нескольких сенсорных каналов одновременно).

Нельзя говорить о преимуществе одного объекта исследования перед другим, каждый в данном случае позволяет решить свои конкретно-исследовательские задачи, а потому изучение текстов и слова должно находиться в ситуации взаимодополнения.

Ранее мы обращались к изучению особенностей полимодального восприятия [19] монокодовых и поликодовых текстов, в данной статье речь пойдет о

восприятии вербальных стимулов, существующих в условиях конфликта модальностей.

Таким образом, мы ограничиваем условия существования вербального кода полимодальным (аудиально-визуальным) восприятием, исключая влияние иных факторов (контролируя все характеристики слова и добиваясь «чистоты» экспериментального стимульного материала). Все это позволит нам с высокой степенью определенности говорить о доминирующей модальности при восприятии вербального текста, а также проследить особенности восприятия слов в условиях модального конфликта.

Экспериментальное установление закономерностей сенсорного межмодального взаимодействия вербальных стимулов становится важным шагом при изучении текстов полимодального характера.

Постановка проблемы. Нами была проведена серия экспериментов, направленных на изучение конкуренции аудиального и визуального каналов при

предъявлении однородной вербальной информации в условиях конфликта модальностей.

Мы преследовали следующие исследовательские цели:

- изучить особенности бимодального восприятия вербальных стимулов в условиях конфликта модальностей;

- выявить влияние конфликтной «фоновой» информации на восприятие информации из поля произвольного внимания;

- выделить ведущую модальность при бимодальном (аудиально-визуальном) восприятии.

Гипотеза. Мы предположили, что при наличии произвольного внимания, установленного на восприятие вербальной информации одной из модальностей (визуальной), автоматически усваивающаяся подобная информация второй модальности (аудиальной) будет влиять на восприятие исходной модальности и на решение связанной с ней задачи.

Эксперимент 1. Серия экспериментов была написана и проведена при помощи программы E-Prime 2.0 (Copyright 1996-2012 Psychology Software Tools).

Основной эксперимент предполагал параллельное бимодальное предъявление слов, содержащих идентичную или конфликтную информацию по категории одушевленности, и состоял из подготовительного и основного этапов.

На подготовительном этапе (претест) нами было отобрано 120 существительных с различной частотностью употребления, проверявшейся по «Новому частотному словарю» [15], созданному на основе Национального корпуса русского языка (НКРЯ). Учитывался параметр ipm для каждого слова (число употреблений на миллион слов корпуса).

В качестве задания к основному эксперименту использовался базовый когнитивный процесс категоризации (G. Lakoff, F.A. Bleasdale, Н.П. Радчикова) с категорией одушевленности в основе [16]. Данная категория была выбрана нами как одна из наиболее семантически сильных для создания идентичных и конфликтных случаев в обеих модальностях, однако изучение восприятия собственно одушевленности не представляло для нас исследовательского интереса.

Для ранжирования всех отобранных стимулов по обозначенной категории (для последующей категоризации в ходе проведения экспериментальной сессии) в сознании носителей языка на этапе претеста респондентам были предложены шкалы Лайкерта (общее число участников N = 63, все - студенты вузов от 18 до 23 лет) для шкалирования субъективной одушевленности по семибалльной системе (от 1 до 7, где 1 -очень I самое неодушевленное, 2 - неодушевленное, 3 - скорее неодушевленное, 4 - столько же неодушевленное, сколько и одушевленное, 5 - скорее одушевленное, 6 - одушевленное, 7 - очень I самое одушевленное).

Из них для формирования экспериментального стимульного материала было отобрано 80 слов: по 40 слов максимальной и минимальной субъективной одушевленности. Двусторонняя значимость между группами стимулов по фактору категории одушев-

ленности ^-критерий для независимых выборок) составила р<0,0001.

Одновременно мы исключили влияние фактора частотности на возникновение функциональной асимметрии модальностей: двусторонняя значимость ^-критерий для независимых выборок) групп стимулов в каждой из модальностей (аудиальной и визуальной) составила р = 0,755.

В дальнейшем стимулы были сформированы в пары (один для аудиальной, другой для визуальной модальности) с учетом обоих критериев (таблица). Формирование происходило на основании категории одушевленности (О-одушевленный, М-неодушевленный): всего четыре случая, из которых два совпадения (О-О, N М) и два конфликта (О-М N-0).

Типы стимульного материала в эксперименте 1

я Визуальная модальность Аудиальная модаль-

ч у (экран) ность (наушники)

= Одушевленное Одушевленное

и Одушевленное Неодушевленное

Неодушевленное Одушевленное

И Неодушевленное Неодушевленное

При формировании пар также учитывался фактор длины слогов (количество слогов стимула аудиальной модальности попарно совпадает с количеством слогов стимула визуальной).

Дизайн эксперимента, таким образом, выглядел следующим образом: 2 х 2, где в качестве независимых переменных выступили соотношение модальностей (аудиальная х визуальная) и категория одушевленности (одушевленное х неодушевленное). В качестве зависимых переменных собирались данные времени реакции (ЯТ) и точность выполнения задания на категоризацию (АСС).

Испытуемые. В качестве испытуемых выступили студенты различных факультетов, не участвовавшие в претесте, в возрасте от 19 до 23 лет, с нормальным или скорректированным до «нормального» зрением и нормальным слухом общим числом 26 человек, из которых 10 - мужчины.

Процедура. После фиксационного креста (500 мс) шли псевдорандомизированные пары стимулов (контрбалансировка2 ответов соблюдена), один из которых появлялся на экране в течение максимум 3 000 мс до нажатия клавиш 1 (одушевленное) или 2 (неодушевленное). Другой вербальный стимул одновременно с появлением слова на экране звучал в наушниках, имеющих перекрывающую поверхность. Перед началом новой пробы появлялся пустой экран (500 мс). Эксперимент предполагал наличие тренировки (10 пар стимулов), данные которой не учитывались при анализе.

Произвольное внимание респондентов, таким образом, было установлено на визуальную модальность (особенности инструкции: следовало категорировать слово, которое будет выводиться на экране).

Анализ результатов. Для анализа выбора ответа использовались все данные, за исключением несколь-

ких случаев технических ошибок респондентов (нажатие «пробела» вместо верной клавиши и т.п.).

Чтобы избежать появления паттернов, детерминированных неквалифицированными ответами (респондент не следовал инструкции, нажимал одну клавишу, не понял условия и т.д.), перед анализом данные обрезались более чем на ±2 стандартных отклонения для каждого из условий. Всего 4,7% данных было исключено из анализа.

Анализ (Repeated Measures ANOVA) данных по показателю RT выявил наличие статистически значимого эффекта (F (1, 24) = 7,5; p = 0,01) по фактору соотношения модальностей: несмотря на наличие установленного на визуальной модальности произвольного внимания, в случаях конфликта стимулов в аудиальной и визуальной модальностях время реакции увеличивается (рис. 2).

1000 -.-1-

980 ■ -Г

960 ■

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

940

880 ■ -L-

860 ■ 840 ■

820 -'-■-

соответствие несоответствие

Рис. 2. Межмодальное соотношение типа стимулов по фактору времени реакции

0,97 0,96 0,95 0,94 0,93 0,92 0,91 0,90

несоответствие соответствие

Рис. 3. Межмодальное соотношение типа стимулов по фактору процента ошибок

Схожие результаты были получены и в ходе анализа (ANOVA) процента ошибок при выполнении задания (F (1, 36) = 7; р = 0,01): вероятность выбрать ошибочный вариант в случаях конфликта модальностей значимо повышается в сравнении со случаями совпадения (рис. 3).

Эксперимент 2. Нами также был проведен дополнительный эксперимент, направленный на выявление доминирующей модальности с одновременным исключением фактора установленного произвольного внимания.

В качестве стимулов выступили исходные стимулы первого эксперимента, перегруппированные в соответствии с новым заданием: выявлением ведущей перцептивной модальности при восприятии вербальных стимулов.

Испытуемые. В качестве испытуемых выступили студенты различных факультетов, не участвовавшие в претесте, в возрасте от 19 до 23 лет, с нормальным или скорректированным до «нормального» зрением и нормальным слухом общим числом 40 человек, из которых 20 - мужчины.

Процедура. После фиксационного креста (500 мс) шли псевдорандомизированные пары стимулов (контрбалансировка ответов соблюдена), один из которых появлялся на экране в течение максимум 3 000 мс до нажатия клавиши 1 (одушевленное) или 2 (неодушевленное). Другой вербальный стимул одновременно с появлением слова на экране звучал в наушниках, имеющих перекрывающую поверхность. Перед началом новой пробы появлялся пустой экран (500 мс). Эксперимент предполагал наличие тренировки (10 пар стимулов), данные которой не учитывались при анализе.

В отличие от первого эксперимента, от респондентов требовалось определить, в какой из модальностей будет предъявлен одушевленный стимул, и нажать клавиши 1 либо 2 для визуальной и аудиальной модальностей соответственно.

Следовательно, мы снимали фактор наличия произвольности внимания в визуальной модальности, распределяя его одновременно по обоим сенсорным каналам: визуальному и аудиальному.

Таким образом, мы имеем один независимый фактор - фактор модальности (визуальной х аудиальной). В качестве зависимых переменных выступили фактор времени реакции (RT), а также фактор правильности выполнения задания на категоризацию (ACC).

Анализ результатов. Для анализа выбора ответа использовались все данные, за исключением нескольких случаев технических ошибок респондентов (нажатие «пробела» вместо верной клавиши и т.п.).

Перед анализом данные обрезались более чем на ±2 стандартных отклонения для каждого из условий (всего 4% от общего числа данных).

Анализ (One-way ANOVA) данных эксперимента по фактору времени реакции позволил сделать вывод о том, что ведущей для восприятия является визуальная модальность (F(1, 38) = 8,1244, p = ,007) (рис. 4).

1160 1140 1120 1100 1080 1060 1040 1020 1000

audial verbal

modality

Рис. 4. Соотношение модальностей по фактору времени реакции

Выводы. Исследуя полимодальное восприятие вербальных стимулов в условиях конфликта модальностей, мы пришли к следующим выводам:

Ведущей для восприятия вербальной информации является визуальная модальность, что также подтвер-

ждается данными проведенного нами ранее психолингвистического эксперимента [8].

Иными словами, в оппозиции модальность - тип информации в рамках полимодального восприятия ведущая роль принадлежит модальности.

Полученные экспериментальные данные позволяют говорить об отсутствии зависимости существующей функциональной асимметрии межмодального вербального восприятия (выделение визуальной модальности в качестве ведущей) от типа заложенной категории (отсутствие интеракции между факторами). Следовательно, данный результат должен быть воспроизводим и в условиях иных семантических оснований.

Однако выявленная значимая разница в скорости восприятия аудиально-визуальных пар с конфликтной и идентичной информацией (последние воспринимаются значимо быстрее) позволяет говорить о существенном влиянии типа информации на восприятие: фоновая (звучащая вне установленного произвольного внимания респондентов) информация ускоряет либо замедляет восприятие информации из области произвольного внимания. Таким образом, можно говорить о некоторых собственно когнитивных процессах при восприятии информации, недетерминированных фактором ведущей модальности. Вопрос полимодального восприятия и восприятия полимодальных текстов достаточно обширный, и наше исследование -лишь шаг на пути к его дальнейшему изучению.

ПРИМЕЧАНИЯ

1 Собственно лингвистическая традиция трактует данный термин как текстовую категорию, подразумевающую субъективно-оценочную характеристику предмета речи (см., например: [8]).

2 Речь идет о соблюдении симметрии в расположении «правильных» ответов для каждой из модальностей и каждой из рук, чтобы избежать выработки ложного автоматизма для одного из условий в ходе проведения эксперимента.

ЛИТЕРАТУРА

1. Гальперин И.Р. Текст как объект лингвистического исследования. 4-е изд., стереотип. М. : КомКнига, 2006. 144 с. (Лингвистическое

наследие XX века.)

2. Анисимова Е.Е. Лингвистика текста и межкультурная коммуникация (на материале креолизованных текстов) : учеб. пособие. М. : Акаде-

мия, 2003. 128 с.

3. Hayes D., Birnbaum D. Preschoolers' retention of televised events: Is a picture worth a thousand words? // Developmental Psychology. 1980.

№ 16. P. 410-416.

4. КибрикА.А. Мультимодальная лингвистика // Киогнитивные исследования - IV. М. : ИП РАН, 2010. С. 134-152.

5. Шариффулин С.Б. Вербально-иконические тексты в соверемнной музыкальной коммуникации (на материале видеоклипов) : автореф.

дис. ... канд. филол. наук. Кемерово, 2013. 20 с.

6. Рогожникова Т.М., Навалихина А.И. Доминантные модальности восприятия и их динамика // Вестник Башкирского университета. 2011.

Т. 16, № 2. С. 469-473.

7. Никитина Э.Г. Экспериментальное исследование восприятия телевизионных спортивных репортажей // Вестник Череповецкого государ-

ственного университета. № 4. С. 72-76.

8. Lakoff G., Johnson M. Women, Fire, and Dangerous Things. What Categories Reveal about the Mind. Chicago : Chicago University Press, 1987.

9. Ананьев Б.Г. Теория ощущений. Л. : ЛГУ, 1961. С. 89-112.

10. Некрасова Е.Д. К вопросу о восприятии полимодальных текстов // Вестник Томского государственного университета. 2014. № 378.

C. 45-48.

11. Елисеева О.А. Метонимические и метафорические способы описания характера концептуализации чувственного восприятия // Филоло-

гические науки. Вопросы теории и практики № 5 (23) : в 2 ч. Тамбов : Грамота, 2013. Ч. 1. С. 62-65.

12. Ertel S., Kemmler L., Stadler M. Gestalttheorie in der Modernen Psychologie: Wolfgang Metzger zum 75 // Geburtstag. Darmstadt : Steinkopff,

1975. 332 p.

13. Камынина О.Е. Развитие полимодального восприятия у младших школьников в процессе музыкальной деятельности : автореф. дис. ... канд. психол. наук. СПб., 2009. 23 с.

14. Елина Е.А. Вербальные интерпретации произведений изобразительного искусства. Номинативно-коммуникативный аспект / под ред.

В.И. Карасика. Саратов : Саратов. гос. соц.-эконом. ун-т, 2002. 256 с.

15. Степанян Л.Л. Синестезия и эмоциональность речи // Вестник Московского университета. 2004. № 4. С. 115-120.

16. Большакова Л. С. О содержании поликодовый текст // Вестник Новгородского государственного университета. 2011. № 49. С. 48-51.

17. Ляшевская О.Н., Шаров С.А. Частотный словарь современного русского языка (на материалах Национального корпуса русского языка). М. : Азбуковник, 2009.

Статья представлена научной редакцией «Филология» 02 декабря 2014 г.

THE INFLUENCE OF INTERMODAL CONFLICT ON PERCEPTION OF VERBAL STIMULI

Tomsk State University Journal, 2015, 392, 21-26. DOI 10.17223/15617793/392/3

Nekrasova Elena D. Tomsk State University (Tomsk, Russian Federation). E-mail: [email protected] Keywords: multimodal perception; multimodal text; multimodalit; percertion of the text; multimodal conflict.

This paper deals with the problem of multimodal perception of verbal signs. Human perception is multimodal. The study of multimodal texts and multimodal perception of words is a step towards the study of multimodal perception in general. The author conducted a series of experiments aimed at the study of the competition of the audial and visual channels while homogeneous verbal information is being presented in the condition of modality conflict. The author pursued the following research objectives: to study characteristics of bimodal perception of verbal stimuli in conflict modalities; to identify the impact of conflict "background" information on the perception of information extracted from the field of voluntary attention; to select a leading modality in bimodal (audial-visual) perception. The research hypothesis is that when the voluntary attention is focused on verbal information of one of the modalities (visual), information acquired automatically via the second modality (audial) will affect the perception of the former original modality as well as the solution of the tasks related to this original modality. The experiment method was selected as the leading research method. The experimental series consisted of two independent experiments. The main experiment presupposed parallel bimodal presentation of words that contain identical or conflicting information in animateness category, and consisted of preparatory (pretest) and primary stages. The second experiment aimed at identifying the dominant modality in the multimodal perception of verbal stimuli. Visual modality proves to be a leading modality for the perception of verbal information. In other words, modality has a leading role in the modality - type of the information opposition in case of multimodal perception. The experimental data show that the existing functional asymmetry of intermodal verbal perception (visual modality playing a leading role) does not depend on the type of category (no interaction between factors). Therefore, this result should be replicable in terms of other semantic factors. However, the difference in speed during the perception of audio-visual pairs with conflict and identical information (mismatch pairs are perceived significantly faster) shows significant effects of type of information on perception: the background information (which sounds outside voluntary attention of respondents) accelerates or slows down the perception of information from the field of voluntary attention. Thus, it is possible to speak about some cognitive processes, accompanying the perception of information which are not determined by a leading modality.

REFERENCES

1. Gal'perin I.R. Tekst kak ob"ekt lingvisticheskogo issledovaniya [Text as an object of linguistic research]. 4th edition. Moscow:

KomKniga Publ., 2006. 144 p.

2. Anan'ev B.G. Teoriya oshchushcheniy [The theory of sensations]. Leningrad: Leningrad State University Publ., 1961, pp. 89-112.

3. Nekrasova E.D. On multimodal perception of the text (a psycholinguistic experiment). Vestnik Tomskogo gosudarstvennogo uni-

versiteta - Tomsk State University Journal, 2014, no. 378, pp. 45-48. (In Russian).

4. Eliseeva O.A. Metonymic and metaphorical ways of describing sensory perception conceptualization nature. Filologicheskie nauki.

Voprosy teorii i praktiki - Philological Sciences. Issues of Theory and Practice, 2013, 5 (23), pt. 1, pp. 62-65. (In Russian).

5. Ertel S., Kemmler L., Stadler M. Gestalttheorie in derModernen Psychologie: WolfgangMetzger zum 75. Darmstadt: Steinkopff,

1975. 332 p.

6. Kamynina O.E. Razvitie polimodal'nogo vospriyatiya u mladshikh shkol'nikov v protsesse muzykal'noy deyatel'nosti: avtoref. dis.

kand. psikhol. nauk [Development of multimodal perception in primary school children in the musical activity. Abstract of Psychology Cand. Diss.]. St. Petersburg, 2009. 23 p.

7. Elina E.A. Verbal'nye interpretatsii proizvedeniy izobrazitel'nogo iskusstva. Nominativno-kommunikativnyy aspekt [Verbal inter-

pretation of works of art. The nominative-communicative aspect]. Saratov: Saratov Saratov State Social-Economic University Publ., 2002. 256 p.

8. Stepanyan L.L. Sinesteziya i emotsional'nost' rechi [Synesthesia and emotionality of speech]. VestnikMoskovskogo universiteta -

Moscow University Bulletin, 2004, no. 4, pp. 115-120.

9. Anisimova E.E. Lingvistika teksta i mezhkul'turnaya kommunikatsiya (na materiale kreolizovannykh tekstov) [Text linguistics and

intercultural communication (based on creolized texts)]. Moscow: Akademiya Publ., 2003. 128 p.

10. Hayes D., Birnbaum D. Preschoolers' retention of televised events: Is a picture worth a thousand words? Developmental Psychology, 1980, no. 16, pp. 410-416.

11. Kibrik A.A. Mul'timodal'naya lingvistika [Multimodal linguistics]. In: Kognitivnye issledovaniya - IV [Cognitive studies - IV]. Moscow: IP RAS Publ., 2010, pp. 134-152.

12. Shariffulin S.B. Verbal'no-ikonicheskie teksty v soveremnnoy muzykal'noy kommunikatsii (na materiale videoklipov): avtoref. dis. kand. filol. nauk [Verbal and iconic texts of modern musical communication (based on video clips). Abstract of Philology Cand. Diss.]. Kemerovo, 2013. 20 p.

13. Rogozhnikova T.M., Navalikhina A.I. Dominantnye modal'nosti vospriyatiya i ikh dinamika [Dominant modalities of perception and their dynamics]. Vestnik Bashkirskogo universiteta - Bulletin of Bashkir University, 2011, vol. 16, no. 2, pp. 469-473.

14. Nikitina E.G. An experimental research of perception of the sport television reportage. Vestnik Cherepovetskogo gosudarstvennogo universiteta, 2011, no. 4, vol. 2, pp. 72-76. (In Russian).

15. Bol'shakova L.S. O soderzhanii ponyatiya "polikodovyy tekst" [The content of the concept "polycode text"]. Vestnik Novgo-rodskogo gosudarstvennogo universiteta - Vestnik of Yaroslav the Wise Novgorod State University, 2008, no. 49, pp. 48-51.

16. Lyashevskaya O.N., Sharov S.A. Chastotnyy slovar' sovremennogo russkogo yazyka (na materialakh Natsional'nogo korpusa russkogo yazyka) [Frequency dictionary of modern Russian language (on materials of the Russian National Corpus)]. Moscow: Azbukovnik Publ., 2009.

17. Lakoff G., Johnson M. Women, Fire, and Dangerous Things. What Categories Reveal about the Mind. Chicago: Chicago University Press, 1987.

Received: 02 December 2014

i Надоели баннеры? Вы всегда можете отключить рекламу.