Научная статья на тему 'Опыт адаптации зарубежного опросника: организационный и содержательный аспект'

Опыт адаптации зарубежного опросника: организационный и содержательный аспект Текст научной статьи по специальности «Психологические науки»

CC BY
4252
617
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
АДАПТАЦИЯ ТЕСТОВ / ПСИХОДИАГНОСТИКА / ПСИХОМЕТРИКА / ПЯТИФАКТОРНАЯ МОДЕЛЬ ЛИЧНОСТИ / ОПРОСНИК NEO PIR / TESTS ADAPTATION / PSYCHODIAGNOSTICS / PSYCHOMETRICS / FIVE FACTOR MODEL OF PERSONALITY / NEO PI-R QUESTIONNAIRE

Аннотация научной статьи по психологическим наукам, автор научной работы — Орёл Валерий Емельянович, Сенин Иван Геннадьевич

В статье приводится опыт адаптации зарубежного теста на примере опросника NEO PIR. Рассматриваются организационные аспекты создания русскоязычной версии теста, связанных с соблюдением международных правовых норм. Описывается традиционная процедура создания первичной формы опросника и его психометрической проверки. Анализируются причины низкой эффективности утверждений, выявленных после анализа пунктов, а также некоторые моменты проверки психометрических характеристик теста.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

The experience of adaptation of foreign questionnaire: organizational and content aspects

In this article is presented the experience of creating the Russian language's version of NEO PI-R questionnaire, which American psychologists P. Costa and R. McCrae developed on base of Five Factor model of personality. The authors of this article fix on organizational aspects of creating the Russian language's version of NEO PI-R concerned with legal using of foreign tests. Substantial aspect is presented the description of usual procedure of creating of primary form of questionnaire and its psychometric verification. The accent is making on reasons of low effectiveness of some positions after «item-analysis» and criterial validity. This article may be useful for potential creators and users of tests.

Текст научной работы на тему «Опыт адаптации зарубежного опросника: организационный и содержательный аспект»

УДК 159.938.3 ББК Ю937

ОПЫТ АДАПТАЦИИ ЗАРУБЕЖНОГО ОПРОСНИКА: ОРГАНИЗАЦИОННЫЙ И СОДЕРЖАТЕЛЬНЫЙ АСПЕКТ

В.Е. Орёл, И.Г. Сенин

В статье приводится опыт адаптации зарубежного теста на примере опросника NEO PI- R. Рассматриваются организационные аспекты создания русскоязычной версии теста, связанных с соблюдением международных правовых норм. Описывается традиционная процедура создания первичной формы опросника и его психометрической проверки. Анализируются причины низкой эффективности утверждений, выявленных после анализа пунктов, а также некоторые моменты проверки психометрических характеристик теста.

Ключевые слова: адаптация тестов, психодиагностика, психометрика, пятифакторная модель личности, опросник NEO PI- R.

Введение в проблему

Исследование различных закономерностей функционирования и развития личности не возможно без наличия соответствующего диагностического инструментария. Вот почему проблема конструирования и использования психологических тестов является важнейшим аспектом наших научных интересов. Без ее решения невозможно проведение многих научных исследований, касающихся в частности, изучения специфики формирования личности в различных видах профессиональной деятельности.

В настоящее время отечественная психодиагностика имеет очень ограниченный арсенал стандартизированных личностных тестов, большинство из которых являются адаптированными вариантами зарубежных методик. Подобная ситуация в психодиагностике усугубляется еще и тем, что большинство адаптированных зарубежных тестов не содержит информации о способах и результатах их психометрической проверки. Некоторые же варианты личностных опросников, имеющее хождение в нашей стране, представляют собой простой перевод зарубежных тестов, без какой-либо статистической проверки и достаточной адаптации к условиям нашей культуры. Более того, подавляющее большинство переводов зарубежных опросников представляют собой контрафактную продукцию, что в современных условиях интеграции российской психологии в мировое психологическое сообщество не может не волновать зарубежных партнеров в плане нарушения авторских и издательских прав.

Поэтому появление любой новой хорошо проверенной и легально приобретенной методики диагностики личности будет способствовать не только повышению эффективности психологических исследований, получению более надежных данных, но и обеспечит возможность отечественных психологов безбоязненно презентировать результаты своих исследований на международных психологических форумах и избавит их от неприятностей судебного толка.

Целью настоящей статьи является ознакомление с опытом адаптации зарубежной методики с соблюдением всех юридических и психометрических мировых стандартов на примере широко известной за рубежом и ставшей в последнее время популярной у нас в стране, личностной методики NEO PI-R. Русскоязычная версия опросника NEO-PI-R была создана в 1997 году международным коллективом психологов в рамках научного сотрудничества между Ярославским государственным университетом им П.Г. Демидова и Саскаханна университетом (Пенсильвания, США) с согласия авторов методики и разрешения издательской фирмы. Авторами русскоязычной версии являются В.Е. Орёл, И.Г. Сенин, (Ярославский госуниверситет, Россия) и Томас А. Мартин (Саскаханна университет, США) (Орел, 2004).

Выбор данной методики для применения в русскоязычной культуре был обусловлен следующими причинами:

Во-первых, результаты методики NEO PI-R хорошо коррелируют с оценками по

другим тестам, особенно с теми, которые построены на базе факторного анализа (опросники Г. Айзенка и Р. Кеттелла), что доказывает общность старых факторных моделей и «Большой Пятерки» (Первин и соавт., 2000). Аналогичные данные получены и в исследованиях отечественных ученых. В частности А.Г. Шмелева (Шмелев, 2002).

Во-вторых, существуют доказательства корреляции данных NEO PI-R с результатами оценки личностных черт, полученных с помощью других методов, например Q- сортировки или психосемантических методов (Первин и соавт., 2000, Шмелев, 2002).

В-третьих, опросник хорошо зарекомендовал себя как диагностический инструмент, что подтверждают созданные адаптированные версии опросника NEO PI-R в разных языковых культурах (немецкой, итальянской, китайской, португальской, испанской, японской, польской, и т.п.).

Представленные в таблице пять шкал и тридцать подшкал NEO PI-R позволяют дать исчерпывающую всестороннюю оценку личности взрослого человека.

Прежде чем прейти непосредственно к основным этапам адаптации несколько слов

о самой методике.

Описание методики

NEO PI-R был создан П. Коста и Р. МакКрае для операционализации пятифакторной модели личности (Costa et al., 1992). Эти пять факторов представляют собой наиболее базовые параметры, лежащие в основе личностных черт и идентифицируемые с помощью как языковых, так и психологических инструментов. Шкалы опросника были созданы и усовершенствованы на основе методов факторного анализа. Создатели теста интенсивно исследовали шкалы в течение 15 лет, как в клинике так на здоровых взрослых. В таблице представлен список шкал и подшкал NEO PI-R. Он позволяет дать общее представление о том, что измеряет данный психодиагностический инструмент.

NEO PI-R является инструментом для измерения черт личности у нормальных индивидов. По мнению авторов теста, он может применяться как в клинике, так и в

Шкалы и подшкалы, измеряемые NEO PI-R

N: Нейротизм N1: Тревожность N 2: Враждебность N 3: Депрессия N 4: Рефлексия N 5: Импульсивность N 6: Ранимость

Е: Экстраверсия Е 1: Сердечность Е 2: Общительность Е 3: Настойчивость Е 4: Активность Е 5: Поиск возбуждения Е 6: Позитивные эмоции

О: Открытость опыту О 1: Фантазия О 2: Эстетика О 3: Чувства О 4: Действия О 5: Идеи О 6: Ценности

А: Сотрудничество А 1: Доверие А 2: Честность А 3: Альтруизм А 4: Уступчивость А 5: Скромность А 6: Чуткость

С: Добросовестность С 1: Компетентность С 2: Организованность С 3: Послушность долгу С 4: Стремление к достижениям С 5: Самодисциплина С 6: Обдумывание поступков

научных исследованиях. Существует две версии NEO PI-R:

- форма S - для самооценивания;

- форма R - для экспертной оценки.

Форма S состоит из 240 пунктов, ответы

на которые даются по 5-балльной шкале. Она проводится методом самооценивания и рассчитана на мужчин и женщин, достигших 16 лет. Опросник не предназначен для диагностики личностных характеристик индивидов, страдающих различного рода психическими нарушениями (например, психозами, деменцией и т.п.).

NEO PI-R не предоставляет полной информации, необходимой для всеобъемлющей психологической оценки. В зависимости от оцениваемого индивида для постановки диагноза и плана лечения могут быть необходимы дополнительные исследования: интервью об истории жизни, исследования умственного состояния, измерение когнитивных способностей или лабораторные медицинские тесты. NEO PI-R был создан как часть всестороннего психологического исследования. NEO PI-R представляет собой, в основном, самооценочный инструмент. Поэтому, проведение теста и оценка результата могут быть выполнены человеком, который не имеет опыта в практической психодиагностике, однако интерпретация результатов по NEO PI-R требует профессиональных навыков в психологическом тестировании и психометрике.

Этапы адаптации опросника

Данная работа началась в 1996 году после визита профессора Т. Мартина в Ярославский государственный университет. Начальным этапом работы послужило выяснение вопроса о том, кто является правообладателем данной методики. В нашей науке зачастую бытует мнение о том, что таким лицом является, прежде всего, автор теста. Отчасти это является верным утверждением, но до тех пор, пока он не продает свои права издательской компании. После этого все права принадлежат ей и все переговоры надо проводить соответственно с ее руководителями. Автор методики при этом сохраняет только авторские права, но не имеет права использовать ее в коммерческих целях, в том числе давать разрешение на ее адаптацию иностранным специалистам. Применительно к нашей проблематике правообладателями опросника NEO PI-R является американская издательская компания Psychological Assessment Resources (PAR). Благодаря инициативе Т. Мар-

тина и при поддержке со стороны авторов этого теста, американских психологов П. Косты и Р. Маккрея, нами было получено разрешение от компании на создание русскоязычной версии данного теста в некоммерческих целях. В данном документе указывалось количество разрешенных копий для проведения полноценной верификации. Кроме того, руководство компании PAR запросило рекомендации от наших американских коллег относительно уровня нашей общепсихологической подготовки, подготовки в области психологического тестирования и опыта работы по созданию тестовых методик. И только после этого разрешение было получено, и мы смогли легально приобрести комплект теста на языке оригинала, включающий руководство с описанием всей процедуры его создания, проведения и интерпретации тестовых результатов, сам текст опросника и регистрационный бланк.

Следующим этапом адаптации методики был перевод текста опросника и руководства на русский язык. Если перевод руководств не представлял никаких проблем, то перевод самого текста опросника требовал соблюдения определенных правил. Среди специалистов, не связанных профессионально с адаптацией методик, бытует ошибочное мнение о достаточности обычного перевода методики на русский язык и устранения грубых ошибок для ее дальнейшего использования. Вместе с тем мировая практика диктует совершенно иную, более сложную процедуру данного этапа адаптации. В отечественной психодиагностике данную процедуру использовал Ю.Л. Ханин при создании русскоязычной версии опросника Ч. Спилбергера (Бурлачук,

2003). Она включает следующие мероприятия:

1. Подготовка первичного перевода теста с языка оригинала на другой язык. Данную процедуру должны осуществлять лица, свободно владеющие обоими языками (билингвы) и, желательно, имеющие психологическое образование. С одной стороны, данная процедура не вызывает дополнительных проблем в силу своей конкретности и понятности, но, с другой стороны, может создать трудности, одной из причин которых может быть «стоящая за каждым опросником психометрическая проработка оригинала, заставляющая считать его неприкосновенным» (Бурлачук, 2003, с. 125).

В мировой практике различают два типа перевода: симметричный и ассиметричный.

Симметричный перевод предполагает сохранение, как смысла утверждения, так и привычного, разговорного стиля. Ассиметричный перевод нацелен на сохранение верности какому-либо языку, обычно языку оригинала, ориентируясь на точность смысла и дословность перевода. Разработчики, занимающиеся адаптацией, как правило, ориентируются на ассиметричный перевод, желая сохранить верность оригиналу. Результатом такой деятельности является достаточно неуклюжая с лексической точки зрения конструкция, которая, по справедливому утверждению Л.Ф. Бурлачука, скорее направлена на понимание испытуемым смысла утверждений, чем на диагностику соответствующих личностных характеристик (Бурлачук, 2003).

2. Экспертная содержательная оценка перевода предполагает адаптацию лексики и грамматики языка к возрасту и уровню образования генеральной совокупности, для которой предназначен тест. На этом этапе устраняются наиболее грубые различия между оригиналом и переводом. При этом следует обращать внимание на культурные особенности и другие аспекты жизни того общества, в котором создавался оригинал теста.

3. Проверка эквивалентности перевода оригиналу. Данный этап предполагает соотнесение полученного перевода опросника с внесенными поправками лексического и грамматического плана с оригиналом. Конкретной процедурой такой поверки является обратный перевод с другого языка на язык оригинала. Данный перевод, по нашему мнению, должна осуществлять другая команда билингв с психологической подготовкой, не участвующих на первом этапе.

Именно такая процедура была использована нами при создании русскоязычной версии опросника NEO PI-R. В качестве специалистов выступали лица, как с российской, так и с американской стороны, имеющие базовое психологическое образование и свободно владеющие обоими языками. На каждое утверждение нами была составлена табличка с указанием утверждения на английском языке, его первоначального перевода на русский и обратного перевода с русского на английский. При этом мы не добивались дословного перевода, выражающегося в полном совпадении терминов. При обратном переводе с русского на английский возможным было употребление синонимов, если они точно отража-

ли смысл утверждения и стиль его изложения. С точки зрения имеющейся мировой практики такой обратный перевод с одного языка на другой язык могут осуществляться несколько раз до полного совпадения оригинала и перевода теста, что нами и было сделано.

После достижения эквивалентности перевода и оригинала опросника следующим этапом, по мнению Ю.Л. Ханина, мы должны были бы осуществить сбор новых нормативных данных на отечественной выборке. С нашей точки зрения такой подход не совсем верен, и сбору нормативных данных должна предшествовать стандартная процедура психометрической поверки теста, поскольку после достижения эквивалентности перевода и оригинала и «преодолев лингвистические и социокультурные препятствия, в итоге получаем новый опросник» (Бурлачук, 2003, с. 126). Такая процедура включает анализ пунктов теста и проверку теста по основным психометрическим характеристикам: надежности и валидности. Кроме того, проведенный анализ пунктов теста и вычисление коэффициента дискриминативности может дать дополнительную информацию о тех факторах, которые послужили причиной не способности того или иного задания теста дифференцировать испытуемых на людей с высокими и низкими баллами по тесту. В этом аспекте анализ пунктов теста может служить процедурой для установления тех социокультурных различий между популяциями, которые не удалось выявить на этапе экспертной содержательной оценки.

В частности, после установления эквивалентности перевода опросника NEO PI-R языку оригинала нами был проведен анализ пунктов теста, который выявил слабую различительную способность ряда утверждений оригинала. Как показал дальнейший анализ, причины низкой дискриминативности заданий теста заключались в имеющихся различиях в социально-экономической ситуации в США и России того периода1, а также были обусловлены культурой общества. Основная причина низких коэффициентов дискриминативности заключалась в наличии социокультурных различий между русской и американской выборкой. Особенно чувствительной в этом отношении

1 Начальные этапы адаптации методики NEO PI-R. проводились в 1995-1996 году.____________

оказалась шкала А (Сотрудничество), где очень много утверждений касались социальных и моральных установок людей Например, неудовлетворительными оказались такие утверждения, как «мы никогда не сможем сделать слишком много для бедных и престарелых» или «Я не испытываю сострадания к нищим». Все утверждения этой шкалы отражают установки, симпатии и интерес к другим людям, их потребностям и нуждам. Однако в силу сложившихся социально-экономических условий в России того периода, все, что связано с чуткостью и вниманием по отношению к другим людям для большинства населения России имело второстепенное значение. На первом плане стояли проблемы улучшения своего материального положения, проблемы собственного выживания.

Вторая по значимости причина была связана с неудачным переводом отдельных утверждений (неточность передачи смысла утверждения) или несоответствием стилистическим правилам русского языка. Примером данной причины может служить утверждение «Я легко сопротивляюсь соблазнам». Данный перевод оказался не вполне удачным, поскольку в повседневном русском языке сочетание «легко сопротивляюсь» не употребляется. Другим примером неадекватного перевода можно считать случай, когда перевод неточно передавал смысл измеряемого конструкта, что было вызвано различиями в понимании некоторых понятий в русском и английском языке. Так первичный перевод утверждения из шкалы N (Нейротизм) имел следующую формулировку: «Меня считают “горячим”, темпераментным человеком». Согласно измеряемому конструкту, высокий балл по этой шкале характеризует человека как враждебного, вспыльчивого, раздражительного, легко впадающего в состояние гнева. Однако в русском языке понятие «горячий, темпераментный» человек не обязательно связывается с отрицательными эмоциями и может относиться к человеку активному, энергичному и жизнерадостному, но отнюдь не агрессивному.

Наконец, третьей причиной низких коэффициентов дискриминативности ряда утверждений явилось преобладание женщин над мужчинами. Например, утверждение из шкалы А (Сотрудничество): «Я упорный и упрямый» видимо не отражает психологических особенностей женщин, поскольку подобные утверждения являются скорее характеристиками свойственными мужчинам.

После устранения «не сработавших» утверждений и проведения повторного анализа пунктов теста на более репрезентативной выборке нами была осуществлена полная психометрическая проверка методики с вычислением ретестовой надежности и надежности по однородности, а также критериальной и конструктной валидности. Кроме того, поскольку мы имели дело с многофакторным личностным опросником, мы должны были осуществить проверку воспроизводимости структуры опросника, что и было сделано с помощью факторного анализа.

Мы не будем останавливаться на психометрической проверке опросника, результаты которой представлены в наших работах (Орел, 2004, Орел и соавт, 2003, Martin et al., 2002). Отметим только некоторые моменты, связанные с правилами адаптации в этом аспекте. В соответствие со стандартными требованиями психометрическая проверка адаптируемой методики должна полностью повторять процедуру проверки оригинала в части используемых способов верификации и статистического аппарата (Standarts for Educational..., 1986). И если при проверке надежности и конструктной валидности опросника использовались достаточно традиционные процедуры, то проверка критериальной валидности оригинала осуществлялась несколько специфическим способом: выявлением корреляционной зависимости между ответами на опросник близких родственников, оценивающих как себя так и своего партнера. Нами была осуществлена аналогичная проверка в ходе выполнения совместного с американской стороной исследования особенностей личности людей юношеского и взрослого возраста Центральной России (Costa et al., 2000). Выборку составляли пары близких родственников, долгое время проживающих вместе. Среди взрослых людей это были супружеские пары, а юношеский возраст (16-17 лет) представляли пары братьев и сестер. Всего в исследовании приняли участие 400 пар из 4-х городов Центральной России: Владимира, Вологды, Иваново и Ярославля.

Статистическая обработка полученных результатов продемонстрировала высокую степень связи между собственными оценками и оценками своих партнеров, что свидетельствовало о высоком уровне внешней валидности опросника. Естественно, что данный способ проверки валидности имеет,

с нашей точки зрения, свои недостатки и в других обстоятельствах мы бы предпочли другой вариант проверки, однако в данном случае мы были ограничены рамками процедуры проверки оригинала, которую должны были неукоснительно соблюдать.

Проведенная нами полная психометрическая проверка методики, разработанные нормы и практика использования теста в рамках кросс-культурных исследований (Costa et al., 2000, Draguns et al., 2000, McCrae et al.,

2004) позволила сделать вывод о его высокой эффективности, что логично предполагало использование теста в практике работы отечественных психологов. С этой целью нами был сделан запрос к руководству издательской компании PAR с просьбой о выдаче разрешения на коммерческое использование данной методики. Поскольку Ярославский госуниверситет, на базе которого создавалась методика, не являлся коммерческой организацией, просьба поступила от Научно-производственного центра «Психодиагностика», сотрудники которого участвовали в адаптации теста. После анализа нашей работы и проверки состояния дел НПЦ «Психодиагностика» нами было получено такое разрешение сроком на один год на реализацию определенного числа копий. Это разрешение (лицензия) является платным, и каждый год требует обновления. Согласно лицензии НПЦ «Психодиагностика» в лице ее сотрудников является правообладателем русскоязычной версии опросника NEO PI-R и имеет право продавать данный тест на территории Российской Федерации и стран СНГ. Хождение любых других русскоязычных версий данного теста является незаконным и может быть подвергнуто судебному преследованию.

В настоящее время, помимо лицензии на право продажи русскоязычной версии опросника NEO PI-R, НПЦ «Психодиагностика» имеет аналогичную лицензию на право коммерческого использования русскоязычной версии опросника NEO FF, представляющую собой сокращенный вариант данного теста, состоящий из 60 утверждений и оценивающий только 5 базовых шкал (Орел, 2004).

В заключении хотелось бы отметить, что представленный в данной работе опыт разработки русскоязычной версии зарубежной методики с соблюдением всех юридических и профессиональных норм и требований будет способствовать формированию у будущих пользователей и разработчиков тестов адекватного представления о данной процедуре и

снизит вероятность совершения тех ошибок, которые могут повлиять на возможность и эффективность использования тестов в практике отечественной психодиагностики.

Литература

1. Бурлачук, Л.Ф. Психодиагностика: учебник для вузов / Л.Ф. Бурлачук. -СПб.: Питер, 2003. - 352 с.

2. Орёл, В.Е. Опросник NEO PI-R. Руководство / В.Е. Орёл ИГ. Сент. -Ярославль, НПЦ «Психодиагностика», 2004. -33 с.

3. Орёл, В.Е. Опыт адаптации методики диагностики личностных характеристик NEO PI R / В.Е. Орёл, ИГ. Сенин, Т.А. Мартин // Вестник клинической психологии. -2003. -Т.1. -№2. - С. 193-199.

4. Первин, Л. Психология личности: Теория и исследования / Л. Первин, О. Джон / под ред. B.C. Магуна - М.: Аспект Пресс, 2000.-607 с.

5. Шмелев, А.Г. Психодиагностика личностных черт. - А.Г. Шмелев. - СПб.: Речь, 2002.-480 с.

6. Costa, P. Personality development from adolescence through adulthood further cross-cultural comparisons of age differences / P. Costa, It McCrae, T. Martin, V Oryol, A. Rukavishnikov, I. Senin // In Temperament and Personality Development across the life span // edited by VJ. Molfese, D.L. Molfese. -Lea, New Jersey, London, 2000. -P. 235-253.

7. Costa, P.T. The NEO PI-R. Professional manual. Revised NEO Personality Inventory (NEO-PI-R) and Five factor Inventory (NEO-FFI) /P.T. Costa, R. McCrae. - Odessa, FI: Psychological Assessments Resources, 1992. -101 p.

8. Draguns, J. Personality Characteristics of the Nentsy in the Russian Arctic. / J. Draguns, T. Martin, V. Oryol, A. Krilova, A. Rukavishnikov // American Behavioral Scientist. -2000. - Vol.44. -№1. -P. 126-140.

9. Martin, T. Applications of the Russian NEO-PI-R / T. Martin, P. Costa, V. Oryol, A. Rukavishnikov, I. Senin // The Five-factor model of Personality across culture / edited by R. McCrae, J. Allik. - New York, Boston, London, Moscow, 2002. - P. 261-279.

10. McCrae, R.R. Age differences in personality traits across cultures: self-report and observer perspectives/ RR. McCrae, P. Jr. Costa, M. Hfebickova, T. Urbanek, T.A. Martin, V. Oryol, A. Rukavishnikov, I. Se-

nin // European Journal of Personality. -2004. -

12. Standarts for Educational and Psychological Testing. American Educational Research Association, American Psychological Association, National Council on Measurement in Education, 1986.

Vol. 18. -P. 143-157.

11. McCrae, RR Consensual validation of personality traits across cultures / RR. McCrae, P.T. Costa, T.A. Martin, V.E. Oryol, A.A. Rukavishnikov, I.G. Senin, M. Hrebickovd, T. Urbanek // Journal of Research in Personality. -2004. -Vol.38. -P. 179-201.

Поступила в редакцию 04.12.2008.

Орёл Валерий Емельянович. Доктор психологических наук, профессор кафедры психологии труда и организационной психологии факультета психологии Ярославского государственного университета им. П.Г. Демидова: [email protected].

Valerij Е. Orjol. PsyD, professor of Department of Labour and Organizational Psychology, Psychology faculty, Demidov Yaroslavl State University: [email protected].

Сенин Иван Геннадьевич. Кандидат психологических наук, доцент кафедры психологии труда и организационной психологии факультета психологии Ярославского государственного университета им. П.Г. Демидова, директор НПЦ «Психодиагностика»: [email protected].

Ivan G. Senin. PhD, associate professor of Department of Labour and Organizational Psychology, Psychology faculty, Demidov Yaroslavl State University, the director of SPC «Psychodiagnostics»: [email protected].

i Надоели баннеры? Вы всегда можете отключить рекламу.