Научная статья на тему 'Практика использования современных методов оценки на разных ступенях образования'

Практика использования современных методов оценки на разных ступенях образования Текст научной статьи по специальности «Науки об образовании»

CC BY
511
86
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Образование и наука
Scopus
ВАК
ESCI
Область наук
Ключевые слова
ПРАКТИКООРИЕНТИРОВАННОСТЬ / ОБРАЗОВАНИЕ / АКТИВНЫЕ МЕТОДЫ ОЦЕНКИ / РЕПРОДУКТИВНЫЕ МЕТОДЫ ОЦЕНКИ / ПРОДУКТИВНЫЕ МЕТОДЫ ОЦЕНКИ / ИНТЕРАКТИВНЫЕ МЕТОДЫ ОЦЕНКИ / PRACTICE ORIENTATION / EDUCATION / ACTIVE EVALUATIVE METHODS / REPRODUCTIVE EVALUATIVE METHODS / PRODUCTIVE EVALUATIVE METHODS / INTERACTIVE EVALUATIVE METHODS

Аннотация научной статьи по наукам об образовании, автор научной работы — Емельянова Ирина Никитична, Теплякова Ольга Андреевна, Ефимова Галина Зиновьевна

Введение. Замещение в образовании знаниевой парадигмы практико-ориентированной актуализирует проблемы измерения результатов обучения, для определения которых прежний методический арсенал малопригоден. В настоящее время эталонной системы точной оценки качества освоения учебных программ, ориентированных на компетентностную концепцию образования, не существует. Критерии и материалы для текущего, промежуточного и итогового контроля нередко разрабатываются образовательными организациями разных образовательных уровней самостоятельно. Такая ситуация порождает вопросы о научной обоснованности и валидности диагностического инструментария и о готовности преподавателей к осуществлению контрольно-оценочной деятельности в новых условиях. Цель изложенной в статье работы состояла в изучении особенностей использования современными педагогами методов оценки, устанавливающих уровень сформированности компетенций у обучающихся общеобразовательной школы и студентов учреждений среднего профессионального и высшего образования. Методология и методики. Ретроспективное теоретико-эмпирическое исследование выполнялось с опорой на предложенную И. Н. Емельяновой типологию оценочных средств, согласно которой методы оценки соответствуют критериям интеллектуальной или деятельностной активности и подразделяются на репродуктивные, продуктивные, активные и интерактивные. Посредством планомерных пролонгированных анкетных опросов (в 2013 г. n = 50; в 2014 г. n = 89; в 2015 г. n = 351; в 2016 / 17 гг. n = 612 респондентов) проанализированы специфика и динамика применения педагогами разных ступеней образования дидактических средств контроля приобретаемых обучающимися знаний и умений. Результаты и научная новизна. Констатируется общая положительная тенденция распространения активных методов, фиксирующих результаты обучения. Выстроен рейтинг востребованных и непопулярных в дифференцированной педагогической среде дидактических технологий. Учителя начальной школы чаще всего прибегают к игровым имитационным ситуациям; педагоги среднего и старшего звена школы к проблемным ситуациям; преподаватели профессиональных училищ к организационно-деятельностным играм; в вузах предпочтение отдается дискуссиям. Однако наряду с позитивной динамикой привлечения активных методов для оценки обучения отмечается их несистемное использование. Выявлены и другие слабые места в организации проверки достижений обучающихся. На всех образовательных уровнях по-прежнему преобладают репродуктивные методики и остаются невостребованными интерактивные методы диагностики: в среднем 66% респондентов, участвующих в анкетировании, никогда не применяли в своей практике оценочные способы и средства данной группы, что, безусловно, является сдерживающим фактором реализации практико-ориентированного подхода к обучению. Сделан вывод о неудовлетворительной готовности педагогов к адекватному определению успешности освоения учащимися содержания образовательных программ и пробелов в их подготовке по критериям, заданным требованиями федеральных государственных образовательных стандартов (ФГОС). Практическая значимость. Обсуждение приоритетов преподавателей в выборе средств измерения результатов обучения и вскрытие причин, препятствующих максимальному использованию ресурсов современных методов оценки, стимулирует поиск путей оптимизации системы диагностики реального качества обучения.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по наукам об образовании , автор научной работы — Емельянова Ирина Никитична, Теплякова Ольга Андреевна, Ефимова Галина Зиновьевна

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Modern Evaluation Methods at Various Levels of Education

Introduction. In the field of education, the knowledge-focused paradigm shift to the practice-oriented one updates the problems of measurement of learning outcomes as the former methodical tools are no longer available. Currently, there is no reference system for exact evaluation of the quality of acquisition of training programmes focused on the competency-based concept of education. The criteria and materials for the current, intermediate and total control are quite often developed by the educational organisations of different educational levels independently. Such a situation generates the questions about scientific validity and validity of diagnostic tools, as well as the questions about teachers’ readiness for implementation of control-evaluative activity under new conditions. The aim of the study was to investigate the characteristics of evaluative methods used by modern teachers to establish the level of formation of students’ competencies at schools, vocational secondary schools and universities. Methodology and research methods. The retrospective theoretical-empirical research was carried out according to I. N. Emelyanova’s typology of evaluative means, according to which the methods of evaluation correspond to the criteria of intellectual or activity-based performance and are subdivided into reproductive, productive, active and interactive. The specific character and dynamics of teachers’ application of didactic control devices of knowledge and skills acquired by students at different levels of education are analysed by means of the systematic prolonged questionnaires (n = 50 in 2013; n = 89 in 2014; n = 351 in 2015; n = 612 in 2016/17). Results and scientific novelty. The general positive tendency for the distribution of active methods to consolidate learning outcomes is observed. The ranking list of popular and unpopular didactic technologies in the differentiated pedagogical environment is drawn up. Elementary school teachers most often use game imitating situations; secondary school teachers and senior-level school teachers use problem situations; teachers of vocational schools mostly apply for organisational and activity games; teachers of higher education institutions prefer to hold discussions. However, along with positive dynamics of active methods application for learning assessment, non-systemic use of such methods is noted as well. Also, the authors revealed other weak points when organising student achievement verification. Reproductive techniques continue to dominate at all educational levels and interactive methods of diagnostics are unclaimed: 66% of the respondents of this group never applied assessment techniques and means in practice, which, most certainly, is a deterrent to the realisation of practice-focused approach to education. The conclusion is drawn on inadequate readiness of teachers for appropriate determination of students’ successful acquisition of educational programmes and gaps in their preparation on the criteria required by the Federal State Educational Standards (FSES). Practical significance. The discussion of teachers’ priorities in the choice of tools for the measurement of learning outcomes and identification of the causes of obstacles to the maximum use of resources of modern methods of evaluation contributes to the search of appropriate ways to optimise the system of diagnostics of true education quality.

Текст научной работы на тему «Практика использования современных методов оценки на разных ступенях образования»

ОБЩИЕ ВОПРОСЫ ОБРАЗОВАНИЯ

УДК 37.026 DOI: 10.17853/1994-5639-2019-6-9-28

ПРАКТИКА ИСПОЛЬЗОВАНИЯ СОВРЕМЕННЫХ МЕТОДОВ ОЦЕНКИ НА РАЗНЫХ СТУПЕНЯХ ОБРАЗОВАНИЯ

И. Н. Емельянова1, О. А. Теплякова2, Г. 3. Ефимова3

Тюменский государственный университет, Тюмень, Россия.

E-mail: 'i.n.emelyanova@utmn.ru; 2o.a.teplyakova@utmn.ru, 3g.z.efimova@utmn.ru

Аннотация. Введение. Замещение в образовании знаниевой парадигмы практико-ориентированной актуализирует проблемы измерения результатов обучения, для определения которых прежний методический арсенал малопригоден. В настоящее время эталонной системы точной оценки качества освоения учебных программ, ориентированных на компетентностную концепцию образования, не существует. Критерии и материалы для текущего, промежуточного и итогового контроля нередко разрабатываются образовательными организациями разных образовательных уровней самостоятельно. Такая ситуация порождает вопросы о научной обоснованности и валидности диагностического инструментария и о готовности преподавателей к осуществлению контрольно-оценочной деятельности в новых условиях.

Целъ изложенной в статье работы состояла в изучении особенностей использования современными педагогами методов оценки, устанавливающих уровень сформированности компетенций у обучающихся общеобразовательной школы и студентов учреждений среднего профессионального и высшего образования.

Методология и методики. Ретроспективное теоретико-эмпирическое исследование выполнялось с опорой на предложенную И. Н. Емельяновой типологию оценочных средств, согласно которой методы оценки соответствуют критериям интеллектуальной или деятельностной активности и подразделяются на репродуктивные, продуктивные, активные и интерактивные. Посредством планомерных пролонгированных анкетных опросов (в 2013 г. n = 50; в 2014 г. n = 89; в 2015 г. n = 351; в 2016 / 17 гг. n = 612 респондентов) проанализированы специфика и динамика применения педагогами разных ступеней образования дидактических средств контроля приобретаемых обучающимися знаний и умений.

Результаты и научная новизна. Констатируется общая положительная тенденция распространения активных методов, фиксирующих результаты обучения. Выстроен рейтинг востребованных и непопулярных в дифференцированной педагогической среде дидактических технологий. Учителя начальной школы чаще всего прибегают к игровым имитационным ситуациям; педагоги среднего и старшего звена школы - к проблемным ситуациям; преподаватели профессиональных училищ - к организационно-деятельностным играм; в вузах предпочтение отдается дискуссиям. Однако наряду с позитивной динамикой привлечения активных методов для оценки обучения отмечается их несистемное использование. Выявлены и другие слабые места в организации проверки достижений обучающихся. На всех образовательных уровнях по-прежнему преобладают репродуктивные методики и остаются невостребованными интерактивные методы диагностики: в среднем 66% респондентов, участвующих в анкетировании, никогда не применяли в своей практике оценочные способы и средства данной группы, что, безусловно, является сдерживающим фактором реализации практико-ориентированного подхода к обучению. Сделан вывод о неудовлетворительной готовности педагогов к адекватному определению успешности освоения учащимися содержания образовательных программ и пробелов в их подготовке по критериям, заданным требованиями федеральных государственных образовательных стандартов (ФГОС).

Практическая значимость. Обсуждение приоритетов преподавателей в выборе средств измерения результатов обучения и вскрытие причин, препятствующих максимальному использованию ресурсов современных методов оценки, стимулирует поиск путей оптимизации системы диагностики реального качества обучения.

Ключевые слова: практико-ориентированность, образование, активные методы оценки, репродуктивные методы оценки, продуктивные методы оценки, интерактивные методы оценки.

Благодарности. Статья печатается при поддержке гранта РФФИ № 18-013-00268 А «Формирование исследовательских компетенций обучающихся в системе многоуровневого университетского психолого-педагогического образования и повышения квалификации педагогических кадров». Работа выполнена в рамках государственного задания Минобрнауки РФ «Формирование конкурентоориентированности и конкурентоспособности молодежи в российском обществе в контексте современной социокультурной динамики», проект № 28.2941.2017/4.6 (руководитель - академик РАО, доктор философских наук, профессор, научный руководитель Тюменского государственного университета Г. Ф. Шафранов-Куцев).

Для цитирования: Емельянова И. Н., Теплякова О. А., Ефимова Г. 3. Практика использования современных методов оценки на разных сту-

пенях образования // Образование и наука. 2019. Т. 21, № 6. С. 9-28. DOI: 10.17853/1994-5639-2019-6-9-28

MODERN EVALUATION METHODS AT VARIOUS STAGES

OF EDUCATION

I. N. Emelyanova1, O. A. Teplyakova2, G. Z. Efimova3

University of Tyumen, Tyumen, Russia.

E-mail: 1i.n.emelyanova@utmn.ru, 2o.a.teplyakova@utmn.ru, 3g.z.efimova@utmn.ru

Abstract. Introduction. In the field of education, the knowledge-focused paradigm shift to the practice-oriented one updates the problems of measurement of learning outcomes as the former methodical tools are no longer available. Currently, there is no reference system for exact evaluation of the quality of acquisition of training programmes focused on the competency-based concept of education. The criteria and materials for the current, intermediate and total control are quite often developed by the educational organisations of different educational levels independently. Such a situation generates the questions about scientific validity and validity of diagnostic tools, as well as the questions about teachers' readiness for implementation of control-evaluative activity under new conditions.

The aim of the study was to investigate the characteristics of evaluative methods used by modern teachers to establish the level of formation of students' competencies at schools, vocational secondary schools and universities.

Methodology and research methods. The retrospective theoretical-empirical research was carried out according to I. N. Emelyanova's typology of evaluative means, according to which the methods of evaluation correspond to the criteria of intellectual or activity-based performance and are subdivided into reproductive, productive, active and interactive. The specific character and dynamics of teachers' application of didactic control devices of knowledge and skills acquired by students at different levels of education are analysed by means of the systematic prolonged questionnaires (n = 50 in 2013; n = 89 in 2014; n = 351 in 2015; n = 612 in 2016/17).

Results and scientific novelty. The general positive tendency for the distribution of active methods to consolidate learning outcomes is observed. The ranking list of popular and unpopular didactic technologies in the differentiated pedagogical environment is drawn up. Elementary school teachers most often use game imitating situations; secondary school teachers and senior-level school teachers use problem situations; teachers of vocational schools mostly apply for organisational and activity games; teachers of higher education institutions prefer to hold discussions. However, along with positive dynamics of active methods application for learning assessment, non-systemic use of such methods is noted as well. Also,

the authors revealed other weak points when organising student achievement verification. Reproductive techniques continue to dominate at all educational levels and interactive methods of diagnostics are unclaimed: 66% of the respondents of this group never applied assessment techniques and means in practice, which, most certainly, is a deterrent to the realisation of practice-focused approach to education. The conclusion is drawn on inadequate readiness of teachers for appropriate determination of students' successful acquisition of educational programmes and gaps in their preparation on the criteria required by the Federal State Educational Standards (FSES).

Practical significance. The discussion of teachers' priorities in the choice of tools for the measurement of learning outcomes and identification of the causes of obstacles to the maximum use of resources of modern methods of evaluation contributes to the search of appropriate ways to optimise the system of diagnostics of true education quality.

Keywords: practice orientation, education, active evaluative methods, reproductive evaluative methods, productive evaluative methods, interactive evaluative methods.

Acknowledgements. The present article was published with the financial support of the Russian Foundation for Basic Research, project № 18-01300268 A "Formation of Students' Research Competencies in the System of Multilevel University Psycho-Pedagogical Education and Professional Development of Pedagogical Personnel". The research was performed within the framework of the state task of the Russian Ministry of Education and Science "Formation of Youth Competitiveness in the Russian Society in the Context of Modern Socio-Cultural Dynamics", project № 28.2941.2017/4.6 (scientific supervisor - G. F. Shafranov-Kutsev, Academician of the Russian Academy of Education, Doctor of Philosophical Sciences, Professor, Research Advisor of the University of Tyumen).

For citation: Emelyanova I. N., Teplyakova O. A., Efimova G. Z. Modern evaluation methods at various levels of education. The Education and Science Journal. 2019; 6 (21): 9-28. DOI: 10.17853/1994-5639-2019-6-9-28

Введение

Современное образование всех уровней, от общего до высшего, развивается в новой практико-ориентированной парадигме. В федеральных государственных образовательных стандартах (ФГОС) общего образования акцентируется деятельностный подход к обучению. Образовательные программы среднего профессионального звена реализуют требование максимального приближения текущей и промежуточной аттестации обучающихся к условиям их будущей профессиональной деятельности. Но-

вые ФГОС, которые активно разрабатываются и внедряются в высшей школе, напрямую связываются с профессиональными стандартами. Отечественная образовательная практика всех уровней совершила поворот к формированию компетенций.

Изменения коснулись содержания обучения, организации образовательного процесса и оценки качества освоения программы. Те компетенции, которые необходимо сформировать и оценить, предполагают включенность обучающихся в реальное действие и овладение этим действием. Появились новые термины в области измерения результатов обучения: универсальные учебные действия (УУД), трудовые действия.

На данный момент не существует эталонной системы оценки качества освоения образовательной программы. Средства для текущего, промежуточного и итогового контроля разрабатываются образовательными учреждениями самостоятельно. Такая ситуация порождает сложности, связанные с научной обоснованностью этих средств, валидностью данного инструментария, готовностью преподавателей к организации и осуществлению оценочной деятельности в практико-ориентированной парадигме.

Обозначенные проблемы определили цель теоретико-эмпирического исследования: выявление слабых мест в системе готовности современных педагогов к использованию новых методов оценки сформированных компетенций и проверки уровня конкурентоспособности у обучающихся начального, среднего, старшего звена общеобразовательной школы, а также студентов учреждений среднего профессионального и высшего образования.

Обзор литературы

Интерес к проблеме реформирования системы оценивания проявляют как отечественные, так и зарубежные авторы. Изучаются различные пути решения этой задачи, в том числе в контексте формирования компетенций. Например, специалисты из Открытого университета Каталонии (Испания) провели исследование в области разработки методологии оценивания компетенций, которые они рассматривают как доказанные способности использовать усвоенные знания, навыки и умения в рабочей или учебной ситуации, а также профессиональном или личностном развитии [1, с. 36]. Результаты обучения, по мнению специалистов, должны быть показателями уровня приобретенной компетенции.

В фокусе внимания ученых из Университета Салерно (Италия) оказались проблемы оценки компетенций в соответствии с комплексом навыков (восприятия; воспроизводства; продуцирования; самоконтроля и саморазвития), на которых базируется формирование компетенций [2,

с. 3885]. Финские исследователи из Университета Турку и Университета Ювяскюля обосновали необходимость обновления инструментов измерения инновационного потенциала человека и предложили шкалу инновационных компетенций [3, с. 30].

Д. Уильям, профессор Лондонского университета, развивая идею итогового и формирующего контроля, разработал концепцию «оценки для обучения», которая предполагает получение учениками постоянной обратной связи от учителя для непрерывного улучшения способов овладения знаниями. «Оценка для обучения - это любая оценка, для которой первый приоритет состоит в том, чтобы служить цели содействия обучению студентов, а не для целей отчетности, ранжирования или фиксирования результатов обучения. Оценочная деятельность может помочь в обучении в том случае, если в результате оценки предоставляется информация, которую учителя и студенты могут использовать в качестве обратной связи при оценке себя и друг друга и для изменения преподавания и обучения» [4, с. 3].

Российские специалисты отмечают следующие особенности современных оценочных средств:

• «ориентированность на реальный, конкретный продукт, который самостоятельно создается личностью в процессе учебной и практической деятельности» [5, с. 76];

• возможность «определить соответствие запланированных и получаемых результатов» [6];

• наличие оценочного инструментария, который позволяет получить «интегрированную оценку успешности достижений» [7, с. 26].

Проблема, с которой сталкиваются образовательные организации, решая практико-ориентированные задачи, видится в том, что большинство педагогических работников «не понимают специфики компетенций, а потому и не могут их формировать и оценивать» [8, с. 73], более того, «присутствует негативное отношение к введению инновационных оценочных средств». Для качественной оценки необходимы «эталонные квали-метрические процедуры, которые позволят обеспечить достоверность результатов» [10, с. 64].

В сфере профессиональной подготовки ситуация осложняется тем, что «образовательная и профессиональная среда используют разные системы классификации компетенций» [11, с. 13]. Практико-ориентирован-ное обучение требует создания «новой профессиональной среды, принципиально иных оценочных средств результатов обучения», которые обеспечат приближение оценивания и контроля компетенций «к условиям их бу-

дущей профессиональной практики» [12, с. 11]. Одной из основополагающих характеристик инновационности является готовность «субъектов инновации к изменению себя, перестройке личностных структур» [12, с. 5].

Отечественным научным сообществом широко обсуждаются методы оценки различных форм продуктивной активности обучающихся. О. В. Сидоров и Л. В. Козуб рассматривают такие ее формы, как проекты, кейсы, рефераты, эссе [13]. В работах Ю. Г. Солдатовой, Н. А. Пакшиной, М. С. Маляренко предметом интереса стал веб-квест как способ развития компетенции командной деятельности и работы с информационными ресурсами [14]. Различные авторы изучают роль интерактивных и активных методов оценки в обучении [15-17]. Активность, по их мнению, важна для качественного освоения действительности.

Ориентация на деятельностную активность, согласно Т. М. Безборо-довой, отвечает изменившимся требованиям к выпускнику, «который должен быть наделен такими качествами, как умение гибко адаптироваться в меняющихся жизненных ситуациях, умение самостоятельно приобретать необходимые ему знания, умело применять эти знания на практике для решения разнообразных проблем» [18, с. 51].

Вызовы времени побуждают к поиску оптимальных моделей оценивания результатов обучения. Значимость методик определения уровня мыслительной и деятельностной активности обучающихся обусловлена тем, что в случае их применения у обучающихся формируются глубинный образ и модель социальной и профессиональной действительности через деятельность как атрибут сознания.

Методы и материалы

Одним из авторов данной статьи, профессором Тюменского государственного университета И. Н. Емельяновой разработана и апробирована в ходе мониторинговых полевых исследований классификация форм и методов оценки.

Основу данной классификации составили два критерия:

1) мыслительная активность (предполагает осознанную работу с информацией по созданию нового знания);

2) деятельностная активность (предусматривает вовлеченность обучающегося в групповое взаимодействие, в реальную или смоделированную профессиональную деятельность).

Соответствующая типология (рис. 1) включает четыре вида методов оценки:

• репродуктивные;

• продуктивные;

• активные;

• интерактивные [19].

М)(1тожиьс

Рис. 1. Типология методов оценки [20] Fig. 1. Typology of evaluation methods [20]

Репродуктивные методы оценки результатов обучения целесообразны при низком уровне мыслительной и деятельностной активности обучающихся. Они направлены на проверку знаний, полученных в готовом виде, и умения качественно воспроизводить усвоенный материал. Таких методов довольно много, однако для дальнейшего исследования нами выбраны наиболее распространенные: контрольная работа, письменный экзамен, устный экзамен, тест, опрос, коллоквиум.

Продуктивные методы соотносятся с низким уровнем деятельностной и высоким уровнем мыслительной активности. С их помощью проверяется способность к созданию нового интеллектуального продукта, при этом они не предполагают включенности в реальные жизненные и профессиональные ситуации. В этой группе мы сосредоточили внимание на рефератах, эссе, разработке кластеров и проектов, рецензировании, портфолио.

Активные методы связаны с высокой деятельностной и низкой мыслительной активностью и позволяют оценить готовность включаться в деятельность и осуществлять продуктивное взаимодействие. Из общего массива активных методов обучения нами выбраны игровые имитационные ситуации, организационно-деятельностные игры, дискуссии, мозговой штурм, тренинг, проблемная ситуация.

Интерактивные методы предусматривают высокую деятельнос-тную и мыслительную активность, определяют умение принимать обоснованное решение в проблемной ситуации и позволяют в той или иной степени устранить разрыв между теоретическими знаниями и их применением в реальной жизни или профессиональной практике. Результатом интерактивной деятельности обучающихся должно становиться новое знание. В качестве наиболее показательных интерактивных методик изучались комплексные ситуационные задачи, веб-квесты, кейс-стади, деловые игры, форумы, тесты действия.

На протяжении пяти лет (с 2013 г.) кафедрой общей и социальной педагогики Тюменского государственного университета (ТюмГУ) ведется теоретико-прикладное исследование методов оценки, которые используются педагогами Тюмени в образовательной деятельности, а также выявление слабых мест в соответствующей педагогической практике.

Решение этих задач осуществлялось на основе письменных опросов, в ходе которых педагоги выражали свое отношение к обозначенным в анкетах методам оценки, называли частоту и причины их использования (или неиспользования). Обработка и последующий анализ эмпирических данных проводились посредством лицензионной версии специализированной компьютерной программы SPSS.

Результаты исследования

Первое пилотажное исследование было проведено в 2013 г. Респондентами стали 50 вузовских преподавателей - слушателей курсов повышения квалификации ТюмГУ.

Результаты анкетирования показали, что подавляющее большинство респондентов использует репродуктивные методы обучения и оценки. Степень владения интерактивными методами оказалась крайне низкой. Таким образом, было выявлено «застревание» вузовских педагогов в предметно-знаниевой парадигме. В качестве основной причины отказа от практического применения более эффективного измерительного арсенала педагоги называли свою методическую некомпетентность [21].

На этом этапе производилась апробация исследовательского инструментария, верификация ключевых гипотез.

В 2014 г. аналогичный опрос проводился среди 89 учителей - слушателей курсов повышения квалификации ТюмГУ [22]. Его результаты оказались практически идентичны с полученными годом ранее, статистически значимых различий не отмечено. По частоте использования интерактивные методы оценки занимали последнюю строку рейтинга, прежде всего в связи с неумением организовать процесс обучения и оценки компетенций с помощью данных инструментов. Как правило, педагоги признавались, что не видят их достоинств. По мнению академика РАО В. И. Загвязинского, это одна из типичных ситуаций сопротивления инновациям: «Столкнувшись со сложностью вводимого новшества и с трудностями его постижения, педагоги отказываются от нововведения, используя различные приемы самооправдания и самоутешения» [9, 10].

Исследование, состоявшееся в 2015 г. (участники - 351 учитель города Тюмени) [19], показало изменение тенденции - респонденты отметили некоторые преимущества активных и интерактивных методов оценки компетенций. На первое место среди их достоинств педагоги поставили интерес, который эти методы способны вызвать у обучающихся, а к основным причинам отказа от их применения отнесли времязатратность и непривычность для своих воспитанников. Наиболее освоенными оказались различные формы игровой активности обучающихся, а самыми сложными - кейсы и веб-квесты.

На основании эмпирических исследований в 2016/17 уч. г. был переработан анкетный бланк и предпринят масштабный социологический опрос среди 612 респондентов - учителей общеобразовательных учреждений и преподавателей учреждений среднего профессионального (СПО) и высшего образования. В ходе его проведения планировалось решить следующие ключевые задачи:

1) определить, какие достоинства и недостатки общего арсенала оценочных средств отмечают современные педагоги;

2) выяснить, какими методами оценки уровня сформированности компетенций обучающихся они владеют;

3) проанализировать, какие из методов оценки наиболее популярны в практической деятельности, а какие оказываются невостребованными.

Последовательно рассмотрим полученные нами данные.

Методы оценки должны отвечать следующим характеристикам:

• эффективно проверяют знания;

• определяют сформированное^ компетенций;

• стимулируют самостоятельный поиск информации;

• мотивируют к продуктивному творчеству;

• вызывают интерес обучающихся.

Общая совокупность ответов педагогов всех ступеней образования позволила выделить формы, наиболее часто упоминающиеся в позитивном и негативном контекстах (рис. 2).

Рис. 2. Характеристика педагогами методов оценки Fig. 2. Characteristic of evaluative methods by teachers

Определяя методы оценки, соответствующие критерию «эффективно проверяют знания», педагоги всех уровней образования проявили единодушие: более 90% отметили контрольную работу, более 80% - письменный и устный экзамен. По критерию «проверяют компетенции» приоритет был отдан контрольной работе и устному экзамену; «стимулируют поиск информации» - рефератам, проектам, проблемным ситуациям; «стимулируют творчество» - проектам, рефератам и эссе; «вызывают интерес» - методическим ресурсам, заложенным в игровых имитационных ситуациях, проектах, мозговом штурме.

На разных уровнях образования можно обозначить особые позиции в отношении выделенных нами характеристик методов. Преподаватели вузов первое место в формировании познавательного интереса отдают дискуссиям (84%). Учителя начального звена школы приоритетными для проверки компетенций считают игровые имитационные ситуации (93%). Педагоги СПО отмечают преимущества эссе, стимулирующего поиск информации (91%).

В негативной зоне (наименее востребованные формы) оказались методы, которые по нашей классификации относятся к интерактивным: форум, кейс, веб-квест, тест действия. Половина опрошенных не видят достоинств этих педагогических инструментов. Так, по мнению 70% учителей начального звена, тесты действия не способствуют обретению знания; 67% педагогов среднего и старшего звена полагают, что форумы не формируют компетенций и не располагают к творчеству; 85% педагогов средней профессиональной школы считают, что кейсы неинтересны обучающимся; 56% преподавателей высшей школы уверены, что веб-квесты не стимулируют поиск информации.

Обобщая отношение респондентов к современным оценочным средствам, мы сформулировали следующие выводы:

• большинство педагогов находится в плену традиции: они отдают приоритет контрольным работам и экзаменам при оценивании как знаний, так и компетенций. Вместе с тем последние представляют собой качественно иной уровень овладения знаниями, проявляющийся в сформи-рованности личностной способности обучающихся решать учебные или профессиональные задачи;

• педагоги признают некоторые достоинства активных и продуктивных методов оценки и считают, что игры и дискуссии помогают проверять компетенции и поддержать интерес, а рефераты и проекты стимулируют поиск необходимой информации и творчество;

• интерактивные методы учителя чаще всего относят к числу неэффективных по всем позициям (проверка знаний и компетенций, интерес, творчество, самостоятельность в поиске информации). По их мнению, эти инструменты могут быть использованы лишь в качестве дополнительных, объединяющих и закрепляющих полученные знания, умения и навыки;

• педагогам свойственны некоторые методические заблуждения. Так, относительно близким методам оценки - обсуждению проблемной ситуации и решению кейса - отводятся диаметрально противоположные позиции: согласно представлениям опрошенных, проблемная ситуация содействует самостоятельному поиску информации, а кейс, который по своей сути является структурированной проблемной ситуацией, не стимулирует обучающихся к нахождению дополнительных сведений для решения поставленной задачи.

Перейдем ко второй исследовательской задаче - выявлению конкретных методов оценки, освоенных современными педагогами.

Респонденты, работающие в начальных классах общеобразовательных учебных заведений, отмечают максимальное владение такими мето-

дами, как тест (97%), контрольная работа (95%) и реферат (95%), и считают себя недостаточно компетентными в сфере применения новых методов обучения и оценивания: веб-квестов (65%), форумов (67%) и кейс-ста-ди (69%) (их используют 35, 33 и 31% опрошенных соответственно).

Для педагогов среднего звена школы предпочтительными и хорошо освоенными являются такие инструменты оценивания, как контрольная работа (99%), тест (98%), реферат (95%). Наименее востребованы ими веб-квесты (36%), кейс-стади (35%) и форумы (27%).

Учителя старшей школьной ступени достаточно хорошо владеют методикой проведения контрольной работы (99%), тестов (97%), письменного экзамена (94%), однако только часть из них делает выбор в пользу веб-квестов (41%), кейс-стади (33%) и форумов (28%).

Преподаватели системы СПО наиболее компетентны в проведении тестов (100%), подготовке рефератов (98%) и разработке проектов (96%) и наименее знакомы с методикой проведения веб-квестов (33%), тестов действия (26%) и форумов (23%).

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Большинство представителей профессорско-преподавательского состава вузов успешно применяют методику проведения письменного экзамена (100%), опроса (99%), контрольных работ (99%), но лишь немногие готовы к включению в свою практику кейс-стади (44%), разработки кластера (39%), веб-квестов (28%).

Владение такими интерактивными формами, как комплексные ситуационные задачи, отметили 72,62 и 58% учителей начальных, средних и старших классов школ соответственно, 89% педагогов СПО и 71% преподавателей вузов. Среди работающих в начальном школьном звене деловые игры освоили 64% педагогов, среднем - 75%, старшем - 53%; среди педагогов СПО - 51%, высшего образования - 73%.

Сравнивая сведения об уровне постижения респондентами рассматриваемых методов оценки и данные об их фактическом использовании в педагогической деятельности, мы получили следующие результаты.

Педагоги освоили и задействуют в практике пять из шести обозначенных нами репродуктивных методов оценки: контрольные работы, тесты, устный и письменный экзамены, коллоквиумы. Респонденты отметили владение четырьмя продуктивными методами, такими как реферат, проект, эссе, портфолио, из них фактически используются только первые три. Среди активных освоены и применяются четыре метода: игровые имитационные ситуации, дискуссии, мозговой штурм, проблемная ситуация; среди интерактивных - два: комплексные ситуационные задачи, деловые игры.

Полученные эмпирические данные подтверждают, что педагоги отдают предпочтение тем методам, которыми они в достаточной степени владеют, и весьма негативно воспринимают не освоенные ими методы. В зоне последних у представителей всех ступеней образования находятся интерактивные методы оценки компетенций обучающихся.

Третья исследовательская задача состояла в анализе частоты употребления обозначенных методов оценки. В среднем по выборке максимальной популярностью (варианты ответов: «чаще, чем раз в неделю», «еженедельно», «несколько раз в месяц») обладают опрос (67%), тестирование (45%) и проблемная ситуация (30%), наименьшей - кейс-стади (2%), портфолио (1,5%), тесты действия (1%), форумы (0,7%), веб-квесты (0%). Перечисленные дидактические методики имеют особенности использования на разных ступенях образования и не могут быть одинаково успешно реализованы на каждой них. Важно понимать, что одни из них неприменимы в силу своей специфики и неготовности учеников воспринять конкретную оценочную форму, а другие - по причине некомпетентности педагога в работе с ними. Распределение соответствующих предпочтений респондентов представлено в таблице.

Использование оценочных средств на разных ступенях образования Use of evaluative tools at different levels of education

Boc-требован-ность Выбор педагогами оценочных средств

общее образование среднее профессиональное образование высшая школа

начальное звено среднее звено старшее звено

популярные опрос, тест, игровые имитации опрос, тест, контрольная работа опрос, тест, контрольная работа опрос, тест, контрольная работа опрос, тест, дискуссия

непопулярные форум, веб-квест, коллоквиум форум, веб-квест, кейс форум, веб-квест, кейс разработка кластера, веб-квест, кейс разработка кластера, веб-квест, портфолио

Содержащиеся в таблице данные наглядно демонстрируют, что на всех ступенях общего и профессионального образования наиболее распространенными являются репродуктивные методы оценки: опрос, тест и контрольная работа. Рост использования инновационных методов оценивания более заметен в начальном звене школы и вузах.

В числе наименее востребованных дидактических методик интерактивные методы, например веб-квест (в среднем 66% респондентов никогда не применяют оценочные инструменты данной группы), что косвенно свидетельствует о неготовности педагогов к цифровизации обучения и его контроля. Из современных продуктивных и активных методов на начальной ступени образования вызывают интерес и применяются в повседневной практике игровые имитационные ситуации. Учителя среднего и старшего звена чаще, чем к другим формам, обращаются к проблемным ситуациям; педагоги СПО - к организационно-деятельностным играм. Преподаватели высшей школы проявляют склонность к дискуссиям.

Обсуждение и заключение

На основании результатов проведенного социально-педагогического исследования, посвященного практике использования педагогами современных методов оценки на различных ступенях образования, сформулированы следующие выводы.

1. Максимальную популярность в педагогическом сообществе имеют такие методы оценки, как опрос (две трети респондентов), тест (половина опрошенных) и проблемная ситуация (каждый третий испытуемый). Рейтинг наименее востребованных дидактических технологий выстраивается следующим образом: в начальном звене - форумы, веб-квес-ты, коллоквиумы; в среднем - форумы, кейс-стади и веб-квесты; в старшем - кейс-стади, форумы, веб-квесты. В учреждениях среднего профессионального образования практически не применяются кейс-стади, разработка кластера и веб-квесты, высшего образования - веб-квесты, разработка кластера и создание портфолио.

2. Отмечается общая тенденция к оживлению ситуации в сфере оценочной деятельности с помощью активных методов. Современные педагоги продвинулись в овладении методиками игровой имитационной ситуации, дискуссии, мозгового штурма.

3. Продуктивные методы обучения и оценки (реферат, проект, эссе) признаются высокоэффективными, но не относятся к числу массово освоенных и используемых.

4. Педагоги упорно отказываются признавать несомненные достоинства интерактивных методов оценки, демонстрируя методическую некомпетентность во владении соответствующими измерительными инструментами.

5. Репродуктивные методы оценки держат пальму первенства при оценивании как знаний, так и компетенций.

6. Итоги анкетирования свидетельствуют о разрыве между требованиями ФГОС и готовностью педагогов оценивать успешность по заданным критериям.

7. Очевидно, что следует совершенствовать систему методической подготовки педагогов к процедурам оценивания. В то же время необходимо формировать у них новое понимание смысла контроля: важно не просто зафиксировать степень овладения обучающимися определенным объемом знаний, а показать каждому возможности и перспективы развития.

Список использованных источников

1. Guerrero-Roldan A., Noguera I. A model for aligning assessment with competences and learning activities in online courses // The Internet and Higher Education. 2018. № 38. C. 36-46.

2. Calenda M., Tammaro R. The assessment of learning: from competence to new evaluation // Procedia - Social and Behavioral Sciences. 2015. № 174. C. 3885-3892.

3. Keinanen M., Ursin Ja., Nissinen K. How to measure students' innovation competences in higher education: Evaluation of an assessment tool in authentic learning environments // Studies in Educational Evaluation. 2018. № 58. C. 30-36.

4. Wiliam D. What is assessment for learning? / / Studies in Educational Evaluation. 2011. № 37. C. 3-14.

5. Дидяткина А. А. Современные оценочные средства практико-ориентированного обучения педагогических работников // Человек и образование. 2017. № 4 (53). С. 74-80.

6. Ваганова О. И., Ермакова О. Е. Оценка образовательных результатов бакалавров профессионального обучения // Вестник Минского университета. 2015. № 3 [Электрон. ресурс]. Режим доступа: https://vestnik.mininuni-ver.ru/jour/article/view/77/78 (дата обращения 15.01.2019).

7. Shikhova O. F. The Design Model of Multilevel Estimation Means for Students' Competence Assessment at Technical Higher School // The Education and science journal. 2012. № 2. C. 23-31 [Электрон. ресурс]. Режим доступа: https://doi.org/10.17853/1994-5639-2012-2-23-31 (дата обращения 15.01.2019).

8. Якимова 3. В., Николаева В. И. Оценка компетенций: профессиональная среда и вуз // Экономика образования. 2015. № 1. С. 73-80.

9. Загвязинский В. И., Строкова Т. А. Сопротивление инновациям: сущность, способы профилактики и преодоления // Образование и наука. 2014. № 3. С. 3-21 [Электрон. ресурс]. Режим доступа: https://doi.org/10.17853/ 1994-5639-2014-3-3-21 (дата обращения 15.01.2019).

10. Ефремова Н. Ф. К вопросу о создании и функционировании фондов оценочных средств в вузе // Высшее образование в России. 2015. № 7. С. 63-67.

11. Якимова 3. В., Николаева В. И. Оценка компетенций: профессиональная среда и вуз // Высшее образование в России. 2012. № 12. С. 13-21.

12. Зеер Э. Ф., Сыманюк Э. Э. Компетентностный подход как фактор реализации инновационного образования // Образование и наука. 2011. № 8 (87). С. 3-14.

13. Сидоров О. В., Козуб Л. В. Метод творческих проектов как средство развития научно-технологического мышления студентов, получающих технологическое образование // Высшее образование сегодня. 2016. № 5. С. 59-64.

14. СолдатоваЮ. Г., Пакшина Н. А., Маляренко М. С. WEB-KBECT -перспективная форма реализации смешанной технологии обучения // Академический журнал Западной Сибири. 2011. № 1. С. 9.

15. Тимошенко Л. И., Кудрявцев Р. А., Тарасов В. А., Малофей А. О. Интерактивные методы обучения в высшей школе // Философия права. 2015. № 2 (69). С. 53-56.

16. Гулакова М. В., Харченко Г. И. Интерактивные методы обучения в вузе как педагогическая инновация // Научно-методический электронный журнал «Концепт». 2013. № 11 (ноябрь). С. 31-35 [Электрон. ресурс]. Режим доступа: http://e-koncept.ru/2013/13219.htm (дата обращения 15.01.2019).

17. Гущин Ю. В. Интерактивные методы обучения в высшей школе // Психологический журнал Международного университета природы, общества и человека «Дубна». Dubna. Psychological Journal. 2012. № 2. С. 1-18.

18. Безбородова Т. М. Учимся «играючи»: деятельностный подход к формированию профессиональных компетенций будущих менеджеров // Сибирский торгово-экономический журнал. 2014. № 1 (19). С. 51-53.

19. Емельянова И. Н., Болтунова Л. М., Ефимова Г. 3. Дидактические возможности интерактивных форм работы в оценке педагогов г. Тюмени // Европейский журнал социальных наук. 2016. № 1. С. 178-184.

20. Емельянова И. Н., Волосникова Л. М., Неумоева-Колчеданцева Е. В., Задорина О. С. Разработка и использование контрольно-измерительных материалов для оценки компетенций. Тюмень: ТюмГУ, 2013. 133 с.

21. Емельянова И. Н. Оценка компетенций в системе высшего образования: особенности и проблемы / / Подготовка педагога новой формации в системе университетского образования: проблемы, практический опыт и перспективы. Материалы Всероссийской научно-практической конференции с международным участием. Тюмень: ТюмГУ, 2015. С. 120-125.

22. Болтунова Л. М., Емельянова И. Н. Типология оценочных средств, предназначенных для оценки компетенций / / Педагогическое образование в России. 2014. № 11. С. 84-87.

References

1. Guerrero-Roldan A., Noguera I. A model for aligning assessment with competences and learning activities in online courses. The Internet and Higher Education. 2018; 38: 36-46.

2. Calenda M., Tammaro R. The assessment of learning: From competence to new evaluation. Procedia - Social and Behavioral Sciences. 2015; 174: 38853892.

3. Keinanen M., Ursin Ja., Nissinen K. How to measure students' innovation competences in higher education: Evaluation of an assessment tool in authentic learning environments. Studies in Educational Evaluation. 2018; 58: 30-36.

4. Wiliam D. What is assessment for learning? Studies in Educational Evaluation. 2011; 37: 3-14.

5. Didyatkina L. A. Modern evaluation tools of practice-oriented training of teachers. Chelovek i obrazovanie = Human and Education. 2017; 4 (53): 74-80. (In Russ.)

6. Vaganova O. I., Ermakova O. E. Evaluation of the educational results of bachelors of vocational training. Vestnik Minskogo universiteta = Minsk University Bulletin [Internet]. 2015 [cited 2019 Jan 15]; 3. Available from: https://vestnik.mininuniver.ru/jour/article/view/77/78 (In Russ.)

7. Shikhova O. F. The design model of multilevel estimation means for students' competence assessment at technical higher school. The Education and Science Journal [Internet]. 2012 [cited 2019 Jan 15]; 2: 23-31. Available from: https://doi.org/10.17853/1994-5639-2012-2-23-31 (In Russ.)

8. Yakimova Z. V., Nikolaev V. I. Competence assessment: Professional environment and university. Ekonomika obrazovaniya = Economics of Education. 2015; 1: 73-80. (In Russ.)

9. Zagvyazinsky V. I., Strokova T. A. Resistance to innovation: The essence, methods of prevention and overcoming. Obrazovanie i nauka = The Education and Science Journal [Internet]. 2014 [cited 2019 Jan 15]; 3: 3-21. Available from: https://doi.org/10.17853/1994-5639-2014-3-3-21 (In Russ.)

10. Efremova N. F. The principles of independent evaluation system in higher education. Vysshee obrazovanie v Rossii = Higher Education in Russia. 2015; 7: 63-67. (In Russ.)

11. Yakimova Z. V., Nikolaev V. I. Assessment of competencies: Professional and university environment. Vysshee obrazovanie v Rossii = Higher Education in Russia. 2012; 12: 13-21. (In Russ.)

12. Zeer E. F., Symanyuk E. E. Competence approach as a factor in the implementation of innovative education. Obrazovanie i nauka = The Education and Science Journal. 2011; 8 (87): 3-14. (In Russ.)

13. Sidorov O. V., Kozub L. V. The method of creative projects as a means of development of scientific and technological thinking among students receiving technological education. Vysshee obrazovanie segodnya = Higher Education Today. 2016; 5: 59-64. (In Russ.)

14. Soldatova Yu. G., Pakshina N. A., Malyarenko M. S. WEB-QUEST - a promising form of implementation of a blended learning technology. Akademicheskij zhurnal Zapadnoj Sibiri. = Academic Journal of Western Siberia. 2011; 1: 9. (In Russ.)

15. Timoshenko L. I., Kudryavtsev R. A., Tarasov V. A., Malofey A. O. Interactive teaching methods in higher education. Filosofiya prava = Philosophy of Law. 2015; 2 (69): 53-56. (In Russ.)

16. Gulakova M. V., Kharchenko G. I. Interactive teaching methods in high school as a pedagogical innovation. Nauchno-metodicheskij jelektronnyj zhurnal Koncept = Scientific-Methodical Electronic Journal "Concept" [Internet]. 2013 [cited 2019 Jan 15]; 11: 31-35. Available from: http://e-koncept.ru/2013/13219.htm (In Russ.)

17. Gushchin Yu. V. Interactive teaching methods in higher education. Psi-hologicheskij zhurnal Mezhdunarodnogo universiteta prirody obshchestva i chelove-ka Dubna = Dubna Psychological Journal. 2012; 2: 1-18. (In Russ.)

18. Bezborodova T. M. Learning in a playful way: An activity approach to the formation of professional competencies of future managers. Sibirskij torgovo ehkonomicheskj zhurnal = Siberian Trade and Economic Journal. 2014; 1 (19): 5153. (In Russ.)

19. Emelyanova I. N., Boltunova L. M., Efimova G. Z. Didactic possibilities of interactive forms of work in the assessment of teachers of the city of Tyumen. Evropejskij zhurnal socialnyh nauk = European Journal of Social Sciences. 2016; 1: 178-184. (In Russ.)

20. Emelyanova I. N., Volosnikova L. M., Neumova-Kolchedantseva E. V., Zadorina O. S. Razrabotka i ispol'zovanie kontrol'no-izmeritel'nyh materialov dlya ocenki kompetencij = Development and use of test and measurement materials for competency assessment. Tyumen: Publishing House of Tyumen State University; 2013. 133 p. (In Russ.)

21. Emelyanova I. N. Assessment of competencies in the system of higher education: Features and problems. In: Podgotovkapedagoga novoj formacii v sisteme universitetskogo obrazovanija: problemy, prakticheskij opyt i perspektivy. Mate-rialy Vserossijskoj nauchno-prakticheskoj konferencii s mezhdunarodnym uchasti-em = Proceeding of 2015 All-Russian Scientific-Practical Conference with International Participation "Training of Teachers of a New Formation in the System of University Education: Problems, Practical Experience and Prospects"; 2015 Jan 22-23; Tyumen, Russia. p. 120-125. (In Russ.)

22. Boltunova L. M., Emelyanova I. N. Typology of assessment tools designed to assess competencies. Pedagogicheskoe obrazovanie v Rossii = Pedagogical Education in Russia. 2014; 11: 84-87. (In Russ.)

Информация об авторах:

Емельянова Ирина Никитична - доктор педагогических наук, заведующая кафедрой общей и социальной педагогики Института педагогики и психологии Тюменского государственного университета, Тюмень, Россия. E-mail: i.n.emelyanova@utmn.ru

Теплякова Ольга Андреевна - кандидат юридических наук, доцент кафедры конституционного и муниципального права Института государства и права Тюменского государственного университета, Тюмень, Россия. E-mail: o.a.teplyakova@utmn.ru

Ефимова Галина Зиновьевна - кандидат социологических наук, доцент, доцент кафедры общей и экономической социологии Финансово-экономического института Тюменского государственного университета, заведующая учебно-научной социологической лабораторией при кафедре общей и экономической социологии Тюменского государственного университета, Тюмень, Россия. E-mail: g.z.efimova@utmn.ru

Вклад соавторов:

И. Н. Емельянова разработала методологию исследования, опросник для педагогов школ, учреждений среднего профессионального образования и вузов, провела социологический опрос, обобщила результаты исследования;

Г. 3. Ефимова выполнила социологические расчеты;

0. А. Теплякова подготовила обзор литературы и описала методологию исследования.

Статья поступила в редакцию 07.02.2019; принята в печать 15.05.2019.

Авторы прочитали и одобрили окончательный вариант рукописи.

Information about the authors:

Irina N. Emelyanova - Doctor of Pedagogical Sciences, Head of the Department of General and Social Pedagogy, Institute of Psychology and Pedagogical Sciences, University of Tyumen, Tyumen, Russia. E-mail: i.n.emelyano-va@utmn.ru

Olga A. Teplyakova - Candidate of Legal Sciences, Associate Professor, Department of Constitutional and Municipal Law, Institute of State and Law, University of Tyumen, Tyumen, Russia. E-mail: o.a.teplyakova@utmn.ru

Galina Z. Efimova - Candidate of Sociological Sciences, Associate Professor, Head of the Educational and Scientific Sociological Laboratory, Department of General and Economic Sociology, Institute of Economics and Finance, University of Tyumen, Tyumen, Russia. E-mail: g.z.efimova@utmn.ru

Contribution of the authors:

1. N. Emelyanova developed the research methodology; designed a questionnaire for teachers of schools, vocational schools and universities; conducted a sociological survey; summarised the results of the study.

G. Z. Efimova performed sociological calculations.

O. A. Teplyakova prepared a literature review and described the research methodology.

Received 07.02.2019; accepted for publication 15.05.2019.

The authors have read and approved the final manuscript.

i Надоели баннеры? Вы всегда можете отключить рекламу.