CC BY
9
Научная статья
УДК 316.422:004.8
https://doi.org/10.24158/spp.2023.8.5
Механизм моральной квалификации действий
как условие использования искусственного интеллекта в сфере образования
Майя Валерьевна Булаева
Московский педагогический государственный университет, Москва, Россия, karabanovam@yandex.ru, https://orcid.org/0000-0003-3510-9412
Аннотация. Статья посвящена проблеме использования искусственного интеллекта в различных сферах человеческой деятельности, в том числе и в педагогической практике. Зафиксирована неоднозначность понятия «искусственный интеллект», несовершенство используемых его определений в современной социологической науке и ограниченность существующих базовых социологических концепций его изучения. Основная проблема теоретического осмысления искусственного интеллекта в социологии заключается в том, что по своей природе он является механизмом воспроизведения социальной реальности (то есть обеспечивает функционирование функции аутопоэзиса в современном мире) с помощью системы «умных вещей», а с другой стороны он является одним из источников изменения современного общества. Эта проблема ставит вопрос о пределах и границах использования искусственного интеллекта в деятельности человека. В этом контексте основным вопросом, на который предпринята попытка дать ответ в статье, является вопрос о том, может ли искусственный интеллект использоваться в педагогической практике, при условии отсутствия у него механизма моральной квалификации предпринимаемых им действий.
Ключевые слова: искусственный интеллект, социология техники, контекст человеческих действий, механизм моральной квалификации действий
Финансирование: инициативная работа.
Для цитирования: Булаева М.В. Механизм моральной квалификации действий как условие использование искусственного интеллекта в сфере образования // Общество: социология, психология, педагогика. 2023. № 8. С. 46-50. https://doi.org/10.24158/spp.2023.8.5.
Original article
Moral Qualification Mechanism of Actions as a Prerequisite for the Use of AI in Education
Maya V. Bulaeva
Moscow Pedagogical State University, Moscow, Russia, karabanovam@yandex.ru, https://orcid.org/0000-0003-3510-9412
Abstract. The article is focused on the problem of using artificial intelligence (AI) in various spheres of human activity, including pedagogical practice. The author notes the ambiguity of the concept of "artificial intelligence", the imperfection of its definitions in modern sociological science and the limitations of the existing basic sociological concepts of its study. The main problem of theoretical understanding of artificial intelligence in sociology is that by its nature it is a mechanism for reproducing social reality (that is, it ensures the functioning of the autopoiesis function in the modern world) with the help of a system of "smart things", and on the other hand it is one of the sources of change in modern society. This problem raises the question of the limits and boundaries of the use of artificial intelligence in human activity. In this context, the main question that the article attempts to answer is whether artificial intelligence can be used in pedagogical practice, provided that it has no mechanism of moral qualification of its actions.
Keywords: artificial intelligence (AI), sociology of technology, context of human actions, mechanism of moral qualification of actions
Funding: Independent work.
For citation: Bulaeva, M.V. (2023) Moral Qualification Mechanism of Actions as a Prerequisite for the Use of AI in Education. Society: Sociology, Psychology, Pedagogics. (8), 46-50. Available from: doi:10.24158/spp.2023.8.5 (In Russian).
Термин «искусственный интеллект» прочно вошел в лексикон современного человека, даже весьма далекого от сферы IT-технологий. Он находит свое применение в разных сферах человеческой жизни. Например, в сфере здравоохранения широко используется для диагностики, мониторинга и лечения меланомы, ранней диагностики эпилепсии, разрабатываются протезы с учетом ана-
© Булаева М.В., 2023
СОЦИОЛОГИЯ БОСЮЬООУ
томических особенностей человека и т.д. В сфере промышленного производства искусственный интеллект используется для управления логистикой, закупками, контроля качества продукции и подбора персонала. В повседневной жизни уже невозможно представить себе отсутствие сервисов, связанных с пассажирскими перевозками, доставкой продуктов питания, вещей и лекарств и др., где используются отдельные технологии искусственного интеллекта. В сельском хозяйстве с помощью искусственного интеллекта запускаются различные механизмы оценки состояния почвы и принимаются решения без участия человека о внесении необходимых веществ, с помощью «компьютерного зрения» определяется спелость плодов или наличие заболеваний у растений. Все эти новые технологии радикально меняют сложившиеся социальные практики в различных сферах жизнедеятельности общества. Некоторые сферы экономики радикально трансформируются благодаря внедрению 1Т-технологий и, в том числе инструментов искусственного интеллекта. К их числу можно отнести сферу туризма, гостиничного бизнеса, консалтинга и т.д.
Сфера школьного образования в данном контексте представляется отстающей, в настоящее время нет каких-либо интересных педагогических технологий искусственного интеллекта, продемонстрировавших яркие результаты. В высшей школе искусственный интеллект, к сожалению, также практически не используется. К числу исключений можно отнести ситуацию подготовки выпускной квалификационной работы в 2023 году студентом РГГУ А. Жаданом с помощью чат-бота ОИаЮРТ. Но это не означает, что технологические возможности искусственного интеллекта не могут быть использованы в сфере образования для повышения ее эффективности. Однако возникает вопрос, смогут ли технологии искусственного интеллекта эффективно заменить учителя, не породив при этом ряд проблем не столько снижающих эффективность системы образования, сколько опасных для формирования мировоззрения человека. Настоящая статья имеет своей целью зафиксировать формирующиеся социальные проблемы использования технологий искусственного интеллекта в сфере образования.
Традиционно под искусственным интеллектом понимают особое поведение машин и техники, отличительная особенность которого связана с имитацией человеческого поведения и способностью самообучаться. В настоящее время существует множество определений данного механизма как со стороны специалистов из сферы информационных технологий, так и со стороны представителей общественных наук. В качестве примера определения из сферы социальных наук можно привести определение, предложенное А.В. Резаевым и Н.Д. Трегубовой: «Искусственный интеллект представляет собой ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил, которые организуют процессы, позволяющие имитировать интеллектуальные структуры, производить и воспроизводить целерациональ-ные действия, а также осуществлять последующее кодирование и принятие инструментальных решений вне зависимости от человека» (Резаев, Трегубова, 2019: 40). Необходимо отметить, что данное определение содержит ряд весьма спорных моментов и поэтому не может использоваться для анализа тех проблем, которые были обозначены выше.
Во-первых, термин «ансамбль» является весьма неоднозначным и неопределенным в социологической науке. Авторы данного определения под ансамблем понимают «гармоническую совокупность вещей», что еще больше усложняет ситуацию, т. к. возникают вопросы к измерению степени гармонии вещей. Во-вторых, в данном определении используется понятие «целерацио-нальное действие», которые отсылает к методологии понимающей социологии М. Вебера (Ве-бер, 1990: 495-546) и предполагает, что действующий субъект (в качестве которого в определении выступает искусственный интеллект), совершая действия, не только ориентирует свое поведение на другого, но и вкладывает смысл в это действие. Таким образом, авторы определения предполагают, что искусственный интеллект уже обладает социальной субъектностью и способен совершать действия, в основе которых есть не столько цель, сколько смысл.
Принципиальное отличие действий на основе смысла от действий на основе цели заключается в том, что первые основываются на имеющихся контекстах ситуации, которые распознают все участники взаимодействия, в то время как цель действия может быть скрытой и неявной. Кроме того, реализация действий на основе целей не учитывает существование контекстов ситуаций. В социологической науке проблематика контекстов человеческого действия всегда занимала особое место, так как именно они наполняют смыслом действие, а никак не цель. Кроме того, многие исследователи искусственного интеллекта отмечают, что именно контексты человеческого взаимодействия позволяют отличить поведение человека от поведения машины. Именно поэтому предложенное А.В. Резаевым и Н. Д. Трегубовой определение понятия «искусственный интеллект» представляется некорректным, тем не менее необходимо отметить важность и значимость их попытки его сформулировать.
Особая роль контекстов ситуаций во взаимодействии индивидов в социологической интерпретации человеческого поведения отмечают представители феноменологической социологии
(Шюц, 2004) и этнометодологии (Гарфинкель, 2007). С точки зрения представителей данных направлений социологии, именно контекст составляет «ткань» общества и делает возможным существование взаимодействия между индивидами. Искусственный интеллект с помощью «умных вещей» проникает в эту «ткань» и воспроизводит существующие отношения между людьми, а также отношения между людьми и вещами. В результате такого подхода в качестве общества рассматриваются не только люди и их отношения друг с другом, но и материальные объекты, пространства и смыслы. Классическая социология оказывается бессильной в интерпретации не только искусственного интеллекта как нового агента социальной реальности, но и самой этой реальности. Концепция «товарного фетишизма» К. Маркса также, как и концепция классового господства, реализуемого посредством техники и технологии, в работах Ю. Хабермаса (Ха-бермас, 2007), не способны дать полного и всеохватывающего понимания новой социальной реальности, в которой искусственный интеллект с каждым днем приобретает все больше и больше активной самостоятельности и становится полноправным агентом социального взаимодействия.
В 1987 г. в свет вышла книга Люси Сачмен «Планы и ситуативные действия: проблема взаимодействия человек-машина», которая была переведена на русский язык и издана в 1999 году. В этой работе автор исследует различные прикладные антропологические проблемы взаимодействия машины и человека, затрагивая, в том числе и проблематику первых попыток создания искусственного интеллекта. В работе «Реконфигурация отношений человек-машина» (2007), изданной на русском языке в 2019 году (Сачмен, 2019), Л. Сачмен представляет некоторый обзор прикладных исследований антропологов, культурологов и социологов, объектом исследования которых является искусственный интеллект. Несмотря на довольно широкий пласт прикладных исследований данной направленности, всеобъемлющей теоретической интерпретации складывающейся социальной реальности пока не появилось. Таким образом, в настоящее время перед теоретической социологией стоит важная задача представить новую картину мира с учетом тех трансформаций, которые происходят в результате все большего распространения технологий искусственного интеллекта в человеческую жизнь.
Интересным представляется подход, предложенный представителями акторно-сетевой теории - Б. Латуром, Дж. Ло и М. Каллоном. В работе «Экономика качеств» (Каллон, Меадель, Рабе-харисоа, 2008) М. Каллон с соавторами отмечает, что любой товар - это не просто объект с каким-то набором физических свойств и качеств, это сложная сеть отношений множества участников, где основными акторами являются производитель и потребитель. Производитель не однороден, а включает в себя: 1) производителя сырья, чье территориально-географическое положение определяет набор качеств готового продукта (например, его химический состав); 2) производителя упаковки, который так же задает свой набор качеств готового продукта; 3) сеть крупно-оптовых, средне-оптовых, мелко-оптовых и розничных торговцев, через которые проходит товар, и каждый из которых вносит свой набор качеств готового продукта и т.д. Таким образом, в конечный набор качеств продаваемого товара вносят свою лепту множество субъектов производства, а также объекты материального мира (помещения и оборудование, сырье, упаковка, тара для транспортировки, средства логистики, торговые площадки, складские помещения и т.д.) и характеристики территорий. Все многообразие связей и отношений, складывающихся в процессе производства товара, наполняет его смыслом, которые являются контекстом действия множества людей.
Потребительская сеть формируется из идентичности товара, социокультурной включенности его в различные социально-экономические общности, восприятия его законодателями моды и лидерами мнений, и т.д. Таким образом, товар, обладающий определенными свойствами, качествами и функциональным назначением, является востребованным для определенной сети потребителя, а не только для его конкретного сегмента. В результате товар из объекта потребления трансформируется в средство идентификации потребителя с той или иной референтной группой.
Таким образом, представители акторно-сетевой теории предлагают теоретическое и методологическое осмысление новой социальной реальности максимально приближенное к тому, что представляет сегодняшний мир. Опираясь в большей степени на их наработки, российский исследователь В. Вахштайн, рассуждая о проблематике новой социальной реальности с участием искусственного интеллекта, отмечает следующее: «Технические объекты являются субъектами социального действия настолько, насколько их активность не сводится к набору простых каузальных рядов -цепочек причин и следствий. Появление у техники «пространства для маневра» - результат делегирования трех операций: определения ситуации, принятия решения и его последующей реализации» (Вахштайн, 2021: 146). Однако это делегирование не является полностью законченным, т. к. не хватает еще одного элемента действия - моральной квалификации действия (Вахштайн, 2021: 149), под которой понимается именно «правильность» принятого решения искусственным интеллектом, которую производит он сам. В настоящее время уже существуют некоторые механизмы квалификации действия искусственного интеллекта, однако, базируются они не на моральных основаниях, а на критериях эффективности действия. То есть «правильность» действия оценивается не с
СОЦИОЛОГИЯ SOCIOLOGY
позиций соотнесения их самих или их результатов нормам морали с учетом существующих контекстов, а с позиций использования наименьших затрат при достижении максимального результата. Такие механизмы квалификации действий не позволят приблизить действия искусственного интеллекта к социальному действию (в контексте методологии М. Вебера).
Искусственный интеллект, не имеющий моральной квалификации действия, будет руководствоваться не какими-то абстрактными человеческими ценностями или эмоциями, которые ему не ведомы, а практической целесообразностью, в которой человек становится всего лишь средством. Эта проблема обостряется в еще большей мере в сфере образования: насколько безопасен процесс обучения, реализуемый без моральной квалификации действий всех его участников? Уникальность сферы образования заключается не в том, что она обеспечивается эффективную передачу актуальных знаний, а в том, что у нее есть побочный эффект в виде формирования мировоззрения, в котором основным механизмом саморегуляции становится именно механизм моральной квалификации действия. Отсутствие этого механизма в процессе обучения приведет к тому, что люди, прошедшие его, получат необходимые знания и навыки, но не приобретут этот механизм.
В искусственном интеллекте пока еще нет механизма моральной квалификации действий, т. к. его невозможно свести к простому перечню правил, положений и целей, он есть результат сложного переплетения культурных норм, ценностей, контекстов в различных ситуациях, которые наполняют смыслом человеческое действие. Сфера образования должна учить познавать окружающую реальность и действовать в ней в соответствии с теми смыслами, которыми она наполняется. И важная роль здесь отводится именно механизму моральной квалификации действий, который передается от учителя к ученику на интуитивном уровне, в большей части посредством тех социальных практик, в которые включает ученика учитель.
Проникновение «умных вещей» в нашу жизнь существенно ее трансформирует и делает нас более зависимыми от них. Те сферы человеческой деятельности, в которых применяются технологии искусственного интеллекта, демонстрирую высокий рост развития, однако в сфере образования его применение весьма ограничено, т. к. в нем отсутствует элемент моральной квалификации действий. Система образования в целом имеет своим назначением не только трансляцию имеющихся знаний об окружающем мире, но и выработку у учащихся систему морально-этических оценок, которые должны стать регулятором их поведения в жизни. Эта система оценок не может быть сведена к простому перечню правил в различных ситуациях, т. к. набор ситуаций и набор правил все время дополняется и изменяется, а кроме того, контексты разных ситуаций наполняют разным смыслом одни и те же события и действия. Именно поэтому имеющиеся наработки искусственного интеллекта не могут найти своего широкого применения в сфере образования. Однако как только будет разработан механизм формирования моральной квалификации действий искусственного интеллекта, сферу образования ждут великие трансформации.
Список источников:
Вахштайн В. С. Техника, или Обаяние прогресса. СПб., 2021. 156 с.
Вебер М. О некоторых категориях понимающей социологии // Избранные произведения / пер. с нем.; сост., общ. ред. и послесл. Ю. Н. Давыдова; предисл. П. П. Гайденко. М., 1990. 808 с.
Гарфинкель Г. Исследования по этнометодологии. СПб., 2007. 335 с.
Каллон М., Меадель С., Рабехарисоа В. Экономика качеств // Журнал социологии и социальной антропологии. 2008. Том 11, № 4. С. 59-87.
Резаев А. В., Трегубова Н.Д. «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий // Мониторинг общественного мнения. 2019. № 6 (154). С. 35-47. https://doi.org10.14515/monitoring.2019.6.03.
Сачмен Л. Реконфигурация отношений человек-машина: планы и ситуативные действия / пер. с англ. А. С. Максимовой; под ред. А. М. Корбута. М., 2019. 488 с.
Хабермас Ю. Техника и наука как «идеология» / пер. с нем. М. Л. Хорькова. М., 2007. 208 с.
Шюц А. Избранное: Мир, светящийся смыслом / пер. с нем. и англ. В.Г. Николаева, С.В. Ромашко. М., 2004. 1056 с.
References:
Garfinkel, G. (2007) Studies in Ethnomethodology. Saint Petersburg, Piter. 335 p. (in Russian).
Habermas, Yu. (2007) Technique and Science as "Ideology". Moscow, Praxis. 208 p. (in Russian).
Kallon, M., Meadel, S. & Rabeharisoa, V. (2008) Economics of Qualities. The Journal of Sociology and Social Anthropology. (11 (4)), 59-87. (in Russian).
Rezaev, A.V. & Tregubova, N.D. (2019) Artificial Intelligence, On-line Culture, Artificial Sociality: Definition of the Terms. Monitoring of Public Opinion. (6 (154)), 35-47. Available from: doi:10.14515/monitoring.2019.6.03 (in Russian).
Sachmen, L. (2019) Reconfiguration of Human-Machine Relations: Plans and Situational Actions. In: Korbut, A.M. (ed.) Moscow, Jelementarnye formy. 488 p. (in Russian).
Schutz, A. (2004) The Chosen One: A World Glowing with Meaning. Moscow, Politicheskaja jenciklopedija. 1056 p. (In Russian).
Vakhstein, V.S. (2021 ) Tehnika, ili Obajanie progressa [Technique, or the charm of progress]. Saint Petersburg, Izdatel'stvo Evropejskogo universiteta v Sankt-Peterburge. 156 p. (in Russian).
Weber, M. (1990) O nekotoryh kategorijahponimajushhejsociologii. Izbrannyeproizvedenija [About some categories of understanding Sociology. Selected works]. In: Davydov, Yu. N. (comp., general ed. and afterword); Gaidenko, P. P. (preface). Moscow, Progress. 808 p. (in Russian).
Информация об авторе М.В. Булаева - кандидат экономических наук, докторант кафедры теоретической и специальной социологии имени М.А. Будановой, Московский педагогический государственный университет, Москва, Россия.
https://www.elibrary.ru/author_items.asp?authorid=1134225
Конфликт интересов:
автор заявляет об отсутствии конфликта интересов.
Information about the author M.V. Bulaeva - PhD in Economics, PhD Candidate at the Department of Theoretical and Special Sociology named after M.A. Budanova, Moscow Pedagogical State University, Moscow, Russia. https://www.elibrary.ru/author_items.asp?authorid=1134225
Conflicts of interests:
The author declares no conflicts of interests
Статья поступила в редакцию / The article was submitted 06.07.2023 Одобрена после рецензирования / Approved after reviewing 03.08.2023 Принята к публикации / Accepted for publication 29.08.2023
Автором окончательный вариант рукописи одобрен.
