ПАШНИНА Татьяна Викторовна,
кандидат юридических наук, доцент кафедры общетеоретических правовых дисциплин, Уральский филиал ФГБОУВО Российский государственный университет правосудия, e-mail: [email protected]
ВИНОКУРОВА Мария Александровна,
кандидат юридических наук, доцент кафедры отечественной истории и права Южно-Уральский государственный гуманитарно-педагогический университет, e-mail: [email protected]
СОВРЕМЕННЫЕ ПРОБЛЕМЫ ПРИМЕНЕНИЯ И РЕГУЛИРОВАНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СФЕРЕ ВЫСШЕГО ОБРАЗОВАНИЯ
Аннотация. В статье исследуются актуальные тенденции трансформации сферы высшего образования под влиянием прорывных (сквозных цифровых) технологий в условиях «больших вызовов», обусловивших необходимость скорейшего достижения научно-технологического суверенитета страны. С позиций системного подхода рассмотрено современное состояние правового регулирования применения технологий искусственного интеллекта в сфере высшего образования в России. Обосновано, что систему правового регулирования применения технологий искусственного интеллекта в сфере высшего образования условно можно дифференцировать на два блока: регулирование применения технологий искусственного интеллекта в целом и регламентирование использования искусственного интеллекта непосредственно в образовании, которые, в свою очередь, можно разделить на три составляющие - правовые, этические и технические нормы. Предложено рассматривать внедрение нейросетей в образование как часть более широкого процесса цифровой трансформации, преследующей цель достижения показателей «цифровой зрелости» ключевых отраслей, к которым относится и образовательная отрасль. Исследованы позитивные и негативные аспекты внедрения технологий искусственного интеллекта в сферу высшего образования. Обосновано, что к плюсам внедрения нейросетей в образование относится формирование максимально персонифицированного подхода к обучающемуся, возможность оптимизации рутинных операций в труде педагогических работников, повышение эффективности процессов управления образовательной организацией. В качестве основных минусов внедрения технологий искусственного интеллекта названы нарушение норм академической этики при использовании продуктов генеративного искусственного интеллекта, снижение творческого потенциала обучающихся, усиление негативных эффектов «клипового мышления». Сделан вывод о необходимости продуманного системного подхода к внедрению и правовому регулированию технологий искусственного интеллекта в сфере высшего образования с учетом национальных стратегических приоритетов Российской Федерации.
Ключевые слова: образование, высшее образование, трансформация образования, образовательный процесс, цифровизация, цифровая трансформация, научно-технологический суверенитет, искусственный интеллект.
PASHNINA Tatyana Viktorovna,
Candidate of Law, Associate Professor of the Department of General Theoretical Legal Disciplines,
Ural Branch of the Russian State University of Justice
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024
DOI: 10.24412/2076-1503-2024-4-406-411 NIION: 2018-0076-4/24-395 MOSURED: 77/27-023-2024-4-395
VINOKUROVA Maria Alexandrovna,
Candidate of Law, Associate Professor of the Department of National History and Law, South Ural State Humanitarian Pedagogical University
MODERN PROBLEMS OF APPLICATION AND REGULATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN HIGHER EDUCATION
Annotation. The article examines the current trends in the transformation of higher education under the influence of breakthrough (end-to-end digital) technologies in the context of «big challenges», which necessitated the speedy achievement of scientific and technological sovereignty of the country. From the standpoint of a systematic approach, the current state of legal regulation of the use of artificial intelligence technologies in higher education in Russia is considered. It is proved that the system of legal regulation of the use of artificial intelligence technologies in higher education can be conditionally differentiated into two blocks: regulation of the use of artificial intelligence technologies in general and regulation of the use of artificial intelligence directly in education, which, in turn, can be divided into three components - legal, ethical and technical standards. It is proposed to consider the introduction of neural networks into education as part of a broader process of digital transformation aimed at achieving indicators of «digital maturity» of key industries, which include the educational industry. The positive and negative aspects of the introduction of artificial intelligence technologies in higher education are studied. It is proved that the advantages of introducing neural networks into education include the formation of the most personalized approach to the student, the possibility of optimizing routine operations in the work of teaching staff, and improving the efficiency of educational organization management processes. The main disadvantages of the introduction of artificial intelligence technologies are violation of the norms of academic ethics when using generative artificial intelligence products, a decrease in the creative potential of students, and an increase in the negative effects of «clip thinking». The conclusion is made about the need for a well-thought-out systematic approach to the introduction and legal regulation of artificial intelligence technologies in higher education, taking into account the national strategic priorities of the Russian Federation.
Key words: education, higher education, transformation of education, educational process, digitalization, digital transformation, scientific and technological sovereignty, artificial intelligence.
Введение
Человеческая цивилизация прошла длинный путь развития, меняясь под воздействием различных факторов: географических, культурных, социальных, политических, экономических, технологических и др.
Качественные преобразования всех сфер человеческой жизнедеятельности последнего десятилетия связывают с так называемой «цифровой революцией», породившей понятия цифро-визации и цифровой трансформации.
При этом, «революционный момент, связанный с «цифровизацией» производства и общественных процессов, выражается в создании глобальных промышленных сетей с использованием искусственного интеллекта (AI), широким распространением Интернета вещей (Internet of things), внедрением киберфизических систем и нейротех-нологий с принципиально новым механизмом взаимодействия человека и созданной им машиной (устройством)...» [1, с. 13-18].
На сегодняшний день наиболее перспективными для успешного научно-технологического развития любого государства мира выступают
технологии искусственного интеллекта (Artificial Intelligence, AI), с которыми, по авторитетному утверждению А.В. Минбалеева, «эксперты связывают экономический рост, конкурентоспособность государств, а также обеспечение их национальных интересов» [2, с. 1094]. Именно AI определено место «драйвера» качественного преобразования всех ключевых сфер жизнедеятельности в условиях цифровой трансформации.
В числе прочих, цель цифровой трансформации была поставлена перед сферой высшего образования [3, с. 269], которой отводится ключевая роль в подготовке кадров, способных обеспечить научно-технологическое развитие и суверенитет российского государства в условиях «больших вызовов».
Методы исследования
Изучение проблем и перспектив правового регулирования применения сквозных цифровых технологий в образовательной отрасли необходимо вести с позиций комплексного системного подхода, рассматривая внедрение искусственного интеллекта в сферу высшего образования как
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024
часть общего процесса внедрения прорывных технологий во все ключевые отрасли жизнедеятельности, а процесс внедрения отдельных перспективных технологий - как часть более широкого явления, связанного с достижением состояния «цифровой зрелости».
Современное состояние правового регулирования технологий искусственного интеллекта в сфере высшего образования в России
В настоящее время в Российской Федерации профильный федеральный закон об искусственном интеллекте, подобный комплексному правовому акту - «Artificial intelligence act», одобренному в марте текущего года Европарламен-том, отсутствует. Роль базового нормативного акта в сфере регулирования вопросов применения искусственного интеллекта выполняет документ стратегического планирования - «Национальная стратегия развития искусственного интеллекта на период до 2030 года», утвержденная Указом Президента РФ от 10.10.2019 № 490, с изменениями и дополнениями, внесенными Указом Президента РФ от 15.02.2024 № 124.
Кроме вышеназванного документа, важную роль в механизме правового регулирования использования технологий искусственного интеллекта сыграло Распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года», а также ряд правовых и технических документов: Федеральный закон от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»», Паспорт федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации», Приказ Минэкономразвития России от 29.06.2021 № 392 «Об утверждении критериев определения принадлежности проектов к проектам в сфере искусственного интеллекта», ряд предварительных национальных и национальных стандартов (касательно аналитики больших данных, клинической медицины, навигационных систем воздушных судов гражданской авиации и
др.).
Отдельно нужно отметить принятый Генеральной конференцией ЮНЕСКО в 2021 документ - «Рекомендацию об этических аспектах искус-
ственного интеллекта», содержащую общие принципы и ориентиры, которые должны соблюдаться при использовании технологий А1 (уважение человеческого достоинства, соблюдение основных прав человека, безопасность и защищенность и др.), и отечественный Кодекс этики в сфере искусственного интеллекта (2021), носящий более конкретный характер.
Как уже было обосновано ранее, значение технологий искусственного интеллекта должно рассматриваться в рамках более широкого процесса, определяющего целесообразность применения таких технологий - процесса цифровой трансформации.
Так, роль прорывных технологий нашла отражение в ряде подзаконных актов стратегического характера, таких как Указ Президента РФ от 21.07.2020 № 474 «О национальных целях развития Российской Федерации на период до 2030 года», в качестве одной из таковых обозначивший цифровую трансформацию и достижение показателей «цифровой зрелости» ключевых отраслей экономики и социальной сферы. Достижение данной цели на практике во многом обеспечивается за счет активного внедрения технологий искусственного интеллекта, что подтверждает, к примеру, анализ абз. ж) п. 29 «Стратегии научно-технологического развития Российской Федерации», утв. указом Президента РФ от 28.02.2024 № 145.
В свою очередь, стратегические документы общего характера послужили «рамочными актами» для принятия региональных, отраслевых и локальных стратегий цифровой трансформации. Так, в числе подзаконных актов, регулирующих вопросы цифровизации сферы образования, были приняты Распоряжение Правительства РФ от 21.12.2021 № 3759-р «Об утверждении стратегического направления в области цифровой трансформации науки и высшего образования», Письмо Минобрнауки России от 07.10.2021 № МН-19/697 «О направлении методических рекомендаций по разработке стратегии цифровой трансформации образовательных организаций высшего образования, подведомственных Минобрнауки России» и др.
Федеральные подзаконные акты в 2021 году были конкретизированы в региональных документах стратегического планирования, включающих, в числе прочих, положения о цифровой трансформации сферы образования, а также локальных стратегиях цифровой трансформации отдельных образовательных организаций высшего образования.
Важное место в системе регламентации образовательных отношений с использованием А1 играют и документы технического регулирования, такие как национальный стандарт РФ ГОСТ Р
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024
59895-2021 «Технологии искусственного интеллекта в образовании. Общие положения и терминология».
Перечисленные документы поставили перед высшими учебными заведениями страны задачу скорейшего достижения показателей цифровой зрелости и обозначили искусственный интеллект в качестве одной из самых перспективных технологий, используемых в цифровых сервисах онлайн образования для создания максимально персонализированного обучения [3, с. 270], прежде всего, направленного на получение практических навыков. В данном контексте технологии искусственного интеллекта должны рассматриваться как база для трансформации сферы образования в качественно иной уровень - уровень Ed-Tech, «смарт-образования», который, в свою очередь, можно и нужно рассматривать как важнейшее средство достижения целей, поставленных «Стратегией научно-технологического развития Российской Федерации».
Практические аспекты использования искусственного интеллекта в образовательной сфере
В настоящее время значение образовательных процессов достаточно тяжело недооценивать, по причине того, что в ходе обучения и воспитания формируются определенные знания, умения, навыки, ценностные установки, необходимые для целенаправленной деятельности. Образование становится полисферным, оно охватывает не только процессы воспитания и обучения, но и социокультурный пласт общества, - образовательные процессы «просачиваются» в каждый акт коммуникации и взаимодействия людей.
Вопрос о перспективах развития образования заслуживает особого внимания, ведь его изменение в отрыве от общества невозможно. Внедрение искусственного интеллекта в социально значимые сферы общества обусловлено внешними обстоятельствами и инерцией развития информационного общества. Информация и ее объем как катализатор изменений обуславливает анализ и упорядочивание данных. В связи с чем, фоновая структура сознания человека начинает «форматировать» традиционные образовательные процессы. Современная действительность служит подтверждением этого положения.
Согласно докладу ЮНЕСКО, потенциал искусственного интеллекта направлен как на образовательную деятельность обучающихся, преподавателей, так и на работу органов управления образования и их должностных лиц. Для учащихся - нейросети станут незаменимыми помощниками в учебе для поиска связи между разрозненными источниками данных. Для учителя -
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024
«обнаружение» новых технологий обучения расширит его возможности и повысит роль во время проведения занятий. Для органов управления образованием - использования данных и прогнозов искусственного интеллекта позволит перейти от реактивного к упреждающему управлению [4].
Эксперты в области образовательных технологий отмечают, что к числу плюсов от использования AI в образовании можно отнести:
возможность персонифицировано подобрать форму обучения с учетом различных факторов: уровня знаний, наличия свободного времени и пр.;
возможность оперативного и беспристрастного оценивания знаний обучающегося;
расширение возможностей занятия самообразованием путем исключения из процесса получения знаний другого человека [5, с. 355].
Однако, наряду с неоспоримыми преимуществами, технологии искусственного интеллекта поставили перед сферой образования новые вызовы, уже нашедшие воплощение на практике.
Так, в 2023 году в России студент Александр Ждан с помощью нейросети Chat GPT за один вечер написал выпускную квалификационную работу, которую впоследствии успешно защитил.
Это свидетельствует об актуализации вопросов, связанных с этическими аспектами использования результатов, созданных при помощи генеративного искусственного интеллекта, тенденции к снижению творческих способностей обучающихся, усугублению проблем, связанных с феноменом «клипового мышления» и др., поскольку распространение и использование нейросети принципиально трансформирует процесс воспроизводства норм деятельности, которые обучающийся должен освоить.
В связи с этим представляется целесообразным проанализировать будущую систему отношений с применением искусственного интеллекта и на основе проведенного исследования сформулировать собственные предложения.
Образование на новом этапе: искусственный интеллект и здравый смысл
ГОСТ Р 59895-2021 отмечает: «совокупность технологий искусственного интеллекта может использоваться для автономного обучения без вмешательства педагогического работника посредством искусственного интеллекта-репетитора». Это разрушает классическую связку «педагог - обучаемый» и ставит перед сферой образования новые вызовы, связанные с утратой важнейших функций образовательной деятельности. Поэтому так важен комплексный системный под-
ход к внедрению и правовому регулированию применения технологий искусственного интеллекта в обучении.
С позиции системного подхода, обоснованного в трудах П.Г. Щедровицкого [6; 7], хотелось бы рассмотреть особенности применения искусственного интеллекта в образовательном процессе, затрагивая сначала «плоскость» самого образовательного процесса, затем - «плоскость» правовых основ управления.
1. Как известно, деятельность нормирована, она строится в соответствии с образцами, поэтому и носит воспроизводящий характер. В ходе образовательного процесса обучающийся как будущий носитель определенной деятельности должен усвоить некий объем знаний (которые не существует вне деятельности), превратить их в умения и навыки, тем самым, воспроизвести некую норму деятельности. Использование ней-росети самим обучающимся «ломает» сущность образовательного процесса, превращая студента в пассивного субъекта образования. Встает логический вопрос - «Будет ли искусственный интеллект способствовать помощи человеку или интеллектуальная программа превратит человека в средство и инструмент реализации определенного комплекса идей?»
Однако отрицать достижения XXI века достаточно бесперспективно и современные условия диктуют внедрение новых технологий обучения. Поэтому для основных направлений конкретизации образовательных целей с применением ней-росети стоит учитывать следующие показатели:
A) характеристика образовательных условий: каким образом воздействовать на образовательную среду и какие условия для них обеспечить?
Б) характеристика внутренних процессуальных параметров: какие способности и возможности следует формировать при использовании искусственного интеллекта в образовательном процессе?
B) характеристика образовательных результатов. В данном случае возможно два варианта.
Если установить, что искусственный интеллект - это элемент модернизационных процессов, то основным образовательным результатом выступит репродуктивное обучение (формирование способов действий по определенному образцу).
Если нейросети существуют в рамках трансформационных процессов, то итогом стоит признать исследовательский характер обучения.
2. Основными элементами системы образования согласно действующему законодательству считаются ФГОС и ФГТ; федеральные и региональные органы государственной власти, осу-
ществляющие управления в сфере образования; органы местного самоуправления, которые правомочны осуществлять управление в сфере образования; организации, осуществляющие образовательную деятельность; обучающиеся, родители и педагогические работники.
Какова роль нейросети в системе образования и какое государственное управление должно быть, чтобы достигнуть баланса частных и публичных интересов?
Во-первых, не стоит забывать, что искусственный интеллект - продукт социальной трансформации, которые формирует определенную матрицу эффективных действий.
Во-вторых, государственное воздействие на применение нейросети в образовательных целях не должно быть амбивалентным (двойственным).
В-третьих, управление должно носить межотраслевой, межведомственный характер, то есть основными разработчиками государственной программы должны быть Министерство просвещения РФ, Министерство науки и высшего образования РФ, Министерство цифрового развития, связи и массовых коммуникаций РФ, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций.
В-четвертых, рамки инновационного проекта (государственной программы) должны содержать ответы на вопрос - как управлять? Если в проекте отсутствует оценка реального места и функций искусственного интеллекта в образовательных процессах, то впоследствии это может привести к хаосу в управлении данными процессами.
Заключение
В условиях необходимости скорейшей реализации обозначенных в стратегических документах Российской Федерации национальных приоритетов, подразумевающих наращивание интеллектуального потенциала нации, переход к новой системе подготовки квалифицированных кадров с учетом стоящих перед страной «больших вызовов» становится объективной потребностью, и важнейшим условием такого перехода выступают преимущества, достигаемые за счет использования прорывных технологий, в первую очередь, технологий искусственного интеллекта.
Искусственный интеллект в образовании относится не просто к созданию и распространению новшеств, но к таким изменениям, которые носят существенный характер, сопровождающимися изменениями как в самом образовательном процессе, так и в государственном управлении. Столкновение традиционных и новых технологий может привести к дисбалансу отношений,
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024
однако стоит заключить, что на современном этапе требуется продуманная государственная программа, позволяющая сочетать сознательную поведенческую вариативность и регулярность привлечения информационных ресурсов.
Процесс внедрения прорывных технологий в сферу образования должен быть продуманным и систематизированным, поскольку при использовании искусственного интеллекта важно помнить о том, что технологии - только средство для достижения образовательных целей, поэтому подмена ими учителя (преподавателя) и, соответственно, утрата коммуникативного, социального, воспитательного, ценностного потенциала образовательного процесса, недопустимы.
Путем внесения соответствующий положений в Закон об образовании, образовательные стандарты и требования, локальные акты образовательных организаций, разработку соответствующих государственных программ, должны быть четко обозначены границы, в пределах которых искусственный интеллект может заменять преподавателя, а обучающиеся - использовать продукты, создаваемые искусственным интеллектом, в процессе выполнения учебного плана. Эти границы должны устанавливаться с учетом человеко-ориентированных этических норм, определяющих базовые принципы использования AI в образовании, и положений документов стратегического планирования, обозначивших векторы научно-технологического развития страны.
Список литературы:
[1] Карцхия А.А. Цифровая революция: новые технологии и новая реальность // Правовая информатика. 2017. №1. С. 13-18.
[2] Минбалеев А.В. Понятие «искусственный интеллект» в праве // Вестник Удмуртского университета. Серия Экономика и право. 2022. Т. 32, № 6. С. 1094-1099.
[3] Пашнина Т.В. О системном подходе в правовом регулировании применения технологий искусственного интеллекта в сфере образования // Цифровые технологии и право: Сборник научных трудов II Международной научно-практической конференции: в 6 томах, Казань, 22 сентября 2023 года. Казань: Познание, 2023. С. 267-272.
[4] Дагген Стивен. Искусственный интеллект в образовании: Изменение темпов обучения. М.: Институт ЮНЕСКО по информационным технологиям в образовании, 2020. 45 с.
[5] Баганова З.А., Магомедова П.О. Искусственный интеллект в образовании // Вопросы устойчивого развития общества. 2021. № 4. С. 352-256.
[6] Щедровицкий П.Г. Введение в философскую и педагогическую антропологию. М.: Политическая энциклопедия, 2018. 359 с.
[7] Щедровицкий П.Г. Критика педагогического разума. М.: Политическая энциклопедия, 2021. 551 с.
Spisok literatury:
[1] Kartskhiia A.A. Tsifrovaia revoliutsiia: novye tekhnologii i novaia real'nost' [The Digital Revolution: new technologies and a new reality] // Pravovaia informatika [Legal Informatics]. 2017. №1. P. 13-18. In Russ.
[2] Minbaleev A.V. Poniatie «iskusstvennyi intellekt» v prave [The concept of «artificial intelligence» in law] // Vestnik Udmurtskogo universiteta. Seriia Ekonomika i pravo [Bulletin of the Udmurt University. Economics and Law Series]. 2022. T. 32, № 6. P. 1094-1099. In Russ.
[3] Pashnina T.V. O sistemnom podkhode v pra-vovom regulirovanii primeneniia tekhnologii iskusst-vennogo intellekta v sfere obrazovaniia [On a systematic approach to the legal regulation of the use of artificial intelligence technologies in the field of education] // Tsifrovye tekhnologii i pravo [Digital technologies and law]: Sbornik nauchnykh trudov II Mezh-dunarodnoi nauchno-prakticheskoi konferentsii: v 6 tomakh, Kazan', 22 sentiabria 2023 goda. Kazan': Poznanie, 2023. Р. 267-272. In Russ.
[4] Daggen Stiven. Iskusstvennyi intellekt v obrazovanii: Izmenenie tempov obucheniia [Artificial intelligence in education: changing the pace of learning]. M.: Institut IuNESKO po informatsionnym tekh-nologiiam v obrazovanii, 2020. 45 p. In Russ.
[5] Baganova Z.A., Magomedova P.O. Iskusstvennyi intellekt v obrazovanii [Artificial intelligence in education] // Voprosy ustoichivogo razvitiia obsh-chestva [Issues of sustainable development of society]. 2021. № 4. P. 352-256. In Russ.
[6] Shchedrovitskii P.G. Vvedenie v filosofskuiu i pedagogicheskuiu antropologiiu [Introduction to Philosophical and Pedagogical Anthropology]. M.: Politicheskaia entsiklopediia, 2018. 359 p. In Russ.
[7] Shchedrovitskii P.G. Kritika pedagogich-eskogo razuma [Criticism of the pedagogical mind]. M.: Politicheskaia entsiklopediia, 2021. 551 p. In Russ.
ОБРАЗОВАНИЕ И ПРАВО № 4 • 2024