CC BY
26Регулирование искусственного интеллекта в образовании
Дается обзор современных исследований в области применения технологий искусственного интеллекта в образовании, а также отечественного и зарубежного опыта в области законодательного регулирования данного направления. Делается вывод о необходимости создания обязательной системы сертификации программного обеспечения и оборудования, использующих технологию «искусственный интеллект» в образовании
А.В. Зажигалкин1
ФГАОУ ДПО «Академия стандартизации, метрологии и сертификации (учебная)» (ФГАОУ ДПО АСМС), д-р экон. наук
Т.Т. Мансуров2, 3
Исполнительный комитет Содружества Независимых Государств, ФГАОУ ДПО АСМС, канд. юр. наук
О.В. Мерецков4
ФГАОУ ДПО АСМС, чл.-корр. Академии информатизации образования, канд. пед. наук, meretskov.ov@asms.ru
1 ректор, Москва, Россия
2 начальник отдела, Москва, Россия
3 заведующий кафедрой, Москва, Россия
4 доцент кафедры, Москва, Россия
Для цитирования: Зажигалкин А.В., Мансуров Т.Т., Мерецков О.В. Регулирование искусственного интеллекта в образовании // Компетентность / Competency (Russia). — 2024. — № 6. DOI: 10.24412/1993-8780-2024-6-03-10
ключевые слова
дистанционные образовательные технологии, информатизация, цифровизация, цифровой образовательный контент, сквозные технологии
соответствии с Постановлением Правительства Российской Федерации от 2 марта 2019 г. № 234 «О системе управления реализацией национальной программы «Цифровая экономика Российской Федерации» искусственный интеллект относится к одной из «сквозных» цифровых технологий, в том смысле что она проникает в различные отрасли народного хозяйства, не имея четкой локализации. Введем определение понятия «сквозные цифровые технологии» как совокупность технологий создания, обработки, хранения, передачи и уничтожения данных в электронном виде, применение которых способствует автоматизации процессов и процедур, получению новых свойств ранее существовавших объектов, возникновению новых товаров и услуг, а также имеет признаки мультисекторального применения в различных отраслях народного хозяйства [1].
Система искусственного интеллекта согласно понятийному аппарату словаря информатизации образования — это информационная система (программная реализация), имитирующая решение человеком достаточно сложных задач в процессе его деятельности, использующая программно-аппаратные средства. Они позволяют на основе применения знаний осуществлять решение неформализованных творческих проблем, в том числе моделировать некоторые аспекты образовательной деятельности, включая процесс обучения, и обеспечивают диалог с компьютером на языке, максимально приближенном к естественному, а также автоматизацию поведения роботов и робототехнических систем [3].
Реализация возможностей систем искусственного интеллекта в образова-
нии в основном осуществляется по следующим направлениям:
► обеспечение информационного взаимодействия между обучающимся (обучающимися) и обучающим (обучающими) в режиме удаленного доступа с использованием больших объемов информации (данных) образовательного назначения;
► осуществление систематической диагностики результатов обучения или уровня обученности (компетентности);
► обеспечение субъектов образовательного процесса необходимыми учебно-методическими материалами адекватно их потребностям или результатам обучения, уровню обученности, компетентности, установленным предварительно;
► обработка больших объемов информации по научно-педагогическим и учебно-методическим исследованиям и извлечение необходимой пользователю информации;
► обобщение результатов обучения (отдельного обучающегося, группы, коллектива) по результатам интеллектуального анализа, управляемого пользователем [3].
Многие исследователи тождественно связывают развитие искусственного интеллекта с возможностями, демонстрируемыми ChatGPT. В частности, Е.Н. Ивахненко и В.С. Никольский в работе «ChatGPT в высшем образовании и науке: угроза или ценный ресурс?» выделяют возможные негативные последствия использования ChatGPT:
► ненадежность данных, которые применяются для получения выводов относительно выполняемого запроса пользователя;
► ложный контент, генерируемый системой в качестве ответа для воспол-
справка
Словосочетание «искусственный интеллект» (англ. Artificial Intelligence, AI) впервые было употреблено в 1956 году Джоном Маккарти на семинаре в Дартмутском университете как описание «вычислительной составляющей способности рассуждать разумно» [2]. В соответствии с ГОСТ Р 598952021 «Технологии искусственного интеллекта в образовании. Общие положения и терминология» под искусственным интеллектом (ИИ) понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, как минимум сопоставимые с результатами интеллектуальной деятельности человека»
нения существующих пробелов имеющейся в распоряжении системы информации;
► наличие технических ограничений работы в системе (в том числе дискриминационные ограничения, такие как запрет на доступ из некоторых стран);
► открытый вопрос авторства: де-юре авторские права на результат интеллектуальной деятельности с использованием ChatGPT возникают у оператора, который с ней взаимодействует, при этом могут не отражаться источники, из которых осуществлено заимствование материалов и идей.
Авторы исследования считают, что искусственный интеллект имеет огромный потенциал применения в образовании и его следует изучать для возможного ответственного внедрения. Уже сегодня ChatGPT способен давать конструктивную обратную связь, указывая на ошибки, недочеты и возможности улучшения работы, что до сих пор мог делать только преподаватель. Так, детализированный анализ эссе, например, требует значительных временных затрат и при росте числа обучающихся приводит к отказу преподавателя от использования эссе в качестве заданий. В этом случае искусственный интеллект, подобный ChatGPT, способен создать среду для самообучения и организовать необходимую развивающую обратную связь, на которую у преподавателя нет свободного времени, что, по мнению авторов исследования, «может практически воплотить идею самообразования в течение всей жизни, предоставляя ценную обратную связь и открывая возможности для дальнейшего развития» [4].
Подробно разбирая такую форму контроля знаний, как реферат и эссе, авторы приходят к выводу, что в нынешнем виде она теряет свой смысл, так как ChatGPT выдает среднюю по качеству имитацию таких работ, которая с легкостью проходит антиплагиат. Исследователи ставят закономерный вопрос: «Что таким образом мы проверяем, задавая подготовку эссе или реферата?» И обозначают в качестве возможного тренда развития
образования, с учетом существования искусственного интеллекта, переработку методик преподавания, с увеличением доли устных ответов для контроля знаний и формирования заданий таким образом, чтобы они развивали умственные способности студентов, учитывая автоматизацию части процедур работы с информацией с помощью искусственного интеллекта.
Необходимость внесения изменений в методики преподавания с учетом открывшихся возможностей применения искусственного интеллекта разделяют также исследователи Н.С. Гар-куша и Ю.С. Городова. В работе «Педагогические возможности ChatGPT для развития когнитивной активности студентов» они формулируют понятие «когнитивная активность», под которой понимают «целенаправленную самостоятельную деятельность субъекта, связанную с поиском, восприятием и переработкой информации, при которой задействованы познавательные, эмоциональные, волевые психические процессы и состояния, а также различные свойства личности (способности, темперамент, характер, направленность)» [5]. Они считают, что преподавателям необходимо понять, какие задачи искусственный интеллект может эффективно реализовывать, а в чем его возможности ограничены, и сообразно с этим выстраивать образовательный процесс, чтобы через стимулирование когнитивной активности студентов способствовать эффективному достижению образовательных целей.
В данном контексте исследователи выделяют следующие приоритетные направления использования искусственного интеллекта в образовательных целях:
► развитие критического мышления;
► стимулирование креативности в решении задач;
► активация познавательного интереса;
► воздействие на мотивацию к обучению;
► рефлексия собственного опыта;
► отработка умений и навыков в рамках отдельных дисциплин.
Ряд исследователей указывает на потенциальную возможность искусственного интеллекта генерировать недопустимый, а также предвзятый контент, тиражирующий, например, стереотипное историческое мнение или ошибочное с точки зрения науки утверждение в соответствии с исходными материалами, на которых система была обучена [6]. В качестве одного из условий успешной интеграции систем искусственного интеллекта в образовательный процесс исследователи выделяют формирование «вычислительного мышления», определяя его как «набор навыков, который используется для решения проблем в компьютерных науках» [6].
Многие из исследователей, отмечая потенциальные угрозы, связанные с применением искусственного интеллекта в образовании, выражают мнение о необходимости регулирования использования искусственного интеллекта хотя бы в той части, которая требуется, чтобы оградить общество от возможных катастрофических последствий в критически важной инфраструктуре. Первым законодательным актом в этой области можно считать закон Европейского союза о регулировании применения искусственного интеллекта — «Закон об искусственном интеллекте», директива № 8115/21, опубликованный 26 января 2024 года [7].
Согласно Статье 1 данного документа, в нем устанавливаются:
► согласованные правила размещения на рынке, ввода в эксплуатацию и использования систем искусственного интеллекта в Европейском союзе;
► запреты на определенные методы использования искусственного интеллекта;
► особые требования к системам искусственного интеллекта с высоким уровнем риска и обязательства операторов таких систем;
► согласованные правила прозрачности для определенных систем искусственного интеллекта;
► согласованные правила размещения на рынке моделей искусственного интеллекта общего назначения;
► правила мониторинга рынка, управления надзором за рынком и правоприменения;
► меры по поддержке инноваций с особым упором на малое и среднее предпринимательство (МСП), включая стартапы [7].
Остановимся на отдельных статьях данного закона более подробно. Так, в Статье 5 перечисляются методы искусственного интеллекта, которые должны быть запрещены на территории всего Европейского союза (за исключением специально вынесенных оговорок и ситуаций). К ним относятся:
► методы подсознательного воздействия, находящегося за пределами сознания человека, или целенаправленно манипулирующие или вводящие в заблуждение;
► использующие любые уязвимости лица или определенной группы лиц в силу их возраста, инвалидности или конкретной социальной или экономической ситуации;
► классифицирующие физических лиц индивидуально на основе их биометрических данных для определения их расы, политических взглядов, членства в профсоюзе, религиозных или философских убеждений, сексуальной жизни или сексуальной ориентации;
► применяемые для оценки или классификации физических лиц или их групп за определенный период времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных или личностных характеристик;
► для удаленной биометрической идентификации в режиме реального времени в общедоступных помещениях;
► для проведения оценки рисков физических лиц с целью их прогнозирования;
► направленные на совершение физическим лицом уголовного преступления;
► расширяющие базы данных распознавания лиц посредством нецелевого извлечения изображений из интернета или видеозаписей камер видеонаблюдения;
► для определения эмоций физического лица на рабочих местах и в образова-
справка
ChatGPT (англ. Generative Pre-Trained Transformer — генеративный предварительно обученный трансформер) — чат-бот с генеративным искусственным интеллектом. Сегодня ChatGPT возможно является самой крупной и обученной языковой моделью в мире, которая основывается на архитектуре глубоких нейронных сетей [4]
справка
Секретариат ТК 164 ведет ФГАОУ ВО «Национальный исследовательский университет «Высшая школа экономики»». На ее базе действует система добровольной сертификации (СДС) «Интеллометрика». Целью данной системы является оценка соответствия алгоритмов ИИ предъявляемым к ним требованиям. Как заявлено на сайте системы (https://intellometrics.hse.ru/), «СДС «Интеллометрика», зарегистрированная Росстандартом в едином реестре систем добровольной сертификации 26 декабря 2023 года (свидетельство № РОСС RU.В2915.04ВШЭ0)! предоставляет гарантии, что алгоритмы ИИ выполняют заявленные функции и могут быть использованы в определенных условиях эксплуатации». Предметом добровольной сертификации в СДС «Интеллометрика» является продукция, работы (услуги), процессы и системы менеджмента. В рамках системы предлагается стандартный отработанный подход к сертификации четырех перечисленных направлений на основании подходов к построению системы добровольной сертификации по каждому из них, регламентированных соответствующим ГОСТ. Наличие подобной системы сертификации можно расценивать как положительный факт, способствующий росту сети испытательных лабораторий в области систем с искусственным интеллектом, накоплению экспертного опыта оценивания их качества и развитию соответствующей нормативно-правовой базы
тельных учреждениях за исключением случаев, когда предполагается внедрение системы искусственного интеллекта на месте или на рынке по медицинским показаниям или соображениям безопасности [7].
Относительно содержащегося в законе Евросоюза запрета отслеживания эмоций обучающихся в образовательных учреждениях необходимо отметить, что данный пункт вступает в противоречие, например, с функциональностью продукта «Ассистент преподавателя», разработанного Сбером в рамках своего проекта «СберКласс», поскольку одним из опорных элементов функциональности заявлено распознавание количества одобрений и порицаний учеников, сделанных учителем за время урока. То есть можно предположить, что на этом основании продукт Сбера «Ассистент преподавателя» уже не соответствует данной директиве Евросоюза и не может (в случае возникновения такого желания) распространяться в странах ЕС.
Основной (по объему) раздел рассматриваемой директивы посвящен регулированию систем искусственного интеллекта высокой степени риска. Таковыми считаются системы с искусственным интеллектом, являющиеся основой или компонентами структуры безопасности, а также включающие или использующие следующие составляющие:
► биометрические данные;
► критически важную инфраструктуру (управление и эксплуатацию критически важной цифровой инфраструктуры, дорожного движения и водоснабжения, газоснабжения, отопления и электроснабжения);
► образование и профессиональную подготовку (зачисление/формирование групп, контроль знаний, контроль запрещенного поведения);
► трудоустройство, управление персоналом и доступ к самозанятости (отбор на работу);
► доступ к основным частным услугам и основным общественным услугам и льготам и пользование ими (госуслуги);
► системы в правоохранительных органах;
► управление миграцией, предоставлением убежища и пограничным контролем;
► отправление правосудия и демократические процессы (судебное делопроизводство).
Спектр регулируемых систем искусственного интеллекта в качестве потенциально содержащих в себе высокие риски довольно обширен. Особое внимание в данном перечне следует обратить на область образования: фактически под регулирование в Европейском союзе подпадают все системы управления обучением с элементами искусственного интеллекта, использующие ИИ в качестве инструмента хотя бы по одному из трех направлений:
► зачисление (отчисление, перевод);
► промежуточная и итоговая оценка знаний (умений);
► прокторинг (соблюдение правил эк-заменовки).
Механизм регулирования, прописанный в рассматриваемом законе, осуществляется через формулирование требований, предъявляемых к системам искусственного интеллекта, а также предписанием наличия определенных процессов и процедур во всей логистической цепочке, связанной с созданием и эксплуатацией системы, — занимающихся разработкой, инсталляцией, поддержкой эксплуатации, дистрибуцией, взаимодействием с госорганами и т.д. В частности, к системам с искусственным интеллектом, относящимся к группе высокого риска, предъявляются требования по следующим направлениям:
► наличие системы управления рисками;
► системы, включающие обучение моделей с данными, должны разрабатываться на основе наборов данных обучения, валидации и тестирования, которые соответствуют критериям качества;
► техническая документация должна быть разработана до ввода системы в эксплуатацию и поддерживаться в актуальном состоянии;
► должна быть реализована автоматическая запись событий в журналы событий (event logs);
► системы должны проектироваться так, чтобы гарантировалась прозрачность работы, а разработчики могли интерпретировать их выходные данные;
► они должны создаваться и совершенствоваться таким образом, чтобы физические лица могли эффективно контролировать их в течение всего периода использования;
► в соответствии с проектом структуры должны обладать высоким уровнем точности, надежности и кибербезопас-ности и стабильно работать в этих отношениях на протяжении своего жизненного цикла;
► поставщики систем должны по мотивированному запросу компетентного органа предоставлять всю информацию и документацию, доступ к журналам, автоматически генерируемым системой искусственного интеллекта в той мере, в какой такие журналы находятся под их контролем;
► все участники логистической цепочки создания, дистрибуции, развертывания, эксплуатации и т.п. должны внедрить у себя и поддерживать в актуальном состоянии системы менеджмента качества, построенные на документированных процессах и процедурах.
Важно отметить, что сам факт предъявления требований к данным, на которых обучается система с искусственным интеллектом, примечателен тем, что интегративно отражает содержательные свойства искусственного интеллекта и рассматривается как неотъемлемая характеристика, влияющая на работу системы. Это отличительная особенность, которой нет ни у одной другой информационной системы и которая фактически максимально приближает оценку искусственного интеллекта к критериям, характерным для живого человека.
Такое требование европейской директивы к качеству содержания данных, на которых будет обучена система, фактически задает некоторую рамку ее «обучения», вводя своего рода тре-
бования к «учебным материалам» для информационных систем с элементами искусственного интеллекта.
Для подтверждения исполнения требований данного европейского закона предусматривается вариант сертификации специальными «авторизованными нотификационными органами», которые должны быть созданы в каждой стране — участнице Евросоюза. Эти органы уполномочиваются выдавать соответствующие сертификаты со сроком действия в пределах 5 лет (на определенный перечень систем с искусственным интеллектом — в пределах 4-х лет), после чего сертификаты либо продляются, либо производится повторная оценка соответствия.
Таким образом, в Европейском союзе впервые в мировой практике был описан механизм регулирования систем искусственного интеллекта применительно к наиболее важным с точки зрения опознаваемых современным обществом рисков областей деятельности, в число которых справедливо включено образование по всем уровням и степеням подготовки, с повышением квалификации и профессиональной переподготовкой, и началось его поэтапное внедрение.
В Российской Федерации вопросы регулирования систем с искусственным интеллектом находятся в ведении Федерального агентства по техническому регулированию и метрологии (Росстандарт), подведомственно подчиненного Министерству промышленности и торговли Российской Федерации. Непосредственно за разработку и актуализацию государственных стандартов (ГОСТ) в структуре Росстан-дарта отвечают профильные технические комитеты (ТК), за каждым из которых закреплено одно или несколько направлений деятельности.
ФГАОУ ДПО «Академия стандартизации, метрологии и сертификации (учебная)» является полноправным членом ТК 164 (на основании приказа Росстандарта № 970 от 12.04.2024). На момент проведения настоящего исследования в работе ТК 164 «Искусственный интеллект» принимают
справка
Считаем уместным провести аналогию с полученным человеческим индивидом образованием: косвенно, оценивая способность сотрудника выполнять ту или иную трудовую функцию, мы обращаемся к его опыту и знаниям, интересуясь где и на чем он обучался, с какими инструментами сталкивался в своей работе и т.п., и на основании такого интервью делаем первичные выводы относительно его способности справиться с той или иной задачей
8 ОБУЧЕ1_|ИЕ Компетентность / Competency (Russia) 6/2024
DOI: 10.24412/1993-8780-2024-6-03-10
участие 68 профильных организаций, с помощью которых были разработаны и введены в действие в установленном порядке более шестидесяти национальных стандартов (ГОСТ Р), четырнадцать из которых посвящены вопросам регулирования разных аспектов применения технологии искусственного интеллекта в образовании (см. таблицу).
Вместе с тем, сутевое наполнение перечисленных стандартов представляет собой скорее предложение возможностей применения искусственного интеллекта в конкретном прикладном варианте использования и методов оценки системы для проверки корректности функционирования, что отражено в их названиях («Варианты использования», «Общие положения и методика испытаний», «Общие положения и терминология» и т.п.). Даже
те стандарты, в которых сформулирована некоторая рамка требований (например, ГОСТ Р 59899-2021 «Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования»), сами по себе (в отсутствие документа, вменяющего в обязанность ответственным лицам от образования его применять) не являются обязательными к исполнению.
Это порождает некоторую нормативно-правовую коллизию: с одной стороны, существует некоторое количество национальных стандартов, регулирующих сложный межпредметный вопрос создания и применения систем искусственного интеллекта в образовании, с другой стороны, образовательные организации, разрабатывая и внедряя у себя подобного рода
Таблица
Перечень стандартов, регулирующих применение искусственного интеллекта в образовании [List of standards to regulating the use of artificial intelligence in education]
Обозначение [Designation] Название стандарта [Standard name]
ГОСТ Р59895-2021 Технологии искусственного интеллекта в образовании. Общие положения и терминология
ГОСТ Р 59896-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Требования к учебно-методическим материалам
ГОСТ Р 59897-2021 Данные для систем искусственного интеллекта в образовании. Требования к сбору, хранению, обработке, передаче и защите данных
ГОСТ Р 59898-2021 Оценка качества систем искусственного интеллекта. Общие положения
ГОСТ Р 59899-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования
ГОСТ Р 59900-2021 Системы искусственного интеллекта. Типовые требования к контрольным выборкам исходных данных для испытания систем искусственного интеллекта в образовании
ГОСТ Р 70944-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема организации участия в конкурсных мероприятиях с целью финансирования научной деятельности. Общие положения
ГОСТ Р 70945-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема организации и проведения научных мероприятий. Общие положения
ГОСТ Р 70946-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема управления успеваемостью обучающихся по программам бакалавриата и специалитета. Общие положения и методика испытаний
ГОСТ Р 70947-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема управления успеваемостью обучающихся по программам среднего профессионального образования. Общие положения и методика испытаний
ГОСТ Р 70948-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема формирования контингента абитуриентов по программам бакалавриата и специалитета. Общие положения и методика испытаний
ГОСТ Р 70949-2023 Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования
ГОСТ Р 70950-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема управления успеваемостью обучающихся по программам подготовки научных и научно-педагогических кадров в аспирантуре. Общие положения и методика испытаний
ГОСТР70951-2023 Технологии искусственного интеллекта в образовании. Функциональная подсистема управления успеваемостью обучающихся по программам дополнительного профессионального образования. Общие положения и методика испытаний
системы, не имеют обязательства придерживаться сложных комплексных рекомендаций по их разработке и приемке для применения в учебном процессе. Возможно, данные стандарты следует рассматривать как некоторый задел на будущее, когда государство устранит правовой вакуум и в Российской Федерации будет построена своя система, регулирующая применение технологий искусственного интеллекта (имеется в виду не система добровольной сертификации, а система, полноценно регулирующая «правила игры» на этом рынке). Тогда органам по сертификации потребуется в своей работе опираться на некоторую нормативную базу, подобно тому как это реализовано в рассмотренной директиве Евросоюза, включающей в Приложении II перечень соответствующих отраслевых и национальных директив, используемых нотификационными органами в процессе сертификации систем с элементами искусственного интеллекта.
В заключение отметим, что вопрос применения технологии «искусственный интеллект» в образовании больше не является дискуссионным. Это свершившийся факт хотя бы по той причине, что данная технология уже проникла во многие отрасли народного хозяйства, такие как медицина, транспорт, средства массовой информации и т.д., и использованию систем искусственного интеллекта в этих направлениях (как предмета изучения) необходимо обучать в рамках формального образования.
Применение систем искусственного интеллекта в учебном процессе привело к трансформации последнего: механистические навыки поиска и обобщения информации, ее запоминания и реферирования отошли на второй план и больше не могут использоваться в качестве инструмента оценки достигнутого обучаемым уровня знаний или умений. На первый план выходит потребность формирования «вычислительного мышления» как набора навыков, необходимых для решения проблем в компьютерных науках, то есть
способности трансформировать решаемую задачу так, чтобы часть ее выполнения автоматизировать с помощью компьютерных систем, в том числе с использованием искусственного интеллекта. Акцент смещается на вопросы контроля преподавателем степени понимания обучающимся изучаемого предмета, процесса, явления в непосредственном диалоге. Вместе с этим трансформируется и восприятие роли преподавателя, которое смещается от транслятора набора знаний в соответствии с планом программы обучения в сторону эксперта изучаемой предметной области, который может помочь интерпретировать полученную информацию, определиться с выбором правильного ее применения и связать с личным опытом обучаемого через ретроспективную и перспективную рефлексию, повысив, таким образом, мотивацию и ценность приобретаемых знаний в глазах конкретного слушателя.
Данные, на которых обучена конкретная копия системы искусственного интеллекта, определяют ее существенные свойства, подобно книгам, по которым человек учился. В этом смысле они, наряду с заложенными в систему алгоритмами машинного обучения, формируют ее «интеллектуальную» составляющую, определяющую способность так или иначе распознавать предложенные образы, формировать ответы на поставленные вопросы, предлагать те или иные комбинации имеющихся знаний. Поэтому подход к оценке качества и безопасности системы искусственного интеллекта должен обязательно учитывать данные, на которых она обучается.
Разработка и применение систем с искусственным интеллектом в образовании несет в себе значительные риски для общества. Для того чтобы эти риски не выходили из-под контроля, а человек оставался в управляющей роли по отношению к искусственному интеллекту и машинам с его элементами в своем составе, необходимо законодательно вводить обязательное регулирование систем искусственного
справка
ТК 164 «Искусственный интеллект» занимается разработкой и актуализацией стандартов, связанных с применением технологий искусственного интеллекта в различных отраслях народного хозяйства. В его структуру входят три подкомитета (ПК 01 «Искусственный интеллект в здравоохранении», ПК 02 «Данные», ПК 03 «Искусственный интеллект в дорожно-транспортном комплексе»), а также рабочая группа «Искусственный интеллект в образовании», не имеющая статуса подкомитета
Статья поступила в редакцию 30.03.2024
интеллекта на государственном уровне, в том числе — в образовании.
^исок литературы
1. Мерецков О.В. Правовое регулирование применения сквозных цифровых технологий в Российской Федерации. — М.: Литрес, 2023.
2. Герова Н.В., Мерецков О.В., Клочков А.В. // Наука о человеке: гуманитарные исследования. — 2023. — Т. 17. — № 3.
3. Информатизация образования: толковый словарь понятийного аппарата / Сост. И.В. Роберт, В.А. Касторнова. — М.: Изд-во АЭО, 2023.
4. Ивахненко Е.Н., Никольский В.С. // Высшее образование в России. — 2023. — Т. 32. — № 4.
5. Гаркуша Н.С., Городова Ю.С. // Профессиональное образование и рынок труда. — 2023. — Т. 11. — № 1(52).
6. Резаев А.В., Трегубова Н.Д. // Высшее образование в России. — 2023. — Т. 32. — № 6.
7. https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf (дата обращения: 2.02.2024).
Поэтому авторы статьи считают необходимым разработать и внедрить систему обязательной сертификации программного обеспечения и оборудования, использующих технологию «искусственный интеллект», для применения в образовании. Это позволит защитить интересы национальной безопасности нашей страны, с одной стороны, и обеспечит беспрепятственное внедрение передовых информационных технологий в сфере образования и науки — с другой, путем задания правильного вектора развития данного направления на государственном уровне. ■
10 TRAINING
Kompetentnost / Competency (Russia) 6/2024 ISSN 1993-8780. DOI: 10.24412/1993-8780-2024-6-03-10
Regulation of Artificial Intelligence in Education
A.V. Zazhigalkin1, FSAEI FVT Academy for Standardization, Metrology and Certification (Training) (FSAEIFVT ASMS), Dr. (Ec.)
T.T. Mansurov2, 3, Commonwealth of Independent States Executive Committee, FSAEI FVT ASMS, PhD (Law)
O.V. Meretskov4, FSAEI FVT ASMS, Corresponding Member of Academy of Informatization of Education, PhD (Ped.),
meretskov.ov@asms.ru
1 Rector, Moscow, Russia
2 Head of Department, Moscow, Russia
3 Chair of Department, Moscow, Russia
4 Associate Professor of Department, Moscow, Russia
Citation: Zazhigalkin A.V., Mansurov T.T., Meretskov O.V. Regulation of Artificial Intelligence in Education, Kompetentnost'/ Competency (Russia), 2024, no. 6, pp. 3-10. DOI: 10.24412/1993-8780-2024-6-03-10
key words
distance learning technologies, informatization, digitalization, digital educational content, end-to-end technologies
The article is an overview of modern research in the field of the application of artificial intelligence technologies in education, as well as domestic and foreign experience in the field of legislative regulation of this area (GOST R system of standards, the system of voluntary certification Intellometrica, EU Directive N 8115/21 Artificial Intelligence Act). It is noted that in the EU, for the first time in world practice, the mechanism for regulating artificial intelligence systems was described in relation to the most important areas of activity from the point of view of risks, which include education. It is concluded that it is necessary to create a mandatory certification system for software and equipment using artificial intelligence technology for use in education.
References
1. Meretskov O.V. Legal regulation of the end-to-end technologies usage in the Russian Federation, Moscow, Litres, 2023, 50 P.
2. Gerova N.V., Meretskov O.V., Klochkov A.V., Human science: humanitarian research, 2023, vol. 17, no. 3, pp. 122-130.
3. Robert I.V., Kastornova V.A. Informatization of education: explanatory dictionary of the conceptual apparatus, Moscow, AEO, 2023,
182 P.
4. Ivakhnenko E.N., Nikol'skiy V.S., Higher education in Russia, 2023, vol. 32, no. 4, pp. 9-22.
5. Garkusha N.S., Gorodova Yu.S., Vocational education and the labor market, 2023, vol. 11, no. 1(52), pp. 6-23.
6. Rezaev A.V., Tregubova N.D., Higher education in Russia, 2023, vol. 32, no. 6, pp. 19-37.
7. https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf (acc.: 2.02.2024).
