CC BY
22214 ТЕХНИЧЕСКОЕ РЕГУЛИРОВАНИЕ Компетентность / Competency (Russia) 3/2022
DOI: 10.24412/1993-8780-2022-3-14-18
Вопросы стандартизации в сфере искусственного интеллекта
Обосновывается необходимость стандартизации систем искусственного интеллекта в условиях цифровизации. Определяются цели стандартизации в области искусственного интеллекта. Рассмотрены действующие национальные и международные документы в указанной области. Описывается деятельность ТК 164 как ключевого субъекта национальной стандартизации в сфере искусственного интеллекта
Н.М. Куприков1
Высшая школа киберфизических систем и управления ФГАОУ ВО «Санкт-Петербургский политехнический университет Петра Великого», канд. техн. наук, [email protected]
Е.А. Башкирова2
Высшая школа киберфизических систем и управления ФГАОУ ВО «Санкт-Петербургский политехнический университет Петра Великого»
1 доцент, Санкт-Петербург, Россия
2 ведущим программист, Санкт-Петербург, Россия
Для цитирования: Куприков Н.М., Башкирова Е.А. Вопросы стандартизации в сфере искусственного интеллекта // Компетентность / Competency (Russia). — 2022. — № 3. DOI: 10.24412/1993-8780-2022-3-14-18
ключевые слова
системы искусственного интеллекта, стандартизация, сертификация, международные стандарты, ISO, информационная безопасность
овременныи мир неразрывно связан с развитием искусственного интеллекта (ИИ), без которого невозможен дальнейший научно-технический прогресс. Ключевую роль в обеспечении эффективности развития ИИ играет стандартизация, позволяющая четко определять требования к «идеальной» модели искусственного интеллекта и предпринимать все необходимое для ее реализации. Прежде чем создавать системы искусственного интеллекта (СИИ) и запускать их функционирование, необходимо понимать, что собой представляет ИИ, какими свойствами он должен обладать, чтобы обеспечить качественный уровень цифровизации всех сфер жизнедеятельности человека.
Рассматривая искусственный интеллект как объект стандартизации, необходимо определить ее цели.
7
Из табл. 1 следует, что при функционировании ИИ возникают некоторые проблемы. Чтобы их нивелировать, требуется разработка разных типов стандартов: основополагающих, терминологических, метрологических, стандартов информационной безопасности.
Значимым субъектом разработки национальных стандартов в области ИИ является технический комитет по стандартизации «Искусственный интеллект» (ТК 164)1, который ориентирован на реализацию эффективной деятельности, связанной с национальной и международной стандартизацией ИИ, и является зеркальным отражением одноименного международного подкомитета SC 42 Artificial Intelligence2. ТК 164 — постоянно действующий национальный орган Международной организации по стандартизации
7_
1 — Искусственный интеллект в здравоохранении
2 — Данные
3 — Искусственный интеллект на транспорте
4 — Основополагающие стандарты
5 — Качество систем искусственного интеллекта
6 — Прикладные технологии искусственного интеллекта
7 — Искусственный интеллект в образовании
Рис. 1. Национальные документы в области стандартизации ИИ [National documents in the field of AI standardization]
1 — WG2 «Data»
2 — WG3 «Trustworthiness»
3 — Use cases and applications
4 — Computational approaches and computational characteristics of AI systems
5 — AHG 2 Liaison with SC 38
6 — SC 40: Governance implications of AI
7 — Foundational standards
Рис. 2. Международные документы в области стандартизации ИИ [International documents in the field of AI standardization]
Таблица 1
Цели стандартизации в области ИИ [AI standardization goals]
Проблема [Problem] Тип стандартов [Type of standards] Положительный эффект [Positive effect]
Отсутствие гарантий безопасности систем ИИ (транспорт, медицина и т.п.) Метрологические стандарты (сертификационные требования) Гарантированное подтверждение безопасности систем иИ для людей и окружающей среды
Отсутствие унифицированных методик измерения функциональных характеристик Метрологические стандарты (единые способы измерения функциональных характеристик) Возможность объективного сравнения систем ИИ друг с другом, с прикладными интеллектуальными способностями человека, возможность прогнозирования экономического эффекта от систем ИИ
Ограничения, вызванные конфиденциальностью обучающих наборов данных Стандарты ИБ (требования к методам и средствам гарантированной деклассификации данных) Доступ широкого круга разработчиков к данным
Сложности интеграции систем ИИ в существующую информационную инфраструктуру Основополагающие и терминологические стандарты, требования к данным Повышение уровня интероперабельности, эффективности создания и применения систем ИИ
ИСО (ISO). Его членами выступают около ста профильных организаций из разных сфер деятельности (рис. 3). За время своего существования ТК 164 принял участие в ряде мероприятий, определяющих перспективы развития ИИ-индустрии в России (табл. 2).
Сегодня в области стандартизации ИИ уже существуют как национальные (НД) (рис. 1), так и международные документы (МД) (рис. 2). Восемь международных стандартов утверждено, около двадцати проектов находятся в работе.
Часть утвержденных и введенных в действие стандартов определяет сущ-
1 — ИТ-компании
2 — Вузы
3 — Научно-исследовательские организации
4 — Органы государственной власти
5 — Потребители системы ИИ
6 — Ассоциации и фонды
Рис. 3. Состав ТК 164 [Composition of TC 164]
Таблица 2
Основные мероприятия с участием ТК 164 [Main events with the participation of ТС 164]
Дата [Data] Мероприятие [Event]
Август 2020 г. Форум «Информационные технологии на службе ОПК» (ИТ ОПК 2020)
Сентябрь 2020 г. Круглый стол ЕАЭС «Развитие аналитических технологий с применением стандартов ИИ: вызовы и риски»
Цифровые инновации промышленной России (ЦИПР 2020)
Октябрь 2020 г. Российская неделя стандартизации
Круглый стол Московской ТПП «Стандарты умного города»
Декабрь 2020 г. Конференция МГИМО AI Global Dimension
Март 2021 г. Ruscrypto 2021
Апрель 2021 г. Конференция «Безопасные информационные технологии» (БИТ 2021)
Информационные технологии в машиностроении (ИТ Маш 2021)
Июнь 2021 г. Цифровые инновации промышленной России (ЦИПР 2021)
Август 2021 г. Конференция «Стратегическое лидерство в цифровую эпоху и технологии ИИ» (Форум «Армия 2021»)
IAPWS PCAS Symposium
Экспертная сессия по направлению «Искусственный интеллект» АНО «Цифровая экономика»
Семинар в Сколтехе по проекту 01Math
Конференция «Психологическая оборона. Информационное противоборство в условиях ментальной войны»
Сентябрь 2021 г. Специальное заседание РГ «Искусственный интеллект» при АНО «Цифровая экономика»
ность и характеристики средств, позволяющих отслеживать и прогнозировать человеческие намерения людей, другая часть регулирует деятельность воздушного транспорта на основе ИИ. Разработаны стандарты в области функционирования платформы «Автодата», применения информационных технологий и больших данных и т.д.
1 ТК 164 создан приказом Росстандарта от 25.07.2019 № 1732
2 Входит в объединенный технический комитет ISO/IEC JTC 1 Information Technologies
6
Рис. 4. Структура планируемых к разработке ТК 164 документов в области стандартизации ИИ [The structure of the documents planned for the development of TC 164 in the field of AI standardization]
Рассмотрим наиболее значимые из них.
1. ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения». Цель документа — регулирование СИИ. В нем дано определение искусственного интеллекта как технической системы, обладающей способностью имитации человеческих когнитивных функций, самообучения, самостоятельного поиска решений и достижения результатов в условиях выполнения аналитической работы. При этом получаемые данной системой результаты должны быть сопоставимы с результатами интеллектуальной деятельности (РИД) человека [1]. Указанная способность выступает в качестве ИИ.
2. ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта». Документ определяет сущность СИИ и признаки ее классификации. В соответствии со стандартом СИИ представляет собой техническую систему, применяющую технологии ис-
1 — Стандарты на термины и определения
2 — Стандарты на методы контроля (испытаний/ измерений)
3 — НД
4 — Другие документы
кусственного интеллекта. Ключевыми классификационными признаками СИИ являются автономность, автоматизация, архитектурное строение, структура и процедуры, по которым обрабатываются знания, специализация, устанавливаются методы обработки информации, управленческие функции, интеграционные и интероперабельные возможности, определяются риски, конфиденциальность, сфера деятельности, взаимодействие с людьми. Причем данные признаки не являются исчерпывающими и могут быть дополнены [2].
3. ГОСТ Р 59278-2020 «Информационная поддержка жизненного цикла изделий. Интерактивные электронные технические руководства с применением технологий искусственного интеллекта и дополненной реальности. Общие сведения». Этот документ конкретизирует понятие технологий ИИ, рассматривая их как комплексные технологические решения, обеспечивающие имитацию человеческих когнитивных функций, самообучение, возможность самостоятельного поиска решений и получения результатов в условиях выполнения СИИ аналитической работы [3].
Часть стандартов в окончательной редакции, разработанных ТК 164, в настоящее время находится на стадии утверждения, некоторые — на стадии доработки. Они регулируют вопросы применения систем искусственного интеллекта в клинической медицине, образовании, сельском хозяйстве, эргономике и иных сферах. Согласно Программе национальной стандартизации на 2022 год ТК 164 намерен разработать более пятидесяти ГОСТ Р (рис. 4).
Среди них стандарты, определяющие терминологию ИИ в сфере аналитики и клинической медицины; стандарты в сфере контрольно-изме-
Информация
Исследование частично финансируется Министерством науки и высшего образования Российской Федерации в рамках программы исследовательского центра мирового уровня «Передовые цифровые технологии» (контракт от 17.11.2020 № 075-15-2020-934)
рительных методов и приемов СИИ в маркетинге, машинном зрении, навигации, беспилотных средствах и операциях с недвижимостью; национальные документы, регулирующие применение СИИ на автомобильном транспорте, при дистанционном зондировании, в гидрометеорологии, в сфере ИКТ, клинической медицине, при охране окружающей среды, в строительстве; в ходе реализации молодежной политики, в области образования; для достижения высокого уровня гражданского благополучия населения с санитарно-эпидемиологической точки зрения, а также другие документы в сфере измерений, архитектуры СИИ машинного обучения, качества аналитических данных, автотранспорта, дистанционного мониторинга, интеллектуальных транспортных систем, больших данных, систем по работе с обращениями граждан на основе искусственного интеллекта, нейросетей и их алгоритмов; машиностроения, программной инженерии, приложений с ИИ, систем менеджмента.
Три стандарта идентичны соответствующим документам ISO, еще семь — модифицированы на базе аналогичных стандартов Международной организации по сертификации. Модифицированным планируется разработать и стандарт, устанавливающий термины в сфере качества данных.
Приоритетными направлениями разработки стандартов в 2022-2023 годах для ТК 164 остаются безопасность продукции с единым техническим языком и возможностью охраны здоровья населения, обеспечение единства измерений и технической политики, а также достижение необходимого уровня конкурентоспособности.
Источники финансирования разрабатываемых стандартов объединены в две группы: федеральный бюджет
Список литературы
1. ГОСТ Р 59276-2020. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения; https://docs. cntd.ru/document/1200177291 (дата обращения: 3.10.2021).
2. ГОСТ Р 59277-2020. Системы искусственного интеллекта. Классификация систем искусственного интеллекта; https://docs. cntd.ru/document/1200177292 (дата обращения: 3.10.2021).
3. ГОСТ Р 59278-2020; https://sert-service.ru/gost-r-59278-2020 (дата обращения: 3.10.2021).
4. ТК 164; https://www.tc164.ru/ (дата обращения: 3.10.2021).
Ключевую роль в обеспечении эффективности развития ИИ играет стандартизация, позволяющая четко определять требования к «идеальной» модели искусственного интеллекта и предпринимать все необходимое для ее реализации
и собственные средства. Для подавляющего большинства планируемых к разработке стандартов предусмотрено финансирование за счет федерального бюджета на основе конкурсных процедур. Пять стандартов будут разработаны за счет собственных средств профильных организаций, таких как НП Руссофт (один стандарт), ПАО «Газпромнефть» (три стандарта), Омский государственный технический университет (один стандарт). Утверждение стандартов в первой редакции запланировано на март, апрель, октябрь, ноябрь и декабрь 2022 года, в окончательной редакции — на сентябрь, октябрь 2022 года и май, июль, август и декабрь 2023 года.
Таким образом, проведенный анализ искусственного интеллекта как объекта стандартизации позволяет утверждать, что в настоящее время заложены все необходимые предпосылки для обеспечения соответствия российских систем искусственного интеллекта международным требованиям. Данное обстоятельство является крайне важным фактором повышения международной конкурентоспособности российских организаций, разрабатывающих и применяющих системы искусственного интеллекта, а также рас- Статья поступила ширения их рынков сбыта. ■ в редакцию 4.11.2021
Kompetentnost / Competency (Russia) 3/2022 ISSN 1993-8780. DOI: 10.24412/1993-8780-2022-3-14-18
Issues of Standardization in the Field of Artificial Intelligence
N.M. Kuprikov1, Higher School of Cyber-Physical Systems and Management of FSAEI HE Peter the Great St. Petersburg Polytechnic University, PhD (Eng. Sc.), [email protected]
E.^. Bashkirova2, Higher School of Cyber-Physical Systems and Management of FSAEI HE Peter the Great St. Petersburg Polytechnic University
1 Associate Professor, St. Petersburg, Russia
2 Leading IT-Engineer, St. Petersburg, Russia
Citation: Kuprikov N.M., Bashkirova E.A. Issues of Standardization in the Field of Artificial Intelligence, Kompetentnost'/ Competency (Russia), 2022, no. 3, pp. 14-18. DOI: 10.24412/1993-8780-2022-3-14-18
In this article, we have substantiated the need for standardization of artificial intelligence systems in the context of global digitalization, informed about the activities of Technical Committee 164 as a key subject of standardization in the field of artificial intelligence in Russia. We have described the current national and international standards developed and implemented by the specified technical committee, as well as standards that are currently being approved or finalized. According to the National Standardization Program for 2022, TC 164 plans to develop more than fifty GOST R. We believe that the analysis of artificial intelligence as an object of standardization allows us to assert that at present all the necessary prerequisites have been laid for ensuring the compliance of Russian artificial intelligence systems with international requirements. This circumstance is an extremely important factor in increasing the international competitiveness of Russian organizations that develop and apply artificial intelligence systems, as well as expanding their sales markets.
The research is partially funded by the RF Ministry of Science and Higher Education as part of World-class Research Center program: Advanced Digital Technologies (contract of 17.11.2020 N 075-15-2020-934)
1. GOST R 59276-2020 Artificial intelligence systems. Ways to ensure trust. General provisions; https://docs.cntd.ru/document/1200177291 (acc.: 3.10.2021).
2. GOST R 59277-2020 Artificial intelligence systems. Classification of artificial intelligence systems; https://docs.cntd.ru/ document/1200177292 (acc.: 3.10.2021).
3. GOST R 59278-2020; https://sert-service.ru/gost-r-59278-2020 (acc.: 3.10.2021).
4. TC 164; https://www.tc164.ru/ (acc.: 3.10.2021).
key words
artificial intelligence systems, standardization, certification, international standards, ISO, information safety
References
НОВАЯ КНИГА
Лемешева О.И., Павлов В.Е.
Подтверждение соответствия в Российской Федерации и ЕАЭС
Учебное пособие. Изд. 2-е, перераб. и доп. — М.: АСМС, 2022
Процедура декларирования претерпела кардинальные изменения в связи с вступлением в действие нового порядка регистрации деклараций о соответствии продукции и фактическим прекращением регистрации деклараций органами по сертификации. Описывается динамика развития процедур подтверждения соответствия, освещаются актуальные вопросы в сфере технического регулирования Таможенного союза и гармонизации законодательств Российской Федерации, Евразийского экономического союза и Всемирной торговой организации, подходы в области подтверждения соответствия, включая вопросы сертификации и декларирования в странах Европейского союза, а также направления сближения систем регулирования рынка.
По вопросам приобретения обращайтесь по адресу: Академия стандартизации, метрологии и сертификации (АСМС), 109443, Москва, Волгоградский пр-т, 90, корп. 1. Тел. / факс: 8 (499) 742 4643. Факс: 8 (499) 742 5241. E-mail: [email protected]
