CC BY
35
Национальный центр когнитивных разработок (центр компетенций НТИ): искусственный интеллект на службе профессиональной деятельности National Center for Cognitive Research: artificial intelligence in the service of professional activity
А.В. Бухановский (A. V. Boukhanovsky),
д.т.н., профессор, директор Мегафакультета трансляционных информационных технологий, директор Национального центра когнитивных разработок университета ИТМО (центра компетенций НТИ), университет ИТМО, мегафакультет трансляционных информационных технологий, национальный центр когнитивных разработок университета ИТМО (Doctor of Science (DSc), professor, director of School of Translational Information Technologies, director of National Center for Cognitive Research of ITMO University, ITMO University, School of Translational Information Technologies, national Center for Cognitive Research of ITMO University)
doi 10.26310/2071-3010.2019.253.11.012
Аннотация
Рассматриваются ключевые аспекты деятельности Национального центра когнитивных разработок в части развития отечественной экосистемы разработки и внедрения интеллектуальных цифровых продуктов и услуг на основе методов машинного обучения и когнитивных технологий. Обсуждаются позиционирование научно-исследовательской повестки центра, ключевые проекты и платформенные решения на их основе в областях: экосисте-
мы цифровой личности, применения интеллектуальных технологий для задач промышленности, умного города, здравоохранения и социальной сферы. Представлен подход центра к подготовке кадров, способных использовать и внедрять разрабатываемые технологии, на основе сетевых предметно-ориентированных программ магистратуры.
Ключевые слова:
(1) машинное обучение, (2) когнитивные технологии, (3) центр (компетенций) НТИ, (4) системы поддержки принятия решений, (5) цифровая личность, (6) большие данные, (7) цифровой аватар, (8) умный город, (9) цифровая клиника
Abstract:
The article explores key aspects of the activities of the National Center for Cognitive Research of ITMO University,
in terms of the development of the domestic ecosystem of intelligent digital products and services based on machine learning and cognitive technologies. It also covers the positioning of the Center's research, key projects and based on them platform solutions in the following areas: the ecosystem of the digital personality and the use of intelligent technologies for industry tasks, smart cities, healthcare and other social spheres. From the paper you can also learn the principles of center's approach to the education and training that is based on master's degree collaborative programs that allow to prepare experts who are able to use and implement the technologies mentioned above.
Key words:
(1) machine learning, (2) cognitive technologies, (3) centers of the national technology initiative, (4) decision support systems, (5) digital personality, (6) big data, (7) digital avatar, (8) smart city, (9) digital healthcare.
Введение
Национальный центр когнитивных разработок — один из 14 центров компетенций Национальной технологической инициативы (НТИ), ориентированный на развитие сквозной технологии "Машинное обучение и когнитивные технологии". Центр создан на базе Консорциума ведущих отечественных организаций науки, промышленности и высшего образования, возглавляемого Университетом ИТМО в мае 2018 г. Его миссией является развитие сбалансированной отечественной экосистемы разработки и внедрения интеллектуальных цифровых технологий в целях формирования высокотехнологичных продуктов и сервисов, в т. ч. на перспективных рынках НТИ, в рамках парадигмы цифровой экономики. Таким образом, Центр реализует важный элемент Стратегии научно-технологического развития Российской Федерации [1], формируя трансляционный механизм для перевода результатов научных исследований и разработок, основанных на использовании машинного обучения, когнитивных технологий
и смежных цифровых технологий (большие данные, компьютерное моделирование, AR/VR, робототехника) в реальные рыночные объекты. В перспективе, за счет этого может быть обеспечено лидерство отечественных компаний (в первую очередь, участников Консорциума) на мировых рынках на горизонте 2025-2035 г. В статье представлены ключевые аспекты деятельности Центра, сформировавшиеся в первый год его работы.
Предмет и направление деятельности
Центр ориентирован на работу с технологиями, необходимыми для цифровой трансформации экономики, в первую очередь — с их управляющим ядром, формируемым методами и средствами прикладного искусственного интеллекта (ИИ). Согласно Национальной стратегии развития ИИ [2], это понятие соответствует широкой области, охватывающей технологические решения, позволяющие имитировать когнитивные функции и получать при решении конкретных задач результаты, как минимум сопоставимые
с результатами интеллектуальной деятельности человека. При этом интерпретация роли человека существенно различается для разных областей применения ИИ. Например, в ИИ для базовых когнитивных функций (компьютерное зрение, распознавание и генерация голоса, и пр.) или технологиях ИИ сообщества роботов (как автономных агентов) человек рассматривается лишь как внешний "эталон", обучающий систему, определяющий корректность решения задачи и (в ряде случаев) определяющий внешние воздействия на объект ИИ. Напротив, в технологиях ИИ для рекомендательных систем и персональных ассистентов, человек становится ключевым элементом, формирующим весь процесс работы, а сама технология — своего рода его "цифровым симбионтом". Таким образом, речь идет уже не об автономном машинном интеллекте, а о методах и средствах для развития интеллектуальных способностей человека при работе в условиях неопределенности и неполноты информации, что составляет суть когнитивных информационных технологий (КИТ).
Технологии ИИ могут строиться на разных подходах, однако большинство из них реализуется посредством обучения в силу априорного отсутствия формализованных моделей предметной области. Возможности прямого обучения ИИ человеком путем создания баз знаний (что характерно, например, для экспертных систем) существенно ограничены. Потому ключевым механизмом создания широкой номенклатуры систем ИИ является машинное обучение (МО), в широком смысле понимаемое как методы и средства автоматизированного извлечения, модельной формализации и использования новых знаний на основе накопления объективного опыта. Технологии МО являются вложенным механизмом для ИИ, и могут рассматриваться лишь в комплексе со смежными цифровыми технологиями больших данных и компьютерного моделирования. Учитывая низкий уровень модельной формализации знаний в науках об обществе и человеке, технологии МО традиционно составляют основу для построения моделей КИТ, используемых в системах (поддержки) принятия решений (СППР). В широком смысле, категория СППР включает в себя различные экспертные, советующие (рекомендательные) системы, аналитические системы и разного рода ассистенты, основанные на технологиях, интеллектуально усиливающих человека в ситуации, когда формальный алгоритм выработки и принятия решений невозможен или размыт. Особенно ярко это проявляется в отраслевых задачах, что обусловлено сочетанием сложности бизнес-процессов и вариативностью человеческого фактора.
Центр ориентируется, в первую очередь, на КИТ, построенные на технологиях МО, расширяющие границы интеллектуальных способностей человека и усиливающих его
профессиональные (в т. ч. творческие) возможности. В первую очередь, это включает в себя создание технологий и СППР отраслевой направленности для воспроизведения процессов интеллектуальной деятельности человека в среде, состоящей из технических систем, объектов искусственного и естественного интеллекта. При этом сами отрасли применения решений Центра определяются (но не ограничиваются) приоритетами научно-технологического развития Российской Федерации, и включают в себя: » переход к передовым цифровым производственным технологиям и эффективной энергетике: технологии ИИ управления промышленными производствами, экосистемой добычи, транспортировки и использования энергоресурсов, а также автоматизации разработки наукоемкого программного обеспечения; » обеспечение связности и эффективного развития территорий РФ: технологии ИИ умного города, управления рациональным природопользованием, интеллектуальные транспортно-логи-стические системы; » переход к качественно новым высокотехнологичным механизмам здравоохранения и социального развития: технологии ИИ в здравоохранении, образовании, общественных процессах; » формирование системы комфортного вовлечения граждан и организаций в глобальное цифровое пространство: технологии ИИ в медиа, маркетинге и финансах, цифровая безопасность.
Таким образом, направление деятельности Центра является сквозным для различных предметных приоритетов, поскольку определяет важную составляющую их цифровой трансформации.
Организационная модель и экосистема
Центр функционирует на базе Университета ИТМО, выступающего в качестве координатора всех исследовательских проектов. Это реализуется механизмами колла-боративной работы с участниками Консорциума, позволяющими на системной основе обеспечивать проектирование и декомпозицию комплексных проектов на составные части, поиск и оценку соисполнителей среди участников консорциума, мониторинг выполнения работ, а также агрегирование и сопровождение результатов работ, передаваемых заказчикам. Кроме того, Университет ИТМО управляет правами на результаты интеллектуальной деятельности (включая образовательный контент) в Центре.
Принципиальную роль в Консорциуме играют компании — инициаторы/заказчики исследований и разработок: ПАО "Сбербанк", ООО "Сименс", ООО "Газпромнефть НТЦ", АО "Эр-Телеком Холдинг", ООО "Мэйл.Ру", АО "Диаконт", и др. Их заинтересованность в работе Центра обеспечивается возможностью реализации проектов с использованием кадровых и технологических ресурсов Центра, обеспечивающих частичное финансирование работ. Не менее важны исполнители проектов, к которым относятся вузы, НИИ и высокотехнологичные компании-разработчики: ИПМ РАН им. М. В. Келдыша, ИСП РАН им. В. П. Иванникова, МГТУ "СТАН-КИН", Нижегородский государственный университет, и др. Их заинтересованность обеспечивается участием в работах по выполнению составных частей проектов на субподрядной основе, а также использованием научной инфраструктуры Центра. Кроме того, ряд вузов в Консорциуме на текущем этапе выступает как образовательные пар-
тнеры, развивающие собственную образовательную среду, используя учебно-методический контент Центра на лицензионной основе.
Высший коллегиальный орган управления Консорциума — наблюдательный совет, задачами которого являются содействие формированию и реализации стратегии развития, сотрудничеству Центра с деловыми, государственными и общественными организациями, координации усилий по обеспечению процессов непрерывной подготовки высококвалифицированных кадров и при-
влечению внебюджетных средств для реализации целей Центра. В состав наблюдательного совета входят представители Университета ИТМО, представители организаций, курирующих Центр (РВК), представители организаций — участников Консорциума, а также представители общественности, в том числе лица, имеющие заслуги и достижения в сфере образования и науки, а также внедрения научно-технических решений в высокотехнологических секторах экономики.
Консорциум Центра является ядром экосистемы — системы различных взаимосвязанных институтов, производящих, хранящих и передающих результаты интеллектуальной деятельности и соз-
данные продукты, используемые при разработке новых технологий и решений, использующих принципы КИТ, МО и смежных цифровых технологий. На текущем этапе развития Центра, связанном с накоплением его потенциала, в экосистеме выделяются стратегические индустриальные партнеры; происходит самомодерация Консорциума. Фокусируются парные взаимодействия Центра с участниками консорциума и внешними организациями (вузы ориентируются преимущественно на образовательный процесс, инду-
стриальные партнеры — как заказчики исследований и разработок). Сейчас экосистема расширяется в основном экстенсивно, без появления новых ролей участников. Однако далее, по мере взросления экосистемы, предусматривается появление новых ролей, в первую очередь, семейства малых инновационных предприятий, осуществляющих деятельность по доведению частных решений Центра до конкретных потребителей, а также непосредственно торговых структур, связанных с продвижением на зарубежных рынках совместно со стратегическими индустриальными партнерами. Также ожидается увеличение объема доступных Центру производственных и кадровых ресурсов,
в первую очередь, за счет усиления вузов-участников Консорциума.
Стратегически Центр ориентируется на задачи оператора комплексных проектов в части цифровой трансформации различных отраслей бизнеса, государственного управления и социальной сферы на основе системного применения интеллектуальных технологий. В задачи Центра будет входить техническое обоснование, общее видение и декомпозиция проектов в интересах различных участников Консорциума с последующей организацией схемы исполнения составных частей как на базе соисполнителей, так и с использованием кадровых ресурсов иных партнеров. Сам Центр при этом приобретает статус независимой площадки, а Университет ИТМО будет являться ключевым донором кадров и технологий.
Проекты и платформы
Исследования и разработки Центра организованы в логике ключевых проектов, ориентированных на комплексное создание и сопровождение продуктов и услуг, способствующих достижению лидерства российских компаний на мировых рынках. Каждый из проектов включает одного или несколько индустриальных партнеров, а также соисполнителей из числа иных участников консорциума. В настоящее время в Центре реализуются два инструментальных проекта, связанных с технологий создания СППР нового поколения, ориентированных на создание среды метаобучения интеллектуальных моделей на основе промышленных больших данных и поддержку экосистемы цифровой личности (антропоморфных интерфейсов человеко-компьютерного взаимодействия с сильной функцией обучения и саморазвития). Кроме того, на их основе ведутся три отраслевых проекта в части создания
» ПРИНЦИПИАЛЬНУЮ РОЛЬ В КОНСОРЦИУМЕ ИГРАЮТ КОМПАНИИ-ИНИЦИАТОРЫ / ЗАКАЗЧИКИ ИССЛЕДОВАНИЙ И РАЗРАБОТОК: ПАО «СБЕРБАНК», ООО «СИМЕНС», ООО «ГАЗПРОМНЕФТЬ НТЦ», АО «ЭР-ТЕЛЕКОМ ХОЛДИНГ», ООО «МЭЙЛ.РУ», АО «ДИАКОНТ», И ДР.
метакогнитивных (самообучающихся) технологий управления комплексными высокотехнологичными производствами, цифровыми сервисами умного города, а также цифровой клиникой в логике ценностно-ориентированной медицины.
Опыт Центра в решении задач и выполнении разработок для нужд различных индустриальных партнеров обобщается в виде серии платформенных решений, обеспечивающих системную основу для проектирования, разработки и обучения технологий и систем на базе КИТ с возможностью их дальнейшей адаптации к отраслевым особенностям. Под платформенным решением (или просто платформой) понимается система формализованных цифровых процессов и обеспечивающих их программно-аппаратных решений, инвариантных относительно конкретной предметной области (отрасли) и формирующих среду, обеспечивающую полный жизненный цикл разнообразных сервисов. При этом важнейшей характеристикой платформ является то, что науко-емкость и трудоемкость разработки сервисов на их основе кардинально (не менее, чем на порядок) ниже, чем независимая разработка программного обеспечения с аналогичными показателями назначения. Как следствие, внедрение платформенных технологий способно не только изменять конкурентную ситуацию в соответствующем сегменте рынка, но и создавать новые субрынки — как в части товаров и услуг, так и трудовых ресурсов (формируя при этом новые профессии). Ниже представлен ряд платформенных решений, развиваемых Центром.
Платформа экосистемы цифровой личности реализует синтетическое решение, сочетающее в себе элементы системы управления большими данными, социальной сети, игрового движка, рекоменда-
тельных сервисов и разнообразных ботов. Она позволяет пользователям строить персональные цифровые аватары — программные объекты на основе КИТ, которым пользователь доверяет определенные способы использования приватных данных в публичном цифровом пространстве — коммуникационной среде. В ней аватары, созданные и настроенные разными людьми, могут проявлять когнитивные функции: собирать данные из публичного пространства Интернет, обмениваться данными и знаниями, а также пользоваться различными сервисами, как в интересах аватара (например, обучение), так и пользователя (финансовые действия, рекомендации, планирование и пр.). В отличие от существующих когнитивных ассистентов, такой подход позволяет сделать процесс обучения персонифицированным, реализовывать его в фоновом режиме за счет коммуникационной среды, а также усилить степень обоснованности решений за счет доверительного использования приватных данных и обмена данными с другими аватарами. Кроме того, коммуникационная среда цифровых аватаров представляет своего рода "цифровой аквариум" для наблюдения за мотивацией, предпочтениями и действиями пользователей, как правило — клиентов бизнеса в сфере финансов, медиа, ритейла, развлечений. В логике этой платформы Центром реализуются проекты для ПАО "Сбербанк" и ПАО "Банк Санкт-Петербург".
Платформа виртуального полигона цифровых инноваций для высокотехнологичного производства предназначена для решения одной из ключевых проблем продвижения технологий ИИ, связанной с неопределенностью эффектов от их внедрения в деятельность реального сектора экономики, а также невозможностью априорной оцен-
ки связанных с этим рисков. Идея виртуального полигона состоит в конструировании имитационных моделей бизнес-процессов предприятий (традиционно хорошо формализованных в силу наличия самих технологий производства), модели внешней среды (характеризуемой, например, рыночной ситуацией), а также моделей кадровых ресурсов, создавая, таким образом, высокоуровневый цифровой двойник. Он является основой для изучения влияния цифровых инноваций (как новых бизнес-процессов, так и имитационных моделей конкретных цифровых объектов — элементов автоматизации и роботизации, локальных СППР, и пр.) на бизнес-систему в целом. При этом решается не только задача предсказательного моделирования изменений, но и задача кодизайна — подстройки иных бизнес-процессов предприятия под опосредованное влияние цифровых инноваций таким образом, чтобы минимизировать или даже устранить негативные системные эффекты. Платформа может служить основой для разработки СППР топ-менеджмента высокотехнологичных производств, связанных с процессами цифровой трансформации. В логике этой платформы реализуются проекты для ООО "Газ-промнефть НТЦ", АО "Диаконт" и АО "Группа Илим".
Платформа цифровых сервисов умного города реализует логику цифрового двойника городской среды, отражающего ее состояние в режиме 24х7. Она обеспечивает сбор данных из различных источников, включая городскую и ведомственную статистику, данные с городских видеокамер, социальные медиа, обращения граждан и пр. На их основе строится цифровая модель города как (а) физической среды, объединяющей взаимосвязанные объекты городского хозяй-
ства, и (б) социальной среды, обусловленной активностями жителей города и их взаимодействием с объектами физической среды. Ключевой особенностью цифровой модели является необходимость постоянного самообучения, отслеживающего эволюцию городской среды, реализуемого средствами МО. При этом автоматизировано учитываются не только вариации числовых показателей жизни города, но и изменения в городском законодательстве и нормативно-правовой базе (что требует использования технологий анализа текстов на естественном языке). На основе актуальных данных и моделей о состоянии городской среды реализуются различные сервисы, использующие КИТ. Например, сервис выявления нелегальной рекламы на зданиях, оценки и прогноза стоимости сложных объектов недвижимости, планирования развития новых городских территорий и оценки эффективности внедрения технологических элементов умного города (например, умного освещения). В логике этой платформы реализуются проекты для ООО "Рокет-Групп", ООО "Русские Башни", АО "Эр-Телеком Холдинг.
Платформа управления цифровой клиникой ориентирована на предсказательное моделирование, анализ, оптимизацию и выработку рекомендаций касательно организации бизнес-процессов предприятий, объектом и (отчасти) средством производства для которых являются люди. К ним относятся, например, медицинские и спортивные учреждения, предприятия соцзащиты, а также учебные заведения. В отличие от классической промышленности, для таких предприятий понятие технологического процесса становится гораздо более размытым в силу вариативности человеческого фактора, а причинно-следственные модели прогно-
зирования ситуации, как правило, отсутствуют. Платформа позволяет автоматизировать процесс построения предсказательных и имитационных моделей бизнес-процессов таких предприятий методами МО на основе комплексного анализа данных корпоративных информационных систем, социальных медиа и опросов клиентов, а также дополнить их когнитивными механизмами, воспроизводящими деятельность лиц, принимающих решения, или дублирующих их средств ИИ (включая локальные инструменты автоматизации различного уровня). На основе платформы могут строиться прикладные сервисы поддержки принятия решений по управлению и оптимизации процессами предприятий, используемые различными категориями лиц, принимающих решения. Так, апробация на данных участника Консорциума — НМИЦ им. В. А. Алмазова в 2019 г. показала эффективность такого подхода для решения задач как оптимизации индивидуальных клинических траекторий пациентов (ускорение срока лечения в стационаре), так и управления обязанностями и расписанием персонала клиники.
Платформа управления кол-лаборативными большими данными и интеллектуальными моделями на их основе является технологическим ядром всех перечисленных выше решений. Она позволяет трансформировать ставшую уже традиционной логику бирж больших данных в пользу торговли знаниями (реализуемыми в форме интеллектуальных моделей, основанных на этих данных). Платформа позволяет динамически (под конкретную задачу или пользовательский запрос) объединять источники данных, принадлежащих различным провайдерам. При этом целевое использование данных контролируется посредством технологии блокчейн,
что формирует основу для биллинга и тарификации. Высокая производительность и масштабируемость при работе с данными из разнородных источников обеспечивается за счет интеллектуальных алгоритмов планирования вычислений, основанных на предсказании изменений нагрузки в распределенной среде больших данных, включая потенциальную активность пользователей. На основе среды управления данными автоматизируются основные процессы построения интеллектуальных моделей в различном виде — аналитических выражений, нейросетевых и семантических структур, правил и пр., в т. ч. моделей обучения профессиональных чат-ботов. Фактически, платформа агрегирует лучшие практики в части организации, подготовки и использования данных для создания основы современных СППР. Элементы платформы использованы в проектах с ООО "Сименс" и ООО "Мэйл.Ру".
Помимо перечисленных платформенных решений, в рамках Центра реализуются проекты, связанные с применением технологий МО и КИТ для задач автоматизации процессов проектирования сложных технических систем в условиях неопределенности требований, анализа и синтеза профессиональной речи, а также использования ИИ для "одушевления" виртуальных антропоморфных объектов в технологиях AR/VR.
Подготовка кадров и инфраструктура
Механизмы подготовки кадров в рамках Центра ориентированы на кардинальное увеличение выпуска специалистов с высшим образованием, способных разрабатывать и внедрять, а также эффективно использовать интеллектуальные технологии на основе МО и КИТ в различных предметных областях. При
этом основной упор на базе Университета ИТМО делается на магистерскую подготовку специалистов, способных формировать методологию применения МО и КИТ для решения задач отраслевых потребителей. В основе процесса подготовки заложен проектный подход, который подразумевает погружение обучаемых в реальные задачи участников Консорциума, фокусируя, таким образом, их научно-практическую деятельность и формируя правила выбора учебных дисциплин в рамках индивидуальной образовательной траектории. Напротив, в вузах-участниках Консорциума приоритетной формой подготовки являются сетевые предметно-ориентированные программы магистратуры в различных отраслях, которые реализуют подготовку «службы квалифицированного заказчика» для интеллектуальных технологий. Для этого вуз-партнер модифицирует (или создает) собственную отраслевую магистерскую программу подготовки кадров для цифровой экономики. В свою очередь, Центр на лицензионной основе предоставляет образовательный контент по "цифровому блоку" данной программы, а также проводит обучение (повышение квалификации) преподавателей вуза-партнера. Дополнительно Центр обеспечивает научно-практическую деятельность обучаемых в проектах, выполняемых по заказу индустриальных партнеров. Таким образом достигается диссеминация результатов деятель-
ности Центра, а также подготовка наиболее востребованной сейчас категории специалистов, необходимых для осуществления цифровой трансформации предприятий на местах. Кроме того, специалисты и являются приоритетными пользователями платформенных решений Центра, описанных выше. В настоящее время такие программы разрабатываются с Нижегородским государственным университетом, МГТУ "СТАНКИН", Севастопольским государственным университетом и Санкт-Петербургским лесотехническим университетом.
Дополнительной задачей Центра является создание системы подготовки специалистов экстра-класса (уровня ведущих конструкторов решений на основе МО и КИТ), способных самостоятельно генерировать проектные идеи и воплощать их с помощью команды специалистов-разработчиков. Это обеспечивается программами корпоративной аспирантуры, а также программами индустриальных стажировок (феллоушип) в проектах Центра для специалистов, имеющих степень кандидата наук.
Для выполнения исследований и разработок, а также подготовки кадров Центр оснащен развитой вычислительной инфраструктурой пиковой производительностью 4,1 ПФлопс с объемом распределенной системы хранения данных 1,7 ПБ. Также в Центре развивается система стандартизации и оценки соответствия цифровых объектов
в области МО и КИТ по его ключевым направлениям деятельности. Она включает систему стандартов и регламентов самого Консорциума, систему сертификации кадров, а также испытательные лаборатории цифровых объектов (как программных систем, так и массивов данных).
Заключение
В настоящее время Консорциум Центра завершает первый этап своего взросления, что выражено в выделении стратегических индустриальных партнеров, которые становятся инициаторами комплексных проектов в области МО и КИТ. При этом научные исследования и разработки Центра начинают позиционироваться в терминах «платформы-сервисы» с возможностью тиражирования результатов на основе платформ для различных заказчиков, а также для нужд самого Университета ИТМО и вузов-партнеров. Это подкрепляется введением системы стандартов по направлениям деятельности Центра, обеспечивающей корректное использование платформ и решений на их основе. Комплементарно развиваются новые формы образовательной деятельности (сетевые отраслевые программы, подготовка кадров экстра-класса), способные обеспечить рынок трудовых ресурсов, которые могут использовать платформенные решения Центра в отраслевых задачах, тем самым реализуя ключевую задачу перевода результатов научных исследований в продукты и услуги. Н
СПИСОК ЛИТЕРАТУРЫ
1. Указ Президента Российской Федерации от 01.12.2016 г. № 642 [http://kremlin.ru/acts/bank/41449].
2. Указ Президента Российской Федерации от 10.10.2019 № 490 [http://publication.pravo.gov.ru/Document/View/00012 01910110003%E2%82%BD]
REFERENCES
1. Decree № 642 of the President of the Russian Federation dated 01.12.2016 [http://kremlin.ru/acts/bank/41449].
2. Decree № 490 of the President of the Russian Federation dated
10.10.2019 [http://publication.pravo.gov.ru/Document/View/00 01201910110003%E2%82%BD]
