CC BY
81СЕКЦИЯ «КОГНИТИВНОЕ МОДЕЛИРОВАНИЕ СЛОЖНЫХ СИСТЕМ»
Председатель — Горелова Галина Викторовна,
д-р техн. наук, проф., научный руководитель ИУЭС ЮФУ
Ученый секретарь — Пахомов Евгений Вячеславович,
канд. экон. наук, доцент кафедры «Государственное и муниципальное
управление», ИУЭС ИТА ЮФУ
УДК 330.1
doi:10.18720/SPBPU/2/id23-49
Горелова Галина Викторовна \
научный руководитель ИУЭС ЮФУ, д-р техн. наук, профессор;
л
Мельник Эдуард Всеволодович ,
зав. лаб. ИТ и ПУ, ЮНЦ РАН, гл. науч. сотр., д-р техн. наук
ПОДХОД К РАЗРАБОТКЕ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ ПРОИЗВОДСТВЕННЫХ ПРОЦЕССОВ НА ОСНОВЕ КОМПОЗИЦИИ КОГНИТИВНОГО, НЕЙРОСЕТЕВОГО И АГЕНТНОГО МОДЕЛИРОВАНИЯ
1 Россия, Таганрог, Институт управления в экономических, социальных и экологических системах Южного Федерального университета,
gorelova-37 @mail.ru
л
Россия, Таганрог, Южный научный центр РАН, evm17@mail.ru
Аннотация. В работе рассмотрены принятые в настоящее время представления об искусственном интеллекте с позиций его использования в управлении производственными объектами. Производственный объект понимается как сложная система, которая обладает определенными структурными свойствами и подчиняется общим закономерностям сложных систем, независимо от их природы. Целью работы являлась разработка подхода к созданию систем искусственного интеллекта на основе композиции методов нейросетевого, когнитивного и агентного имитационного моделирования. Новизна исследования заключается в предложении идеи композиции разных методов имитационного моделирования и её реализации для производственных процессов. Приведены схематичные примеры композиции.
Ключевые слова, производственный процесс, искусственный интеллект, когнитивная модель, нейросеть, агент, моделирование, композиция.
Galina V. Gorelova 1,
Scientific Supervisor of the Institute of Ecology and Economics,
Doctor of Technical Sciences, Professor;
л
Eduard V. Melnik ,
Head of IT and PU Laboratory, SSC RAS; Chief Science Officer,
Doctor of Technical Sciences
AN APPROACH TO THE DEVELOPMENT OF ARTIFICIAL
INTELLIGENCE SYSTEMS FOR PRODUCTION PROCESSES
BASED ON THE COMPOSITION OF COGNITIVE, NEURAL NETWORK AND AGENT-BASED MODELING
1 Institute of Management in Economic, Social and Ecological Systems of the Southern Federal University, Taganrog, Russia, gorelova-37@mail.ru;
л
Southern Scientific Center of the Russian Academy of Sciences, Taganrog, Russia, evm17@mail.ru
Abstract. The paper considers the currently accepted ideas about artificial intelligence from the standpoint of its use in the management of production facilities. A production facility is understood as a complex system that has certain structural properties and is subject to general laws, regardless of their nature. The aim of the work was to develop an approach to the creation of artificial intelligence systems based on the composition of methods of neural network, cognitive and agent-based simulation. The novelty of the study lies in the proposal of the idea of composition of different simulation methods and its implementation for production processes. Schematic examples of the composition are given.
Keywords: production process, artificial intelligence, cognitive model, neural network, agent, modeling, composition.
Введение
В последние десятилетия создание систем искусственного интеллекта (ИИ) стало не только актуальным направлением теоретических исследований, но и бурно развивающейся областью практических реализаций в разных сферах человеческой деятельности. Споры о том, что такое «искусственный интеллект» и возможно ли в принципе его создать — не утихают. Имеется много определений понятия «искусственный интеллект», но пока нет определения, которое бы удовлетворило всех. В одном из первых определений — это возможность искусственному интеллекту пройти тест Тьюринга. По определению «отца искусственного интеллекта» Джона Маккарти, искусственный интеллект представляет собой «науку и технику создания интеллектуальных машин, особенно, интеллектуальных компьютерных программ» [1, 2]. В этом смысле в практической части нашей статье речь пойдет об интеллектуальных компьютерных программах, базирующихся на основах когнитивных наук [3].
Сейчас существует несколько представлений об искусственном интеллекте: 1) слабом или узком (Weak, Narrow artificial intelligence — AI), 2) сильном или общем искусственном интеллекте (Strong artificial intelligence, Artificial general intelligence, or general AI), 3) искусственный сверхинтеллект.
Искусственный интеллект, которым называют сейчас различные системы искусственного интеллекта в нашей повседневной жизни, является слабым. Но это ИИ, который уже существует сегодня.
Слабый ИИ имеет ограниченный функционал, его алгоритмы созданы для выполнения конкретных задач, не обладают всеми когнитивными способностями человеческого мозга. Особенностью слабого ИИ является то, что он полагается на вмешательство человека, в том числе, для определения параметров своих алгоритмов обучения и предоставления соответствующих обучающих данных. Примерами слабого ИИ могут быть Siri, Alexa (цифровой личный помощник), поиск Google; слабый ИИ, фокусирующийся на выполнении конкретной задачи, может отвечать на вопросы, основанные на вводе данных пользователем, играть в шахматы и другие интеллектуальные игры. В этом смысле слабый ИИ показывает, что интеллектуальное поведение можно смоделировать.
Предполагается, что если будет разработан сильный искусственный интеллект (СИИ), машине потребуется интеллект, равный человеческому; у него будет самоосознающее сознание, способное решать проблемы, учиться и планировать будущее — это некий сверхразум, превосходящий по способностям человека, но это — всё же «машина».
Обратим внимание на существующее мнение о том, что СИИ представляет собой теоретическую форму ИИ, используемую для описания определенного образа мышления при разработке ИИ. Именно особенность «определенный образ мышления» используется нами в предложении композиции когнитивного моделирования с другими видами имитационного моделирования сложных систем.
Не будем вступать в дискуссию о том, являются ли ИИ, СИИ и, особенно, суперсильный ИИ только теоретическими концепциями, а не осязаемой реальностью или лишь гипотезой в философии искусственного интеллекта, согласно которой некоторые формы ИИ могут действительно обосновывать и решать проблемы. Концепции уже более полувека введены в обиход человеческим интеллектом и уже зажили своей особой практической жизнью. Исследования в этом направлении актуальны, их необходимость в России обозначена [4].
В процессе исследования был проведен патентный поиск с целью определения текущего отечественного и зарубежного технического уровня разработок в области технологий применения прикладных интеллектуальных систем. Поиск был проведен по открытым патентным базам
США, ЕС и России за период пять лет с 01.12.2016 г. по 30.11.2021 г. Объектом исследования были методы, системы и алгоритмы разработки прикладных интеллектуальных систем, в т. ч. применяющих в своей работе элементы, которые можно отнести к сильному искусственному интеллекту.
Анализ патентов США проводился по фонду полнотекстовой БД патентов США (УБРТО). Анализ патентов стран Европейского союза и Китая проводился по базе данных Европейского Патентного Ведомства ^р@сепе^. Анализ патентов России был осуществлен по полнотекстовым и реферативным базам данных России по патентам и заявкам на изобретение, патентам и заявкам на полезную модель ^ЦРАТ (RUPAT_NEW), RUPATABRU). По БД России было проанализировано 340 патентов и заявок на изобретение или полезную модель, по БД США (USPTO) — 987 патентов, по БД ЕПВ ^р@сепе^ — 834 патента.
Были проанализированы следующие направления:
- Методы, алгоритмы и средства принятия решений, в т. ч. гибридные, в связке «ЛПР - ИИ»;
- Методы, алгоритмы и средства обучения нейронных сетей, в т. ч. графовых;
- Методы, алгоритмы и средства оптимизации производственных процессов на основе применения интеллектуальных технологий и муль-тиагентной имитационной среды, в т. ч. адаптивной оптимизации;
Результаты патентного поиска позволили прийти к выводу, что исследовательская и изобретательская активность по данному направлению высока в США, Канаде и Китае, в России присутствует и находится на начальном этапе.
Анализ примеров применения искусственного интеллекта в промышленности показал ожидание того, что ИИ будет выполнять функции управления производством, проводить контроль качества, и прогнозирование режимов отказа, проводить прогнозирующее обслуживание, генеративный дизайн, делать ценовые прогнозы, обслуживать клиентов, применять робототехнику, сокращать время проектирования и уменьшать отходы, улучшать повторное использование продукции, выполнять профилактическое обслуживание, снижать воздействие на окружающую среду и многое другое. По некоторым оценкам, к 2035 году технологии на базе искусственного интеллекта могут повысить производительность труда до 40 % в 16 отраслях.
1. Постановка задачи разработки системы искусственного интеллекта для производства
Современное производство существенно отличается от производства начала промышленной революции своим содержанием и масштабами, оно в настоящее время не может традиционно работать только на ос-
нове имеющихся знаний и опыта операторов. Сейчас от участников производственного процесса требуется извлекать уроки из прошлых производственных данных и данных влияния окружающей среды, понимать и справляться с неопределенностями и сложностями в производственных процессах, прогнозировать, находить лучшие альтернативы и стратегии устойчивого развития производства. Все это определяет необходимость создания интеллектуальных производственных систем, призванных объединять возможности людей, машин и процессов для управления современным сложным производством.
При проектировании системы искусственно интеллекта для производства (СИИП), особенно сильного, должны быть учтены множества параметров, условий, структуры, поведения, воздействий (внутренних, внешних) и других особенностей производственной сложной системы, ее внешней среды и человека, как участника производственного процесса. На данном этапе развития ИИ без когнитивных способностей человека, без его естественного интеллекта обойтись невозможно.
Представим модель системы искусственного интеллекта (СИИП) в виде системы взаимодействующих производственной системы (ПС), интеллектуальной системы поддержки принятия решений (ИСППР) и лица, принимающего решение (ЛПР) (рис. 1).
I Внешняя среда & \
и лица, принимающего решение
На рисунке 1: Х={хг}, /=1,2...к — множество входных, управляющих воздействий, автономно задаваемых интеллектуальной системой поддержки принятия решений (ИСППР) или лицом принятия решений (ЛПР), или во взаимодействии с ЛПР; 2=^}, к =1,2. Н — множество контролируемых, но неуправляемых возмущающих воздействий внеш-
ней и внутренней среды; Ж — помехи, риски; У ={уу}, м=1,2.../ — множество оптимизируемых выходных показателей; т = 1, 2, ..., N — стадии производства, производственные участки, отдельные агрегаты и др.
На рисунке 2 изображена схема возможного варианта сильной СИ-ИП, которая наделена частью функций, которые сейчас считаются необходимыми для сильного интеллекта. Это объединение воедино для достижения общих целей таких способностей:
- действия в условиях неопределенности; поучение и представление знаний, включая общее представление о реальности, т.е. иметь элемент сознания — быть восприимчивым к окружению; наблюдение и контроль; прогнозирование; планирование; обучение и самообучение; принятие решений; использование стратегий; воздействие на окружающую среду.
Можно поставить под сомнение вопрос о необходимости для производства таких называемых признаков сильного искусственного интеллекта, как «сила воли», «самосознание», «сопереживание», «собственная мотивация», «собственное целепологание», «мудрость».
I_______________________________________|
Рис. 2. Схема функций сложной системы ЛПР, производства и СИИП
Таким образом, модель СИИП должна состоять из нескольких моделей, представляя собой в общем виде некоторую метаметамодель в нижеследующем смысле:
- это информационная модель более высокого уровня, чем конкретная модель предметной области; метамодель описывает не отдельную задачу, а широкий круг задач с выделением в этих задачах общих правил
обработки данных и управления процессом; к каждому конкретному случаю метамодель адаптируется в момент исполнения.
- Метаметамодель определяет уровень абстракции для описания моделей сложных систем. Это описание состоит из логических структур, представляемой в виде разного типа графов (когнитивная карта — знаковый ориентированный граф, функциональный, параметрический граф, нечеткий граф и др.) сложной системы и окружающей ее среды и различных математических моделей, отражающих цели, задачи и функции системы. С каждым элементом графа ассоциирована некоторая роль: вершины графа выступают в качестве концептов (переменных, факторов, сущностей), а дуги графов — в качестве причинно-следственных отношений между концептами, которые могут быть заданы частично вер-бально, частично численно в виде весовых коэффициентов и уравнений.
- Метамодель, используемая в этой работе, основана на идеях [6, 7]. Метамодель — это множество
М ={мп, Мо, Мш, Мв, мпи, Мои, мсиип, А, мн}, (1)
в котором: МП = МП(У, и, Р) — модель производственной системы (модель объекта); у, и, Р — эндогенные переменные, характеризующие фазовое состояние объекта, где У — выходные показатели системы, и — вектор управляемых переменных, Р — вектор ресурсов;
Мо = Мо(хдж) — модель окружающей среды, где — экзо-
генные величины;
МОП = {Мох, Моу} — модель взаимодействия объекта и среды {Мпх, Моу} — модели связи системы со средой на входе и выходе;
Мв = Мв(0) — модель поведения системы, Q — возмущающие воздействия;
МПИ, Мои — модели измерения состояния системы и окружающей среды;
МИСППР = {МКоМНоМАоМ??} — модель интеллектуальной управляющей и принимающей решения системы, в которой модель МК-НА={МКоМНоМА} является композицией когнитивной, нейросетевой и агентной моделей соответственно, М?? — другие модели СИИП;
А — правило выбора процессов изменения объекта;
МН — модель «наблюдателя», ЛПР.
Модели МП, Мо, Моп являются когнитивными моделями [8-13].
Существенным в этой метамодели является учет не только самой системы, но и ее среды, а также важным является то, что введение «наблюдателя» в метамодель позволяет строить методологию исследования и принятия решений с учетом развития процесса познания объекта в сознании ЛПР (или в «сознании» СИИП). Разработанная когнитивная методология и поддерживающая ее программная система когнитивного моделирования СМСБ [14, 15] являются инструментом, помогающим
«наблюдателю» структурировать знания и, главное, системно и всесторонне учитывать различные аспекты функционирования сложной системы, которые в другом случае могут остаться вне поля зрения. Последнее может привести к неверным (необдуманным, опасным) решениям.
При разработке СИИП для конкретного производства полезно обратиться к знаниям и опыту создания автоматизированных систем управления технологическими процессами (АСУТП) и автоматизированных систем управления (АСУ).
2. О композиции когнитивной, нейросетевой и агентной моделей
Модель Мкна = {МкоМноМа}, состоящая из взаимодействующих когнитивной, нейросетевой и агентной моделей (которую также можно отнести к классу метамоделей), рассматривается как подсистема базы знаний ИСППР. Композиция моделей подразумевает использование математических методов и инструментальных средств для их разработки, исследования и дальнейшей эксплуатации на конкретном производстве.
Не будем подробно останавливаться на известных знаниях об агент-ных и нейросетевых моделях, отметим главное в нашем случае.
Модели нейросетей — это математические модели, а также их программное или аппаратное воплощение, построенное по принципу организации и функционирования биологических систем; модели строятся на основе традиционных методов непараметрической статистики по большим массивам прошлых данных о сложных системах и явлениях. Нейросетевое моделирование относится к классу имитационного моделирования. Заметим, что аппаратными и программными средствами для когнитивной науки (к которой относится и когнитивное моделирование сложных систем [8-13]) во всех ее направлениях являются методы математического моделирования на основе биоморфных нейронных сетей; используются нейросети рекуррентные, модулярные, асинхронные, с немонотонной активационной функцией и т. д.
Агентные модели требуют задать свойства и правила взаимодействия агентов: технических, программных, человека. Агентное имитационное моделирование является способом исследования поведения децентрализованных агентов и того, как такое поведение определяет поведение всей системы в целом. Важно то, что поведение отдельных агентов на индивидуальном уровне определяет возникающее глобальное поведение системы как результат деятельности множества агентов; такое моделирование понимается как моделирование «снизу вверх». При этом реализуется редукционистский подход к пониманию сложных систем и их поведения, это представление, в том числе, о том, что по взаимодействию частей можно восстановить целое.
Когнитивный подход и когнитивное моделирование сложных систем можно рассматривать как системообразующее в общем процессе имитационного моделирования структуры и поведения систем, исполь-
зующее и объединяющее результаты, в данном случае, нейросетевого и агентного моделирования. Когнитивное моделирование сложных систем отражает принципы холистского подхода к пониманию и объяснению систем (система — это целое, части которого понимаются в отношении как друг к другу, так и к целому; свойство части определяются свойствами целого и наоборот), его можно ассоциировать с принципом моделирования «сверху - вниз».
Когнитивное моделирование сложных систем [8-15] является многоэтапным процессом, состоящим из этапов разработки когнитивной модели сложной системы, исследования свойств модели и сопоставления этих результатов с данными реальной системы (проверка не противоречия модели реальности), предвидения возможного будущего поведения системы на основе моделирования сценариев развития ситуаций, выбора желаемых сценариев, обоснования принимаемых управленческих решений. Этап анализа когнитивной модели включает анализ свойств знакового ориентированного графа (когнитивной карты), его путей, циклов, устойчивости к возмущениям, структурной устойчивости, сложности, алгебраической и топологической связности и др. Заметим, анализ циклов когнитивной карты является важным моментом для понимания влияния совокупности положительных и отрицательных связей на поведение всей системы. Симплициальный анализ связности системы или q-анализ связности симплициальных комплексов [16, 17] вскрывает свойства топологической структуры системы, сложную связь между ее блоками — симплексами, интерпретируемыми как модели входов или выходов сложной системы.
К завершающим этапам когнитивного моделирования относятся этапы моделирования сценариев (прогнозирование, предвидение возможного развития) путем моделирования импульсных процессов при внесении в модель возмущений (импульсов) Q и решение обратной задачи, позволяющей перейти от прогнозирования (предвидения) поведения сложной производственной системы к эффективному управлению ею, предотвращению нежелательных ситуаций, к стратегическому планированию и управлению ее развитием.
Необходимость объединения в данном случае трёх видов моделирования в общую систему вызвана особенностями производственных систем, разнородностью, разнохарактерностью и разновременностью задач производства, которые можно отразить на разных уровнях и этапах ко-гно-нейро-агентного имитационного моделирования в целях поиска и принятия обоснованных эффективных решений.
Нейросетевое и агентное моделирование могут быть использованы для разработки базовой когнитивной модели на первом этапе, для ее корректировки в процессе функционирования производства, а также на этапах принятия решений при изменениях состояний внутренней и внешней среды. С помощь нейросетевого моделирования строится числовая часть
когнитивной модели, отображающая факт зависимости между факторами вершин (внутренних и внешних) когнитивной модели или статистические уравнения связи межу ними. При существенных изменениях внешней и внутренней среды может потребоваться перенастройка нейросети. Обучение нейросети с целью ускорения вычислительных процессов предлагается делать с помощью симплициальных комплексов когнитивной карты, инициированных вершинами карты, в которые поступили «нестандартные» возмущения Q. Иллюстрационный пример приведен на рисунке 3.
Агентное моделирование, отображающее результаты взаимодействия разных агентов производственных систем (технических, программных, человека) при изменениях свойств или правил их взаимодействия (преднамеренных или непреднамеренных), может привести к изменению структуры когнитивной модели и инициировать очередной цикл имитационного моделирования (рис. 4).
Модель мультиагентного моделирования
Рис.3. Иллюстрация действия обучающего симплекса на нейросеть
Рис. 4. Циклические взаимодействия моделей в ИСППР
На рисунке 4 изображена еще и модель формирования и выбора решений на основе метаэвристических методов оптимизации, которая также необходима в ИСППР для производственных систем, но в данной статье не было цели ее представить.
Заключение
В данной статье представлена концепция композиции разных имитационных моделей для производственных систем, понимаемых как сложные, изменяющиеся в пространстве и времени, подчиняющиеся закономерностям сложных систем [18]. Именно это обусловило необходимость использовать во взаимодействии несколько имитационных моделей, которые в отдельности не могут отобразить все изменчивые особенности сложных систем в условиях неопределенности;особенность «определенный образ мышления» в когнитивном моделировании, включение ЛПР в процесс моделирования и окончательного принятия решений по результатам моделирования определяет композицию его с другими видами имитационного моделирования сложных систем.
Дальнейшим направлением работы является разработка соответствующих правил, алгоритмов и моделей для конкретного производства.
Список литературы
1. McCarthy J. "Programs with Common Sense"at the Wayback Machine (archived October 4, 2013) // In Proceedings of the Teddington Conference on the Mechanization of Thought Processes. - London: Her Majesty's Stationery Office, 1959. - Pp. 756-791.
2. McCarthy J., Hayes P. J. Some philosophical problems from the standpoint of artificial intelligence at the Wayback Machine (archived August 25, 2013). // In Meltzer, B., and Michie, D. (eds.), Machine Intelligence 4. - Edinburgh: Edinburgh University Press, 1969. - Pp. 463-502.
3. Luger George, Stubblefield William. Artificial Intelligence: Structures and Strategies for Complex Problem Solving (5th ed.). - The Benjamin/Cummings Publishing Company, Inc., 2004. - 720 p., ISBN 0-8053-4780-1.
4. Аверкин А. Н. ИИ и когнитивные науки (дата обращения: 10.11.2022).
5. Указ президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период о 2030 года»).
6. Кульба В.В.. Кононов Д.А., Ковалевский С.С., Косяченко С.А., Нижегородцев Р.М., Чернов И.В. Сценарный анализ динамики поведения социально-экономических систем. (Научное издание). - М.:ИПУ РАН, 2002. - 122 с.
7. Кульба В.В., Ковалевский С.С., Кононов Д.А., Чернов И.В., Шелков А.Б. Проблемы обеспечения экономической безопасности сложных социально-экономических систем. / Препринт. - М.: ИПУ РАН, 2000. - 126 с.
8. Горелова Г.В., Захарова Е.Н., Радченко С.А. Исследование слабоструктурированных проблем социально-экономических систем: когнитивный подход. - Ростов н/Д: Изд-во РГУ, 2006. - 332c.
9. Горелова Г.В. Когнитивный подход к имитационному моделированию сложных систем // Известия ЮФУ. Технические науки. - Таганрог: изд-во ТИ ЮФУ, 2013. - №3 - С.239-250.
10. Gorelova G.V. Cognitive Modeling of Complex Systems: State and Prospects // System Analysis in Engineering and Control. Lecture Notes in Networks and Systems. Volume 442. Springer Nature Switzerland AG 2022. - Pp. 212-224.
11. Gorelova G.V., Pankratova N.D. Scientific Foresight and Cognitive Modeling of Socio-Economic Systems // 18 th IFAC Conference on Technology, Culture and International Stability, TECIS-2018, IFAC Papers OnLine. Elsevier, 2018. 51-30. - Pp. 145-149.
12. Горелова Г.В., Мельник Э.В. Когнитивные модули интеллектуальной поддержки решений в информационных управляющих системах // Научно-практ. конф. «Системный анализ в экономике»: сб. материалов. - М.: ЦЭМИ РАН, 2010. - 183 с. -С. 45-49.
13. Горелова Г.В., Мельник Э.В., Коровин Я.С. Проектирование интеллектуальных распределенных информационно-управляющих систем // Тр. Междун. научно-техн. мультиконф. «Актуальные проблемы информационно-компьютерных технологий, мехатроники и робототехники; Многопроцессорные вычислительные и управляющие системы». - Таганрог: Изд. ТТИ ЮФУ, 2009. - Т.2. - С. 28-31.
14. Программа для когнитивного моделирования и анализа социально-экономических систем регионального уровня. Свидетельство о государственной регистрации программ для ЭВМ № 2018661506 от 07.09.2018.
15. Свидетельство о государственной регистрации программы для ЭВМ №2018661506. Программный модуль преобразования данных мониторинга природных явлений в прибрежных зонах в формат когнитивной имитационной модели экосистемы. Авторы: Горелова Г.В., Калиниченко А.И., Мельник Э.В - 17.06.2020.
16. Atkin R.H. Combinatorial connectives in social systems. An application of sim-plicial complex structures to the study of large organisations, Interdisciplinary systems research. Springer Basel AG, 1997. - 245 p.
17. Atkin R., Casti J.L. Polyhedral Dynamics and the Geometry of Systems, IIASA Research Report RR-77-006, 1977.
18. Волкова В.Н., Горелова Г.В. Применение закономерностей теории систем для исследования энтропийно-неэнтропийных процессов в социально-экономических системах // В сб. трудов XIII Всероссийского совещания по проблемам управления, ВСПУ-2019, ТРУДЫ [Электронный ресурс] 17-20 июня 2019 г., Москва / Под общ.ред. Д.А. Новикова. - Электрон. текст. дан. - М.: ИПУ РАН, 2019. - С. 1694-1699.
