16Известия Кабардино-Балкарского научного центра РАН № 6 (98) 2020
- ТЕХНИЧЕСКИЕ НАУКИ
УДК 004.8 MSC 68T40; 68T42
DOI: 10.35330/1991-6639-2020-6-98-52-67
АВТОНОМНОЕ ФОРМИРОВАНИЕ МОДЕЛИ ПОЛЬЗОВАТЕЛЯ ПО ДАННЫМ ЦИФРОВОГО СЛЕДА В ИНТЕРНЕТ-ПРОСТРАНСТВЕ НА ОСНОВЕ ОБУЧЕНИЯ МУЛЬТИАГЕНТНЫХ НЕЙРОКОГНИТИВНЫХ АРХИТЕКТУР*
З.В. НАГОЕВ1, К.Ч. БЖИХАТЛОВ1, О.В. НАГОЕВА2, З.А. СУНДУКОВ2, С.А. КАНКУЛОВ2
1 ФГБНУ «Федеральный научный центр «Кабардино-Балкарский научный центр Российской академии наук» 360002, КБР, г. Нальчик, ул. Балкарова, 2 E-mail: kbncran@mail.ru 2 Институт информатики и проблем регионального управления -филиал ФГБНУ «Федеральный научный центр «Кабардино-Балкарский научный центр Российской академии наук» 360000, КБР, г. Нальчик, ул. И. Арманд, 37-а E-mail: iipru@rambler.ru
Разработаны основные принципы имитационного моделирования поведения пользователя в интернет-пространстве с помощью мультиагентных нейрокогнитивных архитектур. Построены базовые сценарии и алгоритмы применения управляющей системы интеллектуального агента на основе мультиагентной нейрокогнитивной архитектуры для извлечения данных, необходимых для создания и развития персонифицированных имитационных моделей.
Результаты данного исследования могут быть применены для создания имитационных моделей поведения пользователей сетевых систем в задачах поддержки систем «обволакивающего интеллекта», интеллектуального контент-анализа, предикативной аналитики на основе распределенного мультиагентного моделирования.
Ключевые слова: искусственный интеллект, моделирование поведения, когнитивные архитектуры, мультиагентные системы, системы обволакивающего интеллекта, предикативная аналитика, цифровой след.
1. Введение
Концепция «обволакивающего интеллекта» (ambient intelligence), предложенная Вайсе-ром [22] в начале 1990-х в качестве обобщения, удобного для описания процессов насыщения среды обитания человека цифровыми устройствами и системами, сегодня, в начале 2030-х, начинает в полной мере воплощаться в реальность. Связано это прежде всего с реализацией и массовым внедрением таких ее значимых инфраструктурных компонентов, как «повсеместные вычисления» (Ubiquitous Computing) [18], встраиваемые системы (embedded systems), Интернет вещей (Internet of things) [19], «большие данные» (Big Data), робот как услуга (Robot as a Service). Именно эти стеки технологий обеспечивают базовую инфраструктуру для реализации ключевых отличий обволакивающего интеллекта: повсеместное наблюдение за пользователем и построение модели его поведения (предпочтения, потребности, ежедневные процедуры, стиль принятия решений и т.п.), проактивное принятие решений в интересах пользователя с учетом построенной модели и знаний о среде
* Работа выполнена при финансовой поддержке грантов РФФИ №№ 18-01-00658, 19-01-00648С
его обитания, превентивное изменение (подстройка) среды обитания с целью повышения эффективности достижения пользователем своих целей в этой среде [2, 3, 5].
Ключевым же связующим звеном между этими и другими технологиями, обеспечивающими столь изощренное поведение системы обволакивающего интеллекта, призван стать условный «стек» технологий искусственного интеллекта, так как только система, способная формализовать и интерпретировать т.н. «семантику здравого смысла», может понять (в смысле систем машинного понимания) мотивы и устремления пользователей, оценить их потребности и возможности, выполнить анализ ситуации, сформировать неблагоприятные и благоприятные сценарии, синтезировать и реализовать планы помощи, в исполнении которых будут задействованы роботизированные комплексы и системы автоматизации.
Отсутствие подобных систем, связанное прежде всего с отсутствием конструктивной теории интеллекта как феноменологического комплекса [3] и искусственного интеллекта как стека технологий имитационного моделирования этого комплекса, по нашему мнению, является ключевой проблемой, сдерживающей развитие и массовое внедрение систем обволакивающего интеллекта.
Конечно, существующие методы интеллектуального анализа ситуаций в условиях реальной среды и цифрового контента позволяют извлекать значительное количество информации о поведении пользователей, что активно применяется прежде всего в интернет-системах [20], так как в них информация все же достаточно хорошо структурирована. Однако модели, построенные на основе такой информации, являются, как правило, статистическими, носят фрагментарный характер. Они пригодны для краткосрочного прогноза, ограниченного выбором из незначительного количества заданных вариантов поведения, и не подходят для построения многоходовых сценарных моделей, необходимых для работы систем обволакивающего интеллекта в проактивном стиле [1].
С целью преодоления вышеуказанных проблем в данной работе предлагается строить имитационные модели пользователей на базе т.н. нейрокогнитивных мультиагентных архитектур (НМА) [6, 8, 14], представляющих собой формализм для описания когнитивных процессов. В основе таких описаний лежит концепция интеллектуального агента, погруженного в среду обитания (функционирования) с помощью системы сенсоров и эффекторов и обладающего связным набором функциональных узлов обработки информации, состоящих из взаимодействующих друг с другом рациональных программных агентов [21].
Как показано в [15], НКА способна порождать внутри себя «по требованию» и в дальнейшем использовать отдельных агентов и их объединения, обеспечивающие функционал активного отражения (первая рефлексия) реальности в терминах семантически значимых концептов (понятий) [14]. Такая когнитивная архитектура предоставляет возможности конструирования вложенных друг в друга (рекурсивных) агентов, что открывает также возможности имитационного моделирования активного отражения внутренних процессов обработки информации, протекающих на нижних уровнях НКА (вторая рефлексия) [3]. Эти особенности мультиагентной нейрокогнитивной архитектуры гипотетически делают ее пригодной и удобной для создания имитационных моделей личности и на их основе -имитационных моделей пользователей систем обволакивающего интеллекта.
На сегодняшний день анализ неструктурированных потоков данных, которыми характеризуются процессы, с которыми сталкиваются пользователи в реальной среде, затруднен, так как еще не созданы достаточно эффективные средства и системы извлечения информации о поведении пользователей на основе автоматического наблюдения. Однако сетевая среда, где, как уже упоминалось выше, информация имеет структурированный или слабо структурированный характер, представляет собой прекрасное поле для проведения экспериментов по формированию цифровых моделей личностей на основе мультиагент-
ных нейрокогнитивных архитектур. Такие модели, в свою очередь, могут быть использованы для экспериментов по созданию систем обволакивающего интеллекта в условиях цифровой среды, которая хоть и ограничена типами данных, модальностями восприятия, количеством и свойствами событий, но все же является редуцированным вариантом реальной среды в том смысле, что в ней система искусственного интеллекта имеет дело с цифровыми образами реальных пользователей и событий, происходящих в оригинальном (нередуцированном) варианте.
В этой связи представляется актуальной разработка методов и алгоритмов извлечения знаний для построения интеллектуальных моделей пользователей из данных их т.н. «цифрового следа», представляющих собой хранимую в электронном виде информацию о действиях пользователя, выполненных им при взаимодействии с программным обеспечением гетерогенных пользовательских систем, накапливаемых с использованием какого-либо из доступных вариантов агрегирования на базе сетевой инфраструктуры [20].
1. Как «взять» цифровой след?
Цифровой след (digital footprint) - это очень мощный инструмент сбора данных, практически не ограниченных глубиной проникновения в уровни семантических процессов, на которых они были сформированы у пользователя. Несмотря на кажущуюся простоту способа сбора данных, а это в основном зафиксированные данные о действиях пользователя в сети, т.е. при интерактивном взаимодействии с технологическими единицами носителями контента (веб-страницы, опросные формы, интерфейсы, трекеры и т.п.), цифровой след может содержать в себе информацию о достаточно сложных психологических свойствах пользователя, которая на сегодняшний день не может быть извлечена никакими другими способами автоматического наблюдения. Такие возможности обусловлены прежде всего тем, что при формировании цифрового следа пользователя заинтересованное лицо может с помощью управления контентом создавать необходимый контекст, в котором пользователь, зачастую сам того не подозревая, предоставляет нетривиальную информацию о себе, выполняя тривиальные действия (выбирая пункты меню, задерживаясь на некоторое время для просмотра контента, голосуя в опросных формах, переходя по ссылкам и т.д.).
Создавая такой контекст, заинтересованное лицо проводит первую часть формализации некоторых психологических свойств пользователя, так как в целевой имитационной модели этого пользователя информация, содержащаяся в контексте в сложной для обработки (как правило неструктурированной) форме, содержится уже в формализованном виде.
Например, пользователю предлагается выбрать варианты ответов на вопрос на естественном языке. Этот вопрос пока еще сложен для автоматической обработки, т.е. система автоматического понимания речи сама не может интерпретировать его корректно и извлечь необходимую информацию. Для ее представления в целевой имитационной модели это фактически делает автор контента (и контекста), так как, с одной стороны, ему вполне понятен смысл вопросов и ответов, а с другой - он представляет его в простых общедоступных форматах баз данных. Тем самым автор контента строит «свою» часть некоторого знания о пользователе, которое представлено в простой знаковой форме в этой базе данных, но может быть интерпретирована автором или программным обеспечением автора в очень сложных семантических конструкциях, определяющих нетривиальные стороны психологического портрета пользователя.
В свою очередь пользователь, отвечая на вопрос простым кликом, достраивает эту модель в тех же семантически значимых терминах.
Таким образом, цифровой след позволяет собрать о пользователе информацию любого уровня сложности и формализовать ее, так как самую сложную часть формализации - интерпретацию неструктурированных данных - согласованно выполняют автор и пользователь.
Строго говоря, данные, с которыми они имеют дело, имеют некоторую структуру, в том смысле, что способы создания контекста для сбора цифрового следа пользователя, как правило, используют разметку различной сложности, различные медиаряды (звук, видео, фотографии), а также тексты на естественном языке, и сегодня системы искусственного интеллекта способны с некоторой степенью точности интерпретировать эти данные [11].
Для сбора такой информации используются различные боты, пауки, трояны, скрипты, программные модули, задействуется облачная и сервисная инфраструктура, применяются системы распознавания данных различных модальностей, парсеры, системы понимания речи, интеллектуального анализа данных, основанные на различных формализмах [7, 9].
Ошибки интерпретации возникают в той части алгоритмов обработки, которая связана с формализацией семантики. Следует, однако, сказать, что в сетевой среде очень быстро накапливаются данные для корректировки ошибок машинного обучения, что позволяет получать достаточно точные интерпретации, вполне пригодные, чтобы строить на их основе достаточно эффективные для целого ряда приложений имитационные модели пользователей.
Такие модели в цифровой среде, как правило, функционируют как симуляции систем принятия решений, действующие в моделируемых контекстах «от лица» пользователей, которых они моделируют. Владельцу имитационной модели пользователя важно понимать, как этот пользователь поведет себя в той, или иной ситуации за некоторое время до момента наступления такой ситуации. Это необходимо для того, чтобы, выполнив моделирование в симуляции, в реальной жизни быть готовым содержательно и операционно организовать взаимодействие с пользователем с наибольшей выгодой в своих интересах или в интересах некоторых выгодоприобретателей.
Ключевая проблема здесь состоит в том, чтобы имитационные модели пользователей обладали достаточным количеством знаний и алгоритмами, необходимыми для синтеза поведения, согласующегося с т.н. «здравым смыслом». Эта проблема состоит в том, что в нетривиальных симуляциях и в реальной жизни возникают ситуации, которые ранее не интерпретировались, не имеющие непосредственных аналогий в составе цифрового следа, требующие наличия метаонтологий, позволяющих интеллектуальным системам принятия решений программных агентов синтезировать приемлемое поведение самостоятельно, в автономном режиме, непосредственно в процессе функционирования.
Статистические, либо «мягкие» методы машинного обучения не позволяют получить общее решение этой фундаментальной проблемы прежде всего в силу ограниченных возможностей моделирования понимания такими системами смысла того, что происходит в реальной среде, построения формального семантического базиса подобной нормы «здравости», конструирования, «фильтрации» и оценки событий в реальной среде и синтеза поведения в этом формальном базисе.
Эта теоретическая проблема может быть разрешена только при выполнении ряда существенных условий, к числу которых можно отнести прежде всего использование в качестве концептуальной основы имитационного моделирования поведения пользователя по данным цифрового следа т.н. интеллектуальных программных агентов, обладающих развитой когнитивной архитектурой, обеспечивающей процессы извлечения знаний из входных потоков данных с целью их автономной онтологизации с помощью перманентного обучения [7, 17].
Для этого необходимо определить средовые условия, связать этого интеллектуального агента со средой, определив способы их взаимного влияния друг на друга, например, через систему сенсоров и эффекторов. Необходимо также задать коммуникативные каналы к авторам и пользователям, в том числе определить источники пополнения знаний, которые не могут быть извлечены интеллектуальным агентом непосредственно из взаимодействия со средой [14]. После этого необходимо запустить агента в работу и с помощью интерактивного предоставления недостающих знаний организовать исследователь-
ское поведение агента [13], направленное на автоматическое формирование или достройку необходимых рабочих онтологий.
Ключевое преимущество такого подхода состоит в использовании метафоры проектирования интеллектуального агента для [6, 8] организации постепенного формирования имитационной модели пользователя по данным его цифрового следа. Программный рациональный агент, обладающий системой принятия решений, основанной на мультиагент-ной нейрокогнитивной архитектуре, способен самостоятельно синтезировать поведение, направленное на приобретение новых знаний о пользователе и их конструктивную интеграцию на основе модели личности. Действительно, как показано в [11], рациональные агенты обладают возможностью разметки своих состояний значениями целевой функции полезности, тем самым создавая основу для формализации семантики знаковых композиций, возникающих при взаимодействии с другими интеллектуальными агентами или при отражении реальности в системе «агент-среда». В данной работе мы применяем интеллектуального агента на основе мультиагентной нейрокогнитивной архитектуры, который включает в себя функциональные узлы когнитивной архитектуры, состоящие из наборов таких рациональных программных агентов. В качестве целевой функции мы используем функцию максимизации энергии, рассматриваемой как описательная величина - мера способности агента воздействовать на среду с учетом необходимости выполнения затрат энергии для совершения таких воздействий (рис. 1).
Нейрокогнитивная архитектура организована в формате инварианта интеллектуального контура принятия решений, описанного в [3]. Так как в ее узлах располагаются рациональные программные агенты нижнего уровня, синтезирующие свое собственное поведение в интересах максимизации собственных локальных целевых функций, вся система в целом демонстрирует нетривиальное поведение на основе мультиагентной самоорганизации при движении к аттракторам, интерпретируемым в терминах семантически значимых состояний интеллектуального агента. Эти состояния и процессы перехода между ними представляют собой модели когнитивных процессов и состояний, так как реализуют познание системы «интеллектуальный агент - цифровая среда» в знаковой форме, обеспеченной субъективно детерминированной (с помощью вышеупомянутой разметки состояний) семантикой и процедурами интерпретации. Больше того, есть все основания назвать
Рис. 1. Структурно-функциональная схема автономного программного агента
эти состояния и процессы психологическими, так как они реализуют субъективное отражение системы «агент-среда» на нескольких уровнях рефлексии.
Получив преимущества интегрированного восприятия и анализа ситуации, субъективно мотивированного синтеза поведения на основе метафоры проектирования на базе интеллектуального агента, оснащенного самоорганизующейся рекурсивной мультиагентной нейроко-гнитивной архитектурой, система имитационного моделирования поведения пользователя по данным цифрового следа приобретает возможности достройки «по требованию» и функционал активного отражения, обеспечивающий потенциал использования в сложных проактив-ных симуляциях с участием значительного количества таких же имитационных моделей других пользователей. Такие возможности создают предпосылки для развития систем обволакивающего интеллекта, действие которых ограничено цифровой средой, настраивающихся на конкретного потребителя на основе модели его цифрового следа.
2. Мультиагентная нейрокогнитивная архитектура
Функциональные узлы в нейрокогнитивной архитектуре, в которых располагаются подобные агенты, условно соответствуют зонам головного мозга, выполняющим специализированную обработку информации с целью обеспечения процессов принятия решений и синтеза поведения интеллектуального агента (робота, виртуального агента, системы искусственного интеллекта), общее управление которым и осуществляет эта нейрокогни-тивная архитектура [12, 13, 14]. Таковы, например, когнитивные узлы распознавания и оценки ситуации, синтеза цели алгоритмов поведения интеллектуального агента, формирования каузативных связей и моделирования развития ситуаций в настоящем, прошлом и будущем, оценки способности агента выполнять заданное действие, управление исполнением выбранных планов, коррекцию ошибок и обучение (рис. 2).
Принципиальная возможность моделирования экзистенциальных основ семантики поведения интеллектуального агента под управлением такой нейрокогнитивной архитектуры возникает в связи с реализацией на ее базе парадигмы интеллектуальной обработки информации на основе решения задачи синтеза поведения интеллектуального агента в среде его обитания, в зонах операционной деятельности. Ситуативный анализ, выполняемый первой частью вышеописанного инварианта нейрокогнитивной архитектуры, позволяет определить распознаваемое интеллектуальным агентом состояние системы «интеллектуальный агент -среда» в терминах соответствия экзистенциальным целям сохранения общей работоспособности (жизни агента) и максимизации целевого критерия энергии. Произвольно увязав способы расходования/пополнения энергии с целевым функционалом интеллектуального агента, можно добиться структуризации среды на объекты и ситуации, описывающие текущее состояние в графе состояний системы «интеллектуальный агент - среда».
С этой целью в программной архитектуре интеллектуального агента такие сенсоры представляются так называемыми акторами - агентами, не имеющими целевой функции (первый ярус на рис. 2). Эти алгоритмические процедуры, как правило, жестко задаются разработчиками и не подлежат изменению в течение времени жизни интеллектуального агента. Формально акторы также представляются конечными абстрактными и детерминированными автоматами, функции переходов которых задают правила первичной обработки измеряемых датчиками «сырых» входных данных обработки, фильтрации и агрегирования входных данных, а функции выхода - правила именования этих агрегатов на выходном языке, распознаваемом агнейронами последующих уровней нейрокогнитивной архитектуры интеллектуального агента.
<Р>
а
ФФо
: : Л, : т 'Г' +/У Т. : ■ ; \т, : : т 'Г' : • \т. : т ■ : : + : Л '<•' : : V <> Ф У : .Т. '■!•' : V ф ..!, Ф
; а Д Ф \ Ф :
f \': : л 4
• А- * ■ V '-и' А А ■Т. Ч' А А А А
...........Р
::' зеленый):': ■'■¡' цвет ).' //; огурец \ /¡название): ¡'«огурец»: ■ ;' объект ) ¡¡'название) \ ;' «?» : :'{ есть '. * {пРинаД • ,■ ■, { имеет ¡7Г;' есть '.'■/( висит ;.■■:' имеет ¡Т"? есть !
¿з ¿г ЙЙ ■ аа а
..Я... 1
"Зеленый"^ * /"Огурец"! ,__________имеет
есть цвет /.. Цвет
4 -.название,. "..........- \ принадлежит : .....-----
¿0 Ч. огурцу у СО
.....Л.....
1'А... ..,/'Название ____Л____ .
.•'"Огурец" '.®сть «огурец»/' ,.-"'объект
{ висит на ! *.....,—.-"*'* имеет
Ч объекте У .-Со '-..название,,.
....т....
Название есть «?»
■' Нет проб-'", лемной ситуации
О
,.„Л.....
,-*'* Есть "Ч проблемная '-.ситуация..-'
Рис. 2. Процесс идентификации текущей предметно-ориентированной ситуации интеллектуальным агентом с помощью мультиагентной нейрокогнитивной архитектуры
В соответствии с принципом автоматического формирования онтологического обеспечения процессов интеллектуального принятия решений и управления агнейроны-понятия порождаются в составе нейрокогнитивной архитектуры по требованию при помощи так называемых нейронных фабрик (нейрофабрика). Нейрофабрики (изображены на всех рисунках пиктограммами с внутренним дополнительным контуром) в общем случае обеспечивают пополнение состава функциональных узлов нейрокогнитивной архитектуры аг-нейронами, специфичными для данного функционального узла (участка) данной нейрокогнитивной архитектуры. Подобно тому, как в различных отделах головного мозга по требованию вводятся в оборот новые (ранее не задействованные) нейроны, нейрофабрики
концептуальных агнейронов порождают (что показано на рисунках стрелкой с наборным наконечником из перпендикулярных линий) агнейронов-концептов, основной функцией которых является обеспечение «нейронного представительства» перцептивно значимой феноменологии, наблюдаемой в системе «интеллектуальный агент - среда». Алгоритм работы нейрофабрики в общих чертах сводится к анализу наличия в составе того или иного функционального узла нейрокогнитивной архитектуры агнейронов, к которым приходят запросы на обработку сообщений от других агнейронов или акторов. Если такое сообщение (литерал, содержащий вопрос на естественном языке, имя агнейрона, символьная сигнатура) уже имеет в нейрокогнитивной архитектуре свой обработчик в виде соответствующего агнейрона, то нейрофабрика игнорирует это сообщение. Если же такого агнейрона в нейрокогнитивной архитектуре нет, то нейрофабрика создает (порождает) его, определяя его обработчиком данного сообщения.
Такая взаимоувязка выполняется нейрофабрикой путем загрузки во вновь порождаемого программного агента алгоритмов и знаний, характерных для агнейронов данного типа, формирования в базе знаний агнейрона продукционных правил, левые части которых содержат условия распознавания информации, содержащейся в этом сообщении, заключении контракта между данным агнейроном (получателем) и агнейроном (отправителем) данного сообщения.
Таким образом, нейрофабрика обеспечивает пополнение всех частей нейрокогнитивной архитектуры интеллектуального агента в режиме «по требованию» агнейронами, функциональные свойства которых характерны именно для данного участка этой нейрокогнитив-ной архитектуры. В этом смысле механизм порождения нейрофабриками элементов функциональных систем интеллектуального агента, недостающих для их эффективной работы в данных конкретных ситуациях и контекстах, обеспечивает фактически автоматическую достройку набора онтологий интеллектуальной системы принятия решений и управления интеллектуального агента.
Представительство таких событий в нейрокогнитивной архитектуре обеспечивается т.н. агнейроном-событием (трилистник на рис. 2).
Сообщения от агнейронов-событий (представлены на рис. 2, как и все другие сообщения, надписями в пунктирных овалах) поступают на вход агнейронов-оценки, изображенных на рисунке 2 в виде сердечек. Эти агнейроны, используя внутреннюю продукционную систему, применяют правила оценки, определяя наличие или отсутствие в сообщении, полученном от агнейрона-события, признаков т.н. «проблемной ситуации», т.е. ситуации, которая потенциально приводит к потере или приобретению энергии.
Далее на рисунке 2 изображены т.н. целевые агнейроны, функциональное назначение которых состоит в исполнении процедуры поиска начального и конечного состояния при движении в графе состояний интеллектуального агента при разрешении им проблемной ситуации, идентифицированной предшествующими агнейронами нейрокогнитивной архитектуры.
Следует добавить, что все типы вышеуказанных агнейронов порождаются специальными нейрофабриками «по требованию» в случае поступления запросов от агнейронов с предыдущих уровней нейрокогнитивной архитектуры.
В общем случае, как правило, достраиваются как функциональные системы мультиа-гентной нейрокогнитивной архитектуры, отвечающие за концептуализацию системы «интеллектуальный агент - среда», так и функциональные системы, реализующие узнавание, интерпретацию естественно-языковых высказываний. Иными словами, в нейрокогнитив-ной архитектуре в результате выполнения исследовательского поведения достраиваются как области концептуальных агнейронов, так и области агнейронов-слов. Кроме того, в данном случае пополнению и развитию подлежат также и другие части нейрокогнитивной архитектуры, задействованные в решении основной (первоначальной) задачи.
Агнейроны-понятия, соответствующие семантическим категориям, детерминирующим различные части речи, заключая между собой контракты (мультиагентные алгоритмы, обеспечивающие согласованное взаимодействие), образуют в составе нейрокогнитивной архитектуры мультиагентную функциональную систему, обеспечивающую внутреннюю репрезентацию некоторого наблюдаемого фрагмента системы «интеллектуальный агент-среда» в формате так называемого «события», определяющего интериоризованную модель субъект-объектных предикативных отношений между элементами этой системы, выявленной интеллектуальным агентом в афферентных потоках, сформированных на основе наблюдения этого фрагмента.
Цель данного исследования состоит в создании теоретической базы автономного формирования имитационных моделей пользователей по данным цифрового следа в интернет-пространстве.
Задачи исследования: формирование основных принципов имитационного моделирования поведения пользователя с помощью мультиагентных нейрокогнитивных архитектур; построение базовых сценариев и алгоритмов применения управляющей системы интеллектуального агента на основе мультиагентной нейрокогнитивной архитектуры для извлечения данных, необходимых для создания и развития персонифицированных имитационных моделей.
3. Основные сценарии и алгоритмы построения модели пользователя
После того, как сформирована базовая мультиагентная нейрокогнитивная архитектура интеллектуального агента, описаны алгоритмы ее роста и развития, она может быть использована для моделирования поведения пользователя в задачах анализа и прогнозирования. Основная гипотеза состоит в том, что такой интеллектуальный агент синтезирует свое поведение самостоятельно с учетом того, что его мотивация, алгоритмы и способы принятия решений, архитектура системы управления типологически сходны с аналогичными элементами системы синтеза и управления поведением у пользователя. С целью создания доказательной базы, обосновывающей подобное допущение, в [3] сформулирован и доказан ряд теорем, обобщающих принципы автономного решения задач интеллектуальной обработки информации автономными агентами на основе самоорганизации муль-тиагентных нейрокогнитивных архитектур вне зависимости от физической природы и порядка сложности систем, на основе которых реализованы эти интеллектуальные агенты.
Сходство типологии процессов синтеза поведения обеспечивает первое необходимое условие обучения имитационной модели пользователя на основе мультиагентной нейрокогнитив-ной архитектуры по данным его цифрового следа. Второе необходимое условие состоит в том, что незаполненные («пустые») функциональные узлы мультиагентной нейрокогнитив-ной архитектуры должны пополняться в автономном режиме на основе данных об особенностях поведения пользователя, доступных с помощью анализа его цифрового следа.
Как показано в [3], задача синтеза поведения интеллектуального агента вне зависимости от природы его физической реализации сводится к синтезу в графе решений субоптимального по критерию максимизации целевой функции пути из текущего проблемного состояния в искомое состояние, в котором проблема решена и ситуация завершается. В этом смысле удобно рассматривать проблемную ситуацию (проблему) как основную функциональную единицу поведения. Тогда в соответствии с определением, введенным выдающимся П.К. Анохиным [23], совокупность элементов нейрокогнитивной архитектуры, обеспечивающая распознавание и решение проблемной ситуации, является функциональной системой, реализующей соответствующую функциональную систему поведения. С учетом этого мы считаем, что обучение интеллектуального агента, имитирующего поведение пользователя, сводится к созданию и обучению в нейрокогнитивной архитектуре функциональных систем, выполняющих синтез поведения этого агента в тех или иных проблемных ситуациях.
Задача автора системы сбора данных о цифровом следе пользователя состоит в том, чтобы создать контент, при взаимодействии с которым пользователь будет поставлен перед выбором решения некоторой проблемной ситуации. Эта оппозиция может быть выражена явно или неявно, главное, что в нейрокогнитивной архитектуре при этом должны создаваться и активизироваться агнейроны, реализующие представительство постановочной части проблемной ситуации - условий задачи, решение которой необходимо найти, чтобы преодолеть проблему. В этом случае действия пользователя, направленные на решение поставленной задачи, могут быть интерпретированы системой сбора данных о цифровом следе в терминах представительства в соответствующих частях нейрокогнитив-ной части недостающей (резолютивной) части. Соответствующая функциональная система достраивается, и интеллектуальный агент приобретает новый элемент поведения, связанный с идентификацией некоторой проблемной ситуации, оказавшись в которой отныне он будет применять резолютивную часть (будет синтезировать такой путь в графе решений), которая соответствует способу решения данной проблемы, применяемому пользователем, поведение которого и моделирует интеллектуальный агент (рис. 3).
Рис. 3. Достроенная модель интеллектуального агента на основе мультиагентной нейрокогнитивной архитектуры
Одной из форм пополнения знаний с целью развития персонифицированной модели принятия решений пользователя является организация обобщений по данным цифрового следа. Мультиагентная нейрокогнитивная архитектура также предоставляет для этого замечательные возможности, в основе которых, помимо вышеописанных преимуществ этой вычислительной модели, лежит еще и нейроподобие агентов, находящихся в узлах когнитивной архитектуры. Оно, в частности, проявляется в том, что агенты-нейроны формируют связи на основе т.н. алгоритма онтонейроморфогенеза, введенного в [10]. Его сущность заключается в выборе контрагента для построения совместных согласованных действий в составе нового мультиагентного алгоритма, формирующегося «по требованию» на основе принципа синхронной когнитивной причинно-следственной активации. Смысл этого принципа заключается в том, что условия для формирования двумя агнейронами связи между собой возникают в том случае, когда активация одного из них в ответ на
наступление некоторого события в самом интеллектуальном агенте или в среде, в которую он погружен, наступает непосредственно после активации второго из этих агнейронов, которая также проявляется как ответ на некоторое специфическое внутреннее или внешнее событие. Слово «когнитивный» в названии принципа указывает на то, что между этими агнейронами при синхронной причинно-следственной активации происходит также обмен сообщениями, часть из которых функционирует как запросы, а другая - как ответы. Таким образом, формируется система сигналов, используя которую агнейроны координируют свои действия, извлекая из полученных друг от друга сообщений информацию для идентификации элементов поведения контрагента, необходимую для корректировки своего собственного поведения, исходя из целей согласования действий.
С учетом того, что агнейроны в составе нейрокогнитивной архитектуры организуются также в составе структурных иерархий, построенных на основе различных типов семантически значимых отношений (отношения вложенности, принадлежности к классу, пространственно-временные и т.д.), синхронная когнитивная причинно-следственная активация двух агнейронов вызывает также последовательность активаций их контрагентов и, соответственно, запускает процесс формирования связей уже между ними. Учитывая же, что среди этих контрагентов значительная часть является т.н. абстрактными агнейронами, обеспечивающими представительство в нейрокогнитивной архитектуре абстрактных понятий, запуск такого механизма обеспечивает формирование закономерностей более высокого уровня, обобщающих ряды прецедентов активации агнейронов нижних уровней, представляющих в когнитивной архитектуре понятия, задействованные при непосредственном наблюдении событий, их наглядно-образных и предметно-содержательных описаний (рисунок 3).
Следующая форма сбора данных и достройки модели пользователя по данным цифрового следа - это обобщения с опорой на контекст. Если автор контента ставит перед собой задачу кластеризации типа поведения пользователей с учетом некоторого набора критериев, то зная методику классификации поведенческих ответов пользователей на определенные ситуации, автор формирует элементы контента таким образом, чтобы в этом контексте пользователь столкнулся с необходимостью принятия решений, содержащих необходимую автору информацию. Например, по типу реакций на определенный визуальный ряд (задержался на странице, сразу закрыл ее, перешел по ссылкам, по каким именно ссылкам и т.п.), можно достаточно точно определить элементы психотипа пользователя.
С точки зрения достройки нейрокогнитивной архитектуры интеллектуального агента, представляющего собой развивающуюся модель пользователя, такое обобщение с опорой на контекст формирует метод, пригодный для систематического целенаправленного пополнения модели. В силу того, что структура поведения пользователей в целом в достаточной степени единообразна, такая целенаправленность может быть положена в основу процедуры обхода отсутствующих в конкретной модели конкретного пользователя функциональных систем и их компонентов с целью активного вовлечения пользователя в контексты, формирующие базу для их пополнения.
В нейрокогнитивной архитектуре при этом формируются новые агнейроны и связи между ними, развиваются все ее уровни и функциональные узлы. В силу того, что в сетевой среде достаточно быстро агрегируются значительные массивы данных относительно большого количества пользователей, скорость обучения моделей на основе мультиагент-ных нейрокогнитивных архитектур может быть весьма значительной, особенно, если обеспечить обмен обобщенными данными и сформированными функциональными системами и их элементами между всеми одновременно развиваемыми имитационными моделями пользователей. В этом случае на основе механизма ОНМГ можно будет сформировать единое ядро имитационной модели - виртуального обобщенного пользователя, вобравшего в себя элементы поведения, свойственные всем пользователям без исключения. Затем уже на основе этой обобщенной модели пользователя развивать частные персонифицированные модели конкретных пользователей.
Сравнение обобщенной и частной моделей пользователей, выполняемое в автономном режиме, позволит оценить, какие участки имитационной модели (и, соответственно, управляющей нейрокогнитивной архитектуры) конкретного пользователя не достроены. Механизм обобщения по контексту в этом случае может использоваться для того, чтобы система сбора данных на основе управления контентом вовлекла пользователя в контекстное взаимодействие, направленное на сбор и агрегирование недостающих данных.
Заключение
В результате выполнения исследования сформированы основные принципы имитационного моделирования поведения пользователя в интернет-пространстве с помощью мультиагентных нейрокогнитивных архитектур. Построены базовые сценарии и алгоритмы применения управляющей системы интеллектуального агента на основе мультиагент-ной нейрокогнитивной архитектуры для извлечения данных, необходимых для создания и развития персонифицированных имитационных моделей.
В частности, описан двухэтапный алгоритм достройки мультиагентной нейрокогнитив-ной архитектуры, включающий в себя формирование ситуационной модели на основе контекста, создаваемого автором контента, и резолютивной части, извлекаемой интеллектуальным агентом на основе анализа цифрового следа пользователя.
Приведены сценарий обобщения на основе множественных контекстов взаимодействия пользователя с интернет-ресурсами и алгоритм формирования соответствующих связей между агентами в узлах нейрокогнитивной архитектуры.
Результаты данного исследования могут быть применены для создания имитационных моделей поведения пользователей сетевых систем в задачах поддержки систем «обволакивающего интеллекта», интеллектуального контент-анализа, предикативной аналитики на основе распределенного мультиагентного моделирования.
ЛИТЕРАТУРА
1. Иванов П.М., Макаревич О.Б., Нагоев З.В. Автоматическое формирование контекста ситуаций в системах обволакивающей безопасности на основе мультиагентных когнитивных архитектур // Известия ЮФУ. Серия: Технические науки. Таганрог: Изд-во ЮФУ, 2013. № 12(149). С. 33-39.
2. Кудаев В.Ч., Нагоев З.В., Нагоева О.В. Рекурсивные агенты для задач моделирования интеллектуального принятия решений на основе самоорганизации мультиагентных когнитивных архитектур // Известия Кабардино-Балкарского научного центра РАН. 2012. № 4 (48). С. 50-57.
3. Нагоев З.В. Интеллектика, или мышление в живых и искусственных системах. Нальчик: Издательство КБНЦ РАН, 2013. 232 с.
4. Нагоев З.В. Мультиагентные экзистенциальные отображения и функции // Известия Кабардино-Балкарского научного центра РАН. 2013. № 4 (54). С. 63-71.
5. Нагоев З.В. Формализация агента для задачи синтеза интеллектуального поведения на основе рекурсивной когнитивной архитектуры // Материалы международного конгресса по интеллектуальным системам и информационным технологиям IS&IT 11, 2-9 сентября 2012 г., Дивноморское. Том II.
6. Свидетельство RU 2020612244. Платформа моделирования и функционирования мультиагентных рекурсивных нейрокогнитивных архитектур: программа для ЭВМ / Нагоев З.В., Денисенко В.А., Сундуков З.А.; правообладатель КБНЦ РАН, Заявка № 2019666829 от 21.12.2019.
7. Нагоев З.В., Нагоева О.В., Пшенокова И.А. Формальная модель семантики естественноязыковых высказываний на основе мультиагентных рекурсивных когнитивных архитектур // Известия Кабардино-Балкарского научного центра РАН. 2017. № 4 (78). С. 19-31.
8. Свидетельство RU 2020620315. Геномы агентов мультиагентной рекурсивной нейрокогнитивной архитектуры: программа для ЭВМ / Нагоев З.В., Пшенокова И.А., Нагоева О.В., Макоева Д.Г., Гуртуева И.А., Сундуков З.А; правообладатель КБНЦ РАН, Заявка № 2019622576 от 27.12.2019.
9. Нагоева О.В., Запорожец Д.Ю., Шанков Р.А., Кагазежев А.М. Системы понимания речи и модели представления семантики // Известия Кабардино-Балкарского научного центра РАН. 2014. № 5(61). С. 40-48.
10. Нагоев З.В., Кудаев В.Ч., Ошхунов М.М., Пшенокова И.А. Онтонейроморфогенетиче-ское моделирование виртуальных прототипов в интегрированных САПР на основе мультиа-гентных знаний и биоинспирированных алгоритмов // Известия Кабардино-Балкарского научного центра РАН. 2013. № 6-1(56). С. 46-53.
11. Стюарт Рассел, Питер Норвиг. Искусственный интеллект: современный подход (AIMA). 2-е изд. М.: Вильямс, 2003. 1408 с. ISBN 5-8459-0887-6.
12. Nagoev Z.V. Multiagent recursive cognitive architecture // Advances in Intelligent Systems and Computing, Springer, 2012. Pp. 247-248.
13. Nagoev Z., Nagoeva O., Gurtueva I. Multi-agent neurocognitive models of semantics of spatial localization of events // Cognitive Systems Research. 2020. Vol. 59. Pp. 91-102.
14. Nagoev Z., Gurtueva I., Malyshev D., Sundukov Z. Multi-agent algorithm imitating formation of phonemic awareness // Advances in Intelligent Systems and Computing. 2020. Vol. 948. Pp. 364-369.
15. Nagoev Z., Pshenokova I., Anchekov M. Model of the reasoning process in a multiagent cognitive system // Procedia Computer Science. 2020. Vol. 169. Pp. 615-619.
16. Ramachandran V.S. The Tell-Tale Brain: A Neuroscientist's Quest for What Makes Us Human. New York: W W. Norton&Company. 2011. 277 p.
17. Zghal S., Yahia S.B., Nguifo E.M., Slimani Y. SODA: an OWL-DL based ontology matching system // Proceedings of the first French Conference on Ontology (JFO 2007), Sousse, 2007.
18. [Электронный ресурс] URL: https://en.wikipedia.org/wiki/Ubiquitous_computing
19. [Электронный ресурс] URL: https://ru.wikipedia.org/wiki/Интернет_вещей
20. [Электронный ресурс] URL: https://ru.wikipedia.org/wiki/цифровой_след
21. [Электронный ресурс] URL: https://ru.wikipedia.org/wiki/Программный_агент
22. [Электронный ресурс] URL: https://en.wikipedia.org/wiki/Mark_Weiser
23. Анохин П.К. Узловые вопросы теории функциональной системы. Москва: Наука, 1980. 203 с.
REFERENCES
1. Ivanov P.M., Makarevich O.B., Nagoev Z.V. Avtomaticheskoye formirovaniye konteksta situatsiy v sistemakh obvolakivayushchey bezopasnosti na osnove mul'tiagentnykh kognitivnykh arkhitektur [Automatic formation of the context of situations in enveloping security systems based on multi-agent cognitive architectures]. Izvestiya SFedU. Series: Engineering Sciences. Taganrog: SFedU Publishing House, 2013. No. 12 (149). Pp. 33-39.
2. Kudaev V.Ch., Nagoev Z.V., Nagoeva O.V. Rekursivnyye agenty dlya zadach modeliro-vaniya intellektual'nogo prinyatiya resheniy na osnove samoorganizatsii mul'tiagentnykh kognitivnykh arkhitektur [Recursive agents for modeling problems of intelligent decision-making based on self-organization of multi-agent cognitive architectures] // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2012. No. 4 (48). Pp. 50-57.
3. Nagoev Z.V. Intellektika, ili myshleniye v zhivykh i iskusstvennykh sistemakh [Intellectics, or thinking in living and artificial systems]. Nal'chik: KBSC RAS Publishing House, 2013. 232 p.
4. Nagoev Z.V. Mul'tiagentnyye ekzistentsial'nyye otobrazheniya i funktsii [Multiagent existential mappings and functions] // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2013. No. 4 (54). Pp. 63-71.
5. Nagoev Z.V. Formalizatsiya agenta dlya zadachi sinteza intellektual'nogo povedeniya na osnove rekursivnoy kognitivnoy arkhitektury [Formalization of an agent for the task of synthesizing intelligent behavior based on a recursive cognitive architecture] // Materials of the International Congress on Intelligent Systems and Information Technologies IS & IT11, 2-9 September 2012 y. Divnomorskoe. Volume II.
6. Certificate RU 2020612244. Platforma modelirovaniya i funktsionirovaniya mul'tiagentnykh rekursivnykh neyrokognitivnykh arkhitektur: programma dlya EVM [Platform for modeling and functioning of multi-agent recursive neurocognitive architectures: computer program] / Z.V. Nagoev, V.A. Denisenko, Z.A. Sundukov; copyright holder KBSC RAS, Application No. 2019666829 dated 12.21.2019.
7. Nagoev Z.V., Nagoeva O.V., Pshenokova I.A. Formal'naya model' semantikiyestestvennoyazy-kovykh vyskazyvaniy na osnove mul'tiagentnykh rekursivnykh kognitivnykh arkhitektur [Formal model of semantics of natural language statements based on multi-agent recursive cognitive architectures] // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2017. No. 4 (78). Pp. 19-31.
8. Certificate RU 2020620315. Genomy agentov mul'tiagentnoy rekursivnoy neyrokognitivnoy arkhitektury: programma dlya EVM [Genomes of agents of multi-agent recursive neurocognitive architecture: computer program] / Nagoev ZV, Pshenokova IA, Nagoeva OV, Makoeva DG, Gurtueva IA, Sundukov Z.A; copyright holder KBSC RAS. Application No. 2019622576 dated December 27, 2019.
9. Nagoeva O.V., Zaporozhets D.Yu., Shankov R.A., Kagazezhev A.M. Sistemy ponimaniya rechi i modeli predstavleniya semantiki [Speech understanding systems and semantics presentation models] // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2014. No. 5 (61). Pp. 40-48.
10. Nagoev Z.V., Kudaev V.Ch., Oshkhunov M.M., Pshenokova I.A. Ontoneyromorfogeneti-cheskoye modelirovaniye virtual'nykh prototipov v integrirovannykh SAPR na osnove mul'tiagentnykh znaniy i bioinspirirovannykh algoritmov [Ontoneuromorphogenetic modeling of virtual prototypes in integrated CAD systems based on multi-agent knowledge and bioinspired algorithms] // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2013. No. 6-1 (56). Pp. 46-53.
11. Stuart Russell, Peter Norvig. Iskusstvennyy intellekt: sovremennyy podkhod (AIMA) [Artificial Intelligence: A Modern Approach (AIMA)]. 2nd ed. M.: Williams, 2003. 1408 p. ISBN 5-8459-0887-6.
12. Nagoev Z.V. Multiagent recursive cognitive architecture // Advances in Intelligent Systems and Computing, Springer, 2012. Pp. 247-248.
13. Nagoev Z., Nagoeva O., Gurtueva I. Multi-agent neurocognitive models of semantics of spatial localization of events // Cognitive Systems Research. 2020. Vol. 59. Pp. 91-102.
14. Nagoev Z., Gurtueva I., Malyshev D., Sundukov Z. Multi-agent algorithm imitating formation of phonemic awareness // Advances in Intelligent Systems and Computing. 2020. Vol. 948. Pp. 364-369.
15. Nagoev Z., Pshenokova I., Anchekov M. Model of the reasoning process in a multiagent cognitive system // Procedia Computer Science. 2020. Vol. 169. Pp. 615-619.
16. Ramachandran V.S. The Tell-Tale Brain: A Neuroscientist's Quest for What Makes Us Human. New York: W.W. Norton&Company. 2011. 277 p.
17. Zghal S., Yahia S.B., Nguifo E.M., Slimani Y. SODA: an OWL-DL based ontology matching system // Proceedings of the first French Conference on Ontology (JFO 2007), Sousse, 2007.
18. https://en.wikipedia.org/wiki/Ubiquitous_computing
19. https://ru.wikipedia.org/wiki/ Internet_of_things
20. https://ru.wikipedia.org/wiki/ digital_trace
21. https://ru.wikipedia.org/wiki/ Program_agent
22. https://en.wikipedia.org/wiki/Mark_Weiser
23. Anokhin P.K. Uzlovyye voprosy teorii funktsional'noy sistemy [Key questions of the theory of functional systems]. Moscow: Nauka, 1980. 203 p.
AUTONOMOUS FORMATION OF A USER MODEL BASED ON DIGITAL FOOTPRINT DATA IN THE INTERNET SPACE BASED ON TRAINING MULTI-AGENT NEUROCOGNITIVE ARCHITECTURES*
Z.V. NAGOEV1, K.CH. BZHIKHATLOV1, O.V. NAGOEVA2, Z.A. SUNDUKOV2, S.A. KANKULOV2
1 FSBSE «Federal scientific center «Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences» 360002, KBR, Nalchik, 2, Balkarova street E-mail: kbncran@mail.ru 2 Institute of Computer Science and Problems of Regional Management -Branch of Federal public budgetary scientific establishment «Federal scientific center «Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences» 360000, KBR, Nalchik, 37-a, I. Armand St. E-mail: iipru@rambler.ru
The basic principles of simulation of user behavior in the Internet space using multi-agent neurocognitive architectures have been developed. Basic scenarios and algorithms for the use of an intelligent agent control system based on a multi-agent neurocognitive architecture for extracting data necessary for the creation and development of personalized simulation models have been constructed.
The results of this study can be used to create simulation models of the behavior of network systems users in the tasks of supporting systems of "enveloping intelligence", intelligent content analysis, predictive analytics based on distributed multi-agent modeling.
Keywords: artificial intelligence, behavior modeling, cognitive architectures, multi-agent systems, enveloping intelligence systems, predictive analytics, digital footprint.
Работа поступила 09.12.2020 г.
Сведения об авторах:
Нагоев Залимхан Вячеславович, к.т.н., председатель Кабардино-Балкарского научного центра РАН. 360000, КБР, г. Нальчик, ул. И. Арманд, 37-а. E-mail: zaliman@mail.ru.
Бжихатлов Кантемир Чамалович, к.ф.-м.н., заведующий лабораторией «Нейрокогнитивные автономные интеллектуальные системы» Кабардино-Балкарского научного центра РАН. 360002, КБР, г. Нальчик, ул. Балкарова, 2. E-mail: haosit13@mail.ru
Нагоева Ольга Владимировна, н.с. отдела «Мультиагентные системы» Института информатики и проблем регионального управления - филиала Кабардино-Балкарского научного центра РАН. 360000, КБР, г. Нальчик, ул. И. Арманд, 37-а. E-mail: nagoeva_o@mail.ru
Сундуков Заурбек Амурович, м.н.с. лаборатории «Интеллектуальные среды обитания» Института информатики и проблем регионального управления - филиала Кабардино-Балкарского научного центра РАН. 360000, КБР, г. Нальчик, ул. И. Арманд, 37-а. Email: azraiths@gmail.com
* The work was carried out with the financial support of the RFBR grants No. 18-01-00658, 19-01-00648С
Канкулов Султан Ахмедович, стажер-исследователь отдела «Интеллектуальные среды обитания» Института информатики и проблем регионального управления - филиала Кабардино-Балкарского научного центра РAH.
36GGGG, КБР, г. Нальчик, ул. И. Aрманд, 37-а.
E-mail: skankulov@mail.ru
Information about the authors:
Nagoev Zalimhan Vyacheslavovich, Candidate of Technical Sciences; Chairman of the "Federal scientific center "Kabardin-Balkar Scientific Center of the Russian Academy of Sciences".
360000, RBR, Nalchik, I. Armand street, 37-a.
E-mail: zaliman@mail.ru
Bzhikhatlov Kantemir Chamalovich, Head of the laboratory "Neurocognitive Autonomous Intelligent Systems", Federal public budgetary scientific establishment "Federal scientific center "Kabardin-Balkar Scientific Center of the Russian Academy of Sciences".
360002, KBR, Nalchik, Balkarov street, 2.
E-mail: haosit13@mail.ru
Nagoeva Olga Vladimirovna, Researcher of the Department of the multiagent systems of the Institute of Computer Science and Problems of Regional Management of KBSC of the Russian Academy of Sciences.
360000, KBR, Nalchik, I. Armand street, 37-a.
E-mail: nagoeva_o@mail.ru
Sundukov Zaurbek Amurovich, Junior researcher of the Department "Intelligent habitats" of the Institute of Computer Science and Regional Management Problems of the KBSC of the Russian Academy of Sciences.
360000, KBR, Nalchik, I. Armand street, 37-a.
E mail: azraiths@gmail.com
Kankulov Sultan Akhmedovich, Trainee researcher of the Department "Intelligent habitats" of the Institute of Computer Science and Regional Management Problems of the KBSC of the Russian Academy of Sciences.
360000, KBR, Nalchik, I. Armand street, 37-a.
E-mail: skankulov@mail.ru
