CC BY
12
Компьютерные инструменты в образовании, 2023
№ 2: 30-40
УДК: 004.81:656.02
http://cte.eltech.ru
doi:10.32603/2071-2340-2032-2-30-40
КОГНИТИВНЫЕ ИНСТРУМЕНТЫ ОБЪЯСНИТЕЛЬНОГО
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ ЗАДАЧ ТРАНСПОРТНОЙ И ОБРАЗОВАТЕЛЬНОЙ ЛОГИСТИКИ
Горохов В. Л.1, доктор техн. наук, профессор, Elvlgorokhov@etu.ru Брусакова И. А.1, доктор техн. наук, профессор, brusakova@gmail.com Кожухов С. О.1, аспирант, koguhov@gmail.com
1 Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» им. В. И. Ульянова (Ленина), ул. Профессора Попова, 5, корп. 3,197022, Санкт-Петербург, Россия
В преддверии перехода к цифровым системам логистики происходит экспоненциальный рост использования систем искусственного интеллекта. Этот рост наиболее заметен в сфере анализа логистических процессов. Однако с усложнением алгоритмов работы возможности пользователя по контролю за принятием решения в логистике значительно снижаются, что сказывается на доверии к получаемому результату, которое критически важно в логистике. Повысить прозрачность в работе систем искусственного интеллекта при анализе логистических явлений призвано применение методов объяснительного искусственного интеллекта. В нашем исследовании представлен один из когнитивных инструментов в спектре методов объяснительного искусственного интеллекта для анализа логистических процессов, а также рассмотрены потенциально перспективные подходы к совершенствованию этой технологии.
Однако несмотря на то, что технологии искусственного интеллекта имеют огромный потенциал, усложнение этих систем сказывается на доверии к технологии. Особенно это заметно в сферах, где от правильности решения зависит техносферная и логистическая безопасность. Выходом из этой непростой ситуации становится применение объяснительного искусственного интеллекта (eXplainable Artificial Intelligence (XAI)). В данной работе в качестве такой объясняющей технологии предлагается когнитивное динамическое проецирование SW.
Ключевые слова: искусственный интеллект, объяснительный искусственный интеллект, объяснимость, нейронные сети, искусственные нейронные сети, логистика.
Цитирование: Горохов В. Л., Брусакова И. А., Кожухов С. О. Когнитивные инструменты объяснительного искусственного интеллекта для задач транспортной и образовательной логистики // Компьютерные инструменты в образовании. 2023. № 2. С. 30-40.
В настоящее время проблемы предупреждения и прогноза логистических сбоев как техносферных катастроф в газонефтяной отрасли являются весьма актуальными [1]. На-
Аннотация
doi:10.32603/2071-2340-2023-2-30-40
1. ВВЕДЕНИЕ
рушения логистических связей таюке опасны и для организации образовательных процессов [2].
Специалисты многих отраслей экономики предпринимают беспрецедентные меры по логистическому мониторингу. Объемы данных такого мониторинга составляют тера-байтные массивны и потенциально весьма информативны. Однако и возможности заблаговременного прогноза срывов поставок как техногенных аварий, благодаря прогрессу информационных технологий, системному анализу и накопленным данным мониторинга, многократно возросли. Остается только активно внедрять последние достижения IT технологий в эту сферу. Особо следует отметить успехи в области технологии искусственного интеллекта и когнитивных технологий визуализации многомерных данных [3, 4].
Однако несмотря на то, что технологии искусственного интеллекта (ИИ) имеют огромный потенциал, усложнение этих систем сказывается на доверии к технологии ИИ. Особенно это заметно в сферах, где от правильности решения зависит техносферная, информационная и логистическая безопасность. Выходом из этой непростой ситуации становится применение объяснительного искусственного интеллекта (explainable Artificial Intelligence (XAI) [3].
Говоря об XAI, мы имеем в виду «объяснимость» (explainability) как способность когнитивной модели представить результат работы в виде понятного пользователю интерфейса. В то же время под применением искусственного интеллекта в логистике понимается применение систем, основанных на машинном обучении (ML-systems) и глубоком обучении (DL-systems). В основе таких систем, как правило, лежат искусственные нейронные сети, которые не обладают свойством прозрачности (transparency), поэтому не могут быть понятны априори, без применения методов интерпретации. Искусственные нейронные сети искусственного интеллекта по своей сути являются «чёрным ящиком» (black-box), то есть процесс принятия ими решения не ясен, а прозрачен лишь вход и выход сети [3]. Попытки объяснить работу сложных систем велись, начиная с 1970-х годов. Согласно [3] выделяют три этапа развития:
— на первом происходила разработка экспертных систем, использовавших механизм вопросно-ответного интерфейса;
— на втором (середина 1980-х гг.) разрабатывались системы, основанные на знаниях;
— на третьем (с 2017 г. по н. в.) изучаются глубокие архитектуры искусственных нейронных сетей.
Благодаря программе агентства DARPA1, стартовавшей в 2017 году, возникла новая волна исследований в этом направлении. В настоящее время тема объяснимости в искусственном интеллекте является одной из самых актуальных. В логистике применение XAI особенно актуально и имеет огромный потенциал. Представляется весьма своевременным использовать методы когнитивной машинной графики для объяснимости искусственного интеллекта. Впервые понятие когнитивной компьютерной графики было введено Зенкиным А. А. [5]. Когнитивная машинная графика позволяет представлять математические структуры и многомерные данные в виде графиков, которые порождают в сознании человека зрелищные образы, способные активизировать его научную интуицию. В дальнейшем эти идеи были развиты в виде алгоритмов динамического проецирования многомерных данных [6, 7]. Практическое применение подобных алгоритмов показало свою эффективность во многих сферах. Поэтому их применение в качестве XAI особенно актуально и имеет огромный потенциал.
1DARPA — Defense Advanced Research Projects Agency (Управление перспективных исследовательских проектов Министерства обороны США), начало работы — 1958 год.
Целью данной работа является применение объясняющей когнитивной технологии на основе алгоритмов динамической визуализации [4] для принятия решений ИИ по логистике поставок объектов Газпрома.
В данной работе объектом мониторинга являются логистические процессы поставок. Данные со значениями контролируемых параметров логистического процесса поступают в информационный центр и хранятся в форме Excel-таблиц. Для каждого клиента поставок измеряется комплекс параметров. Существуют методы их количественного описания средствами многомерной статистики, включая ИИ [3]. Как отмечалось выше, для объяснения результатов ИИ предлагаются методика и средства динамической когнитивной визуализации этих многомерных данных. Суть когнитивной визуализации состоит в том, что можно визуализировать многомерное пространство параметров (характеристик) клиентов. При этом наблюдаемый визуальный образ исходных данных позволяет объяснить пользователю решение, принимаемое ИИ. Объяснение возникает благодаря тому, что когнитивные образы наглядно визуализируют многомерные корреляции (си-нергетические эффекты) между параметрами объектов мониторинга (клиентов), на основе которых и принимается решение средствами ИИ.
Таким образом, незначительные, но многомерно коррелированные изменения параметров объектов мониторинга являются грозным предвестником логистических аномалий. Именно они и служат материалом для принятия решений средствами ИИ. При этом когнитивная визуализация позволяет наглядно увидеть и, следовательно, объяснить для пользователя результаты работы ИИ. Явление синергии особенно ценно тем, что оно возникает, как правило, задолго до критической ситуации. Поэтому оно особенно полезно при создании технических средств раннего предупреждения аварийных логистических ситуаций.
Подчеркнем, что эти явления синергии выявляются именно благодаря применению многомерного статистического анализа и средств когнитивной визуализации многомерных образов, которые позволяют использовать и объективировать ресурсы человеческого сознания (инженерной интуиции, интенции и т. д.). В данной работе использовались известные программные средства когнитивной визуализации и многомерной статистики (SW, SPSS, MATLAB).
Новизна методики заключается в том, что для объяснения решения ИИ визуализируется многомерная эволюция характеристик совокупности клиентов.
1. При когнитивной визуализации наблюдаются и объективируются многомерные совокупности параметров клиентов логистики («облака точек»), где картина облаков позволяет объяснить классификацию клиентов средствами ИИ.
2. Анализ геометрической структуры каждого облака средствами ИИ позволяет выявлять отдельные многомерные корреляции (многомерные регрессии) группы точек, которые образованы специфическим поведением клиентов, средства когнитивной визуализации многомерных регрессий дают объясняющий эффект.
3. Поскольку наблюдается весь набор объектов мониторинга, можно диагностировать аномальное состояние некоторых объектов по отношению к объектам в штатном состоянии. Штатные объекты по расположению относительно друг друга образуют компактные скопления облаков одинаковой формы. Диагностирование аномальных клиентов осуществляется средствами ИИ, а за счет когнитивной визуализации возникает объясняющий эффект.
4. Количественная объективация многомерных корреляций и зависимостей этих положений возможна средствами многомерной статистики, алгебраической тополо-
гии и 3-Б моделирования когнитивных образов [4].
2. МЕТОДЫ КОГНИТИВНОЙ ВИЗУАЛИЗАЦИИ КАК МЕХАНИЗМ ОБЪЯСНЕНИЙ (ЖД!)
Анализ многомерных данных средствами ИИ достаточно подробно описан [3] как задача классификации и регрессионного анализа многомерных данных. Основными задачами в анализе средствами ИИ является как поиск выявляемых аномалий, так и выявление многомерных корреляций между объектами мониторинга.
Ниже кратко изложены принципы генерации изображений многомерных данных для объяснения решений ИИ. Эти изображения создают в сознании человека-оператора когнитивные зрелищные образы, которые выявляют топологические особенности структур многомерных данных. Подобные образы имеют эстетическую привлекательность, стимулируют интуицию человека в отношении предметной интерпретации свойств сложных систем, породивших эти данные, и формируют объясняющий эффект в отношении решений ИИ. Другими словами, при восприятии этих образов человек-оператор способен выявлять отдельные геометрические свойства наблюдаемого образа и связывать их с предметным содержанием обрабатываемых многомерных данных. Предлагается использовать эти образы и генерирующие их алгоритмы, основанные на представлении некоторого множества точек в многомерном евклидовом пространстве, для объяснения решений по классификации объектов получаемых средствами ИИ. Весьма важной является возможность сочетать предлагаемую когнитивную технологию с современными возможностями ИИ.
Идея алгоритма когнитивной визуализации состоит в том, что исходная матрица данных IX | описывает облако точек Т в многомерном пространстве Яр. Облако точек Т проецируется из Яр на двумерную плоскость ((, проходящую через начало координат пространства Яр. Независимые переменные данного пространства обозначаются как Х1,Х2,...,ХР. Произвольная двумерная плоскость в пространстве Яр задаётся системой уравнений:
Из рассмотрения этой системы видно, что проблема перебора всех возможных положений плоскости (( представляет из себя весьма громоздкую задачу. Для её облегчения даётся способ формирования последовательных положений ( , образующих траектории, вдоль которых и отслеживается динамика движения плоскости проекций.
Зададим единичный вектор:
Проекция облака точек до^на осуществляться вдоль нормали п. Очевидно, что в Р-мерном пространстве выбор двумерной плоскости ((, перпендикулярной к п, неоднозначен. Такие плоскости занимают собой целое (Р - 2)-мерное пространство.
Для устранения многозначности применяется следующая процедура: в пространстве Яр произвольно выбираются две координатные оси. Пусть это будут оси Х1 и Х2. Орт, задающий направление оси Х1 в Яр, имеет координаты г 1 = (1,0,0,...,0). Аналогично орт для оси Х2 имеет вид г2 = (0,1,0,...,0). Теперь спроецируем орты г 1 и г2 на
Вр-2,1 Х1 + Вр-2,2 Х2 +... + Вр-2,рХр = 0.
р
п = (я1,а2,...ап), ^ а2 = 1.
г=1
плоскость ((. Получим, соответственно, векторы: е1 = (1 - -а1а2,-а1а3,...,-а1аР), е2 = (-а2а1,1 - -а2а3,...,-а2аР). Эти векторы неколлинеарны и перпендикулярны вектору нормали п = (а1г а2,..., а у,..., аР), а следовательно, определяют двумерную плоскость проецирования. Но векторы е 1 и е2, во-первых, не единичны, а во-вторых, не ортогональны друг другу. Ортогональные орты задаются следующим образом:
.. - - е1 в1 1-й орт: д = =
2-й орт: V = у, где у = в2 - < ■ Д, а < = в2 ■ Д.
Теперь, имея единичные взаимоперпендикулярные векторы Д и V, можно задать искомую двумерную проекционную плоскость (( в Р-мерном пространстве. А следовательно, мы получаем возможность спроецировать на ( любую точку из многомерного пространства ЯР.
Таким образом, для каждого многомерного объекта координаты точки его проекции на двумерную плоскость ((, заданную ортами Д и V, вычисляются следующим образом:
РР
Хрг = X Д ■ Х1, *рг = Л V1 ■ Х1 ■
1=1 1=1
где ХрГ и УрГ — соответственно координаты точки проекции по оси абсцисс и ординат в плоскости ((; ду и Vу —]-е составляющие Р-мерных векторов Д и V соответственно; Ху — ]-й параметр многомерного объекта; Р — число параметров (измерений пространства характеристик). Такого рода координаты и берутся за основу для проецирования всего многомерного облака точек.
Таким образом, если изучается множество объектов, то их можно представить в виде облака Т точек в многомерном пространстве параметров Я (признаков). Конфигурация такого облака несет обширную информацию о наблюдаемых объектах. Форма этого многомерного облака характеризует многомерные связи между различными параметрами для однотипных объектов. Эти связи выражаются в виде многомерных фигур, направление касательных к ним указывает характер и силу статистических связей.
Если исходные объекты разбиваются на различные кластеры (возможно, разные классы), то это отразится на виде многомерного образа как его разбиение на причудливое семейство облаков. Самым важным в описанной схеме является возможность генерации зрительного образа многомерного облака данных, ибо человек не в состоянии, просматривая многомерные таблицы данных, видеть эти многомерные образы. Для этого и были предложены алгоритмы и программы, осуществляющие проецирование этого облака на двумерную гиперплоскость ( , совпадающую с плоскостью экрана дисплея.
Организация проецирования на плоскость (( состоит в том, что строится система координат, привязанная к этой плоскости. Величина Ь задает проекцию радиус-вектора М ]-точки облака Т на ((. Изменение положения плоскости (( осуществляется через изменение направляющих косинусов а.
Таким образом, можно рассматривать на экране проекцию многомерного облака с любого возможного направления в многомерном пространстве признаков. Более того, можно привести его в циклическое вращательное движение.
Суть когнитивного эффекта состоит в том, что человек воспринимает движущуюся плоскую проекцию как псевдотрехмерный объект, характеризующий многомерный образ в многомерном пространстве. Учитывая тот факт, что пользователь может легко из-
менять направление проецирования, его эмоциональные возможности могут быть легко задействованы для формирования когнитивного многомерного образа. Предварительное масштабирование признаков по осям с помощью порядковых статистик обеспечивает достоверность и робастность этого образа.
Описанное выше проецирование позволяет наблюдать внешние геометрические (и, следовательно, статистические) свойства многомерного образа, но, однако, пользователь нуждается в изучении внутренней структуры многомерного образа. Здесь есть возможность задавать движущиеся в многомерном пространстве гиперплоскости, которые отсекают необходимый участок многомерного пространства. Можно говорить о методах прямой томографии многомерных образов.
После всестороннего качественного изучения зрительных аспектов многомерного образа с помощью перечисленных алгоритмов возникает возможность, используя алгоритмы стандартной машинной графики, раскрасить интересующие пользователя отдельные объекты или группы объектов. Затем можно снова вернуться к динамическому режиму вращения образа с целью проверки интуитивных представлений пользователя о кластерах и связях в многомерных данных.
3. ПРИМЕР ИСПОЛЬЗОВАНИЯ СРЕДСТВ КОГНИТИВНОЙ ВИЗУАЛИЗАЦИИ КАК МЕХАНИЗМА ОБЪЯСНЕНИЙ (ИД!)
В данной работе используются материалы по конкретной задаче логистического мониторинга клиентов одного из подразделений Газпрома. Данные представлены в виде таблицы Excel (рис. 1).
^ *Без имени2 [Наборданных!] - Редактор данных IBM SPSS Statistics
|файл Правка Вид Данные Преобразовать Анализ Прямой маркетинг Графика Сервис Окно Справка
аы® т Мй a fflLsi Sfi ВЭ ШЪШ
показано 7 переменных из 7
V1 Количествопози ций Заявл еновзаку пкут Законтрактовано! Оплаченот Отгруженот Неотгруженот пер
1 СГС ООО (ИНН 6317111261) 6340 22306,0050660000 22305,8500660000 17488,2713246361 17442,9517405901 4863,05332541002 п
2 ТМК ГАО 157 23859,4060000000 23859,4060000000 21257,2080000000 21097,2350000000 2762,17100000000
3 ГАЗПРОМ СТРОИТЭК ООО 350S 2139,58016800000 2132,57886800000 1240,40807921200 1312,67902000000 826,901148000001
4 НТЗ ТЭМ-ПО АО 135 3098,25900000000 3098,25900000000 2403,65300000000 2403,65300000000 694,606000000000
5 ТГК-ЕКАТЕРИНБУРГ АО 173 746,854000000000 745,854000000000 318,422000000000 318,378000000000 428,476000000000
6 АНТ-ИНЖИНИРИНГ ООО 2641 2687,26354200001 2687,26354200001 2328,45438700001 2340,90354200001 346,360000000000
7 АМИРА АО 88 426,061512000000 425,061612000000 271,262581000000 271,262581000000 154,799031000000
S ЭЛСИ СТАЛЬКОНСТРУКЦИЯ ЗАО 58 132,025750000000 132,025750000000 2,247070000000 ,607000000000 131,418750000000
9 ТГ ООО 27 336,573000000000 335,573000000000 0Е-12 212,046000000000 124,527000000000
10 СТК ГОДЖИСТИКС ООО 51 125,561887000000 125,561887000000 2,281814000000 2,281814000000 123,280073000000
11 ГКС ООО НПФ 5 122,780000000000 122,780000000000 16,140000000000 0Е-12 122,780000000000
12 ГАЗСНАБИНВЕСТ ООО 2442 1787,76065800000 1787,76065800000 1678,81754800000 1678,81754800000 108,943110000000
13 ЭНЕРГОМАШ АО 18 161,132000000000 161,132000000000 96,682976000000 66,316400000000 94,815600000000
14 СТРОИППАТФОРМА ООО 973 315,842142000000 315,842142000000 264,757518000000 255,597417000000 60,244725000000
15 ТК ЦЕНТРОСТРОЙ СЕВЕР ООО 833 605,764582000000 605,764581999999 525,937414972672 547,904116000000 57,860466000000
16 ЭЛЕМЕНТ ОСНОВАНИЯ ООО 57 135,991100000000 135,991100000000 135,991100000000 85,134000000000 50,857100000000
17 БМЗАО 543 26369,0380000000 26369,0380000000 26344,0380000000 26319,2110000000 49,827000000000
16 БЕГЭНЕРГОМАШ-БЗЭМ ООО 856 217,551384000000 217,551384000000 192,961764000000 192,381864000000 25,169520000000
19 КЗЭМИ АО 657 164,699330000000 164,699330000000 142,553864000000 142,553864000000 22,145466000000
20 АСМ КОМПЛЕКТ ООО 1670 1136,21956300000 Изб,21956300000 1136,21956300000 1115,59406300000 20,625500000000
21 ТД ТМК АО 94 269,446000000000 269,446000000000 264,032000000000 250,453000000000 18,993000000000
22 ГТС-ЭНЕРГО ООО 12 21,329200000000 21,329200000000 3,415200000000 3,415200000000 17,914000000000
23 ПКТБА ЗАО 7 15,655000000000 15,655000000000 0Е-12 0Е-12 15,655000000000
24 ГАС ЗНАК ООО 317 70,803848000000 70,803848000000 70,803848000000 56,499150000000 14,304698000000
25 БАШМЕТАГЛСЕРВИС ЗАО 158 54,497360000000 54,497360000000 40,288410000000 40,288410000000^14,208950000000
26 Газпром автоматизация ПАО 53 62,444200000000 62,444200000000 50,916065000000 50,544200000000* 11,900000000000
27 КТЦ МЕТАЛЛОКОНСТРУКЦИЯ АО 10 25,901000000000 25,901000000000 23,748000000000 15,250000000000* 10,651000000000
28 КСТ ЭНЕРГО ИНЖИНИРИНГ ООО 380 13.129127000000 13,129127000000 12,955619000000 2,955619000000| 10,173508000000
Рис. 1. Совокупность к^иито^ их характеристик
Эта данные были подвергнуты статистическому анализу в рамках среды SPSS. Использовались процедуры многомерного регрессионного анализа: нелинейная регрессия и многослойный перцептрон (нейронная сеть). Средствами когнитивной визуализации SW генерировались когнитивные образы для демонстрации объясняющего эффекта результатов анализа SPSS. Примеры оценок и принятия решений средствами SPSS представлены на рис. 2, 3 и в таблице 1.
Таблица 1. Корреляции
Количество Законтрактовано, Оплачено, Отгружено,
позиций т т т
Корреляция Количество позиций 1,000 0,138 0,947 1,000
Пирсона Законтрактовано, т 0,138 1,000 0,133 0,137
Оплачено, т 0,947 0,133 1,000 0,936
Отгружено, т 1,000 0,137 0,936 1,000
Знч. Количество позиций 0,018 0,000 0,000
(1-сторонняя) Законтрактовано, т 0,018 0,022 0,018
Оплачено, т 0,000 0,022 0,000
Отгружено, т 0,000 0,018 0,000
N Количество позиций 232 232 232 232
Законтрактовано, т 232 232 232 232
Оплачено, т 232 232 232 232
Отгружено, т 232 232 232 232
100000-
о
8000060000" 40000" 20000"
о
о ©
о- о о
-1-1-1-1-1-
-25 000 0 25 000 50 000 75 000
Регрессия Удаленный (Press) Остаток
Рис. 2. Регрессионная зависимость количества позиций и оплаты заказов как проекция из многомерного пространства характеристик клиентов
Рис. 3. Результата работы перцептрона для принятия решений о характеристиках клиентов
В качестве объясняющего инструмента была использована программа конгнитивной визуализации БШ. Пример результатов использования этой программы показан на рис. 4.
Файл Навигация Параметры Группы Установки Вид
т «I1» ±1
Ранжирование-
0 Количество позиций 0 Заявлено в закупку, т 0 Законтрактовано, т 0 Оплачено, т
Отгружено, т_
Рис. 4. Когнитивный образ многомерных данных о характеристиках клиентов в проекции «количество заказов — оплаченность заказов»
Как видно из рис. 4, инструмент SW генерирует когнитивный образ многомерных зависимостей характеристик клиентов в проекции на плоскость «количество позиций — оплаченность заказов», что визуально подтверждает (объясняет) результирующую зависимость, полученную средствами SPSS.
4. ЗАКЛЮЧЕНИЕ
Практический опыт использования идей когнитивности показал возможность делать конкретные выводы о классификации отдельных клиентов логистического процесса на основе ИИ и дать объясняющий эффект средствами когнитивной визуализации.
Предлагаемые методы и средства когнитивной визуализации многомерных данных мониторинга могут быть использованы для объясняющего эффекта результатов объективных решений ИИ.
Когнитивные инструменты в сочетании с алгоритмами ИИ могут быть эффективно использованы при построении программного обеспечения мониторинга логистических процессов в газонефтяной сфере.
Список литературы
1. The United Kingdom Offshore Oil and Gas Industry Association (Oil and Gas UK) // Accident atistics for Offshore Units on the UKCS 1990-2007, 2009. URL: http://www.oilandgasuk.co.uk/cmsfiles/modules/ publications/pdfs/EC024.pdf (дата обращения: 22.06.2023).
2. Горохов В. Л., Цаплин В. В. Информационно-коммуникационные технологии в ВУЗе, ключевые принципы / Под ред. Дацюк Т. А. // Материалы 1-й Региональной конференции. СПБ.: СПБГАСУ. 2012. 109 c.
3. АверкинА. Н., Ярушев С. А. Обзор исследований в области разработки методов извлечения правил из искусственных нейронных сетей // Известия РАН. Теория и системы управления. 2021. № 6. C. 106-121.
4. Горохов В. Л., Муравьев И. П. Когнитивная машинная графика динамических проекций и ро-бастная сегментация многомерных данных. Методология, методики и интерфейсы. Монография. СПб.: Издательство ИНЖЭКОН. 2007.173 с.
5. ЗенкинА. А. Когнитивная машинная графика / Под ред. Д. А. Поспелова. М.: Наука 1991.187 с.
6. Gorokhov V, Vitkovskiy V Cognitive Imaging in Visual Data-Driven Decision-Support Systems // Astronomical Data Analysis Software and Systems (ADASS) XIX, Sapporo, Japan, 4-8 October 2009. 2010. P. 171-175.
7. Vitkovskiy V, Gorohov V, Komarinskiy S. 'Cognitive 6-D imaginig in visual data-driven decision-support systems //Astronomical Data Analysis Software and Systems (ADASS) XIX, Sapporo, Japan, 4-8 October 2009. 2010. P. 449-452.
8. Горохов В.Л., АдмакинМ.Ю., Степанов В. Ю., Журавлев А. А. Опыт 3-D представления когнитивных образов динамического проецирования многомерных данных // Мягкие измерения и вычисления. 2019. № 8(21). C. 42-50.
Поступила в редакцию 01.06.2023, окончательный вариант — 22.06.2023.
Горохов Владимир Леонидович, доктор технических наук, профессор кафедры инновационного менеджмента СПбГЭТУ «ЛЭТИ», И vlgorokhov@etu.ru
Брусакова Ирина Александровна, доктор технических наук, зав. кафедрой инновационного менеджмента СПбГЭТУ «ЛЭТИ», brusakova@gmail.com
Кожухов Станислав Олегович, аспирант кафедры Инженерной защиты окружающей среды СПбГЭТУ «ЛЭТИ», koguhov@gmail.com
Computer tools in education, 2023
№ 2: 30-40
http://cte.eltech.ru
doi:10.32603/2071-2340-2032-2-30-40
Cognitive Tools of Explanatory Artificial Intelligence for Problems of Transport and Educational Logistics
GorokhovV. L.1, Doctor sc., Professor, Elvlgorokhov@etu.ru Brusakova I. A.1, Doctor sc., Professor, brusakova@gmail.com KozhukhovS. O.1, Postgraduate, koguhov@gmail.com
1 Saint Petersburg Electrotechnical University, 5, building 3, st. Professora Popova, 197022, Saint Petersburg, Russia
Abstract
In anticipation of the transition to digital logistics systems, there is an exponential growth in the use of artificial intelligence systems. This growth is most noticeable in the area of logistics process analysis. However, with the complication of algorithms, the user's ability to control decision-making in logistics is significantly reduced, which affects the credibility of the result, which is critical in logistics. The use of explanatory artificial intelligence methods is called upon to increase transparency in the operation of artificial intelligence (AI) systems in the analysis of logistical phenomena. Our study presents one of the cognitive tools in the spectrum of explanatory artificial intelligence methods for analyzing logistics processes, and also considers potentially promising approaches to improving this technology. However, despite the fact that artificial intelligence technologies have great potential, the complication of these systems affects the credibility of the technology. This is especially noticeable in areas where technosphere and logistical security depends on the correctness of the decision. The way out of this difficult situation is the use of explanatory artificial intelligence (explainable Artificial Intelligence (XAI)). In this work, as such an explanatory technology, we propose cognitive dynamic SW prediction.
Keywords: artificial intelligence, explanatory artificial intelligence, explainability, neural networks, artificial neural networks, logistics.
Citation: V. L. Gorokhov, I. A. Brusakova, and S. O. Kozhukhov, "Cognitive Tools of Explanatory Artificial Intelligence for Problems of Transport and Educational Logistics," Computer tools in education, no. 2, pp. 30-40, 2023 (in Russian);doi:10.32603/2071-2340-2023-2-30-40
References
1. The United Kingdom Offshore Oil and Gas Industry Association (Oil and Gas UK), "Accident atistics for Offshore Units on the UKCS 1990-2007," in www.oilandgasuk.co.uk, 2009. [Online]. Avilable: http: //www.oilandgasuk.co.uk/cmsfiles/modules/publications/pdfs/EC024.pdf
2. V. L. Gorokhov and V. V. Tsaplin, "Information and communication technologies at the university, key principles," T. A. Datsyuk ed., in Materials of the 1st Regional Conference, Saint Petersburg, Russia: SPbGASU, 2012 (in Russian).
3. A. N. Averkin and S. A. Yarushev, "Review of research in the development of methods for extracting rules from artificial neural networks," Izvestiya RAN. Theory and Control Systems, no. 6, pp. 106-121, 2021 (in Russian); doi:10.31857/S0002338821060044
4. V. L. Gorokhov and I. P. Muravyov, Cognitive machine graphics. dynamic projections and robust segmentation of multidimensional data. Methodology, methods and interfaces, [Monograph], Saint Petersburg: INGECON Publishing House, 2007 (in Russian).
5. A. A. Zenkin, Cognitive computer graphics, D. A. Pospelov, Moscow: Nauka, 1991 (in Russian).
6. V. Gorokhov and V. Vitkovskiy, "Cognitive Imaging in Visual Data-Driven Decision-Support Systems," in Astronomical Data Analysis Software and Systems (ADASS) XIX, Sapporo, Japan, 4-8 October 2009, pp. 171-175, 2010.
7. V. Vitkovskiy, V. Gorohov, and S. Komarinskiy, "Cognitive 6-D imaginig in visual data-driven decision-support systems," in Astronomical Data Analysis Software and Systems (ADASS) XIX, Sapporo, Japan, 4-8 October 2009, pp. 449-452, 2010.
8. V. L. Gorokhov, M. Yu. Admakin, V. Yu. Stepanov, and A. A. Zhuravlev, "Experience in 3-D representation of cognitive images of dynamic projection of multidimensional data," Soft measurements and computing, no. 8(21), pp. 42-50, 2019 (in Russian).
Received 01-06-2023, the final version — 22-06-2023.
Vladimir Gorokhov, Doctor of Sciences (Tech.), Professor of the Department of Innovation Management, Saint Petersburg Electrotechnical University, EZvlgorokhov@etu.ru
Irina Brusakova, Doctor of Sciences (Tech.), Head of Department of Innovation Management, Saint Petersburg Electrotechnical University, brusakova@gmail.com
Stanislav Kozhukhov, Postgraduate, Department of Engineering Protection of the Environment, St. Petersburg Electrotechnical University, koguhov@gmail.com
