Научная статья на тему 'Оценка графических пользовательских интерфейсов посредством алгоритма поиска последовательных шаблонов'

Оценка графических пользовательских интерфейсов посредством алгоритма поиска последовательных шаблонов Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
141
20
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
АНАЛИЗ АССОЦИАТИВНЫХ ПРАВИЛ / ПОСЛЕДОВАТЕЛЬНЫЕ ШАБЛОНЫ / ОЦЕНКА ГРАФИЧЕСКОГО ПОЛЬЗОВАТЕЛЬСКОГО ИНТЕРФЕЙСА / ANALYSIS OF ASSOCIATIVE RULES / SEQUENTIAL TEMPLATES / EVALUATION OF THE GRAPHICAL USER INTERFACE

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Терёхин С.Н., Вострых А.В., Семёнов А.В.

Представлен формальный подход проведения оценки программных продуктов, используемых в структуре МЧС России, который позволяет как сравнивать программы между собой по выбранным критериям, так и находить уязвимые места в интерфейсах, отрицательно влияющих на результаты работы программ.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ESTIMATION OF GUI USING SEQUENTIAL PATTERN SEARCH ALGORITHMS

The article presents a formal approach to evaluating software products used in the structure of the EMERCOM of Russia, which allows both comparing programs with each other according to the selected criteria, and finding vulnerabilities in the interfaces that negatively affect the results of programs.

Текст научной работы на тему «Оценка графических пользовательских интерфейсов посредством алгоритма поиска последовательных шаблонов»

ОЦЕНКА ГРАФИЧЕСКИХ ПОЛЬЗОВАТЕЛЬСКИХ ИНТЕРФЕЙСОВ ПОСРЕДСТВОМ АЛГОРИТМА ПОИСКА ПОСЛЕДОВАТЕЛЬНЫХ ШАБЛОНОВ

С.Н. Терёхин, доктор технических наук, доцент; А.В. Вострых; А.В. Семёнов.

Санкт-Петербургский университет ГПС МЧС России

Представлен формальный подход проведения оценки программных продуктов, используемых в структуре МЧС России, который позволяет как сравнивать программы между собой по выбранным критериям, так и находить уязвимые места в интерфейсах, отрицательно влияющих на результаты работы программ.

Ключевые слова: анализ ассоциативных правил, последовательные шаблоны, оценка графического пользовательского интерфейса

ESTIMATION OF GUI USING SEQUENTIAL PATTERN SEARCH ALGORITHMS

S.N. Terekhin; A.V. Vostrykh; A.V. Semenov.

Saint-Petersburg university of State fire service of EMERCOM of Russia

The article presents a formal approach to evaluating software products used in the structure of the EMERCOM of Russia, which allows both comparing programs with each other according to the selected criteria, and finding vulnerabilities in the interfaces that negatively affect the results of programs.

Keywords: analysis of associative rules, sequential templates, evaluation of the graphical user interface

Сегодня, в ситуации стремительного и бурного развития общества и инфраструктуры МЧС России нуждается в правильном выборе программных продуктов (1111) и внедрении новых информационных технологий, способствующих более качественному анализу, лучшему мониторингу и более оперативному реагированию на любые чрезвычайные ситуации (ЧС) [1, 2]. Проблема выбора наиболее подходящего для работы сотрудников министерства программного обеспечения является крайне важной, так как от качества 11 , и в частности графических пользовательских интерфейсов (ГПИ), зависят показатели работы специалистов (скорость работы, количество ошибок, степень сохранения навыков оперирования ГПИ, субъективная удовлетворённость) [3, 4]. В настоящее время рынок программного обеспечения пестрит многообразием ПП, отличающихся количеством функций, инструментарием, дизайном и т.д. Разработанный алгоритм и модель оценки ПП и их ГПИ позволят проводить оценку ГПИ на качественно новом уровне, основываясь на математических расчётах и проверенных временем теориях.

В статье раскрыт метод оценки ПП и их ГПИ, основанный на анализе действий пользователей ПП посредством выявления идентичных последовательностей элементарных манипуляций в интерфейсах. Как показывает практика и теория, часто повторяющиеся последовательности действий пользователей свидетельствуют о наличии определённых проблем, возникающих у них при взаимодействии с ГПИ [5]. Использование таких дисциплин, как анализ ассоциативных правил и теория последовательных шаблонов,

позволяют проводить оценку качества ГПИ, выявляя такие повторяющиеся последовательности и проверяя при этом удобство использования ГПИ, эффективность, удовлетворённость взаимодействия с ним, а также отказоустойчивость и различного рода уязвимости ГПИ, приводящие к ошибкам.

Анализ проблем пользователей с ПП показал, что чаще всего пользователь сталкивается со сложностью принятия решений и получением обратной связи от системы [6]. Приведём примеры типовых шаблонов, которые могут применяться для анализа:

- «мгновенная отмена действия» (сразу после выполнения операции она отменяется пользователем);

- «количество действий отмены» (подсчёт и анализ частоты использования команды «отмена»);

- «вызовов онлайн-справки» (подсчёт частоты вызовов справки);

- «повторение действий» (частое повторение одних и тех же действий через незначительный период времени, низкая отзывчивость ГПИ;

- «частое открытие-закрытие выпадающих списков» (многократное нажатие одного и того же элемента управления).

Так, например, для сотрудников государственного пожарного надзора МЧС России, использующих программы для расчётов рисков на объектах защиты, приоритетным параметром ГПИ является отсутствие ошибок, возникающих как по причине «человеческого фактора», так и программные. Использование шаблонов «мгновенная отмена действия», «количество действий отмены» и других позволит проводить анализ на наличие в ГПИ сбоев и ошибок.

Результатом работы метода оценки ГПИ с помощью последовательных шаблонов должны стать рекомендации по снижению количества таких шаблонов в новых версиях ПП или выборе программ с минимальным наличием таких шаблонов. Это благоприятно скажется на основных критериях качества ГПИ и снизит все виды нагрузок на пользователей.

Разработанный метод оценки ГПИ будет состоять из двух этапов.

На первом этапе анализируются отдельные пользователи, а именно выявляются их повторяющиеся шаблоны действий.

Так как индивидуальные шаблоны ещё не говорят о проблемах с ГПИ в силу специфики индивидуальных особенностей личности (например, уровня образования, уровня внимания, собранности, физиологии тела), то на втором этапе найденные индивидуальные шаблоны сравниваются между собой на наличие «массового» сходства с помощью алгоритма AprioriAll.

Для формализации метода необходимо ввести следующие понятия:

Элементарным действием пользователя является некоторая манипуляция с ГПИ посредством устройств «ввода» (клавиатура, мышь). Пример: клик левой клавиши мыши, использование горячих клавиш «Ctrl+Z», нажатие на инструмент интерфейса «выравнивание по ширине» и т.д. Элементарное действие включает в себя уникальный набор атрибутов: идентификатор пользователя, дата/время действия, устройство, тип.

Обозначим множество элементарных действий: Е l = { е l1,......, е lm+, {eli}, гд е

- отдельное элементарное действие; m - мощность множества .

Временя, в течение которого элементарные действия пользователя хранятся и накапливаются в хронологическом порядке, будем называть транзакцией.

Tr = { tr ,......, trn}, {tri}, гд е i = 1, п - отдельная транзакция; n - мощность транзакции Тг.

Необходимо отметить, что любое элементарное действие пользователя принадлежит хотя бы одной транзакции: Последовательность элементарных

действий пользователя (упорядоченный набор действий с повторениями) заключается в треугольные скобки. Обозначив элементарные действия целыми числами, последовательность примет вид: ( 3,4,1, 5,2,4, 5,1,6, 3, 54, 32, 2,4).

С целью проведения детального анализа и концентрации внимания на определённой области ГПИ все элементарные действия пользователя будут проходить этап «фильтрации», который заключается в отборе действий по определённым критериям, например, области интерфейса (правая колонка инструментов, главное меню, рабочая область и т.д.).

Обозначим K множество всех критериев элементарных действий: К = * к 1,......, kJ,

где {к}, i = l,h - отдельная отфильтрованная транзакция; h - мощность множества критериев K. Введём оператор фильтрации:

в{Е0( К, Е1 i) = {{Е1J G * tri}А 3 * кJ: е 1i с кi | V i G N*}.

Так при наличии транзакции, состоящий из следующих элементарных действий: <клик левой клавиши мыши (A), основной инструмент (A), клик левой клавиши мыши (D), команда (B), клик правой клавиши мыши (B), вспомогательный инструмент (B), клик левой клавиши мыши (A), основной инструмент (C), команда A, команда C>, получим следующую последовательность <1, 1, 4, 2, 2, 2, 1, 3, 1, 3>. Пример работы оператора фильтрации может иметь следующие условия:

A, если использован 1 критерий

B, если использован 2 критерий

C, если использован 3 критерий D другие варианты 4.

Проведём фильтрацию исходной последовательности по критериям A и B. Получим следующую последовательность <1, 1, 2, 2, 2, 1, 1>. Так для анализа специализированных ПП оценки пожарного риска эксперт по оценке интерфейса может выставить фильтр на поиск таких шаблонов, как: «мгновенная отмена действия», «количество действий отмены», «повторение действий», «использование клавиш Esc, Ctrl+Z, кнопок отмены или возврата на шаг назад» для оценки количества ошибок и отказоустойчивости ГПИ.

Повторения нескольких элементарных действий будем называть шаблоном.

5 = { е 1 ij,......,е 1 ij], {elij}, i = l,p , j = l,n el - отдельное элементарное действие

i-го шаблона. Количество вхождений в транзакцию tr шаблона S обозначим X. Так в периоде <13254213294132> количество вхождений в шаблон <132> будет равно 3. Поддержку шаблона обозначим ц. Рассчитывать данную величину будем по формуле:

x*is V=TJL,

lpr

где X - количество вхождений; ls - длина шаблона; lpr - длина периода.

Результаты вычислений X и щ предполагаемых шаблонов в транзакции <3, 7, 8, 2, 4, 3, 7, 8, 2, 4> представлены в табл. 1.

Таблица 1. Результаты вычислений поддержки и количества вхождений

№ п/п s X П

1 <3, 7> 2 0,2

2 <3, 7, 8> 2 0,6

3 <3, 7, 8, 2> 2 0,8

4 <3, 7, 8, 2, 4> 2 1

5 <7, 8, 2, 4, 3> 1 0,5

Шаблон 84 имеет ц=1, это значит, что он целиком составляет период (полностью определяя взаимодействие пользователя с ГПИ), поэтому будет подвержен более детальному анализу специалистов проектирования взаимодействия.

в {Е i}( К,Е I д =

Для оценки качества ГПИ необходимо рассчитать затраченные ресурсы пользователя относительно выбранных шаблонов. Однако шаблоны не содержат информации о затрачиваемом времени на реализацию транзакций. Для преобразования шаблонов во временные интервалы введём оператор в ¿?0№5, который определяется с помощью модели GOMS [7]:

в«™5 = (ЩК) - *С0М5| {Я/} ф 0}.

Модель GOMS разбивает взаимодействие пользователя с ГПИ на атомарные действия. На основе полученных усредненных лабораторных данных модель GOMS имеет числовые характеристики таких переменных, как нажатие на клавишу, указание курсором мыши на объект, нажатие или отпускание мыши, выбор действия, перемещение руки в исходное положение на клавиатуре, которые определены для трех категорий пользователей (начинающий, средний сегмент, эксперт). Скорость решения задач оценивается с помощью суммы значений каждого элементарного действия пользователя. Затраченное пользователем время на выполнение одного шаблона равно сумме его элементарных действий и произведению полученной суммы на количество вхождений:

Ь п

ф ) = е / .

¿=1 /=1

где - временные затраты пользователя на выполнение шаблона; ¡з - длина шаблона; е / I £ 5е I - отдельное элементарное действие пользователя в шаблоне; X - количество вхождений в шаблон.

После того как получены возможные «проблемные» шаблоны отдельных пользователей, алгоритм переходит ко второму этапу сравнения и анализа полученных шаблонов для выявления связей между отдельными участками ГПИ и множеством пользователей.

Одной из основных проблем поиска таких шаблонов является необходимость обработки большого количества транзакций, каждая из которых содержит множество элементарных действий пользователей. Решением данной проблемы является использование одного из алгоритмов поиска ассоциативных правил. Однако данные правила имеют ряд ограничений, которые не позволяют в должной мере охватить некоторые аспекты анализа [8]:

- правила не учитывают последовательность производимых элементарных действий пользователей и динамику их произведения;

- правила не являются ориентированными на пользователей, поскольку не связывают транзакции с определенным пользователем.

Для исключения выявленных недостатков используются последовательные шаблоны. Теория последовательных шаблонов является логическим усложнением задач поиска ассоциативных правил и является их расширением. Для поиска последовательных шаблонов широко используется адаптированный алгоритм Арной и его модификации [9]. Преимуществом данных алгоритмов от анализа ассоциативных правил является учёт не только факта совершения элементарного действия пользователями, но и анализ последовательности выполнения этих элементарных действий.

Для проведения расчётов будем использовать алгоритм АрпопАП [9]. Хотя он и использует больше вычислительных ресурсов, но в отличие от остальных алгоритмов он анализирует все немаксимальные последовательности, то есть не пропускает некоторые последовательности определённой длины, как AprioriSome, Бупат^оте.

Для проведения анализа введём некоторые обозначения и исходные данные: клик левой клавиши мыши - 1, кнопка отмены - 2, инструмент А - 3, инструмент В - 4, горячая клавиша «Б» - 5, сочетание клавиш «Сп1х+2» - 6.

Из исходных элементарных действий создадим базу данных пользователей в уменьшенном масштабе, табл. 2.

Таблица 2. База данных элементарных действий пользователей

ID пользователя Дата транзакции Идентификатор элементарных действий пользователя

1 22.06.2020 1,2

2 24.06.2020 1,3

4 25.06.2020 3,1

3 27.06.2020 1,3

3 28.06.2020 4,5

1 28.06.2020 3,4

4 04.07.2020 5,4

2 05.07.2020 4,5

6 07.07.2020 1,3

6 08.07.2020 5,4

5 08.07.2020 1,2

5 09.07.2020 3,5,4

Приступим к выполнению алгоритма АрпопАП с «фазы сортировки», заключающейся в расстановке транзакций по идентификатору пользователя и по дате произведённого этим пользователем действия, табл. 3.

Таблица 3. Пользовательские последовательности

ID пользователя Пользовательские последовательности

1 <(1,2); (3,4)>

2 <(1,3); (4,5)>

3 <(1,3); (4,5)>)>

4 <(3,1); (5,4)>

5 <(1,2); (3,5,4)>

6 <(1,3); (5,4); >

В примере в круглые скобки заключаются предметные наборы (непустая последовательность элементарных действий пользователя, появившихся в одной транзакции). В треугольные - последовательности (упорядоченные списки предметных наборов).

Последовательность является максимальной, если она не содержится в любой другой последовательности. Последовательность является поддерживаемой пользователем, если она содержится в последовательности данного пользователя. Поддержка последовательности определяется числом пользователей, поддерживающих данную последовательность. Поддержка единичного элементарного действия А вычисляется по формуле:

^ (A> = i&

где Sup (А> - поддержка элементарного действия A; V(A> - частота появления в транзакциях действия А; п(Тг> - общее число транзакций.

Поддержка нескольких элементарных действий, например А, B, вычисляется по аналогичной формуле:

Sup М-О^

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Задача поиска последовательных шаблонов заключается в обнаружении максимальных последовательностей среди всех последовательностей, имеющих поддержку выше заданного порога. Последовательности, удовлетворяющие ограничению минимальной поддержки, являются частыми.

Перейдём к «фазе отбора кандидатов» - в исходном наборе данных производится поиск последовательностей в соответствии со значением минимальной поддержки. Значение минимальной поддержки установим в 35 %. Каждой отобранной последовательности присвоим уникальный идентификатор для упрощения представления данных. В результате получим следующие последовательности, табл. 4.

Таблица 4. Отобранные пользовательские последовательности

Последовательность Идентификатор последовательности

(1,2) 1

(1,3) 2

(4,5) 3

(5,4) 4

В «фазе трансформации» происходит многократное вычисление на подтверждение присутствия последовательности в транзакциях пользователей. Так как последовательность может быть достаточно большой, заменим каждую транзакцию на номер идентификатора последовательности. База данных преобразованных последовательностей приведена в табл. 5.

Таблица 5. База данных преобразованных последовательностей

ГО Пользовательские Отобранные Преобразованные

пользователя последовательности последовательности последовательности

1 <(1,2); (3,4)> <(1,2)> <{1}>

2 <(1,3); (4,5)> <(1,3); (4,5)> <{2};{3}>

3 <(1,3); (4,5)>)> <(1,3); (4,5)>)> <{2};{3}>

4 <(3,1); (5,4)> <(5,4)> <{4}>

5 <(1,2); (3,5,4)> <(1,2); (5,4)> <{1};{4}>

6 <(1,3); (5,4); > <(1,3); (5,4); > <{2};{3}>

Для более детальной демонстрации алгоритма преобразуем полученные последовательности в табл. 5 в более длинные последовательности, табл. 6.

Таблица 6. База данных преобразованных последовательностей

ГО пользователя Пользовательские последовательности

1 <{1}{2}{3}{4}>

2 <{1}{3}{5}>

3 <{1,5}{2}{3}{4}>

4 <{4}{5}>

5 <{1}{3}{4}{3,5}>

Поставим значение минимальной поддержки в 40 % для получения и сравнения результатов как минимум у двух пользователей. Далее перейдём в «фазу генерации последовательностей», где из 1 -элементных последовательностей генерируются 2-элементные с подсчётом минимальной поддержки. В таблицу записываются только те последовательности, которые удовлетворяют условию минимальной поддержки, табл. 7.

По такому же принципу далее сгенерируем 3 и 4-элементные последовательности. На пятом шаге алгоритм заканчивается, так как сформировать 5-элементные последовательности не представляется возможным. Итогом работы алгоритма станет получение трёх последовательностей, удовлетворяющих минимальной поддержке в 40 %, и не входящие в более длинные последовательности: <1 2 3 4>, <1 3 5> и <4 5>.

Таблица 7. Отбора кандидатов п-элементных последовательностей

1 последовательность поддержка 2 последовательность поддержка 3 последовательность поддержка 4 последовательность поддержка

<1> 4 <1 2> 2 <1 2 3> 2 <1 2 3 4> 2

<2> 2 <1 3> 4 <1 2 4> 2

<3> 4 <1 4> 3 <1 3 4> 3

<4> 4 <1 5> 3 <1 3 5> 2

<5> 4 <2 3> 2 <2 3 4> 2

<2 4> 2

<3 4> 3

<3 5> 2

<4 5> 2

Обозначим множество полученных шаблонов, подтверждённых несколькими

пользователями С = { сг,......, сй}, {01},/ = 1, Ъ - отдельный подтверждённый шаблон,

Ь - мощность множества критериев С.

Таким образом, математическую модель оценки качества логики взаимодействия с ГПИ можно описать следующим образом:

М ас£ = < ЕI, К, в[Ег}( К, ЕI¿), Тг , 5, С , ], ^ б ) >.

Применение разработанного метода оценки ГПИ позволит специалистам проектирования интерфейсов выявлять недостатки ГПИ в отношении приоритетных направлений качества (скорость работы, количество ошибок, отзывчивость интерфейса и т.д.) и определённой области интерфейса (рабочая область, главное меню, панель инструментов) за счёт использования фильтрации элементарных действий пользователей. Двухуровневая оценка позволит находить как индивидуальные проблемы пользователей в ГПИ, так и подтверждать их достоверность через «массовость», находя схожие проблемы у других пользователей. Схема алгоритма представлена на рисунке.

Рис. Схема алгоритма оценки качества логики взаимодействия с ГПИ

В результате работы алгоритма вычисляется множество индивидуальных повторяющихся шаблонов }, множество повторяющихся шаблонов среди группы пользователей }, затраченное время на выполнение шаблона Гипотетически данная модель позволит проводить оценку ГПИ практически по всем известным критериям, что может свидетельствовать об универсальности данного инструмента, а его реализация в виде программного приложения позволит автоматизировать процесс, ускорив и упростив проведение оценки. Также данная модель и алгоритм может применяться в модернизации сетевых информационных ресурсов МЧС России, таких как официальный сайт МЧС России [10]. Имея статистическую информацию о наиболее часто повторяющихся последовательностях переходов по страницам, можно размещать на соответствующих страницах определённый контент или изменить структуру сайта с целью более быстрого и удобного доступа к некоторым страницам.

Литература

1. О Концепции долгосрочного социально-экономического развития Российской Федерации на период до 2020 года: Распоряжение Правительства Рос. Федерации от 17 нояб. 2008 г. № 1662-р (в ред. от 8 авг. 2009 г.). Доступ из справ.-правовой системы «КонсультантПлюс».

2. О плане мероприятий на 2018-2024 годы (I этап) по реализации Министерством Российской Федерации по делам гражданской обороны, чрезвычайным ситуациям и ликвидации последствий стихийных бедствий Основ государственной политики Российской Федерации в области защиты населения и территорий от ЧС на период до 2030 года: приказ МЧС России от 22 окт. 2018 г. № 467. Доступ из справ.-правовой системы «КонсультантПлюс».

3. Вострых А.В. Сравнительный анализ методов оценки человеко-машинных интерфейсов // Актуальные проблемы инфо-телекоммуникаций в науке и образовании. 2019: сб. науч. ст. VIII Междунар. науч.-техн. конф. 2019. С. 179-184.

4. Ахунова Д.Г., Вострых А.В. Преимущества перехода на целеориентированное проектирование интерфейсов для мобильных пользователей информационных систем: материалы V Всерос. науч.-техн. конф. с междунар. участием. «Р0СИНФ0К0М-2019». С. 5-9.

5. Balbo S., Goschnick S., Tong D., Paris C. Leading Usability Evaluations to WAUTER. Proc. 11th Australian World Wide Web Conf. (AusWeb), Gold Coast, Australia, Southern Cross Univ. 2005. pp. 279-290.

6. Данилов Н.А., Шульга Т.Э. Метод построения тепловой карты на основе точечных данных об активности пользователя приложения // Прикладная информатика. 2015. Т. 10. № 2. С. 49-58.

7. Раскин Д. Интерфейс Новые направления в проектировании компьютерных систем. Символ. СПб.-М., 2007. 257 с.

8. Piatetsky-Shapiro G. Discovery, analysis, and presentation of strong rules // Knowledge Discovery in Databases / Piatetsky-Shapiro, Gregory; and Frawley, William J. Cambridge, MA.: AAAI/MIT Press, 1991.

9. Agrawal R. Srikant R. Fast Algorithms for Mining Association Rules: In Proc. of the 20th Int'l Conference on Very Large Databases, Santiago, Chile, September 1994.

10. Буйневич М.В., Максимов А.В., Вострых А.В. Анализ результатов аудита сетевых информационных ресурсов МЧС России // Науч.-аналит. журн. «Вестник С.-Петерб. ун-та ГПС МЧС России». 2020. № 1. С. 101-110.

References

1. O Koncepcii dolgosrochnogo social'no-ekonomicheskogo razvitiya Rossijskoj Federacii na period do 2020 goda: Rasporyazhenie Pravitel'stva Ros. Federacii ot 17 noyab. 2008 g. № 1662-r (v red. ot 8 avg. 2009 g.). Dostup iz sprav.-pravovoj sistemy «Konsul'tantPlyus».

2. O plane meropriyatij na 2018-2024 gody (I etap) po realizacii Ministerstvom Rossijskoj Federacii po delam grazhdanskoj oborony, chrezvychajnym situaciyam i likvidacii posledstvij stihijnyh bedstvij Osnov gosudarstvennoj politiki Rossijskoj Federacii v oblasti zashchity naseleniya i territory ot CHS na period do 2030 goda: prikaz MCHS Rossii ot 22 okt. 2018 g. № 467. Dostup iz sprav.-pravovoj sistemy «Konsul'tantPlyus».

3. Vostryh A.V. Sravnitel'nyj analiz metodov ocenki cheloveko-mashinnyh interfejsov // Aktual'nye problemy info-telekommunikacij v nauke i obrazovanii. 2019: sb. nauch. st. VIII Mezhdunar. nauch.-tekhn. konf. 2019. S. 179-184.

4. Ahunova D.G., Vostryh A.V. Preimushchestva perekhoda na celeorientirovannoe proektirovanie interfejsov dlya mobil'nyh pol'zovatelej informacionnyh sistem: materialy V Vseros. nauch.-tekhn. konf. s mezhdunar. uchastiem. «R0SINF0K0M-2019». S. 5-9.

5. Balbo S., Goschnick S., Tong D., Paris C. Leading Usability Evaluations to WAUTER. Proc. 11th Australian World Wide Web Conf. (AusWeb), Gold Coast, Australia, Southern Cross Univ. 2005. pp. 279-290.

6. Danilov N.A., Shul'ga T.E. Metod postroeniya teplovoj karty na osnove tochechnyh dannyh ob aktivnosti pol'zovatelya prilozheniya // Prikladnaya informatika. 2015. T. 10. № 2. S. 49-58.

7. Raskin D. Interfejs Novye napravleniya v proektirovanii komp'yuternyh sistem. Simvol. SPb.-M., 2007. 257 s.

8. Piatetsky-Shapiro G. Discovery, analysis, and presentation of strong rules // Knowledge Discovery in Databases / Piatetsky-Shapiro, Gregory; and Frawley, William J. Cambridge, MA.: AAAI/MIT Press, 1991.

9. Agrawal R. Srikant R. Fast Algorithms for Mining Association Rules: In Proc. of the 20th Int'l Conference on Very Large Databases, Santiago, Chile, September 1994.

10. Bujnevich M.V., Maksimov A.V., Vostryh A.V. Analiz rezul'tatov audita setevyh informacionnyh resursov MCHS Rossii // Nauch.-analit. zhurn. «Vestnik S.-Peterb. un-ta GPS MCHS Rossii». 2020. № 1. S. 101-110.

i Надоели баннеры? Вы всегда можете отключить рекламу.