46Вестник Ивановского государственного университета. Серия: Гуманитарные науки. 2022. Вып. 1. С. 152—160.
Ivanovo State University Bulletin. Series: Humanities. 2022. Iss. 1. P. 152—160.
Научная статья УДК 1:004
DOI: 10.46726/H.2022.1.15
ЦЕННОСТНЫЕ РЕГУЛЯТИВЫ «РЕКОМЕНДАТЕЛЬНОЙ СИСТЕМЫ» В КОНТЕКСТЕ РАСПРОСТРАНЕНИЯ НЕЙРО-СЕТЕВЫХ МОДЕЛЕЙ
Светлана Анатольевна Зайцева, Вадим Анатольевич Смирнов
Шуйский филиал, Ивановский государственный университет, г. Шуя, Россия, z_a_s_rambler.ru
Аннотация. Характерной особенностью современных условий цифровой трансформации различных процессов в обществе является возникновение не только огромного массива намеренно оставляемых пользователями общедоступных данных (активный цифровой след), но и информации об их взаимодействии с различными информационно-коммуникационными системами (пассивный цифровой след). Последний вид цифрового следа, как правило, используется не для ручного анализа информации другими пользователями сети, а для ее автоматизированной обработки с использованием систем искусственного интеллекта. В центре внимания авторов нейронные сети, которые лежат в основе «рекомендательных систем». Такая система предназначена для подбора новостей, товаров и услуг, которые будут интересны пользователю, на основе анализа его прошлых действий (цифрового следа). В статье рассмотрены достоинства и недостатки использования таких систем при принятии решений. Представлен обзор публикаций, посвященных использованию рекомендательных систем в деятельности организаций. Сформулированы рекомендации для педагогов по развитию у обучающихся ответственного и обдуманного отношения к виртуальному взаимодействию друг с другом и обращения к веб-сервисам в условиях постоянного расширения сферы применения систем искусственного интеллекта.
Ключевые слова: аксиология, нейронная сеть, рекомендательная система, цифровой след, педагог, университет
Благодарности: исследование выполнено при финансовой поддержке РФФИ и ЭИСИ в рамках научного проекта № 21-011-33053.
Для цитирования: Зайцева С.А., Смирнов В.А. Ценностные регулятивы «рекомендательной системы» в контексте распространения нейро-сетевых моделей // Вестник Ивановского государственного университета. Серия: Гуманитарные науки. 2022. Вып. 1. С. 152—160.
© Зайцева С.А., Смирнов В.А., 2022
Original article
VALUE REGULATIONS OF THE "RECOMMENDATION SYSTEM" IN THE CONTEXT OF DISTRIBUTION OF NEURAL NETWORK MODELS
Svetlana A. Zaitseva, Vadim A. Smirnov
Shuya Branch, Ivanovo State University, Shuya, Russian Federation, z_a_s_rambler.ru
Abstract. A characteristic feature of the modern conditions of digital transformation of various processes in society is the emergence of not only a huge array of publicly available data intentionally left by users (active digital footprint), but also information about their interaction with various information and communication systems (passive digital footprint). The latter type of digital footprint, as a rule, is not used for manual analysis of information by other network users, but for its automated processing using artificial intelligence systems. The authors focus on neural networks, which are the basis of "recommendation systems". Such a system is designed to select news, goods and services that will be of interest to the user, based on the analysis of his past actions (digital footprint). The article discusses the advantages and disadvantages of using such systems in decision-making. The review of publications devoted to the use of recommendation systems in the activities of organizations is presented. Recommendations are formulated for teachers on the development of students' responsible and deliberate attitude to virtual interaction with each other and access to web services in the context of the constant expansion of the scope of artificial intelligence systems.
Keywords: axiology, neural network, recommendation system, digital footprint, teacher, university
Acknowledgments: the reported study was funded by RFBR and EISR according to the research project № 21-011-33053.
For citation: Zaitseva S.A., Smirnov V.A. Value regulators of the "recommender system" in the context of the spread of neural network models, Ivanovo State University Bulletin, Series: Humanities, 2022, iss. 1, pp. 152—160.
Как мы отмечали в своём предыдущем исследовании [Зайцева, Смирнов], в настоящее время все большее распространение приобретает понятие цифрового следа, связанное с накоплением в глобальной сети большого количества данных о каждом её пользователе. При этом часть данных пользователь оставляет намеренно (активный цифровой след), а часть — непроизвольно (пассивный цифровой след).
С позиции аксиологии достаточно ясна роль активного цифрового следа, поскольку он, как правило, открыт для свободного доступа. Такой цифровой след позволяет делать какие-либо суждения о человеке, взглянуть на себя со стороны (в особенности, спустя определенное время после какой-либо активности). Проектирование цифрового следа становится важной задачей, поскольку цифровая репутация пользователя с трудом поддается какому-либо контролю. В контексте данного определения было сказано о целенаправленном формировании активного цифрового следа (в том числе через создание собственного портфолио, учет публичности и общедоступности всех своих действий в социальных сетях при их совершении).
Вопросы, которые мы ставим в нашем исследовании: какую аксиологическую ценность имеет пассивный цифровой след? Как эта ценность связана с формированием личности обучающегося? Каким рекомендациям должны следовать пользователи социальной сети (в том числе, начинающие пользователи — обучающиеся) для того, чтобы избежать проблем, связанных с накоплением нежелательных (компрометирующих) данных пассивного цифрового следа информационными системами?
Важно отметить, что в отличие от страницы в социальных сетях, сайтов и форумов, данные статистики посещений и поисковых запросов не становятся общедоступными (при условии наличия у их обладателей средств информационной защиты). Поэтому, прежде чем дать ответы на заданные вопросы, мы должны определить, кому доступны эти данные и с какой целью они используются.
В настоящее время широкое распространение приобрели сайты онлайн-кинотеатров. Причины роста их популярности не только в том, что они позволяют осуществить быстрый доступ к конкретным видеозаписям. В настоящее время массив всевозможных фильмов стал слишком велик, чтобы каждый пользователь мог легко в нём ориентироваться, даже если выбирать фильм исходя из его тематики и жанра. При этом двух факторов недостаточно, чтобы определить, понравится ли пользователю просмотренный фильм. Поэтому в реальности человек, как правило, обращается за советом к коллеге или другу, которые имеют сходные с ним интересы. В онлайн-кинотеатрах виртуальным аналогом такого советчика является рекомендательная система, которая в последнее время во многих случаях основана на использовании нейронной сети).
Вслед за С.А. Исламовой, Н.В. Липатниковой под рекомендательной системой будем понимать «сервис или программу, цель которой — определение объектов, интересующих пользователей, и предоставление этих объектов» [Исламова, Липатникова: 174]. Рекомендательная система может анализировать данные пользователя об оценках фильмов, которые он им поставил. Но даже если такой оценки не будет, то современные системы будут давать рекомендации на основе его поведения (досмотрен ли фильм до конца, часто ли происходила остановка процесса проигрывания и т. д.). В большинстве случаев фильмы доступны только зарегистрированным пользователям, поскольку такой подход позволит системе связать данные о просмотре не с параметрами устройства (например, Ш-адрес), а с конкретным профилем.
Современные рекомендательные системы могут действовать в двух направлениях. Первое связано с поиском сходных фильмов исходя из данных оценивания их пользователями с одинаковыми интересами, и рекомендацией фильмов, похожих на текущий. Второе связано с поиском сходных по интересам пользователей с текущим пользователем, а затем рекомендация текущему пользователю фильма, который просмотрен другим пользователем с такими же интересами. Таким образом, чтобы давать качественные рекомендации, рекомендательной системе важно иметь максимально большое количество данных об оценивании каждым пользователем каждого просмотренного им фильма. Ввиду того, что большинство таких оценок системе остаётся недоступным, система во многих случаях вынуждена использовать и отбор фильмов по их описанию.
Но в целом рекомендательные системы сейчас обладают достаточно высокой точностью и позволяют удерживать пользователя как клиента сайта,
на котором они расположены. Положительное влияние таких систем на активность пользователей оказалось настолько велико, что они неизбежно проникли в другие сферы.
В исследовании Н.Э. Валиевой рекомендательные системы рассматриваются как вариант замены специалистов туристической фирмы при выполнении некоторых должностных обязанностей [Валиева]. В действительности туристические операторы стремятся спроектировать маршрут для своих клиентов с учётом множества факторов, опираясь на некоторые их временные, географические и бюджетные ограничения и пожелания.
Из всего вышесказанного следует, что рекомендательная система является помощником таких клиентов. Но стоит отметить, что с позиции туристической фирмы наиболее выгодной будет ситуация, когда рекомендательная система будет предлагать маршрут не для отдельного человека, высказавшего определённые пожелания, в контексте анализа его ситуации, а для группы таких лиц. Учитывая ранее оказанные услуги и наличие свободных мест в конкретных отелях, организациях, занимающихся авиаперевозками и автобусными турами и т. д., система может заниматься оптимизацией нагрузки на них. Поэтому из всех вариантов, которые можно посоветовать обратившемуся клиенту, она выберет в первую очередь тот, который не только подходит под требования, но и будет выгоден для организаторов путешествия. Таким образом, речь идёт о функции управления со стороны программного средства деятельностью людей в данной предметной области.
В исследовании С.С. Кись описан принцип работы рекомендательной системы интернет-магазина Amazon [Кись]. Сайт данного магазина сформирован для каждого пользователя по-разному в зависимости от его интересов. Автор отмечает, что нередко рекомендации, данные системой, являются неочевидными, но в то же время актуальными. Данная рекомендательная система также основана на поиске сходных товаров исходя из оценок пользователями.
Поиск от Яндекса непременно выдает новому пользователю информацию о том, что если авторизироваться в системе Яндекс. Сервисов, то поиск будет точнее. Во многом это связано с тем, что у русских слов и словосочетаний есть немало значений, употребление каждого из которых будет зависеть от контекста. Но, вероятнее всего, что, вводя слово «перевод», лингвист будет ожидать появление сервиса Яндекс.Переводчик, а экономист — ссылку на Сбербанк.Онлайн. Рекомендательная система подходит очень хорошо в ситуациях, когда нужно угадать смысл многозначного слова.
В контексте востребованности наибольшего возможного количества информации о пользователях рекомендательной системой, в научных исследованиях начинает прослеживаться ещё одна важная тенденция. Для обеспечения более точного поиска одной из частей программного средства становится модуль, направленный на получение информации из различных сервисов. Б.Р. Авхадеев, Л.И. Воронова, Е.П. Охапкина предложили рекомендательную систему для автоматизации поиска информации, которая использует данные социальной сети ВКонтакте [Ахвадеев и др.]. Очевидно, что такой вариант получения информации трудозатратнее того варианта, когда поисковая система и социальная сеть были бы объединены в одну группу систем с наличием непосредственного контакта.
Из этого следует, что большим потенциалом для развития будут обладать не изолированные сервисы для поиска музыки и видео, а те же сервисы, являющиеся частью большой группы интернет-сервисов. И здесь уместно
напомнить, что в социальной сети ВКонтакте постепенно появляются сервисы управления музыкой и видеозаписями. Потенциал использования рекомендательных систем в таких конгломератах Интернет-сервисов будет выше, поскольку в них накапливается огромное количество данных о каждом пользователе в разных сферах его деятельности. При этом рекомендательная система может обращать внимание не только на схожесть пользователей по интересам, но и на факт их взаимоотношений. Когда истории поисковых запросов ещё нет или она недостаточно велика, можно принимать решение случайным образом на основе интересов большинства друзей. И уже достаточно давно существует так называемый демографический метод [Боганюк], использование которого предполагает не только анализ оценок, данных пользователями, но и поиск пользователей, сходных по характеристикам (не ограничиваясь полом и возрастом, как может показаться из названия).
Поскольку факторов, анализируемых системой, становится довольно много, наибольшее распространение приобрели рекомендательные системы, основанные на использовании нейронных сетей. Такие сети способны выявлять сложные зависимости между большим объемом данных, где каждый объект представлен существенным количеством параметров (в том числе качественных). Однако общим недостатком использования нейронных сетей является то, что результаты работы таких систем с трудом поддаются прогнозу. Яркими примерами такого недостатка являются ситуации, описанные в исследовании V. Buhrmester, D. Münch, M. Arens [Buhrmester, Münch, Arens]. Нейронная сеть, которая была призвана классифицировать танки на вражеские и дружеские, вместо этого определяла, является день пасмурным или солнечным (поскольку на этапе создания нейронной сети использовались фотографии, где большинство танков противников было сфотографировано на фоне неба с облаками, а дружеские — в хорошую погоду). А нейронная сеть, созданная для классификации сфотографированных животных на волков и собак вместо этого определяла, есть ли снег на фоне изображения. Результатом работы нейронных сетей являлся всего лишь вердикт «да» или «нет», но при этом не всегда можно однозначно определить, на какой вопрос она дала ответ.
Таким образом, общими достоинствами использования рекомендательных систем являются: существенное уменьшение времени на поиск информации, возможность получения подходящего конкретному пользователю информационного контента на основе данных о прошлых его действиях. Общие недостатки: возможность ошибки нейронной сети, которую трудно предсказать и доказать, а также высокая вероятность сужения всех возможных вариантов решений до тех, которые будут выгодны организации, владеющей соответствующей системой.
Возвращаясь к вопросу использования рекомендательных систем в социальных сетях, отметим, что у таких систем есть возможность учитывать не только наличие кого-либо в списке друзей, но и просто факт обмена сообщениями между пользователями и характер такого обмена. Но трудно сказать, реализуется ли это на практике. Однако уже сейчас проводятся исследования [Кочкаров и др.], направленные на выявление сообществ пользователей в социальной сети на основе эгографов (графов друзей пользователя социальной сети), а не исключительно на факте присутствия искомой группы пользователей в списке некоторой специальной созданной тематической страницы (так называемого паблика).
Кроме того, наличие такой вспомогательной рекомендательной системы может обосновывать справедливость и следующих соображений:
а) социальная сеть способна запоминать все действия участников, учитывая не только активные лайки и запросы дружбы, но и просмотр каких-либо записей, сам факт поиска тематических сообществ (в ряде исследований упоминаются перспективы построения внутренней модели знаний для отражения интересов каждого пользователя и использование при выдаче рекомендаций этой модели [Ботов, Меньшикова, Портнов]);
б) в блоке рекомендаций социальной сети пользователям предлагается контент, который соответствует их интересам и интересам их друзей;
в) в блоке рекомендаций социальной сети друзьям пользователей может предлагаться тот контент, который соответствует интересам этих пользователей.
Как преподаватели высшей школы, мы считаем целесообразным выделять факты б) и в) отдельно. В самом деле, им соответствуют совершенно разные ситуации. Если педагог ведет не слишком активную деятельность в социальных сетях, то по собственному списку рекомендаций он может предположить характер того контента, который видели его обучающиеся (мы полагаем, что в этом случае наиболее активная и статистически значимая переписка будет вестись именно с обучающимися, а также именно они для удобства контакта будут включены в его список друзей). А если педагог ведет активную деятельность в социальных сетях и ищет интересный тематический контент по своему предмету, значит этот контент внесет небольшой вклад в формирование рекомендаций системы для его обучающихся. Таким образом, даже пассивный цифровой след одного пользователя оказывает косвенное влияние на формирование цифрового следа и личности других пользователей. В частности пассивный цифровой след педагога оказывает влияние на обучающихся.
При этом важно учитывать, что модель интересов пользователя может быть доступна администрации социальной сети. И на данный момент эта причина не представляется существенной, поскольку социальные сети редко воспринимаются как организации, присутствующие в реальном мире. Но важно, что при этом нельзя исключать возможности выхода интернет-гигантов за пределы виртуального мира. Более того, в настоящее время наблюдается устойчивая тенденция к такому развитию событий (например, offline-сервисы компании Яндекс: Яндекс.Такси, Яндекс.Еда). А это означает появление на рынке компаний, заранее имеющих подробные сведения не только о профессиональных, но и о социальных навыках всех возможных сотрудников.
В исследовании М.С. Воробьевой, Ю.В. Боганюк, Р.М. Якубова представлена рекомендательная система, которая автоматизирует процесс поиска вакансий для выпускников университета [Воробьева, Боганюк, Якубова]. Идея данной системы состоит в выявлении навыков студента на основе анализа содержимого его выпускной квалификационной работы и подбор мест трудоустройства, на которых работодателями заявлены технологии, соответствующие его навыкам. Нетрудно догадаться, что одного только текста выпускной квалификационной работы для составления полноценного портрета выпускника недостаточно, а значит, со стороны работодателей будет запрос на масштабирование системы до анализа текущей учебной работы студента (интеграция с электронной информационно-образовательной средой университета), а также его сферы интересов (интеграция с данными социальной сети).
В другом исследовании Ю.В. Боганюк представлена система, которая, исходя из анализа текста ВКР и рабочих программ дисциплин, отбирает
технологии, которые будущий ^-специалист станет использовать в работе [Боганюк]. В статье Ю.В. Боганюк, А.М. Воробьева система получила развитие в форме программного средства, выстраивающего на основе текстов ВКР и анализа рынка труда следующие рекомендации: для студентов — по получению дополнительных компетенций, а для университетов — по изменению образовательных программ [Боганюк, Воробьева].
Как уже было отмечено выше, распространение нейронных сетей и основанных на их применении рекомендательных систем обладает положительным влиянием на интернет-среду пользователя, поскольку позволяет ориентироваться в огромном массиве информации и найти каждому именно то, что ему требуется. В то же время наличие большого количества сервисов, занимающихся накоплением и анализом как пассивного, так и активного цифрового следа, требует от пользователей Интернета ответственного и обдуманного отношения к виртуальному взаимодействию друг с другом и обращения к веб-сервисам.
По нашему мнению, педагог может и должен способствовать формированию цифровой культуры обучающихся в аспекте ответственного и продуманного отношения к общению в сетевом формате и составления поисковых запросов к интернет-сервисам. Ранее нами уже были озвучены рекомендации для педагогов, связанные с необходимостью учитывать возросшую степень влияния цифрового следа на деятельность человека [Зайцева, Смирнов]. В рамках текущего исследования мы уточняем тот факт, что важным является внимательное отношение не только к публичным данным, оставляемым в форме активного цифрового следа, но и сохранность пассивного цифрового следа, в частности:
— обучающиеся, ставшие пользователями того или иного сервиса, не должны создавать единый аккаунт на несколько человек. Каждый пользователь должен обладать своим уникальным профилем, чтобы в нем сохранялись исключительно его собственные действия. В противном случае нельзя гарантировать, что рекомендательная система сможет выполнять свою главную функцию — помощь в выборе одного из самых подходящих вариантов из огромного массива информации;
— по возможности нужно избегать некорректных действий, связанных с взаимодействием с интернет-сервисами. Например, выставление оценки фильмам, который обучающийся даже не просматривал, подписка на сообщества по просьбе и «добавление в друзья» незнакомых пользователей, переход по ссылкам из писем, отнесенных к категории спам;
— ввиду того, что в сборе данных в последнее время замечено большое количество мобильных приложений, целесообразно ограничивать их количество как с точки зрения экономии ресурсов вычислительных устройств, так и для уменьшения количества источников, обладающих данными о владельце устройства. При этом нежелательно, чтобы на устройстве было установлено большое количество программ от непопулярных производителей, поскольку небольшие организации, занимающиеся разработкой программного обеспечения, как правило, имеют меньше ресурсов для обеспечения полноценной защиты собранных данных от утечки.
В заключение хотелось бы отметить тот факт, что цифровая репутация личности формируется независимо от пожеланий пользователей сети Интернет. Просветительская миссия педагогов в этом вопросе очень важна и для обучающихся, и для формирования позитивного имиджа образовательного учреждения.
Список литературы /References
Авхадеев Б.Р., Воронова Л.И., Охапкина Е.П. Разработка рекомендательной системы на основе данных из профиля социальной сети «ВКонтакте» // Вестник Нижневартовского государственного университета. 2014. № 3. С. 68—76.
(Avkhadeyev B.R., Voronova L.I., Okhapkina Ye.P. Development of a recommender system based on data from the profile of the social network «VKontakte», Bulletin of the Nizhnevartovsk State University, 2014, no. 3, pp. 68—76. — In Russ.)
Боганюк Ю.В., Воробьев А.М. Рекомендательная система для проектирования образовательных программ в условиях индивидуальных образовательных траекторий // Информатизация образования и методика электронного обучения: цифровые технологии в образовании: материалы IV Международной научной конференции (6—9 октября 2020 г.): в 2 ч. Красноярск: Сиб. федер. ун-т, 2020. Ч. 2. С. 42—45.
Boganyuk Yu.V., Vorob'yev A.M. Recommender system for designing educational programs in conditions of individual educational trajectories, Informatization of education and e-learning methods: digital technologies in education: Proceedings of the IV International Scientific Conference (October 6—9, 2020): in 2 vols, vol. 2, Krasnoyarsk, 2020, pp. 42—45. — In Russ.)
Боганюк Ю.В. Прогнозирование профессионального развития студентов ИТ-направлений на основе данных цифрового следа // Информатизация образования и методика электронного обучения: цифровые технологии в образовании: материалы V Международной научной конференции (21—24 сентября 2021 года): в 2 ч. Красноярск: Сиб. федер. ун-т, 2021. Ч. 2. С. 28—32.
(Boganyuk Yu.V. Forecasting the professional development of IT students based on digital footprint data, Informatization of education and e-learning methods: digital technologies in education: Proceedings of the V International Scientific Conference (September 21—24, 2021): in 2 vols, vol. 2, Krasnoyarsk, 2021, pp. 28—32. — In Russ.)
Ботов Д.С., Меньшикова Н.В., Портнов И.В. Разработка рекомендательной системы для музыкального сервиса на основе методов контентной и коллаборативной фильтрации // Информационные технологии и системы: труды VI Международной научной конференции (1—5 марта 2017 г.). Челябинск: Челяб. гос. ун-т, 2017. С. 37—46.
(Botov D.S., Men'shikova N.V., Portnov I.V. Development of a recommender system for a music service based on content and collaborative filtering methods, Information technologies and systems: Proceedings of the VI International Scientific Conference (1—5March 2017), Chelyabinsk, 2017, pp. 37—46. — In Russ.)
Валиева Н.Э. Системы рекомендаций в туристической отрасли // Информационно -компьютерные технологии в экономике, образовании и социальной сфере. Симферополь, 2019. № 2. С. 123—129.
(Valiyeva N.E. Recommendation systems in the tourism industry, Information and computer technologies in economics, education and the social sphere, Simferopol, 2019, no. 2, pp. 123—129. — In Russ.)
Воробьева М.С., Боганюк Ю.В., Якубов Р.М. Разработка рекомендательной системы навыков для студента на основе текстов его работ // Математическое и информационное моделирование: материалы Всероссийской конференции молодых ученых (17—21 мая 2021 г.). Тюмень: Тюмен. гос. ун-т, 2021. С. 123—127.
(Vorob'yeva M.S., Boganyuk Yu.V., Yakubov R.M. Development of a recommendation system of skills for a student based on the texts of his works, Mathematical and information modeling: Proceedings of the All-Russian Conference of Young Scientists (May 17—21, 2021), Tyumen, 2021, pp. 123—127. — In Russ.)
Зайцева С.А., Смирнов В.А. Аксиологический подход к понятию цифрового следа // Ноосферные исследования. 2021. № 3. С. 79—87.
(Zaytseva S.A., Smirnov V.A. Axiological approach to the concept of a digital footprint, Noospheric Research, 2021, no. 3, pp. 79—87. — In Russ.)
Исламова С.А., Липатникова Н.В. Обзор рекомендательных систем // Modern Science.
2019. № 4—3. С. 174—176. (Islamova S.A., Lipatnikova N.V. Review of recommender systems, Modern Science, 2019, no. 4—3, pp. 174—176. — In Russ.)
Кись С.С. Применение рекомендательных систем в организациях реального сектора экономики // Основные тенденции развития инновационного предпринимательства в реальном секторе экономики в эпоху цифровизации: вызовы и возможности: сборник научных трудов Всероссийской научно-практической конференции (21 мая 2021 года). М.: Индивид. предприниматель Сафронов Руслан Анатольевич, 2021. С. 133—140. (Kis' S.S. Application of recommender systems in organizations of the real sector of the economy, Main trends in the development of innovative entrepreneurship in the real sector of the economy in the era of digitalization: challenges and opportunities: Collection of scientific papers of the All-Russian Scientific and Practical Conference (May 21, 2021). Moscow, 2021, pp. 133—140. — In Russ.)
Кочкаров А. А., Калашников Н.В., Кочкаров Р.А. Сравнительный анализ алгоритмов выявления сообществ в сложных сетевых системах на примере социальных сетей // Программные продукты и системы. Тверь, 2020. № 2. С. 349—356. (Kochkarov A.A., Kalashnikov N.V., Kochkarov R.A. Comparative analysis of algorithms for identifying communities in complex network systems on the example of social networks, Software products and systems, Tver, 2020, no. 2, pp. 349—356. — In Russ.)
Buhrmester V., Münch D., Arens M. Analysis of Explainers of Black Box Deep Neural Networks for Computer Vision: A Survey. URL: https://arxiv.org/pdf/ 1911.12116.pdf (дата обращения: 08.12.2021)
Статья поступила в редакцию 14.01.2022; одобрена после рецензирования 28.01.2022; принята к публикации 01.02.2022.
The article was submitted 14.01.2022; approved after reviewing 28.01.2022; accepted for publication 01.02.2022.
Информация об авторах /Information about the authors
Зайцева Светлана Анатольевна — доктор педагогических наук, профессор, заведующий кафедрой математики, информатики и методики обучения, Шуйский филиал Ивановского государственного университета, г. Шуя, Россия, z_a_s_rambler.ru
Zaitseva Svetlana Anatolyevna — Doctor of Sciences (Pedagogy), Professor, Head of the Department of Mathematics, Informatics and Teaching Methods, Shuya Branch of Ivanovo State University, Shuya, Russian Federation, z_a_s_rambler.ru
Смирнов Вадим Анатольевич — аспирант кафедры математики, информатики и методики обучения, Шуйский филиал Ивановского государственного университета, г. Шуя, Россия, v.a.d.i.m@bk.ru
Smirnov Vadim Anatolyevich — Postgraduate student of the Department of Mathematics, Informatics and Teaching Methods, Shuya Branch of Ivanovo State University, Shuya, Russian Federation, v.a.d.i.m@bk.ru
